Resumen Técnico: Acción Colectiva en Tiempo de Prueba (TTCA)

Enunciado del Problema

Los sistemas de aprendizaje automático exhiben frecuentemente disparidades de rendimiento entre subgrupos de usuarios, lo que resulta en daños de "calidad del servicio" (QoS) donde grupos específicos experimentan una precisión sistemáticamente inferior a la de otros. Si bien existen intervenciones de equidad centradas en el proveedor (pre-, en y post-procesamiento), estas dependen de la voluntad y la capacidad de la plataforma para reentrenar los modelos. En escenarios donde la remediación no está disponible, está retrasada o la plataforma se niega a actuar, los usuarios afectados carecen de palancas externas para corregir estas disparidades.

Los marcos existentes de "Acción Colectiva Algorítmica" (ACA) permiten a los usuarios orientar los algoritmos mediante la contribución de datos, pero estos mecanismos generalmente requieren que la plataforma reentrene sobre los datos modificados por el colectivo, una condición que los usuarios rara vez controlan. Además, las intervenciones al estilo de envenenamiento de datos pueden ser eludidas si los proveedores esperan actualizaciones robustas del modelo o entrenan con datos previos al ataque. En consecuencia, existe la necesidad de una intervención del lado del usuario que opere en tiempo de prueba sobre un modelo congelado de caja negra sin requerir cooperación de la plataforma ni acceso al bucle de entrenamiento.

Metodología: Acción Colectiva en Tiempo de Prueba (TTCA)

Los autores proponen TTCA, un marco que permite a un grupo coordinado de usuarios corregir daños algorítmicos agrupando el acceso de consultas a una API de caja negra. El mecanismo opera en dos fases:

Fase 1: Extracción de Proxy Colectiva y Optimización de Perturbación

1. Agrupación de Consultas: Un colectivo de $n$ usuarios, cada uno con un presupuesto de consultas $B$, agrupa sus recursos para consultar el modelo de la plataforma $f_{plat}$ en un conjunto de imágenes públicas no etiquetadas $D_{pub}$. Esto genera un conjunto de datos $D_{proxy}$ de pares entrada-salida $(x, f_{plat}(x))$.
2. Entrenamiento del Proxy: El colectivo entrena un modelo sustituto (proxy) $f_{proxy}$ sobre $D_{proxy}$ utilizando el método KnockoffNets. Para mejorar la transferibilidad, se entrena un ensemble de $K=5$ proxies con semillas aleatorias independientes.
3. Optimización de Perturbación: Para cada clase $y$ en el subgrupo mal atendido $G$, el colectivo optimiza una perturbación universal por clase $\delta_y$. El objetivo es minimizar la pérdida de entropía cruzada del ensemble de proxies para las entradas que pertenecen a la clase $y$, sujeto a un presupuesto $\ell_\infty$ ($\|\delta_y\|_\infty \le \epsilon$). La optimización apunta a la clase de verdad fundamental, empujando efectivamente las entradas mal clasificadas hacia el límite de decisión correcto. Se aplica un regularizador de variación total y un desenfoque gaussiano para sesgar la perturbación hacia componentes de baja frecuencia, mejorando la transferibilidad a caja negra.

Fase 2: Aplicación en Tiempo de Prueba

En el momento de la inferencia, los miembros del subgrupo mal atendido aplican la perturbación precalculada $\delta_y$ a sus entradas $x$ antes de la presentación. Si la entrada de un usuario pertenece a la clase $y \in G$, presentan $x' = \text{clip}(x + \delta_y, 0, 1)$; de lo contrario, presentan $x$ sin cambios. Este proceso no requiere ninguna interacción adicional con la plataforma más allá del presupuesto de consultas inicial utilizado para construir el proxy.

Contribuciones Clave

1. Mecano Correctivo en Tiempo de Prueba: TTCA introduce un marco donde los usuarios pueden corregir disparidades en un modelo congelado de caja negra sin reentrenar la plataforma. Reutiliza la lógica de ataques de evasión (perturbaciones adversarias universales) para un propósito correctivo, en lugar de malicioso.
2. Eficiencia Basada en Proxy: Al extraer un proxy colectivo y optimizar una perturbación universal reutilizable, el método amortiza el costo de la intervención en todo el subgrupo.
3. Transferencia entre Arquitecturas: El mecanismo demuestra que un modelo proxy más pequeño (por ejemplo, ResNet-18) puede generar perturbaciones que se transfieren eficazmente a arquitecturas de plataforma más grandes y desconocidas (por ejemplo, ResNet-50, RegNet-Y).
4. Análisis de Eficiencia de Costos: El artículo proporciona un análisis riguroso que muestra que agrupar consultas es significativamente más barato que los ataques individuales por imagen, incluso con tamaños colectivos pequeños.

Resultados Experimentales

Los autores evalúan TTCA en CIFAR-10, CIFAR-100 y FairFace (para equidad demográfica) bajo regímenes de entrenamiento de plataforma tanto equilibrados como deliberadamente desequilibrados.

• Precisión del Subgrupo: TTCA mejora significativamente la precisión del subgrupo mal atendido (definido como el 10% inferior de grupos) con presupuestos de consultas muy bajos. Por ejemplo, en CIFAR-100, un colectivo de solo 5–6 usuarios que agrupan consultas puede lograr una precisión del subgrupo comparable o superior a la de atacantes individuales, utilizando órdenes de magnitud menos consultas totales.
• Eficiencia del Presupuesto de Consultas:
  • Línea Base Individual: Los usuarios individuales que atacan solos utilizando SimBA (un ataque de caja negra por imagen) requieren hasta 308 veces más consultas totales a la plataforma para alcanzar una precisión del subgrupo comparable.
  • Punto de Equilibrio: Un colectivo de tan solo 5 a 10 miembros es suficiente para que la agrupación sea más rentable que la intervención individual.
  • Compensación del Techo: Si bien los ataques individuales pueden lograr una precisión máxima más alta (por ejemplo, 97.9% en CIFAR-100) optimizando por imagen, lo hacen a un costo agregado masivo (2.3 millones de consultas para 1,000 usuarios). El enfoque colectivo se satura en un techo de precisión más bajo (83%), pero logra esto con un costo fijo y reutilizable (~23,000 consultas), lo que lo hace mucho más eficiente para grupos grandes.
• Métricas de Equidad: La intervención mejora las métricas estándar de equidad de grupo, incluida la Precisión del Peor Grupo (WGA), la Brecha de Oportunidad Igual (EOD) y el Impacto Dispar (DI), sin degradar el rendimiento para otros grupos.
• Fidelidad del Proxy: Los proxies de alta fidelidad no son estrictamente necesarios; una vez que un proxy es "suficientemente fiel" (por ejemplo, 60–90% de fidelidad), las consultas adicionales producen rendimientos decrecientes en la precisión del subgrupo.

Significado y Afirmaciones

El artículo posiciona a TTCA como una intervención correctiva para usuarios que enfrentan daños de QoS cuando la remediación del lado de la plataforma no está disponible. Su significado radica en:

• Agencia: Proporciona a los usuarios una palanca externa para recuperar la agencia sobre los sistemas algorítmicos sin necesidad de acceso a los internos del modelo o datos de entrenamiento.
• Escalabilidad: Demuestra que la acción coordinada de usuarios a pequeña escala puede mitigar eficazmente las disparidades sistémicas mediante la agrupación de recursos.
• Complementariedad: Actúa como un enfoque complementario a los marcos ACA existentes, abordando específicamente la brecha de "tiempo de prueba" donde los modelos ya están desplegados e inmutables.

Los autores señalan que este enfoque es más efectivo cuando la tarea subyacente es ampliamente útil pero se realiza de manera desigual. Reconocen limitaciones: si la tarea en sí es dañina (por ejemplo, el reconocimiento automático de género que causa daños representacionales), el marco correctivo de TTCA puede ser insuficiente, y los usuarios pueden necesitar recurrir al rechazo o la contestación en lugar de la optimización. Además, el método asume un modelo de caja negra estático; las defensas del lado de la plataforma (por ejemplo, suavizado aleatorio) podrían potencialmente mitigar la efectividad de estas perturbaciones, aunque dichas defensas también podrían degradar la precisión general de la plataforma.