Resumen Técnico: Evitación de Modos de Fallo Estructurales en SSL Tabular Justo

1. Declaración del Problema

El artículo aborda un conflicto estructural crítico en el Aprendizaje Semi-Supervisado Justo (Fair SSL) aplicado a dominios tabulares de alto riesgo (por ejemplo, soporte a la decisión médica, puntuación crediticia, predicción de reincidencia). En estos entornos, los datos etiquetados son escasos, lo que hace necesaria la SSL, mientras que el cumplimiento normativo exige garantías estadísticas de equidad entre grupos demográficos.

El problema central surge de la interacción entre el etiquetado pseudo-gateado por confianza (un mecanismo estándar de SSL donde las pseudo-etiquetas se conservan solo si la confianza de la predicción supera un umbral $\tau$) y los regularizadores de equidad basados en ajuste de momentos (que imponen paridad entre grupos). Los autores identifican que una fuerte presión por la equidad puede suprimir sistemáticamente la confianza de la predicción, provocando dos modos de fallo estructural distintos:

1. Colapso de Enmascaramiento (Tipo I): Las restricciones de equidad impulsan las predicciones hacia el límite de decisión ($\hat{y} \approx 0.5$) para minimizar la disparidad entre grupos. Esto erosiona la confianza, haciendo que la puerta de confianza rechace la mayoría de las pseudo-etiquetas ($q_t \to 0$). El resultado es una inanición de gradientes, donde el modelo no puede aprender de los datos no etiquetados.
2. Saturación Trivial (Tipo II): La optimización se desvía hacia predictores constantes (por ejemplo, predecir la media) para satisfacer las restricciones de equidad con varianza cero. Esto produce una violación de equidad cercana a cero, pero resulta en un colapso de utilidad (rendimiento predictivo degradado).

Los autores argumentan que el peso estático de las penalizaciones de equidad es frágil porque el acoplamiento entre la selección de pseudo-etiquetas y la evaluación de restricciones es endógenamente no estacionario.

2. Metodología: Asignación Primal-Dual en Línea (OPDA)

Para resolver este callejón sin salida estructural, los autores proponen OPDA, un controlador en línea que programa adaptativamente las penalizaciones de equidad y estabilidad sin necesidad de ajuste por conjunto de datos.

Arquitectura Central

OPDA emplea una parametrización de asignación de presupuesto de dos niveles:

• Presupuesto Total ($B_t$): Controla la intensidad general de la aplicación.
• Ratio de Asignación ($\pi_t$): Determina la división entre la penalización de equidad ($\lambda_v$) y la penalización de estabilidad basada en entropía ($\lambda_h$).
  • $\lambda_v^{(t)} = B_t \cdot \pi_t$
  • $\lambda_h^{(t)} = B_t \cdot (1 - \pi_t)$

Dinámicas Impulsadas por Señales

OPDA actualiza $B_t$ y $\pi_t$ por época utilizando un conjunto de observables en línea:

1. Violación de Equidad ($v_t$): La penalización actual de ajuste de momentos estilo DP.
2. Proxy de Riesgo ($r_t$): Un escalar acotado ($1 - \text{MacroF1}_{val}$) que rastrea la degradación de la utilidad.
3. Señales de Salud de las Pseudo-etiquetas:
   • $q_t$: Ratio de aprobación de pseudo-etiquetas (cobertura).
   • $p_t$: Precisión proxy.
   • $ESSt$: Tamaño de muestra efectivo.
4. Alineación de Gradientes: Similitud del coseno entre los gradientes de equidad y los gradientes base de SSL para detectar conflictos.

Mecanismos de Control

• Dinámicas de Presupuesto de Búsqueda de Rodilla: El presupuesto total $B_t$ se actualiza mediante un descenso de gradiente en línea proyectado en el dominio logarítmico. Solo aumenta cuando la equidad mejora más allá de un margen de ruido sin causar deterioro del riesgo más allá de un margen de ruido ($G_t - C_t > 0$). Esto evita una aplicación agresiva excesiva que conduzca al colapso.
• Asignación Consciente del Conflicto: El ratio $\pi_t$ se determina minimizando un sustituto convexo de la urgencia. Equilibra la necesidad de reducir la violación de equidad ($d_{fair}$) con la necesidad de mantener la salud de las pseudo-etiquetas ($d_{stab}$). Crucialmente, utiliza una puerta sigmoidea basada en la alineación de gradientes para suprimir la urgencia si las restricciones están anti-alineadas con el objetivo base.
• Garantía Anti-Inanición: Un suelo dinámico $\pi_{min}(t)$ asegura que ni la penalización de equidad ni la de estabilidad se apaguen completamente, evitando que el sistema entre en un régimen degenerado donde el aprendizaje se detiene.

3. Contribuciones Clave

1. Diagnóstico de Mecanismos: El artículo identifica formalmente y prueba la existencia de dos modos de fallo en el Fair SSL gateado por confianza:
   • Colapso de Enmascaramiento: Probado que crea vecindades de gradiente que se desvanecen donde $L_{unsup} = 0$ (Proposición 1).
   • Saturación Trivial: Probado que surge de un conflicto de signos en el espacio de logits entre el ajuste de momentos (que empuja hacia la media) y la minimización de entropía (que empuja hacia los límites) bajo grupos desequilibrados (Proposición 2).
2. Controlador Consciente de la Salud de las Pseudo-etiquetas: OPDA es el primer controlador que monitorea explícitamente las señales de salud de las pseudo-etiquetas ($q_t, p_t, ESSt$) junto con las violaciones de equidad. Programa pesos duales para evitar la "inanición" del mecanismo de SSL en sí mismo.
3. Operación Libre de Calibración: OPDA opera con una única configuración predeterminada en diversos conjuntos de datos (Adult, ACSIncome, COMPAS) y arquitecturas base, evitando la necesidad de búsqueda manual en cuadrícula de los pesos de equidad ($\lambda$).

4. Resultados Experimentales

Los autores evaluaron OPDA en tres puntos de referencia tabulares utilizando un entorno de prueba de estrés diagnóstico (tareas multietiqueta para aislar mecanismos de fallo).

• Mitigación de Modos de Fallo: Bajo pesos de equidad estáticos altos ($\lambda=100$), la SSL estándar exhibió Colapso de Enmascaramiento (cobertura $q_t \to 0.02$) o Saturación Trivial. OPDA evitó con éxito estos regímenes degenerados.
• Compensaciones de Rendimiento:
  • Adult & COMPAS: OPDA alcanzó puntos de operación no degenerados competitivos con la frontera de Pareto empírica del ajuste estático de $\lambda$, equilibrando efectivamente utilidad y equidad.
  • ACSIncome: OPDA preservó mejor la utilidad que las líneas base estáticas mientras exhibía una dispersión más amplia entre equidad y utilidad, demostrando robustez en configuraciones complejas y multigrupo ($K=9$).
• Comparación con Líneas Base:
  • Comparado con líneas base adaptativas de señal única (por ejemplo, PI, EMA-P), OPDA mostró una robustez superior. Los métodos de señal única a menudo fallaron en distinguir entre problemas de capacidad e inanición de pseudo-etiquetas, lo que llevó a oscilación o saturación.
  • Comparado con métodos de Optimización Multiobjetivo (MOO) basados en gradientes (PCGrad, CAGrad), OPDA logró menores violaciones de equidad en Adult y COMPAS mientras mantenía una utilidad comparable. En COMPAS, los métodos solo basados en gradientes exhibieron tasas de saturación no nulas, mientras que OPDA mantuvo un 0% de saturación.
• Ablación: Eliminar la lógica completa de múltiples señales (OPDA-lite) resultó en una menor preservación de la utilidad en ACSIncome, confirmando el valor de las dinámicas de presupuesto conscientes de la salud.

5. Significado y Afirmaciones

El artículo posiciona a OPDA no como una garantía universal de dominio uniforme en todas las métricas, sino como un controlador libre de calibración para gestionar los regímenes de fallo específicos inherentes al Fair SSL gateado por confianza.

• Insight Teórico: El trabajo destaca que las restricciones de equidad en SSL no son estáticas; interactúan dinámicamente con el mecanismo de selección de datos. El peso estático falla porque no puede reaccionar a la no estacionariedad endógena de la máscara de pseudo-etiquetas.
• Utilidad Práctica: OPDA proporciona una vía para obtener puntos de operación controlados en entornos tabulares de alto riesgo y con escasez de etiquetas, sin el costo computacional del ajuste de hiperparámetros por conjunto de datos.
• Limitaciones del Alcance: Los autores notan modestamente que, aunque las patologías identificadas son fundamentales para el mecanismo de SSL, la validación empírica se limita actualmente a datos tabulares. La extensión a datos de imágenes o texto de alta dimensión sigue siendo una pregunta abierta. Además, el controlador requiere preespecificar constantes internas (por ejemplo, longitud de calentamiento), aunque demuestra robustez ante perturbaciones moderadas.

En resumen, el artículo argumenta que evitar el fallo estructural en el Fair SSL requiere ir más allá del peso estático o el simple equilibrio de gradientes, adoptando en su lugar una estrategia de control en línea que monitorea activamente la "salud" del proceso de etiquetado pseudo para evitar que el sistema colapse en soluciones triviales.