Detecting and Mitigating Bias by Treating Fairness as a Symmetry Operation

Resumen Técnico: Detección y Mitigación de Sesgos mediante el Tratamiento de la Equidad como una Operación de Simetría

Planteamiento del Problema

Los sistemas de aprendizaje automático desplegados en contextos socioeconómicos de alto riesgo exhiben frecuentemente sesgos sistemáticos contra grupos socialmente sensibles. Mientras que investigaciones previas han propuesto definiciones estadísticas de equidad (por ejemplo, paridad demográfica, igualdad de oportunidades) como restricciones post-hoc, los resultados de imposibilidad fundamentales (Chouldechova, 2017; Kleinberg et al., 2016) demuestran que ciertos criterios de equidad no pueden satisfacerse simultáneamente cuando las tasas base difieren entre grupos. Además, los enfoques actuales de equidad contrafáctica (Kusner et al., 2017) a menudo requieren un conocimiento detallado del grafo causal, el cual es frecuentemente inexistente en escenarios del mundo real. Existe la necesidad de un marco que imponga la equidad por construcción sin depender del análisis de mediación causal o del entrenamiento adversarial complejo.

Metodología

Los autores proponen un marco novedoso que formaliza la equidad como una operación de simetría y el sesgo como una operación de ruptura de simetría.

1. Formulación Teórica:
Basándose en la teoría de grupos y la física, los autores definen un clasificador $f$ como justo (simétrico) si sus salidas permanecen invariantes bajo una transformación específica $T$.

• Partición de la Entrada: El vector de entrada $x$ se particiona en atributos de mérito $x_m$ (ej. educación, experiencia, habilidad) y atributos sensibles $x_s$ (ej. género, raza, casta).
• Operador de Transformación ($T$): El operador $T$ realiza un "cambio de bit" (bit-flip) contrafáctico en los atributos sensibles mientras mantiene fijos los atributos de mérito: $T(x) = [x_m; 1 - x_s]$.
• Condición de Invarianza: Un clasificador se considera libre de sesgo si $f(x) = f(T(x))$ para todo $x$.
• Métrica de Violación: El sesgo se cuantifica como la violación poblacional $V = \mathbb{E}_{x \sim P_X}[|f(x) - f(T(x))|]$, aproximada empíricamente por la diferencia absoluta media entre las predicciones de las muestras originales y las transformadas.

2. Mitigación mediante Regularización de Pérdida:
Para imponer esta simetría, los autores introducen un término de pérdida de restauración de simetría, $L_{sym}$, añadido a la pérdida de la tarea estándar ($L_{task}$, entropía cruzada binaria).

• Función Objetivo: $L(w, b) = L_{task}(w, b) + \lambda L_{sym}(w, b)$.
• Pérdida de Simetría: $L_{sym} = \frac{1}{n} \sum_{i=1}^n [f(x_i) - f(T(x_i))]^2$.
• Optimización: El gradiente de $L_{sym}$ se deriva utilizando la regla de la cadena, lo que permite al modelo actualizar sus pesos para minimizar la brecha de predicción entre un individuo y su yo contrafáctico (con atributos sensibles invertidos). Este enfoque es computacionalmente ligero y no requiere entrenar un adversario ni conocer el grafo causal subyacente.

3. Configuración Experimental:
El marco fue evaluado en cuatro conjuntos de datos sintéticos ($D1$–$D4$) diseñados para someter al modelo a pruebas de estrés bajo diversas condiciones:

• Sesgo Bajo vs. Sesgo Alto: Controlado mediante el vector de inyección de sesgo $\gamma$.
• Correlación: Los atributos fueron correlacionados con los atributos sensibles para simular confusión del mundo real.
• Ruido: Se introdujeron correlaciones espurias para probar la robustez.
• Desequilibrio: Las tasas de la clase positiva se variaron para simular escenarios de contratación competitiva.

Resultados Clave

Los experimentos utilizaron una división de entrenamiento/prueba de 75/25 con 2,000 muestras. La fuerza de regularización $\lambda$ se exploró en un rango de 0.0 a 10.0.

• Reducción de Sesgo: El marco logró una reducción del 93.2% en las métricas de violación en el conjunto de prueba para el conjunto de bajo sesgo y alta correlación ($D2$). En todos los conjuntos de datos, el marco demostró reducciones de violación superiores al 90%.
• Compromiso de Exactitud (Trade-off): La reducción del sesgo conllevó un costo modesto en la exactitud predictiva, estimado en aproximadamente un 5%.
• Robustez: El método se mantuvo efectivo incluso en conjuntos de datos con alto ruido y correlación de características, demostrando que la restricción de simetría logra superar con éxito las correlaciones espurias sin requerir un desentrelazamiento causal explícito.

Significación y Reivindicaciones

El artículo posiciona su contribución como una alternativa práctica y computacionalmente eficiente a los métodos de equidad causal.

• No Requiere Grafo Causal: A diferencia de la equidad contrafáctica (Kusner et al., 2017), este método opera puramente sobre datos observacionales mediante la inversión de atributos sensibles, lo que lo hace aplicable en contextos donde las estructuras causales son desconocidas o no modeladas.
• Generalizabilidad: El marco está diseñado para ser agnóstico a la definición específica de los atributos sensibles. Se generaliza a cualquier contexto donde un atributo sensible pueda definirse como un cambio de bit (ej. género, raza, casta), lo que lo hace adecuado para regiones e industrias (salud, préstamos, contratación) donde los estándares occidentales pueden carecer de representación.
• Equidad de Bajos Recursos: Al evitar la carga computacional del entrenamiento adversarial o la inferencia causal, el método ofrece un "descuento significativo de cómputo", facilitando la investigación de la equidad en entornos con escasez de datos.
• Validación Sintética: Los autores utilizaron datos sintéticos con procesos de generación conocidos para validar el marco, argumentando que los bancos de pruebas populares de orientación occidental (ej. COMPAS, Adult Income) pueden no codificar eficazmente los prejuicios prevalentes en el Sur Global. Este enfoque sintético permite un control estricto de las pruebas de estrés de las estrategias de mitigación de sesgos.

En resumen, el artículo sostiene que tratar la equidad como una invarianza estructural (simetría) proporciona un mecanismo tratable y efectivo para la mitigación del sesgo que equilibra una alta reducción de la violación con una pérdida mínima de exactitud, sin los requisitos previos pesados del modelado causal.