Resumen Técnico: Enfoque de Doble Regresión para la Equidad de Subgrupos

1. Planteamiento del Problema

El artículo aborda el desafío de lograr la equidad de subgrupos en el aprendizaje automático cuando existen múltiples atributos sensibles (por ejemplo, género, raza, edad). Si bien la equidad marginal (equidad a través de atributos individuales) ha sido ampliamente estudiada, esta no logra prevenir el "gerrymandering de la equidad" (fairness gerrymandering), donde la discriminación severa persiste en las intersecciones de múltiples atributos (Kearns et al., 2018a;b).

Formalmente, con $q$ atributos sensibles binarios, existen $2^q$ subgrupos. Imponer la equidad de distribución en todos estos subgrupos enfrenta dos barreras críticas:

1. Dispersión de Datos (Data Sparsity): A medida que $q$ aumenta, muchos subgrupos contienen muy pocas muestras, lo que conduce a una estimación de modelos inestable y garantías de equidad inexactas (Molina & Loiseau, 2023).
2. Carga Computacional: El número de restricciones de equidad escala exponencialmente con $q$. Los enfoques adversarios existentes que intentan medir la equidad en todos los subgrupos se vuelven computacionalmente intratables.

Además, los métodos existentes a menudo no logran garantizar simultáneamente la equidad marginal (equidad en cada atributo individual) y la equidad de subgrupos, o dependen de nociones de equidad más débiles (por ejemplo, Paridad Demográfica) que no aseguran la equidad de distribución.

2. Metodología

2.1 Equidad de Subgrupo-Subconjunto

Para resolver la dispersión de datos, los autores proponen centrarse únicamente en "subgrupos activos" —aquellos con tamaños de muestra suficientes— incluyendo explícitamente subgrupos marginales (subgrupos definidos por atributos sensibles únicos) para asegurar la equidad marginal.

Formalizan la equidad de subgrupo-subconjunto, donde un "subgrupo-subconjunto" $W$ es la unión de subgrupos específicos. El objetivo es imponer la equidad de distribución sobre una colección preseleccionada de subgrupos-subconjuntos $\mathcal{W}$ donde los tamaños de muestra no sean demasiado pequeños.

2.2 Métrica de Probabilidad Integral de Supremo (supIPM)

Los autores introducen una medida de equidad de distribución llamada Métrica de Probabilidad Integral de Supremo (supIPM). Para una colección de subgrupos-subconjuntos $\mathcal{W}$, la brecha de equidad se define como:
$$\Delta_{\psi, \mathcal{W}}(f) = \sup_{W \in \mathcal{W}} \psi(P_{f,W}, P_{f,W^c})$$
donde $\psi$ es una medida de desviación (específicamente IPM). Los autores demuestran que el error de estimación del supIPM empírico depende del tamaño de muestra mínimo dentro de los subconjuntos ($n_W$) en lugar del número total de subconjuntos $|\mathcal{W}|$, justificando así el enfoque en subconjuntos activos.

2.3 Aprendizaje Adversario de Doble Regresión (DRAF)

Optimizar directamente el supIPM es computacionalmente costoso porque requiere encontrar un discriminador separado para cada $W \in \mathcal{W}$. Para superar esto, los autores proponen una brecha de equidad sustituta basada en el Coeficiente de Determinación de Doble Regresión ($R^2$ de DR o DR2).

• Fundamento Teórico: Establecen una relación entre el IPM y el coeficiente de determinación ($R^2$) en un entorno de regresión donde la entrada es la predicción del modelo y la salida es una etiqueta que indica la pertenencia al subconjunto.
• El Sustituto: Definen una medida de $R^2$ de Doble Regresión, $DR^2(f, v, g)$, que regresa simultáneamente la salida del discriminador $g(f(x))$ y una combinación ponderada de indicadores de subconjunto $v^\top c_i$.
• Innovación Clave: El algoritmo propuesto, DRAF (Aprendizaje Adversario de Doble Regresión para la Equidad), optimiza una brecha sustituta definida como:
  $$DR_{n, \mathcal{W}, \mathcal{G}}(f) := \sup_{g \in \mathcal{G}, v \in S_M} \tilde{z}\text{-}DR^2(f, v, g)$$
  Crucialmente, esta formulación requiere solo un único discriminador $g$ y un vector de pesos $v$, independientemente del número de subgrupos-subconjuntos $|\mathcal{W}|$. Esto reduce la complejidad computacional de exponencial a lineal con respecto al número de subconjuntos.
• Optimización: El algoritmo entrena el predictor $f$ y el par discriminador/peso $(g, v)$ en un proceso alterno de min-max. El análisis teórico demuestra que esta brecha sustituta sirve como un límite superior para el verdadero supIPM.

3. Contribuciones Clave

1. Formalización de la Equidad de Subgrupo-Subconjunto: Una nueva noción de equidad que equilibra la necesidad de equidad interseccional con las restricciones prácticas de la dispersión de datos, centráéndose en subgrupos-subconjuntos activos y grupos marginales.
2. Introducción de supIPM: Una medida de equidad de distribución para subgrupos-subconjuntos, acompañada de un límite teórico sobre su error de estimación.
3. Algoritmo DRAF: Un algoritmo de aprendizaje adversario computacionalmente eficiente que utiliza un único discriminador para aproximar el supIPM mediante un sustituto de $R^2$ de doble regresión. Los autores demuestran que este sustituto es un límite superior de la métrica objetivo.
4. Validación Empírica: Demostración de que DRAF supera a los métodos de referencia (Regularización, GerryFair, Mapeo Secuencial), particularmente en escenarios con atributos sensibles de alta dimensión y subgrupos dispersos.

4. Resultados Experimentales

Los autores evaluaron DRAF en cuatro conjuntos de datos de referencia: ADULT, DUTCH, CIVILCOMMENTS y COMMUNITIES (este último con $q=18$ y dispersión extrema).

• Desempeño en Datos Dispersos: En el conjunto de datos COMMUNITIES, donde la mayoría de los subgrupos son extremadamente pequeños, DRAF superó significativamente a los métodos de referencia tanto en equidad de subgrupos (SP) como en equidad marginal de primer orden (MP(1)). Los métodos de referencia como GerryFair (enfocado en la disparidad del peor caso de subgrupo) o la Regularización (enfocada en la disparidad marginal) no lograron lograr ambas simultáneamente.
• Compromiso Precisión-Equidad (Accuracy-Fairness Trade-off): DRAF logró compromisos de precisión-equidad competitivos en todos los conjuntos de datos. En conjuntos de datos menos dispersos (ADULT, DUTCH), su desempeño fue comparable o mejor que el de los métodos de referencia.
• Análisis de Correlación: Los experimentos mostraron que DRAF controla eficazmente tanto la equidad de subgrupos como la marginal de forma simultánea, mientras que los métodos centrados en una sola dimensión a menudo degradan la otra.
• Robustez: El método demostró robustez ante atributos sensibles ruidosos (faltantes), ya que puede aplicar restricciones de equidad solo a los subgrupos-subconjuntos observables sin descartar muestras.
• Extensiones: Se demostró que el enfoque se extiende a la clasificación multiclase y a las restricciones de equidad de Igualdad de Oportunidades (Equalized Odds - EO).

5. Significado y Reivindicaciones

El artículo afirma que DRAF proporciona una solución práctica a la "maldición de la dimensionalidad" en la equidad de subgrupos. Al cambiar el enfoque de todos los $2^q$ subgrupos hacia un conjunto curado de subgrupos-subconjuntos activos y utilizar un sustituto de discriminador único, el método resuelve los problemas duales de la dispersión de datos y la intratabilidad computacional.

Los autores enfatizan que su enfoque asegura la equidad de distribución (la noción más fuerte de equidad) sin recurrir a métricas más débiles como la Paridad Demográfica. Argumentan que ignorar los subgrupos pequeños es estadísticamente sólido para la equidad a nivel poblacional, siempre que la equidad marginal se imponga explícitamente. El trabajo concluye que DRAF permite el despliegue de modelos de IA justos en escenarios del mundo real complejos con múltiples atributos sensibles donde los métodos anteriores eran o bien computacionalmente prohibitivos o estadísticamente inestables.