Resumen Técnico: El Teorema de Pokémon y otros Resultados de Imposibilidad en Equidad

Enunciado del Problema

El artículo aborda las limitaciones fundamentales de la equidad algorítmica, investigando específicamente si los resultados de imposibilidad conocidos (como la dicotomía de Kleinberg–Mullainathan–Raghavan) son artefactos de criterios escalares específicos o propiedades estructurales inherentes a distribuciones con tasas base desiguales. Se plantean dos preguntas principales:

1. Límite de la Lista de Verificación Finita: ¿Puede una colección finita de criterios lineales de equidad de medias (por ejemplo, paridad demográfica, odds igualadas) certificar que dos distribuciones grupales son idénticas, o siempre quedará una violación residual?
2. Límite del Aprendizaje de Representación: ¿Puede el aprendizaje de características equitativo (aprender un codificador que elimine la información grupal) eludir estas imposibilidades produciendo una representación donde los predictores posteriores hereden la equidad sin sacrificar la utilidad?

La literatura existente suele enmarcar estas imposibilidades como conflictos entre estadísticas escalares (por ejemplo, calibración vs. equilibrio de tasas de error). Los autores argumentan que este marco escalar oscurece la estructura geométrica subyacente y deja abierta la cuestión de si "más" criterios podrían cerrar la brecha.

Metodología

Los autores unifican estas restricciones de equidad utilizando Espacios de Hilbert de Núcleo Reproductor (RKHS) y incrustaciones de medias.

• Geometría RKHS: Modelan los criterios de equidad como restricciones lineales sobre las incrustaciones de medias condicionales $\mu_{P} = \mathbb{E}[\phi(X)]$ dentro de un espacio de Hilbert $\mathcal{H}$.
• Núcleos Característicos: Al utilizar núcleos característicos, aseguran que distribuciones distintas se mapeen a incrustaciones de medias distintas ($\mu_P \neq \mu_Q \iff P \neq Q$).
• Acoplamiento de Esperanza Total: El mecanismo central que impulsa los resultados de imposibilidad es la ley de la esperanza total, que acopla las esperanzas condicionales al grupo con la brecha de tasas base ($\Delta p = p_a - p_b$).
• Análisis Espectral: El artículo emplea suposiciones de regularidad espectral (decaimiento polinomial de los autovalores del operador de covarianza agrupado y condiciones de fuente) para cuantificar la tasa a la que decae la violación residual a medida que aumenta el número de criterios de equidad.

Contribuciones Clave

1. Teorema KMR Más Fuerte

Los autores fortalecen el resultado clásico de imposibilidad de Kleinberg–Mullainathan–Raghavan (KMR). Demuestran que la contradicción entre la calibración y el equilibrio condicional a la clase se mantiene incluso bajo la condición más débil de inviés condicional al grupo ($\mathbb{E}[S|G=g] = p_g$), en lugar de requerir una calibración completa dentro del grupo. Esto muestra que las puntuaciones mal calibradas que simplemente rastrean la tasa base promedio del grupo siguen sujetas a la imposibilidad.

2. El Teorema de Pokémon

Nombrado según el eslogan "Hay que atraparlos a todos", este teorema aborda la pregunta de la lista de verificación finita.

• Resultado Cualitativo: Para cualquier par de grupos distintos ($P_a \neq P_b$) y cualquier conjunto finito de criterios lineales de equidad de medias $\{v_1, \dots, v_m\}$ satisfechos por los grupos, existe una violación residual en el complemento ortogonal. Esta violación es testimoniada por el vector testigo de la Discrepancia de Máxima Media (MMD) $\delta / \|\delta\|_{\mathcal{H}}$.
• Resultado Cuantitativo: Bajo regularidad espectral (decaimiento polinomial de los autovalores) y una condición de fuente, la violación residual minimax decae a la tasa de ancho $m$ de Kolmogorov $\Theta(m^{-2\alpha r})$. Esto implica que, aunque añadir más criterios reduce la violación en el peor de los casos, nunca desaparece completamente para un $m$ finito a menos que las distribuciones sean idénticas.

3. Imposibilidad del Aprendizaje de Características Equitativo

El artículo demuestra que el aprendizaje de representaciones equitativo no puede lograr simultáneamente:

1. Paridad Distribucional: $\Phi(P_a) = \Phi(P_b)$ (la representación es invariante al grupo).
2. Separación Condicional a la Clase: La representación preserva distribuciones condicionales a la clase distintas ($\Phi(X) \perp\!\!\!\perp G | Y$).
3. Señal No Trivial: La representación retiene poder predictivo para el resultado $Y$.

Si las tasas base difieren ($p_a \neq p_b$), imponer tanto la paridad distribucional como la separación condicional a la clase fuerza el colapso de clases ($\Phi(X) \perp\!\!\!\perp Y$), haciendo que la representación sea inútil para la predicción.

4. Equidad Aproximada y el Puente Pokémon–KMR

Los autores derivan cotas cuantitativas para la equidad aproximada:

• Aprendizaje de Características Aproximado: Establecen una frontera de Pareto donde la señal utilizable posterior (brecha de medias condicional a la clase) está acotada por $(\epsilon + \rho) / |p_a - p_b|$, donde $\epsilon$ es la violación de paridad y $\rho$ es la violación de separación.
• Puente a KMR: Muestran que a medida que el número de criterios de auditoría $m \to \infty$ y las violaciones residuales desaparecen, las condiciones aproximadas recuperan la imposibilidad exacta de KMR (la predicción perfecta es la única solución).

Resultados Experimentales

El artículo valida estos límites teóricos en puntos de referencia estándar de equidad (Ingresos Adultos, COMPAS, ACS PUMS):

• Decaimiento Espectral: Los gráficos empíricos del MMD residual frente al número de criterios $m$ confirman la tasa de decaimiento polinomial predicha por el teorema de Pokémon. El "presupuesto" de MMD requerido para satisfacer los criterios varía según el conjunto de datos (por ejemplo, COMPAS se concentra más rápido debido a una menor dimensionalidad).
• Fronteras de Pareto: Los gráficos empíricos de error frente a la brecha de paridad demográfica para clasificadores que imponen separación se alinean con la cota inferior teórica derivada en la Sección 6.2.
• Región Prohibida: Los experimentos con codificadores equitativos (LFR, Fair-VAE, Debiasing Adversarial) muestran que ningún método llena con éxito la región superior izquierda "prohibida" del gráfico (baja brecha de paridad con alta señal condicional a la clase), confirmando la imposibilidad del colapso de clases.

Significado y Afirmaciones

El artículo afirma proporcionar un marco geométrico unificado para los resultados de imposibilidad en equidad.

• Insight Estructural: Replantea las imposibilidades de equidad no como un conflicto de métricas escalares específicas, sino como una consecuencia estructural de la ley de la esperanza total actuando sobre distribuciones con tasas base desiguales.
• Asignación de Presupuesto: Replantea la auditoría de equidad como un problema de asignación de presupuesto donde el "presupuesto" total es el MMD entre grupos. La equidad exacta requiere agotar este presupuesto, lo cual es imposible sin sacrificar la utilidad si las tasas base difieren.
• Implicación Práctica: Los resultados sugieren que cuando los grupos son distribucionalmente distintos, las intervenciones algorítmicas por sí solas no pueden lograr simultáneamente una equidad perfecta y una utilidad. El artículo implica que pueden ser necesarias intervenciones políticas o disparidades de tratamiento explícitas en tales regímenes, en lugar de depender únicamente del borrado de características o la optimización de restricciones.

Los autores mantienen una postura modesta, señalando que sus resultados son observacionales y no proponen nuevos algoritmos. En cambio, proporcionan un teorema teórico de "no-go" que define los límites de lo que es alcanzable en el aprendizaje automático equitativo bajo tasas base desiguales.