Resumen Técnico: Optimización Bilevel Funcional para la Equidad Predictiva

Planteamiento del Problema

Los modelos de aprendizaje automático estándar suelen explotar señales estadísticas vinculadas a atributos sensibles (por ejemplo, edad, ingresos, puntuaciones demográficas), lo que conduce a predicciones injustas. Aunque la equidad se suele enmarcar como la imposición de una independencia estadística total entre las predicciones y los atributos sensibles, este enfoque es frecuentemente demasiado restrictivo, particularmente cuando los atributos sensibles son continuos y de alta dimensión. En tales regímenes, la independencia total restringe toda la distribución de la predicción, mientras que la preocupación de equidad práctica suele limitarse a los cambios sistemáticos en las predicciones promedio a través de diferentes valores del atributo sensible.

Las relaxaciones existentes para atributos continuos dependen de penalizaciones de dependencia indirecta (por ejemplo, HSIC, información mutua), esquemas adversarios o restricciones de dependencia lineal. Estos métodos a menudo fallan al no abordar directamente el compromiso específico de equidad-exactitud de controlar la media condicional, o están limitados a atributos de baja dimensión o discretos.

Los autores proponen abordar esta brecha optimizando la Paridad Demográfica de la Media, formalizada como la minimización de la varianza de la media condicional de la predicción dado el atributo sensible. Esta métrica se denomina DPVar:
$$\text{DPVar}(\omega) = \text{Var}_A \left( \mathbb{E}[f_\omega(X) \mid A] \right)$$
donde $f_\omega$ es el predictor y $A$ es el atributo sensible.

Metodología

La Formulación Bilevel Funcional

La optimización de DPVar presenta un desafío único: el objetivo depende de la función de la media condicional $h^\star_\omega(a) = \mathbb{E}[f_\omega(X) \mid A=a]$, la cual es desconocida y debe estimarse a partir de los datos. Los autores formulan esto como un problema de optimización bilevel funcional:

1. Problema Interno (Inner Problem): Estimar la función de la media condicional $h^\star_\omega$ minimizando la pérdida cuadrática entre la salida del predictor y la función del atributo sensible:
   $$h^\star_\omega \in \arg\min_{h \in \mathcal{H}} \mathbb{E}[(f_\omega(X) - h(A))^2]$$
2. Problema Externo (Outer Problem): Optimizar los parámetros del predictor $\omega$ para minimizar un compromiso entre la exactitud de la predicción y la penalización DPVar (la cual depende de la solución $h^\star_\omega$ del problema interno):
   $$\min_\omega \mathbb{E}[(f_\omega(X) - Y)^2] + \alpha \text{Var}_A(h^\star_\omega(A))$$

Debido a que la variable interna es una función y no un vector de parámetros de dimensión finita, este es un problema bilevel funcional.

Algoritmos Propuestos

El artículo introduce dos algoritmos para resolver este problema, ambos utilizando una división de datos en IN (para la estimación interna) y OUT (para la evaluación externa) para evitar el sesgo optimista.

1. FBO (Optimización Bilevel Funcional):

   • Mecanismo: Este método explota la estructura específica del problema interno de pérdida cuadrática. Los autores derivan un adjunto de forma cerrada para la sensibilidad de la solución interna con respecto a los parámetros externos.
   • Ventaja: Esta derivación produce un hipergradiente exacto y libre de Hessiano. Evita el costo computacional de invertir Hessianos o calcular Jacobianos internos, requiriendo solo una regresión interna y dos medias empíricas por cada paso externo.
   • Limitación: Es específico para el objetivo interno de pérdida cuadrática.

2. ITD (Diferenciación Iterativa):

   • Mecanismo: Este método utiliza una estrategia más amplia de desenrollado de los pasos de optimización interna. El regresor interno se actualiza durante $K$ pasos de gradiente, y el objetivo externo se diferencia a través de este grafo de computación desenrollado.
   • Ventaja: Es generalizable a objetivos internos de no pérdida cuadrática (por ejemplo, pérdida Huber) y no requiere una inversa de forma cerrada del Hessiano interno.
   • Compromiso (Trade-off): Es aproximado y computacionalmente más costoso por paso externo (escalando linealmente con $K$) en comparación con FBO.

Principales Contribuciones

1. Criterio DPVar: La adopción de DPVar como un criterio de equidad diseñado específicamente para atributos continuos y de alta dimensión, yendo más allá de la independencia total hacia una visión de la media condicional.
2. Marco Bilevel Funcional: La formulación de la optimización de DPVar como un problema bilevel funcional que se integra naturalmente con los predictores de redes neuronales, un régimen no cubierto por los enfoques previos de media condicional.
3. Innovaciones Algorítmicas:
   • Derivación de un adjunto de forma cerrada para el caso de pérdida cuadrática, permitiendo el algoritmo FBO exacto.
   • Desarrollo del algoritmo ITD para una mayor aplicabilidad mediante diferenciación iterativa.
4. Benchmark Semi-Sintético: La creación de una suite de evaluación estandarizada y a gran escala construida a partir de 60 conjuntos de datos de regresión tabular reales. Este benchmark construye automáticamente atributos sensibles continuos a partir de características para proporcionar escenarios de compromiso de equidad-exactitud controlados y no triviales.

Resultados Experimentales

Los métodos fueron evaluados en datos sintéticos y en el nuevo benchmark tabular semi-sintético contra bases sólidas, incluyendo HSIC, debiasing adversario, penalizaciones de dependencia lineal y Paridad Demográfica Generalizada (GDP).

• Datos Sintéticos: En regímenes donde la injusticia es impulsada por desplazamientos del primer momento, todos los métodos se desempeñan de manera similar. Sin embargo, a medida que el problema de predicción se vuelve más complejo (introduciendo interacciones entre características sensibles y no sensibles), FBO e ITD logran consistentemente mejores compromisos de equidad-exactitud. Superan a los métodos que dependen de la independencia distributiva total (HSIC, adversario) o penalizaciones lineales, que son o demasiado restrictivos o pierden efectos no lineales.
• Benchmark Tabular: A través de 27 conjuntos de datos informativos, FBO e ITD logran el arrepentimiento de exactitud (accuracy regret) agregado más bajo o cercano al más bajo bajo las restricciones de DPVar.
  • Bajo presupuestos de equidad estrictos y de nivel medio, FBO e ITD ganan la mayoría de las veces.
    entorno de presupuestos laxos, GDP se convierte en un competidor más fuerte.
  • Ambos métodos propuestos igualan o superan consistentemente a las bases de HSIC, adversarias y de dependencia lineal.

Significancia y Reivindicaciones

El artículo afirma que, al enfocarse en la media condicional en lugar de la distribución completa, DPVar ofrece una medida de equidad más apropiada y estimable para atributos continuos y de alta dimensión. La significancia del trabajo radica en:

• Proporcionar un camino de optimización directo para este criterio de equidad específico, evitando la indirectividad de las penalizaciones adversarias o basadas en kernels.
• Demostrar que la optimización bilevel funcional puede hacerse práctica y eficiente (vía FBO) para los predictores de redes neuronales modernos.
• Ofrecer un benchmark estandarizado que va más allá de los conjuntos de datos seleccionados a mano para evaluar sistemáticamente los métodos de equidad sobre atributos continuos.

Alcance y Limitaciones:
Los autores señalan explícitamente que DPVar es un criterio de paridad de la media. Controla los desplazamientos sistemáticos en las predicciones promedio, pero no garantiza la igualdad de los momentos de orden superior (varianza, colas) ni la equidad distributiva total. Por lo tanto, no debe interpretarse como un certificado de equidad general en aplicaciones que requieren igualdad distributiva total. Además, el método depende de la estimación de una función de la media condicional, lo cual puede ser estadísticamente desafiante en altas dimensiones. El benchmark es semi-sintético, diseñado para la evaluación metodológica más que para realizar afirmaciones legales o sociales específicas sobre los conjuntos de datos originales.