Tuning Derivatives for Causal Fairness in Machine Learning

Resumen Técnico: Ajuste de Derivadas para la Equidad Causal en el Aprendizaje Automático

Planteamiento del Problema
Los sistemas de Inteligencia Artificial heredan frecuentemente sesgos sociales relacionados con atributos protegidos como la raza, el género y la edad. Las métricas de equidad clásicas, como la Paridad Estadística (PE), que exigen que las predicciones sean independientes de los atributos protegidos, suelen ser excesivamente restrictivas. Esto es particularmente cierto cuando los atributos protegidos influyen en "necesidades empresariales" o "variables de resolución" (por ejemplo, delitos previos en la evaluación del riesgo de reincidencia) que son legítimamente requeridos para la predicción. Las formulaciones causales recientes abordan esto distinguiendo entre caminos "no permitidos" (efectos directos de los atributos protegidos) y caminos "permitidos" (efectos indirectos a través de necesidades empresariales), incorporando a menudo la Paridad Predictiva (PP) para asegurar que las influencias legítimas se preserven. Sin embargo, las definiciones basadas en caminos que dependen de contrastes causales están diseñadas principalmente para atributos categóricos. Cuando se aplican a atributos protegidos continuos (por ejemplo, la edad), estos métodos se vuelven poco prácticos debido a la necesidad de evaluar contrastes en puntos infinitos.

Metodología
Los autores proponen un marco para la equidad causal dentro de Modelos Causales Estructurales (MCE) adaptado específicamente para atributos protegidos continuos.

1. Definiciones Basadas en Derivadas:

   • Paridad Estadística en Derivadas (PED): En lugar de utilizar contrastes, los autores definen la PE a lo largo de un camino $\pi$ como el producto de las derivadas parciales de los mecanismos estructurales a lo largo de ese camino siendo cero. Esto asegura que el predictor sea constante con respecto al atributo protegido a lo largo de los caminos no permitidos.
   • Paridad Predictiva en Derivadas (PPD): La PP se define igualando las derivadas parciales del predictor con respecto a las variables a lo largo de los caminos permitidos con las derivadas parciales de la variable de resultado real en el Proceso Generador de Datos (PGD). Esto asegura que el predictor replique la influencia legítima de las necesidades empresariales.

2. Condiciones de Existencia:
   El artículo establece una condición necesaria y suficiente para la existencia de un predictor que satisfaga simultáneamente la PED y la PPD. Para un camino no permitido directo ($X \to Y$) y un camino permitido ($W \to Y$), existe un predictor justo si y solo si la derivada parcial mixta del resultado esperado es cero: $\frac{\partial^2}{\partial w \partial x} E[Y | P_A^Y = p] = 0$. Si esta condición no se cumple, un compromiso entre la PED y la PPD es inevitable.

3. Algoritmo de Ajuste Justo:
   Para construir tales predictores, los autores proponen un algoritmo de "ajuste justo" para redes neuronales:

   • Paso 1: Ajustar un predictor sin restricciones ($\hat{Y}_{\theta_U}$) para minimizar la pérdida de predicción (por ejemplo, MSE).
   • Paso 2: Inicializar un predictor justo con los parámetros sin restricciones.
   • Paso 3: Optimizar una función de pérdida compuesta ($L_{FA}$) que consta de:
     • Pérdida de predicción (MSE entre el predictor ajustado y el predictor sin restricciones).
     • Pérdida de PED (norma L1 de las derivadas parciales a lo largo de los caminos no permitidos).
     • Pérdida de PPD (norma L1 de la diferencia entre las derivadas del predictor y las derivadas del predictor sin restricciones a lo largo de los caminos permitidos).
   • Los hiperparámetros $\lambda_{PED}$ y $\lambda_{PPD}$ permiten a los usuarios priorizar un criterio de equidad sobre el otro cuando no se cumple la condición de compatibilidad.

Contribuciones Clave

• Formalización: El artículo formaliza la PE y la PP utilizando derivadas parciales específicas del camino, haciendo que las definiciones de equidad causal sean aplicables a atributos protegidos continuos sin la carga computacional de evaluar contrastes infinitos.
• Caracterización Teórica: Deriva las condiciones bajo las cuales estas definiciones basadas en derivadas coinciden con las definiciones causales basadas en contrastes anteriores y establece el criterio de compatibilidad (Teorema 1) para la existencia simultánea de predictores justos.
• Solución Algorítmica: Introduce un algoritmo de ajuste práctico que construye predictores justos cuando se cumple el criterio de compatibilidad y ofrece un mecanismo de compromiso flexible cuando no lo es.
• Validación Empírica: El método se evalúa en datos simulados (PGD lineales y multiplicativos) y en el conjunto de datos real COMPAS, comparando el rendimiento contra métodos que se centran únicamente en la PE (SPT) y esquemas de marginalización.

Resultados

• Datos Simulados: En configuraciones lineales donde la PED y la PPD son compatibles, el algoritmo de ajuste justo (AJ) minimiza con éxito ambas pérdidas simultáneamente. En configuraciones no lineales (multiplicativas) donde son incompatibles, el algoritmo demuestra el compromiso esperado: aumentar las restricciones en una métrica degrada la otra. El método AJ supera a los enfoques de marginalización y solo-SPT en mantener el rendimiento predictivo mientras se adhiere a las restricciones de equidad, particularmente cuando se considera la PPD.
• Conjunto de Datos COMPAS: Aplicado a la predicción de reincidencia, el algoritmo AJ (específicamente con pesos equilibrados) logró un compromiso superior entre la PED y la PPD en comparación con los métodos SPT y Marginalizar. Si bien todos los modelos con restricciones mostraron un rendimiento predictivo reducido en comparación con la línea base sin restricciones, AJ 10 mantuvo una mayor precisión y puntuaciones F1 mientras reducía significativamente la pérdida de PPD.
• Derivada vs. Contraste: Cuando se aplica a características binarias en el conjunto de datos COMPAS, minimizar las pérdidas basadas en derivadas (PED/PPD) generalmente resultó en una reducción de las pérdidas basadas en contrastes (PEC/CPP), aunque se observaron discrepancias en algunos escenarios de alta restricción.

Significado y Afirmaciones
El artículo afirma que su marco basado en derivadas proporciona una solución práctica y teóricamente fundamentada para la equidad causal en dominios continuos, una brecha dejada por los métodos basados en contrastes existentes. Argumenta que al modelar explícitamente el compromiso entre la paridad estadística y la predictiva a través de derivadas parciales, los practicantes pueden construir predictores que respeten las necesidades empresariales mientras mitigan la discriminación. Los autores enfatizan que su método no requiere suposiciones sobre las ecuaciones estructurales del PGD, solo un diagrama causal, lo que lo hace aplicable en escenarios del mundo real. El trabajo concluye que, si bien la equidad basada en derivadas no siempre puede alinearse perfectamente con la equidad basada en contrastes para atributos binarios, ofrece un enfoque robusto y flexible para atributos continuos y una vía viable para manejar la tensión entre la independencia estadística y la utilidad predictiva.