Procedural Fairness via Group Counterfactual Explanation

Este trabajo presenta GCIG, un marco de regularización que promueve la equidad procedimental en el aprendizaje automático al garantizar que las explicaciones de los modelos sean consistentes entre diferentes grupos protegidos, reduciendo así la disparidad explicativa sin comprometer el rendimiento predictivo.

Lo esencial

Imagina que tienes un juez muy inteligente (un modelo de inteligencia artificial) que decide quién obtiene un préstamo, quién consigue un trabajo o quién es liberado bajo fianza.

Hasta ahora, los expertos en justicia se han preocupado casi exclusivamente por el veredicto final: ¿El juez es justo en sus decisiones? ¿Aprobó a la misma cantidad de personas de un grupo que de otro? Esto se llama "justicia de resultados".

Pero, ¿qué pasa si el juez llega al mismo resultado (digamos, "Sí, apruebo el préstamo") pero usa razones totalmente diferentes dependiendo de quién sea el solicitante?

• Si es el Sr. A, el juez dice: "Apruebo porque tienes un buen historial de ahorros".
• Si es la Sra. B (que tiene el mismo historial de ahorros), el juez dice: "Apruebo porque tu vecino tiene un buen trabajo".

Aunque el resultado sea el mismo, el proceso de pensamiento es injusto y sesgado. Esto es lo que los autores llaman justicia procedimental. Si el proceso no es transparente y consistente, la gente pierde la confianza en el sistema.

La Propuesta: "El Espejo de los Grupos" (GCIG)

Los autores, Gideon Popoola y John Sheppard, proponen una nueva forma de entrenar a estos jueces de IA para que no solo sean justos en el resultado, sino también en su razonamiento. Llamaron a su método GCIG (Explicaciones de Gradientes Integrados de Grupo Contrafactual).

Aquí tienes la analogía para entender cómo funciona:

1. El Problema: Dos Mundos Diferentes

Imagina que el juez tiene dos "libros de reglas" secretos. Uno para el Grupo 1 y otro para el Grupo 2. Aunque ambos libros llevan a la misma decisión, las reglas internas son distintas. Esto es peligroso porque el Grupo 2 podría estar siendo discriminado de formas que no vemos en el resultado final.

2. La Solución: El "Entrenamiento de Espejo"

El método GCIG le dice al juez de IA: "Oye, voy a darte el mismo caso (la misma persona), pero quiero que me expliques tu decisión como si esa persona perteneciera al Grupo 1, y luego como si perteneciera al Grupo 2".

• Paso A: El juez mira al solicitante y lo compara con un "promedio típico" del Grupo 1. ¿Qué características destacaron? (Ej: "Tiene buen crédito").
• Paso B: El juez mira al mismo solicitante y lo compara con un "promedio típico" del Grupo 2. ¿Qué características destacaron ahora?

Si el juez es justo en su razonamiento, las razones deberían ser casi idénticas, porque es la misma persona con las mismas cualidades.

3. El Castigo (La Penalización)

Si el juez da razones muy diferentes para la misma persona solo porque cambió el "grupo de referencia", el sistema le aplica una multa (una penalización matemática) durante su entrenamiento.

• Objetivo: Obligar al juez a aprender que las reglas de razonamiento deben ser las mismas para todos, sin importar su grupo.

¿Qué lograron?

Los autores probaron esto en varios casos reales (como préstamos bancarios y riesgo de reincidencia criminal) y descubrieron tres cosas importantes:

1. Justicia Real: El modelo aprendió a pensar de la misma manera para todos. Ya no usaba "trucos" diferentes para grupos diferentes.
2. Sin Sacrificar Calidad: Al hacer al modelo más justo en su razonamiento, no se volvió "tonto". Siguió siendo muy preciso en sus predicciones.
3. Lo que no se ve: Descubrieron que un modelo puede tener un resultado perfecto (igual número de aprobados para todos) pero seguir siendo muy injusto en su interior. GCIG arregla esa "injusticia invisible".

En Resumen

Imagina que la justicia actual es como un restaurante donde a todos les sirven el mismo plato (justicia de resultados). Pero, a veces, a un grupo le cocinan el plato con ingredientes frescos y a otro grupo con ingredientes viejos, aunque el plato se vea igual.

Este nuevo método (GCIG) asegura que la cocina sea la misma para todos. Obliga al chef (la IA) a usar las mismas recetas y técnicas de cocción, independientemente de quién sea el cliente. Así, no solo el plato final es justo, sino que el proceso de cocinarlo también es transparente y digno de confianza.

La lección clave: Para que la inteligencia artificial sea verdaderamente justa, no basta con que los resultados sean iguales; el camino que toma para llegar a ellos debe ser el mismo para todos.

Resumen técnico

Resumen Técnico: Procedural Fairness via Group Counterfactual Explanation

1. Planteamiento del Problema

La investigación en equidad (fairness) en el aprendizaje automático se ha centrado históricamente en criterios orientados al resultado (outcome-oriented), como la Paridad Estadística o las Odds Igualadas (Equalized Odds - EO). Estos métodos buscan garantizar que las tasas de error (falsos positivos y falsos negativos) sean similares entre grupos protegidos.

Sin embargo, el artículo identifica una brecha crítica: dos modelos pueden cumplir con métricas de equidad de resultado idénticas pero utilizar procesos de toma de decisiones fundamentalmente diferentes para distintos grupos. Esto se conoce como falta de equidad procedimental. Si un modelo explica sus predicciones utilizando atribuciones de características distintas para individuos con el mismo resultado real pero de diferentes grupos protegidos, se erosiona la confianza y se perpetúa un sesgo en la lógica interna del modelo.

Los métodos existentes basados en explicaciones suelen ser diagnósticos (post-hoc), es decir, auditan modelos ya entrenados pero no previenen el sesgo durante el entrenamiento. Además, carecen de mecanismos para integrar restricciones de equidad explicativa directamente en la función de pérdida.

2. Metodología Propuesta

Los autores proponen un marco de regularización in-processing (durante el entrenamiento) llamado GCIG (Group Counterfactual Integrated Gradients), integrado en una función de objetivo global denominada FairX.

Conceptos Clave:

• Equidad Procedimental como Invarianza Explicativa: Se define la equidad procedimental como la invarianza de las explicaciones del modelo a través de grupos protegidos, condicionada a la etiqueta verdadera. Es decir, si dos individuos tienen el mismo resultado real, el modelo debe basar su razonamiento en las mismas características, independientemente de su grupo.
• Líneas Base Condicionales al Grupo (Group Conditional Baselines): En lugar de usar una línea base global, el método calcula líneas base específicas para cada combinación de etiqueta ($y$) y grupo protegido ($g$). Estas líneas base representan el perfil de características promedio de un grupo con un resultado específico.
  • Se estiman mediante promedios móviles exponenciales (EMA) para garantizar estabilidad durante el entrenamiento estocástico.
• Integración de Gradientes (Integrated Gradients - IG): Se utiliza IG para calcular la atribución de características. La contribución de una característica se mide en relación con la línea base condicional al grupo.
• Disparidad Explicativa (Explanation Disparity): Para un individuo $x$ con etiqueta $y$, se calculan las atribuciones IG relativas a las líneas base de todos los grupos. La disparidad se cuantifica como la varianza de estas atribuciones normalizadas entre grupos.
  • Si la varianza es alta, el modelo razona de forma diferente según el grupo.
  • Si es baja, el razonamiento es consistente.

Función de Objetivo (FairX):
El modelo se entrena minimizando una función de pérdida compuesta:
$$\mathcal{L}_{total}(\theta) = \mathcal{L}_{pred}(\theta) + \lambda_{ig}\mathcal{L}_{GCIG}(\theta) + \lambda_{fair}\mathcal{L}_{fair}$$
Donde:

• $\mathcal{L}_{pred}$: Pérdida estándar (ej. entropía cruzada).
• $\mathcal{L}_{GCIG}$: Penaliza la variación cruzada en las explicaciones (equidad procedimental).
• $\mathcal{L}_{fair}$: Penaliza la violación de Odds Igualadas (equidad de resultado).
• $\lambda_{ig}$ y $\lambda_{fair}$: Hiperparámetros que controlan la fuerza de la regularización.

3. Contribuciones Clave

1. Formalización Teórica: Definen la equidad procedimental como la invarianza de la explicación contrafactual grupal, estableciendo un criterio nuevo que exige consistencia en el razonamiento del modelo condicionada a la etiqueta verdadera.
2. Algoritmo GCIG: Presentan un marco de regularización in-processing que penaliza la variación en las atribuciones de características calculadas respecto a líneas base condicionales al grupo, sin necesidad de reentrenar el modelo después de su entrenamiento.
3. Evidencia Empírica: Demuestran a través de múltiples benchmarks que GCIG reduce significativamente la disparidad explicativa manteniendo un rendimiento predictivo competitivo y equilibrando la compensación entre precisión y equidad.

4. Resultados Experimentales

Los autores evaluaron su método en cuatro conjuntos de datos públicos (Adult Income, German Credit, COMPAS, Bank Marketing) comparándolo con seis líneas base de última generación (incluyendo métodos pre-procesamiento, post-procesamiento y adversarios).

• Reducción de Disparidad Explicativa: GCIG redujo drásticamente la métrica de disparidad explicativa (GCIG score) en todos los conjuntos de datos.
  • Ejemplo: En German Credit, el score bajó de 0.190 (línea base sin restricciones) a 0.066. En COMPAS, de 0.193 a 0.034.
• Rendimiento Predictivo: El método mantuvo un rendimiento (F1-score) competitivo, a menudo igualando o superando a las líneas base más fuertes, sin sacrificar la utilidad del modelo.
• Equidad de Resultado: Logró las brechas de Odds Igualadas (EO Gap) más bajas o competitivas en la mayoría de los casos.
• Correlación Débil entre Equidades: El análisis de correlación mostró que la equidad de resultado (EO) y la equidad procedimental (GCIG) están débilmente correlacionadas ($r \approx 0.24$). Esto confirma que optimizar solo para resultados justos no garantiza explicaciones justas; son dimensiones independientes que requieren intervención explícita.
• Estudio de Ablación: Se demostró que la combinación de ambas restricciones (resultado + procedimental) es sinérgica. Usar solo equidad de resultado incluso empeoró ligeramente la equidad procedimental, mientras que la combinación conjunta logró la mejor mejora (24% de reducción en disparidad explicativa).

5. Significado e Impacto

Este trabajo es significativo porque:

• Cambia el Paradigma: Mueve el enfoque de la equidad desde una auditoría post-hoc (detectar sesgos después) hacia una alineación durante el entrenamiento (prevenir sesgos en la lógica del modelo).
• Profundiza la Comprensión de la Equidad: Evidencia que la equidad no es solo sobre qué decide el modelo, sino cómo decide. Dos modelos pueden tener la misma tasa de error justa, pero uno puede estar tomando decisiones basadas en estereotipos grupales mientras el otro usa características legítimas.
• Marco Práctico: Proporciona una herramienta (FairX) que los desarrolladores pueden implementar para asegurar que los modelos de IA no solo sean precisos y justos en sus salidas, sino también consistentes y transparentes en su razonamiento interno a través de diferentes grupos demográficos.

En conclusión, el artículo establece que la equidad procedimental es una dimensión crítica y separada de la equidad de resultado, y que regular las explicaciones durante el entrenamiento es una vía viable y necesaria para construir sistemas de IA más confiables y éticos.