Fairness under Graph Uncertainty: Achieving Interventional Fairness with Partially Known Causal Graphs over Clusters of Variables

Este trabajo propone un marco de aprendizaje que logra equidad interventional utilizando grafos causales a nivel de clusters de variables, en lugar de grafos detallados por variable, para reducir la discrepancia entre distribuciones intervinientes y lograr un mejor equilibrio entre equidad y precisión.

Lo esencial

¡Claro que sí! Imagina que este artículo es como una historia sobre cómo tomar decisiones justas en un mundo donde no tenemos un mapa perfecto del territorio.

Aquí tienes la explicación en español, usando analogías sencillas:

🗺️ El Problema: El Mapa Incompleto

Imagina que una empresa quiere contratar personas para un trabajo difícil. Quieren ser justos y no discriminar por género o raza (sus "atributos sensibles"). Para ser justos, necesitan entender cómo funciona el mundo: ¿Cómo afecta el género a los resultados? ¿Cómo afecta la educación?

Para hacer esto, los expertos usan un mapa causal (un gráfico que muestra qué causa qué).

• El problema: En la vida real, nunca tenemos el mapa perfecto. Es como intentar navegar por una ciudad desconocida sin un GPS detallado, solo con un boceto borroso.
• La vieja solución: Los métodos anteriores decían: "Necesitamos el mapa completo, con cada calle y cada edificio, para ser justos". Pero conseguir ese mapa es casi imposible, costoso y a veces lleva a errores. Si el mapa está mal, la "justicia" también falla.

🧩 La Nueva Idea: Agrupar en "Barrios"

El autor, Yoichi Chikahara, propone una idea brillante: En lugar de intentar dibujar cada calle individual, agrupemos las calles en "barrios" o "zonas".

• La analogía: Imagina que en lugar de saber exactamente qué pasa en cada casa de un vecindario, sabemos cómo interactúan los vecindarios entre sí.
  • En lugar de variables sueltas (como "edad", "ingresos", "talla de zapato"), las agrupamos en clusters (grupos): "Grupo de Salud", "Grupo de Educación", "Grupo de Dinero".
• Por qué es mejor: Es mucho más fácil dibujar un mapa de cómo se relacionan los "barrios" que dibujar un mapa de cada "casa". Es como ver la ciudad desde un helicóptero: ves los grandes bloques y sus conexiones, y eso es suficiente para orientarse.

🛠️ La Solución: El "Filtro de Justicia"

El paper presenta un nuevo sistema de aprendizaje (C-IFair) que hace dos cosas principales:

1. Encuentra los "Campos de Ajuste":
   Como no tenemos el mapa perfecto, el sistema calcula todos los posibles caminos que podrían existir dentro de esos "barrios". Imagina que tienes varias rutas posibles para llegar a la escuela. El sistema dice: "No importa cuál sea la ruta real, vamos a asegurarnos de que todas las rutas posibles sean justas".

   • La magia: Ellos crearon un algoritmo (una receta matemática) que busca estos caminos posibles incluso cuando el mapa tiene partes borrosas (flechas sin dirección).

2. El "Termómetro de Justicia" (MMD Barycenter):
   Una vez que tienen esos caminos, necesitan medir si el sistema es justo. Usan una herramienta llamada MMD (Discrepancia de la Media Máxima del Núcleo).

   • La analogía: Imagina que tienes dos grupos de personas (hombres y mujeres) y quieres ver si el sistema los trata igual. En lugar de comparar a cada persona con cada otra persona (lo cual sería como contar cada gota de agua en un río), el sistema usa un "Punto Central" (Barycenter).
   • Es como si en lugar de comparar a todos con todos, compararas a cada grupo con un "promedio ideal". Si el grupo de hombres y el grupo de mujeres están ambos cerca de ese promedio ideal, ¡el sistema es justo! Además, esta herramienta es muy rápida y no se vuelve lenta aunque tengas millones de datos.

⚖️ El Resultado: Equilibrio Perfecto

Lo más importante es que este método logra un equilibrio:

• Justicia: Reduce mucho la discriminación.
• Precisión: Sigue siendo muy bueno prediciendo quién será contratado o quién pagará un préstamo (no sacrifica la calidad por la justicia).

En resumen:
Antes, para ser justos, necesitábamos un mapa perfecto del mundo (que no existe). Ahora, este nuevo método nos permite ser justos usando un mapa de "barrios" (que es más fácil de hacer y más robusto). Es como decir: "No necesito saber el nombre de cada árbol en el bosque para saber si el bosque es saludable; solo necesito entender cómo se relacionan las zonas del bosque".

🌟 ¿Por qué es importante?

Esto es crucial para el futuro de la Inteligencia Artificial. Nos permite crear algoritmos que toman decisiones importantes (como préstamos bancarios o contrataciones) que son éticos y legales, incluso cuando no tenemos toda la información perfecta sobre cómo funciona la sociedad. Es una forma de ser responsables sin necesitar ser genios omniscientes.

Resumen técnico

Resumen Técnico: Equidad bajo Incertidumbre Gráfica

1. Planteamiento del Problema

La toma de decisiones algorítmicas (contratación, préstamos, etc.) requiere no solo precisión, sino también equidad respecto a atributos sensibles (género, raza). Las definiciones de equidad basadas en causalidad, como la equidad interventional (definida por Salimi et al., 2019), son preferibles legalmente porque garantizan que el resultado no dependa de la intervención sobre atributos sensibles.

Sin embargo, los métodos existentes enfrentan dos desafíos principales:

1. Suposición de conocimiento completo: La mayoría asume que se conoce el grafo causal verdadero a nivel de variables individuales, lo cual es irrealista en la práctica.
2. Dificultad de inferencia: Intentar aprender el grafo causal completo a partir de datos observacionales es computacionalmente costoso y propenso a errores, especialmente en entornos de alta dimensión. Los métodos que utilizan grafos parcialmente dirigidos (CPDAG) a nivel de variables aún requieren un número prohibitivo de pruebas de independencia condicional, acumulando errores que socavan las garantías de equidad.

El objetivo del trabajo es lograr equidad interventional en escenarios realistas donde solo se tiene acceso a un CPDAG a nivel de clusters (Cluster CPDAG), es decir, un grafo causal definido sobre grupos de variables, donde la estructura interna de cada cluster es desconocida.

2. Metodología Propuesta

Los autores proponen un marco de aprendizaje llamado C-IFair, que logra equidad interventional utilizando un grafo causal inferido a nivel de clusters. La metodología se divide en tres componentes clave:

A. Algoritmo de Enumeración de Conjuntos de Ajuste (Adjustment Set Enumeration)
Dado que un Cluster CPDAG representa una clase de equivalencia de múltiples grafos causales (MEC), no existe un único conjunto de ajuste válido.

• Desafío: Las propiedades gráficas ideales de los CPDAGs a nivel de variables (como la cordalidad) no se aplican directamente a los clusters debido a las "aristas de independencia" (independence arcs) y marcas de conexión/separación.
• Solución: Se desarrolla un algoritmo gráfico novedoso que:
  1. Enumera conjuntos de padres posibles de los atributos sensibles ($A$) considerando las aristas dirigidas y no dirigidas del CPDAG de clusters.
  2. Completa estos conjuntos iterativamente (Algoritmo 1) para asegurar la d-separación de los caminos de puerta trasera, utilizando las aristas de independencia y las marcas de conexión/separación definidas en la literatura de grafos de clusters.
  3. Maneja casos no identificables mediante un procedimiento de refinamiento del grafo, dividiendo clusters problemáticos en nodos individuales si es necesario.

B. Penalización de la Peor Caso de Injusticia (Worst-Case Unfairness)
Dado que no se sabe cuál de los conjuntos de ajuste enumerados ($Z_1, ..., Z_M$) es el correcto para el grafo causal verdadero, el marco penaliza la peor injusticia posible entre todos los conjuntos candidatos.

• Se define una función de penalización $g_\theta$ que maximiza la discrepancia entre las distribuciones interventionales sobre los diferentes conjuntos de ajuste.
• Esto asegura que el modelo sea justo independientemente de cuál sea la estructura causal real dentro de la clase de equivalencia.

C. Estimación Eficiente de MMD (Maximum Mean Discrepancy)
Calcular el MMD para todas las combinaciones de valores de atributos sensibles y conjuntos de ajuste es computacionalmente prohibitivo ($O(M N_A^2 n^2)$).

• Optimización 1 (Barycenter): Se descompone la suma de MMDs pares en una suma de MMDs respecto a un centroide (barycenter) de las distribuciones, reduciendo la complejidad de $O(N_A^2)$ a $O(N_A)$.
• Optimización 2 (Random Fourier Features - RFF): Se aproximan los mapas de características del kernel usando RFFs, reduciendo la complejidad de cálculo de $O(n^2)$ a $O(nd_{RFF})$.
• Estimación de Distribuciones Intervencionales: Se utiliza Inverse Probability Weighting (IPW) combinado con RFFs para estimar las distribuciones interventionales a partir de datos observacionales sin necesidad de intervenciones reales.

3. Contribuciones Clave

1. Marco de Aprendizaje para Grafos de Clusters: Es el primer método que logra equidad interventional utilizando explícitamente un CPDAG a nivel de clusters, relajando la necesidad de conocer la estructura causal a nivel de variables.
2. Algoritmo de Enumeración Gráfica: Se propone un algoritmo eficiente para enumerar conjuntos de ajuste válidos en Cluster CPDAGs, manejando explícitamente las aristas de independencia y las marcas de conexión/separación, algo no abordado previamente.
3. Kernel MMD Barycenter Eficiente: Se introduce una variante computacionalmente eficiente del MMD que escala favorablemente con el número de valores de atributos sensibles y el tamaño de la muestra, haciendo viable la optimización en alta dimensión.
4. Validación Empírica: Demostración de que el método logra un mejor equilibrio entre precisión y equidad que los enfoques basados en grafos a nivel de variables, especialmente en configuraciones de alta dimensión.

4. Resultados Experimentales

Los autores evaluaron C-IFair en datos sintéticos (lineales y no lineales) y en tres conjuntos de datos del mundo real (Adult, German Credit, OULAD), comparándolo con seis líneas base (incluyendo métodos que asumen grafos completos o ignoran atributos sensibles).

• Rendimiento General: C-IFair superó consistentemente a los métodos basados en CPDAGs a nivel de variables ($\epsilon$-IFair, $\ell$-IFair) en términos de RMSE (Error Cuadrático Medio) y Injusticia, especialmente en configuraciones de alta dimensión ($d=15$ clusters).
• Robustez: El método demostró ser robusto incluso cuando la partición de clusters no era estrictamente admisible (violando la suposición de aciclicidad en el grafo de clusters), manteniendo un rendimiento superior a las líneas base.
• Escalabilidad: En datos sintéticos densos, C-IFair mantuvo un bajo nivel de injusticia, mientras que los métodos basados en grafos de variables fallaron debido a la acumulación de errores en la inferencia del grafo.
• Trade-off Precisión-Equidad: Se demostró que el hiperparámetro $\lambda$ permite controlar flexiblemente el compromiso entre la precisión predictiva y la equidad, logrando resultados cercanos al "Oráculo" (que conoce el grafo causal verdadero).

5. Significado e Impacto

Este trabajo es significativo porque cierra la brecha entre la teoría de equidad causal y la práctica.

• Viabilidad Práctica: Reconoce que inferir grafos causales a nivel de variables es a menudo imposible o poco fiable, y propone una vía alternativa (grafos de clusters) que es estadísticamente más robusta y computacionalmente más eficiente.
• Garantías de Equidad: Proporciona un marco teórico y algorítmico para garantizar la equidad interventional incluso cuando la estructura causal es incierta, evitando la necesidad de suposiciones de conocimiento perfecto.
• Eficiencia Computacional: Las mejoras en la estimación del MMD hacen que la equidad causal sea aplicable a conjuntos de datos grandes y de alta dimensión, un requisito crítico para aplicaciones del mundo real.

En conclusión, el paper demuestra que es posible lograr decisiones algorítmicas justas y precisas sin necesidad de conocer el grafo causal completo, utilizando una representación de nivel superior (clusters) y algoritmos de optimización robustos.