cc-Shapley: Measuring Multivariate Feature Importance Needs Causal Context

El artículo propone cc-Shapley, una modificación interventional de los valores de Shapley que incorpora conocimiento causal para corregir atribuciones de características engañosas causadas por sesgos de colisionador y supresión, demostrando teórica y empíricamente su superioridad sobre los métodos puramente observacionales.

Lo esencial

Imagina que eres un detective intentando resolver un misterio: ¿Qué factores realmente causan que una persona tenga diabetes? Tienes una lista de pistas (datos): el nivel de azúcar en sangre, lo que comió en el desayuno, su peso, etc.

El problema es que la mayoría de los métodos actuales de Inteligencia Artificial (IA) para explicar sus decisiones son como detectives que solo miran las pistas de forma aislada y sin entender la historia completa. A veces, acusan al sospechoso incorrecto o ignoran al verdadero culpable.

Este paper, titulado "cc-Shapley", propone una nueva forma de investigar que incluye el contexto causal (la historia real de cómo se generaron los datos) para evitar errores.

Aquí tienes la explicación sencilla:

1. El Problema: El Detective Confundido (Sesgo de Colisionador)

Imagina este escenario:

• Un paciente va al médico.
• Variable A: ¿Comió mucho carbohidrato en el desayuno? (C)
• Variable B: ¿Tiene diabetes? (Y)
• Variable C: Su nivel de azúcar en sangre (G).

La realidad es:

1. Si tienes diabetes, tu azúcar sube.
2. Si comes mucho carbohidrato, tu azúcar también sube.
3. El azúcar en sangre (G) es el resultado de ambos.

Ahora, imagina que la IA mira los datos y ve que, cuando el azúcar es alto, las personas que comieron muchos carbohidratos no suelen tener diabetes.

• La IA tradicional dice: "¡Eh! Comer carbohidratos parece reducir el riesgo de diabetes".
• La realidad: ¡Es absurdo! Comer carbohidratos no cura la diabetes.

¿Por qué pasó esto?
Es como si fueras a una fiesta y vieras que la gente que lleva paraguas (A) no se moja (B). ¿Significa que los paraguas son mágicos y evitan la lluvia? No. Significa que solo llevas paraguas si ya sabes que va a llover (C). Si miras solo a la gente con paraguas, parece que el paraguas "cancela" la lluvia.

En estadística, esto se llama Sesgo de Colisionador. La IA tradicional (Shapley clásico) mira las pistas sin entender que el azúcar en sangre es un "cuello de botella" donde convergen dos causas. Al mirar solo los datos, la IA se confunde y acusa a los carbohidratos de ser "buenos" para la salud, cuando en realidad solo están "compitiendo" con la diabetes por explicar por qué el azúcar es alto.

2. La Solución: El Detective con Mapa (cc-Shapley)

Los autores proponen cc-Shapley (Shapley de Contexto Causal). En lugar de solo mirar los datos pasados, esta nueva herramienta pregunta: "¿Qué pasaría si yo intervengo en la situación?".

Usa una analogía de un experimento de laboratorio:

• En lugar de mirar a las personas que ya comieron carbohidratos y ver su azúcar, la IA imagina un escenario donde fuerza a la gente a comer carbohidratos (intervención) y luego mide el azúcar.
• Al hacer esto, la IA "corta" la conexión entre la diabetes y el desayuno. Ya no puede usar el azúcar alto para "descartar" la diabetes.

El resultado:

• La IA tradicional seguía diciendo: "Los carbohidratos son buenos".
• cc-Shapley dice: "Los carbohidratos no tienen nada que ver con si tienes diabetes o no. Su importancia es cero".
• Y confirma que el azúcar en sangre es el verdadero indicador, pero ahora entiende que su valor depende de la diabetes, no de lo que comiste.

3. ¿Por qué es importante?

Imagina que usas la IA tradicional para descubrir nuevos medicamentos o entender enfermedades.

• Si la IA te dice "Los carbohidratos curan la diabetes" (porque se confundió por el sesgo), podrías dar consejos médicos peligrosos.
• cc-Shapley evita estas ilusiones. Requiere que sepas (o adivines razonablemente) cómo se conectan las cosas en el mundo real (el "mapa causal") antes de juzgar la importancia de una variable.

En resumen con una metáfora final:

• La IA tradicional (Shapley normal): Es como un juez que solo ve las fotos de la escena del crimen. Si ve a alguien con un paraguas y sin ropa mojada, concluye que el paraguas es mágico.
• La nueva IA (cc-Shapley): Es un juez que tiene el guion de la película. Sabe que el paraguas se usa porque va a llover. Por eso, no culpa al paraguas de evitar la lluvia, sino que entiende que la lluvia es la causa real.

Conclusión: Para que la Inteligencia Artificial nos ayude a descubrir verdades científicas o a entender modelos complejos, no basta con mirar los datos; necesitamos entender la causa y el efecto. cc-Shapley es la herramienta que nos permite hacer eso, corrigiendo las ilusiones que crean los datos cuando no sabemos cómo se relacionan las cosas entre sí.

Resumen técnico

Resumen Técnico: cc-Shapley

1. El Problema: Sesgo de Colisionador y la Limitación de los Métodos Observacionales

El artículo identifica una falla fundamental en los métodos actuales de Inteligencia Artificial Explicable (XAI), específicamente en el uso de los valores de Shapley para la importancia de características multivariadas.

• La Ilusión de los Métodos Puramente Observacionales: Los métodos estándar de XAI asumen que la atribución de importancia basada en datos observacionales es suficiente para entender el modelo o descubrir patrones científicos. Sin embargo, el trabajo demuestra que esto es una ilusión cuando existen relaciones causales complejas.
• Sesgo de Colisionador (Collider Bias) y Supresión: Cuando se evalúa la importancia de una característica $X_j$ condicionando a otras características observadas ($S$), se pueden activar caminos espurios en el grafo causal. Si una característica $C$ actúa como un colisionador (dos flechas apuntan hacia ella, ej. $A \to C \leftarrow B$), condicionar sobre ella (observar su valor) crea una asociación estadística falsa entre sus causas, incluso si son independientes.
• Ejemplo Ilustrativo: En el caso de la diabetes, la glucosa en sangre ($G$) es causada por la ingesta de carbohidratos ($C$) y la diabetes ($Y$). Si se condiciona sobre $G$ (el colisionador), aparece una asociación negativa espuria entre $C$ y $Y$: un alto consumo de carbohidratos parece "explicar" la glucosa alta, reduciendo artificialmente la probabilidad atribuida a la diabetes. Esto lleva a que los valores de Shapley tradicionales asignen una importancia negativa (irreal) a la ingesta de carbohidratos, sugiriendo erróneamente que reduce el riesgo de diabetes.
• Insuficiencia de la Importancia Univariable: Aunque la importancia univariable (sin condicionar a otras variables) evita el sesgo de colisionador, es insuficiente para capturar interacciones multivariadas reales (ej. $Y = X_1 \cdot X_2$), donde la importancia conjunta es crucial.

2. Metodología: cc-Shapley (Valores de Shapley en Contexto Causal)

Los autores proponen cc-Shapley (causal context Shapley), una modificación de los valores de Shapley que integra conocimiento causal para corregir estas distorsiones.

• Definición Formal:
  En lugar de condicionar sobre las variables de contexto $S$ (observación), el método propone realizar una intervención sobre ellas.
  La importancia de una característica $X_j$ en el contexto intervencional de $S$ se define como:
  $$I_{do(S)}(X_j) = E[Y | X_j, do(S)] - E[Y | do(S)]$$
  Donde $do(S)$ representa una intervención causal (cortar las flechas entrantes a $S$ en el grafo causal) en lugar de simplemente observar su valor.

• Cálculo de cc-Shapley:
  $$\phi_{cc}(X_j) = \sum_{S \subseteq F \setminus \{X_j\}} \frac{|S|!(|F| - |S| - 1)!}{|F|!} I_{do(S)}(X_j)$$
  Esta fórmula mantiene los pesos combinatorios de Shapley, pero cambia la estimación de la contribución marginal de observacional a intervencional.

• Propiedad de Asociación Estadística (SAP):
  El método garantiza que si una característica $X_j$ es causalmente independiente de la objetivo $Y$ ($X_j \perp\!\!\perp Y$), su valor cc-Shapley será cero. Esto elimina la atribución de importancia a supresores espurios que solo parecen relevantes debido al sesgo de colisionador.

• Implementación Práctica:
  Dado que los datos reales no siempre incluyen el grafo causal, el método requiere:

  1. Conocer o inferir el Grafo Causal (SCM - Modelo Causal Estructural).
  2. Utilizar el grafo para realizar intervenciones simuladas (o ajustes de puerta trasera) en los datos.
  3. Entrenar modelos de aprendizaje automático (como XGBoost) sobre datos generados bajo estas intervenciones para estimar las expectativas condicionales $E[Y | X_j, do(S)]$.

3. Contribuciones Clave

1. Identificación del Problema: Demostración teórica y empírica de que los métodos de XAI no causales (como los valores de Shapley estándar) son inherentemente propensos a malinterpretar la relevancia de las características debido al sesgo de colisionador y la supresión.
2. Propuesta de cc-Shapley: Introducción de la primera aproximación diseñada para evitar el sesgo de colionador en la importancia multivariable sin recurrir exclusivamente a la importancia univariable.
3. Fundamentación Teórica: Pruebas de que la intervención causal elimina la activación de caminos espurios (colisionadores) y garantiza la propiedad de asociación estadística (SAP).
4. Validación Empírica: Comparación exhaustiva en escenarios sintéticos (SCMs lineales y no lineales) y datos del mundo real, mostrando cómo cc-Shapley corrige inversiones de signo y nulificaciones de importancia.

4. Resultados Experimentales

• Caso de Diabetes (Sintético):
  • Shapley Estándar: Asignó una importancia negativa a la ingesta de carbohidratos ($C$), sugiriendo falsamente que reduce el riesgo de diabetes debido al efecto de supresión inducido por condicionar sobre la glucosa ($G$).
  • cc-Shapley: Asignó una importancia cero a $C$ (correcto, ya que no causa diabetes directamente) y mantuvo la importancia positiva de $G$.
• Caso de BMI y Diabetes (No Lineal):
  • Shapley Estándar: El Índice de Masa Corporal (BMI) mostró una relevancia negativa espuria debido a colisionadores formados por glucosa y azúcar promedio.
  • cc-Shapley: Restauró la relevancia positiva del BMI, alineándose con el conocimiento médico real.
• Datos de Proteínas (Sachs et al., 2005):
  • En un conjunto de datos de señalización de proteínas, las proteínas PKC y P38 mostraron valores de Shapley negativos o mixtos debido a colisionadores en la red.
  • cc-Shapley corrigió estas atribuciones, preservando la relevancia positiva leve de PKC que se observaba en el análisis univariable, eliminando la distorsión del contexto observacional.
• Experimentos Lineales: En 3,000 SCMs lineales aleatorios, se observó que cuando un nodo actuaba como colisionador, los coeficientes de regresión observacionales se desviaban significativamente de la verdad causal, mientras que los coeficientes intervencionales (cc-Shapley) permanecían alineados con la causalidad real.

5. Significado e Implicaciones

• Necesidad de Causalidad en XAI: El artículo argumenta que la explicabilidad de modelos de IA no puede lograrse únicamente con datos observacionales. Para que las explicaciones sean útiles para el descubrimiento científico o la depuración de modelos, deben incorporar conocimiento causal.
• Corrección de Conclusiones Erróneas: Sin cc-Shapley, los investigadores podrían concluir erróneamente que ciertas variables son perjudiciales o beneficiosas cuando en realidad son meros supresores estadísticos.
• Limitaciones y Futuro: El método depende de la disponibilidad de un grafo causal válido (que a menudo requiere conocimiento de expertos o algoritmos de descubrimiento causal). Además, el cálculo exacto es computacionalmente costoso ($O(2^n)$), aunque se sugieren aproximaciones escalables como trabajo futuro.
• Impacto: cc-Shapley representa un paso crucial hacia una XAI "causalmente robusta", asegurando que las explicaciones reflejen mecanismos causales reales y no artefactos estadísticos inducidos por la estructura de los datos.

En conclusión, el paper establece que la importancia de las características multivariadas no es una propiedad puramente estadística, sino que depende del contexto causal, y propone cc-Shapley como la herramienta necesaria para medir esta importancia de manera correcta.