Resumen Técnico: Formalización y Falsificación de Trayectorias Causales de Eventos Raros

1. Planteamiento del Problema

El artículo aborda el desafío de proporcionar explicaciones causales para eventos raros (valores atípicos), tales como desastres naturales, colapsos del mercado o fallos del sistema. Si bien los métodos existentes de análisis de causa raíz identifican eficazmente un pequeño conjunto de orígenes causales, a menudo no logran capturar los mecanismos específicos y los subgrafos a través de los cuales estas causas se propagan para producir el resultado observado. Además, los modelos causales completos son frecuentemente desconocidos, y los enfoques estándar que dependen de la teoría de valores extremos asintóticos o de supuestos de variables continuas no son adecuados para eventos que son raros pero no extremos, o para dominios discretos.

El problema central es la falta de una noción formal y testeable de una "trayectoria causal" que sirva de puente entre las explicaciones verbales simples y el modelado causal detallado. Los métodos actuales tienen dificultades para cuantificar si una cadena de eventos propuesta constituye una explicación válida para una observación rara específica, particularmente cuando el grafo causal completo no está disponible o cuando la explicación debe permanecer robusta bajo un conocimiento parcial del modelo.

2. Metodología

2.1 Formalización de Trayectorias Causales y Puntuaciones de Explicación

Los autores introducen un marco basado en Modelos de Ecuaciones Estructurales (SEM) y Grafos Acíclicos Dirigidos (DAG) para formalizar trayectorias causales para eventos binarios.

• Clúster de Eventos: Un conjunto de variables binarias $B$ conectadas por un DAG causal $C$. Un subconjunto $R$ representa las causas raíz donde los mecanismos están "corruptos" o fueron objeto de intervención.
• Puntuación de Explicación: Basándose en Oesterle et al. (2025), el artículo define una puntuación de explicación $E(x \to y)$ para un evento $X=x$ que explica $Y=y$ como:
  $$E(x \to y) := 1 - \frac{\log P(Y=y | do(X=x))}{\log P(Y=y)}$$
  Esta puntuación mide cuánto aumenta la intervención $do(X=x)$ la probabilidad de $Y=y$ en relación con su rareza previa. Una puntuación cercana a 1 indica una explicación fuerte.
• Puntuación de Explicación de la Trayectoria: Para abordar la limitación de que las causas raíz por sí solas no explican la totalidad de la propagación, los autores definen una puntuación de explicación de la trayectoria $E^K_{R \to t}$. Esta puntuación evalúa si establecer las causas raíz en 1 hace que el clúster completo de eventos (incluyendo los mediadores) sea probable, en relación con la rareza del evento objetivo.
  $$E^K_{R \to t} := 1 - \frac{\log P(B=1 | do(B_R=1))}{\log P(B_t=1)}$$
  Esta métrica penaliza las explicaciones donde los eventos intermedios siguen siendo improbables incluso después de que las causas raíz se han establecido, asegurando que la trayectoria sea coherente.

2.2 Abstracción Causal y Binarización

Para manejar variables continuas o complejas, el artículo propone la Abstracción de Trayectoria, un método para mapear modelos causales detallados a trayectorias binarias simplificadas.

• Monotonicidad de la Característica: Las variables se transforman en eventos binarios utilizando funciones de característica $\tau$ (por ejemplo, $X \ge x$). El marco requiere que estas características satisfagan la "monotonicidad de la característica", asegurando que el aumento del valor de la característica de un padre aumente la probabilidad de la característica del hijo.
• Micro-realización Natural: Para manejar la naturaleza mal definida de las intervenciones sobre variables de grano grueso (binarias), los autores definen una "micro-realización natural" de una intervención $do(B_S=b_S)$. Esto implica extraer las variables subyacentes de su distribución condicional dada la restricción binaria, simulando efectivamente la intervención en el modelo de grano fino.
• Métrica de Exactitud: La calidad de una abstracción se mide mediante la divergencia KL entre las distribuciones intervencionales del modelo abstracto y la verdadera distribución proyectada, normalizada por la rareza del evento objetivo.

2.3 Evaluación mediante Verificaciones de Consistencia

El marco permite la falsificación de explicaciones causales a través de verificaciones de consistencia:

• Consistencia Cuantitativa: Si se propone una trayectoria, las probabilidades de transición entre nodos (por ejemplo, $P(B_j=1 | B_i=1)$) deben ser consistentes con la puntuación de la explicación. Si el producto de estas probabilidades no aumenta suficientemente la verosimilitud, la explicación se considera débil.
• Consistencia Cualitativa: El marco puede utilizarse para consultar a agentes (por ejemplo, LLMs) sobre subestructuras de una trayectoria propuesta para verificar si los vínculos causales reclamados se mantienen bajo contextos específicos.

3. Contribuciones Clave

1. Definición Formal de Trayectorias Causales: El artículo define una trayectoria causal no solo como un conjunto de causas raíz, sino como una tupla $(C, P, B, B_t, B_R, P_B)$ donde $P$ es un subgrafo que explica el objetivo. Esto distingue entre el grafo causal completo $C$ (usado para el contexto) y la trayectoria explicativa $P$.
2. Puntuación de Explicación de la Trayectoria: Una métrica novedosa que cuantifica la calidad de una explicación evaluando si las causas raíz hacen que la secuencia completa de eventos en la trayectoria sea probable, en lugar de solo el evento objetivo. Esta puntuación es aditiva sobre conjuntos disjuntos de mecanismos y evita los problemas de dependencia de contexto de los valores de Shapley.
3. Abstracción a Nivel de Evento: La introducción de la abstracción de trayectoria permite derivar explicaciones causales simples y verbalizables a partir de modelos complejos, continuos o parcialmente conocidos. Proporciona una forma rigurosa de manejar el "granulado" de las variables manteniendo implicaciones testeables.
4. Falsificabilidad: Al requerir compromisos explícitos sobre qué mecanismos se comportaron como se esperaba y cuáles fueron alterados, el marco hace que las explicaciones causales sean falsificables. Proporciona condiciones (por ejemplo, el Lema 3.7 sobre brechas de log-verosimilitud) bajo las cuales una explicación puede ser rechazada.

4. Resultados y Demostraciones

• Límites Teóricos: Los autores demuestran que las explicaciones causales locales fuertes (puntuaciones de pares altas) no garantizan una explicación de trayectoria global fuerte. Derivan condiciones necesarias para puntuaciones de trayectoria altas, como evitar mediadores que sean significativamente menos probables que sus padres.
• Relación con la Necesidad: El artículo demuestra que para eventos raros, una puntuación de explicación positiva implica una alta probabilidad de necesidad (PN), lo que significa que la causa raíz es probablemente necesaria para que el evento ocurra, incluso si la puntuación no es perfecta.
• Estudio de Caso de Evaluación de LLM: Los autores aplicaron su marco para evaluar trayectorias causales generadas por un Modelo de Lenguaje Grande (LLM) con respecto a las causas de la falta de vivienda a largo plazo.
  • El LLM generó una trayectoria $A \to B \to C \to D \to E$.
  • Al consultar al LLM sobre las probabilidades de transición, los autores calcularon una puntuación de explicación de la trayectoria de $\approx 0.29$.
  • La baja puntuación se atribuyó a un eslabón débil ($C \to D$), donde la transición de "perder el apartamento" a "distanciamiento familiar" no era suficientemente probable.
  • Este ejercicio demostró que el marco puede identificar cuantitativamente eslabones débiles en explicaciones verbales y sugerir revisiones (por ejemplo, añadir un vínculo directo o reformular los nodos) para mejorar la plausibilidad.

5. Significado y Reivindicaciones

El artículo afirma avanzar en el campo de la inferencia causal y la IA Explicable (XAI) al proporcionar un lenguaje formal y cuantitativo para discutir explicaciones causales de eventos raros.

• Cerrar la Brecha: Cierra la brecha entre las explicaciones verbales simples (que suelen ser intuitivas pero no testeables) y el modelado causal detallado (que suele ser demasiado complejo o desconocido).
• Falsificabilidad: La principal significación radica en hacer que las explicaciones causales sean falsificables. Al requerir que una explicación implique un conjunto específico de probabilidades intervencionales, el marco permite realizar controles empíricos o lógicos contra los datos o la creencia de los expertos.
• Seguridad de la IA y Transparencia: Los autores posicionan este trabajo como un paso hacia la evaluación de la veracidad de las afirmaciones causales generadas por sistemas de IA. Al formalizar las explicaciones como trayectorias explícitas, es posible detectar cuentas causales defectuosas de eventos socialmente significativos, contribuyendo así a la fiabilidad de la IA generativa.

Los autores mantienen la modestia, señalando que el marco no prueba automáticamente la validez de un DAG causal o la verdad de las probabilidades intervencionales; más bien, proporciona los conceptos y métricas necesarios para discutir y evaluar la plausibilidad de una manera basada en datos.