Resumen Técnico: Explicabilidad de LLM con Cadenas Contrafácticas y Grafos Causales

Declaración del Problema

Los Modelos de Lenguaje de Gran Escala (LLM) exhiben capacidades amplias, pero sus mecanismos de inferencia siguen siendo opacos. Los factores de decisión son inobservables y las explicaciones generadas suelen carecer de fidelidad, lo que plantea riesgos en dominios de alto nivel como la medicina y el derecho. Además, los métodos de interpretabilidad existentes (p. ej., análisis de atención, atribución de características) ofrecen perspectivas correlacionales, pero no logran proporcionar la evidencia causal requerida para explicaciones fieles. Asimismo, la interpretabilidad mecanística se centra en componentes de bajo nivel (neuronas, circuitos) que a menudo no se alinean con los conceptos de alto nivel que los interesados necesitan comprender.

Los enfoques causales actuales en LLM suelen modelar estructuras del mundo real (p. ej., cómo el cambio del género de un autor afecta una predicción) o asumen un grafo causal fijo (conceptos $\to$ texto $\to$ predicción). Existe una brecha crítica en los métodos para recuperar el propio grafo causal de inferencia del LLM: una estructura que mapea cómo un modelo específico organiza conceptos interpretables por humanos para reducir el texto de entrada a una predicción (texto $\to$ conceptos $\to$ predicción). Un cuello de botella importante en esta recuperación es la cobertura de datos; la recuperación de causalidad fiable requiere un muestreo denso de combinaciones de conceptos, lo cual es a menudo imposible o poco ético en entornos del mundo real.

Metodología

Los autores proponen un flujo de trabajo de cuatro fases, totalmente automatizado y dirigido por el modelo, para construir grafos causales a nivel de concepto para tareas de clasificación. El método utiliza al propio LLM objetivo para extraer conceptos, representar datos y generar los contrafácticos necesarios para una recuperación causal robusta.

1. Predicción de Etiquetas

Las etiquetas de verdad fundamental en el conjunto de datos se reemplazan con las propias predicciones ($\hat{y}$) del LLM objetivo. Esto asegura que el grafo resultante refleje el razonamiento interno del modelo en lugar de la verdad fundamental del conjunto de datos.

2. Descubrimiento y Anotación Discriminativa de Conceptos

El marco identifica iterativamente un conjunto de conceptos interpretables por humanos ($C$) que diferencian entre las clases predichas.

• Extracción: El LLM propone conceptos candidatos basados en lotes de texto y etiquetas predichas.
• Filtrado: Los conceptos se retienen solo si son tanto relevantes (presentes en el texto) como discriminativos (alineados con un subconjunto estricto de clases, no con todas o ninguna).
• Anotación: Cada texto de entrada se mapea a un vector de concepto $\phi(x)$, donde a cada concepto $c_i$ se le asigna un valor categórico que representa el subconjunto de clases que el modelo percibe que este apoya.

3. Expansión de Datos Inspirada en MCMC

Para abordar la escasez de datos observacionales en el espacio latente de conceptos, los autores introducen un procedimiento de aumentación contrafáctica inspirado en el método de Monte Carlo por Cadenas de Markov (MCMC).

• Proceso: Partiendo de un texto original, el algoritmo propone iterativamente perturbaciones textuales para desplazar la alineación de conceptos específicos hacia o desde las clases objetivo.
• Criterio de Aceptación: Un contrafáctico propuesto se acepta solo si logra el desplazamiento conceptual pretendido (alineación objetivo) y minimiza los cambios no deseados en los conceptos no objetivo (efectos secundarios mínimos).
• Refinamiento: Las propuestas fallidas se someten a un refinamiento recursivo, donde se le pide al LLM que corrija violaciones específicas.
• Resultado: Esto genera un conjunto de datos más denso ($D_{mcmc}$) que cubre diversas combinaciones de estados de conceptos, permitiendo un descubrimiento causal estable.

4. Descubrimiento Causal vía $\sigma$-CG

El conjunto de datos expandido y anotado se introduce en el algoritmo $\sigma$-CG, un método de descubrimiento causal capaz de manejar variables discretas y estructuras potencialmente cíclicas. El grafo dirigido resultante $G$ captura el flujo causal desde el texto de entrada, a través de los conceptos percibidos por el LLM, hasta la predicción final, con restricciones que aseguran que el texto sea una raíz y la predicción un sumidero.

Contribuciones Clave

1. Paradigma Causal para la Explicabilidad Global: El artículo introduce un marco que mapea el razonamiento de los LLM a grafos causales sobre conceptos interpretables por humanos, yendo más allá de las explicaciones locales centradas en la entrada hacia un relato global del mecanismo de inferencia.
2. Aumentación de Datos Inspirada en MCMC: Un algoritmo novedoso que genera contrafácticos para poblar densamente el espacio de conceptos latentes, superando el cuello de botella de la cobertura de datos inherente al descubrimiento causal para modelos de caja negra.
3. Protocolo de Evaluación: Un protocolo riguroso para evaluar la estabilidad estructural y la fidelidad predictiva en ausencia de grafos de razonamiento de verdad fundamental, demostrando que los padres causales descubiertos son mejores predictores de los nodos en comparación con otros subconjuntos de conceptos.

Resultados

El marco fue evaluado en tres LLM (Gemini-2-Flash, Qwen3-14B, gpt-OSS-20B) a través de tres tareas: Diagnóstico de Enfermedades (sintético), Análisis de Sentimiento (IMDB) y LLM-como-Juez (Reddit).

• Fidelidad Predictiva: En todos los entornos, los conjuntos de padres del grafo superaron a los subconjuntos de conceptos aleatorios en la predicción tanto de la etiqueta final como de los estados de los conceptos intermedios. En la mayoría de los casos, los padres basados en el grafo se situaron entre los 3 mejores predictores, confirmando que las estructuras descubiertas capturan dependencias significativas.
• Razonamiento Específico del Modelo: En tareas sintéticas, diferentes modelos convergieron en conceptos explicativos similares (recuperando variables de verdad fundamental). Sin embargo, en datos naturalistas, los modelos desarrollaron heurísticas latentes y topologías causales distintas, resaltando que la selección del modelo requiere comprender no solo el rendimiento, sino también la alineación del razonamiento.
• Convergencia y Estabilidad: La expansión MCMC demostró una convergencia distributiva, con la divergencia de Kullback-Leibler (KL) estabilizándose a medida que las cadenas se acercaban al límite inferior teórico de superposición perfecta. La estabilidad estructural se confirmó mediante la disminución de la distancia de Hamming entre topologías de grafos sucesivas hasta llegar a cero.
• Impacto de la Aumentación: La expansión contrafáctica mejoró significamente la precisión predictiva sobre los datos originales por sí solos, demostiendo la necesidad de la etapa de aumentación para un descubrimiento causal robusto.

Significado y Reivindicaciones

El artículo posiciona este trabajo como un paso fundacional hacia la "explicabilidad a nivel de concepto" para los LLM. Al modelar el proceso de inferencia como un grafo causal sobre conceptos interpretables por humanos, los autores argumentan que esta representación ofrece una forma de interpretabilidad más accesible y accionable tanto para desarrolladores como para expertos en el dominio.

Los autores afirman modestamente que este trabajo proporciona una base para una nueva generación de métodos de explicabilidad orientados al proceso. Enfatizan que su enfoque aborda el desafío específico de la escasez de datos en espacios latentes mediante su expansión inspirada en MCMC, permitiendo la recuperación de estructuras causales globales que anteriormente eran inaccesibles. El trabajo no pretende resolver todos los problemas de interpretabilidad, sino establecer un flujo de trabajo viable para descubrir cómo los modelos organizan los conceptos para tomar decisiones, distinguiendo entre modelos que pueden tener un rendimiento similar pero razonan de manera diferente.