🤖 AI

Why LLMs Fail at Causal Discovery and How Interventional Agents Escape

Este artículo demuestra que los métodos de aprendizaje supervisado y basados en preferencias fallan fundamentalmente en la descubrimiento causal debido a un teorema de obstrucción de núcleo, y propone la Optimización Bayesiana Causal Agente (A-CBO) como una alternativa demostrablemente convergente que utiliza un modelo de lenguaje congelado como oráculo de intervención dentro de un bucle bayesiano externo para superar los puntos de referencia existentes.

Autores originales: Amartya Roy, Sonali Parbhoo

Publicado 2026-05-28

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Amartya Roy, Sonali Parbhoo

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

El Gran Problema: Por qué la IA se atasca en los acertijos "Causales"

Imagina que intentas averiguar cómo funciona una máquina solo observándola en funcionamiento. Ves que cuando se enciende una luz roja, suena una campana. También ves que cuando se enciende una luz azul, suena la campana.

Ahora, tienes que adivinar el cableado interno:

Escenario A: La luz roja activa un interruptor que golpea la campana.
Escenario B: La luz azul activa un interruptor que golpea la campana.

Si solo observas la máquina (datos observacionales), ambos escenarios parecen exactamente iguales. La campana suena cada vez que se enciende una luz. Esto es lo que el artículo llama un problema de "casi fallo". Dos estructuras internas completamente diferentes (gráficos causales) pueden producir exactamente el mismo comportamiento externo.

El Descubrimiento Principal del Artículo:
Los autores demuestran que los Modelos de Lenguaje Grandes (LLM), los cerebros detrás de herramientas como ChatGPT, tienen un punto ciegon matemático fundamental aquí. Incluso si los entrenas con millones de ejemplos (Ajuste Fino) o les pides que piensen muy duro (Prompts), no pueden distinguir de manera fiable entre estos escenarios de "casi fallo".

La Analogía: El Límite de la "Foto Borrosa"
Piensa en un LLM como un fotógrafo que toma una foto de una máquina compleja.

El Problema: Cuando la máquina se vuelve más grande y compleja (más variables), los escenarios de "casi fallo" se ven 99,9% idénticos en la foto. La pequeña diferencia que te dice qué cable es cuál es tan diminuta que se pierde en la borrosidad.
Las Matemáticas: El artículo demuestra que para que un LLM vea esa pequeña diferencia, necesitaría "estirar" su memoria interna infinitamente. Como no puede hacerlo, simplemente adivina. A medida que los acertijos se vuelven más difíciles, el rendimiento de la IA se desploma, a menudo bajando al nivel de una adivinanza aleatoria.

La Solución: El "Agente" y el "Oráculo"

Dado que la IA no puede resolver todo el acertijo de una vez, los autores construyeron un nuevo sistema llamado A-CBO (Optimización Bayesiana Causal Agéntica).

En lugar de preguntarle a la IA: "¿Cuál de estas dos máquinas complejas es la real?" (algo en lo que falla), cambian el juego. Utilizan a la IA como un ayudante especializado y a un detective matemático como el tomador de decisiones.

Así es como funciona, paso a paso:

1. El Oráculo Congelado (La IA)

La IA está "congelada", lo que significa que no se está reentrenando ni se la obliga a aprender nuevas reglas. Actúa como un oráculo que dice la verdad.

La Pregunta: En lugar de pedirle a la IA que resuelva todo el misterio, el sistema le hace preguntas simples y binarias: "Si presiono este botón rojo específico, ¿suena la campana?"
Por qué funciona: Incluso si la IA no puede distinguir entre las dos máquinas complejas, es muy buena respondiendo preguntas simples de causa y efecto. Presionar un botón y ver un resultado es fácil de predecir para la IA.

2. El Bucle Bayesiano (El Detective)

Esta es la parte que realiza el trabajo pesado. Es un bucle matemático que se ejecuta fuera de la IA.

La Estrategia: El detective comienza con una lista de todos los posibles diseños de máquinas.
La Acción: Elige la pregunta que eliminará la mayor cantidad de respuestas incorrectas. Le pregunta a la IA: "Si presiono el Botón A, ¿suena la campana?"
La Actualización:
- Si la IA dice "Sí", el detective tacha todos los diseños de máquinas donde el Botón A no haría sonar la campana.
- Si la IA dice "No", tacha los diseños donde sí lo haría.
El Resultado: Con cada pregunta simple, la lista de posibilidades se reduce. El detective no necesita que la IA sea perfecta; solo necesita que la IA sea ligeramente mejor que una adivinanza aleatoria.

Por qué esto es un Cambio de Reglas

El artículo demuestra que este método funciona donde todo lo demás falla.

No se necesita Entrenamiento: La IA no necesita ser reentrenada con millones de nuevos ejemplos. Utiliza su conocimiento existente para responder preguntas simples.
Se Escala: A medida que los acertijos se vuelven más difíciles (más variables, máquinas más complejas), los métodos antiguos (Ajuste Fino) fracasan estrepitosamente. Pero el sistema A-CBO sigue mejorando. Puede resolver acertijos con 24 variables que dejan perplejos incluso a los modelos más avanzados con ajuste fino.
La Ventaja "Pereza": El sistema mantiene a la IA en su estado "perezoso" (donde simplemente predice la siguiente palabra), pero traslada la toma de decisiones a un lugar donde las limitaciones matemáticas de la IA no aplican.

Resumen en una Sola Frase

El artículo demuestra que la IA es matemáticamente incapaz de distinguir por sí sola entre causas complejas que se parecen, pero al convertir a la IA en un simple interrogador de preguntas de "sí/no" y permitir que un bucle matemático realice el trabajo de detective, podemos resolver estos acertijos perfectamente sin necesidad de volver a entrenar nunca a la IA.

Resumen Técnico: Por Qué los LLM Fallan en el Descubrimiento Causal y Cómo los Agentes Intervencionistas Escapan

Declaración del Problema
El descubrimiento causal —la recuperación de estructuras de grafos causales a partir de datos estadísticos— es fundamental para el razonamiento científico, pero sigue siendo un desafío abierto para los Modelos de Lenguaje Grandes (LLM). Aunque los LLM sobresalen en tareas de lenguaje natural, recientes benchmarks (por ejemplo, Corr2Cause) indican que no logran distinguir de manera fiable entre grafos causales que generan datos observacionales similares. Específicamente, los modelos luchan con hipótesis de "casi-error": Grafos Acíclicos Dirigidos (DAG) que pertenecen a diferentes clases de equivalencia de Markov pero producen afirmaciones de independencia condicional casi idénticas. Los enfoques existentes, incluidas las estrategias de prompting, el ajuste fino supervisado (SFT), la optimización directa de preferencias (DPO) y el aprendizaje en contexto (ICL), muestran una degradación empírica a medida que aumenta la complejidad del grafo, sin embargo, la razón teórica de este fracaso no ha sido establecida.

Metodología y Marco Teórico
Los autores formalizan el fracaso de los LLM en el descubrimiento causal como un Teorema de Obstrucción de Núcleo.

Teorema de Obstrucción de Núcleo (Teorema 1): El artículo demuestra que SFT, DPO e ICL producen predictores que operan dentro de un Espacio de Hilbert de Núcleo Reproductor (RKHS) con normas acotadas (el régimen "perezoso" o NTK). Para pares de hipótesis causales de "casi-error" (por ejemplo, una cadena $V_1 \to V_2 \to V_3$ frente a una horquilla $V_1 \leftarrow V_2 \to V_3$ ), los tokens de datos observacionales son casi idénticos, lo que lleva a una similitud de núcleo que se aproxima a 1 ( $\delta \to 0$ ).
- El teorema demuestra que para separar estas hipótesis con un margen de puntuación $\gamma$ , la norma del vector de pesos del predictor ( $B$ ) debe crecer como $B \geq \gamma / (\kappa\sqrt{2\delta})$ .
- A medida que aumenta la complejidad del grafo ( $d$ ), $\delta$ escala como $O(1/d^2)$ . En consecuencia, la norma requerida $B$ diverge hacia infinito. Dado que los métodos de entrenamiento como SFT y DPO operan bajo la restricción de normas acotadas (entrenamiento perezoso), son geométricamente incapaces de distinguir hipótesis de casi-error a medida que crece la complejidad.
Optimización Bayesiana Causal Agéntica (A-CBO): Para escapar de esta obstrucción, los autores proponen un marco que traslada el proceso de toma de decisiones discreto fuera del RKHS del LLM.
- Oráculo Intervencionista: Un LLM congelado actúa únicamente como un oráculo que responde consultas interaccionales binarias (por ejemplo, "¿Cambia $V_j$ bajo $do(V_i=v)$ ?"). El Lema 2 demuestra que, aunque los datos observacionales pueden ser de casi-error, las respuestas intervencionistas están separadas por el núcleo mediante un margen constante $\rho$ independiente de $\delta$ .
- Bucle Bayesiano Externo: Un agente externo mantiene una distribución de probabilidad sobre grafos candidatos en el simplex de probabilidad $\Delta^{n-1}$ . Utiliza puntuación basada en teoría de la información (Ganancia de Información) para seleccionar la intervención más discriminativa, consulta al LLM y actualiza la distribución de creencias mediante la regla de Bayes.
- Convergencia: Dado que la lógica de decisión opera en el simplex y no en el RKHS, la tasa de convergencia es independiente del parámetro de casi-error $\delta$ . El Teorema 2 demuestra que A-CBO converge al grafo correcto en $O(\log n)$ rondas, siempre que el grafo verdadero sea distinguible intervencionalmente.

Contribuciones Clave

Prueba Teórica del Fracaso: El artículo establece que la incapacidad de los LLM para separar hipótesis causales de casi-error es una obstrucción geométrica fundamental intrínseca a los predictores de tipo núcleo (SFT, DPO, ICL) en el régimen perezoso, y no una limitación de la escala del modelo o el volumen de datos.
Marco A-CBO: La introducción de la Optimización Bayesiana Causal Agéntica, que desacopla el papel del LLM (responder consultas binarias locales) de la decisión causal (selección global de hipótesis), evitando así la obstrucción del núcleo.
Benchmark Extendido: La creación de Corr2Cause Extendido, un nuevo benchmark que escala de 7 a 24 variables con 18.000 muestras de prueba, diseñado para poner a prueba la discriminación causal a escala donde las brechas de casi-error se reducen a $O(1/d^2)$ .

Resultados Experimentales

Corr2Cause (Original): A-CBO iguala o supera el rendimiento de las líneas base ajustadas (por ejemplo, LLaMA-7B FT) sin ninguna actualización de gradiente. Por ejemplo, un modelo A-CBO de alto nivel (GLM-5.1) logró un F1 de 93.2, superando al LLaMA-7B ajustado (92.0).
Corr2Cause Extendido (d=7–24):
- Escalabilidad: Los modelos ajustados (SFT y DPO) se degradan catastróficamente a medida que aumenta el tamaño del grafo, cayendo a una precisión casi aleatoria (35.1% para SFT en $d=21-24$ ). En contraste, A-CBO mantiene un rendimiento robusto (83.2% de precisión para modelos de alto nivel) en todos los tamaños de grafo.
- Crecimiento de la Ventaja: La brecha de rendimiento entre A-CBO y las líneas base ajustadas crece monótonamente con la complejidad del grafo. En los grafos más difíciles ( $d=21-24$ ), A-CBO supera a SFT en +44.7 puntos porcentuales.
- Ablación: El propio bucle agéntico impulsa el rendimiento. Aplicar A-CBO a modelos zero-shot produce ganancias masivas (por ejemplo, +59.3 pp para Qwen3-30B), confirmando que la mejora proviene del cambio arquitectónico y no de la capacidad bruta del modelo.

Significado y Afirmaciones
El artículo afirma que la consulta intervencionista no es meramente una heurística, sino una salida necesaria y suficiente demostrable de la obstrucción del RKHS. Al restringir al LLM a un papel de oráculo no decisorio y delegar la discriminación de hipótesis a un bucle bayesiano externo, A-CBO logra un descubrimiento causal fiable a escala sin requerir que el modelo aprenda nuevas representaciones o abandone el régimen de entrenamiento perezoso. Este trabajo proporciona una base principista para los agentes LLM en ciencia y política, argumentando que la inteligencia causal genuina requiere ir más allá de la supervisión correlacional hacia estructuras de razonamiento intervencionista que respeten los límites geométricos de los paradigmas de aprendizaje actuales.