🤖 AI

Why LLMs Fail at Causal Discovery and How Interventional Agents Escape

Este artigo demonstra que os métodos de aprendizado supervisionado e baseados em preferência falham fundamentalmente na descoberta causal devido a um teorema de obstrução de kernel e propõe a Otimização Bayesiana Causal Agente (A-CBO) como uma alternativa comprovadamente convergente que utiliza um modelo de linguagem congelado como um oráculo intervencionista dentro de um loop bayesiano externo para superar os benchmarks existentes.

Autores originais: Amartya Roy, Sonali Parbhoo

Publicado 2026-05-28

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Amartya Roy, Sonali Parbhoo

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

O Grande Problema: Por que a IA Fica Presa em Enigmas "Causais"

Imagine que você está tentando descobrir como uma máquina funciona apenas observando-a funcionar. Você vê que, quando uma luz vermelha pisca, um sino toca. Você também vê que, quando uma luz azul pisca, o sino toca.

Agora, você precisa adivinhar a fiação interna:

Cenário A: A luz vermelha aciona um interruptor que toca o sino.
Cenário B: A luz azul aciona um interruptor que toca o sino.

Se você apenas observar a máquina (dados observacionais), ambos os cenários parecem exatamente iguais. O sino toca toda vez que uma luz pisca. É isso que o artigo chama de problema de "quase-acerto". Duas estruturas internas completamente diferentes (grafos causais) podem produzir exatamente o mesmo comportamento externo.

A Principal Descoberta do Artigo:
Os autores provam que os Modelos de Linguagem de Grande Escala (LLMs) — os cérebros por trás de ferramentas como o ChatGPT — têm um ponto cego matemático fundamental aqui. Mesmo que você os treine em milhões de exemplos (Ajuste Fino) ou peça que pensem muito (Prompts), eles não conseguem distinguir de forma confiável entre esses cenários de "quase-acerto".

A Analogia: O Limite da "Foto Desfocada"
Pense em um LLM como um fotógrafo tirando uma foto de uma máquina complexa.

O Problema: Quando a máquina fica maior e mais complexa (mais variáveis), os cenários de "quase-acerto" parecem 99,9% idênticos na foto. A pequena diferença que diz qual fio é qual é tão pequena que se perde no desfoque.
A Matemática: O artigo prova que, para um LLM ver essa pequena diferença, ele precisaria "esticar" sua memória interna infinitamente. Como ele não pode fazer isso, ele apenas chuta. À medida que os enigmas ficam mais difíceis, o desempenho da IA cai drasticamente, muitas vezes descendo ao nível de um chute aleatório.

A Solução: O "Agente" e o "Oráculo"

Como a IA não consegue resolver o enigma inteiro de uma vez, os autores criaram um novo sistema chamado A-CBO (Otimização Bayesiana Causal Agêntica).

Em vez de perguntar à IA: "Qual dessas duas máquinas complexas é a real?" (algo em que ela falha), eles mudam o jogo. Eles usam a IA como um ajudante especializado e um detetive matemático como o tomador de decisões.

Veja como funciona, passo a passo:

1. O Oráculo Congelado (A IA)

A IA está "congelada", o que significa que ela não está sendo re-treinada ou forçada a aprender novas regras. Ela age como um oráculo que diz a verdade.

A Pergunta: Em vez de pedir à IA para resolver todo o mistério, o sistema faz perguntas simples e binárias: "Se eu pressionar este botão vermelho específico, o sino toca?"
Por que funciona: Mesmo que a IA não consiga distinguir entre as duas máquinas complexas, ela é muito boa em responder a perguntas simples de causa e efeito. Pressionar um botão e ver um resultado é fácil para a IA prever.

2. O Loop Bayesiano (O Detetive)

Esta é a parte que faz o trabalho pesado. É um loop matemático executado fora da IA.

A Estratégia: O detetive começa com uma lista de todos os possíveis projetos de máquinas.
A Ação: Ele escolhe a pergunta que eliminará a maioria das respostas erradas. Ele pergunta à IA: "Se eu pressionar o Botão A, o sino toca?"
A Atualização:
- Se a IA disser "Sim", o detetive risca todos os projetos de máquinas onde o Botão A não tocaria o sino.
- Se a IA disser "Não", ele risca os projetos onde ele tocaria.
O Resultado: Com cada pergunta simples, a lista de possibilidades diminui. O detetive não precisa que a IA seja perfeita; ele só precisa que a IA seja um pouco melhor que o acaso.

Por que Isso é uma Mudança de Jogo

O artigo mostra que este método funciona onde tudo mais falha.

Sem Treinamento Necessário: A IA não precisa ser re-treinada em milhões de novos exemplos. Ela usa seu conhecimento existente para responder a perguntas simples.
Escala: À medida que os enigmas ficam mais difíceis (mais variáveis, máquinas mais complexas), os métodos antigos (Ajuste Fino) falham miseravelmente. Mas o sistema A-CBO continua ficando melhor. Ele pode resolver enigmas com 24 variáveis que deixam até os modelos mais avançados com ajuste fino sem resposta.
A Vantagem da "Preguiça": O sistema mantém a IA em seu estado "preguiçoso" (onde ela apenas prevê a próxima palavra), mas move a tomada de decisões para um lugar onde as limitações matemáticas da IA não se aplicam.

Resumo em Uma Frase

O artigo prova que a IA é matematicamente incapaz de distinguir, por conta própria, entre causas complexas e semelhantes, mas, ao transformar a IA em um simples questionador de "sim/não" e permitindo que um loop matemático faça o trabalho real de detetive, podemos resolver esses enigmas perfeitamente sem nunca precisar re-treinar a IA.

Resumo Técnico: Por que os LLMs Falham na Descoberta Causal e como Agentes Intervencionais Escapam

Declaração do Problema
A descoberta causal — a recuperação de estruturas de grafos causais a partir de dados estatísticos — é fundamental para o raciocínio científico, mas permanece um desafio aberto para os Modelos de Linguagem de Grande Escala (LLMs). Embora os LLMs se destaquem em tarefas de linguagem natural, benchmarks recentes (por exemplo, Corr2Cause) indicam que eles não conseguem distinguir de forma confiável entre grafos causais que geram dados observacionais semelhantes. Especificamente, os modelos têm dificuldade com hipóteses de "quase erro": Grafos Acíclicos Direcionados (DAGs) que pertencem a classes de equivalência de Markov diferentes, mas produzem declarações de independência condicional quase idênticas. Abordagens existentes, incluindo estratégias de prompting, ajuste fino supervisionado (SFT), otimização direta de preferência (DPO) e aprendizado em contexto (ICL), mostram degradação empírica à medida que a complexidade do grafo aumenta, contudo a razão teórica para essa falha não foi estabelecida.

Metodologia e Estrutura Teórica
Os autores formalizam a falha dos LLMs na descoberta causal como um Teorema de Obstrução de Kernel.

Teorema de Obstrução de Kernel (Teorema 1): O artigo prova que SFT, DPO e ICL produzem preditores operando dentro de um Espaço de Hilbert de Kernel Reprodutor (RKHS) com normas limitadas (o regime "preguiçoso" ou NTK). Para pares de hipóteses causais de "quase erro" (por exemplo, uma cadeia $V_1 \to V_2 \to V_3$ versus um garfo $V_1 \leftarrow V_2 \to V_3$ ), os tokens de dados observacionais são quase idênticos, levando a uma similaridade de kernel que se aproxima de 1 ( $\delta \to 0$ ).
- O teorema demonstra que, para separar essas hipóteses com uma margem de pontuação $\gamma$ , a norma do vetor de pesos do preditor ( $B$ ) deve crescer como $B \geq \gamma / (\kappa\sqrt{2\delta})$ .
- À medida que a complexidade do grafo ( $d$ ) aumenta, $\delta$ escala como $O(1/d^2)$ . Consequentemente, a norma necessária $B$ diverge para infinito. Como métodos de treinamento como SFT e DPO operam sob a restrição de normas limitadas (treinamento preguiçoso), eles são geometricamente incapazes de distinguir hipóteses de "quase erro" à medida que a complexidade cresce.
Otimização Bayesiana Causal Agêntica (A-CBO): Para escapar dessa obstrução, os autores propõem uma estrutura que move o processo de tomada de decisão discreta para fora do RKHS do LLM.
- Oráculo Intervencionista: Um LLM congelado atua exclusivamente como um oráculo respondendo a consultas intervencionistas binárias (por exemplo, "A $V_j$ muda sob $do(V_i=v)$ ?"). O Lema 2 prova que, embora os dados observacionais possam ser de "quase erro", as respostas intervencionistas são separadas por kernel por uma margem constante $\rho$ independente de $\delta$ .
- Loop Bayesiano Externo: Um agente externo mantém uma distribuição de probabilidade sobre grafos candidatos no simplex de probabilidade $\Delta^{n-1}$ . Ele usa pontuação baseada em teoria da informação (Ganho de Informação) para selecionar a intervenção mais discriminativa, consulta o LLM e atualiza a distribuição de crença via regra de Bayes.
- Convergência: Como a lógica de decisão opera no simplex e não no RKHS, a taxa de convergência é independente do parâmetro de "quase erro" $\delta$ . O Teorema 2 prova que o A-CBO converge para o grafo correto em $O(\log n)$ rodadas, desde que o grafo verdadeiro seja distinguível por intervenção.

Contribuições Principais

Prova Teórica da Falha: O artigo estabelece que a incapacidade dos LLMs de separar hipóteses causais de "quase erro" é uma obstrução geométrica fundamental intrínseca a preditores do tipo kernel (SFT, DPO, ICL) no regime preguiçoso, e não uma limitação da escala do modelo ou do volume de dados.
Estrutura A-CBO: A introdução da Otimização Bayesiana Causal Agêntica, que desacopla o papel do LLM (respondendo a consultas binárias locais) da decisão causal (seleção global de hipóteses), contornando assim a obstrução de kernel.
Benchmark Estendido: A criação do Corr2Cause Estendido, um novo benchmark que escala de 7 para 24 variáveis com 18.000 amostras de teste, projetado para testar a discriminação causal em escala onde as lacunas de "quase erro" encolhem para $O(1/d^2)$ .

Resultados Experimentais

Corr2Cause (Original): O A-CBO iguala ou supera o desempenho de linhas de base ajustadas finamente (por exemplo, LLaMA-7B FT) sem qualquer atualização de gradiente. Por exemplo, um modelo A-CBO de alto nível (GLM-5.1) alcançou um F1 de 93,2, superando o LLaMA-7B ajustado finamente (92,0).
Corr2Cause Estendido (d=7–24):
- Escalabilidade: Modelos ajustados finamente (SFT e DPO) degradam-se catastróficamente à medida que o tamanho do grafo aumenta, caindo para uma precisão próxima ao acaso (35,1% para SFT em $d=21-24$ ). Em contraste, o A-CBO mantém desempenho robusto (83,2% de precisão para modelos de alto nível) em todos os tamanhos de grafo.
- Crescimento da Vantagem: A lacuna de desempenho entre o A-CBO e as linhas de base ajustadas finamente cresce monotonicamente com a complexidade do grafo. Nos grafos mais difíceis ( $d=21-24$ ), o A-CBO supera o SFT em +44,7 pontos percentuais.
- Ablação: O próprio loop agêntico impulsiona o desempenho. Aplicar o A-CBO a modelos zero-shot produz ganhos massivos (por exemplo, +59,3 pp para Qwen3-30B), confirmando que a melhoria decorre da mudança arquitetônica e não da capacidade bruta do modelo.

Significado e Alegações
O artigo alega que a consulta intervencionista não é meramente uma heurística, mas uma fuga comprovadamente necessária e suficiente da obstrução do RKHS. Ao restringir o LLM a um papel de oráculo não decisório e delegar a discriminação de hipóteses a um loop bayesiano externo, o A-CBO alcança descoberta causal confiável em escala sem exigir que o modelo aprenda novas representações ou saia do regime de treinamento preguiçoso. Este trabalho fornece uma base principial para agentes LLM na ciência e na política, argumentando que a inteligência causal genuína exige ir além da supervisão correlacional para estruturas de raciocínio intervencionista que respeitam os limites geométricos dos paradigmas de aprendizado atuais.