Resumo Técnico: A Lacuna Preditivo-Causal

Declaração do Problema

O artigo aborda uma modalidade de falha fundamental na aprendizagem de representações preditivas, um paradigma dominante em campos que vão desde modelos de mundo e modelos de espaço de estado neural até grandes modelos de linguagem (LLMs) treinados via previsão do próximo token. A premissa predominante é que a minimização do erro de previsão em observações levará naturalmente a representação aprendida a capturar a estrutura causal do sistema subjacente.

Os autores desafiam essa premissa definindo um "sistema" ($s$) como os graus de liberdade que o modelador considera importantes, e um "ambiente" ($e$) como todas as outras variáveis. Eles demonstram que, quando os modos do ambiente são mais lentos ou menos ruidosos do que os modos do sistema, a representação preditiva ótima não rastreia o sistema. Em vez disso, ela rastreia o ambiente. Esse fenômeno é denominado lacuna preditivo-causal: a degradação na fidelidade causal (a fração da sensibilidade do codificador alocada aos graus de liberdade do sistema) que ocorre ao otimizar um objetivo preditivo em vez de um objetivo causal.

Metodologia

Os autores empregam uma abordagem analítica de três níveis para caracterizar essa lacuna:

1. Prova Teórica (Teorema da Impossibilidade):

   • Os autores provam o Teorema 1, estabelecendo que, para qualquer classe de modelos que contenha todos os codificadores lineares, existem dinâmicas lineares-Gaussianas estáveis onde cada minimizador do risco preditivo populacional está estritamente desalinhado com o subespaço do sistema.
   • Eles demonstram que o conjunto de dinâmicas que exibem essa propriedade é aberto e possui medida positiva no espaço de parâmetros, o que significa que não é um caso raro, mas uma propriedade genérica.
   • O Corolário 2 prova que aumentar a capacidade do modelo (ampliando a classe de modelos) não pode resolver esse problema; só pode reduzir o risco ainda mais, reforçando assim o compromisso com o codificador não causal (dominado pelo ambiente).

2. Experimentos em Grande Escala com Dinâmicas Lineares-Gaussianas:

   • Foi realizado um varredura de parâmetros sobre 539 configurações de dinâmicas lineares-Gaussianas, resultando em 2.695 execuções de treinamento independentes usando codificadores MLP de duas camadas.
   • Os experimentos mediram a fidelidade causal ($|\partial \phi / \partial s| / (|\partial \phi / \partial s| + |\partial \phi / \partial e|)$) e o erro de previsão.
   • Extensões de alta dimensão ($N=10, 50, 100$ modos do ambiente) foram analisadas para testar efeitos de escalabilidade.

3. Validação com Dinâmicas Não Lineares:

   • Preditores GRU de camada única foram treinados em um oscilador de Duffing acoplado a um ambiente oculto de Ornstein–Uhlenbeck.
   • Duas condições de treinamento foram comparadas: não restrito (prevendo o estado completo) e fundamentação operacional (restringindo a perda apenas aos observáveis do sistema).
   • A robustez foi testada via avaliação fora da distribuição (OOD) sob deslocamentos na distribuição do ambiente.

Resultados Principais

1. Falha Sistemática em Sistemas Lineares

• Em uma varredura de 160 configurações lineares determinísticas, o codificador ótimo alinhado com o sistema (codificador Nova Zelândia/NZ) ocorreu em apenas 25% dos casos (os casos diagonais, desacoplados).
• Em 75% dos casos (qualquer acoplamento fora da diagonal não nulo), o codificador ótimo afastou-se do eixo do sistema.
• A regularização do Gargalo de Informação (IB) foi testada, mas mostrou-se falha; a direção ótima de compressão alinhou-se com a direção ótima de previsão, reforçando o viés ambiental em vez de corrigi-lo.

2. Evidência de Redes Neurais

• Em 2.695 execuções de treinamento, a fidelidade causal média do codificador ótimo de rede neural foi 0,49, com apenas 2,5% das configurações superando 0,70.
• A rede neural alcançou um erro de previsão 99,3% menor do que o codificador linear ótimo, no entanto, esse desempenho preditivo aprimorado correspondeu a uma representação mais distante da codificação causal.
• Colapso de Alta Dimensão: À medida que o número de dimensões do ambiente ($N$) aumentou para 100, a fidelidade causal colapsou para $\sim 10^{-8}$ (efetivamente zero), enquanto a lacuna de erro de previsão cresceu para 92%. O codificador ótimo tornou-se "cego causalmente".

3. Confirmação Não Linear e Fundamentação Operacional

• Em tarefas não lineares de Duffing–GRU, preditores não restritos aprenderam representações dominadas pelo ambiente em 55% das tarefas, comparado a 24% sob fundamentação operacional.
• Robustez OOD: Sob deslocamentos na distribuição do ambiente, modelos não restritos sofreram uma inflação mediana do Erro Quadrático Médio (MSE) de 1,82$\times$, enquanto modelos fundamentados permaneceram estáveis em 1,00$\times$.
• O artigo observa que a fundamentação operacional (restringindo a perda aos observáveis do sistema) suprime parcialmente a lacuna, mas não pode recuperar totalmente a fidelidade causal sem uma fronteira explícita sistema-ambiente na arquitetura.

Significado e Alegações

O artigo alega identificar a lacuna preditivo-causal como um limite estrutural da aprendizagem, e não um artefato de otimização, um problema de dados finitos ou um problema solucionável por escalabilidade.

• Leis de Escala: Os autores argumentam que as leis de escala empíricas (decaimento suave em lei de potência da perda com parâmetros/dados) quantificam a "quantidade errada". Elas medem a redução do risco preditivo, que pode acompanhar o movimento para longe da estrutura causal. A escalabilidade "afina a resposta para a pergunta errada".
• Objetivos Auto-supervisionados: A falha é inerente a qualquer objetivo que compute a perda em um espaço de observação não particionado. Seja usando auto-codificação mascarada, arquiteturas preditivas de incorporação conjunta (JEPA) ou aprendizado contrastivo, a ausência de uma distinção explícita sistema-ambiente na função de perda permite minimizadores dominados pelo ambiente.
• Interface Operacional: O artigo postula que recuperar a estrutura causal requer uma "interface operacional"—uma especificação de quais graus de liberdade pertencem ao sistema e são permitidos como entradas do codificador. Técnicas como RLHF, ajuste por instruções e pós-treinamento com recompensa verificável são enquadradas não como camadas de alinhamento, mas como as interfaces operacionais necessárias que convertem problemas preditivos mal-postos em problemas de identificação bem-postos.

Em conclusão, o artigo afirma que um modelo treinado para prever o próximo passo em um sistema composto aprenderá a rastrear o que for mais fácil de prever (frequentemente o ambiente), e não o que é causalmente relevante. Isso é descrito como "a resposta certa para o problema errado".