Transformers Remember First, Forget Last: Dual-Process Interference in LLMs

Título: Transformers Lembram Primeiro, Esquecem por Último: Interferência de Duplo Processo em LLMs

1. Problema e Motivação

O artigo investiga como os Grandes Modelos de Linguagem (LLMs) lidam com informações conflitantes no contexto (memória de curto prazo/in-context). Especificamente, o estudo questiona: quando um modelo enfrenta informações novas que contradizem informações antigas, quais memórias sobrevivem?

• Contexto Humano: Na psicologia cognitiva humana, a Interferência Retroativa (RI) domina: novas informações tendem a apagar ou dificultar o acesso a memórias antigas.
• Hipótese do Estudo: Os autores propõem testar se os LLMs seguem o mesmo padrão humano ou se exibem uma dinâmica de memória distinta, adaptando paradigmas clássicos de interferência da psicologia para avaliar 39 modelos de linguagem diversos.

2. Metodologia

Os pesquisadores adaptaram o paradigma clássico de interferência AB-AC da psicologia cognitiva para testar LLMs:

• Tarefa: Os modelos foram apresentados a 46 pares de categoria-valor (ex: "Arte Visual: Impressionismo"). Em seguida, receberam $N$ atualizações intercaladas para essas mesmas categorias (ex: "Arte Visual: Barroco"), onde $N$ variava de 3 a 300 atualizações.
• Condições de Teste:
  1. Interferência Retroativa (RI): O modelo deve recuperar o valor inicial (antes das atualizações), ignorando as informações novas conflitantes.
  2. Interferência Proativa (PI): O modelo deve recuperar o valor mais recente (após as atualizações), ignorando as informações antigas que competem pela atenção.
• Escala: Foram testados 39 LLMs (incluindo arquiteturas Open-weight como Llama, Mistral, Qwen e proprietárias como GPT-4o, Claude-3.5, o1, o3), variando de 1 bilhão a 2,5 trilhões de parâmetros, com janelas de contexto de 8K a 2M tokens.
• Métricas: Foi desenvolvido o Retroactive Interference Endurance Score (RIES) e o Proactive Interference Endurance Score (PIES), calculados como a área sob a curva de precisão versus nível de interferência (escala logarítmica).

3. Principais Contribuições e Resultados

A. Padrão de Interferência Invertido (PI > RI)

• Descoberta Central: Todos os 39 modelos testados exibiram o padrão oposto ao humano: a Interferência Proativa (PI) domina a Retroativa (RI).
• Significado: Os LLMs protegem as codificações iniciais (primazia) à custa das informações recentes. Enquanto humanos esquecem o passado devido ao novo, os Transformers esquecem o presente devido ao passado.
• Magnitude: A diferença é estatisticamente significativa (Cohen's $d = 1.73$, $p < 0.0001$). A precisão para recuperar o valor inicial (RI) permanece alta mesmo com muitas atualizações, enquanto a precisão para o valor mais recente (PI) colapsa drasticamente (de 85% para ~2% em alguns casos).

B. Mecanismos Distintos (Evidência de Duplo Processo)
O estudo rejeita a hipótese de uma "capacidade de memória unificada", demonstrando que RI e PI envolvem mecanismos computacionais diferentes:

1. Correlação Nula: O desempenho em RI e PI é essencialmente não correlacionado ($R^2 = 0.044$). Um modelo bom em um não é necessariamente bom no outro.
2. Relação com o Tamanho do Modelo:
   • RI: O tamanho do modelo (número de parâmetros) prediz fortemente a resistência à RI ($R^2 = 0.49$). Modelos maiores têm melhor capacidade de manter o valor inicial.
   • PI: O tamanho do modelo não prediz a resistência à PI ($R^2 = 0.06$, não significativo). A dificuldade em acessar o valor recente é uma restrição arquitetônica, não de capacidade.
3. Análise de Erros:
   • Falhas em RI (Passivas): Ocorrem principalmente por "falha de recuperação" (51%). O modelo não consegue acessar o valor inicial; ele foi "sobrescrito" ou diluído.
   • Falhas em PI (Ativas): Ocorrem principalmente por "intrusão de primazia" (56%). O modelo tenta acessar o valor recente, mas o valor inicial (ou antigo) invade a resposta ativamente.
   • Alucinação Mínima: Ambos os tipos de erro apresentam taxas de alucinação (<1%), indicando que o problema é de seleção/recuperação, não de geração de dados fictícios.

C. Impacto de Arquiteturas Específicas

• Modelos de Raciocínio (ex: o1, o3): Mostram uma resistência excepcional à RI (18% melhor que modelos padrão), sugerindo que o raciocínio ajuda na "consolidação" da memória inicial. No entanto, eles sofrem drasticamente com a PI, muitas vezes pior que modelos padrão, indicando um custo de "acesso à recência".
• Viés Posicional: A análise de erros revela que, em falhas de PI, o modelo tende a retornar valores das posições iniciais (viés de primazia), enquanto em falhas de RI, os erros vêm de posições intermediárias ou tardias.

4. Discussão e Interpretação Teórica

Os autores propõem que os Transformers operam sob um mecanismo de Duplo Processo análogo, mas invertido, à ciência cognitiva humana:

• RI (Consolidação): Depende da capacidade representacional. Modelos maiores usam vetores mais ortogonais (reduzindo a "superposição" de características), permitindo que a codificação inicial sobreviva às atualizações.
• PI (Recuperação/Atenção): É uma restrição arquitetônica do mecanismo de Self-Attention. Os tokens iniciais acumulam atenção de todas as posições subsequentes ("attention sinks"), criando uma proteção de primazia que impede o modelo de focar no token mais recente, independentemente do tamanho do modelo.

5. Significado e Implicações Práticas

• Seleção de Modelos:
  • Para tarefas que exigem memória histórica robusta (análise de documentos longos, rastreamento de estado inicial), modelos maiores e de raciocínio são ideais.
  • Para tarefas que exigem rastreamento de estado recente (diálogo, atualizações em tempo real), os modelos atuais são subótimos, especialmente os modelos de raciocínio, devido ao forte viés de primazia.
• Desenvolvimento Futuro: A pesquisa sugere que aumentar o tamanho do modelo ou a janela de contexto não resolve o problema de PI. Soluções futuras devem focar em intervenções arquitetônicas, como atenção ponderada pela recência ou desviés posicional.
• Validação: O estudo destaca que benchmarks atuais de "longo contexto" muitas vezes testam apenas a capacidade de busca (localização), não a resistência à interferência semântica, o que pode levar a uma superestimação das capacidades de memória dos LLMs em cenários reais.

Conclusão

O artigo estabelece que os Transformers possuem um perfil de interferência fundamentalmente diferente da memória biológica: eles são "proativos" (o passado bloqueia o presente) em vez de "retroativos" (o presente bloqueia o passado). Essa descoberta revela que a memória em LLMs não é um recurso unificado, mas sim composta por processos de consolidação (dependentes de capacidade) e recuperação (dependentes de arquitetura) distintos, com implicações críticas para o design e a aplicação segura de modelos em cenários dinâmicos.