Language Models Struggle to Use Representations Learned In-Context

1. Declaração do Problema

Enquanto os Modelos de Linguagem de Grande Escala (LMs) demonstraram capacidades impressionantes na previsão do próximo token e no raciocínio complexo, persiste uma lacuna crítica em sua capacidade de funcionar como agentes artificiais verdadeiramente adaptáveis. Especificamente, o artigo investiga se os LMs podem implantar flexivelmente representações ricas e estruturadas de dados aprendidas inteiramente em contexto (ou seja, sem atualizações de parâmetros) para resolver novas tarefas subsequentes.

Trabalhos anteriores (Park et al., 2025a) estabeleceram que os LMs podem codificar novas semânticas em seus estados ocultos latentes quando expostos a um contexto específico (por exemplo, aprendendo a topologia de um passeio aleatório). No entanto, não está claro se essas representações são inertes (decodificáveis, mas não utilizadas) ou implantáveis flexivelmente (causando respostas a novas tarefas). A questão central é: Um LM pode aprender uma estrutura em contexto e, em seguida, usar ativamente essa estrutura para resolver uma tarefa diferente que exige essa mesma estrutura?

2. Metodologia

Os autores projetaram uma série de experimentos usando tarefas sintéticas para desvendar a codificação (aprendizado da representação) da implantação (uso da representação).

A. Tarefa Central: Rastreamento de Grafos e Aprendizado de Representação em Contexto (ICRL)

• Configuração: Os modelos são apresentados a uma sequência de tokens arbitrários gerados por um passeio aleatório sobre um espaço de estados latente (as topologias incluem linhas 1D e grades 2D de 16 ou 25 estados).
• Métrica: Os autores utilizam Energia de Dirichlet (DE) e Correlação de Distância (DC) para medir se as representações da camada oculta do modelo se reorganizaram para refletir a topologia geométrica do espaço de estados.
• Objetivo: Confirmar que o modelo aprendeu com sucesso a topologia em seu espaço latente.

B. Experimento 1: Previsão do Próximo Token com Atraso

• Objetivo: Testar se a topologia aprendida pode ser usada para prever o próximo token após um atraso.
• Condições:
  1. Pré-preenchido: A sequência do passeio aleatório é fornecida como parte da própria resposta gerada pelo modelo (implantação imediata).
  2. Instrução: A sequência é fornecida no prompt do usuário, exigindo que o modelo gere um token [RESPOSTA] e, em seguida, preveja a próxima palavra após uma lacuna (implantação atrasada).
• Hipótese: Se as representações forem flexíveis, o desempenho deve ser semelhante em ambas as condições. Se forem inertes, o desempenho deve cair significativamente na condição de Instrução.

C. Experimento 2: Modelagem de Mundo Adaptativa (AWM)

• Objetivo: Uma tarefa nova projetada para forçar o modelo a usar a topologia aprendida para inferir uma regra de transformação.
• Configuração:
  1. Fase 1: O modelo observa um passeio aleatório (aprendendo a topologia).
  2. Fase 2: Exemplos few-shot definem uma regra de mapeamento de estados (por exemplo, $s_{i,j} \to s_{i+2,j}$).
  3. Fase 3: O modelo deve aplicar essa regra a um estado retido (held-out).
• Desafio: Como os tokens são arbitrários, o modelo deve confiar na topologia aprendida em contexto para resolver o mapeamento.
• Variações: Testado com regras de "1 passo" (regra observada no passeio) e "2 passos/3 passos" (regra não observada).

D. Experimento 3: Modelos de Raciocínio de Vanguarda

• Sujeitos: Modelos de "raciocínio" de última geração (Gemini-2.5 Pro/Flash, GPT-5) que utilizam raciocínio em Cadeia de Pensamento (CoT).
• Objetivo: Determinar se cadeias de raciocínio externalizadas podem compensar representações ocultas inertes.
• Análise: Testado na AWM e em uma tarefa de "Descrição de Estrutura" (pedindo ao modelo que descreva verbalmente a topologia aprendida).

3. Principais Contribuições

1. Introdução da Modelagem de Mundo Adaptativa (AWM): Uma nova tarefa de benchmark projetada especificamente para sondar a implantação flexível de semânticas em contexto.
2. Desacoplamento da Codificação da Implantação: O estudo fornece evidências empíricas de que o aprendizado bem-sucedido de representação em contexto (codificação) não garante a capacidade de usar essas representações para tarefas subsequentes (implantação).
3. Análise de Modelos de Raciocínio: A primeira avaliação sistemática de se os modelos de raciocínio de vanguarda superam a limitação de "representação inerte" encontrada em modelos padrão de pesos abertos.

4. Principais Resultados

A. Modelos de Pesos Abertos (Gemma, OLMo)

• Sucesso na Codificação: Os modelos aprenderam com sucesso a topologia em suas representações latentes (as métricas DE e DC melhoraram com o comprimento do contexto) em ambas as condições de Instrução e Pré-preenchido.
• Falha na Implantação:
  • Previsão do Próximo Token: Os modelos performaram bem na condição Pré-preenchida, mas lutaram significativamente na condição de Instrução (implantação atrasada), apesar de possuírem representações latentes equivalentes.
  • Tarefa AWM: Os modelos falharam em resolver a tarefa AWM quando exigidos a inferir a topologia em contexto. A precisão foi próxima à linha de base.
  • Descoberta Crucial: Quando a topologia foi fornecida explicitamente no prompt (contornando a necessidade de aprendê-la em contexto), a precisão saltou para >75%. Isso prova que a falha não estava na indução de regras, mas em implantar a representação aprendida em contexto.
  • Degradação da Representação: As representações ocultas dos tokens nos exemplos few-shot (fase AWM) mostraram menor fidelidade à topologia em comparação com a fase de passeio aleatório, sugerindo que a estrutura aprendida não estava sendo transferida de forma flexível.

B. Modelos de Raciocínio de Vanguarda (Gemini, GPT-5)

• Melhoria Parcial: Os modelos de raciocínio superaram os modelos de pesos abertos, particularmente em topologias 1D (linhas).
• Limitações Persistentes: O desempenho colapsou em topologias 2D (grades).
• Mecanismo: Quando solicitados a descrever explicitamente a topologia aprendida, esses modelos alcançaram precisão "razoável, mas não perfeita". Isso sugere que, embora as cadeias CoT permitam alguma implantação flexível de semânticas, o processo é imperfeito e não supera totalmente a inércia das representações ocultas subjacentes.

5. Significado e Implicações

• O Problema da "Representação Inerte": O artigo desafia a suposição de que o aprendizado em contexto cria um "modelo de mundo" totalmente funcional. Sugere que os LMs frequentemente codificam estruturas dependentes de contexto de uma maneira que é inerte — elas existem no espaço latente, mas não podem ser acessadas causalmente para impulsionar comportamentos em novos contextos.
• Limitações das Arquiteturas Atuais: Mesmo os modelos de raciocínio mais avançados (CoT) mitigam apenas parcialmente essa questão. Isso implica que as arquiteturas de transformador atuais, mesmo com raciocínio estendido, podem carecer dos mecanismos necessários para agentes verdadeiramente adaptáveis que possam construir e implantar modelos de mundo internos sob demanda.
• Direções Futuras: Os autores sugerem que alcançar a implantação flexível pode exigir:
  • Regimes de treinamento direcionados.
  • Intervenções mecânicas para tornar as semânticas em contexto disponíveis para camadas anteriores do modelo.
  • Mudanças arquiteturais que suportem o vínculo dinâmico de representações aprendidas ao raciocínio subsequente.

Em resumo, o artigo demonstra que, embora os LMs sejam excelentes em registrar novas informações em sua janela de contexto, eles atualmente lutam para agir sobre essas informações quando isso requer uma aplicação flexível e causal da estrutura aprendida a uma tarefa nova.