Resumo Técnico: Agentes de LLM são Gerenciadores de Contexto Latentes

Declaração do Problema

Agentes de ferramentas de longo horizonte enfrentam um gargalo fundamental: sua memória de trabalho (contexto) cresce até sobrecarregar ou transbordar a janela de contexto do modelo. As abordagens existentes para gerenciar esse crescimento dividem-se em duas categorias, ambas as quais os autores argumentam que deixam uma lacuna crítica:

1. Gerenciamento Controlado pelo Sistema: Sistemas como paginação estilo SO ou mascaramento de observações obsoletas gerenciam o contexto abaixo do agente. Embora rastreiem estatísticas (tamanho, idade, uso), o agente não consegue inspecionar esse estado. As decisões são tomadas por regras fixas que não podem prever qual evidência será crítica mais tarde.
2. Gerenciamento Controlado pelo Agente (Aprendido): Métodos como "Contexto-como-uma-Ferramenta" ou políticas de compressão baseadas em aprendizado por reforço movem a decisão para o agente. No entanto, estes frequentemente dependem de sumarização ou exclusão, o que descarta a evidência exata. Além disso, estão atrelados a configurações e backbones específicos.

A hipótese central deste trabalho é que os modelos de Linguagem de Grande Escala (LLMs) de fronteira são proprioceptivamente cegos ao seu próprio contexto. Apenas pelo prompt, um agente não consegue perceber o tamanho, a idade, o histórico de acesso ou o orçamento restante de seus blocos de contexto. Os autores argumentam que o gerenciamento de contexto competente já está latente em modelos capazes (adquirido via pré-treinamento em rastros de tomada de notas e recuperação), mas o gargalo é uma interface ausente para expor esse estado, não uma política ausente.

Metodologia: VISTA

Os autores introduzem o VISTA (Visible Internal State for Tool Agents), uma camada livre de treinamento e agnóstica ao modelo, projetada para eliciar o autogerenciamento de contexto. O VISTA opera através de três componentes principais:

1. Fluxo de Contexto e Representação de Blocos

O VISTA reescreve o transcrito da interação bruta em um fluxo de blocos endereçáveis e tipados. Cada bloco (mensagem do usuário, chamada de ferramenta, resultado de ferramenta) recebe um identificador estável, tipo, estimativa de tokens e estado.

• Blocos Visíveis: Enviados ao modelo no prompt ativo.
• Blocos Arquivados: Substituídos por handles compactos (caminho, checksum, sumário) enquanto o payload de bytes exato é armazenado externamente em uma "trajetória oculta".
• Blocos Bloqueados/Excluídos: Resultados excessivamente grandes que não cabem são ou bloqueados (com uma notificação) ou explicitamente excluídos.

2. O Dashboard Proprioceptivo

A cada etapa, o agente recebe o fluxo de contexto visível mais um dashboard. Este dashboard não é um oráculo aprendido, mas um relatório de tempo de execução do estado do espaço de trabalho ($W_t$), incluindo:

• Barra de Orçamento: Uso atual de tokens vs. limite.
  ే
• Metadados do Bloco: ID, contagem estimada de tokens, idade/recência, tipo e status (visível, fixado, arquivado, bloqueado).
• Histórico de Acesso: Rastreia quais blocos foram acessados recentemente.

Este dashboard fornece os sinais "proprioceptivos" (tamanho, custo, recência) que o agente precisa para tomar decisões de manter ou descartar, mas que não consegue inferir apenas pelo texto.

3. Ferramentas de Meta-Contexto

O agente é equipado com ferramentas para agir sobre o dashboard:

• archive(block_id, summary): Remove um bloco do prompt ativo, armazena o payload exato externamente e retorna um handle.
• recover(path): Recupera o payload idêntico em bytes do armazenamento externo.
• Mudança de Modo: Se o prompt exceder o orçamento, o sistema entra em "modo de overflow", desabilitando chamadas de ferramentas comuns até que o agente reduza o contexto visível (geralmente através de arquivamento).

Garantia Teórica: O artigo prova (Proposição 1) que sob pressão de orçamento, a recuperação sem perdas é necessária. Um método de não-recuperação (exclusão, sumarização) com um estado de informação limitado não pode garantir a recuperação de bits de evidência futura específicos e desconhecidos com alta probabilidade, enquanto o VISTA pode atingir probabilidade 1 se o bloco recuperado couber no orçamento.

Principais Contribuições

1. Enquadramento do Gerenciamento de Contexto como uma Decisão de Meta-Ferramenta: O artigo identifica a "propriocepção de contexto" como a interface ausente. Argumenta que agentes de LLM não conseguem ler o estado do seu próprio contexto (tamanho, orçamento, histórico) a partir do prompt, necessitando de uma interface externa.
2. Implementação do VISTA: Uma camada livre de treinamento e agnóstica ao modelo que pareia um dashboard de metadados por bloco com mecanismos de arquivamento e recuperação sem perdas. Ele isola a questão do "o que expor" da questão do "como agir".
3. Validação Empírica: Demonstra que a mesma interface não treinada melhora o desempenho através de diferentes escalas de trajetória (10K a 1M de tokens) e diversos backbones de modelos.

Resultados Experimentais

Os autores avaliaram o VISTA no LOCA-Bench (teste de estresse de um milhão de tokens), BrowseComp-Plus (recuperação em escala de 100K) e GAIA (assistente geral em escala de 10K).

• Ganhos de Desempenho: No LOCA-Bench, o VISTA melhorou a taxa de sucesso do Gemini-3-Flash de 22,7% para 50,7% e do Claude-Sonnet-4.5 de 8,0% para 34,7%. Superou os baselines de ReAct, exclusão/mascaramento e métodos baseados em compressão (SLIM, Context-Folding).
• Transferência entre Backbones: A mesma camada VISTA não treinada melhorou o desempenho em quatro backbones diferentes (Gemini-3-Flash, Claude-Sonnet-4.5, DeepSeek-V4-Pro, GLM-5), sugerindo que os ganhos se devem à elicitação de habilidades latentes e não ao ajuste específico do modelo.
• Estudos de Ablação:
  • O Dashboard é Crítico: Remover o dashboard (deixando as ferramentas de arquivo/recuperação, mas sem a visão de estado) causou uma queda significativa na precisão (ex: de 50,7% para 37,3% no LOCA-Bench), confirmando que o agente precisa da interface de estado para usar as ferramentas de forma eficaz.
  • Recuperação Sem Perdas é Necessária: Remover a capacidade de recuperação (transformando o arquivamento em uma simples limpeza) também degradou o desempenho, validando a necessidade teórica de preservação do payload exato.
• Sensibilidade à Pressão: À medida que a pressão de crescimento do contexto aumentava (de 8K para 256K tokens), a lacuna de desempenho entre o VISTA e os baselines aumentava, indicando que a interface proprioceptiva torna-se mais valiosa conforme o gerenciamento de contexto se torna mais difícil.
• Transferência Offline: No AMA-Bench (memória de trajetória offline), o VISTA alcançou pontuações F1 mais altas do que adaptadores de memória especializados, demonstrando sua utilidade como uma representação de espaço de trabalho geral.

Significância e Alegações

O artigo afirma que o gerenciamento de contexto é um problema de interface, não apenas um problema de compressão ou política.

• Elicitação sobre Treinamento: Os resultados sugerem que modelos capazes já possuem a habilidade latente de gerenciar o contexto se o estado de execução necessário (tamanho, orçamento, histórico) for tornado visível. O dashboard atua como um canal "proprioceptivo" que desbloqueia essa competência latente sem exigir fine-tuning ou políticas aprendidas.
• Complementaridade: O VISTA é posicionado como complementar ao pós-treinamento. Enquanto o treinamento melhora como um agente age sobre a informação, o VISTA fornece a informação que de outra forma estaria ausente do prompt.
• Modéstia: Os autores reconhecem limitações: o VISTA não garante que o agente usará o dashboard corretamente (um modelo ainda pode ler incorretamente) e não substitui a necessidade de modelos com habilidades latentes de gerenciamento de contexto. Os ganhos são mais pronunciados em modelos com capacidade latente suficiente (ex: o GLM-5 apresentou ganhos menores).

Em resumo, o VISTA demonstra que tornar visível o estado de execução oculto do contexto de um agente via dashboard, aliado à recuperação sem perdas, permite que modelos não treinados gerenciem tarefas de longo horizonte de forma mais eficaz do que sistemas que dependem de regras fixas ou políticas de compressão aprendidas.