🤖 AI

Retain or Consolidate? Budget-Dependent Operator Selection for Language Agent Memory

Este artigo propõe uma estrutura dependente de orçamento para a memória de agentes de linguagem que seleciona dinamicamente entre reter registros brutos e consolidá-los por meio de operadores específicos (Mesclar, Abstrair ou Reescrever) com base em estimativas de compensações de utilidade, demonstrando através de benchmarks que a consolidação supera significativamente a retenção sob orçamentos de contexto restritos, enquanto a retenção permanece preferível quando os recursos são abundantes.

Autores originais: Qingcan Kang, Mingyang Liu, Shixiong Kai, Kaichao Liang, Zhentao Tang, Yuqi Cui, Tao Zhong, Mingxuan Yuan

Publicado 2026-07-21

📖 8 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Qingcan Kang, Mingyang Liu, Shixiong Kai, Kaichao Liang, Zhentao Tang, Yuqi Cui, Tao Zhong, Mingxuan Yuan

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está tentando resolver um mistério enorme, mas só tem um caderninho para anotar as pistas. Esta é a realidade diária dos "agentes de linguagem" — programas de computador inteligentes movidos por Grandes Modelos de Linguagem (LLMs) que conversam conosco, resolvem problemas e tomam decisões. Esses agentes são como detetives que precisam se lembrar de tudo o que viram, ouviram ou leram para acertar a resposta. Mas aqui está o problema: seus "caderninhos" (chamados de janelas de contexto) têm um limite estrito de páginas. Se tentarem socar pistas demais, o caderno rasga, ou o detetive fica sobrecarregado e começa a cometer erros. Além disso, cada página extra custa dinheiro e tempo para ser lida.

Então, a grande questão para esses detetives digitais é: Como você encaixa as pistas mais importantes em um espaço minúsculo sem perder os detalhes cruciais? Você tem duas escolhas principais. Você pode manter as pistas brutas exatamente como elas são (Retenção), esperando que todas caibam, ou pode reescrever e combinar as informações em um resumo mais curto (Consolidação). O primeiro método é seguro, mas volumoso; o segundo é eficiente, mas arriscado, porque você pode acidentalmente jogar fora um fato crucial ao tentar economizar espaço. Por muito tempo, os cientistas não tinham certeza de qual estratégia era melhor ou quando mudar entre elas.

Este artigo, intitulado "Retain or Consolidate? Budget-Dependent Operator Selection for Language Agent Memory" (Reter ou Consolidar? Seleção de Operador Dependente de Orçamento para Memória de Agente de Linguagem), aborda exatamente esse dilema. Os pesquisadores descobriram que não existe uma única maneira "melhor" de gerenciar a memória. Em vez disso, a escolha certa depende inteiramente de quão apertado é o "orçamento" (o limite de espaço). Eles descobriram um "ponto de virada" fascinante: quando o orçamento é extremamente apertado, resumir e mesclar pistas é um salva-vidas, aumentando a precisão em até 48%, porque espreme informações que, de outra forma, seriam deixadas de fora. No entanto, uma vez que o orçamento é amplo o suficiente para acomodar as pistas brutas confortavelmente, o resumo na verdade prejudica o desempenho porque embaça detalhes importantes. Os autores construíram uma ferramenta inteligente e leve chamada OAS (Offline Abstraction-Safety), que atua como um guarda de trânsito, observando a situação antes de escrever qualquer coisa e decidindo: "Precisamos comprimir ou podemos manter o original?". Seus experimentos mostram que essa troca inteligente funciona melhor do que apenas seguir uma regra fixa, provando que saber quando resumir é tão importante quanto saber como.

O Dilema do Detetive: Manter ou Resumir?

Imagine que você é um detetive tentando resolver um caso, mas seu caderno está encolhendo. Você tem um monte de evidências: depoimentos de testemunhas, fotos e recibos. Se você tentar colar a foto inteira no seu caderno, ela pode não caber. Se não couber, você perde a evidência. Se você tentar descrever a foto em uma frase, ela cabe, mas você pode perder um detalhe minúsculo, como a cor do chapéu do suspeito.

No mundo da IA, esta é a batalha entre Retenção e Consolidação.

Retenção é como tirar uma fotocópia da evidência e colá-la. É perfeito porque nada é perdido, mas ocupa muito espaço.
Consolidação é como escrever um resumo. Economiza espaço e pode transformar dez páginas de notas em uma só, mas há um risco: o resumo pode perder o fato único que resolve o caso.

Por muito tempo, os sistemas de IA apenas escolhiam uma estratégia e mantinham o foco nela. Alguns sempre resumiam; outros sempre mantinham o texto bruto. Mas os pesquisadores deste artigo fizeram uma pergunta mais inteligente: Por que não ter um assistente inteligente que decida qual estratégia usar com base em quanto espaço resta?

A Descoberta do "Ponto de Virada"

A equipe realizou uma série de experimentos usando dois conjuntos de quebra-cabeças famosos (chamados de benchmarks) para ver o que acontece quando alteramos o tamanho do caderno. Eles testaram orçamentos variando de muito pequenos (32 tokens) até bastante grandes (256 tokens).

Aqui está o que eles descobriram, e é um pouco como um balanço de pratos:

Quando o orçamento é super apertado (32 ou 64 tokens): A evidência bruta simplesmente não cabe. Se você tentar manter o texto original, terá que jogar a maior parte fora, e a IA terá uma pontuação quase zero. Mas se você usar a Consolidação (especificamente um método chamado "Abstract" ou "Merge"), a IA consegue resumir as pistas, encaixá-las e a precisão salta massivamente em 48%. Nesta zona, o resumo é um herói.
Quando o orçamento é amplo (256 tokens): A evidência bruta cabe perfeitamente. Neste caso, o resumo torna-se um vilão. Ele começa a embaçar os detalhes, e a precisão da IA cai cerca de 8% a 11% em comparação com apenas manter o texto original. Aqui, "menos é mais" é uma má ideia; você quer que "mais seja mais".

O artigo chama isso de Crossover de Orçamento (Budget Crossover). Ele prova que a melhor estratégia não é fixa; ela muda dependendo de quanta pressão você está sofunder.

O Guarda de Trânsito Inteligente: OAS

Então, como uma IA sabe quando mudar? Os pesquisadores construíram uma ferramenta chamada OAS (Offline Abstraction-Safety). Pense no OAS como um guarda de trânsito super inteligente parado no cruzamento entre "Manter" e "Resumir".

Antes mesmo da IA começar a escrever um resumo, o OAS observa alguns detalhes:

Quanto espaço resta?
Quantas pistas existem?
As pistas são bagunçadas ou repetitivas?

Com base nessas notas pré-escritas, o OAS prevê a pontuação para cada opção. Ele pergunta: "Se eu resumir, ganharei mais pontos ao incluir novas informações ou perderei pontos ao estragar os detalhes?"

Se o ganho previsto for alto, o OAS diz: "Vá! Resuma!"
Se o ganho previsto for baixo ou negativo, o OAS diz: "Pare! Mantenha o original!"

Os pesquisadores testaram este "guarda de trânsito" nos conjuntos de quebra-cabeças. Eles descobriram que o OAS aprendeu com sucesso a alternar estratégias no momento certo. Quando o orçamento estava apertado, ele escolheu a sumarização e aumentou a pontuação. Quando o orçamento estava amplo, ele escolheu manter o texto bruto e evitou a queda na precisão.

Qual Sumarizador é o Melhor?

O artigo também testou três formas diferentes de resumir, como diferentes estilos de escrita de um resumo:

Merge (Mesclar): Combinar várias notas em um grande bloco.
Abstract (Abstrair): Escrever um resumo de alto nível que captura a ideia principal.
Rewrite (Reescrever): Refrasear cada nota individualmente para torná-la mais curta.

Eles descobriram que, quando o espaço é apertado, Merge e Abstract costumam ser os vencedores. Eles são melhores em combinar informações de diferentes notas para economizar espaço. Rewrite é frequentemente menos eficaz porque trata cada nota separadamente e não economiza tanto espaço. No entanto, o artigo observa que não existe um sumarizador "perfeito" para todas as situações; depende das pistas específicas.

O Que o Artigo NÃO Diz

É importante saber o que este artigo não afirma. Os autores são cuidadosos ao não dizer que resumir é sempre melhor, ou que é sempre pior. Eles explicitamente descartam a ideia de que existe um único "número mágico" de palavras que funcione para todos. Em vez disso, eles mostram que o "número mágico" muda dependendo da situação.

Eles também não afirmam que sua ferramenta (OAS) é perfeita ou que funciona para todos os tipos de IA do mundo. Eles a testaram em conjuntos de dados específicos e descobriram que funciona bem neles, mas admitem que, no mundo real, as coisas podem ser mais desordenadas. Eles também não encontraram uma maneira de tornar o processo de sumarização em si perfeito; eles apenas descobriram o melhor momento para usá-lo.

A Conclusão

A principal lição deste artigo é que a flexibilidade é a chave. Assim como um detetive humano não usaria a mesma estratégia para um pequeno furto de bairro que usaria para uma enorme conspiração internacional, uma IA não deve usar a mesma estratégia de memória para cada pergunta.

Os pesquisadores mostraram que, ao observar a "pressão do orçamento", uma IA pode decidir se mantém suas notas brutas ou as comprime. Quando o espaço é apertado, comprimir é um salva-vidas. Quando o espaço é aberto, manter os detalhes brutos é a aposta mais segura. Sua ferramenta, o OAS, atua como o cérebro que faz essa troca automaticamente, garantindo que a IA obtenha a melhor pontuação possível sem desperdiçar espaço ou perder fatos críticos. É um passo pequeno, mas poderoso, para tornar os detetives de IA mais inteligentes, eficientes e menos propensos a esquecer as pistas que realmente importam.

Resumo Técnico: Reter ou Consolidar? Seleção de Operador Dependente de Orçamento para Memória de Agentes de Linguagem

Declaração do Problema

Agentes de linguagem que dependem de Grandes Modelos de Linguagem (LLMs) enfrentam uma restrição fundamental: janelas de contexto finitas e custos de inferência limitam a quantidade de memória (histórico, observações, fatos recuperados) que pode ser processada simultaneamente. Os sistemas existentes geralmente empregam uma de duas estratégias para gerenciar isso:

Retenção de Memória: Selecionar registros brutos para manter inalterados. Isso preserva detalhes exatos e procedência, mas é ineficiente em termos de tokens; sob orçamentos apertados, evidências relevantes podem ser excluídas inteiramente.
Consolidação de Memória: Gerar substitutos compactos (resumir, mesclar, reescrever) para registros brutos. Isso melhora a cobertura de evidências por token, mas corre o risco de omitir detalhes críticos para a consulta, borrar a ordem temporal ou introduzir conteúdo não sustentado.

A pesquisa atual trata essas estratégias separadamente (por exemplo, quais notas brutas manter vs. como resumir), deixando uma lacuna crítica: Quando um agente deve mudar de retenção para consolidação, e qual operador de consolidação (Mesclar, Abstrair ou Reescrever) deve ser selecionado? O artigo postula que a escolha ideal não é universal, mas depende da "pressão do orçamento" — a razão entre a evidência necessária e os tokens de contexto disponíveis.

Metodologia

Os autores formalizam isso como um problema de decisão finito e dependente de orçamento. O objetivo é maximizar a utilidade esperada da resposta final (avaliada contra uma referência) selecionando uma ação do conjunto $A = \{\text{Retenção, Mesclar, Abstrair, Reescrever}\}$ .

1. Modelo de Mecanismo Idealizado
Para explicar a lógica de decisão, o artigo introduz um modelo de utilidade substituto que decompõe o valor da consolidação em dois termos:

Efeito de Cobertura ( $C$ ): O benefício obtido quando a consolidação permite que evidências que teriam sido omitidas pela retenção (devamente ao orçamento) sejam incluídas no contexto.
Efeito de Substituição ( $R$ ): A mudança assinada na fidelidade quando a consolidação substitui evidência bruta que já cabia no orçamento. Isso é frequentemente negativo, pois a geração pode perder detalhes exatos.

O modelo prevê um ponto de "crossover": quando a pressão do orçamento é alta (a evidência não cabe), o efeito positivo de cobertura domina, tornando a consolidação benéfica. Quando a pressão do orçamento é baixa (a evidência cabe), o efeito negativo de substituição domina, tornando a retenção preferível.

2. Abstração-Segurança Offline (OAS)
Como a utilidade de ações não executadas (contrafatuais) é desconhecida no momento da implantação, os autores propõem o OAS, um aprendiz leve que estima as utilidades das ações a partir de características pré-geração.

Características: O modelo utiliza 11 dimensões de características observadas antes da geração, incluindo orçamento normalizado, contagem de constituintes, pressão de tokens, fração de ajuste de orçamento, contagem de sessão, inconsistência de embedding e tipo de consulta.
Aprendizado: O OAS usa regressão de ridge para prever a utilidade de cada ação com base em avaliações offline pareadas (onde todas as ações são executadas e graduadas).
Segurança: Uma variante "OAS Calibrado" aplica um limiar de segurança de validação. Ela só seleciona um operador de consolidação se sua vantagem prevista sobre a retenção exceder uma margem que garanta zero seleções prejudiciais observadas em um conjunto de validação.

Principais Contribuições

Formulação Unificada "Quando–Qual": O artigo coloca a retenção e três operadores generativos em um único espaço de decisão com utilidade assinada e dependente de orçamento, modelando explicitamente o compromisso entre cobertura e fidelidade.
Mecanismo Testável Dependente de Orçamento: Os autores derivam uma decomposição teórica mostrando que o valor da consolidação é uma função da pressão relativa do orçamento, não apenas de contagens absolutas de tokens. Isso prevê uma reversão na estratégia ideal conforme o orçamento aperta.
Aprendiz Leve (OAS): Uma implementação prática que aprende a estimar utilidades contrafatuais a partir de características pré-geração, permitindo o roteamento dinâmico sem exigir geração dispendiosa durante a fase de decisão.

Resultados Experimentais

A abordagem foi avaliada nos benchmarks LongMemEval e LoCoMo usando DeepSeek-V3.2 e GLM-5.2 como modelos de resposta.

Crossover de Orçamento (Q1): Experimentos confirmam a reversão prevista.
- Orçamentos Apertados: A consolidação supera significativamente a retenção. No LongMemEval com 32 tokens, Abstrair alcançou 52,0% de precisão contra 4,0% para retenção (um ganho absoluto de 48%).
- Orçamentos Folgados: A retenção supera todos os operadores de consolidação em 8–11% uma vez que a evidência bruta cabe amplamente no orçamento.
- Pressão Relativa: O ponto de crossover desloca-se com base no comprimento da evidência. O LoCoMo (evidência mais curta) mostrou o crossover em um orçamento absoluto menor (64 tokens) comparado ao LongMemEval (128 tokens), apoiando a hipótese de "pressão de orçamento relativa" em vez de um limiar fixo de tokens.
Seleção de Operador (Q2):
- Sob compressão, operadores de notas cruzadas (Mesclar e Abstrair) geralmente superam o Reescrever local.
- Não existe um único operador "melhor" universal; a escolha depende da estrutura específica da evidência e do orçamento.
Desempenho do OAS (Q3):
- O OAS aprende com sucesso a decisão conjunta. Em regimes estressados, ele melhora a precisão em relação a uma política de retenção fixa.
- O OAS Calibrado reduz significativamente as substituições prejudiciais (onde a consolidação prejudica o desempenho) (por exemplo, reduzindo o dano de 12 para 1 no regime de 64 tokens no LongMemEval) com um pequeno compromisso na precisão geral.
- A variante de histórico completo do OAS não superou a política fixa mais forte, indicando que a força do método reside na seleção consciente do orçamento, e não no roteamento de instância de propósito geral.

Significância e Alegações

O artigo alega resolver a decisão conjunta de quando consolidar e qual operador usar, demonstrando que essa decisão é fundamentalmente impulsionada pela pressão relativa do orçamento.

Validação do Mecanismo: Os resultados validam a decomposição teórica: a consolidação é benéfica principalmente quando recupera evidências omitidas (efeito de cobertura), enquanto é prejudicial quando substitui evidências que cabiam (efeito de substituição).
Roteamento Prático: O estudo demonstra que um aprendiz leve, pré-geração, pode aproximar efetivamente a decisão contrafatual ideal, fornecendo um mecanismo prático para o gerenciamento adaptativo de memória em agentes de linguagem.
Modéstia: Os autores delimitam explicitamente suas alegações, observando que, embora o OAS melhore a tomada de decisão controlada sob estresse de orçamento, ele não afirma superar sistemas de memória ponta a ponta otimizados em todos os cenários, nem afirma resolver o problema upstream de descoberta de evidências candidatas. A principal contribuição é a validação do mecanismo dependente de orçamento e a viabilidade de aprender a política de roteamento.