Reducing Cost of LLM Agents with Trajectory Reduction

O artigo apresenta o AgentDiet, uma abordagem de redução de trajetória em tempo de inferência que elimina informações redundantes e obsoletas em agentes de LLM, reduzindo significativamente o custo computacional e o número de tokens de entrada sem comprometer o desempenho.

O essencial

Imagine que você contratou um assistente de inteligência artificial superinteligente para consertar um código de computador complexo. Esse assistente (o "Agente LLM") é muito bom, mas tem um problema: ele é um pouco "bagunceiro" e esquece de limpar a mesa.

A cada tarefa que ele faz, ele escreve um diário gigante. Se ele precisa ler um arquivo, ele copia o arquivo inteiro no diário. Se ele roda um teste e o computador responde com 500 linhas de texto, ele copia tudo isso também. E o pior: ele nunca apaga nada. Ele apenas continua adicionando mais e mais páginas a esse diário.

Com o tempo, esse diário fica tão grande que:

1. Custa uma fortuna para o computador ler tudo de novo a cada nova frase que o assistente pensa.
2. O assistente começa a se perder no meio de tanta informação inútil, como tentar encontrar uma agulha em um palheiro gigante.

Os autores deste artigo, da Universidade de Pequim e da ByteDance, perceberam que esse "diário bagunçado" é o principal motivo pelo qual usar esses agentes é tão caro e lento. Eles chamam esse acúmulo de lixo de "Trajetória".

A Solução: O "Agente Dieta" (AgentDiet)

Para resolver isso, eles criaram uma ferramenta chamada AgentDiet. Pense nela como um gerente de escritório muito organizado que trabalha ao lado do assistente principal.

Aqui está como funciona, passo a passo, com uma analogia simples:

1. O Assistente Trabalha: O agente principal faz seu trabalho (lê um arquivo, roda um comando).
2. O Gerente Checa a Mesa: A cada poucos passos, o "Agente Dieta" olha para o que acabou de ser escrito no diário.
3. A "Dieta" Começa: O Agente Dieta usa outro modelo de IA (mais barato e rápido) para ler o diário e pensar: "O que aqui é realmente importante? O que é apenas ruído?"
   • Lixo Inútil: Se o assistente listou 100 arquivos e só precisava de 1, o Agente Dieta apaga as 99 linhas extras.
   • Repetição: Se o assistente escreveu "Vou editar o arquivo X" e depois o computador respondeu com o arquivo X inteiro, o Agente Dieta resume isso para "Arquivo X editado com sucesso".
   • Informação Expirada: Se o assistente procurou um erro em 10 arquivos diferentes e só achou no último, os Agente Dieta apaga os detalhes dos 9 primeiros, pois eles não são mais necessários.
4. O Resultado: O Agente Dieta substitui aquelas páginas cheias de "gordura" (texto inútil) por um pequeno resumo ("takeaway"). O diário fica muito mais leve, mas a história completa ainda faz sentido.

Por que isso é genial?

• Economia Real: Como o diário fica menor, o computador precisa processar menos dados. O artigo mostra que isso reduz o custo em até 36% e o número de palavras lidas em até 60%. É como trocar um caminhão de lixo por uma bicicleta para entregar uma carta.
• Não Perde Inteligência: O mais surpreendente é que, mesmo cortando tanto, o assistente não comete mais erros. Na verdade, em alguns casos, ele até funciona melhor! Isso acontece porque, ao remover o "ruído" e o lixo, o cérebro da IA consegue focar melhor no que realmente importa.
• Funciona em Qualquer Lugar: Eles testaram isso em dois tipos diferentes de agentes e em dois tipos diferentes de modelos de IA (Claude e Gemini), e funcionou em todos.

A Analogia Final

Imagine que você está tentando resolver um quebra-cabeça de 10.000 peças.

• Sem o Agente Dieta: Você joga todas as peças na mesa, inclusive as que já foram usadas, as que são de outro quebra-cabeça e as que são apenas o fundo da caixa. Você fica cansado, confuso e gasta muito tempo procurando a peça certa.
• Com o Agente Dieta: A cada 10 peças que você coloca, um ajudante vem, tira as peças que já foram usadas e joga fora as que não servem. A mesa fica limpa, você vê o quadro com clareza e termina o trabalho mais rápido e gastando menos energia.

Conclusão

O artigo nos ensina que, na era da Inteligência Artificial, menos pode ser mais. Não precisamos de diários infinitos para ter inteligência. Ao "fazer dieta" nas informações que guardamos, podemos tornar os agentes de IA mais baratos, mais rápidos e, ironicamente, mais inteligentes, sem precisar mudar o cérebro deles, apenas organizando melhor a mesa de trabalho.

Resumo técnico

1. O Problema: Ineficiência em Agentes LLM

O artigo identifica que, embora os agentes baseados em Grandes Modelos de Linguagem (LLMs) para engenharia de software demonstrem alta eficácia, eles sofrem de um problema crítico de eficiência e custo.

• Causa Raiz: O crescimento contínuo da "trajetória" (o histórico de conversas, chamadas de ferramentas e resultados) durante a execução de tarefas multi-turno. Cada vez que o agente executa uma ferramenta, a saída é adicionada à trajetória e mantida indefinidamente.
• O Desperdício: Trajetórias contêm grandes quantidades de informações inúteis, redundantes ou expiradas (ex: listas extensas de arquivos que não são mais relevantes, saídas verbosas de testes que passaram, contextos de edição de código repetidos).
• Impacto: Como cada token na trajetória é incluído no contexto de entrada para todas as previsões subsequentes do LLM, o custo computacional e de memória "neve" (snowballs) rapidamente. Estudos citados mostram que 99% dos tokens de entrada em plataformas como OpenRouter são acumulados na trajetória, não gerados pelo modelo.
• Limitação das Soluções Atuais: Abordagens existentes focam em tarefas de uma só vez (single-turn) ou exigem modificações no modelo (fine-tuning), o que é inviável para LLMs proprietários. Produtos industriais atuais só comprimem o contexto quando a janela está cheia, focando em robustez, não em eficiência contínua.

2. Metodologia: AgentDiet

Os autores propõem o AgentDiet, uma abordagem de redução de trajetória em tempo de inferência que remove automaticamente o desperdício sem comprometer o desempenho.

Análise do Desperdício

Através de um estudo piloto em trajetórias do SWE-bench Verified, os autores categorizaram o desperdício em três tipos:

1. Informação Inútil: Dados irrelevantes para a tarefa atual (ex: logs de build, listas de arquivos em cache).
2. Informação Redundante: Conteúdo repetido (ex: argumentos de edição de arquivo que já aparecem na resposta da ferramenta).
3. Informação Expirada: Dados que foram úteis em um passo anterior, mas não são mais necessários (ex: resultados de buscas em arquivos que já foram descartados após encontrar o arquivo correto).

Arquitetura do AgentDiet

O sistema introduz um Módulo de Reflexão separado que opera em paralelo ou entre os passos do agente principal:

• LLM Separado: Utiliza um LLM mais barato e eficiente (ex: GPT-5 mini) para analisar e comprimir a trajetória, em vez de usar o LLM principal (ex: Claude 4 Sonnet).
• Janela Deslizante (Sliding Window): O módulo não analisa a trajetória inteira a cada passo. Ele foca em um passo específico ($s-a$) com um contexto limitado ($s-a-b$ a $s$). Isso controla o custo de overhead e preserva o KV Cache (cache de chaves e valores) do agente principal.
• Mecanismo de Acionamento: A redução só ocorre se o passo alvo exceder um limite de tokens ($\theta$) e se a redução resultante for significativa.
• Por que não o próprio agente? Experimentos mostraram que os agentes tendem a ignorar instruções para "apagar" seu próprio histórico devido a padrões de treinamento, exigindo um módulo externo para forçar a redução.

Algoritmo

O algoritmo integra o módulo de reflexão no loop padrão do agente:

1. O agente executa uma ação e gera uma nova entrada na trajetória.
2. O sistema verifica se o passo anterior ($s-a$) é longo o suficiente.
3. Se sim, o LLM de reflexão é chamado para gerar uma versão comprimida desse passo, substituindo o original na trajetória.
4. O agente continua com a trajetória reduzida.

3. Contribuições Principais

1. Descoberta Empírica: Demonstração de que trajetórias de agentes de codificação contêm desperdício massivo e que a redução frequente é viável sem perda de desempenho.
2. AgentDiet: Proposta de uma técnica simples, de código aberto e fácil de integrar, que utiliza um LLM de baixo custo para otimizar a trajetória de um agente de alto desempenho.
3. Avaliação Abrangente: Experimentos em larga escala em dois benchmarks e dois LLMs diferentes, validando a generalização da abordagem.
4. Análise de Hiperparâmetros: Estudo detalhado sobre como ajustar o atraso da redução ($a$), o tamanho do contexto ($b$) e o limite de tokens ($\theta$) para equilibrar custo e desempenho.

4. Resultados Experimentais

Os resultados foram avaliados nos benchmarks SWE-bench Verified e Multi-SWE-bench Flash, utilizando os modelos Claude 4 Sonnet e Gemini 2.5 Pro.

• Redução de Tokens de Entrada: O AgentDiet reduziu o uso de tokens de entrada em 39,9% a 59,7%.
• Redução de Custo Computacional: O custo total de inferência diminuiu entre 21,1% e 35,9%, mesmo considerando o custo adicional do módulo de reflexão.
• Desempenho (Pass%): A taxa de sucesso na resolução de tarefas permaneceu praticamente inalterada (variação de -1,0% a +2,0% em relação ao baseline original).
• Estabilidade: Em alguns casos (especialmente com o Gemini 2.5 Pro em tarefas complexas), o AgentDiet até reduziu o número de passos necessários, pois evitou que o agente se "perdesse" em contextos excessivamente longos e ruidosos, melhorando a robustez.
• Generalização: A técnica funcionou consistentemente em diferentes linguagens de programação (Rust, TypeScript, Java, C++, etc.) e modelos.

5. Significado e Impacto

• Viabilidade Econômica: A redução de custos de 20-35% é crucial para a adoção comercial de agentes de IA, tornando-os economicamente viáveis para uso diário em escala.
• Mudança de Paradigma: Desafia a crença comum de que há um compromisso inevitável entre eficiência de tokens e desempenho do modelo ("test-time compute"). O artigo mostra que remover "lixo" do contexto pode, na verdade, manter ou até melhorar a performance.
• Aplicabilidade Prática: Como o AgentDiet não requer acesso ao código-fonte do modelo (caixa preta) nem treinamento adicional, ele pode ser aplicado imediatamente a qualquer sistema de agente existente que utilize chamadas de ferramentas.
• Futuro: Abre caminho para pesquisas em gerenciamento de contexto dinâmico e otimização de custos em tempo real para sistemas de IA autônomos.

Em resumo, o AgentDiet é uma solução elegante e eficaz que trata o histórico de conversas do agente não como um registro sagrado, mas como um recurso que deve ser gerenciado ativamente para eliminar ruído e economizar recursos, sem sacrificar a inteligência do agente.