🤖 AI

Agent-Omit: Adaptive Context Omission for Efficient LLM Agents

Este artigo apresenta o Agent-Omit, um framework de treinamento unificado que aprimora a eficiência de agentes de LLM ao permitir que eles omitam adaptativamente pensamentos e observações redundantes por meio de ajuste fino de inicialização fria e aprendizado por reforço consciente de omissão, alcançando compensações superiores entre eficácia e eficiência em múltiplos benchmarks.

Autores originais: Yansong Ning, Jun Fang, Naiqiang Tan, Hao Liu

Publicado 2026-05-12

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Yansong Ning, Jun Fang, Naiqiang Tan, Hao Liu

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

O Problema: O Agente "Excessivamente Explicativo"

Imagine que você contrata um assistente de pesquisa muito inteligente, mas um pouco obcecado, para encontrar um fato específico na internet para você.

A Boa Notícia: Eles são brilhantes. Eles encontram a resposta.
A Má Notícia: Para chegar lá, eles escrevem uma entrada de diário de 50 páginas para cada único passo que dão. Eles escrevem: "Estou pensando em clicar no botão azul", depois clicam nele. Então escrevem: "Estou lendo o texto na tela", depois leem. Mesmo quando estão apenas clicando em um botão que era óbvio a partir do passo anterior, eles escrevem um parágrafo inteiro sobre isso.

Isso é exatamente o que os agentes de IA atuais fazem. Eles geram muitos "pensamentos" (raciocínio) e "observações" (leitura dos resultados de suas ações). Embora isso os ajude a resolver problemas difíceis, cria uma quantidade massiva de "lixo digital". Esse lixo:

Custa muito dinheiro (porque as empresas de IA cobram por palavra/token).
Desacelera tudo.
Confunde a IA porque o histórico de conversa fica tão longo que ela esquece o início.

A Intuição: Nem Todos os Pensamentos São Iguais

Os pesquisadores por trás deste artigo fizeram uma pergunta simples: "Será que realmente precisamos ler cada página daquele diário de 50 páginas?"

Eles analisaram a jornada da IA e descobriram que a importância desses pensamentos e observações muda dependendo de quando eles acontecem:

O Início: A IA precisa pensar muito para planejar sua rota. (Alto valor).
O Meio: A IA está apenas clicando em botões ou lendo resultados de pesquisa simples. Frequentemente, ela não precisa escrever uma entrada de diário para isso; pode apenas executar a ação. (Baixo valor).
O Fim: A IA precisa resumir as descobertas. Ela precisa dos resultados finais, mas não precisa reler os resultados de pesquisa de três horas atrás. (Baixo valor para dados antigos).

A Analogia: Imagine que você está seguindo uma receita. Você precisa ler as instruções cuidadosamente no início (planejamento). Mas quando você está apenas mexendo a panela no décimo minuto, você não precisa escrever um romance sobre como está mexendo. Você apenas mexe. Se você continuar escrevendo sobre mexer, ficará sem papel antes de terminar de cozinhar.

A Solução: Agent-Omit

A equipe criou um novo framework de treinamento chamado Agent-Omit. Pense nisso como ensinar à IA um novo superpoder: A Arte de Saber O Que Pular.

Em vez de forçar a IA a escrever tudo, o Agent-Omit a ensina a dizer: "Sei o que estou fazendo, não preciso escrever isso" ou "Não preciso reler aquela nota antiga".

Eles fizeram isso em duas etapas:

Etapa 1: O "Arranque Frio" (Ensinando o Básico)

Primeiro, eles criaram um conjunto especial de problemas de prática. Eles mostraram manualmente à IA exemplos de:

"Aqui está um momento em que você pensou demais. Da próxima vez, apenas pule o pensamento."
"Aqui está um momento em que você leu uma observação antiga que não ajudou. Da próxima vez, pule a leitura."

Eles ensinaram à IA os "sinais manuais" específicos (códigos especiais) para usar quando quiser pular uma etapa. É como ensinar a um aluno que, às vezes, "Sei a resposta" é uma resposta válida, e eles não precisam mostrar o trabalho para cada problema de matemática.

Etapa 2: O "Sistema de Recompensa" (Aprendizado por Reforço)

Em seguida, eles deixaram a IA jogar jogos (como navegar em um site ou resolver um quebra-cabeça de ciência) e deram a ela um sistema de recompensa especial:

Recompensa por acertar a resposta.
Recompensa Bônus por usar menos palavras.

Se a IA tentasse ser preguiçosa e pulasse uma etapa necessária, ela recebia uma nota baixa. Mas se ela identificasse corretamente uma etapa redundante e a pulasse, economizando dinheiro e tempo, ela recebia um grande bônus. Com o tempo, a IA aprendeu a ser um "minimalista inteligente" — fazendo o trabalho, mas escrevendo menos sobre isso.

Os Resultados: O Agente "Cachinhos Dourados"

Os pesquisadores testaram essa nova IA (chamada Agent-Omit) contra outros sete agentes de IA de ponta.

Desempenho: Ela resolveu os problemas tão bem quanto os "gigantes superinteligentes" (como DeepSeek-R1 ou o3).
Eficiência: Ela usou significativamente menos palavras (tokens) para chegar lá.
O Trade-off: Ela encontrou o equilíbrio perfeito. Não era tão preguiçosa a ponto de falhar, nem tão tagarela a ponto de desperdiçar dinheiro.

A Analogia: Imagine dois motoristas tentando chegar ao mesmo destino.

Motorista A (IA Antiga): Dirige o caminho todo narrando cada curva, cada semáforo e cada nuvem que vê. Eles chegam lá, mas queimam muito combustível e levam muito tempo.
Motorista B (Agent-Omit): Dirige o caminho todo, mas só fala quando precisa tomar uma decisão complexa ou verificar um mapa. Eles chegam lá tão rápido, mas usam muito menos combustível.

Por Que Isso Importa (Segundo o Artigo)

O artigo afirma que, ao ensinar a IA a "omitir" (pular) contextos desnecessários, podemos tornar esses agentes:

Mais baratos de executar.
Mais rápidos.
Tão inteligentes.

Eles provaram matematicamente que essa omissão não prejudica a capacidade da IA de pensar corretamente, desde que ela pule as coisas certas. Eles mostraram que a IA aprendeu naturalmente a pular cerca de 3 a 4 rodadas de conversa desnecessária no meio de uma tarefa, que é exatamente onde as partes "chatas" do trabalho geralmente acontecem.

Em resumo, o Agent-Omit é um método de treinamento que ensina agentes de IA a parar de explicar demais, economizando tempo e dinheiro sem perder sua inteligência.

) ou emitir comandos específicos para omitir observações históricas (por exemplo, <omit tool response N ...>`).
* Omissão Multi-turno: Constrói trajetórias completas onde os turnos redundantes identificados são substituídos por comportamentos de omissão, forçando o agente a manter a continuidade do raciocínio apesar do contexto ausente.

Ajuste Fino (Fine-Tuning): O agente é ajustado finamente sobre esses dados sintéticos usando a perda padrão de modelagem de linguagem com uma máscara aplicada às observações ambientais.

Estágio 2: Aprendizado por Reforço Agente Consciente de Omissão
Para generalizar além dos dados sintéticos e lidar com interações dinâmicas, os autores introduzem um framework de RL que apresenta:

Estratégia de Amostragem Dual: Para abordar o problema da "mudança de contexto" (onde um agente não pode aprender de uma decisão que tomou após uma omissão), o treinamento desacopla a amostragem em:
- Trajetória Completa (y): Avalia a eficiência geral e o sucesso final da tarefa.
- Trajetória Parcial (y'): Amostra o contexto antes que uma omissão ocorra, permitindo que o agente aprenda a política de omissão condicionada ao estado pré-omissão.
Recompensa Consciente de Omissão: Uma função de recompensa composta que equilibra a correção da tarefa ( $R_{task}$ ) e a eficiência de tokens ( $R_{omit}$ ). A recompensa de omissão é calculada com base na razão de tokens economizados, mas é definida como zero se a recompensa da tarefa for zero, prevenindo exploração de recompensas (reward hacking).
Otimização de Política: A política do agente é otimizada usando Otimização de Política Relativa em Grupo (GRPO) para maximizar as recompensas esperadas em ambos os tipos de trajetória, minimizando ao mesmo tempo a divergência KL em relação a uma política de referência.

2.3 Garantia Teórica

Os autores fornecem uma prova teórica de que o desvio da política de omissão aprendida em relação à política ótima é limitado superiormente pela divergência KL entre elas. Assumindo a continuidade Lipschitz semântica das funções de recompensa da tarefa e de custo de tokens, o framework garante que, à medida que a política aproxima a estratégia de omissão ótima, o desvio em eficácia e eficiência converge.

3. Contribuições Principais

Framework de Análise Unificada: O artigo estabelece um framework de análise em nível de turno que prova quantitativamente que mecanismos de omissão podem melhorar a eficiência do agente sem sacrificar a eficácia.
Framework Agent-Omit: Um paradigma de treinamento inovador que integra a síntese de comportamento de omissão (inicialização fria) com RL agente consciente de omissão para treinar agentes capazes de gerenciamento adaptativo de contexto.
Validação Empírica e Teórica: Experimentos extensos em cinco benchmarks e análise teórica demonstrando a eficácia da abordagem em alcançar trade-offs superiores entre eficácia e eficiência.

4. Resultados Experimentais

O framework foi avaliado em cinco benchmarks diversos: DeepSearch, WebShop, TextCraft, BabyAI e SciWorld.

Desempenho vs. Modelos de Fronteira: O modelo Agent-Omit-8B alcançou precisão comparável a sete agentes LLM de fronteira (incluindo DeepSeek-R1-0528, o3 e Qwen3-32B), enquanto reduziu substancialmente os custos de tokens.
Eficiência vs. Métodos Existentes: Quando aplicado ao Qwen3-8B, o Agent-Omit superou consistentemente sete métodos existentes de construção eficiente de agentes (incluindo Gerenciamento de Pensamento, Gerenciamento de Observação e abordagens baseadas em Resumo). Alcançou a maior precisão Pass@1 com o menor custo médio de tokens em todos os benchmarks.
Estudos de Ablação: Os resultados confirmaram que tanto o início frio SFT (especificamente dados de omissão de turno único) quanto o estágio de RL (especificamente amostragem de trajetória parcial e recompensas de omissão) são críticos para o desempenho.
Análise Comportamental: Agentes treinados omitiram adaptativamente uma média de 3 a 4 turnos de contexto redundante por trajetória, com omissões ocorrendo predominantemente em turnos intermediários, alinhando-se com as descobertas quantitativas iniciais.

5. Significado e Alegações

O artigo afirma que o Agent-Omit oferece um novo paradigma para agentes LLM eficientes, afastando-se da compressão de contexto estática e baseada em heurísticas em direção a políticas de omissão adaptativas e aprendidas.

Eficiência: A abordagem reduz significativamente o consumo de tokens e os custos computacionais, o que, conforme observado pelos autores, pode contribuir para reduzir a pegada energética da implantação de agentes de modelos de linguagem grandes.
Escalabilidade: Ao permitir que modelos menores (por exemplo, 8 bilhões de parâmetros) correspondam ao desempenho de modelos de fronteira muito maiores enquanto usam menos recursos, o método aprimora a aplicabilidade prática de agentes LLM em ambientes com recursos limitados.
Limitações: Os autores reconhecem modestamente que a abordagem atual incorre em amostras de treinamento adicionais durante o estágio de RL, o que limita a escalabilidade. Propõe-se trabalho futuro para escalar o pipeline de síntese de dados de omissão para pré-treinamento em larga escala e estender o paradigma para LLMs maiores.

Os autores declaram não haver conflitos de interesse financeiros potenciais relacionados ao trabalho.