ReSum: Unlocking Long-Horizon Search Intelligence via Context Summarization

1. O Problema: O Conflito entre Exploração e Janela de Contexto

Agentes baseados em Grandes Modelos de Linguagem (LLMs) demonstraram grande sucesso em tarefas intensivas de conhecimento, especialmente na busca e navegação na web. No entanto, eles enfrentam um conflito fundamental:

• Necessidade de Exploração de Longo Alcance: Responder a consultas complexas (ex: "Quem é o autor deste livro baseado na vida de uma pessoa com X características?") exige ciclos extensos de busca, navegação, verificação cruzada e raciocínio.
• Limitação de Janela de Contexto: A maioria dos LLMs possui janelas de contexto limitadas (ex: 32k tokens). O paradigma atual dominante, ReAct (Reason + Act), funciona anexando cada pensamento, ação e observação ao histórico. Em tarefas complexas, esse histórico cresce rapidamente, esgotando a janela de contexto antes que a solução seja encontrada, forçando o corte (truncamento) de informações vitais.

Limitações das Soluções Atuais:
Métodos existentes para gerenciar memória, como MEM1 e MemAgent, geralmente exigem modificações arquiteturais (ex: tokens de memória internos) e re-treinamento end-to-end dos agentes. Isso quebra a compatibilidade com agentes pré-existentes e é custoso.

---

2. Metodologia: A Abordagem ReSum

O artigo propõe o ReSum, um paradigma leve e "plug-and-play" que permite exploração ilimitada através de resumo de contexto.

A. O Paradigma ReSum

Em vez de manter todo o histórico bruto, o ReSum invoca periodicamente uma ferramenta externa para condensar a história de interação em um resumo compacto.

1. Iniciação: O agente começa com a consulta do usuário.
2. Interação: O agente executa ciclos de raciocínio e ferramentas (busca, visita a páginas) como no ReAct.
3. Gatilho de Resumo: Quando o uso de tokens se aproxima do limite (ou por decisão do agente), uma ferramenta de resumo é chamada.
4. Compressão: A ferramenta gera um resumo focado em objetivos (<summary>) que consolida evidências essenciais, lacunas de informação e direções futuras.
5. Reinício: O histórico é substituído por um novo estado comprimido: (Consulta Original + Resumo). O agente continua a exploração a partir desse estado, mantendo a consciência do que foi descoberto sem exceder o limite de contexto.

B. ReSumTool-30B (A Ferramenta de Resumo)

Um LLM genérico muitas vezes falha em distinguir evidências-chave de ruído em históricos longos. Para resolver isso, os autores desenvolveram o ReSumTool-30B:

• Base: Fine-tuning do modelo Qwen3-30B-A3B-Thinking.
• Treinamento: Distilação de conhecimento a partir de um modelo "professor" (GPT-OSS-120B) usando pares de alta qualidade de <Conversação, Resumo> gerados em tarefas de busca complexas (benchmark SailorFog-QA).
• Capacidade: O modelo é especializado em extrair evidências verificáveis, identificar lacunas e propor próximos passos acionáveis, superando modelos muito maiores (como DeepSeek-R1-671B) em qualidade de resumo para este contexto específico.

C. ReSum-GRPO (Adaptação via RL)

Embora o ReSum funcione sem treinamento, os agentes padrão não são nativamente otimizados para raciocinar sobre contextos comprimidos. Para isso, os autores propõem o ReSum-GRPO:

• Segmentação de Trajetória: Trajetórias longas são divididas em segmentos baseados nos pontos de resumo.
• Broadcast de Vantagem (Advantage Broadcasting): Utiliza o algoritmo GRPO (Group Relative Policy Optimization). Em vez de recompensar apenas o passo final, a recompensa global (baseada na resposta final correta) é propagada para todos os segmentos da trajetória.
• Mecanismo: Isso resolve o problema de atribuição de crédito em tarefas de longo alcance, incentivando o agente a:
  1. Raciocinar efetivamente a partir de estados comprimidos.
  2. Coletar informações que gerem resumos de alta qualidade.

---

3. Contribuições Principais

1. ReSum (Paradigma): Uma solução leve e compatível que permite exploração indefinida sem modificar a arquitetura do agente, superando as limitações de contexto do ReAct.
2. ReSumTool-30B (Modelo Especializado): Um modelo de resumo otimizado que supera modelos muito maiores na tarefa de síntese de evidências para busca na web.
3. ReSum-GRPO (Algoritmo de Treinamento): Um método de aprendizado por reforço que adapta agentes ao paradigma de resumo, permitindo que eles aprendam a raciocinar com contextos comprimidos com alta eficiência de dados.

---

4. Resultados Experimentais

Os experimentos foram realizados em benchmarks desafiadores (GAIA, BrowseComp, BrowseComp-zh) com agentes de código aberto (WebSailor-3B, 7B, 30B).

Cenário sem Treinamento (Training-Free):

• O ReSum superou consistentemente o ReAct e a abordagem de "Histórico Recente" (apenas truncar tokens).
• Melhoria: Ganho médio de 4,5% sobre o ReAct.
• Eficiência do Modelo de Resumo: O ReSumTool-30B (30B) alcançou desempenho comparável ou superior a modelos proprietários massivos (como GPT-OSS-120B e DeepSeek-R1-671B) quando usados como ferramentas de resumo.
• Comparação com MEM1: O ReSum mostrou-se muito mais compatível e eficaz em cenários sem treinamento do que o MEM1, que muitas vezes falhou ou piorou o desempenho sem re-treinamento.

Cenário com Treinamento (ReSum-GRPO):

• Com apenas 1.000 amostras de treinamento, o ReSum-GRPO melhorou significativamente o desempenho.
• Ganhos Adicionais: Uma melhoria adicional de 8,2% sobre o ReSum base.
• Competitividade: Um agente WebSailor-30B com ReSum-GRPO superou vários agentes de código aberto treinados com mais de 10.000 amostras (ex: superou o ASearcher-32B e MiroThinker-32B no BrowseComp-zh).
• Eficiência: O ReSum-GRPO oferece um equilíbrio melhor entre desempenho e custo computacional em comparação com o MEM1-GRPO, que consome quase 3x mais tokens para uma melhoria marginal.

---

5. Significado e Impacto

• Viabilidade Prática: O ReSum oferece uma solução "plug-and-play" que pode ser aplicada a agentes existentes sem a necessidade de re-treinamento massivo ou mudanças arquiteturais complexas.
• Escalabilidade: Demonstra que a inteligência de busca de longo prazo não depende necessariamente de janelas de contexto infinitas, mas sim de mecanismos inteligentes de compressão e recuperação de informação.
• Eficiência de Dados: A abordagem de RL (ReSum-GRPO) prova que é possível adaptar paradigmas complexos com muito poucos dados de treinamento (1K amostras), reduzindo drasticamente o custo de desenvolvimento de agentes avançados.
• Futuro: O trabalho aponta para uma transição de mecanismos de resumo baseados em regras para mecanismos autônomos dirigidos pelo agente, mantendo a dependência de longo prazo nas interações.

Em resumo, o ReSum resolve o gargalo fundamental da janela de contexto em agentes de busca, permitindo que modelos de tamanho médio (30B) realizem tarefas complexas que antes exigiam modelos proprietários massivos ou falhavam devido à perda de contexto.