Resumo Técnico: Não Vale Outro Token: Estimativa de Valor Marginal para Agentes de Pesquisa Profunda Eficientes

Formulação do Problema

Agentes de pesquisa profunda de longo horizonte resolvem tarefas abertas através de processos iterativos de recuperação, agregação e síntese. No entanto, à medida que esses sistemas operam ao longo de múltiplas etapas, o contexto acumulado cresce rapidamente enquanto o valor marginal de evidências adicionais frequentemente declina. As etapas iniciais de recuperação costumam trazer fatos centrais, ao passo que as etapas posteriores frequentemente adicionam conteúdo redundante ou fracamente informativo. Esse crescimento descontrolado leva a custos de tokens desnecessários, maior latência e entradas mais ruidosas para a geração do relatório final.

Os pipelines existentes frequentemente dependem de prompting de Large Language Models (LLMs) para decisões de gerenciamento de contexto, incorrendo em um overhead de inferência significativo e exibindo comportamento inconsistente. Além disso, há uma compreensão empírica limitada sobre quais estágios de pipeline se beneficiam mais da poda (pruning), quais estratégias são ideais em estágios específicos e como diferentes objetivos (qualidade vs. eficiência) interagem.

Os autores formulam isso como um problema de estimativa de valor marginal dentro de um framework de poda consciente de estágio (stage-aware). O objetivo é identificar uma política que maximize a qualidade do relatório $R(C_T, Q)$ sujeito a um orçamento de custo $B$ (tokens, latência, chamadas de recuperação), ou equivalentemente, maximizar $R(C_T, Q) - \eta \cdot \text{Custo}(C_T)$.

Metodologia

Pipeline e Pontos de Intervenção

O estudo utiliza um fluxo de trabalho de pesquisa profunda estruturado em árvore (instanciado via framework GPT-Researcher) onde uma consulta é decomposta em subconsultas, recuperada iterativamente e sintetizada. Os autores identificam três pontos distintos de intervenção para a poda:

1. Pré-Recuperação (Pre-Retrieval): Filtragem de subconsultas candidatas antes de incorrer em custos de recuperação.
2. Pós-Recuperação (Post-Retrieval): Avaliação e descarte de itens recuperados de baixo valor antes que eles influenciem a expansão de novos ramos.
3. Pré-Síntese (Pre-Synthesis): Compressão do contexto acumulado final antes da geração do relatório.

Os autores comparam configurações de um estágio (poda em um único ponto), dois estágios (Pós-Recuperação + Pré-Síntese) e três estágios (todos os pontos).

Estratégias de Poda

O artigo avalia um espectro de estratégias que instanciam diferentes noções de valor marginal:

• Estratégias Heurísticas: Métodos leves e sem necessidade de treinamento, incluindo:
  • Maximal Marginal Relevance (MMR): Equilibra a relevância da consulta com a redundância em relação ao contexto retido.
  • Geometric Residual Novelty (GRN): Mede se um candidato introduz uma nova direção semântica em relação ao espaço das embeddings retidas.
  • Centroid Drift (CD): Mede deslocamentos no centro semântico do contexto retido.
  • Determinantal Point Processes (DPP): Seleciona subconjuntos que são simultaneamente relevantes e diversos.
  • Submodular Coverage (SC): Visa cobrir o espaço semântico do pool de candidatos enquanto considera o custo de tokens.
  • Variantes Léxicas: Utilizam TF-IDF e sobreposições de bigramas como proxies mais baratos para similaridade semântica.
• Estratégia Baseada em LLM: Utiliza um LLM como juiz de poda para prever a utilidade do candidato, introduzindo um raciocínio semântico mais rico, porém com maiores custos de inferência.
• Estratégia Aprendida (Learned): Um controlador de pré-recuperação leve e orientado a dados, treinado em trajetórias de execução para prever a utilidade dos ramos.

Configuração Experimental

Os experimentos foram conduzidos no DeepResearch-Gym, utilizando uma amostra de 100 consultas complexas do dataset Researchy Questions. As métricas de avaliação incluem:

• Qualidade: Pontuação geral do relatório via um juiz de LLM baseado em uma rubrica fixa.
• Relevância: Recall de Pontos-Chave + Contradição de Pontos-Chave (KPR+KPC).
• Fidelidade (Faithfulness): Recall de Citação (fração de afirmações fundamentadas em fontes recuperáveis).
• Eficiência: Contagem de nós, uso total de tokens e tempo de execução (wall-clock runtime).

Principais Resultados

O Posicionamento do Estágio é Crítico

O estudo descobre que onde a poda é aplicada é frequentemente mais consequencial do que a regra de pontuação específica utilizada.

• Poda Pós-Recuperação: Proporciona os maiores ganhos de eficiência de ponta a ponta. Por exemplo, o MMR Pós-Recuperação reduziu os custos de tokens de 375.4k para 114.6k (~69.5% de redução) e o tempo de execução em ~60%, mantendo ~97.9% da qualidade da linha de base (baseline). Isso ocorre porque impede que ramos de baixo valor se expandam antes que os custos de recuperação sejam incorridos.
• Poda Pré-Síntese: Geralmente é tarde demais para recuperar os custos de busca upstream. Embora possa refinar o contexto de síntese final (ex: o Híbrido Pré-Síntese alcançou a maior qualidade de um estágio de 60.68 contra 57.83 da baseline), oferece ganhos de eficiência modestos em comparação com a poda precoce.
• Poda de Três Estágios: Leva a compressão ao limite (ex: MMR em todos os estágios reduziu os tokens para 100.1k, uma redução de 73.3%), mas frequentemente às custas da qualidade do relatório, que permaneceu abaixo da baseline.

Desempenho das Estratégias e Trade-offs

• Eficiência vs. Qualidade: Nenhuma estratégia única domina em todos os objetivos. Heurísticas de relevância-redundância (como MMR) destacam-se no controle de custo inicial. Métodos orientados à cobertura (como SC) e métodos de diversidade (como DPP) são mais competitivos na retenção de evidências e recall de citações, mas são menos agressivos na redução de custos.
• Poda de Dois Estágios: Oferece os trade-offs mais práticos entre qualidade e eficiência. A combinação de CD + SC (Centroid Drift na Pós-Recuperação + Submodular Coverage na Pré-Síntese) alcançou uma pontuação de qualidade de 59.47 (melhorando a baseline) enquanto reduzia os custos de tokens em 63.4%.
• Aprendido vs. Heurístico: O controlador de pré-recuperação aprendido não superou consistentemente as fortes baselines heurísticas. Os autores sugerem que a maioria dos ganhos provém de objetivos de poda bem combinados e do posicionamento do estágio, em vez de modelos aprendidos complexos.
• Divergência de Fidelidade: Uma maior qualidade do relatório final não implica necessariamente uma maior retenção de evidências. Por exemplo, a variante de dois estágios de maior qualidade (CD + SC) teve um recall de citação (89.96) menor que a baseline (95.54), ilustrando um trade-off entre a qualidade da síntese e o embasamento nas fontes.

Significância e Alegações

O artigo afirma fornecer a primeira comparação sistemática por estágio de estratégias de poda em todo o pipeline de pesquisa profunda. Suas principais contribções são:

1. Framework Consciente de Estágio: Definir a estimativa de valor marginal como um problema com três pontos de intervenção específicos (Pré-Recuperação, Pós-Recuperação, Pré-Síntese).
2. Orientação Empírica: Demonstrar que a poda precoce (especificamente a Pós-Recuperação) é o alavancador mais eficaz para eficiência, enquanto a poda tardia serve primariamente para refinar a qualidade da síntese.
3. Princípios de Design Prático: Fornecer evidências de que heurísticas leves podem reduzir o uso de tokens em até 73% com degradação mínima de qualidade, e que nenhum método único domina em termos de qualidade, eficiência e fidelidade.

Os autores concluem que projetar sistemas agentes de longo horizonte eficientes requer uma visão de poda consciente de estágio, onde as políticas são avaliadas conjuntamente em qualidade, eficiência, relevância e fidelidade. Eles alertam que os sinais de poda devem ser cuidadosamente gerenciados para evitar o descarte de evidências contraditórias ou pontos de vista minoritários, recomendando que a poda seja acompanhada de transparência de fonte e supervisão humana, particularmente em domínios de alto risco.