🤖 AI

Beyond Confidence: Test-Time Scaling for Multi-Turn Search Agents via Retrieval Grounding

Este artigo identifica que a votação baseada em confiança falha em agentes de busca de múltiplos turnos devido à "inflação de cópia" proveniente de documentos recuperados e propõe o Voto Baseado em Recuperação (RGV), um método que pontua execuções com base na sobreposição lexical com fontes recuperadas para alcançar melhorias significativas de precisão em múltiplos benchmarks.

Autores originais: Hyunho Kook, Junhyuk So, Tianyu Fu, Haizhong Zheng, Beidi Chen

Publicado 2026-08-26

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Hyunho Kook, Junhyuk So, Tianyu Fu, Haizhong Zheng, Beidi Chen

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

No mundo em rápida evolução da inteligência artificial, os grandes modelos de linguagem tornaram-se aptos a raciocinar através de problemas complexos. Para tornar estes sistemas mais fiáveis, os investigadores pedem frequentemente que gerem múltiplas respostas possíveis para a mesma pergunta e depois votem na melhor delas. Para tarefas simples, surgiu um truque astuto: o sistema pondera cada resposta com base no quão "confiante" o modelo se sente enquanto a escreve. Se o modelo estiver a gerar palavras com alta certeza, essa resposta recebe um voto mais pesado. Este método funciona bem quando o modelo está a trabalhar no vácuo, dependendo apenas do seu treino interno. No entanto, uma nova geração de agentes de IA está a mudar o jogo. Estes agentes não se limitam a pensar; eles pesquisam. Atuam como investigadores digitais, recolhendo documentos externos da internet para responder a perguntas, lendo-os e, depois, escrevendo a sua resposta final com base nessa nova informação. Esta mudança do pensamento solitário para a pesquisa ativa criou um ponto cego na forma como julgamos a qualidade das suas respostas.

Uma equipa de investigadores de universidades dos Estados Unidos e da Ásia descobriu que o antigo método de medir a confiança falha espetacularmente neste novo ambiente. Eles descobriram que, quando um agente de IA copia texto de um documento que acabou de recuperar, o medidor de confiança interna do modelo torna-se errático. O sistema vê as palavras copiadas e, porque elas estão ali mesmo na sua memória imediata, torna-se artificialmente certo de que está a fazer a coisa certa. Isto cria uma falsa sensação de segurança. O modelo pode estar a copiar um facto errado de um artigo enganoso, mas os seus sinais internos gritam que está correto. Os investigadores chamam a este fenómeno "inflação de cópia" (copy inflation). É como se um estudante que estivesse a fazer um exame tivesse permissão para consultar o gabarito enquanto escreve a sua redação; o ato de copiar a resposta faz com que ele se sinta incrivelmente confiante, mesmo que o gabarito que está a consultar esteja errado. Esta inflação achata as diferenças entre boas e más respostas, fazendo com que o sistema de votação colapse num simples contagem de quantas vezes uma resposta aparece, em vez de uma seleção inteligente da mais fiável.

Para resolver isto, os investigadores propuseram uma nova forma de votar que olha para fora da mente do modelo. Em vez de perguntar ao modelo o quão seguro ele se sente, propuseram verificar o quão bem a resposta final corresponde aos documentos reais que o agente encontrou. Eles chamam a este método Votação Baseada em Recuperação (Retrieval-Grounded Voting). O processo é direto: após o agente terminar o seu trabalho, o sistema compara as palavras na resposta final contra o texto dos documentos que o agente recuperou. Se a resposta for construída diretamente a partir da evidência encontrada, recebe uma pontuação alta. Se a resposta for vaga ou depender de palavras que não aparecem no material de origem, recebe uma pontuação baixa. Esta abordagem ignora os sinais internos contaminados do modelo. Não requer que o modelo se reavalie, nem precisa de poder computacional extra para gerar novos pensamentos. Simplesmente verifica a relação entre a resposta e a evidência, uma conexão que existe independentemente da confiança do modelo.

A equipa testou esta ideia através de quatro diferentes benchmarks envolvendo tarefas de pesquisa complexas e cinco diferentes modelos de linguagem de grande escala. Os resultados foram consistentes e significativos. O novo método superou consistentemente a votação tradicional baseada em confiança, melhorando a precisão em até 5,4 pontos percentuais. A melhoria foi ainda mais dramática nos casos mais difíceis, onde a resposta correta aparecia em apenas uma pequena minoria das tentativas. Nestes cenários difíceis, o novo método foi 35 por cento mais preciso do que o método antigo. Isto é crucial porque significa que o sistema consegue encontrar a resposta certa mesmo quando a maioria das suas próprias tentativas está errada, desde que a tentativa correta esteja devidamente fundamentada na evidência recuperada. Os investigadores também descobriram que este novo método é incrivelmente eficiente. Adiciona quase nenhum custo ao processo, levando menos de um milissegundo por resposta num processador de computador padrão, enquanto outros métodos que tentam corrigir problemas de confiança exigem cálculos extras caros ou chamadas adicionais ao modelo.

O estudo também revelou que o problema da inflação de cópia não é uma falha rara, mas sim uma característica fundamental de como estes agentes de pesquisa funcionam. Os investigadores mediram que, em muitos casos, a vasta maioria das palavras que um agente escreve é copiada diretamente dos documentos que ele recuperou. Esta alta taxa de cópia é o que faz com que os sinais de confiança interna se tornem pouco fiáveis. Ao deslocar o foco para a evidência externa, os investigadores mostraram que a qualidade de uma resposta é melhor julgada pela sua conexão com o material de origem, não pelo sentimento de certeza interna do modelo. Esta descoberta sugere uma lição mais ampla para o campo: quando um agente de IA depende de informação externa, os sinais que ele gera sobre a sua própria confiança podem ser enganosos. A forma mais fiável de verificar o seu trabalho é olhar para a evidência que utilizou, não para os sentimentos que ele expressa.

Esta investigação não afirma ter resolvido todos os problemas dos agentes de IA. O novo método ainda depende da qualidade dos resultados da pesquisa; se o agente encontrar documentos ruins, o método não pode magicamente corrigir a resposta. Além disso, o método mede o quão bem uma resposta está fundamentada no texto, não se o próprio texto é verdadeiro. Se os documentos recuperados contiverem uma mentira, o sistema ainda poderá classificar a resposta como altamente fundamentada. No entanto, o estudo fornece um caminho claro e prático para melhorar a forma como agregamos o trabalho de múltiplas tentativas de IA. Ao dar um passo para fora do contexto interno do modelo e olhar para a evidência tangível que ele reuniu, os investigadores podem construir sistemas que são mais robustos, mais precisos e menos propensos às ilusões de confiança que surgem quando as máquinas leem e repetem o que encontram. O trabalho demonstra que, na era da IA baseada em pesquisa, o sinal mais digno de confiança não é a voz do modelo, mas os documentos que ele detém.

Resumo Técnico: Além da Confiança: Escalonamento em Tempo de Teste para Agentes de Busca de Múltiplos Turnos via Fundamentação de Recuperação

1. Declaração do Problema

Modelos de Linguagem de Grande Escala (LLMs) modernos funcionam cada vez mais como agentes de busca de múltiplos turnos que recuperam documentos externos e condicionam seu raciocínio a esse contexto recuperado. Embora a votação baseada em confiança (ponderando execuções paralelas por sinais internos como log-probabilidades de tokens) tenha se mostrado eficaz para o raciocínio de turno único, este artigo demonstra que ela transfere-se mal para agentes de busca de múltiplos turnos.

O problema central identificado é a inflação de cópia (copy-inflation). Quando documentos recuperados são anexados ao contexto de um agente, os tokens no texto gerado pelo modelo que são copiados desses documentos recebem sistematicamente log-probabilidades infladas. Esse fenômeno ocorre porque o modelo está essencialmente "papagueando" o texto já presente em sua janela de contexto. Consequentemente:

As pontuações de confiança tornam-se achatadas dentro de uma única pergunta, pois tanto as execuções corretas quanto as incorretas que copiam do contexto recebem confiança alta de forma semelhante.
A votação de maioria ponderada colapsa em uma simples votação de maioria, perdendo a capacidade de discriminar entre trajetórias de alta qualidade e baixa qualidade.
O sinal de votação é contaminado pelo contexto derivado do ambiente, em vez de refletir a confiança genuína de raciocínio do modelo.

Soluções existentes, como agregadores conscientes de trajetória (que exigem chamadas extras de LLM) ou recalibração baseada em RL (que exige ajuste fino), falham em abordar a causa raiz ou introduzem custos de inferência proibitivos.

2. Metodologia: Votação Fundamentada em Recuperação (RGV)

Para abordar a inflação de cópia, os autores propõem a Votação Fundamentada em Recuperação (Retrieval-Grounded Voting - RGV), um método que desloca o sinal de votação de dentro do contexto contaminado do modelo para fora dele, especificamente aproveitando o log de recuperação.

Mecanismo Central

Em vez de usar log-probabilidades de tokens, o RGV pontua cada execução com base na sobreposição lexical entre a prosa da resposta final do agente e os documentos que ele recuperou durante aquela trajetória específica.

Cálculo da Pontuação: Para uma execução $i$ com prosa de resposta $P_i$ e documentos recuperados $D_i = \{d_1, \dots, d_{m_i}\}$ , o peso $w_i$ é definido como o máximo de recall de prosa:
$w_i = \max_{d \in D_i} \frac{|T(P_i) \cap T(d)|}{|T(P_i)|}$
Onde $T(\cdot)$ representa um conjunto de tokens normalizado (letras minúsculas, sem pontuação/markdown, sem stopwords).
Escolhas de Design:
- Máximo sobre documentos (Max-over-docs): A pontuação é baseada no documento de melhor correspondência individual, em vez da união de todos os documentos. Isso evita que documentos irrelevantes diluam o sinal de uma passagem fortemente suportada.
- Normalização pelo lado da prosa: O denominador é o tamanho da prosa da resposta, não a união da resposta e do documento. Isso garante que a pontuação seja invariante ao comprimento em relação ao documento recuperado, recompensando respostas bem ancoradas independentemente do comprimento do texto de suporte.
Regra de Votação: Os pesos calculados são aplicados a uma votação de maioria ponderada padrão. As strings de resposta são agrupadas após normalização leve (letras minúsculas, colapso de espaços em branco, remoção de artigos) para determinar a saída final.

Propriedades Principais

Sinal Externo: O sinal é derivado do log de recuperação do ambiente, tornando-o independente do estado oculto do modelo.
Eficiência: O RGV não requer chamadas extras de LLM, não requer extração de log-probabilidade e não requer ajuste fino. Ele incorre em um custo de CPU desprezível (~0,3 ms por execução).

3. Principais Contribuições

Diagnóstico de Inflação de Cópia: O artigo identifica e quantifica a "inflação de cópia" como o mecanismo que faz a votação baseada em confiança falhar em agentes de busca. Demonstra que os tokens copiados carregam log-probabilidades infladas (+0,50 nats acima dos tokens não copiados), comprimindo a variância das pontuações de confiança dentro de uma pergunta e tornando a votação ponderada ineficaz.
Votação Fundamentada em Recuperação (RGV): Os autores propõem uma solução de camada de votação que lê o sinal de fora do contexto contaminado. Ao medir a fundamentação lexical da resposta nos documentos recuperados, o RGV contorna inteiramente a inflação de log-probabilidade.
Validação Empírica: Experimentos extensos em quatro benchmarks e cinco LLMs demonstram que o RGV supera consistentemente tanto a votação de maioria simples quanto a votação de confiança baseada em log-probabilidade (DeepConf).

4. Resultados Experimentais

Os autores avaliaram o RGV em quatro benchmarks de agentes de busca de múltiplos turnos (BrowseComp-Plus, BrowseComp, GAIA, FRAMES) usando cinco LLMs (incluindo Tongyi-DeepResearch, GPT-OSS-120B, MiniMax-M2.7, Kimi-K2.5, GLM-5.1).

Desempenho Geral: O RGV alcançou a maior precisão em todas as 20 configurações de benchmark $\times$ modelo.
Ganhos de Precisão: O RGV superou o melhor baseline (DeepConf) em até +5,4% de precisão absoluta.
Perguntas de Minoria Correta: Os ganhos mais significativos foram observados em perguntas "difíceis de votar", onde a resposta correta aparecia em apenas 1 ou 2 de 8 execuções (minoria correta). Nessas perguntas, o RGV melhorou a precisão em +35% em relação ao DeepConf. Isso ocorre porque o DeepConf falha em distinguir a minoria correta da maioria incorreta devido à inflação de cópia, enquanto o RGV identifica corretamente a execução com a fundamentação mais forte.
Eficiência de Escalonamento: O RGV com 4 execuções igualou a precisão do DeepConf com 8 execuções, efetivamente reduzindo o orçamento de execuções pela metade para o desempenho equivalente.
Validade do Sinal: A análise confirmou que o sinal do RGV é impulsionado pela correspondência de entidades raras (dígitos, entidades capitalizadas) em vez de palavras comuns ou verbosidade. As pontuações do RGV correlacionaram-se fortemente com o recall do documento de ouro ( $r=0,57$ ), indicando que ele mede com sucesso a qualidade da recuperação.

5. Significância e Alegações

O artigo afirma que sinais derivados do ambiente (logs de recuperação) oferecem uma base mais confiável para o escalonamento em tempo de teste em agentes de busca do que sinais internos do modelo (log-probabilidades) quando o contexto é contaminado por evidências recuperadas.

Generalização: O diagnóstico de inflação de cópia não se limita à votação; os autores sugerem que qualquer mecanismo que dependa de confiança ao nível de token (ex: parada antecipada, roteamento, detecção de alucinação) em agentes de busca de múltiplos turnos está suscetível ao mesmo modo de falha.
Custo-Benefício: O RGV fornece uma alternativa de alto desempenho para métodos que exigem chamadas extras de LLM (agregadores) ou ajuste fino (RL), adicionando um overhead computacional desprezível.
Limitações: Os autores observam que o RGV herda a qualidade do sistema de recuperação; se a recuperação falhar, o RGV não pode recuperar. Além disso, o RGF mede sobreposição superficial, não implicação lógica, o que significa que pode ser enganado por respostas "bem fundamentadas, mas erradas", onde o modelo copia corretamente um documento que contém erros fatuais. O método é atualmente avaliado em tarefas em inglês.

Em conclusão, o artigo argumenta que, para agentes de busca de múltiplos turnos, a camada de votação deve olhar para fora do contexto do modelo para evitar os efeitos de confusão da inflação de cópia, e que a fundamentação lexical em documentos recuperados é um proxy robusto e de baixo custo para a correção da resposta.