Resumo Técnico: Além da Maior Lacuna: Truncamento de Lista Classificada de Múltiplos Limites para Recuperação Multi-Hop

1. Definição do Problema

Na Geração Aumentada por Recuperação (RAG), particularmente para o questionamento de múltiplas etapas (multi-hop QA), determinar o comprimento ideal do contexto recuperado é um desafio crítico. A estratégia padrão Fixed Top-K é inflexível: um $K$ pequeno corre o risco de truncar evidências necessárias, enquanto um $K$ grande introduz custos computacionais e ruído de distração.

Os métodos existentes de truncamento adaptativo baseiam-se tipicamente em uma suposição de limite único, identificando o fim da evidência útil ao localizar a maior queda (lacuna/gap) nos escores de recuperação classificados. O artigo argumenta que essa suposição é fundamentalmente falha para a recuperação multi-hop porque:

1. Relevância $\neq$ Utilidade: Os escores de recuperação refletem o emparelhamento entre consulta e documento, mas evidências de "ponte" ou de "etapas posteriores" (essenciais para o raciocínio, mas não mencionadas diretamente na consulta) frequentemente recebem escores menores.
2. Truncamento Prematuro: A maior lacuna de escore ocorre frequentemente dentro de uma cadeia de evidências completa, em vez de após ela. Consequentemente, métodos de lacuna única frequentemente truncam evidências de ponte críticas que aparecem mais adiante na lista classificada com escores menores.
3. Insuficiência de Escores: O autor prova formalmente (Proposição 1) que, sem suposições adicionais, a sequência de escores classificados sozinha não é um estatístico suficiente para identificar a posição da evidência necessária final, pois diferentes distribuições de evidência podem produzir sequências de escores idênticas.

A análise empírica no HotpotQA, 2WikiMultiHopQA e MuSiQue confirma que, mesmo quando toda a evidência de ouro está dentro do Top-30, 31%–55% das consultas ainda contêm evidência de ouro após a maior lacuna de escore.

2. Metodologia: GapR

Para abordar as limitações do truncamento de limite único, o autor propõe o GapR, um método livre de treinamento e baseado apenas em escores para o truncamento de lista classificada adaptativo à consulta. O GapR substitui o sinal de parada único por uma estratégia de agregação de múltiplos limites.

Componentes Principais

1. Filtragem de Lacuna Relativa à Consulta:

   • Em vez de usar um limiar absoluto global (que falha devido às variações de escala de escore entre as consultas), o GapR usa a maior lacuna na consulta atual ($g_{max}$) como uma referência interna.
   • Ele filtra os candidatos a limites $V_q$ retendo apenas aquelas lacunas $g_i$ que satisfazem $g_i \ge \eta \cdot g_{max}$, onde $\eta$ é uma razão de filtragem relativa (ex: 0,05). Isso suprime o ruído fraco na cauda enquanto preserva quedas estruturais significativas.

2. Agregação de Múltiplos Limites:

   • O GapR seleciona os $r$ limites candidatos mais fortes do conjunto filtrado $V_q$.
   • O ponto de truncamento final $K_q$ é definido como o último (mais distante) limite entre esses candidatos selecionados, sujeito a limites globais $[K_{min}, K_{max}]$.
   • Lógica: Se uma lacuna forte precoce existe, mas uma lacuna forte subsequente também existe, o método estende o contexto até o limite posterior, preservando assim evidências dispersas de multi-hop que um método de lacuna única perderia.

Complexidade Algorítmica

O GapR opera diretamente na estrutura de escores classificados existente. Não requer dados de treinamento, rótulos de ouro, feedback do gerador ou chamadas de modelos adicionais.

• Complexidade de Tempo: $O(L \log r)$ ou efetivamente linear $O(L)$ para um $r$ constante, onde $L$ é o comprimento do prefixo de busca.
• Latência: O processo de decisão leva apenas 15–24 microssegundos por consulta.

3. Principais Contribuições

1. Diagnóstico Estrutural: O artigo identifica e formaliza o modo de falha do truncamento baseado na maior lacuna na recuperação multi-hop, demonstrando que a interrupção de escore mais forte frequentemente precede a evidência necessária final.
2. Formulação de Múltiplos Limites: O GapR introduz uma visão estruturada das transições de escore da lista classificada, usando filtragem relativa à consulta e agregação de múltiplos limites para equilibrar a cobertura de evidências com a expansão do contexto.
3. Eficiência e Eficácia Simultâneas: O método alcança ganhos significativos de desempenho de recuperação sobre as linhas de base de custo correspondente, mantendo a latência de decisão em nível de microssegundos, tornando-o adequado para sistemas RAG de alto rendimento e baixa latência.

4. Resultados Experimentais

Os experimentos foram conduzidos no HotpotQA, 2WikiMultiHopQA e MuSiQue utilizando rankers Densos, Híbridos e Esparsos.

Eficácia de Recuperação (RQ1)

• Desempenho: Sob orçamentos de contexto comparáveis, o GapR supera significativamente o Fixed Top-K e o AdaptiveK+5 (que adiciona um buffer fixo à maior lacuna) em todos os conjuntos de dados e rankers.
• Métricas: O GapR melhora o Macro-F1 em 3,29, 3,14 e 2,53 pontos percentuais em relação ao Fixed Top-K nos três conjuntos de dados, respectivamente. Também supera consistentemente o AdaptiveK+5.
• Mecanismo: Os ganhos são atribuídos a uma melhor alocação de orçamento por consulta (reduzindo o truncamento prematuro) em vez de simplesmente aumentar o tamanho do contexto. O GapR reduz o "sub-truncamento" (perda de evidência) de forma mais eficaz do que as linhas de base sem aumentar significativamente o "sobre-truncamento" (conteúdo redundante).

Eficiência (RQ3)

• Latência: O GapR requer 15–24 µs por consulta para a decisão de corte.
• Comparação: Isso é três ordens de magnitude mais rápido do que métodos adaptativos computacionalmente mais pesados como o Surprise (47 ms) e TAA-k (166 ms).

Geração Downstream (RQ4)

• Utilizando Qwen3-8B e DeepSeek-V3.2, a melhoria na alocação de contexto levou a uma tendência geral positiva na qualidade da resposta (Answer F1).
• No MuSiQue, o GapR superou o AdaptiveK com ambos os geradores. O ganho médio sobre o Fixed Top-K de custo correspondente foi modesto, mas positivo (0,44 pontos), embora os resultados tenham variado por gerador: o Qwen melhorou em 1,39 pontos enquanto o DeepSeek melhorou em 1,64 pontos no HotpotQA. No MuSiQue, o DeepSeek mostrou um ganho de +0,38 pontos em relação ao AdaptiveK.

Robustez

As vantagens do GapR persistem através de rankers Densos, Híbridos e Esparsos. O método é robusto à escolha do ranker, embora seu teto seja limitado pela capacidade do recuperador upstream de alcançar a evidência de ouro (alcançabilidade).

5. Significância e Alegações

O artigo afirma que o GapR fornece uma solução prática e adaptativa de truncamento de contexto que resolve a tensão entre cobertura de evidência e eficiência computacional no RAG multi-hop.

• Implantação Prática: Ao operar em microssegundos e não exigir modelos ou treinamento adicionais, o GapR posiciona-se como um substituto direto para pipelines RAG existentes, particularmente para sistemas de alto rendimento onde a latência é crítica.
• Insight Teórico: O trabalho desafia a suposição prevalecente de que uma única lacuna de escore define o fim da evidência, propondo, em vez disso, que a evidência multi-hop é frequentemente distribuída através de múltiplos limites salientes na lista classificada.
• Escopo Modesto: O autor reconhece que o GapR é um truncador de prefixo e não pode recuperar evidências perdidas pelo recuperador upstream ou pelos resultados de reranking. A avaliação é limitada ao QA multi-hop, e os benefícios de geração são descritos como "geralmente positivos", em vez de uma garantia universal, já que o desempenho downstream depende da capacidade do gerador de integrar os fatos recuperados.

Em resumo, o GapR demonstra que o truncamento de múltiplos limites é uma estratégia superior para a recuperação multi-hop, oferecendo um equilíbrio favorável entre qualidade de recuperação e eficiência de tempo de execução sem o overhead de mecanismos adaptativos complexos.