Dual-Confidence Contrastive Decoding for Retrieval-Augmented Generation

Resumo Técnico: Decodificação Contrastiva de Dupla Confiança para Geração Aumentada por Recuperação

Definição do Problema
Os sistemas de Geração Aumentada por Recuperação (RAG) operam cada vez mais em cenários de múltiplos documentos, onde o conjunto de evidências recuperadas contém informações conflitantes, obsoletas, ruidosas ou irrelevantes. Embora os métodos de decodificação contrastiva (CD) existentes resolvam eficazmente os conflitos entre a memória paramétrica interna de um modelo e o contexto recuperado, eles falham amplamente em abordar conflitos intra-contexto. No RAG de múltiplos documentos, o modelo deve não apenas escolher o próximo token, mas também selecionar a fonte de evidência correta entre vários documentos recuperados, dos quais alguns podem sustentar afirmações contraditórias. As abordagens padrão de CD frequentemente tratam o conjunto recuperado como um contexto único, falhando em distinguir entre documentos que são suficientes para responder a uma consulta e aqueles que não são, nem levam em conta a confiança das previsões de nível de token dentro de fluxos condicionados a documentos específicos.

Metodologia: Decodificação Contrastiva de Dupla Confiança (DCCD)
Os autores propõem o DCCD, uma estratégia de decodificação livre de treinamento projetada para resolver conflitos intra-contexto integrando dois sinais de confiança distintos:

1. Confiança ao Nível do Documento ($q_i$): Esta métrica estima se um documento recuperado específico $d_i$ contém informação suficiente para responder à consulta $x$. Ela é computada via um prompt de "sonda de suporte" perguntando ao modelo uma questão binária de sim/não ("Este documento contém informação suficiente para responder à pergunta?"). O escore é derivado da massa de probabilidade dos tokens de verbalização "sim" em relação aos tokens "não". Este escore é computado uma única vez por par pergunta-documento antes do início da decodificação.
2. Confiança ao Nível do Token ($c_{i,t}$): Esta métrica estima a nitidez (sharpness) da previsão do próximo token do modelo condicionado a um documento específico $d_i$ no passo de decodificação $t$. Seguindo o framework de incerteza de Dirichlet, o modelo mapeia os top-$k$ logits do fluxo condicionado ao documento para parâmetros de concentração de Dirichlet. A entropia esperada da distribuição categórica induzida é calculada e normalizada; a confiança é definida como $1 - \text{entropia normalizada}$. Este escore é recomputado em cada passo de decodificação.

Mecanismo de Decodificação
Em cada passo de decodificação $t$, o DCCD agrega esses sinais em um escore de dupla confiança $s_{i,t} = q_i + c_{i,t}$. O método seleciona:

• Um fluxo positivo ($i^+_t$) correspondente ao documento com o maior escore de dupla confiança.
• Um fluxo negativo ($i^-_t$) correspondente ao documento com o menor escore de dupla confiança.

O termo contrastivo $\epsilon_t$ é escalonado dinamicamente pelo margem entre esses escores ($\epsilon_t = s_{i^+_t,t} - s_{i^-_t,t}$). A distribuição de logit final $z_t$ é computada ancorando a geração nos logits de contexto total ($z^{full}_t$) e adicionando a diferença escalonada entre os logits do documento positivo e do negativo:
$$z_t = z^{full}_t + \epsilon_t (z^{i^+_t}_t - z^{i^-_t}_t)$$
Esta abordagem amplifica a evidência da fonte mais confiante enquanto suprime alternativas conflitantes ou não suportadas, sem exigir o ajuste fino (fine-tuning) do modelo.

Benchmark: DRQA
Para avaliar este cenário, os autores introduzem o DRQA (Deep Research Question Answering), um benchmark de conflito factual derivado de cenários de pesquisa profunda empresarial. Diferente dos benchmarks padrão de QA de domínio aberto que dependem de conhecimento público, o DRQA utiliza fatos sintéticos e específicos de empresas (ex: métricas internas da empresa, personas de usuários) que não são recuperáveis da memória interna do modelo. Cada consulta é pareada com um conjunto recuperado contendo:

• Um documento correto.
• Documentos de desinformação (plausíveis, mas factualmente incorretos).
• Documentos temporais (historicamente precisos, mas atualmente obsoletos).
• Documentos de ruído (topicamente relevantes, mas impossíveis de responder).

Este design força os modelos a depender inteiramente da recuperação e da resolução de conflitos, em vez do conhecimento paramétrico.

Resultados Experimentais
Os autores avaliaram o DCCD contra a decodificação de contexto total padrão e várias linhas de base de decodificação contrastiva (CAD, ADACAD, DVD, COCOA) no DRQA e em benchmarks padrão de QA de múltiplos documentos (Natural Questions, TriviaQA, PopQA, RetrievalQA) usando Modelos de Linguagem Pequenos instruídos (Qwen3.5-2B/9B, Phi-3-medium).

• Desempenho: O DCCD alcançou o melhor desempenho médio em quase todas as configurações. Os ganhos foram mais pronunciados no DRQA, onde a tarefa exige a resolução de conflitos internos entre as evidências recuperadas.
• Estudos de Ablação: Remover a confiança ao nível do documento causou a maior degradação de desempenho (ex: uma queda de ~6,34% no DRQA @5), indicando que a nitidez ao nível do token sozinha é insuficiente quando documentos enganosos ainda podem gerar previsões locais confiantes. Por outro lado, usar apenas a confiança ao nível do documento foi estável, mas menos eficaz conforme o número de distratores aumentava, destacando o valor complementar da confiança ao nível do token.
• Eficiência: Embora o DCCD incorra em custos de inferência mais altos devido a múltiplas passagens de ida (forward passes) — um fluxo de contexto total mais $n$ fluxos condicionados a documentos — o overhead é linear com o número de documentos recuperados e amortizado pela sonda de nível de documento.

Significância e Alegações
O artigo afirma que o DCCD demonstra a importância crítica de uma decodificação com portão de confiança consciente da fonte quando as evidências recuperadas são internamente conflitantes. Ao distinguir explicitamente entre a suficiência de uma fonte (nível do documento) e a certeza da geração a partir dessa fonte (nível do token), o DCCD fornece um mecanismo robusto para resolver conflitos intra-contexto sem treinamento. Os autores posicionam o DRQA como um benchmark necessário para avaliar sistemas RAG em ambientes empresariais onde os fatos são privados, heterogêneos e propensos a conflitos, uma capacidade que permanece subexplorada em trabalhos anteriores. Os resultados sugerem que um RAG de múltiplos documentos eficaz requer não apenas a recuperação de evidências, mas o controle dinâmico da geração com base na confiabilidade e clareza de fontes de evidência específicas.