Dual-Confidence Contrastive Decoding for Retrieval-Augmented Generation

Sintesi Tecnica: Dual-Confidence Contrastive Decoding per la Retrieval-Augmented Generation

Definizione del Problema
I sistemi di Retrieval-Augmented Generation (RAG) operano sempre più in contesti multi-documento in cui il pacchetto di evidenze recuperate contiene informazioni conflittuali, obsolete, rumorose o irrilevanti. Sebbene i metodi esistenti di contrastive decoding (CD) risolvano efficacemente i conflitti tra la memoria parametrica interna di un modello e il contesto recuperato, essi falliscono ampiamente nel gestire i conflitti intra-contesto. Nella RAG multi-documento, il modello deve non solo scegliere il prossimo token, ma anche selezionare la corretta fonte di evidenza tra più documenti recuperati, alcuni dei quali potrebbero supportare affermazioni contraddittorie. Gli approcci CD standard spesso trattano il pacchetto recuperato come un singolo contesto, fallendo nel distinguere tra i documenti sufficienti a rispondere a una query e quelli che non lo sono, né tengono conto della confidenza delle predizioni a livello di token all'interno di specifici flussi condizionati dal documento.

Metodologia: Dual-Confidence Contrastive Decoding (DCCD)
Gli autori propongono DCCD, una strategia di decoding senza addestramento (training-free) progettata per risolvere i conflitti intra-contesto integrando due distinti segnali di confidenza:

1. Confidenza a livello di Documento ($q_i$): Questa metrica stima se un determinato documento recuperato $d_i$ contiene informazioni sufficienti per rispondere alla query $x$. Viene calcolata tramite un prompt di "support probe" che pone al modello una domanda binaria sì/no ("Questo documento contiene abbastanza informazioni per rispondere alla domanda?"). Il punteggio è derivato dalla massa di probabilità dei token del verbalizer "sì" rispetto ai token "no". Questo punteggio viene calcolato una sola volta per ogni coppia domanda-documento prima dell'inizio del decoding.
2. Confidenza a livello di Token ($c_{i,t}$): Questa metrica stima la nitidezza (sharpness) della predizione del prossimo token del modello condizionata a un documento specifico $d_i$ durante lo step di decoding $t$. Seguendo il framework di incertezza di Dirichlet, il modello mappa i top-$k$ logit dello stream condizionato dal documento ai parametri di concentrazione di Dirichlet. Viene calcolata l'entropia attesa della distribuzione categorica indotta e normalizzata; la confidenza è definita come $1 - \text{entropia normalizzata}$. Questo punteggio viene ricalcolato ad ogni step di decoding.

Meccanismo di Decoding
Ad ogni step di decoding $t$, DCCD aggrega questi segnali in un punteggio di doppia confidenza $s_{i,t} = q_i + c_{i,t}$. Il metodo seleziona:

• Uno stream positivo ($i^+_t$) corrispondente al documento con il punteggio di doppia confidenza più alto.
• Uno stream negativo ($i^-_t$) corrispondente al documento con il punteggio di doppia confidenza più basso.

Il termine contrastivo $\epsilon_t$ è scalato dinamicamente dal margine tra questi punteggi ($\epsilon_t = s_{i^+_t,t} - s_{i^-_t,t}$). La distribuzione finale dei logit $z_t$ viene calcolata ancorando la generazione ai logit del contesto completo ($z^{full}_t$) e aggiungendo la differenza scalata tra i logit del documento positivo e di quello negativo:
$$z_t = z^{full}_t + \epsilon_t (z^{i^+_t}_t - z^{i^-_t}_t)$$
Questo approccio amplifica l'evidenza della fonte più affidabile mentre sopprime le alternative conflittuali o non supportate, senza richiedere il fine-tuning del modello.

Benchmark: DRQA
Per valutare questo scenario, gli autori introducono DRQA (Deep Research Question Answering), un benchmark di conflitto fattuale derivato da scenari di ricerca approfondita aziendale. A differenza dei classici benchmark di QA a dominio aperto che si basano sulla conoscenza pubblica, DRQA utilizza fatti sintetici e specifici per l'impresa (ad es., metriche aziendali interne, persona degli utenti) che non sono recuperabili dalla memoria interna del modello. Ogni query è accoppiata a un pacchetto recuperato contenente:

• Un documento corretto.
• Documenti di disinformazione (plausibili ma fattualmente errati).
• Documenti temporali (storicamente accurati ma attualmente obsoleti).
• Documenti di rumore (topicamente rilevanti ma impossibilitati a rispondere).

Questo design costringe i modelli a fare affidamento interamente sul recupero e sulla risoluzione dei conflitti piuttosto che sulla conoscenza parametrica.

Risultati Sperimentali
Gli autori hanno valutato DCCD rispetto al decoding standard a contesto completo e a vari baseline di contrastive decoding (CAD, ADACAD, DVD, COCOA) su DRQA e benchmark standard di QA multi-documento (Natural Questions, TriviaQA, PopQA, RetrievalQA) utilizzando Small Language Models istruiti (Qwen3.5-2B/9B, Phi-3-medium).

• Performance: DCCD ha ottenuto la migliore performance media in quasi tutte le impostazioni. I guadagni sono stati più pronunciati su DRQA, dove il compito richiede la risoluzione di conflitti interni tra le evidenze recuperate.
• Studi di Ablazione: Rimuovere la confidenza a livello di documento ha causato la maggiore degradazione delle performance (ad es., un calo di circa il 6,34% su DRQA @5), indicando che la sola nitidezza a livello di token è insufficiente quando documenti fuorvianti possono comunque generare predizioni locali sicure. Al contrario, l'uso della sola confidenza a livello di documento è risultato stabile ma meno efficace all'aumentare del numero di distrattori, evidenziando il valore complementare della confidenza a livello di token.
• Efficienza: Sebbene DCCD comporti costi di inferenza più elevati a causa dei molteplici passaggi in avanti (uno stream a contesto completo più $n$ stream condizionati dal documento), l'overhead è lineare rispetto al numero di documenti recuperati ed è ammortizzato dal probe a livello di documento.

Significatività e Claim
L'articolo sostiene che DCCD dimostra l'importanza critica di un decoding consapevole della fonte e regolato dalla confidenza quando le evidenze recuperate sono internamente conflittuali. Distinguendo esplicitamente tra la sufficienza di una fonte (livello documento) e la certezza della generazione da tale fonte (livello token), DCCD fornisce un meccano robusto per risolvere i conflitti intra-contesto senza addestramento. Gli autori posizionano DRQA come un benchmark necessario per valutare i sistemi RAG in contesti aziendali dove i fatti sono privati, eterogenei e soggetti a conflitti, una capacità che rimane poco esplorata nei lavori precedenti. I risultati suggeriscono che una RAG multi-documento efficace richiede non solo il recupero delle evidenze, ma anche un gating dinamico della generazione basato sull'affidabilità e la chiarezza di specifiche fonti di evidenza.