Faithfulness-Aware Uncertainty Quantification for Fact-Checking the Output of Retrieval Augmented Generation

1. Il Problema: Allucinazioni e Confusione tra Fattualità e Fedeltà

I Large Language Models (LLM) potenziati dal recupero di informazioni esterne (Retrieval-Augmented Generation o RAG) hanno migliorato le prestazioni nelle domande a risposta aperta, ma rimangono soggetti a allucinazioni (output fattualmente errati).
Il problema centrale identificato dagli autori è che le attuali metodologie di rilevamento delle allucinazioni tendono a confondere due concetti distinti:

• Fattualità (Factuality): Se l'affermazione è oggettivamente vera nel mondo reale.
• Fedeltà (Faithfulness): Se l'affermazione è supportata semanticamente dal contesto recuperato.

Le approcci esistenti spesso etichettano come "allucinazione" qualsiasi affermazione che non sia esplicitamente supportata dal contesto recuperato, anche se è fattualmente corretta (basata sulla conoscenza interna del modello). Questo porta a falsi positivi. Inoltre, se il contesto recuperato è errato, un modello che vi si attiene fedelmente produrrà un'output "fedele" ma fattualmente falso.

2. Metodologia: FRANQ

Gli autori introducono FRANQ (Faithfulness-aware Retrieval Augmented UNcertainty Quantification), un nuovo metodo per la quantificazione dell'incertezza che stima la fattualità di un'affermazione condizionando la sua valutazione alla sua fedeltà al contesto recuperato.

Il Concetto Chiave

FRANQ scompone la probabilità che un'affermazione $c$ sia vera in tre componenti, basandosi sulla formula:
$$P(c \text{ è vera}) = P(c \text{ è fedele}) \cdot P(c \text{ è vera} | \text{fedele}) + P(c \text{ non è fedele}) \cdot P(c \text{ è vera} | \text{non fedele})$$

I Tre Componenti del Metodo

1. Valutazione della Fedeltà ($P(c \text{ è fedele})$):

   • Utilizza AlignScore, una metrica basata su RoBERTa, per determinare se un'affermazione è entailment (deducibile) rispetto ai documenti recuperati.
   • Fornisce una stima continua (probabilità) piuttosto che una decisione binaria, catturando casi di parziale supporto.

2. Fattualità in caso di Non-Fedeltà ($P(c \text{ è vera} | \text{non fedele})$):

   • Se un'affermazione non è supportata dal contesto, origina dalla conoscenza parametrica interna del LLM.
   • Long-form QA: Si utilizza il metodo Parametric Knowledge, calcolando la probabilità dell'affermazione basandosi solo sulla conoscenza interna del modello (rimuovendo il contesto recuperato dall'input).
   • Short-form QA: Si utilizza la Somma degli Autovalori (Sum of Eigenvalues), una metrica basata sulla diversità del campione.

3. Fattualità in caso di Fedeltà ($P(c \text{ è vera} | \text{fedele})$):

   • Se un'affermazione è fedele, il modello potrebbe comunque applicarla erroneamente alla query.
   • Long-form QA: Si utilizza la Massima Probabilità dell'Affermazione (Max Claim Probability).
   • Short-form QA: Si utilizza l'Entropia Semantica (Semantic Entropy), che cattura meglio l'incertezza in scenari di generazione breve.

Calibrazione

Poiché le diverse tecniche di UQ (Uncertainty Quantification) possono avere distribuzioni diverse, FRANQ applica una calibrazione per condizione tramite regressione isotonica. Questo significa che i punteggi di incertezza per le affermazioni fedeli e non fedeli vengono calibrati separatamente sui rispettivi sottogruppi di dati di addestramento per garantire coerenza probabilistica.

3. Contributi Chiave

1. Nuovo Metodo (FRANQ): Un framework UQ che disaccoppia la valutazione della fedeltà da quella della fattualità, adattando la strategia di rilevamento dell'errore in base alla fonte dell'errore (errore di grounding nel recupero vs. errore nella conoscenza interna).
2. Nuovo Dataset per Long-form QA: Gli autori hanno creato un dataset annotato per sia fattualità che fedeltà. Questo dataset combina annotazione automatica (tramite GPT-4o con ricerca web) e validazione manuale per i casi più difficili (affermazioni false o non verificabili), permettendo un'analisi granulare a livello di "affermazioni atomiche".
3. Valutazione Estensiva: Sperimentazioni su più dataset (long e short-form), diversi compiti e vari LLM (Llama, Falcon, Gemma), dimostrando la superiorità di FRANQ rispetto agli approcci esistenti.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su benchmark per domande a risposta breve (Short-form QA: TriviaQA, SimpleQA, ecc.) e lunghe (Long-form QA).

• Prestazioni Superiori: FRANQ (specialmente la versione con calibrazione per condizione) ha ottenuto i migliori risultati in termini di PR-AUC (Area Under the Precision-Recall Curve) e PRR (Prediction Rejection Ratio) su quasi tutti i modelli e i dataset testati.
• Robustezza: FRANQ si è dimostrato robusto anche in scenari di recupero corrotto (dove il 50% dei documenti recuperati è irrilevante o contiene fatti falsi), superando sia le baseline generali che i metodi specifici per RAG.
• Ablation Study: L'analisi ha mostrato che la scelta del metodo UQ per le affermazioni non fedeli è critica nelle domande lunghe (dove la conoscenza parametrica è essenziale), mentre per le domande brevi il metodo è più robusto alle scelte specifiche.
• Efficienza: L'overhead computazionale di FRANQ è minimo (pochi secondi aggiuntivi per istanza) e i modelli di calibrazione sono leggeri (pochi centinaia di byte), rendendo il metodo pratico per il deployment.

5. Significato e Implicazioni

Il lavoro di FRANQ è significativo perché:

• Ridefinisce l'Allucinazione: Sposta il focus dalla semplice "coerenza con il contesto" alla "verità oggettiva", evitando di penalizzare i modelli quando forniscono informazioni corrette ma non presenti nel contesto recuperato.
• Gestione dell'Incertezza Condizionata: Introduce un paradigma in cui l'incertezza non è trattata come un valore monolitico, ma viene modellata in base alla provenienza dell'informazione (esterna vs. interna).
• Dataset di Riferimento: La creazione di un dataset annotato per la fattualità nelle risposte lunghe colma un vuoto nella ricerca attuale, che si concentrava prevalentemente sulla fedeltà contestuale.

In conclusione, FRANQ offre un approccio più sofisticato e affidabile per il fact-checking dei sistemi RAG, permettendo di distinguere tra errori di allucinazione dovuti a informazioni errate nel recupero e errori dovuti alla conoscenza interna del modello, migliorando così l'affidabilità dei sistemi di IA generativa in domini critici.