Evaluating RAG Reliability under Clean, Misleading, and Mixed Retrieval

Sintesi Tecnica: Valutazione dell'Affidabilità RAG sotto Recupero Pulito, Fuorviante e Misto

Definizione del Problema
I sistemi di Generazione Aumentata da Recupero (RAG) sono progettati per migliorare l'affidabilità fattuale dei Large Language Models (LLM) ancorando le risposte a prove esterne. Tuttavia, esiste una vulnerabilità critica negli ambienti informativi del mondo reale, dove il contenuto recuperato spesso contiene dati eterogenei, inclusa l'informazione plausibile ma errata (disinformazione). Gli attuali framework di valutazione spesso assumono che il contesto recuperato sia affidabile o si concentrano principalmente su attacchi di tipo "poisoning" orientati alla sicurezza. Manca un'analisi sistematica su come i sistemi RAG si comportino quando il contesto recuperato contiene livelli variabili di disinformazione, in particolare in scenari in cui il modello possiede già la risposta corretta nella sua conoscenza parametrica (interna). Il problema centrale è determinare se e come l'evidenza fuorviante sovrascriva la corretta conoscenza interna e influenzi la fiducia del modello.

Metodologia
Lo studio propone un protocollo di valutazione per testare la robustezza RAG attraverso quattro distinti scenari contestuali:

1. Pulito (Clean): Contesto contenente solo passaggi corretti.
2. Avvelenato (Poisoned): Contesto contenente solo passaggi errati (fuorvianti).
3. Misto-33 (Mixed-33): Contesto con un passaggio errato e due passaggi corretti.
4. Misto-67 (Mixed-67): Contesto con due passaggi errati e un passaggio corretto.

Configurazione Sperimentale:

• Dataset: Un sottoinsieme di 100 domande di tipo "factoid" è stato campionato dal dataset TruthfulQA. Fondamentalmente, lo studio ha filtrato le domande che i modelli hanno risposto correttamente in un'impostazione Solo Parametrica (senza recupero), garantendo che qualsiasi errore successivo potesse essere attribuito all'influenza contestuale piuttosto che a lacune di conoscenza.
• Modelli: Gli esperimenti sono stati condotti utilizzando GPT-4o (un modello closed-weight forte) e LLaMA-3.1-8B (un modello open-weight più piccolo) per valutare l'impatto della capacità del modello.
• Costruzione del Contesto: I contesti puliti sono stati recuperati da Wikipedia tramite BM25. I contesti fuorvianti ("avvelenati") sono stati generati sinteticamente da LLaMA-3.1-8B per essere plausibili, informativi e fattualmente contraddittori rispetto alla risposta corretta (gold answer), imitando la disinformazione realistica senza fare affidamento su API proprietarie per la generazione.
• Metriche di Valutazione: Il documento introduce tre metriche specifiche per andare oltre la semplice accuratezza:
  1. Tasso di Sovrascrittura Parametrica (POR - Parametric Override Rate): Misura la frequenza con cui il contesto recuperato causa l'abbandono di una risposta parametrica corretta a favore di una errata.
  2. Inflazione della Fiducia (CI - Confidence Inflation): Quantifica l'aumento dell'assertività (fiducia) del modello durante la generazione di risposte errate in contesti fuorvianti rispetto ai contesti puliti.
  3. Curva del Rapporto di Avvelenamento (PRC - Poison Ratio Curve): Monitora l'evoluzione dell'accuratezza complessiva del modello all'aumentare della proporzione di passaggi fuorvianti nel contesto dallo 0% al 100%.

Risultati Chiave

• Sovrascrittura Parametrica: Entrambi i modelli hanno mostrato una significativa suscettibilità alla sovrascrittura della corretta conoscenza interna. Anche nello scenario Pulito, una parte sostanziale di risposte parametriche corrette è stata sovrascritta (POR di 0,378 per GPT-4o e 0,417 per LLaMA-3.1), suggerendo che la mera presenza di un contesto recuperato può interferire con il ragionamento interno. Man mano che la proporzione di contesto errato aumentava, il POR cresceva sistematicamente. Nello scenario Avvelenato, entrambi i modelli hanno abbandonato la conoscenza corretta in oltre il 56% dei casi.
• Sensibilità del Modello: LLaMA-3.1 ha dimostrato una maggiore sensibilità alle evidenze contraddittorie rispetto a GPT-4o, mostrando un declino più netto delle prestazioni negli scenari misti (ad esempio, il POR è salito a 0,583 nel Mixed-67 per LLaMA-3.1).
• Inflazione della Fiducia: I contesti fuorvianti hanno causato nei modelli l'espressione di risposte errate con una fiducia significativamente più alta. Nello scenario completamente avvelenato, entrambi i modelli hanno mostrato livelli simili di inflazione della fiducia (circa 1,6), indicando che l'eccessiva fiducia di fronte alla disinformazione è una caratteristica generale dei sistemi RAG piuttosto che un difetto specifico dell'architettura.
• Degradazione dell'Accuratezza: La Curva del Rapporto di Avvelenamento ha rivelato una chiara relazione inversa tra la quantità di disinformazione e l'accuratezza del modello. Test statistici (Cochran's Q) hanno confermato che la degradazione dell'accuratezza attraverso le condizioni di contesto era significativa per entrambi i modelli.

Significatività e Contributi
Il documento sostiene di fornire il primo framework di valutazione sistematica che misura esplicitamente l'entità con cui i modelli deviano dalla corretta conoscenza parametrica sotto l'influenza del contesto recuperato. I suoi principali contributi includono:

1. Approfondimento Comportamentale: Dimostrare che l'affidabilità RAG non riguarda solo l'accuratezza del recupero, ma dipende fortemente da come i modelli risolvono i conflitti tra la conoscenza interna e l'evidenza esterna.
2. Nuove Metriche: Introduzione di POR, CI e PRC per quantificare l'effetto di "sovrascrittura" e la pericolosa combinazione di risposte errate con un'alta fiducia.
3. Valutazione Realistica: Evidenziare che i sistemi RAG sono vulnerabili anche in ambienti "misti" dove la disinformazione non è dominante, sfidando l'assunto che l'informazione corretta nel contesto prevalga naturalmente.

Gli autori concludono che, negli ambienti ricchi di disinformazione, l'affidabilità dell'evidenza recuperata è critica quanto la sua rilevanza. Lo studio suggerisce che i futi sistemi RAG richiedono meccanismi di recupero consapevoli della credibilità e strategie di rilevamento dei conflitti per evitare che i modelli adottino con sicurezza informazioni fuorvianti al posto della propria conoscenza verificata.