Riassunto Tecnico: Attributing Response to Context (ARC-JSD)

1. Il Problema: L'Attribuzione del Contesto nel RAG

La Retrieval-Augmented Generation (RAG) migliora l'accuratezza dei Large Language Models (LLM) fornendo loro documenti esterni come contesto. Tuttavia, sorge un problema critico di affidabilità: l'attribuzione del contesto (context attribution). È necessario sapere con certezza quali parti del contesto abbiano effettivamente causato la generazione di una specifica risposta per mitigare le allucinazioni e garantire la trasparenza.

Le metodologie attuali presentano limiti significativi:

• Metodi basati su annotazione umana: Costosi e non scalabili.
• Fine-tuning o Gradient-based attribution: Computazionalmente intensivi e richiedono calcoli del gradiente o l'addestramento di modelli surrogati (come in Contextcite).
• Ablazione del contesto: Metodi che rimuovono parti del contesto per vedere come cambia la probabilità della risposta, ma che spesso richiedono centinaia di passaggi in avanti (forward calls) per ogni coppia query-risposta.

2. Metodologia: ARC-JSD

Gli autori introducono ARC-JSD (Attribute Response to Context via Jensen–Shannon Divergence), un metodo basato esclusivamente sull'inferenza che non richiede fine-tuning, calcolo di gradienti o modelli surrogati.

Il meccanismo della Divergenza di Jensen-Shannon (JSD)

Il cuore del metodo è l'utilizzo della Divergenza di Jensen-Shannon per quantificare lo spostamento della distribuzione di probabilità dei token. Il processo segue questi step:

1. Generazione Originale: Si genera la risposta $R$ usando il contesto completo $C$ e la query $Q$.
2. Ablazione della frase: Per ogni frase $c_i$ nel contesto, si genera una nuova distribuzione di probabilità della stessa risposta $R$ rimuovendo quella specifica frase ($C_{ABLATE(c_i)}$).
3. Calcolo della JSD: Si calcola la JSD tra la distribuzione con contesto completo e quella con la frase rimossa. La JSD è scelta perché è simmetrica, finita, limitata (bounded) e priva di scala, il che permette confronti diretti tra diversi strati del modello.
4. Ranking: La frase che causa la maggiore divergenza (il valore JSD più alto) è identificata come la più rilevante per la generazione della risposta.

Analisi Meccanicistica (Logit Lens)

Il paper estende l'uso della JSD per analizzare l'interno del modello. Utilizzando la tecnica del Logit Lens, gli autori applicano la JSD ai singoli Attention Heads e ai layer MLP (Multi-Layer Perceptron). Questo permette di identificare quali componenti neuronali siano responsabili dell'integrazione delle informazioni del contesto.

3. Contributi Chiave

• Nuovo Metodo di Attribuzione: ARC-JSD, che identifica le frasi cruciali in modo efficiente e accurato.
• Efficienza Computazionale: Eliminazione della necessità di modelli surrogati o gradienti, portando a un incremento della velocità fino a 3 volte rispetto ai baseline esistenti.
• Studio Meccanicistico: Identificazione sistematica degli Attention Heads e dei layer MLP che guidano l'attribuzione del contesto, dimostrando che questi risiedono prevalentemente negli strati intermedi e superiori.
• Controllo del Modello: Dimostrazione che è possibile mitigare le allucinazioni manipolando (tramite "gating") i componenti identificati tramite JSD.

4. Risultati Sperimentali

Gli autori hanno testato il metodo su benchmark standard (TyDi QA, Hotpot QA, MuSiQue) utilizzando vari modelli (Qwen2, Gemma2) di diverse scale.

• Accuratezza: ARC-JSD ha mostrato un miglioramento medio dell'accuratezza nell'attribuzione del contesto superiore al 10% rispetto ai baseline.
• Efficienza (Trade-off Compute-Accuracy): Il metodo si posiziona sulla frontiera di Pareto, offrendo il miglior equilibrio tra precisione e costo computazionale (FLOPs).
• Validazione Meccanicistica: La correlazione tra i componenti identificati tramite JSD e quelli identificati tramite "Semantic Gain" (guadagno semantico) è stata confermata tramite il coefficiente di Spearman, validando la robustezza dell'analisi.
• Riduzione delle Allucinazioni: Applicando un "gate" (filtro) basato sui punteggi JSD sugli Attention Heads e MLP, il tasso di allucinazione è stato ridotto di circa il 39% senza compromettere la precisione fattuale (F1 score).

5. Significato e Implicazioni

La ricerca è significativa perché trasforma l'attribuzione del contesto da un compito costoso e complesso a un processo di inferenza leggero e integrabile in qualsiasi pipeline RAG esistente.

Oltre all'efficienza, il lavoro fornisce una "mappa" interna del comportamento RAG: dimostra che i modelli non si limitano a copiare il testo, ma integrano e parafrasano le informazioni attraverso specifici circuiti di attenzione e memoria (MLP). Questo apre la strada a sistemi RAG più trasparenti, verificabili e capaci di auto-correggersi in tempo reale.