Support-Contra Asymmetry in LLM Explanations

1. Il Problema

Le Large Language Models (LLM) generano sempre più spesso spiegazioni in linguaggio naturale (rationales) insieme alle loro previsioni. Tuttavia, rimane incerto se queste spiegazioni riflettano effettivamente i segnali predittivi presenti nel testo di input o se siano semplicemente narrazioni fluide ma disallineate dalla logica decisionale del modello.
Il problema centrale è la difficoltà di valutare la fedeltà (faithfulness) delle spiegazioni: le spiegazioni possono sembrare convincenti (plausibilità) senza corrispondere alle evidenze misurabili che guidano la previsione. La domanda di ricerca è: le spiegazioni generate dalle LLM fanno riferimento a segnali lessicali predittivi presenti nell'input?

2. Metodologia

L'autore propone un quadro empirico per misurare l'allineamento tra il contenuto delle spiegazioni e le evidenze lessicali predittive estratte da modelli lineari trasparenti.

• Approccio Ibrido: Invece di analizzare la logica interna dell'LLM (spesso opaca), il metodo confronta il testo della spiegazione con i segnali predittivi identificati da classificatori lineari trasparenti (Logistic Regression e Linear SVM) addestrati sugli stessi dati.
• Estrazione delle Evidenze:
  • Vengono utilizzati modelli lineari basati su feature TF-IDF (unigrammi e bigrammi).
  • Per ogni istanza, le feature lessicali vengono classificate in due categorie in base al loro peso nel modello di riferimento:
    • Feature di Supporto (Supporting): Feature con coefficiente positivo che aumentano la probabilità della classe predetta.
    • Feature Contraddittorie (Contradicting): Feature con coefficiente negativo che forniscono evidenze contro la classe predetta.
• Metriche di Copertura:
  • Si misura la frequenza con cui le feature di supporto e contraddittorie appaiono nella spiegazione generata dall'LLM.
  • Vengono utilizzati due metodi di matching: Token-aware (normalizzazione, lemmatizzazione) e Exact matching (uguaglianza stringa esatta).
• Definizione dell'Asimmetria:
  • Il dataset viene diviso in due gruppi: Match (previsione corretta, $\hat{y} = y$) e Mismatch (previsione errata, $\hat{y} \neq y$).
  • Si calcola la differenza di copertura media tra i due gruppi per le feature di supporto ($\Delta_{support}$) e contraddittorie ($\Delta_{contra}$).
  • La metrica chiave è l'Asimmetria ($\Delta^* = \Delta_{support} - \Delta_{contra}$). Un valore positivo indica che le spiegazioni per previsioni corrette enfatizzano il supporto e riducono le contraddizioni rispetto alle previsioni errate.

3. Contributi Chiave

1. Identificazione dell'Asimmetria Supporto-Contraddizione: Il paper caratterizza empiricamente un pattern ricorrente: le spiegazioni associate a previsioni corrette tendono a citare più evidenze di supporto e meno evidenze contraddittorie, mentre le spiegazioni per previsioni errate citano significativamente più evidenze contraddittorie.
2. Framework Quantitativo Semplice: Viene introdotto un metodo per misurare l'allineamento spiegazione-evidenza confrontando il testo libero con segnali lessicali estratti da modelli lineari esterni, evitando la necessità di annotazioni umane costose.
3. Robustezza Empirica: Dimostrazione che questo pattern si riproduce coerentemente attraverso diversi dataset, famiglie di modelli di riferimento e profondità di estrazione delle feature.
4. Nuova Prospettiva sulla Fedeltà: Fornisce evidenze che le spiegazioni delle LLM non sono puramente narrazioni post-hoc, ma spesso riflettono i segnali lessicali predittivi presenti nell'input, specialmente quando la previsione è corretta.

4. Risultati Sperimentali

Lo studio è stato condotto su tre dataset benchmark: WIKIONTOLOGY (classificazione entità), AG NEWS (classificazione argomenti) e IMDB (analisi del sentiment). L'LLM utilizzato è stato DeepSeek-R1.

• Pattern Generale:
  • Previsioni Corrette (Match): Le spiegazioni mostrano una copertura significativamente più alta delle feature di supporto e una copertura più bassa delle feature contraddittorie.
  • Previsioni Errate (Mismatch): Le spiegazioni mostrano una copertura significativamente più alta delle feature contraddittorie.
• Dati Quantitativi:
  • Su WIKIONTOLOGY, la separazione è la più marcata (es. copertura supporto ~0.515 per Match vs ~0.302 per Mismatch).
  • Su AG NEWS e IMDB, il pattern persiste, sebbene con margini leggermente inferiori, specialmente su IMDB dove i segnali lessicali sono più diffusi.
  • L'asimmetria ($\Delta^*$) rimane positiva e statisticamente significativa (intervalli di confidenza bootstrap che non includono zero) in tutte le configurazioni.
• Robustezza:
  • Il pattern è consistente sia per Logistic Regression che per Linear SVM.
  • Rimane stabile variando la profondità delle feature estratte ($k=3, 5, 7$).
• Validazione: Uno studio di ablazione su AG News ha mostrato che rimuovere le feature di supporto riduce l'accuratezza dell'LLM, mentre rimuovere le feature contraddittorie la migliora, confermando che queste feature sono segnali comportamentali rilevanti per il modello.

5. Significato e Implicazioni

• Interpretazione del Comportamento: L'asimmetria suggerisce che quando un'LLM fa una previsione corretta, la sua spiegazione tende a "tracciare" i segnali lessicali predittivi identificati dai modelli esterni. Quando sbaglia, la spiegazione tende a focalizzarsi su segnali fuorvianti o contraddittori presenti nell'input.
• Valutazione delle Spiegazioni: Questo approccio offre un modo semplice ed empirico per valutare la qualità delle spiegazioni senza affidarsi esclusivamente alla plausibilità umana. Se una spiegazione per una previsione errata cita molte evidenze contraddittorie, è un indicatore di incoerenza interna.
• Limiti e Futuro: Il metodo si basa su modelli lineari e matching lessicale, quindi potrebbe non catturare pattern semantici complessi o composizionali. Tuttavia, stabilisce una baseline solida per futuri lavori che potrebbero integrare metodi di attribuzione più ricchi o similarità semantica.

In sintesi, il paper dimostra che le spiegazioni delle LLM non sono narrazioni arbitrarie, ma mostrano una struttura sistematica legata alla correttezza della previsione e all'allineamento con le evidenze predittive del testo di input.