💬 NLP

Hessian-Enhanced Token Attribution (HETA): Interpreting Autoregressive LLMs

Il paper propone HETA (Hessian-Enhanced Token Attribution), un nuovo framework interpretativo per modelli linguistici autoregressivi che combina vettori di transizione semantica, punteggi di sensibilità basati sull'ematrice e divergenza KL per superare i limiti dei metodi esistenti, offrendo attribuzioni più fedeli e validando il suo approccio attraverso un nuovo dataset di benchmark.

Autori originali: Vishal Pramanik, Maisha Maliha, Nathaniel D. Bastian, Sumit Kumar Jha

Pubblicato 2026-04-16

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Vishal Pramanik, Maisha Maliha, Nathaniel D. Bastian, Sumit Kumar Jha

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

🕵️‍♂️ HETA: Il Detective che legge i pensieri delle Intelligenze Artificiali

Immagina di avere un gigantesco chef robotico (una Intelligenza Artificiale come quelle che scrivono testi o rispondono alle domande). Questo chef è bravissimo a cucinare piatti deliziosi (generare frasi), ma è anche un mistero totale: nessuno sa perché ha scelto di mettere il sale invece del pepe, o perché ha deciso di aggiungere il basilico proprio in quel momento.

Per anni, gli scienziati hanno cercato di capire come funziona questo chef guardando solo quanto guardava gli ingredienti (l'attenzione) o quanto era veloce a cambiare idea se ne toglievano uno (i gradienti). Ma si sono resi conto che questi metodi sono come guardare la ricetta scritta a metà: spesso sbagliano, perché non catturano la vera magia che succede nella pentola.

HETA (Hessian-Enhanced Token Attribution) è il nuovo super-detective creato da questi ricercatori per risolvere il caso una volta per tutte.

🧩 Come funziona HETA? I tre superpoteri

Invece di guardare solo una cosa, HETA usa tre "lenti" diverse per capire esattamente quale parola (o "token") ha contribuito di più alla frase finale. Immagina di dover capire perché un'auto ha fatto un incidente:

La Lente del Flusso (Semantic Flow): "Chi ha parlato con chi?"
- L'analogia: Immagina una catena di montaggio. Se un pezzo arriva alla fine, HETA traccia il percorso esatto che ha fatto, passando da un operaio all'altro, fino a diventare parte del prodotto finito.
- Cosa fa: HETA segue il flusso delle informazioni attraverso i vari strati della rete neurale, assicurandosi di considerare solo le parole che hanno un collegamento causale diretto con la parola finale. Se una parola è stata "ignorata" dal modello, HETA non le dà credito.
La Lente della Curvatura (Hessian): "Quanto è fragile la decisione?"
- L'analogia: Immagina di camminare su una collina. Se sei su una strada piatta, un piccolo passo non cambia molto la tua altezza (la prima derivata è zero). Ma se sei su una cresta ripida o in una buca profonda, anche un piccolo passo ti fa cadere o salire di colpo.
- Cosa fa: I metodi vecchi guardano solo la pendenza immediata (se il terreno è piatto, pensano che non succeda nulla). HETA guarda la curvatura del terreno. Capisce che anche se una parola sembra "piatta" (non cambia subito la risposta), se la sposti un po', potrebbe far crollare tutto il ragionamento. È come sentire il tremore prima di una frana.
La Lente dell'Informazione (KL Divergence): "Cosa manca se togliamo questo pezzo?"
- L'analogia: Immagina di togliere un tassello da un puzzle. Se il puzzle rimane uguale, quel tassello non serviva. Se il puzzle diventa un disastro, quel tassello era fondamentale.
- Cosa fa: HETA "nasconde" una parola alla volta e vede quanto cambia la previsione del modello. Se la frase diventa confusa o sbagliata senza quella parola, allora quella parola è stata cruciale.

🏆 Perché HETA è migliore degli altri?

Prima di HETA, i detective usavano metodi che spesso si confondevano:

Metodo "Guarda dove guarda": Pensavano che se il modello guardava una parola, quella parola era importante. Ma a volte il modello guarda cose inutili!
Metodo "Tira e molla": Spingevano leggermente le parole per vedere cosa succedeva, ma se il terreno era piatto, non capivano nulla.

HETA combina i tre superpoteri sopra descritti. Il risultato?

È più fedele: Dice la verità su cosa ha pensato il modello.
È più stabile: Se cambi un po' le impostazioni (come la temperatura o la velocità di scrittura), HETA non va in tilt e continua a dare la stessa spiegazione logica.
È più umano: Le sue spiegazioni coincidono molto meglio con quello che penserebbe un essere umano.

📊 La prova del nove: Il test del "Distrattore"

Per dimostrare che HETA funziona davvero, i ricercatori hanno creato un test speciale (un dataset curato).
Hanno dato al modello un testo composto da due parti:

Una storia avvincente ma irrilevante (es. un racconto su un viaggio in montagna).
Una domanda scientifica con la risposta nascosta in un secondo paragrafo (es. "Dove avviene la fotosintesi? Risposta: nelle foglie").

I vecchi metodi si confondevano: attribuivano importanza alla storia della montagna perché era "interessante".
HETA, invece, ha ignorato la storia e ha puntato il dito esattamente sulle parole "foglie" e "fotosintesi", dimostrando di aver capito davvero cosa serve per rispondere alla domanda.

🚀 In sintesi

HETA è come avere una mappa del tesoro invece di un semplice elenco di cose. Non si limita a dire "il modello ha guardato qui", ma spiega:

Come l'informazione è arrivata fino alla fine (Flusso).
Quanto era critico quel passaggio (Curvatura).
Cosa sarebbe successo se quel passaggio non ci fosse stato (Informazione).

Grazie a HETA, possiamo finalmente fidarci di più delle Intelligenze Artificiali, capendo non solo cosa dicono, ma perché lo dicono, rendendole meno "scatole nere" e più strumenti trasparenti e affidabili.

1. Il Problema

Le attuali tecniche di attribuzione (spiegazione delle previsioni dei modelli) sono state progettate principalmente per architetture basate su encoder (come BERT) e si basano spesso su approssimazioni lineari o gradienti del primo ordine. Tuttavia, queste metodologie falliscono nel catturare la complessità causale e semantica della generazione autoregressiva nei modelli Decoder-Only (LLM).

Le limitazioni principali delle tecniche esistenti includono:

Inadeguatezza dei gradienti: I metodi basati su gradienti (es. Integrated Gradients) possono fallire in regioni "piatte" della funzione di perdita dove il gradiente è nullo, ma una perturbazione finita dell'input causa comunque un cambiamento significativo nell'output (effetti di secondo ordine).
Limiti dell'Attention: I pesi di attenzione riflettono dove il modello "guarda", non necessariamente cosa influenza causalmente l'output. Inoltre, le aggregazioni post-hoc dell'attenzione spesso ignorano i vincoli di mascheramento causale, assegnando importanza a token non causalmente collegati.
Mancanza di robustezza: Le attribuzioni esistenti sono spesso instabili rispetto a cambiamenti negli iperparametri di decodifica (es. temperatura, top-p) o a riformulazioni sintattiche dell'input.

2. Metodologia: HETA (Hessian-Enhanced Token Attribution)

Il paper propone HETA, un nuovo framework di attribuzione progettato specificamente per modelli linguistici decoder-only. HETA combina tre componenti complementari per produrre attribuzioni token-level che sono causalmente fedeli, consapevoli del contesto e semanticamente fondate.

La formula finale di attribuzione per un token $x_i$ verso un token target $x_T$ è:
$Attr(x_i \to x_T) = M_T[i] \cdot (\beta \cdot S_i^{(T)} + \gamma \cdot I(x_i \to x_T))$

Dove i tre pilastri sono:

Influenza di Transizione Semantica (Causal Gating):
- Traccia il flusso di valore pesato dall'attenzione attraverso i layer del modello, ma solo lungo i percorsi che terminano causalmente al token target $T$ (rispettando la maschera causale).
- Calcola un vettore di transizione semantica $M_T$ che agisce come un "cancello": assegna massa di attribuzione solo ai token che hanno un percorso causale diretto verso il target, eliminando il rumore da token non pertinenti.
Sensibilità Basata sull'Hessiano (Second-Order Effects):
- Per catturare le interazioni non lineari, HETA calcola la sensibilità di secondo ordine utilizzando l'Hessiano della log-verosimiglianza rispetto agli embedding di input.
- Poiché calcolare l'Hessiano completo è computazionalmente proibitivo, HETA stima le sensibilità tramite prodotti Hessiano-vettore (HVP) utilizzando l'estimatore di Hutchinson e tecniche di Pearlmutter.
- Questo componente rileva l'influenza dei token anche quando i gradienti del primo ordine sono nulli (regioni piatte o saturate).
Impatto Informativo (KL Divergenza):
- Misura la perdita di informazione (o il cambiamento nella distribuzione predittiva) quando un token viene mascherato.
- Utilizza la Divergenza di Kullback-Leibler (KL) tra la distribuzione originale del target e quella ottenuta mascherando il token $x_i$ . Questo quantifica quanto il token contribuisce all'incertezza predittiva.

3. Contributi Chiave

Nuovo Framework HETA: Un metodo unificato che integra flusso semantico causale, sensibilità di secondo ordine (curvatura) e perdita di informazione per l'attribuzione nei LLM generativi.
Dataset Curato e Benchmark: Introduzione di un nuovo dataset di valutazione composto da 2.000 istanze ibride (NARRATIVEQA + SCIQ) progettato per testare sistematicamente la fedeltà dell'attribuzione. Include un nuovo metrico, la DSA (Dependent Sentence Attribution), che misura quanto l'attribuzione si concentra sulle prove realmente predittive rispetto al contesto distrattore.
Validazione Empirica Estesa: Sperimentazioni su quattro modelli decoder-only diversi (GPT-J, LLaMA-3.1, Phi-3, Qwen2.5) che dimostrano la superiorità di HETA rispetto a metodi basati su gradienti, attenzione e surrogate lineari.

4. Risultati Sperimentali

I risultati mostrano che HETA supera costantemente gli stati dell'arte (SOTA) in diverse metriche:

Fedeltà (Faithfulness): Su dataset come LongRA, TellMeWhy e WikiBio, HETA ottiene punteggi Soft-NC e Soft-NS significativamente più alti (es. ~10.3 su GPT-J vs ~1.68 per il secondo miglior metodo ReAgent), indicando una maggiore robustezza alle perturbazioni dell'input.
Allineamento Umano (DSA): Sul dataset curato, HETA raggiunge un punteggio DSA medio di 4.80-5.10, superando di gran lunga tutti i baselines (che spesso ottengono punteggi negativi o vicini allo zero). Questo dimostra che HETA identifica correttamente i token di supporto alla risposta, ignorando il contesto irrilevante.
Robustezza agli Iperparametri: HETA mostra una variazione minima (<1%) nelle metriche al variare di temperatura, top-p e top-k, mentre i metodi basati su gradienti o ablationi mostrano fluttuazioni del 2-5%.
Stabilità Sintattica: HETA mantiene un'elevata coerenza nelle attribuzioni anche quando la frase viene riformulata (es. da attiva a passiva), a differenza dei metodi basati su similarità o gradienti che falliscono.

5. Significato e Implicazioni

Il lavoro di HETA stabilisce un nuovo standard per l'interpretabilità nei modelli linguistici generativi.

Superamento delle approssimazioni lineari: Dimostra che per comprendere i LLM moderni è necessario andare oltre i gradienti del primo ordine, incorporando la curvatura (Hessiano) per catturare le dinamiche non lineari intrinseche.
Causalità vs Correlazione: L'uso di un "cancello" causale basato sul flusso di attenzione-valore garantisce che le spiegazioni rispettino la struttura causale della generazione autoregressiva, evitando di attribuire importanza a token che il modello ha semplicemente "visto" ma che non hanno influenzato l'output.
Scalabilità: Sebbene il calcolo dell'Hessiano sia costoso, gli autori propongono varianti efficienti (approssimazione a basso rango e finestre di contesto) che riducono il costo computazionale del 40-50% mantenendo il 92-96% della qualità, rendendo il metodo praticabile anche per modelli di grandi dimensioni (fino a 70B parametri).

In sintesi, HETA offre una spiegazione più affidabile, stabile e semanticamente fondata di come i modelli autoregressivi prendono decisioni, ponendo le basi per un'analisi più profonda e sicura dei sistemi di IA in ambiti ad alto rischio.