Sintesi Tecnica: Firme Termodinamiche del Ragionamento

Problema

L'allucinazione nei Large Language Models (LLM) rimane una barriera critica per l'implementazione. Sebbene lavori recenti abbiano identificato che lo spettro dei Laplaciani di grafo derivati dall'attenzione contiene segnali riguardanti la qualità del ragionamento, gli esistenti diagnostici spettrali sono limitati. I metodi precedenti tipicamente riassumono lo spettro del Laplaciano ad alta risoluzione utilizzando solo un manipolo di autovalori top-$K$ o scalari scelti manualmente (ad esempio, il valore di Fiedler, l'entropia spettrale). Gli autori sostengono che questo approccio scarti informazioni strutturali significative, lasciando "segnale sul tavolo". L'obiettivo è sviluppare un meccanismo di rilevamento che sia privo di addestramento (o richieda una calibrazione minima), operi su un singolo passaggio di inferenza e utilizzi appieno la struttura spettrale delle mappe di attenzione senza riaddestrare l'LLM sottostante.

Metodologia: Firme di Energia Libera (FES)

Il documento propone le Firme di Energia Libera (FES), un descrittore spettrale che tratta il Laplaciano dell'attenzione di ogni strato come un Hamiltoniano per un sistema quantistico fittizio. Il metodo estrae potenziali termodinamici e statistiche della Teoria delle Matrici Casuali (RMT) dallo spettro.

1. Costruzione del Laplaciano dell'Attenzione

Per un LLM congelato con $L$ strati e $H$ teste di attenzione, la matrice di attenzione post-softmax $A^{(\ell,h)}$ allo strato $\ell$ viene simmetrizzata e mediata sulle teste per formare $\tilde{A}^{(\ell)}$. Il Laplaciano del grafo combinatorio viene quindi costruito come:
$$L^{(\ell)} = D^{(\ell)} - \tilde{A}^{(\ell)}$$
dove $D^{(\ell)}$ è la matrice dei gradi. Gli autovalori $\{\lambda_k\}$ di $L^{(\ell)}$ formano la misura spettrale empirica.

2. Funzionali Termodinamici

Lo spettro viene analizzato attraverso la lente della termodinamica dell'equilibrio utilizzando un parametro di temperatura inversa $\beta$. I seguenti potenziali vengono calcolati per ogni strato:

• Funzione di Partizione ($Z$): $Z(\beta) = \text{Tr}(e^{-\beta L}) = \sum e^{-\beta \lambda_k}$.
• Energia Libera ($F$): $F(\beta) = -\frac{1}{\beta} \log Z(\beta)$.
• Entropia Spettrale ($S$): Calcolata tramite la distribuzione di Boltzmann $p_k = e^{-\beta \lambda_k}/Z(\beta)$.
• Capacità Termica ($C$): $C(\beta) = \beta^2 \text{Var}_p[\lambda]$.

Questi funzionali sono valutati su una griglia logaritmica di $m$ temperature inverse, fornendo una visione multiscala dello spettro (concentrandosi sui piccoli autovalori ad alti $\beta$ e mediando il bulk a bassi $\beta$).

3. Spectral Form Factor (SFF) e RMT

Per catturare le correlazioni tra gli spazi degli autovalori, il metodo calcola il Spectral Form Factor (SFF):
$$g(t) = \frac{1}{n^2} \left| \sum_k e^{-it \hat{\lambda}_k} \right|^2$$
dove $\hat{\lambda}_k$ sono gli autovalori "unfolded" (mappati su una densità locale media unitaria). L'SFF è analizzato rispetto alle previsioni della Teoria delle Matrici Casuali (RMT):

• Wigner-Dyson (GOE): Struttura caratteristica "dip-ramp-plateau", indicativa di sistemi caotici e ben miscelati.
• Poisson: Decadimento monotono fluido, indicativo di sistemi integrabili o localizzati.

4. Il Descrittore FES e i Rilevatori

Il descrittore per strato $\Phi^{(\ell)}$ concatena i funzionali termodinamici e l'SFF su griglie di $\beta$ e $t$. La concatenazione attraverso tutti gli strati produce il vettore di caratteristiche finale $\Phi(x)$.
Vengono istanziate due strategie di rilevamento:

1. Sonda Supervisionata: Una regressione logistica leggera addestrata su un piccolo set di calibrazione etichettato.
2. Punteggio di Deviazione RMT Non Supervisionato: Un punteggio privo di etichette $D(x)$ che misura la distanza $L_2$ tra l'SFF empirico e una curva di riferimento GOE di dimensioni corrispondenti.

Contributi Chiave

1. Risultati Teorici

Il documento fornisce tre prove formali:

• Stabilità Lipschitz: Si dimostra che FES è Lipschitz stabile sotto perturbazioni della norma dell'operatore del Laplaciano dell'attenzione, garantendo robustezza contro il rumore numerico e piccole perturbazioni dell'attenzione.
• Espressività: Il componente della funzione di partizione è la trasformata di Laplace della misura spettrale. Gli autori dimostrano che in un limite idealizzato di trasformata esatta, la funzione di partizione identifica lo spettro (recuperando tutti i momenti). In pratica, la FES su griglia finita fornisce un arricchimento multiscala rispetto ai riassunti compatti (come gli autovalori top-$K$), approssimando i funzionali derivati dai momenti con accuratezza controllata dalla densità della griglia.
• Limite PAC a Campione Finito: Viene derivato un limite per l'AUROC del rilevatore di deviazione RMT non supervisionato, mostrando che un divario misurabile nei form factor spettrali tra ragionamenti validi e allucinazioni è sufficiente per una garanzia di prestazione non vacua.

2. Risultati Empirici

• Firme Spettrali del Ragionamento: Il documento presenta la prima evidenza che gli spettri dell'attenzione degli LLM esibiscono statistiche Wigner-Dyson (simili a GOE) durante il ragionamento valido e statistiche simili a Poisson durante le allucinazioni. Ciò è quantificato tramite il rapporto medio tra gli spazi degli autovalori $\langle r \rangle$, che approssima 0,536 per le generazioni valide e 0,386 per le allucinazioni.
• Prestazioni: Attraverso sei LLM open-weight (7B–14B) e sei benchmark (inclusi TruthfulQA, HaluEval, GSM8K e MATH-500), FES raggiunge l'AUROC aggregato più elevato tra i baseline spettrali dell'attenzione.
  • Supera LAPEIG (autovalori top-$K$) di +6,5 punti AUROC.
  • Supera GOR-4 (scalari spettrali scelti a mano) di +2,4 punti AUROC.
• Efficienza delle Etichette: La sonda supervisionata raggiunge prestazioni quasi asintotiche con solo poche centinaia di esempi etichettati per compito.
• Trasferibilità Cross-Architettura: Una sonda addestrata su Llama-3-8B si trasferisce efficacemente ad altre architetture (Mistral, Qwen, Gemma, Phi-3) con un AUROC medio > 0,82.

Significato e Rivendicazioni

Il documento sostiene che FES offre un diagnostico training-free e a singolo campione che cattura segnali di fattualità oltre gli autovalori grezzi o i riassunti spettrali compatti. Inquadrando le mappe di attenzione attraverso la termodinamica e la RMT, il metodo:

1. Preserva l'Informazione Multiscala: A differenza dei metodi che troncano lo spettro, FES cattura la forma dell'intero spettro attraverso molteplici scale.
2. Fornisce Fondamento Teorico: Collega il rilevamento delle allucinazioni alle proprietà fondamentali delle matrici casuali (repulsione tra livelli vs. integrabilità), offrendo un'interpretazione fisica del ragionamento "sano" vs. "corrotto".
3. Efficienza Operativa: Non richiede aggiornamenti all'LLM sottostante e aggiunge un sovraccarico computazionale trascurabile (circa 0,4s per campione su una A6000 per sequenze fino a 512 token).

Gli autori notano limitazioni, tra cui il costo $O(n^3)$ della decomposizione degli autovalori densa (che richiede approssimazioni per contesti molto lunghi) e la necessità di accesso white-box ai pesi dell'attenzione. Riconoscono inoltre che il segno del punteggio di deviazione non supervisionato può cambiare a seconda del compito (ad esempio, ragionamento matematico vs. QA aperta), richiedendo una calibrazione per compito per la modalità non supervisionata. Tuttavia, la sonda supervisionata rimane robusta rispetto a queste variazioni.