Riepilogo Tecnico: Self-Attention come Trasporto: Limiti delle Diagnostiche Spettrali Simmetriche

Enunciato del Problema

I grandi modelli linguistici (LLM) allucinano attraverso patologie di instradamento distinte: fallimenti di collo di bottiglia, in cui l'attenzione si concentra eccessivamente su un ristretto insieme di posizioni, e fallimenti diffusi, in cui l'attenzione si distribuisce così sottilmente che la rilevanza viene diluita. Sebbene queste modalità appaiano quantitativamente simili sotto le lenti spettrali standard, sono meccanicamente opposte. Le diagnostiche spettrali esistenti (ad es. LLM-Check, EigenTrack, LapEigvals) spesso falliscono nel distinguerle o confondono i fallimenti di capacità con i fallimenti direzionali. Inoltre, molte caratteristiche spettrali ereditano dipendenze confondenti dalla lunghezza della sequenza, offuscando il vero segnale strutturale dell'instradamento dell'attenzione. Questo articolo mira a caratterizzare i confini strutturali di ciò che le diagnostiche basate sull'attenzione possono e non possono misurare, affrontando specificamente i limiti dei metodi spettrali simmetrici nel rilevare la direzione del flusso di informazioni.

Metodologia

Gli autori formalizzano le testine di attenzione come operatori di trasporto bipartiti normalizzati per grado ($M$) tra query e chiavi. Questa rappresentazione produce un operatore invariante di scala le cui proprietà spettrali codificano la qualità dell'instradamento. La metodologia poggia su tre pilastri:

1. Decomposizione Ortogonale: L'operatore di trasporto $M$ viene decomposto, secondo il prodotto scalare di Hilbert–Schmidt, in una componente simmetrica ($M_{sym}$) che governa la capacità di trasporto e una componente antisimmetrica ($M_{asym}$) che governa la direzione di trasporto.
2. Diagnostiche Spettrali:
   • Conduttanza ($\phi$): Derivata dalla componente simmetrica tramite la disuguaglianza di Cheeger, $\phi$ misura l'efficienza del trasporto di informazioni. Un $\phi$ basso indica colli di bottiglia; un $\phi$ alto indica una miscelazione diffusa.
   • Coefficiente di Asimmetria ($G$): Definito come la distanza di Frobenius normalizzata di $M$ rispetto al sottospazio simmetrico ($G = \|M_{asym}\|_F / (\|M\|_F + \epsilon)$), $G$ funge dal complemento minimo necessario per recuperare le informazioni direzionali perse dalle sintesi simmetriche.
   • Gap Spettrale ($1-\sigma_2$): Il secondo valore singolare di $M$ agisce come proxy per la conduttanza.
3. Valutazione Controllata per Lunghezza: Per affrontare il problema delle variabili confondenti, gli autori introducono un protocollo AUROC Controllato per Lunghezza (LC-AUROC). Questo comporta la stratificazione dei campioni per lunghezza di risposta in bin, la residuazione dei punteggi rispetto alla lunghezza all'interno dei bin e l'aggregazione tramite AUROC pesato per coppie. Ciò isola i segnali di instradamento strutturale dagli artefatti dipendenti dalla lunghezza.
4. Benchmark Teorici: L'articolo deriva paesaggi di conduttanza in forma chiusa per architetture causali canoniche (causale uniforme, attenzione a finestra) per stabilire i "pavimenti" architetturali e le forme attese delle modalità di fallimento.

Contributi Chiave

1. Limiti Strutturali delle Diagnostiche Simmetriche (Cecità all'Orientamento)

L'articolo dimostra il Teorema 4 (Cecità all'Orientamento): qualsiasi diagnostica spettrale che dipende esclusivamente dai valori singolari o dalla componente simmetrica dell'operatore di attenzione è invariante per trasposizione. Di conseguenza, tali diagnostiche sono strutturalmente "cieche all'orientamento" e non possono distinguere un operatore dalla sua trasposta, rendendole incapaci di rilevare la direzione del flusso di informazioni. Un converse quantitativo (Proposizione 6) stabilisce che qualsiasi diagnostica Lipschitziana sensibile alla direzione deve dipendere dalla componente antisimmetrica, con una sensibilità limitata da $\|M_{asym}\|_F$.

2. Teoria della Conduttanza a Due Facce

A differenza delle metriche che rilevano solo una modalità di fallimento, il quadro della conduttanza fornisce una diagnostica a due facce:

• Colli di Bottiglia: Una conduttanza bassa ($\phi$) certifica un instradamento eccessivamente concentrato.
• Miscelazione Diffusa: Una conduttanza anormalmente alta (rispetto ai baseline architetturali) certifica un instradamento insufficientemente concentrato.
  Gli autori derivano un paesaggio bipartito-Cheeger in forma chiusa per l'attenzione causale uniforme, dimostrando un pavimento indipendente da $n$ di $\phi \ge 1/5$ con un taglio nel caso peggiore a $t^*/n \approx 0.32$. Si dimostra che l'attenzione a finestra penetra questo pavimento come $O(w/n)$.

3. Sufficienza del Grado e Struttura di Accoppiamento

Il Teorema 2 (Sufficienza del Grado) formalizza quando la struttura di accoppiamento contribuisce alle proprietà spettrali oltre l'eterogeneità del grado. Stabilisce che per un'attenzione quasi regolare ($\kappa \approx 1$), il gap spettrale è interamente spiegato dalle distribuzioni di grado. Solo quando l'eterogeneità del grado devia significativamente la struttura di accoppiamento fornisce un segnale indipendente.

4. Predizione Empirica della Polarità

Il quadro produce una predizione falsificabile: i benchmark dominati da colli di bottiglia e quelli dominati da diffusione dovrebbero esibire polarità opposte nei punteggi di conduttanza.

• HaluEval: Le allucinazioni si raggruppano nel regime a bassa conduttanza (collo di bottiglia).
• MedHallu: Le allucinazioni si raggruppano nel regime ad alta conduttanza (diffuso).
  Questa inversione di polarità è osservata empiricamente sotto valutazione controllata per lunghezza, validando la teoria a due facce.

Risultati Empirici

• Prestazioni Diagnostiche: Sotto LC-AUROC, le caratteristiche di trasporto mantengono un segnale interpretabile (0.62–0.84) su modelli fino a 8B di parametri.
  • Conduttanza ($\phi$): Cattura i fallimenti di capacità. Il segnale dominante cambia con la scala del modello: a 70M di parametri, le statistiche di posizione (media) dominano (depressione uniforme); a 1.4B, le statistiche di dispersione (deviazione standard) dominano (eterogeneità di instradamento).
  • Asimmetria ($G$): Generalmente sparsa (prestazioni vicine al caso) nei modelli decoder-only, riflettendo il fatto che l'instradamento direzionale dipendente dal contenuto non è la modalità di fallimento primaria. Le eccezioni includono Flan-T5 (dove $G$ rileva fallimenti di ancoraggio nell'attenzione incrociata) e Pythia (dove $G$ rileva deviazioni dal decadimento posizionale indotto da RoPE).
• Confronto con Baseline:
  • Sonde sugli stati nascosti (LLM-Check): Raggiungono una forte rilevazione generale (0.62–0.72 LC-AUROC) ma sono strutturalmente agnostiche rispetto alle modalità di fallimento e mostrano un moderato confondimento legato alla lunghezza.
  • Classificatori Spettrali Supervisionati (EigenTrack): Mostrano un segnale marginale e una scarsa generalizzazione tra dataset, probabilmente a causa dell'overfitting su firme spettrali specifiche del dataset e di una dipendenza dalla lunghezza irriducibile tramite i rapporti di aspetto.
• Scalabilità: Le diagnostiche di trasporto persistono attraverso le scale di Pythia (da 70M a 1.4B) e LLaMA 3.1 8B, sebbene il metodo di aggregazione necessario per catturare il segnale cambi da basato sulla media a basato sulla varianza all'aumentare della capacità del modello.

Significato e Affermazioni

L'articolo afferma di stabilire un confine strutturale per le diagnostiche dell'attenzione piuttosto che proporre un singolo "migliore" rilevatore di allucinazioni. Il suo significato principale risiede in:

1. Decomposizione: La partizione dei fallimenti di instradamento in assi ortogonali (capacità vs direzione) con garanzie formali (disuguaglianza di Cheeger, teorema della cecità all'orientamento).
2. Interpretabilità: Fornire una spiegazione meccanicistica del motivo per cui diversi dataset esibiscono diverse modalità di fallimento (collo di bottiglia vs diffuso) basandosi sulla forma del paesaggio della conduttanza.
3. Rigor Metodologico: Dimostrare che il confondimento legato alla lunghezza può inflazionare l'AUROC grezzo fino a 0.28 punti e stabilire un protocollo (LC-AUROC) per isolare i segnali strutturali.
4. Insight Architetturale: Mostrare che la "sparsità" dei segnali direzionali ($G$) nei modelli decoder-only è una proprietà architetturale (dominanza della struttura posizionale sulla direzione dipendente dal contenuto) piuttosto che un fallimento della diagnostica.

Gli autori sottolineano che, sebbene il quadro caratterizzi come fallisce l'instradamento dell'attenzione, non afferma di risolvere il rilevamento delle allucinazioni in tutti i casi (ad es., le lacune di conoscenza senza patologia di instradamento potrebbero rimanere non rilevabili). Il contributo è un quadro principiato per comprendere i limiti strutturali dell'analisi spettrale dell'attenzione.