Technische Samenvatting: Thermodynamische Signaturen van Redeneren

Probleemstelling

Hallucinatie in Large Language Models (LLMs) blijft een kritieke barrière voor implementatie. Hoewel recent werk heeft geïdentificeerd dat het spectrum van aandacht-afgeleide Laplaciaanse matrices signalen bevat met betrekking tot de kwaliteit van redeneren, zijn bestaande spectrale diagnostiek beperkt. Eerdere methoden vatten het hoog-resolutie Laplaciaanse spectrum doorgaans samen met slechts een handvol top-$K$ eigenwaarden of handgekozen scalairen (bijv. de Fiedler-waarde, spectrale entropie). De auteurs stellen dat deze aanpak significante structurele informatie wegwerpt, waardoor er "signaal op tafel blijft liggen". Het doel is om een detectiemechanisme te ontwikkelen dat training-vrij is (of minimale kalibratie vereist), werkt tijdens een enkele inferentie-pass, en het volledige spectrale spectrum van aandachtskaarten benut zonder de onderliggende LLM te hertrainen.

Methodologie: Free-Energy Signatures (FES)

Het artikel stelt Free-Energy Signatures (FES) voor, een spectrale descriptor die de aandacht-Laplaciaan van elke laag behandelt als een Hamiltoniaan voor een fictief kwantumsysteem. De methode extraheert thermodynamische potentialen en Random Matrix Theory (RMT) statistieken uit het spectrum.

1. Constructie van de Aandacht-Laplaciaan

Voor een bevroren LLM met $L$ lagen en $H$ aandachtskoppen is de post-softmax aandachtmatrix $A^{(\ell,h)}$ op laag $\ell$ gesymmetriseerd en gemiddeld over de koppen om $\tilde{A}^{(\ell)}$ te vormen. De combinatorische graaf-Laplaciaan wordt vervolgens geconstrueerd als:
$$L^{(\ell)} = D^{(\ell)} - \tilde{A}^{(\ell)}$$
waarbij $D^{(\ell)}$ de graadmatrix is. De eigenwaarden $\{\lambda_k\}$ van $L^{(\ell)}$ vormen de empirische spectrale maat.

2. Thermodynamische Functionalen

Het spectrum wordt geanalyseerd vanuit het perspectief van evenwichtsthermodynamica met behulp van een inverse temperatuurparameter $\beta$. De volgende potentialen worden berekend voor elke laag:

• Partitiefunctie ($Z$): $Z(\beta) = \text{Tr}(e^{-\beta L}) = \sum e^{-\beta \lambda_k}$.
• Vrije Energie ($F$): $F(\beta) = -\frac{1}{\beta} \log Z(\beta)$.
• Spectrale Entropie ($S$): Berekend via de Boltzmann-distributie $p_k = e^{-\beta \lambda_k}/Z(\beta)$.
• Warmtecapaciteit ($C$): $C(\beta) = \beta^2 \text{Var}_p[\lambda]$.

Deze functionalen worden geëvalueerd over een logaritmisch rooster van $m$ inverse temperaturen, wat een multiscale view van het spectrum biedt (concentrerend op kleine eigenwaarden bij een hoge $\beta$ en het middelen van de bulk bij een lage $\beta$).

3. Spectral Form Factor (SFF) en RMT

Om correlaties in de niveau-afstand (level-spacing) te vangen, berekent de methode de Spectral Form Factor (SFF):
$$g(t) = \frac{1}{n^2} \left| \sum_k e^{-it \hat{\lambda}_k} \right|^2$$
waarbij $\hat{\lambda}_k$ unfolded eigenwaarden zijn (gemapt naar een eenheidsgemiddelde lokale dichtheid). De SFF wordt geanalyseerd tegen de voorspellingen van Random Matrix Theory (RMT):

• Wigner-Dyson (GOE): Kenmerkt zich door een "dip-ramp-plateau" structuur, wat duidt op chaotische, goed gemengde systemen.
• Poisson: Een vloeiende monotone afname, wat duidt op integreerbare of gelokaliseerde systemen.

4. De FES-descriptor en Detectoren

De per-laag descriptor $\Phi^{(\ell)}$ concateneert de thermodynamische functionalen en de SFF over roosters van $\beta$ en $t$. Het concateneren over alle lagen levert de uiteindelijke feature vector $\Phi(x)$ op.
Twee detectiestrategieën zijn geïnstantieerd:

1. Supervised Probe: Een lichtgewicht logistische regressie getraind op een kleine gelabelde kalibratieset.
2. Unsupervised RMT-Deviation Score: Een label-vrije score $D(x)$ die de $L_2$-afstand meet tussen de empirische SFF en een op grootte gematchte GOE-referentiecurve.

Belangrijkste Bijdragen

1. Theoretische Resultaten

Het artikel biedt drie formele bewijzen:

• Lipschitz-stabiliteit: FES is bewezen Lipschitz-stabiel onder operator-norm perturbaties van de aandacht-Laplaciaan, wat zorgt voor robuustheid tegen numerieke ruis en kleine aandacht-perturbaties.
• Expressiviteit: De partitiefunctie-component is de Laplace-transformatie van de spectrale maat. De auteurs bewijzen dat in een geïdealiseerde exacte-transformatie limiet, de partitiefunctie het spectrum identificeert (het herstelt alle momenten). In de praktijk biedt de eindige-rooster FES een multiscale verrijking ten opzichte van compacte samenvattingen (zoals top-$K$ eigenwaarden), waarbij de benadering van moment-afgeleide functionalen wordt gecontroleerd door de roosterdichtheid.
• Finite-Sample PAC Bound: Een grens is afgeleid voor de AUROC van de unsupervised RMT-deviatie detector, waarbij wordt aangetoond dat een meetbare kloof in spectrale vormfactoren tussen geldige en hallucinerende redeneringen voldoende is voor een niet-vacuüm prestatiegarantie.

2. Empirische Bevindingen

• Spectrale Signaturen van Redeneren: Het artikel presenteert het eerste bewijs dat LLM-aandachtsspectra Wigner-Dyson statistieken (GOE-achtig) vertonen tijdens geldig redeneren en Poisson-achtige statistieken tijdens hallucinaties. Dit wordt gekwantificeerd via de gemiddelde niveau-afstand ratio $\langle r \rangle$, die ongeveer 0,536 benadert voor geldige generaties en 0,386 voor hallucinaties.
• Prestaties: Over zes open-weight LLMs (7B–14B) en zes benchmarks (inclusief TruthfulQA, HaluEval, GSM8K en MATH-500), bereikt FES de hoogste geaggregeerde AUROC onder de aandacht-spectrale baselines.
  • Het presteert beter dan LAPEIG (top-$K$ eigenwaarden) met +6,5 AUROC punten.
  • Het presteert beter dan GOR-4 (handgekozen spectrale scalairen) met +2,4 AUROC punten.
• Label Efficiëntie: De supervised probe bereikt bijna asymptotische prestaties met slechts enkele honderden gelabelde voorbeelden per taak.
• Cross-Architectuur Transfer: Een probe getraind op Llama-3-8B transfeert effectief naar andere architecturen (Mistral, Qwen, Gemma, Phi-3) met een gemiddelde AUROC > 0,82.

Betekenis en Claims

Het artikel claimt dat FES een training-vrije, single-sample diagnostiek biedt die factuele signalen vangt die verder gaan dan ruwe eigenwaarden of compacte spectrale samenvattingen. Door aandachtskaarten te herformuleren via thermodynamica en RMT, biedt de methode:

1. Behoud van Multiscale Informatie: In tegenstelling tot methoden die het spectrum afkappen, vangt FES de vorm van het gehele spectrum over meerdere schalen.
2. Theoretische Fundering: Het koppelt hallucinatie-detectie aan fundamentele eigenschappen van random matrices (niveau-repulsie versus integreerbaarheid), wat een fysieke interpretatie biedt van "gezonde" versus "defecte" redenering.
3. Operationele Efficiëntie: Het vereist geen updates van de onderliggende LLM en voegt verwaarloosbare computationele overhead toe (ongeveer 0,4s per sample op een A6000 voor sequenties tot 512 tokens).

De auteurs merken beperkingen op, waaronder de $O(n^3)$ kosten van dense eigendecompositie (wat benaderingen vereist voor zeer lange contexten) en de noodzaak van white-box toegang tot aandachtgewichten. Ze erkennen ook dat het teken van de unsupervised deviatie-score kan omdraaien afhankelijk van de taak (bijv. wiskundig redeneren versus open-ended QA), wat per-taak kalibratie voor de unsupervised modus noodzakelijk maakt. De supervised probe blijft echter robuust tegen deze variaties.