🤖 machine learning

Hallucination Is Linearly Decodable from Mid-Layer Hidden States in Quantized LLMs

Dit artikel toont aan dat een lineair scheidbaar waarheidsgetrouwheidssignaal dat hallucinatie codeert, sterk aanwezig is in de mid-layer verborgen toestanden van 4-bit gekwantiseerde open-source LLM's, wat detectie mogelijk maakt met bijna perfecte AUROC-scores met behulp van eenvoudige lineaire probes, terwijl sampling-gebaseerde methoden significant slechter presteren onder hetzelfde evaluatieprotocol.

Oorspronkelijke auteurs: Aizierjiang Aiersilan

Gepubliceerd 2026-06-03

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Aizierjiang Aiersilan

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer slimme, maar enigszins onbetrouwbare robotassistent hebt. Soms vertelt hij de waarheid, en soms verzint hij feiten die heel overtuigend klinken maar volkomen onjuist zijn (dit worden "hallucinaties" genoemd).

Dit papier is als een politierapport dat probeert uit te zoeken: Hoe kunnen we zien of de robot liegt, en waar in zijn "brein" de leugen zich verstopt?

De onderzoekers hebben dit getest op drie populaire, open-source robotbreinen (Llama, Mistral en Qwen) die zijn verkleind om op een standaard thuiscomputer te passen (een techniek genaamd "4-bit kwantisatie", wat vergelijkbaar is met het comprimeren van een high-definition film naar een klein bestand zonder veel kwaliteit te verliezen).

Dit is wat ze ontdekten, eenvoudig uitgelegd:

1. De "Waarheidsdetector" is een Simpele Lijn

De onderzoekers probeerden twee belangrijke manieren om de robot te betrappen op een leugen:

De "Gokker"-aanpak (Sampling): Stel de robot 10 keer dezelfde vraag. Als hij 10 verschillende antwoorden geeft, is hij misschien in de war of liegt hij. Als hij elke keer hetzelfde antwoord geeft, vertelt hij misschien de waarheid.
De "X-Ray"-aanpak (Probing): Kijk direct in het brein van de robot terwijl hij nadenkt. Specifiek keken ze naar de "verborgen toestanden" (de elektrische signalen tussen de lagen van het brein) om te zien of er een patroon is dat zegt: "Waarheid" of "Leugen".

De Resultaat: De "X-Ray"-aanpak was een enorme winnaar. Door naar slechts één specifieke laag in het midden van het brein van de robot te kijken, kon een heel simpel wiskundig hulpmiddel (een "lineaire probe") met 90% tot 100% nauwkeurigheid bepalen of de robot loog.

De "Gokker"-aanpak (de robot 10 keer vragen) was eigenlijk nutteloos in deze specifieke test; het presteerde niet beter dan het opgooien van een muntje (ongeveer 50% nauwkeurigheid).

2. Waar in het Brein Zit de Leugen?

De onderzoekers ontdekten dat het "waarheidssignaal" niet overal aanwezig is. Het is als een specifieke kamer in een wolkenkrabber waar de waarheid op de muur geschreven staat.

Voor de Llama en Mistral robots (die 32 verdiepingen hebben), is de waarheid het meest zichtbaar op verdieping 13 tot 18.
Voor de Qwen robot (die 28 verdiepingen heeft), is de waarheid het meest zichtbaar op verdieping 19 tot 25.

Als je het brein van de robot controleert op deze specifieke "verdiepingen", kun je bijna onmiddellijk weten of hij eerlijk is.

3. Waarom de "Gokker"-aanpak Faalde

Je vraagt je misschien af: "Waarom werkte het niet om de robot 10 keer hetzelfde te vragen?"
Het papier legt dit uit met een slim onderscheid:

De Probe (X-Ray) kreeg een specifiek antwoord gegeven (bijv. "De hoofdstad van Frankrijk is Parijs) en vroeg: "Herkent jouw brein dit als waar?" Het keek naar de interne reactie van de robot op die specifieke zin.
De Gambler (Sampling) kreeg simpelweg een vraag en de opdracht om "10 verschillende verhalen te schrijven." Het mat hoe verward de robot was over de vraag, niet of een specifiek antwoord waar was.

Omdat de test was opgezet om specifieke antwoorden te controleren, keek de "Gokker" op de verkeerde plek. Het was alsof je probeerde een specifieke typefout in een document te vinden door de auteur te vragen om het document 10 keer opnieuw van scratch te schrijven, in plaats van het document gewoon één keer te lezen.

4. De "Simpele Lijn" versus De "Complexe Machine"

De onderzoekers probeerden een supercomplex wiskundig hulpmiddel (een MLP) te gebruiken om de leugens te vinden, denkend dat het slimmer zou zijn dan een simpel hulpmiddel.
De Verrassing: Het complexe hulpmiddel deed niet veel beter dan het simpele hulpmiddel. De "waarheid" in het brein van de robot is eigenlijk heel ongecompliceerd — het is bijna als een rechte lijn. Je hebt geen supercomputer nodig om het te vinden; een simpele liniaal werkt ook prima.

5. De "Aandacht"-aanwijzing

Er was nog een andere truc die goed werkte, maar alleen wanneer de robot een specifieke tekst las (zoals een Wikipedia-artikel).
Ze keken naar de "aandacht" (attention) van de robot (waar hij zich op focust) bij de allereerste stap.

Als de robot de waarheid sprak op basis van de tekst, was zijn aandacht gefocust en kalm.
Als de robot een hallucinatie vertoonde, was zijn aandacht versnipperd en verward.
Dit gaf een zeer sterke aanwijzing (tot 94% nauwkeurigheid) zonder dat er extra wiskunde of tijd nodig was.

De Belangrijkste Conclusie

Als je een kleine, gecomprimeerde AI-robot wilt betrappen op het liegen over feiten:

Vraag hem niet om 10 keer hetzelfde te herhalen (dat verspilt tijd en werkt hier niet goed).
Kijk wel in zijn brein bij de middelste lagen (rond de 15e of 20e laag).
Je kunt een zeer simpele, snelle wiskundige controle gebruiken om de leugen met bijna perfecte nauwkeurigheid op te sporen.

Het artikel concludeert dat voor dit specifieke type tests, in het brein van de robot kijken veel sneller en nauwkeuriger is dan de robot zichzelf te laten herhalen.

Technische Samenvatting: Hallucinatie is lineair decodeerbaar uit verborgen toestanden van de middelste lagen in gekwantiseerde LLM's

Probleemstelling
Hallucinaties—vloeiende maar feitelijk ononderbouwde generaties—blijven een kritieke foutmodus voor Large Language Models (LLM's) in real-world implementaties. Het detecteren van deze fouten tijdens de inferentie is een praktische noodzaak. Bestaande detectiemethoden vallen over het algemeen uiteen in twee categorieën:

Sampling-gebaseerde methoden: Deze genereren meerdere stochastische voortzettingen voor een prompt en markeren hallucinaties op basis van lexicale, semantische of interne-toestand-discrepantie (bijv. Self-Consistency, Semantic Entropy, INSIDE). Deze methoden zijn computationeel duur en vereisen $K \ge 5$ extra forward passes per prompt.
Representatie-gebaseerde methoden: Deze trainen kleine classificators (probes) om waarachtigheid direct te decoderen uit de intermediaire verborgen toestanden van het model. Deze vereisen slechts één forward pass, maar worden zelden head-to-head vergeleken met sampling-methoden op identieke modellen, met name in het door middelen beperkte, gekwantiseerde regime dat door praktijkgebruikers wordt gehanteerd.

Methodologie
De auteurs stellen een verenigd evaluatiekader voor dat end-to-end kan draaien op een enkele consumentenwaardige GPU (8 GB VRAM) met behulp van 4-bit NF4-kwantisatie.

Modellen: Drie instructie-afgestemde 7B–8B modellen werden geëvalueerd: Llama-3.1-8B-Instruct, Mistral-7B-Instruct-v0.3, en Qwen2.5-7B-Instruct.
Datasets: Vier benchmarks werden gebruikt, die elk paren van waarheidsgetrouwe (label=1) en hallucinerende (label=0) antwoorden bieden voor dezelfde prompt om een bijna perfecte 50:50 klassenbalans te garanderen:
- TruthfulQA: Meerkeuzevragen met plausibele maar onjuiste afleiders.
- HaluEval-QA: Kennisgeconditioneerde QA met expliciete bewijspassages.
- FEVER: Wikipedia-ondersteunde claims gelabeld als ondersteund of weerlegd.
- Synthetic: Gecontroleerde paren van ware/onware beweringen over wereldfeiten.
Detectieprotocollen: Vier methoden werden geëvalueerd onder een paired-label protocol, waarbij het kandidaat-antwoord aan het model wordt verstrekt in plaats van gegenereerd:
1. Lineaire en MLP Probes (SAPLMA-stijl): Classificators getraind op per-layer verborgen toestanden (last-token pooling) om waarachtigheid te voorspellen.
2. INSIDE EigenScore: Een sampling-gebaseerde methode die de log-determinant van de covariantie van verborgen toestanden over $K=10$ stochastische voltooiingen meet.
3. Self-Consistency: Het meten van overeenstemming tussen $K=5$ voltooiingen via exact-match pluraliteit en zin-embedding gelijkenis.
4. Attention Entropy: Het samenvatten van de Shannon-entropie van de last-token aandachtverdeling bij specifieke transformer-blokken.

Belangrijkste Resultaten
De studie levert drie primaire bevindingen op met betrekking tot de prestaties en de aard van deze detectoren:

Superioriteit van Probes in Paired-Label Settings: Lineaire probes op enkele mid-network lagen bereiken AUROC-scores tussen de 0.904 en 1.000 over alle modellen en datasets. In tegen tegenstelling hiertoe presteren sampling-gebaseerde methoden (INSIDE en Self-Consistency) nabij toeval, met AUROC-scores die nooit de 0.541 overschrijden.
Lineariteit van het Waarheidssignaal: Het signaal is ongeveer lineair. MLP-probes presteren zelden meer dan 0.01 AUROC beter dan lineaire probes, wat suggereert dat de richting van waarachtigheid een lineaire subspace is binnen de verborgen toestand-representatie.
Consistente Peak Probing Layers: Het "waarheids signaal" piekt in een consistente band van lagen over modelfamilies heen:
- Llama & Mistral (32 lagen): Blokken 13–18.
- Qwen (28 lagen): Blokken 19–25.
- Op benchmarks met natuurlijke taal ligt de piek consistent in de tweede helft van het netwerk.
Attention Entropy als Complementair Signaal: In kennis-gegronde settings (HaluEval-QA) biedt de aandacht-entropie van het eerste transformer-blok een sterk signaal (AUROC 0.866–0.941) zonder extra kosten tijdens de inferentie. Dit signaal generaliseert niet naar datasets die ontbreken aan expliciete bewijspassages.
Kwantisatie-robuustheid: De hoge detectieprestaties blijven behouden onder 4-bit NF4-kwantisatie, met een piek AUROC van 0.998 op HaluEval-QA en 1.000 op de synthetische benchmark.

Betekenis en Claims
Het artikel beweert dat de waargenomen zwakte van sampling-gebaseerde methoden geen inherente beperking is van deze technieken, maar een structurele mismatch tussen het evaluatieprotocol en de geaccesseerde informatie:

De Mismatch: In het paired-label protocol observeren probes de interne representatie van het model van een verstrekt antwoord, waardoor ze kunnen detecteren of het model dit antwoord intern als waarheidsgetrouw onderscheidt. Daarentegen meten sampling-methoden de generatieve onzekerheid van het model over de prompt alleen, wat zwak gecorreleerd is met de waarachtigheid van een specif kind, vooraf verstrekt kandidaat-antwoord.
Praktische Implicatie: Voor white-box detectie binnen een enkele gedeplyoide model, is het proberen van verborgen toestanden zowel effectiever als aanzienlijk goedkoper (enkele forward pass) dan sampling-gebaseerde benaderingen.
Deployment: De resultaten suggeren dat lineaire probes kunnen worden ingezet op consumentenhardware naast gekwantiseerde modellen zonder de overhead van de-kwantisatie of meerdere generaties.

De auteurs concluderen dat hoewel sampling-methoden effectiviteit kunnen terugwinnen in "generate-then-judge" settings, de lineair decodeerbare aard van hallucinatie-signalen in de verborgen toestanden van de middelste lagen een zeer efficiënt alternatief biedt voor het detecteren van feitelijke fouten in instructie-afgestemde, gekwantiseerde LLM's.