💬 NLP

From Out-of-Distribution Detection to Hallucination Detection: A Geometric View

Dit artikel stelt voor om hallucinatie-detectie in grote taalmodellen te herformuleren als een out-of-distribution detectieprobleem, waarbij wordt aangetoond dat dit geometrische perspectief training-vrije, single-sample detectoren mogelijk maakt die effectief hallucinaties in redeneertaken identificeren.

Oorspronkelijke auteurs: Litian Liu, Reza Pourreza, Yubing Jian, Yao Qin, Roland Memisevic

Gepubliceerd 2026-06-05

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Litian Liu, Reza Pourreza, Yubing Jian, Yao Qin, Roland Memisevic

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: Wanneer AI Dingen Verzinnt

Stel je een zeer slimme student voor (het Large Language Model, of LLM) die een toets maakt. Soms weet deze student het antwoord en krijgt hij het goed. Maar soms weet de student het antwoord niet, maar schrijft hij toch vol vertrouwen iets op dat plausibel klinkt, maar eigenlijk volledig verzonnen is. In de AI-wereld noemen we dit een hallucinatie.

Het detecteren wanneer de AI liegt, is moeilijk. Bestaande methoden zijn als het inhuren van een aparte docent om het werk van de student te nakijken (wat duur en traag is) of door de student dezelfde toets tien keer te laten maken om te zien of hij verschillende antwoorden geeft (wat rekenintensief is en verwarrend voor complexe redeneertaken).

Het Nieuwe Idee: Lenen van "Out-of-Distribution" (OOD)

De auteurs van dit artikel hebben een slim idee: Laten we hallucinaties behandelen als een vreemde op een feestje.

In de informatica is er een goed onderzocht probleem genaamd Out-of-Distribution (OOD) detectie. Stel je een uitsmijter bij een club voor die precies weet hoe de vaste gasten eruitzien. Als er een vreemde binnenkomt met een vreemd kostuum, weet de uitsmijter: "Hé, deze persoon hoort hier niet."

In de oude wereld: De uitsmijter (de AI) is getraind om specifieke gezichten te herkennen (trainingsdata). Als er een nieuw gezicht verschijnt, probeert de uitsmijter nog steeds te raden wie het is, maar ze gokken eigenlijk maar wat. Dit is een "hallucinatie" van de classifier.
Het inzicht van het artikel: De auteurs realiseerden zich dat wanneer een AI hallucineert, het in essentie hetzelfde doet: het probeert een vraag te beantwoorden waar het eigenlijk niet voor getraind is, of het stapt buiten zijn "comfortzone" van kennis.

Dus, in plaats van vanaf nul een nieuwe detector te bouwen, vroegen ze: Kunnen we de tools van de uitsmijter gebruiken om de AI te betrappen op liegen?

De Oplossing: Een Geometrisch Perspectief (De "Kaart"-analogie)

Het artikel stelt voor om de interne gedachten van de AI niet te zien als tekst, maar als punten op een enorme kaart.

De Kaart: Stel je voor dat de hersenen van de AI een enorme, meerdimensionale kamer zijn. Elk woord dat de AI kan zeggen, heeft een speciciﬁek "gewichtvector" (een vlag) die in de kamer is geplant.
De Reis: Terwijl de AI een zin schrijft, beweegt een stip (die de huidige gedachte vertegenwoordigt) door deze kamer.
De Twee Detectoren: De auteurs hebben twee "uitsmijter"-tools aangepast om deze stip in de gaten te houden:
- Tool A: De "Knuffel"-detector (NCI)
  - De Analogie: Stel je voor dat de AI probeert de vlag te knuffelen die het woord vertegenwoordigt dat het net heeft gekozen. Als de AI zelfverzekerd is, zit de stip vlak naast de vlag en is de "knuffel" stevig.
  - De Hallucinatie: Als de AI hallucineert, is de stip ver weg van de vlag. De "knuffel" is zwak of afwezig. Het artikel noemt dit Feature Proximity. Als de stip te ver van de vlag is, is het een leugen.
- Tool B: De "Muur"-detector (fDBD)
  - De Analogie: Stel je voor dat de kamer is verdeeld in zones door onzichtbare muren. Elke zone hoort bij een specifiek woord. Als je in de "Kat"-zone bent, denkt de AI "Kat".
  - De Hallucinatie: Als de AI hallucineert, bevindt de stip zich wankelend vlak bij de muur, dicht bij de "Hond"-zone of de "Vogel"-zone. De AI is onzeker over aan welke kant van de muur hij zich bevindt. Het artikel noemt dit Distance to Decision Boundary. Als de stip te dicht bij een muur is, is het een leugen.

De Uitdagingen & Hoe Ze Die Oplosten

De auteurs wisten dat ze deze tools niet zomaar konden kopiëren uit andere velden, omdat AI enorm groot en complex is. Ze moesten drie grote problemen oplossen:

1. Het "Ontbrekende Kaart"-probleem (Trainingsstatistieken)

Het Probleem: Om te weten of een stip "ver" van een vlag is, heeft een uitsmijter meestal een kaart nodig van waar alle goede stippen zich gewoon ophouden. Maar de trainingsdata van AI is gigantisch, geheim en te groot om uit te tekenen.
De Oplossing: In plaats van een kaart te tekenen vanuit data, gebruikten ze wiskundige magie. Ze berekenden een "neutraal punt" op basis van de eigen interne structuur van de AI. Het is alsof de uitsmijter beseft: "Ik heb geen kaart van de club nodig; ik weet gewoon dat het midden van de dansvloer is waar iedereen staat wanneer ze onzeker zijn." Dit stelde hen in staat om leugens te detecteren zonder de originele trainingsdata nodig te hebben.

2. Het "Te Veel Vlaggen"-probleem (Massieve Vocabulaire)

Het Probleem: Een AI heeft honderdduizenden mogelijke woorden (vlaggen). Het controleren van de afstand tot elke enkele muur in de kamer voor elk woord is te traag.
De Oplossing: Ze besloten alleen de muren van de top 1.000 meest waarschijnlijke woorden te controleren. Het is alsof de uitsmijter alleen geeft om de mensen die bij de uitgang staan en de mensen achterin de kamer negeert die duidelijk niet van plan zijn te vertrekken. Dit maakte de detector snel en accuraat.

3. Het "Willekeur"-probleem (Stochastische Decodering)

Het Probleem: Soms kiest AI woorden willekeurig (zoals met een dobbelsteen gooien) in plaats van de absoluut beste te kiezen. Dit zorgt ervoor dat de "stip" rondspringt, wat de uitsmijter in verwarring kan brengen.
De Oplossing: Ze ontdekten dat zelfs als de AI een beetje rondspringt, de gemiddelde positie van de stip over de hele zin nog steeds de waarheid spreekt. Als de AI hallucineert, zal de stip te veel tijd bij de muren doorbrengen, zelfs als hij rondspringt. De detector werkt perfect, zelfs met deze willekeur.

De Resultaten

Het artikel testte deze nieuwe "Uitsmijter"-tools op moeilijke redeneertaken (zoals wiskunde en logische puzzels).

Geen Extra Training: Ze hoefden de AI niets nieuws te leren.
Single Shot: Ze hoefden alleen naar het antwoord te kijken (geen noodzaak om de AI de vraag 10 keer te laten herhalen).
Betere Accuratesse: Deze geometrische tools vingen hallucinaties veel beter dan eerdere methoden, zelfs wanneer de AI creatief of willekeurig was.

Samenvatting

Het artikel zegt: Stop met proberen een nieuwe leugendetector te bous. Kijk in plaats daarvan naar de interne geometrie van de AI. Als de gedachten van de AI ver van de "vlaggen" van de woorden die hij koos zijn, of als ze wankelen vlak naast de "muren" van andere woorden, is hij waarschijnlijk aan het liegen. Door deze eenvoudige geometrische regels te gebruiken, kunnen we AI-hallucinaties snel, goedkoop en accuraat vangen.

Technische Samenvatting: Van Out-of-Distribution Detectie naar Hallucinatie Detectie: Een Geometrisch Perspectief

Probleemstelling
Hallucinatie in Large Language Models (LLM's) blijft een kritieke barrière voor hun veilige en betrouwbare inzet, met name bij redeneertaken. Bestaande detectiemethoden kampen met significante beperkingen: gesuperviseerde benaderingen vereisen het trainen van aparte classificatoren, die gevoelig zijn voor distributieverschuivingen en hoge kosten met zich meebrengen; terwijl training-vrije methoden vaak vertrouwen op het genereren van meerdere samples om discrepanties te meten, wat een verbijsterende computationele overhead tijdens de inferentie oplevert. Bovendien hebben deze multi-sample benaderingen moeite met redeneertaken waarbij de diversiteit aan geldige redeneerpaden het conceptueel moeilijk maakt om outputs te vergelijken. Er is een dringende behoefte aan training-vrije, single-sample gebaseerde algoritmen voor hallucinatie detectie die effectief zijn in redeneerscenario's.

Methodologie
De auteurs stellen voor om hallucinatie detectie te herformuleren als een Out-of-Distribution (OOD) detectieprobleem. Door next-token predictie in LLM's te behandelen als een classificatietaak, passen zij twee lichtgewicht, geometrische OOD-detectoren aan de LLM-context aan: NCI (geïnspireerd door Neural Collapse) en fDBD (snelle Decision-Boundary-gebaseerde detector).

Geometrisch Kader:
- NCI (Feature Proximity): Meet de nabijheid van de penultimate-layer feature vector tot de gewichtsvector van de meest zelfverzekerde token. Een lagere nabijheid duidt op een hogere onzekerheid (potentiële hallucinatie).
- fDBD (Decision Boundary Distance): Meet de afstand van de penultimate-layer feature tot de beslissingsgrenzen van alternatieve tokens. Een kleinere afstand tot een grens duidt op een hogere onzekerheid.
Aanpassingen voor LLM's:
Om de kloof tussen standaard OOD detectie en LLM hallucinatie te overbruggen, pakken de auteurs drie specifieke uitdagingen aan:
- Schatten van Trainingsstatistieken: Standaard OOD methoden vereisen het gemiddelde van trainingsfeatures ( $\mu_G$ ), wat onpraktisch is om te berekenen voor massale, propriëtaire LLM-trainingscorpora. De auteurs leiden een analytische proxy af voor $\mu_G$ (het "Decision-Neutral Closest Point") door de logit variantie over de vocabulaire te minimaliseren met behulp van de gewichten en biases van de language head. Dit elimineert de noodzaak voor toegang tot trainingsdata.
- Efficiëntie in Massieve Vocabulaire: Het direct berekenen van afstanden tot alle tokens in een grote vocabulaire (bijv. 100k+) is computationeel duur en introduceert ruis van irrelevante tokens. De auteurs stellen voor om de afstandsberekening te beperken tot een subset van de top- $k$ meest waarschijnlijke alternatieve tokens, wat de computationele complexiteit aanzienlijk vermindert terwijl de signaalkwaliteit behouden blijft.
- Robuustheid tegen Stochastische Decoding: Hoewel OOD detectoren vaak gedefinieerd zijn voor deterministische (greedy) decoding, gebruiken LLM's vaak stochastische sampling. De auteurs hypothetiseren en demonstreren dat geometrische onzekerheidssignalen robuust blijven op sequentieniveau, aangezien de interne onzekerheidstoestand van het model de gegenereerde tokens gedurende een redeneertaak de neiging heeft te volgen.
Detectiemechanisme:
De methode berekent een onzekerheidsscore bij elke decoding stap, middelt deze scores over de gegenereerde sequentie, en past een drempelwaarde toe om te bepalen of er een hallucinatie heeft plaatsgevonden. De aanpak is volledig training-vrij en werkt op een enkele gegenereerde sample.

Belangrijkste Bijdragen

Herformulering: Dit werk legt een theoretische en praktische link tussen OOD detectie en LLM hallucinatie detectie, waarbij gebruik wordt gemaakt van de geometrische eigenschappen van de latente ruimte van het model.
Analytische Proxy: De afleiding van een analytische oplossing voor het gemiddelde van de trainingsfeatures maakt de toepassing van OOD technieken mogelijk zonder toegang tot trainingsdata, wat een belangrijke schaalbaarheid bottleneck oplost.
Efficiënte Aanpassing: De introductie van een top- $k$ token selectiestrategie voor fDBD maakt de berekening van de afstand tot de beslissingsgrens haalbaar voor grote vocabularia.
Single-Sample Efficiëntie: De voorgestelde methoden bereiken een sterke detectieprestatie zonder de computationele kosten van het genereren van meerdere samples of het trainen van hulpmodellen.

Resultaten
Uitgebreide experimenten zijn uitgevoerd over meerdere datasets (CSQA, GSM8K, AQuA) en modelarchitecturen (Llama-3.2-3B-Instruct, Qwen-2.5-7B-Instruct).

Prestaties: Zowel NCI als fDBD presteerden consistent beter dan sterke baselines, inclusief Perplexity, Predictive Probability en diverse multi-sample methoden (bijv. SelfCheckGPT, Semantic Entropy). Zo behaalde fDBD (met geselecteerde $k$ ) op CSQA met Llama-3.2-3B een AUROC van 69.24, vergeleken met 63.23 voor Perplexity.
Generalisatie: De methoden vertoonden een robuuste prestatie over verschillende modelgroottes en redeneertypes (common sense en wiskunde).
Stochastische Decoding: De detectoren behielden een hoge prestatie over verschillende decoding temperaturen (0.2 tot 1.0), wat de toepasbaarheid buiten greedy decoding valideert.
Efficiëntie: De methoden veroorzaakten minimale latency overhead (ongeveer 0.5–0.8 ms/token toename) vergeleken met standaard inferentie, wat ze geschikt maakt voor real-time toepassingen.

Betekenis
Het artikel beweert dat het herformuleren van hallucinatie detectie als een OOD detectieprobleem een "veelbelovend en schaalbaar pad biedt naar de veiligheid van taalmodellen." Door gebruik te maken van geometrische onzekerheidsmaten aangepast uit computer vision en OOD literatuur, demonstreren de auteurs dat het mogelijk is om hallucinaties in redeneertaken effectief te detecteren zonder de zware computationele of trainingskosten die gepaard gaan met bestaande methoden. Deze aanpak biedt een praktische, training-vrije oplossing die kan worden geïntegreerd in huidige LLM inferentie-pipelines om de betrouwbaarheid te vergroten.