💬 NLP

CORTEX: Token-Level Hallucination Detection in RAG via Comparative Internal Representations

Het artikel stelt CORTEX voor, een methode voor hallucinatie-detectie op tokenniveau voor Retrieval-Augmented Generation die ongegronde inhoud identificeert door de interne representaties van een model met en zonder opgehaalde documenten te vergelijken, terwijl het gebruikmaakt van informatiepropagatie en span-consistente smoothing om fijnmazige lokalisatie van hallucinaties te bereiken.

Oorspronkelijke auteurs: Kazuaki Furumai, Shuichiro Haruta, Kazunori Matsumoto, Daisuke Kamisaka

Gepubliceerd 2026-07-01

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Kazuaki Furumai, Shuichiro Haruta, Kazunori Matsumoto, Daisuke Kamisaka

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer slimme, goed onderlegde assistent hebt (de AI) die probeert een vraag voor je te beantwoorden. Om ervoor te zorgen dat het antwoord nauwkeurig is, geef je de assistent een stapel referentieboeken (de opgehaalde documenten) om naar te kijken terwijl hij het antwoord schrijft.

Soms doet de assistent een geweldig werk en houdt hij zich strikt aan de boeken. Andere keren verzint hij per ongeluk een feit of verwisselt hij een detail, ook al liggen de boeken gewoon op het bureau. Dit wordt een "hallucinatie" genoemd.

Het probleem is dat in een lang, gedetailleerd antwoord de AI misschien 90% van de feiten uit de boeken goed heeft, maar slechts één of twee zinnen laat verslapen. De meeste huidige tools zijn als een bewaker die alleen het volledige rapport aan het einde controleert. Als het rapport grotendeels goed is, zegt de bewaker: "Ziet er goed uit!" en mist hij de kleine leugen die halverwege verborgen zit.

Dit artikel introduceert CORTEX, een nieuwe tool die is ontworpen als een "microscoop" die het antwoord woord voor woord (of token voor token) controleert om precies te ontdekken waar de AI dingen verzint.

Zo werkt CORTEX, met behulp van drie eenvoudige analogieën:

1. De "Met en Zonder" Test (Vergelijkbare Interne Representaties)

Stel je voor dat je probeert uit te zoeken of een student echt een tekstboek aan het lezen is of dat hij gewoon gokt.

De Oude Manier: Je kijkt naar het antwoord van de student en probeert te raden of hij het boek heeft gelezen.
De CORTEX-Manier: Je vraagt de student om dezelfde vraag twee keer te beantwoorden.
1. Eerste keer: Je geeft hem het tekstboek om te lezen.
2. Tweede keer: Je neemt het tekstboek weg en vraagt hem om vanuit zijn geheugen te antwoorden.

CORTEX vergelijkt de "hersenactiviteit" (interne gedachten) van de AI tijdens deze twee scenario's.

Als de AI praat over een feit dat in het boek staat, verandert zijn "brein" aanzienlijk wanneer het boek aanwezig is. Het is alsof de ogen van de student oplichten omdat hij het antwoord in de tekst heeft gevonden.
Als de AI iets verzint (hallucineert), ziet zijn "brein" er bijna hetzelfde uit of het boek er nu wel of niet is, omdat hij simpelweg put uit zijn eigen geheugen.

Door deze twee toestanden te vergelijken, kan CORTEX precies spotten welke woorden veranderden door het boek (goed) en welke woorden hetzelfde bleven omdat ze verzonnen zijn (slecht).

2. De "Chain of Thought" Detective (Contextuele Residu)

Soms is een AI slim genoeg om een feit uit het boek aan het begin van het antwoord te lezen, en dat feit vervolgens te gebruiken om de rest van de zin op te bouwen.

Het Probleen: Als je alleen naar de latere zin kijkt, lijkt het alsof de AI het boek niet meer gebruikt, omdat het boek daar niet direct wordt vermeld. Dit zou een detector kunnen misleiden om te denken dat de latere zin een leugen is, terwijl deze wel gebaseerd is op een waar feit dat eerder werd gevonden.
De CORTEX-Oplossing: CORTEX werkt als een detective die het spoor volgt. Het realiseert zich: "Hé, deze zin leunt op een feit dat de AI net twee zinnen geleden heeft gelezen." Het trekt die "indirecte invloed" af zodat het niet in de war raakt. Dit voorkomt dat de tool de AI onterecht beschuldigt van liegen wanneer de AI eigenlijk gewoon een waar verhaal voortzet.

3. De "Ruisfilter" (Label-Persistentie Smoothing)

Stel je voor dat je luistert naar een radiostation met veel statische ruis. Soms zorgt de statische ruis ervoor dat een enkel woord als een leugen klinkt, zelfs als de hele zin waar is.

Het Probleem: Ruwe detectietools kunnen schokkerig zijn. Ze kunnen één woord markeren als een leugen, het volgende woord als waarheid, en het volgende weer als een leugen, wat een rommelig, verspreid patroon creëert. Maar in werkelijkheid, als een AI liegt, liegt hij meestal voor een hele frase of zin, en niet slechts voor één geïsoleerd woord.
De CORTEX-Oplossing: CORTEX past een "smoothing" filter toe. Het gaat ervan uit dat als één woord een leugen is, de woorden direct ernaast waarschijnlijk deel uitmaken van dezelfde leugen. Het verbindt de punten en verandert een verspreide chaos van "misschien-leugens" in een duidelijke, solide blok van "duidelijke-leugens". Dit maakt het eindresultaat veel gemakkelijker voor een mens om te lezen en te begrijpen.

De Resultaten

De auteurs hebben CORTEX getest op twee verschillende sets vragen en drie verschillende AI-modellen. Ze kwamen tot de volgende bevindingen:

CORTEX is veel beter in het vinden van de exacte woorden die verzonnen zijn vergeleken met andere methoden.
Het werkt zelfs wanneer de AI een "API"-model is (een black box waar je niet in kunt kijken) door een ander, open AI-model te gebruiken om de detectie op de achtergrond uit te voeren.
Elk onderdeel van het systeem (de vergelijking, de chain-of-thought check en de smoothing) heeft bijgedragen aan een nauwkeurigere detectie.

Kortom, CORTEX is een tool die ons helpt de antwoorden van AI meer te vertrouwen door precies aan te wijzen waar de AI dingen verzint, in plaats van alleen maar te gokken of het hele antwoord goed of slecht is.

Technische Samenvatting: CORTEX

Probleemstelling

Retrieval-Augmented Generation (RAG) wordt breed gebruikt om de output van Large Language Models (LLM's) te funderen in externe referenties, maar modellen genereren nog steeds vaak hallucinerende inhoud, zelfs wanneer er referenties aanwezig zijn. Bestaande methoden voor hallucinatiedetectie kampen met twee primaire beperkingen:

Granulariteit: De meeste benaderingen opereren op "antwoordniveau", waarbij de gehele respons als één eenheid wordt beoordeeld. Dit is onvoldoende voor langere RAG-outputs waarbij getrouwe en hallucinerende inhoud vaak naast elkaar bestaan.
Methodologie: Veel bestaande methoden vertrouwen op zelfconsistentie (wat meerdere generaties vereist) of prompt-gebaseerde fact-checking (wat extra inferentie en prompt engineering vereist), wat hoge computationele kosten met zich meebrengt. Bovsamen analyseren veel representatie-gebaseerde detectoren een enkele interne staat in isolatie, in plaats van te analyseren hoe de staat van het model verandert wanneer referenties wel versus niet aanwezig zijn.

Het artikel stelt de noodzaak voor een token-niveau detectiemethode voor die ongefundeerde inhoud binnen gemengde outputs kan lokaliseren en kan functioneren als een praktisch, post-hoc framework voor zowel open-weight als closed-weight (API-gebaseerde) LLM's.

Methodologie: CORTEX

CORTEX (Comparative Observed Reference-based Token-level EXpressions) is een post-hoc hallucinatie detectie framework dat specifiek is ontworpen voor RAG. Het maakt gebruik van een open-weight LLM ( $M_{open}$ ) als analysemodel om de interne representaties van een gegenereerd antwoord te inspecteren, dat mogelijk is geproduceerd door een closed-weight LLM ( $M_{close}$ ).

Het framework werkt via drie kerncomponenten:

1. Reference-Induced Delta Representation

CORTEX construeert een gepaard tegenfeitelijk perspectief van hetzelfde antwoord onder twee condities:

Reference-conditioned input: $x_{ref} = \text{vraag} \parallel \text{referenties} \parallel \text{antwoord}$
No-reference input: $x_{no-ref} = \text{vraag} \parallel \text{antwoord}$

Door beide inputs door $M_{open}$ te verwerken, extraheert de methode token-niveau interne representaties ( $h_i$ ) voor elk antwoord-token $t_i$ . Het berekent een delta-representatie ( $\Delta h_i$ ) die de verandering in de staat van het token weergeeft wanneer referenties worden meegeleverd:
$\Delta h_i = h_{i}^{ref} - h_{i}^{no-ref}$
De intuïtie is dat getrouwe tokens coherente representationele verschuivingen vertonen wanneer ze gegrond in referenties, terwijl hallucinerende tokens zwakkere of incoherente veranderingen laten zien.

2. Attention-Based Contextual Residual

Bij langdurige generatie kan de invloed van referenties indirect voortplanten. Een token $t_i$ kan niet door een directe link naar de referentie worden gegrond, maar door voorafgaande tokens ( $t_{<i}$ ) die wel gegrond waren. Het uitsluitend vertrouwen op $\Delta h_i$ zou deze indirect gegronde tokens foutief als hallucinaties kunnen classificeren.

Om dit aan te pakken, berekent CORTEX een contextuele residu ( $c_i$ ). Het schat de referentie-invloed die via voorgaande tokens wordt gemedieerd met behulp van attention-gewichten ( $\alpha_{ij}^{ref}$ ) van de reference-conditioned input:
$\bar{\Delta h}_i = \sum_{j<i} \alpha_{ij}^{ref} \Delta h_j$
$c_i = \Delta h_i - \bar{\Delta h}_i$
Het residu $c_i$ isoleert de token-specifieke verandering die overblijft nadat rekening is gehouden met de invloed die vanuit de context is voortgeplant, wat het aantal vals-positieven voor tokens die indirect in de referentie gegrond zijn, vermindert.

3. Token-Level Classification and Smoothing

De features $[\Delta h_i; c_i]$ worden gevoed aan een Multilayer Perceptron (MLP) classifier om een ruwe hallucinatie-score $s_i$ te produceren.

Om aan te sluiten bij menselijke annotatiepatronen (waarbij hallucinaties doorgaans verschijnen als aaneengesloten segmenten in plaats van geïsoleerde tokens), past CORTEX Label-Persistence Smoothing toe als een post-processing stap. Dit modelleert de neiging van hallucinatie-labels om te persistre over naburige tokens met behulp van een pairwise persistence term ( $\rho$ ) en een token-niveau betrouwbaarheid afgeleid van $s_i$ . De uiteindelijke gesmoothde score wordt berekend via het forward-backward algoritme, wat lokale ruis vermindert terwijl de granulariteit op token-niveau behouden blijft.

Belangrijkste Bijdragen

Eerste Token-Level RAG Detector: Naar weten van de auteurs is CORTEX de eerste token-niveau hallucinatie detectie methode die specifiek voor RAG is ontworpen, wat fijnmazige lokalisatie van ongegronde inhoud mogelijk maakt.
Praktisch Post-Hoc Framework: De methode vereist geen aanpassing van de parameters van de generator. Het kan outputs van willekeurige LLM's analyseren, inclusief API-gebaseerde closed-weight modellen, door een aparte open-weight model te gebruiken voor feature extractie.
Comparative Representation Approach: In tegenstelling tot eerder werk dat een enkele interne staat analyseert, maakt CORTEX gebruik van het contrast tussen reference-conditioned en no-reference interne representaties om het door referenties geïnduceerde signaal te isoleren.
Contextual en Span-Aware Design: De introductie van de contextuele residu adresseert indirecte grounding, terwijl de label-persistence smoothing aansluit bij span-gebaseerde annotatiestructuren.

Experimentele Resultaten

De auteurs hebben CORTEX geëvalueerd op twee benchmarks (RAGTruth en HalluRAG) met behulp van drie LLM's (Llama-3.1-8B, Qwen3-8B, en Mistral-7B).

Token-Level Performance: CORTEX presteerde aanzienlijk beter dan vijf baselines (inclusief NLL, SAPLMA, LLM-Check, ICR Probe, en RAGLens) in termen van Average Precision (AP) en AUROC. Op RAGTruth behaalde CORTEX een AP van 0.5940 (Qwen) vergeleken met de op één na beste (RAGLens) op 0.4575.
Answer-Level Performance: Hoewel getraind voor token-niveau detectie, behaalde CORTEX concurrerende antwoord-niveau prestaties (door de maximale token-score als antwoord-score te gebruiken), wat aantoont dat token-niveau signalen effectief zijn voor een globale betrouwbaarheidsbeoordeling.
Ablatie-studies: Het verwijderen van de contextuele residu ( $c$ ) of de smoothing-stap resulteerde in prestatievermindering, wat bevestigt dat beide componenten noodzakelijk zijn voor robuuste detectie. De smoothing-stap bleek breed voordelig te zijn, zelfs wanneer deze op baseline-methoden werd toegepast.

Betekenis en Claims

Het artikel claimt dat CORTEX de effectiviteit aantoont van het vergelijken van interne representaties onder verschillende conditionering (met versus zonder referenties) als een signaal voor hallucinatie detectie.

Practicaliteit: Door de generator te ontkoppelen van de analyzer, biedt CORTEX een levensvatbare oplossing voor betrouwbaarheidsbeoordeling in gedeplyteerde systemen waar de generator een black-box API is.
Granulariteit: Het adresseert de beperking van answer-level detectie door een mechanisme te bieden om hallucinaties te lokaliseren tot specifieke tokens, die vervolgens kunnen worden geaggregeerd naar elk gewenste granulariteitsniveau (woorden, zinnen, paragrafen).
Scope: De auteurs merken expliciet op dat CORTEX is ontworpen voor reference-grounded generation. Het detecteert content die niet ondersteund wordt door de verstrekte referenties, wat cruciaal is voor gecontroleerde toepassingen (bijv. enterprise support), maar nuttige parametrische kennis in open-ended scenario's kan markeren. Het artikel claimt niet algemene feitelijke onjuistheid onafhankelijk van de verstrekte context te detecteren.

De auteurs concluderen dat deze comparatieve interne-representatie signalen ook als basis kunnen dienen voor toekomstige hallucinatie mitigatie strategieën, zoals reward modeling voor het tunen van generators.