💬 NLP

Reverse Probing: Supervised Token-level Uncertainty Quantification for Large Language Models in Clinical Text

Dit artikel introduceert Reverse Probing, een nieuw raamwerk dat interne modelactivaties benut om token-niveau onzekerheid te schatten bij het samenvatten van klinische teksten zonder nieuwe steekproeven te vereisen, waardoor het bestaande basismodellen overtreft in nauwkeurigheid en efficiëntie en tegelijkertijd interpreteerbare inzichten biedt in het modelvertrouwen.

Oorspronkelijke auteurs: Bushi Xiao, Sarvesh Soni, Daisy Zhe Wang

Gepubliceerd 2026-05-28

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Bushi Xiao, Sarvesh Soni, Daisy Zhe Wang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een arts bent die een patiëntensamenvatting leest, geschreven door een zeer slimme, maar soms overmoedige, AI-assistent. De AI schrijft een lang verslag over het ziekenhuisverblijf van de patiënt. Meestal is het verslag perfect. Maar af en toe kan de AI een symptoom verzinnen of een getal verkeerd hebben—aan een "hallucinatie". In de echte wereld kan een enkel verkeerd woord gevaarlijk zijn.

Het probleem is: Hoe weten we welk specifiek woord de AI niet zeker weet?

De meeste huidige methoden proberen dit op te lossen door de AI te vragen om hetzelfde verslag tien keer te schrijven en te kijken of de verhalen veranderen. Als de verhalen verschillend zijn, is de AI niet zeker. Maar dit is alsof je een vermoeide arts vraagt om hetzelfde ontslagverslag tien keer te schrijven, alleen maar om hun zelfvertrouwen te controleren. Het kost te veel tijd, te veel geld en is niet praktisch voor lange medische documenten.

Dit artikel introduceert een nieuwe methode genaamd Reverse Probing. Hier is hoe het werkt, met eenvoudige analogieën:

1. Het "Reverse"-idee: De geest lezen, niet de mond

In plaats van de AI te vragen om te spreken (nieuwe tekst te genereren) om te zien of ze zeker is, hebben de onderzoekers besloten om de AI haar eigen bestaande tekst te geven en te kijken hoe haar brein reageert.

Stel je het interne brein van de AI voor als een gigantische bibliotheek van connecties.

Normale methode: Je vraagt de bibliothecaris: "Vertel me een verhaal over deze patiënt." Als de bibliothecaris stamelt of verschillende verhalen vertelt, weet je dat ze het niet zeker weten.
Reverse Probing: Je geeft de bibliothecaris een voltooid verhaal en zegt: "Lees deze zin voor mij terug, maar doe alsof je het laatste woord niet weet." Kijk vervolgens naar de ogen van de bibliothecaris (de interne signalen).
- Als de zin waar is (ondersteund door de echte gegevens van de patiënt), lichten de ogen van de bibliothecaris op met een duidelijk, zelfverzekerd pad naar het antwoord.
- Als de zin nep is (niet ondersteund), kijken de ogen van de bibliothecaris verward, of kijken ze de verkeerde kant op. Ze kunnen de "gronding" in de echte gegevens niet vinden.

De onderzoekers noemen dit "Reverse" omdat ze niet kijken naar wat de AI produceert; ze kijken naar hoe de AI verwerkt wat al bestaat.

2. De "Probe": De pols controleren

De onderzoekers gebruiken een techniek die probing heet. Stel je de AI voor als een zwarte doos. Je kunt niet naar binnen kijken, maar je kunt er met een stok (een "probe") op tikken om te zien hoe het trilt.

In deze studie nemen ze een klinische samenvatting en een "Kort Ziekenhuisverloop" (de ruwe, feitelijke notities uit het ziekenhuis). Ze voeren beide in bij de AI.

De test: Ze verbergen één voor één een woord (zoals een "invulzin") en vragen de AI om het te raden op basis van de context.
Het signaal: Ze meten vier soorten "trillingen" binnen het brein van de AI:
1. Interne signalen: Hoeveel de "gedachten" van de AI veranderen van de ene laag van haar brein naar de volgende.
2. Onzekerheidssignalen: Hoe "verspreid" het vertrouwen van de AI is. Is ze zeker dat ze 99% gelijk heeft, of raadt ze tussen 50/50-opties?
3. Medische kennis: Herkent de AI dit woord als een medische term?
4. Distributieve signalen: Dit is de belangrijkste. Ze vergelijken hoe de AI reageert wanneer ze de echte ziekenhuisnotities ziet versus wanneer ze die niet ziet. Als het vertrouwen van de AI aanzienlijk daalt wanneer de echte notities worden verwijderd, is dat woord waarschijnlijk niet ondersteund.

3. De "Detective": De leugens opsporen

Zodra ze deze "trillingen" (datapunten) hebben voor elk enkel woord, trainen ze een slim computerprogramma (een classifier) om op te treden als detective.

De detective leert: "Wanneer het brein van de AI dit specifieke patroon van verwarring vertoont, is dat woord waarschijnlijk een leugen."
Het resultaat is een kaart van het document waarbij elk woord een score krijgt van 0 tot 1. Een hoge score betekent: "Dit woord is wankel; controleer het."

4. De resultaten: Snel en nauwkeurig

De onderzoekers testten dit op echte medische data waar experts de neppe delen al hadden gemarkeerd.

Snelheid: Omdat ze de AI niet hoefden te vragen om nieuwe verhalen te schrijven, was het proces ongelooflijk snel. Ze konden 100 documenten in 10 minuten controleren. De oude methoden (de AI vragen om 10 keer te schrijven) deden 7 uur voor hetzelfde aantal.
Nauwkeurigheid: Hun "Reverse Probing"-methode was 4 keer beter in het vinden van de neppe woorden dan de volgende beste methode.
De verrassing: Ze ontdekten dat kleinere AI-modellen (7 miljard parameters) eigenlijk beter waren in het tonen van hun onzekerheid dan de gigantische modellen van 70 miljard parameters. De gigantische modellen waren zo overmoedig dat ze hun verwarring verborgen, waardoor het moeilijker werd om de leugens op te sporen.

Samenvatting

Reverse Probing is als een leugendetector voor AI-tekst. In plaats van de AI meer te laten praten om te zien of ze zenuwachtig is, geef je haar een zin en kijk je naar haar interne "pols". Als haar pols een slag overslaat wanneer ze probeert een woord te verbinden met de echte medische feiten, weet je dat dat woord waarschijnlijk een hallucinatie is. Het is sneller, goedkoper en veel preciezer in het vinden van specifieke fouten in lange medische verslagen.

Technische Samenvatting: Reverse Probing voor Token-niveau Onzekerheidskwantificatie in Klinische Tekst

Probleemstelling
De implementatie van Large Language Models (LLM's) voor samenvatting van klinische tekst introduceert kritieke veiligheidszorgen met betrekking tot betrouwbaarheid. Hoewel Onzekerheidskwantificatie (UQ) in algemene domeinen goed onderzocht is, staat de toepassing ervan op klinische tekst voor specifieke uitdagingen: klinische fouten zijn vaak schaars (ze komen voor als enkele woorden of cijfers binnen anderszins correcte zinnen) en de kosten van een fout zijn hoog. Bestaande UQ-methoden werken voornamelijk op sequentieniveau of vertrouwen op het genereren van meerdere outputkandidaten (sampling) om onzekerheid te schatten. Deze benaderingen zijn ongeschikt voor klinische omgevingen omdat:

Granulariteit: Ze falen in het lokaliseren van onzekerheid tot specifieke tokens of spannen binnen lange documenten.
Efficiëntie: Herhaaldelijk sampling over lange klinische documenten is computatief duur.
Data-schaarste: Expert-geannoteerde klinische tekst is schaars, wat het moeilijk maakt om nieuwe generaties betrouwbaar te evalueren.
Architectuur: Traditionele token-niveau probing (bijvoorbeeld masked language modeling) is inheems voor bidirectionele modellen zoals BERT, maar niet voor autoregressieve decoder-only LLM's.

Bovendien onderscheidt het artikel UQ van hallucinatie-detectie. UQ is een vorm van zelfevaluatie die de zekerheid van een model in zijn eigen voorspellingen meet, onafhankelijk van de grondwaarheid, terwijl hallucinatie-detectie afhankelijk is van externe feitencontrole.

Methodologie: Reverse Probing
De auteurs stellen Reverse Probing voor, een raamwerk dat token-niveau onzekerheid schat direct vanuit bestaande gelabelde samenvattingen zonder nieuwe tekst te genereren. De kerninnovatie is een "inversie" van het standaard UQ-paradigma: in plaats van het model te vragen tekst te genereren en de output te evalueren, voert de methode bestaande klinische tekst terug in de bevroren LLM om de interne staat te onderzoeken.

De methodologie verloopt als volgt:

Prompt-gebaseerde Maskering: Om de architecturale kloof met decoder-only modellen te overbruggen, vervangt het systeem sequentieel elk doel-token in een klinische samenvatting door een masker-placeholder. Het model wordt vervolgens geprompt om het gemaskerde token te voorspellen op basis van de omringende context.
Contextuele Perturbatie (Het "Reverse" Mechanisme): Het raamwerk maakt gebruik van de Brief Hospital Course (BHC) als bron van patiëntspecifiek bewijs. Het voert twee forward passes uit voor elk token:
- Met Context: De samenvatting wordt aangeleverd met de BHC.
- Zonder Context: De samenvatting wordt aangeleverd zonder de BHC.
  De kernhypothese is dat ondersteunde tokens in de representatieruimte van het model zullen aligneren met de BHC, terwijl niet-ondersteunde (gehallucineerde) tokens deze grounding missen. De afwezigheid van alignering dient als een latent onzekerheidssignaal.
Feature Extractie: Het systeem extrahert vier categorieën van features uit de interne activaties en outputdistributies van het model:
- Interne Signalen: Normen van verborgen staten, veranderingen van laag tot laag (L2-afstand, cosinus-similariteit) en attentie-metrics (entropie, gewicht gericht op BHC, inter-laag drift).
- Onzekerheidssignalen: Metrieken voor de vorm van de outputdistributie (Shannon-entropie, marge, Gini-coëfficiënt, vrije energie).
- Medische Kennissignalen: Domeinspecifieke context via Named Entity Recognition (NER) met scispaCy/UMLS, dichtheid van medische entiteiten, en token-frequentie/IDF.
- Distributie Signalen: Het verschil in kansen en entropie tussen de "met BHC" en "zonder BHC" passes (bijvoorbeeld $\Delta E$ , $\Delta H$ , KL-divergentie).
Supervised Classificatie: Een supervised classifier (XGBoost of CatBoost) wordt getraind op deze features om een continue onzekerheidsscore te voorspellen voor elk token. Het model wordt getraind om interne activatiepatronen te identificeren die geassocieerd zijn met niet-ondersteunde spannen.

Belangrijkste Bijdragen

Eerste Token-niveau UQ Raamwerk voor Klinische Samenvattingen: Reverse Probing is het eerste raamwerk dat specifiek is ontworpen om token-niveau onzekerheid te schatten in taken voor klinische samenvatting.
Computationele Efficiëntie: Door multi-sampling te elimineren en te opereren op bestaande tekst, reduceert de methode de inferentietijd van uren (vereist door sampling-gebaseerde baselines) tot minuten.
Nieuwe Benchmark: De auteurs vestigen de eerste benchmark voor UQ in klinische samenvattingen, met evaluatie tegen acht aangepaste baselines over zes LLM's (inclusief algemene en biomedische modellen) op twee expert-geannoteerde datasets (Hallucinations-MIMIC-DI en Hallucinations-Generated-DI).
Interpreteerbare Inzichten: De studie identificeert specifieke interne signalen die correleren met onzekerheid, en biedt een weg naar uitlegbare AI in klinische omgevingen.

Resultaten
De evaluatie toont aan dat Reverse Probing significant beter presteert dan alle aangepaste baselines:

Prestaties: Op de MIMIC-DI dataset (door mensen geschreven samenvattingen) behaalde Reverse Probing een AUPRC van 0,5478 (met BioMistral-7B), vergeleken met 0,1313 voor de sterkste baseline (SE Probes). Dit vertegenwoordigt een verbetering van ongeveer 4×.
Robuustheid: De methode behoudt consistente superioriteit over modellen van verschillende groottes (7B tot 70B) en pretraining-omstandigheden (algemeen versus biomedisch), hoewel kleinere modellen (7B/8B) over het algemeen beter presteerden dan grotere 70B-modellen. De auteurs hypothetiseren dat grotere modellen mogelijk te zelfverzekerd zijn, waardoor het dynamische bereik van onzekerheidssignalen wordt gecomprimeerd.
Efficiëntie: Reverse Probing verwerkt 100 samples in minder dan 10 minuten op een enkele GPU, terwijl sampling-gebaseerde methoden (bijvoorbeeld Semantic Entropy) ongeveer 7 uur vereisen voor dezelfde taak.
Feature Analyse: Analyse van feature-importantie onthult dat delta-energie (de verandering in vrije energie wanneer BHC aanwezig is) en buurcontext (statistieken van een glijdend venster) de meest consistente voorspellers van onzekerheid zijn over alle modellen. Dit suggereert dat onzekerheid in klinische tekst vaak een eigenschap is van lokale spannen in plaats van geïsoleerde tokens.

Betekenis en Beweringen
Het artikel beweert dat Reverse Probing een praktische en schaalbare oplossing biedt voor onzekerheidsschatting in hoog-risico klinische omgevingen waar het genereren van nieuwe tekst voor evaluatie onhaalbaar is. Door bestaande tekst te behandelen als een sonde, transformeert de methode onzekerheidsschatting naar een interpreteerbaar proces dat voorspellingen terugtraceert naar specifieke interne signalen (specifiek, het gebrek aan alignering met klinisch bewijs).

De auteurs merken bescheiden beperkingen op, waaronder:

Modeldekking: Het raamwerk is voornamelijk gevalideerd op Mistral- en Llama-architecturen.
Aanpasbaarheid aan Grote Modellen: De prestaties verslechteren bij 70B-modellen, wat wijst op een behoefte aan adaptieve feature-extractiestrategieën voor diepere netwerken.
Data-schaarste: De afhankelijkheid van expert-geannoteerde datasets beperkt de schaal van de evaluatie.
Taalgeneralisatie: De studie is beperkt tot ontslagrapporten, en generalisatie naar andere typen klinische tekst (bijvoorbeeld radiologieverslagen) blijft ongeverifieerd.

Uiteindelijk betoogt het werk dat modellen intern onzekerheid coderen als reactie op niet-ondersteunde inhoud, en dat Reverse Probing een mechanisme biedt om deze signalen efficiënt te benaderen zonder de computationele overhead van generatieve sampling.