💻 computer science

VIHD: Visual Intervention-based Hallucination Detection for Medical Visual Question Answering

Het artikel stelt VIHD voor, een nieuwe methode voor het detecteren van hallucinaties bij medisch visueel vragen beantwoorden die bestaande benaderingen verbetert door visueel dominante decoderlagen te identificeren en gerichte masking van visuele tokens toe te passen om semantische entropie te kalibreren, waardoor hallucinaties zonder visueel bewijs effectiever worden gedetecteerd.

Oorspronkelijke auteurs: Jiayi Chen, Benteng Ma, Zehui Liao, Winston Chong, Yasmeen George, Jianfei Cai

Gepubliceerd 2026-05-21

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Jiayi Chen, Benteng Ma, Zehui Liao, Winston Chong, Yasmeen George, Jianfei Cai

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een zeer intelligente medische AI-assistent voor die naar een röntgenfoto of MRI-scan kan kijken en je vragen daarover kan beantwoorden, zoals "Wat is de massa in deze afbeelding?" of "Is er een fractuur?". Dit is een Multimodaal Groot Taalmodel (MLLM). Hoewel deze modellen ongelooflijk slim zijn, hebben ze een gevaarlijke gewoonte: ze "hallucineren" soms.

Denk aan een hallucinatie als een zelfverzekerde leugenaar. De AI kan zeggen: "Ik zie een niercyste," zelfs als de afbeelding niets anders toont dan gezond weefsel. De zin klinkt grammaticaal perfect, maar is volledig verzonnen. In een ziekenhuis kan dit leiden tot een arts die een verkeerde beslissing neemt op basis van een leugen.

Het artikel introduceert een nieuw hulpmiddel genaamd VIHD (Visual Intervention-based Hallucination Detection) om deze leugens op te vangen voordat ze problemen veroorzaken. Hieronder wordt uitgelegd hoe het werkt, met eenvoudige analogieën:

Het Probleem: De "Black Box"-detective

Eerdere methoden probeerden deze leugens op te vangen door de AI steeds dezelfde vraag te stellen of de vraag lichtjes te veranderen (zoals vragen: "Is er een cyste?" versus "Is er een tumor?").

De Tekortkoming: Dit is als een getuige vragen: "Heb je de rode auto gezien?" en vervolgens: "Heb je de blauwe auto gezien?" om te zien of ze in de war raken. Het is een beetje gokken. Het kijkt niet echt in het brein van de AI om te zien of het echt naar de afbeelding kijkt of gewoon dingen verzonnen op basis van wat het eerder heeft gehoord.

De Oplossing: VIHD (De "Schijnwerper"-methode)

VIHD is anders. In plaats van alleen vragen te stellen, voert het een "operatie" uit op het denkproces van de AI om te zien hoe sterk het afhankelijk is van de afbeelding. Het werkt in drie stappen:

1. De "Ogen" vinden (Visual Dependency Probing)

Stel je voor dat de AI een brein heeft met vele lagen neuronen, zoals een flatgebouw met meerdere verdiepingen. Wanneer het een vraag beantwoordt, kijkt het in sommige kamers naar de afbeelding en negeert het die in andere kamers.

Wat VIHD doet: Het loopt door het gebouw en vindt de specifieke verdiepingen (decoderlagen) waar de AI daadwerkelijk naar de afbeelding kijkt. Het is als het vinden van de specifieke kamer waar de detective naar de foto van het misdaadplek staart, in plaats van de kamer waar ze alleen maar aan het dagdromen is.

2. De "Blinddoek"-test (Visual Intervention Decoding)

Zodra VIHD de juiste kamer heeft gevonden, voert het een gericht experiment uit. Het identificeert de specifieke delen van de afbeelding waarop de AI zich richt (zoals een specifieke donkere vlek op een röntgenfoto) en "verblindt" de AI tijdelijk voor die delen.

De Analogie: Stel je voor dat je een foto van een kat beschrijft. Als je de oren van de kat bedekt en vraagt: "Welk dier is dit?" en je zegt nog steeds zelfverzekerd "Kat", dan is dat prima. Maar als je het gezicht van de kat bedekt en de AI plotseling begint te raden "Het is een hond!" of "Het is een broodrooster!", dan is dat een enorm rood vlaggetje.
Het Doel: VIHD maskeert (verbergt) de belangrijkste visuele aanwijzingen die de AI gebruikte. Als het antwoord van de AI drastisch verandert of verward raakt, bewijst dit dat de AI echt naar de afbeelding keek. Als de AI blijft hetzelfde zelfverzekerde antwoord geven, zelfs als de afbeelding verborgen is, betekent dit dat de AI gewoon uit het geheugen gokte (hallucineerde).

3. Het meten van de "Verwarring" (Gecalibreerde Semantische Entropie)

Tot slot vergelijkt VIHD het oorspronkelijke antwoord van de AI met het antwoord dat het gaf terwijl het "blind" was.

De Maatstaf: Het berekent iets genaamd "Gecalibreerde Semantische Entropie". Denk hierbij aan een Verwarringscore.
- Lage Verwarring: De AI geeft hetzelfde antwoord, of de afbeelding nu wel of niet zichtbaar is. Dit is eigenlijk goed voor detectie omdat het betekent dat de AI consistent is, maar als het antwoord vanaf het begin verkeerd was, markeert het systeem dit.
- Hoge Verwarring: Het antwoord van de AI schommelt wild als de afbeelding verborgen is. Deze hoge "schommeling" of "verspreiding" is het signaal dat de AI zich baseerde op wankel visueel bewijs. VIHD gebruikt deze hoge score om te zeggen: "Waarschuwing: Dit antwoord is waarschijnlijk een hallucinatie."

Waarom Het Beter Is

Het artikel testte dit op drie verschillende medische datasets (die CT-scans, MRI's en röntgenfoto's omvatten) en twee verschillende AI-modellen.

Het Resultaat: VIHD was veel beter in het opsporen van leugens dan eerdere methoden. Het hoefde niet opnieuw getraind te worden op nieuwe data (het is "trainingsvrij") en het hoefde geen tweede AI in te schakelen om het werk te controleren.
De Analogie: Eerdere methoden waren als een beveiligingsagent die het ID-kaartje van een bezoeker controleert. VIHD is als een leugendetector die controleert of de hartslag van de bezoeker piekt wanneer ze naar het bewijs kijken.

Samenvatting

Kortom, VIHD is een hulpmiddel dat medische AI-hallucinaties opvangt door tijdelijk de belangrijkste delen van een afbeelding te verbergen en te kijken of het antwoord van de AI uiteenvalt. Als de AI echt naar de afbeelding keek, zal het verbergen van delen ervan zijn mening veranderen. Als de AI gewoon dingen verzon, zal het het verschil niet merken, en VIHD zal het markeren als een mogelijke fout. Dit helpt ervoor te zorgen dat wanneer een AI medisch advies geeft, het daadwerkelijk naar de scan van de patiënt kijkt en niet alleen maar gokt.

Technische Samenvatting: VIHD - Hallucinatiedetectie op basis van Visuele Interventie

Probleemstelling

Medische Multimodale Grootte Taalmodellen (MLLM's) hebben aanzienlijke potentie getoond bij het ondersteunen van klinische diagnose via Visuele Vraagbeantwoording (VQA) en geautomatiseerde rapportagegeneratie. Een kritieke beperking blijft echter bestaan: deze modellen genereren frequent gehallucineerde antwoorden—output die taalkundig coherent is maar in strijd is met het verstrekte visuele bewijs. Dergelijke fouten vormen aanzienlijke risico's voor klinische besluitvorming.

Bestaande methoden voor hallucinatiedetectie vallen over het algemeen in drie categorieën:

Supervised Detection (Toezichtgebonden detectie): Vereist arbeidsintensieve, geannoteerde datasets en heeft moeite om te generaliseren naar nieuwe domeinen of architecturen.
External Verification (Externe verificatie): Verlaat zich op auxiliary-modellen of kennisbanken, wat aanzienlijke rekenkundige overhead introduceert en afhankelijkheid creëert van externe hulpmiddelen.
Introspective Detection (Introspectieve detectie): Zelfstandige methoden die onzekerheid of logische consistentie schatten zonder extra training. Hoewel efficiënt, vertrouwen huidige introspectieve benaderingen vaak op heuristische en context-ongevoelige externe perturbaties. Ze behandelen MLLM's als black boxes, waardoor ze falen in het onderzoeken van de interne causale afhankelijkheden tussen gegenereerde tokens en specifiek visueel bewijs tijdens het decodeerproces.

Methodologie: VIHD-raamwerk

De auteurs stellen VIHD (Visual Intervention-based Hallucination Detection) voor, een trainingsvrij raamwerk dat is ontworpen om de betrouwbaarheid van cross-modale redenering te onderzoeken door middel van gerichte, fijnmazige visuele interventies. De methode werkt in drie distincte fasen:

1. Visuele Afhankelijkheidsprobing (VDP)

Om te identificeren waar het model het zwaarst leunt op visueel bewijs, analyseert VIHD de attentiemechanismen binnen de LLM-decoder.

Mechanisme: Het berekent de attentiegewichten tussen gegenereerde tokens en invoer-visuele tokens over alle decoderlagen en attentiekoppen.
Lokalisatie: Het aggregeert deze gewichten om de visuele afhankelijkheid per laag ( $s^{(l)}$ ) te kwantificeren. De methode identificeert vervolgens een aaneengesloten venster van $w$ lagen $[l^*, l^*+w-1]$ dat de sterkte cumulatieve visuele afhankelijkheid vertoont. Dit zorgt ervoor dat interventies worden toegepast waar cross-modale aandacht het meest prominent is.

2. Visuele Interventie-decoding (VID)

Zodra de visueel dominante lagen zijn geïdentificeerd, voert VIHD een gerichte interventie uit om te observeren hoe de output van het model verandert wanneer specifiek visueel bewijs wordt onderdrukt.

Mechanisme: Tijdens het decodeerproces binnen het geïdentificeerde venster maskeert het algoritme het top- $\rho$ deel van de visuele tokens met de hoogste attentiegewichten ten opzichte van de huidige gegenereerde token.
Resultaat: Dit produceert een "geïnterveneerd antwoord" ( $r'$ ) dat is geconditioneerd op een verstoord visuele representatie. Door het originele antwoord ( $r$ ) te vergelijken met het geïnterveneerde antwoord ( $r'$ ), onthult de methode de afhankelijkheid van het model van specifieke visuele tokens.

3. Gecalibreerde Semantische Entropie (CSE)

Om de ernst van hallucinaties te kwantificeren, berekent VIHD een metriek gebaseerd op de semantische verdeling van de antwoorden.

Sampling: Het model voert $M$ onafhankelijke samplingruns uit om twee sets antwoorden te genereren: normale antwoorden $\{r^{(i)}\}$ en visueel-geïnterveneerde antwoorden $\{r'^{(i)}\}$ .
Clustering: Deze antwoorden worden geklusterd in semantisch-equivalentieklassen met behulp van een vooringesteld model (DeBERTa-Large-MNLI), wat resulteert in een normale semantische verdeling $P(s)$ en een geïnterveneerde verdeling $P(s')$ .
Adaptieve Fusie: Inzichtelijk dat interventie-impact varieert per query-granulariteit, hanteert VIHD een adaptieve fusiestrategie:
- Als de verdelingen nauw overeenkomen (cosijn-similariteit $\ge \tau$ ), wordt complementaire fusie gebruikt om gedeelde semantiek te versterken.
- Als ze uiteenlopen, wordt contrastieve fusie gebruikt om door masking geïnduceerde hallucinaties te onderdrukken.
Metriek: De uiteindelijke Gecalibreerde Semantische Entropie (CSE) wordt berekend uit deze gefuseerde verdeling. Een hogere CSE geeft significante semantische dispersie aan tussen de originele en geïnterveneerde output, en dient als een robuust signaal voor hallucinaties.

Belangrijkste Bijdragen

VIHD-raamwerk: Introductie van een trainingsvrije methode die fijnmazige visuele interventies gebruikt om interne causale afhankelijkheden te onderzoeken, en zo voorbijgaat aan black-box heuristische perturbaties.
Adaptieve Pipeline: Ontwerp van een drie-fasen pipeline bestaande uit Visuele Afhankelijkheidsprobing (om kritieke lagen te lokaliseren), Visuele Interventie-decoding (om tokens met hoge attentie te maskeren) en Gecalibreerde Semantische Entropie (om ernst te kwantificeren via adaptieve verdelingsfusie).
Empirische Superioriteit: Uitgebreide validatie die aantoont dat VIHD consistent betere prestaties levert dan state-of-the-art introspectieve methoden over diverse medische VQA-benchmarks en modelarchitecturen.

Experimentele Resultaten

De auteurs hebben VIHD geëvalueerd op drie medische VQA-benchmarks (VQA-RAD, SLAKE en VQA-Med-2019) met behulp van twee medische MLLM's (Hulu-4B en Lingshu-7B). Hallucinatielabels werden gegenereerd met het GREEN-model, en prestaties werden gemeten via AUC (Area Under the ROC Curve) en AUG (Area under the GREEN Curve).

Prestatiewinst: VIHD presteerde consistent beter dan zeven concurrerende methoden (waaronder token-onzekerheid, consistentie-gebaseerde en semantische onzekerheidsbaselines).
- Op Hulu-4B verbeterde VIHD de gemiddelde AUC met 8,57% over alle vragen en bereikte een aanzienlijke 12% AUC-stijging op de VQA-RAD-dataset.
- Op Lingshu-7B behield het een voordeel met een gemiddelde AUC-verbetering van 3,22% overall.
Efficiëntie: De inferentietyd voor VIHD was ongeveer 11,59 seconden per steekproef, vergelijkbaar met de toonaangevende baseline VASE (11,55s/steekproef), wat aangeeft dat prestatiewinsten werden behaald zonder extra rekenkosten.
Ablatiestudies:
- Het verwijderen van een component (VDP, VID of CSE) resulteerde in prestatiedegradatie, wat de noodzaak van de volledige pipeline valideert.
- Maskeren van hoge attentie bleek superieur te zijn aan willekeurig of laag-attentie maskeren, wat bevestigt dat het richten op opvallende visuele tokens cruciaal is voor effectieve calibratie.
- Een schuifend vensterbreedte van $w = L/2$ en een maskeringsratio van $\rho = 10\%$ werden geïdentificeerd als optimale hyperparameters.

Betekenis en Claims

Het artikel claimt dat VIHD het belang onderstreept van fijnmazige visuele afhankelijkheid voor hallucinatiedetectie. Door te verschuiven van externe, heuristische perturbaties naar interne, gerichte interventies gebaseerd op de eigen attentiemechanismen van het model, biedt VIHD een betrouwbaarder signaal voor het detecteren van momenten waarop een model hallucineert.

De auteurs positioneren VIHD als een implementatievriendelijke, trainingsvrije oplossing die geen geannoteerde hallucinati datasets of externe verificatiehulpmiddelen vereist. De consistente verbeteringen over verschillende modelcapaciteiten en datasetkenmerken suggereren dat de methode effectief de kernprobleem van MLLM's aanpakt die taalkundig plausibele maar visueel niet-ondersteunde medische claims genereren. De code is beschikbaar gesteld om verder onderzoek in dit domein te faciliteren.