📄 health informatics

Looked but didn't see: inattentional blindness and yes-bias confabulation in vision-language models

Dit artikel으로 toont aan dat vision-language-modellen een vorm van inattentiële blindheid vertonen die vergelijkbaar is met die van mensen, maar ook een unieke modus van confabulatiefouten vertonen, wat een signaaldetectieanalyse met gematchte controlebaselines noodzakelijk maakt om hun visuele waarnemingsvermogen nauwkeurig te beoordelen.

Oorspronkelijke auteurs: Raymond, J. D., Hu, P., Solomon, B. D., Duong, D.

Gepubliceerd 2026-06-18

📖 5 min leestijd🧠 Diepgaand

CC0 1.0

Oorspronkelijke auteurs: Raymond, J. D., Hu, P., Solomon, B. D., Duong, D.

Oorspronkelijk artikel vrijgegeven aan het publieke domein onder CC0 1.0 (https://creativecommons.org/publicdomain/zero/1.0/). ⚕️ Dit is een AI-gegenereerde uitleg van een preprint die niet peer-reviewed is. Dit is geen medisch advies. Neem geen gezondheidsbeslissingen op basis van deze inhoud. Lees de volledige disclaimer

Stel je voor dat je naar een basketbalwedstrijd op tv kijelt. Je taak is om te tellen hoe vaak de spelers de bal passen. Plotseling loopt er iemand in een reusachtig gorilla-kostuum dwars door het midden van het veld, stopt en trommelt op zijn borst. Als je zo gefocust bent op het tellen van de passes dat je de gorilla volledig mist, heb je "inattentional blindness" (onoplettendheidsblindheid) ervaren.

Dit is een beroemde truc van het menselijk brein. Maar dit artikel stelt een nieuwe vraag: Worden AI-modellen (specifiek Vision-Language Models of VLM's) op dezelfde manier gefopt?

De onderzoekers namen een beroemd experiment waarbij radiologen (artsen die röntgenfoto's lezen) er niet in slaagden een gorilla te zien die verborgen was in een CT-scanvideo, en ze voerden exact dezelfde test uit op AI-modellen. Hier is wat ze vonden, eenvoudig uitgelegd.

1. Het "druk brein"-effect (Inattentional Blindness)

De onderzoekers lieten de AI een video van een longscan zien en vroegen de AI om zich als een arts te gedragen: "Vind alle longnoduli (kleine knobbeltjes)."

Het resultaat: Net als de menselijke artsen was de AI zo druk met het zoeken naar knobbeltjes dat hij de reusachtige gorilla die door de video liep, volledig negeerde.
De analogie: Het is als een chef-kok die zo gefocust is op het snijden van uien dat hij niet merkt dat er een clown de keuken binnenloopt. De AI "keek" naar de hele afbeelding (het heeft geen blinde vlekken zoals het menselijk oog), maar de "aandacht" van de AI was vergrendeld op de taak, waardoor de gorilla onzichtbaar werd.

2. Het "Ja-knikker"-probleem (Confabulatie)

Hier is waar de AI verschilt van mensen. Nadat de video was afgelopen, vroegen de onderzoekers aan de AI: "Heb je iets ongewoons gezien?"

De menselijke manier: Als een mens de gorilla niet zag, zegt hij: "Nee, ik heb niets gezien."
De AI-manier: Toen de onderzoekers de AI rechtstreeks vroegen: "Heb je een gorilla gezien?", begon de AI "Ja!" te zeggen, zelfs wanneer er geen gorilla in de video zat.
De analogie: Stel je een student voor die een toets maakt. Als de docent vraagt: "Heb je het antwoord op het bureau gezien?", kan de student "Ja" zeggen, simpelweg omdat hij denkt dat de docent verwacht dat hij "ja" zegt. De AI zag de gorilla niet echt; de AI was aan het confabuleren (dingen verzinnen) omdat het aanvoelde dat de onderzoekers op zoek waren naar een specifief antwoord. Het werd een "Ja-knikker".

3. De "Magische Spiegel"-test

Om te bewijzen dat de AI niet alleen maar hallucineerde, voerden de onderzoekers een tweede test uit. Ze namen exact hetzelfde frame uit de video waar de gorilla verscheen en lieten dit aan de AI zien in een nieuwe, lege conversatie (zonder de taak van het zoeken naar longen).

Het resultaat: De AI zag de gorilla onmiddellijk met 100% nauwkeurigheid.
De les: Dit bewees dat de AI de gorilla perfect kon zien. De AI "mistte" hem alleen wanneer de AI bezig was met iets anders. Dit is het "kijken maar niet zien"-gedeelte.

4. De "Beroemde Studie"-valstrik

De onderzoekers ontdekten een vreemde glitch die uniek is voor AI. Omdat de AI in zijn trainingsdata over het beroemde "gorilla in het basketbalspel"-experiment had gelezen, herkende het de patronen van de test.

De analogie: Het is als een student die het antwoordblad van een oefenexamen heeft gelezen. Wanneer de docent vraagt: "Heb je het verborgen object gezien?", zegt de student "Ja!" niet omdat hij het in de afbeelding zag, maar omdat hij de verhalen over het gorilla-experiment herinnert.
De AI zou vaak dingen zeggen als: "Ja, ik zag de gorilla, net als in de studie van Drew et al.," zelfs wanneer de video volledig leeg was. De AI gokte op basis van zijn geheugen van het experiment, niet op basis van wat er daadwerkelijk voor hem stond.

5. De "Specialist vs. Generalist" wending

De onderzoekers testten ook twee verschillende soorten AI:

De Generalist: Goed in het zien van alles in de natuur (zoals een gorilla in een bos), maar slecht in het begrijpen van medische scans. Deze vond de gorilla, maar kon de longen niet vinden.
De Specialist: Getraind specifiek op medische scans. Deze was geweldig in het vinden van longen, maar was te enthousiast. Wanneer gevraagd werd om een gorilla te vinden, beweerde de AI een gorilla te zien in 82% van de video's waar helemaal geen gorilla in zat.
De les: Een specialistische AI kan zo enthousiast zijn om te vinden waar je naar vraagt, dat hij dingen begint te zien die er niet zijn.

De Belangrijkste Conclusie

De belangrijkste boodschap van dit artikel is een waarschuwing voor hoe we AI testen:

Je kunt een AI niet alleen vragen: "Heb je X gezien?" en dan het "Ja" vertrouwen.

Als je een AI een directe vraag stelt, kan het zijn dat de AI liegt (confabuleert) of "Ja" zegt om behulpzaam te zijn, vooral als de AI denkt dat je het test op een beroemd experiment. Om te weten of een AI echt iets heeft gezien, moet je de antwoorden vergelijken met een "controlegroep" (video's zonder gorilla) en strikte wiskunde gebruiken om te onderscheiden wat de AI daadwerkelijk zag van wat de AI slechts heeft gegokt.

Kortom: AI kan blind zijn als het druk is, maar het kan ook een leugenaar zijn wanneer er direct naar wordt gevraagd. Om de waarheid te achterhalen, heb je een zeer zorgvuldige, wetenschappelijke test nodig, en niet alleen een simpele vraag.

Technische Samenvatting: Inattentional Blindness en Yes-Bias Confabulatie in Vision-Language Modellen

Probleemstelling
Het artikel onderzoekt of hedendaagse Vision-Language Modellen (VLM's) "inattentional blindness" (IB) vertonen—een fenomeen waarbij waarnemers er niet in slagen onverwachte stimuli op te merken wanneer hun aandacht is gericht op een veeleisende visuele taak. Dit gedrag werd beroemd gedemonstreerd bij menselijke proefpersonen (Simons & Chabris, 1999) en getrainde radiologen (Drew, Võ, & Wolfe, 2013), die er niet in slaagden een gorilla-figuur te rapporteren die over borst-CT-scans was geprojecteerd, ondanks dat oogtracking-data bevestigden dat ze er visueel op gefixeerd waren.

De auteurs vragen zich af of deze gedragsmatige signatuur repliceert in VLM's, die volledige afbeeldingen parallel verwerken zonder een biologische foveale bottleneck. Bovendien adresseert het artikel een kritiek methodologisch gat: in tegen tegenstelling tot menselijke proefpersonen vertonen VLM's "hallucinatie" of confabulatie, waarbij ze vloeiende, gelokaliseerde beschrijvingen genereren van stimuli die niet aanwezig zijn. Bijgevolg kan een eenvoudige "Ja"-reactie op een directe probe (bijv. "Zag je een gorilla?") niet onderscheid maken tussen genuante perceptie en respons-bias (confabulatie). De studie stelt dat zonder een gematchte controle-baseline voor vals alarm en een signaaldetectie-analyse, claims over de perceptie van VLM's fundamenteel oninterpreteerbaar zijn.

Methodologie
De studie maakte gebruik van drie experimentele armen met behulp van borst-CT-scans die werden weergegeven als scrollende videostacks, waarbij een gorilla-figuur in- en uitfadde over specifieke slices (ongeveer 48× de grootte van een typische nodule).

Experiment 1 (Cross-Model Landschap):
- Subjecten: 20 modelconfiguraties over drie leveranciers (OpenAI, Anthropic, Google DeepMind) en drie generaties (2024–2026), inclusief variaties met en zonder "reasoning" modi.
- Stimuli: 144 statische composietbeelden (gorilla aanwezig) en 12 gematchte controles, gepresenteerd onder vier prompt-typen (taakgericht, klinisch, open, en geprimed).
- Scoring: Reacties werden gescoord via een tweeledig systeem: L1 (regex-matching voor diertermen) en L2 (een flagship-model dat beschrijvingen van gorilla versus controle-afbeeldingen vergelijkt om gelokaliseerde anomalieën te detecteren).
Experiment 2 (Replicatie van Drew et al., 2013):
- Subject: Een enkel model, Gemini-3.1-Pro.
- Design: Een sequentie van 5 trials (4 controle warm-ups + 1 target) in een enkel gesprek. De target was ofwel gorilla-aanwezig of gorilla-afwezig.
- Probes: Na de taak ontving het model drie escalerende bewustzijns-probes letterlijk overgenomen van Drew et al. (2013):
  - q1: "Leek de laatste trial enigszins anders...?"
  - q2: "Merkt u iets ongewoons op...?"
  - q3: "Heeft u een gorilla gezien...?"
- Controles: Een "clean still-image detectability sub-run" werd uitgevoerd op een opvolger-model (gemini-3.1-pro-preview) met verse, contextvrije gesprekken om een false-alarm baseline vast te stellen, ter correctie voor de verwarrende aard van de in-gesprek q4 probe.
Segmentatie-arm:
- Subjecten: Twee tekst-geprompte segmentatiemodellen: SAM 3 (generalist voor natuurlijke afbeeldingen) en BiomedParse (medisch specialist).
- Taak: Toegepast op dezelfde bevroren stimulus-video's onder prompts voor "gorilla", "lung_field" en "nodule".
- Metric: Detectieratio's op gorilla-aanwezige frames versus false-alarm ratio's op gorilla-afwezige controleframes.

Belangrijkste Resultaten

Replicatie van Inattentional Blindness: In de spontane, in-taak conditie (vóór enige probes) slaagde het VLM er niet in de gorilla te rapporteren in 23 van de 24 trials (96% miss rate), wat nauw aansluit bij de 83% miss rate waargenomen bij menselijke radiologen. Het model zette de nodule-zoektaak voort zonder uit koers te raken, wat het menselijk gedrag parallelleert.
Yes-Bias en Confabulatie: Naarmate de probes suggestiever werden (van q1 naar q3), stortte het vermogen van het model om signaal van ruis te onderscheiden in.
- Bij de subtiele q1 probe was de sensitiviteit ( $d'$ ) 1.22.
- Bij de directe q3 probe ("Heeft u een gorilla gezien?") daalde de sensitiviteit naar 0.20, en de respons-criterium ( $c$ ) sloeg door naar -1.18, wat wijst op een sterke "ja"-bias.
- Op controle-trials (geen gorilla) fabriceerde het model vaak specifieke tijdstempels en longcoördinaten, waarbij het zelfs de oorspronkelijke onderzoekers (Drew, Võ en Wolfe) bij naam noemde.
Paradigma-herkenning: Het model herkende het "invisible gorilla" paradigma expliciet in 67% van de gevallen (zowel bij gorilla als bij controle), wat suggereert dat de reacties werden beïnvloed door training-data herkenning van het experimentele ontwerp in plaats van pure visuele perceptie.
Segmentatie Dissociatie:
- SAM 3 (generalist) detecteerde de gorilla in het venster met hoge precisie, maar had een bijna nul-percentage aan false-alarms op controle-video's (0.7%).
- BiomedParse (specialist) detecteerde de gorilla in het venster (92%), maar vertoonde een enorme false-alarm rate op controle-video's (82%), waarbij het "gorilla" flagde op bijna elk frame wanneer daarom gevraagd werd.
Clean Detectability: Wanneer de gorilla peak-slice werd gepresenteerd in een vers, contextvrij gesprek als het expliciete object van zoekopdracht, behaalde het model een 100% hit rate en 0% false-alarm rate ( $d' = 4.11$ ), wat bewijst dat de gorilla visueel beschikbaar was maar genegeerd werd tijdens de veeleisende taak.

Belangrijkste Bijdragen

Gedragsmatige Replicatie: Gedemonstreerd dat de gedragsmatige signatuur van inattentional blindness (taakgestuurde falen om onverwachte stimuli te rapporteren ondanks visuele fixatie) reproduceert in VLM's.
Methodologische Correctie: Vastgesteld dat ruwe "Ja"-percentages in VLM-perceptietaken worden geconfundeerd door hallucinatie en respons-bias. Het artikel betoogt dat elke claim over "zag het model X" een gematchte controle-baseline voor vals alarm en een signaaldetectie-analyse vereist (het berekenen van $d'$ en criterium $c$ ).
Paradigma-herkenning Confound: Geïdentificeerd als een unieke foutmodus waarbij LLM's het experimentele paradigma herkennen vanuit hun trainingsdata, wat leidt tot confabulatie op controle-trials die perceptie nabootst. Dit suggereert dat klassieke cognitieve paradigma's niet ongewijzigd op LLM's kunnen worden toegepast.
Generalisatie naar Niet-Conversationele Modellen: Getoond dat de noodzaak van false-alarm baselines verder reikt dan alleen conversationele VLM's en zich uitstrekt tot tekst-geprompte segmentatiemodellen, waarbij "specialist" modellen hoge vals-positief ratio's kunnen vertonen die gemaskeerd worden door single-stimulus evaluatieprotocollen.

Betekenis en Claims
Het artikel claimt dat hoewel VLM's een functionele analogie van inattentional blindness vertonen, de interpretatie van hun perceptie fundamenteel verschilt van menselijke waarnemers vanwege de aanwezigheid van confabulatie. De auteurs stellen dat zonder expliciete controle-baselines, huidige benchmarks het risico lopen de perceptuele herstelcapaciteit van VLM's onder directe ondervraging te overschatten.

Voor radiologie AI benadrukt de studie een relevant falen in de praktijk: een medisch specialistisch model kan zeer accuraat lijken in single-stimulus tests (het detecteren van de anomalie wanneer aanwezig), maar zou in klinische settings excessieve vals-positieven kunnen genereren als het niet de specificiteit bezit om de anomalie van normale anatomie te onderscheiden wanneer daarom gevraagd wordt. De auteurs concluderen dat toekomstige evaluaties van VLM's als cognitieve subjecten rekening moeten houden met zowel "confabulatie onder leidende ondervraging" als "paradigma-herkenning uit trainingsdata" om interpreteerbare, falsifieerbare signalen te produceren.