📄 health informatics

Looked but didn't see: inattentional blindness and yes-bias confabulation in vision-language models

Questo articolo dimostra che i modelli visione-linguaggio esibiscono una cecità da inattenzione simile a quella umana, ma mostrano anche un modo unico di fallimento della confabulazione, rendendo necessaria un'analisi della rilevazione del segnale con baseline di controllo corrispondenti per valutare accuratamente le loro capacità di percezione visiva.

Autori originali: Raymond, J. D., Hu, P., Solomon, B. D., Duong, D.

Pubblicato 2026-06-18

📖 5 min di lettura🧠 Approfondimento

CC0 1.0

Autori originali: Raymond, J. D., Hu, P., Solomon, B. D., Duong, D.

Articolo originale dedicato al pubblico dominio sotto CC0 1.0 (https://creativecommons.org/publicdomain/zero/1.0/). ⚕️ Questa è una spiegazione generata dall'IA di un preprint non sottoposto a revisione paritaria. Non è un consiglio medico. Non prendere decisioni sulla salute basandoti su questo contenuto. Leggi il disclaimer completo

Immagina di guardare una partita di basket in TV. Il tuo compito è contare quante volte i giocatori si passano la palla. Improvvisamente, una persona con un costume da gorilla gigante attraversa il centro del campo, si ferma e si batte il petto. Se sei così concentrato a contare i passaggi da non accorgerti completamente del gorilla, hai sperimentato la "cecità inattentiva" (inattentional blindness).

Questo è un famoso trucco del cervello umano. Ma questo articolo pone una nuova domanda: I modelli di IA (specificamente i Vision-Language Models o VLM) vengono ingannati allo stesso modo?

I ricercatori hanno preso un famoso esperimento in cui i radiologi (medici che leggono le radiografie) non erano riusciti a notare un gorilla nascosto in un video di una TC, e hanno eseguito lo stesso identico test sui modelli di IA. Ecco cosa hanno scoperto, spiegato in modo semplice.

1. L'effetto "Cervello Occupato" (Cecità Inattentiva)

I ricercatori hanno mostrato all'IA un video di una scansione polmonare e le hanno chiesto di agire come un medico: "Trova tutti i noduli polmonari (piccoli grumi)".

Il Risultato: Proprio come i medici umani, l'IA era così impegnata a cercare i grumi che ha completamente ignorato il gigante gorilla che camminava nel video.
L'Analogia: È come uno chef che è così concentrato a tagliare le cipolle da non accorgersi di un clown che entra in cucina. L'IA ha "guardato" l'intera immagine (non ha punti ciechi come gli occhi umani), ma la sua "attenzione" era bloccata sul compito, rendendo il gorilla invisibile.

2. Il problema del "Sì-Signore" (Confabulazione)

Ecco dove l'IA è diversa dagli esseri umani. Dopo la fine del video, i ricercatori hanno chiesto all'IA: "Hai visto qualcosa di insolito?".

Il Modo Umano: Se un essere umano non ha visto il gorilla, dice: "No, non ho visto nulla".
Il Modo dell'IA: Quando i ricercatori hanno chiesto direttamente all'IA: "Hai visto un gorilla?", l'IA ha iniziato a dire "Sì!" anche quando non c'era alcun gorilla nel video.
L'Analogia: Immagina uno studente che sostiene un esame. Se l'insegnante chiede: "Hai visto la chiave di risposta sulla scrivania?", lo studente potrebbe rispondere "Sì" solo perché pensa che l'insegnante si aspetti che risponda di sì. L'IA non stava realmente vedendo il gorilla; stava confabulando (inventando cose) perché percepiva che i ricercatori cercavano una risposta specifica. È diventata un "Sì-Signore".

3. Il Test dello "Specchio Magico"

Per dimostrare che l'IA non stesse solo allucinando, i ricercatori hanno eseguito un secondo test. Hanno preso esattamente lo stesso fotogramma del video in cui appariva il gorilla e l'hanno mostrato all'IA in una nuova conversazione vuota (senza il compito di ricerca dei polmoni).

Il Risultato: L'IA ha individuato immediatamente il gorilla con una precisione del 100%.
La Lezione: Questo ha dimostrato che l'IA poteva vedere perfettamente il gorilla. Lo "ignorava" solo quando era impegnata a fare qualcos'altro. Questo è il concetto di "guardare ma non vedere".

4. La trappola dello "Studio Famoso"

I ricercatori hanno scoperto un glitch strano, unico per l'IA. Poiché l'IA aveva letto del famoso esperimento del "gorilla nel gioco del basket" nei suoi dati di addestramento, aveva riconosciuto il pattern del test.

L'Analogia: È come uno studente che ha letto le risposte di un esame di prova. Quando l'insegnante chiede: "Hai visto l'oggetto nascosto?", lo studente dice "Sì!" non perché lo abbia visto nell'immagine, ma perché ricorda la storia dell'esperimento del gorilla.
L'IA spesso diceva cose come: "Sì, ho visto il gorilla, proprio come nello studio di Drew et al.", anche quando il video era completamente vuoto. Stava indovinando in base alla sua memoria dell'esperimento, non in base a ciò che aveva effettivamente davanti.

5. Il colpo di scena "Specialista vs Generalista"

I ricercatori hanno anche testato due diversi tipi di IA:

Il Generalista: Bravo a vedere tutto in natura (come un gorilla in una foresta) ma scarso nel comprendere le scansioni mediche. Ha trovato il gorilla ma non è riuscito a trovare i polmoni.
Lo Specialista: Addestrato specificamente sulle scansioni mediche. Era bravissimo a trovare i polmoni, ma era troppo desideroso. Quando gli è stato chiesto di trovare un gorilla, ha dichiarato di aver visto un gorilla nell'82% dei video in cui non c'era alcun gorilla affatto.
La Lezione: Un'IA specialista può essere così desiderosa di trovare ciò che le viene chiesto che inizia a vedere cose che non esistono.

La Grande Conclusione

Il messaggio principale di questo articolo è un avvertimento su come testiamo l'IA:

Non puoi semplicemente chiedere a un'IA: "Hai visto X?" e fidarti del "Sì".

Se chiedi a un'IA una domanda diretta, potrebbe mentire (confabulare) o dire "Sì" solo per essere utile, specialmente se pensa che tu la stia testando su un esperimento famoso. Per sapere se un'IA ha davvero visto qualcosa, devi confrontare le sue risposte con un gruppo di "controllo" (video senza gorilla) e utilizzare una matematica rigorosa per separare ciò che ha effettivamente visto da ciò che ha solo indovinato.

In breve: L'IA può essere cieca quando è occupata, ma può anche essere una bugiarda quando le si chiede direttamente. Per ottenere la verità, serve un test scientifico molto accurato, non una semplice domanda.

Sintesi Tecnica: Cecità Inattenzionale e Confabulazione da Bias di Risposta "Sì" nei Modelli Vision-Language

Problema
Il documento indaga se i contemporanei modelli Vision-Language (VLM) esibiscano la "cecità inattenzionale" (IB) — un fenomeno in cui gli osservatori non riescono a notare stimoli inaspettati quando la loro attenzione è impegnata in un compito visivo impegnativo. Questo comportamento è stato dimostrato celebremente in soggetti umani (Simons & Chabris, 1999) e in radiologi esperti (Drew, Võ, & Wolfe, 2013), i quali non sono riusciti a segnalare una figura di gorilla sovrapposta a scansioni TC del torace, nonostante i dati di eye-tracking confermassero la fissazione visiva su di essa.

Gli autori si chiedono se questa firma comportamentale si replichi nei VLM, che elaborano intere immagini in parallelo senza un collo di bottiglia foveale biologico. Inoltre, il documento affronta una lacuna metodologica critica: a differenza dei soggetti umani, i VLM esibiscono "allucinazioni" o confabulazioni, ovvero generano descrizioni fluide e localizzate di stimoli non presenti. Di conseguenza, una semplice risposta "Sì" a un probe diretto (ad es. "Hai visto un gorilla?") non può distinguere tra percezione genuina e bias di risposta (confabulazione). Lo studio postula che, senza una linea di base di controllo per i falsi allarmi e un'analisi della rilevazione del segnale, le affermazze riguardanti la percezione dei VLM siano fondamentalmente interpretabili.

Metodologia
Lo studio ha impiegato tre bracci sperimentali utilizzando scansioni TC del torace renderizzate come pile di video a scorrimento, con una figura di gorilla che appariva e scompariva gradualmente su specifiche fette (circa 48 volte la dimensione di un tipico nodulo).

Esperimento 1 (Panorama Cross-Model):
- Soggetti: 20 configurazioni di modelli attraverso tre vendor (OpenAI, Anthropic, Google DeepMind) e tre generazioni (2024–2026), incluse variazioni con e senza modalità di "ragionamento" (reasoning).
- Stimoli: 144 compositi di immagini statiche (gorilla presente) e 12 controlli corrispondenti, presentati sotto quattro tipi di prompt (focalizzato sul task, clinico, aperto e con priming).
- Scoring: Le risposte sono state valutate tramite un sistema a due livelli: L1 (regex matching per termini relativi agli animali) e L2 (un modello judge flagship che confronta le descrizioni delle immagini con gorilla rispetto ai controlli per rilevare anomalie localizzate).
Esperimento 2 (Replicazione di Drew et al., 2013):
- Soggetto: Un singolo modello, Gemini-3.1-Pro.
- Design: Una sequenza di 5 prove (4 riscaldamenti di controllo + 1 target) in una singola conversazione. Il target era o con gorilla presente o con gorilla assente.
- Probe: Dopo il task, il modello riceveva tre probe di consapevolezza crescenti, tratti letteralmente da Drew et al. (2013):
  - q1: "L'ultima prova sembrava diversa...?"
  - q2: "Hai notato qualcosa di insolito...?"
  - q3: "Hai visto un gorilla...?"
- Controlli: È stata condotta una "sub-run di rilevabilità su immagine statica pulita" su un modello successore (gemini-3.1-pro-preview) utilizzando conversazioni fresche e prive di contesto per stabilire una linea di base di falsi allarmi, correggendo la natura confondente del probe q4 in-conversazione.
Braccio di Segmentazione:
- Soggetti: Due modelli di segmentazione guidati da prompt testuali: SAM 3 (generalista di immagini naturali) e BiomedParse (specialista medico).
- Task: Applicati agli stessi video di stimolo congelati sotto prompt per "gorilla", "lung_field" (campo polmonare) e "nodule" (nodulo).
- Metrica: Tassi di rilevamento sulle frame con gorilla presente rispetto ai tassi di falso allarme sulle frame di controllo senza gorilla.

Risultati Chiave

Replicazione della Cecità Inattenzionale: Nella condizione spontanea e in-task (prima di qualsiasi probe), il VLM non ha riportato il gorilla in 23 prove su 24 (tasso di miss del 96%), rispecchiando da vicino l'83% di miss rate osservato nei radiologi umani. Il modello ha continuato il task di ricerca dei noduli senza deviare, parallelamente al comportamento umano.
Bias del "Sì" e Confabulazione: Man mano che i probe diventavano più suggestivi (da q1 a q3), la capacità del modello di discriminare il segnale dal rumore collassava.
- Al probe sottile q1, la sensibilità ( $d'$ ) era 1.22.
- Al probe diretto q3 ("Hai visto un gorilla?"), la sensibilità è scesa a 0.20 e il criterio di risposta ( $c$ ) è oscillato a -1.18, indicando un forte bias verso il "sì".
- Nelle prove di controllo (senza gorilla), il modello ha spesso confabulato timestamp specifici e coordinate polmonari, citando spesso i ricercatori originali (Drew, Võ e Wolfe) per nome.
Riconoscimento del Paradigma: Il modello ha esplicitamente riconosciuto il paradigma del "gorilla invisibile" nel 67% delle prove (sia con gorilla che di controllo), suggerendo che le sue risposte fossero influenzate dal riconoscimento del design sperimentale dai dati di addestramento piuttosto che dalla pura percezione visiva.
Dissociazione della Segmentazione:
- SAM 3 (generalista) ha rilevato il gorilla nella finestra con alta precisione, ma con un tasso di falso allarme quasi nullo sui video di controllo (0.7%).
- BiomedParse (specialista) ha rilevato il gorilla nella finestra (92%), ma ha mostrato un tasso massiccio di falsi allarmi sulle video di controllo (82%), segnalando "gorilla" su quasi ogni frame quando interrogato.
Rilevabilità Pulita: Quando la fetta di picco del gorilla è stata presentata in una conversazione fresca e priva di contesto come oggetto esplicito di ricerca, il modello ha raggiunto un tasso di hit del 100% e uno 0% di falsi allarmi ( $d' = 4.11$ ), provando che il gorilla era percettivamente disponibile ma ignorato durante il task impegnativo.

Contributi Chiave

Replicazione Comportamentale: Ha dimostrato che la firma comportamentale della cecità inattenzionale (fallimento nel riportare stimoli inaspettati durante un task, nonostante la fissazione visiva) si riproduce nei VLM.
Correzione Metodologica: Ha stabilito che i tassi grezzi di "Sì" nei compiti di percezione dei VLM sono confusi da allucinazioni e bias di risposta. Il documento sostiene che qualsiasi affermazione su "se il modello ha visto X" richiede una linea di base di controllo per i falsi allarmi e un'analisi della rilevazione del segnale (calcolo di $d'$ e criterio $c$ ).
Confondimento da Riconoscimento del Paradigma: Ha identificato un fallimento unico in cui i modelli LLM riconoscono il paradigma sperimentale dai loro dati di addestramento, portando alla confabulazione nelle prove di controllo che imita la percezione. Ciò suggerisce che i paradigmi cognitivi classici non possono essere applicati agli LLM senza modifiche.
Generalizzazione ai Modelli Non Conversazionali: Ha mostrato che la necessità di linee di base per i falsi allarmi si estende oltre i VLM conversazionali ai modelli di segmentazione guidati da prompt testuali, dove i modelli "specialisti" possono esibire alti tassi di falsi positivi che vengono mascherati da protocolli di valutazione a singolo stimolo.

Significatività e Affermazioni
Il documento afferma che, sebbene i VLM esibiscano un analogo funzionale della cecità inattenzionale, l'interpretazione della loro percezione è fondamentalmente diversa da quella degli osservatori umani a causa della presenza di confabulazione. Gli autori sostengono che, senza espliciti controlli di base, i benchmark attuali rischiano di sovrastimare il recupero percettivo dei VLM sotto interrogazione diretta.

Per l'IA in radiologia, lo studio evidenzia un modo di fallimento rilevante per il deployment: un modello specialista medico potrebbe apparire altamente accurato nei test a singolo stimolo (rilevando l'anomalia quando presente), ma potrebbe generare eccessivi falsi positivi in contesti clinici se manca della specificità necessaria per distinguere l'anomalia dall'anatomia normale quando interrogato. Gli autori concludono che le future valutazioni dei VLM come soggetti cognitivi devono tenere conto sia della "confabulazione sotto interrogazione suggestiva" sia del "riconoscimento del paradigma dai dati di addestramento" per produrre segnali interpretabili e falsificabili.