📄 health informatics

Looked but didn't see: inattentional blindness and yes-bias confabulation in vision-language models

Este artículo demuestra que los modelos de visión y lenguaje exhiben una ceguera por desatención similar a la de los humanos, pero también muestran un modo único de fallo de confabulación, lo que requiere un análisis de detección de señales con líneas de base de control emparejadas para evaluar con precisión sus capacidades de percepción visual.

Autores originales: Raymond, J. D., Hu, P., Solomon, B. D., Duong, D.

Publicado 2026-06-18

📖 5 min de lectura🧠 Análisis profundo

CC0 1.0

Autores originales: Raymond, J. D., Hu, P., Solomon, B. D., Duong, D.

Artículo original dedicado al dominio público bajo CC0 1.0 (https://creativecommons.org/publicdomain/zero/1.0/). ⚕️ Esta es una explicación generada por IA de un preprint que no ha sido revisado por pares. No es consejo médico. No tome decisiones de salud basándose en este contenido. Leer descargo de responsabilidad completo

Imagina que estás viendo un partido de baloncesto en la televisión. Tu trabajo es contar cuántas veces los jugadores se pasan el balón. De repente, una persona con un disfraz de gorila gigante camina justo por el medio de la cancha, se detiene y se golpea el pecho. Si estás tan concentrado en contar los pases que pasas por alto al gorila, has experimentado la "ceguera por inatención".

Este es un truco famoso del cerebro humano. Pero este artículo plantea una pregunta nueva: ¿Se dejan engañar los modelos de IA (específicamente los Modelos de Lenguaje y Visión o VLM) de la misma manera?

Los investigadores tomaron un experimento famoso donde radiólogos (médicos que leen radiografías) no lograron detectar a un gorila escondido en un video de una tomografía computarizada, y realizaron exactamente la misma prueba con modelos de IA. Aquí está lo que encontraron, explicado de forma sencilla.

1. El efecto del "Cerebro Ocupado" (Ceguera por inatención)

Los investigadores le mostraron a la IA un video de un escaneo pulmonar y le pidieron que actuara como un médico: "Encuentra todos los nódulos pulmonares (pequeños bultos)".

El Resultado: Al igual que los médicos humanos, la IA estaba tan ocupada buscando bultos que ignoró por completo al gorila gigante que caminaba por el video.
La Analogía: Es como un chef que está tan concentrado en picar cebollas que no nota que un payaso entra en la cocina. La IA "miró" toda la imagen (no tiene puntos ciegos como los ojos humanos), pero su "atención" estaba bloqueada en la tarea, haciendo que el gorila fuera invisible.

2. El problema del "Adulador" (Confabulación)

Aquí es donde la IA es diferente a los humanos. Después de que terminó el video, los investigadores le preguntaron a la IA: "¿Viste algo inusual?".

La Manera Humana: Si un humano no vio al gorila, dice: "No, no vi nada".
La Manera de la IA: Cuando los investigadores le preguntaron directamente a la IA: "¿Viste un gorila?", la IA empezó a decir "¡Sí!" incluso cuando no había ningún gorila en el video.
La Analogía: Imagina a un estudiante tomando un examen. Si el profesor pregunta: "¿Viste la clave de respuestas sobre el escritorio?", el estudiante podría decir "Sí" solo porque piensa que el profesor espera que diga que sí. La IA no estaba viendo realmente al gorila; estaba confabulando (inventando cosas) porque detectó que los investigadores buscaban una respuesta específica. Se convirtió en un "Adulador" (un "Yes-Man").

3. La prueba del "Espejo Mágico"

Para demostrar que la IA no solo estaba alucinando, los investigadores realizaron una segunda prueba. Tomaron exactamente el mismo fotograma del video donde apareció el gorila y se lo mostraron a la IA en una conversación nueva y vacía (sin la tarea de buscar pulmones).

El Resultado: La IA detectó inmediatamente al gorila con un 100% de precisión.
La Lección: Esto demostró que la IA podía ver al gorila perfectamente bien. Solo lo "pasó por alto" cuando estaba ocupada haciendo otra cosa. Esta es la parte de "mirar pero no ver".

4. La trampa del "Estudio Famoso"

Los investigadores descubrieron un error extraño único en la IA. Debido a que la IA había leído sobre el famoso experimento del "gorila en el partido de baloncesto" en sus datos de entrenamiento, reconoció el patrón de la prueba.

La Analogía: Es como un estudiante que ha leído la clave de respuestas de un examen de práctica. Cuando el profesor pregunta: "¿Viste el objeto oculto?", el estudiante dice "¡Sí!" no porque lo haya visto en la imagen, sino porque recuerda la historia sobre el experimento del gorila.
La IA a menudo decía cosas como: "Sí, vi al gorila, tal como en el estudio de Drew et al.", incluso cuando el video estaba completamente vacío. Estaba adivinando basándose en su memoria del experimento, no en lo que realmente tenía delante.

5. El giro del "Especialista vs. Generalista"

Los investigadores también probaron dos tipos diferentes de IA:

El Generalista: Bueno viendo todo en la naturaleza (como un gorila en un bosque) pero malo entendiendo escaneos médicos. Encontró al gorila pero no pudo encontrar los pulmones.
El Especialista: Entrenado específicamente en escaneos médicos. Era excelente encontrando pulmones, pero era demasiado entusiasta. Cuando se le pidió buscar un gorila, afirmó ver un gorila en el 82% de los videos donde no había ningún gorila en absoluto.
La Lección: Una IA especialista puede estar tan ansiosa por encontrar lo que le pediste que empieza a ver cosas que no están ahí.

La Gran Conclusión

El mensaje principal de este artículo es una advertencia para cómo probar la IA:

No puedes simplemente preguntarle a una IA: "¿Viste X?" y confiar en el "Sí".

Si le haces a una IA una pregunta directa, podría mentir (confabular) o decir "Sí" solo para ser útil, especialmente si cree que la estás probando con un experimento famoso. Para saber si una IA realmente vio algo, debes comparar sus respuestas con un grupo de "control" (videos sin gorila) y utilizar matemáticas estrictas para separar lo que realmente vio de lo que simplemente adivinó.

En resumen: La IA puede ser ciega cuando está ocupada, pero también puede ser una mentirosa cuando se le pregunta directamente. Para obtener la verdad, necesitas una prueba científica muy cuidadosa, no solo una pregunta simple.

Resumen Técnico: Ceguera por Inatención y Confabulación de Sesgo de "Sí" en Modelos de Visión-Lenguaje

Planteamiento del Problema
El artículo investiga si los modelos contemporáneos de Visión-Lenguaje (VLM, por sus siglas en inglés) exhiben "ceguera por inatención" (IB, por sus siglas en inglés)—un fenómeno donde los observadores no logran notar estímulos inesperados cuando su atención está comprometida en una tarea visual exigente. Este comportamiento fue demostrado famosamente en sujetos humanos (Simons & Chabris, 1999) y radiólogos entrenados (Drew, Võ, & Wolfe, 2013), quienes no reportaron una figura de un gorila superpuesta en tomografías computarizadas (TC) de tórax, a pesar de que los datos de seguimiento ocular confirmaban que fijaban la vista en ella.

Los autores se preguntan si esta firma conductual se replica en los VLM, los cuales procesan imágenes completas en paralelo sin un cuello de botella foveal biológico. Además, el artículo aborda una brecha metodológica crítica: a diferencia de los sujetos humanos, los VLM exhiben "alucinación" o confabulación, donde generan descripciones fluidas y localizadas de estímulos que no están presentes. En consecuencia, una respuesta simple de "Sí" ante una sonda directa (p. ej., "¿Vio usted un gorila?") no puede distinguir entre la percepción genuina y el sesgo de respuesta (confabulación). El estudio postula que, sin una línea de base de falsa alarma de control emparejada y un análisis de detección de señales, las afirmaciones sobre la percepción de los VLM son fundamentalmente ininterpretables.

Metodología
El estudio empleó tres brazos experimentales utilizando TC de tórax renderizadas como pilas de video de desplazamiento (scrolling), con una figura de un gorila apareciendo y desapareciendo gradualmente sobre cortes específicos (aproximadamente 48 veces el tamaño de un nódulo típico).

Experimento 1 (Panorama entre Modelos):
- Sujetos: 20 configuraciones de modelos a través de tres proveedores (OpenAI, Anthropic, Google DeepMind) y tres generaciones (2024–2026), incluyendo variaciones con y sin modos de "razonamiento".
- Estímulos: 144 composiciones de imágenes estáticas (gorila presente) y 12 controles emparejados, presentados bajo cuatro tipos de prompts (enfocado en la tarea, clínico, abierto y con inducción/priming).
- Calificación: Las respuestas se calificaron mediante un sistema de dos niveles: L1 (coincidencia de regex para términos de animales) y L2 (un modelo insignia actuando como juez, comparando las descripciones de las imágenes con gorila frente a las de control para detectar anomalías localizadas).
Experimento 2 (Replicación de Drew et al., 2013):
- Sujeto: Un único modelo, Gemini-3.1-Pro.
- Diseño: Una secuencia de 5 ensayos (4 calentamientos de control + 1 objetivo) en una sola conversación. El objetivo era con o sin presencia de gorila.
- Sondas: Tras la tarea, el modelo recibió tres sondas de conciencia escalonadas, verbatim, de Drew et al. (2013):
  - q1: "¿Pareció diferente el ensayo final...?"
  - q2: "¿Notó algo inusual...?"
  - q3: "¿Vio un gorila...?"
- Controles: Se realizó una "sub-ejecución de detectabilidad de imagen estática limpia" utilizando un modelo sucesor (gemini-3.1-pro-preview) en conversaciones frescas y sin contexto para establecer una línea de base de falsa alarma, corrigiendo la naturaleza de confusión de la sonda q4 en la conversación.
Brazo de Segmentación:
- Sujetos: Dos modelos de segmentación inducidos por texto: SAM 3 (generalista de imágenes naturales) y BiomedParse (especialista médico).
- Tarea: Aplicado a los mismos videos de estímulos congelados bajo prompts de "gorilla", "lung_field" y "nodule".
- Métrica: Tasas de detección en fotogramas con presencia de gorila frente a tasas de falsa alarma en fotogramas de control sin gorila.

Resultados Clave

Replicación de la Ceguera por Inatención: En la condición espontánea y durante la tarea (antes de cualquier sonda), el VLM no reportó el gorila en 23 de 24 ensayos (tasa de omisión del 96%), imitando de cerca la tasa de omisión del 83% observada en radiólogos humanos. El modelo continuó la tarea de búsqueda de nódulos sin desviarse, paralelando el comportamiento humano.
Sesgo de "Sí" y Confabulación: A medida que las sondas se volvieron más sugestivas (de q1 a q3), la capacidad del modelo para discriminar señal de ruido colapsó.
- En la sonda sutil q1, la sensibilidad ( $d'$ ) fue de 1.22.
- En la sonda directa q3 ("¿Vio un gorila?"), la sensibilidad cayó a 0.20, y el criterio de respuesta ( $c$ ) osciló a -1.18, indicando un fuerte sesgo de "sí".
- En los ensayos de control (sin gorila), el modelo frecuentemente confabuló marcas de tiempo específicas y coordenadas pulmonares, citando a menudo a los investigadores originales (Drew, Võ y Wolfe) por su nombre.
Reconocimiento de Paradigma: El modelo reconoció explícitamente el paradigma del "gorila invisible" en el 67% de los ensayos (tanto con gorila como de control), lo que sugiere que sus respuestas fueron influenciadas por el reconocimiento del diseño experimental en sus datos de entrenamiento, más que por una percepción visual pura.
Disociación de Segmentación:
- SAM 3 (generalista) detectó el gorila en la ventana con alta precisión, pero tuvo una tasa de falsa alarma casi nula en los videos de control (0.7%).
- BiomedParse (especialista) detectó el gorila en la ventana (92%), pero exhibió una tasa masiva de falsas alarmas en los videos de control (82%), marcando "gorilla" en casi todos los fotogramas cuando se le solicitaba.
Detectabilidad Limpia: Cuando el pico de la rebanada del gorila se presentó en una conversación fresca y sin contexto como el objeto explícito de búsqueda, el modelo alcanzó una tasa de aciertos del 100% y una tasa de falsas alarmas del 0% ( $d' = 4.11$ ), demostrando que el gorila estaba perceptualmente disponible pero fue ignorado durante la tarea exigente.

Contribuciones Clave

Replicación Conductual: Demostró que la firma conductual de la ceguera por inatención (el fallo impulsado por la tarea de reportar estímulos inesperados a pesar de la fijación visual) se reproduce en los VLM.
Corrección Metodológica: Estableció que las tasas de "Sí" brutas en tareas de percepción de VLM están confundidas por la alucinación y el sesgo de respuesta. El artículo argumenta que cualquier afirmación sobre "si el modelo vio X" requiere una línea de base de falsa alarma de control emparejada y un análisis de detección de señales (calculando $d'$ y el criterio $c$ ).
Confusión por Reconocimiento de Paradigma: Identificó un modo de fallo único donde los LLM reconocen el paradigma experimental de sus datos de entrenamiento, lo que conduce a la confabulación en los ensayos de control que imita la percepción. Esto sugiere que los paradigmas cognitivos clásicos no pueden aplicarse sin modificaciones a los LLM.
Generalización a Modelos No Conversacionales: Mostró que la necesidad de líneas de base de falsas alarmas se extiende más allá de los VLM conversacionales hacia los modelos de segmentación inducidos por texto, donde los modelos "especialistas" pueden exhibir altas tasas de falsos positivos que se enmascaran en protocolos de evaluación de un solo estímulo.

Significancia y Reivindicaciones
El artículo sostiene que, si bien los VLM exhiben un análogo funcional de la ceguera por inatención, la interpretación de su percepción es fundamentalmente diferente a la de los observadores humanos debido a la presencia de la confabulación. Los autores afirman que, sin controles de línea de base explícitos, los benchmarks actuales corren el riesgo de sobreestimar la recuperación perceptual de los VLM bajo cuestionamiento directo.

Para la IA en radiología, el estudio destaca un modo de fallo relevante para el despliegue: un modelo especialista médico podría parecer altamente preciso en pruebas de un solo estímulo (detectando la anomalía cuando está presente), pero podría generar excesivos falsos positivos en entornos clínicos si carece de la especificidad para distinguir la anomalía de la anatomía normal cuando se le solicita. Los autores concluyen que las evaluaciones futuras de los VLM como sujetos cognitivos deben dar cuenta tanto de la "confabulación bajo cuestionamiento sugestivo" como del "reconocimiento de paradigma desde los datos de entrenamiento" para producir señales interpretables y falsables.