💬 NLP

Does It Fail to See or Fail to Know? Attributing Errors in Vision-Language Models

Este artículo propone un marco unificado que utiliza señales de pregeneración provenientes de representaciones de tokens visuales y estados ocultos condicionados por el prompt para predecir y desentrañar si los errores de los modelos de lenguaje-visión surgen de cuellos de botella de percepción/reconocimiento o de fallos en la recuperación de conocimiento, permitiendo intervenciones dirigidas antes de la generación de la respuesta.

Autores originales: Khang Nhat Hoang Vo, Artem Vazhentsev, Artem Shelmanov, Timothy Baldwin, Yova Kementchedjhieva

Publicado 2026-07-13

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Khang Nhat Hoang Vo, Artem Vazhentsev, Artem Shelmanov, Timothy Baldwin, Yova Kementchedjhieva

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que tienes un amigo robot superinteligente que puede mirar una imagen y responder cualquier pregunta sobre ella. Si le muestras una foto nítida de una estrella de cine famosa y le preguntas: "¿Quién es este?", suele acertar de lleno. Pero si le preguntas: "¿Dónde nació este actor?" o "¿Cuál es el hogar natural de este bicho raro?", el robot a veces tropieza. Podría adivinar el país equivocado o decir que el bicho vive en el océano cuando en realidad vive en un bosque.

Durante mucho tiempo, los investigadores trataron estas respuestas incorrectas como un único y desordenado bloque de fracaso. Simplemente decían: "Vaya, el robot se equivocó", y seguían adelante. Pero este nuevo artículo sugiere que eso es como decir que un coche se ha averiado sin comprobar si fue el motor, los neumáticos o el combustible. Los autores, un equipo de científicos, querían averiguar exactamente dónde tropieza el robot incluso antes de que termine de pronunciar su frase.

Los dos grandes errores: "No puedo verlo" vs. "No lo sé"

Los investigadores construyeron un árbol de diagnóstico especial para clasificar los errores en cuatro cubos distintos. Piensa en ello como un detective intentando resolver un misterio antes de que el sospechoso siquiera hable.

El desenfoque visual: A veces la imagen es simplemente demasiado borrosa, oscura o está dañada. El robot literalmente no puede ver los detalles.
El extraño desconocido: La imagen es clara, pero el robot nunca ha conocido a la persona o al animal de la foto. Es como mirar a una celebridad de una cultura que el robot nunca aprendió.
El dato olvidado: El robot reconoce perfectamente a la persona (por ejemplo, "¡Ese es Tom Cruise!"), pero olvida el dato específico que le preguntaste (por ejemplo, "No recuerdo su año de nacimiento").
La biblioteca ausente: El robot sabe quién es la persona, pero el dato que preguntaste simplemente no existe en su cerebro en absoluto.

El artículo argumenta en contra de la idea de que todos estos errores son iguales. Muestran explícitamente que no puedes usar un único "medidor de incertidumbre" genérico para atrapar todos ellos. Un medidor genérico podría decirte que el robot está "inseguro", pero no te dirá por qué.

La magia de las señales de "pre-generación"

Aquí está la parte más genial: los autores descubrieron que podían predecir qué tipo de error vendría antes de que el robot empezara siquiera a escribir su respuesta. No necesitaban esperar a que el robot dijera algo incorrecto; solo necesitaban echar un vistazo a sus "pensamientos" internos justo después de mirar la imagen y leer la pregunta, pero antes de generar una sola palabra.

Descubrieron una división fascinante en cómo piensa el robot:

Para errores visuales y de reconocimiento: Si el robot tiene dificultades para ver la imagen o identificar el objeto, la pista está oculta en los tokens visuales. Imagina que estos son los "ojos" del robot. Si los ojos están confundidos, la señal es más fuerte precisamente ahí, en la parte visual del cerebro. El artículo muestra que observar estas señales visuales es increíblemente efectivo, con puntuaciones de precisión que alcanzan hasta el 97.0 (en una escala donde 100 es perfecto) para detectar fallos de evidencia visual.
Para errores fácticos: Una vez que el robot ha identificado correctamente el objeto, las pistas para los errores de hechos se trasladan a otra parte del cerebro: los estados ocultos condicionados por el prompt. Piensa en esto como el "centro de memoria" del robot donde mantiene unidos la pregunta y el nombre de la entidad. Si el robot conoce al bicho pero no sabe su hábitat, la señal de error reside aquí. El artículo encontró que observar los últimos ocho tokens del prompt (un fragmento específico del proceso de pensamiento interno del robot) era la mejor manera de detectar estos errores, superando a otros métodos.

El artículo descarta explícitamente la idea de que esperar a que se genere la respuesta ayude mucho. Probaron métodos que analizan el texto después de que el robot habla, y esos fueron generalmente más débiles que revisar las señales internas antes de que el robot hable.

El experimento de "Reparación"

Para demostrar que esta idea funciona, el equipo configuró un "taller de reparaciones". Utilizaron sus señales de pre-generación para diagnosticar el problema y luego enviaron al robot al mecánico adecuado:

Si la señal decía "Fallo de evidencia visual", utilizaron una herramienta para "reparar" la imagen borrosa, haciéndola más clara, y le pidieron al robot que lo intentara de nuevo.
Si la señal decía "Entidad desconocida", le dieron al robot una pista sobre quién era la persona o el animal.
Si la señal decía "Dato faltante", alimentaron al robot con una hoja de datos rápida sobre la entidad.
Si la señal decía "Dato irrecuperable", reescribieron la pregunta para que el nombre de la entidad fuera súper claro, ayudando al robot a recuperar la memoria.

Los resultados fueron impresionantes. Para el conjunto de datos iNaturalist (preguntas sobre plantas y animales), los robots empezaron con una precisión muy baja, de alrededor del 4.8% al 12.1%. Después de este proceso de reparación dirigida, su precisión saltó del 39.6% al 46.6%. Es una mejora masiva, lo que sugiere que saber por qué falla un robot nos permite arreglarlo mucho mejor que simplemente esperar a que tenga suerte la próxima vez.

Lo que esto significa (y lo que no significa)

El artículo sugiere que la forma en que fallan estos Modelos de Visión y Lenguaje es estructurada y predecible. No es un caos aleatorio; es una ruptura específica ya sea en los ojos, en el reconocimiento o en la memoria.

Sin embargo, los autores tienen cuidado de no afirmar que esto es un problema perfecto y resuelto. Señalan que su experimento de "reparación" fue una prueba de concepto utilizando una herramienta poderosa (GPT-5) para realizar la reparación. Reconocen que esto introduce costes adicionales y posibles errores de las herramientas, y que un sistema del mundo real necesitaría herramientas más baratas y especializadas para hacer el mismo trabajo. Además, sus etiquetas para el "fallo" se basan en pruebas específicas que ellos diseñaron, no necesariamente en una comprensión humana perfecta de cada posible error.

Pero el mensaje central es claro y emocionante: no tenemos que esperar a que un robot dé una respuesta incorrecta para saber que está en problemas. Al escuchar sus señales internas antes de que hable, podemos saber si está entrecerrando los ojos ante una foto borrosa, mirando fijamente a un extraño o simplemente quedándose en blanco ante un dato. Y una vez que sabemos la causa, podemos enviarlo al taller de reparación adecuado para que obtenga la respuesta correcta.

Resumen Técnico: ¿Falla en Ver o Falla en Saber? Atribución de Errores en Modelos de Visión-Lenguaje

Declaración del Problema

Los Modelos de Visión-Lenguaje (VLM) demuestran una alta competencia al responder preguntas basadas en imágenes de alta calidad, pero frecuentemente tienen dificultades cuando las consultas requieren conocimiento que se extiende más allá de la percepción visual inmediata. En estos escenarios de Preguntas de Visión-Lenguaje (VQA) intensivas en conocimiento, un único error puede derivar de distintos modos de falla: evidencia visual degradada, entidades no reconocidas, hechos paramétricos ausentes o falla en la recuperación de hechos a pesar del reconocimiento de la entidad.

La investigación previa ha tratado estos errores mayoritariamente como fallas monolíticas o ha investigado modos de falla individuales (por ejemplo, degradación de imagen o sesgo cultural) de forma aislada. En consecuencia, los métodos existentes de cuantificación de la incertidumbre suelen proporcionar una señal binaria de "falla probable" sin diagnosticar la fuente específica de la incertidumbre. Esta falta de granularidad impide intervenciones dirigidas, como distinguir entre una imagen que necesita reparación y una consulta que requiere la recuperación de hechos externos.

Metodología

Taxonomía de Atribución

Los autores proponen un marco unificado que descompone los errores de VQA en cuatro componentes de incertidumbre mutuamente excluyentes, formando un árbol de atribución:

Falla de Evidencia Visual ( $Z_d$ ): La imagen está demasiado degradada (por ejemplo, ruido, desenfoque) para soportar el reconocimiento.
Entidad Desconocida ( $Z_u$ ): La entidad es visualmente reconocible pero desconocida para el modelo (fuera de la distribución o subrepresentada).
Hecho Desconocido ( $Z_f$ ): La entidad es reconocida, pero el hecho requerido está ausente en el conocimiento paramétrico del modelo.
Hecho No Recuperable ( $Z_r$ ): La entidad es reconocida y se asume que el hecho está disponible, pero el modelo falla al recuperarlo o utilizarlo correctamente.

Curación y Etiquetado de Datos

Para entrenar sondas (probes) para estos modos de falla específicos, los autores construyeron un conjunto de datos a partir de PopVQA (celebridades, monumentos, logotipos, pinturas) e iNaturalist (especies de plantas y animales). Aplicaron un procedimiento de etiquetado escalable y específico para cada modelo:

Entidades Desconocidas vs. Degradadas: Utilizaron una "sonda de reconocimiento verbalizado" con prompts distractores para distinguir entre entidades que el modelo no puede reconocer debido a la degradación visual (inducida mediante desenfoque gaussiano, ruido, compresión JPEG) frente a entidades que simplemente no conoce.
Acceso a Hechos: Para separar "Hecho Desconocido" de "Hecho No Recuperable", emplearon una prueba de dos pasos (two-hop test). Si un modelo falla la pregunta original basada en la imagen pero tiene éxito cuando el nombre de la entidad se proporciona explícitamente en el prompt, la falla se atribuye a Hecho No Recuperable (falla de acceso transmodal). Si falla en ambos casos, el hecho se considera Desconocido.

Extracción de Características Pre-Generación

La investigación central se enfoca en si los estados internos del modelo antes de la decodificación pueden predecir estas fuentes de falla. Los autores extrajeron características después de que se procesó el prompt de imagen-pregunta, pero antes de que comenzara la generación de la respuesta:

VIS: Estados ocultos del último token de imagen (características del prompt visual).
EOP: Estado oculto del último token del prompt.
LAST8: Estados ocultos concatenados de los últimos ocho tokens del prompt.
ATTN: Pesos de atención aplanados de los últimos ocho tokens hacia una ventana de retroceso (lookback window).
ATTN+LAST8: Una combinación de las anteriores.

Estas características fueron introducidas en sondas ligeras (cabezales lineales o pequeños transformadores) entrenadas para predecir la rama de falla específica en el árbol de atribución.

Principales Contribuciones

Taxonomía de Árbol de Atribución: El artículo introduce una descomposición estructurada de las fallas de VQA intensivas en conocimiento en evidencia visual, reconocimiento de entidad, recuperación de hechos y disponibilidad de conocimiento, yendo más allá de la detección binaria de errores.
Procedimiento de Etiquetado Escalable: Un método para asignar modos de falla específicos a ejemplos de VQA utilizando sondas controladas (distractores, reescrituras explícitas de la entidad y degradación de imagen sintética) en lugar de depender de una costosa anotación humana.
Predicción de Falla Pre-Generación: La demostración de que las representaciones internas de los VLM pueden predecir las fuentes de falla antes de generar una respuesta. Crucialmente, el artículo identifica que diferentes señales son óptimas para diferentes tipos de falla:
- Las características del token visual (VIS) son los predictores más fuertes para el reconocimiento y las fallas de evidencia visual.
- Los estados ocultos condicionados por el prompt (LAST8) son superiores para predecir fallas factoriales (hecho desconocido vs. no recuperable) una vez que la entidad es reconocida.

Resultados Experimentales

El estudio evaluó cuatro familias de VLM (Gemma-3, Llama-3.2, Qwen2.5-VL, Qwen3-VL) en PopVQA e iNaturalist.

Distribución de Fallas: El "Hecho Desconocido" fue el modo de falla dominante (36–64% de los errores), seguido de "Entidad Desconocida" y "Hecho No Recuperable". Esto confirma que muchas fallas ocurren incluso tras un reconocimiento exitoso de la entidad.
Rendimiento de las Características:
- Para Evidencia Visual y Reconocimiento de Entidad, las características VIS alcanzaron el PR-AUC más alto (por ejemplo, 97.0 para evidencia visual), superando significativamente a las características basadas en el prompt.
- Para Éxito de la Respuesta y Acceso a Hechos, las características LAST8 (particularmente con un cabezal de Transformer) superaron a VIS y EOP, alcanzando PR-AUCs promedio de 62.7 y 53.5 respectivamente.
- Clasificación de Árbol vs. Plana: Un enfoque compuesto por árbol (usando sondas especializadas para cada decisión binaria) superó consistentemente a un clasificador directo de 5 etiquetas (49.2 vs. 41.2 macro PR-AUC), sugiriendo que separar las decisiones del lado de la imagen y las factoriales es necesario.
Generalización entre Datasets: Las sondas entrenadas en PopVQA se transfirieron bien a iNaturalist para tareas visuales y de reconocimiento (alto PR-AUC), pero mostraron un rendimiento menor para tareas factoriales, indicando que las señales factoriales son más específicas del dominio.
Mitigación Guiada por Sondas: El uso del árbol de atribución para dirigir los ejemplos a intervenciones dirigidas mejoró la precisión final de la respuesta en 30.8–39.3 puntos porcentuales. Notablemente, el "Hecho Desconocido" fue el mayor contribuyente a estas ganancias, validando la utilidad de identificar el conocimiento faltante tempranamente.

Significado y Reivindicaciones

El artículo sostiene que las fallas de los VLM en VQA intensivo en conocimiento están estructuradas en lugar de ser aleatorias. Al analizar los estados internos pre-generación, es posible diagnosticar por qué un modelo tiene incertidumbre antes de que genere una respuesta.

Los autores afirman que esta capacidad diagnóstica permite intervenciones eficientes y dirigidas. En lugar de una decisión binaria de "abstenerse o responder", los sistemas pueden dirigir los casos inciertos a mecanismos de reparación específicos:

Si la señal indica degradación visual, la imagen puede ser reparada.
Si la señal indica entidad desconocida, el sistema puede buscar soporte de reconocimiento de entidad.
Si la señal indica conocimiento faltante, el sistema puede activar la recuperación externa.

El trabajo sugiere que la naturaleza de "dos pasos" (two-hop) de la VQA intensiva en conocimiento (reconocimiento visual seguido de recuperación de hechos) se refleja en las representaciones internas del modelo, con los tokens visuales codificando el primer paso y los estados ocultos condicionados por el prompt codificando el segundo. Este hallazgo respalda el desarrollo de sistemas multimodales más robustos y autocorrectivos que pueden identificar y abordar sus propias limitaciones específicas.