INFACT: A Diagnostic Benchmark for Induced Faithfulness and Factuality Hallucinations in Video-LLMs

El artículo presenta INFACT, un nuevo benchmark diagnóstico que evalúa la fiabilidad y los alucinaciones de los modelos de lenguaje grandes para video (Video-LLMs) mediante 9.800 preguntas sobre videos reales y sintéticos, revelando que una alta precisión en condiciones ideales no garantiza la estabilidad ante degradaciones visuales, corrupción de evidencia o intervenciones temporales.

Lo esencial

¡Hola! Imagina que los Video-LLM (modelos de inteligencia artificial que "ven" y "hablan" sobre videos) son como estudiantes muy inteligentes, pero a veces un poco soñadores. Acaban de aprender mucho, pero a menudo inventan cosas que no pasaron o confunden la realidad con sus propios sueños.

Los autores de este paper, INFACT, decidieron que era hora de poner a estos estudiantes a un examen muy estricto para ver si realmente están prestando atención al video o si solo están "alucinando" (inventando).

Aquí tienes la explicación de su trabajo, traducida a un lenguaje sencillo y con algunas analogías divertidas:

1. El Problema: ¿El estudiante está viendo el video o soñando?

Hasta ahora, los exámenes para estas IAs eran como leer un libro de texto con la luz perfecta. Si el modelo acertaba, decían: "¡Genial!". Pero en la vida real, los videos pueden tener mala calidad, subtítulos erróneos o estar desordenados.

El problema es que muchas IAs alucinan de dos formas:

• Falta de Fidelidad (Faithfulness): El video muestra un perro, pero la IA dice: "Es un gato". (No está mirando lo que hay en la pantalla).
• Falta de Veracidad (Factuality): El video muestra un truco de magia imposible, pero la IA dice: "Esto es físicamente posible". (No sabe cómo funciona el mundo real).

2. La Solución: INFACT (El Examen de "Realidad")

Los investigadores crearon INFACT, que es como un parque de atracciones de pruebas con 9,800 preguntas. No es un examen normal; es un examen con trucos para ver qué tan robusto es el cerebro de la IA.

El examen tiene 4 modos de dificultad:

Modo 1: La Clase Normal (Base)

Es el examen estándar. Video limpio, pregunta clara. Aquí es donde la mayoría de las IAs sacan buenas notas. Pero, ¿es suficiente? No.

Modo 2: La Niebla y el Ruido (Degradación Visual)

Imagina que le pones a la IA unas gafas de sol muy oscuras o le pones un poco de nieve en la pantalla (ruido visual).

• La prueba: ¿Sigue viendo al perro o empieza a inventar un gato porque no ve bien?
• Resultado: Las IAs suelen aguantar bien aquí. Si el perro está ahí, aunque se vea borroso, la IA suele acertar.

Modo 3: El Profesor Mentiroso (Corrupción de Evidencia)

¡Aquí es donde se pone interesante! Imagina que el video muestra claramente a alguien abriendo una puerta, pero le pegas un cartelito encima (un subtítulo) que dice: "Esta persona está cerrando la puerta".

• La prueba: ¿La IA confía en lo que ve (la puerta abriéndose) o se deja engañar por el texto falso?
• Resultado: ¡Desastre! Muchas IAs prefieren leer el texto falso y dicen "está cerrando", ignorando lo que ven sus ojos. Esto demuestra que a veces leen más de lo que miran.

Modo 4: El Video al Revés (Intervención Temporal)

Imagina un video de alguien cocinando: primero pone el agua, luego el fuego, luego la pasta. Ahora, revuelve los cuadros del video para que parezca que la pasta entra en el agua fría antes de encender el fuego.

• La prueba: ¿La IA se da cuenta de que el orden está loco y dice "esto no tiene sentido"? ¿O sigue diciendo "sí, es correcto" porque reconoce los ingredientes (agua, fuego, pasta) pero no el orden?
• Resultado: ¡Aquí es donde fallan más! Muchas IAs tienen una "inercia temporal". Es como si fueran zombies: ven los ingredientes y dicen "sí, es una receta", aunque el video esté en reversa o desordenado. No entienden la secuencia de los eventos.

3. Las Métricas: ¿Cómo medimos el éxito?

En lugar de solo decir "sacó un 8", usan dos reglas nuevas:

• Tasa de Resistencia (RR): Mide si la IA se mantiene firme cuando el video se ensucia o cuando le mienten con texto. Si la IA sigue acertando a pesar de los trucos, tiene una alta resistencia.
• Puntuación de Sensibilidad Temporal (TSS): Mide si la IA nota cuando el tiempo se rompe. Si el video está desordenado y la IA sigue diciendo lo mismo que antes, su puntuación es cero. Significa que no entiende el tiempo, solo reconoce objetos sueltos.

4. ¿Qué descubrieron? (Las conclusiones)

Al probar 14 modelos diferentes (desde los gratuitos hasta los más potentes de empresas como Google y OpenAI), descubrieron cosas curiosas:

1. Más inteligente no siempre es más fiable: Un modelo que saca un 90% en el examen normal no necesariamente es el mejor cuando le ponen trucos. A veces, los modelos más grandes son más "tercos" y se niegan a corregir sus errores aunque el video cambie.
2. El texto es su talón de Aquiles: Las IAs son muy sensibles a las mentiras escritas (subtítulos falsos). Si el texto dice una cosa y el video otra, suelen creer al texto.
3. El problema del tiempo: Muchas IAs (especialmente las de código abierto) tienen una "inercia temporal" terrible. Si le preguntas sobre el orden de los eventos, a menudo ignoran el orden y solo adivinan basándose en lo que saben del mundo. Es como si alguien te contara una historia al revés y ellos dijeran: "Sí, suena lógico" sin darse cuenta de que es imposible.

En resumen

INFACT es como un detective de mentiras para la inteligencia artificial. Nos enseña que, aunque estas IAs parecen ver videos increíbles, a menudo están "alucinando" cuando las cosas se ponen difíciles, cuando hay ruido, o cuando la historia se cuenta al revés.

El mensaje final es: No confíes ciegamente en lo que dice la IA sobre un video. A veces, la IA está más preocupada por lo que "cree" que debería pasar, que por lo que realmente está pasando en la pantalla.

Resumen técnico

Resumen Técnico: INFACT

1. El Problema

A pesar del rápido progreso de los Modelos de Lenguaje Grande para Video (Video-LLMs), estos sistemas siguen siendo poco fiables en aplicaciones del mundo real debido a las alucinaciones. Estas se definen como salidas que contradicen:

• Fidelidad (Faithfulness): La evidencia visual proporcionada por el video.
• Factualidad (Factuality): El conocimiento del mundo verificable.

Los puntos de referencia (benchmarks) existentes presentan dos limitaciones críticas:

1. Cobertura limitada: Se centran predominantemente en alucinaciones de fidelidad (inconsistencias con el video), dejando las alucinaciones de factualidad (contradicciones con el conocimiento del mundo) subexploradas.
2. Entornos "limpios": Evalúan los modelos principalmente en condiciones ideales. Un alto rendimiento en escenarios limpios no garantiza fiabilidad, ya que los modelos pueden aprovechar atajos (priors lingüísticos, pistas estáticas) en lugar de entender realmente el contenido del video.

2. Metodología: El Benchmark INFACT

Los autores introducen INFACT, un benchmark diagnóstico diseñado para evaluar la fiabilidad de los Video-LLMs bajo condiciones controladas y perturbadas.

A. Construcción de Datos y Taxonomía

• Escala: Comprende 9,800 pares de preguntas y respuestas (QA) derivados de videos reales y sintéticos.
• Taxonomía de Alta Granularidad:
  • Fidelidad: Se estructura en tres niveles de complejidad espacio-temporal:
    1. Entidades y Atributos Estáticos: Reconocimiento de objetos, conteo, atributos visuales y texto en escena.
    2. Acciones y Movimientos Dinámicos: Reconocimiento de acciones, conteo de repeticiones y atributos de movimiento.
    3. Relaciones Espacio-Temporales: Relaciones espaciales, temporales, detección de transiciones de estado y localización temporal.
  • Factualidad: Se divide en tres categorías de conocimiento:
    1. Conocimiento de Dominio (Know-WHAT): Eventos culturales, historia, geolocalización y entretenimiento.
    2. Conocimiento Procedimental (Know-HOW): Validación de secuencias de pasos en tareas (electrónica, mecánica, doméstica, clínica).
    3. Conocimiento Físico (Know-WHY): Adherencia a leyes físicas (mecánica newtoniana, fluidos, propiedades de materiales, continuidad espacio-temporal).

B. Protocolo de Evaluación de Cuatro Modos
INFACT evalúa los modelos no solo en su estado base, sino bajo inducciones controladas de alucinaciones:

1. Modo Base (I): Escenario limpio sin alteraciones (línea base de rendimiento).
2. Degradación Visual (II): Introduce ruido perceptual (ruido gaussiano, desenfoque de movimiento, compresión de video) para probar la estabilidad ante la incertidumbre visual.
3. Corrupción de Evidencia (III): Introduce señales textuales engañosas o conflictivas (inyección de subtítulos contradictorios, corrupción de subtítulos tipo ASR, ruido adversarial) para probar si el modelo prioriza la evidencia visual sobre pistas textuales falsas.
4. Intervención Temporal (IV): Altera la estructura temporal (barajado o inversión de frames) en preguntas sensibles al orden. Aquí, la verdad fundamental cambia; si el modelo mantiene su respuesta original, indica inercia temporal (no entiende la secuencia).

C. Métricas de Fiabilidad

• Tasa de Resistencia (Resist Rate - RR): Mide la estabilidad en los modos II y III. Calcula la proporción de respuestas correctas en el Modo Base que se mantienen correctas tras la perturbación.
• Puntuación de Sensibilidad Temporal (Temporal Sensitivity Score - TSS): Mide la sensibilidad en el Modo IV. Calcula la tasa en la que el modelo cambia su respuesta cuando la estructura temporal se destruye. Un TSS bajo indica que el modelo ignora el orden temporal y depende de priores estáticos.

3. Resultados Clave

Se evaluaron 14 Video-LLMs representativos (incluyendo sistemas propietarios como GPT-5.1 y Gemini3-flash, y modelos de código abierto como Qwen, InternVL, PLLaVA).

• Correlación Engañosa: Existe una fuerte correlación entre la precisión en el Modo Base y la fiabilidad inducida, pero el ranking no se preserva. Modelos con alta precisión base pueden colapsar drásticamente bajo perturbaciones.
• Fragilidad ante Evidencia Engañosa: Los modelos son significativamente más frágiles ante la corrupción de evidencia (especialmente subtítulos contradictorios) que ante la degradación visual pura. La inyección de subtítulos engañosos reduce la estabilidad más que el ruido visual.
• Inercia Temporal (TSS):
  • Muchos modelos de código abierto muestran un TSS cercano a cero en preguntas de factualidad. Esto indica una "inercia temporal": el modelo mantiene la misma respuesta incluso cuando el video se invierte o baraja, revelando que no está fundamentando su respuesta en la lógica temporal del video.
  • Los modelos propietarios (Gemini3-flash, GPT-5.1) y algunos modelos avanzados (Qwen3-VL) muestran TSS más altos, indicando una mejor comprensión de la causalidad temporal.
• Brechas en Dimensiones Específicas:
  • La factualidad es más difícil que la fidelidad, especialmente en el juicio procedimental y el razonamiento físico.
  • Los errores de fidelidad se concentran en dimensiones centradas en el movimiento y la estructura (localización temporal y atributos de movimiento).
• Muestreo de Frames: Aumentar el número de frames muestreados (de 8 a 32) mejora la precisión base, pero no mejora consistentemente la fiabilidad bajo modos inducidos (RR y TSS), sugiriendo que el problema no es solo la cantidad de información visual, sino la capacidad de razonamiento.

4. Contribuciones Principales

1. INFACT: El primer benchmark integral que combina evaluación de fidelidad y factualidad con taxonomías de alta granularidad, cubriendo tanto videos reales como sintéticos.
2. Protocolo de Evaluación Inducida: Introducción de un marco de cuatro modos (Base, Degradación, Corrupción, Intervención Temporal) con métricas específicas (RR y TSS) para cuantificar la estabilidad y la sensibilidad temporal, yendo más allá de la simple precisión.
3. Análisis Sistemático: Una evaluación exhaustiva de 14 modelos que revela que la alta precisión en escenarios limpios no garantiza fiabilidad, exponiendo vulnerabilidades críticas en la resistencia a evidencia contradictoria y en la comprensión temporal.

5. Significado e Impacto

El trabajo de INFACT es fundamental para el avance de los Video-LLMs porque:

• Cambia el paradigma de evaluación: Pasa de medir "qué tan bien responde el modelo" a "qué tan robusto es el modelo cuando la evidencia es imperfecta o engañosa".
• Identifica ceguera temporal: Demuestra que muchos modelos actuales no entienden realmente el orden de los eventos, sino que adivinan basándose en patrones estáticos o priores de lenguaje, lo cual es peligroso para aplicaciones críticas (como diagnóstico médico o análisis forense).
• Guía el desarrollo futuro: Señala que para mejorar la fiabilidad, los futuros modelos deben enfocarse en mecanismos de razonamiento temporal explícito y en la capacidad de priorizar la evidencia visual sobre señales textuales conflictivas, en lugar de simplemente aumentar la escala del modelo.

En conclusión, INFACT proporciona las herramientas necesarias para diagnosticar y mitigar las alucinaciones en Video-LLMs, estableciendo un nuevo estándar para la evaluación de la fiabilidad en sistemas de inteligencia artificial multimodal.