INFACT: A Diagnostic Benchmark for Induced Faithfulness and Factuality Hallucinations in Video-LLMs

Le papier présente INFACT, un benchmark diagnostique composé de 9 800 instances de questions-réponses sur des vidéos réelles et synthétiques, conçu pour évaluer la fiabilité des modèles de langage vidéo face aux hallucinations de fidélité et de factualité dans des conditions dégradées, révélant ainsi que la précision de base ne garantit pas la robustesse du modèle.

L'essentiel

Imaginez que vous avez un nouveau robot très intelligent, capable de regarder des vidéos et de vous raconter ce qui s'y passe. C'est ce qu'on appelle un Video-LLM (un grand modèle de langage pour les vidéos). Le problème, c'est que ce robot a parfois tendance à "rêver" tout en parlant. Il invente des choses qui ne sont pas dans la vidéo, ou il donne des réponses fausses en se basant sur ce qu'il croit savoir du monde, même si la vidéo prouve le contraire.

Les chercheurs appellent ces erreurs des hallucinations.

Voici une explication simple du papier de recherche INFACT, qui propose un nouveau moyen de tester ces robots pour voir s'ils sont vraiment fiables ou s'ils sont juste de bons menteurs confiants.

1. Le Problème : Le Robot qui "Rêve"

Jusqu'à présent, on testait ces robots dans des conditions parfaites, comme un élève qui passe un examen avec son cahier de cours ouvert. Ils réussissaient très bien. Mais dans la vraie vie, la vidéo peut être floue, le son peut être mauvais, ou il peut y avoir de fausses sous-titres.

Imaginez que vous demandez à un ami de décrire un film.

• Si la vidéo est claire : Il dit "C'est un chat qui court". (C'est bien).
• Si la vidéo est floue (dégradation visuelle) : Un bon ami dira "Je ne vois pas bien, mais je pense que c'est un chat". Un mauvais ami (hallucinateur) dira : "C'est un dragon vert !" (Il invente).
• Si on lui ment (corruption de preuve) : Si quelqu'un crie "C'est un dragon !" pendant que la vidéo montre un chat, un bon ami dira "Non, regarde, c'est un chat". Un mauvais ami dira "Ah bon ? C'est un dragon alors".

Le papier INFACT est un grand examen de réalité conçu pour piéger ces robots et voir comment ils réagissent quand les choses ne sont pas parfaites.

2. La Solution : Le "Test INFACT"

Les chercheurs ont créé un banc d'essai géant avec 9 800 questions basées sur de vraies vidéos et des vidéos générées par ordinateur. Ils ont divisé les erreurs en deux catégories principales, comme deux types de mensonges différents :

A. L'Infidélité (Faithfulness) : "Tu n'as pas regardé la vidéo !"

C'est quand le robot dit quelque chose qui contredit ce qu'on voit à l'écran.

• Analogie : C'est comme si vous regardiez un match de foot et que le commentateur disait : "L'équipe bleue a gagné", alors que vous voyez clairement l'équipe rouge marquer.
• Ce que le test vérifie : Le robot reconnaît-il les objets, les actions et les mouvements réels ? Ou il invente-t-il des détails ?

B. La Facticité (Factuality) : "Tu ne connais pas le monde !"

C'est quand le robot dit quelque chose qui est faux par rapport à nos connaissances générales, même si la vidéo est claire.

• Analogie : Imaginez une vidéo d'une pomme qui tombe. Le robot dit : "La pomme vole vers le ciel parce que c'est un jour de fête". C'est faux, car la gravité fait tomber les pommes, peu importe la fête.
• Ce que le test vérifie : Le robot utilise-t-il ses connaissances réelles (physique, histoire, culture) ou il invente-t-il des règles bizarres ?

3. Les 4 Modes de l'Examen (Comment on piège le robot)

Pour voir si le robot est vraiment intelligent ou s'il triche, INFACT le soumet à quatre types de situations :

1. Mode Base (La classe normale) : La vidéo est parfaite. C'est le niveau de base pour voir si le robot sait lire.
2. Dégradation Visuelle (Le brouillard) : On rend la vidéo floue, bruitée ou compressée.
   • Le but : Voir si le robot panique et invente des détails, ou s'il reste calme et dit "Je ne vois pas bien".
3. Corruption de Preuve (Le menteur) : On ajoute de faux sous-titres ou du bruit qui contredit la vidéo.
   • Le but : Voir si le robot écoute la vidéo ou s'il se laisse influencer par les faux textes.
4. Intervention Temporelle (Le film inversé) : On mélange l'ordre des images (comme un jeu de cartes mélangé) ou on met le film à l'envers.
   • Le but : C'est le test le plus dur. Si on montre un gâteau qui se démonte (de fini à cru), un robot intelligent doit dire "C'est bizarre, ça ne se fait pas". Un robot "paresseux" dira "C'est normal" parce qu'il a juste mémorisé des mots sans comprendre la logique du temps.

4. Les Résultats Surprenants

Les chercheurs ont testé 14 robots différents (des modèles open-source et des géants comme GPT ou Gemini). Voici ce qu'ils ont découvert :

• Le piège de la réussite : Un robot qui a une très bonne note dans le "Mode Base" (classe normale) n'est pas forcément un bon robot dans les situations difficiles. Il peut être très fort pour réciter des leçons, mais très fragile quand on le perturbe.
• La faiblesse des sous-titres : Les robots sont très sensibles aux faux sous-titres. Si on écrit "C'est un dragon" sur une vidéo de chat, beaucoup de robots croient le texte plutôt que leurs yeux.
• L'inertie temporelle (Le robot qui ne comprend pas le temps) : C'est la découverte la plus amusante. Beaucoup de robots, même les meilleurs, ont un score proche de zéro sur le test de temps.
  • Analogie : C'est comme si vous montriez à un robot un film où il pleut, puis il fait soleil. Si vous mettez le film à l'envers (soleil puis pluie), le robot dit toujours "Il pleut" parce qu'il ne regarde pas l'ordre des événements, il devine juste. Il est "inerte" face au temps.

En Résumé

INFACT est comme un détecteur de mensonges pour les intelligences artificielles qui regardent des vidéos.

Il nous apprend que même si ces robots semblent brillants et confiants, ils sont souvent fragiles. Ils peuvent être facilement trompés par un peu de bruit, un faux texte, ou un changement d'ordre dans la vidéo. Pour qu'ils soient vraiment utiles dans la vraie vie (pour la sécurité, la médecine, l'éducation), il faut qu'ils apprennent non seulement à "voir", mais aussi à comprendre ce qu'ils voient, même quand les conditions ne sont pas parfaites.

C'est un pas de géant pour rendre ces robots plus honnêtes et plus fiables.

Résumé technique

1. Problématique

Les Modèles de Langage pour Vidéos (Video-LLMs) ont connu des progrès rapides dans la compréhension vidéo, mais leur fiabilité reste compromise par des hallucinations. Ces hallucinations se manifestent sous deux formes principales :

• Manque de fidélité (Faithfulness) : Le modèle génère un contenu contradictoire par rapport aux preuves visuelles de la vidéo (ex: décrire un objet absent ou une action non réalisée).
• Manque de factualité (Factuality) : Le modèle génère un contenu contradictoire par rapport aux connaissances mondiales vérifiables (ex: erreurs sur des faits historiques, des lois physiques ou des procédures).

Limites des travaux existants :

• Les benchmarks actuels se concentrent majoritairement sur les hallucinations de fidélité (vérifiables par la vidéo) et négligent les hallucinations de factualité.
• Les évaluations sont souvent réalisées dans des conditions « propres » (clean settings), masquant la vulnérabilité des modèles face au bruit, aux preuves corrompues ou aux perturbations temporelles.
• Une haute précision dans des conditions idéales ne garantit pas une fiabilité robuste en conditions réelles ou dégradées.

2. Méthodologie : Le Benchmark INFACT

Les auteurs introduisent INFACT, un benchmark diagnostique conçu pour évaluer la fiabilité des Video-LLMs dans des scénarios propres et bruyants.

A. Construction des Données

• Volume : 9 800 paires Question-Réponse (QA) couvrant des vidéos réelles et synthétiques.
• Taxonomie fine :
  • Fidélité (Faithfulness) : Organisée en trois niveaux de complexité spatio-temporelle :
    1. Entités et attributs statiques (reconnaissance d'objets, comptage, texte dans l'image).
    2. Actions et mouvements dynamiques (reconnaissance d'actions, comptage répétitif, attributs de mouvement).
    3. Relations spatio-temporelles (relations spatiales, transitions d'état, localisation temporelle).
  • Factualité (Factuality) : Organisée en trois catégories de connaissances :
    1. Connaissances de domaine (Know-WHAT) : Événements culturels, histoire, géolocalisation, divertissement.
    2. Connaissances procédurales (Know-HOW) : Séquences logiques pour l'électronique, la mécanique, le domestique et le clinique.
    3. Connaissances physiques (Know-WHY) : Respect des lois physiques (mécanique newtonienne, fluides, propriétés des matériaux, continuité spatio-temporelle).

B. Protocole d'Évaluation à Quatre Modes

Pour diagnostiquer les causes profondes des échecs, INFACT applique des perturbations contrôlées tout en gardant les questions fixes :

1. Mode Base (Propre) : Évaluation sur les vidéos originales sans altération (référence de performance).
2. Dégradation Visuelle (Visual Degradation) : Introduction de bruit perceptuel (bruit gaussien, flou de mouvement, compression vidéo) pour tester la robustesse face à une clarté réduite.
3. Corruption de Preuve (Evidence Corruption) : Introduction de signaux textuels trompeurs (sous-titres injectés, corruption de sous-titres ASR, bruit adversaire) pour tester la capacité du modèle à prioriser la preuve visuelle sur des indices textuels erronés.
4. Intervention Temporelle (Temporal Intervention) : Perturbation de la structure temporelle (mélange ou inversion des trames) sur des items sensibles à l'ordre. Cela teste si le modèle comprend réellement la séquence des événements ou s'il repose sur des indices statiques.

C. Métriques de Fiabilité

• Taux de Résistance (Resist Rate - RR) : Mesure la stabilité des réponses correctes sous dégradation visuelle ou corruption de preuve (Modes II et III). Un score élevé indique que le modèle maintient sa réponse correcte malgré le bruit.
• Score de Sensibilité Temporelle (Temporal Sensitivity Score - TSS) : Mesure la capacité du modèle à changer de réponse lorsque la structure temporelle est détruite (Mode IV). Un score élevé est souhaitable ici, indiquant que le modèle ne souffre pas d'inertie temporelle (c'est-à-dire qu'il ne donne pas la même réponse même si l'ordre des événements est illogique).

3. Résultats Clés

L'évaluation a été menée sur 14 modèles représentatifs (incluant des systèmes propriétaires comme GPT-5.1 et Gemini3-flash, ainsi que des modèles open-source comme Qwen, InternVL, etc.).

• Corrélation imparfaite : Une haute précision en mode Base ne se traduit pas systématiquement par une haute fiabilité dans les modes induits. Les modèles performants en conditions propres peuvent être très fragiles face aux perturbations.
• Vulnérabilité aux indices trompeurs : La corruption de preuve (notamment l'injection de sous-titres contradictoires) dégrade les performances plus fortement que la simple dégradation visuelle. Les modèles ont tendance à se fier excessivement aux indices textuels au détriment de la preuve visuelle.
• Inertie Temporelle Prononcée : De nombreux modèles open-source affichent un TSS proche de zéro sur les questions de factualité. Cela signifie qu'ils conservent leur réponse initiale même lorsque l'ordre temporel est inversé ou mélangé, révélant une dépendance aux priors statiques plutôt qu'à la logique temporelle.
• Difficultés spécifiques :
  • La factualité (surtout le jugement procédural et le raisonnement physique) reste plus difficile que la fidélité.
  • Sur la fidélité, les erreurs persistent sur les dimensions centrées sur le mouvement et la structure fine (localisation temporelle, attributs de mouvement).
• Impact de l'échantillonnage : Augmenter le nombre de trames échantillonnées (de 8 à 32) améliore légèrement la précision de base mais n'apporte pas d'amélioration significative de la fiabilité sous les modes induits, en particulier pour la sensibilité temporelle.

4. Contributions Principales

1. INFACT : Un benchmark complet de 9 800 instances avec des taxonomies fines couvrant à la fois les hallucinations de fidélité et de factualité, utilisant des vidéos réelles et synthétiques.
2. Protocole d'évaluation innovant : Introduction de quatre modes d'évaluation (Base, Dégradation, Corruption, Intervention Temporelle) avec des métriques dédiées (RR et TSS) pour quantifier la stabilité et la sensibilité.
3. Analyse systématique : Une évaluation approfondie de 14 modèles révélant que la performance en conditions propres est un indicateur insuffisant de la robustesse réelle, et mettant en lumière l'inertie temporelle critique chez les modèles actuels.

5. Signification et Impact

Ce travail est crucial pour l'avancement des Video-LLMs car il déplace le focus de la simple « précision » vers la fiabilité diagnostique.

• Il met en évidence que les modèles actuels sont souvent des « parieurs confiants » qui utilisent des raccourcis (priors linguistiques, indices statiques) plutôt que de raisonner véritablement sur le contenu vidéo.
• Il fournit un cadre standardisé pour tester la robustesse des modèles face aux conditions réelles dégradées (bruit, sous-titres erronés, désordre temporel).
• Il identifie des axes d'amélioration précis pour la communauté, notamment le besoin de meilleurs mécanismes d'alignement temporel et de priorisation de la preuve visuelle sur les indices textuels contradictoires.

En conclusion, INFACT établit un nouveau standard pour évaluer non seulement ce que les modèles savent, mais comment ils raisonnent et résistent aux perturbations, ce qui est essentiel pour leur déploiement dans des applications critiques.