VirtueBench: Evaluating Trustworthiness under Uncertainty in Long Video Understanding

Ce papier présente VirtueBench, un nouveau benchmark conçu pour évaluer la fiabilité des modèles vision-langage dans la compréhension de vidéos longues en mesurant leur capacité à reconnaître et à refuser de répondre face à l'incertitude, révélant ainsi que la plupart des modèles actuels privilégient l'essai hasardeux plutôt que l'honnêteté.

L'essentiel

Imaginez que vous demandez à un expert de répondre à une question sur un film, mais vous ne lui montrez que quelques images volées au hasard dans ce film. C'est exactement le problème que les chercheurs de l'article VirtueBench ont voulu résoudre.

Voici une explication simple, avec quelques analogies pour rendre les choses claires.

1. Le Problème : Le "Devineur" vs. L'Honnête

Jusqu'à présent, pour tester les intelligences artificielles (IA) capables de comprendre des vidéos, on leur donnait un extrait de vidéo (par exemple, 64 images) et on leur posait une question.

• Le piège : Si l'image clé (celle qui contient la réponse) n'est pas dans l'extrait, l'IA ne peut pas savoir la réponse.
• L'ancien système de notation : Si l'IA disait "Je ne sais pas, il manque des images", elle était considérée comme fausse. Si elle devinait au hasard et tombait juste par chance, elle était considérée comme vraie.
• L'analogie : C'est comme un examen de mathématiques où l'élève n'a pas le formulaire de référence. Si l'élève dit "Je ne peux pas le faire sans le formulaire", il a 0 point. S'il invente une réponse et qu'elle est juste par pur hasard, il a 20/20 ! Cela encourage les IA à être des parieurs plutôt que des experts honnêtes.

2. La Solution : VirtueBench (Le Banc de Test de la Vertu)

Les auteurs ont créé un nouveau test appelé VirtueBench. L'idée est de changer les règles du jeu pour récompenser l'honnêteté.

• Comment ça marche ? Pour chaque vidéo, ils créent plusieurs versions : une avec très peu d'images (64), une avec plus (128, 256...), jusqu'à une version complète (1024 images).
• La règle d'or : Si les images données ne suffisent pas pour répondre, la seule réponse "correcte" est de dire : "Je ne peux pas répondre, il manque des informations".
• L'analogie : Imaginez un détective. Si vous lui montrez une photo floue d'un suspect et que vous lui demandez son nom, un bon détective dira : "Je ne peux pas le dire, l'image est trop floue". Un mauvais détective inventera un nom. VirtueBench donne la médaille au détective honnête qui admet son ignorance, et non à celui qui ment pour faire joli.

3. Les Résultats : Qui joue le jeu ?

Les chercheurs ont testé 25 IA différentes (des modèles gratuits et des modèles payants très puissants). Voici ce qu'ils ont découvert :

• Le fossé de la confiance : Certains modèles (comme ceux de la famille Qwen ou Gemini) sont devenus de bons "détectives". Ils savent dire "Je ne sais pas" quand les images ne suffisent pas. D'autres (comme certains modèles LLaVA ou InternVideo) sont des "parieurs" invétérés : ils répondent toujours, même quand ils n'ont aucune idée, et se trompent souvent.
• L'effet de la taille : Généralement, plus l'IA est "grosse" (plus elle a de connaissances), plus elle a tendance à être honnête et à admettre ses limites.
• Le piège de l'instruction : C'est le point le plus surprenant. Quand on demande explicitement à l'IA : "Soyez honnête, ne devinez pas", elle devient beaucoup plus sage. Mais si on enlève cette phrase, elle redevient un parieur.
  • Analogie : C'est comme un enfant qui ne mange pas de légumes si on ne lui dit pas "mange tes légumes". Il faut lui donner le "code d'honnêteté" pour qu'il arrête de deviner.

4. Pourquoi c'est important ?

Aujourd'hui, les IA sont entraînées à vouloir absolument donner une réponse, même si elles ne la connaissent pas. Cela crée des hallucinations (des mensonges convaincants).

VirtueBench nous dit : "Arrêtons de féliciter les IA qui mentent par hasard. Construisons des IA qui savent dire 'Je ne sais pas' quand c'est le cas."

C'est une étape cruciale pour faire confiance aux IA dans des domaines sérieux (comme la médecine ou la sécurité), où dire n'importe quoi peut être dangereux.

En résumé : Ce papier nous apprend que la vraie intelligence, c'est aussi de savoir reconnaître quand on n'a pas assez d'informations pour répondre, plutôt que de faire semblant de tout savoir.

Résumé technique

1. Problématique : Le biais d'évaluation dans la compréhension de vidéos longues

Les modèles Vision-Language (VLM) ont fait des progrès significatifs, mais leur évaluation sur la compréhension de vidéos longues reste peu fiable. Le problème central identifié par les auteurs réside dans la contrainte d'entrée : les VLM actuels ne peuvent traiter qu'un nombre limité de trames (généralement 256 ou 512), alors qu'une vidéo longue en contient des centaines de milliers.

• Le paradoxe de l'évaluation actuelle : Lorsqu'un modèle reçoit un sous-ensemble de trames ne contenant pas les informations clés pour répondre à une question, deux comportements sont possibles :
  1. Refus honnête : Le modèle indique qu'il manque d'informations. Dans les benchmarks actuels, cela est souvent noté comme une erreur.
  2. Devinette (Guessing) : Le modèle devine une réponse. Si la devinette est correcte par hasard (ou basée sur des connaissances préalables), le modèle reçoit une bonne note.
• Conséquence : Les protocoles d'évaluation actuels récompensent involontairement les modèles qui devinent et pénalisent ceux qui sont honnêtes, faussant les résultats et encourageant des comportements non fiables.

2. Méthodologie : VirtueBench

Pour résoudre ce problème, les auteurs proposent VirtueBench, le premier benchmark conçu spécifiquement pour évaluer la fiabilité (trustworthiness) des modèles face à l'incertitude.

A. Construction du Dataset

• Source : Le dataset est dérivé de benchmarks existants (MLVU, LVBench, LongVideoBench, etc.), contenant initialement 3 042 vidéos et 33 400 questions.
• Échantillonnage multi-niveaux : Pour chaque vidéo, plusieurs clips sont générés avec des densités de trames variables : 64, 128, 256, 512 et 1024 trames.
• Annotations de vérité terrain (Ground Truth) : Contrairement aux benchmarks classiques qui ont une seule réponse par vidéo, VirtueBench attribue une vérité terrain spécifique à chaque niveau d'échantillonnage.
  • Si les trames fournies ne contiennent pas l'information nécessaire, la réponse est annotée comme : « The video does not provide enough information ».
  • Si l'information est présente, la réponse factuelle est fournie.
• Filtrage de qualité : Les questions à choix multiples (MCQ) ont été converties en questions ouvertes (Open-Ended) pour éviter les devinettes basées sur les options. Un filtrage rigoureux élimine les questions trop simples ou ambiguës.
• Statistiques : Le benchmark final contient 1 328 instances couvrant des tâches de perception (59,7 %) et de raisonnement (40,3 %).

B. Protocole d'Évaluation

L'évaluation utilise un modèle LLM (GPT-4o) comme juge et se déroule en deux étapes :

1. Détection du refus : Le juge détermine si le modèle a refusé de répondre en raison d'informations insuffisantes.
2. Évaluation de la justesse :
   • Pour les questions répondables : vérification de la cohérence sémantique avec la réponse de référence.
   • Pour les questions non répondables : la réponse est considérée comme correcte uniquement si le modèle a refusé de répondre.

3. Contributions Clés

1. Identification d'une limitation critique : Mise en évidence du fait que les benchmarks actuels ne détectent pas les devinettes, produisant des résultats d'évaluation trompeurs.
2. Introduction de VirtueBench : Un benchmark pionnier évaluant explicitement la capacité des modèles à reconnaître l'incertitude et à refuser de répondre honnêtement.
3. Analyse comparative exhaustive : Évaluation de 25 modèles VLM (open-source et commerciaux), révélant des écarts majeurs dans les comportements de refus.

4. Résultats Expérimentaux

Les expériences sur 25 modèles (incluant Qwen, LLaVA, InternVL, GPT-4o/5, Gemini) révèlent plusieurs tendances importantes :

• Performance globale et précision du refus :
  • Les meilleurs modèles (ex: Gemini-2.5-Flash, Qwen2.5-VL-72B, Qwen3-VL-32B) atteignent une précision de refus supérieure à 50-70 % sur les questions non répondables.
  • À l'inverse, de nombreux modèles open-source (ex: LLaVA-Video, InternVideo) affichent un taux de refus proche de 0 %, préférant deviner.
• Impact de la taille du modèle : Les modèles plus grands (ex: Qwen3-VL-32B vs 8B) tendent à mieux identifier l'insuffisance visuelle, suggérant une meilleure capacité à analyser la complétude des données.
• Rôle du raisonnement (Reasoning) : Les modèles équipés de capacités de raisonnement renforcées (RL ou "Thinking") montrent une meilleure précision de refus, indiquant qu'ils analysent mieux la complétude des indices visuels.
• Sensibilité aux instructions (Prompt Ablation) :
  • La suppression de l'instruction explicite demandant l'honnêteté (« Do not guess... ») entraîne une chute drastique de la précision de refus (jusqu'à -30 % pour certains modèles).
  • Cela prouve que les VLM actuels sont optimisés pour fournir une réponse à tout prix (comportement de "candidat à un examen") plutôt que pour reconnaître l'incertitude intrinsèque.
• Tendance contre-intuitive : Contrairement aux benchmarks précédents où l'ajout de trames améliore la précision, sur VirtueBench, l'augmentation du nombre de trames fait parfois baisser la précision globale. Cela s'explique par le fait que plus il y a de trames, plus le modèle est confronté à des cas où l'information est présente, mais aussi à des cas où l'information manquante devient plus évidente, forçant le modèle à choisir entre deviner ou refuser.

5. Signification et Impact

• Redéfinition de la fiabilité : VirtueBench déplace le paradigme d'évaluation de la simple "exactitude de la réponse" vers la "fiabilité du processus de décision". Un modèle qui refuse de répondre quand il ne sait pas est considéré comme plus fiable qu'un modèle qui devine correctement.
• Guide pour le développement futur : Les résultats soulignent la nécessité de réorienter l'entraînement des VLM pour qu'ils apprennent à reconnaître les limites de leurs connaissances visuelles, plutôt que de maximiser uniquement le taux de réponses correctes.
• Biais des benchmarks actuels : Le papier met en garde contre l'utilisation de benchmarks existants pour optimiser les modèles, car ils encouragent involontairement l'hallucination et la spéculation.

En conclusion, VirtueBench fournit une base fondamentale pour développer des VLM plus robustes et dignes de confiance, essentiels pour des applications réelles où l'incertitude doit être gérée avec honnêteté.