💬 NLP

Believing without Seeing: Quality Scores for Contextualizing Vision-Language Model Explanations

Cette étude propose deux métriques de qualité, la fidélité visuelle et la contrastivité, pour évaluer les explications des modèles vision-langage et démontre que leur affichage aide les utilisateurs à mieux distinguer les prédictions correctes des incorrectes, réduisant ainsi la surconfiance dans les erreurs.

Auteurs originaux : Keyu He, Tejas Srinivasan, Brihi Joshi, Xiang Ren, Jesse Thomason, Swabha Swayamdipta

Publié 2026-04-23

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Keyu He, Tejas Srinivasan, Brihi Joshi, Xiang Ren, Jesse Thomason, Swabha Swayamdipta

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous êtes aveugle (ou que vous ne pouvez pas voir l'écran) et que vous demandez à un robot très savant (un modèle de vision-linguistique) de vous décrire une photo.

Le robot vous répond : "C'est midi !" et il ajoute une explication : "Regardez, il y a une horloge sur le bâtiment qui indique 12h00, et les ombres sont très courtes, ce qui signifie que le soleil est au zénith."

Le problème :
Si vous ne voyez pas la photo, vous êtes tenté de faire confiance au robot. Mais que se passe-t-il si le robot se trompe ?

Peut-être qu'il n'y a pas d'horloge du tout (le robot a halluciné).
Peut-être que les ombres sont longues (il est 16h00, pas midi).

Dans le passé, les chercheurs ont découvert que les robots sont de superbels conteurs. Même quand ils se trompent, ils inventent des explications qui sonnent très vraies et très logiques. C'est comme un magicien qui vous explique un tour de magie avec une logique parfaite, alors qu'il a simplement triché. Vous, le spectateur, vous finissez par croire le magicien, même si le tour est faux.

La solution proposée : Le "Jauge de Vérité"

Les auteurs de ce papier (de l'Université de Californie du Sud et de Carnegie Mellon) ont dit : "Arrêtons de laisser les utilisateurs deviner si le robot a raison. Donnons-leur un outil pour vérifier la qualité de l'explication."

Ils ont créé deux nouveaux "capteurs" ou scores de qualité pour évaluer les explications du robot.

1. La Fidélité Visuelle (Visual Fidelity) : "Le Détective de la Réalité"

Imaginez que le robot dit : "Il y a un chat noir sur le tapis."
Le score de Fidélité Visuelle agit comme un détective qui prend une loupe et va vérifier chaque détail de la phrase dans l'image réelle.

Le détective demande : "Y a-t-il vraiment un chat ?" -> Oui.
Le détective demande : "Est-il noir ?" -> Non, il est gris.
Résultat : Le score de fidélité baisse. L'explication n'est pas fidèle à la réalité.

2. La Contraste (Contrastiveness) : "L'Avocat du Diable"

Imaginez que le robot dit : "C'est midi."
Le score de Contraste pose une question cruciale : "Est-ce que cette explication prouve que c'est midi, et prouve aussi qu'il ne peut pas être 14h00 ou 10h00 ?"

Si le robot dit juste "Il fait chaud", cela pourrait être midi ou 14h00. L'explication ne fait pas la différence. Score faible.
Si le robot dit "L'horloge indique 12h00", cela élimine toutes les autres heures. Score élevé.

Comment ça marche en pratique ?

Les chercheurs ont testé ces scores sur trois tâches différentes (comme des quiz visuels) et ont découvert deux choses importantes :

Les scores sont plus honnêtes que les explications elles-mêmes.
Les anciennes méthodes de vérification (qui regardaient juste si le texte était logique) se faisaient souvent avoir par les mensonges plausibles du robot. Nos nouveaux scores, eux, regardent l'image et disent : "Attends, cette explication ne colle pas avec l'image !"
Les humains font de meilleurs choix.
Les chercheurs ont fait un test avec de vrais humains. Ils ont montré des questions et des réponses de robots, mais sans montrer la photo.
- Sans les scores : Les humains se faisaient souvent avoir par les fausses explications.
- Avec les scores : Quand on montrait le score de "Fidélité" et de "Contraste" à côté de l'explication, les humains ont compris beaucoup plus vite quand le robot mentait.
- Résultat : La précision des humains a augmenté de 11 %, et ils ont arrêté de croire aux mensonges du robot dans 15 % de cas de plus !

L'analogie finale : Le Guide Touristique

Imaginez que vous êtes un touriste dans une ville inconnue. Vous demandez à un guide (le robot) : "Où est la tour Eiffel ?"

Le guide vous dit : "C'est par là, à droite, car il y a un panneau 'Paris' et des pigeons."
Si vous ne voyez pas la rue, vous faites confiance au guide.

Mais si le guide vous donne un score de qualité :

Fidélité : "Le panneau 'Paris' n'existe pas dans cette rue." (Score bas : méfiance !).
Contraste : "Ce panneau pourrait être n'importe où, il ne prouve pas que nous sommes à Paris." (Score bas : méfiance !).

Grâce à ces scores, vous réalisez : "Attends, ce guide se trompe ou me ment, je ne devrais pas le suivre aveuglément."

En résumé

Ce papier nous apprend que donner une explication n'est pas suffisant pour faire confiance à une intelligence artificielle, surtout si l'utilisateur ne peut pas voir la preuve (l'image).

En ajoutant un petit indicateur de qualité qui vérifie si l'explication correspond vraiment à l'image et si elle élimine les autres possibilités, on aide les humains (surtout ceux qui ne voient pas l'image) à ne pas se faire avoir par de belles histoires inventées par les robots. C'est un pas de géant pour rendre l'IA plus fiable et plus sûre pour tout le monde.

1. Problématique et Contexte

Les modèles Vision-Langage (VLM) sont de plus en plus déployés dans des scénarios où l'utilisateur final ne peut pas voir l'image d'origine, notamment pour assister les personnes aveugles ou malvoyantes. Dans ces cas, les prédictions du modèle sont souvent accompagnées d'explications en langage naturel censées justifier la réponse.

Cependant, une problématique majeure émerge : les explications peuvent être trompeuses. Même lorsque la prédiction du VLM est incorrecte (hallucination visuelle), l'explication générée peut sembler logique et convaincante, incitant l'utilisateur à faire confiance à une réponse fausse. Les métriques d'évaluation d'explications existantes (conçues pour les LLM textuels) sont mal calibrées pour les VLM car elles ne tiennent pas compte de la relation entre l'explication et le contexte visuel.

Objectif : Développer des métriques de qualité spécifiques aux VLM pour aider les utilisateurs à déterminer quand faire confiance à une prédiction, même sans accès à l'image.

2. Méthodologie

Les auteurs proposent deux nouvelles qualités d'explication, évaluées via des fonctions de score sans nécessiter d'annotations de vérité terrain (méthodes training-free).

A. Deux Nouvelles Qualités d'Explication

Fidélité Visuelle (Visual Fidelity - VF) :
- Définition : Mesure à quel point l'explication est fidèle au contenu réel de l'image. Elle détecte si le modèle a halluciné des détails visuels.
- Algorithme :
  1. Un LLM (mQGen) génère un ensemble de questions de vérification (Oui/Non) basées sur les détails mentionnés dans l'explication.
  2. Un vérificateur VLM (mVerif, par défaut GPT-4o) répond à ces questions en regardant l'image.
  3. Le score est le pourcentage de questions vérifiées par "Oui".
- Formule : $S_{VF}(E) = \frac{\sum \mathbb{1}(a^V_i = \text{"yes"})}{|Q^V|}$
Contrastivité (Contrastiveness - Contr.) :
- Définition : Mesure la capacité de l'explication à identifier les détails visuels qui distinguent la prédiction correcte des alternatives plausibles. Une bonne explication doit éliminer les autres options.
- Algorithme :
  1. Masquage des mentions de réponses dans l'explication pour éviter les fuites d'information.
  2. Transformation de chaque paire (Question, Réponse candidate) en une hypothèse déclarative.
  3. Utilisation d'un modèle d'inférence (NLI) pour calculer la probabilité que l'explication masquée implique chaque hypothèse.
  4. Le score est la probabilité d'implication pour la réponse prédite, normalisée par rapport à la somme des probabilités pour toutes les réponses possibles.
- Formule : $S_{Contr.}(E) = \frac{P(RNLI(P \text{ implique } h_0))}{\sum_{a_j \in A} P(RNLI(P \text{ implique } h_j))}$

B. Combinaison des Scores

Les auteurs explorent la combinaison de ces deux scores (moyenne, produit, minimum) pour créer un indicateur unique de qualité. Le produit ( $S_{Prod} = S_{VF} \times S_{Contr.}$ ) s'avère être la combinaison la plus performante.

3. Contributions Clés

Nouvelles Métriques : Introduction de la Fidélité Visuelle et de la Contrastivité, spécifiquement conçues pour évaluer la fiabilité des explications VLM par rapport au contexte visuel.
Évaluation de la Calibration : Démonstration que ces métriques sont beaucoup mieux calibrées avec la justesse de la prédiction du modèle que les métriques existantes (Simulabilité, Informativité, Plausibilité).
Études Utilisateurs : Conduite d'études utilisateurs où des participants devaient juger de la justesse d'une prédiction VLM sans voir l'image, en ayant accès ou non aux scores de qualité.
Analyse de la Présentation : Investigation de l'impact de la présentation des scores (chiffres bruts vs descriptions textuelles) sur la prise de décision humaine.

4. Résultats Expérimentaux

A. Performance sur les Tâches de Raisonnement Visuel

Évalué sur trois ensembles de données (A-OKVQA, VizWiz, MMMU-Pro) et trois modèles (LLaVA, Qwen2.5-VL, GPT-4o) :

Discriminabilité : Les scores de Fidélité Visuelle et de Contrastivité (surtout leur produit) distinguent nettement mieux les prédictions correctes des incorrectes que les métriques de base.
Erreur de Calibration (ECE) : Les nouvelles métriques présentent une erreur de calibration significativement plus faible, indiquant que le score de qualité correspond mieux à la probabilité réelle de justesse.
Comparaison : Les métriques textuelles classiques (Simulabilité, etc.) échouent souvent à détecter les erreurs de VLM car elles ne vérifient pas la cohérence avec l'image.

B. Études Utilisateurs (Impact sur la Confiance)

Dans une étude où les utilisateurs ne voyaient pas l'image :

Amélioration de la Précision : Présenter les scores de qualité (notamment le produit VF × Contr.) a augmenté la précision des utilisateurs pour identifier les prédictions correctes de 11,1 %.
Réduction de la Sur-confiance : Le taux de fausses croyances (accepter une prédiction incorrecte) a diminué de 15,4 %.
Format de Présentation :
- Les descriptions textuelles (expliquant pourquoi le score est élevé, ex: "les détails visuels sont vérifiés") ont parfois surpassé les scores numériques pour réduire la sur-confiance, bien que les scores numériques soient plus compacts.
- L'étiquetage du score (ex: "Confiance de l'IA" vs "Fidélité Visuelle") n'a pas eu d'impact significatif sur le comportement ; c'est la valeur numérique elle-même qui guide la décision.

5. Signification et Conclusion

Cet article démontre que fournir uniquement une explication textuelle à un utilisateur aveugle ou malvoyant peut être dangereux si l'explication est hallucinée mais convaincante.

Utilité Pratique : L'intégration de scores de qualité (Fidélité Visuelle et Contrastivité) agit comme un signal de confiance fiable, permettant aux utilisateurs de calibrer leur confiance dans l'assistant IA.
Perspective Future : Les auteurs suggèrent d'utiliser ces scores comme objectifs d'entraînement pour améliorer la génération d'explications par les VLM, et de développer des stratégies adaptatives pour décider quand afficher ou masquer ces explications selon le contexte.

En résumé, cette recherche propose un cadre robuste pour "contextualiser" les explications des VLM, transformant des justifications potentiellement trompeuses en outils fiables pour la prise de décision humaine en situation d'asymétrie d'information.