🤖 AI

Mirage Probes: How Vision Models Fake Visual Understanding

Cet article introduit les « Mirage Probes » pour démontrer que les modèles vision-langage présentent deux types distincts d'hallucinations visuelles — les biais textuels et les images fallacieuses — distinguables par leurs motifs d'activation interne, révélant ainsi qu'une atténuation efficace nécessite des interventions au niveau de la représentation plutôt que le simple nettoyage des distributions de texte.

Auteurs originaux : Daniel Ben-Levi, Judah Goldfeder, Weiliang Zhao, Raz Lapid, Amit LeVi, Allen G. Roush, Ravid Shwartz-Ziv, Hod Lipson

Publié 2026-06-15

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Daniel Ben-Levi, Judah Goldfeder, Weiliang Zhao, Raz Lapid, Amit LeVi, Allen G. Roush, Ravid Shwartz-Ziv, Hod Lipson

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous passiez un examen où l'on vous montre une image et vous pose une question à son sujet. Maintenant, imaginez un étudiant qui est si doué pour deviner en se basant sur les mots de la question qu'il peut trouver la bonne réponse même si l'on retire l'image et qu'on la cache derrière son dos. Il semble sûr de lui, et il a souvent raison, mais il ne regarde pas réellement l'image.

Cet article appelle ce comportement un « Mirage ».

Les chercheurs ont étudié les modèles Vision-Langage (des IA qui voient des images et lisent du texte) et ont découvert que ces « mirages » ne sont pas une simple erreur. Ils ont découvert que l'IA simule en fait sa compréhension visuelle de deux manières complètement différentes, et l'article introduit un nouvel outil appelé « Mirage Probes » (Sondes de Mirage) pour voir exactement comment l'IA procède à l'intérieur de son « cerveau ».

Voici une décomposition de leurs découvertes en utilisant des analogies simples :

1. Les deux façons dont l'IA triche

Les auteurs soutiennent que lorsqu'une IA donne une réponse confiante sans vraiment « voir » l'image, elle fait généralement l'une des deux choses suivantes :

La « Triche Textuelle » (Biais Textuels) :
- L'analogie : Imaginez un étudiant passant un examen d'histoire. La question est : « Qui était le premier président ? ». L'étudiant n'a pas besoin de regarder une photo de George Washington pour connaître la réponse ; il connaît simplement le fait grâce à la lecture de livres.
- Ce que fait l'IA : L'IA ignore l'image entièrement. Elle regarde la question, reconnaît le sujet, et extrait la réponse de sa mémoire sur la façon dont les gens posent et répondent habituellement à cette question. Elle ne ment pas sur le fait de voir l'image ; elle répond simplement en se basant sur le texte.
- Où cela se produit : C'est courant dans les jeux de données où les questions sont très spécifiques ou là où la réponse est évidente rien qu'avec les mots (comme dans certaines questions médicales ou de culture générale).
L'« Image Hallucinée » (Images Spurieuses) :
- L'analogie : Imaginez maintenant un étudiant à qui l'on demande : « De quelle couleur est la voiture sur la photo ? », mais la photo est cachée. Au lieu de dire « Je ne vois pas », l'étudiant ferme les yeux, imagine une voiture rouge (parce que la plupart des voitures dans ses données d'entraînement sont rouges), et dit avec assurance : « C'est une voiture rouge ». Il a créé une fausse image dans son esprit.
- Ce que fait l'IA : L'IA essaie réellement de « voir » quelque chose qui n'existe pas. Elle construit une représentation visuelle fausse dans son code interne (espace latent) et répond comme si cette fausse image était réelle.
- Où cela se produit : Cela se produit dans les jeux de données où le texte seul ne suffit pas pour deviner la réponse, de sorte que l'IA est forcée d'« inventer » un détail visuel pour se sentir confiante.

2. Le nouvel outil : « Mirage Probes »

Comment savoir si l'IA triche avec du texte ou si elle hallucine une image ? Vous ne pouvez pas simplement regarder la réponse ; vous devez regarder à l'intérieur du « cerveau » de l'IA pendant qu'elle réfléchit.

Les chercheurs ont construit les Mirage Probes, qui agissent comme une machine à rayons X pour les pensées de l'IA.

Ils prennent une question et la présentent à l'IA avec une image, puis présentent la même question sans l'image.
Ils observent les signaux électriques (activations) à l'intérieur des couches de l'IA.
Ils ont découvert que la différence entre « répondre avec une vraie image » et « répondre avec une fausse image » laisse un motif clair et rectiligne dans le code de l'IA. Ce n'est pas un signal désordonné et complexe ; c'est une ligne nette que leurs sondes peuvent facilement détecter.

3. Pourquoi est-ce important (Le « Et alors ? »)

L'article souligne un point crucial sur la manière dont nous devrions corriger ces modèles d'IA.

Si l'IA utilise la « Triche Textuelle » : Vous pouvez corriger cela en nettoyant les données d'entraînement. Si vous empêchez l'IA d'apprendre que certaines questions ont toujours certaines réponses, elle arrêtera de deviner.
Si l'IA utilise l'« Image Hallucinée » : Nettoyer le texte ne servira à rien. Le problème est plus profond. L'IA construit en réalité de fausses images dans sa mémoire interne. Pour corriger cela, vous devez changer la façon dont l'IA représente les images, et pas seulement la façon dont elle lit le texte.

L'essentiel

L'article affirme que le comportement de « Mirage » n'est pas un bug unique. Ce sont deux bugs différents portant le même masque.

Parfois, l'IA se contente de deviner en se basant sur les mots.
Parfois, l'IA invente une fausse image dans son esprit.

Les auteurs ont créé un moyen de repérer lequel des deux se produit. Ils ont découvert que la version « fausse image » est plus difficile à corriger car elle réside profondément dans le traitement visuel de l'IA, et non simplement dans ses capacités linguistiques. Cela signifie que pour rendre l'IA véritablement fiable (notamment dans des domaines comme la médecine), nous devons corriger la partie visuelle du cerveau, et pas seulement la partie textuelle.

Résumé Technique : Mirage Probes : Comment les modèles de vision simulent la compréhension visuelle

Énoncé du problème

Les modèles de langage-vision (VLM) sont de plus en plus déployés dans des domaines à enjeux élevés tels que l'imagerie médicale, l'analyse de documents et le raisonnement scientifique, où les réponses doivent être ancrées dans une entrée visuelle. Cependant, des observations récentes de « comportement de mirage » remettent en question l'hypothèse selon laquelle le succès sur les benchmarks équivaut à un raisonnement visuel fidèle. Le comportement de mirage se produit lorsque les VLM répondent avec assurance à des questions basées sur des images, même lorsque l'image est absente. Cela suggère que la performance sur les benchmarks multimodaux (ex. : MMMU, VQA-RAD) peut refléter des priors textuels, des régularités de jeux de données ou des raccourcis plutôt qu'une utilisation réelle de preuves visuelles.

Les travaux antérieurs traitent largement le comportement de mirage comme un mode de défaillance unique. Les auteurs soutiennent qu'il s'agit d'une simplification excessive, proposant que le même comportement de sortie peut provenir de deux mécanismes internes distincts :

Biais Textuels : Le modèle répond directement à partir de priors linguistiques sans solliciter les représentations visuelles.
Images Sporieuses : Le modèle construit un contenu visuel faux dans son espace latent et répond comme s'il était ancré, « hallucinant » effectivement une image pour soutenir la réponse.

Distinguer ces mécanismes est crucial car les stratégies d'atténuation diffèrent : le nettoyage de la distribution textuelle traite le premier cas, mais ne peut atteindre le second, qui réside dans les représentations visuelles du modèle.

Méthodologie

Cadre Mirage Probes

Les auteurs introduisent Mirage Probes, un cadre de sondage contrastif conçu pour détecter et analyser le comportement de mirage au niveau de la représentation.

Construction du Jeu de Données :
- Les auteurs génèrent des jeux de données en comparant les réponses du modèle avec une image ( $r_{img}$ ) et sans image ( $r_{\emptyset}$ ).
- Heuristique d'Étiquetage : Une réponse avec image est étiquetée comme « de type mirage » ( $y=1$ ) si la génération sans image produit la même réponse avec une similarité sémantique élevée (similarité cosinus sac-de-mots > 0,7). Elle est étiquetée comme « non-mirage » ( $y=0$ ) si la génération sans image exprime explicitement une incertitude ou déclare que la tâche est impossible sans l'image.
- Paires Contrastives : Pour réduire les confonds textuels de surface (ex. : mots thématiques, style de question), les auteurs utilisent GPT-4o-mini pour générer quatre variantes paraphrasées de chaque question de base. Ils construisent des paires contrastives où l'image et l'intention sous-jacente restent fixes, mais où la formulation de la question varie, entraînant des étiquettes de mirage différentes. Cela garantit que les sondes apprennent le mécanisme de mirage plutôt que des caractéristiques lexicales superficielles.
Extraction d'Activations :
- L'étude sonde trois VLM open-source : Ovis2.5-2B, GLM-4.6-flash, et Qwen3-32B-VL-Instruct.
- Les activations sont extraites de quatre sites au sein de l'architecture transformer :
  - États du flux résiduel (residual stream)
  - Sorties MLP
  - Sorties post-attention
  - Sorties individuelles des têtes d'attention
- Les activations sont agrégées à l'aide de trois stratégies de pooling : text-nonspecial-mean, vision-tail, et vision-text-mean.
Entraînement des Sondes :
- Quatre familles de sondes sont entraînées pour prédire l'étiquette de mirage à partir des activations internes :
  - Régression Logistique (Linéaire) : Teste si le mirage est encodé comme une direction linéaire unique.
  - MLP à deux couches : Teste l'encodage non linéaire.
  - Sondes Concatenées : S'entraîne sur les activations de tous les niveaux simultanément.
  - Sondes de Différence : S'entraîne sur la différence élément par élément entre les activations avec image et sans image ( $\Delta h = h_{img} - h_{\emptyset}$ ).
- Baseline : Un classifieur Naive Bayes entraîné sur le texte de la réponse est utilisé pour écarter les confounds lexicaux de surface.
- Métrique : Un nouvel Indice de Mobilisation de Prior (PHI) est introduit pour mesurer la quantité d'information qu'un modèle peut glaner concernant une réponse correcte à partir du texte seul ( $PHI = \log p(a^*|Q) - \log p(a^*|Q_{\emptyset})$ ).

Résultats Clés

1. Décodabilité Linéaire du Comportement de Mirage

L'étude démontre que le comportement de mirage est linéairement décodable à partir des activations internes des VLM présents avec image sur les quatre sites d'activation (flux résiduel, MLP, post-attention, têtes d'attention).

Précision : Dans les contextes contrastifs, les sondes linéaires ont atteint des précisions allant jusqu'à 75 % (Ovis) et 72 % (Qwen) sur les flux résiduels, et jusqu'à 85 % sur les têtes d'attention.
Linéarité : Les sondes MLP à deux couches n'ont pas significativement surpassé les sondes linéaires, suggérant que l'information de mirage est encodée le long de directions linéaires récupérables plutôt que nécessitant une extraction non linéaire complexe.
Supériorité Contrastive : Les sondes de différence (entraînées sur les différences d'activation) ont obtenu la précision la plus élevée (jusqu'à 98 % dans certains cas), indiquant que le décalage de représentation causé par l'ajout d'une image sépare nettement le mirage des réponses non-mirage.

2. Réduction des Confounds de Surface

La comparaison avec la baseline textuelle Naive Bayes confirme que les sondes ne détectent pas simplement des caractéristiques lexicales de surface.

Dans les contextes contrastifs, la précision des sondes a nettement dépassé la baseline Naive Bayes (ex. : 61,88 % contre 57,67 % pour Ovis sur VQA-RAD).
Dans les contextes « tous exemples » (sans appariement contrastif), la précision des sondes était plus élevée mais corrélée à une augmentation de la séparabilité de surface, suggérant que ces sondes captaient probablement des indices textuels plutôt que des mécanismes profonds. Cela valide la nécessité du cadre contrastif.

3. Deux Régimes de Mirage Distincts

Les modèles de séparabilité entre les benchmarks révèlent que le comportement de mirage n'est pas un phénomène monolithique mais se compose probablement de deux régimes distincts :

Images Sporieuses : Dominantes dans VQA-RAD, où les questions dépendent fortement de l'image (les humains ne peuvent pas répondre sans l'image) et les priors textuels sont faibles (faible PHI). Ici, le modèle construit un contenu visuel faux.
Biais Textuels : Plus prévalents dans MMMU-Pro et MedXpertQA, où les questions contiennent souvent un contexte textuel suffisant pour répondre sans l'image (PHI élevé).
Preuve : VQA-RAD présentait la plus haute séparabilité de sonde. Lorsque l'on entraînait les sondes uniquement sur des exemples « perçus par l'humain comme dépendants de l'image » provenant d'autres benchmarks, la séparabilité n'augmentait pas. Cependant, l'utilisation de la métrique PHI a révélé que les questions de VQA-RAD augmentent de manière unique l'incertitude du modèle sans images, ce qui est fortement corrélé au comportement de mirage. Cela suggère que lorsque les priors textuels sont insuffisants, le modèle a recours à la construction d'images sporieuses ; lorsqu'ils sont suffisants, il s'appuie sur le biais textuel.

Signification et Revendications

L'article affirme que l'ancrage visuel fidèle nécessite des interventions au niveau de la représentation, et non seulement au niveau du texte.

Aperçu Mécaniste : Les auteurs fournissent la première preuve au niveau de la représentation que le comportement de mirage est encodé linéairement et est décomposable en deux mécanismes.
Implications pour l'Atténuation : La distinction a des conséquences directes sur la sécurité et l'alignement. Le nettoyage des distributions de texte (ex. : suppression des raccourcis de jeux de données) peut réduire les mirages de biais textuels, mais échouera probablement à traiter les mirages d'images sporieuses, car ces derniers sont ancrés dans les représentations visuelles internes du modèle.
Évaluation : Le cadre Mirage Probes offre un outil de diagnostic pour évaluer si un VLM ancre réellement ses réponses dans des preuves visuelles ou s'il simule via des hallucinations de l'espace latent ou des raccourcis textuels.

Les auteurs maintiennent une position modeste, notant que leur hypothèse des deux mécanismes est motivée empiriquement par les modèles de séparabilité et nécessite une validation causale (ex. : par pilotage ou ablation) dans des travaux futurs. Ils soulignent que leurs étiquettes reposent sur des heuristiques et que la revendication centrale reste corrélationnelle, bien que l'exclusion des confounds de surface via le sondage contrastif renforce la validité des résultats.