🤖 AI

Revealing the Gap in Human and VLM Scene Perception through Counterfactual Semantic Saliency

Cet article présente la Saliance Sémantique Contrefactuelle (CSS), un cadre en boîte noire qui révèle un écart significatif entre la perception des scènes par les humains et par les modèles de langage visuel (VLM), montrant que ces modèles s'appuient excessivement sur la taille, la centralité et la saillance des objets tout en sous-pondérant les personnes par rapport aux références de psychophysique humaine.

Auteurs originaux : Ziqi Wen, Parsa Madinei, Miguel P. Eckstein

Publié 2026-05-14

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Ziqi Wen, Parsa Madinei, Miguel P. Eckstein

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous et un robot très avancé observiez une photo complexe d'une rue animée. Vous décrivez tous deux ce qui se passe. Mais voici le hic : même si vous saisissez tous deux l'« essence » de la scène, vous prêtez attention à des choses complètement différentes.

Ce papier est comme une histoire de détective qui tente de comprendre pourquoi les humains et l'IA voient le monde différemment, en utilisant un nouvel outil appelé Saliance Sémantique Contrefactuelle (SSC).

Voici le déroulement de leur enquête en termes simples :

1. Le Problème : Le Mystère de la « Boîte Noire »

Pendant longtemps, les scientifiques ont tenté de comprendre comment l'IA réfléchit en regardant à l'intérieur de son « cerveau » (le code). Mais les modèles d'IA modernes sont comme d'énormes boîtes noires fermées ; nous ne pouvons pas jeter un coup d'œil à l'intérieur pour voir ce qu'ils pensent. De plus, des tests simples qui demandent simplement « Est-ce un chat ? » ne nous disent pas comment l'IA a décidé qu'il s'agissait d'un chat.

2. Le Nouvel Outil : Le Jeu du « Et Si ? »

Les chercheurs ont inventé un jeu appelé Saliance Sémantique Contrefactuelle. Imaginez que vous jouiez avec un jeu de cartes « Et Si ? ».

Le Déroulement : Vous montrez à l'IA une photo d'un quai avec un oiseau blanc et du matériel de pêche.
La Gomme Magique : En utilisant une IA de haute technologie, ils « effacent » numériquement l'oiseau de la photo, en remplissant l'arrière-plan de manière si parfaite qu'il semble que l'oiseau n'ait jamais été là.
Le Test : Ils demandent à l'IA de décrire la nouvelle photo (sans l'oiseau).
La Mesure : Ils comparent la description de la photo originale avec la description de la photo « effacée ».
- Si la description de l'IA change drastiquement (par exemple, de « Un oiseau pêche » à « Quelqu'un pêche »), cela signifie que l'IA pensait que l'oiseau était super important.
- Si la description change à peine (par exemple, elle dit toujours « Un oiseau pêche » même si l'oiseau a disparu), l'IA hallucine ou ignore le fait que l'oiseau manque.

En procédant ainsi pour chaque objet de la photo, ils créent une « carte thermique » de ce que l'IA considère comme le plus important.

3. La Grande Découverte : L'Obsession de la « Taille »

Ils ont effectué ce test sur 19 modèles d'IA différents et comparé les résultats à ceux de 227 humains réels. Les résultats ont été choquants :

Les Humains sont comme des détectives. Nous cherchons l'histoire. S'il y a une personne sur la photo, nous nous concentrons sur elle car les gens sont généralement les personnages principaux. Nous ignorons les grands murs vides ou les énormes rochers s'ils ne font rien d'intéressant.
L'IA est comme un aimant géant et vorace. Elle est obsédée par la Taille et la Position.
- Le Biais de Taille : Si un objet est énorme, l'IA pense qu'il est la chose la plus importante, même s'il s'agit simplement d'un gros rocher en arrière-plan.
- Le Biais du Centre : Si un objet est au milieu de l'image, l'IA pense qu'il est la star du spectacle.
- La Cécité envers les « Personnes » : Les humains se concentrent naturellement sur les gens. L'IA, de manière surprenante, ignore souvent les gens s'ils sont petits ou ne sont pas au centre, se concentrant plutôt sur les objets grands, lumineux ou centraux.

L'Analogie : Imaginez une photo d'une minuscule fourmi sur un immense ballon de plage coloré.

Vous diriez : « Regarde, il y a une fourmi ! » parce que la fourmi est la partie intéressante de l'histoire.
L'IA dirait : « C'est un énorme ballon de plage », car le ballon occupe 90 % des pixels. L'IA est tellement focalisée sur la « plus grande chose » qu'elle manque le véritable sujet de l'image.

4. Pourquoi Cela Compte (Selon le Papier)

Le papier conclut que la raison principale pour laquelle l'IA et les humains ne s'accordent pas sur ce qui est important dans une image est ce Biais de Taille. L'IA a appris que « Grand = Important » parce qu'elle a été entraînée sur des millions de photos où le sujet principal était généralement grand et au centre.

Les chercheurs ont également découvert que les élégantes « cartes d'attention » (la méthode habituelle pour essayer de voir ce que l'IA regarde) sont souvent trompeuses. Elles ressemblent à un gribouillis flou et confus qui ne correspond pas à ce que l'IA dit réellement. Le jeu du « Et Si ? » (SSC) est le seul moyen d'obtenir une réponse claire.

Résumé

Le papier révèle que, bien que l'IA devienne plus intelligente pour décrire des images, elle continue de voir le monde à travers une lentille déformée. Elle considère les choses les plus grandes et les plus centrales comme les plus importantes, tandis que les humains voient les choses les plus significatives (comme les gens). Tant que l'IA n'apprendra pas à valoriser le « sens » plutôt que la « taille », elle continuera de manquer la forêt pour les arbres — ou dans ce cas, de manquer la minuscule fourmi sur l'énorme ballon de plage.

Résumé technique : Révéler l'écart entre la perception des scènes par les humains et les modèles vision-langage via la saillance sémantique contrefactuelle

Énoncé du problème

Évaluer si les grands modèles vision-langage (VLM) s'alignent avec la perception humaine dans la compréhension sémantique de haut niveau des scènes reste un défi majeur. Bien que les réseaux de neurones profonds (DNN) atteignent souvent une précision comparable à celle des humains sur des tâches de référence, ils reposent fréquemment sur des stratégies perceptives différentes, telles qu'une surdépendance aux textures locales, à des motifs de pixels subtils ou à des relations spatiales incohérentes avec la perception humaine holistique. Les méthodes traditionnelles d'interprétabilité « boîte blanche » (par exemple, basées sur le gradient ou les cartes d'attention) sont souvent inapplicables aux architectures à code source fermé et échouent à isoler les caractéristiques causales. De plus, les métriques passives ne peuvent distinguer la corrélation de la causalité dans la compréhension des scènes. Il existe un besoin critique d'un cadre boîte noire, agnostique du modèle, pour quantifier systématiquement l'importance des objets et mesurer l'impact causal des éléments visuels sur les descriptions de scènes.

Méthodologie : Saillance sémantique contrefactuelle (CSS)

Les auteurs proposent la Saillance Sémantique Contrefactuelle (CSS), un cadre boîte noire, agnostique du modèle, conçu pour quantifier l'importance des objets dans la perception des scènes en mesurant le déplacement sémantique induit par leur ablation causale.

1. Génération de stimuli contrefactuels

Le pipeline CSS comporte trois étapes pour générer des images contrefactuelles haute fidélité :

Génération de la liste d'objets : Un grand VLM (GPT-4o) génère une liste de noms d'objets pour une scène donnée, en excluant explicitement les éléments d'arrière-plan (par exemple, le ciel, la mer) pour éviter des déplacements sémantiques disproportionnés ou des hallucinations.
Segmentation et prétraitement des masques : Le modèle de segmentation à base de prompts textuels le plus avancé, SAM3, génère des masques de segmentation. Un pipeline de prétraitement en quatre étapes assure la qualité des masques : suppression des doublons (IoU > 95 %), fusion des masques spatialement proches ayant des étiquettes identiques (distance < 30 pixels) pour traiter les clusters structurels comme des entités unifiées, rejet des masques occupant plus de 30 % de la surface de l'image pour éviter l'effondrement du contexte, et application d'une dilatation pour une couverture complète.
Inpainting d'image : Le modèle génératif de pointe Nano Banana 2 est utilisé pour supprimer les objets cibles, générant des images contrefactuelles sans artefacts. Une validation humaine rigoureuse (14 annotateurs) garantit que les objets cibles sont correctement ablatés sans introduire d'artefacts confondants.

2. Mesure du déplacement sémantique

Pour chaque objet $o$ dans une scène $I$ , le score CSS est calculé en comparant les représentations sémantiques de la description originale et de la description de l'image contrefactuelle où $o$ est supprimé ( $I_{do(o=\emptyset)}$ ).

Génération de descriptions : Le VLM cible génère $N=5$ descriptions indépendantes pour les conditions factuelles et contrefactuelles.
Encodage et similarité : Des plongements de phrases sont extraits à l'aide du modèle open-source Jasper. Le score CSS est défini comme un moins la similarité cosinus moyenne par paires entre les ensembles de descriptions factuelles et contrefactuelles :
$CSS(o) = 1 - \frac{1}{N^2} \sum_{j=1}^{N} \sum_{k=1}^{N} \frac{E(d_j) \cdot E(d'_k)}{\|E(d_j)\| \|E(d'_k)\|}$
Interprétation : Un score CSS plus élevé indique un déplacement sémantique plus important, impliquant que l'objet ablaté était plus critique pour la compréhension de la scène. Ces scores sont mappés sur des masques de segmentation pour créer une carte de saillance descendante.

3. Référence humaine et jeu de données

Pour établir une référence humaine, les auteurs ont utilisé le jeu de données OSIE (700 scènes naturelles complexes). Ils ont filtré les scènes pour qu'elles contiennent 3 à 6 objets cibles, aboutissant à 307 scènes factuelles et 1 306 variantes contrefactuelles.

Étude de psychophysique : Une étude à grande échelle a été menée avec 227 participants indépendants via Prolific, collectant 16 289 descriptions textuelles valides.
Conception expérimentale : Une conception entre sujets a assuré qu'aucun participant ne voyait plusieurs variantes d'une même scène. Les participants ont reçu l'instruction de fournir une description en une phrase de la scène, reflétant l'invite utilisée pour les VLM.
Vérité terrain : Le consensus humain a été établi en calculant la similarité moyenne par paires d'un sous-ensemble fixe de réponses humaines pour servir de « vérité terrain » afin d'évaluer l'alignement du modèle.

Résultats clés

1. Écart perceptif omniprésent

Une analyse statistique rigoureuse révèle une divergence systématique entre la cognition humaine et la performance des VLM :

Précision Top-1 : Alors que la cohérence humain-humain a atteint 73 % dans l'identification de l'objet le plus critique, tous les 19 VLM évalués (incluant des modèles open-source et closed-source comme GPT-5, Claude et Gemini) ont considérablement échoué, oscillant entre 57 % et 65 %.
Corrélation de rang : La moyenne du $\tau$ de Kendall (alignement ordinal de l'importance des objets) pour le consensus humain était de 0,58, tandis que les scores des modèles variaient de 0,37 à 0,51.
Échec universel : Chaque VLM évalué a échoué à atteindre les niveaux de cohérence humain-humain dans la prédiction de l'objet le plus critique ou le classement global de l'importance des objets.

2. Divergence dans les biais perceptifs

L'étude a identifié des biais spécifiques à l'origine de cet écart :

Surutilisation des attributs de bas niveau : Les modèles présentent des biais de Taille (dépendance à la surface de l'objet), de Centre (dépendance au centre de l'image) et de Saillance de bas niveau (dépendance au contraste/couleur) significativement plus forts que les humains.
Sous-utilisation des priors de haut niveau : Contrairement aux humains, qui privilégient systématiquement les Personnes (Biais Personne) dans la compréhension des scènes, les modèles échouent à reproduire cette priorisation, s'appuyant moins sur les figures humaines pour décrire les images.
Facteur principal : L'analyse statistique isole le Biais de Taille comme le facteur dominant expliquant la divergence sémantique. La corrélation entre la divergence du Biais de Taille ( $\Delta r$ ) et l'écart de Précision Top-1 ( $\Delta Acc$ ) est de 0,6130 ( $p < 0,05$ ), nettement supérieure à celle des autres biais.

3. Limites des méthodes boîte blanche

L'article compare la CSS aux méthodes traditionnelles d'interprétabilité boîte blanche (Attention brute, Grad-CAM, AGCAM) sur un VLM open-source. Les résultats montrent une corrélation remarquablement faible (tau de Kendall négatif) entre ces cartes d'attention passives et la métrique causale CSS. Les cartes boîte blanche étaient souvent encombrées, clairsemées ou focalisées sur des régions sémantiquement non pertinentes, confirmant leur insuffisance pour interpréter des architectures VLM complexes.

Signification et affirmations

L'article prétend fournir la première quantification systématique de l'écart d'alignement sémantique entre les VLM modernes et les observateurs humains dans le contexte de la perception des scènes naturelles.

Contribution méthodologique : Il introduit la CSS comme un cadre novateur boîte noire qui surmonte les limites de l'interprétabilité boîte blanche et des métriques passives, permettant l'isolement de caractéristiques causales dans des modèles à code source fermé.
Contribution empirique : Il établit un jeu de données de référence complet comprenant 16 289 réponses humaines sur 307 scènes et 1 306 variantes contrefactuelles, fournissant une base robuste pour les futures recherches sur l'alignement IA-humain.
Insight théorique : Le travail démontre que, malgré l'augmentation des paramètres et des données d'entraînement, les VLM modernes continuent de recourir par défaut à des caractéristiques visuelles de bas niveau exagérées (spécifiquement le Biais de Taille) plutôt qu'à des priors sémantiques de haut niveau (comme la présence de personnes). Cela suggère que les capacités de raisonnement « surhumaines » des VLM ne comblent pas nécessairement l'écart dans l'alignement perceptif fondamental et peuvent parfois exacerber les incohérences par sur-inférence ou hallucination.
Implications pour la sécurité : Les auteurs notent que l'identification de ces biais est cruciale pour la sécurité de l'IA, en particulier dans des environnements à haut risque (par exemple, la conduite autonome) où ignorer de petits objets sémantiquement critiques au profit de grands éléments d'arrière-plan pourrait avoir des conséquences catastrophiques.

L'article conclut que, bien que les VLM montrent un alignement émergent dans des tâches isolées, un écart omniprésent subsiste dans la compréhension holistique des scènes, principalement dû à une dépendance non naturelle à la dominance spatiale (Biais de Taille).