Résumé technique : Désengager les hallucinations via la projection sémantique orthogonale

Énoncé du problème

Alors que les modèles de vision-langage (VLM) et les modèles de diffusion multimodaux sont déployés dans des applications critiques pour la sécurité, la fiabilité de leurs explications devient primordiale. Cependant, les méthodes existantes d'IA explicable (XAI) pour ces modèles souffrent fréquemment d'hallucination sémantique. Dans ce phénomène, les cartes d'attribution (cartes de saillance) mettent en évidence des régions de l'image correspondant à des objets qui ne sont pas présents dans l'image lorsqu'on utilise des descriptions textuelles spécifiques. Par exemple, un modèle pourrait mettre en évidence un chien alors que le prompt est « chat », ou mettre en évidence un mouton alors que le prompt est « chat » et qu'aucun mouton n'existe.

L'article soutient que ce problème n'est pas simplement un défaut de certaines architectures, mais une conséquence fondamentale de la fuite sémantique linéaire au sein des espaces de plongement (embeddings) de haute dimension. Dans des modèles comme CLIP et SigLIP, les plongements texte et image résident dans un espace partagé où les concepts sémantiquement liés mais distincts (par exemple, « chat » et « chien ») ne sont pas orthogonaux. Ils partagent des composantes directionnelles communes. Lorsque les méthodes de saillance calculent les attributions sur la base de ces plongements non orthogonaux, les composantes partagées provoquent la mise en évidence de régions non pertinentes, entraînant des « signaux fantômes » ou des explications hallucinées. L'article postule que le modèle peut paraître correct mais qu'il est en réalité « juste pour de mauvaises raisons ».

Méthodologie : Projection Sémantique Orthogonale (OSP)

Pour remédier à cela, les auteurs proposent la Projection Sémantique Orthogonale (OSP), une intervention géométrique conçue pour désengager les signaux sémantiques uniques des concepts partagés avant de calculer les cartes de saillance.

Cadre théorique

Les auteurs formalisent le problème à travers le cadre de l'Attribution Sémantique Linéaire (LSA). Ils démontrent que la plupart des méthodes de saillance multimodales (incluant GradCAM, LeGrad, CheferCAM et DAAM) peuvent être exprimées comme des fonctions linéaires (ou localement linéaires) du plongement textuel.

• Lemme 1 (Fuite sémantique linéaire) : Si l'angle entre le plongement textuel de la classe cible $A$ et une classe distractrice $B$ est non nul (c'est-à-dire qu'ils ne sont pas orthogonaux), la carte de saillance de $B$ contiendra une composante proportionnelle à la véritable carte de saillance de $A$. Ce « signal fantôme » est directement contrôlé par la similitude cosinus entre les plongements.

L'algorithme OSP

L'OSP utilise la Recherche Orthogonale par Appariement (OMP - Orthogonal Matching Pursuit) pour effectuer une décomposition parcimonieuse du plongement textuel. Le processus comprend :

1. Construction du dictionnaire : Un dictionnaire de sémantiques ($\mathbf{D}$) est créé, composé de concepts « distracteurs » qui sont sémantiquement ou visuellement liés à la cible. Les auteurs explorent quatre stratégies pour cela : les classes ImageNet, les relations ImageNet + WordNet, et des dictionnaires générés par des LLM (Gemini 3 Flash et GPT-OSS 120B).
2. Décomposition parcimonieuse : Le plongement textuel cible ($\mathbf{a}^{\text{txt}}_{\text{target}}$) est traité comme un signal à approximer par les atomes du dictionnaire.
3. Extraction du résidu : L'algorithme sélectionne de manière itérative les atomes les plus corrélés au résidu actuel et met à jour l'ensemble actif. Crucialement, le résidu final ($\mathbf{r}$) est strictement orthogonal à tous les atomes distracteurs sélectionnés.
4. Projection : Le résidu $\mathbf{r}$ représente la « direction sémantique unique » du concept cible, débarrassée des composantes partagées avec les distracteurs.
5. Application : Ce résidu purifié remplace le plongement textuel original dans le calcul de la saillance. Pour les modèles discriminants, cela est fait directement sur le plongement de requête. Pour les modèles de diffusion (comme Stable Diffusion), l'OSP est appliquée aux vecteurs de clés (key vectors) dans le mécanisme d'attention croisée avant l'opération softmax.

La méthode est « plug-and-play », ne nécessant aucun réentraînement du VLM ou du modèle de diffusion sous-jacent.

Contributions clés

1. Analyse géométrique de l'hallucination : L'article fournit un cadre mathématique formel liant les échecs d'ancrage (grounding) à la non-orthogonalité des directions de plongement sémantique. Il caractérise l'hallucination comme une fonction de la fuite sémantique linéaire et propose une interprétation géométrique de la propagation de ces erreurs.
2. Une technique XAI universelle : L'OSP est présentée comme un cadre généralisé compatible avec de multiples architectures (CLIP, SigLIP, modèles de diffusion) et diverses méthodes de saillance (GradCAM, LeGrad, CheferCAM, AttentionCAM, DAAM).
3. Validation étendue : La méthode est évaluée sur trois modèles fondamentaux, cinq méthodes XAI et plusieurs jeux de données (ImageNet-Segmentation, MS COCO).
4. Évaluation centrée sur l'humain : Une étude utilisateur impliquant 200 participants démontre que l'OSP améliore la précision de l'identification, la confiance et la confiance des utilisateurs envers les explications des modèles.

Résultats expérimentaux

Les auteurs ont évalué l'OSP sur les jeux de données ImageNet-Segmentation et MS COCO en utilisant des métriques telles que l'intersection moyenne sur union (mIoU), la précision moyenne (mAP) et l'aire sous la courbe ROC (AUROC).

• Suppression de l'hallucination : L'OSP élargit systématiquement l'écart entre les prompts positifs (cible présente) et les prompts négatifs (cible absente). Plus précisément, elle améliore significativement l'AUROC, indiquant une meilleure discrimination entre les concepts présents et absents.
• Fidélité de la localisation : La méthode améliore ou maintient les performances de localisation (mIoU) pour les prompts positifs tout en supprimant les cartes de chaleur inexactes pour les prompts négatifs.
• Robustesse : Les améliorations se maintiennent à travers différentes stratégies de construction de dictionnaire, y compris celles générées par des LLM et celles basées sur des jeux de données statiques comme ImageNet et WordNet.
• Efficacité : La surcharge de calcul de l'OSP est négligeable (moins d'une seconde), ce qui la rend pratique pour une intervention au moment de l'inférence.
• Étude utilisateur : Les participants utilisant les cartes de chaleur améliorées par l'OSP ont montré une plus grande précision dans l'identification du focus du modèle, une plus grande confiance dans leurs réponses et une confiance accrue envers les explications par rapport aux méthodes de base.

Signification et affirmations

L'article affirme que l'OSP représente un nouveau paradigme fondamental pour l'interprétabilité. Contrairement aux approches précédentes qui tentent de décomposer les plongements d'images pour trouver des concepts visuels, l'OSP décompose mathématiquement l'espace des plongements textuels pour isoler des directions sémantiques pures.

Les auteurs soutiennent qu'en traitant la cause profonde de l'hallucination — la non-orthogonalité des plongements dans l'espace de représentation — ils fournissent une solution théoriquement solide et empiriquement validée. Ils soulignent que cette intervention géométrique rend les cartes d'attribution plus fiables pour les utilisateurs finaux, traduisant l'ancrage théorique en améliorations mesurables de l'interprétabilité humaine. Ce travail suggère que la perspective géométrique ouvre des directions prometteuses pour étendre l'interprétabilité robuste aux architectures génératives à plus grande échelle et à des applications plus larges d'IA de confiance.