🤖 AI

Which Modality Decides? Counterfactual Modality Attribution for Multimodal LLMs

Cet article introduit la Counterfactual Modality Attribution (CMA), un nouveau cadre qui utilise des priors de diffusion couplés et des valeurs de Shapley pour quantifier quelle modalité (image ou texte) motive la prédiction d'un grand modèle de langage multimodal, révélant ainsi des schémas de raisonnement dangereux que les méthodes traditionnelles d'explicabilité au niveau des caractéristiques ne parviennent pas à détecter.

Auteurs originaux : Vahidin Hasic, Chao Wang, Luis C. Garcia-Peraza-Herrera, David Watson, Senka Krivic

Publié 2026-08-04

📖 8 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Vahidin Hasic, Chao Wang, Luis C. Garcia-Peraza-Herrera, David Watson, Senka Krivic

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous soyez un détective tentant de résoudre un mystère, mais que vous ayez deux partenaires très différents : l'un est un photographe qui ne vous montre que des images, et l'autre est un conteur qui ne s'exprime qu'en mots. Dans le monde de l'intelligence artificielle, il existe des ordinateurs super intelligents appelés Modèles de Langage de Grande Taille Multimodaux (MLLM) qui agissent comme cette équipe de détectives. Ils regardent des images et lisent du texte en même temps pour prendre de grandes décisions, comme diagnostiquer un patient ou identifier un problème. Mais voici la partie délicate : ce n'est pas parce que l'ordinateur trouve la bonne réponse qu'il l'a trouvée de la bonne manière. Parfois, il peut « s'appuyer sur des raccourcis » en ignorant les photos et en ne lisant que le texte, ou vice versa. C'est un énorme problème car, si nous ne savons pas quel partenaire a fait le travail, nous ne pouvons pas faire confiance au détective quand les enjeux deviennent sérieux. Nous avons besoin d'un moyen de demander : « Hé, était-ce l'image qui a résolu cela, ou était-ce l'histoire ? »

C'est exactement ce qu'une nouvelle étude menée par des chercheurs de l'Université de Sarajevo et du King's College London s'attaque. Ils craignent que ces détectives IA ne prennent des « raccourcis » — en s'appuyant sur un type d'indice tout en ignorant l'autre, même si la réponse finale semble correcte. Pour corriger cela, ils ont inventé un nouvel outil ingénieux appelé Attribution de Modalité Contrefactuelle (CMA). Considérez la CMA comme une machine du « Et si ? ». Elle demande à l'IA : « Et si on ne te montrait que l'image ? » et « Et si on ne te donnait que le texte ? ». En créant ces scénarios imaginaires de « et si », l'outil peut mesurer exactement à quel point l'image et le texte ont contribué à la décision finale. Ils ont testé cela sur des puzzles fictifs et des rapports médicaux réels, et ils ont découvert que la CMA est incroyablement douée pour repérer quand une IA ignore des informations cruciales. En fait, dans leurs tests contrôlés, elle a identifié correctement la véritable source de la décision 98 % du temps, révélant des erreurs cachées que d'autres méthodes avaient manquées.

Le dilemme du détective

Imaginez que vous soyez un médecin essayant de déterminer si un patient souffre de pneumonie. Vous avez deux éléments de preuve : une radiographie pulmonaire (l'image) et un rapport médical écrit par une infirmière (le texte). Le rapport de l'infirmière dit : « Le patient est allergique à la pénicilline ». La radiographie montre clairement une pneumonie. Une IA intelligente devrait regarder les deux, dire : « Oui, c'est une pneumonie », puis recommander un antibiotique sûr qui n'est pas de la pénicilline.

Mais qu'en est-il si l'IA « s'appuie sur des raccourcis » ? Et si elle regarde la radiographie, voit la pneumonie, et choisit immédiatement un antibiotique sans même lire la note de l'infirmière ? Si cet antibiotique se trouve être de la pénicilline, le patient pourrait avoir une réaction potentiellement mortelle. L'IA a eu le bon diagnostic, mais elle a échoué au contrôle de sécurité car elle a ignoré le texte. C'est ce qu'on appelle « l'apprentissage par raccourcis » (shortcut learning), et c'est dangereux car l'IA semble parfaite sur le papier (elle donne le bon diagnostic) mais est en réalité dangereuse dans le monde réel.

Le problème est que la plupart des outils actuels pour vérifier l'IA ne regardent que où l'IA regarde. Ils peuvent dessiner un cadre rouge autour de la pneumonie sur la radiographie ou mettre en évidence le mot « pénicilline » dans le texte. Mais ils ne peuvent pas répondre à la grande question : Lequel a réellement fait décider l'IA ? Est-ce l'image qui a conduit la décision, ou le texte ? Ou bien ont-ils travaillé ensemble ?

La machine du « Et si ? »

Les chercheurs ont créé une nouvelle méthode appelée Attribution de Modalité Contrefactuelle (CMA) pour résoudre cela. Le mot « contrefactuel » est une façon sophistiquée de dire « et si ». La CMA joue à un jeu de « et si ? » avec l'IA.

Voici comment cela fonctionne, en utilisant une analogie simple :
Imaginez que vous cuisiniez un gâteau avec deux ingrédients : de la farine et du sucre. Vous voulez savoir lequel rend le gâteau sucré.

Le gâteau original : Vous cuisez un gâteau avec de la farine et du sucre. Il a un goût sucré.
Les scénarios « Et si ? » :
- Scénario A (Image uniquement) : Vous cuisez un gâteau avec seulement de la farine (sans sucre).
- Scénario B (Texte uniquement) : Vous cuisez un gâteau avec seulement du sucre (sans farine).
- Scénario C (Les deux retirés) : Vous cuisez un gâteau sans aucun des deux.

En goûtant ces différents gâteaux, vous pouvez déterminer exactement quelle part de sucre a contribué à la douceur. Si le gâteau avec seulement du sucre est toujours sucré, mais que le gâteau avec seulement de la farine est fade, vous savez que le sucre est la star.

La CMA fait cela pour l'IA, mais au lieu de gâteaux, elle utilise des images et du texte. Elle utilise des « générateurs magiques » spéciaux (appelés modèles de diffusion) pour créer des versions réalistes de l'entrée où elle supprime le texte mais garde l'image, ou supprime l'image mais garde le texte. Elle demande ensuite à l'IA de faire une prédiction sur ces nouvelles versions modifiées.

Le tableau des scores : Qui a fait le travail ?

Une fois que l'IA a fait des prédictions sur toutes ces versions « Et si ? », la CMA utilise un système de notation mathématique appelé valeurs de Shapley. Vous pouvez voir cela comme un tableau des scores dans un jeu vidéo où deux joueurs (l'Image et le Texte) sont dans la même équipe. Le tableau des scores calcule la contribution de chaque joueur à la victoire de l'équipe.

Si l'IA change d'avis lorsque vous retirez le texte, le Texte reçoit un score élevé.
Si l'IA change d'avis lorsque vous retirez l'image, l'Image reçoit un score élevé.
Si l'IA a besoin des deux pour obtenir la bonne réponse, ils partagent le score.

Le résultat est un pourcentage clair : « 90 % Image, 10 % Texte ». Cela nous indique exactement quelle modalité dirige la décision.

Ce qu'ils ont trouvé

Les chercheurs ont testé la CMA de deux manières :

Puzzles fictifs : Ils ont créé un jeu où ils savaient avec certitude que l'IA était censée se reposer uniquement sur l'image, ou uniquement sur le texte. Dans ces tests, la CMA a été une superstar. Elle a correctement identifié l'IA « dépendante de raccourcis » 98 % du temps. D'autres méthodes, qui se contentaient de regarder des pixels ou des mots individuels, se sont confondues et ont échoué à détecter le biais.
Rapports médicaux réels : Ils l'ont testée sur un véritable ensemble de données de radiographies thoraciques et de notes de médecins. Ils ont trouvé des cas où l'IA s'appuyait sur des raccourcis étranges. Par exemple, dans un cas, l'IA diagnostiquait un « nodule » (une masse) parce qu'elle voyait des électrodes d'ECG (fils) sur la radiographie, et non parce qu'elle voyait la masse réelle. Quand la CMA a supprimé les fils (le raccourci d'image), l'IA a changé d'avis. Cela a prouvé que la CMA pouvait trouver des raccourcis dangereux que d'autres outils avaient manqués.

Pourquoi cela importe

La chose la plus importante que ce document démontre est que dire vrai ne suffit pas. Une IA peut donner la bonne réponse pour de mauvaises raisons. Si nous vérifions seulement si la réponse est correcte, nous pourrions manquer le fait que l'IA ignore des informations de sécurité critiques (comme une allergie).

La CMA nous donne un moyen d'auditer le processus de pensée de l'IA. Elle ne nous dit pas seulement ce que l'IA a décidé ; elle nous dit pourquoi elle l'a décidé. C'est crucial pour les situations à enjeux élevés comme la santé, les voitures autonomes ou les décisions juridiques, où nous devons être sûrs que l'IA utilise tous les éléments de preuve à sa disposition, et pas seulement les plus faciles.

Les chercheurs admettent que leur outil demande un peu de puissance de calcul et n'est pas encore parfait, mais c'est une étape majeure. Cela transforme la boîte noire de la prise de décision de l'IA en quelque chose que nous pouvons réellement comprendre et faire confiance, garantissant que lorsqu'une IA dit « Je suis sûre », elle l'est réellement pour les bonnes raisons.

Résumé technique : Attribution de modalité contrefactuelle pour les modèles de langage multimodaux (MLLM)

Problématique

Les modèles de langage multimodaux (MLLM) sont de plus en plus déployés dans des domaines à enjeux élevés, tels que l'aide à la décision clinique, où ils intègrent des informations complémentaires provenant d'images et de textes. Bien que les méthodes d'explicabilité existantes (par exemple, les cartes de saillance, les poids d'attention) identifient avec succès les caractéristiques influentes au sein de modalités individuelles (par exemple, des régions d'image spécifiques ou des jetons textuels), elles ne parviennent pas à répondre à une question fondamentale : quelle modalité conduit réellement une prédiction ?

Les méthodes actuelles opèrent localement au sein de canaux uniques et ne peuvent pas quantifier la contribution relative de modalités entières ou de leurs interactions. Par conséquent, un modèle peut produire un résultat correct en s'appuyant sur un "raccourci" provenant d'une seule modalité tout en ignorant des preuves critiques dans une autre (par exemple, diagnostiquer correctement une pneumonie à partir d'une radiographie mais ignorer une note textuelle concernant une allergie à la pénicilline). Cette dépendance cachée à une modalité masque des schémas de raisonnement non sûrs qui restent invisibles pour les mesures de précision prédictive standard. L'article soutient que l'attribution de modalité est un objectif d'explicabilité distinct et complémentaire de l'attribution de caractéristiques, nécessaire pour l'audit des modèles de fondation multimodaux.

Méthodologie : Attribution de Modalité Contrefactuelle (CMA)

Les auteurs proposent l'Attribution de Modalité Contrefactuelle (CMA), un cadre agnostique au modèle qui quantifie les contributions au niveau de la modalité en combinant des priors de diffusion couplés et la théorie des jeux coopératifs. Le cadre opère en trois étapes :

1. Génération de contrefactuels guidée et diffusion couplée

Contrairement aux méthodes contrefactuelles antérieures qui interviennent sur une seule modalité, la CMA génère des contrefactuels synchronisés uniquement par l'image, uniquement par le texte et multimodaux conjoints au sein d'un cadre d'optimisation unifié.

Priors : La méthode utilise des modèles de diffusion pré-entraînés indépendamment : un modèle de diffusion probabiliste de débruitage (DDPM) pour les images et un modèle de langage de diffusion riemannienne (RDLM) pour le texte.
Synchronisation : Pendant le processus de diffusion inverse, les modèles d'image et de texte sont synchronisés au même instant (timestep). Ils sont conjointement guidés par les gradients d'un classificateur MLLM pré-entraîné pour minimiser une perte de marge de Carlini–Wagner ( $L_{CW}$ ). Cela garantit que les contrefactuels sont réalistes (situés sur la variété des données) et représentent des interventions minimales qui changent la prédiction.
Modes :
- CF image-seule : Le texte est fixé ; l'image est optimisée pour inverser la prédiction.
- CF texte-seul : L'image est fixée ; le texte est optimisé pour inverser la prédiction.
- CF conjoint : Les deux modalités sont optimisées simultanément pour capturer les dépendances inter-modales.

2. Définition de la valeur de coalition

Les contrefactuels générés définissent un jeu coopératif à deux joueurs où les modalités Image ( $I$ ) et Texte ( $T$ ) agissent comme des joueurs. La fonction de valeur $v(S)$ pour une coalition $S \subseteq \{I, T\}$ est définie comme le score de logit assigné à la classe prédite originale $\hat{y}$ lorsque les modalités dans $S$ restent inchangées et que les modalités qui ne sont pas dans $S$ sont remplacées par leurs homologues contrefactuels.
Les quatre valeurs de coalition requises sont :

$v(\{I, T\})$ : Échantillon original $(x_I, x_T)$ .
$v(\{I\})$ : Image originale, Texte contrefactuel $(x_I, x'_T)$ .
$v(\{T\})$ : Image contrefactuelle, Texte original $(x'_I, x_T)$ .
$v(\emptyset)$ : Les deux contrefactuels $(x'_I, x'_T)$ .

3. Attribution par la valeur de Shapley

Le cadre calcule les valeurs de Shapley ( $\theta_I, \theta_T$ ) pour quantifier la contribution marginale de chaque modalité. Pour un jeu à deux joueurs, celles-ci admettent une solution en forme close :
$\theta_I = \frac{1}{2} [v(\{I\}) - v(\emptyset) + v(\{I, T\}) - v(\{T\})]$
$\theta_T = \frac{1}{2} [v(\{T\}) - v(\emptyset) + v(\{I, T\}) - v(\{I\})]$
Les scores d'attribution finaux sont normalisés en pourcentages (Image% et Texte%) pour indiquer quelle modalité conduit principalement la décision.

Principales contributions

Objectif d'explicabilité complémentaire : L'article formule l'attribution de modalité comme un complément nécessaire à l'attribution de caractéristiques, comblant la lacune de compréhension sur quelle modalité conduit une décision.
Nouveau cadre contrefactuel : La CMA est le premier cadre capable de générer des contrefactuels synchronisés, réalistes, uniquement par l'image, uniquement par le texte et conjoints pour les MLLM pré-entraînés en utilisant des priors de diffusion couplés.
Formulation d'attribution rigoureuse : Elle introduit une approche de la théorie des jeux utilisant les valeurs de Shapley pour convertir les contrefactuels multimodaux en scores interprétables qui quantifient les contributions individuelles et les interactions non linéaires inter-modales.
Validation étendue : La méthode est validée sur des benchmarks synthétiques contrôlés et un ensemble de données cliniques réelles, démontrant une performance supérieure aux bases existantes pour identifier les modalités qui dirigent la décision.

Résultats expérimentaux

Les auteurs ont évalué la CMA sur deux benchmarks :

MNIST Multimodal Synthétique : Un benchmark contrôlé avec une dépendance de modalité de vérité terrain connue (variantes biaisées vers l'Image, vers le Texte, et Équilibrées).
OpenI Multiclass : Un ensemble de données de radiographies thoraciques appariées à des rapports de radiologie.

Performance :

Précision : Sur les benchmarks MNIST synthétiques, la CMA a correctement identifié la modalité dirigeante de la décision dans 98 % des cas contrôlés.
Comparaison avec les bases : La CMA surpasse significativement les bases incluant Input $\times$ Gradient, Perturbation SHAP, EAGLE, MM-SHAP et MultiViz. Notamment, MM-SHAP et MultiViz ont atteint respectivement 0 % et 3 % de précision sur les échantillons biaisés vers l'image, échouant à récupérer les biais connus du modèle.
Résultats qualitatifs : Dans l'ensemble de données OpenI, la CMA a révélé qu'un modèle prédisant "Nodule" s'appuyait sur des corrélations spécieuses avec les électrodes d'ECG (visibles sur l'image) plutôt que sur des preuves cliniques. Les contrefactuels texte-seuls n'ont pas réussi à inverser la prédiction car le raccourci de l'image persistait, démontant la nécessité d'une analyse contrefactuelle conjointe.
Étude d'ablation : Des expériences de corruption progressive ont montré que les scores d'attribution de la CMA s'adaptent continuellement à la preuve disponible. À mesure qu'une modalité est corrompue, son attribution chute à 0 %, basculant entièrement vers la modalité intacte, révélant un effondrement unimodal que les mesures de précision ne détectent pas.

Signification et affirmations

L'article affirme que l'attribution de modalité est une dimension d'explicabilité critique et jusqu'ici non traitée pour l'IA multimodale. En allant au-delà des explications au niveau des caractéristiques, la CMA fournit un cadre rigoureux pour auditer si un modèle s'appuie sur des preuves complémentaires ou sur des raccourcis dangereux.

Les auteurs soutiennent que la CMA permet :

La détection des échecs cachés : Identifier les cas où des prédictions correctes reposent sur la mauvaise modalité (par exemple, ignorer des avertissements d'allergie dans le texte).
L'audit du raisonnement inter-modal : Quantifier les interactions non additives entre les modalités que les interventions unimodales indépendantes ne peuvent capturer.
Le déploiement digne de confiance : Fournir un mécanisme pour vérifier que les décisions à enjeux élevés (par exemple, en soins de santé) sont guidées par la combinaison appropriée de sources de preuves.

Le travail conclut que bien que la CMA opère actuellement au niveau de la modalité et entraîne des coûts de calcul dus à la génération par diffusion, il établit une approche fondamentale pour l'audit systématique des modèles de fondation multimodaux dans des applications critiques pour la sécurité.