GIFT: A Framework Towards Global Interpretable Faithful Textual Explanations of Vision Classifiers

Le papier présente GIFT, un cadre post-hoc qui génère des explications textuelles globales, interprétables et fidèles pour les classificateurs visuels en synthétisant des contre-factuels locaux via des modèles vision-langage et en les vérifiant par des interventions causales.

L'essentiel

Imaginez que vous avez un ami très intelligent, mais très mystérieux, qui est capable de regarder des milliers de photos et de dire instantanément : « C'est un chat », « C'est une voiture », ou « Cette personne a l'air vieille ». Le problème ? Personne ne sait pourquoi il prend ces décisions. Il pourrait se fier à des indices bizarres, comme le fait qu'il y ait un chat dans le fond de la photo, ou qu'il y ait des lunettes sur le visage, même si ce n'est pas la vraie raison.

C'est là qu'intervient GIFT (Global, Interpretable, Faithful, Textual). C'est un nouveau cadre de travail conçu par des chercheurs pour devenir le « détective » de ces modèles d'intelligence artificielle.

Voici comment GIFT fonctionne, expliqué simplement avec des analogies :

1. Le Problème : L'IA est une boîte noire

Les méthodes actuelles pour comprendre l'IA sont souvent comme des cartes de chaleur (des taches rouges sur une photo). Elles disent : « Regarde ici, c'est important ! » Mais elles ne vous disent pas pourquoi c'est important. De plus, elles ne regardent souvent qu'une seule photo à la fois (local), alors que nous voulons comprendre la logique globale du modèle.

2. La Solution GIFT : Le détective en 4 étapes

GIFT fonctionne comme un enquêteur privé qui suit une méthode rigoureuse en quatre étapes :

Étape 1 : Le « Et si... ? » (Les Contrefactuels)

Imaginez que vous regardez une photo d'un homme avec des lunettes et que l'IA dit : « C'est un vieil homme ».
GIFT demande à un générateur d'images : « Et si on enlevait les lunettes ? » ou « Et si on ajoutait des rides ? ».

• L'analogie : C'est comme si vous modifiiez une scène de crime pour voir ce qui change le verdict du juge. Si vous enlevez les lunettes et que l'IA change son avis (« Ah, c'est un jeune homme ! »), alors GIFT sait que les lunettes étaient un indice crucial pour l'IA.
• Le but : Créer des milliers de ces « scénarios alternatifs » pour voir ce qui fait basculer la décision de l'IA.

Étape 2 : Le Traducteur (Du Visuel au Texte)

Jusqu'ici, GIFT a juste des images modifiées. C'est bien, mais difficile à lire pour un humain.
GIFT utilise alors un modèle de langage (comme un traducteur très doué) pour décrire les changements.

• L'analogie : Au lieu de vous montrer deux photos côte à côte, GIFT vous dit : « Dans la première photo, il y avait un chat rouge. Dans la seconde, le chat est devenu bleu, et l'IA a changé d'avis. »
• Le but : Transformer des pixels en phrases simples et compréhensibles.

Étape 3 : Le Chef d'Orchestre (L'IA qui Réfléchit)

GIFT a maintenant des centaines de petites phrases comme « Le chat est devenu bleu » ou « La voiture a disparu ». C'est le chaos !
Une grande intelligence artificielle (un LLM) lit toutes ces phrases et cherche des motifs récurrents.

• L'analogie : Imaginez un détective qui lit des milliers de rapports de police. Au début, c'est du bruit. Mais soudain, il remarque : « Attendez, dans 80% des cas où l'IA se trompe, il y a un véhicule sur la gauche de la route. »
• Le but : Synthétiser toutes ces petites observations pour former une règle globale (ex: « L'IA pense qu'on ne peut pas tourner à droite s'il y a beaucoup de trafic à gauche »).

Étape 4 : Le Test de Vérité (La Vérification)

C'est l'étape la plus importante. Parfois, l'IA peut se tromper en déduisant des règles (elle peut inventer des liens qui n'existent pas).
GIFT ne fait pas confiance aveuglément. Il va tester sa propre hypothèse.

• L'analogie : Si GIFT dit « L'IA déteste les voitures rouges », il va prendre une photo avec une voiture rouge, la modifier pour qu'elle soit bleue, et voir si l'IA change d'avis. S'il change d'avis, la règle est vraie (c'est une cause réelle). Si l'IA ne change pas d'avis, alors GIFT se rend compte qu'il s'est trompé et rejette cette règle.
• Le but : S'assurer que l'explication est fidèle à la vraie logique de la machine, et pas juste une coïncidence.

Pourquoi est-ce génial ? (Les Résultats)

Grâce à cette méthode, GIFT a découvert des choses surprenantes que les humains n'auraient jamais trouvées seuls :

1. Sur des visages : Il a découvert que l'IA associait les lunettes à la « vieillesse », ce qui est un biais étrange (peut-être parce que dans les données d'entraînement, les personnes âgées portaient souvent des lunettes).
2. Sur la conduite : Il a révélé qu'un modèle de conduite autonome apprenait une règle fausse : « Si je vois des voitures sur la gauche, je ne peux pas tourner à droite ». Ce n'est pas logique ! C'est un biais caché que GIFT a mis en lumière.

En résumé

GIFT, c'est comme donner un miroir à l'intelligence artificielle.
Au lieu de simplement regarder ce que l'IA fait, GIFT la force à expliquer ses choix en modifiant la réalité (créer des alternatives), en traduisant ces modifications en langage humain, et en testant rigoureusement si ces explications sont vraies.

C'est un outil puissant pour rendre l'IA plus transparente, plus sûre et moins sujette à des erreurs bizarres, surtout dans des domaines critiques comme la médecine ou la conduite autonome.

Résumé technique

1. Problématique et Contexte

L'explicabilité des modèles de vision par ordinateur (Deep Learning) est cruciale pour leur déploiement dans des domaines à haut risque (conduite autonome, imagerie médicale). Cependant, les méthodes existantes souffrent de limitations majeures :

• Manque de fidélité (Faithfulness) : Les cartes de saillance ou les méthodes basées sur des concepts corrèlent souvent des caractéristiques sans lien causal avec la décision du modèle.
• Portée locale : Les explications contrefactuelles (modifications minimales d'images) sont intrinsèquement locales et difficiles à généraliser à l'échelle du modèle.
• Ambiguïté sémantique : Les changements visuels générés sont souvent difficiles à interpréter pour un humain sans traduction textuelle, et une seule modification peut avoir plusieurs causes plausibles.

L'objectif est de combler le fossé entre le raisonnement contrefactuel local et l'interprétabilité globale, en fournissant des explications Textuelles, Fidèles, Interprétables et Globales.

2. Méthodologie : Le Framework GIFT

GIFT est un framework post-hoc (après entraînement) qui fonctionne en quatre étapes séquentielles pour analyser un classifieur de vision $M$.

Étape 1 : Génération d'explications visuelles locales et fidèles

Le framework génère des paires d'images (image originale $x$, image contrefactuelle $x'$) où le modèle change de prédiction ($M(x) \neq M(x')$).

• Outil : Utilisation d'un générateur contrefactuel (ex: OCTET, ACE) qui modifie sémantiquement l'image de manière minimale pour franchir la frontière de décision.
• Garantie : Ces explications sont fidèles par définition car elles reposent directement sur la réponse du modèle cible, évitant les approximations par des modèles de substitution (surrogates).

Étape 2 : Traduction visuelle vers le langage naturel (Change Captioning)

Les différences visuelles entre $x$ et $x'$ sont traduites en descriptions textuelles.

• Outil : Un modèle Vision-Language (VLM) ou un modèle de "Change Captioning" (ex: CLIP4IDC, Pixtral).
• Fonction : Le modèle décrit les changements sémantiques (ex: "un objet rouge a été ajouté", "la texture est devenue métallique").
• Défi : Cette étape introduit du bruit et des ambiguïtés, car le texte est une compression de l'information visuelle.

Étape 3 : Agrégation et inférence d'explications globales

Les descriptions textuelles locales (bruyantes et ambiguës) sont agrégées pour découvrir des règles globales.

• Outil : Un Grand Modèle de Langage (LLM) comme ChatGPT ou Qwen.
• Processus : Le LLM analyse l'ensemble des paires (changement + décision du modèle) pour identifier des motifs récurrents, désambiguïser les explications locales et proposer des hypothèses globales (ex: "Le modèle classe en classe 1 si un objet rouge métallique est présent").
• Innovation : Le LLM ne connaît pas le modèle $M$ directement, mais raisonne uniquement sur les preuves contrefactuelles agrégées.

Étape 4 : Vérification causale des hypothèses

C'est l'étape critique qui assure la fidélité. Les hypothèses globales sont validées par des interventions causales.

• Méthode : Pour chaque concept extrait (ex: "objet rouge"), le framework utilise un modèle d'édition d'images guidé par le texte pour insérer ou supprimer ce concept sur un jeu de validation.
• Métriques causales :
  1. CaCE (Causal Concept Effect) : Mesure l'effet moyen de l'ajout/suppression du concept sur la probabilité de la classe.
  2. PNS (Probability of Necessary and Sufficient Cause) : Estime la probabilité que le concept soit à la fois nécessaire et suffisant pour la décision.
• Filtrage : Seules les explications dont les interventions modifient significativement la décision du modèle sont retenues. Cela élimine les corrélations fallacieuses découvertes par le LLM.

3. Contributions Clés

1. Premier framework d'explications globales textuelles et contrefactuelles : GIFT est le premier à combiner la génération contrefactuelle locale avec un raisonnement global en langage naturel, tout en assurant la fidélité via la vérification causale.
2. Synergie entre signaux locaux et raisonnement global : L'approche combine la causalité locale (les contrefactuels) avec la capacité de synthèse des LLMs pour découvrir des règles complexes sans concepts pré-définis.
3. Outils de vérification causale : Introduction d'une étape de validation rigoureuse utilisant des interventions d'images et des métriques (CaCE, PNS) pour garantir que les explications textuelles correspondent réellement au mécanisme de décision du modèle.
4. Validation sur des cas d'usage variés : Démonstration sur des données synthétiques (CLEVR), réalistes (CelebA) et complexes (BDD-OIA pour la conduite autonome).

4. Résultats Expérimentaux

Les expériences ont été menées sur trois datasets :

• CLEVR (Règles de classification) : GIFT a réussi à retrouver la règle de vérité terrain (ex: "présence d'un objet cyan métallique") dans 11 cas sur 12 pour différents architectures (ResNet, ViT). L'étape de vérification (Stage 4) a été cruciale pour trier les hypothèses générées par le LLM.
• CelebA (Âge : Jeune/Vieux) : Le framework a identifié des attributs attendus (rides, cheveux blancs) mais aussi des biais inattendus (ex: la présence de lunettes est corrélée à la classe "Vieux" dans les données d'entraînement, avec un PNS de 16%). L'agrégation de concepts (ex: "Lunettes + Rides") a permis d'augmenter significativement la puissance explicative.
• BDD-OIA (Conduite autonome) : GIFT a détecté un biais injecté dans un classifieur de virage à droite : le modèle refusait le virage si des véhicules étaient présents dans la voie de gauche, même si cela n'avait aucun sens logique.
  • Comparaison : Contrairement aux méthodes basées uniquement sur des hypothèses humaines ou générées par LLM sans guidance contrefactuelle, GIFT a été le seul à identifier ce biais spécifique. Les ablations montrent que sans les étapes 1 et 2 (contrefactuels et légendes de changement), le LLM ne peut pas découvrir ce biais inattendu.

5. Signification et Impact

• Fiabilité accrue : En ancrant les explications textuelles dans des interventions causales, GIFT réduit le risque d'interprétations erronées basées sur des corrélations spuriées.
• Découverte de biais : Le framework est capable de révéler des biais non intuitifs que les humains ou les méthodes traditionnelles manqueraient, ce qui est vital pour la sécurité des systèmes autonomes.
• Flexibilité : GIFT est agnostique au modèle (fonctionne avec n'importe quel classifieur différentiable) et peut être instantié avec différents générateurs contrefactuels et LLMs, s'adaptant à divers domaines.
• Limites et Perspectives : La méthode dépend de la qualité des modèles génératifs (pour les contrefactuels et l'édition d'images) et du coût computationnel (principalement dû à la génération d'images). Les travaux futurs visent à automatiser l'exploration de l'espace des hypothèses et à améliorer la précision des éditeurs d'images pour des scènes complexes.

En résumé, GIFT propose une approche rigoureuse et fondée sur la causalité pour transformer les "boîtes noires" de la vision par ordinateur en systèmes dont les règles de décision peuvent être comprises, vérifiées et expliquées en langage naturel.