Beyond Attribution: Unified Concept-Level Explanations

Ce papier présente UnCLE, un cadre général qui étend les techniques d'explication agnostiques au modèle pour fournir des explications unifiées au niveau des concepts sous plusieurs formes (attributions, conditions suffisantes et contre-factuels), offrant ainsi une plus grande fidélité et une diversité de réponses aux besoins des utilisateurs pour divers modèles multimodaux.

L'essentiel

Imaginez que vous essayez de comprendre pourquoi un ami très intelligent (mais un peu mystérieux) a pris une décision étrange, comme refuser de vous prêter sa voiture.

Si vous demandez à un expert en intelligence artificielle classique, il pourrait vous dire : « Il a refusé parce que le mot « pluie » était dans votre message, et le mot « urgent » aussi. » C'est utile, mais un peu technique et froid. C'est comme si on vous expliquait une décision en listant des lettres de l'alphabet.

C'est là qu'intervient le nouveau framework UnCLE, présenté dans cet article. Voici son idée en termes simples :

1. Le Problème : Les Explications Trop « Bricolées »

Actuellement, les outils pour expliquer les décisions de l'IA fonctionnent souvent comme un puzzle mal coupé. Ils regardent l'image ou le texte et disent : « C'est ce petit carré de pixels ici, et ce mot bizarre là, qui ont causé la décision. »
C'est comme essayer d'expliquer pourquoi un film est triste en vous montrant des pixels flous à l'écran. C'est vrai techniquement, mais ça ne parle pas à votre cerveau humain. De plus, ces outils ne peuvent souvent dire que « c'est à cause de ça » (attribution), mais pas « si on changeait ça, le résultat serait différent » (contre-exemple) ou « il faut absolument ça pour que ça marche » (condition suffisante).

2. La Solution d'UnCLE : Passer du « Pixel » au « Concept »

UnCLE est comme un traducteur universel qui transforme le langage des pixels en langage humain.

Au lieu de regarder des petits carrés de pixels, UnCLE demande à une IA très puissante (un « grand modèle pré-entraîné ») de dire : « Ah, dans cette image, je vois un chien, un parapluie et une pluie. »
Ensuite, au lieu de gommer des pixels au hasard, UnCLE demande à cette IA de modifier les concepts : « Et si on enlevait le chien ? » ou « Et si on ajoutait un parapluie ? ».

L'analogie du Chef Cuisinier :

• L'ancienne méthode (LIME, Anchors, etc.) : Le chef vous dit : « J'ai ajouté 0,5g de sel ici et 0,2g de poivre là. C'est pour ça que c'est salé. » (C'est précis, mais vous ne comprenez pas le goût global).
• La méthode UnCLE : Le chef vous dit : « J'ai mis du poisson frais et des citrons. C'est pour ça que c'est un plat de poisson. Si je retire le poisson, ce n'est plus un plat de poisson. » (C'est compréhensible et utile).

3. Les Trois Super-Pouvoirs d'UnCLE

UnCLE ne se contente pas de dire « c'est à cause de ça ». Il peut répondre à trois types de questions que les humains posent naturellement :

1. L'Attribution (Le « Pourquoi ») : « Pourquoi as-tu classé cette photo comme un "chat" ? »
   • Réponse UnCLE : « Parce qu'il y a des oreilles pointues et une queue. » (Au lieu de dire : « à cause de ces pixels gris ici »).
2. La Condition Suffisante (Le « Garantie ») : « Qu'est-ce qu'il faut absolument pour que tu dises "chat" ? »
   • Réponse UnCLE : « Tant qu'il y a des oreilles pointues et une queue, peu importe la couleur, je dirai "chat". »
3. Le Contre-Exemple (Le « Et si... ») : « Comment changer cette photo pour que tu dises "chien" ? »
   • Réponse UnCLE : « Si on remplace les oreilles pointues par des oreilles tombantes, je changerai d'avis. »

4. Pourquoi c'est génial ?

L'article montre que cette méthode est :

• Plus fidèle : Elle reflète vraiment comment l'IA pense, car elle teste des changements réels (enlever un objet, changer un concept) plutôt que de deviner sur des pixels.
• Plus flexible : Elle fonctionne avec n'importe quel modèle (texte, image, ou les deux), comme un adaptateur universel.
• Plus humaine : Les utilisateurs comprennent mieux les explications. Dans les tests, les gens ont mieux réussi à prédire les décisions de l'IA quand on leur donnait des explications basées sur des concepts (comme « un chien ») plutôt que sur des pixels.

En Résumé

UnCLE est comme un pont entre la logique froide des machines et la compréhension intuitive des humains. Il prend les outils existants (qui sont souvent limités et techniques) et les élève au niveau des idées et des objets que nous utilisons au quotidien.

Au lieu de vous montrer les engrenages d'une montre pour vous expliquer l'heure, UnCLE vous dit simplement : « Regardez les aiguilles, c'est l'heure. » C'est plus simple, plus clair, et surtout, beaucoup plus utile pour nous, les humains.

Résumé technique

1. Problématique

L'explicabilité des modèles d'apprentissage automatique (XAI) fait face à un double défi :

• Limites des méthodes agnostiques actuelles : Les méthodes agnostiques au modèle (comme LIME, SHAP, Anchors) sont flexibles et fonctionnent sur n'importe quelle architecture, mais elles opèrent généralement au niveau des fonctionnalités de bas niveau (pixels, mots). Ces explications sont souvent difficiles à interpréter pour les utilisateurs finaux.
• Limites des méthodes basées sur les concepts : Les approches basées sur les concepts (qui utilisent des idées abstraites comme "un chien" ou "la colère") sont plus fidèles et compréhensibles. Cependant, les méthodes existantes sont limitées en portée : elles se concentrent presque exclusivement sur les explications par attribution (importance des concepts) et négligent des formes d'explication plus riches et cruciales comme les conditions suffisantes (règles garantissant une prédiction) et les contre-factuels (comment modifier l'entrée pour changer la prédiction).

Il existe donc un besoin critique d'un cadre capable d'unifier les avantages des méthodes agnostiques (flexibilité) avec ceux des approches basées sur les concepts (fidélité et interprétabilité), tout en supportant une diversité de formes d'explication.

2. Méthodologie : Le Framework UnCLE

Les auteurs proposent UnCLE (Unified Concept-Level Explanations), un cadre général et léger conçu pour élever les méthodes d'explication locales agnostiques existantes du niveau des fonctionnalités au niveau des concepts, sans modifier leurs algorithmes de base.

Le fonctionnement de UnCLE repose sur trois étapes clés :

1. Production de prédicats au niveau des concepts :

   • Au lieu de définir des prédicats sur des pixels ou des mots, UnCLE utilise un modèle d'extraction de concepts pour identifier des concepts de haut niveau pertinents (ex: objets dans une image, thèmes dans un texte).
   • Chaque concept devient un prédicat binaire ($p_c$) indiquant si l'entrée satisfait ce concept.

2. Perturbation au niveau des concepts (Le cœur de l'innovation) :

   • C'est ici que réside la principale contribution technique. Pour perturber les concepts (c'est-à-dire créer des échantillons où un concept est présent ou absent), UnCLE utilise des modèles pré-entraînés de grande taille (LLM pour le texte, modèles de diffusion pour l'image) comme modèles de mapping "Concept-Fonctionnalité".
   • Au lieu de masquer simplement des pixels ou des mots (ce qui crée du bruit ou des artefacts), le modèle génératif réécrit l'entrée pour qu'elle satisfasse ou ne satisfasse pas le concept cible tout en restant cohérente sémantiquement.
   • Exemple : Pour une image, au lieu de masquer une zone, le modèle de diffusion régénère l'image sans l'objet "enfant" tout en gardant le reste de la scène intact.

3. Génération d'explication :

   • UnCLE réutilise les algorithmes d'apprentissage existants (régression linéaire pour LIME/SHAP, arbres de décision pour LORE, KL-LUCB pour Anchors) mais les applique sur les représentations de prédicats de concepts plutôt que sur les fonctionnalités brutes.
   • Cela permet de générer unifiéement trois formes d'explications :
     • Attributions : Importance des concepts.
     • Conditions suffisantes : Règles minimales garantissant la prédiction.
     • Contre-factuels : Modifications nécessaires pour changer la prédiction.

3. Contributions Clés

• Cadre Unifié (UnCLE) : Un framework léger qui permet d'élever n'importe quelle méthode d'explication locale agnostique existante vers le niveau des concepts avec un effort minimal de l'utilisateur.
• Utilisation de Modèles Génératifs pour la Perturbation : Proposition d'utiliser des grands modèles pré-entraînés pour effectuer des perturbations sémantiquement fidèles au niveau des concepts, comblant ainsi le fossé entre la perturbation de fonctionnalités et la perturbation de concepts.
• Diversité des Formes d'Explication : UnCLE est le premier à fournir systématiquement des attributions, des conditions suffisantes et des contre-factuels basés sur les concepts dans un cadre agnostique.
• Validation Empirique : Démonstration que cette approche générique surpasse les méthodes conçues spécifiquement pour les concepts.

4. Résultats Expérimentaux

Les auteurs ont évalué UnCLE sur des tâches de classification de texte, d'image et multimodale (utilisant des modèles comme BERT, YOLOv8, ViT, ResNet-50, Qwen2.5-VL).

• Fidélité des Perturbations : Les modèles génératifs utilisés (DeepSeek-V3, Blended Latent Diffusion) ont atteint une précision moyenne de 96,8 % pour générer des échantillons respectant les contraintes de concepts, prouvant la fiabilité du mapping concept-fonctionnalité.
• Amélioration de la Fidélité des Explications :
  • Par rapport aux versions originales (LIME, Anchors, LORE, Kernel SHAP), UnCLE a amélioré la fidélité moyenne de 56,8 %.
  • En termes de métriques spécifiques : augmentation de la couverture (coverage) et de la précision (precision) pour Anchors et LORE, et amélioration significative de l'AOPC (Area Over most relevant first perturbation curve) pour LIME et KSHAP.
• Comparaison avec l'État de l'Art :
  • UnCLE a surpassé les méthodes de pointe spécifiquement conçues pour les concepts (TBM, LACOAT pour le texte ; EAC, ConceptLIME pour l'image) en termes de fidélité sur toutes les tâches.
  • Les versions "UnCLE unifiées" (utilisant toutes les formes d'explication) ont dépassé les versions augmentées simples de 4,52 % en fidélité.
• Évaluation Humaine : Une étude avec 18 sujets a montré que les explications UnCLE (conditions suffisantes et contre-factuels) aidaient les utilisateurs à prédire le comportement du modèle avec une précision supérieure de 8,1 % à 14,2 % par rapport aux méthodes basées uniquement sur l'attribution (EAC).
• Efficacité : Bien que l'utilisation de modèles génératifs ajoute un temps de calcul, celui-ci reste acceptable et justifié par la qualité supérieure des explications. Le framework est robuste au choix du modèle génératif sous-jacent.

5. Signification et Impact

Ce travail est significatif car il démontre qu'il n'est pas nécessaire de concevoir des méthodes d'explication basées sur les concepts "from scratch" (de zéro). Au lieu de cela, il est possible d'élever les méthodes agnostiques existantes vers le niveau des concepts de manière légère et efficace.

• Interprétabilité : En passant des pixels/mots aux concepts (objets, idées), les explications deviennent beaucoup plus intuitives pour les humains.
• Flexibilité : UnCLE offre une boîte à outils unique où l'utilisateur peut choisir le type d'explication le plus adapté à son besoin (comprendre l'importance, anticiper une décision, ou savoir comment la modifier).
• Généralité : La méthode s'applique à une large gamme de modèles (texte, image, multimodal) et de tâches, rendant l'explicabilité basée sur les concepts accessible et performante pour des systèmes complexes en production.

En résumé, UnCLE comble le fossé entre la flexibilité des méthodes agnostiques et la richesse sémantique des approches basées sur les concepts, offrant un nouveau standard pour l'explicabilité des modèles d'IA.