💻 computer science

Alike Parts: A Feature-Informed Approach to Local and Global Prototype Explanations

Ce papier présente « Alike Parts », un cadre qui améliore les explications basées sur des prototypes en utilisant des scores d'importance des caractéristiques pour mettre en évidence les caractéristiques pertinentes partagées afin d'assurer l'interprétabilité locale et de promouvoir la diversité des caractéristiques dans la sélection globale de prototypes sans compromettre la fidélité des prédictions.

Auteurs originaux : Jacek Karolczak, Jerzy Stefanowski

Publié 2026-05-22

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Jacek Karolczak, Jerzy Stefanowski

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous possédiez un ordinateur très intelligent, mais mystérieux, une « Boîte Noire » qui prend des décisions — comme approuver un prêt, diagnostiquer une maladie ou trier des fruits. Vous lui faites confiance car il est précis, mais vous ne pouvez pas voir comment il pense. Pour remédier à cela, les scientifiques utilisent souvent des prototypes.

Considérez un prototype comme un « exemple représentatif ». Si l'ordinateur dit : « Cette pomme est mûre », il peut pointer vers une photo spécifique d'une pomme rouge parfaite issue de ses données d'entraînement et dire : « Je dis cela parce que cela ressemble exactement à celle-ci. »

Le Problème :
Parfois, pointer vers l'exemple entier n'est pas utile. Si le prototype est une photo d'un panier de fruits contenant 20 articles différents, ou un dossier médical avec 50 chiffres différents, c'est accablant. Vous ne savez pas quelle partie spécifique de cet exemple comptait réellement. Était-ce la couleur ? Le poids ? L'âge ? L'ordinateur cache les indices les plus importants au milieu d'une mer de données.

La Solution : « Parties Similaires »
Les auteurs de cet article proposent une nouvelle façon d'expliquer ces décisions appelée « Parties Similaires ».

Au lieu de vous montrer le prototype entier, leur méthode agit comme un surligneur. Elle examine l'élément spécifique que vous avez interrogé (l'« Instance ») et l'exemple représentatif avec lequel il a été comparé (le « Prototype »). Ensuite, elle utilise un système de notation spécial pour identifier les caractéristiques partagées que l'élément et le prototype ont en commun et que l'ordinateur juge les plus importantes pour la décision.

L'Analogie : Imaginez que vous et un ami portez tous deux un chapeau rouge. Si l'ordinateur décide que vous êtes « Équipe Rouge », il ne devrait pas vous montrer la tenue complète de votre ami (jean, chaussures, veste). Il devrait surligner seulement les chapeaux rouges que vous partagez tous les deux, car ce sont les « Parties Similaires » qui ont réellement provoqué la décision.

Comment ils l'ont fait (La Magie en Deux Étapes) :

Explication Locale (Le Surligneur) :
Lorsqu'il explique une décision unique, le système calcule quelles caractéristiques sont « importantes » à la fois pour votre élément et pour le prototype. Il crée ensuite un masque qui cache tout le reste, ne vous montrant que les caractéristiques partagées et critiques. Cela vous empêche de vous laisser distraire par des détails non pertinents.
Explication Globale (L'Équipe Diversifiée) :
Habituellement, lorsque les ordinateurs sélectionnent un ensemble de prototypes pour représenter l'ensemble du système, ils cherchent simplement ceux qui sont mathématiquement les plus proches des données. Les auteurs ont changé les règles. Ils ont dit à l'ordinateur : « Ne choisissez pas seulement les exemples les plus proches ; choisissez des exemples qui couvrent une diversité de caractéristiques importantes ».
- L'Analogie : Si vous constituez une équipe d'experts pour expliquer un sujet complexe, vous ne voulez pas cinq experts qui connaissent exactement la même chose. Vous voulez un expert sur le budget, un sur le calendrier et un sur la conception. En forçant l'ordinateur à choisir une « équipe diversifiée » de prototypes, ils s'assurent que lorsque vous examinez l'ensemble, vous voyez une plus grande variété de raisons pour lesquelles les décisions sont prises.

Ce qu'ils ont découvert :
Les chercheurs ont testé cela sur six ensembles de données différents (comme prédire la qualité du vin, le risque de diabète ou la satisfaction des passagers).

Cela n'a pas cassé l'ordinateur : L'ajout de ces nouvelles règles pour sélectionner les prototypes n'a pas rendu l'ordinateur moins précis. En fait, dans de nombreux cas, la version « prototype » simplifiée de l'ordinateur a fonctionné aussi bien que l'original complexe.
Cela a trouvé de meilleurs indices : Dans un test avec des données sur le diabète, l'ancienne méthode ne mettait en évidence que les niveaux de « Glucose ». La nouvelle méthode « Parties Similaires » a également mis en évidence l'« Âge » et les « Antécédents familiaux », qui sont en réalité plus pertinents sur le plan médical.
Cela a montré plus de variété : La nouvelle méthode a assuré que l'ensemble des prototypes utilisés pour expliquer le système couvrait différents types de caractéristiques importantes, plutôt que de répéter simplement les mêmes quelques indices encore et encore.

En Résumé :
Cet article introduit une façon de cesser de montrer aux utilisateurs « l'image entière et désordonnée » et de commencer à leur montrer les « indices spécifiques et partagés » qui ont réellement conduit à la décision. Cela rend les explications de l'IA plus claires en mettant en évidence les « Parties Similaires » et assure que la bibliothèque d'exemples de l'IA est suffisamment diversifiée pour expliquer différents types de décisions sans perdre en précision.

Résumé Technique : PARTIES SIMILAIRES : UNE APPROCHE INFORMÉE PAR LES CARACTÉRISTIQUES POUR LES EXPLICATIONS DE PROTOTYPES LOCAUX ET GLOBAUX

Énoncé du Problème
Les explications basées sur les prototypes offrent une méthode intuitive, fondée sur des exemples, pour interpréter les classificateurs d'apprentissage automatique de type boîte noire en reliant les prédictions à des instances d'entraînement représentatives. Cependant, une limitation significative existe : bien que les prototypes fournissent une vue d'ensemble, ils manquent souvent de granularité au niveau des caractéristiques. Les utilisateurs peinent à identifier quelles caractéristiques spécifiques au sein d'un prototype sont les plus pertinentes pour une prédiction, ce qui entraîne une surcharge cognitive lorsqu'ils traitent des données tabulaires de haute dimension. De plus, la sélection globale de prototypes privilégie souvent la distribution spatiale ou la minimisation de la distance sans garantir la diversité des attributions de caractéristiques des prototypes sélectionnés, risquant ainsi de manquer des frontières de décision critiques et diversifiées.

Méthodologie
Les auteurs proposent un cadre intégrant des scores d'importance des caractéristiques à deux niveaux distincts pour combler ces lacunes : le raffinement des explications locales et l'augmentation de la sélection globale de prototypes.

Explications Locales : « Parties Similaires »
L'article introduit une méthode pour identifier les « parties similaires », définies comme les sous-ensembles de caractéristiques les plus pertinents et partagés entre une instance classifiée ( $x_i$ ) et son prototype le plus proche ( $p_j$ ).
- Processus : Des scores d'importance des caractéristiques ( $\phi$ ) sont calculés pour l'instance et le prototype à l'aide d'estimateurs agnostiques du modèle ou spécifiques au modèle (par exemple, Tree SHAP, Tree Interpreter).
- Alignement : La méthode calcule un vecteur de poids ( $w$ ) représentant la similitude de l'importance entre l'instance et le prototype. Cela est réalisé via un opérateur de similitude ( $\circ$ ), tel que le produit de Hadamard (multiplication élément par élément), les distances $l_1$ ou $l_2$ élément par élément.
- Masquage : Un masque binaire est généré pour mettre en évidence les caractéristiques dont l'alignement d'importance dépasse un seuil. Les stratégies incluent le seuillage moyen ou la sélection adaptative Top- $k$ (par exemple, $k = \lceil\sqrt{d}\rceil$ ou $k = \lceil\log(d)\rceil$ ).
- Sortie : Cela oriente l'attention de l'utilisateur vers un sous-ensemble limité et hautement pertinent de caractéristiques partagées par l'instance et le prototype, plutôt que de présenter l'ensemble du vecteur de caractéristiques.
Explications Globales : Fonction Objectif Augmentée
Les auteurs modifient la fonction objectif standard de sélection de prototypes pour promouvoir activement la diversité dans les attributions de caractéristiques.
- Objectif Standard : Les approches traditionnelles de $k$ -médoides minimisent la distance $d(x_i, p_j)$ entre les instances d'entraînement et leurs prototypes les plus proches.
- Objectif Augmenté : Les auteurs introduisent un terme d'importance des caractéristiques ( $f_i$ ) dérivé des scores d'alignement utilisés dans la méthode locale. La nouvelle fonction objectif est :
  $f(P) = \sum_{i=1}^{|S|} \min_{p_j \in P} (d(x_i, p_j) + \beta \cdot f_i(x_i, p_j))$
  Ici, $\beta$ agit comme un paramètre de compromis entre la distance métrique et l'alignement de l'importance des caractéristiques. Cela encourage la sélection de prototypes qui non seulement couvrent l'espace des données, mais représentent également des sous-ensembles diversifiés de caractéristiques importantes.

Contributions Clés

Identification des Parties Similaires : Une méthode novatrice pour générer des masques binaires mettant en évidence les caractéristiques partagées et à haute importance entre une instance et son prototype le plus proche, améliorant l'interprétabilité locale.
Sélection de Prototypes Diversifiée par les Caractéristiques : Une extension des algorithmes de génération de prototypes (spécifiquement G-KM, SM-A et A-PETE) qui intègre l'importance des caractéristiques dans la boucle d'optimisation pour garantir une diversité globale des attributions de caractéristiques.
Évaluation Complète : L'étude évalue plusieurs algorithmes de génération de prototypes avec de nouvelles fonctions d'évaluation, explore un ensemble plus large d'algorithmes d'importance des caractéristiques (Tree SHAP, Tree Interpreter) et mène une analyse de sensibilité approfondie sur les hyperparamètres (par exemple, $\beta$ , opérateurs de similitude, stratégies de masquage).
Agnosticisme du Modèle : Le cadre est conçu pour être compatible avec divers composants sous-jacents, bien que les expériences se concentrent sur les ensembles Random Forest et les métriques de distance basées sur les arbres.

Résultats Expérimentaux
Des expériences ont été menées sur six jeux de données de référence (Qualité des Pommes, Pluie en Australie, Cancer du Sein, Diabète, Satisfaction des Passagers, Qualité du Vin) en utilisant Random Forest comme modèle boîte noire.

Fidélité : Le processus de sélection augmenté a maintenu, et dans plusieurs cas augmenté, la fidélité de prédiction du modèle de substitution 1-Voisin le Plus Proche (1-NN) par rapport à la sélection de prototypes originale (brute). L'analyse statistique (test de rangs signés de Wilcoxon) a indiqué une tendance positive vers une fidélité améliorée ( $p \approx 0.068$ ) et une amélioration significative par rapport aux bases de référence interprétables standard telles que Naive Bayes, la Régression Logistique et les Arbres de Décision ( $p < 0.05$ ).
Diversité des Caractéristiques : L'approche informée par l'importance des caractéristiques (FI) a réussi à identifier des prototypes avec une plus grande diversification des caractéristiques. Par exemple, dans le jeu de données Diabète, la méthode informée par FI a mis en évidence des caractéristiques cliniquement pertinentes (Âge, Fonction de Pedigree du Diabète) que la méthode basée uniquement sur la distance brute avait manquées.
Sensibilité des Hyperparamètres : Le produit de Hadamard s'est révélé être la métrique de similitude la plus efficace sur l'ensemble des jeux de données. L'étude a noté que, bien que certaines tendances soient globales, un réglage sur mesure des hyperparamètres (comme l'ignorance de la direction ou la normalisation) restait nécessaire pour des jeux de données spécifiques.
Fréquence d'Activation : L'analyse des fréquences d'activation des caractéristiques a confirmé que l'objectif informé par FI réduit la variance dans l'utilisation des caractéristiques, forçant la sélection d'un ensemble de prototypes plus diversifié.

Signification et Revendications
L'article affirme que l'intégration de l'importance des caractéristiques dans la sélection de prototypes ne compromet pas la fidélité du modèle ; au contraire, la recherche d'attributions de caractéristiques diversifiées peut être complémentaire à la couverture basée sur la distance. La signification principale réside dans le comblement du fossé entre les exemples de prototypes de haut niveau et le raisonnement sur les caractéristiques de bas niveau. En identifiant les « parties similaires », la méthode guide l'attention de l'utilisateur vers la rationale spécifique partagée entre une instance et son prototype, répondant ainsi aux défis d'interprétabilité des données tabulaires de haute dimension. Les auteurs soulignent que cette approche équilibre l'interprétabilité et la diversité, améliorant à la fois les explications locales et le processus de sélection globale de prototypes sans nécessiter de modifications à la logique interne du modèle boîte noire sous-jacent.

Les auteurs notent modestement que, bien que la méthode améliore la qualité de l'explication (via des métriques de substitution comme la fidélité et la diversité des caractéristiques), l'hypothèse centrale — que les « parties similaires » améliorent la compréhension réelle de l'utilisateur — nécessite une validation future par le biais d'études formelles d'interaction homme-machine. De plus, bien que l'implémentation actuelle se concentre sur les ensembles d'arbres, la conception modulaire permet une adaptation à d'autres architectures (par exemple, les réseaux de neurones) en remplaçant les composants d'estimation de la distance et de l'importance.

Articles similaires