📊 statistics

WISCA: A Consensus-Based Approach to Harmonizing Interpretability in Tabular Datasets

Cette étude présente WISCA, un nouveau cadre fondé sur le consensus qui harmonise les explications d'interprétabilité contradictoires pour les données tabulaires en intégrant les probabilités de classe et les attributions normalisées, améliorant ainsi la fiabilité des explications à travers divers modèles d'apprentissage automatique.

Auteurs originaux : Antonio Jesús Banegas-Luna, Horacio Pérez-Sánchez, Carlos Martínez-Cortés

Publié 2026-04-29

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Antonio Jesús Banegas-Luna, Horacio Pérez-Sánchez, Carlos Martínez-Cortés

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Grand Problème : Trop d'opinions, une réponse confuse

Imaginez que vous possédez une machine « boîte noire » (un programme informatique complexe) qui prend des décisions importantes, comme diagnostiquer une maladie ou approuver un prêt. Vous savez que la machine est bonne pour trouver la bonne réponse, mais vous ne savez pas pourquoi elle a fait ce choix.

Pour résoudre cela, vous engagez six « détectives » différents (algorithmes d'interprétabilité) pour regarder à l'intérieur de la boîte et vous dire quelles indices (caractéristiques des données) étaient les plus importants.

Le Détective A dit : « C'était l'âge du patient ! »
Le Détective B dit : « Non, c'était définitivement la tension artérielle ! »
Le Détective C dit : « En fait, c'était la météo du jour de la visite. »

Ils regardent tous la même machine, mais ils vous racontent des histoires contradictoires. Cela vous laisse confus et incertain de qui faire confiance. Le document appelle cela le « problème de désaccord ».

Les Anciennes Solutions : Des façons imparfaites de s'accorder

Les chercheurs ont essayé de voir s'ils pouvaient amener ces détectives à s'accorder en utilisant des méthodes standard pour moyenner leurs opinions. Ils ont testé cinq anciennes méthodes :

La Moyenne Arithmétique (La « Moyenne Simple ») : C'est comme prendre la moyenne de tous les scores des détectives.
- Le Défaut : Elle traite un détective qui est sûr à 99 % de la même manière qu'un détective qui devine au hasard. Elle est aussi confuse si les détectives utilisent des systèmes de notation différents (par exemple, l'un utilise 0–100, l'autre 0–1).
Le Système de Vote : Il compte combien de fois un indice a été mentionné dans la liste des « 5 premiers ».
- Le Défaut : Il ignore à quel point le détective aimait l'indice. Il ignore aussi si la machine a réellement fait une bonne prédiction. Si la machine s'est trompée, le système de vote compte toujours les indices.
Les Moyennes Harmonique et Géométrique : Ce sont des astuces mathématiques sophistiquées pour faire des moyennes.
- Le Défaut : Elles se brisent facilement si un détective donne un score de zéro (ce qui arrive souvent avec des indices sans importance). Elles ont aussi du mal avec les scores négatifs (que certains détectives utilisent pour dire « cet indice nuit en fait à la prédiction »).
La Position Relative : Elle regarde simplement l'ordre du classement (1er, 2e, 3e).
- Le Défaut : Elle jette la véritable force de la preuve.

Le Résultat : Aucune de ces anciennes méthodes n'était parfaite. Elles choisissaient souvent les mauvais indices ou se perdaient dans le bruit.

La Nouvelle Solution : WISCA (Le « Médiateur Intelligent »)

Les auteurs ont créé une nouvelle méthode appelée WISCA (Attributions de Consensus Pondérées et Mise à l'Échelle). Voyez WISCA non pas seulement comme une calculatrice, mais comme un médiateur intelligent qui sait comment écouter correctement les détectives.

WISCA résout les vieux problèmes avec trois astuces principales :

Égaliser les chances (Mise à l'Échelle) :
Imaginez qu'un détective parle en « dollars » et un autre en « euros ». Vous ne pouvez pas simplement les additionner. WISCA convertit d'abord le score de chaque détective vers une échelle standard « 0 à 1 », afin qu'ils parlent tous la même langue.
Pondération par la Confiance (Le Facteur « Certitude ») :
C'est la partie la plus importante. WISCA demande : « À quel point la machine était-elle sûre de cette décision spécifique ? »
- Si la machine est sûre à 99 % que c'est un « Oui », WISCA écoute très attentivement les détectives expliquant cette décision.
- Si la machine est à 50/50 (essentiellement en train de deviner), WISCA dit : « Cette explication n'est pas fiable », et réduit le poids des opinions de ces détectives.
- Analogie : Si un prévisionniste météo dit « Il pourrait pleuvoir » (faible confiance), vous ne prenez pas son conseil aussi au sérieux que lorsqu'il dit « Il pleuvra certainement » (forte confiance).
Gérer les Mathématiques Correctement :
WISCA utilise une formule spéciale (une courbe parabolique) pour gérer les scores de confiance. Il s'assure que lorsque la machine est totalement sûre (probabilité de 0 % ou 100 %), l'explication obtient le crédit total. Lorsque la machine est confuse (50 %), l'explication obtient zéro crédit.

Comment Ils L'Ont Testé

Pour voir si WISCA fonctionnait, les chercheurs n'ont pas utilisé de données réelles où ils ne connaissaient pas la réponse. Au lieu de cela, ils ont construit six jeux de données « Fictifs » (comme une simulation de jeu vidéo).

Le Scénario : Ils ont créé une règle où ils savaient exactement quels 3 ou 4 indices comptaient (par exemple : « Si la Caractéristique A et la Caractéristique B sont élevées, la réponse est 1 »). Ils ont ajouté beaucoup d'indices « bruit » (données inutiles) pour piéger les modèles.
Le Test : Ils ont fait tourner 6 modèles d'apprentissage automatique différents sur ces jeux de données fictifs et ont demandé aux 6 détectives différents de les expliquer.
L'Objectif : La méthode de consensus a-t-elle identifié les vrais indices importants (A et B) ou s'est-elle laissé distraire par le bruit ?

Les Résultats

WISCA a gagné. Dans presque tous les tests, WISCA a identifié avec succès les bons indices que les chercheurs avaient secrètement programmés dans les données.
Les Anciennes Méthodes ont lutté. La moyenne simple et les systèmes de vote ont souvent été distraits par le bruit ou ont échoué lorsque le modèle d'apprentissage automatique faisait une erreur.
Comparaison avec les modèles « Linéaires » : Même comparé à un modèle linéaire simple et transparent (qui est naturellement facile à comprendre), WISCA a performé aussi bien, prouvant qu'il peut trouver la vérité même dans des modèles complexes de « boîte noire ».

Vérifications dans le Monde Réel

Les chercheurs ont également testé WISCA sur trois jeux de données publics et réels (Risque de cancer du col de l'utérus, Origine du vin, et Locations de vélos).

Cancer : WISCA a correctement identifié le « test de Schiller » comme le facteur le plus important, ce qui a du sens médicalement.
Vin : Il a identifié la « Proline » (un acide aminé) comme un facteur clé pour l'origine du vin, ce qui est scientifiquement exact.
Vélos : Il a correctement déterminé que les « utilisateurs enregistrés » pilotent les locations de vélos.

La Conclusion

Le document conclut que lorsque vous avez plusieurs explications d'IA qui vous racontent des histoires différentes, vous ne pouvez pas simplement prendre une moyenne simple. Vous avez besoin d'un consensus intelligent qui :

Normalise les scores afin qu'ils soient comparables.
Ne fait confiance aux explications que lorsque le modèle d'IA est confiant dans sa prédiction.

WISCA est ce consensus intelligent. Il harmonise les voix contradictoires de différents algorithmes pour vous donner une explication unique, fiable et digne de confiance sur la façon dont l'IA réfléchit.

1. Énoncé du problème

Bien que les modèles d'apprentissage automatique (ML) atteignent une haute précision prédictive, leur nature de « boîte noire » pose des défis majeurs dans des domaines à haut risque comme la santé et la finance, où la transparence et l'interprétabilité sont requises légalement et éthiquement.

Le conflit central : Les algorithmes existants d'IA explicable (XAI) (par exemple, SHAP, LIME, Importance par permutation) produisent souvent des explications contradictoires pour une même prédiction de modèle. Différents algorithmes peuvent mettre en avant des caractéristiques différentes ou attribuer des magnitudes d'importance variables.
Limites des méthodes de consensus actuelles : Pour résoudre ces conflits, les chercheurs ont tenté d'agréger les explications à l'aide de fonctions de consensus simples (par exemple, moyenne arithmétique, vote, moyenne géométrique). Cependant, ces méthodes traditionnelles souffrent de défauts critiques :
- Elles ignorent souvent la précision du modèle (traitant une prédiction fiable de la même manière qu'une devinette aléatoire).
- Elles échouent à normaliser les échelles d'attribution entre différents algorithmes (par exemple, valeurs SHAP vs importance par permutation).
- Elles ne distinguent pas les explications globales (à l'échelle de l'ensemble de données) des explications locales (spécifiques à un échantillon), ce qui entraîne un biais lors de l'agrégation.
- Elles peinent à gérer les valeurs négatives ou les attributions nulles, ce qui peut fausser les résultats (par exemple, la moyenne géométrique s'effondre vers zéro si une valeur est nulle).

2. Méthodologie

Les auteurs proposent un cadre novateur pour évaluer et améliorer le consensus en matière d'interprétabilité.

A. Configuration expérimentale

Ensembles de données : Six ensembles de données synthétiques ont été créés avec des vérités de terrain connues (caractéristiques spécifiques utilisées pour générer la variable cible). Cela permet une évaluation objective de savoir si une explication identifie correctement les caractéristiques pertinentes.
- 2 classifications binaires, 2 classifications multiclasse, 2 régressions.
- Les caractéristiques comprenaient des variables pertinentes et un bruit significatif (variables non pertinentes).
Modèles ML : Six modèles diversifiés ont été entraînés : Régression logistique (LR), K-plus proches voisins (KNN), Forêts aléatoires (RF), Machines à vecteurs de support (SVM), Gradient Boosting extrême (XGB) et Réseaux de neurones artificiels (ANN).
Algorithmes d'interprétabilité : Un mélange de méthodes globales et locales, agnostiques du modèle, a été utilisé :
- Global : Diminution moyenne de l'impureté (MDI), Importance par permutation.
- Local : LIME, SHAP, Gradients intégrés, Explications par contrefactuels.

B. La solution proposée : WISCA

Les auteurs introduisent WISCA (Attributions de consensus pondérées et mises à l'échelle), une nouvelle fonction de consensus conçue pour harmoniser les explications en répondant aux limites des méthodes existantes.

Composantes clés de WISCA :

Mise à l'échelle Min-Max : Toutes les attributions provenant de différents algorithmes sont normalisées dans une plage de $[0, 1]$ pour assurer une comparaison équitable.
Différenciation globale vs locale :
- Les méthodes globales fournissent une valeur par caractéristique.
- Les méthodes locales fournissent des valeurs par échantillon. WISCA agrège les attributions locales en les divisant par le nombre total d'échantillons ( $N$ ) pour garantir qu'elles contribuent proportionnellement aux méthodes globales.
Pondération par la précision (Facteurs de correction) :
- Classification : Pondération des attributions basée sur la probabilité de classe ( $\pi$ ). Les prédictions avec une forte confiance (probabilités proches de 0 ou 1) sont fortement pondérées, tandis que les prédictions incertaines (probabilité proche de 0,5) sont sous-pondérées. Les auteurs ont sélectionné une fonction parabolique ( $1 - 4p(1-p)$ ) pour cette correction.
- Régression : Pondération des attributions basée sur l'erreur de prédiction ( $|y - \hat{y}|$ ). Les prédictions avec une faible erreur (haute fiabilité) conservent leur poids d'attribution, tandis que les prédictions à forte erreur sont pénalisées à l'aide d'un facteur de décroissance exponentielle ( $e^{-\alpha|y-\hat{y}|}$ ).

Formulation :
$\phi(f) = \sum_{s \in S} \frac{\phi'(f)}{N} \times \text{FacteurCorrection}$
Où $\phi'(f)$ est l'attribution mise à l'échelle, et le facteur de correction dépend du type de problème (probabilité de classification ou erreur de régression).

C. Métriques d'évaluation

Métrique de taux de réussite : Une métrique personnalisée calculant la précision du classement des caractéristiques. Elle attribue des scores plus élevés si les caractéristiques de « vérité de terrain » apparaissent en haut de la liste de consensus.
Distance de séparation : Mesure l'écart entre l'attribution minimale des caractéristiques attendues et l'attribution maximale des caractéristiques de bruit.
Corrélation statistique : La corrélation de Spearman et la divergence de Jensen-Shannon ont été utilisées pour comparer WISCA aux algorithmes individuels.

3. Contributions clés

Fonction de consensus novatrice (WISCA) : Une méthode robuste qui intègre la précision du modèle (via la probabilité ou l'erreur) et met les attributions à l'échelle, surmontant les biais du simple moyennage ou du vote.
Évaluation comparative complète : Une évaluation systématique de cinq fonctions de consensus existantes (Moyenne arithmétique, Moyenne harmonique, Moyenne géométrique, Vote, Position relative) par rapport à WISCA dans divers scénarios synthétiques.
Identification des défauts des méthodes existantes : L'étude démontre que :
- La Moyenne harmonique est inadaptée car elle pondère l'importance de manière inverse.
- La Moyenne géométrique échoue lorsque toute attribution est nulle ou négative.
- Le Vote est très sensible à la précision du modèle et ignore la magnitude des contributions.
Validation sur des données réelles : Application de WISCA à des ensembles de données réels (Risque de cancer du col de l'utérus, Origine du vin, Location de vélos) pour démontrer la cohérence logique dans la sélection de caractéristiques.

4. Résultats

Ensembles de données synthétiques : WISCA a systématiquement surpassé les autres méthodes de consensus.
- Dans les ensembles de données de régression, WISCA a été la seule fonction à identifier correctement toutes les caractéristiques attendues pour tous les modèles.
- Dans les ensembles de données de classification, WISCA et le Vote ont bien performé, mais WISCA a montré un écart-type plus faible (attributions plus compactes/cohérentes) et de meilleures performances dans des scénarios multiclasse complexes.
- Les méthodes traditionnelles comme les moyennes géométrique et harmonique ont mal performé.
Corrélation avec la vérité de terrain : WISCA a montré une forte corrélation de Spearman avec le « meilleur » algorithme d'interprétabilité individuel pour chaque modèle spécifique, indiquant qu'il synthétise efficacement les signaux les plus fiables.
Comparaison avec les modèles linéaires : Les classements de caractéristiques de WISCA étaient comparables, et dans certains cas supérieurs, à ceux d'un modèle de régression logistique (qui est intrinsèquement interprétable), validant sa capacité à extraire de véritables caractéristiques causales.
Application dans le monde réel :
- Cancer du col de l'utérus : Identification correcte du test « Schiller » comme marqueur clé.
- Vin : Identification correcte de la « Proline » comme marqueur de l'origine du vin.
- Location de vélos : Identification correcte des « Utilisateurs enregistrés » comme principal moteur des locations.

5. Importance et conclusion

L'article établit que le consensus est essentiel pour une XAI fiable, mais que le simple moyennage est insuffisant. En intégrant la confiance du modèle et la normalisation, WISCA fournit une explication plus fiable des modèles de boîte noire.

Impact : Cette approche réduit l'incertitude pour les parties prenantes dans des domaines critiques (médecine, finance) en fournissant des explications non seulement cohérentes entre les algorithmes, mais aussi pondérées par la fiabilité de la prédiction sous-jacente.
Travaux futurs : Les auteurs suggèrent d'étendre WISCA pour gérer les probabilités spécifiques aux multiclasse et d'explorer l'utilisation de modèles ML pour prédire les attributions de caractéristiques basées sur des interprétations existantes.

En résumé, WISCA représente une étape significative vers l'harmonisation de l'interprétabilité, passant d'explications subjectives ou contradictoires à un consensus robuste et pondéré par la précision, qui s'aligne étroitement sur la logique réelle de prise de décision des modèles ML.