cc-Shapley: Measuring Multivariate Feature Importance Needs Causal Context

Ce papier propose cc-Shapley, une méthode modifiant les valeurs de Shapley conventionnelles en intégrant la structure causale des données pour éliminer les associations fallacieuses (comme le biais de collier) et fournir une interprétation correcte de l'importance des caractéristiques multivariées.

L'essentiel

🕵️‍♂️ Le Problème : L'Enquêteur qui se fait avoir par les apparences

Imaginez que vous êtes un détective (c'est l'intelligence artificielle) qui essaie de comprendre pourquoi un crime a été commis (c'est la prédiction du modèle). Vous avez une liste de suspects (les données ou "features"). Votre outil habituel pour déterminer qui est le coupable s'appelle la valeur de Shapley.

Cet outil fonctionne bien... sauf quand il y a un piège.

L'Exemple du Petit-Déjeuner et du Diabète

Prenons l'exemple du papier :

1. Un patient a un taux de sucre dans le sang élevé (G).
2. Il a peut-être du diabète (Y).
3. Mais il a aussi mangé un gros petit-déjeuner riche en glucides (C).

La réalité (la "vérité cachée") est simple :

• Le diabète fait monter le sucre.
• Le petit-déjeuner fait monter le sucre.
• Le petit-déjeuner n'a rien à voir avec le diabète.

Le problème de l'ancienne méthode (Shapley classique) :
L'enquêteur regarde le patient. Il voit un taux de sucre très élevé.

• Si le patient a mangé beaucoup de glucides, l'enquêteur se dit : "Ah, le sucre est élevé à cause du petit-déjeuner, donc le diabète n'est pas si probable."
• Résultat : L'outil accuse le petit-déjeuner d'être "négatif" pour le diabète. Il suggère faussement que manger des glucides protège contre le diabète !

C'est absurde, n'est-ce pas ? C'est ce qu'on appelle un biais de collier (ou collider bias).
Imaginez un carrefour en forme de "Y" inversé :

• Le diabète et le petit-déjeuner sont deux routes qui arrivent toutes les deux au même endroit : le taux de sucre élevé.
• Si vous regardez seulement les voitures qui arrivent à ce carrefour (le taux de sucre), vous créez une fausse connexion entre le diabète et le petit-déjeuner. Si l'un est présent, l'autre semble moins nécessaire pour expliquer le résultat. C'est comme si le petit-déjeuner "sauvait" le diabète de la culpabilité.

💡 La Solution : cc-Shapley (L'Enquêteur avec une Carte)

Les auteurs (Jörg Martin et Stefan Haufe) disent : "Arrêtez de regarder seulement les données brutes. Il faut connaître la structure de la ville !"

Ils proposent une nouvelle méthode appelée cc-Shapley (Causal Context Shapley).

L'Analogie du "Bouton Magique" (Intervention)

Au lieu de simplement observer ce qui s'est passé (regarder les données), l'enquêteur cc-Shapley utilise un bouton magique (une intervention causale).

• Méthode ancienne : "Regardez ce patient qui a mangé des glucides et a du diabète. Quel est le lien ?" -> Confusion.
• Méthode cc-Shapley : "Imaginons que nous interdisions au patient de manger des glucides (bouton magique do(C)). Si on lui enlève le petit-déjeuner, est-ce que son taux de sucre change à cause du diabète ?"

En "coupant" le lien entre le petit-déjeuner et le taux de sucre (en forçant le petit-déjeuner à être constant ou aléatoire), on brise le piège du carrefour.

• Résultat : L'enquêteur réalise que le petit-déjeuner n'a aucune influence sur le diabète.
• Le diabète, lui, reste clairement responsable de la hausse du sucre.

🎭 Pourquoi c'est important ?

Dans le monde réel, les modèles d'IA sont souvent utilisés pour :

1. Déboguer des modèles (savoir pourquoi une IA se trompe).
2. Faire de la science (découvrir de nouvelles maladies ou causes).

Si vous utilisez l'ancienne méthode, vous risquez de conclure que "manger des glucides guérit le diabète" ou que "la pluie fait sortir les parapluies" (alors que c'est l'inverse !). Vous confondez la corrélation (deux choses qui arrivent ensemble) avec la causalité (l'une provoque l'autre).

🚀 En Résumé

• Le problème : Les méthodes actuelles d'IA explicable regardent les données comme un spectateur passif. Elles se font piéger par des coïncidences statistiques (les "colliers") et accusent les mauvaises personnes.
• La solution (cc-Shapley) : Cette méthode demande à l'IA de devenir un scientifique actif. Au lieu de juste observer, elle simule des expériences ("Et si on changeait ceci ?").
• Le résultat : Elle élimine les fausses accusations. Elle dit : "Ce n'est pas le petit-déjeuner qui compte, c'est le diabète."

En une phrase : Pour comprendre vraiment pourquoi une décision est prise, il ne suffit pas de regarder les chiffres ; il faut comprendre la histoire (la causalité) qui les relie, sinon l'IA risque de raconter n'importe quoi.

Résumé technique

1. Problématique : Les limites des approches purement observationnelles en XAI

L'article identifie une faille fondamentale dans les méthodes actuelles d'Intelligence Artificielle Explicable (XAI), en particulier celles basées sur les valeurs de Shapley.

• Le problème des associations spuriaires : Les méthodes traditionnelles de Shapley calculent l'importance d'une caractéristique $X_j$ en la conditionnant sur des sous-ensembles d'autres caractéristiques observées $S$ (contexte observationnel). L'article démontre que cette approche est sujette à des biais causaux, notamment le biais de collier (collider bias) et le phénomène de suppression.
• Le mécanisme du biais : Lorsqu'on conditionne sur un « collier » (un nœud ayant deux flèches entrantes, $A \to C \leftarrow B$), on crée artificiellement une corrélation entre les causes $A$ et $B$, même si elles sont indépendantes a priori.
• Conséquence : Cela peut conduire à attribuer une importance négative ou positive erronée à des caractéristiques qui ne sont pas causalement liées à la cible.
  • Exemple illustratif (Diabète et Petit-déjeuner) : Dans un scénario où la glycémie ($G$) dépend du diabète ($Y$) et de l'apport en glucides ($C$), conditionner sur $G$ (un collier) crée une corrélation négative artificielle entre $C$ et $Y$. Une méthode de Shapley classique interprétera à tort un apport élevé en glucides comme un facteur protecteur contre le diabète, alors que c'est un artefact statistique.
• Insuffisance de l'importance univariée : Bien que les mesures univariées (sans contexte) évitent ce biais, elles échouent à capturer les interactions multivariées complexes (ex: $Y = X_1 \times X_2$), rendant les approches purement univariées insuffisantes pour l'analyse de modèles complexes.

2. Méthodologie : cc-Shapley (Causal Context Shapley)

Les auteurs proposent cc-Shapley, une modification interventionnelle des valeurs de Shapley qui intègre la structure causale des données.

• Principe de base : Au lieu de conditionner sur les valeurs observées des variables de contexte $S$ (notation $E[Y | X_j, S]$), la méthode utilise une intervention sur ces variables (notation $do(S)$).
• Définition formelle :
  L'importance d'une caractéristique $X_j$ dans un contexte interventionnel $S$ est définie comme :
  $$I_{do(S)}(X_j) = E[Y | X_j, do(S)] - E[Y | do(S)]$$
  La valeur cc-Shapley est ensuite la somme pondérée de ces termes sur tous les sous-ensembles $S$ :
  $$\phi_{cc}(X_j) = \sum_{S \subseteq F \setminus \{X_j\}} \gamma(S) I_{do(S)}(X_j)$$
• Mécanisme de correction : L'intervention $do(S)$ correspond à « couper » les flèches entrantes vers $S$ dans le graphe causal. Cela empêche l'ouverture des chemins de collier, éliminant ainsi les associations spuriaires induites par le conditionnement.
• Implémentation pratique (Algorithme 1) :
  1. Estimation d'un Modèle Causal Structurel (SCM) à partir des données (en régressant chaque variable sur ses parents).
  2. Simulation d'une intervention stochastique sur le contexte $S$ (échantillonnage depuis la distribution marginale de $S$ dans le modèle modifié).
  3. Entraînement de modèles d'apprentissage automatique (ex: XGBoost) sur les données générées par ce modèle interventionnel pour estimer les espérances conditionnelles $E[Y | X_j, do(S)]$.

3. Contributions Clés

1. Identification d'un biais systémique : L'article démontre théoriquement et empiriquement que les méthodes XAI non causales sont intrinsèquement incapables de distinguer les suppressions (effets de collier) des véritables relations causales, menant à des interprétations scientifiques erronées.
2. Proposition de cc-Shapley : Introduction d'une nouvelle métrique qui respecte la propriété d'association statistique (SAP) : si une caractéristique est causalement indépendante de la cible, son importance cc-Shapley est nulle, même en présence de variables de suppression.
3. Preuve théorique : Démonstration que l'intervention sur le contexte empêche le déblocage des chemins causaux interdits, éradiquant le biais de collier.
4. Validation expérimentale : Comparaison rigoureuse sur des données synthétiques (SCM linéaires et non linéaires) et réelles (données biologiques sur les protéines).

4. Résultats Expérimentaux

Les auteurs comparent les valeurs de Shapley classiques ($\phi$) et cc-Shapley ($\phi_{cc}$) sur plusieurs scénarios :

• Exemple du diabète (Synthétique) :
  • Shapley classique : Attribue une importance négative au BMI (Indice de Masse Corporelle), suggérant à tort qu'un BMI élevé réduit le risque de diabète (à cause du biais de collier via la glycémie).
  • cc-Shapley : Corrige cette erreur. Le BMI est correctement identifié comme ayant une importance positive (ou neutre selon le contexte), alignée avec la connaissance médicale.
• Données de protéines (Sachs et al., 2005) :
  • Sur un réseau de signalisation protéique, les valeurs Shapley classiques attribuent des importances négatives ou erronées à certaines protéines (PKC, P38) en raison de leur position dans des colliers.
  • Les valeurs cc-Shapley restaurent la cohérence avec l'analyse univariée et la structure causale connue, éliminant les attributions négatives spuriaires tout en conservant les interactions multivariées réelles.
• SCM Linéaires :
  • Une analyse sur 3 000 SCM linéaires montre que lorsque les chemins passent par un collier, les coefficients de régression conditionnelle (Shapley) s'écartent fortement de la vérité terrain, tandis que les coefficients interventionnels (cc-Shapley) restent alignés sur la causalité réelle.

5. Signification et Conclusion

• Changement de paradigme : L'article affirme que l'XAI ne peut pas se contenter d'approches purement observationnelles (« rung 1 » de l'échelle de la causalité de Pearl) pour des tâches d'analyse de modèle ou de découverte scientifique. La connaissance causale est indispensable.
• Fiabilité scientifique : cc-Shapley permet d'éviter les conclusions dangereuses (ex: « manger des glucides prévient le diabète ») qui pourraient émerger de l'interprétation naïve des modèles d'IA.
• Limites et Perspectives : La méthode nécessite la connaissance (ou l'estimation) du graphe causal, ce qui peut être difficile dans des domaines complexes (comme l'imagerie). Cependant, l'article souligne que sans cette connaissance, les attributions de caractéristiques multivariées restent ambiguës et potentiellement trompeuses.

En résumé, cc-Shapley représente une avancée majeure en intégrant l'inférence causale directement dans le calcul de l'importance des caractéristiques, garantissant que les explications fournies par l'IA reflètent la réalité causale et non des artefacts statistiques.