Joint Distribution-Informed Shapley Values for Sparse Counterfactual Explanations

Each language version is independently generated for its own context, not a direct translation.

🌟 Le Problème : L'explication trop "gourmande"

Imaginez que vous demandez à un conseiller financier (une intelligence artificielle) pourquoi votre demande de prêt a été refusée.

L'IA dit : "Pour être accepté, vous devez : augmenter votre salaire de 50 %, acheter une maison, changer de métier, déménager à l'autre bout du pays et changer votre date de naissance."
Votre réaction : "Attends ! C'est impossible ! Je ne peux pas tout changer d'un coup !"

C'est le problème que les chercheurs appellent les explications contrefactuelles. Souvent, les méthodes actuelles pour expliquer les décisions de l'IA proposent des changements trop nombreux et irréalistes. Elles disent "changez tout" au lieu de dire "changez juste ça".

💡 La Solution : COLA (Le "Tondeur de Gazon" des explications)

Les auteurs proposent un nouvel outil appelé COLA. Son but est simple : prendre une explication existante (même une mauvaise) et la tailler pour ne garder que l'essentiel.

Imaginez que l'explication initiale est un énorme tas de feuilles mortes (trop de changements). COLA est un tondeuse intelligente qui ne garde que les quelques feuilles nécessaires pour que le jardin soit propre, sans abîmer le reste.

⚙️ Comment ça marche ? (L'analogie du "Transport Optimal")

Pour comprendre comment COLA trouve les bons changements, il faut imaginer deux groupes de personnes :

Le groupe "Fait" (Vous aujourd'hui) : Votre profil actuel.
Le groupe "Contrefactuel" (Vous idéal) : Le profil qui aurait obtenu le prêt.

Le problème, c'est que l'IA nous donne souvent un "groupe idéal" flou, sans dire qui correspond à qui. Est-ce que c'est votre voisin qui a eu le prêt ? Ou votre cousin ?

COLA utilise une technique mathématique appelée Transport Optimal (comme un déménageur très efficace).

Au lieu de mélanger tout le monde, COLA calcule le chemin le plus court et le moins cher pour transformer votre profil spécifique en un profil idéal spécifique.
C'est comme si le déménageur disait : "Pour passer de votre maison actuelle à la nouvelle, il faut juste déplacer ce canapé et cette table. On n'a pas besoin de changer les murs !"

🧠 Le Cerveau : p-SHAP (Le détective des priorités)

Une fois que COLA a trouvé le chemin le plus court, il doit décider quels boutons appuyer. C'est là qu'intervient p-SHAP.

Imaginez que vous essayez de réparer une voiture qui ne démarre pas.

Les méthodes classiques disent : "Changez la batterie, les pneus, l'huile et le filtre à air." (Trop de choses !)
p-SHAP agit comme un mécanicien expert qui regarde le lien précis entre votre voiture et celle qui fonctionne. Il dit : "Regardez, la seule différence cruciale entre votre voiture et celle qui roule, c'est la batterie. On n'a besoin de changer que ça."

En utilisant les mathématiques du "Transport Optimal" pour guider ce mécanicien, COLA identifie les seuls changements indispensables.

📊 Les Résultats Magiques

Les chercheurs ont testé COLA sur de nombreux cas (prêts, réservations d'hôtels, santé, justice) avec différents types d'intelligences artificielles.

Le résultat est bluffant :

Pour obtenir le même résultat (obtenir le prêt, être accepté), COLA demande de modifier seulement 26 % à 45 % des changements que les anciennes méthodes proposaient.
En d'autres termes : Moins de 50 % du travail pour le même résultat.

🎯 En Résumé

Le but : Rendre les explications de l'IA plus claires et plus actionnables.
La méthode : COLA ne crée pas une nouvelle explication de zéro. Il prend une explication existante (même imparfaite) et la "nettoie".
L'astuce : Il utilise une carte mathématique (Transport Optimal) pour connecter votre situation actuelle à la situation idéale de la manière la plus efficace possible, puis il ne garde que les changements nécessaires.
Le bénéfice : Au lieu de vous dire "Changez tout votre vie", l'IA vous dira : "Changez juste votre apport personnel de 500 euros", ce qui est beaucoup plus facile à suivre.

C'est une avancée majeure pour rendre l'intelligence artificielle plus humaine, plus logique et surtout, plus utile dans la vraie vie.

Each language version is independently generated for its own context, not a direct translation.

1. Problématique et Contexte

Les explications contrefactuelles (CE) visent à révéler les modifications minimales d'entrée nécessaires pour inverser la prédiction d'un modèle d'apprentissage automatique. Cependant, les méthodes existantes souffrent souvent de deux limitations majeures :

Manque de parcimonie : Elles modifient trop de caractéristiques (features), réduisant la clarté et l'actionnabilité pour l'utilisateur.
Découplage inefficace : L'utilisation séparée des attributions de caractéristiques (Feature Attributions - FA, comme les valeurs de Shapley) et des générateurs de contrefactuels conduit souvent à des modifications non optimales. Les caractéristiques jugées "importantes" par la FA ne correspondent pas toujours aux chemins les plus efficaces pour atteindre l'effet contrefactuel désiré.

Le problème central abordé est le suivant : Étant donné une (ou un groupe d') instance(s) factuelle(s), comment concevoir un plan d'action nécessitant le moins de modifications de caractéristiques possible pour atteindre un résultat contrefactuel cible ? Ce problème est intrinsèquement difficile (NP-dur) car il combine l'optimisation non linéaire du modèle et la contrainte de parcimonie (nombre limité de changements).

2. Méthodologie : Le Framework COLA

Les auteurs proposent COLA (COunterfactuals with Limited Actions), un cadre post-hoc agnostique vis-à-vis du modèle et du générateur de contrefactuels. L'objectif est d'affiner n'importe quel ensemble de contrefactuels existant pour en extraire un sous-ensemble minimal de modifications.

Le processus repose sur trois piliers principaux :

A. Transport Optimal (OT) pour l'Alignement

Contrairement aux méthodes précédentes qui supposent un alignement aléatoire ou basé sur des distributions marginales, COLA utilise le Transport Optimal (OT) pour établir un couplage (coupling) entre l'ensemble des données factuelles ( $x$ ) et l'ensemble des contrefactuels générés ( $r$ ).

L'OT calcule un plan de transport $p_{OT}$ qui minimise le coût de déplacement entre $x$ et $r$ (mesuré par la distance $W_1$ ou $W_2$ ).
Ce plan définit une distribution conjointe optimale qui aligne chaque instance factuelle avec ses contreparties contrefactuelles les plus pertinentes, même si l'alignement exact n'est pas fourni par le générateur initial.

B. Valeurs de Shapley Informées par la Distribution Conjointe (p-SHAP)

Les auteurs introduisent une nouvelle méthode d'attribution appelée p-SHAP.

Définition : p-SHAP généralise les valeurs de Shapley en utilisant la distribution conjointe $p$ (obtenue via l'OT) pour définir la fonction de valeur $v(S)$ .
Avantage théorique : Contrairement aux méthodes classiques (B-SHAP, RB-SHAP, CF-SHAP) qui peuvent utiliser des baselines aléatoires ou des distributions mal alignées, p-SHAP intègre la structure de transport optimale.
Garantie théorique : Le papier démontre que l'utilisation du plan de transport $p_{OT}$ minimise une borne supérieure de la divergence $W_1$ entre la prédiction factuelle et l'objectif contrefactuel. Sous des conditions de régularité de Lipschitz, cela garantit que les contrefactuels raffinés ne s'éloignent pas davantage des données factuelles que les originaux.

C. Algorithme de Sélection (COLA)

L'algorithme (Algorithm 1) procède comme suit :

Génération : Un générateur de contrefactuels ($ACE$) produit un ensemble de contrefactuels $r$ .
Alignement : Un algorithme $A_{Prob}$ (basé sur l'OT) calcule la matrice de couplage $p$ entre $x$ et $r$ .
Attribution : p-SHAP calcule les valeurs de Shapley $\phi$ pour chaque caractéristique en utilisant $p$ .
Sélection : Les valeurs de Shapley sont normalisées pour former une distribution de probabilité. Un nombre fixe $C$ de modifications est sélectionné par échantillonnage selon cette probabilité.
Raffinement : Les valeurs des caractéristiques sélectionnées sont mises à jour vers les valeurs correspondantes dans $r$ (via un algorithme $A_{Value}$ , soit le maximum de probabilité, soit une moyenne pondérée), produisant un contrefactuel raffiné $z$ avec moins de modifications.

3. Contributions Clés

Cadre Général (COLA) : Première méthode proposée pour résoudre systématiquement le problème de minimisation des actions dans les explications contrefactuelles, sans dépendre d'un algorithme de génération spécifique ni d'un type de modèle particulier.
p-SHAP : Introduction d'une nouvelle méthode d'attribution de caractéristiques qui unifie les approches existantes sous un couplage optimal, résolvant le problème d'alignement entre le fait et le contrefactuel.
Garanties Théoriques :
- Preuve que l'OT minimise une borne supérieure de la divergence entre la prédiction et l'objectif.
- Preuve que le contrefactuel raffiné $z$ est toujours plus proche (ou à égale distance) de l'instance factuelle $x$ que le contrefactuel original $r$ (Théorème 5.1).
Efficacité Empirique : Réduction drastique du nombre de modifications nécessaires tout en maintenant l'effet contrefactuel.

4. Résultats Expérimentaux

Les expériences ont été menées sur 4 jeux de données (HELOC, German Credit, Hotel Bookings, COMPAS), 12 modèles (de la régression logistique aux réseaux de neurones profonds) et 5 générateurs de contrefactuels (DiCE, AReS, GlobeCE, KNN, Discount).

Réduction des actions : COLA avec p-SHAP atteint le même effet contrefactuel cible (80% à 100%) en utilisant seulement 26% à 45% des modifications de caractéristiques requises par les méthodes originales. Dans certains cas (80% d'effet), la réduction atteint 13-25%.
Performance de p-SHAP : p-SHAP surpasse significativement les autres méthodes de Shapley (RB-SHAP, CF-SHAP, etc.). Les ablations montrent que l'utilisation de l'OT pour l'alignement est le facteur déterminant de cette performance, bien plus que la simple connaissance de la distribution contrefactuelle.
Optimalité : Sur un benchmark à petite échelle (German Credit) résolu par Programmation Linéaire en Nombres Entiers Mixtes (MILP), COLA démontre une performance quasi-optimale, se rapprochant fortement de la solution théorique idéale.

5. Signification et Impact

Ce travail est significatif pour plusieurs raisons :

Actionnabilité : En réduisant drastiquement le nombre de changements nécessaires, COLA rend les explications contrefactuelles plus pratiques et réalisables pour les utilisateurs (ex: un demandeur de prêt n'a besoin de modifier que 2 ou 3 facteurs au lieu de 10).
Robustesse Méthodologique : La méthode ne dépend pas de la différentiabilité du modèle ni de la structure interne, ce qui la rend applicable à une large gamme de systèmes (boîtes noires, ensembles d'arbres, etc.).
Fondement Théorique : Elle établit un lien rigoureux entre le Transport Optimal et l'attribution de caractéristiques, prouvant que l'alignement optimal des distributions est crucial pour une attribution causale efficace dans le contexte contrefactuel.
Éthique : En minimisant les modifications, la méthode réduit le risque de recommander des changements irréalistes ou inutiles, bien que les auteurs avertissent que cela ne garantit pas l'équité intrinsèque et que les attributs sensibles ne doivent pas être modifiés.

En résumé, COLA représente une avancée majeure vers des explications contrefactuelles parcimonieuses, théoriquement fondées et agnostiques, transformant des suggestions de modifications potentiellement lourdes en plans d'action précis et réalisables.