Synthesising Counterfactual Explanations via Label-Conditional Gaussian Mixture Variational Autoencoders

Ce papier propose LAPACE, un cadre génératif novateur basé sur un VAE à mélange gaussien conditionnel par étiquette (L-GMVAE) qui synthétise des chemins d'explications contrefactuelles robustes, plausibles et diversifiées de manière agnostique au modèle.

L'essentiel

🌟 Le Problème : Pourquoi les explications d'IA sont souvent fragiles

Imaginez que vous demandez un prêt à une banque. L'ordinateur dit « Non ». Vous demandez : « Pourquoi ? » et « Que dois-je changer pour obtenir un « Oui » ? ».

C'est là qu'interviennent les explications contrefactuelles. C'est comme si l'IA vous disait : « Si vous aviez gagné 500 € de plus par mois, ou si vous aviez moins de dettes, vous auriez eu le prêt ».

Mais il y a un gros problème avec les méthodes actuelles :

1. Elles sont fragiles : Si la banque change légèrement son algorithme (par exemple, pour mettre à jour son logiciel), votre explication peut devenir fausse du jour au lendemain.
2. Elles sont parfois bizarres : L'IA peut vous suggérer des changements impossibles à réaliser dans la réalité (comme devenir un extraterrestre pour avoir un prêt).
3. Elles manquent de choix : Souvent, l'IA ne vous donne qu'une seule option, alors qu'il existe plusieurs façons d'arranger les choses.

🚀 La Solution : LAPACE et le "GPS de l'IA"

Les auteurs de cet article (Jiang et son équipe) ont créé une nouvelle méthode appelée LAPACE. Pour comprendre comment ça marche, utilisons une analogie simple.

1. Le Concept de Base : Le "Terminus" de la Ville

Imaginez que chaque catégorie de décision (par exemple, "Prêt Accordé") est représentée par un quartier idéal dans une ville imaginaire.

• Dans ce quartier, il y a plusieurs places centrales (des points de référence) qui représentent les meilleurs exemples de personnes qui ont obtenu un prêt.
• Ces places sont comme des phares : elles sont stables, réalistes et sûres.

Les méthodes actuelles essaient de trouver un chemin vers n'importe quel point de la ville, ce qui est risqué. LAPACE, lui, dit : « Peu importe où vous êtes, nous allons vous guider vers l'une de ces places centrales ».

2. Comment ça marche ? (L'Ingénierie derrière)

Étape 1 : Apprendre la carte (Le L-GMVAE)
Avant de vous aider, l'ordinateur étudie des milliers de dossiers de clients. Il apprend à dessiner une carte mentale (un espace latent) où les gens sont regroupés par similarité.

• Il crée des "clusters" (des groupes) pour chaque classe de décision.
• Pour chaque groupe, il identifie le centre exact (le centroid). C'est comme si l'IA disait : « Voici le profil type parfait d'un client qui a un prêt ».

Étape 2 : Tracer le chemin (LAPACE)
Quand vous arrivez avec votre dossier (qui a été refusé), l'IA ne vous donne pas juste une destination finale. Elle trace tout un chemin (une route) qui vous mène de votre situation actuelle vers l'un de ces centres parfaits.

• C'est comme un GPS qui vous montre non seulement la destination, mais aussi les étapes intermédiaires : « D'abord, économisez un peu, puis remboursez cette petite dette, puis augmentez votre épargne... ».
• Cela vous donne le choix : voulez-vous un changement rapide mais risqué (proche de vous) ou un changement plus long mais très sûr (loin de vous, proche du centre idéal) ?

3. Pourquoi c'est génial ? (Les Avantages)

• Robustesse (La boussole inébranlable) :
  Imaginez que la ville change (l'algorithme de la banque est mis à jour). Comme tous les chemins de LAPACE convergent vers les mêmes "places centrales" (les centres des groupes), votre destination reste valide. Peu importe comment l'IA change, ces centres restent stables. C'est comme si votre GPS vous disait toujours d'aller vers la Tour Eiffel, même si les rues autour changent.

• Diversité (Plusieurs options) :
  Au lieu de vous donner un seul chemin, LAPACE vous en propose plusieurs, chacun menant à un centre différent du quartier "Prêt Accordé". Vous pouvez choisir celui qui correspond le mieux à votre vie.

• Réalisme (Pas de magie) :
  Comme les centres sont appris à partir de vrais données, les chemins restent dans des zones "réalistes". L'IA ne vous demandera jamais de faire des choses impossibles.

• Respect de vos règles (Contraintes d'action) :
  Si vous dites : « Je ne peux pas toucher à mon salaire, mais je peux changer mes dépenses », LAPACE peut ajuster le chemin pour respecter cette règle, tout en vous menant toujours à la destination.

🎨 L'Analogie Finale : Le Peintre et le Tableau

Imaginez que l'IA est un peintre qui doit transformer votre portrait (votre situation actuelle, disons un dessin d'un chat triste) en un portrait d'un chat heureux (la décision souhaitée).

• Les anciennes méthodes essaient de changer le chat trait par trait au hasard. Parfois, le résultat ressemble à un chien, ou le dessin devient flou si le peintre change de pinceau.
• LAPACE, lui, a d'abord étudié des milliers de chats heureux pour créer un modèle idéal de "Chat Heureux".
• Ensuite, il vous montre une animation : il vous fait passer progressivement de votre chat triste à ce modèle idéal.
• Vous pouvez arrêter l'animation à n'importe quel moment pour voir à quoi vous ressembleriez à cette étape.
• Et le plus important : même si le peintre change de style (mise à jour du modèle), le "Chat Heureux" idéal reste le même. Votre chemin vers le bonheur est donc garanti.

En résumé

Cet article présente une nouvelle façon de donner des conseils aux gens face aux décisions des ordinateurs. Au lieu de donner une réponse unique et fragile, LAPACE crée une carte de routes sûres vers des solutions réalistes et stables. Cela rend l'IA plus fiable, plus juste et plus utile pour les humains qui en ont besoin.

Résumé technique

1. Problématique

Les explications contrefactuelles (CE) visent à identifier les modifications minimales nécessaires pour qu'une entrée obtienne une prédiction différente et souhaitée d'un modèle d'apprentissage automatique. Bien que cruciales pour l'explicabilité et le recours algorithmique, les méthodes existantes peinent à satisfaire simultanément plusieurs propriétés souhaitables dans un cadre unifié et agnostique au modèle :

• Validité et Proximité : L'explication doit être valide (changer la prédiction) et proche de l'entrée originale.
• Plausibilité : L'explication doit résider sur la variété des données réelles (manifold).
• Diversité : Fournir plusieurs options de recours distinctes.
• Robustesse :
  • Aux changements de modèle : La validité de l'explication doit persister lors de la réentraînement du modèle.
  • Aux perturbations d'entrée : Des entrées similaires doivent produire des explications stables.

Les approches actuelles traitent souvent ces aspects de manière isolée ou heuristique, manquant de garanties théoriques sur la stabilité et la plausibilité, ou exposant des données réelles sensibles.

2. Méthodologie

Les auteurs proposent un cadre novateur composé de deux éléments principaux : un modèle génératif et un algorithme de génération de chemins.

A. L-GMVAE (Label-conditional Gaussian Mixture VAE)

Il s'agit d'un modèle génératif basé sur les Variational Autoencoders (VAE) avec un mélange gaussien, conditionné par les étiquettes de classe prédites par le classifieur.

• Structure de l'espace latent : Contrairement aux VAE standards, l'espace latent est structuré en plusieurs composantes gaussiennes (clusters). Chaque classe de sortie $y$ est associée à un sous-ensemble disjoint de ces clusters ($C_y$).
• Apprentissage : Le modèle apprend une distribution a posteriori où chaque cluster a un centroid (moyenne) spécifique. Ces centroids apprennent à représenter des prototypes diversifiés et plausibles pour chaque classe.
• Avantage clé : Les centroids décodés dans l'espace d'entrée sont des instances synthétiques valides, plausibles et robustes, car ils sont appris pour maximiser la vraisemblance des données tout en respectant la structure de la classe.

B. LAPACE (LAtent PAth Counterfactual Explanations)

C'est un algorithme agnostique au modèle qui génère des chemins continus d'explications contrefactuelles.

• Fonctionnement :
  1. Pour une entrée $x$ et une classe cible $y'$, on encode $x$ dans l'espace latent ($z_x$).
  2. On identifie les centroids latents ($z_{c_j}$) associés à la classe cible $y'$.
  3. On effectue une interpolation linéaire entre $z_x$ et chaque centroid $z_{c_j}$ dans l'espace latent.
  4. Chaque point le long de ce chemin est décodé pour former un trajet d'explications dans l'espace des données.
• Robustesse inhérente :
  • Aux perturbations d'entrée : Tous les chemins pour une classe cible convergent vers les mêmes centroids fixes. Ainsi, de petites variations de l'entrée ne changent pas la destination finale, garantissant une stabilité parfaite.
  • Aux changements de modèle : Les centroids étant des prototypes centraux et plausibles de la classe, ils sont moins susceptibles d'être mal classés si le modèle est réentraîné.
• Contraintes d'actionnabilité : L'algorithme permet d'intégrer des contraintes utilisateur (ex: "l'âge ne doit pas diminuer") via une optimisation par gradient légère à travers le décodeur pendant l'interpolation.

3. Contributions Clés

1. Proposition du L-GMVAE : Un nouveau modèle génératif qui mappe explicitement les étiquettes de classe à des mélanges gaussiens structurés, créant des centroids latents robustes et plausibles.
2. Algorithme LAPACE : Une méthode de génération de CE qui produit des chemins complets plutôt que des points isolés, permettant aux utilisateurs de naviguer dans le compromis entre proximité et plausibilité.
3. Garanties de Robustesse : La méthode assure une robustesse parfaite aux perturbations d'entrée (stabilité) et une forte robustesse aux changements de modèle grâce à la convergence vers des prototypes centraux.
4. Intégration des Contraintes : Capacité à intégrer facilement des contraintes d'actionnabilité spécifiques via l'optimisation du décodeur.
5. Évaluation Complète : Validation sur huit métriques quantitatives contre des méthodes de l'état de l'art (SOTA).

4. Résultats Expérimentaux

Les expériences ont été menées sur quatre jeux de données (Heloc, Wine, Adult, Compas) avec des classifieurs Random Forest et Réseaux de Neurones.

• Performance Globale : LAPACE obtient des performances compétitives sur toutes les métriques (Validité, Proximité, Plausibilité, Diversité, Robustesse).
• Plausibilité : LAPACE obtient les meilleurs résultats de plausibilité (mesurés par le Local Outlier Factor - LOF) sur tous les jeux de données, surpassant les méthodes basées sur les plus proches voisins (NNCE, DRCE) et les méthodes d'optimisation directe.
• Robustesse :
  • Changements de modèle : LAPACE (variant "Last", c'est-à-dire le centroid final) atteint 100% de robustesse, car les centroids sont par définition des instances valides de la classe cible.
  • Perturbations d'entrée : LAPACE garantit une stabilité parfaite car la destination du chemin est fixe.
• Efficacité : LAPACE est l'une des méthodes les plus rapides (seconde seulement après NNCE) car elle ne nécessite pas d'optimisation par gradient coûteuse dans l'espace latent après l'entraînement du VAE ; elle repose sur des passes avant simples.
• Contraintes : Sur les tâches avec contraintes d'actionnabilité, LAPACE (variant contraint) a réussi à trouver des CE valides respectant toutes les contraintes dans 100% des cas, surpassant les variantes de l'algorithme FACE.

5. Signification et Impact

Ce travail comble un vide important dans la littérature sur les explications contrefactuelles en proposant un cadre unifié qui ne sacrifie pas une propriété (comme la plausibilité) pour en améliorer une autre (comme la proximité).

• Changement de paradigme : Au lieu de chercher un point optimal unique, LAPACE propose une trajectoire d'explications, offrant une flexibilité décisionnelle aux utilisateurs.
• Confiance et Recours : En garantissant que les explications restent valides même si le modèle sous-jacent change ou si l'entrée est légèrement bruitée, LAPACE renforce la fiabilité des systèmes de recours algorithmique.
• Protection de la vie privée : En générant des points synthétiques (centroids) plutôt que de révéler des points de données réels du jeu d'entraînement, la méthode préserve mieux la confidentialité des données.

En conclusion, LAPACE démontre qu'une approche générative structurée, combinant apprentissage de variétés et interpolation latente, peut résoudre simultanément les défis de validité, de plausibilité, de diversité et de robustesse dans les explications contrefactuelles.