🤖 machine learning

Counterfactual Explanations Under Concept Drift

Cet article aborde le problème de l'invalidation des explications contrefactuelles sous l'effet du dérive de concept dans les flux de données en proposant un schéma de mise à jour léger et agnostique du modèle qui répare les explications existantes plus efficacement que leur régénération, préservant ainsi leur validité et leur plausibilité.

Auteurs originaux : Marcin Kostrzewa, Jerzy Stefanowski, Maciej Zięba

Publié 2026-05-19

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Marcin Kostrzewa, Jerzy Stefanowski, Maciej Zięba

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Problème Central : La « Cible Mobile »

Imaginez que vous jouiez à la fléchette. Vous lancez une fléchette, et l'ordinateur vous dit : « Pour toucher le centre la prochaine fois, déplacez votre visée de deux pouces vers la gauche. » Il s'agit d'une Explication Contrefactuelle (EC). C'est un conseil utile vous indiquant exactement quoi changer pour obtenir un résultat différent.

Habituellement, ces explications supposent que le plateau de jeu reste immobile. Mais dans le monde réel, les flux de données sont comme un jeu où la cible continue de bouger. C'est ce qu'on appelle le Dérive Conceptuelle.

Le Scénario : Vous recevez un conseil aujourd'hui : « Déplacez-vous vers la gauche pour gagner. »
La Dérive : Demain, le jeu se met à jour. Les règles changent légèrement. La cible a tourné.
L'Échec : Si vous suivez le conseil d'hier (« Déplacez-vous vers la gauche »), vous pourriez manquer la nouvelle cible du tout. L'explication est alors invalide. C'est comme suivre une carte d'une ville qui a été entièrement reconstruite en une nuit.

La plupart des méthodes actuelles tentent de créer des « super-conseils » suffisamment robustes pour survivre à un seul petit changement. Mais ce document soutient que dans un monde en constante évolution (comme un flux de données en direct), on ne peut pas se contenter de créer un super-conseil une fois. Il faut un système qui répare le conseil au fur et à mesure que le monde change.

La Solution : Le Kit de Réparation « Tug-of-War »

Les auteurs proposent une méthode légère pour maintenir ces explications en vie sans les jeter et tout recommencer. Ils appellent cela la Maintenance des EC.

Imaginez votre explication (la fléchette) comme un bateau. Alors que la rivière (les données) change, le bateau dérive hors de sa trajectoire. La méthode des auteurs est un petit moteur qui pousse doucement le bateau pour le remettre sur la bonne voie. Elle utilise un « tir à la corde » entre trois forces :

La Traction de Validité (La Boussole) : « Le bateau pointe-t-il toujours vers la cible ? » Si le modèle actuel dit « Non, ce n'est plus la cible », le système tire l'explication dans la direction qui la rend à nouveau valide.
La Traction de Plausibilité (La Foule) : « Le bateau est-il dans une zone sûre et fréquentée ? » Le système examine les données récentes (un tampon de nouvelles observations) pour voir où d'autres exemples « gagnants » se regroupent. Il pousse l'explication vers ces endroits populaires et réalistes afin qu'elle ne se retrouve pas dans un lieu étrange et impossible.
La Traction de Proximité (L'Ancre) : « Ne dérivez pas trop loin de chez vous. » Le système tente de garder l'explication aussi proche que possible de la personne ou de l'élément d'origine. Il ne veut pas changer la vie d'une personne de manière trop radicale juste pour obtenir un résultat différent.

Le système équilibre ces trois forces pour effectuer des ajustements minuscules et efficaces, maintenant l'explication utile à mesure que le modèle évolue.

Ce qu'ils ont trouvé (Les Résultats)

Les chercheurs ont testé cela sur des flux de données synthétiques (cibles mobiles simulées) pour voir à quel point leur « kit de réparation » fonctionnait par rapport à d'autres méthodes.

Le Conseil « Gelé » échoue : Si vous prenez simplement un conseil généré au début et que vous ne le touchez plus jamais (la méthode « Gelée »), il devient rapidement inutile. Même les conseils à l'origine « robustes » (conçus pour gérer certains changements) finissent par se briser à mesure que la dérive s'accumule.
La « Réparation » fonctionne : Leur méthode de maintenance a maintenu la validité des explications presque 100 % du temps, même alors que les données changeaient.
Une meilleure qualité que de recommencer : Lorsqu'ils ont comparé leurs conseils « réparés » à la génération de conseils entièrement nouveaux à partir de zéro à la fin du flux, les conseils réparés étaient souvent plus plausibles (ils ressemblaient davantage à de vrais exemples courants).
Le Compromis : Le seul inconvénient était que les conseils « réparés » étaient parfois légèrement plus éloignés de la personne d'origine que les conseils entièrement nouveaux. Cependant, les auteurs soutiennent que c'est un prix équitable à payer pour maintenir l'explication valide et réaliste sans le coût lourd de tout recalculer à partir de zéro à chaque fois.

L'Essentiel

Ce document introduit une nouvelle façon de gérer les explications de l'IA dans un monde en mutation. Au lieu de traiter une explication comme un morceau de papier statique qui expire, ils la traitent comme un être vivant qui a besoin de maintenance.

En effectuant de petits ajustements continus basés sur de nouvelles données, ils peuvent maintenir les explications valides et réalistes beaucoup moins cher et plus rapidement que de générer constamment de nouvelles explications à partir de zéro. C'est la différence entre redessiner constamment une carte et simplement mettre à jour la boussole au fur et à mesure que vous marchez.

Résumé technique : Explications contrefactuelles sous dérive de concept

1. Énoncé du problème

Les explications contrefactuelles (EC) sont des mécanismes de recours actionnables qui répondent à la question « que faut-il changer pour que le résultat soit différent ? ». Alors que la littérature existante couvre largement la génération d'EC pour des données statiques et des classifieurs fixes, cet article identifie une lacune critique : la maintenance des EC sous dérive de concept.

Dans les environnements de données évolutifs (par exemple, les flux de données), les classifieurs sont fréquemment mis à jour en ligne pour s'adapter aux distributions de données changeantes. Les auteurs soutiennent qu'une EC valide au moment de sa génération peut devenir silencieusement invalide à mesure que le modèle évolue, même si l'explication originale était robuste face à des changements de modèle bornés et à un seul pas. Contrairement aux recherches antérieures sur la robustesse, qui visent à renforcer une explication unique contre un événement de réentraînement borné, ce travail traite de la dégradation continue d'une population d'EC à mesure qu'un classifieur est mis à jour à plusieurs reprises au fil du temps. Le défi central consiste à maintenir la validité et la plausibilité locale des EC existantes sans engager le coût computationnel de leur régénération à partir de zéro après chaque mise à jour du modèle.

2. Méthodologie

Les auteurs proposent un schéma de maintenance léger et agnostique du modèle qui répare les EC existantes en utilisant un échantillonnage local et une fenêtre glissante d'observations récentes.

2.1 Représentation de l'état et déclenchement

Le système maintient un état $s = (x_0, x', c', a)$ pour chaque instance de requête $x_0$ , où $x'$ est l'EC actuelle, $c'$ est la classe cible et $a$ est un indicateur d'activité.

Retraite : Un état est retiré si le classifieur actuel $f_t$ prédit déjà la classe cible pour $x_0$ (c'est-à-dire que la dérive a naturellement résolu le besoin de recours).
Déclenchement de mise à jour : Une mise à jour est déclenchée si l'EC actuelle est invalide ( $f_t(x') \neq c'$ ) ou présente une faible confiance dans la classe cible ( $p_t(c' | x') < \tau_{low}$ ).

2.2 Le mécanisme de mise à jour

La méthode applique un vecteur de correction à l'EC actuelle $x'$ , équilibrant trois objectifs :

Direction de validité ( $v$ ) : Augmente la probabilité de la classe cible. Pour les modèles non différentiables (par exemple, les arbres de Hoeffding), cela est estimé en échantillonnant des perturbations locales autour de $x'$ , en interrogeant le classifieur et en ajustant un surrogate linéaire localement pondéré (similaire à LIME) pour approximer le gradient.
Direction de plausibilité ( $p$ ) : Déplace l'EC vers les régions denses de la classe cible dans le flux de données récent. Cela est calculé en utilisant une direction de décalage de moyenne pondérée par un noyau basée sur les $k$ plus proches voisins de la classe cible au sein d'un tampon glissant $B_t$ .
Attraction de proximité ( $r$ ) : Un vecteur ramenant $x'$ vers l'instance originale $x_0$ pour minimiser la déviation inutile.

La direction de mise à jour $d$ est une combinaison linéaire normalisée du vecteur de correction sélectionné ( $u \in \{v, p\}$ ) et de l'attraction de proximité :
$d = \frac{\lambda_u \hat{u} + \lambda_r \hat{r}}{\|\lambda_u \hat{u} + \lambda_r \hat{r}\|}$
où $\lambda_u$ et $\lambda_r$ contrôlent respectivement l'intensité relative de la correction et de la proximité.

2.3 Variantes de maintenance

L'article évalue deux stratégies spécifiques :

Validité–Plausibilité (Ours-VP) : Utilise la direction de validité $v$ lorsque l'EC est invalide ou à faible confiance. De plus, elle applique la direction de plausibilité $p$ périodiquement (toutes les $K$ étapes) pour maintenir les EC valides alignées avec les distributions de données récentes.
Plausibilité uniquement (Ours-P) : N'estime pas la direction de validité. Elle repose exclusivement sur la direction de plausibilité $p$ pour réparer les EC invalides ou à faible confiance, testant si le déplacement vers des régions cibles denses suffit à restaurer la validité sous une dérive graduelle.

3. Configuration expérimentale et résultats

Les expériences ont été menées sur des flux de données synthétiques dérivants (Hyperplan en rotation, Sinus, SEA) en utilisant des classifieurs en ligne (Régression logistique et Arbres de Hoeffding adaptatifs).

3.1 Principales conclusions

Dégradation des EC statiques : Les EC « figées » (y compris celles générées par des méthodes robustes comme RobX) perdent rapidement leur validité à mesure que la dérive de concept s'accumule. Par exemple, sur le flux Hyperplan en rotation, la validité est tombée à environ 0,29–0,35 pour les EC figées.
Préservation de la validité : Les deux variantes de maintenance (Ours-P et Ours-VP) ont réussi à préserver une validité quasi parfaite (souvent 1,0) tout au long du flux, surperformant significativement les bases de référence figées.
Amélioration de la plausibilité : Les EC maintenues ont obtenu des scores de plausibilité locale (kNN et KDE) nettement supérieurs à ceux des bases de référence de régénération comme le Plus Proche Voisin (PPV) et les Sphères Croissantes (SC). Cela s'explique par le fait que le schéma de maintenance intègre explicitement le tampon de données récentes, tandis que les méthodes de régénération optimisent souvent uniquement pour la validité et la proximité.
Compromis de proximité : Les EC maintenues ont présenté des distances $L_2$ (proximité) plus grandes par rapport aux méthodes de régénération. Les auteurs attribuent cela au coût de la maintenance de la plausibilité locale ; les EC sont déplacées vers des régions récentes de la classe cible qui peuvent être légèrement plus éloignées de l'instance originale que le point valide le plus proche trouvé par la régénération.
Efficacité computationnelle : Malgré l'exécution de 200 mises à jour de maintenance, les méthodes proposées étaient compétitives ou plus rapides que les bases de référence de régénération (par exemple, RobX) qui ne s'exécutent qu'une seule fois à la fin du flux. Ours-P était nettement plus rapide que Ours-VP en évitant l'estimation de la direction de validité.

4. Contributions

L'article revendique les contributions suivantes :

Définition du problème : Il introduit la maintenance des EC sous dérive de concept comme une classe de problème distincte, la différenciant des paramètres de robustesse statique. L'objectif est de maintenir une population d'explications valide et plausible à mesure que le classifieur évolue, plutôt que de renforcer une explication unique contre un changement unique.
Méthode proposée : Un schéma léger et agnostique du modèle qui répare les EC en utilisant un échantillonnage local pour estimer les directions de validité et de plausibilité tout en préservant la proximité.
Preuve empirique : Démonstration que les EC standards et robustes perdent systématiquement leur validité sous une dérive continue, tandis que le schéma proposé préserve la validité et la plausibilité locale à un coût computationnel inférieur à celui d'une régénération répétée.

5. Importance et limites

Les auteurs positionnent ce travail comme une première preuve de concept. L'importance réside dans le changement de paradigme de l'IA explicable (XAI) dans les environnements de flux, passant du traitement des explications comme des artefacts statiques à leur vision comme des objets dynamiques nécessitant une maintenance. Cela est particulièrement pertinent lorsque le générateur d'EC original est coûteux en calcul, indisponible ou inadapté à une réexécution fréquente.

L'article reconnaît modestement ses limites :

L'évaluation est restreinte à des flux synthétiques de faible dimension avec une dérive graduelle contrôlée.
Il n'établit pas encore les performances dans des scénarios réels complexes, sur des données de haute dimension ou des données de types mixtes.
Des travaux futurs sont suggérés pour explorer les flux de données réels, les classifieurs différentiables et l'extension de la maintenance des EC individuelles aux explications contrefactuelles au niveau de groupe.

Les auteurs concluent que la maintenance des explications au fil du temps est une alternative pratique à la régénération répétée, offrant un équilibre entre validité, plausibilité et coût computationnel dans les environnements évolutifs.