🤖 machine learning

The Failures of Marginal Influence-Based Attribution Methods for Global Time Series Explanations

Cet article soutient que l'échec principal des méthodes d'attribution de séries temporelles existantes ne réside pas dans leur format de sortie scalaire, mais dans une inadéquation computationnelle fondamentale où le conditionnement marginal et les gradients hors-variété confondent les dépendances temporelles directes et médiées, les rendant ainsi infidèles à la structure causale sous-jacente du modèle.

Auteurs originaux : Amadeo Tunyi

Publié 2026-07-21

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Amadeo Tunyi

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Mystère du Détective Voyageur dans le Temps

Imaginez que vous êtes un détective tentant de résoudre un crime, mais que le seul indice dont vous disposez est une photo unique et floue du suspect. Vous savez que le suspect était sur les lieux, mais vous ne savez pas comment il s'y est rendu, avec qui il a discuté en chemin, ni même s'il est bien celui qui a pressé la détente. Dans le monde de l'Intelligence Artificielle (IA), c'est exactement le problème auquel les scientifiques sont confrontés lorsqu'ils tentent de comprendre comment les modèles informatiques prennent des décisions sur l'avenir. Ces modèles, qui alimentent tout, des prévisions boursières à la surveillance médicale, sont souvent des « boîtes noires ». Nous savons ce qui entre (les données du passé) et ce qui sort (une prédiction), mais nous ne connaissons pas la logique interne.

Pour corriger cela, les chercheurs ont développé l'« IA explicable » (XAI). Considérez l'XAI comme un outil qui tente de mettre en lumière les indices les plus importants. Pour les données temporelles (comme les modèles météorologiques ou les rythmes cardiaques), la méthode standard actuelle revient à donner à chaque indice un score de 1 à 10. Si une lecture de température à 14h00 reçoit un score de 9, l'outil dit : « Ceci était super important ! ». Mais voici le piège : dans le monde réel, les événements sont connectés. La température à 14h00 n'est pas arrivée dans le vide ; elle a été causée par le vent à 13h00, qui a été causé par une tempête à 12h00. Si votre outil de détective se contente de donner un score à la température de 14h00 sans comprendre qu'elle n'était qu'un messager pour la tempête, vous risquez de blâmer la mauvaise chose. Ce document explore en profondeur pourquoi nos outils de détective actuels ne parviennent pas à voir l'image complète de la façon dont le temps fonctionne.

L'Article : Pourquoi nos « Feuilles de Scores » sont fausses

L'article, intitulé The Failures of Marginal Influence-Based Attribution Methods for Global Time Series Explanations, soutient que la manière la plus populaire dont nous essayons d'expliquer les prédictions de l'IA est fondamentalement défaillante lorsqu'il s'agit du temps. Les auteurs, dirigés par Amadeo Tunyi, prouvent que la méthode standard — donner à chaque point de donnée un score d'« importance » unique — revient à essayer de décrire un film complexe en listant seulement la luminosité de chaque image. Cela occulte l'intrigue.

Le Problème Central : Le Piège du « Médiateur »
Les auteurs utilisent une analogie astucieuse impliquant une chaîne d'événements. Imaginez une installation de dominos :

Vous poussez le premier domino (Événement A).
Il renverse le second domino (Événement B).
Le second domino renverse le troisième (Événement C).

Dans cette chaîne, l'Événement A cause l'Événement C, mais seulement parce qu'il est passé par l'Événement B. L'Événement B est le « médiateur ». L'article montre que les outils d'explication de l'IA actuels sont incapables de faire la distinction entre une cause directe et une cause médiée. Ils voient que l'Événement A s'est produit et que l'Événement C s'est produit, alors ils attribuent un score élevé à l'Événement A, pensant qu'il a directement causé le résultat. Mais en réalité, l'Événement A n'a importé que parce qu'il a déplacé l'Événement B. Les outils « hallucinent » une connexion directe qui n'existe pas car ils ignorent l'intermédiaire.

L'Erreur « Hors-Manifold » (Off-Manifold)
L'article souligne également une seconde erreur, plus sournoise. Imaginez que vous marchez sur une corde raide (le « manifold » ou la variété). C'est le seul chemin où les données font sens. Si vous sortez de la corde pour entrer dans le vide, vous êtes dans un endroit qui n'existe pas dans la réalité. Les auteurs ont découvert que beaucoup de méthodes populaires (comme SHAP et les outils basés sur le gradient) regardent accidentellement ces scénarios « hors-corde ». Elles demandent : « Que se passerait-il si la température était de 100 degrés alors que l'humidité était de 0 % ? ». Même si cette combinaison est impossible dans le monde réel, le calcul génère un score pour elle. Cela conduit l'IA à accorder de l'importance à des choses qui sont mathématiquement possibles mais physiquement impossibles, ce qui confond l'explication.

Ce que l'Article Prouve
Les auteurs ne se sont pas contentés de deviner ; ils ont mené des simulations et des preuves mathématiques pour démontrer que :

Les méthodes standards échouent : Les outils populaires comme SHAP, TimeSHAP et les cartes de saillance (Saliency maps) donnent systématiquement le crédit aux mauvaises variables lorsque les données sont « autocorrélées » (lorsque les données d'aujourd'hui dépendent fortement de celles d'hier).
Ils ne peuvent pas faire la différence : Dans leurs tests, ces outils ont donné le même « score d'importance » à une variable qu'elle soit une cause directe ou simplement un messager. Ils n'ont pas pu distinguer un lien direct d'une réaction en chaîne.
Ils violent les règles de la réalité : En examinant des combinaisons de données impossibles, ils violent la règle du « on-manifold », ce qui signifie que leurs explications ne respectent pas les lois réelles des données qu'ils analysent.

La Solution Proposée : Le « Tenseur de Transition »
Alors, si la feuille de scores est brisée, que devons-nous utiliser à la place ? Les auteurs proposent une nouvelle façon de penser appelée DAG-faithfulness (fidélité aux graphes acycliques dirigés). Au lieu de demander « Quelle est l'importance de ce chiffre unique ? », nous devrions demander « Quel est le plan des connexions ? ».

Ils suggèrent de remplacer la simple liste de scores par un Tenseur de Transition. Imaginez une grille 3D ou un tableur complexe qui ne se contente pas de dire « A est important ». À la place, il cartographie : « A au temps 1 influence B au temps 2, qui influence ensuite C au temps 3 ».

Il capture la direction de l'influence.
Il capture le timing (le décalage/lag).
Il capture les relations entre les variables.

L'article soutient que pour qu'une explication soit véritablement fidèle, elle doit être capable de reconstruire cette carte de connexions (un Graphe Acyclique Dirigé, ou DAG) exactement telle que le modèle d'IA l'a apprise. Si l'explication dit « A est connecté à C », mais que le modèle a réellement appris « A est connecté à B, et B est connecté à C », l'explication est un mensonge, même si la prédiction finale est correcte.

L'État Actuel des Choses
Les auteurs précisent avec prudence que, bien qu'ils aient identifié le problème et défini la solution parfaite (la fidélité aux DAG), ils n'ont pas encore entièrement construit l'outil parfait. Ils montrent que certaines méthodes plus récentes (comme FIT et WinIT) sont plus proches du but car elles tentent de respecter les « règles de la route » (rester sur le manifold), mais elles luttent encore avec la sensibilité. L'article conclut que le domaine doit cesser de vouloir faire entrer la logique temporelle complexe dans de simples chiffres et commencer à construire ces « cartes de connexions » en 3D.

En bref, cet article est un signal d'alarme : nous ne pouvons plus faire confiance aux simples « scores d'importance » pour l'IA de séries temporelles. Ils passent à côté de l'histoire de la façon dont les événements se connectent, et tant que nous ne passerons pas à des méthodes qui cartographient ces connexions, nos explications resteront incomplètes et potentiellement trompeuses. Les auteurs ont tracé la carte du problème et indiqué la voie vers la solution, mais le voyage pour construire la carte parfaite ne fait que commencer.

Résumé Technique : Les défaillances des méthodes d'attribution basées sur l'influence marginale pour les explications de séries temporelles globales

1. Énoncé du problème

L'article traite d'une inadéquation structurelle fondamentale dans les méthodes actuelles d'IA explicable (XAI) pour les modèles de séries temporelles. Alors que le paradigme dominant de l'XAI repose sur l'attribution scalaire plate — consistant à assigner une valeur scalaire à chaque caractéristique à chaque pas de temps pour représenter sa contribution « directe » — cette approche échoue à capturer la nature relationnelle et conditionnelle du raisonnement temporel.

Les auteurs soutiennent que les méthodes existantes (incluant les approches basées sur le gradient, la perturbation et l'attention) confondent les dépendances temporelles directes avec les dépendances médiées causées par l'autocorrélation. En réduisant des structures relationnelles de haute dimension en résumés unidimensionnels, ces méthodes rejettent l'information de dépendance conditionnelle qui constitue le processus de raisonnement réel du modèle. Par conséquent, elles ne peuvent pas distinguer une caractéristique qui influence directement une prévision d'une caractéristique qui ne l'influence qu'indirectement par l'intermédiaire d'une variable intermédiaire.

2. Méthodologie et cadre théorique

Définitions et notation :

Attribution plate (Définition 1) : Une méthode produisant un score scalaire $\phi_i^{(t)}(x)$ pour une paire variable-temps $(X_i, t)$ via un conditionnement marginal ou des gradients, sans conditionnement sur les valeurs d'autres entrées susceptibles de médier l'effet.
Graphe de dépendance du modèle (MDDAG, $G_f$ , Définition 2) : Un graphe acyclique dirigé (DAG) représentant les dépendances réelles apprises par un modèle $f$ . Une arête existe de l'entrée $X_i^{(t_1)}$ vers la cible de prévision $X_j^{(T+w)}$ si et seulement si l'entrée est conditionnellement dépendante de la prévision étant donné toutes les autres entrées.
Fidélité au DAG (Définité 3) : Un nouveau critère de fidélité exigeant que le graphe de dépendance $G_T$ induit par une méthode d'explication encode les mêmes indépendances conditionnelles (équivalence de Markov) que le MDDAG $G_f$ .

Le fossé computationnel :
L'article identifie un « fossé computationnel » où les méthodes plates ne parviennent pas à satisfaire deux conditions d'admissibilité nécessaires :

Évaluation sur la variété (C1) : L'attribution doit dépendre uniquement du comportement du modèle au sein du support de la distribution des données ( $\text{supp}(p)$ ), et non de reparamétrisations hors variété (off-manifold).
Séparation conditionnelle (C2) : L'attribution à une entrée doit s'annuler si cette entrée est conditionnellement indépendante de la prévision étant donné les autres entrées.

Études de cas et preuves :
Les auteurs construisent des scénarios spécifiques pour démontrer l'échec des méthodes standards :

Scénario I (Autocorrélation) : Un modèle où $X^{(2)}$ médie l'effet de $X^{(1)}$ sur la prévision. Les méthodes plates (ex: variantes de SHAP) attribuent incorrectement des scores non nuls à $X^{(1)}$ car elles ne parviennent pas à se conditionner sur $X^{(2)}$ , violant ainsi C2.
Scénario II (Contraintes sur la variété) : Un processus déterministe où $X^{(2)} = \delta X^{(1)}$ . Ici, $X^{(1)}$ n'a aucun effet direct sur la prévision au sein du support des données. Cependant, les méthodes basées sur le gradient (Saliency, Integrated Gradients) détectent des dérivées non nulles car elles sondent des points hors variété, violant ainsi C1.

Représentation proposée :
Pour surmonter ces limites, l'article propose de remplacer les scores scalaires par un Tenseur de Transition (Définition 4). Il s'agit d'un tableau tridimensionnel $T_{loc} \in \mathbb{R}^{D \times D \times T}$ (ou $D \times D \times T \times W$ pour les prévisions multi-étapes) qui quantifie l'influence de la source variable $i$ au retard $t_1$ sur la cible variable $j$ . L'explication globale est dérivée du support du tenseur global agrégé, séparant l'existence structurelle de la magnitude de la force.

3. Contributions clés

Formalisation du fossé computationnel : L'article définit rigoureusement l'écart entre les méthodes d'attribution plate et la structure de dépendance conditionnelle des modèles temporels, prouvant que les scores scalaires ne peuvent pas capturer la structure nécessaire d'indépendance conditionnelle.
Définition de la Fidélité au DAG : Il introduit la fidélité au DAG comme le critère approprié pour les explications globales de séries temporelles, fondé sur l'équivalence de Markov avec le graphe de dépendance appris par le modèle.
Preuve de l'échec des méthodes standards :
- Théorème 1 : Prouve que le SHAP standard (et ses extensions pour séries temporelles comme TimeSHAP) n'est pas DAG-fidèle en général, car il génère des arêtes spécieuses dues à l'autocorrélation.
- Proposition 1 & 2 : Démontre que les méthodes d'influence marginale (KernelSHAP, ShapTime) échouent à la Séparation Conditionnelle (C2), tandis que les méthodes basées sur le gradient (Saliency, Integrated Gradients) échouent à l'Évaluation sur la Variété (C1).
Évaluation des extensions existantes : L'article évalue les méthodes temporellement conscientes (FIT, WinIT, Dynamask). Bien qu'elles satisfassent partiellement l'admissibilité en utilisant des remplacements dans la distribution, elles souffrent d'une faible sensibilité aux véritables arêtes directes (faux négatifs), bien qu'elles soient structurellement plus proches de l'admissibilité que les méthodes plates.
Proposition d'instanciations admissibles : Les auteurs proposent qu'une explication valide doit être un Tenseur de Transition instancié via une fonctionnelle admissible satisfaisant à la fois C1 et C2. Ils suggèrent de combiner des Jacobiens conscients de la variété (pour C1) avec des mesures de décalage de distribution conditionnelle (pour C2).

4. Résultats et preuves empiriques

L'article fournit des preuves empiriques via des benchmarks synthétiques comparant diverses méthodes aux graphes de dépendance de vérité terrain :

Méthodes plates (SHAP, TimeSHAP, ShapTime, TS-MULE) : Échouent systématiquement à distinguer les effets directs des effets médiés. Dans le Scénario I, elles attribuent des scores non nuls à des variables entièrement médiées. Dans le Scénario II, elles ne respectent pas les contraintes sur la variété.
Méthodes de gradient (Saliency, IG, TIG, SmoothGrad) : Distinguent correctement les effets directs vs médiés dans certains cas, mais échouent systématiquement au Scénario II en attribuant une pertinence non nulle à des variables qui sont conditionnellement indépendantes sur la variété des données, en raison de la sensibilité hors variété.
Méthodes de perturbation (FIT, WinIT, Dynamask) : Ces méthodes n'hallucinent pas d'arêtes dans les scénarios d'échec (elles respectent mieux C1 et C2) mais présentent une faible sensibilité, attribuant souvent des scores proches de zéro à des arêtes directes authentiques (faux négatifs).

Aucune méthode testée n'atteint la correction dans tous les scénarios, confirmant la thèse de l'article selon laquelle les paradigmes actuels sont structurellement inadéquats.

5. Signification et revendications

L'article affirme que le domaine de l'XAI pour les séries temporelles doit passer d'une fidélité centrée sur la sortie (est-ce que la perturbation de la caractéristique change la sortie ?) à une fidélité centrée sur la structure (est-ce que l'explication récupère la structure d'indépendance conditionnelle interne du modèle ?).

Changement théorique : Les auteurs soutiennent que le format scalaire lui-même n'est pas le mode de défaillance primaire, mais plutôt le conditionnement marginal et l'évaluation hors variété inhérents aux algorithmes actuels.
Nouveau standard : Ils postulent que la fidélité au DAG est le critère nécessaire pour les explications globales, et que le Tenseur de Transition est l'objet de représentation minimal capable d'encoder ces dépendances.
Défi ouvert : L'article identifie la construction d'une instanciation admissible concrète du tenseur de transition qui satisfasse à la fois C1 et C2 en pratique comme le problème central pour les recherches futures. Il note explicitement que si le tenseur est la représentation interne correcte, des stratégies de visualisation sont nécessaires pour rendre cette structure de haute dimension interprétable par l'humain.

L'article conclut en appelant la communauté de l'XAI à adopter ce cadre centré sur la structure et à dépasser les scores d'attribution plats pour les domaines temporels.