🤖 machine learning

Global Explanations for Multivariate Time Series Forecasting Models via $K$ -Order Markov Approximations

L'article présente KARMA, une nouvelle méthode de génération d'explications globales pour les modèles de prévision de séries temporelles multivariées en construisant un modèle de substitution de Markov d'ordre $K$ qui capture les dépendances temporelles et récupère les structures causales plus efficacement que les techniques d'attribution existantes.

Auteurs originaux : Amadeo Tunyi

Publié 2026-06-29

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Amadeo Tunyi

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous possédez une boule de cristal super intelligente, mais complètement opaque, qui prédit l'avenir en se basant sur un flux de données (comme la météo, les cours de la bourse ou les fréquences cardiaques). Vous savez qu'elle fonctionne bien, mais vous n'avez aucune idée de pourquoi elle fait ces prédictions. C'est une « boîte noire ».

La plupart des méthodes actuelles pour tenter de jeter un coup d'œil à l'intérieur de cette boîte consistent à demander : « Que se passerait-il si j'effaçais magiquement cette donnée précise ? » Le problème est que dans les données de séries temporelles (comme une prévision météo), vous ne pouvez pas simplement effacer la température d'hier sans briser les lois de la physique ; la météo d'aujourd'hui est profondément liée à celle d'hier. Effacer cette donnée crée un scénario fictif qui n'arrive jamais dans la réalité, ce qui conduit à des réponses confuses ou erronées.

Entrez en scène : KARMA.

Le document présente une nouvelle méthode appelée KARMA (K-Order Markov Approximation for Multivariate Time Series — Approximation de Markov d'ordre K pour les séries temporelles multivariées). Au lieu d'essayer d'effacer des données, KARMA pose une question plus simple et plus naturelle : « Si le système se trouvait dans cet état spécifique lors des dernières étapes, que le modèle prévoit-il pour la suite ? »

Voici comment fonctionne KARMA, décomposé en concepts simples :

1. Le détective de la « limite de mémoire » (Pilier 1)

Imaginez que vous essayez de deviner le mot suivant dans une phrase. Avez-vous besoin de vous souvenir de tout le paragraphe, ou seulement des derniers mots ?
KARMA agit comme un détective pour trouver la « limite de mémoire » du modèle. Il teste le modèle pour voir : « Jusqu'où dans le passé ce modèle doit-il réellement regarder pour faire une bonne prédiction ? »

Il trouve un nombre spécifique, appelons-le K.
Si le modèle n'a besoin que des 4 dernières heures de données pour prédire l'heure suivante, KARMA prouve que regarder 100 heures en arrière est inutile.
Le résultat : Il vous dit : « Ce modèle ne s'intéresse qu'aux 4 étapes précédentes. Tout ce qui précède est du bruit. »

2. La base de référence du « Zéro Certifié » (Pilier 2)

Une fois que KARMA sait que le modèle ne regarde en arrière que K étapes, il fait quelque chose de puissant. Il crée une « base de référence » (un point de départ par défaut) qui est mathématiquement prouvée comme étant la meilleure adaptation.

Parce que le modèle ignore tout ce qui est plus ancien que K, KARMA peut affirmer avec une certitude de 100 % : « L'importance de toute donnée plus ancienne que K est exactement égale à zéro. »
La plupart des autres méthodes disent : « Cette vieille donnée a une influence minuscule, infime. » KARMA dit : « Non, elle n'a aucune influence. » C'est un « zéro certifié », ce qui est un exploit majeur pour la confiance.

3. La carte d'explication à « cinq niveaux » (Pilier 3)

Une fois que KARMA a construit sa carte de mémoire simplifiée (appelée substitut de Markov), il génère un rapport à cinq niveaux pour expliquer le comportement du modèle, comme si l'on épluchait un oignon :

Niveau 1 : Qui est important ? (Importance des variables)
- Analogie : Dans un groupe, qui est le chanteur principal ?
- KARMA classe les variables (par exemple, Température, Vent, Pression) pour voir lesquelles pilotent le plus les prédictions. Il vous dit : « La température est la star ; la direction du vent n'est qu'un bruit de fond. »
Niveau 2 : Quand est-ce important ? (Profils de retard/Lag)
- Analogie : Combien de temps l'écho de la voix du chanteur principal résonne-t-il ?
- Il montre comment l'influence d'une variable s'estompe avec le temps. Le modèle se soucie-t-il de la température d'il y a 1 heure, ou de celle d'il y a 3 heures ? Cela révèle si le modèle recherche de l'« impulsion » (les choses continuent de monter) ou de la « réversion à la moyenne » (les choses rebondissent).
Niveau 3 : Quels sont les « moments spéciaux » ? (Explication de régime)
- Analogie : Quand le groupe passe-t-il d'une ballade à un morceau de rock ?
- Il identifie des schémas spécifiques dans le passé (les historiques) où le modèle se comporte de manière étrange ou unique. Par exemple : « Quand il fait chaud ET venteux, le modèle prédit de la pluie, mais quand il fait chaud ET calme, il prédit du soleil. »
Niveau 4 : Et si nous changeons les choses ? (Effets interventionnels)
- Analogie : Si nous forçons le batteur à jouer un rythme différent, comment la chanson change-t-elle ?
- Il simule le changement d'une valeur passée spécifique (par exemple, « Et si le vent d'hier avait été plus fort ? ») et mesure à quel point la prédiction bascule. Cela construit une carte des relations de cause à effet apprises par le modèle.
Niveau 5 : À quel point sommes-nous sûrs ? (Incertitude)
- Analogie : Le groupe joue-t-il une chanson qu'il connaît par cœur, ou est-il en train d'improviser ?
- Il mesure deux types d'incertitude :
  1. Aléatoire (Aleatoric) : Le futur est-il intrinsèquement chaotique ? (Le modèle est incertain parce que les données sont bruitées).
  2. Épistémique : Le modèle n'a-t-il jamais vu cette situation auparavant ? (Le modèle est incertain parce qu'il manque de données).
- Cela sert de « badge de fiabilité », vous indiquant quand faire confiance à l'explication et quand être sceptique.

Comment cela a été testé

Les auteurs ont testé KARMA de deux manières principales :

Données synthétiques (Le « Monde Fictif ») : Ils ont créé un monde fictif où ils connaissaient les règles exactes (la cause et l'effet « réels »). KARMA a été capable de reconstruire parfaitement ces règles, trouvant chaque connexion réelle et ignorant les fausses. Les autres méthodes se sont confondues face à la complexité.
Données du monde réel (Le « Monde Réel ») : Ils ont utilisé des données météorologiques réelles (PM 2,5 à Pékin) et des données financières. KARMA a performé aussi bien, voire mieux, que les meilleures méthodes existantes pour identifier quels moments temporels étaient réellement importants pour la prédiction.

L'essentiel

KARMA est une nouvelle façon d'expliquer les modèles de séries temporelles qui respecte le fait que le temps s'écoule de manière séquentielle. Au lieu de briser la chronologie pour voir ce qui compte, il construit une carte probabiliste simplifiée de la façon dont le modèle relie le passé au futur. Il vous donne une liste classée des facteurs importants, vous dit exactement jusqu'où dans le passé le modèle regarde, et vous fournit même un « score de confiance » pour ses propres explications.

Limites mentionnées dans le document :
La méthode fonctionne mieux lorsque le nombre de variables et la « longueur de mémoire » ne sont pas trop vastes. Si vous avez des milliers de variables, les calculs deviennent très lourds (croissance exponentielle), bien que les auteurs utilisent des astuces pour rendre la chose gérable pour la plupart des cas réels.

Résumé Technique : KARMA – Explications Globales pour la Prévision de Séries Temporelles Multivariées via des Approximations de Markov d'Ordre K

1. Énoncé du Problème

Le déploiement de modèles d'apprentissage profond (ex: RNN, TCN, Transformers) pour la prévision de séries temporelles multivariées dans des domaines à enjeux élevés (finance, surveillance clinique, capteurs industriels) se heurte à une opacité significative. Les méthodes existantes d'IA explicable (XAI), telles que LIME, SHAP et les attributions basées sur le gradient, sont principalement conçues pour des données statiques et indépendantes et identiquement distribuées (i.i.d.). Lorsqu'elles sont appliquées aux séries temporelles, ces méthodes violent souvent les propriétés temporelles fondamentales :

Hypothèse d'indépendance : Elles supposent implicitement que les caractéristiques des horodatages sont indépendantes, ignorant l'autocorrélation temporelle et la causalité de Granger entre les variables.
Perturbations hors-variété (Off-Manifold) : Les perturbations aléatoires dans SHAP ou LIME brisent les structures séquentielles, créant des contrefactuels qui n'existent pas dans la distribution des données.
Local vs Global : Les méthodes basées sur le gradient décrivent la géométrie locale en un point unique plutôt que la structure conditionnelle systématique apprise globalement par le modèle.
Sélection de la ligne de base (Baseline) : Les méthodes comme TimeSHAP luttent avec le « problème de sélection de la ligne de base » dans les contextes séquentiels, où le choix de la ligne de base est non trivial.

L'article soutient que les explications pour les séries temporelles doivent respecter la structure séquentielle et causale des données, en s'éloignant des approximations locales basées sur la perturbation ou le gradient vers une approche de substitut probabiliste et global.

2. Méthodologie : Le Cadre KARMA

Les auteurs proposent KARMA (K-Order Markov Approximation), un cadre qui explique un prédicteur de séries temporelles boîte noire $f$ en construisant un modèle de substitut de Markov d'ordre K. Le principe central est que le comportement d'un prédicteur complexe sur une série temporelle multivariée peut être fidèlement approximé par une chaîne de Markov d'un ordre $K$ spécifique.

La méthodologie s'articule autour de trois piliers :

Pilier 1 : Substitut de Markov et Sélection de l'Ordre

Discrétisation : Les variables de séries temporelles continues sont discrétisées en $N$ bacs (bins) en utilisant des limites de quantiles dérivées des données d'entraînement, créant un espace d'états discret $S = [N]^D$ .
Sélection de l'ordre ( $K^*$ ) : La méthode identifie la longueur d'historique minimale $K^*$ qui est prédictivement suffisante. Ceci est réalisé via une règle d'arrêt de validité prédictive du substitut. L'algorithme teste des longueurs de retard $K$ croissantes en remplaçant le préfixe d'une fenêtre d'entrée par une ligne de base $b$ et en mesurant la divergence de prédiction $\hat{\Delta}_{pred}(K, b)$ .
Critère d'arrêt : $K^*$ est le plus petit $K$ pour lequel la divergence minimale tombe sous une tolérance $\epsilon$ . Cela certifie que le modèle est insensible aux entrées au-delà de ce retard $K^*$ .

Pilier 2 : Compression et Attribution Certifiée

Compression du modèle : Si $K^* < W$ (la fenêtre d'entrée du modèle), le modèle est prouvé insensible aux entrées au-delà du retard $K^*$ . Cela produit un taux de compression $W/K^*$ .
Ligne de base certifiée ( $b^*$ ) : La ligne de base $b^*$ n'est pas choisie par l'analyste mais est certifiée par le modèle ; il s'agit du préfixe spécifique qui minimise la divergence de prédiction lorsqu'il est substitué.
Attributions certifiées à zéro : Pour tous les retards $k > K^*$ , les attributions sont mathématiquement nulles (dans l'erreur d'approximation), résolvant l'ambiguïté entre importance « faible » et « nulle » présente dans d'autres méthodes.

Pilier 3 : Hiérarchie d'Explication Globale à Cinq Niveaux

Une fois le noyau de transition de Markov d'ordre $K^*$ ( $\hat{T}^f_{K^*}$ ) estimé, KARMA dérive cinq couches d'explication globale sans requêtes supplémentaires auprès de l'oracle :

Niveau 1 (Importance des Variables) : Calcule l'influence de distribution totale des variables sources sur les prédictions cibles à travers tous les retards, en classant les variables par leur influence marginale de variation totale.
Niveau 2 (Profils de Retard) : Résout l'influence par retard spécifique $k$ , révélant la dynamique temporelle (ex: momentum, retour à la moyenne) pour chaque variable.
Niveau 3 (Distinctivité de Régime) : Identifie les régimes historiques distinctifs (chemins) où la prévision conditionnelle du modèle dévie significativement de son comportement typique, en utilisant un indice d'interdépendance marginale.
Niveau 4 (Effets Interventionnels) : Calcule les effets interventionnels moyens (AIE) et les contributions d'arêtes pour peupler un graphe causal induit par le modèle, se connectant directement à l'importance du Niveau 1.
Niveau 5 (Quantification de l'Incertitude) : Fournit des certificats de fiabilité :
- Incertitude Aléatoire : Entropie de la distribution prédictive (incertitude réelle du modèle).
- Incertitude Épistémique : Variance des estimations du noyau (signale les historiques avec une couverture de données insuffisante).

Estimation du Noyau : Pour éviter la complexité exponentielle de l'estimation du noyau conjoint complet ( $N^{DK^*}$ ), KARMA estime $D$ noyaux marginaux factorisés. Il emploie par défaut une Stratégie B (Monte Carlo par préfixe $b^*$ ), qui restreint l'estimation au support de l'historique observé $H^+_{K^*}$ , évoluant linéairement avec la longueur de la série $T$ plutôt qu'exponentiellement avec la dimension.

3. Résultats Clés

Données Synthétiques (Oracle VAR)

Récupération de la Structure Causale : Sur des données synthétiques de type Vecteur Autorégressif (VAR) avec des arêtes causales de vérité terrain connues, KARMA a atteint une récupération parfaite (1.00) dans tous les cas sauf la configuration la plus complexe (xlarge, où la récupération était de 0.71). Il a maintenu une précision élevée, excluant efficacement les arêtes spécieuses.
Classement des Caractéristiques : KARMA était la seule méthode de premier rang (plus haut Kendall's $\tau$ ) sur les configurations medium, large et xlarge. Les méthodes concurrentes (TimeSHAP, WinIT, Feature Occlusion) se sont dégradées à mesure que la densité du graphe augmentait.
Comparaison : Les Gradients Intégrés (IG) ont été exclus des tests synthétiques car ils se réduisent à des coefficients exacts sur les VAR linéaires, rendant la comparaison dégénérée.

Benchmarks du Monde Réel

Les expériences ont été menées sur trois jeux de données (ETTh1, Beijing PM2.5, Exchange Rate) à travers trois architectures (GRU, LSTM, TCN) en utilisant un score AUC basé sur le retard sensible au temps ( $AUClag@25\%$ ).

ETTh1 : KARMA a obtenu les scores les plus élevés sur toutes les architectures, surpassant notamment la méthode suivante de près (0.71 contre 0.49 sur TCN).
Beijing PM2.5 : KARMA est compétitif, égalant ou suivant légèrement les bases les plus fortes.
Exchange Rate : Toutes les méthodes ont chuté vers des scores proches de zéro. Les auteurs interprètent cela correctement : le jeu de données approxime une marche aléatoire avec peu de structure temporelle apprenable, ce qui signifie qu'aucune méthode ne peut identifier des pas de temps dont la suppression modifierait la prévision. Cela valide le comportement de la métrique plutôt qu'un échec de l'explicateur.

4. Signification et Revendications

L'article positionne KARMA comme une alternative rigoureuse aux méthodes XAI existantes pour les séries temporelles en :

Respectant la Géométrie Temporelle : Contrairement aux méthodes basées sur la perturbation qui brisent la structure séquentielle, l'approximation de Markov de KARMA opère dans le langage natif du domaine (dépendances conditionnelles).
Fournissant des Garanties Statistiques : Il offre des attributions certifiées à zéro pour les retards non pertinents et des certificats de fiabilité explicites (Niveau 5) pour les explications, une caractéristique absente des travaux précédents.
Global vs Local : Il fournit une hiérarchie d'explication globale dérivée d'un noyau estimé unique, plutôt que des approximations locales par instance.
Validité Agnostique au Modèle : La sélection de $K^*$ et de la ligne de base $b^*$ est dérivée directement du comportement du modèle, et non d'hypothèses de l'analyste.

Limites Reconnues :
Les auteurs notent que l'espace d'états croît exponentiellement avec $N^{DK^*}$ , rendant l'estimation du noyau complet difficile dans des environnements de haute dimension. KARMA atténue cela via des noyaux marginaux et des stratégies d'échantillonnage, mais le passage à l'échelle vers des systèmes de très haute dimension reste une direction ouverte.

L'article conclut que le paradigme de l'approximation de Markov offre une direction robuste et sous-explorée pour l'XAI dans les domaines séquentiels, applicable à la finance, aux neurosciences et à la génomique.