🤖 AI

C-SHAP for time series: An approach to high-level temporal explanations

Cet article propose C-SHAP, une approche d'IA explicable basée sur des concepts qui utilise la méthode SHAP pour fournir des explications temporelles de haut niveau, plus interprétables par l'humain, en se concentrant sur des motifs globaux plutôt que sur des points ou sous-séquences isolés dans des domaines à haut risque comme la santé et l'industrie.

Auteurs originaux : Annemarie Jutte, Faizan Ahmed, Jeroen Linssen, Maurice van Keulen

Publié 2026-04-24

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Annemarie Jutte, Faizan Ahmed, Jeroen Linssen, Maurice van Keulen

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez un ami très intelligent, mais un peu mystérieux, qui prend des décisions importantes pour vous (comme diagnostiquer une maladie ou prédire quand une machine va tomber en panne). Ce ami est une Intelligence Artificielle (IA). Le problème ? Il fonctionne comme une "boîte noire". Il vous dit : "C'est une maladie" ou "La machine va casser dans 3 jours", mais il ne vous explique pas pourquoi.

Dans le monde réel, surtout dans la santé ou l'industrie, on ne peut pas se permettre de faire confiance à quelqu'un sans comprendre son raisonnement. C'est là que cette recherche intervient.

Voici une explication simple de leur nouvelle méthode, C-SHAP, en utilisant des analogies du quotidien.

1. Le problème : Regarder les gouttes de pluie, pas l'orage

Jusqu'à présent, les méthodes pour expliquer les IA qui analysent des données temporelles (des courbes qui évoluent dans le temps, comme un rythme cardiaque ou la pression d'un moteur) étaient un peu brouillonnes.

L'ancienne méthode (Point par point) : C'est comme si vous regardiez une vidéo de l'orage et que l'IA vous disait : "Regarde, la goutte de pluie numéro 42 était importante, et la goutte numéro 105 aussi."
- Le souci : Cela ne vous dit pas pourquoi il pleut. Vous voyez des milliers de gouttes, mais vous ne comprenez pas le phénomène global : c'est un orage ! Vous avez l'information, mais pas le sens.

2. La solution : C-SHAP, le détective des "Grands Concepts"

Les auteurs de l'article proposent une nouvelle approche appelée C-SHAP. Au lieu de regarder chaque goutte de pluie individuellement, ils demandent à l'IA de réfléchir en termes de concepts de haut niveau.

Imaginez que vous décomposez une chanson complexe en plusieurs pistes :

La mélodie (la tendance globale).
Le rythme (les variations rapides).
Le volume (l'amplitude).
Le fond sonore (le bruit de base).

C'est ce que fait C-SHAP. Au lieu de dire "le point 50 est important", il dit : "Ah, c'est la tendance globale de la courbe qui a décidé de la réponse, et c'est le volume des variations qui a confirmé le doute."

3. Comment ça marche ? (Les deux approches)

Les chercheurs proposent deux façons d'utiliser ce détective :

Approche "Post-mortem" (Le traducteur) : Vous avez déjà une IA noire qui prend des décisions. C-SHAP intervient après coup. Il prend les données brutes, les décompose en concepts (comme on décompose une recette en ingrédients : farine, œufs, sucre), et demande à l'IA : "Si je retire l'ingrédient 'Sucre' (la tendance), est-ce que ta décision change ?". Cela permet d'expliquer n'importe quelle IA existante sans la toucher.
Approche "En amont" (L'élève qui apprend) : On entraîne l'IA directement avec ces concepts. Au lieu de lui donner la courbe brute, on lui donne les ingrédients séparés. Elle apprend à cuisiner en sachant exactement quel ingrédient fait quoi. C'est souvent plus performant, mais cela demande de repenser l'entraînement.

4. Les deux outils de décomposition (La "Recette")

Pour transformer une courbe complexe en concepts simples, ils utilisent deux méthodes :

La méthode mathématique (DWT) : C'est comme un couteau de chef très précis qui coupe la courbe en tranches mathématiques parfaites. C'est très technique, parfait pour les ingénieurs, mais un peu dur à comprendre pour un humain lambda.
La méthode "Humaine" (Décomposition personnalisée) : C'est la star de l'article. Ils ont créé une décomposition basée sur ce que les humains comprennent intuitivement. Ils définissent des concepts comme :
- La Tendance : Est-ce que ça monte ou ça descend globalement ?
- Le Biais : Quelle est la hauteur moyenne ?
- L'Amplitude : Est-ce que ça bouge beaucoup ou peu ?
- La Variance : Est-ce que les secousses deviennent plus fortes ou plus faibles ?

5. Les résultats : Ça marche dans la vraie vie !

Les chercheurs ont testé leur méthode sur deux cas concrets :

Reconnaissance d'activité (Santé/Sport) : Une IA regarde un capteur au genou pour savoir si une personne est debout, assise ou en train de marcher.
- Résultat C-SHAP : L'IA ne regarde pas chaque mouvement de jambe. Elle dit : "Je sais qu'il marche parce que l'amplitude (le balancement) est forte, et je sais qu'il est assis parce que le biais (l'angle du genou) est stable." C'est logique et facile à expliquer à un médecin.
Maintenance prédictive (Usine) : Une IA prédit quand un moteur d'avion va casser.
- Résultat C-SHAP : L'IA ne s'inquiète pas d'une petite vibration ici ou là. Elle dit : "Le moteur va casser parce que la tendance de la pression est à la baisse de manière linéaire." C'est une explication claire pour un ingénieur.

En résumé

C-SHAP, c'est comme passer d'une explication qui dit "Il y a eu un problème au millième de seconde 452" à une explication qui dit "Le moteur a un problème de tendance à la baisse".

C'est une méthode qui rend les IA moins mystérieuses en leur faisant parler le langage des grands principes (tendance, amplitude, rythme) plutôt que celui des millièmes de seconde, rendant ainsi la confiance possible entre les humains et les machines.

1. Problématique

Dans des domaines à haut risque comme la santé et l'industrie, l'explicabilité des modèles d'IA (XAI) est cruciale pour garantir la fiabilité et la confiance des utilisateurs. Cependant, les techniques d'explicabilité existantes pour les séries temporelles se concentrent principalement sur des explications ponctuelles (basées sur des points individuels) ou par sous-séquences.

Ces approches présentent des limites majeures :

Elles capturent uniquement des motifs locaux, manquant souvent les motifs de haut niveau (tendances globales, changements de variance, composantes fréquentielles) qui sont essentiels à la prise de décision du modèle.
Les attributions dispersées sur de nombreux points temporels rendent les explications difficiles à interpréter pour les humains (experts ou non).
Il existe un manque d'outils capables d'attribuer l'importance de concepts abstraits (comme une "tendance" ou un "bruit") plutôt que de simples valeurs de capteurs.

2. Méthodologie : C-SHAP

Les auteurs proposent C-SHAP (Concept-based SHAP), une approche d'explicabilité basée sur des concepts pour les séries temporelles. Cette méthode étend l'algorithme SHAP (Shapley Additive exPlanations) en traitant les concepts (des motifs de haut niveau) comme des caractéristiques d'entrée, plutôt que les points de données bruts.

A. Deux approches d'implémentation

L'article définit deux variantes de C-SHAP :

Approche entièrement post-hoc (agnostique aux concepts) : Le modèle est entraîné sur les données brutes. Les concepts sont extraits et masqués après l'entraînement pour calculer les valeurs SHAP. Cette méthode est modulaire et s'intègre facilement dans des pipelines MLOps existants.
Approche partiellement ante-hoc (informée par les concepts) : Le modèle est entraîné directement sur les concepts extraits (chaque concept constituant un canal d'entrée). Cela permet potentiellement d'améliorer les performances du modèle en guidant son raisonnement vers des caractéristiques interprétables.

B. Construction et Masquage des Concepts

Pour que SHAP fonctionne sur des concepts, deux étapes clés sont nécessaires :

Construction des concepts : Une fonction $d(\cdot)$ $d (\cdot)$ décompose la série temporelle $y(t)$ $y (t)$ en un ensemble de concepts $C = \{c_1, ..., c_m\}$ $C = {c_{1}, ..., c_{m}}$ .
- Pour l'approche agnostique, cette décomposition doit être inversible (Condition 2) afin de reconstruire le signal original à partir des concepts masqués.
- Les auteurs utilisent la Décomposition par Ondelettes Discrètes (DWT) et proposent une décomposition personnalisée conçue pour l'interprétabilité humaine.
Masquage des concepts : Pour calculer les valeurs SHAP, les concepts sont "masqués" (remplacés par des valeurs non informatives).
- Modèle informé : On remplace le canal de concept par celui d'un échantillon de référence.
- Modèle agnostique : On masque les composantes, puis on les recompose en un signal univarié via une fonction de reconstruction $r(\cdot)$ (inverse de $d(\cdot)$ ).

C. Décomposition Personnalisée

Les auteurs proposent une décomposition hybride (additive et multiplicative) définie par des concepts intuitifs :

Tendance (Trend) : Augmentation ou diminution linéaire.
Biais (Bias) : Niveau moyen du signal.
Échelle (Scale) : Amplitude maximale (multiplicatif).
Variance : Changements d'amplitude dans le temps.
Fréquences basses/hautes : Composantes lentes et rapides (extraites via DWT et filtrage).

3. Contributions Clés

Formalisation de C-SHAP : Définition mathématique de deux approches (agnostique et informée) pour appliquer SHAP à des concepts de séries temporelles.
Utilisation de la décomposition : Démonstration de l'efficacité de la décomposition temporelle (DWT et méthode personnalisée) pour générer des concepts explicables.
Algorithme de décomposition personnalisé : Conception d'une méthode de décomposition heuristique axée sur l'interprétabilité humaine (combinaison de termes additifs et multiplicatifs).
Validation empirique : Application réussie sur deux cas d'usage distincts : la reconnaissance d'activité humaine (HAR) et la maintenance prédictive.

4. Résultats Expérimentaux

Les expériences ont été menées sur deux jeux de données :

OPPORTUNITY (HAR) : Classification des activités (debout, marche, assis, couché) à partir d'accéléromètres.
Turbofan (Maintenance prédictive) : Prédiction de la durée de vie restante (RUL) d'un moteur d'avion.

Résultats principaux :

Interprétabilité supérieure : Contrairement à SHAP ponctuel (KernelSHAP) qui produit des cartes de chaleur bruyantes et peu claires, C-SHAP identifie clairement les concepts dominants.
- HAR : Les modèles s'appuient principalement sur le Biais (angle moyen du genou) et l'Échelle (amplitude des fluctuations) pour distinguer les activités.
- Maintenance : La Tendance (changement linéaire de la pression) est le concept le plus influent pour prédire la durée de vie restante.
Performance des modèles : Les modèles "informés par les concepts" (entraînés sur les composantes) montrent des performances comparables, voire légèrement supérieures, aux modèles agnostiques sur le jeu de données HAR, tout en offrant une transparence native.
Flexibilité : C-SHAP permet d'expliquer des modèles complexes (GRU) avec des concepts compréhensibles par des experts métier ou des utilisateurs non techniques.

5. Signification et Impact

Cet article comble un vide important dans le domaine de l'XAI pour les séries temporelles en passant d'une explication locale (point par point) à une explication globale et sémantique (basée sur des concepts).

Pour les experts métier : C-SHAP fournit des explications alignées sur leur compréhension du domaine (ex: "le modèle a prédit une panne à cause de la tendance à la baisse de la pression", plutôt que "le point 45 a une valeur de 0.8").
Pour la recherche : Il formalise le lien entre la décomposition de séries temporelles et les méthodes d'attribution de caractéristiques, ouvrant la voie à l'utilisation de n'importe quelle méthode de décomposition (statistique, physique, etc.) comme base d'explicabilité.
Généralisation : La méthode est agnostique au modèle sous-jacent, ce qui la rend applicable à une large gamme de tâches d'IA temporelle au-delà des cas d'usage présentés.

En conclusion, C-SHAP représente une avancée significative pour rendre les modèles d'IA temporels plus transparents, fiables et dignes de confiance dans des applications critiques.