🤖 machine learning

Concept Extraction for Time Series with ECLAD-ts

Cet article introduit ECLAD-ts, une nouvelle méthode d'extraction et de localisation de concepts post-hoc adaptée à la classification de séries temporelles, qui génère des explications globales en regroupant les cartes d'activation des CNN pour révéler comment les modèles encodent des sous-ensembles d'entrées à différents niveaux d'abstraction.

Auteurs originaux : Antonia Holzapfel, Andres Felipe Posada-Moreno, Sebastian Trimpe

Publié 2026-08-03

📖 11 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Antonia Holzapfel, Andres Felipe Posada-Moreno, Sebastian Trimpe

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous soyez un détective essayant de résoudre un mystère, mais que votre seul témoin soit un robot brillant et ultra-rapide qui refuse de parler. Ce robot peut regarder une longue ligne de données sinueuse et dire exactement ce qui se passe — comme prédire si une machine va tomber en panne ou si un patient est malade — mais il ne vous dira pas comment il a compris cela. Dans le monde de la science, c'est ce qu'on appelle une « boîte noire ». Nous savons que le robot est intelligent, mais comme nous ne pouvons pas voir son processus de réflexion, nous ne savons pas s'il utilise de vrais indices ou s'il se repose simplement sur de minuscules motifs accidentels qui ressemblent par hasard à la réponse. C'est un grand problème car, si le robot se repose sur ces motifs, il pourrait commettre des erreurs dangereuses lorsque les choses changent. Les scientifiques ont essayé de construire des « lampes de poche » pour éclairer ces boîtes noires, surtout pour les images, mais les données basées sur le temps (comme les battements de cœur ou les cours de la bourse) ont été beaucoup plus difficiles à percer car elles bougent et changent de manières que les images ne font pas.

Ce document présente une nouvelle lampe de poche appelée ECLAD-ts, conçue spécifiquement pour jeter un coup d'œil à l'intérieur du cerveau des robots qui analysent des séries temporelles. Les chercheurs ont construit cet outil pour trouver des « concepts » — qui sont simplement les motifs ou les formes spécifiques que le robot a appris à reconnaître. C'est comme apprendre à un enfant à identifier un chien : vous ne dites pas seulement « c'est un chien » ; vous montrez les oreilles tombantes, la queue qui remue et le nez humide. ECLAD-ts fait cela pour les robots, mais au lieu des oreilles et des queues, il trouve des ondulations, des bosses et des pentes dans les données. L'équipe a testé son nouvel outil sur des données fictives (où ils connaissaient la réponse à l'avance) et sur des données réelles provenant d'usines et de capteurs de mouvement. Ils ont découvert qu'ECLAD-ts est bien meilleur pour repérer les vrais indices que le robot utilise et pour ignorer les « raccourcis » ou les motifs accidentels. Il a même découvert que certains robots ignoraient les parties réellement importantes des données et devinaient simplement en se basant sur le bruit de fond. En nous montrant exactement quelles parties de la chronologie le robot regarde, ECLAD-ts nous aide à faire davantage confiance au robot, ou à le corriger s'il regarde les mauvaises choses.

Le Problème : Le Robot Silencieux qui utilise des Raccourcis

Imaginez que vous entraîniez un robot pour faire la différence entre une « bonne » journée dans une usine et une « mauvaise » journée. Vous le nourrissez avec des milliers d'enregistrements de vibrations de machines. Le robot devient très bon dans son travail, obtenant 100 % de réussite aux tests. Mais ensuite, vous lui demandez : « Pourquoi as-tu pensé que cette machine était cassée ? » Le robot se contente de vous fixer. C'est une boîte noire.

La partie effrayante est que les robots sont notoirement enclins à prendre des raccourcis. Au lieu d'apprendre qu'une machine est cassée à cause d'un bruit de craquement spécifique dans la vibration, le robot pourrait apprendre que « les mauvais jours arrivent toujours les mardis » ou que « les mauvais jours ont toujours un peu de bruit statique au tout début ». Si le robot se repose sur ces raccourcis, il échouera lamentablement dès que l'emploi du temps changera ou que le bruit statique disparaîtra. C'est ce qu'on appelle l'apprentissage par raccourci (« shortcut learning »), et c'est dangereux car le robot semble intelligent mais ne l'est pas réellement.

Pour corriger cela, les scientifiques doivent ouvrir la boîte noire. Ils doivent voir ce que le robot est réellement en train de « penser ». Pour les images, nous avons des outils qui peuvent mettre en évidence la partie de l'image que le robot regarde. Mais pour les séries temporelles — des données qui coulent au fil du temps comme un battement de cœur ou un graphique boursier — ces outils manquaient ou ne fonctionnaient pas bien. Les méthodes existantes étaient comme essayer de trouver une aiguille dans une botte de foin en devinant simplement où l'aiguille pourrait se trouver, ou elles nécessitaient que des humains étiquettent manuellement chaque motif, ce qui est lent et ennuyeux.

La Solution : ECLAD-ts, le Détective Voyageur du Temps

Les auteurs de ce document, Antonia Holzapfel et son équipe, ont créé un nouvel outil appelé ECLAD-ts. Considérez cet outil comme un détective capable de figer le temps et de zoomer sur des moments spécifiques d'un flux de données pour voir à quoi le robot prête attention.

Voici comment cela fonctionne, en utilisant une analogie simple :
Imaginez que le cerveau du robot est une immense bibliothèque de notes. Chaque fois que le robot regarde une donnée, il écrit une note sur ce qu'il voit. ECLAD-ts entre dans cette bibliothèque et regroupe les notes similaires. Ces groupes sont appelés concepts.

Concept 1 pourrait être « un pic aigu au milieu ».
Concept 2 pourrait être « une pente douce et lente au début ».
Concept 3 pourrait être « un bruit aléatoire ».

La magie d'ECLAD-ts est qu'il ne se contente pas de trouver ces concepts ; il vous dit à quel point ils sont importants. Il demande au robot : « Si je retire ce "pic aigu" des données, est-ce que ta réponse change ? » Si la réponse change beaucoup, le concept est très important. Si la réponse ne change pas, le concept n'est que du bruit de fond.

Crucialement, cet outil est conçu pour les séries temporelles multivariées. Cela signifie que les données proviennent souvent de plusieurs capteurs à la fois (comme une voiture ayant un capteur de vitesse, un capteur de température et un capteur de pression enregistrant tous en même temps). ECLAD-ts est spécial car il peut vous dire quel capteur le robot regarde. Il peut dire : « Le robot regarde le "pic aigu" sur le capteur de température, mais il ignore le capteur de vitesse ». Les autres outils mélangent souvent tous les capteurs, rendant impossible de savoir lequel importe.

Les Expériences : Tester le Détective

Pour prouver que leur outil fonctionne, l'équipe a mené une série de tests.

1. Le Test des Données Fictives (La vérification de la "Vérité Terrain")
D'abord, ils ont créé trois jeux de données fictifs où ils connaissaient exactement la réponse.

SyntheticL2 : Ils ont créé des données où une classe avait un « bosse » spécifique et l'autre non. Ils ont aussi ajouté un motif de « fond » qui ressemblait à une onde carrée.
SyntheticL4 : Ils ont créé des données avec une « bosse ascendante » pour une classe et une « bosse descendante » pour une autre.
SyntheticLm : C'était le plus complexe. Ils avaient deux canaux (capteurs). Un canal avait une « bosse » pour la Classe A, et l'autre canal avait une « bosse » pour la Classe B.

Ils ont entraîné des robots sur ces données fictives, puis ont utilisé ECLAD-ts (et d'autres outils) pour voir ce que les robots avaient appris.

Le Résultat : ECLAD-ts a correctement identifié les « bosses » comme étant les concepts importants. Il a même repéré que certains robots s'appuyaient sur des raccourcis ! Dans un cas, le robot a appris à ignorer la « bosse » et à simplement regarder le « fond » pour deviner la réponse. ECLAD-ts a capté cela et a attribué un score d'importance élevé au fond, révélant le raccourci du robot.
La Comparaison : Ils ont comparé ECLAD-ts à d'autres outils comme ConceptShap et MultiVISION. Ces autres outils ont souvent échoué. Soit ils ne pouvaient pas trouver les « bosses » spécifiques, soit ils étaient confus par le bruit de fond. ECLAD-ts était le seul capable de pointer clairement le bon endroit dans le temps et sur le bon capteur.

2. Le Test du Monde Réel
Ensuite, ils l'ont essayé sur des données réelles.

Jeu de données GunPoint : Ces données enregistrent les mouvements de main d'acteurs faisant semblant de tenir une arme. Les caract𝗲ristiques clés sont un mouvement de « dépassement » spécifique (lorsqu'ils abaissent le bras) et un « lever supplémentaire » (lorsqu'ils le lèvent). ECLAD-ts a mis en évidence avec succès ces mouvements exacts. Les autres outils pointaient simplement des zones larges et vagues de la chronologie.
Jeu de données P2S : Il s'agit de données provenant d'une usine d'emboutissage métallique. Le but est de dire si une production est normale ou défectueuse. Les experts savent que les indices importants se trouvent sur les « pentes » avant la courbe au milieu du graphique. ECLAD-ts a trouvé ces pentes et leur a donné des scores d'importance élevés. Il a même examiné une erreur commise par le robot et a montré que le robot avait confondu une pente d'un cycle « bon » avec une pente d'un cycle « mauvais ». Cela aide les humains à comprendre pourquoi le robot a échoué.

Ce Qu'ils Ont Trouvé (Et Ce Qu'Ils N'Ont Pas Trouvé)

L'article montre qu'ECLAD-ts est un nouvel outil puissant pour comprendre comment les robots pensent le temps.

Cela fonctionne : L'outil a extrait avec succès des motifs significatifs (concepts) du cerveau du robot qui correspondaient à ce que les humains savaient être importants.
Il attrape les raccourcis : Il peut détecter quand un robot utilise des raccourcis ou regarde les mauvaises choses (comme le bruit de fond au lieu du signal réel).
Il gère plusieurs capteurs : C'est le premier outil capable de séparer clairement quel capteur est important pour un motif spécifique, ce qui est un exploit majeur pour des données complexes.
Il est meilleur que les autres : Dans leurs tests, ECLAD-ts a systématiquement surpassé les autres outils (ECLAD, ConceptShap et MultiVISION) pour trouver les bons motifs et attribuer le bon niveau d'importance.

Cependant, les auteurs prennent soin de ne pas dire qu'il s'agit d'un produit parfait et fini. Ils notent que :

Il nécessite un réglage : L'outil possède des paramètres (comme le nombre de concepts à rechercher) qui doivent être ajustés. Si vous choisissez le mauvais nombre, les résultats pourraient être moins clairs.
C'est encore une simulation par certains aspects : Bien qu'ils aient testé l'outil sur des données réelles, la « vérité terrain » (connaître la réponse absolue exacte) n'était disponible que dans les jeux de données fictifs. Dans le monde réel, nous ne pouvons pas être sûrs à 100 % que le robot regarde le seul et unique bon élément, mais ECLAD-ts nous donne la meilleure vue dont nous disposons.
C'est pour les CNN : Cet outil est conçu pour un type spécifique de cerveau de robot appelé Réseau de Neurones Convolutifs (CNN). Il pourrait ne pas fonctionner pour d'autres types de robots sans modifications.

Pourquoi Cela Importe

Ce document ne nous donne pas seulement un nouvel outil ; il nous donne un moyen de construire la confiance. Si un robot diagnostique un patient ou contrôle une usine, nous devons savoir qu'il ne se contente pas de deviner. ECLAD-ts agit comme un traducteur, transformant les pensées silencieuses et complexes du robot en une histoire claire : « Je prédis "défectueux" parce que je vois cette pente spécifique sur le capteur de température, et j'ignore le bruit sur le capteur de pression. »

En rendant ces boîtes noires un peu moins noires, les auteurs espèrent que les ingénieurs et les médecins pourront construire des systèmes meilleurs, plus sûrs et plus fiables. Ils ne prétendent pas avoir résolu tous les problèmes de l'intelligence des robots, mais ils ont certainement allumé une lumière très brillante dans une pièce très sombre.

Résumé technique : Extraction de concepts pour les séries temporelles avec ECLAD-ts

Problématique

Les réseaux de neurones convolutifs (CNN) sont de plus en plus déployés pour la classification de séries temporelles (TSC) dans des domaines critiques tels que la prédiction de la qualité et le diagnostic médical. Cependant, leur nature de « boîte noire » entrave la compréhension de leurs processus de prédiction, rendant difficile la détection de l'utilisation par les modèles de biais nocifs, de corrélations spécieuses ou d'« apprentissage par raccourci » (shortcut learning) plutôt que de caractéristiques pertinentes pour la tâche. Bien qu'il existe des méthodes d'extraction de concepts (CE) pour fournir des explications compréhensibles par l'humain en identifiant des motifs (concepts) utilisés par le modèle, les approches existantes sont principalement conçues pour le domaine de l'image.

Dans le domaine des séries temporelles, les méthodes d'explication actuelles présentent des limitations significatives :

Les méthodes basées sur des prototypes ne reflètent pas la manière dont le modèle encode l'information en interne.
Les méthodes de test de concepts (ex. : TCAV) nécessitent un étiquetage manuel des concepts, ce qui introduit un biais humain et une charge de travail, et peut ne pas correspondre aux concepts réellement appris par le modèle.
Les méthodes de CE existantes pour les séries temporelles (ex. : MultiVISION) reposent souvent sur le champ récepteur des couches du réseau. Dans les architectures profondes avec de grands champs récepteurs (ex. : InceptionTime), cela peut entraîner des patchs de concepts couvrant l'intégralité de l'entrée, rendant le « clustering » inefficace.
Les méthodes de CE basées sur l'image ne peuvent pas être transférées directement en raison de caractéristiques propres au domaine, telles que les données multicanaux où différents canaux encodent des types d'informations distincts (ex. : différents capteurs).

Il existe un manque critique pour une méthode de CE automatique et globale, adaptée aux séries temporelles, capable de localiser les concepts à la fois temporellement et à travers les canaux sans dépendre d'une annotation manuelle ou de champs récepteurs fixes.

Méthodologie : ECLAD-ts

Les auteurs proposent ECLAD-ts, une méthode d'explication globale post-hoc adaptée de l'algorithme ECLAD du domaine de l'image. La méthode extrait et localise les concepts en analysant les représentations internes des CNN. La méthode opère en trois étapes principales :

1. Encodage de l'espace latent (Descripteurs agrégés locaux)

Au lieu de s'appuyer sur des champs récepteurs fixes, ECLAD-ts utilise des Descripteurs Agrégés Locaux (LADs).

La méthode agrège les cartes d'activation d'un ensemble prédéfini de couches CNN ( $L$ ).
Ces cartes sont agrandies via une interpolation linéaire pour correspondre aux dimensions d'entrée ( $w \times ch$ ).
Un descripteur $d_{x_i}$ est formé en concaténant ces cartes agrandies.
Un LAD est défini comme la tranche par pas de temps de ce descripteur ( $d_{x_i}(b)$ ), représentant la manière dont le modèle encode un pas de temps spécifique à différents niveaux d'abstraction. Cette approche réduit la dimensionnalité tout en préservant l'information temporelle et par canal.

2. Exploration de motifs et visualisation

Clustering : Un algorithme k-means par mini-batch est appliqué aux LADs extraits d'un ensemble d'entrées pour identifier des clusters de sous-séquences temporelles encodées de manière similaire. Les centroïdes de ces clusters ( $\gamma_{c_j}$ ) définissent les concepts.
Localisation : Pour visualiser un concept $c_j$ au sein d'une entrée $x_i$ , un masque $m_{x_i}^{c_j}$ est généré. Ce masque identifie les pas de temps où le LAD est le plus proche du centroïde du concept.
Expansion de canal : Contrairement aux méthodes basées sur l'image, les séries temporelles possèdent souvent plusieurs canaux avec des informations distinctes. ECLAD-ts étend le masque monocanal pour correspondre au nombre de canaux de l'entrée, créant des masques séparés pour chaque canal afin de permettre une localisation par canal.

3. Calcul de la pertinence (Score d'importance)

Un nouveau mécanisme de notation de l'importance est introduit pour quantifier la pertinence des concepts, traitant spécifiquement la nature multicanale des séries temporelles.

Sensibilité par instance : La méthode calcule la sensibilité basée sur le gradient de la sortie du modèle par rapport à l'entrée, masquée par l'emplacement du concept : $R_{x_i}^{c_j} = \nabla_x g(f(x_i)) \odot m_{x_i}^{c_j}$ .
Fonction enveloppe (Wrapper) : Pour la classification multiclasse, l'enveloppe $g(y)$ est définie comme la norme au carré de la différence entre le vecteur de sortie et sa moyenne, garantissant que la métrique capture la confiance du modèle à distinguer les classes.
Préservation du signe : Le score d'importance agrège la sensibilité sur les pas de temps tout en préservant le signe du gradient.
- Un score positif indique que le concept aide à distinguer la classe prédite.
- Un score négatif indique que le concept réduit la distance entre les logits (rendant le modèle « moins sûr »), représentant des caractéristiques qui contredisent la prédiction.
- Un score proche de zéro implique que le concept est peu important.
Agrégation : Le Score d'Importance (IS) final par canal est la pertinence moyenne du concept à travers le jeu de données, mise à l'échelle dans la plage $[-1, 1]$ .

Contributions clés

Algorithme ECLAD-ts : Une nouvelle méthode d'extraction et de localisation automatique de concepts pour le domaine des séries temporelles qui capture à la fois l'information temporelle et par canal, surmontant les limitations des méthodes basées sur le champ récepteur.
Évaluation de l'importance par canal : Une métrique modifiée qui évalue quantitativement la pertinence des concepts à travers des canaux spécifiques, tenant compte du fait que différents capteurs peuvent encoder différents types d'informations.
Évaluation empirique : Expérimentations approfondies sur des jeux de données synthétiques et naturels comparant ECLAD-ts à ECLAD classique, ConceptShap et MultiVISION.

Résultats

La méthode a été évaluée sur trois jeux de données synthétiques (avec des primitives de vérité terrain connues) et deux jeux de données naturels (GunPoint et Production Press Sensor Data).

Jeux de données synthétiques

Précision de localisation : ECLAD-ts a localisé avec succès les concepts correspondant aux primitives de vérité terrain (ex. : bosses spécifiques ou interruptions de fond) tant dans la dimension temporelle que dans la dimension des canaux.
Différenciation de canal : Dans le jeu de données synthétique multicanal ( $syntheticL_m$ ), ECLAD-ts était la seule méthode capable de distinguer que la primitive $p_0$ appartenait au canal 0 et $p_1$ au canal 1. Les autres méthodes (ECLAD, ConceptShap, MultiVISION) n'ont pas réussi à différencier les canaux ou ont produit des résultats ambigus.
Métriques : ECLAD-ts a obtenu les scores de Correction de Représentation (RC) et de Correction d'Importance (IC) les plus élevés sur tous les modèles (InceptionTime, ResNet18, DenseNet121).
Détection de l'apprentissage par raccourci : La méthode a identifié avec succès quand les modèles reposaient sur un « fond ininterrompu » (un raccourci) plutôt que sur les caractéristiques de la primitive prévue, comme en témoignent les scores d'importance élevés attribués aux concepts de fond.

Jeux de données naturels

Jeu de données GunPoint : ECLAD-ts a correctement identifié les mouvements de « dépassement » (overshoot) et de « levée supplémentaire » connus pour être critiques pour la classification, là où les autres méthodes produisaient des masques larges et peu concluants.
Jeu de données P2S (Industriel) : La méthode a localisé les caractéristiques sur les pentes avant la concavité dans les données de capteurs de production, s'alignant sur l'expertise métier. Elle a également fourni des informations sur les échantillons mal classés en mettant en évidence des caractéristiques conflictuelles (ex. : une pente ressemblant à la mauvaise classe).

Signification et affirmations

L'article affirme qu'ECLAD-ts représente une étape significative vers l'amélioration de la transparence des CNN pour la classification de séries temporelles. Sa principale importance réside dans :

Combler le fossé du domaine : Adapter avec succès les concepts de CE basés sur l'image aux défis spécifiques des séries temporelles (dimensionnalité et information spécifique aux canaux).
Automatique et global : Fournir des explications sans nécessolement d'étiquetage manuel des concepts ou d'expertise humaine dans le domaine d'application.
Robustesse à l'architecture : Contra\text{à} les méthodes dépendantes des champs récepteurs, ECLAD-ts reste efficace même dans les architectures profondes avec de grands champs récepteurs.
Informations exploitables : En révélant si un modèle utilise des caractéristiques pertinentes ou des raccourcis, la méthode permet aux parties prenantes d'évaluer l'alignement du modèle avec les attentes humaines, d'améliorer la robustesse du modèle et de construire une confiance appropriée.

Les auteurs notent que bien qu'ECLAD-ts soit efficace et scalable, des défis subsistent concernant la visualisation de caractéristiques complexes et la sensibilité aux hyperparamètres (spécifiquement le nombre de concepts). Ils suggèrent que les travaux futurs pourraient se concentrer sur des techniques adaptatives et sur l'intégration de la CE dans l'entraînement en temps réel.