🤖 machine learning

Interpretability in Deep Time Series Models Demands Semantic Alignment

Cet article soutient que l'interprétabilité dans les modèles de séries temporelles profonds nécessite un « alignement sémantique », où les prédictions sont exprimées à travers des variables et des mécanismes signifiants pour l'utilisateur qui respectent les contraintes temporelles, et propose une définition formelle ainsi qu'un schéma de conception pour atteindre cet objectif.

Auteurs originaux : Giovanni De Felice, Riccardo D'Elia, Alberto Termine, Pietro Barbiero, Giuseppe Marra, Silvia Santini

Publié 2026-06-02

📖 8 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Giovanni De Felice, Riccardo D'Elia, Alberto Termine, Pietro Barbiero, Giuseppe Marra, Silvia Santini

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le problème central : La « boîte noire » vs « l'esprit humain »

Imaginez que vous êtes un ingénieur en train de surveiller une machine. Vous voyez un voyant d'alerte clignoter. Vous savez pourquoi il a clignoté : la machine a trop chauffé, le métal s'est dilaté et une pièce a commencé à s'user. Vous pensez en termes de chaleur, de contrainte et d'usure.

Maintenant, imaginez qu'un ordinateur doté d'une IA super intelligente surveille également cette même machine. Il prédit que la machine va tomber en panne dans 10 minutes. Mais quand vous demandez à l'IA pourquoi, elle répond : « Parce que la valeur de l'unité cachée 47 à l'étape temporelle 302 a franchi un seuil spécifique. »

C'est le problème que traite ce papier. Les modèles d'IA actuels pour les séries temporelles (des données qui changent au fil du temps, comme les cours de la bourse, les rythmes cardiaques ou les capteurs de machines) sont incroyablement précis pour prédire l'avenir, mais ils sont opaques. Ils parlent un langage de mathématiques et de chiffres internes que les humains ne comprennent pas.

Les auteurs soutiennent que les méthodes existantes pour « expliquer » ces modèles sont comme traduire un livre dans une langue différente qui reste du charabia pour le lecteur. Elles montrent comment l'ordinateur a calculé la réponse (les mathématiques), mais elles ne montrent pas pourquoi la réponse fait sens pour un expert humain.

La solution : L'« Alignement Sémantique »

Le papier propose une nouvelle règle pour construire ces modèles d'IA appelée Alignement Sémantique.

L'analogie : Le Traducteur vs Le Copilote

L'approche actuelle (Le Traducteur) : L'IA fait son travail dans sa propre langue secrète. Après coup, un traducteur tente de vous expliquer le résultat. Mais le traducteur pourrait dire : « L'IA a pensé au Vecteur X », ce qui ne vous aide pas à prendre une décision.
L'approche du papier (Le Copilote) : L'IA est construite dès le départ pour penser dans votre langue. Au lieu de « Vecteur X », elle pense en termes de « Surchauffe » ou de « Contrainte Thermique ». Elle ne se contente pas de traduire la réponse à la fin ; elle utilise les concepts humains comme les véritables blocs de construction de son processus de pensée.

Ce que signifie l'« Alignement Sémantique » :

Les variables doivent correspondre : Les chiffres internes utilisés par l'IA doivent représenter des choses qui importent aux humains (par exemple, la « Température » plutôt que l'« Activation de la couche 5 »).
Les mécanismes doivent correspondre : La façon dont l'IA connecte ces idées doit suivre des règles que les humains comprennent (par exemple, « Si la chaleur augmente, la contrainte augmente »).
Le temps compte : C'est la touche unique de ce papier. Dans les images statiques (comme identifier un chat sur une photo), il suffit de faire correspondre les concepts. Mais dans les séries temporelles, les choses changent. Le papier soutient que l'IA doit non seulement utiliser des concepts humains, mais aussi s'assurer que ces concepts évoluent dans le temps d'une manière qui fait sens pour les humains. Si l'IA prédit une « contrainte » aujourd'hui, elle doit prédire une « contrainte » demain d'une manière cohérente avec la façon dont la contrainte s'accumule réellement dans le monde réel.

Le Blueprint : Comment construire ces modèles

Les auteurs fournissent un « blueprint » (plan de construction) pour bâtir ces modèles alignés. Voyez cela comme la construction d'une maison avec des pièces spécifiques et transparentes plutôt qu'un labyrinthe de couloirs cachés.

L'Encodeur (Le Traducteur) : Le modèle observe les données brutes (comme un flux de chiffres de température) et les convertit immédiatement en concepts humains (par exemple, « Est-ce qu'il y a surchauffe ? »).
La Propagation (Le Conteur) : Le modèle prend ces concepts et les fait progresser dans le temps. Il utilise des règles spécifiques pour les mettre à jour. Par exemple, si une « surchauffe » se produit, l'« usure » devrait augmenter. Cette étape garantit que l'histoire racontée par l'IA reste logique au fil du temps.
Le Décodeur (La Réponse) : Enfin, le modèle utilise ces concepts humains pour faire une prédiction (par exemple, « La machine va tomber en panne »).

Comment s'assurer que cela fonctionne :
Le papier suggère d'entraîner le modèle avec trois objectifs simultanés :

Perte de tâche (Task Loss) : S'assurer que la prédiction finale est précise.
Perte de concept (Concept Loss) : S'assurer que l'IA a correctement identifié les concepts de « surchauffe » ou de « contrainte ».
Perte de propagation (Propagation Loss) : S'assurer que l'IA met à jour correctement ces concepts au fil du temps (par exemple, s'assurer que la contrainte ne disparaît pas par magie).

Pourquoi cela importe (Les bénéfices)

Si nous construisons des modèles de cette façon, nous obtenons plusieurs super-pouvoirs que les modèles actuels de type « boîte noire » n'ont pas :

Actionnable : Si l'IA dit « La machine va tomber en panne à cause d'une contrainte élevée », un ingénieur peut réellement faire quelque chose à ce sujet (refroidir la machine). Si l'IA dit « L'unité cachée 47 est élevée », l'ingénieur est coincé.
Vérifiable : Nous pouvons vérifier les mathématiques. Nous pouvons dire : « Est-ce que ce modèle suit la loi de la physique où la contrainte augmente avec la chaleur ? » Si le modèle est aligné, nous pouvons le prouver. S'il s'agit d'une boîte noire, nous ne le pouvons pas.
Digne de confiance : Dans des domaines à enjeux élevés comme la santé ou la finance, on ne peut pas simplement faire confiance à un chiffre. Vous avez besoin de comprendre le raisonnement. Si le raisonnement utilise des concepts que vous comprenez, vous pouvez faire confiance au résultat.

Ce que le papier dit sur les objections courantes

Les auteurs abordent quatre raisons courantes pour lesquelles les gens pourraient ne pas vouloir faire cela :

« Expliquez-le simplement après coup (Post-hoc). »
- Réfutation : Expliquer une boîte noire après coup, c'est comme essayer de deviner la recette d'un chef en goûtant la soupe. Vous pourriez vous approcher de la vérité, mais vous ne pouvez pas en être sûr, et vous ne pouvez pas changer la recette si elle ne vous plaît pas. Le modèle doit être construit avec la recette à l'esprit dès le départ.
« Montrez-nous simplement les mathématiques (Transparence mécaniste). »
- Réfutation : Montrer les mathématiques, c'est comme montrer à quelqu'un le plan d'un moteur de voiture dans une langue qu'il ne parle pas. C'est transparent, mais ce n'est pas compréhensible. Vous avez besoin des concepts (le moteur, le carburant) nommés correctement.
« Cela rendra l'IA moins précise. »
- Réfutation : Les auteurs soutiennent que c'est un mythe. On peut construire des modèles qui sont à la fois lisibles par l'humain et extrêmement précis. On peut même ajouter des « portes dérobées secrètes » (chemins résiduels) que l'IA peut utiliser si elle a besoin d'une précision supplémentaire, tout en gardant le chemin principal lisible par l'humain.
« C'est trop difficile de labelliser les données. »
- Réfutation : Oui, demander à des humains de labelliser la « surchauffe » est difficile. Mais le papier suggère que nous pouvons utiliser d'autres outils d'IA (comme les grands modèles de langage) pour aider à labelliser les données, ou utiliser des règles issues de la physique pour guider le modèle afin de ne pas avoir besoin d'autant de labels.

Résumé

Le papier soutient que pour que l'IA soit véritablement utile dans le monde réel, surtout pour les données qui évoluent dans le temps, elle doit cesser de parler en « code informatique » et commencer à parler en « concepts humains ». Elle doit être Sémantiquement Alignée. Cela signifie que les pensées internes de l'IA doivent porter sur la « chaleur », la « contrainte » et le « temps », tout comme les pensées d'un expert humain. Cela ne rend pas seulement l'IA plus facile à comprendre ; cela la rend plus sûre, plus digne de confiance et réellement utile pour la prise de décision.

Résumé technique : L'interprétabilité des modèles profonds de séries temporelles exige une alignement sémantique

Énoncé du problème

Les modèles d'apprentissage profond (DL) ont atteint des performances de pointe dans l'analyse des séries temporelles, mais restent limités dans les domaines à enjeux élevés (ex. : santé, finance) en raison de leur nature de « boîte noire ». Les approches d'interprétabilité existantes se concentrent principalement sur l'opacité structurelle — l'explication des calculs internes comme les poids d'attention ou les états récurrents. Cependant, les auteurs soutiennent que ces méthodes ne parviennent pas à traiter l'opacité sémantique : le décalage entre les variables internes du modèle et les concepts signifiants utilisés par les experts du domaine pour raisonner sur le phénomène.

Les méthodes actuelles expliquent souvent comment un modèle calcule un résultat (ex. : « l'étape temporelle 47 était importante ») sans expliquer ce que ce résultat signifie en termes de domaine (ex. : « début de la tachycardie » ou « accumulation de stress thermique »). De plus, les cadres existants manquent d'une définition formelle de l'interprétabilité qui tienne compte de l'évolution temporelle des concepts, une exigence critique absente dans les contextes statiques.

Méthodologie et cadre formel

1. Définition de l'alignement sémantique (SA)

Le papier propose l'Alignement Sémantique (SA) comme la condition nécessaire pour l'interprétabilité dans les modèles profonds de séries temporelles. Le SA exige que les variables internes et les mécanismes d'inférence du modèle correspondent structurellement aux concepts et aux processus de raisonnement des experts du domaine.

Les auteurs formalisent cela à l'aide d'un cadre probabiliste :

Concepts ( $C$ ) : Variables aléatoires compréhensibles par l'humain (ex. : étiquettes binaires, quantités réelles) qui peuvent être instantanées (instantanés) ou dynamiques (évoluant au fil du temps).
Mécanismes : Distributions de probabilité conditionnelle (CPD) décrivant comment les concepts dépendent les uns des autres et évoluent.
Conditions d'alignement :
1. Alignement des variables : L'encodeur du modèle doit mapper les observations brutes vers des représentations ( $U_t$ ) qui s'alignent avec les concepts instantanés ( $C^U_t$ ), et le module de propagation doit produire des représentations ( $Z_{t+1}$ ) qui s'alignent avec les concepts dynamiques ( $C^Z_{t+1}$ ). Formellement, $P(U_t = C^U_t | x_{\le t}) = 1$ et $P(Z_{t+1} = C^Z_{t+1} | x_{\le t}) = 1$ .
2. Alignement des mécanismes : Les relations entre les concepts doivent satisfaire des contraintes définies par la connaissance humaine (ex. : monotonie, lois physiques). Cela est formulé comme un problème de satisfaction de contraintes où le mécanisme du modèle $P(V_{out} | V_{in})$ doit appartenir à un ensemble de distributions admissibles $\mathcal{M}^{(h)}$ définies par l'utilisateur.

2. Schéma directeur pour les modèles à alignement sémantique

Les auteurs décrivent un schéma directeur étendant les Modèles Basés sur les Concepts (CBM) au domaine temporel. L'architecture se compose de trois étapes :

Encodage de concept : Un module mappe les fenêtres de séries temporelles brutes vers des concepts sources (instantanés ou dérivés directement de l'entrée).
Propagation de concept : Un mécanisme structuré fait évoluer ces concepts au fil du temps. Cela inclut :
- Mécanismes temporels : Comment un concept unique évolue ( $P(c_{t+1} | c_{\le t})$ ).
- Mécanismes spatio-temporels : Comment différents concepts s'influencent mutuellement au fil du temps.
Décodage de tâche : Un décodeur mappe l'empilement des concepts propagés vers la sortie de la tâche finale (optionnel si la sortie est elle-même un concept).

3. Objectifs d'entraînement

Pour imposer le SA, le papier propose une fonction de perte composite :
$\mathcal{L} = \alpha \mathcal{L}_{task} + \beta \mathcal{L}_{concept} + \gamma \mathcal{L}_{prop}$

$\mathcal{L}_{task}$ : Supervision de la tâche standard.
$\mathcal{L}_{concept}$ : Supervise l'encodeur pour faire correspondre les concepts sources prédits avec les étiquettes de vérité terrain.
$\mathcal{L}_{prop}$ : Supervise les couches de propagation pour assurer la cohérence temporelle et l'alignement des concepts dynamiques avec les futures étiquettes de vérité terrain. Ce terme est crucial pour prévenir la dérive de concept au fil du temps.

L'alignement des mécanismes peut être imposé via des contraintes architecturales (ex. : utilisation de couches monotones) ou des contraintes souples (régularisation) sur l'espace des hypothèses.

Contributions clés

Définition formelle de l'alignement sémantique : Le papier fournit la première formulation mathématique du SA pour les séries temporelles, distinguant les concepts instantanés des concepts dynamiques et exigeant explicitement que l'alignement soit préservé sous l'évolution temporelle.
Identification de l'opacité sémantique : Il distingue l'opacité sémantique de l'opacité structurelle, arguant que l'explication des calculs internes est insuffisante si ces calculs ne se rapportent pas à des concepts de domaine compréhensibles par l'humain.
Un schéma directeur de conception : Il propose un modèle architectural concret (Encodage-Propagation-Décodage) qui étend les modèles basés sur les concepts pour gérer les dépendances temporelles, garantissant que les prédictions sont exprimées en termes de variables significatives.
Analyse des paradigmes existants : Le papier évalue de manière critique les méthodes d'interprétabilité actuelles (explications post-hoc, mécanismes d'attention, interprétabilité mécaniste, modèles informés par la physique) et démontre via une taxonomie (Tableau 1) que la plupart échouent à satisfaire simultanément l'alignement des concepts dynamiques et l'alignement des mécanismes.

Résultats et affirmations

Ce papier est un papier de position et ne présente pas de nouveaux benchmarks empiriques ou de résultats expérimentaux comparant les performances de modèles spécifiques. À la place, ses « résultats » sont théoriques et analytiques :

Garantie théorique : Les auteurs soutiennent que leur schéma directeur fournit les conditions nécessaires à l'interprétabilité que les méthodes existantes n'ont pas, spécifiquement la préservation de l'alignement au fil du temps.
Faisabilité de la précision : Le papier conteste l'hypothèse selon laquelle l'interprétabilité nécessite un compromis sur la précision. Il cite la littérature récente sur les CBM statiques montrant que les modèles basés sur les concepts peuvent égaler les performances des boîtes noires, et suggère que les voies résiduelles et les plongements de concepts peuvent préserver l'expressivité dans les contextes temporels.
Scalabilité des annotations : Il contre l'affirmation selon laquelle l'annotation de concepts est excessivement coûteuse en pointant vers les méthodes d'automatisation émergentes (annotations basées sur les LLM, outils de découverte de concepts) et le potentiel de réduire la granularité de l'étiquetage dans les séries temporelles (ex. : étiquetage tous les $n$ pas de temps).

Signification et impact

Les auteurs affirment que ce travail est significatif pour plusieurs raisons :

Confiance et actionnabilité : Les modèles à alignement sémantique permettent la vérifiabilité (via la vérification formelle par rapport aux propriétés du domaine) et l'actionnabilité (permettant aux humains d'intervenir directement sur les valeurs ou les mécanismes des concepts, ex. : corriger un état clinique pour mettre à jour les prédictions futures).
Robustesse : En contraignant le comportement au niveau de concepts stables et pertinents pour le domaine plutôt qu'au niveau des observations brutes, ces modèles peuvent être plus robustes aux changements de distribution.
Pont entre les domaines : Le cadre agit comme un pont entre les modèles interprétables et les architectures neuro-symboliques hybrides, permettant l'intégration de contraintes formelles et de raisonnement symbolique dans les modèles profonds de séries temporelles.
Changement de paradigme : Le papier appelle à un changement dans la communauté de recherche, passant de l'« explication post-hoc » à l'« interprétabilité par conception », incitant les chercheurs à déclarer explicitement quels types d'alignements (variables et mécanismes) leurs modèles garantissent.

En résumé, le papier soutient que pour que les modèles profonds de séries temporelles soient déployés en toute sécurité dans des applications critiques, ils doivent être conçus pour s'aligner structurellement avec le raisonnement humain, en préservant le sens des concepts à mesure qu'ils évoluent dans le temps.