Résumé Technique : ConTex – Reformuler la génération de contre-factuels pour la prévision de séries temporelles

1. Définition du Problème

Les modèles de prévision de séries temporelles sont de plus en plus critiques dans des domaines à enjeux élevés tels que les systèmes énergétiques, la santé et la finance. Cependant, bien que ces modèles fournissent des prédictions précises, ils manquent souvent d'informations exploitables concernant la manière de modifier les conditions actuelles pour atteindre un résultat futur souhaité. Les méthodes d'explication existantes sont principalement rétrospectives, identifiant les facteurs qui ont conduit à un résultat observé (par exemple, via l'attribution de caractéristiques ou les mécanismes d'attention). En revanche, la prise de décision nécessite une perspective prospective : déterminer les modifications minimales de l'entrée actuelle pour faire basculer une trajectoire prédite vers un scénario cible spécifique.

Cette tâche est formulée comme une génération de contre-factuels : trouver une entrée $x'$ minimalement modifiée telle que la prédiction du modèle $f_\theta(x')$ satisfasse une contrainte cible $Y_{target}$, tout en préservant autant que possible l'entrée originale $x$.

Limites des approches existantes :
Les méthodes actuelles de génération de contre-factuels pour les séries temporelles reposent sur l'optimisation par instance. Pour chaque nouvel échantillon d'entrée, un problème d'optimisation distinct est résolu pour trouver la perturbation minimale. Cette approche souffre de :

• Incohérence : Les modifications varient de manière imprévisible entre des instances similaires.
• Coût de calcul élevé : Résoudre un problème d'optimisation par échantillon est trop lent pour des applications en temps réel ou interactives.
• Dépendance à la cible : De nombreuses méthodes utilisent des trajectoires cibles qui dépendent de l'entrée (par exemple, des bornes dépendantes de l'entrée), ce qui occulte la véritable difficulté d'atteindre un scénario futur prédéfini.

2. Méthodologie : Architecture ConTex

Les auteurs proposent ConTex (Counterfactual Time Series Explanations), une architecture agnostique au modèle qui déplace le paradigme de l'optimisation par instance vers l'apprentissage d'interventions amorties. Au lieu de résoudre un problème d'optimisation pour chaque échantillon, ConTex apprend une fonction d'intervention globale qui cartographie les états d'entrée et les conditions cibles vers des interventions efficaces en une seule passe directe (forward pass).

Architecture de base

ConTex est une architecture neuronale décomposée comprenant :

1. Encodeur de Contexte Temporel : Extrait les caractations temporelles ($h_x$) de la séquence d'entrée. Les auteurs évaluent à la fois le BiLSTM et les réseaux de convolution temporels (TCN), trouvant le TCN supérieur pour produire des modifications éparses et interprétables grâce à ses champs récepteurs fixes.
2. Encodeur Conditionnel : Encode la condition cible ($c$), qui comprend les bornes de la trajectoire souhaitée, la prévision actuelle et la pente, en un plongement latent (embedding).
3. Modulation Linéaire par Caractéristique (FiLM) : Les caractéristiques temporelles sont modulées par le plongement de la condition ($\tilde{h}_x = h_x \odot (1 + \gamma) + \beta$), permettant au modèle d'adapter son comportement à différentes trajectoires cibles.
4. Têtes de Prédiction Décomposées : La représentation modulée est transmise à deux têtes pour prédire l'intervention $z$ :
   • Masque de Pertinence Temporelle ($m$) : Un masque de probabilité ($m \in [0, 1]^{T_{in}}$) indiquant où (quels pas de temps) une modification est requise.
   • Force de Modification ($s$) : Un vecteur signé ($s \in \mathbb{R}^{T_{in}}$) indiquant à quel point l'entrée doit être modifiée.
   • Intervention : L'intervention finale est calculée comme $z = m \odot s$, et le contre-factuel est $x_{cf} = x + z$.

Objectif d'Entraînement

Le modèle est entraîné pour minimiser une fonction de perte composite équilibrant l'alignement de la prévision et la minimisation de l'intervention :

• Alignement de la Prévision ($L_{center}, L_{valid}$) : Pénalise les écarts par rapport au point médian de la trajectoire cible et la fréquence des violations de contraintes.
• Régularisation de l'Intervention ($L_{prox}, L_{sparse}$) :
  • Proximité : Utilise une perte $L_1$ pour pénaliser l'amplitude des changements, encourageant des interventions éparses.
  • Sparsité : Encourage des interventions compactes en favorisant des activations de masque concentrées et en poussant le masque vers des décisions binaires.

3. Contributions Clés

1. Changement de Paradigme : Le papier déplace la génération de contre-factuels de l'optimisation par instance vers l'inférence amortie via une politique d'intervention globale, permettant une génération en une seule passe.
2. Architecture Décomposée : ConTex paramètre les interventions en pertinence temporelle (où modifier) et force de modification (comment modifier), produisant des contre-factuels épars, locaux et interprétables.
3. Attribution Conditionnée par la Cible : La méthode introduit un mécanisme d'attribution prospectif qui identifie quels pas de temps doivent être modifiés pour atteindre un résultat souhaité, visualisé sous forme de carte thermique de la probabilité d'intervention.
4. Efficacité et Performance : L'approche atteint l'état de l'art en termes de validité et de compacité tout en réduisant les coûts de calcul de 12 à 36× par rapport aux méthodes basées sur l'instance, supportant l'inférence en temps réel (~0,007 seconde par échantillon).

4. Résultats Expérimentaux

Les auteurs ont évalué ConTex sur quatre jeux de données de référence (NN5, Electricity, Tourism, M4) et quatre structures de prévision diverses (PatchTST, N-HiTS, DLinear, TiDE).

• Validité : ConTex a obtenu le meilleur ratio de validité dans 16 cas sur 16 de combinaisons jeu de données-structure, surpassant la ligne de base par instance (ForecastCF) et dépassant souvent la ligne de base par recherche (BaseNN).
• Compacité : ConTex a obtenu la meilleure compacité (moins de pas de temps modifiés) dans 14 cas sur 16.
• Robustesse : La méthode a démontré des performances cohérentes sur des jeux de données aux caractéristiques variées (ex: données lisses vs bruitées), adaptant ses schémas d'intervention (localisés vs distribués) selon les propriétés des données.
• Efficacité de Calcul :
  • Temps d'Inférence : ~0,007 seconde par échantillon (constant selon les niveaux de difficulté).
  • Accélération : 3,7 à 4,2 ordres de grandeur plus rapide que la génération par instance (qui prend des secondes à des minutes par échantillon).
  • Coût Total : Une réduction globale du calcul de 12 à 36× par rapport à la génération par instance lorsqu'on prend en compte l'entraînement et l'inférence.

5. Signification et Revendications

Le papier affirme que ConTex remplace efficacement la pratique coûteuse et incohérente de l'optimisation par instance par une politique d'intervention globale et scalable. En décomposant structurellement l'intervention en "où" et "comment", la méthode fournit des informations interprétables sur la pertinence des caractéristiques conditionnées par la cible, offrant une perspective prospective que les méthodes d'attribution post-hoc standard n'ont pas.

Les auteurs notent que bien que ConTex soit performant, il repose sur une régularisation implicite (via l'encodage temporel et les objectifs de modification minimale) plutôt que sur des contraintes de plausibilité explicites pour assurer la cohérence temporelle. De plus, bien que l'architecture se généralise à travers les jeux de données, certains hyperparamètres (spécifiquement les poids de sparsité et de proximité) nécessitent encore un ajustement limité propre à chaque jeu de données. Ce travail se positionne comme une étape significative vers la transformation de la prévision de séries temporelles par apprentissage profond en un outil actionnable pour la prise de décision en temps réel.