Résumé technique : Modèles d'Espace d'États Pilotés par la Diffusion (DDSSM)

Énoncé du Problème

Les praticiens de la modélisation de séries temporelles sont souvent confrontés à un arbitrage entre l'expressivité du modèle et la capacité à capturer la dynamique latente du système. Les approches existantes sacrifient généralement l'un de ces deux objectifs :

• Les Modèles d'Espace d'États Profonds (DSSM) (ex. : Filtres de Kalman profonds) offrent une inférence fondée sur des principes et un entraînement de bout en bout, mais supposent typiquement des densités de transition gaussiennes. Cette hypothèse limite leur expressivité, échouant souvent à capturer des dynamiques multimodales, et induit un a priori gaussien qui peut sur-régulariser les représentations latentes, écartant ainsi des informations structurelles nécessaires.
• Les Modèles de Diffusion sont hautement expressifs et capables de modéliser des distributions complexes et multimodales. Cependant, lorsqu'ils sont appliqués aux séries temporelles, ils sont souvent utilisés comme des échantillonneurs génératifs conditionnés par des observations passées ou reposent sur un entraînement en deux étapes (apprentissage d'abord d'un auto-encodeur, puis d'un modèle de diffusion). Cette approche en deux étapes peut produire des espaces latents sur-régularisés qui rejettent l'information requise pour la dynamique générative en aval.

Il subsiste un problème ouvert concernant la manière de joindre l'entraînement d'un auto-encodeur et d'un modèle de diffusion sur des données séquentielles de manière rigoureuse afin de combiner les forces de ces deux cadres.

Méthodologie

Les auteurs proposent le Modèle d'Espace d'États Piloté par la Diffusion (DDSSM), qui intègre directement des modèles de diffusion dans la densité de transition d'un Modèle d'Espace d'États (SSM).

Modèle Génératif

Le modèle suppose que les observations $x_{1:T}$ sont générées à partir d'états latents $z_{1:T}$ évoluant via un processus de Markov, potentiellement conditionné par des covariables $u_{1:T}$. La vraisemblance jointe est factorisée comme suit :
$$p(x_{1:T}, z_{1:T} | u_{1:T}) = p_{\eta,\theta}(z_{1:j}, x_{1:j} | u_{1:j}) \prod_{t=j+1}^T p^{(t)}_\psi(z_t | z_{t-j:t-1}, u_{t-j:t}) p^{(t)}_\theta(x_t | z_{t-j+1:t}, u_{t-j+1:t})$$

Les innovations clés incluent :

1. Transitions de Diffusion : Au lieu d'une transition gaussienne paramétrique $p^{(t)}_\psi$, le modèle utilise un processus de diffusion. Pour chaque pas de temps $t$, la densité de transition est modélisée par l'introduction d'états latents bruités intermédiaires $z^1_t, \dots, z^K_t$. La transition est définie par :
   $$p^{(t)}_\psi(z^0_t, z^{1:K}_t | z_{t-j:t-1}, u_{t-j:t}) = p(z^K_t) \prod_{k=1}^K p^{(t)}_\psi(z^{k-1}_t | z^k_t, z_{t-j:t-1}, u_{t-j:t})$$
   où $z^0_t = z_t$ et $z^K_t \sim \mathcal{N}(0, I)$. Cela permet au modèle d'apprendre des densités de transition arbitraires, potentiellement multimodales.
2. Émissions : La densité d'émission $p^{(t)}_\theta$ reste une gaussienne standard paramétrée par des réseaux de neurones, gérant l'incertitude résiduelle tandis que le modèle de diffusion capture les structures non gaussiennes complexes.
3. Initialisation : La distribution de l'état initial $p_\eta(z_{1:j}|u_{1:j})$ utilise un Prior Hiérarchique Variationnel (VHP) pour éviter les hypothèses restrictives sur les états latents initiaux.

Inférence et Entraînement

Puisque la véritable distribution a posteriori est intractable, les auteurs emploient un cadre d'inférence variationnelle. Ils dérivent une Borne Inférieure de l'Évidence (ELBO) qui reflète la structure de l'indépendance conditionnelle de la distribution a posteriori réelle.

• A Posteriori Variationnelle : La distribution a posteriori est factorisée pour inclure un terme de transition lissé (dépendant des latents passés et des observations futures) et un terme de processus de bruitage de diffusion.
• Entraînement Conjoint : Contrairement aux méthodes en deux étapes, le DDSSM est entraîné de bout en bout. L'objectif maximise l'ELBO, qui comprend :
  • Une perte de reconstruction (log-vraisemblance négative des émissions).
  • Un terme de divergence KL pour l'initialisation.
  • Une perte de chaîne de diffusion (dérivée du processus inverse du modèle de diffusion) qui encourage l'encodeur à produire des états latents prévisibles sous les dynamiques de transition apprises.
• Préconditionnement : Pour assurer la stabilité du gradient à travers les niveaux de bruit lors de l'entraînement conjoint, les auteurs emploient un préconditionnement (Karras et al., 2022) pour remettre à l'échelle les entrées et sorties du réseau de diffusion.

Contributions Clés

1. Cadre DDSSM : L'introduction d'un Modèle d'Espace d'États où la densité de transition est remplacée par un modèle de diffusion, permettant l'apprentissage de dynamiques latentes flexibles et multimodales sans les hypothèses gaussiennes restrictives.
2. Entraînement de Bout en Bout : Une solution rigoureuse au problème ouvert de l'entraînement conjoint d'un auto-encodeur et d'un modèle de diffusion sur des données séquentielles. Cela évite les problèmes de sur-régularisation associés aux approches en deux étapes courantes dans la diffusion de séries temporelles latentes.
3. Dérivation Théorique : Une dérivation rigoureuse de l'ELBO pour ce modèle hybride, démontrant comment l'a posteriori variationnelle optimale se factorise pour correspondre à la structure de la distribution a posteriori réelle, réduisant ainsi l'écart d'approximation.

Résultats Expérimentaux

Les auteurs ont évalué le DDSSM sur un jeu de données de séries temporelles simulées présentant un bruit bimodal (une marche aléatoire latente avec des transitions bimodales).

• Configuration : Ils ont comparé le DDSSM à un Filtre de Kalman Profond (DKF) avec un Prior Hiérarchique Variationnel et une base de comparaison "Dernière Observation Reportée" (LOCF).
• Métriques : La performance a été mesurée à l'aide de la Divergence de Jensen-Shannon (JSD) entre la distribution prédictive à 1 pas du modèle et la distribution réelle.
• Résultats :
  • Le DKF, contraint par des transitions gaussiennes, plaçait la masse de probabilité entre les deux modes réels, échouant à capturer la structure bimodale.
  • Le DDSSM a réussi à capturer les deux modes de la distribution réelle.
  • Quantitativement, le DDSSM a obtenu une JSD nettement plus faible que le DKF.
  • Qualitativement, le DDSSM a produit des reconstructions et des prévisions représentatives des données, alors que les prévisions du DKF manquaient de motifs cohérents et échouaient à bien reconstruire les données observées.

Signification et Revendications

L'article affirme qu'en formulant le problème de la diffusion de séries temporelles latentes comme un Modèle d'Espace d'États avec une distribution de transition de diffusion, il est possible d'atteindre un entraînement de bout en bout qui permet des reconstructions flexibles sans pénaliser l'apprentissage des dynamiques latentes.

Les auteurs positionnent le DDSSM comme une méthode résolvant la tension entre l'expressivité des modèles de diffusion et la rigueur structurelle des SSM. Ils affirment que l'hypothèse de l'a priori gaussien dans les DSSM classiques est préjudiciable à l'apprentissage des représentations latentes dans des contextes multimodaux, et que leur approche fournit un a priori plus expressif sur les trajectoires latentes. Ce travail étend la littérature sur les modèles de diffusion latente pour les séries temporelles en allant au-delà des paradigmes d'entraînement en deux étapes.

Les auteurs notent que les travaux futurs consisteront à appliquer le DDSSM à des jeux de données à grande échelle et à incorporer de nouvelles idées issues de la littérature sur les SSM profonds pour exploiter pleinement la puissance de la distribution de transition de diffusion.