Resumen Técnico: Modelos de Espacio de Estados Impulsados por Difusión (DDSSM)

Planteamiento del Problema

Los profesionales en el modelado de series temporales suelen enfrentarse a un compromiso entre la expresividad del modelo y la capacidad de capturar la dinámica latente del sistema. Los enfoques existentes suelen sacrificar uno de estos objetivos en favor del otro:

• Modelos de Espacio de Estados Profundos (DSSM) (por ejemplo, Filtros de Kalman Profundos) ofrecen una inferencia fundamentada y un entrenamiento de extremo a extremo, pero típicamente asumen densidades de transición gaussianas. Esta suposición limita su expresividad, fallando a menudo al capturar dinámicas multimodales, e induce un prior gaussiano que puede sobre-regularizar las representaciones latentes, descartando información estructural necesaria.
• Modelos de Difusión son altamente expresivos y capaces de modelar distribuciones complejas y multimodales. Sin embargo, cuando se aplican a series temporales, suelen utilizarse como muestreadores generativos condicionados por observaciones pasadas o dependen de un entrenamiento en dos etapas (primero aprender un autoencoder, luego un modelo de difusión). Este enfoque de dos etapas puede producir espacios latentes sobre-regularizados que descartan información necesaria para la dinámica generativa posterior.

Existe un problema abierto sobre cómo entrenar conjuntamente un autoencoder y un modelo de difusión en datos secuenciales de manera fundamentada para combinar las fortalezas de ambos marcos de trabajo.

Metodología

Los autores proponen el Modelo de Espacio de Estados Impulsado por Difusión (DDSSM), el cual integra modelos de difusión directamente en la densidad de transición de un Modelo de Espacio de Estados (SSM).

Modelo Generativo

El modelo asume que las observaciones $x_{1:T}$ son generadas a partir de estados latentes $z_{1:T}$ que evolucionan mediante un proceso de Markov, potencialmente condicionados por covariables $u_{1:T}$. La verosimilitud conjunta se factoriza como:
$$p(x_{1:T}, z_{1:T} | u_{1:T}) = p_{\eta,\theta}(z_{1:j}, x_{1:j} | u_{1:j}) \prod_{t=j+1}^T p^{(t)}_\psi(z_t | z_{t-j:t-1}, u_{t-j:t}) p^{(t)}_\theta(x_t | z_{t-j+1:t}, u_{t-j+1:t})$$

Las innovaciones clave incluyen:

1. Transiciones de Difusión: En lugar de una transición paramétrica gaussiana $p^{(t)}_\psi$, el modelo utiliza un proceso de difusión. Para cada paso de tiempo $t$, la densidad de transición se modela introduciendo estados latentes con ruido intermedio $z^1_t, \dots, z^K_t$. La transición se define como:
   $$p^{(t)}_\psi(z^0_t, z^{1:K}_t | z_{t-j:t-1}, u_{t-j:t}) = p(z^K_t) \prod_{k=1}^K p^{(t)}_\psi(z^{k-1}_t | z^k_t, z_{t-j:t-1}, u_{t-j:t})$$
   donde $z^0_t = z_t$ y $z^K_t \sim \mathcal{N}(0, I)$. Esto permite al modelo aprender densidades de transición arbitrarias y potencialmente multimodales.
2. Emisiones: La densidad de emisión $p^{(t)}_\theta$ sigue siendo una gaussiana estándar parametrizada por redes neuronales, gestionando la incertidumbre residual mientras el modelo de difusión captura estructuras no gaussianas complejas.
3. Inicialización: La distribución del estado inicial $p_\eta(z_{1:j}|u_{1:j})$ utiliza un Prior Jerárquico Variacional (VHP) para evitar suposiciones restrictivas sobre los estados latentes iniciales.

Inferencia y Entrenamiento

Dado que la distribución posterior verdadera es intratable, los autores emplean un marco de inferencia variacional. Derivan una Cota Inferior de la Evidencia (ELBO) que refleja la estructura de independencia condicional de la posterior verdadera.

• Posterior Variacional: La posterior se factoriza para incluir un término de transición suavizado (dependiente de latentes pasados y observaciones futuras) y un término de proceso de ruido de difusión.
• Entrenamiento Conjunto: A diferencia de los métodos de dos etapas, el DDSSM se entrena de extremo a extremo. El objetivo maximiza la ELBO, la cual incluye:
  • Una pérdida de reconstrucción (log-verosimilitud negativa de las emisiones).
  • Un término de divergencia KL para la inicialización.
  • Una pérdida de cadena de difusión (derivada del proceso inverso del modelo de difusión) que incentiva al encoder a producir estados latentes predecibles bajo las dinámicas de transición aprendidas.
• Precondicionamiento: Para asegurar la estabilidad del gradiente a través de los niveles de ruido durante el entrenamiento conjunto, los autores emplean precondicionamiento (Karras et al., 2022) para re-escalar las entradas y salidas de la red de difusión.

Contribuciones Clave

1. Marco DDSSM: La introducción de un Modelo de Espacio de Estados donde la densidad de transición es reemplazada por un modelo de difusión, permitiendo el aprendizaje de dinámicas latentes flexibles y multimodales sin las restrictivas suposiciones gaussianas.
2. Entrenamiento de Extremo a Extremo: Una solución fundamentada al problema abierto de entrenar conjuntamente un autoencoder y un modelo de difusión en datos secuenciales. Esto evita los problemas de sobre-regularización asociados con los enfoques de entrenamiento de dos etapas comunes en la difusión de series temporales latentes.
3. Derivación Teórica: Una derivación rigurosa de la ELBO para este modelo híbrido, demostrando cómo la posterior variacional óptima se factoriza para coincidir con la estructura de la posterior verdadera, reduciendo así la brecha de aproximación.

Resultados Experimentales

Los autores evaluaron el DDSSM en un conjunto de datos de series temporales simuladas que presenta ruido bimodal (un paseo aleatorio latente con transiciones bimodales).

• Configuración: Compararon el DDSSM contra un Filtro de Kalman Profundo (DKF) con un Prior Jerárquico Variacional y una línea base de Última Observación Llevada Adelante (LOCF).
• Métricas: El rendimiento se midió utilizando la Divergencia de Jensen-Shannon (JSD) entre la distribución predictiva de un paso de la del modelo y la distribución real.
• Hallazgos:
  • El DKF, restringido por transiciones gaussianas, colocó la masa de probabilidad entre los dos modos reales, fallando en capturar la estructura bimodal.
  • El DDSSM capturó con éxito ambos modos de la distribución real.
  • Cuantitativamente, el DDSSM logró una JSD significativamente menor que el DKF.
  • Cualitativamente, el DDSSM produjo reconstrucciones y pronósticos que son representativos de los datos, mientras que los pronósticos del DKF carecían de patrones consistentes y no reconstruían bien los datos observados.

Significado y Afirmaciones

El artículo afirma que, al plantear el problema de la difusión de series temporales latentes como un Modelo de Espacio de Estados con una distribución de transición de difusión, es posible lograr un entrenamiento de extremo a extremo que permita reconstrucciones flexibles sin penalizar el aprendizaje de las dinámicas latentes.

Los autores posicionan al DDSSM como un método que resuelve la tensión entre la expresividad de los modelos de difusión y el rigor estructural de los SSM. Afirman que la suposición de un prior gaussiano en los DSSM tradicionales es perjudicial para el aprendizaje de representaciones latentes en entornos multimodales, y que su enfoque proporciona un prior más expresivo sobre las trayectorias latentes. El trabajo extiende la literatura de modelos de difusión latente para series temporales al ir más allá de los paradigmas de entrenamiento de dos etapas.

Los autores señalan que el trabajo futuro consistirá en aplicar el DDSSM a conjuntos de datos a gran escala e incorporar más ideas de la literatura de SSM profundos para utilizar plenamente el poder de la distribución de transición de difusión.