Resumen Técnico: GenTS – Una Biblioteca de Referencia Integral para Modelos Generativos de Series Temporales

1. Declaración del Problema

Aunque los modelos generativos han demostrado un potencial significativo en el análisis de series temporales (por ejemplo, síntesis, pronóstico, imputación), el ecosistema actual carece de una biblioteca de referencia unificada y exhaustiva diseñada específicamente para ellos. Las bibliotecas existentes de series temporales (por ejemplo, TSLib, GluonTS) están principalmente diseñadas para modelos discriminativos, con flujos de trabajo rígidos optimizados para tareas específicas como la minimización del Error Cuadrático Medio (MSE) en pronósticos.

Esta estructura es fundamentalmente incompatible con los modelos generativos, que a menudo emplean paradigmas de entrenamiento distintos y complejos (por ejemplo, entrenamiento adversario, procesos de difusión, ecuaciones diferenciales) destinados a aprender distribuciones de datos subyacentes en lugar de mapeos directos de entrada-salida. Además, las bibliotecas existentes a menudo carecen de cobertura en:

• Tareas Diversas: Muchas se centran en una sola tarea (por ejemplo, solo síntesis o solo pronóstico) o ignoran la versatilidad.
• Diversidad de Modelos: Pocas bibliotecas integran el espectro completo de arquitecturas generativas (GANs, VAEs, Difusiones, Flujos, Ecuaciones Diferenciales).
• Evaluación: Existe una escasez de métricas de evaluación estandarizadas y panorámicas que evalúen tanto la fidelidad estadística como la utilidad posterior.

Esta brecha obstaculiza la evaluación sistemática de nuevos avances y la comparación de diferentes enfoques generativos.

2. Metodología: El Marco GenTS

Para abordar estas limitaciones, los autores proponen GenTS, una biblioteca de referencia integral y extensible construida sobre PyTorch y PyTorch Lightning. El marco está diseñado con una arquitectura modular que cubre todo el pipeline de referencia:

A. Preprocesamiento de Datos

• Conjuntos de Datos Multi-Dominio: GenTS incluye más de 15 conjuntos de datos de seis dominios (Tráfico, Energía, Financiero, Médico, Clima, Física), que van desde resoluciones de alta frecuencia (Hz) hasta diarias.
• Datos Sintéticos: Incluye simulaciones simples de trayectorias físicas (Spiral2D, SineND) para prototipado rápido.
• BaseDataModule: Una clase personalizable (que hereda de LightningDataModule) que maneja la división de conjuntos de datos, la instanciación de cargadores de datos y el preprocesamiento específico de tareas (por ejemplo, simular valores faltantes para imputación o definir ventanas de retroceso para pronósticos). Soporta series temporales irregulares y conjuntos de datos personalizados definidos por el usuario.

B. Entrenamiento de Modelos

• Cobertura de Modelos: La biblioteca implementa más de 25 modelos de última generación (SOTA) y sus variantes, categorizados en cinco tipos:
  • GANs: TimeGAN, RCGAN, COSCIGAN, etc.
  • VAEs: TimeVAE, KoVAE, TimeVQVAE, etc.
  • Difusión: DiffusionTS, CSDI, ImagenTime, TMDM, etc.
  • Flujos: MAF, FourierFlow, etc.
  • Ecuaciones Diferenciales: LatentODE, LatentSDE, etc.
• Líneas Base Ingenuas: Se proporcionan cuatro modelos "Vanilla" (VanillaVAE, VanillaGAN, VanillaDDPM, VanillaMAF) como puntos de partida, utilizando MLPs simples o arquitecturas base 1D-CNN sin adaptaciones específicas de tareas.
• BaseModel: Una clase plantilla (que hereda de LightningModule) que estandariza los pasos de entrenamiento, validación y muestreo. Soporta callbacks flexibles, registro de datos y acumulación de gradientes. También incluye un método sample unificado para generar series temporales bajo diversas condiciones (sin condición, guiado por clase, pronóstico, imputación).

C. Evaluación del Rendimiento

GenTS va más allá del simple MSE para proporcionar un conjunto de evaluación panorámico:

• Métricas Libres de Modelo: Medidas estadísticas que incluyen la Distancia de Wasserstein, la Puntuación de Probabilidad Continua Clasificada (CRPS) y MSE para medir la cercanía distribucional.
• Métricas Basadas en Modelo: Evaluaciones basadas en redes neuronales que incluyen:
  • Puntuación Predictiva (PS): Evalúa la utilidad de los datos sintéticos para entrenar modelos de pronóstico posteriores (Entrenar en Sintético, Probar en Real).
  • Puntuación Discriminativa (DS): Mide qué tan distinguibles son los datos sintéticos de los datos reales utilizando un clasificador post-hoc.
  • Context-FID (C-FID): Adapta la Distancia Frechet Inception utilizando incrustaciones TS2Vec para medir la alineación del contexto temporal local.
• Visualización: Herramientas para visualización t-SNE de distribuciones 2D y trazado de resultados de pronóstico/imputación con intervalos de predicción.

3. Contribuciones Clave

1. Biblioteca GenTS: La primera biblioteca de referencia integral diseñada específicamente para modelos generativos de series temporales, que ofrece flujos de trabajo estandarizados pero personalizables para la preparación de datos, el entrenamiento y la evaluación en tareas sin condición y condicionales.
2. Referencia Exhaustiva: Los autores realizaron experimentos a gran escala en tres tareas principales: Síntesis (sin condición y guiada por clase), Pronóstico e Imputación, utilizando diversos conjuntos de datos y modelos.
3. Perspectivas Empíricas y Directrices: Basándose en los resultados de la referencia, el artículo proporciona sugerencias concretas para la selección de modelos en contextos cruzados y específicos de tareas, e identifica posibles direcciones futuras de investigación.

4. Resultados Experimentales

Los experimentos de referencia arrojaron varias conclusiones clave:

• Síntesis de Series Temporales:
  • Los modelos de difusión (por ejemplo, ImagenTime, DiffusionTS) generalmente demostraron superioridad, particularmente en métricas basadas en modelo (PS y DS), indicando alta fidelidad y utilidad posterior.
  • GANs: Aunque generalmente menos estables, COSCIGAN destacó por su capacidad para ajustar distribuciones de datos complejas, obteniendo buenos resultados en C-FID y Distancia de Wasserstein.
  • Síntesis Guiada por Clase: TimeVQVAE mostró la mejor alineación con los clusters reales etiquetados por clase. Las GANs generaron datos categorizados pero no lograron alinearse bien con los clusters reales.
• Pronóstico de Series Temporales:
  • CSDI y TMDM frecuentemente se clasificaron como los mejores rendimientos tanto para pronósticos deterministas como probabilísticos.
  • TMDM mostró ventajas absolutas en conjuntos de datos no estacionarios (por ejemplo, Acciones) debido a su arquitectura base especializada.
  • Sorprendentemente, las líneas base ingenuas (VanillaMAF, VanillaVAE) mostraron un rendimiento competitivo en conjuntos de datos específicos (ETTh, Electricidad), lo que sugiere que la complejidad arquitectónica no siempre es necesaria.
• Imputación de Series Temporales:
  • Los modelos basados en difusión dominaron esta tarea con superioridad absoluta. CSDI superó consistentemente a todos los demás modelos, seguido por ImagenTime y DiffusionTS.
  • Los modelos basados en ecuaciones diferenciales y las líneas base ingenuas generalmente mostraron un rendimiento más débil, rara vez alcanzando clasificaciones entre los tres primeros.
• Eficiencia:
  • GANs y VAEs: La carga computacional se encuentra principalmente en el entrenamiento; la inferencia es rápida.
  • Modelos de Difusión: La velocidad de entrenamiento es comparable a la de otros, pero la inferencia es más lenta debido al desruido iterativo, lo que los hace adecuados para implementación fuera de línea.
  • Ecuaciones Diferenciales: Naturalmente cargadas por gráficos de computación más grandes debido a la resolución de problemas de valor inicial.

5. Significado y Direcciones Futuras

El artículo afirma que GenTS llena un vacío crítico en la comunidad de series temporales generativas al proporcionar una plataforma unificada para la evaluación sistemática. Los autores enfatizan que los modelos basados en difusión son actualmente la opción más robusta y aconsejable para la generación de series temporales de propósito general, particularmente para tareas condicionales.

Los autores sugieren modestamente tres posibles direcciones futuras de investigación:

1. Modelos Fundacionales de Series Temporales Generativas: Desarrollar modelos entrenados en distribuciones de datos globales para ser inferidos de manera controlable para diversas tareas posteriores.
2. Evaluación Robusta: Abordar la sensibilidad de las métricas basadas en modelo (PS, DS) a la elección de modelos evaluadores auxiliares mediante el desarrollo de métricas más holísticas.
3. Desarrollo en Línea: Crear paradigmas adaptativos para series temporales dinámicas del mundo real con cambios complejos de distribución, avanzando más allá de entornos estáticos para reducir la latencia y las cargas computacionales.

Los autores concluyen que, aunque los modelos basados en ecuaciones diferenciales tuvieron un rendimiento inferior en las referencias actuales, su sesgo inductivo inherente para el tiempo continuo sugiere que siguen siendo un área prometedora y poco explorada.