技术摘要：GenTS——面向生成式时间序列模型的综合性基准库

1. 问题陈述

尽管生成式模型在时间序列分析（如合成、预测、插补）中已展现出巨大潜力，但当前的生态系统仍缺乏专为它们量身定制的统一、综合性基准库。现有的时间序列库（如 TSLib、GluonTS）主要面向判别式模型设计，其工作流程僵化，针对特定任务（如最小化预测的均方误差 MSE）进行了优化。

这种结构与生成式模型根本不相容，后者通常采用独特且复杂的训练范式（如对抗训练、扩散过程、微分方程），旨在学习底层数据分布，而非直接的输入 - 输出映射。此外，现有库在以下方面往往缺乏覆盖：

• 多样化任务：许多库仅关注单一任务（如仅合成或仅预测），或忽视了通用性。
• 模型多样性：很少有库能整合完整的生成式架构谱系（GANs、VAEs、Diffusions、Flows、微分方程）。
• 评估：缺乏能够同时评估统计保真度和下游实用性的标准化、全景式评估指标。

这一差距阻碍了对新进展的系统性评估以及不同生成式方法之间的比较。

2. 方法论：GenTS 框架

为了解决这些局限性，作者提出了GenTS，这是一个基于PyTorch和PyTorch Lightning构建的综合性、可扩展的基准库。该框架采用模块化架构，涵盖完整的基准测试流程：

A. 数据预处理

• 多领域数据集：GenTS 包含来自六个领域（交通、能源、金融、医疗、天气、物理）的 15 个以上数据集，分辨率从高频（赫兹）到每日不等。
• 合成数据：包含简单的物理轨迹模拟（Spiral2D、SineND），用于快速原型开发。
• BaseDataModule：一个可自定义的类（继承自 LightningDataModule），负责数据集划分、数据加载器实例化以及特定任务的预处理（例如，为插补任务模拟缺失值，或为预测任务定义回溯窗口）。它支持不规则时间序列和用户自定义数据集。

B. 模型训练

• 模型覆盖：该库实现了 25 种以上最先进（SOTA）模型及其变体，分为五类：
  • GANs：TimeGAN、RCGAN、COSCIGAN 等。
  • VAEs：TimeVAE、KoVAE、TimeVQVAE 等。
  • Diffusion：DiffusionTS、CSDI、ImagenTime、TMDM 等。
  • Flows：MAF、FourierFlow 等。
  • 微分方程：LatentODE、LatentSDE 等。
• 朴素基线：提供了四个“基础”模型（VanillaVAE、VanillaGAN、VanillaDDPM、VanillaMAF）作为起点，利用简单的 MLP 或 1D-CNN 骨干网络，未进行特定任务适配。
• BaseModel：一个模板类（继承自 LightningModule），标准化了训练、验证和采样步骤。它支持灵活的回调、日志记录和梯度累积。此外，它还包含统一的 sample 方法，用于在各种条件下（无条件、类别引导、预测、插补）生成时间序列。

C. 性能评估

GenTS 超越了简单的 MSE，提供了一套全景式评估套件：

• 无模型指标：统计度量，包括 Wasserstein 距离、连续排序概率分数（CRPS）和 MSE，用于衡量分布的接近程度。
• 基于模型的指标：基于神经网络的评估，包括：
  • 预测分数（PS）：评估合成数据对训练下游预测模型的效用（在合成数据上训练，在真实数据上测试）。
  • 判别分数（DS）：通过事后分类器衡量合成数据与真实数据的可区分度。
  • Context-FID（C-FID）：利用 TS2Vec 嵌入调整 Frechet Inception Distance，用于衡量局部时间上下文的一致性。
• 可视化：用于 2D 分布的 t-SNE 可视化工具，以及带有预测区间的预测/插补结果绘图工具。

3. 主要贡献

1. GenTS 库：首个专为生成式时间序列模型设计的综合性基准库，为无条件和条件任务下的数据准备、训练和评估提供了标准化且可自定义的工作流程。
2. 广泛的基准测试：作者在三个主要任务——合成（无条件和类别引导）、预测和插补——上，利用多样化的数据集和模型进行了大规模实验。
3. 实证洞察与指南：基于基准测试结果，论文为跨任务和特定任务场景下的模型选择提供了具体建议，并指出了潜在的未来研究方向。

4. 实验结果

基准测试实验得出了几项关键发现：

• 时间序列合成：
  • 扩散模型（如 ImagenTime、DiffusionTS）通常表现出优越性，特别是在基于模型的指标（PS 和 DS）上，表明其具有高保真度和下游实用性。
  • GANs：虽然通常稳定性较差，但COSCIGAN因能够拟合复杂的数据分布而脱颖而出，在 C-FID 和 Wasserstein 距离上表现良好。
  • 类别引导合成：TimeVQVAE显示出与真实类别标记簇的最佳一致性。GANs 生成了分类数据，但未能很好地与真实簇对齐。
• 时间序列预测：
  • CSDI和TMDM在确定性和概率预测中经常排名靠前。
  • TMDM因其专用骨干网络，在非平稳数据集（如股票）上显示出绝对优势。
  • 令人惊讶的是，朴素基线（VanillaMAF、VanillaVAE）在特定数据集（ETTh、Electricity）上表现出竞争力，表明架构复杂性并非总是必要的。
• 时间序列插补：
  • 基于扩散的模型在该任务中占据主导地位，具有绝对优势。CSDI consistently 优于所有其他模型，其次是 ImagenTime 和 DiffusionTS。
  • 基于微分方程的模型和朴素基线通常表现较弱，很少进入前三名。
• 效率：
  • GANs 和 VAEs：计算负担主要在训练阶段；推理速度快。
  • 扩散模型：训练速度与其他模型相当，但由于迭代去噪，推理速度较慢，适合离线部署。
  • 微分方程：由于求解初值问题，其计算图天然较大，负担较重。

5. 意义与未来方向

论文声称，GenTS 通过提供一个用于系统性评估的统一平台，填补了生成式时间序列社区的关键空白。作者强调，基于扩散的模型目前是最稳健且可取的通用时间序列生成选择，特别是对于条件任务。

作者谦逊地提出了三个潜在的未来研究方向：

1. 生成式时间序列基础模型：开发在全球数据分布上训练的模型，以便可控地推断并应用于各种下游任务。
2. 稳健评估：通过开发更全面指标，解决基于模型的指标（PS、DS）对辅助评估模型选择的敏感性。
3. 在线开发：为具有复杂分布偏移的动态现实世界时间序列创建自适应范式，超越静态环境，以降低延迟和计算负担。

作者总结道，尽管基于微分方程的模型在当前基准测试中表现不佳，但其对连续时间的固有归纳偏置表明，它们仍然是一个有前景但尚未充分探索的领域。