技術概要：GenTS – 生成時系列モデルのための包括的ベンチマークライブラリ

1. 問題定義

生成モデルは時系列分析（合成、予測、補完など）において大きな可能性を示しているが、現在のエコシステムには、生成モデルに特化した統一された包括的なベンチマークライブラリが存在しない。既存の時系列ライブラリ（TSLib、GluonTS など）は主に識別モデル向けに設計されており、予測における平均二乗誤差（MSE）の最小化など、特定のタスクに最適化された硬直的なワークフローを特徴としている。

この構造は、入力 - 出力の直接マッピングではなく、データ分布の学習を目的として、敵対的学習、拡散プロセス、微分方程式など、明確かつ複雑な訓練パラダイムを採用する生成モデルとは根本的に互換性がない。さらに、既存のライブラリは以下の点でカバーが不足していることが多い。

• 多様なタスク: 多くのライブラリは単一のタスク（合成のみ、または予測のみ）に焦点を当てており、汎用性を無視している。
• モデルの多様性: 生成アーキテクチャの全スペクトル（GAN、VAE、拡散モデル、フロー、微分方程式）を統合しているライブラリは少ない。
• 評価: 統計的な忠実度と下流タスクでの有用性の両方を評価する、標準化された包括的な評価指標が不足している。

このギャップは、新たな進歩の体系的な評価や、異なる生成アプローチ間の比較を妨げている。

2. 手法：GenTS フレームワーク

これらの限界に対処するため、著者はPyTorchおよびPyTorch Lightningに基づいて構築された、包括的で拡張可能なベンチマークライブラリGenTSを提案する。このフレームワークは、完全なベンチマークパイプラインを網羅するモジュール型アーキテクチャで設計されている。

A. データ前処理

• 多領域データセット: GenTS には、交通、エネルギー、金融、医療、気象、物理学の 6 つのドメインから 15 以上のデータセットが含まれており、高頻度（Hz）から日次解像度までをカバーする。
• 合成データ: 迅速なプロトタイピングのための単純な物理的軌道シミュレーション（Spiral2D、SineND）が含まれる。
• BaseDataModule: LightningDataModule を継承するカスタマイズ可能なクラスで、データセットの分割、データローダーのインスタンス化、タスク固有の前処理（補完のための欠損値のシミュレーションや、予測のためのルックバックウィンドウの定義など）を処理する。不規則な時系列やユーザー定義のカスタムデータセットもサポートする。

B. モデル訓練

• モデルのカバレッジ: このライブラリは、5 つのタイプに分類される 25 以上の最先端（SOTA）モデルとそのバリエーションを実装している。
  • GAN: TimeGAN、RCGAN、COSCIGAN など。
  • VAE: TimeVAE、KoVAE、TimeVQVAE など。
  • 拡散モデル: DiffusionTS、CSDI、ImagenTime、TMDM など。
  • フロー: MAF、FourierFlow など。
  • 微分方程式: LatentODE、LatentSDE など。
• ナイーブベースライン: 単純な MLP または 1D-CNN バックボーンを使用し、タスク固有の適応を行わない 4 つの「ヴァニラ」モデル（VanillaVAE、VanillaGAN、VanillaDDPM、VanillaMAF）が、出発点として提供されている。
• BaseModel: LightningModule を継承するテンプレートクラスで、訓練、検証、サンプリングのステップを標準化する。柔軟なコールバック、ロギング、勾配集積をサポートする。また、無条件、クラスガイド、予測、補完など、さまざまな条件下で時系列を生成するための統一された sample メソッドも含まれる。

C. パフォーマンス評価

GenTS は単純な MSE を超えて、包括的な評価スイートを提供する。

• モデルフリー指標: 分布の近接性を測定するための統計的指標として、ワッサーシュタイン距離、連続順位確率スコア（CRPS）、MSE など。
• モデルベース指標: ニューラルネットワークに基づく評価として以下を含む。
  • 予測スコア（PS）: 合成データの下流予測モデルへの訓練有用性を評価する（合成データで訓練し、実データでテスト）。
  • 識別スコア（DS）: 事後分類器を用いて、合成データが実データからどの程度区別可能かを測定する。
  • コンテキスト FID（C-FID）: TS2Vec 埋め込みを用いてフレトレッチ・インセプション距離を適応させ、局所的な時間的コンテキストの整合性を測定する。
• 可視化: 2 次元分布の t-SNE 可視化ツールや、予測区間付きの予測・補完結果のプロットツール。

3. 主要な貢献

1. GenTS ライブラリ: 生成時系列モデル向けに設計された最初の包括的なベンチマークライブラリであり、無条件および条件付きタスクにおけるデータ準備、訓練、評価のための標準化されつつもカスタマイズ可能なワークフローを提供する。
2. 広範なベンチマーク: 著者は、多様なデータセットとモデルを用いて、合成（無条件およびクラスガイド）、予測、補完という 3 つの主要タスクにわたる大規模実験を実施した。
3. 経験的洞察とガイドライン: ベンチマーク結果に基づき、クロスタスクおよびタスク固有の文脈におけるモデル選択に関する具体的な提案と、将来の研究方向性を特定している。

4. 実験結果

ベンチマーク実験により、いくつかの重要な知見が得られた。

• 時系列合成:
  • 拡散モデル（ImagenTime、DiffusionTS など）は、モデルベース指標（PS および DS）において特に優位性を示し、高い忠実度と下流タスクでの有用性を示した。
  • GAN: 一般的には安定性が低いものの、COSCIGANは複雑なデータ分布への適合能力において際立っており、C-FID およびワッサーシュタイン距離で良好なパフォーマンスを発揮した。
  • クラスガイド合成: TimeVQVAEは、実世界のクラスラベル付きクラスターとの整合性が最も優れていた。GAN はカテゴリ化されたデータを生成したが、実世界のクラスターとの整合性は不十分であった。
• 時系列予測:
  • CSDIおよびTMDMは、決定論的および確率的予測の両方で頻繁にトップパフォーマンスを記録した。
  • TMDMは、専門的なバックボーンにより、非定常データセット（株式など）において絶対的な優位性を示した。
  • 驚くべきことに、ナイーブベースライン（VanillaMAF、VanillaVAE）は特定のデータセット（ETTh、Electricity）で競争力のあるパフォーマンスを示し、アーキテクチャの複雑さが常に必要ではないことを示唆している。
• 時系列補完:
  • 拡散ベースモデルがこのタスクにおいて絶対的な優位性で支配的であった。CSDIは一貫して他のすべてのモデルを上回り、次いで ImagenTime、DiffusionTS が続いた。
  • 微分方程式ベースモデルとナイーブベースラインは一般的にパフォーマンスが弱く、トップ 3 に到達することは稀であった。
• 効率性:
  • GAN と VAE: 計算負荷は主に訓練段階にあり、推論は高速である。
  • 拡散モデル: 訓練速度は他と同等だが、反復的なノイズ除去により推論が遅く、オフライン展開に適している。
  • 微分方程式: 初期値問題の求解により、自然に大きな計算グラフを負担するため、計算コストが高い。

5. 意義と将来の方向性

この論文は、GenTS が体系的な評価のための統一プラットフォームを提供することで、生成時系列コミュニティにおける重要な空白を埋めると主張している。著者は、拡散ベースモデルが、特に条件付きタスクにおいて、汎用的な時系列生成のために現在最も堅牢で推奨される選択肢であると強調している。

著者は控えめに、以下の 3 つの将来の研究方向性を提案している。

1. 生成時系列基盤モデル: 多様な下流タスクに対して制御可能に推論されるよう、グローバルなデータ分布で訓練されたモデルの開発。
2. 堅牢な評価: 補助評価モデルの選択に対するモデルベース指標（PS、DS）の感応性に対処するため、より包括的な指標の開発。
3. オンライン開発: 複雑な分布シフトを伴う動的な実世界時系列のための適応的パラダイムの創出。静的な環境を超えて、遅延と計算負荷を軽減する。

著者は結論として、現在のベンチマークでは微分方程式ベースモデルが性能面で劣っていたものの、連続時間に対する固有の帰納的バイアスにより、有望かつ未開拓の領域であり続ける可能性があると述べている。