Generative diffusion models for spatiotemporal influenza forecasting

レマイトとレスラーによる論文「Generative diffusion models for spatiotemporal influenza forecasting（時空間インフルエンザ予測のための生成拡散モデル）」の詳細な技術的概要を以下に示す。

1. 問題提起

感染症の発生率を予測することは公衆衛生計画にとって不可欠であるが、流行動態の複雑で非定常的な性質により、依然として困難を伴う。既存のアプローチには特定の限界がある：

• メカニズムモデルは基盤となる仮定に大きく依存し、現実的な創発的動態や多峰性の不確実性を捉えることに失敗することが多い。
• 統計的時系列モデルは歴史的なパターン認識に優れているが、基盤となるプロセスが変化した場合（例：新たな病原体）には脆弱であり、将来の軌道の全範囲を表現することに苦慮する。
• 現在のギャップ：リアルタイムで高次元の時空間構造、多様な流行パターン（例：二峰性のピーク）、および堅牢な不確実性の定量化を同時に捉える手法が欠如している。

2. 手法：Influpaint

著者らは、インフルエンザ予測に去噪拡散確率モデル（DDPMs）を適用する生成フレームワークInflupaintを導入する。

A. データ表現

• 画像アナロジー：インフルエンザシーズンは、52 週間×51 地点（50 州＋DC）の形状を持つ 2 次元「画像」として符号化される。
• 画素強度：インフルエンザによる入院数の発生率を表す。
• 利点：この表現により、最先端の画像生成アーキテクチャ（U-Net）を疫学データに直接適用できる。

B. 訓練データ戦略

データ不足と不均質性を克服するため、モデルはハイブリッドデータセットで訓練される：

• サーベイランスデータ：CDC FluView（ILI 割合）および FluSurv-NET（入院数）。
• 合成データ：Flu Scenario Modeling Hub（SMH）および flepiMoP モデルからの軌道。
• 最適な構成：アブレーション研究により、30% のサーベイランスと 70% のシミュレーション軌道の混合が最良のパフォーマンスをもたらすことが判明し、純粋なサーベイランスデータセットや純粋なシミュレーションデータセットのいずれよりも優れていた。

C. モデルアーキテクチャと訓練

• アーキテクチャ：ResNet ブロック、グループ正規化、自己注意機構を備えた畳み込みU-Net。
• 拡散プロセス：
  • 前方：$T$ステップにわたって画像にガウスノイズを追加する（$T=200$および$T=500$をテスト；500 の方が良好な結果を示した）。
  • 逆方向：ニューラルネットワークがノイズを予測・除去し、画像を再構成する。
  • 目的：真のノイズと予測されたノイズ間の平均二乗誤差を最小化する（$L = \mathbb{E}[\|\epsilon - \epsilon_\theta(x_t, t)\|^2]$）。
• 前処理：発生率値の平方根スケーリングが、線形スケーリングよりも性能向上に寄与することが判明した。

D. 条件付きインペインティングによる予測

予測はインペインティングタスクとして定式化される：

• メカニズム：モデルは部分的な観測（歴史的データ）を条件として受け取り、欠落した将来データを生成する。
• アルゴリズム：著者らはCoPaint（最適化された DDIM サンプリング）を利用する。境界の不一致を引き起こした以前の手法（RePaint）とは異なり、CoPaint はベイズ定式化を用いて、各ノイズ除去ステップで露出した画素と露出していない画素を同時に更新する。
• 特徴：
  • 任意のマスク：任意の時空間観測パターン（欠落した州、欠落した週、チェッカーボードパターンなど）に対応可能。
  • アンサンブル生成：将来の結果の確率分布全体を表す 512 の条件付き軌道を生成する。

3. 主要な貢献

1. 疫学への DDPM 初適用：感染症予測に拡散モデルを適用した最初の研究であり、豊かな高次元時空間分布を学習する能力を実証した。
2. ハイブリッドデータフレームワーク：限られた現実世界のサーベイランスデータと豊富な合成メカニズムモデル出力を組み合わせることで、深層学習の予測スキルが大幅に向上することを示した。
3. 柔軟なインペインティング：単一の訓練済みモデルが、再訓練なしで多様な欠損データシナリオ（空間的ギャップ、時間的ギャップ）を処理できることを示し、拡散インペインティングの汎化特性を活用した。
4. 競争力のあるリアルタイム性能：CDC FluSight チャレンジでアプローチを検証し、2024–2025 シーズンでトップクラスのランキングを達成した。

4. 結果

A. 無条件生成

• モデルは、単一ピーク、二峰性ピーク、および変化するピークタイミングを含む、現実的で多様な季節的軌道を生成する。
• 空間的同期性（州間平均相関 0.455）を捉えるが、観測された歴史的シーズン（0.816）よりもやや低い。

B. 予測性能（FluSight チャレンジ）

• 回顧的評価（2023–2024 年および 2024–2025 年）：Influpaint は、CDC FluSight 多モデルアンサンブルと競合する加重区間スコア（WIS）を達成した。
  • 2023–2024 年：32 位中 5 位（WIS 185,441）に対し、アンサンブルは 8 位。
  • 2024–2025 年：42 位中 8 位（WIS 450,797）に対し、アンサンブルは 20 位。
• リアルタイムの進展：
  • 2022–2023 年：初期実装（RePaint）は 17 位中 9 位；境界の不一致に苦しんだ。
  • 2023–2024 年：較正の問題により最下位付近（27 位中 24 位）に終わった。
  • 2024–2025 年：条件付けアルゴリズム（CoPaint）とデータセットを改善した後、36 モデルの中で絶対 WIS および MAE で1 位を獲得した。
• 較正：精度は向上したが、モデルは 2024–2025 年に「過信」するようになった（実証的な 50% カバレッジは目標の 50% から 14.8% に低下）、より良い不確実性の定量化が必要であることを示している。

C. アブレーション研究

• 拡散ステップ：200 ステップよりも 500 ステップの方が優れていた。
• スケーリング：発生率の平方根スケーリングは線形スケーリングよりも優れていた。
• 拡張：データ拡張技術（ポアソンリサンプリング、時間的パディング）は一般的に性能を低下させ、モデルが訓練データ分布の特定の帰納的バイアスに依存していることを示唆した。

5. 意義と将来の方向性

• 概念実証：Influpaint は、明示的な疫学方程式なしに、深層生成モデルが従来のメカニズムモデルおよび統計的アンサンブルと感染症予測において競合し得ることを証明した。
• 柔軟性：このフレームワークは、国レベルおよびサブナショナルレベルの予測のための統一されたワークフローを提供し、リアルタイムで欠損データを補間できる。
• 限界：
  • 解釈性：「ブラックボックス」深層学習モデルとして、予測のメカニズム的説明を欠く。
  • データバイアス：性能は訓練データ（サーベイランス＋シミュレーション）の質と多様性によって制限される。
  • 計算コスト：より単純なモデルと比較して、アンサンブルの訓練と生成には相当な GPU リソースと時間を要する。
• 将来の作業：潜在的な改善点には、予測タスクに直接訓練する（教師あり拡散）、補助的共変量（気候、移動性）を統合する、および残差過程を学習するために拡散モデルをメカニズムモデルと組み合わせることが含まれる。

結論：本論文は、生成拡散モデルを時空間流行予測のための強力かつ柔軟なツールとして確立し、従来の手法ではしばしば見逃される複雑な不確実性と多様な動態を捉える能力を有していることを示している。