Spatio-temporal stochastic graph-based learning for infectious disease forecasting

技術要約：感染症予測のための時空間確率的グラフベース学習

問題提起
既存の感染症（COVID-19や水痘など）の予測に向けた時空間グラフベースモデルは、学習プロセスへの確率的モデリングの統合に関する研究がほとんど進んでいない。さらに、これまでの研究の多くは小規模から中規模の地理的ネットワーク（例：20〜400地域）に焦点を当てており、テスト時の軌跡における変動性が限定的である。そのため、大規模な国家における実際の疾病拡大で見られる複雑で不均一かつ高頻度な変動を反映できていないことが多い。その結果、現在のアーキテクチャが、大規模で変動性の高い疫学的ネットワークにおいて、疾患の軌跡を正確に予測できるか否かは依然として不明である。

手法
著者らは、確率的定式化と不確実性近似を統合することで、新たな感染症症例数を予測するために設計された時空間確率的グラフベース学習アーキテクチャを提案する。このアーキテクチャは、以下の3つの連続するモジュールで構成される：

1. 多変量シーケンスエンコーディング: このモジュールは、時系列の疾患発生データと地理的な接続を標準化する。これは、時系列データを$[0, 1]$にスケーリングし、静的な空間グラフドメインに整理したラグ付きシーケンスサンプル($X(t)$)を作成する。入力には、$W$のウィンドウを用いて$G_l$の場所における疾患症例を表す時空間テンソルと、地理的なトポロジーを表すエッジインデックステンソルおよび属性が含まれる。
2. 時空間プロセッシング: このモジュールは、提案された2つのバリアントを用いて潜在特徴を抽出する：
   • PrGCNrmsle: グラフ畳み込みネットワーク（GCN）層に基づいている。局所的な接続密度に依存しない空間的相関を学習するために、対称正規化を用いて隣接ノードからの情報を集約する。
   • PrGLSTMrmsle: GCNに長短期記憶（LSTM）層を拡張したものである。このバージョンはGCNの出力を処理して時間的依存関係と隠れ状態の進化を捉え、短期的ノイズをフィルタリングしながらマルチウェーブ（多波状）のダイナミクスの記憶を保持する。
3. 確率的手法: 多層パーセプトロン（MLP）を用いた全結合層が、潜在特徴を各地点ごとの2次元の記述子（平均 $\mu$ および対数分散 $\ln \sigma$）にマッピングする。再パラメータ化トリックを用いることで、モデルはこの分布からサンプリングを行い、確率的な予測 ($\hat{y} = \mu + \sigma \odot \epsilon$) を生成する。これにより、表現の平滑化を招く構造的な事前知識を再導入することなく、内部の変動性をシミュレートするための最小限の摂動が誘発される。

学習と評価

• 損失関数: モデルは**平方根平均二乗対数誤差（RMSLE）**を用いてエンドツーエンドで学習される。この選択は、過小評価を過大評価よりも重く罰し、異なる規模の場所間でも相対的な誤差を等しく扱うため、局所的な変動ではなくグローバルな動的特徴にモデルを集中させる。
• 不確実性推定: エピステミック不確実性はアンサンブル法によって近似される。モデルは異なる初期化（シード値）を用いて100回学習され、予測の分布を生成し、そこから95%の変動区間が導出される。
• データセット:
  • COVID-19 (米国): 米国全土の3,218郡（2020年〜2022年）。非常に変動の激しい波のパターンを含む、学習期間（2020年1月〜2021年12月）とテスト期間（2021年12月〜2022年10月）をカバーしている。
  • 水痘 (ハンガリー): 20の郡（2005年〜2014年）。より一貫した季節的な波のパターンを持つ、学習期間（2005年〜2012年）とテスト期間（2012年〜2014年）をカバーしている。
• ベースライン: 提案されたモデルは、4つの時空間グラフベースモデル（EvolveGCNH, GCLSTM, GConvLSTM, MPNNLSTM）およびいくつかのアブレーション・バリアント（確率性の除去、損失関数の変更、または空間モジュールの除去）に対してベンチマークテストが行われた。

主な結果

• 性能: 提案されたPrGCNrmsleは、米国の3,218郡およびハンガリーの20郡のすべてにおいて、競争力のある全体的な週次パフォーマンスを達成した。米国のCOVID-19における2022年の第1波およびハンガリーの比較的な水痘の波（2012年〜2014年）の予測において、優れた能力を示した。
• 安定性: 提案されたアプローチは、ベースラインと比較して、高周波かつ低振幅の変動に対する感受性が低いことを示した。100回の実行における予測の変動区間が低かったことは、より高い安定性を示している。
• 観察された限界:
  • 時間的遅延: 予測において観測値に対する一貫したワンステップの遅延（1週間）が観察された。モデルはトレンドの方向性は追随するものの、急激な変化やピークのタイミングを捉える点では遅れが生じる。
  • ピーク推定: PrGCNrmsleは全体的な時間的進化を良好に近似したが、小さな波に対しては過大評価し、高頻度データにおける急激なスパイクに対しては過小評価する場合があった。
  • LSTMバリアント: PrGLSTMrmsle（GCN + LSTM）は、COVID-19の冬季ピーク予測においてエラーが増加し、PrGCNrmsleと比較して大幅に長い学習時間（約4.5倍）を必要とした。これは、LSTM層が小さな学習波に対して過学習しているか、あるいはより大きな未学習のピークに対処できていない可能性を示唆している。
• 計算効率: PrGCNrmsleは、RNNベースのベースラインと比較して収束が速く、学習パラメータも少ないため、大規模ネットワークに対してより計算効率が高いことが示された。

意義と主張
本論文は、提案されたアーキテクチャが、単一のモデル構造内で、大規模（米国の郡）および小規模（ハンガリーの郡）の両方の人口地理的ネットワークを符号化するように適応できることを主張している。確率的定式化を組み込むことにより、モデルは構造的完全性を維持しつつ、不確実性の伝播を最小限に抑えながら、ベースラインに対する全体的な流行の進行を表現する。

著者らは、本研究を、不均一な環境におけるより堅牢な感染症予測への一歩として位置づけている。モデルは支配的なトレンドを捉え、疾患の軌跡のモニタリングに有用な情報を提供する一方で、ワンステップの遅延に対処し、急激で非線形な発生率の変化をより良く扱うためには、さらなる手法の改善が必要であると述べている。本研究は、現在のグラフベースのモデルが、学習時の軌跡（一貫したパターン）とテスト時の軌跡（高度に変動するパターン）の間のミスマッチに苦慮していることを浮き彫りにしており、その確率的アプローチは、計算効率を犠牲にすることなく、疾病拡大の可能性の範囲をより良く表現するためのメカニズムを提供している。