技術的概要：PHYSIOME-ODE

問題提起

欠損値を伴う不規則にサンプリングされた多変量時系列（IMTS）の予測に関する現在の研究は、多様で困難なベンチマークの深刻な欠如に悩まされている。この分野は、USHCN、PhysioNet-2012、MIMIC-III、MIMIC-IV という 4 つのデータセットと、いくつかの玩具例に主に依存している。著者らは、この評価環境における決定的な欠陥を特定した。すなわち、これらの既存データセットでは、時間に関係なく一定の値を予測する単純なベースラインモデルが、高度な常微分方程式（ODE）ベースのニューラルモデルを上回るか、あるいはそれと競合する性能を発揮することが多いという点である。この直感に反する発見は、現在のデータセットが ODE ベースのモデルの真の能力を評価するのに適していない可能性を示唆しており、研究の進展を阻害している。さらに、既存のデータセットは、血糖値予測における食事摂取量など、必要な共変量（covariants）を欠くことが多く、モデルの複雑さに関わらず予測タスクが本質的に不可能になっている。

手法

これらの限界に対処するため、著者らは体系的な手法を通じて生成された新しいベンチマーク「Physiome-ODE」を提案する。

1. 生物学的 ODE からのデータ生成:

   • 著者らは、生物学的研究から導き出された 208 の多変量 ODE モデルを含む Physiome Model Repository (PMR) を利用する。
   • これらの ODE システムを生成モデルとして扱う。定数 $a$ と初期値 $x_0$ を持つ ODE システム $F$ は、連続関数 $x(t)$ を定義する。
   • IMTS インスタンスを作成するために、不規則な観測時刻とチャネルを生成するサンプリング過程 $s$ と、観測ノイズを導入するノイズモデル $p_{NOISE}$ を適用する。
   • 多様性と難易度を確保する鍵として、固定された ODE インスタンスを使用しない。代わりに、初期条件 ($x_0$)、ODE 定数 ($a$)、および総期間 ($T$) を、文献値を中心とした分布から、拡散パラメータ ($\sigma$) によって制御されつつサンプリングして変化する。

2. 難易度指標：結合勾配偏差 (JGD):

   • 最も困難なデータセットを選択するために、著者らは「結合勾配偏差 (Joint Gradient Deviation: JGD)」と呼ばれる指標を導入する。
   • JGD は 2 つの測定値を組み合わせる。
     • 平均勾配偏差 (MGD): 単一の関数内の勾配の不均質性を測定する（平均周りの勾配の時間正規化 $L_2$ ノルム）。
     • 平均点ごとの勾配偏差 (MPGD): 分布内の異なる関数間の勾配の不均質性を測定する（アンサンブル内の各時間点における勾配の標準偏差）。
   • $JGD(p) = MPGD(p) \cdot E_{x \sim p}[MGD(x)]$。
   • 著者らは、MGD と MPGD が有限サンプルと差分商を用いて近似可能であることを証明する（補題 1 および 2）。
   • 各 ODE モデルに対して拡散パラメータ ($\sigma_{initial}, \sigma_{const}, \sigma_{dur}$) を最適化し、JGD を最大化することで、最も困難な予測シナリオを選択する。

3. ベンチマークの構築:

   • PMR にある 208 のモデルから、最適化された JGD スコアが最も高い上位 50 モデルを選択する。
   • 選択された各モデルについて、2,000 の時系列インスタンスを生成する。
   • インスタンスは、ランダムな開始時刻をサンプリングし、次の 100 ステップを選択した後、観測の 80% をランダムに削除して不規則サンプリングをシミュレートすることで作成される。
   • 不安定な ODE 状態に起因する極端な値（外れ値）は、学習の安定性を確保するために除外される。

主要な貢献

1. Physiome-ODE ベンチマーク: 実世界の生物学的 ODE に由来する 50 の異なるデータセットで構成される、IMTS 予測のための最初の大規模かつ多様なベンチマークの創出。これは現在の評価設定よりも 1 つ桁大きい規模である。
2. ベースライン分析: 「一定予測」ベースライン（GraFITi-C）の導入。これにより、現在の最先端モデルが既存データセットにおいて単純なヒューリスティックを上回れないことが多いことが示され、より良い評価プロトコルの必要性が浮き彫りになった。
3. JGD 指標: 時系列予測タスクの難易度を近似するためのシンプルかつ効果的なスコアとしての結合勾配偏差 (JGD) の提案。これにより、困難な ODE インスタンスの選択が可能となる。
4. 包括的な評価: 新しいベンチマークにおける 5 つの最先端 IMTS モデル（GRU-ODE-Bayes、LinODEnet、CRU、Neural Flows、GraFITi）および一定ベースラインの厳密な評価。

実験結果

著者らは、50 の Physiome-ODE データセットに対して、5 回交差検証プロトコル（系列の最後の 50% を予測）を用いた平均二乗誤差 (MSE) によりモデルを評価した。

• モデル性能: 単純なベースラインが支配的だった以前の評価とは異なり、Physiome-ODE における結果は、ODE ベースのモデルがその強みを発揮できることを示している。LinODEnet が全体として最も優れたモデルとして浮上し、最も多くのデータセットで勝利し、平均順位も最高であった。CRU と GraFITi も競争力のある性能を示した。
• ベースラインとの比較: 複雑なモデルは多くのデータセットで一定ベースラインを上回ったが、ベンチマークには DUP01 や DOK01 のような困難なインスタンスが含まれており、そこでは最良のモデルであっても一定ベースラインを著しく上回ることができなかった。これは、ベンチマークが幅広い難易度をカバーする能力を裏付けている。
• 相関: JGD スコアと達成可能な最良の MSE 間には、強い正の相関（スピアマン係数 0.77）が存在し、JGD がタスクの難易度の予測指標として有効であることを検証した。
• チャネル依存性: これらのデータセットの規則的サンプリング版に関する補足実験において、著者らはチャネル依存性を捉える多変量モデルが単変量モデルを著しく上回ることを発見した。これは、チャネル相関を無視することが有益な場合もあるという従来のベンチマークでの知見とは対照的である。

意義と主張

本論文は、Physiome-ODE が IMTS 予測研究の標準化において重要な前進を表すと主張している。バイアスのかかった小規模なデータセットから、生物物理学に基づいた大規模な半合成ベンチマークへと移行することで、著者らは以下のことを期待している。

• 競合する予測モデル間のより意味のある差別化の提供。
• 高難易度データセットにおける現在のアーキテクチャの特定の欠陥の特定。
• 適切な困難なデータで評価された場合、ODE ベースの手法が実際に卓越できることを示すことで、不規則時系列モデリングの研究に「新たな刺激」を与えること。

著者らは、データは ODE から生成されているため「半合成」であるが、基盤となるシステムは数十年にわたる出版された生物学的研究に基づいており、実世界の現象とのつながりを確保していると強調している。また、単一のモデルがすべてのデータセットで普遍的に最良であるわけではないことを認め、単一の「勝者総取り」評価ではなく、多様なベンチマークの必要性を再確認している。