Gaussian Process Differential Ensembles for Joint Inference on Curves, Derivatives, and Integrals

技術要約：曲線、微分、および積分に関する結合推論のためのガウス過程微分アンサンブル

問題提起
関数データ解析では、観測データを単一の潜在的な曲線（「アンカー」）を通じてモデル化することが多い。しかし、科学的な目的は、しばしばこの曲線を超えて、変化率（微分）、累積量（積分）、境界値、またはこれらのレベルの非線形汎関数へと拡張される。適合された滑らかな曲線に対する標準的な後処理は、派生した量に対して較正された不確実性を提供できない。なぜなら、それは結合推論に必要な事後共分散構造を無視しているからである。さらに、有限差分近似はグリッド依存であり、高次微分に対して不安定である。また、標準的な積分は、明示的な境界情報なしには一意の解を持たない。微分や積分プロセスに関する既存のガウス過程（GP）手法は、これらのレベルを個別に扱うか、あるいは境界の不確実性を暗黙的に残しており、微分状態にわたって不確実性を一貫して伝播させることに失敗している。

手法
著者らは、アンカー付きガウス過程微分アンサンブルを提案する。これは、アンカー曲線 $f_0$ を、その平均二乗微分 ($f_{-1}, \dots, f_{-r}$) および反復定積分 ($f_1, \dots, f_r$) を含む結合ガウス状態へと埋め込むフレームワークである。

1. 厳密な構成:

   • アンサンブルは、$(2r+1)$-組のプロセスの集合として定義される。負のインデックスは微分を表し、正のインデックスは参照点 $t_0$ からの反復積分を表す。
   • 決定的なことに、正のインデックスを持つ成分には、明示的なガウス積分定数 ($\kappa_1, \dots, \kappa_r$) が含まれている。これらの定数は、一般的な原始関数を定義するために必要な有限次元の境界値（多項式零空間）を表す。
   • この構成は、アンカーによって誘導されるカーネル駆動の共分散と、積分定数によって誘導される有限次元の共分散を分離する。これにより、アンカーのみの観測では独立した積分定数を特定できないことが明確になる。すなわち、積分レベルの推論には、境界観測、仮想的な制約、または事前情報が必要である。
   • 本フレームワークは、結合ガウス法則に対する弱平均二乗構成を提供し、パスごとの滑らかさの仮定の下では、リテラルなサンプルパス微分鎖を提供する。

2. スケーラブルな近似 (Transformed HSGP):

   • 定常な一次元カーネルに対して、著者らはラプラス・ディリクレ固有関数に基づく変換ヒルベルト空間ガウス過程 (Transformed HSGP) 近似を利用する。
   • 複雑な閉形式の微分または積分カーネルを導出する代わりに、この手法は、事前計算可能な基底関数に対して微分および積分演算を直接適用する。
   • 積分定数からの共分散への寄与は正確に保持される一方で、カーネル駆動の部分はスペクトル・截断（truncation）を介して近似される。これにより、特定のカーネルファミリーごとに新しい共分散公式を導出することなく、任意の有限次数のアンサンブルを計算することが可能となる。

3. ターゲット指向の較正 (TARTARE):

   • 著者らは、アンカーに対して較正された有限ランクの基底が、微分ターゲット（高周波成分を強調するもの）を十分に解像できないという問題を解決するために、TARTARE (Target-Aware Range and Truncation for Approximate Representations of Ensembles) を導入する。
   • TARTAREは、ユーザー指定のモニタリング集合 $\mathcal{M}$（例：二次微分またはアンサンブル全体）に対して、計算範囲 ($L$) と截断レベル ($K$) を較正する。
   • この手順は、スペクトル・テイルの許容誤差に基づく較正定数を決定するオフラインフェーズと、事後サマリーがモニタリング対象のレベルにおいて安定するまで基底サイズを反復的に精緻化するオンラインフェーズで構成される。

主な貢献

1. 結合推論フレームワーク: アンカー付きガウス微分アンサンブルの定義、および、微分、アンカー、および積分を含む結合ガウス法則と明示的な積分定数の確立。
2. 明示的な境界処理: アンカー誘導の共分散と有限次元の境界不確実性の分離、および、アンカーのみのデータではなぜ独立した積分定数を特定できないかを実証。
3. 計算実装: 密な行列ではなく基底関数に演算を適用する、定常カーネルのための変換ラプラス・スペクトル実装、および、演算レベルの近似境界と有限グリッド事後収束結果。
4. 較正手順: 微分またはアンサンブルのサマリーが必要な場合に、有限ランク近似が適切な高周波成分を捉えていることを保証するための、診断および較正ワークフローとしてのTARTAREの導入。

結果

• シミュレーション研究: 二次微分アンサンブルにおいて、Squared ExponentialおよびMatérn 7/2カーネルを用いたシミュレーションを行い、TARTAREで較正されたアンサンブルを、標準的なアンカーレベルのHSGP較正および平滑化スプラインと比較した。
  • アンカーレベルの較正は、微分ターゲット（例：二次微分 $f_{-2}$）の著しい解像度不足を招き、高い積分平方根平均二乗誤差 (IRMSE) と不適切な被覆確率をもたらした。
  • TARTAREによる較正（特に微分をターゲットとするT-D2、またはアンサンブル全体をターゲットとするT-all）は、微分回復を大幅に改善し、正確な解析的参照値に近い結果を得ると同時に、アンカーおよび積分レベルの精度も維持した。
  • 平滑化スプラインは点推定を提供したが、微分に対する較正された事後被覆を提供することはできなかった。
• 応用 (オートバイのクラッシュデータ): ノイズを含む頭部加速度データから運動学的状態を推論するために本手法を適用した。このモデルは、加速度をアンカーとして扱い、躍度（ジャーク）、スナップ、速度、および位置を同時に推論した。
  • 本フレームワークにより、ノイズを含む加速度観測から微分鎖を通じて不確実性を伝播させ、短期間の転換点関数（5ミリ秒以内の速度反転と変位の予測）に関する一貫した推論が可能となった。
  • 結果は、結合推論がいかにノイズを含む加速度測定から微分鎖へと不確実性を伝播させ、将来の運動学的状態や閾値超過に関する確率的な記述を提供できるかを実証した。

意義と主張
本論文の主要な貢献は、単にガウス過程を微分する能力ではなく、明示的な共分散伝播と境界情報を用いて、選択されたアンカーの周囲に微分演算を組織化することにあると主張している。

• 本フレームワークは、モデルの仕様から事後報告に至るまで、推論ターゲット（変化率、積分、転換点）が可視であり続けることを保証する。
• カーネル駆動の不確実性と積分定数の不確実性の分離は、一貫した推論にとって統計的に極めて重要であることが強調されている。
• 著者らは、TARTAREを、微分またはアンサンブルのサマリーが必要な場合の有限ランク実装における必要な計算上の安全策として控えめに位置づけており、標準的なアンカーのみの較正ではこれらのターゲットに対して不十分であると述べている。
• 本研究は、すべての関数データワークフローに対する広範な経験的優位性を主張するものではなく、適用モデルにおける一貫した不確実性定量化のための、結合状態サンプリングの価値を示すものである。
• 制限事項として、現在の一次元定常カーネルへの限定、高次微分における平均二乗滑らかさへの依存、および外部の境界データがない限り積分定数の推論が事前分布に依存することなどが挙げられている。