技術的概要：内在的微分整合性による離散観測からの物理的ダイナミクスの復元

1. 問題定義

科学機械学習（SciML）において、離散的で疎、かつノイズを含む観測データから連続時間の物理的ダイナミクスを学習することは、依然として根本的な課題である。既存のパラダイムは二項対立に直面している：

• 離散時間状態回帰（例：自己回帰モデル）は固定された時間ステップに縛られており、時間的な硬直性と、異なる時間範囲における一般化能力の欠如を招く。
• ニューラル ODEは連続的なダイナミクスを学習するが、観測間の構造的な監督が欠如しているため、数値的には妥当だが物理的に整合性のない流れを生み出すことが多い。これらは適応的ステップ制御のために局所打ち切り誤差に依存しており、これは支配方程式が正確であるという前提を必要とするが、この条件はニューラル代理モデルではしばしば満たされない。
• **物理情報ニューラルネットワーク（PINNs）**は明示的な方程式を通じて物理的準拠を強制するが、支配する偏微分方程式（PDE）の知識を必要とし、これは頻繁に利用不可能である。

これらのアプローチに共通する根本的な限界は、局所的制約（点ごとの回帰、微分近似、または方程式の残差）への依存にある。観測間隔が広がるにつれて、これらの局所監督信号の忠実度は低下し、長期的な外挿中に誤差が蓄積し、表現の崩壊を招く。

2. 手法：整合ベクトルフロー（CVF）

著者らは、離散状態の系列としてではなく、**時間並進対称性（TTS）を満たす連続的な流れとして動的進化を扱うフレームワークである整合ベクトルフロー（CVF）**を提案する。この手法は以下の 3 つの柱に基づいている：

A. 仮説空間と対称性の破れ

著者らは、時間並進の下で半群性質を満たす流れの仮説空間 $\mathcal{H}$ を定義する。自律系において、進化作用素 $\Phi_t$ は $\Phi_{t_1+t_2}(s) = \Phi_{t_2}(\Phi_{t_1}(s))$ を満たさなければならない。

• 対称性の破れ（$R_k$）： この性質からの逸脱は、多段階合成フローと直接フロー予測との間の残差として定量化される。具体的には、本論文は 2 つの連続ステップの和が直接ステップに等しくなるべきという三角形ループ（$k=3$）に焦点を当てている。
• 学習目的： モデルは、接線速度一致誤差と対称性の破れ（$R_3$）を組み合わせた損失関数を最小化する。これにより、学習された表現が異なる時間スケールで一貫して合成されるように強制される。

B. 速度場の時間的拡張

離散観測と連続的な接線速度場との間の表現的不整合を解消するため、CVF は接線場 $v_\theta(s_t)$ ではなく、時間条件付き割線速度場 $\psi_\theta(s_t, \Delta t)$ を学習する。

• モデルは割線速度に対して訓練される：$\psi_\theta(s_t, \Delta t) = \frac{\Phi_{\Delta t}(s_t) - s_t}{\Delta t}$。
• このアプローチは接線近似における系統的バイアスを排除し、モデルが複数の時間スケールでダイナミクスの構成要素を学習することを可能にする。真のダイナミクス（$\Delta t \to 0$）は、一貫した時間横断バンドル表現を学習するという部分問題となる。

C. カスケード正規化

訓練と推論を安定化させるため、著者らはカスケード正規化スキームを導入する。状態と速度の標準的な独立した正規化とは異なり、この手法は状態正規化に基づいて速度場に対してプッシュフォワード変換を適用する。これにより、基底多様体とその接空間との間の内在的な幾何学的関係が保持され、剛性システムにおける勾配の不一致が防止される。

D. 適応整合ソルバ（推論）

本論文は、対称性の破れを推論中の適応ステップサイズ制御のための内在的整合性認識オラクルとして再利用し、局所打ち切り誤差への依存を置き換える。

• メカニズム： ソルバは、正規化された対称性の破れが許容誤差以下に留まるような、最大の巨視的ステップサイズ $\Delta t$ を動的に探索する。
• 原則：
  1. 最小ステップサイズ制約： ステップは訓練データの解像度（$\delta_{min}$）より小さくできない。
  2. 動的相対許容誤差： 許容誤差は現在の運用スケールに適応し、空間誤差制御から時間誤差制御へとシフトする。
• これにより、ソルバは局所的な幾何学的複雑さに基づいて計算資源を割り当て、整合性の高い領域では大きなステップを踏み、表現的一貫性が崩れる箇所でのみ分割を行うことが可能になる。

3. 主要な貢献

1. 整合性に基づく仮説空間： 物理的ダイナミクスの学習を TTS によって導かれた仮説空間に根ざすことで、明示的な方程式の監督なしに連続ダイナミクスの復元を可能にする。
2. バイアス除去学習のための時間的拡張： 時間条件付き割線速度場を活用して接線近似における系統的バイアスを排除し、真のダイナミクスと平坦な代理外挿との間の矛盾する学習目的を緩和する。
3. 統合された訓練・推論フレームワーク： 同じ整合性指標（対称性の破れ）を、仮説空間を制約する訓練正則化項として、および推論中のステップサイズスケジューリング用オラクルとして利用する。
4. 適応整合ソルバ： モデル自身の整合性推定値を局所誤差指標として使用する適応ソルバであり、積分ステップサイズを動的に調整して精度と効率を向上させる。

4. 実験結果

この手法は、ニューラル ODE（N-ODE）、フローマッチング（CFM）、微分一致手法などの最先端のベースラインに対して、公開 PDE ベンチマーク（2 次元拡散反応、2 次元浅水、2 次元 CFD 乱流、および 2 次元波動方程式）で評価された。

• 時間情報に基づく推論： 拡散反応ベンチマークにおいて、CVF はベースラインと比較してロールアウト RMSE を87%削減し、かつ関数評価回数（NFE）を5 倍削減した。CVF は全データセットで拒絶なしの単一ステップロールアウト動作（NFE $\le$ 3）を達成したのに対し、ベースラインは高次ソルバ（NFE $\ge$ 20）に大きく依存していた。
• 直接自己回帰推論： 中間的な時間的手がかりなしに遠い未来のフレームを予測するより過酷な設定において、CVF は 3 つのベンチマークのうち 2 つで最低のロールアウト RMSE を維持した。
  • N-ODE などのベースラインは発散するか、構造的欠陥を補うために brute-force なマイクロステップに依存して、関数評価回数が最大で 1 桁増加する必要があった（例：浅水において NFE が 20.1 から 115.9 に跳躍）。
  • CVF は局所的な幾何学的複雑さに基づいて計算資源を適切に割り当て、大幅に低い NFE で安定性を維持した。
• アブレーション研究：
  • ダウンサンプリング： 訓練中の均一なダウンサンプリングが決定的に重要であることが示された。ランダムなダウンサンプリングは「過信」的な外挿を招き、モデルが線形化されたベクトル場に崩壊して表現的不整合を検出できなくなった。
  • 正規化： カスケード正規化は、剛性システムにおける訓練の安定化に不可欠であることが証明された。
  • 対称性の種類： 半群性質（一方向）の強制は散逸系において優れており、双方向制約は保存系において同等であった。

5. 意義と主張

本論文は、構造的に欠陥のある流れを、いかに洗練されたソルバでも救済することはできないと主張する。既存の手法はしばしば真の物理的位相空間から逸脱したバイアスのかかった表現を学習しており、高次ソルバを適用しても単にこれらの誤った場をより精密に積分するに過ぎず、系統的誤差を招く。

仮説空間を TTS 互換の流れに制約することで、CVF はソルバが介入する前に、学習されたベクトル場が有効な物理的流れと幾何学的に整合していることを保証する。このアプローチは：

• 計算コストと誤差蓄積の分離： 一貫した幾何学的事前分布を学習することで、モデルは誤差を蓄積することなく大きな巨視的ステップを踏むことができ、効率と精度の間の従来のトレードオフを打破する。
• 新たな帰納的バイアスの提供： 構造や最適化設計に依存するのではなく、微分整合性や半群性質といった物理的ドメイン知識を損失関数に直接埋め込むことの重要性を浮き彫りにする。
• 方程式ベースの手法に対する堅牢な代替案： 支配する PDE の明示的な知識を必要とせずに離散データから連続ダイナミクスを復元し、PINNs の主要な限界に対処する。

著者らは、自らのフレームワークが自律系に焦点を当てており、訓練オーバーヘッドはわずかであるが、長期的予測誤差と関数評価回数の大幅な削減をもたらし、離散観測から一貫した物理的ダイナミクスを学習するための新たなパラダイムを確立すると結論付けている。