技術的概要：隣人を監視せよ：局所位相空間情報を用いた統計的に正確なカオス系への学習

問題提起

データ駆動型の力学系発見は、カオス系に適用される際に根本的な課題に直面する。「ブラックボックス」の代理モデル（ニューラル ODE など）は、標準的な軌道ベースの最適化を通じて訓練され、観測された短期間の軌道と一致させることができるが、長期的な視野において基礎となる力学を正確に捉えることにはしばしば失敗する。これは、カオス系が初期条件とモデルパラメータに対して指数関数的な感度を示すためであり、わずかなモデル誤差が急速に発散する軌道を引き起こし、正確な長期予測を不可能にするからである。

その結果、コミュニティは「統計的に正確」なモデルの訓練へと移行している。これは、個々の軌道が発散していても、真の力学の長期的な不変物理量（例えば、アトラクタの幾何学と統計的モーメント）を再現することを意味する。しかし、既存の統計的手法は、局所的な拡大率と収縮率を支配するヤコビアンに代表される流れの局所的幾何学的性質を軽視する傾向がある。逆に、ヤコビアンの正確さに焦点を当てた手法は、真の導関数へのオラクルアクセスに依存するか、長期的な統計的一貫性を維持できないことが多い。真の導関数ラベルを必要とせずに、同時に正確な長期統計的振る舞いを達成し、局所的力学特性（ヤコビアン）を捉えるための枠組みが必要とされている。

手法

著者らは、ニューラル ODE に対する新たな訓練枠組みを提案し、グローバルな統計的正確さと局所的力学忠実性の間の溝を埋める。核心的なアイデアは、カオスアトラクタの局所的な近傍（被覆）が力学によってどのように輸送され、変形するかを分析することで、グローバルな視点から局所的な視点へと移行することである。

1. 局所被覆とプッシュフォワード測度

軌道一致やグローバルな不変測度のみの最適化に代わり、本手法はデータ点を用いてカオスアトラクタの有限被覆 $\{U_i\}$ を構築する。訓練目的は、ニューラル ODE が真の力学の下でのこれらの局所集合のプッシュフォワード測度を再現することを保証することにある。具体的には、代理モデルの下で近傍 $U_i$ から進化した点の分布が、真の力学の下で同じ近傍から進化した点の分布と一致することを強制する。

2. 近傍の構築とノイズ耐性

観測ノイズに対処するため、著者らは近傍を単純な球ではなく、内半径 $r_{min}$ と外半径 $r_{max}$ を持つ円環として定義する。

• $r_{min}$ は、時間進化が不明瞭になる「ノイズフロア」を避けるために、推定されたノイズ標準偏差の倍数に設定される。
• $r_{max}$ は、各近傍にデータセット全体の約 5% の点が含まれるように選択され、希薄な局所データへの過学習を防ぐ。
• 近傍は KD-Tree を用いて効率的に同定される。

3. テイラー展開による進化

個々の近傍点を直接進化させる（これは計算コストが高く、積分誤差に敏感である）のではなく、本手法はニューラル ODE ベクトル場のテイラー展開を用いて中心点に対する摂動を進化させる。
中心点 $u_j$ とその近傍点 $u_{j,k}$ 間の摂動 $\omega_k$ は、以下に従って進化される：
$$\frac{d}{dt} \begin{bmatrix} \tilde{u} \\ \tilde{\omega}_k \end{bmatrix} = \begin{bmatrix} f_\theta(\tilde{u}) \\ \partial f_\theta|_{\tilde{u}} [\tilde{\omega}_k] + \frac{1}{2}\partial^2 f_\theta|_{\tilde{u}} [\tilde{\omega}_k, \tilde{\omega}_k] \end{bmatrix}$$
この定式化は、学習されたベクトル場の一次および二次導関数を明示的に組み込んでおり、モデルが位相空間の局所変形を学習することを可能にする。

4. 損失関数

訓練目的は、複合損失を最小化することである：
$$L(\theta) = L_{traj}(\theta) + \lambda \cdot \ell_{neighbor}$$

• $L_{traj}$：短期間の正確性を保証するための標準的な軌道ベースの損失（MSE）。
• $\ell_{neighbor}$：進化した近傍における真の力学と代理モデルのプッシュフォワード測度の間の不一致を定量化するペアワイズ損失。これは**最大平均不一致（MMD）**の二乗を用いて計算される。
• 理論的根拠：著者らは、アトラクタの可算被覆上でプッシュフォワード測度が一致すれば、グローバルな物理測度は同一でなければならないことを証明している（定理 1）。

主要な貢献

1. 新規枠組み：局所位相空間近傍の進化を正則化することにより、長期統計的正確性と局所的力学特性（ヤコビアン）の両方を同時に最適化するニューラル ODE 用の訓練手法の導入。
2. ノイズ耐性設計：観測ノイズを効果的に処理する円環状近傍戦略と摂動ベースの進化スキームの開発。これは、真の導関数が利用できない実世界応用において不可欠な要件である。
3. 理論的接続：被覆上の局所測度の一致がグローバル測度の不変性を意味することを示し、局所ヤコビアン学習とグローバル統計的正確性の間の理論的架け橋を提供すること。
4. 実用的実装：真のヤコビアンのオラクルアクセスを必要としない完全微分可能なアルゴリズムであり、実世界データへの適用を可能にすること。

実験結果

本手法は、3 次元のローレンツ 63 系、4 次元のハイパーカオス・チェン系、6 次元のローレンツ 96 系という、異なる次元を持つ 3 つのカオス系で評価された。実験は、ガウスノイズ（ノイズ強度 1%、5%、10%）で汚染された訓練データを用いて行われた。提案された手法（「Neighborhood」）は、以下の手法と比較された：

• Vanilla：標準的な軌道ベースのニューラル ODE 訓練。
• DySLIM：グローバル不変測度の最適化を行う最先端の手法。

知見：

• 短期精度：Neighborhood 手法は、DySLIM と競争力のある有効予測時間（VPT）を維持し、特に高ノイズ条件下で Vanilla 訓練を大幅に上回った。これは過学習に対する効果的な正則化を示している。
• 長期統計的精度：本手法はアトラクタの不変測度の学習に成功した。DySLIM は一部の指標において（グローバル測度の直接最適化に起因して）わずかに高い統計的精度を達成したが、Neighborhood 手法は非常に競争力のあるままであった。
• 局所力学（ヤコビアン）：Neighborhood 手法は、すべてのノイズレベルおよび系において、Vanilla および DySLIM と比較して著しく改善されたヤコビアン精度を示した。これは、相対ヤコビアン誤差の低減と、特にローレンツ 63 アトラクタのローブスイッチング機構のような敏感な領域におけるベクトル場のより正確な再構成によって実証された。
• リアプノフ指数：改善されたヤコビアン学習の直接的な結果として、本手法はテストされた手法の中で最も正確なリアプノフ指数の推定値を生成し、ノイズのある設定であっても正負の指数の両方を正確に捉えた。

意義と主張

本論文は、「Neighborhood」手法が、局所位相空間構造を明示的に考慮することで、ノイズの多いデータからカオス力学を学習するための堅牢な解決策を提供すると主張している。著者らは、従来の手法はグローバル統計に焦点を当てていたか、あるいはオラクルヤコビアンを必要としていたが、このアプローチは両方のパラダイムを成功裏に架橋すると論じている。

その意義は、アトラクタの形状を保存する統計的に正確なだけでなく、局所的な拡大・収縮率を保存する力学上も忠実な代理モデルを訓練できる点にある。この二重の能力は、複雑系（例えば脳）における相互作用する部分領域の同定や予測可能性の推定など、局所的な不安定性の理解を必要とする応用において極めて重要である。著者らは、この研究を局所位相空間情報を用いたニューラル ODE の訓練に向けた基礎的なステップとして位置づけ、将来の研究ではより高次元および部分的に観測される系へ拡張できる可能性を示唆している。