技術的概要：学習モデルのための微分同写像ベクトル場整合（DFORM）

問題定義

本論文は、理論神経科学において脳ネットワークの代理として用いられる再帰型ニューラルネットワーク（RNN）をはじめとする高次元力学系の分析における、主に 2 つの課題に取り組んでいる：

1. 座標系の不均一性： 力学モデルは、極限サイクルやアトラクタなど、質的に類似したメカニズムを実装していることが多いが、任意の座標系に存在する。異なるモデルの状態空間間には事前的な同等性がないため、それらのベクトル場を直接比較することは不可能である。次元削減や表現類似性分析（RSA）といった従来の手法は、軌道の整合に依存するか、状態の独立性を仮定する傾向があり、生成ベクトル場の内在的な幾何学的構造を捉え損なう。
2. 低次元モチーフの解析困難性： 鞍点や鞍極限サイクルなどの重要な力学特徴を、高次元非線形モデルにおいて同定することは、解析的に困難である。安定なアトラクタは前方シミュレーションによって見つけることができるが、「確からしくない」極限集合（例えば鞍点）は吸引域の測度がゼロであり、標準的な軌道シミュレーションを通じて発見することはできない。

手法：DFORM

著者は、2 つの力学系のベクトル場を整合させる滑らかで可逆な座標変換（微分同写像 $\phi$）を学習するフレームワークである**学習モデルのための微分同写像ベクトル場整合（Diffeomorphic vector field alignment FOR learned Models, DFORM）**を提案する。

数学的定式化

2 つの系 $\dot{x} = f(x)$ および $\dot{y} = g(y)$ が与えられたとき、DFORM は、$f$ の $\phi$ によるプッシュフォワード（$\phi_* f$）が $g$ と整合するように、微分同写像 $\phi: \mathbb{R}^n \to \mathbb{R}^n$ を求める。ある正のスカラー関数 $c(y)$ に対して $\phi_* f(y) = c(y)g(y)$ が成り立つ場合、これら 2 つの系は滑らかに軌道的に同等であり、ベクトル場は同じ方向を共有するが、大きさ（速度）は異なり得ることを意味する。

この手法の中核は、変換されたベクトル場とターゲットとの間の方向的不一致を最小化する軌道類似性損失である：
$$J_{f,g,\phi}(y) = \frac{1}{n} \left\| \frac{\phi_* f(y)}{\|\phi_* f(y)\|_2} - \frac{g(y)}{\|g(y)\|_2} \right\|_2^2$$
この損失は、プッシュフォワードされたベクトル場とターゲットベクトル場の間の角度がゼロのときに最小となる。堅牢な整合を確保するため、著者は前方および後方の整合損失の和を最小化する。

実装

• アーキテクチャ： 微分同写像 $\phi$ は、線形アフィン変換（$H$）と、**ニューラル常微分方程式（Neural ODE）**によって生成される非線形フローの合成としてモデル化される。ニューラル ODE は、フィードフォワードニューラルネットワークを用いて時間不変のベクトル場 $v(x)$ をパラメータ化する。
• 最適化： モデルは 2 段階のスキームで訓練される：
  1. 事前学習： 非線形成分を単位写像に固定し、粗い整合を提供するために線形層 $H$ を最適化する。
  2. 完全訓練： 軌道類似性損失を用いて、すべての重み（線形および非線形）を最適化する。
• 次元横断性： このフレームワークは、高次元システムを低次元の「テンプレート」（例えば、標準的な分岐モデル）に整合させるように拡張されている。これにより、高次元ベクトル場を低次元のターゲット空間に射影することで、不変部分多様体や三角分解の同定が可能となる。

主要な貢献

1. 非線形ベクトル場整合： DFORM は、線形化（例えばヤコビアン近似）やカーネルトリックに依存することなく、高次元ベクトル場間の微分同写像を直接最適化する計算手法を提供する。
2. 位相的同等性の定量化： この手法は、2 つの系が厳密に微分同写像でなくても、それらが位相的にどの程度同等であるかを定量化する連続的な指標（軌道類似性）を生成する。
3. 確からしくない極限集合の発見： 高次元システムを低次元テンプレートに整合させることで、DFORM は標準的な前方シミュレーションではアクセス不可能な鞍極限サイクルや不変多様体などの力学モチーフを局所化できる。
4. 座標不均一性の処理： このフレームワークは、異なる座標系で同じ力学を実装するシステム間の真の線形および非線形変換を成功裡に復元する。

実験結果

著者は DFORM を複数の領域で検証した：

• 線形システム： DFORM は、位相的に同等な線形システムを成功裡に整合させた。著者は、線形変換が高整合スコアを達成し得るが、複数の最適解が存在する（非識別性）こと、および線形手法が非線形に関連するシステムの完全な幾何学を捉え損なうことを示した。
• 非線形システム：
  • ヴァン・デル・ポル振動子： DFORM は異なる分岐パラメータを持つシステムを整合させ、非線形変種が線形整合よりも極限サイクルの歪みを著しく良好に捉えた。
  • フロー変換システム： この手法はフローによって生成された非線形変換を復元し、軌道一致において線形近似を上回った。
  • 分岐ネットワーク： 軌道類似性スコアは、位相的に異なるシステム（単安定、多安定、線形アトラクタ）を効果的に区別し、分岐点近傍での機能的類似性を反映した。
• 高次元モチーフの同定：
  • 鞍固定点： DFORM は、高次元システムを 2 次元の SNIC（不変サイクル上の鞍節）テンプレートに整合させ、安定固定点と鞍固定点の位置を正確に再構成した。
  • 鞍極限サイクル： この手法は、ホップ分岐テンプレートとの一致を通じて、18 次元システム内の鞍極限サイクルを同定した。これは標準的な軌道シミュレーションでは不可能な成果である。
• 実証的神経データ： 人間の安静時 fMRI データで訓練された 30 の MINDy モデルに適用した結果、DFORM は安定な極限サイクルを含むモデルを成功裡に同定し、以前の数値シミュレーションと高い一致を示し、力学モチーフの定量的な尺度を提供した。

意義と主張

本論文は、滑らかな軌道的同等性の理論的概念を実用的なものにすることで、高次元非線形モデルの分析において DFORM が重要な進歩を表すと主張している。

• 線形化を超えて： 著者は、DSA のような線形化に基づく手法は、非自明な極限集合を持つ非線形システムには不十分であると論じている。なぜなら、それらは解の多重性と状態空間の非線形幾何学を考慮していないからである。DFORM は微分同写像の群上で直接最適化することでこの課題に対処する。
• メカニズムへの洞察： 不均一な座標系を持つモデルの比較を可能にすることで、DFORM は研究者が異なるモデル間で共有されるおよび固有のメカニズムについて推論することを可能にする。
• 確からしくない力学へのアクセス： 鞍極限集合や不変多様体を局所化できる能力は、漸近的な振る舞いを超えたモデルのメカニズム的基盤（例えば意思決定の遷移など）に関する新たな洞察を提供する。
• 将来の方向性： 著者は、DFORM が吸引域内における非線形システムの完全な線形化を促進し、複雑なモデルへの線形システム理論の適用を可能にする可能性を提案している。また、時系列データから直接変換を学習することや、時間変化する入力を処理することへの潜在的な拡張にも言及している。

本論文は、その主張に関して控えめなトーンを維持しており、DFORM が整合やモチーフ発見のための強力なツールを提供する一方で、サンプル分布や力学テンプレートの選択が依然として重要な実用的考慮事項であることを認めている。