技術要約：潜在的リエ・ポアソン・ニューラルネットワーク (LLPNNs)

1. 問題設定

本論文は、ハミルトン系のデータ駆動型モデリングにおける根本的な課題、すなわち、観測可能なデータ（構成 $g(t)$ および速度 $\xi(t)$）のみが利用可能である一方で、支配的なダイナミクスが観測不可能な潜在的な運動量変数 ($\mu$) 内で進化する場合の、リエ・ポアソン系の学習について取り組んでいる。

この問題は、特に以下の2つの文脈において深刻である：

1. 対称性の簡約化： 多くの力学系（剛体、流体、水中車両など）は、リエ・ポアソン系への対称性簡約を許容する。このとき、状態空間はリー代数の双対 ($\mathfrak{g}^*$) であるが、データは構成/速度空間 ($G$ および $\mathfrak{g}$) で収集される。
2. 最適制御における退化ハミルトニアン： 最適制御問題（例：相互作用する車両）において、簡約されたハミルトニアンはしばしば退化している（特定の運動量成分に対して線形である）。この退化により、観測可能な変数における対応するラグランジュ形式が存在できなくなる。その結果、観測可能な変数は閉じた自律的な力学系を形成しない。すなわち、異なる潜在的な運動量状態が同一の観測可能な速度を生じさせ、かつ異なる時間微分をもたらし得るため、観測可能な速度の進化を $\dot{\xi} = f(\xi)$ として表現することができない。

既存の構造保存手法（ハミルトニアン・ニューラルネットワークやシンプレクティックRNNなど）は、通常、全位相空間へのアクセス、または非退化なルジャンドル変換を前提としているため、これらの特定のケースには適用できないか、不正確となる。

2. 手法：潜在的リエ・ポアソン・ニューラルネットワーク (LLPNNs)

著者は、隠れた運動量の軌跡を再構成しながら、観測可能なデータから直接リエ・ポアソン・ダイナミクスを学習するフレームワークであるLLPNNを提案する。この手法は、3つの幾何学的要素に基づいている：

A. 幾何学的基礎

• ネーターの定理と共随作用による再構成： リ一群の対称性 $G$ を持つシステムでは、空間運動量 $p_0 \in \mathfrak{g}^*$ が保存される。潜在的な物体運動量 $\mu(t)$ は、定数である空間運動量との関係において、共随作用を用いて $\mu(t) = \text{Ad}^*_{g(t)} p_0$ と結び付けられる。これは、観測可能な構成 $g(t)$ と潜在的な運動量 $\mu(t)$ の間の正確な架け橋となる。
• 退化の処理： 本フレームワークは、能動的 (active) 変数（ハミルトニアンが非線形かつ可逆であるもの）と、受動的 (passive) 変数（速度が一定またはゼロであるもの）を明確に区別する。ラグランジュ形式が存在しない場合でも機能するように、グローバルなルジャンドル変換を必要としない。

B. 2つの学習アプローチ

著者は、システムを学習するための2つの異なるアーキテクチャを提示している：

1. ハミルトニアン・アプローチ (デコーダ):

   • 目的： ハミルトニアン関数 $h(\mu)$ を直接学習すること。
   • メカニズム： ネットワークは、$h(\mu)$ を受動的変数に対する線形項と、能動的変数に対するニューラルネットワークの残差項の和としてパラメータ化する。
   • 学習： 各軌跡に対して、一定の空間運動量ベクトル $p_0$ がネットワークの重みと共に最適化される。損失関数は、観測された速度と、学習されたハミルトニアンの能動成分への射影との差を最小化する：$\xi_{pred} = \nabla_\mu h(\text{Ad}^*_g p_0)$。
   • 再構成： 学習された $h(\mu)$ と保存された $p_0$ を用いたマグヌス展開を組み合わせ、群の要素と運動量をステップごとに更新する。

2. ラグランジュ・アプローチ (エンコーダ / 擬似ラグランジアン):

   • 目的： 能動的な速度を能動的な運動量へと写像する「擬似ラグランジアン」$\ell(\xi_{act})$ を学習すること。
   • メカニズム： 能動的な速度と能動的な運動量の間の写像が局所的に可逆であると仮定する。ネットワークは、$\mu_{act} = \nabla_{\xi_{act}} \ell(\xi_{act})$ となるように $\ell(\xi_{act})$ を学習する。
   • 学習： 空間運動量 $p_0$ は、ネットワークの評価の外側で線形に損失関数に現れるため、与えられたネットワークの状態に対して線形最小二乗法を用いて解くことができる。損失は、予測された能動的運動量と $p_0$ の共随射影との間の不一致を最小化する。
   • 再構成： 擬似ラグランジアンから導出された運動量更新則を満たす次の速度ステップを見つけるために、暗黙的な方程式（根待ちアルゴリズム経由）を解く。

C. 学習戦略

• ウォームスタート： 局所解を避けるため、著者はネットワークを二次近似（二次ハミルトニアン/ラグランジアン）で初期化し、ニューラルネットワークの重みをアンフリーズ（解放）する前に、制約付き線形システム（KKT条件）を用いて計量行列と $p_0$ を解く。
• 構造保存： 再構成アルゴリズムは、リー群の更新（マグヌス展開）と共随作用を使用しており、学習の質に関わらず、カシミール不変量がマシン精度で保存されることを保証する。

3. 主な貢献

1. 観測可能なデータのみからの学習： 潜在的な運動量の測定を必要とせず、観測可能な構成および速度データから直接リエ・ポアソン・ダイナミクスを学習できる最初のフレームワークである。
2. 退化ハミルトニアンの処理： 本手法は、正則なハミルトニアン系と退化したハミルトニアン系の両方に対応している。観測可能な変数が閉じた自律的な進化方程式を持たない最適制御問題において、標準的なNeural ODEやDeepONetが失敗するシナリオを成功裏に解決した。
3. マシン精度の保存： アーキテクチャは、学習データや最適化の質とは無関係に、カシミール不変量がマシン精度で正確に保存されることを保証する。
4. 双対定式化： 能動的な速度・運動量写像が可逆であるかどうかに応じて柔軟に選択できる、ハミルトニアン（デコーダ）とラグランジュ（エンコーダ）の両方のアプローチを提供する。

4. 実験結果

非二次ハミルトニアンを用いた3つのベンチマークシステムで、本手法の検証が行われた：

1. 一般化剛体 (SO(3)):

   • 観測可能な速度および潜在的な運動量の両方において、ほぼ完璧な長期軌跡追従を示した。
   • カシミール不変量 ($\|\mu\|^2$) とエネルギーをマシン精度で保存した。
   • 非構造保存ベースライン（Neural ODE, DeepONet）が急速に発散したのに対し、これらを上回る性能を示した。

2. キルヒホッフの水中車両 (SE(3)):

   • 回転モードと並進モードが結合したシステムでテストされた。
   • 両方のハミルトニアンおよびラグランジュLLPNNは、位相精度を維持し、2つのカシミール不変量 ($\|P\|^2$ および $J \cdot P$) を保存した。
   • ベースラインと比較して、ノイズに対する優れた堅牢性を示した。

3. マルチ車両最適制御 (SE(2)$^N$):

   • 極めて重要なテスト： 退化したハミルトニアン（並進運動量に対して線形であり、回転運動量に対してのみ非線形である）を持つシステム。
   • 結果： 標準的なNeural ODEおよびDeepONetは、観測可能な速度に対して自律的なベクトル場が存在しないため、即座に失敗した。一方、LLPNNは潜在的なダイナミクスを正常に再構成し、長期的な軌跡を予測した。
   • ラグランジュ・アプローチは、この特定の退化ケースにおいて回転速度の位相整合においてわずかに優れた性能を示したが、ハミルトニアン・アプローチの方が全体的な誤差成長が低かった。
   • 個々の車両のカシミール不変量はマシン精度で保存された。

5. 意義と主張

本論文は、LLPNNが、観測可能なデータと潜在的な幾何学的構造の間の溝を埋めることで、幾何学的ディープラーニングにおける重要な進展を遂げたことを主張している。

• 意義： 本フレームワークは、「隠れた状態」の問題を解決する。たとえ（退化により）観測可能な変数が閉じた系を形成しない場合でも、基礎となるリエ・ポアソン構造によって、既知の対称群と観測可能なデータのみを用いて完全なダイナミクスを正確に再構成できることを証明している。
• 堅牢性： 本手法はノイズに対して堅牢であり、控えめなデータセットと軽量なニューラルネットワークアーキテクチャを必要とする。
• 限界： 著者は、本手法が対称群 $G$ を事前に知っていることを前提としていると述べている。現在は、対称性の破れを伴うコスト関数（簡約が不完全な場合）や、特定の共随再構成公式を持たない一般的なポアソン多様体は扱っていない。

要約すると、本論文は、リエ・ポアソン系の幾何学的制約（特にネーター不変量と共随作用）を学習アーキテクチャに直接組み込むことにより、標準的なデータ駆動型手法では困難な複雑な力学系の正確かつ長期的な予測が可能になることを確立している。