技術要約：非線形ポート・ハミルトニアン・システムの同定のための ISO-pHNN

問題提起

物理学に基づいたモデル、特に基本法則に根ざしたモデルは、動力学系に対して優れた解釈性と安定性の保証を提供します。しかし、複雑、独占的、あるいは高次元なシステムに対してこのようなモデルを導出することは、しばしば困難です。純粋なデータ駆動型手法は柔軟性を提供しますが、学習範囲外においては、汎化性能の低さや物理的一貫性（エネルギー保存など）の欠如に悩まされることが頻繁にあります。

既存のポート・ハミルトニアン（pH）システムの同定手法は、主に線形動力学に焦点を当てているか、あるいは特定のコンポーネント（ハミルトニアンなど）を近似する一方で他を固定するという、部分的な非線形性の処理にとどまっています。さらに、現在の学習ベースの手法の多くは、特定のアーキテクチャの選択や固定された構造的仮定に特化しており、様々な程度の物理的事前知識を体系的に組み込むための統一されたフレームワークを欠いています。本論文は、入力・状態・出力（ISO）データから非線形ポート・ハミルトニアン・システムを同定することを目的とし、このギャップを埋めるものです。これにより、ニューラルネットワークの近似能力を活用しつつ、受動性やエネルギー保存といった物理的特性を維持する構造保存型モデルの回収を目指します。

手法：ISO-pHNN フレームワーク

著者らは、非線形 pH システムの構成要素をニューラルネットワークを用いて同時に学習する統一フレームワークである ISO-pHNN を提案しています。対象となるシステムは、標準的な pH 方程式によって定義されます：
$$\dot{x} = (J(x) - R(x)) \nabla H(x) + B(x)u, \quad y = B(x)^\top \nabla H(x)$$
ここで、$J(x)$ は歪対称（相互接続）、$R(x)$ は対称正定値（散逸）、$H(x)$ はハミルトニアン（エネルギー）、$B(x)$ は入力行列です。

1. 構造保存パラメトリゼーション

学習されたモデルが pH の構造的制約を厳密に遵守することを保証するため、本フレームワークは特定の再整形操作とパラメトリゼーション・スキームを採用しています。

• 行列の構築: パラメータ関数 $\theta_J, \theta_R, \theta_B, \theta_H$ は、ベクトルから行列への変換操作 ($vtf$) を用いて行列値関数へとマッピングされます。
  • $J(x)$ は、再整形されたベクトルとその転置の差として構築され、歪対称性を保証します。
  • $R(x)$ は、再整形されたベクトルとその転置の積（$1/\sqrt{n}$ 倍によるスケーリング）を通じて構築され、対称性と正定値性を保証します。
  • $B(x)$ および $H(x)$ は、パラメータベクトルから直接マッピングされます。
• ニューラルアーキテクチャ: パラメータ関数は、**多層パーセプトロン（MLP）またはコルモゴロフ・アーノルド・ネットワーク（KAN）**のいずれかを用いて近似されます。
  • MLP: ハミルトニアンの勾配に必要な微分可能性を考慮し、Swish 活性化関数を選択した標準的な全結合ネットワークです。
  • KAN: コルモゴロフ・アーノルド表現定理に着想を得た、エッジ上に学習可能な単変数関数を配置したネットワークです。これにより、より解釈性の高い学習ダイナミクスが可能になる可能性があります。

2. 事前情報の組み込み

ISO-pHNN の主要な特徴は、物理的な事前知識の柔軟な統合です。本フレームワークでは、システムコンポーネント（$J, R, H, B$）の任意のサブセットに対して「アンザッツ関数」を指定できます。

• コンポーネントが既知の場合（例：第一原理から $J$ と $B$ が定数である場合）、それを固定するか、定数行列としてパラメトリゼーションできます。
• コンポーネントが二次形式であることが既知の場合（例：標準的な機械的ハミルトニアン）、それを二次形式に制約できます。
• この選択的なパラメトリゼーションにより、モデルの複雑さが軽減され、データ効率が向上し、学習プロセスが物理的に意味のある解へと制約されます。

3. 学習と損失関数

システムは、入力・状態・出力の軌跡に基づいて学習されます。

• データ生成: 軌跡は、様々な初期条件と正弦波入力信号を用いて生成されます。
• 損失関数: 予測された真の状態微分（$\dot{x}$）と出力（$y$）の間の正規化平均絶対誤差（NMAE）を最小化します。損失は、ミニバッチ内のターゲットの標準偏差によって重み付けされ、異なる大きさに対応します。重み $\gamma$ は、状態微分予測と出力予測の重要性をバランスさせるもので、長期的な予測精度を優先するために通常 $\gamma=0.25$ が使用されます。
• 最適化: コサインアニーリング学習率スケジューリングを用いた AdamW オプティマイザが使用されます。

主な貢献

1. 統一フレームワーク: ISO データからすべての pH コンポーネント（$J, R, H, B$）を同時に学習できる、柔軟なフレームワークである ISO-pHNN の提案。
2. 物理情報に基づく事前知識: 定数行列や二次ハミルトニアンなどの部分的な、あるいは完全な事前知識をニューラルネットワークのパラメトリゼーションに組み込むメカニズムの導入による、学習効率と精度の向上。
3. アーキテクチャの探索: MLP と KAN を用いた pH システム同定の体系的な比較を行い、異なる種類の非線形性をモデリングする際のそれぞれの強みを評価。
4. 構造の検証: pH 構造の制約を課すことが同定精度を低下させないこと、および事前知識と組み合わせることで長期予測誤差を大幅に減少させることを実証。

実験結果

本フレームワークは、3 つの異なる非線形システムで検証されました。

1. 質量・ばね・ダンパ・システム:

   • 非線形減衰（$R$）と二次ハミルトニアンを特徴とする。
   • 結果: pH モデルはブラックボックス・ベースラインをわずかに上回りました。事前知識（$J, B$ を固定し $H$ を二次形式と仮定）を組み込むことで、最も低い誤差が得られました。この低周波数設定では、MLP が KAN を上回りました。

2. 磁気浮上ボール:

   • 非二次ハミルトニアンと状態依存の散逸を特徴とする。
   • 結果: デフォルトの pH モデルはベースラインを上回りました。この特定のケースでは、事前知識による顕著な改善は見られませんでした。MLP と KAN は同等の精度を達成しました。

3. 永久磁石同期電動機 (PMSM):

   • 状態依存の相互接続（$J$）と二次ハミルトニアンを特徴とする。
   • 結果: pH モデルはベースラインを大幅に上回りました。決定的なことに、KAN は MLP を大幅に上回りました。これは、アーキテクチャの適合性がシステムのスペクトル特性に依存することを示唆しています。
   • 事前知識への感度: 「誤った」事前知識（例：$J$ が非線形であるにもかかわらず線形と仮定する）を使用すると、パフォーマンスが大幅に低下し、正確な事前知識の重要性を浮き彫りにしました。
   • 堅牢性: 手法はノイズに対して堅牢であり、信号対雑音比（SNR）が低下しても性能は緩やかに低下しました。

意義と主張

本論文は、ISO-pHNN が非線形動力学系を同定するための堅牢で構造保存型のプローチを提供すると主張しています。著者らは以下の点を強調しています。

• 物理的一貫性: pH 制約を課すことはブラックボックスモデルと比較して精度を下げるのではなく、むしろモデルが物理法則（受動性、エネルギー保存）を遵守することを保証します。
• データ効率: 事前知識が利用可能な場合、それを組み込むことで同定誤差を大幅に減少させ、長期予測能力を向上させることができます。
• 柔軟性: 本フレームワークは単一のニューラルアーキテクチャに縛られていません。MLP と KAN の選択は、システムの特性（例：周波数成分）に基づいて導かれるべきです。
• 実用性: 本手法はシステムコンポーネントを正常に回収し、ノイズを含むデータも扱うことができるため、明示的な方程式は得られないものの、シミュレーションや計測データが存在するアプリケーションに適しています。

著者らは、現在の手法は（データから推定されることが多い）状態微分に依存しているものの、今後の課題として、この依存性を排除し、偏微分方程式から導出されたシステムや入力・出力のみのデータに本フレームワークを適用することに焦点を当てると結論付けています。