Learning a Contracting KKL-observer with Local Optimal Guarantees

技術的サマリー：局所最適保証付きの収束性 KKL 観測器の学習

問題定義
カザンツィス・クラヴァル・ルエンバーガー（KKL）枠組みは、システムダイナミクスを安定な潜在空間に埋め込むことで、非線形状態推定に対する一般的なアプローチを提供する。近年の進展では、機械学習を用いて KKL 変換（関連する非線形偏微分方程式を解く）を近似する試みが行われているが、根本的な課題が残っている。それは、潜在ダイナミクス $\phi$ の選択である。実際には、これらのダイナミクスはしばしばヒューリスティックに選択される（例えば、線形対角システムなど）。これにより大域的安定性は保証されるが、定常状態における測定ノイズや未モデル化外乱に対する感度という点では、しばしば非最適な性能をもたらす。本稿で扱われる核心的な問題は、KKL 理論に内在する大域的収束保証を損なうことなく、潜在ダイナミクスを体系的に設計して局所最適性を達成する方法である。

手法
著者らは、KKL 観測器の大域的ロバスト性と、最小エネルギー推定器（MEE）、別名モーテンセン観測器の局所最適性を統合する、学習ベースの戦略を提案する。この手法は主に 3 つの段階で進行する。

1. 局所挙動の理論的特徴付け:
   本稿では、一般的な KKL 観測器に対する再構成状態ダイナミクス $\dot{\hat{x}}$ の 1 次近似を導出する。この分析により、局所挙動は有効ゲイン行列 $\Psi(\hat{x})$ によって支配されることが明らかになる。著者らは、観測器がモーテンセンフィルタの最適な局所挙動を模倣するためには、このゲインが特定の最適項 $\Psi_{opt}(\hat{x})$ と一致しなければならないことを示す。この最適項は、情報行列 $P(x)$ に関連する偏微分リカチ方程式（PDRE）の解から導出される。

2. 構造的制約を伴う学習戦略:
   この理論的に最適な挙動を実現するために、著者らは深層学習を用いて 3 つの主要コンポーネント、すなわち埋め込み写像 $\hat{T}$、再構成写像 $\hat{\tau}$、および潜在ダイナミクス $\hat{\phi}$ を近似する。

   • 収束性の保証: 大域的安定性（要件 R2）を確保するため、潜在ダイナミクス $\hat{\phi}$ は NodeRENs（特定の構造的制約を持つニューラル常微分方程式）を用いてパラメータ化される。これにより、設計段階で収束性が数学的に強制される。
   • 最適性の近似: 一般の非線形システムに対して PDRE を解いて $P(x)$ を求めることは困難であるため、変換された PDRE の残差を最小化するように、多層パーセプトロン（MLP）をまず訓練して逆情報行列 $\hat{P}^{-1}$ を近似する。
   • 共同最適化: 埋め込み写像、再構成写像、および潜在ダイナミクスは、複合損失関数を最小化するように共同で訓練される。この損失関数には以下が含まれる:
     • $\ell_{pde}$: KKL 偏微分方程式からの逸脱を罰する項。
     • $\ell_{inv}$: 再構成写像が埋め込み写像の左逆写像であることを保証する項。
     • $\ell_{opt}$: 学習された観測器の有効ゲインを、近似された $\hat{P}^{-1}$ から導出された最適ゲインと一致させる項。

主要な貢献

• 局所最適性条件: 本稿は、推定誤差が小さい場合、KKL 観測器が最小エネルギー推定器（モーテンセン観測器）の挙動を局所的に模倣するようにする、潜在ダイナミクスに関する特定の条件を導出した。
• 収束性に基づく学習フレームワーク: 構造的に収束性を強制する（NodeRENs を通じて）ニューラルネットワークを用いて KKL 観測器を学習する手法を導入し、これにより大域的ロバスト性を保証しつつ局所性能を最適化する。
• 最適フィルタリングの近似: 情報行列と関連する最適ゲイン構造のデータ駆動型近似を用いることで、通常無限次元の HJB 方程式の解を必要とする最適フィルタリング理論と、実用的な観測器設計の間のギャップを埋めた。

結果
提案された手法は、ヴァン・デル・ポル振動子と逆ダフィング振動子という 2 つの非線形ベンチマークに対する数値シミュレーションにより検証された。

• 大域的安定性: 学習された観測器は、任意の初期条件からロバストに収束することを示した。これは、潜在ダイナミクスに強制された収束性によるものである。
• ノイズ処理: 推定器は、顕著な測定ノイズが存在する状況下でも、システム状態を正確に追跡した。
• 調整可能性: シミュレーションにより、訓練損失における重み付け行列（$R$）を調整することで、観測器の挙動をチューニングできることが示された。$R$ を小さくすると観測器はノイズを含むダイナミクスをより密に追跡するようになり、$R$ を大きくするとシステムモデルをより強く依存するようになる。これは、モデル忠実度とノイズ除去との間のトレードオフを制御可能にすることを示している。

意義と主張
著者らは、この研究が KKL 観測器の潜在ダイナミクスに対する「原理的な特徴付け」を提供し、ヒューリスティックな選択を超えていると主張する。大域的収束保証と局所最適性を標的とする学習目的を組み合わせることで、提案された戦略は、初期化に対してロバストでありながら、ノイズに対して制御された感度を持つ観測器を体系的に設計する方法を提供する。本稿は、これらの結果を学術的ベンチマークにおける実証として控えめに位置づけ、将来の研究では学習されたモデルに対する近似限界の確立と、離散時間ダイナミクスへの理論の拡張に焦点を当てることを示唆している。このアプローチは、KKL 偏微分方程式の解析的解が得られず、標準的な観測器がノイズ性能で苦労するシステムに対する解決策として提示されている。