fSRD: Fuzzy Spectral Region Decomposition -- Automated Multi Operator Koopman Representations via an Adaptive Spectral Learning Architecture

技術要約：fSRD – ファジー・スペクトル領域分解（Fuzzy Spectral Region Decomposition）

1. 問題提起
本論文は、高度に非線形かつカオス的な動的システムのモデリングにおける根本的な困難に対処している。現代の機械学習（ML）は強力な予測性能を提供する一方で、解釈性に欠け、精選されたデータや強い事前知識に依存することが多い。一方、コープマン作用素理論は、無限次元の観測空間におけるスペクトル埋め込みを通じて、非線形システムを線形表現へと導く原理的な経路を提供する。しかし、既存のデータ駆動型コープマン手法（例：動的モード分解［DMD］および拡張DMD［EDMD］）には、以下のような重大な限界がある：

• グローバルな妥当性の仮定： これらは通常、単一の、全域的に有効な線形作用素を探索する。多くの非線形システム（例：複数のアトラクタ、カオス力学、または連続スペクトルを持つもの）は、有限次元のグローバルに不変な部分空間やグローバルな固有関数を持たない。
• 構造的限界： 連続スペクトルを持つシステムや、グローバルな位相共役性を欠くシステムは、単一の有限な固有関数の集合では正確に表現できず、偽の固有値や精度の低い汎化を招く。
• 事前知識への依存： 現在の手法は、観測量を選択したり不変領域を定義したりするために事前知識を必要とすることが多く、完全に自動化されたデータ駆動型のモデリングという目標を損なっている。

核心となる課題は、強い事前知識に頼ることなく、表現力の高いモデリング能力、解釈性、および体系的な構築のバランスを取るフレームワークを開発することであり、特にグローバルな線形化が不可能なシステムを扱うことである。

2. 手法：ファジー・スペクトル領域分解（fSRD）
著者らは、ファジー階層ツリーネットワークに基づく、完全に自動化された非パラメトリックな機械学習アーキテクチャであるfSRDを導入する。これは、不変分解（Invariant Decomposition）と呼ばれるプロセスを通じて、局所的に有効なスペクトル埋め込みを組み立てることで、マルチ作用素による有限コープマン表現を構築する。

• 核となる概念： 単一のグローバルな作用素を強制するのではなく、fSRDはシステムの位相空間を、それぞれが局所的に有効なコープマン作用素によって支配される複数の離散的な領域へと分解する。これらの領域は、ファジー境界（活性化関数）を介して結合され、グローバルなモデルを形成する。
• アーキテクチャ：
  • ファジー階層ツリー： 局所モデルネットワーク（LMN）およびタカギ・スゲノ型ファジー論理に着想を得て、アルゴリズムはツリー構造を構築する。ルートモデル（全データセット）から始まり、シグモイド活性化関数を用いて領域を再帰的に分割する。
  • 不変インターフェース： 分割は、「不変インターフェース」、すなわち力学系が変化する境界（例：アトラクタの盆地や分岐の横断）を特定するように最適化される。これらの分割は、直交（時間的/空間的）または斜交（オブリーク）である。
  • 局所モデル： ツリーの各リーフノードは、DMDベースのスペクトルモデルで適合された局所領域を表す。局所モデルは $\hat{K}_i(X_i) = \Phi_i \text{diag}(b_i) T(\omega_i)$ として定義され、ここで $\Phi$、 $b$、 $\omega$ はそれぞれDMDモード、振幅、および固有値である。
• 主要な技術的構成要素：
  • トポロジカル変換 ($\vartheta$)： 斜交分割によって非正方行列が生じる場合（SVDのアライメント問題を引き起こす）、fSRDはトポロジカル変換を適用する。これは、分割によって導入された人工的なゼロパディングを除去しつつ、空間的な順序を保持しながら、局所領域を最小包含部分行列の次元に「引き伸ばす」ものである。
  • 正則化： 連続スペクトルや条件数の悪いデータを扱うため、fSRDはSVDのための自動化されたリッジ正則化スキームを採用している。これは、無視できる次元を特定して切り捨てるために、BIC由来の固定点反復を使用し、簡潔な局所モデルを保証する。
  • 構造最適化：
    • フォワードパス： PRUHINETに着想を得たセミ・グリーディ探索により、すべての活性領域に対して同時に候補となる分割を生成し、重み付き正規化平方根平均二乗誤差（NRMSE）指標を用いて評価する。
    • バックワードパス（プルーニング）： スペクトルモデル用に適応させたベイズ情報量基準（BIC）を用いて、指定されたツリーをプルーニングする。これにより、恣意的な小さな分割よりも、より大きく物理的に関連性の高い不変領域を優先して、冗長な分割を排除する。
• 入力の柔軟性： 本手法は、列間の逐次的依存関係さえあれば、汎用的なベクトル化入力（行列 $X \in \mathbb{R}^{m \times t}$）を受け入れる。データの特定の形式（時系列、画像など）を想定していない。

3. 主要な貢献
本論文は、以下の新しい貢献を主張している：

1. 不変分解フレームワーク： 事前知識なしに、マルチ作用素による有限コープマン表現を組み立てるための、体系的かつ自動化された手法。
2. 領域発見の自動化： 局所的に有効なコープマン不変分割を自動的に探索、割り当て、および結合するメカニズムであり、「領域の配置と境界の統合」問題を解決する。
3. 構造的限界への対処： 連続スペクトルやグローバルな固有関数を欠くシステムを、局所的に有限なエルゴード的分割へと分解することで近似する能力。
4. 新規なアーキテクチャの適応：
   • 斜交領域におけるSVDアライメント問題を解決するためのトポロジカル変換。
   • 自動化されたSVD正則化および次元削減のためのBICベースのヒューリスティック。
   • 堅牢な構造選択のための、セミ・グリーディ・フォワードパスとバックワード除去の組み合わせ。
5. 解釈性： 得られるモデルは、各領域に対する解釈可能な線形作用素とともに、局所的な力学挙動（安定性、成長、振動）を明らかにするスペクトル分解（固有値/モード）を提供する。

4. 結果
著者らは、標準的なDMDと比較しながら、3つのケーススタディにおいてfSRDを評価している：

• ダフィン振動子（カオス、多安定性）：
  • 課題： このシステムは複数の不動点を持ち、グローバルな固有関数が存在しない。ランダムサンプリングにおいて、軌道がアトラクタを横断するため、標準的なDMDは失敗する（NRMSE $\approx$ 0.31）。
  • 結果： fSRDは、安定した軌道と遷移的な経路を分離する2つの不変領域を自動的に特定し、事前知識なしで97.4%の精度（NRMSE $\approx$ 0.026）を達成した。
• ローレンツ・システム（連続スペクトル、分岐）：
  • 課題： 標準的な座標において純粋な連続スペクトルを示すため、DMDは不安定になる（NRMSE > 100%）。
  • 結果：
    • 時間遅延埋め込みデータにおいて、fSRDは軌跡を時間的に分割し、エルゴード的分割を孤立させることで、モデルを安定化させ、99.32%の精度を達成した。
    • 分岐データ（パラメータ $\rho$ の変化）において、fSRDは不動点アトラクタ、遷移領域、および2つのローブを持つカオスアトラクタに対応する3つの領域へのセグメンテーションに成功した。DMDが完全に失敗した一方で、fSRDは96.23%の精度で力学の質的な変化（分岐）を捉えた。
• 太陽画像（高次元、実世界、ノイズあり）：
  • 課題： 過渡的なイベント（太陽フレア）とノイズを含む高次元の時空間データ（112x112ピクセル）。DMDは背景の力学は捉えたが、稀な高振幅の過渡イベントの再構成には失敗した（残差最大60%）。
  • 結果： fSRDは97%の精度（NRMSE $\approx$ 0.03）を達成した。fSRDはデータを10個の領域にセグメント化し、特定の太陽フレア事象を分離して、それらを個別の高次元局所作用素でモデリングすることで、DMDが見逃したスパースな異常を捉えることに成功した。

5. 意義と主張
本論文は、fSRDを、作用素論的モデルの解釈性と、データ駆動型シーケンス学習の表現力との架け橋として位置づけている。

• ユニバーサル近似器としての能力： 著者らは、fSRdが、静的な入出力写像を近似するニューラルネットワークとは異なり、線形作用素を介して「順序付けられたデータの進化」の有限次元表現を構築するという点で、逐次的プロセスに対するユニバーサル近似器の能力を備えていることを示唆している。
• 構造的限界への堅牢性： 単一のグローバルな線形作用素を必要とせず、局所的に有効な作用素を合成することで、連続スペクトル、複数のアトラクタ、および分岐を持つシステムをモデリングすることを可能にする。
• 自動化と簡潔性： 不変領域の探索を自動化し、BICによる簡潔性を強制することで、fSRDはシステムの事前知識や手作業による観測量への依存を軽減する。
• 汎用性： 逐次的依存関係が存在する限り、本フレームワークは幅広いデータ形式（時系列、画像、ビデオ、グラフ）に適用可能である。

著者らは、結果はユニバーサル近似を示唆しているものの、正式な証明は本研究の範囲外であることを控えめに述べている。また、解釈性はデータ座標（例：時間遅延埋め込み）に依存する場合があること、および、分割選択の最適化や高次元の固定点反復をより効率的に扱うための今後の課題があることも認めている。しかし、本研究は、fSRDが、非線形動的システムに対する従来のシステム同定およびブラックボックス型の深層学習に対する、堅牢で解釈可能かつ自動化された代替手段を提供することを実証している。