技術的サマリー：複素力学系の解釈可能な発見のための正則 KAN-ODE

1. 問題定義

正則写像（例：$z^2 + c$）によって支配される複雑な力学系は、フラクタル境界と初期条件に対する極端な敏感性を示す。これらの系をデータから正確にモデル化するには、背後にある複素解析幾何学を尊重する手法が必要である。

現在の手法は、主に以下の 3 つの限界に直面している：

1. 構造的事前知識の欠如：標準的なニューラル常微分方程式（Neural ODE）は、通常、速度場をパラメータ化するために多層パーセプトロン（MLP）を採用する。これらの MLP は複素解析的な事前知識を欠いており、正則関数に必要とされるコーシー・リーマン条件を強制することができない。
2. 不透明性：MLP はブラックボックス近似器として機能し、学習された重みから解釈可能な記号的支配方程式への道筋を提供しない。
3. 実数値制約：ニューラル ODE へのコルモゴロフ・アルノルドネットワーク（KAN）の既存の応用は、実数値の状態空間に限定されており、複素数値の力学系は未解決のままとなっている。

2. 手法：正則 KAN-ODE

著者らは、学習された力学系が正則であることを保証するためにコーシー・リーマン正則化によって制約された、ニューラル ODE とコルモゴロフ・アルノルドネットワークを統合するフレームワーク「正則 KAN-ODE」を提案する。

2.1 アーキテクチャ

このフレームワークは、標準的な MLP の固定された活性化関数を、ネットワークのエッジ上に存在する学習可能な単変量 B スプライン関数に置き換える。

• 入力/出力：ネットワークは、複素状態 $z = x + iy$の実部と虚部を入力とし、速度場$f(z) = u + iv$ の実部と虚部を出力する。
• パラメータ化：各エッジの活性化 $\phi_{i,j}(x)$ は、学習可能な係数を持つ B スプライン基底関数 $B_m(x)$ の線形結合として定義される。
• 効率性：提案されたアーキテクチャは幅 $[2, 5, 2]$ を使用し、MLP ベースラインの 4,482 個と比較して、わずか280 個の学習可能パラメータで済む。

2.2 コーシー・リーマン正則化

正則性を強制するために、著者らはコーシー・リーマン方程式から導出された微分可能な正則化項を導入する：
$$\frac{\partial u}{\partial x} = \frac{\partial v}{\partial y}, \quad \frac{\partial u}{\partial y} = -\frac{\partial v}{\partial x}$$
損失関数には、これらの条件からの逸脱を罰する項 $L_{CR}$ が含まれる。この制約を即座に強制することによるトレーニングの崩壊を防ぐため、線形ウォームアップスケジュールが採用され、初期トレーニングステップにおいて正則化重み $\lambda_{CR}$ をゼロから徐々に増加させる。

2.3 記号的抽出

KAN の主要な特徴は、自動的な記号回帰を行う能力である。トレーニング後、各エッジ上の学習されたスプライン活性化は、候補となる基底関数のライブラリ（多項式、指数関数、三角関数項など）に対してフィッティングされる。ネットワークのエッジ全体にわたる支配的な基底関数を用いて、支配方程式の記号的ファミリーを特定する（例：系を $z^2 + c$ ファミリーに属すると特定する）。

3. 主要な貢献

1. 正則 KAN アーキテクチャ：複素力学系に対してコーシー・リーマン正則化の下で KAN とニューラル ODE を組み合わせた最初のフレームワーク。
2. 包括的な評価：多項式（$z^2+c, z^3+c$）および超越関数クラス（$e^z+c, \sin(z)+c, \cos(z)+c, z \cdot e^z+c$）を含む 6 つの複素力学系ファミリー、および物理的なポテンシャル流れの応用におけるテスト。
3. 解釈可能性と頑健性：モデルが記号的数式を回復し、正則構造を強制し、MLP に比べて優れたノイズ耐性を維持することを示す。

4. 実験結果

このフレームワークは、6 つの純粋な複素解析系と 1 つの物理系（円柱周りのポテンシャル流れ）で評価された。

4.1 精度と効率性

• 速度場の近似：正則 KAN は、わずか 280 個のパラメータを使用して、6 つの純粋系すべてで $R^2 > 0.95$ を達成した。
• MLP との比較：MLP ベースライン（4,482 個のパラメータ）は、より大きな容量により点ごとの平均二乗誤差（MSE）でより低い値を達成したが、解釈可能性と構造的強制が欠けていた。
• フラクタル再構成：モデルはジュリア集合のフラクタル境界を再構成し、最大98.0% の一致（例：サイン系の場合）を達成し、学習された速度場が微細な幾何学的詳細を保持していることを検証した。

4.2 記号的発見

モデルは、自動的なスプラインから数式へのフィッティングを通じて、6 つのすべての系に対して支配的な記号的ファミリーを正しく特定した（100% の精度）。

• 多項式系は多項式として特定された。
• 超越関数系は、指数関数、三角関数、または混合指数関数形式に正しくフィッティングされた。

4.3 安定性とノイズ耐性

• リアプノフ解析：モデルは系の安定性を正しく分類し、多項式系をカオス的、超越関数系を主に安定であると特定した。
• ノイズ耐性：10% の観測ノイズ下において、KAN は MSE でわずか4% の劣化を示したのに対し、MLP は15.2 倍劣化した。これは、コーシー・リーマン制約とスプラインパラメータ化によって提供される帰納的バイアスを浮き彫りにしている。
• 転移学習：二次力学（$z^2+c$）でトレーニングされた KAN を三次力学（$z^3+c$）を学習するために微調整した結果、ゼロからトレーニングする場合と比較して最終 MSE が90.4% 改善し、正則事前知識の転移可能性を実証した。

4.4 観察された限界

• 有理関数/特異系：ポテンシャル流れの応用（$f(z) = Uz + Ua^2/z$）において、モデルは低い $R^2$（0.333）を達成し、滑らかな関数に最適化された B スプラインパラメータ化が有理構造や特異点に苦労することを示した。
• 勾配の課題：急峻な高次勾配を持つ系（例：$z^3+c$）は、より滑らかな系と比較してわずかに低い $R^2$ 値を示した。

5. 意義と主張

本論文は、正則力学系の物理情報に基づく発見のための MLP に代わる、パラメータ効率が高く解釈可能な手法として正則 KAN-ODE を位置づけている。著者らは、MLP はより高い容量により点ごとの再構成精度で優れている可能性があるが、この分野における科学的発見に不可欠な以下の 3 つの重要な能力を提供できないと主張している：

1. 記号的数式の回復：閉形式の支配方程式を抽出する能力。
2. 強制された正則構造：学習された力学系が複素解析的制約を満たすことを保証する。
3. 優れたノイズ耐性：ブラックボックスモデルが失敗するノイズの多い観測環境において性能を維持する。

この研究は、構造的事前知識と解釈可能性が最優先される系において、複素解析、力学系理論、科学機械学習を架橋する実用的なツールとして KAN を確立する。