🔢 mathematics

KANDy: Kolmogorov-Arnold Networks and Dynamical System Discovery

この論文は、スパース回帰の代わりに Kolmogorov-Arnold ネットワーク（KAN）を採用した「KANDy」という新しいアーキテクチャを提案し、カオス的な動的システムや偏微分方程式の支配方程式を解釈可能かつ効果的に発見できることを示しています。

原著者： Kevin Slote, Jeremie Fish, Erik Bollt

公開日 2026-03-26

📖 1 分で読めます🧠 じっくり読む

CC BY 4.0

原著者： Kevin Slote, Jeremie Fish, Erik Bollt

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

この論文は、**「KANDy（キャンディ）」**という新しい AI の仕組みを紹介するものです。

一言で言うと、**「複雑で予測不能な『カオス（混沌）』の世界の法則を、AI に見つけさせ、人間が読める『数式』として書き出すこと」**に成功したという話です。

難しい専門用語を避け、日常の例えを使って解説しますね。

1. 何が問題だったのか？（「カオス」の壁）

まず、天気予報や株価、あるいはバターの分子の動きなど、**「カオス的なシステム」**は非常に予測が難しいです。

例え話： 風船に少し息を吹きかけただけで、その後の風の流れが全く変わってしまうようなものです。
問題点： 従来の AI は、短期的な予測は得意ですが、時間が経つと「少しの誤差」が積み重なり、あっという間に本当の動きからズレてしまいます。まるで、地図を頼りに歩いているのに、1 歩間違えるたびに目的地から遠ざかっていくようなものです。

また、既存の「法則発見 AI」には大きな弱点がありました。

弱点： 「法則はシンプルで、必要な項（部品）は少ないはずだ」という**「スパース（疎）」という前提**に頼りすぎていました。
結果： 自然界には、シンプルではない複雑な法則（例：生物の捕食関係や光の動き）が多く存在します。それらは「部品が多い」ため、従来の AI は「法則を見つけられない」という壁にぶつかっていました。

2. KANDy（キャンディ）の登場：新しいアプローチ

そこで登場したのが、KANDyです。これは「Kolmogorov-Arnold Network（コルモゴロフ・アルノルド・ネットワーク）」という新しい AI の技術を、動的なシステムに特化させたものです。

① 「深さ」ではなく「広さ」で勝負する

従来の AI（深層学習）： 何層も積み重なった「深いビル」のような構造。複雑なことを学べますが、中身がブラックボックス化しやすく、法則を数式として読み取るのが難しい。
KANDy： 1 階建ての**「広大な倉庫」**のような構造（ゼロ深度）。
- アナロジー： 深いビルで迷路を探すのではなく、広大な倉庫の床に、必要な道具（変数）をすべて並べて、それらをどう組み合わせるかを直接探すイメージです。これにより、**「どんな式が成り立っているか」が人間にも見えてくる（解釈可能）**ようになります。

② 「リフト（持ち上げ）」という魔法

KANDy の最大の特徴は、**「リフト（持ち上げ）」**という技術を使うことです。

例え話： 2 次元の紙の上で「円」を描こうとしても、曲線は複雑に見えます。しかし、それを 3 次元の空間に「持ち上げ」て見ると、実は単純な「輪っか」だったと気づくことがあります。
KANDy の役割： 複雑なデータ（例：光の動きや流体）を、AI が自動的に「より高い次元の空間」に持ち上げます。そこでは、複雑な動きが**「単純な直線や簡単な式」**として見えてくるのです。
- これにより、従来の AI が「複雑すぎて無理」と諦めていた現象も、KANDy は「あ、これは実は単純な法則だったんだ！」と見抜くことができます。

3. 何ができるようになった？（実験の結果）

KANDy は、さまざまな難しいテストで成功しました。

ロrenz（ローレンツ）アトラクター： 気象予報の象徴的なカオスモデル。KANDy は、この複雑な動きを生み出す**「正しい数式」**を、ほぼ完璧に復元しました。
ホップ・ファイブレーション（トポロジー）： 4 次元空間の複雑な結び目構造のようなもの。KANDy は、この「見えない構造」をデータから発見し、**「円が絡み合っている」**という幾何学的な真理を数式で表現しました。
衝撃波（バーガース方程式）： 衝撃波が走るような、急激な変化がある現象。従来の AI はここでつまずきましたが、KANDy は「衝撃」の法則も見事に発見しました。

4. なぜこれがすごいのか？

「ブラックボックス」から「白箱」へ：
従来の AI は「入力→（謎の処理）→出力」でしたが、KANDy は**「入力→（人間が読める数式）→出力」**になります。科学者にとって、なぜその結果になったのか「理由」がわかるのは画期的です。
複雑な世界にも対応：
「シンプルであるはず」という前提を捨てたため、生物学や物理学の複雑な現象（スパースではない現象）も扱えるようになりました。
長期的な予測の安定性：
単に「次の瞬間」を予測するだけでなく、**「未来の形（アトラクター）」**を正しく維持しながら予測できます。これは、カオスな世界で「長期的な傾向」を掴むために不可欠です。

まとめ

この論文は、**「AI に『複雑な自然の法則』を見つけさせ、それを人間が理解できる『美しい数式』として書き出させる」**という新しい方法を提案しています。

まるで、**「カオスな嵐の中から、隠された『楽譜』を見つけ出し、人間が演奏できるように書き写す」**ような作業です。これにより、気象予報、創薬、エネルギー制御など、これまで予測が難しかった分野で、より信頼性の高い AI が使えるようになるかもしれません。

KANDy は、AI を「予測する機械」から「自然の法則を解き明かす探偵」へと進化させた、重要な一歩と言えます。

論文「KANDy: Kolmogorov-Arnold Networks and Dynamical System Discovery」の技術的サマリー

この論文は、カオス的および複雑な力学系における支配方程式の発見を目的とした新しいアーキテクチャ**KANDy（Kolmogorov-Arnold Network for Dynamics）**を提案しています。従来の疎性回帰（Sparse Regression）の限界を克服し、コルモゴロフ・アルノルドネットワーク（KAN）の解釈性と力学系の構造発見能力を融合させた手法です。

以下に、問題定義、手法、主要な貢献、結果、および意義について詳細にまとめます。

1. 背景と問題定義

力学系のデータ駆動モデリング、特にカオス系における支配方程式の発見には、以下の課題が存在します。

カオスによる予測精度の崩壊: カオス系（ローレンツアトラクタなど）では、初期値のわずかな違いが指数関数的に増大し（リャプノフ時間）、数ステップ先での予測が真の軌道から大きく逸脱します。
疎性回帰（Sparse Regression）の限界: 既存の SINDy などの手法は、支配方程式が「疎（少数の基本関数の組み合わせ）」であるという仮定に依存しています。しかし、イケダ写像（Ikeda map）やホリング型反応項を含む生態系モデル、Kuramoto-Sivashinsky 方程式など、無限級数展開が必要な非疎な系や、トポロジー的に複雑な系では性能が著しく低下します。
深層学習の解釈性の欠如: 従来のニューラルネットワーク（MLP）や Reservoir Computing は短期予測には有効ですが、長期的な軌道安定性や物理法則の解釈性（記号方程式の導出）において課題があります。
KAN の課題: 既存の KAN は解釈性が高いですが、力学系の非線形項（例：$xy$）を単一の 1 次元スプライン関数の合成で表現するには、ネットワークの深さや幅の制約により数学的な障壁（代数的不可能性）が存在することが示されています。

2. 提案手法：KANDy

KANDy は、「ゼロ深さ（Zero-depth）」かつ「広幅（Wide）」の KANを採用し、疎性回帰の代わりに KAN を用いて支配方程式を直接学習するフレームワークです。

2.1 アーキテクチャと「リフティング（Lifting）」

ゼロ深さ構造: 隠れ層を持たず、入力から直接出力（時間微分 $\dot{x}$ ）へマッピングする構造です。これは広義の回帰問題として扱われます。
リフティング特徴量（Lifted Features）: 観測状態 $x$ $x$ を、物理的に意味のある非線形項（例： $x^2, xy, \sin(x)$ $x^{2}, x y, sin (x)$ など）を含む高次元空間 $\Theta = \Phi(x)$ $Θ = Φ (x)$ に写像（リフティング）します。
- これにより、Koopman 作用素理論の考え方に基づき、非線形力学を線形または単純な非線形構造を持つ空間で表現可能にします。
- 従来の疎性回帰が事前に辞書（ライブラリ）を指定する必要があるのに対し、KANDy は KAN がこれらのリフティング特徴量に対して適応的な非線形変換（スプライン関数）を学習します。

2.2 学習目的関数

モデルは以下の 2 つの損失関数の和を最小化します：

導関数損失（Derivative Loss）: 局所的なベクトル場の精度を確保するため、 $\dot{x}$ の予測値と真の微分値の誤差を最小化。
ロールアウト損失（Rollout Loss）: 長期的な軌道の一貫性を確保するため、学習された方程式を数値積分（Runge-Kutta など）して得られる軌道と真の軌道の誤差を最小化。
- この「多ステップ・ロールアウト」による正則化が、カオス系における誤差の蓄積を防ぎ、アトラクタの幾何学的構造を維持する鍵となります。

2.3 記号方程式の抽出

学習後の KAN のスプライン活性化関数を、事前定義された記号ライブラリ（多項式、三角関数など）にフィットさせる貪欲なアルゴリズムを適用します。

複雑さペナルティを設け、 $R^2$ が閾値以下の場合や、不要な項はゼロに剪定（Pruning）することで、人間が読める簡潔な支配方程式を導出します。

3. 主要な貢献と理論的洞察

深さの限界と代数的不可能性の証明:
- 論文は、幅が狭い（例：幅 1 や幅 3）深層 KAN だけでは、ローレンツ系のような連立非線形項（$xy $と$ xz$ の同時存在）を表現できないことを数学的に証明しました（Theorem 1, 2, 5, 7）。
- 具体的には、$xy $を 1 次元スプラインの和で表現するには、$ x $と$ y$ の積を生成する特別な構造（多項式基底など）が必要であり、単純な深層化だけでは解決しないことを示しました。
- これにより、**「深さ」ではなく「幅」と「適切なリフティング特徴量」**が力学系発見には重要であるという結論に至りました。
トポロジー構造の回復:
- ホップファイブレーション（Hopf Fibration）という非自明なトポロジー構造を持つ系において、KANDy は群軌道に沿った不変性を学習し、商空間（Quotient space）への写像を正確に復元できることを示しました。標準的な深層 KAN はこの構造を崩壊させてしまうことが確認されています。

4. 実験結果

KANDy は、離散系、連続系、偏微分方程式（PDE）の 3 つのカテゴリで評価されました。

対象システム	結果の概要
ホップファイブレーション	標準 KAN は軌道を縮退させたが、KANDy はリフティング特徴量を用いてファイバー束構造を正確に学習し、記号式で不変性を表現できた。
ヘノン写像 (離散系)	支配方程式を 100% の忠実度で復元。アトラクタの折りたたみ構造を正確に再現。
ローレンツ系 (連続系)	学習データ外の初期条件でもアトラクタに収束。リャプノフ時間（約 1.1）以内で高精度な予測を行い、その後もアトラクタの幾何学的形状を維持した。パラメータ（ $\sigma, \rho, \beta$ ）も高い精度で推定された。
Kuramoto-Sivashinsky 方程式 (PDE)	時空間カオスにおいて、非線形移流項と高次拡散項を正しく発見。スプラインの線形近似により、物理的に意味のある方程式を抽出。
無粘性バーガース方程式 (PDE)	疎性回帰が失敗するケース（衝撃波の形成）において、KANDy は衝撃波の非線形性を正確に捉え、Ols/LASSO/PDE-Find などの既存手法よりも低い NRMSE を達成。
イケダ光学キャビティ写像	無限級数展開が必要な非疎な系において、疎性回帰が失敗する中、KANDy は支配方程式を高精度に復元した。

5. 意義と結論

KANDy は、データ駆動型の力学系モデリングにおいて以下の点で画期的です。

疎性の仮定からの脱却: 支配方程式が疎である必要がなく、複雑な非線形項や無限級数を含む系でも適用可能です。
解釈性と精度の両立: 深層学習の予測精度と、記号回帰の解釈性を両立させ、人間が理解可能な物理法則を導出します。
カオスへの耐性: 多ステップ・ロールアウト損失を導入することで、カオス系特有の予測崩壊を抑制し、アトラクタの長期的な幾何学的構造を維持する安定したモデルを構築します。
トポロジー的洞察: 対称性やトポロジー的不変性をデータから学習し、複雑な幾何構造を復元する能力を実証しました。

結論として、KANDy は「適切な座標系へのリフティング（Koopman 的なアプローチ）」と「広幅の KAN」を組み合わせることで、従来の疎性回帰や深層学習の限界を超え、非線形力学系の本質的な構造を発見するための強力な枠組みを提供しています。