SINDyG: Sparse Identification of Nonlinear Dynamical Systems from Graph-Structured Data, with Applications to Stuart-Landau Oscillator Networks

技術的概要：SINDyG – グラフ構造化データからの非線形力学系の疎特定

問題提起
疎特定技術（非線形力学系の疎特定：SINDy など）を用いたデータからの支配方程式の抽出は、神経科学から気候科学に至るまで、さまざまな分野におけるモデリングに革命をもたらしました。しかし、標準的な SINDy 手法は、通常、力学系を単一の塊として扱い、サブシステム間の相互作用を支配する基盤となるネットワークトポロジーを無視しています。グラフ構造化システム（例：ニューラルネットワーク、電力網、またはソーシャルネットワーク）に適用される場合、標準的な SINDy はすべての候補相互作用項を均等に扱います。この構造的な事前知識の欠如は、実際のノード間接続を反映していない「偽の項」の選択につながることが多く、その結果、バイアスがかかり、精度が低く、過度に複雑なモデルが生成され、微妙な創発的振る舞いを捉え損なうことになります。

手法：SINDyG
これらの限界に対処するため、著者らはSINDyG（グラフ構造化データからの非線形力学系の疎特定）を提案します。この手法は、ネットワークの隣接構造を疎回帰プロセスに明示的に組み込むことで、標準的な SINDy フレームワークを拡張します。

中核的な革新は、グラフ情報に基づく正則化戦略です。すべての候補項に一様なペナルティを適用するのではなく、SINDyG はネットワークの隣接行列 $A$ から導出されたペナルティ行列 $P$ を利用します。プロセスは以下の通りです：

1. 接続性分析：関数ライブラリ内の各候補項について、アルゴリズムはソース変数（項に関与するノード）を特定し、隣接行列を用いてこれらのソースとシンクノード（そのダイナミクスをモデル化しているノード）間の平均接続性 ($m_{ck}$) を計算します。
2. ペナルティの定式化：シグモイド関数に基づくペナルティ関数 $P[c,k]$ を構築します。ソースとシンク変数間の平均接続性が低い項は、高いペナルティ（1 に近い値）を受け、既知のネットワークトポロジーに違反する相互作用の選択を実質的に抑制します。逆に、強い接続と整合する項は、低いペナルティを受け取ります。
3. 最適化：この手法は、修正された**逐次閾値最小二乗法（STLSQ）**アルゴリズムを採用します。目的関数は、グラフ認識ペナルティを組み込みながら、微分値の再構成誤差を最小化します：
   $$\min_{\Xi} \frac{1}{2} \| \dot{X} - \Theta(X)\Xi \|_2^2 + \lambda \| P \odot \Xi \|_2^2$$
   この問題を効率的に解くために、特徴行列と係数をスケーリングして、標準的なリッジ回帰フレームワークに変換し、その後、疎性を強制するためにハード閾値処理を伴う反復法で解きます。

主要な貢献

• グラフ認識疎回帰：ネットワーク接続性の事前知識を係数推定プロセスに直接統合するモジュラーなペナルティ行列の導入。
• 向上した簡潔性と精度：構造的に妥当な相互作用に回帰をバイアスさせることで、SINDyG は偽の項の選択を減らし、より単純で解釈可能なモデルへと導きます。
• モジュラーなフレームワーク：提案されたグラフ情報に基づくペナルティは、SINDy 以外の他の記号回帰ソルバーとも容易に統合できるように設計されています。

実験結果
著者らは、ニューロン集団の巨視的振動を記述するために頻繁に使用されるモデルであるスチュアート・ランドウ（SL）振動子ネットワークを用いて、SINDyG を検証しました。実験は、単純な 3 ノードネットワークと、さまざまなサイズと結合強度を有するエルデシュ・レーニ（ER）およびスケールフリー（SF）トポロジーを含む複雑な一般ケースの両方で行われました。

• 単純なケース：3 ノードネットワークにおいて、SINDyG は真のモデルと一致するモデル複雑度（$\gamma$）32 を達成しましたが、標準的な SINDy は 62 の複雑度となりました。SINDyG は、SINDy の 0.0155 に対する平均絶対誤差 0.0033 という優れた係数精度を示し、未見の軌道における予測 $R^2$ スコアも高くなりました。
• 一般ケース：感度分析により、ネットワークサイズと結合強度が増加するにつれて、標準的な SINDy の性能は著しく低下し、より高い複雑度と誤差を示すことが明らかになりました。これに対し、SINDyG は堅牢性を維持し、さまざまなネットワークサイズとエッジ重みにおいて、常に低い複雑度と高い汎化精度（高いテスト $R^2$、低いテスト MSE）を持つモデルを生成しました。
• 計算効率：SINDyG はペナルティ行列の計算に追加のステップを伴いますが、全体のトレーニング時間は標準的な SINDy と比較可能であり、この手法は限られたトレーニングデータに対する耐性が高いことを示しました。

意義と主張
本論文は、SINDyG が相互接続システムのデータ駆動型モデリングにおいて重要な前進を表すと主張しています。支配方程式の発見を導くためにネットワークトポロジーを活用することで、この手法は、より正確であるだけでなく、より物理的に解釈可能なモデルを生成します。著者らは、SINDyG を「ネットワーク情報に基づく発見アルゴリズム」というより広範なクラスへの基礎的な一歩として位置づけています。彼らは、このグラフ構造化の疎正則化を既存の記号回帰ソルバー（PySR など）に統合することで、神経科学、生態学、金融、疫学など多様な分野における、ノイズの多い環境や実世界の状況での性能を向上させる可能性を示唆しています。著者らは控えめに、この手法がスチュアート・ランドウモデルで検証されたものの、クラモトモデルやフィッツハグ・ナグモモデルなどの他の非線形システムにおけるその有効性を評価するには、今後の研究が必要であると指摘しています。