技術要約：非線形構造力学における物理情報ニューラルサロゲートのスペクトルバイアス緩和

1. 問題提起

物理情報ニューラルネットワーク（PINN）で使用される標準的な多層パーセプトロン（MLP）は、スペクトルバイアス、すなわち信号の低周波成分を学習する一方で高周波モードの捕捉に失敗するという系統的な傾向を持つ。この制限は、非線形構造力学において極めて重要である。なぜなら、非線形な系では、モード間の相互作用、ヒステリシス挙動、および非線形剛性に起因して、システム応答には本質的にマルチ周波数成分（例：基本モードおよび高次高調波）が含まれるからである。

**コルモゴロフ・アーノルド・ネットワーク（KAN）**のような最近の代替案は、学習可能なエッジ活性化関数を通じてこれを緩和すると提案されているが、KANとMLPの既存の比較には不備が多い。先行研究はしばしば以下の問題に直面している：

• パラメータ数の不一致。
• 不適切な入力正規化（活性化の飽和を引き起こす）。
• 非ゼロの状態に対してもハードコードされたゼロの初期条件（IC）。
• 物理的制約の適用における不整合。

これらの手法的な不整合は、入力表現の有効性とアーキテクチャの選択に関する結論を誤導させる可能性がある。

2. 手法

本研究は、入力表現とバックボーン・アーキテクチャの影響を分離するために、厳密かつパラメータを一致させた実験フレームワークを確立する。

2.1 ベンチマーク問題

以下の4つの典型的な非線形動力学問題を選択した。それぞれが異なる動的クラスを表している：

1. Bouc–Wen ヒステリシス振動子： 速度に依存しないヒステリシス（データ駆動型学習）。
2. Duffing 振動子： 準周期的な挙動を伴う三次幾何学的剛性（物理情報型）。
3. 強制 Van der Pol 振動子： 自励的なリミットサイクル振動（物理情報型）。
4. 3自由度せん断建物モデル： 線形マルチ周波数モード重畳（データ駆動型）。

2.2 アーキテクチャ設計 (2 × 2 要因配置)

公平性を期すため、すべて約16,400個の学習可能パラメータに制限された4つのモデルを比較した：

1. Plain MLP： 正規化された時間入力（$t/t_{max}$）を用いた標準的なMLP。
2. Fourier-MLP： フーリエ特徴エンコーディング（$\Phi(t)$）を用いたMLP。
3. KAN-only： 学習可能なチェビシェフ多項式活性化を用いたKAN。
4. FPIKAN (Fourier-enhanced KAN)： フーリエ特徴エンコーディングを用いたKAN。

主要な手法的制御：

• 入力正規化： $\tanh$ の飽和を防ぐため、Plain MLPとKAN-onlyの入力は $[0, 1]$ に正規化した。フーリエモデルは有界な正弦・余弦関数によりこの影響を受けない。
• 初期条件： 真の物理的初期条件（$u(0), \dot{u}(0)$）を、ハードコードされたゼロではなく明示的に強制した。
• 損失関数： データ適合性（$L_{data}$）、初期条件制約（$L_{IC}, L_{vel}$）、および物理残差（$L_{phys}$）からなる統一された損失関数。
• 学習： コサインアニーリングを用いたAdamオプティマイザによる5,000エポックの学習。

2.3 理論的分析

本研究は、KAN層の勾配フロー分析を含んでいる。チェビシェフ多項式は暗黙的なスペクトル分解器として機能する一方で、その二階微分（二階微分方程式の物理情報損失に必要）が振動的な勾配振幅を生み出すと仮定している。これらの振動は、フーリエエンコーディングされた入力と組み合わさった際に、最適化ランドスケープを不安定化させる可能性のある、互換性のない最適化環境を作り出す。

3. 主な貢献

1. パラメータ一致比較： 厳密に等しいモデル容量（約16.4kパラメータ）を用いて、4つの非線形ベンチマークにおけるKANとMLPのアーキテクチャを比較した初の厳密な研究。
2. 要因除去研究： フーリエ特徴エンコーディングとバックボーン・アーキテクチャ（MLP vs KAN）の個別の寄与を分離する、系統的な $2 \times 2$ 設計。
3. 手法的な修正： 以前の結果を歪めていた、PINN文献における7つの一般的な実装上の「バグ」（例：速度の初期条件の欠如、未正規化の時間、パラメータの不一致）の特定と修正。
4. 勾配不整合分析： フーリエエンコーディングとチェビシェフベースのKANを組み合わせると、勾配ダイナミクスの衝突により性能が低下する理由を数学的に実証。
5. スペクトル忠実度の評価： 時間領域の誤差指標だけではスペクトルバイアスの診断には不十分であることを示す、周波数領域解析。

4. 結果

4.1 フーリエ特徴エンコーディングの優位性

最も重要な発見は、フーリエ特徴エンコーディングがスペクトルバイアスの緩和において支配的な要因であるということである。

• Plain MLPにフーリエエンコーディングを追加することで、すべてのベンチマークにおいて相対 $L_2$ 誤差が98.6%から100%減少した。
• Fourier-MLPは、すべてのベンチマークで最小の誤差（$L_2 \le 0.014$、DuffingおよびVan der Polでは $L_2 < 10^{-3}$）を達成した。
• フーリエエンコーディングがない場合、Plain MLPとKAN-onlyの両方がBouc–Wenおよび3自由度建物モデルにおける高周波ダイナミクスの捕捉に失敗し、$L_2 \approx 1.0$（予測がほぼゼロ）となった。

4.2 フーリエエンコーディングなしのKANの性能

フーリエエンコーディングが存在しない場合、KAN-onlyは非線形振動システムにおいてPlain MLPよりも優れた性能を示した：

• Duffing： KANは誤差を1.9倍減少させた（$0.074$ vs $0.139$）。
• Van der Pol： KANは誤差を3.5倍減少させた（$0.164$ vs $0.574$）。
• これは、学習可能なチェビシェフ活性化が暗黙的なスペクトル分解器として機能し、より単純な周波数領域においてバイアスを部分的に緩和することを裏付けている。

4.3 「パラドックス」としてのFPIKAN

2つの緩和戦略を組み合わせることで結果が向上するという予想に反し、FPIKANは一貫してFourier-MLPを下回る性能となった。

• Duffingベンチマークにおいて、KANにフーリエエンコーディングを追加すると、誤差は201.7%増加した（$0.074$から$0.224$ へ）。
• Van der Polベンチマークでは、誤差は9.0%増加した。
• 原因： 高次のチェビシェフ多項式に固有の振動的な勾配振幅が、特にフーリエ入力と結合した場合、二階の物理残差に必要な滑らかな最適化ランドスケープと衝突するためである。

4.4 収束性とスペクトル解析

• 収束性： Fourier-MLPは $MSE < 10^{-7}$ まで滑らかに収束した。FPIKANは初期には収束したが、高い誤差レベル（$10^{-3}$ から $10^{-5}$）で停滞した。これは勾配不安定性の仮説と一致している。
• スペクトル忠実度： Fourier-MLPは全周波数スペクトルを正確に再構成した。非フーリエモデルは深刻な高周波減衰を示し、2～3 Hzを超えるモードを事実上フィルタリングしてしまった。

5. 意義および結論

本論文は、非線形構造力学における物理情報ニューラルサロゲートについて次のように結論付けている：

1. 入力表現が極めて重要である： フーリエ特徴エンコーディングは、バックボーン・アーキテクチャに関わらずスペクトルバイアスを効果的に排除する、最も重要な設計選択である。
2. 推奨されるアーキテクチャ： Fourier-MLPが推奨されるアーキテクチャであり、最小の誤差、最速の学習（KANの代替案より約2倍高速）、および最も単純な実装を提供する。
3. スタンドアロンとしてのKANの価値： フーリエエンコーディングが実行不可能な場合（例：周波数範囲が未知の場合）、KANは暗黙的なスペクトル分解を通じてMLPを最大3.5倍上回る性能を示すため、価値がある。
4. ハイブリッド化の逆効果： チェビシェフベースのKANとフーリエエンコーディングを組み合わせること（FPIKAN）は、現在のところ勾配の不整合により逆効果である。著者らは、勾配の有界性を解決するために、B-スプラインまたはウェーブレットベースのKANのバリアントの探索を提案している。
5. 手法的な厳密性： 本研究は、従来の比較文献が実装上の欠陥によって損なわれている可能性があることを強調している。厳密なパラメータ一致、適切な正規化、および正しい初期条件の強制への準拠は、この分野における妥当な科学的結論を得るために不可欠である。