Demystifying KAN for Vision Tasks: The RepKAN Approach

この論文は、CNN の構造的効率と KAN の非線形表現力を統合した「RepKAN」と呼ばれる新しいアーキテクチャを提案し、EuroSAT や NWPU-RESISC45 などのデータセットを用いた実験で、最先端モデルを上回る性能を維持しつつ、リモートセンシング画像分類において物理的に解釈可能な推論を実現したことを示しています。

要約

この論文は、**「地球を空から見る写真（衛星画像）を、AI がもっと賢く、かつ『なぜそう判断したのか』がわかるように分類する新しい方法」**について書かれています。

タイトルにある**「RepKAN」**という名前が、この新しい AI の名前です。

以下に、専門用語を避け、誰でもわかるような比喩を使って解説します。

---

🌍 背景：なぜ新しい AI が必要なの？

これまで、AI が衛星写真を見て「これは森だ」「これは川だ」と判断するときは、**「ブラックボックス（中身が見えない箱）」**のようなものでした。

• 従来の AI（CNN や Transformer）： すごい精度で正解を答えますが、「なぜ川だとわかったのか？」と聞くと、「なんとなくそう感じた」としか答えられません。
• 問題点： 地球観測（環境監視や都市計画など）では、「なぜそう判断したか」の理由が物理的に説明できることが重要です。例えば、「水は赤外線をよく吸収するから川だと判断した」といった、科学的な根拠が必要です。

💡 解決策：RepKAN とは何か？

RepKAN は、**「2 つの得意分野を持つハイブリッドな AI」**です。

1. 左脳（空間認識）： 従来の AI が得意な「形や模様」を見る力。
2. 右脳（スペクトル分析）： 新しい技術（KAN）が得意な「光の波長（色）の微妙な変化」を見る力。

これらを組み合わせて、**「形も見るし、光の性質も深く理解する」**AI にしました。

🎨 比喩：料理の味見とレシピ

• 従来の AI： 料理の「見た目」だけを見て、「これはカレーだ！」と判断します。でも、なぜカレーかわからないんです。
• RepKAN： 見た目だけでなく、**「スパイスの香りの成分（スペクトル）」**まで分析します。
  • 「あ、この香りの成分の組み合わせは、カレー特有の『チリペッパーとクミンの黄金比』だ！」と、数式（レシピ）そのものを見つけ出しながら判断します。
  • さらに、この「発見したレシピ」を人間にも読める形で教えてくれます。「川は、この波長の光を 90% 吸収するから川だとわかったよ」と説明できるのです。

⚙️ 仕組み：どうやって動いているの？

RepKAN は、画像を処理する際に**「2 つの道（パス）」**を同時に使います。

1. 空間パス（Spatial Path）：
   • 写真の「形」や「模様」を捉えます。
   • 例：「川は細長い線だ」「森は緑の塊だ」という形の認識。
2. スペクトルパス（Spectral Path）：
   • ここが RepKAN の最大の特徴です。
   • 写真の「色（光の波長）」の組み合わせを、**「学習できる変形する線（スプライン）」**を使って分析します。
   • 例：「水は、赤い光と赤外線の組み合わせで、独特の『S 字型』の反応をする」という物理的な法則を、AI 自身がゼロから発見します。

この 2 つを足し合わせることで、形だけでなく、**「光の性質に基づいた物理的な理由」**で分類できるようになります。

🚀 実験結果：どれくらいすごい？

研究者は、2 つの有名な衛星画像データセットでテストしました。

• 結果： 従来の AI よりも精度が高くなりました。
• 驚きの発見：
  • AI は人間が昔から使っている「植生指数（NDVI）」のような物理的な公式を、人間に教わらずに自力で発見しました。
  • 「川」と「海」のように、形は似ていても光の反射が違うものを、従来の AI は混同していましたが、RepKAN は「光の反応の違い」を見抜いて正解しました。
  • 逆に、「橋」と「島」のように、形は似ていても光の反射が違うものを、従来の AI は間違えていましたが、RepKAN は正解しました。

🔍 何が「解釈可能（Interpretable）」なのか？

これがこの論文の一番の売りです。

• 従来の AI： 「正解！」と言いますが、中身は謎です。
• RepKAN： 「正解！その理由は、**『この波長の光が、このように変形する曲線を描いたから』**です」と、人間が読める数式やグラフで説明してくれます。

まるで、AI が**「自分の思考プロセスをホワイトボードに書き出して見せている」**ような状態です。

🌟 まとめ

この論文が提案するRepKANは、単に「正解を出す AI」ではなく、**「なぜ正解なのか、物理的な理由まで説明してくれる AI」**です。

• 形（空間）と光（スペクトル）の両方を理解する。
• 人間が知らなかった新しい物理法則（数式）を自分で発見する。
• 地球観測のような重要な分野で、**「透明で信頼できる AI」**として活躍する可能性を秘めています。

つまり、**「AI が『なぜそう思ったか』を、私たちにわかりやすく教えてくれる、賢くて正直なパートナー」**になったと言えます。

技術概要

以下は、提示された論文「Demystifying KAN for Vision Tasks: The RepKAN Approach」の技術的な要約です。

論文概要：Demystifying KAN for Vision Tasks: The RepKAN Approach

著者: Minjong Cheon (Sejong University)
日付: 2026 年 3 月 9 日

---

1. 背景と課題 (Problem)

リモートセンシング画像分類は、地球観測、土地利用マッピング、環境監視などに不可欠ですが、以下の課題が存在します。

• ブラックボックス化: 従来の CNN や Transformer ベースのモデルは高性能ですが、意思決定プロセスが不透明（ブラックボックス）であり、物理的な解釈が困難です。
• 既存の XAI の限界: Grad-CAM などの事後説明可能 AI（XAI）手法は空間的な注目マップを提供しますが、リモートセンシングにおいて重要な「非線形なスペクトル（波長）ダイナミクス」を説明できず、物理的な解釈には不十分です。
• KAN の適用難点: 最近提案された KAN（Kolmogorov-Arnold Networks）は、学習可能なスプライン関数を用いて透明性を高める可能性がありますが、従来の KAN は画像入力をフラット化するため、土地被覆分析に不可欠な「局所的な空間的文脈」を失ってしまいます。

2. 提案手法：RepKAN (Methodology)

著者は、CNN の構造的効率と KAN の非線形表現能力を統合した新しいハイブリッドアーキテクチャ**「RepKAN」**を提案しました。

• 基本構造:
  • 二重パス設計: 各ブロックは「空間線形パス（Spatial Linear Path）」と「スペクトル非線形パス（Spectral Non-linear Path）」の 2 つで構成されます。
  • 空間パス: 従来の CNN（1x1 および 3x3 畳み込み）を使用し、局所的な空間特徴と文脈を保持します。
  • スペクトルパス: 1 次元の B-スプライン（学習可能な活性化関数）をチャネル方向に適用し、バンド間の非線形相互作用をモデル化します。これにより、データ駆動型のスペクトル指数の発見が可能になります。
• 構造的再パラメータ化 (Structural Reparameterization):
  • 推論効率を向上させるため、RepVGG のアイデアを応用し、訓練時の複数の空間分岐を単一の 3x3 畳み込み層に数学的に融合（再パラメータ化）します。これにより、推論時の計算コストを削減しつつ、訓練時の表現力を維持します。
• 動作原理:
  • 入力マルチスペクトル画像は階層的な特徴マップに変換され、最終的にグローバル平均プーリングを経て分類されます。
  • スプライン関数は、各土地被覆カテゴリに固有の「スペクトル指紋」や物理的相互作用多様体（manifold）を自律的に学習・発見します。

3. 主な貢献 (Key Contributions)

1. ビジョン向け KAN の構造的ハイブリッド化:
   • プラグ＆プレイ型のモジュール「RepKAN」を提案。空間畳み込みとスペクトル 1D スプラインを統合することで、従来の KAN が抱える空間情報損失の問題を解決し、マルチスペクトルタスクでの分類性能を向上させました。
2. スペクトルダイナミクスの内在的解釈:
   • 事後の注目マップに依存せず、バンドごとのエネルギー分布や非線形相互作用の軌跡を可視化することで、モデルの意思決定プロセスに対する「内在的な透明性」を提供します。
3. 物理意識型方程式の記号的合成:
   • 学習されたフィルタに対して記号回帰（Symbolic Regression）を行うことで、明示的な非線形方程式を抽出しました。これにより、NDVI などの古典的な物理指数を再発見・改良するデータ駆動型のアプローチを実現し、人間に読み取れる形でリモートセンシングの伝統と橋渡ししました。

4. 実験結果 (Experimental Results)

データセット:

• EuroSAT: 13 チャンネルのマルチスペクトル画像（Sentinel-2 衛星データ）。
• NWPU-RESISC45: 45 種類のシーングラウンド真値を持つ高解像度航空画像。

性能評価:

• EuroSAT (13 チャンネル):
  • RepKAN（Grid 3 設定）は、ベースライン CNN に対してすべての指標で上回りました。
  • 正確率 (Accuracy): 98.78% (ベースライン 98.41% に対し改善)。
  • グリッドサイズを 3 より大きくすると（5, 7）、わずかに性能が低下しました（過剰適合の傾向）。
• NWPU-RESISC45:
  • 複雑な空中シーンにおいて、RepKAN はベースライン CNN に対し約 5.36% 向上した 79.17% の正確率を達成しました。
  • 精度、再現率、F1 スコアのすべての指標で改善が見られました。

解釈性の分析:

• スペクトル依存性: 初期段階において、モデルは空間パスよりも「スペクトル非線形パス」に 77.1% 以上（海湖クラスでは 91.0%）依存していることが確認されました。
• 自律的な指数発見: 学習されたスプライン関数は、森林（高 NIR 反射）や水域（NIR 吸収）など、物理的な物質特性に基づいた非線形マッピングを自律的に学習していました。
• 記号的合成: 学習されたフィルタから抽出された 3 次方程式は、高い決定係数（R²）を示し、従来の物理指数（例：NDVI）と整合する数学的構造を再発見しました。
• ケーススタディ: 従来の CNN が混同しやすい「海湖 vs 河川」や「橋 vs 島」などのケースにおいて、RepKAN はスペクトル指紋を正確に識別し、誤分類を解消しました。

5. 意義と結論 (Significance)

RepKAN は、リモートセンシング画像分類において、「高性能」と「解釈可能性」を両立させる画期的なアプローチです。

• 物理的解釈の提供: 単に「どこが重要か」だけでなく、「なぜその分類がなされたか」という物理的なスペクトル相互作用のメカニズムを明示的に提示します。
• 将来の基盤モデル: この研究は、将来の解釈可能な視覚基盤モデル（Vision Foundation Models）のバックボーンとして RepKAN が大きな可能性を秘めていることを示唆しています。
• データ駆動型科学: 人間が定義した物理指数に依存せず、データから自律的に物理法則（数式）を導き出す能力は、リモートセンシング分野における新しい科学発見のツールとなり得ます。

総じて、RepKAN はブラックボックス化しがちな深層学習モデルに「透明性」と「物理的根拠」をもたらし、信頼性の高い地球観測システムの実現に貢献する技術です。