Self-explainable Operator Learning for Discovering Spatial Patterns in Functional Data

技術要約：関数型データの空間パターン発見に向けた自己説明可能なオペレーター学習

問題提起
オペレーター学習は、偏微分方程式（PDE）に支配される複雑な物理システムのモデリングにおいて、強力なツールとして台頭している。しかし、フーリエニューラルオペレーター（FNO）やDeepONetといった最先端のニューラルオペレーターアーキテクチャは、ブラックボックス的な万能近似器として機能する。その複雑で非凸な学習プロセスと膨大なパラメータ数は、予測の背後にある推論を不明瞭にし、基礎となる物理法則の発見を妨げている。SHAP、LIME、Grad-CAMなどの事後的な説明可能性手法（post-hoc explainability methods）が存在するものの、これらは限界を抱えている。それらは多くの場合、モデルに依存しない外部ツールであり、矛盾する説明を生み出す可能性があり、固有の信頼区間を欠き、入力と出力の両レベルでの同時的な解釈可能性を提供できない。したがって、外部の属性付与ツールに頼ることなく、本質的に解釈可能で、数学的に透明であり、入力関数内の特定の空間的特徴と出力関数の対応するパターンを結びつけることができる「設計による（by-design）」フレームワークへの切実なニーズが存在する。

手法
著者らは、一般化関数線形モデル（gFLM）に基づく自己説明可能なオペレーター学習フレームワークを提案している。この手法は、深層ニューラルネットワークではなく、学習可能なカーネルを用いた積分方程式の線形結合として学習問題を再定式化することで、標準的なニューラルオペレーターとは一線を画している。

1. モデル定式化:

   • 入力関数 $f(\xi)$ と出力関数（またはスカラー） $u(x)$ の間の写像は、以下の積分方程式の和として表現される：
     $$u(x) = \sum_{n,m} w_{n,m} \iint \psi_n(x-\zeta, y-\eta) T_m f(\zeta, \eta) \, d\zeta d\eta$$
   • ここで、$\psi_n$ は定義済みの解析的なカーネル関数のライブラリを表し、$T_m$ は非線形性を線形特徴空間に捉えるための持ち上げ変換（例：多項式、指数関数）を表し、$w_{n,m}$ は正則化線形回帰を通じて学習される係数である。
   • 以前の研究ではスパース性のためにL1正則化が用いられていたが、本フレームワークでは、その後の分解分析に不可欠な、すべての候補項を保持しつつ学習の安定性を確保するためにL2正則化を採用している。

2. 自己説明可能な分解戦略:

   • コアとなる革新は、積分オペレーターの加法性を利用した学習後の分解戦略である。
   • 入力領域は、$k$ 個のサブドメイン（具体的には $k=4$ の等分ゾーン）に分割される。
   • モデルは、各サブドメインに対して独立して局所的な積分を計算する。オペレーターの線形性により、全出力はこれらの局所的な寄与の総和と完全に一致する。
   • 特定の領域の影響を分離するために、**平均中心化（mean-centering）**手順が適用される。データセット全体における各ゾーンの予測の期待値を、局所的な予測から差し引く。これにより、特定の入力領域がいかに出力の偏差を駆動するかを示す「ゾーン寄与（zonal contributions, $\Phi_i$）」が得られる。

3. 検証とベースライン:

   • 本フレームワークは、2つの物理ベースのデータセット、すなわち脳動脈瘤における拍動性血流（壁せん断応力の予測）および、ピッチングを行う翼の非定常空気力学（抗力および揚力係数の予測）を用いてテストされた。
   • 精度については**フーリエニューラルオペレーター（FNO）**と比較され、説明可能性については、学習済みU-Netに適用された3つの事後手法（Kernel SHAP、Occlusion Sensitivity、Grad-CAM）に対して説明の一貫性が検証された。

主な貢献

• 本質的な説明可能性: 本フレームワークは、説明可能性がモデル構造の中に直接組み込まれた、閉じた形式の解析的サロゲートを提供する。モデルの論理を解釈するために、外部ツールや事後処理を必要としない。
• 二層の解釈可能性: 入力の重要な領域のみを強調するほとんどのXAI手法とは異なり、このアプローチは、特定の入力領域によって生成される出力の空間パターンをも明らかにする。これは、入力サブドメインと出力特徴の形成を明示的に結びつけるものである。
• 数学的透明性: 線形重ね合わせの積分オペレーターと凸最適化解を利用することで、モデルは全予測が加法的で物理的に局在化可能な寄与へと正確に分解できることを保証する。
• 定量的指標: ゾーン寄与と全予測との間のピアソン相関係数を用いて空間領域の重要性を定量化する方法を導入しており、標準化されたXAI指標の開発を促進する。

結果

• 精度と解釈可能性のトレードオフ: 予想通り、FNOベースラインは、特に複雑で高周波のシナリオにおいて、gFLMモデルよりも有意に高い予測精度（より低い平均絶対誤差）を達成した。gFLMモデルは、いくつかのケースでFNOよりも約1桁高い誤差を示す。
• 定性的忠実度: 数値的な精度は低いものの、gFLMモデルは物理現象の支配的な定性的空間パターンと時間発展を捉えることに成功している。
• 物理的洞察:
  • 血流のケースでは、モデルはゾーン3（強い速度勾配を持つ領域）が最大壁せん断応力（WSS）の予測の主要な駆動源であることを特定した。一方で、ゾーン1とゾーン2は、それぞれ空間平均WSSおよび発散指標の予測を支配している。これは、速度勾配がせん断応力を駆動するという既知の流体力学の原理と一致している。
  • 翼のケースでは、モデルは異なるピッチング周波数において、抗力および揚力係数に影響を与える明確な空間領域を特定することに成功した。
• 事後手法との一貫性: U-Netに適用されたKernel SHAPおよびOcclusion Sensitivityと比較した際、gFLMフレームワークは、最も影響力のある領域を特定する上で定性的な合意を示した（例：両手法ともゾーン3をWSSの主要な駆動源として特定した）。二次的なゾーンのランキングは、手法のメカニズムの違い（摂動 vs 加法的分解）により若干異なるものの、主要な駆動源に関する収束は、提案手法の信頼性を検証している。

意義と主張
本論文は、このフレームワークが、予測の背後にある「なぜ」を理解することが予測そのものと同じくらい重要な科学的応用において、予測的なサロゲート以上のものとなるための、数学的に透明で物理的に解釈可能なオペレーター学習への道を開くことで、科学的機械学習における重要なギャップを埋めるものであると主張している。その意義は以下の点にある：

1. 信頼の醸成: 意思決定プロセスをシミュレーション可能かつ分解可能にすることで、科学者が物理原則との整合性を検証することを可能にし、MLを単なる予測的サロゲートから、潜在的な新しい科学的モデルへと進化させる。
2. 外部依存の排除: 信頼性が低く計算コストの高い事後ツールを不要とし、自己完結型の説明メカニメントを提供する。
3. 隠れた関係の解明: 関数型データのどの特定の空間的特徴が予測を駆動するかを特定することを可能にし、事前の物理的制約なしに、基礎となる物理学（例：速度勾配とせん断応力の関係）に対する洞察を提供する。

著者らは、モデルがブラックボックス型のニューラルオペレーターと比較して予測精度を犠牲にしていることを認めつつも、そのトレードオフは、予測の背後にある理由を理解することが予測自体と同様に重要である科学的応用においては、必要かつ有益なものであるとして、控えめな立場を維持している。