技術要約：グラフから勾配へ：サイバー物理IoTシステムおよびその他の領域に向けた物理学に着想を得た構造的アトリビューション

1. 問題提起

解釈可能な人工知能（AI）は、安全管理や診断においてシステムの根本原因の理解が不可欠な、サイバー物理システム（CPS）や産業用IoT（IIoT）のような高リスク領域において極めて重要である。従来の説明可能性手法は、相関関係や、明示的な有向因果グラフを必要とする構造的因果モデル（SCM）に依存することが多い。しかし、大規模でハイブリッドなCPSにおいては、以下のような理由から、そのような有向グラフの復元はしばしば非現実的となる：

• フィードバックループと部分観測性： 観測データから因果の方向性を特定することを困難にする。
• ハイブリッドな変数型： 連続変数（例：センサーの読み取り値）と離散変数（例：アクチュエータの状態）が混在している。
• スケーラビリティの問題： 既存のグラフベースの説明ツール（例：GNNExplainer）は、システムの次元が増加するにつれて、計算量や堅牢性の面で課題が生じる。
• モデルの誤設定： 分布の変化や敵対的な条件下での感度が高い。

本論文は、因果推論は望ましいものであるものの、有向因果構造の復元という厳格な要件が、複雑で現実的な産業環境への適用を制限していると主張している。

2. 手法

著者らは、統計力学に着想を得た新しいエネルギーベースのアトリビューション・フレームワークを提案している。本手法では、因果の連鎖をモデル化する代わりに、システムをエネルギー地形によって定義される無向グラフモデルとして表現する。

コア概念

• エネルギー関数 ($E(x)$): システムの状態 $x$ は、ボルツマン分布 $p(x) = \frac{1}{Z} \exp(-\beta E(x))$ を用いてモデル化される。
  • 低いエネルギー値は、正常なシステム挙動と一致する構成に対応する。
  • 高いエネルギー値は、異常、敵対的、または逸脱した状態に対応する。
  • エネルギー関数は、単項ポテンシャル $\phi_i(x_i)$ （固有の制約）と、二項ポテンシャル $\phi_{ij}(x_i, x_j)$ （相互作用）に分解され、これによりモデルはハイブリッドな連続および離散ドメインを扱うことができる。
• アトリビューション・メカニズム: 本フレームワークは、以下の3つの補完的な視点を通じて変数の影響を定量化する。
  1. 局所的感度（一次微分）: 変数に関するエネルギー関数の勾配の大きさ ($\Delta_i = |\frac{\partial E(x)}{\partial x_i}|$) を計算する。これは、局所的な摂動に対してシステムのエネルギー状態がどの程度敏感であるかを測定する。
  2. グローバル・アトリビューション（自由エネルギーとエントロピー）: 変数 $x_i$ を固定することが、グローバルな確率分布をどのように再形成するかを、自由エネルギー ($F(x_i)$) と条件付きエントロピーを用いて評価する。これは、単一の時点だけでなく、全分布にわたってシステムを安定または不安定な領域へと駆動し続ける変数を捉える。
  3. 二次曲率: エネルギー関数のヘッセ行列を分析し、影響の安定性と変数間の相互作用効果 ($\gamma_{ij}$) を測定する。これは、計算コストと解釈性のバランスを取るため、上位ランクの変数に対して選択的に適用される。

計算パイプライン

本フレームワークは、高次元のハイブリッド空間では計算が困難な条件付き期待値とエントロピーを近似するために、モンテカルロ推定（具体的にはメトロポリス・ヘイスティングス法）を採用している。アルゴリズムは以下の3段階で進行する：

1. すべての変数の局所的な勾配感度を計算する。
2. サンプリングを通じて、グローバルな自由エネルギーとエントロピーへの寄与を推定する。
3. 上位 $k$ 個の影響力のある変数に対して、二次曲率スコアを用いて説明を精緻化する。

3. 主な貢献

本論文は、主に3つの貢献を述べている：

1. エネルギーベースのフレームワークの定式化: 無向グラフ表現と統計力学に基づいた、依存関係を考慮したアトリビューション手法。これは、有向因果グラフの復元を必要とせずに、ハイブリッドなサイバー物理システムに対する解釈可能な説明を提供する。
2. SWaTにおける実証的評価: 産業用テストベッドであるSecure Water Treatment (SWaT) における徹底的な評価。本研究は、現実的なサイバー物理攻撃（例：タンクのオーバーフローにつながるセンサーのスプーフィング）が発生している際、支配的な寄与変数とそのダウンストリームへの影響を正確に特定できる本フレームワークの能力を実証している。
3. 優れたスケーラビリティと精度: 提案手法が、システムの規模が増大しても、GNNExplainerのような最新のグラフベースの手法よりも高い説明精度と、大幅に優れた計算スケーラビリティを達成することを示す比較分析。

4. 実験結果

フレームワークは、不均一なセンサー測定値、アクチュエータ状態、および制御信号を含むSWaTデータセットを用いてテストされた。

• アトリビューション精度:
  • Precision@k: エネルギーベースの手法は、システムサイズが増加しても、トップランクで根本原因（侵害されたセンサー）を正しく特定し、ほぼ完璧な Precision@1 を達成した。対照的に、GNNExplainer の Precision@1 は、すべてのシステムサイズにおいてゼロに近い状態であった。
  • AUC-PR: 提案手法は、GNNExplainerと比較して、一貫して高い精度・再現率曲線下面積 (AUC-PR) を維持した。GNNExplainer の性能はシステム次元の増加とともに急激に低下したが、エネルギーベースの手法は堅牢性を維持した。
• 摂動に対する堅牢性:
  • 加法的なガウスノイズが付加された場合でも、エネルギーベースのフレームワークは高い堅牢性スコア（アトリビューション・スコアの安定性）を維持した。
  • GNNExplainer は、ノイズを含むデータに対してインスタンス固有のマスクを最適化することに依存しているため、おそらく堅牢性の急速な劣化と高い変動性を示した。
• スケーラビリティ:
  • 実行時間: 提案フレームワークは、疎なグラフにおいて線形スケーラビリティ $O(nMd)$（$n$は変数、$M$はサンプル、$d$ はグラフ次数）を示した。
  • 比較: GNNExplainer は超二次スケーリング $O(Kn^2)$ を示し、変数の数が増えるにつれて実行時間が大幅に長くなる結果となった。

5. 意義と主張

本論文は、その貢献を、モデル中心の説明可能性（訓練された予測器の説明）から、システム中心の説明可能性（物理システムの基礎となる生成ダイナミクスの説明）への転換として位置づけている。

• 原理に基づいた解釈可能性: 統計力学を活用することで、本フレームワークは、訓練依存的な説明器の「ブラックボックス」的な性質を避け、ノイズや敵対的な条件下でも堅牢な、統一されたアトリビューション・メカニメントを提供する。
• ハイブリッドシステムの処理: 本手法は、多くの既存手法が苦慮する、IIoTにおける共通の課題である混合された連続変数および離散変数を自然に受け入れる。
• 実用的な有用性: 著者らは、本フレームワークが重要なインフラにおける迅速かつ信頼性の高い故障診断を可能にし、ダウンタイムや安全リスクを軽減できる可能性があると主張している。これは、人間の解釈とダウンストリームの診断タスクを支援する「依存関係を考慮した」説明を提供する。
• 限界と範囲: 著者らは、得られるアトリビューションは、システムの基礎となる生成ダイナミクスや、パール的な意味での有向因果グラフを完全に復元することを意図したものではないことを明示している。むしろ、因果の方向性は、観測データのみから学習されるのではなく、ドメイン知識と事象の時系列的な進行を通じて推論される、価値のある構造的説明を提供するものである。

本研究は、このアプローチが、複雑で現実的な環境における構造的アトリビューションのための、スケーラブルで解釈可能な代替案を提供し、産業用IoTを超えて他の社会技術システムにも拡張可能であると結論付けている。