GRALIS: A Unified Canonical Framework for Linear Attribution Methods via Riesz Representation

本論文は、リース表現定理に根ざした統一数学フレームワークであるGRALISを導入し、線形帰属手法の標準形を確立するとともに、個々のXAI手法が欠く完全性、収束性、および多スケール相互作用に対する形式的保証を提供し、14の公理的性質のうち13.5を同時に満たす。

要約

非常に賢明だが謎めいた、「ブラックボックス」型のコンピュータプログラム（深層ニューラルネットワーク）を想像してください。それは乳房組織のサンプル画像を見て、良性か悪性かを判断します。あなたが知っているのは「何」と判断したかだけで、「なぜ」そう判断したかは全くわかりません。まるで医師が診断を下すのに、X 線画像を見せたり、その reasoning を説明したりすることを拒むようなものです。

これを解決するため、科学者たちは「説明可能な AI（XAI）」ツールを発明しました。これらはブラックボックスの論理を説明しようとする、さまざまな通訳者だと考えてください。しかし、これまでこれらの通訳者は完全に異なる言語を話していました：

• GradCAM は、勾配を用いて画像上の「ホットスポット」を指し示します。
• SHAP は、「もしこの特徴量を取り除いたらどうなるか？」というゲームを行います。
• LIME は、特定の画像の周りに単純な局所的な地図を作成します。
• Integrated Gradients は、空白の画像から実際の画像へと至る経路を追跡します。

問題は、それらの答えを比較できなかったことです。これは、変換式なしでマイルで描かれた地図とキロメートルで描かれた地図を比較しようとするようなものです。

登場：GRALIS、万能通訳者

この論文は、GRALIS（Gradient-Riesz Averaged Locally-Integrated Shapley）を紹介します。GRALIS を単なる新しいツールではなく、これらすべての異なる通訳者が実際には同じ基盤となる言語を話しており、ただアクセントが異なるだけであることを証明するマスターフレームワークとして捉えてください。

ここが核となるアイデアです。簡単な比喩を用いて分解してみましょう：

1. 「万能レシピ」（正準形）

著者たちは、GradCAM、SHAP、LIME、Integrated Gradients の具体的なトリックを取り除けば、それらすべてが全く同じ数学的なレシピに従っていることを発見しました。それらはすべて、重み付き平均の貢献度を計算しているに過ぎません。

AI の意思決定を説明するためのスムージーを作ると想像してください。

• 材料（$\Delta$）： これらは「限界貢献度」です。特定の特徴量（ピクセルやピクセルのグループなど）を追加することが、AI の判断をどの程度変えたか？
• レシピブック（$w$）： これらは「重み関数」です。各材料にどの程度の重要性を与えるかを決定します。
• ブレンダー（$Q$）： これらは「インデックス空間」です。すべてを混ぜ合わせる容器です。

GRALIS は、AI の意思決定を説明するいかなる公平で線形かつ連続的な方法も、このスムージーレシピの形をとらなければならないことを証明します。これは、有名な数学定理であるリース表現定理に基づいており、本質的には「何かを公平かつ連続的に測定したいなら、この方法で行わなければならない」ということを示しています。

2. 「壊れたツール」の修復

この論文は、古いツールが平坦なタイヤや壊れたエンジンを持つ車のような特定の欠陥を持っていたことを指摘しています：

• GradCAM には「ReLU」フィルター（負の値をカットするフィルター）がありました。著者たちは、このフィルターが数学を破綻させ、他のツールとの比較を不可能にしていると述べています。彼らはこのフィルターを取り除いた「線形化」されたバージョン（GradCAM-lin）を提案し、それを万能レシピに適合させます。
• LIME は、予算が合わないように、しばしば総予測値に合致しないことがありました。GRALIS は「完全性」の公理が満たされるようにすることでこれを修正します。
• SHAP は「曲率」（特徴量がどのように滑らかに相互作用するか）を無視していました。GRALIS は、始点と終点だけでなく、特徴量間の経路を見ることでこのギャップを埋めます。

3. 「連合ゲーム」

この論文の最も素晴らしい洞察の一つは、相互作用をどのように扱うかという点です。
人々がどのように協力するかによって成功が決まるチームプロジェクトを想像してください。

• 古い手法は通常、「A さんはどの程度貢献しましたか？」と尋ねるだけでした。
• GRALIS は、「A さんが B さんと協力したとき、A さんはどの程度貢献しましたか？A、B、C が一緒に働いたときはどうですか？」と尋ねます。

これは、画像を協力ゲームに変えることで行われます。ピクセルを「連合」（スーパーピクセルなど）にグループ化し、各グループが最終スコアにどの程度寄与するかを正確に計算します。この論文は数学的に、GRALIS がこれらの「相互作用値」を近似ではなく正確に計算することを証明しています。

4. 「マルチスケール」の視点

時には、遠くから（全体像を）見る必要があり、時には近くから（詳細を）見る必要があります。

• 古い手法は通常、一つのスケールを選びました。
• GRALIS にはMS-GRALIS（Multi-Scale GRALIS）という機能があります。これは、異なる詳細レベル（ズームインとズームアウトのように）で画像を見つめ、「最適重み」を用いてそれらを組み合わせます。これは、広角ショット、ミディアムショット、クローズアップを撮影し、重要な詳細を見逃さないようにそれらを完璧にブレンドする写真家のようです。

5. 「証明」（定理）

この論文は単に「これは機能する」と言うだけでなく、以下のことを保証する7 つの形式的な定理（数学的証明）を提供しています：

• 完全性： 説明は意思決定の 100% に合致します。
• 収束性： 計算を何度も実行すれば、答えは真実に近づきます（既知の誤差範囲付き）。
• 一意性： この式を書く正しい方法は一つだけです。
• 相互作用： 特徴量が互いにどのように影響し合うかを正確に計算します。

6. 「試運転」

著者たちは、乳がん画像の現実世界のデータセット（BreaKHis）でこれをテストしました。彼らは単に「見た目が良い」と言うだけでなく、AI が強調した「重要な」部分を削除したときに、実際に AI の予測が変化するかどうかを確認しました。

• 結果： 彼らがトップで強調された領域を削除すると、AI の「悪性」という診断への信頼度が大幅に低下しました（96% の場合）。これは、このツールが単に推測しているのではなく、実際に正しい場所を見つけていることを証明しています。

まとめ

GRALIS は、「AI を説明するこれらすべての異なる方法は、実際には異なるレンズを通して見た同じものである」と述べる数学的な統合です。それは、古いツールの欠陥を修正し、それらを公平に比較可能にし、説明が数学的に堅牢で完全であり、特徴量がどのように協力して働くかを検出できることを保証する、単一の厳密なフレームワークを提供します。

それはついに、言語のさまざまな方言が実際には同じ言語であることを realization し、今やそれらすべてを完璧に翻訳する辞書を手に入れたようなものです。

技術概要

技術的概要：GRALIS – 線形アトリビューション手法のための統一標準的枠組み

1. 問題提起

深層ニューラルネットワークにおける説明可能 AI（XAI）の分野は現在、断片化されています。GradCAM、SHAP、LIME、および統合勾配（IG）などの主要なアトリビューション手法は、それぞれ異なる理論的基盤上で動作しており、形式的に比較不可能です。この断片化により、異なる手法からのアトリビューションマップを体系的に比較または統合することができず、手法の選択は厳密さではなく経験則に基づいて行われることになります。

これらの手法を統一しようとする以前の試みは部分的なものでした：

• Ancona らは、勾配ベースの手法（GradCAM など）が「勾配 × 入力」という線形形式で表現できることを示しましたが、この構造が必須であることを証明したわけでも、SHAP や LIME を含めたわけでもありません。
• Covert と Leeは、シャ普利ゲームを通じて LIME、SHAP、IG を統一しましたが、その枠組みに必要な線形性を侵害する集約後の ReLU 関数のため、GradCAM は除外されました。

その結果、文献には 6 つの構造的なギャップが残っています：

1. 任意の基準点： IG は固定された基準点に依存しており、その選択によって結果が劇的に変化します。
2. 無視された曲率： SHAP は連合を比較しますが、それらの間の経路（曲率）を無視します。
3. 完全性の欠如： LIME の係数は必ずしもモデルの出力差に合計されません。
4. 空間的制限： GradCAM は CNN の特徴マップに限定され、密結合層やトランスフォーマーには適用されません。
5. 相互作用の欠落： ほとんどの手法は周辺アトリビューションを生成し、統合された特徴間の相互作用を捉えられていません。
6. マルチスケール集約の欠如： 数学的に最適な重みで抽象化レベル全体にわたるアトリビューションを集約する手法は存在しません。

2. 手法：GRALIS 枠組み

本論文は、GRALIS（Gradient-Riesz Averaged Locally-Integrated Shapley）を提案します。これは、リース表現定理に由来する唯一の標準的構造の下で、線形加法的アトリビューション手法を統合する数学的枠組みです。

標準形式

GRALIS は、$L^2(Q, \mu)$ 内のすべての加法的、線形的、かつ連続的なアトリビューション汎関数が、以下の一意の標準的表現を許容すると仮定します：
$$\phi_i(f, x, x') = \int_Q w(q) \cdot \Delta_i(f, x, x', q) \, d\mu(q)$$
ここで：

• $Q$ は積分インデックス空間（例：経路、連合、または特徴マップ）です。
• $w(q)$ は重み関数です。
• $\Delta_i$ は特徴 $i$ の限界貢献度です。

この形式は、既存の手法を特殊ケースとして包含します：

• GradCAM-lin： 集約後の ReLU を除去した GradCAM の線形化版であり、ここで $Q$ はチャネルと位置を表します。
• SHAP： ここで $Q$ は連合を表します。
• LIME： ここで $Q$ は局所的な摂動を表します。
• 統合勾配（IG）： ここで $Q$ は積分経路を表します。

主要なアルゴリズム的構成要素

1. 条件付き積分経路： 大域的な経路全体を積分する標準的な IG と異なり、GRALIS は特定の連合 $S$ に条件付けられた経路を積分します。$S$ 以外の特徴は積分中に基準点に留まり、その連合に固有の曲率を捉えます。
2. GRALIS-MC： 正確なシャ普利値の指数関数的複雑さ（$O(2^n)$）に対処するため、本論文はモンテカルロ近似を導入します。これにより、モンテカルロサンプリング誤差（$O(1/\sqrt{m})$）とリーマン積分誤差（$O(1/k)$）を組み合わせた明示的な誤差 bound を伴い、複雑さを $O(m \cdot n \cdot k)$ に削減します。
3. 相互作用値： GRALIS は、可測な射影 $\rho$ を通じて連続空間から協力ゲーム $v_G$ を誘導します。これは近似するのではなく、メビウス変換を用いてこの誘導されたゲーム上で**シャ普利相互作用値（SIVs）**を正確に計算します。
4. マルチスケール拡張（MS-GRALIS）： 複数の層を持つモデルの場合、GRALIS は逆分散重み付けから導出された重み $\lambda_\ell$ を用いてアトリビューションを集約し、アトリビューションの総分散を最小化します。

3. 主要な貢献と理論的保証

本論文は、個々の手法には欠けていた保証を提供する 7 つの形式的な定理を確立します：

• T1（統一標準形式）： リース定理を用いて、積分形式 $(Q, w, \Delta)$ が、任意の加法的、線形的、かつ連続的なアトリビューション汎関数に対する必須かつ一意の表現であることを証明します。
• T2（正確な完全性）： アトリビューションの合計がモデル出力と基準点の差（$f(x) - f(x')$）に等しいことを保証します。
• T3（収束）： サンプリングと経路離散化の両方に対する明示的な誤差項を示す、GRALIS-MC の収束 bound を提供します。
• T4（正確な SIVs）： GRALIS が誘導された協力ゲーム $v_G$ 上でシャ普利相互作用値を正確に計算することを示し、相互作用推定においてしばしば見られる循環性や近似を回避します。
• T5（ホエディング ANOVA）： 特徴の独立性の下では、GRALIS の項がホエディング関数分解と一致することを示します。
• T6（ソボル指数）： ソボル感度指数が GRALIS の局所的な極限ケースであることを確立します。
• T7（マルチスケール最適化）： 逆分散重み付けがマルチスケール集約のための最適重みを提供することを証明します。

代数的正当性： 付録 X は、メビウス変換を用いて、連続的な GRALIS 積分と離散的なシャ普利相互作用値との対応を厳密に正当化し、GRALIS が有効な協力ゲーム $v_G$ を構築し、それに対して SIVs を正確に計算することを証明しています。

4. 実験的検証

本論文は、BreaKHis データセット（1,187 枚の画像）を使用した乳癌組織分類タスクと、知識蒸留で訓練された DenseNet-121 モデルを用いた予備的な検証を報告しています。

• 実装： SLIC 超ピクセルセグメンテーション（$n_{seg} \approx 25$）、反対対サンプリングを用いた 30 回のモンテカルロ置換、および 10 回の積分ステップを使用しました。
• 忠実度： 超ピクセルの削除を通じて評価されました。悪性画像の場合、上位アトリビューションを持つ超ピクセルを削除すると、96% のケースで悪性に対する信頼度が低下しました（平均低下 +0.025 から +0.027）。良性画像の場合、その効果は対称的であり、理論的に整合していました（良性の証拠を削除すると悪性に対する信頼度が増加）。
• 指標：
  • SAL（セリエンシー）： 0.762（意味的に一貫した領域を識別）。
  • コンパクトネス（$\phi_{active}$）： 0.39（特徴空間のバリエーションに対して 19 倍の改善）。
  • 削除 AUC： 予備的な推定では、悪性画像に対して正の AUC、良性画像に対して対称的な負の AUC が示され、クラス条件付き構造と一致していました。

注：著者は、ベースライン手法（GradCAM、KernelSHAP、LIME、IG）に対する完全な比較ベンチマークは、 companion paper で計画されていると明記しています。

5. 意義と主張

本論文は、GRALIS が線形アトリビューション手法に対する統一数学的正当性を提供することで、XAI の断片化を解決すると主張しています。その意義は以下の点にあります：

1. 形式的統一： GradCAM（線形化版）、SHAP、LIME、IG を、単一の必須標準形式の下で同時に包含する最初の枠組みです。
2. 構造的完全性： 完全性、感度、局所性、および正確な相互作用を含む、既存のどの手法よりも広範な公理的性質（論文の構造的比較では 14 中 13.5）を満たします。
3. 理論的厳密さ： 経験的観察を超えて、線形性が加法的アトリビューションのための構造的必然性であることを証明し、勾配ベース手法とゲーム理論的手法の間の「ギャップ」を解消します。
4. 最適性： マルチスケール集約のための、数学的に導出された最適重みを初めて提供します。

著者は、実験的範囲については控えめな立場を維持しており、現在の検証は単一のデータセットとアーキテクチャにおける概念実証であることを認めています。彼らは、理論的貢献（定理 1〜7）が、経験的結果とは無関係に、述べられた線形性と連続性の条件の下で無条件に成立することを強調しています。この枠組みは、リース表現の条件の範囲外である標準的な GradCAM（ReLU 付き）やアテンションマップなどの非線形手法をカバーしていません。これは著者が将来の課題として明示的に指摘している限界です。