技術要約: DAVE – ViTの勾配分解による分布認識型アトリビューション

1. 問題提起

Vision Transformer (ViT) はコンピュータビジョンにおいて最先端の性能を達成しているが、説明可能なAI (XAI) の観点からは重大な課題を抱えている。CNNとは異なり、ViTはアテンションメカニズムを用いて画像をパッチ・トークンのシーケンスとして処理する。このアーキテクチャは、アトリビューション・マップに以下のような特有のアーティファクトを導入する：

• 構造的アーティファクト: 勾配ベースおよびアテンションベースの説明は、トークン化とアテンション・ルーティングに起因する格子状のパターンや「パッチ・グリッド」のアーティファクトを示すことが多い。
• 不安定性: 既存の手法は、しばしば不安定なピクセルレベルのアトリビューションを生じさせるか、あるいは微細な視覚的証拠を欠いた粗いパッチレベルの説明に頼らざるを得ない。
• 感度: 標準的な勾配ベースの手法は、入力に対する有効な入出力変換と、入力に対するオペレータの変動の両方を捉える。後者は高周波で局所的に不安定な成分を増幅させることが多く、ノイズの多い説明を招く。

本論文は、ViTにおいて安定した高解像度かつクラス一貫性のあるアトリビューション・マップを得ることは依然として困難な課題であり、真のセマンティックな特徴をアーキテクチャ由来のノイズから分離できる手法が必要であると主張している。

2. 手法: DAVE

著者らは、入力勾配を分解してモデルの安定した有効な変換を孤立させる、数学的に裏付けられたフレームワークである DAVE (Distribution-aware Attribution via ViT Gradient Decomposition) を提案する。

2.1. 構造化勾配分解

核心となる理論的貢献は、層の微分（derivative）の分解である。著者らはViTの層を、微分可能なオペレータ値写像 $L(X)$ とバイアスに続くものとしてモデル化している。層 $F(X)$ の微分は、以下の2つの異なる項で構成されることが示されている（式3）：

1. 有効な変換 ($L(X)$): 入力に対する層の直接的かつ入力条件付きの作用。これは予測に使用される安定したマッピングを表す。
2. オペレータの変動: 入力に対するオペレータ $L(X)$ の微分。この項は、内部メカニズムが微小な摂動の下でどのように変化するかを捉え、高周波の不安定性とアーティファクトの源泉として特定される。

DAVEは、オペレータの変動項を破棄し、有効な変換のみをベースラインのアトリビューション信号として保持する。

2.2. 等変フィルタリング (Equivariant Filtering)

入力に対しては安定しているものの特定の予測には情報を持たないアーキテクチャ由来のパターン（パッチ埋め込みによるグリッド・アーティファクトなど）に対処するため、DAVEはReynoldsに着想を得たオペレータを適用する。

• 等変性基準: 本手法は、アトリビューション・マップが入力の小さな空間的変換（回転、シフトなど）の下で一貫して変換されるべきであると仮定する。
• フィルタリング: 確率測度 $\nu$ からサンプリングされた局所的な空間変換の近傍にわたって有効な変換を平均化することにより、Dにもたらされる成分を抑制する。これにより、入力のセマンティックな内容と一貫して変化するアトリビューション信号を孤立させる。

2.3. 低域通過安定化 (Low-Pass Stabilization)

高周波アーティファクトをさらに抑制するために、DAVEは低域通過フィルタリング操作を適用する。これは、小さなガウス摂動 ($\epsilon$) の下での等変な有効変換の期待値を取ることによって達成される。

• 数学的には、これは等変な変換を平滑化カーネル $K$ で畳み込むことと同等である（式7）。
• SmoothGrad（生の勾配を平均化する）とは異なり、DAVEは有効な変換を平均化するため、破棄されたオペレータ変動のアーティファクトを再導入することなくアトリビューションを安定化させる。

2.4. 最終的なアトリビューション・マップ

最終的なDAVEアトリビューション・マップは、要素ごとの乗算を通じて、分布認識型の有効な変換を入力に適用することで計算される：
$$\text{DAVE}(X) = \tilde{W}^{eq}_L(X) \odot X$$
ここで、$\tilde{W}^{eq}_L(X)$ は空間的変換とノイズの下での変換された有効オペレータの期待値である。

3. 主な貢献

1. 数学的フレームワーク: 有効な入出力変換とオペレータ変動を分離する入力勾配の構造化された分解を提供し、安定したViTアトリビューションのための理論的基礎を提供する。
2. DAVEアルゴリズム: パッチおよびアテンションに起因するアーティファクトを抑制し、安定した高解像度のピクセルレベルのアトリビューションを生成する、Vision Transformerのための実用的な実装。
3. 汎用性: 本手法が、完全教師あり学習（例：DeiT, ViT）および自己教師あり学習（例：DINO）の基盤モデル、さらには本質的に解釈可能なアーキテクチャ（B-cosネットワーク）の両方で効果的に機能することを実証している。

4. 実験結果

著者らは、標準的なViTバックボーン（ViT-B/16, DeiT-B/16, DeiT-III-B/16, DINO ViT-B/16）およびB-cosモデルを用いて、ImageNet-1k上でDAVEを評価した。

4.1. ローカリゼーション性能

• Grid Pointing Game (GridPG): DAVEはすべてのベースライン（I×G, Integrated Gradients, SmoothGrad, LeGrad, AttnLRP, Chefer-LRPを含む）を上回った。
  • DeiT-III-B/16において、DAVEは65.76%を達成し、競合する最高の手法に対して11.92パーセントポイント向上した。
  • DeiT-B/16において、63.52%（+8.05 p.p. 向上）を達成した。
• Energy Pointing Game (EnergyPG): DAVEはDeiT-B/16 (82.23%) および DeiT-III-B/16 (82.43%) で最高のスコアを記録し、DINO-B/16においても大幅に改善した（83.38%）。
• B-cos モデル: DAVEはB-cosネットワークの固有の説明を改善し、B-cos-ViTにおけるEnergyPGで**+9.14 p.p.**の向上を達成した。

4.2. 忠実度 (Pixel Deletion)

• ピクセル削除曲線（重要度の低い順にピクセルを除去する）を用いた実験において、DAVEは最も平坦な曲線を示した。これは、ピクセルが除去されてもモデルの予測信頼性がより長く安定していることを示しており、DAVEのアトリビューションが従来のメソッドと比較して、モデルの実際の意思決定プロセスとより一致していることを示唆している。

4.3. 定性的分析

• 視覚的な比較により、DAVEは背景ノイズを抑え、よりシャープでオブジェクトに整合したマップを生成することが示された。
• SmoothGradやIntGradなどのベースラインが拡散した応答やパッチ・グリッドのアーティファクトを示すことが多いのに対し、DAVEは様々なViTバリアントにわたって、セマンティックに意味のある特徴（輪郭、特徴的な部位など）を一貫して強調した。

5. 意義と主張

本論文は、DAVEが安定、高解像度、かつクラス一貫性のあるアトリビューション・マップを生成するメカニズムを提供することで、ViTの説明可能性における決定的なギャップを埋めるものであると主張している。

• 信頼性: 有効な変換を孤立させ、オペレータ変動とアーキテクチャ由来のアーティファクトを抑制することにより、DAVEは高容量のビジョンモデルを監査するためのより信頼できるメカニズムを提供する。
• 適用可能性: 本手法は、人間の知覚と一致する視覚的証拠を提供することで、モデルのバイアスを特定し、誤分類をデバッグし、人間とAIの協調を強化するためのツールとして提示されている。
• 謙虚さ: 著者らは、平均化オペレータが生の勾配手法と比較して高い計算コストを導入することを認めている。彼らは、将来の研究として、コストを削減するために、より効率的なサンプリングや変換グループの自動選択に焦点を当てることが可能であると示唆している。

要約すると、DAVEはViTの予測の「信号」をそのアーキテクチャの実装による「ノイズ」から分離するための数学的に厳密なアプローチを提供し、空間的に精密かつ堅牢な説明を実現している。