技術要約: ProtoQuant

1. 問題提起

ディープラーニングモデル、特に医療診断や自動運転のような高リスクな領域におけるモデルは、固有の不透明性に悩まされている。説明可能なAI（XAI）は、事後的な手法（例：Grad-CAM）や、事前的な手法（自己説明型）を導入してきたが、後者、特にプロトタイプ・パーツ・ネットワーク（PPN）は、決定的な限界に直面している：

• プロトタイプのドリフトと接地性の欠如: 既存の手法は、訓練分布における具体的かつ実現可能なパッチに対応しない潜在ベクトルを学習することが多い。これらのプロトタイプはドリフトしやすく、実際の視覚的概念を表現できなくなる。
• 表現の不安定性: 入力画像への小さな摂動が、最高に活性化するプロトタイプの劇的な変化を引き起こし、人間の知覚と矛盾する不安定なモデルの決定を招く。
• スケーラビリティと計算コスト: ほとんどのプロトタイプ型アーキテクチャは、ImageNetのような大規模なデータセットへの汎用性に苦慮している。さらに、許容可能な精度を得るために、バックボーンネットワーク全体の高コストなファインチューニングを必要とすることが多く、現代の凍結された基盤モデルへの適用を制限している。

2. 手法: ProtoQuant

ProtoQuantは、凍結された事前学習済み画像分類器の「ヘッド」として機能するように設計された、解釈可能なフレームワークである。本手法は、ベクトル量子化を通じて接地性と安定性の問題に対処する。

コアアーキテクチャ

本モデルは、標準的な分類ヘッドを、凍結されたバックボーン $\phi$ の概念ベースのモジュールに置き換える。プロセスは以下の通りである：

1. 凍結されたバックボーン: 事前学習済みのバックボーン（CNNまたはViT）が特徴マップ $\phi(x)$ を抽出する。バックボーンのパラメータは訓練中、固定されたままとなる。
2. 概念コードブック学習 (ステージ1):
   • ベクトル量子化変分オートエンコーダ（VQ-VAE）のメカニズムを用いて、離散的なコードブック $C = \{c_1, ..., c_m\}$ が学習される。
   • バックボーンからの特徴ベクトル $z_{ij}$ は、コサイン類似度に基づいて最も近いコードブックのエントリに割り当てられる。
   • コードブックのベクトルのみがコードブック損失（$L_{codebook}$）を通じて更新され、バックボーンの埋め込みは勾配を受け取らないよう停止される。これにより、連続的な潜在空間が有限の視覚的プリミティブの語彙へと離散化される。
3. 概念ベースの予測ヘッド (ステージ2):
   • マッチング: 特徴ベクトルは、温度パラメータ $\alpha$ を持つシャープなソフトマックスを用いてコードブックと照合され、概念活性化マップを生成する。
   • 集約: 概念存在スコア（$s$）を得るために、空間最大プーリングが適用される。
   • 分類: 非負の分類行列 $W$ が、概念スコアをクラス・ロジット（$\hat{y} = Ws$）へと写像する。

訓練レジーム

本手法は、2段階の訓練プロセスを採用している：

• ステージ1 (教師なし接地): コードブックは、凍結されたバックボーンの特性分布を捉えるように、教師なしで訓練される。
• ステージ2 (教師あり推論): 元のヘッドが解釈可能なヘッドに置き換えられる。コードブックは凍結され、分類行列 $W$ が標準的なクロスエントロピー損失を用いて訓練される。このステージでは、解釈性を高めるために、バックボーンの再学習なしでプロトタイプを選択する「プルーニング（枝刈り）」が可能となる。

3. 主な貢献

• 量子化に基づく接地性: 特徴空間を高安定な概念のコードブックへと離散化するメカニズムを導入し、プロトタイプがバックボーンの更新を必要とせずに、訓練データに対して忠実な表現であることを保証する。
• バックボーン非依存性: 凍結されたバックボーン（CNNおよびViTの両方）に対する効率的で解釈可能なヘッドとして機能するように設計されており、全パラメータのファインチューニングなしで現代的なアーキテクチャへのシームレスな統合を可能にする。
• スケーラビリティ: プロトタイプによる推論が、高い忠実度を持って大規模なデータセット（ImageNet）にスケールできることを実証し、解釈性と予測性能の間のギャップを埋める。
• 構造的編集可能性: 離散的なコードブックの使用により、「概念のプルーニング」や特定の項目の無効化といった即時の構造的編集が可能になり、高価な再学習なしでのモデルデバッグを容易にする。

4. 実験結果

著者らは、ImageNet-1Kおよび細粒度ベンチマーク（CUB-200, Cars-196, Dogs, Flowers）を用いてProtoQuantを評価した。

• 表現の安定性: 空間的不整合（Spatial Misalignment）ベンチマークにおいて、ProtoQuantは他のPPNを大幅に上回る。非常に高いAccuracy Change (AC) スコア（ViTで0.35、ConvNeXtで1.73）を達成し、Prototype Activation Change (PAC) を劇的に減少させており、入力の摂動に対する堅牢性を示している。
• 分類精度:
  • 細粒度分類: ProtoQuantは、CUB-200、Cars、Dogs、Flowersにおいて、最先端の解釈可能な手法（例：PIP-Net、InfoDisent）と比較して、同等または優れたTop-1精度を達成しており、多くの場合、バックボーンをファインチューニングする手法を上回っている。
  • ImageNet: ProtoQuantは、ResNet-50で77.86%、ConvNeXt-Largeで82.87%の精度を達成した。これは、InfoDisentのような競合手法と比較して、アンテホック（事前型）手法と非解釈的なブラックボックス・ベースラインとの間の性能差を大幅に縮小させている。
• 意味的純度: ProtoQuantは、凍結されたバックボーン制約下において、他の手法と比較して競争力のあるプロトタイプ純度（0.47）を示しており、量子化された概念が人間の注釈によるパーツとよく一致していることを検証している。
• 効率性: 凍結されたバックボーン上でProtoQuantを訓練することで、バックボーンのファインチューニングを伴うフルモデル訓練と比較して、エポック時間を約47.6%削減できる。

5. 重要性と主張

本論文は、ProtoQuantを、現在のプロトタイプ・パーツ・ネットワークに固有の「プロトタイプ・ドリフト」およびスケーラビリティの課題に対する解決策として位置づけている。その主な意義は以下の通りである：

• 接地された解釈性: 決定を訓練分布から直接導出された検証可能な視覚的概念の語彙に固定することで、説明が抽象的な潜在的なアーティファクトではなく、実際のデータに基づいていることを保証する。
• 実用的な展開: 凍結された基盤モデルに解釈可能なヘッドを装着できる能力により、本手法は計算効率が高く、フル・ファインチューニングが困難な高容量アーキテクチャにも適用可能である。
• 高リスク領域における信頼: 「これはこれに似ている」という推論と安定した活性化を組み合わせることで、実務家がモデルが臨床的に関連のある特徴に注目していることを検証できるようにし、より透明で責任あるAIシステムの展開をサポートする。

著者らは、離散的なコードブックへの依存が、連続空間と比較して表現の柔軟性を制限する可能性があることを認め、コードブックサイズの自動選択や高度なプルーニングに関する今後の研究を示唆している。