技術的要約：事後型コンセプト・ボトルネック・モデルの忠実性について

問題提起

事後型コンセプト・ボトルネック・モデル（post-hoc CBM）は、潜在的な特徴量を解釈可能なコンセプト空間へと投影することで、不透明なディープラーニングの表現と人間の理解との間の溝を埋めることを目的としている。標準的なCBMとは異なり、事後型CBMはターゲットタスクに対して高密度なコンセプト注釈を必要としない。代わりに、(1) 補助的なコンセプトデータセット（例：Broden）または (2) ビジョン・ランゲージ・モデル（VLM）によって生成された代理コンセプトラベルに依存する。

本研究が扱う中心的な問題は、現在の評価手法が、これらのモデルの成功を判断するために下流タスクの精度に過度に依存している点である。著者らは、高い精度はコンセプトへの忠実性（concept faithfulness）——すなわち、学習された投影 $\pi_\theta$ が意図された意味的コンセプトを実際に抽出している度合い——を測る指標としては不十分であると主張している。経験的な証拠によれば、ランダムで意味を持たない投影であっても、（ジョンソン＝リンデンシュトラウスの補題に関連する情報保存特性により）競争力のある下流タスクの精度を達成できることが示唆されている。これにより、モデルが真にコンセプトを通じて推論しているのか、単に予測的なアーティファクトを利用しているだけなのかが不明瞭になっている。

手法

理論的枠組み

本論文では、忠実性を、投影 $\pi_\theta$ がバックボーンの活性化 $f(x)$ から真のコンセプト $c$ を復元する場合の、真のタスク分布 $P_{task}(x, c)$ 上の期待リスクの最小化として定式化している。著者らは、不忠実性の主な要因として以下の2点を特定している。

1. 補助データセットにおける共変量シフト： ターゲットタスク $X_{task}$ と異なる補助データセット $X_{aux}$ で $\pi_\theta$ を学習する場合、特徴空間における幾何学的なシフトが生じ、投影が無効になる可能性がある。著者らは、ドメイン適応理論 [8] に基づき、ターゲットの汎化誤差の上限を以下のように導出した。
   $$J_{task}(\theta; L_1) \leq J_{aux}(\theta; L_1) + \frac{1}{2}\hat{d}_{\mathcal{H}\Delta\mathcal{H}}(\mathbb{X}_{task}, \mathbb{X}_{aux}) + \Omega + \lambda_{ideal}$$
   彼らは、共変量シフト（$P(c|x)$ は一定だが $P(x)$ が変化する場合）を想定し、実用的な忠実性の指標として、ドメイン識別器を用いて近似された経験的な $\mathcal{H}\Delta\mathcal{H}$-ダイバージェンスを使用することを提案している。

2. 代理監督における系統的なラベルノイズ： VLMを用いて代理ラベル $\tilde{c}$ を生成する場合、不忠実性は単なる誤差の大きさからではなく、系統的な誤差から生じる。投影を多変量一般化線形モデル（GLM）としてモデル化することで、著者らは、真の目的関数の代理最適値における勾配が、代理誤差 $\delta(x) = \tilde{c}(x) - c^*(x)$ とバックボーンの活性化 $f(x)$ の外積に比例することを示している。

   • 忠実性の条件： モデルは、代理誤差が正確である（$\delta \approx 0$）、または期待値において活性化空間に対して直交している場合（$\mathbb{E}[\delta(x) \otimes f(x)] = 0$）に、忠実性を維持する。
   • 失敗モード： 系統的な誤差（例：VLMが「雲」が存在する際に一貫して「空」を予測する）は、非直交な誤差成分を生み出し、たとえ代理ラベルが平均的には正確に見えたとしても、不忠実な投影を招く。

提案される指標

著者らは、忠実性を予測精度から切り離すために、以下の指標を導入している。

• $\hat{d}_{\mathcal{H}\Delta\mathcal{H}}$ ダイバージェンス： 補助データセットを使用する際の共変量シフトによって導入される誤差のプロキシ。
• 代理誤差の直交性： 代理ラベルの誤差とバックボーンの活性化の間の絶対ピアソン相関係数 $|\rho|$。高い相関は系統的な失敗を示している。

実験設定

著者らは、以下のデータセットを用いてこれらの知見を検証している。

• 実世界のベンチマーク： CUB-200（鳥類）および CIFAR-10/100。
• 合成データセット： Elements [48]（形状、色、テクスチャの真のコンセプト注釈を提供し、アライメントを直接測定できる）。
• モデル： PCBM（補助データ）、LFCBM（VLMテキスト埋め込み）、VLG-CBM（グラウンデッド物体検出）を含む、様々な事後型CBMの実装。

主な結果

1. 精度は欺瞞的である： 実験により、ランダムなコンセプト投影が、意味のあるコンセプトソース（例：Broden, CLIP）で訓練されたモデルと同等の下流タスク精度を達成できることが確認された。ボトルネックの次元 $K$ が増加するにつれ、ランダムな投影は十分な幾何学的情報を保持し、下流の分類器が元の活性化を再構成することを可能にするため、精度は意味的なアライメントの信頼できないプロキシとなる。
2. 共変量シフトの影響： アウトオブドメインの補助データ（例：抽象的なパターン）で訓練されたモデルは、高い下流タスク精度を維持しているにもかかわらず、インドメインの訓練と比較して、コンセプトの忠実性（真のコンセプトに対するコサイン類似度で測定）が著しく低下する。提案された $\hat{d}_{\mathcal{H}\Delta\mathcal{H}}$ 指標は、この忠実性の低下と強く相関している。
3. 系統的ノイズ vs ランダムノイズ：
   • ランダムノイズ： 真のデータに25%のランダムなラベルノイズを加えると、誤差が平均化されるため（直交性が保持される）、忠実な投影が得られる。
   • 系統的ノイズ： VLM（CLIP, DINOv3, Grounding DINO）は、特定の機能と相関した系統的な誤差を導入する。例えば、Grounding DINOは白い背景上の幾何学的形状の扱いに苦戦し、相関した誤差を生み出すことで、不忠実な投影を招く。提案された相関指標は、標準的な精度指標が失敗を見逃す場面において、これらの失敗を正確に特定する。

意義と主張

本論文は、予測性能とは独立して、事後型CBMの忠実性を評価するための、初の厳密な理論的および経験的なフレームワークを提供すると主張している。

• 理論的貢献： ランダムな投影がどのようにして（多様体上のジョンソン＝リンデンシュトラウスの補題を介して）意味的な推論を模倣できるかを定式化し、代理監督が失敗する具体的な条件（誤差の直交性）を導出した。
• 実践的貢献： 標準的な精度ベースの評価では不可視である、共変量シフトや系統的なVLMバイアスといった不忠実な挙動を検出できる新しい指標を導入した。
• 示唆： 著者らは、下流の精度のみに依存することは、解釈可能性の「錯覚」を生み出すと主張している。真の解釈可能性には、提案された忠実性指標を用いることで、コンセプト投影 $\pi_\theta$ が人間の意味論と一致していることを直接検証することが不可 perlu である。

本研究は、新しい学習アルゴリズムを提案するものではなく、むしろ「ボトルネック」が、生の機能の圧縮された表現ではなく、真に人間が理解可能なコンセプトのボトルネックであることを保証するための、批判的な評価フレームワークを提供するものである。