🤖 machine learning

Comparing Linear Probes with Mahalanobis Cosine Similarity

本論文は、ガウス仮定の下で、分布外（OOD）のリファレンスプローブに対するマハラノビス・コサイン類似度が、線形プローブのOOD AUROCを線形に予測することを理論的に証明し、経験的に検証しており、プローブ間の比較において標準的なコサイン類似度に代わる優れた選択肢を提示している。

原著者： Zhuofan Josh Ying, Peter Hase, Nikolaus Kriegeskorte

公開日 2026-06-19

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Zhuofan Josh Ying, Peter Hase, Nikolaus Kriegeskorte

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

全体像：なぜ一部の「プローブ」は機能し、他のものは機能しないのか？

巨大で複雑な機械（大規模言語モデルのようなもの）を想像してみてください。その機械は、私たちには簡単には見えない数字とパターンの言語で思考しています。研究者たちは、この機械の内部を覗き見るために**「線形プローブ（linear probes）」**を使用します。プローブを懐中電灯の光に例えてみましょう。特定の概念（例えば、「この文章は真実か？」や「この人物は男性か？」など）について、機械が「考えている」かどうかを確認するために、特定の方向に光を当てるのです。

問題は、これらの懐中電灯が非常に壊れやすいことです。ある部屋（訓練データ）では完璧に機能する光の筋も、少し異なる部屋（新しいデータ）に入った途端に消えてしまうことがあります。研究者たちは、その懐中電灯がどのように作られたかを見るだけで、新しい部屋でも機能するかどうかを予測する方法を探しています。

旧来の手法 vs 新しい手法

2つの懐中電灯（プローブ）を比較するために、研究者は通常、**ユークリッド・コサイン類似度（Euclidean Cosine Similarity）**を用いて、それらの間の角度を測定します。

比喩： 2つのコンパスの針を比較していると考えてください。従来の手法は、単に針の間の角度を見るだけで、地図上のあらゆる方向を等しく重要であるとして扱います。
欠点： これは、ある方向には進みにくく（粘り気があり）、別の方向には進みやすい（滑りやすい）地形がある地図の上で、コンパスを比較しているようなものです。もし「粘り気」のある部分を無視してしまうと、比較は間違ったものになります。

著者らは、**マハラノビス・コサイン類似度（Mahalanobis Cosine Similarity: MCS）**と呼ばれる新しい手法を提案しています。

比喩： これは、地形の「粘り気」を考慮した特殊なメガネをかけながら、コンパスの針を比較しているようなものです。この手法は、データの形状に基づき、どの方向が重要（実際にデータが変化している方向）で、どれが単なるノイズであるかを加味して重み付けを行います。

大きな発見：完璧な直線

著者らは驚くべき発見をしました。
古いデータで訓練されたプローブと、新しいデータで訓練されたプローブを、この新しい「地形を考慮した」手法（MCS）で比較したところ、結果は完璧な直線になったのです。

比例： あなたが、2つの懐中電灯がどれほど似ているかを測る「定規（MCS）」を持っていると想像してください。この定規を使えば、その懐中電請が新しい部屋でどれほどうまく機能するか（その「汎化性能」）を正確に予測できます。
結果： MCSスコアが高ければ性能も高く、MCSスコアが低ければ性能も低くなります。この関係性は非常に強力で、まるで定規で引いた直線のように見えます（数学的には、 $R^2$ が0.98であり、ほぼ完璧です）。
対照： もし従来の「角度のみ」の手法（ユークリッド法）を使用した場合、点はバラバラに散らばり、予測不可能な雲のようになり、性能を予測することは不可能になります。

なぜこのようなことが起こるのか？（「S字カーブ」の魔法）

論文では、数学的な説明もされていますが、ここでは簡単に説明します。

信号対雑音比（SNR）： これは、データの「真実」がいかに「ノイズ」に対して大きいか、というものです。
2つの異なる形状：
- 性能（Performance）（プローブがどれほどうまく機能するか）は、S字型（シグモイド曲線）に従います。最初は緩やかに始まり、加速し、その後水平になります。
- MCSスコアもまたS字型に従いますが、これは少し異なる種類の曲線です。
打ち消し合い： これら2つのS字型を組み合わせると、それらは互いに打ち消し合います！一方の曲線の「曲がり」が、もう一方の曲線の「曲がり」を完璧に真っ直ぐにします。
- 比喩： あなたが左にカーブする丘を登っていると同時に、右に同じ速度でカーブするベルトコンベアの上を歩いていると想像してください。その結果、あなたは完璧に真っ直ぐな線を描いて進むことになります。

この数学的な「打ち消し合い」によって、類似度スコアと実際の性能との関係が直線になるのです。

ルールが崩れるとき

著者らは、この完璧な直線がいつ崩れるのかもテストしており、これによりルールの限界を理解することができます。

間違った地図（誤った共分散）： 「角度のみ」の手法（地形を無視する方法）を使用すると、直線は消えてしまいます。必ず「地形を考慮した」地図を使用しなければなりません。
不適切なコンパス（非フィッシャー・プローブ）： プローブが最適な数学的手法（単純な「平均の差」ではなく、より洗練されたもの）を用いて構築されていない場合、直線は乱れます。
微弱な信号（小さなフィッシャー距離）： 信号があまりに弱く、S字カーブがまだ曲がり始めていない場合、関係性は線形にはなりません。（ただし、テストされたモデルでは信号が十分に強かったため、この現象は起きませんでした。）
アンバランスなチーム： 片方のデータのグループが非常に大きく、もう片方が非常に小さい場合（例：猫が99%、犬が1%の場合）、直線は傾き、崩れてしまいます。

まとめ

問題： ツール（プローブ）を見ただけで、それが新しいデータに対して機能するかどうかを判断するのは困難です。
解決策： データの形状や「粘り気」を考慮したマハラノビス・コサイン類似度を使用することです。
結果： この手法は、類似度スコアと実際の性能との間に、ほぼ完璧な直線を作り出します。
教訓： 実際に新しいデータでプローブをテストしなくても、それが機能するかどうかを知ることができます。ただ、この特定の「地形を考慮した」定規を使って、参照用プローブとの類似度を測るだけでよいのです。

論文はこれを数学的に証明し、さまざまなAIモデル、それらの内部の異なるレイヤー、そしてさまざまな種類のタスク（真実性の確認やジェンダー判定など）において、これが機能することを示しています。予測不能で混沌とした問題を、クリーンで予測可能な直線へと変えたのです。

技術要約：線形プローブにおけるマハラノビス・コサイン類似性の比較

問題提起

線形プローブは、ニューラルネットワークの表現から概念を抽出するための、解釈可能性研究における標準的なツールである。しかし、その転移性能は極めて脆弱であることが知られている。イン分布（ID）データで訓練されたプローブは、否定やプロンプトのフォーマット変更といった微細な変化によるアウトオブ分布（OOD）シナリオにおいて、しばしば汎化に失敗する。重要な課題は、どのプローブが汎化するかを判断すること、および、ある分布では類似して見えるプローブがなぜ別の分布では乖離するのかを理解することである。

プローブを比較する現在の手法は、通常、ユークリッド・コサイン類似度（ECS）に依存している。しかし、ECSはすべての次元を等しく扱うが、実際にはデータが大きく変動する次元のみがプローブの性能に影響を与える。Yingら（2026）は、真実性（truthfulness）データセットにおいて、マハラノビス・コサイン類似度（MCS）——すなわち、内積をOODデータの共分散によって重み付けする手法——がOOD AUROCを線形に予測すること（ $R^2=0.98$ ）を経験的に観察したが、この知見には理論的な説明が欠けており、多様なモデル、レイヤー、または概念ドメインにわたる検証も行われていなかった。

手法

著者らは、MCSとOOD汎化性能の関係を説明し、検証するための理論的および経験的なフレームワークを提案する。

理論的フレームワーク

本論文では、OODデータで訓練された参照プローブに対するプローブのOOD AUROCと、そのMCSとの間の閉形式の関係を導出する。この導出は、以下の3つの標準的な統計的仮定に基づいている：

クラスの均衡: $Pr(Y=0) = Pr(Y=1) = 0.5$。
投影のガウス性: 特徴ベクトルを任意のプローブ方向に投影したものは、各クラスに対してガウス分布に従う。
共分散構造: 全共分散（ $\Sigma_{tot}$ ）は、プールされたクラス内共分散（ $\Sigma_{pool}$ ）とクラス間成分に分解される。

これらの仮定の下で、著者らは以下を証明している：

AUROCは、信号対雑音比（SNR） $s$ のシグモイド関数である： $AUROC = \Phi(s/\sqrt{2})$ 。
MCS（特にフィッシャー判別方向に対するもの）は、ソフトサイン形状の関数である： $MCS \approx s/\sqrt{4+s^2}$ （大きなフィッシャー距離 $z_{max}$ の極限において）。

核心となる理論的洞察は、これら2つの関数を合成することで、それぞれの非線形性（シグモイドとソフトサイン）が相殺され、結果としてAUROCとMCSの間にほぼ線形な関係が生じることである。この直線の傾きは、フィッシャー距離が大きいとき、理論的に約 $1/\sqrt{\pi}$ と予測される。

経験的評価

著者らは、この関係の経験的検証を以下の範囲に拡張して実施した：

モデル: Llama-3.3-70B, Llama-3.1-8B, Qwen2.5-7B。
レイヤー: Llama-70B内の様々なレイヤー（例：20, 33, 50, 65）。
ドメイン: 真実性、ジェンダー分類、および一般的なNLPベンチマークにわたる24のデータセット。
ベースライン: 標準的なユークリッド・コサイン類似度（ECS）との比較、および異なる共分散推定器（全共分散 vs プールされた共分散）の使用。

主な貢献

線形性の理論的証明: 本論文は、均衡したガウス投影クラスにおいて、OOD AUROCとMCSが線形関係にあることを示す閉形式の証明を提供している。これにより、以前観察された近パーフェクトな相関（ $R^2 \approx 0.98$ ）が説明される。
失敗モードの特性化: 理論は、この線形性が崩れる条件を明示的に予測しており、これらは経験的に検証されている：
- 全共分散（ $\Sigma_{tot}$ ）の代わりにプールされた共分散（ $\Sigma_{pool}$ ）を使用すると、線形性が失われる。
- 小さなフィッシャー距離（ $z_{max}$ ）は、普遍的な直線ではなく、タスク固有の傾きをもたらす。
- クラスの不均衡は傾きを急にする。
- フィッシャー方向から大きく逸脱するプローブ（例：単純な平均差プローブ）は、線形性の低下を示す。
経験的な汎用性: 本研究は、多様なモデル、レイヤー、概念ドメインにわたってMCS-AUROCの線形性を検証し、すべてのテスト条件下で $R^2 > 0.93$ を達成した。対照的に、ECSの性能は著しく低下し、一般的なNLPベンチマークでは $R^2$ が0.06まで落ち込む。
推定器への頑健性: 著者らは、この結果がフルサンプル共分散やLedoit-Wolf収縮法でも成立することを示す一方、対角近似では成立しないことを示し、オフダイアゴナル（非対角）な共分散構造の必要性を確認している。

結果

高い予測力: 8つの実験条件（モデル、レイヤー、ドメインの変化）全体を通じて、MCSに対するOOD AUROCの線形適合は $R^2 \geq 0.93$ を示した。
ECSに対する優位性: ECSは一貫して性能が低く、 $R^2$ は0.057（一般NLP）から0.723（ジェンダー）の範囲であったが、MCSは高い予測力を維持した。
理論との整合性: AUROC-MCS曲線の経験的な傾きは、理論的な中心の傾きである $1/\sqrt{\pi} \approx 0.564$ に密接に一致している。偏差は主に飽和領域（高いAUROC/MCS値）で見られるが、これは理論と一致する。
失敗モードの検証: シミュレーションと実データ実験により、仮定が違反された場合（例： $\Sigma_{pool}$ を使用すると $R^2$ が0.98から0.83に低下、平均差プローブを使用すると0.79に低下）に線形性が劣化することが確認された。

意義と主張

本論文は、マハラノビス・コサイン類似度が、線形プローブを比較するための理論的に根拠のある、タスクを考慮した代替手法であることを主張している。

メカニズム: すべての次元を等しく扱うECSとは異なり、MCSはOODデータの共分散によって内積を重み付けし、事実上、特定のタスクにとって実際に重要な部分空間においてプローブを比較する。
予測的有用性: この線形関係により、研究者はIDデータで訓練されたプローブの汎化性能（OOD AUROC）を、参照プローブ（またはフィッシャー方向のプロキシ）に対するMCSを測定するだけで予測できる。
より広い影響: 著者らは、このアプローチが、コサイン類似性に依存している現在の他の解釈可能性手法（ステアリング・ベクトルの比較、SAE特徴量の整列、概念方向のクラスタリングなど）にも利益をもたらす可能性があると示唆している。
限界: 著者らは、この手法には共分散と参照方向を推定するためのラベル付きOODデータが必要であること（ターゲット分布に対してラベルフリーではないこと）を指摘している。さらに、理論はフィッシャー型のプローブ（ロジスティック回帰、LDA）向けに調整されており、平均差プローブでは性能が低下する。また、評価は現在、自己回帰型LLMの残差ストリームにおける二値分類に限定されている。

要約すると、本研究は、MCSによるプローブの汎化予測の成功が偶然ではなく、信号対雑音比、ガウス投影、および共分散を考慮した類似度指標の間の幾何学的な相互作用の結果であることを確立している。