🤖 machine learning

Comparing Linear Probes with Mahalanobis Cosine Similarity

本文从理论上证明并从经验上验证了，在正态分布假设下，与分布外参考探针的马氏余弦相似度能线性预测线性探针的分布外 AUROC，从而为比较探针提供了一种优于标准余弦相似度的替代方案。

原作者： Zhuofan Josh Ying, Peter Hase, Nikolaus Kriegeskorte

发布于 2026-06-19

📖 1 分钟阅读☕ 轻松阅读

原作者： Zhuofan Josh Ying, Peter Hase, Nikolaus Kriegeskorte

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

大局观：为什么有些“探针”有效，而有些却无效？

想象你拥有一台巨大且复杂的机器（比如大型语言模型），它在一种我们无法轻易察觉的数字和模式语言中进行思考。研究人员使用**“线性探针”（linear probes）**来窥探这台机器内部。你可以把探针想象成一道手电筒的光束。你将光束投向一个特定的方向，以此观察机器是否正在“思考”某个特定的概念，例如“这句话是真的吗？”或者“这个人是男性吗？”

问题在于，这些手电筒的光束是很脆弱的。在同一个房间（训练数据）里表现完美的探测光束，一旦你走进一个略微不同的房间（新数据），光束可能就会熄灭。研究人员希望找到一种方法，仅仅通过观察手电筒是如何制造出来的，就能预测它在新的房间里是否能正常工作。

旧方法 vs. 新方法

为了比较两个手电筒（探针），研究人员通常使用**欧几里得余弦相似度（Euclidean Cosine Similarity）**来测量它们之间的夹角。

类比： 想象你在比较两个指南针的指针。旧方法只是观察指针之间的角度，认为地图上的每个方向都同样重要。
缺陷： 这就像是在一张某些方向“粘性很大”（难以移动）而另一些方向“非常滑溜”（易于移动）的地图上比较指南针。如果你忽略了那些粘性的部分，你的比较就是错误的。

作者提出了一种名为**马氏余弦相似度（Mahalanobis Cosine Similarity, MCS）**的新方法。

类比： 这就像是在比较指南针指针时，戴上了一副能够感知地形“粘性”的特殊眼镜。它知道数据中的某些方向更重要（即数据实际发生变化的方向），而另一些方向仅仅是噪声。它会根据数据本身的形状来加权比较。

重大发现：一条完美的直线

作者发现了一个令人惊讶的现象：
当他们使用这种新的“感知地形”的方法（MCS）来比较一个在旧数据上训练的探针与一个在数据上训练的探针时，结果呈现出一条完美的直线。

类比： 想象你有一把尺子（MCS），用来测量两个手电筒之间的相似程度。如果你使用这把尺子，你就可以准确预测手电筒在进入新房间后的表现（即它的“泛化性能”）。
结果： 论文表明，如果 MCS 得分高，性能就高；如果 MCS 得分低，性能就低。这种关系如此之强，以至于看起来就像是用直尺画出的直线一样（在数学上， $R^2$ 高达 0.98，几乎是完美的）。
对比： 如果使用旧的“仅看角度”的方法（欧几里得法），这些点会到处乱跳，像一团杂乱的云雾，导致无法预测性能。

为什么会这样？（“S型曲线”的魔力）

论文通过一些数学原理解释了为什么存在这条直线，但这里是简单的版本：

信噪比 (SNR)： 这可以理解为数据中“真相”的声音相对于“噪声”的大小。
两种不同的形状：
- 性能（探针的表现如何）遵循 S型曲线（Sigmoid 曲线）。它起步缓慢，然后加速，最后趋于平缓。
- MCS 得分也遵循 S型曲线，但它是另一种略有不同的曲线。
抵消作用： 当我们将这两个 S 型曲线结合在一起时，它们会互相抵消！其中一个曲线的“弯曲”会完美地抵消掉另一个曲线的“弯曲”。
- 类比： 想象你正在走上一个向左弯曲的山坡，但同时你又走在一个向右弯曲的传送带上，且弯曲程度完全相同。结果是，你的运动轨迹是一条完美的直线。

由于这种数学上的“抵消”，相似度得分与实际性能之间的关系变成了一条直线。

规则何时失效？

作者还测试了这条完美的直线何时会失效，这有助于我们理解该规则的极限：

错误的地图（错误的协方差）： 如果你使用旧的“仅看角度”的方法（忽略了地形），这条线就会消失。你必须使用“感知地形”的地图。
坏掉的指南针（非 Fisher 探针）： 如果探针不是使用最优的数学方法构建的（例如使用简单的“均值差”而不是更复杂的算法），这条线就会变得混乱。
微弱信号（小的 Fisher 距离）： 如果信号过于微弱，以至于“S型曲线”还没有开始弯曲，那么这种关系就不是线性的。（但在他们测试的模型中，信号足够强，所以没发生这种情况）。
不平衡的团队： 如果一组数据非常庞大而另一组非常微小（例如 99% 是猫，1% 是狗），线条会倾斜并断裂。

总结

问题： 仅仅通过观察一个工具（探针），很难判断它在处理新数据时是否有效。
解决方案： 使用马氏余弦相似度，它考虑了数据的形状和“粘性”。
结果： 这种方法在相似度得分与实际性能之间建立了一条近乎完美的直线。
核心结论： 你不需要在实际新数据上测试探针就能知道它是否有效。你只需要使用这种特定的“感知地形”的尺子，测量它与参考探针的相似度即可。

论文通过数学证明了这一点，并展示了它在不同 AI 模型、不同层级以及多种任务类型（如检查真实性或性别）中的有效性。它将一个杂乱、不可预测的问题变成了一条清晰、可预测的直线。

技术摘要：比较线性探测器与马氏余弦相似度

问题陈述

线性探测器（Linear probes）是解释性研究中用于从神经网络表示中提取概念的标准工具。然而，它们的迁移行为极其脆弱；在分布内（ID）数据上训练的探测器在面对分布外（OOD）场景时往往表现不佳，即使是面对否定词或提示词格式变化等细微变化也是如此。一个关键的挑战在于确定哪些探测器能够泛化，并理解为什么在一种分布上看似相似的探测器在另一种分布下会产生分歧。

目前比较探测器的方法通常依赖于欧几里得余弦相似度（ECS）。然而，ECS 对所有维度一视同仁，忽略了只有在数据实际发生显著变化的维度上才会影响探测器性能这一事实。虽然 Ying 等人 (2026) 观察到，对于真实性数据集，马氏余弦相似度（MCS）——即通过 OOD 数据协方差对内积进行重加权——能线性预测 OOD AUROC ( $R^2=0.98$ ) ——这一发现缺乏理论解释，且尚未在多种模型、层或概念领域中得到验证。

方法论

作者提出了一个理论和实证框架，用以解释并验证 MCS 与 OOD 泛化性能之间的关系。

理论框架

本文推导了探测器的 OOD AUROC 与其相对于在 OOD 数据上训练的参考探测器的 MCS 之间的闭式关系。该推导基于三个标准的统计假设：

类别平衡： $Pr(Y=0) = Pr(Y=1) = 0.5$。
投影高斯性： 特征向量在任何探测方向上的投影对于每个类别均服从高斯分布。
协方差结构： 总协方差 ( $\Sigma_{tot}$ ) 被分解为池化类内协方差 ( $\Sigma_{pool}$ ) 和类间成分。

在这些假设下，作者证明了：

AUROC 是关于探测器信噪比 (SNR) $s$ 的 Sigmoid 函数： $AUROC = \Phi(s/\sqrt{2})$ 。
MCS（特别是针对 Fisher 判别方向）是关于 $s$ 的 Soft-sign 函数： $MCS \approx s/\sqrt{4+s^2}$ （在 Fisher 距离 $z_{max}$ 趋于无穷大的极限情况下）。

核心理论洞察在于，将这两个函数进行复合会抵消它们各自的非线性特征（即 Sigmoid 和 Soft-sign），从而导致 AUROC 与 MCS 之间呈现近乎线性的关系。当 Fisher 距离较大时，该直线的斜率理论上预测约为 $1/\sqrt{\pi}$ 。

实证评估

作者通过以下维度扩展了该关系的实证验证：

模型： Llama-3.3-70B, Llama-3.1-8B, 以及 Qwen2.5-7B。
层： Llama-70B 中的不同层（例如第 20, 33, 50, 65 层）。
领域： 涵盖真实性、性别分类和通用 NLP 基准测试的 24 个数据集。
基准： 与标准的欧几里得余弦相似度 (ECS) 进行比较，并使用不同的协方差估计量（总协方差 vs 池化协方差）。

核心贡献

线性关系的理论证明： 本文提供了一个闭式证明，表明对于平衡且投影为高斯的类别，OOD AUROC 与 MCS 是线性相关的。这解释了先前观察到的近乎完美的相关性 ( $R^2 \approx 0.98$ )。
失效模式的表征： 理论明确预测了这种线性关系失效的条件，并在实证中得到了验证：
- 使用池化协方差 ( $\Sigma_{pool}$ ) 代替总协方差 ( $\Sigma_{tot}$ ) 会破坏线性关系。
- 较小的 Fisher 距离 ( $z_{max}$ ) 会导致出现任务特定的斜率，而非统一的直线。
- 类别不平衡会使斜率变陡。
- 偏离 Fisher 方向的探测器（例如简单的均值差探测器）表现出退化的线性关系。
实证泛化能力： 研究在广泛的模型、层和概念领域中验证了 MCS-AUROC 的线性关系，在所有测试条件下均实现了 $R^2 > 0.93$ 。相比之下，ECS 的表现显著下降，在通用 NLP 基准测试中 $R^2$ 低至 0.06。
对估计器的鲁棒性： 作者证明，该结果对于全样本协方差和 Ledoit-Wolf 收缩估计均成立，但对于对角近似估计则失效，这证实了非对角协方差结构的必要性。

结果

高预测能力： 在所有 8 种实验条件下（变化的模型、层和领域），AUROC 对 MCS 的线性拟合均满足 $R^2 \geq 0.93$ 。
优于 ECS： ECS 的表现始终较差， $R^2$ 值范围从 0.057（通用 NLP）到 0.723（性别）不等，而 MCS 则保持了高预测能力。
理论一致性： AUROC-MCS 曲线的经验斜率与理论中心斜率 $1/\sqrt{\pi} \approx 0.564$ 高度吻合。偏差主要发生在饱和尾部（高 AUROC/MCS 值处），这与理论一致。
失效模式验证： 模拟和真实数据实验确认，当假设被违反时（例如使用 $\Sigma_{pool}$ 使 $R^2$ 从 0.98 降至 0.83；使用均值差探测器使 $R^2$ 降至 0.79），线性关系会发生退化。

意义与主张

本文声称，马氏余弦相似度为比较线性探测器提供了一种具有理论依据且具备任务感知能力的替代方案，而非传统的欧几里得余弦相似度。

机制： 不同于 ECS 对所有维度一视同仁，MCS 通过 OOD 数据的协方差对内积进行重加权，从而有效地在对特定任务真正重要的子空间内进行比较。
预测效用： 这种线性关系允许研究人员通过测量其相对于参考探测器（或 Fisher 方向的代理）的 MCS，来预测在 ID 数据上训练的探测器的泛化性能（OOD AUROC）。
更广泛的影响： 作者指出，这种方法可能会使目前依赖于余弦相似度的其他解释性方法受益，例如转向向量（steering-vector）比较、SAE 特征对齐以及概念方向聚类。
局限性： 作者指出，该方法需要带标签的 OOD 数据来估计协方差和参考方向（对于目标分布而言并非无标签）。此外，该理论是针对 Fisher 式探测器（逻辑回归、LDA）校准的；对于均值差探测器，性能会有所下降。目前的评估仅限于自回归 LLM 残差流上的二分类任务。

总之，这项工作确立了 MCS 在预测探测器泛化方面的成功并非巧合，而是信号信噪比、高斯投影与协方差感知相似度之间几何相互作用的结果。