💬 NLP

VASAE: Naming SAE Dictionary Directions with Vocabulary-Aligned Anchoring

该论文介绍了 VASAE，这是一种通过词表对齐锚定（vocabulary-aligned anchoring）来训练稀疏自编码器的方法，旨在训练过程中为特征分配内在的标记名称，从而在不损害重构质量的情况下，实现 Transformer 模型浅层和中层的高对齐率。

原作者： Kairui Zhang, Ziwen Yu, Zahraa S. Abdallah, Martha Lewis

发布于 2026-06-29

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Kairui Zhang, Ziwen Yu, Zahraa S. Abdallah, Martha Lewis

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一台巨大的、复杂的机器（比如现代的 AI 语言模型），它能够编写故事、回答问题并解决问题。在这台机器内部，信息通过一系列被称为“残差流”（residual streams）的“管道”进行流动。随着机器处理句子，这些管道会携带不断变化的各种数据流。

为了理解这台机器是如何思考的，研究人员使用了一种名为“稀疏自编码器”（Sparse Autoencoder, SAE）的工具。你可以将 SAE 想象成一台高科技显微镜，它能将这些复杂的数据流分解为一系列简单、清晰的“成分”或“特征”。

问题：“无名”成分
在过去，当研究人员使用这些显微镜时，他们虽然能看到这些成分，却无法为它们命名。这就像是在看一个调料架，但每个罐子上只贴着编号（例如，“特征 #4,592”）。为了弄清楚“特征 #4,592”究竟是什么，研究人员必须在事后进行大量的侦探式工作：他们会将成千上万个句子输入机器，观察这个特定的数字何时被激活，然后猜测：“哦，这个特征似乎在机器谈论‘面包店’时会被激活。”

这种“事后”（post-hoc）命名的过程既缓慢、又依赖人工，且往往不够精确。

解决方案：VASAE（“带标签的调料架”）
该论文介绍了一种名为 VASAE（词汇对齐稀疏自编码器，Vocabulary-Aligned Sparse Autoencoder）的新方法。VASAE 不再让机器在真空中学习这些成分，而是强制要求这些成分与机器自身的内部词典保持接近。

以下是类比：

旧方法： 想象一位厨师通过品尝随机混合的味道来学习烹饪。随后，他试图通过观察自己做出的菜肴来猜测每种食材是什么。
VASIA 方法： 想象一位厨师正在学习烹饪，但每当他拿起一种新食材时，都会被温柔地引导，将其放置在靠近标有“盐”、“胡椒”或“糖”这些标签的罐子旁边。这种食材不一定非要与罐子里的东西完全一样，但必须足够接近，以便被识别为属于该类别。

它是如何工作的

锚点： 机器已经拥有一组固定的词嵌入（word embeddings，即“猫”、“跑”或“街道”等词汇的数学表示）。VASAE 利用这些词的表示作为“锚点”。
训练： 当机器学习如何分解数据流时，它会得到一条特殊的规则：“确保你的新‘成分’在几何空间上靠近其中一个现有的词汇锚点。”
结果： 训练完成后，每一个成分（特征）都会自动获得一个名字。它的名字就是它最接近的那个词。如果一个特征最接近“街道”这个词，它就被命名为“街道”；如果它最接近“位于”，它就被命名为“位于”。

他们的发现
研究人员在两个不同的 AI 模型（GPT-2-small 和 Llama-3.1-8B）上测试了该方法，并发现：

没有质量损失： 机器仍然能像以前一样很好地理解并重建数据。显微镜并没有变得模糊，它只是加上了标签。
自动命名： 在 AI 的早期层（“浅层”层），大约 90% 到 93% 的特征都得到了清晰、相关的名称。例如，在一个关于咖啡馆的句子中，被激活的特征会被自动命名为“位于”、“街道”、“拐角”和“周围”等词汇。
深度决定差异： 该方法在 AI 的早期和中期层效果最好。在非常顶层的层（即 AI 决定下一个词该说什么的最终决策层），对齐情况变得有些混乱，这表明那里的“成分”变得更加抽象，难以被锁定在单一的词汇上。

核心结论
VASAE 不仅仅向我们展示了 AI 在思考什么，它还赋予了 AI 的内部思维一套可以表达的词汇。它将一堆神秘的数字转化成了 AI 内部使用的词汇字典，使得人类无需进行数小时的人工侦探工作，就能轻松理解机器的行为。

注：该论文严格关注这一命名机制及其重建质量。它并不声称这种方法能让 AI 更安全、更准确地执行现实任务，或达到临床应用水平；它仅仅提供了一种更好地标记和检查 AI 内部“调料架”的方法。

技术摘要：VASAE —— 通过词表对齐锚定为 SAE 字典方向命名

1. 问题陈述

稀疏自编码器（SAEs）正越来越多地被用于将 Transformer 模型的高维残差流分解为学习到的字典上的稀疏编码，从而辅助机械解释性研究。然而，标准 SAE 的一个显著局限在于，其学习到的特征（字典方向）在本质上与模型的标记词表（token vocabulary）并不相连。

在标准实践中，特征命名是一个**事后（post hoc）**过程。研究人员必须检查特定特征激活时的上下文，或运行独立的自动化解释程序，才能为其分配语义标签。这种脱节源于学习到的字典几何结构与标记嵌入（token embeddings）的几何结构通常是无关的；一个特征可以在有效地重建激活值的同时，位于任何标记嵌入向量之外，从而使其缺乏“内在”的词汇级名称。

本文提出了一个问题：能否训练 SAE 特征，使其在保持高质量重建灵活性的同时，在几何上足够靠近标记嵌入，从而在训练期间获得内在的标记名称，且不牺牲重建性能？

2. 方法论：词表对齐稀疏自编码器 (VASAE)

作者提出了 VASAE，这是对标准 SAE 训练目标的一种改进，引入了**词表对齐锚定（vocabulary-aligned anchoring）**机制。

核心架构

输入： VASAE 处理 Transformer 第 $\ell$ 层中的后残差流向量 ( $h^{(\ell)}$ )。
编码器： 使用标准的 top-k 稀疏编码器（线性映射 + ReLU + Top-K 选择）来生成稀疏编码 $z$ 。
解码器： 使用可学习的字典矩阵 $W_D$ （其中列为特征向量 $d_i$ ）来重建残差流。
锚点： 该方法利用模型固定的输入标记嵌入 ( $W_E$ ) 作为参考方向。这些嵌入与残差流具有相同的维度（或被投影至该维度）。

锚定目标

核心创新是在标准重建损失的基础上增加了一个锚定损失项。

最近标记对齐： 对于每个学习到的特征 $d_i$ ，该方法计算其与所有固定标记嵌入 $w_v$ 的余弦相似度。
$s_i = \max_{v \in V} \cos(d_i, w_v)$
实现最大值的标记 $v^*_i$ 定义了特征 $i$ 的内在标记名称。
锚定损失： 训练目标鼓励特征靠近其最近的标记嵌入：
$L_{anchor} = -\frac{1}{d_{sparse}} \sum_{i=1}^{d_{sparse}} s_i$
最小化此损失会使特征与最近的词汇标记之间的余弦相似度最大化。
总损失： 组合目标为：
$L_{vasae} = L_{recon} + \lambda_{anchor} L_{anchor}$
其中 $\lambda_{anchor}$ 是控制对齐约束强度的超参数。

与硬绑定（Hard-Tying）的区别

作者明确区分了 VASAE 与“硬绑定”解码器基准线，在后者中，解码器权重被固定为完全等于标记嵌入矩阵 ( $W_D = W_E$ )。硬绑定强制特征必须是精确的标记嵌入，论文假设这对于高质量重建是不够的。VASAE 保持了字典的可学习性，但通过锚定损失将其拉向词汇几何结构。

3. 实验设置

该方法在两个仅解码器（decoder-only）Transformer 模型上进行了评估：

GPT-2-small： 12 层， $d_{model}=768$ ，词表大小 $|V|=50,257$ 。
Llama-3.1-8B： 32 层， $d_{model}=4096$ ，词表大小 $|V|=128,256$ 。

基准模型：

标准 SAE： 仅使用重建损失进行训练。
硬绑定解码器： 解码器权重固定为标记嵌入；仅训练编码器。

指标：

重建质量： 均方误差 (MSE)、解释方差 (VE) 以及在残差流替换后的交叉熵 (CE) 恢复情况。
对齐度： 几何特征对齐率（对齐得分 $s_i \ge 0.8$ 的特征百分比）和词表覆盖率。
案例研究： 对特定上下文下活跃特征的内在标记名称进行定性检查。

4. 关键结果

重建质量

VASAE 实现了与标准 SAE 相当的重建指标，显著优于硬绑定解码器基准线。

GPT-2-small： VASAE 和标准 SAE 均实现了 0.965 的解释方差 (VE) 和 0.975 的 CE 恢复。
Llama-3.1-8B： VASAE 和标准 SAE 均实现了 0.931 的 VE 和 0.906 的 CE 恢复。
硬绑定基准线： 表现较差（例如在 GPT-2-small 中 VE 为负），证实了强制特征为精确标记嵌入会破坏重建能力。

几何对齐

GPT-2-small： 当 $\lambda_{anchor} = 10^{-4}$ 时，第 0–10 层的 89–94% 的特征超过了对齐阈值 ( $s_i \ge 0.8$ )。这种对齐在浅层和中间层表现得强劲且一致。
Llama-3.1-8B： 对齐具有深度依赖性。在较高的系数下 ( $\lambda_{anchor} = 5 \times 10^{-3}$ )，浅层 (L0) 实现了 92.8% 的对齐。然而，对齐度在深层（如 L31）显著下降，表明词表锚定与更接近嵌入空间的残差状态更具兼容性。

案例研究

内在标记名称的定性分析揭示了语义连贯性：

在 GPT-2-small 中，在关于 "Baker Street" 的句子中活跃的特征被分配了如 located（位于）、Street（街道）、corner（拐角）和 around（周围）之类的内在名称。
其他示例显示了特征与形容词/副词（如 perfect, feasible）、颁奖相关术语（如 winner, praise）以及自我介绍术语（如 fan, name）的对齐。
在 Llama-3.1-8B 中，浅层显示出类似的地点相关对齐，而深层则表现出较少的连贯性，这反映了定量的对齐指标。

5. 贡献与意义

本文做出了三个主要贡献：

引入 VASAE： 一种软词表锚定目标，在训练期间为学习到的 SAE 解码器方向分配最近标记名称，而非事后处理。
评估锚定作用： 证明了词表对齐锚定在保持与标准 SAE 相当的重建质量的同时，能够实现有效的特征对齐，并证明了将解码器硬绑定到标记嵌入对于此类任务是不够的。
几何分析： 分析了嵌入空间特征对齐和词表覆盖率，提供了内在标记名称作为几何衍生标识符的证据。

意义：
作者认为 VASAE 通过在训练期间将学习到的特征与内在标记名称联系起来，补充了现有的事后解释方法。这为特征提供了一个“词表索引句柄”，为检查提供了起点。

至关重要的是，论文对这些名称的含义保持了审慎的态度：

并非解释： 内在标记名称不是完整的特征解释。它并不解释特征为什么激活，也不解释其在模型计算中的因果作用。
索引工具： 这些名称充当初步的索引工具。真正的理解需要进一步分析这些命名的特征如何参与电路、如何与其他组件连接，以及对它们进行干预如何影响行为。
局限性： 对齐在 GPT-2-small 和 Llama-3.1-8B 的浅层/中层最为稳健。目前该方法仅锚定到输入嵌入；对于使用非对称输入/输出嵌入的模型，锚定矩阵的选择仍是一个开放性问题。

总之，VASAE 成功地弥合了学习到的特征几何空间与模型词汇空间之间的鸿沟，使得特征在不损害其重建效用的情况下，能够携带内在的标记名称。