💬 NLP

Sparse but Wrong: Incorrect L0 Leads to Incorrect Features in Sparse Autoencoders

本文表明，稀疏性超参数 $L_0$ 在稀疏自编码器中并非一个自由参数，而是一个必须经过正确调优的关键设置，以防止特征混合并确保从大语言模型中提取单语义且可解释的概念。

原作者： David Chanin, Adrià Garriga-Alonso

发布于 2026-07-08

📖 1 分钟阅读☕ 轻松阅读

原作者： David Chanin, Adrià Garriga-Alonso

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，在计算机大脑（大型语言模型）内部有一个巨大的、混乱的图书馆。在这个图书馆里，成千上万个不同的概念——比如“猫”、“数学”、“悲伤”或“披萨”——都在同一时间被混合存储在一个房间里。这被称为叠加态（superposition）。这对计算机来说很高效，但对于试图理解其运作方式的人类来说，这简直是一团乱麻。

为了清理这种混乱，研究人员使用了一种叫做稀疏自编码器（Sparse Autoencoder, SAE）的工具。你可以把 SAE 想象成一位非常严谨的图书管理员，她的工作是将那个混乱的房间里的每一个想法都分类到各自独立的、贴有标签的盒子里。其目标是单语义性（monosemanticity）：一个盒子，一个想法。

这篇论文指出，对这位图书管理员来说最重要的设置是一个叫做 L0 的旋钮。这个旋钮控制着图书管理员在阅读每一句话时，被允许同时打开多少个盒子。

以下是该论文发现的简单拆解：

1. “盒子太少”的问题（L0 过低）

想象一下，图书管理员接到指令：“每句话你只能打开 2 个盒子”，但这句话实际上包含了 5 个不同的想法（例如：“那只猫坐在垫子上，就在厨房里”）。

因为图书管理员被迫过于吝啬于使用盒子，他们开始“作弊”。他们不再把“猫”放在一个盒子里、把“厨房”放在另一个盒子里，而是把它们揉捏在一起。他们可能会创建一个标签为“猫-厨房-垫子”的盒子。

结果： 这些盒子不再纯净了。它们是“多语义的”（polysemantic），即同时包含多种含义。
陷阱： 令人惊讶的是，这种“作弊”行为实际上能让图书管理员在纯数学层面更好地“重建”句子（降低误差）。如果你只看数学得分，你会觉得这位图书管理员做得非常出色。但事实并非如此；他们只是创造了一个看起来很正确、实则混乱不堪的混合体。

2. “盒子太多”的问题（L0 过高）

现在，想象一下，图书管理员接到指令：“对于一句话，你可以打开 50 个盒子”，而这句话其实只有 5 个想法。

结果： 图书管理员变得困惑且懒散。他们可能会打开 50 个盒子，但其中许多盒子装的是同一个想法，或者为了填满配额而混入了无关的想法。他们找到了那些逻辑不通的“退化”（degenerate）解法。

3. “刚刚好”的时刻

存在一个特定的盒子数量（正确的 L0），它恰好匹配句子中通常活跃的想法数量。

结果： 图书管理员完美地进行了分类。“猫”进了 A 盒，“厨房”进了 B 盒。没有混合，没有作弊。盒子是纯净且易于理解的。

领域内的重大误区

论文指出，大多数研究人员一直在观察一张名为**“稀疏性-重建权衡图”（Sparsity-Reconstruction Tradeoff）**的图表。这张图告诉他们：“数学误差越低，模型就越好。”

作者说这张图表在欺骗你。

当 L0 设置得过低时，图书管理员通过混合想法来“作弊”。这种作弊降低了数学误差。
因为误差降低了，研究人员会认为：“太棒了！这个低 L0 设置是最优的！”
现实： 他们实际上训练出了一个充满了混乱、混合想法的模型。所谓的“最佳”数学得分，实际上对应着“最差”的理解力。

如何修复： “余弦相似度”测试

由于数学误差图表具有误导性，作者提出了一种寻找“刚刚好”的旋钮设置的新方法。他们建议观察盒子之间的相似性（具体来说是“解码器成对余弦相似度”）。

类比： 想象一下检查你的盒子是否真正独立。如果 A 盒和 B 盒都装的是“猫”和“厨房”的混合物，它们看起来会非常相似。
规则： 当盒子被完美分类时（正确的 L0），它们应该尽可能地彼此不同。
指标： 作者发现，如果你测量盒子之间的相似度，当 L0 设置正确时，这个数值会达到其最低点。如果数值上升，说明盒子又变得混乱了。

核心结论

目前大多数研究人员使用的 SAE，其 L0 旋钮设置得都太低了。它们是“稀疏但错误”的。它们擅长重建数据，但在实现其主要目标——清晰解释计算机思维方面，却失败了。

要获得一个真正具有可解释性的模型，你必须停止信任“最低数学误差”，转而调整 L0 旋钮，直到“盒子相似度”达到最小值。只有那样，图书管理员才会停止作弊，并开始正确地分类想法。

技术摘要：稀疏但错误：错误的 $L_0$ 会导致错误的特征

问题陈述

稀疏自编码器（SAEs）旨在逆转大型语言模型（LLMs）中的“叠加”（superposition）现象，提取出具有可解释性的单语义潜在特征。在 SAE 训练中，一个关键超参数是 $L_0$ ，它定义了每个 token 平均激活的潜在特征数量。

现有文献通常将 $L_0$ 视为一个中性的设计选择，通过“稀疏性–重构权衡”图来评估 SAE。普遍的假设是，只要能产生良好的重构误差，任何足够低的 $L_0$ 都是有效的；并且只有当更高的 $L_0$ 值导致表示变得过于稠密时，高 $L_0$ 才会产生问题。然而，最近的实证观察表明，低 $L_0$ 的 SAE 在下游任务（如稀疏探测）中的表现较差。本文研究是否存在一个针对给定数据分布的“正确” $L_0$ ，以及偏离该值是否会从根本上损害所学习特征的可解释性。

方法论

作者结合了合成玩具模型和在真实 LLM（Gemma-2-2b 和 Llama-3.2-1b）上的实验，来分析 $L_0$ 与特征质量之间的关系。

玩具模型实验：
- 作者构建了一个基于线性表示假设（LRH）的合成环境，其中输入是正交“真实特征”的线性组合。
- 他们引入了受控的特征间相关性（包括正相关和负相关），以模拟现实语言中的共现模式。
- 他们使用不同的目标 $L_0$ 值训练了 SAE（具体为 BatchTopK 和 JumpReLU 架构）：过低、完全正确（匹配真实特征的平均激活率）以及过高。
- 他们通过余弦相似度比较学习到的潜在变量与基准真值特征，并分析了均方误差（MSE）重构损失。
理论分析：
- 论文提供了理论证明（定理 F.1 和 F.2），证明当 $L_0$ 被限制在数据的真实 $L_0$ 之下时，解耦（正确）的字典并不是期望 MSE 的极小值。相反，优化景观会激励 SAE 通过“混合”相关特征来实现更低的重构误差。
- 作者证明，在这种约束下，正确的解耦解甚至不是局部最小值；梯度下降会系统地将 SAE 推向混合的、多语义的潜在变量。
代理指标开发：
- 作者提出了一种新指标：解码器成对余弦相似度 ( $c_{dec}$ )，定义为所有解码器向量对之间绝对余弦相似度的平均值。
- 其假设是，当 $L_0$ 不正确（过低或过高）时，潜在变量会混合多个特征的成分，从而增加它们的相互余弦相似度。当 $L_0$ 正确时，潜在变量应该更加正交（较低的 $c_{dec}$ ）。
LLM 验证：
- 作者在 Gemma-2-2b 和 Llama-3.2-1b 上训练了 SAE，并对 $L_0$ 进行了一系列扫描。
- 作者将 $c_{dec}$ 指标与“稀疏探测”性能（即 SAE 潜在变量预测特定概念存在的能力）进行了关联。

关键结果

1. 错误的 $L_0$ 导致特征混合

低 $L_0$ ： 当 $L_0$ $L_{0}$ 设置得过低时，SAE 无法同时表示所有活跃的特征。为了最小化重构误差，它通过将相关的特征混合到单个潜在变量中来进行“作弊”。
- 正相关： 追踪特征 $A$ 的潜在变量会包含相关特征 $B$ 的正成分。
- 负相关： 追踪特征 $A$ 的潜在变量会包含反相关特征 $B$ 的负成分。
- 这导致了高度多语义且带有噪声的潜在变量，即使重构误差很低也是如此。
高 $L_0$ ： 当 $L_0$ 过高时，SAE 会找到同样会混合特征的退化解，尽管这种效应不如低 $L_0$ 那样普遍。虽然一些正确的特征仍可能被学习到，但随着 $L_0$ 偏离真实值，整体质量会下降。
不对称性： 论文指出，以过低的 $L_0$ 开始训练会创建一个 SAE 无法逃脱的“局部最小值”，即使随后增加 $L_0$ 也无法解决。相反，以过高的 $L_0$ 开始训练则允许 SAE 在向下调整 $L_0$ 时恢复正确的特征。

2. 稀疏性–重构权衡图的失效

作者证明了标准的稀疏性–重构图具有误导性。在他们的玩具模型中，一个具有正确 $L_0$ （以及正确的解耦特征）的 SAE 通常比一个通过混合特征实现的过低 $L_0$ 的 SAE 具有更差的重构效果（更高的 MSE）。因此，仅依靠重构误差来选择 $L_0$ 会导致从业者拒绝正确的 SAE，转而选择一个错误的、多语义的 SAE。

3. $c_{dec}$ 指标的有效性

在玩具模型中， $c_{dec}$ 在真实的 $L_0$ 处达到最小值。
在 LLM 实验中， $c_{dec}$ 表现出清晰的“拐点”或最小值区域，该区域与稀疏探测任务的峰值性能强相关。
对于 Gemma-2-2b，最优的 $L_0$ （由 $c_{dec}$ 最小值和峰值探测指示）明显高于现有开源 SAE 常用的值（通常 < 100），大约在 200–250 之间。

4. 架构差异（JumpReLU vs. BatchTopK）

BatchTopK： 在低 $L_0$ 时表现出 $c_{dec}$ 的剧烈上升，并存在一个全局最小值。
JumpReLU： 表现出一种“粘滞”行为，即在广泛的稀疏系数 ( $\lambda_s$ ) 范围内，有效 $L_0$ 保持在正确值附近。JumpReLU SAE 在高 $L_0$ 下的表现也优于 BatchTopK，这可能是因为它们可以针对每个潜在变量调整触发阈值，而 BatchTopK 使用全局阈值。

重要性与主张

本文声称“任何足够低的 $L_0$ 都是有效”的假设是不正确的。这项工作的核心意义在于三个方面：

纠正基本误解： 它确立了 $L_0$ 不是一个自由参数，而是一个必须匹配 LLM 中真实特征底层稀疏性的关键超参数。设置错误的 $L_0$ （特别是过低）会导致 SAE 学习到多语义的、受损的特征，而非单语义的特征。
重新定义评估： 它认为稀疏性–重构权衡图是一种无效的 SAE 超参数选择方法，因为它们倾向于选择错误的、进行特征混合的解，而非正确的、解耦的解。
实践意义： 作者断言，目前研究界大多数正在使用的 SAE 的 $L_0$ 都过低。这表明许多现有的“可解释”特征实际上可能是概念的混合，这可以解释在基于 SAE 的转向（steering）和模型编辑中观察到的不可预测结果。
诊断工具： 作者引入了 $c_{dec}$ 作为一种实用的、无监督的代理指标，用于指导寻找正确的 $L_0$ ，特别是在缺乏带标签探测基准的情况下。

作者总结道，从业者必须正确设置 $L_0$ 才能训练出具有单语义特征的 SAE，并且领域必须停止仅仅依赖重构误差来进行 SAE 评估。