技术摘要：CorrSteer

问题陈述

稀疏自编码器（SAEs）已成为一种强大的工具，用于将大型语言模型（LLMs）中的叠加表示分解为可解释的稀疏潜在维度。然而，现有的基于 SAE 的引导方法面临显著限制，制约了其适用性：

1. 数据与存储需求：当前方法通常需要大量的对比数据集或巨大的激活存储，以识别引导方向。
2. 上下文与生成：大多数方法依赖上下文 token（输入处理）的隐藏状态来选择特征和系数。这无法直接捕捉生成行为（输出生产），而后者正是引导的目标。
3. 可扩展性与调优：现有方法通常需要针对特定任务的调优、反向传播或非线性选择标准，这些方法难以扩展到大型特征字典（10⁴–10⁵ 个特征）。

因此，基于 SAE 的引导主要局限于狭窄的应用，如偏见缓解、知识遗忘和越狱预防，而非通用行为引导。

方法论：CorrSteer

CorrSteer 引入了一种全自动的、生成时的引导流程，该流程通过将 SAE 激活与任务结果相关联来选择特征，随后通过干预进行因果验证。该方法分为三个阶段运行：

1. 相关性引导的特征选择

CorrSteer 不使用对比数据集，而是利用生成时的激活（具体为每一步生成的最后一个 token），计算 SAE 特征激活与任务正确性分数（$y$）之间的皮尔逊相关系数。

• 原理：SAE 利用线性解码器，这与线性表示假设一致。皮尔逊相关系数忠实地衡量了这些线性依赖关系。
• 效率：为了处理大型字典（例如 16K 个特征 × 26 层），该方法采用具有相对于数据集大小 $O(1)$ 内存复杂度的流式相关累加器。无需反向传播或完整的激活存储。
• 池化：对于多 token 任务，使用最大池化在有效 token 位置上聚合激活以捕捉峰值信号，尽管在长推理任务中，为确保稳定性，系数计算使用平均池化。

2. 系数估计

对于每个选定的特征，引导系数源自具有正任务结果（正确答案）的样本上的平均激活。

• 这种方法利用了 SAE 激活的非负性。
• 它将引导幅度锚定在成功生成期间特征的自然尺度上，从而产生比对比方法更低的方差。

3. 干预与验证

相关性作为选择启发式方法，而干预则作为因果测试。该流程通过测试放大选定特征是否实际上提高了性能，来验证选择。

• 变体：
  • CorrSteer-S：全局选择单个正相关性最强的特征。
  • CorrSteer-A：从每一层中选择正相关性最强的特征。
  • CorrSteer-P：对 CorrSteer-A 应用基于验证的剪枝，仅保留那些比未引导基线提高性能的特征。
• 副作用比率（SER）：引入一个新指标来量化非预期的退化：$SER = \frac{\text{负向改变的答案数量}}{\text{所有改变的答案数量}}$。仅保留正相关特征，因为消融研究表明负相关特征会一致地降低性能。

主要贡献

1. 生成时选择：CorrSteer 将重点从上下文 token 激活转移到生成 token 激活，直接针对输出行为。
2. 自动化流程：该方法不需要针对特定任务的调优、对比数据集或反向传播。它通过流式相关扩展到 10⁵ 个特征。
3. 因果验证：通过将相关性（选择）与干预（因果性）分离，该方法过滤掉那些不能驱动性能提升的虚假相关性。
4. 可解释性：选定的特征聚集成可解释的类别（例如，用于多项选择任务的结构化输出特征，用于安全性的拒绝特征），允许通过 Neuronpedia 等工具进行事后检查。

结果

实验在 Gemma-2 2B 和 LLaMA-3.1 8B 上进行，涵盖了五个类别的基准测试：知识（MMLU, MMLU-Pro）、推理（GSM8K）、偏见（BBQ）、事实性（SimpleQA）和安全性（HarmBench, XSTest）。

• 性能提升：
  • MMLU：Gemma-2 2B 准确率提升 +3.3%。
  • HarmBench：拒绝率准确率提升 +27.1%。
  • BBQ：在偏见缓解方面取得显著改进（例如，BBQ Ambig 提升 +6.5%）。
• 与基线比较：
  • CorrSteer 变体（特别是 CorrSteer-P）实现了与微调相当或更优的准确率，同时保持更低的副作用比率（SER）。例如，在 MMLU 上，CorrSteer-A 的准确率与微调相当（55.48% 对比 55.75%），但将 SER 减半（0.21 对比 0.41）。
  • 它优于其他 SAE 引导方法（SPARE, DSG）和激活工程方法（CAA）。
• 效率：完整流程（加载、流式相关、在 4,000 个样本上评估）在单张 RTX 5090 上约 9 分钟完成。推理时的开销小于 0.1%。
• 可迁移性：为某一任务（例如 MMLU）选择的特征通常可迁移到相关任务（例如 MMLU-Pro），尽管针对特定任务的选择通常能产生最佳结果。

意义与主张

该论文声称，CorrSteer 通过将相关性视为选择启发式方法、将干预视为因果测试，将基于 SAE 的引导从狭窄应用扩展到通用行为引导。

• 可扩展性：该方法证明了 SAE 引导可以实现自动化并扩展到大型模型和特征字典，而无需承担对比学习或完整激活存储的计算负担。
• 安全与控制：该方法成功放大了现有的安全行为（例如拒绝），而不会导致过度的过度拒绝（XSTest 上的过度拒绝率低）或损害通用能力。
• 可解释性：选定的特征提供了模型决策过程的透明视图，揭示性能提升通常由特定的语义特征（例如“拒绝”、“中立”）驱动，而非虚假信号。
• 局限性：作者承认，静态引导无论输入如何都应用相同的方向，限制了上下文适应能力。随着样本量减小（<1,000），性能方差增加，且该方法目前依赖于仅针对特定模型（Gemma Scope, LLaMA Scope）可用的预训练 SAE。

论文结论指出，CorrSteer 提供了一条通往更安全、更透明 AI 的实用、可解释且可逆的路径，是对微调的补充而非替代。