技术摘要：持久性稀疏自编码器 (Persistent Sparse Autoencoders)

1. 问题陈述

标准稀疏自编码器 (SAEs) 已成为解释大语言模型 (LLMs) 的领先工具，通过将稠密隐藏状态分解为稀疏且具有人类可解释性的特征。然而，标准 SAEs 在非时间性 (atemporal) 框架下运行：它们独立地对每个 token 的隐藏状态进行编码。虽然 LLM 的隐藏状态本质上整合了前文语境，但标准 SAEs 未能显式地表示在序列中持续存在的信息。

这种局限性掩盖了模型的“语义状态”——即跨越多个 token 维持的主题级语境、风格或任务状态。现有的 SAE 时间扩展尝试通过预先指定特定的特征子集来承载时间信息，或使用固定分区来解决这一问题。这些方法缺乏证据表明此类时间角色可以直接从数据和重构目标中涌现。此外，目前尚不清楚标准 SAE 特征是否隐式地继承了它们所重构的隐藏状态中的时间持久性，以及如果确实如此，应如何对其进行显式建模。

2. 方法论：持久性稀疏自编码器

作者引入了持久性稀疏自编码器 (Persistent SAEs)，这是一个通过为每个特征 $j$ 学习一个持久性系数 ($\lambda_j$) 来扩展标准 SAEs 的框架。

核心机制

该模型将稀疏证据 (sparse evidence)（token 特有的激活）与持久状态 (persistent state) 分离开来：

1. 证据生成： 编码器产生 token 特有的非负稀疏激活 $a_t \in \mathbb{R}^m_{\ge 0}$，代表每个特征在 token $t$ 处的最新证据。
2. 状态整合： 每个特征维护一个衰减的状态变量 $h_t \in \mathbb{R}^m_{\ge 0}$。状态通过递归方式更新：
   $$h^{(j)}_t = \lambda_j h^{(j)}_{t-1} + (1 - \lambda_j) a^{(j)}_t$$
   • $\lambda_j$ (持久性系数)： 在重构过程中学习。
     • 低 $\lambda_j$ (快速特征)： 状态迅速衰减，表现得像标准的 token 特有检测器。
     • 高 $\lambda_j$ (慢速特征)： 状态保留证据跨越许多 token，通过整合稀疏更新来追踪语义语境。
   • 因子 $(1-\lambda_j)$ 防止了无限制的累积，保持了状态量级的稳定。
3. 重构： 解码器仅从持久状态 $h_t$ 重构隐藏状态 $x_t$：
   $$\hat{x}_t = W_{dec} h_t + b_{dec}$$
   该递归是对角化的，确保了特征层面的归因得以保留。

训练目标

模型通过最小化 LLM 隐藏状态与 SAE 输出之间的重构误差来进行训练。该目标自然地激励特征去学习适当的时间尺度：如果向前传递特征状态能改善未来 token 的重构，优化过程就会倾向于更高的 $\lambda_j$；否则，则倾向于更低的 $\lambda_j$。模型未使用任何预定义的特征分区或外部时间目标。

3. 主要贡献

1. 新颖架构： 引入了持久性 SAEs，它仅通过重构学习特征特有的持久性系数，实现了局部证据与持久语义状态的分离，且无需预定义分区。
2. 持久性的实证验证： 证明了标准 SAE 特征会隐式地从隐藏状态中继承时间结构（信号在自然文档中比在打乱后的对照组中持续时间更长），从而激发了对显式建模时间尺度的需求。
3. 时间尺度解耦： 展示了 Persistent SAEs 如何自然地将特征组织成一个光谱：
   • 快速特征： 对 token 特有细节进行局部可解释的检测。
   • 慢速特征： 一个紧凑的子集，通过整合证据来追踪主题级的语义状态。
4. 应用场景：监控： 一个案例研究表明，慢速特征在长上下文（超过注入点）中仍能保留提示注入 (prompt injection) 的检测信号，而 token 特有特征则会失效；此外，这些特征在引导模型判断方面仍具有因果有效性。

4. 实验结果

重构与特征属性

• 竞争力的质量： 在 Pythia-160M 和 Gemma-2-2B 上，Persistent SAEs 在重构质量（FVE 和余弦相似度）方面达到了与强力的 token 特有基线（BatchTopK, Matryoshka）相当的水平。
• 时间尺度分布： 学习到的 $\lambda_j$ 值跨度很大。大多数特征是快速的（低 $\lambda$），只有极少数具有高度持久性的（高 $\lambda$）特征。
• 可解释性：
  • 快速特征 保持局部可解释性，响应紧凑的词法或正字法模式（例如特定的子字符串）。
  • 慢速特征 单独观察时较难解释，但当共同观察时会形成连贯的簇。
• 语义聚类： 在 MMLU 主题探测任务中，慢速特征（按 $\lambda_j$ 排名前 1% 的特征）在 t-SNE 可视化中形成了明显的主题特定簇，其表现优于原始隐藏状态和基线 SAEs。
• 无监督选择： 通过按递减的 $\lambda_j$ 对特征进行排序，可以筛选出一个紧凑的语义状态，该状态在无需使用主题标签的情况下，能实现接近监督式 Oracle 水平的主题探测 AUC。

案例研究：提示注入监控

作者评估了特征在长上下文（注入后高达 350 个 token）中检测并保留注入信号的能力。

• 局部检测： 快速特征和标准 SAE 在注入发生的瞬间能有效检测注入（在距离 $d=0$ 时准确率高）。
• 长上下文保留： 当上下文超出注入范围后，快速特征会失去预测能力。相比之下，慢速特征 能保留注入信号，在距离 $d=350$ 时仍能保持高准确率。
• 因果有效性： 干预实验表明，使用慢速特征方向进行转向 (steering)，能一致地使监视器的判断向“标记注入”的方向偏移，即使在注入文本已经过去很久之后。快速特征在这些距离下的因果效应几乎为零或为负。

5. 意义与主张

论文声称，Persistent SAEs 通过显式建模特征时间尺度，为解释和监控 LLMs 提供了一种新机制。

• 语义状态表示： 该工作表明 LLMs 在多个 token 之间维持着一种“紧凑的语义状态”，这种状态可以通过无需监督的慢速 SAE 特征进行提取和追踪。
• 双重角色特征： 它建立了一种功能性分离，即快速特征充当局部检测器，而慢速特征充当持久的语义追踪器。
• 监控效用： 慢速特征能够保留长上下文中的因果信号，这表明它们是安全监控的有力工具，特别是在检测提示注入的延迟效应或在长程任务中引导模型行为方面。

承认的局限性：
作者指出，目前的对角递归假设每个特征具有固定的、单一的持久性系数，无法建模特征间的相互作用或显式的重置。此外，提示注入研究使用的是外部监视器；虽然干预会影响监视器的判断，但论文并未声称这些干预会影响原始智能体模型的行为。