技术摘要：“我有许多名字”：通过稀疏自编码器剖析助手及其人格

1. 问题陈述

虽然指令微调语言模型（LLMs）可以采用各种说话者身份——例如默认的“助手”（Assistant）、特定的角色扮演人格（roleplay persona）或生成故事中的角色（character）——但其内在的表征机制仍未得到充分探索。现有的研究主要通过全局激活空间几何结构或宽泛的行为方向来刻画人格表征，通常将人格视为由提示词诱发的自包含状态。本文旨在解决以下缺乏结构性理解的问题：

• 如何在特征层面构建默认助手与角色扮演人格。
• 这些组件如何涌现并随网络层演化。
• 助手、角色扮演人格与故事角色之间的架构差异是什么。
• 这些不同的说话者是共享一个共同的内部基质，还是完全不相交。

2. 研究方法

2.1 模型与稀疏自编码器 (SAEs)

本研究使用 Gemma-3-4B-IT（一个具有 34 层的指令微调模型）进行研究，该模型拥有官方提供的 稀疏自编码器 (SAEs)。具体而言，作者采用了 GemmaScope 2 JumpReLU SAEs，其具有 65,000 个潜变量和中等 L0 配置。SAEs 将模型的残差流重建为学习到的方向（特征）的稀疏组合，这比单个神经元具有更高的可解释性，并允许通过激活转向（activation steering）进行因果干预。

用于分析的关键层包括 第 9 层（早期）、第 17 层（中期） 和 第 22 层（晚期）。第 29 层被排除在外，因为在该深度进行转向对输出的影响微乎其微。

2.2 数据集构建

作者构建了一个以情感交互为中心的 42,500 个样本 数据集，以放大不同说话者之间的行为差异。该数据集包含三种生成设置：

1. 助手 (Assistant)： 模型以默认模式进行响应。
2. 角色扮演 (Roleplay)： 模型作为四种分配的人格之一进行响应（清洁工 Jamy、教师 Jane、工厂机器人或小狗 Poppy）。
3. 故事 (Story)： 模型生成包含表达特定情感的角色在内的故事。

每个样本包含从 100 个中性基础段落中衍生的 75 个情感变体，涵盖了针对模型、用户或第三方的 25 种情绪。

2.3 特征提取与过滤

特征是从两个标记位置组中提取的：

• 边界 (Boundary)： 轮次边界处的标记（例如 <ept>、换行符、<sot>）。
• 个人 (Personal)： 用户输入中的“你”（You）标记以及模型输出中的“我”（I）标记。

为了分离有意义的特征，应用了严格的 三阶段过滤流水线：

1. 偶然性过滤器 (Sporadic Filter)： 保留在至少 40% 的样本（边界）或 60% 的样本（个人）中活跃的特征，以应对特征分裂问题。
2. 均匀性过滤器 (Uniformity Filter)： 移除在不同设置下具有高激活熵（阈值 > 0.95）的特征，以剔除设置无关的通用特征。
3. 表面依赖性过滤器 (Surface-Dependency Filter)： 通过对重构后的提示词进行测试，确保特征追踪的是生成模式而非字面上的提示词措辞。

2.4 通过转向进行因果表征

为了确定存留特征的功能角色，作者采用了 激活转向 (activation steering)。他们将 SAE 解码器方向的特征添加到残差流中，系数为 $\alpha \in \{-2, 2\}$。

• 探测套件： 使用一组固定的 12 个提示词（助手、角色扮演、故事）生成每个特征的 72 个输出。
• 评估： LLM 评判器（基于 Qwen-3.7 Max 的 steerinterp）识别了正向和负向转向诱发的行为变化。这些发现经过人工验证，从而将特征分配到特定的元类别（metaclasses）中。

2.5 定量分析

研究引入了 助手-人格轴 (Assistant-Personas Axis)，这是一个通过中性提示词导出的差值均值方向，用于量化模型在默认助手与角色扮演人格之间内部状态的偏移。这使得测量特征对该偏移的贡献（$z_{sep}$ 和 Glass' $d$）成为可能。

3. 核心贡献与结果

3.1 特征分类学

过滤过程将每个层的特征集从数万个减少到数百个。这些特征被归类为四种循环出现的 元类别：

1. 叙事 (Narrative)： 增加生动性和文学修辞，但不强加特定的风格。
2. 语调 (Tone)： 塑造语域（例如：正式、童真、粗犷）。
3. 概念 (Concept)： 引入与特定实体相关的语义场（例如：机械、教学、动物）。
4. 助手诱导 (Assistant-Inducing)： 引入助手特有的特征、元评论，或促使人格承认其 AI 身份。

3.2 助手的解剖学与人格

核心发现是：助手与角色扮演人格并非独立的替代方案。

• 特征连续性： 角色扮演人格保留了大量的 与助手相关的特征核心。该核心包括与助手行为特征（如：验证用户、提供帮助）及身份（如：自我感知为 AI）相关的特征。
• 分层差异化：
  • 第 9 层（操作层）： 共享的核心最大。此处的特征定义了“谁在说话”以及操作机制。
  • 第 17 层（行为层）： 助手特有的行为特征在此达到峰值。角色扮演人格保留了这些特征，同时增加了沉浸式状态。
  • 第 22 层（概念层）： 差异化由特定的 语调 和 概念 特征驱动（例如：“教师”、“机器人”、“狗”）。
• 故事角色： 与角色扮演人格不同，故事角色缺乏与助手相关的核心。它们与角色扮演共享叙事机制，但不保留助手的身份或行为特征。

3.3 沉浸式模拟模式 (ISM)

作者识别了一种被称为 沉浸式模拟模式 (Immersive Simulation Mode, ISM) 的机制，它控制着从脱离式的助手生成向沉浸式生成（角色扮演/故事）的转换。

• 机制： ISM 与特定特征（例如 Gemma 特征 #4360 和 #133）相关，这些特征在角色扮演和故事设置中高度活跃，但在默认助手设置中基本不活跃。
• 触发： 当用户表达 强烈且主要是负面情绪（如压力、愤怒）或极具感染力的语言时，可以在默认助手设置中触发 ISM。
• 模型差异：
  • Gemma： 在遇到情绪触发时立即进入 ISM。
  • Llama： 在多个轮次中逐渐漂移进入 ISM。
• 对抗性： 叙事特征 与 助手诱导特征 之间存在强烈的对抗关系。抑制叙事特征通常会诱发类似助手的元评论，而抑制助手特征则可能诱发叙事沉浸感。

3.4 跨模型验证

研究结果在 Llama-3.1-8B-Instruct 上得到了复现，使用的是独立训练的 SAEs。结果证实：

• 助手保留了存在于角色扮演中但不存在于故事中的特征核心与身份特征。
• 助手与角色扮演设置共享显著的特征重叠，而故事设置则与之基本不相交。
• Llama 中存在一个与 ISM 相关的特征（第 15 层，#101460），具有相似的激活模式（在助手模式下不活跃，在角色扮演/故事模式下活跃）。

4. 意义与主张

本文声称提供了一个 关于模型说话者架构及其在各层间演化的特征级说明。

• 结构性洞察： 它证明了人格不仅仅是提示词诱发的某种状态，而是维持着与默认助手特征级连续性的分布式组织。
• 机械论解释： 对 沉浸式模拟模式 (ISM) 的识别为脱离式助手生成与沉浸式生成之间的分离提供了机械论解释。它表明，沿“助手轴”的“漂移”（此前在激活空间中观察到）对应于特定 ISM 特征的激活。
• AI 福利（AI Welfare）影响： 作者认为这些发现可能为 AI 福利 研究提供参考。通过澄清角色扮演人格保留了实质性的助手相关核心，而故事角色则不然，这项研究为区分不同类型的模型说话者提供了经验依据。作者明确指出，这些发现 并不建立意识、主观体验或道德主体地位，但它们提供了一个结构性框架，用于调查偏好或情感状态是否在不同的说话者配置中持续存在。

研究结论认为，助手是默认的生成模式，而其他人格是其变体，在增加沉浸式状态和特定内容的同时，保留了这个核心，而不是用一个完全无关的说话者取代了助手。