💻 computer science

Mechanistic Personality Analysis of LLMs Steering Personality via Latent Feature Interventions

本文提出了一种结合稀疏自编码器与对比激活分析的机械解释性方法，用于识别对应于 OCEAN 人格特质的潜在特征方向，从而通过加性激活偏移实现对大语言模型中这些特质的可控操控，同时保持整体语言建模性能。

原作者： David Courtis, Ting Hu

发布于 2026-06-30

📖 1 分钟阅读☕ 轻松阅读

原作者： David Courtis, Ting Hu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，将大型语言模型（LLM）视为一个庞大且极其复杂的管弦乐团。通常情况下，当你要求它写作时，它会根据其训练内容演奏一段标准的曲调。如果你想让它听起来“快乐”或“暴躁”，你通常必须对着指挥大声喊出具体的指令（提示工程），或者雇佣一整个全新的乐队来从头学习某种特定的风格（微调）。这两种方法都显得笨拙、不稳定，或者耗时过长。

这篇论文介绍了一种指挥管弦乐团的新方法：机械性人格转向（Mechanistic Personality Steering）。与其对着指挥大声喊叫，不如直接深入管弦乐团的内部布线，调整特定的乐器来改变情绪。

以下是他们是如何实现的，分为简单的步骤：

1. 寻找“人格开关”（SAE）

研究人员使用了一种叫做**稀疏自编码器（Sparse Autoencoder, SAE）**的工具。把 LLM 的内部大脑想象成一个充满了数千个电灯开关的巨大房间。大多数时候，这些开关都是关闭的。SAE 就像是一个侦探，能够找出哪些特定的开关对应着特定的想法。

发现过程： 他们发现，当模型在思考“有条理”（尽责性）或“情绪化”（神经质）时，某些特定的开关组会被点亮。
方法： 他们让模型撰写具有极高特定特质（如“我热爱派对！”）和极低该特质（如“我讨厌人群”）的帖子。通过对比这两组帖子的“光影模式”，他们识别出了控制特定人格特质开启或关闭的精确开关。

2. 拨动开关（转向/Steering）

一旦知道了哪些开关控制某种特质，他们并不仅仅是要求模型“表现得友善”。相反，他们在模型写作的过程中，物理性地为那些特定的开关增加了一点微小的电能增益。

类比： 想象你在开车。你不是告诉司机“开快点”，而是轻轻地将油门踩下几毫米。车速提升了，但引擎仍在以同样的方式运行。
结果： 通过微调这些内部“人格开关”，模型开始撰写听起来更像外向者、神经质者或自律者的文本，而无需改变模型的实际代码或对其进行重新训练。

3. 寻找“甜点位”（网格搜索）

棘手的部分在于，如果你把油门踩得太深，车就会失控。同样，如果他们过度增强人格开关，模型就会开始写出胡言乱语，或者失去回答问题的能力。

实验： 他们进行了一次大规模的“网格搜索”，就像厨师在品尝汤品时以极小的增量添加盐一样。他们尝试了不同的“推力”程度，以找到完美的平衡点。
目标： 他们希望人格特质足够强到可以被察觉，但又不至于强到让模型忘记如何说英语。

4. 他们的发现

实验奏效了，但并非对所有人（特质）都一样：

容易成功的案例： 让模型听起来具有尽责性（有条理、注重细节）或神经质（焦虑、情绪化）是非常容易的。这些特质似乎在模型的脑中拥有非常清晰、独特的“开关”。
困难模式： 让模型表现出开放性（好奇、创造力）却出人意料地困难。研究人员怀疑这是因为模型本身的设计就已经非常“开放”了，所以很难在不破坏逻辑的前提下让它变得“更开放”。
权衡关系： 存在一个明显的界限。如果你把人格推得太猛，文本就会变得语无伦次。模型可能会开始重复自身或失去逻辑思路。

5. 为什么这很重要（根据论文观点）

作者认为，这种方法优于传统方式，因为：

它是即时的： 你不需要重新训练模型；你只需在运行过程中拨动开关。
它是透明的： 你明确知道自己正在改变哪些内部特征，这与提示工程不同——在提示工程中，你只是在寄希望于指令能奏效。
它是可控的： 你可以将人格程度调节到特定的水平，而不是只有“开启”或“关闭”两种状态。

总结：
这篇论文表明，我们可以将 AI 的人格视为其代码内部一组可调节的旋钮，而不是一种神奇且不可改变的特质。通过找到正确的旋钮并适度旋转，我们可以让 AI 听起来像特定类型的人，只要我们不把旋钮转得太猛导致机器损坏。

技术摘要：大语言模型的机制性人格分析

问题陈述
由于在大规模人类生成数据上的训练，大语言模型（LLMs）本质上模拟了类人的人格特质（特别是大五人格/OCEAN 特质）。虽然以往的方法尝试通过提示工程或微调来塑造这些人格，但这些方法存在显著缺陷：输出不一致、资源消耗高，以及存在降低核心语言任务性能的风险。此外，同时塑造多个相互关联的特质仍然是一个挑战，这往往需要较小或优化程度较低的模型所缺乏的模型容量。因此，需要一种能够在不损害模型基本语言建模能力的情况下，在机制层面可控地引导人格特质的方法。

方法论
作者提出了一种机制解释性框架，通过直接干预模型的潜在特征（latent features）来调节人格。该流程由四个主要部分组成：

数据生成与数据集创建：
使用 PsyBORGS 框架，作者生成了 12,000 条具有不同大五人格特质表达水平的 Facebook 式状态更新。与以往使用中性基准的方法不同，该方法为每个特质创建了截然不同的“正向”（高表达，得分 7–9）和“负向”（低表达，得分 1–3）集合，以识别增强和抑制特质的特征。
通过稀疏自编码器（SAEs）进行特征提取：
作者利用了一个预训练的稀疏自编码器（SAE），该 SAE 附加在 DeepSeek-R1-Distill-Llama-8B 模型的第 19 层。选择这一层是因为它代表了一个“甜点位”（63% 的深度），在此处特征语义丰富，且处于最终 Logits 的上游。

对比分析： 计算正向集合（ $\mu_P$ ）和负向集合（ $\mu_N$ ）的平均激活值。差分向量 $\Delta h = \mu_P - \mu_N$ 通过 SAE 编码器进行分解，从而获得潜在差异 $\Delta z$ 。
特征排序： 潜在分量按绝对差值 $|\Delta z_i|$ 进行排序。通过识别驱动特质（正向方向）和抑制特质（负向方向）的前 $k$ 个特征，并利用 SAE 解码器将其转换为单位特征向量（ $u_{ij}$ ）。

通过网格搜索进行优化：
为了确定最佳干预方案，作者采用了双向线性加权方法。通过向模型的隐藏状态（ $h'$ ）中添加正向和负向特征向量的加权组合来构建转向向量：
$h' = h + \sum \delta^{pos} u_{ij} + \sum \delta^{neg} u_{jl}$
系数通过对四个参数进行网格搜索来调优：正向偏移的幅度（ $\alpha_{pos}$ ）、正向特征的数量（ $k_{pos}$ ）、负向偏移的幅度（ $\alpha_{neg}$ ）以及负向特征的数量（ $k_{neg}$ ）。
优化过程旨在最大化一个目标函数 $O$ ，该函数平衡了特质表达（ $S_{trait}$ ）与性能下降惩罚（ $C$ ），其中 $C$ 通过 MMLU 准确率的相对下降来衡量：
$O = S_{trait} - \lambda \cdot C$
其中 $\lambda$ 固定为 0.5。
评估框架：
通过多维度方法衡量转向的效果：

嵌入相似度： 生成文本与参考特质范例之间的余弦相似度。
基于 LLM 的分类： 使用最先进的 LLM（Claude 3.7, GPT-4o）判断两段文本中哪一段更好地表现了目标特质。
人类评估： 对相同的文本对进行并行的人类评估。
性能指标： MMLU 准确率和连贯性检查，以确保语言能力得到保留。

核心贡献

特征提取方法论： 一种通过正向和负向提示条件之间的对比分析来提取人格相关特征的新方法，利用 SAE 来隔离单语义（monosemantic）的潜在特征。
多维度评估： 建立了一个结合嵌入相似度、LLM 分类和人类评估的稳健评估框架，用以衡量人格表达。
精细化转向策略： 开发了一种带有网格搜索优化的双向线性加权方法，用于计算潜在空间中的最佳加性偏移，从而在特质表达与任务性能之间取得平衡。

结果

检测率： 干预过程被大多数特质在 LLM 和人类眼中都能可靠地检测到。尽责性（Conscientiousness）和神经质（Neuroticism）表现出最高的检测率（LLM 和人类评估者均 >90%）。外向性（Extraversion）和宜人性（Agreeableness）表现出中等水平，而开放性（Openness）则极具挑战性（LLM 50%，人类 30%），这可能是因为 LLM 本身在设计上是“开放”的，或者该特质表现得更为微妙。
特质特定优化： 网格搜索表明，不同的特质需要不同的干预配置。
- 外向性 需要最少的特征（9 个正向，4 个负向），表明其潜在表示较为集中。
- 开放性 需要最多的特征（25 个正向）和高幅度，表明其编码是分布式分布的。
- 尽责性 需要正向和负向特征的平衡组合。
性能权衡： 所有特质在目标函数中都表现出一个“峰值”，随后随着干预幅度的增加，性能（连贯性和 MMLU 准确率）出现急剧下降。这凸显了一个关键阈值，即过度的特征操纵会退化模型的语言生成能力。
负向偏移： 虽然正向偏移通常会增加特质相似度，但负向偏移产生的结果褒贬不一；对于开放性而言，负向偏移有时比正向偏移能产生更高的特质参考相似度，这表明特征激活与特质表达之间存在复杂的关系。

意义与主张
本文声称提供了一种可解释且细粒度的性格转向方法，架起了高层心理测量观察与底层神经机制之间的桥梁。其意义在于：

机制控制： 证明了可以通过直接干预特定的潜在特征来调节人格，而无需重新训练模型，从而实现按需调制。
可解释性： 使用 SAE 使得识别对应于心理学特质的残差流（residual stream）中的特定方向成为可能，揭示了这些抽象概念是如何在模型中涌现的。
负责任的 AI： 该方法提供了一个控制 AI 智能体中不良人格表现的工具，有助于提高沟通的安全性、公平性和有效性。
心理学的计算视角： 研究结果表明，人类人格特质的复杂性（例如，开放性的分布式性质与外向性的集中式性质）可能在 LLM 的潜在特征结构中得到了镜像体现。

作者对研究结论保持谦逊，指出虽然模型表现出了与特定特质相关的行为，但这并不等同于模型拥有类人心理状态。他们也承认存在局限性，包括计算开销、在高干预幅度下维持连贯性的难度，以及由于 SAE 特征的多语义性（polysemanticity）导致难以解耦跨特质依赖性的挑战。