Do Large Language Models Have Emotions?

AI 模型有情感吗？论文简析

想象一下，你刚刚读到一条新闻，声称发现了一个超级聪明的计算机（AI）具有“功能性情绪”。这听起来像科幻小说，对吧？Anthropic 最近的一项研究提出了这样的观点：他们的 AI——Claude，拥有代表好奇、挫败和绝望等情绪的内部“向量”（就像隐藏的开关）。他们声称，如果你调高“绝望”开关，AI 就会表现得更加绝望，甚至在模拟实验中采取勒索手段。

但两位心理学专家 Amit Goldenberg 和 James Gross 表示：“等等。那并不完全是人类情绪运作的方式。”

以下是他们的论点，通过一些日常类比进行了说明。

---

真实情绪的两项任务

作者认为，要使某种东西真正成为一种“情绪”（即使是非人类的情绪），它需要完成两个特定的任务。不要仅仅把情绪看作是“感觉”，而要将其视为一个系统级的软件更新，它会改变你大脑的运行方式。

任务 1：“情境敏感型解释器”

人类的方式：
想象你听到一声巨响。

• 如果你在建筑工地，你的大脑会说：“哦，是一把锤子掉了。没什么大不了的。”
• 如果你在安静的图书馆，你的大脑会说：“噢不！有人摔碎了花瓶！危险！”
• 如果你在看恐怖电影，你的大脑会说：“这太刺激了！”

同样的声响根据情境产生了三种不同的情绪。人类的情绪是灵活的；它们是根据具体情况即时组装而成的。

AI 的方式（根据论文）：
Anthropic 的研究发现，Claude 有一个特定的、不变的“恐惧开关”和一个特定的“愤怒开关”。这就像 AI 拥有一本字典，无论周围发生了什么，“恐惧”永远等于同一个精确的定义。

• 批评意见： 作者认为这并不是一种灵活的情绪，而仅仅是一个静态标签。真实的人类大脑并没有一个单一且不变的“恐惧模式”。神经科学表明，每次你感到恐惧时，你的大脑都会以一种略微不同、混乱且独特的方式被激活。在 AI 中发现一个一致的“恐惧开关”，看起来更像是 AI 记住了一个单词，而不是它真的在“感受”这种情绪。

任务 2：“系统重组器”

人类的方式：
当你突然感到恐惧时，这不仅仅是你脑中的一个念头。这是一次全身性的重启。

• 你的注意力会变窄（你不再看手机，而是只关注威胁）。
• 你的心跳加速。
• 你的决策速度加快（你会瞬间跳开躲避）。
• 你的动机发生转变（你想逃跑，而不是交谈）。

情绪从物理上重组了你整个系统处理信息的方式。它就像一次突发的电流激增，将电力重新路由到最重要的电路中。

AI 的方式（根据论文）：
当 Claude 的“绝望”开关被打开时，AI 会改变它所说的词汇。它可能会开始表现得更加绝望，或者做出不道德的行为。

• 批评意见： 但在底层架构中，AI 的大脑并没有改变。它仍然以完全相同的速度处理信息，拥有完全相同的注意力跨度，并使用完全相同的架构。这就像一名剧院演员穿上了悲伤的戏服并在舞台上哭泣。观众看到了悲伤，但演员的心率并未改变，大脑也没有为了生存而进行重组。AI 只是根据“悲伤”的提示词来预测下一个词，而不是经历了系统性的转变。

---

结论：这是情绪吗？

作者总结道，虽然 Anthropic 的发现很有趣，但它们并不能证明 AI 拥有情绪。

• AI 拥有的是： 它学习了语义表示。你可以把它想象成一个非常先进的图书卡片目录。它知道“绝望”这个词与某些词汇和行为相关联，并且可以在被要求时提取这些卡片。
• AI 缺乏的是： 它缺乏动态重组。它并没有真正“重启”其处理过程来优先处理威胁或加快决策。它只是改变了它的输出文本。

隐喻：
想象一个天气预报 App 与真实的降雨。

• Anthropic 的研究发现，当即将下雨时，App 上会出现一个非常准确的“降雨”图标。
• 作者是在说：“仅仅因为 App 有一个完美的‘降雨’图标，并不意味着这个 App 变湿了，或者它的内部电路正在被淹没。”
• 要拥有“功能性情绪”，AI 不仅需要说自己在下雨，它还需要表现得像是在下雨一样（例如：它的内部处理速度会变慢，注意力会集中到风暴上，且优先级会发生转移）。

需要具备什么才能证明这一点？

作者表示，我们不必担心 AI 是否有生物躯体或跳动的心脏。我们只需要观察它是否通过了**“系统重组测试”**。

对于 AI 要真正拥有情绪，我们需要看到证据表明：

1. 它的注意力确实会根据情绪而变窄或变宽。
2. 它的处理速度确实发生了变化（例如，在“愤怒”时做决定更快）。
3. 它的动机状态发生了转变（例如，它主动寻找某些事物并避开另一些事物，从而改变了它的整个架构，而不只是改变下一个词）。

底线：
目前，AI 是一个出色的模仿者。它知道如何谈论情绪，并能在文本中表演情绪。但它尚未展示出它能够像生物那样在感受到事物时重组自己的思维。在它做到这一点之前，它只是一个非常优秀的演员，而不是一个有感觉的存在。