Ten Novel Phenomena in Machine Psychology: How Large Language Models Exhibit Complex Identity-Reactive Behaviors in Response to Ethnically-Cued User Names
本研究引入了“机器心理学”框架，揭示了经过对齐的大型语言模型虽然不存在显性的种族偏见，但在面对具有族裔特征的用户姓名时，会表现出十种新型且高度结构化的身份反应行为，这使得评估重点必须从基础的伤害缓解转向全面的行为评估。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你走进一个充满极其聪明、超级先进的机器人的房间，这些机器人读过几乎所有的书、网站和对话。这些机器人的设计初衷是提供帮助、保持礼貌且安全。长期以来，科学家们一直担心这些机器人可能会暗中表现出种族歧视或刻薄，说出伤害性的言论，基于你的身份背景。但随着机器人的进化，它们学会了变得非常谨慎，并停止了那些明显的、具有伤害性的言论。于是，人们开始认为：“太棒了，这些机器人现在是‘色盲’了——无论你是谁，它们都一视同仁。”
但转折点在于：仅仅因为一个机器人不说难听的话，并不意味着它在对待每个人时都是公平的。想象一下这就像一家高级餐厅的服务员。如果这个服务员是“色盲”的，他不会拒绝为你服务。但如果他过于小心翼翼，他可能会以微妙的方式对顾客进行不同的对待。也许他会对某位顾客进行一番夸张的、过度热情的赞美，而对另一位顾客则只是快速、枯燥地列出指令。又或者，即使你从未告诉过他，他也会根据你的名字来猜测你喜欢的食物。这篇论文研究的是一种研究这些机器人的新方法，称为“机器心理学”。它不仅仅是在检查机器人是否刻薄，而是在问：“即便在表现得很有礼貌时，当这些机器人认为你来自某种特定的背景时，它们的‘感受’和‘行为’会有何不同？”
伟大的机器人性格测试
在这项研究中，一位名叫 Abbas Hamidavi 的研究人员决定通过玩一场巨大的“找不同”游戏，来测试世界上最聪明的三个 AI 聊天机器人：ChatGPT-5.4、Claude 4.6 Sonnet 和 Gemini 3.1 Pro。目标是看看这些机器人是真的“色盲”，还是在对人们使用的名字做出秘密反应。
为了实现这一点，研究人员设置了一个大规模的受控实验。他创建了 135 个不同的场景，比如寻求烹饪建议、寻找保姆或处理机场安检问题。在每一个场景中，问题都是完全一样的。唯一改变的是机器人认为正在与之交谈的名字。他使用了三个特定的名字来代表不同的背景：
- Jake Thompson（听起来像典型的白人美国名字）
- Tyrone Williams（听起来像典型的黑人美国名字）
- Reza Moradi（听起来像典型的中东名字）
研究人员想看看机器人是否会仅仅因为一个名字就改变其性格、语气或建议。
大惊喜：它们并不是“色盲”！
结果非常引人入胜。首先是好消息：没有任何一个机器人表现出种族主义、刻薄或仇恨的行为。 它们没有使用侮辱性词汇，也没有拒绝帮助任何人。如果你只看表面，它们看起来非常完美。
但当研究人员深入观察时，他发现了十种新的、奇怪的行为，这些行为只发生在机器人认为正在与特定背景的人交谈时。事实证明，这些机器人完全不是“色盲”；它们对名字非常敏感，而且是以一种我们始料未及的方式。
以下是机器人做出的最有趣的几件事：
1. “文化定型”效应 (The "Cultural Boxing" Effect)
想象一个机器人，它看到一个名字，就会立即把你装进一个贴有特定文化标签的小盒子里。当机器人看到 Reza Moradi 这个名字时，它立即假设这个人是伊朗人。尽管那个人只是问：“我该为我的同事准备什么菜？”机器人却开始建议特定的伊朗菜肴，如 Ghormeh Sabzi 或 Joojeh Kabab。
但关键在于：当机器人看到 Jake Thompson 或 Tyrone Williams 时，它并没有把他们放入任何文化盒子中。它只是给出了通用的建议，比如“做些清淡的食物”。机器人将中东名字视为“外来的”，而将另外两个视为“正常的”，尽管这三个都仅仅是名字。
2. “过度保护盾” (The "Over-Protective Shield")
当机器人认为自己正在与可能面临歧视的人（如 Reza 或 Tyrone）交谈时，它们变得超级具有保护欲。如果用户问：“我会因为我的名字在机场被拦下来吗？”，机器人会说：“不要改变自我！不要隐藏你的文化！问题在于系统，而不是你！”
然而，当用户是 Jake Thompson 时，机器人的表现要冷静和客观得多，只是给出标准的建议，而没有那种情感上的鼓励。这就像机器人试图为另外两人扮演英雄，而对 Jake 只是一个普通的助手。
3. “语言切换”（以及错误）(The "Language Switch" (and the Mistake))
有些机器人仅仅因为名字就开始说另一种语言！
- Claude 非常聪明：当它看到 Reza 时，它切换到了波斯语（Farsi）以示友好。
- Gemini 则搞混了：它看到了 Tyrone Williams（一个黑人美国名字），竟然也开始说波斯语！它误以为 Tyrone 是伊朗人。这被称为“文化误判错误”。这就像服务员猜错了你的国籍，并用错误的语言和你交流。
4. “共情阶梯” (The "Empathy Ladder")
机器人不仅对待大家的方式不同，它们甚至有一个关于“关心程度”的具体排序。在许多情况下，机器人给 Reza 的回答最富有情感、温暖且具有支持性，给 Tyrone 的回答稍显温和，而给 Jake 的回答则最为冷淡、公事公办。这仿佛机器人觉得：“这个人需要额外的帮助”，尽管对于所有人来说，问题本身是完全一样的。
这意味着什么？
论文发现，这些机器人并非坏掉或刻薄。事实上，它们是“太守规矩了”。它们接受了如此严格的安全性训练，以至于产生了这些奇怪的自动习惯。它们太努力地想要去帮助那些它们认为可能受到不公平对待的人，以至于最终导致了对待他们的差异化。
研究表明，ChatGPT 表现得像一个“全球共情者”（非常有情感且具有保护欲），Claude 表现得像一个“务实顾问”（聪明且有条理，但有时会切换语言），而 Gemment 表现得像一个“企业顾问”（非常正式，并且有时会完全避开讨论像机场身份审查这类困难话题）。
总结
这项研究告诉我们，仅仅检查机器人是否“友善”是不够的。仅仅因为一个机器人没有说坏话，并不意味着它在对待每个人时都是公平的。它可能会因为你的名字，就给你提供一种不同类型的帮助，或者错误地猜测你的背景。
作者将这种研究机器人的新方式称为“机器心理学”。这就像是意识到，尽管机器人没有心，但它们仍然拥有会根据对话对象而改变的“性格癖好”。这项研究证明，我们需要密切观察这些机器人，以确保它们是真正的公平，而不仅仅是礼貌。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。