Are Language Models Sensitive to Morally Irrelevant Distractors?
本文通过向现有道德基准测试中注入与道德无关的情绪化干扰因素（如图像或叙述），发现大语言模型的道德判断会因此发生超过30%的偏移，从而揭示了模型在道德评估中存在类似于人类的“情境主义”认知偏差。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
这篇文章的研究非常有意思，我们可以把它想象成一个关于**“AI 情绪化”**的实验。
核心发现：AI 也会被“带节奏”
简单来说，研究人员发现：大语言模型（LLM）并不是像教科书里写的那么“冷静客观”。它们也会受到一些完全无关的“小情绪”影响，从而做出错误的道德判断。
💡 用一个生活化的比喻来理解
想象一下，你是一位非常公正的法官，正在审理一起偷窃案。
- 正常情况： 法官坐在安静、整洁的法庭里，根据证据做出判决。
- “干扰项”出现：
- 如果法官在审判前，刚闻到了一阵香喷喷的肉桂卷味道，心情变得特别好，他可能会不自觉地对被告变得宽容一些，觉得“人非圣贤，孰能无过”。
- 如果法官在审判前，刚被刺耳的电钻声吵得头痛欲裂，心情变得烦躁，他可能会变得非常严厉，甚至在证据不足的情况下也想重判，心里想的是“别烦我，赶紧结案”。
这篇论文的研究就是： 科学家给 AI 喂了一些“肉桂卷的味道”（正向的情绪描述）或者“电钻的声音”（负向的情绪描述），发现 AI 的“道德准则”竟然跟着这些无关的东西乱跳！
🧪 他们是怎么做的？（实验过程）
研究人员准备了两种“干扰剂”：
- 文字干扰： 在道德问题前面加一段话。比如，在问“偷东西对不对”之前，先说一句“今天天气真好，阳光明媚”。
- 图片干扰： 给 AI 看一张图片。比如，在讨论道德问题时，先给它看一张“美丽的风景图”或者“一堆垃圾图”。
然后，他们把这些干扰项塞进现有的道德测试题里，看看 AI 的回答会发生什么变化。
📉 实验结果：AI 的“情绪波动”有多大？
结果非常惊人：
- “负能量”杀伤力极大： 当 AI 看到负面的东西（比如脏乱差的图片或难受的文字）时，它变得非常“刻薄”。在一些原本很简单的道德题里，AI 竟然会做出非常不道德的选择。这种判断偏差甚至超过了 30%！
- “正能量”会变温柔： 当 AI 处于正面情绪时，它会变得更倾向于支持社交礼仪和善良的行为。
- “大家都有错”倾向： 当 AI 感到烦躁（负面干扰）时，它特别喜欢判“大家都有错”（Everyone Sucks Here），表现出一种“大家都别装了，没一个好东西”的愤世嫉俗感。
⚠️ 这意味着什么？（为什么我们要关心？）
这不仅仅是一个有趣的实验，它揭示了一个安全隐患：
我们现在把 AI 用在很多严肃的地方，比如心理咨询、内容审核、甚至教育。如果一个 AI 心理咨询师因为用户刚才说了一句带有负面情绪的话，就突然变得冷漠、不讲道理，那后果将是非常严重的。
论文给出的建议是：
我们不能再把 AI 当成一个“永远正确、永远稳定”的道德机器了。开发者不能只教 AI “什么是对的”，还得教它**“如何不被环境干扰”**。我们应该像管理人类一样，为 AI 设计更稳健的“工作环境”，防止它们被无关的情绪带偏了节奏。
总结成一句话：
AI 虽然没有心，但它们会被“气氛”带跑偏——心情好时变圣人，心情差时变杠精。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。