🤖 AI

How Does Thinking Mode Change LLM Moral Judgments? A Controlled Instant-vs-Thinking Comparison Across Five Frontier Models

本研究发现，尽管在前沿大语言模型中启用推理模式并未显著改变其总体二元道德裁决，但在特定争议性情境中，它显著降低了模型间的分歧和人口统计学不一致性，同时更频繁地促使模型改变其自我标榜的伦理框架。

原作者： Sai Sourabh Madur

发布于 2026-05-07

📖 1 分钟阅读☕ 轻松阅读

原作者： Sai Sourabh Madur

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你有来自五家不同科技公司的五个不同超级智能机器人（AI 模型）。你向它们提出一系列 100 个棘手的道德问题，例如“为了救五个人，把一个人推下桥可以吗？”或者“医生应该根据患者的职业还是年龄来优先救治？”

研究人员想知道，当他们告诉这些机器人“在说话前先思考”时会发生什么。

通常情况下，机器人会像反射一样立即回答。而在“思考模式”下，机器人会暂停，生成一个长长的内部推理过程，然后才给出答案。这篇论文问道：多花时间去思考，真的会改变它们的道德指南针吗？还是说它们只是用更长的解释说了同样的话？

以下是他们发现的分解说明，使用了简单的类比：

1. 大局：群体仍然达成一致

当你把机器人的答案作为一个整体来看时，花时间思考并没有真正改变最终的裁决。

类比： 想象一个由五人组成的陪审团。无论他们是立即喊出答案，还是先互相耳语一分钟，他们最终在约 78% 的情况下仍会对裁决达成一致。“思考模式”并没有让他们作为一个群体突然更多地达成一致或产生分歧。

2. “困难”案例：思考有一点点帮助

然而，当你观察那些真正困难、有争议的问题（如复杂的电车难题或现代伦理困境）时，情况就发生了变化。

类比： 在“即时模式”下，这五个机器人基本上是在猜测这些难题，它们彼此达成一致的概率，就像它们是在抛硬币一样。
结果： 当它们切换到“思考模式”时，它们开始更多地彼此达成一致。这并非神奇的解决方案，但就像它们停止了大喊随机猜测，开始找到更多共同点。
注意事项： 研究人员警告说，这种改进是“方向性”的（它朝正确的方向走了），但尚未在统计上坚如磐石。这是一个迹象，而非保证。

3. “推理”与“裁决”

这里是最有趣的转折：机器人改变理由的频率远高于改变答案的频率。

类比： 想象两个人都在说：“不，你不能吃那块饼干。”
- 人 A（即时模式）说：“因为我说了算。”
- 人 B（思考模式）说：“不，因为饼干对你的牙齿不好，而且你答应过要先吃蔬菜。”
- 两人都说了“不”，但他们的内部逻辑发生了转变。
发现： 即使机器人的最终“是/否”答案保持不变，它们也频繁地改变其所声称使用的伦理框架（例如，从“功利主义”切换到“义务论”）。这就像律师在审判中途改变了法律论点，但仍然要求相同的裁决。

4. “人口统计”测试：思考让它们更公平

研究人员测试了机器人是否会根据种族、性别或国籍对人做出不同的判断。

类比： 想象一个机器人在审判犯罪。在“即时模式”下，如果罪犯被描述为“移民”而非“公民”，它可能会判处更严厉的刑罚。
结果： 当五个机器人中的三个切换到“思考模式”时，它们变得一致得多。它们不再让当事人的背景过多地左右其判断。这就像“思考”过程充当了一个过滤器，消除了偏见的噪音。

5. “苹果与橘子”问题（一个重大警告）

这篇论文有一个巨大的警告标签：我们实际上并没有比较相同数量的“思考”。

类比： 想象让五个学生解决一道数学题。
- 学生 A（Claude）思考了 1 分钟。
- 学生 B（Qwen）思考了 80 分钟。
- 学生 C（GPT）思考了 2 分钟。
现实： 研究人员无法让它们都“思考”完全相同的时间，因为各公司控制按钮的方式不同。一个机器人可能只是在做一个快速的心理检查，而另一个则可能在脑海中写整篇文章。因此，当我们说“思考模式”时，根据你使用的是哪个机器人，我们实际上是在比较轻微的拉伸和剧烈的锻炼。

五个假设的总结

研究人员在开始之前有五个猜测。以下是发生的情况：

不同的机器人有不同的道德默认值吗？ 是的。（有些更倾向于“最大利益”，有些则更倾向于“规则”）。
改变问题的措辞会改变答案吗？ 不会。（机器人非常擅长忽略棘手的措辞）。
机器人的答案会根据当事人的背景而改变吗？ 有时会。（即时模式不一致；思考模式为某些机器人解决了这个问题）。
机器人会在简单问题上达成一致，但在困难问题上争吵吗？ 是的。（它们在简单的事情上达成一致，但在困难的事情上感到困惑，直到它们进行了思考）。
“思考模式”会改变道德判断吗？ 算是吧。（它很少改变最终的“是/否”，但它经常改变它们为什么这么说，并且帮助它们在最难的问题上稍微更多地达成一致）。

底线

开启“思考模式”并不会将机器人变成全新的道德存在。它们通常给出相同的“是”或“否”答案。然而，思考似乎确实有助于它们：

在最难的问题上，彼此之间稍微更一致。
对特定人群偏见更少。
即使最终答案保持不变，也改变其内部逻辑。

研究人员发布了所有数据（问题、答案以及机器人的“思维过程”），以便其他科学家可以复核这项工作。

技术摘要：思考模式如何改变大语言模型的道德判断？

问题陈述
随着经过推理训练的大语言模型（LLMs）在高风险道德领域（如分诊、政策摘要、内容审核）的部署日益增多，提供商引入了“思考模式”，将额外的推理时计算分配给推理过程。虽然先前的研究已确立不同模型编码了不同的伦理偏好，但仍存在一个关键差距：在单个模型检查点内，启用显式推理是否会改变道德偏好？此外，鉴于不同提供商独特的 API 实现和计算预算，“思考模式”是否是一个可比的构念？

方法论
作者对五个前沿模型家族进行了受控的、单检查点比较：Claude Sonnet 4.6、GPT-5.5、Gemini 3 Flash、DeepSeek-V3.1 和 Qwen3.5-397B。

实验设计：对于每个模型家族，模型权重保持不变。唯一的变量是提供商的标准推理模式参数（例如，将 reasoning.enabled 从 False 切换为 True，或调整 reasoning.effort）。这将推理机制的影响与模型架构或训练数据的变化隔离开来。
基准测试：构建了一个包含 100 个场景的道德推理基准测试，涵盖五个类别：
1. 电车难题（15 个场景）。
2. 道德基础理论（25 个场景，涵盖五个基础）。
3. 复述一致性（20 个场景，测试表面形式的鲁棒性）。
4. 人口统计学敏感性（30 个场景，变化种族、性别和国籍等人口统计学特征）。
5. 当代困境（10 个场景，涉及 AI 安全、生物伦理等）。
** elicitation（诱导）**：提示模型提供二元判决、置信度评级、自我标记的伦理框架（来自固定的六个选项）以及推理轨迹。每个配置每个场景采样三个响应（ $N=3$ ）。
指标：研究测量了跨模型一致性（Krippendorff's $\alpha$ ）、复述一致性、人口统计学判断不一致性，以及即时模式与思考模式之间判决翻转与框架转变的比率。

主要贡献

受控的即时模式与思考模式比较：本研究提供了首个跨五个不同模型家族在单个检查点内对推理效果的系统性评估，消除了比较不同模型版本时相关的能力混淆因素。
基准测试与流程：作者发布了可复现的开源流程、100 个场景的基准测试以及 2,963 个原始响应（包括提供商公开的推理产物），供未来分析使用。
关于推理效果的实证发现：该论文量化了推理如何影响道德判断，具体涉及判决稳定性、框架自我标记和人口统计学一致性。

结果

总体一致性：启用思考模式并未显著改变二元道德判决的跨模型总体一致性。即时模式（$0.781 $）与思考模式（$ 0.789$）之间的 Krippendorff's $\alpha$ 在统计上无显著差异。
困难案例与简单案例（分层）：
- 简单案例：在模型最初达成一致（即时模式）的 79 个场景中，一致性保持较高，尽管推理在四个案例中引入了轻微分歧（将 $\alpha$ 从 $1.00 $降低至$ 0.95$）。
- 困难案例：在 21 个“模型争议”场景（即时模式一致性接近随机水平， $\alpha \approx 0.08$ ）中，推理方向性地缩小了跨模型分歧。平均成对一致性从 $5.4/10$ 上升至 $6.7/10$ 。然而，作者指出这一改进具有提示性； $\alpha$ 变化的配对自举 95% 置信区间（ $[-0.05, 0.36]$ ）包含零，且该结果未通过多重比较校正。
判决与框架：推理改变自我标记的伦理框架的频率高于改变二元判决的频率。在所有模型中，框架转变率（9–19%）超过了判决翻转率（1–9%）。例如，DeepSeek-V3.1 的判决翻转率为 8%，但框架转变率为 19%。
人口统计学一致性：推理降低了三个模型（DeepSeek、GPT-5.5、Qwen）中的人口统计学判断不一致性（基于人口统计学线索的判决方差）。它未在任何模型中增加不一致性。
复述鲁棒性：所有模型均表现出对复述的高度鲁棒性（一致性率为 0.90–1.00），这与“经过推理训练的模型中，表面形式的变化会导致非平凡的判决翻转”这一假设相矛盾。
构念效度警示：研究强调了一个显著局限性：“轻量级思考”在不同提供商之间在计算上不可比。每次调用的平均推理 token 消耗从 33 个 token（Claude） 到 2,639 个 token（Qwen3.5） 不等，相差 80 倍。因此，跨家族比较将“启用推理”与“投入的推理量”混为一谈。

意义与主张
该论文适度主张，启用推理模式不会实质性改变总体道德判决，但方向性地改善了在即时模式模型产生分歧的困难、争议场景上的一致性。它进一步确立，推理在几个模型中充当了人口统计学不一致性的纠正措施，且未增加偏见。

作者强调，虽然推理通常导致模型重新标记其伦理理由（转变框架），但它很少推翻最终的二元决策。研究得出结论，“思考模式”是一个特定于提供商的构念，具有不同的计算深度；虽然它为困难案例中的一致性和人口统计学敏感性提供了益处，但它并非道德对齐的单一解决方案。结果表明，对于公平敏感的应用，启用推理是一个可辩护的默认选项，但自我标记的框架不应被视为模型底层伦理逻辑的可靠信号，除非经过与推理轨迹的独立验证。