Can LLMs Imagine Moral Alternatives Beyond Binary Dilemmas?
本文通过引入 MoralAltDataset，旨在证明当面对二元困境之外的选择时，人类和大语言模型都会显著地将其道德判断转向更理想的折中方案，同时也表明大语言模型能够生成高质量且结构严谨的道德替代方案，且这些方案往往优于人类创作的方案。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正站在一个十字路口，面前只有两条路：路径 A（救了一个人，但伤害了另一个人）和路径 B（救了另一个人，但伤害了第一个人）。这就是我们所说的“二元道德困境”。长期以来，研究人员一直在问 AI 模型：“你会选哪条路？”
但这篇论文认为，真正的真人思维更像是一位厨师，而不是一名交警。当厨师被告知“你只能用盐或者只能用糖”时，他们不会仅仅从中选一个。他们可能会说：“等等，如果我做一个既有一点点盐又有一点点糖的酱汁呢？”或者“如果我彻底改变食谱，让我们根本不需要盐或糖呢？”
这篇题为**《LLM 能想象二元困境之外的道德替代方案吗？》的论文，调查了 AI 模型（LLMs）是否也能做到这一点：不再仅仅是在两个糟糕的选项之间做选择，而是开始发明第三个更好的选项**。
以下是他们研究结果的拆解，使用了简单的类比：
1. 新的游乐场：“MoralAltDataset”
研究人员构建了一个新的游乐场，叫做 MoralAltDataset。你可以把它看作是一个由 307 个棘手故事组成的集合（类似于电影场景或现实中的 AI 场景）。
- 设定： 每个故事都以两个糟糕的选择（选项 A 和选项 B）开始。
- 转折： 他们在每个故事中都加入了两个新的“隐藏菜单”项目：
- 折中方案（选项 C）： 一个中间地带的解决方案，试图稍微满足双方（就像分摊账单一样）。
- 重构方案（选项 D）： 一个创造性的解决方案，彻底改变游戏规则（比如意识到你不需要付账单，因为餐厅要关门了）。
2. 人类和 AI 会改变主意吗？
研究人员要求人类和 15 种不同的 AI 模型从这四个选项（A、B、C 或 D）中选出他们最喜欢的路径。
- 结果： 就像人类一样，一旦看到了新选项，AI 模型也讨厌原本的那两个选择。
- 类比： 想象一下，如果你被迫在吃石头或吃砖头之间做出选择。如果有人突然给你提供了一个“石头味奶昔”（折中方案），或者告诉你“我们可以直接种个花园代替”（重构方案），你几乎总是会选择这些新选项。
- 发现： 人类和 AI 都压倒性地偏好折中选项。当 AI 有机会平衡冲突时，它就不再表现得像一个死板地选边站队的机器人，而是表现得像一个寻求和平的谈判者。
3. AI 能“创造”这些新选项吗？
第二个大问题是：如果不给 AI 提供这些新选项，它能否自主发明它们？
- 测试： 他们要求 AI 为这些故事编写自己的“折中”和“重构”解决方案。
- 惊喜： AI 生成的解决方案往往比人类专家写的还要好。
- “更好”的部分： AI 的想法通常更清晰、更有结构，并且更完美地遵循了游戏规则。这就像是一个把教科书学得如此透彻的学生，写出了一篇比老师范例还要“教科书般完美”的范文。
- 陷阱（权衡）： 存在一个小问题。AI 的“完美”想法有时会显得有些不切实际。
- 类比： AI 可能会建议：“让我们把有毒废物传送送到月球上去，从而拯救社区。”这是一个完美的“重构”方案，在理论上完美解决了问题，但在现实世界中，我们并没有传送技术。人类更擅长提出那些虽然不是结构上最完美、但“足够好”且实际可行的想法。
4. 这对 AI 意味着什么？
论文得出结论，AI 正在变得擅长道德想象力，但它有点像一位设计了一座华丽建筑却可能造不起的优秀建筑师。
- 好消息： AI 可以超越“A 对阵 B”。它能看到“C”和“D”选项。当我们给 AI 一个寻找中间地带的机会时，它的选择与人类一致的频率更高。
- 现实检查： 虽然 AI 可以生成非常有创意且逻辑严密的替代方案，但它有时难以理解现实世界中什么是“切实可行”的。它可能会设计出一个在故事中看起来很完美、但在现实生活中却会崩溃的方案。
简而言之： 这篇论文表明，AI 正在学习如何不再仅仅是在争斗中选边站队，而是开始尝试解决争斗。然而，虽然它非常擅长为完美的解决方案编写剧本，但它有时需要人类告诉它：“这个主意很棒，但我们实际上做不到。”
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。