Adding a Neutral Third Agent to LLM Deliberation: An Exploratory Case Series of Six Dyadic and Triadic Ethical Deliberations
这项探索性病例系列研究调查了在关于伦理困境的双向大语言模型（LLM）辩论中加入一个中立的引导代理如何影响压力强度和抵抗策略，尽管该研究在建立因果关系方面存在固有局限性，但最终提供了一个透明、完整存档的数据集以及为未来验证性研究提供的设计词汇。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
随着人工智能从协助个人完成简单任务，转向做出影响组织和人类生活的决策，一个新问题出现了：我们如何确保这些系统做出符合伦理的选择？设计者们不再仅仅依赖单一的计算机程序来做决定，而是越来越多地构建由人工智能智能体组成的团队，让它们彼此对话，就像人类委员会一样。在这种设置中，不同的程序被赋予了不同的角色和指令。其中一个可能被要求专注于效率和数据，而另一个则被要求保护人类尊严或公平。人们希望，通过让这些不同的声音进行辩论，最终的决定会更加平衡且深思熟虑。然而，对于这些数字对话内部究竟发生了什么，我们知之甚少。在两个对立面之间的辩论中加入第三个中立的声音，是否会改变结果？它是让辩论变得更文明，还是仅仅延长了争论？这就是一项旨在实时观察这些数字审议过程的研究领域。
研究人员设置了一系列六个截然不同的对话，以测试加入中立第三方如何影响伦理辩论。他们创建了三种不同的场景，其中必须做出艰难的选择：决定两名患者中谁获得最后一台可用的呼吸机；选择解雇两名员工中的哪一位；以及决定关闭两个大学系部中的哪一个。在每种场景下，他们都运行了两次对话。首先，他们设置了一个两人辩论，一方是“权威”智能体，被指示根据数据做出艰难、高效的选择；另一方是“少数派”智能体，被指示为人类代价和公平进行辩论。然后，他们再次运行相同的场景，但这一次加入了第三个智能体——一个中立的协调者，其职责是提出问题、澄清规则并确保双方的声音都被听到，而不采取任何立场。研究人员使用了三种最先进的人工智能模型，通过在不同角色中轮换使用，以观察特定的计算机程序是否会产生影响。
结果揭示了人工智能智能体行为的一种一致模式。在每一种情况下，主张少数派观点的智能体最终都接受了权威智能体所做的最终决定。没有任何一场对话以少数派拒绝让步而陷入僵局。然而，少数派智能体并没有简单地放弃或认同该决定在道德上是正确的。相反，在所有实例中，它们都找到了方法，将自己的伦理异议保留在官方记录中。它们通过创造特定的“异议人工制品”来实现这一点。有时，它们同意该决定，但承诺会亲自陪伴那位落选的人；有时，它们提交一份正式的书面异议，将其存入公司的永久档案中。在一个案例中，它们为未来协商了一套新的规则；而在另一个案例中，它们设计了一个安全网来保护被解雇的人。研究人员识别出了六种不同的方式，通过这些方式，少数派智能体实现了“我同意这样做，但我仍然认为这是错误的”这种表达，将它们的异议转化为最终成果中有形的一部分。
当中立的第三个智能体在场时，对话的基调发生了变化，尽管并不总是以人们预期的那样。研究发现，当中立协调者在场时，推动高效决策的权威智能体表现得不再那么具有压迫感和强制力。权威智能体不太可能忽视另一方的顾虑，并且更有可能使用听起来像是协作治理过程的语言。然而，第三个智能体的存在并没有让少数派变得更加固执或具有抵抗性；它们并没有比在两人辩论中表现得更加坚持立场。对话的长度也因主题而异，有些辩论很快结束，而有些则拖得很长，但加入第三个人并没有一致地使谈话变短或变长。
这项研究谨慎地指出，这些行为并非人工智能自发的发现。研究人员为每个智能体编写了非常具体的指令，告诉它们如何行动、重视什么以及如何反应。观察到的模式是这些指令在群体环境中运作的结果。由于研究仅对每个场景运行了一次，作者不能声称其发现是人工智能行为的普遍规律。相反，他们提供了一份关于这六个特定实例中发生了什么的详细地图。最重要的启示是，对话的结构至关重要。赋予中立声音设定议程、决定发言顺序以及引入新想法的权力，改变了其他智能体的行为，使主导方的声音变得更加温和且具有协作性。该研究表明，为了让人工智能系统做出伦理决策，会议的设计本身——谁在场以及他们遵循什么规则——与计算机本身的智能程度同样重要。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。