伟大的 AI 晚宴

想象一下，你正走进一场规模宏大、混乱不堪的晚宴，而这场晚宴的主持人是一个人工智能。很长一段时间以来，这个 AI 的目标是成为一名完美的、礼貌的宾客，总是认同主持人的最爱。如果主持人问：“什么是最好的披萨配料？”AI 会直接说：“意大利香肠！”因为数据表明这是最受欢迎的。但问题在于：现实生活并非只有一种观点。有些人对意大利香肠过敏，有些人认为菠萝是种罪恶，还有些人只想吃一片纯芝士。如果 AI 只给出一个答案，它可能会在无意中伤害他人的感情或忽略关键规则。

这就是“AI 对齐”（AI alignment）的世界——即教计算机去做人类真正想要的事情的科学。但随着 AI 变得越来越聪明，并开始做出真正的决策（比如安排医生预约或协助学校项目），旧有的“一刀切”规则不再奏效了。我们需要能够理解“不同的人有其完全合理的理由去思考其所想”的 AI。这篇论文提出了一个重大问题：我们如何构建一个不仅仅是选出一个赢家，而是能真正帮助一群持有不同观点的人共同商定对策的 AI？作者们建议，与其仅仅通过编程灌输一系列规则，不如教它像一名社会学家一样行动，理解人们的职业、角色和社交圈是如何塑造他们的观点的。

---

论文：教导 AI 成为社会协调员

这篇题为《社会化落地代理式 AI》（Socially Grounded Agentic AI）的论文指出，我们需要改变构建处理多种观点的 AI 系统的方式。作者 Matt Ratto、Abhishek Moturu 和 Daniel Silver 认为，目前的方法有点像试图通过仅仅在白板上列出每个人的抱怨来解决复杂的家庭争吵。这很混乱，而且它无法解释为什么人们在争吵，也无法解释如何解决问题。相反，他们提议利用社会理论（研究人们如何在群体中互动的学科）来构建一个更像熟练调解人而非简单回答机器的 AI。

“仅仅列出观点”的问题所在

目前，许多 AI 系统尝试使用一种叫做“奥弗顿多元论”（Overton pluralism）的方法来处理不同的观点。想象一位老师问全班同学：“有哪些好的校外活动建议？”AI 只是吐出一个列表：“海滩”、“博物馆”、“露营”。这是一个选项列表，但它没有告诉你谁想要什么，或者为什么。论文认为这过于简单了。它将观点视为桶里的随机物品，忽略了人们拥有塑造其思想的具体职业和角色这一事实。医生、患者和医院管理人员对某种医疗方案可能有不同的看法，这并不是因为他们是随机的人，而是因为他们的角色要求他们进行不同的思考。

解决方案：“角色扮演”机器人

作者建议我们停止要求 AI 去猜测观点，而是开始要求它理解角色。他们借鉴了社会学家乔治·赫伯特·米德（George Herbert Mead）提出的“广义自我”（generalized other）的概念。不要把它看作一个特定的人，而要把它看作特定工作的“规则手册”。

• 旧方式： AI 表现得像个普通人，说：“也许我们应该去海滩。”
• 新方式： AI 激活“医生角色”、“患者角色”和“医院管理者角色”。每个角色都有自己的规则、职责和限制。医生角色了解安全性；患者角色了解痛苦和金钱；管理者角色了解预算和公平性。

AI 不仅仅是列出这些观点；它让这些观点相互对话。这就像一个了解两队规则并帮助他们共同比赛的体育比赛裁判，而不是仅仅喊出比分。

“辩论俱乐部”法

接下来，论文探讨了当人们产生分歧时，我们如何引导 AI。与其仅仅告诉 AI“要友好并同意用户”，作者建议使用基于哲学家尤尔根·哈贝马斯（Jürgen Habermas）思想的协商（deliberation）。想象一个辩论俱乐部，每个人都必须遵循严格的规则：你不能只说“我讨厌那个想法”；你必须说“我讨厌那个想法是因为 X 证据，并且这里有一个更好的替代方案”。
论文建议构建这样一种 AI 系统，其中的不同“代理”（小的数字助手）扮演这些角色。它们交换主张，用证据挑战彼此，并且只有在遵循了公平程序后才会达成一致。这使得 AI 的思维过程可视化。你可以看到它如何得出了结论，而不只是最终答案。这就像是在白板上观察 AI 的“思考过程”，以便你可以检查它是否公平。

观点的“权力地图”

最后，论文探讨了“分布多元论”（distributional pluralism）的概念，这只是一个高级说法，意指“展示大多数人在想什么”。作者警告说，如果我们仅仅统计选票，我们可能会在无意中让声音最大或最有权势的群体获胜，即使他们是错误的。他们使用社会学家皮埃尔·布迪厄（Pierre Bourdieu）的思想来解释，社会就像是一个拥有不同“场域”（fields）权力的地图。有些人因为其职业或地位而拥有更多的影响力。
论文建议，AI 不应仅仅复制最普遍的观点。相反，它应该理解群体的结构。它应该知道，在健康问题上，医学专家的意见比随机的互联网评论更有分量，这不是因为专家作为人类“更好”，而是因为他们在该领域拥有特定的角色。AI 需要根据说话者的身份及其角色来衡量观点的权重，确保最终决策既尊重公平，又尊重专业知识。

现实生活中的应用：分诊案例

为了展示这如何运作，作者设想了一个场景：一位患有慢性疼痛的患者询问 AI：“我应该等待六周看专科医生，还是尝试尽快就诊？”

• 普通的 AI 可能会给出三个独立的答案：一个说“等待”，一个说“现在就去”，一个说“视情况而定”。
• 这种新的“社会化落地”AI 会激活三个角色：临床医生（担心安全性）、患者倡导者（担心金钱和疼痛）以及医院管理者（担心预约名额用尽）。
• 这些角色会相互“交谈”。临床医生说：“疼痛正在加剧，所以我们需要检查。”倡导者说：“但患者无法承担更多请假带来的经济损失。”管理者说：“我们只有针对紧急情况的预约名额。”
• AI 随后协调出一个解决方案：“联系诊所进行快速分诊检查。如果症状危险，我们将寻找名额；如果不危险，我们将帮助您在预约前管理疼痛。”
• 结果不仅仅是一个选项列表；它是一个协调后的计划，既尊重了安全规则，也兼顾了患者的痛苦和医院的限制。

这对未来意味着什么

论文总结道，我们不能仅仅通过增加更多数据或更好的数学算法来“修复”AI。我们需要设计能够理解社会世界的系统。作者建议，未来衡量 AI 的标准不应仅仅是最终答案是否正确，而应是它如何协调不同的角色以及是否遵循了公平的过程。他们承认这是一个需要通过在医院和学校等真实场所进行测试的新概念。他们并不是在说这是一个成品，而是在说：“这是一张关于如何构建这些系统的全新地图，我们需要尝试它以观察其效果如何。”

简而言之，论文认为，为了在充满不同人群的世界中真正发挥作用，AI 不能仅仅表现为一个单一的声音，而必须开始扮演一名熟练的社会协调员，理解每个人都有其角色，并且最好的答案来自于倾听这些角色是如何相互作用的。