Alignment as Jurisprudence
本文主张，法理学与人工智能对齐在通过语言预测和塑造强势行为者的决策方面具有根本性的结构共性，并提出法律理论（如德沃金的解释主义和桑斯坦的类比推理）的跨学科见解可完善人工智能对齐策略，而人工智能的进展反过来也为改进法律理论提供了新视角。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是尼古拉斯·A·卡普托（Nicholas A. Caputo）的论文《对齐即法理》（Alignment as Jurisprudence）的解读，将其拆解为简单概念并辅以富有创意的类比。
核心理念：两个世界，同一个难题
想象两种截然不同的工作：
- 法官：审视旧案（判例）和法律，以决定如何处理全新的情况。
- AI 训练师：试图利用旧数据和规则，教导一个超级聪明的机器人（AI）以人类喜欢的方式行事。
作者认为，这两项工作实际上是孪生兄弟。它们都面临着完全相同的谜题：我们如何从一组过去的示例和规则出发，对从未发生过的事情做出公正的裁决？
该论文建议，律师和 AI 研究人员应该交换心得。律师几个世纪以来一直在解决这种“未来预测”难题，而 AI 研究人员才刚刚开始摸索。
第一部分：AI 如何被教导（“训练”阶段）
目前，AI 模型就像读遍了整个互联网的学生。它们知道如何预测句子中的下一个词，但不知道说什么才是“好”或“坏”。为了解决这个问题，研究人员使用了对齐（Alignment）技术。
旧方法（RLHF）：想象一位老师给学生考试。老师给每个答案打分：“做得好！”或“再试一次”。学生通过获得成千上万次这样的评分来学习。这被称为基于人类反馈的强化学习（RLHF）。
- 问题：这种方法昂贵、缓慢，且依赖于少数教师（众包工作者）的具体观点。如果教师存在偏见，学生就会习得偏见。
新方法（宪法 AI）：不是让老师给每个答案打分，而是给学生一本宪法——一份简短的规则清单，如“要乐于助人”、“不要刻薄”、“尊重人权”。然后教导 AI 根据这些规则进行自我评分。
- 问题：规则过于模糊。在奇怪的新情况下，“乐于助人”到底意味着什么？
基于案例的方法：这就像通过向学生展示一系列具体的故事（案例）来教学，并问：“如果发生这种情况，你会怎么做？”学生通过比较新情况与这些具体故事来学习。
第二部分：法律理论（论文的“大脑”）
作者引入了两位著名的法律思想家，以帮助解决 AI 的问题。
1. 罗纳德·德沃金（Ronald Dworkin）：秉持“原则”的法官
德沃金认为，当法官面对新案件时，不应仅仅查看规则，而必须审视底层价值观（如正义和公平）。
- 类比：想象一位厨师有一本食谱书（法律）。当顾客点了一道书中没有的菜时，厨师不会凭空猜测。他们会问：“这道菜的精髓是什么？在这个文化中‘美味’意味着什么？”他们利用高层原则来指导烹饪。
- 对 AI 的启示：AI 不应仅仅遵循一份“禁止事项”清单。它需要理解规则的精神（如“人权”），以便在规则模糊时也能做出正确的决定。
2. 凯斯·桑斯坦（Cass Sunstein）：运用“类比”的法官
桑斯坦认为，法官不需要宏大、抽象的理论。他们只需要查看相似的过往案例。
- 类比：想象你要决定一种新水果是否是苹果。你不需要植物学博士学位。你只需看一眼你已知是苹果的红果图片，然后说：“这个看起来像那个。”你不需要就为什么它是苹果达成一致，只需要就它是苹果达成一致。这被称为**“未完全理论化的协议”**（Incompletely Theorized Agreement）。
- 对 AI 的启示：AI 不需要就“正义”的深层含义达成一致。它只需要就如何处理具体、现实的示例达成一致。如果我们向 AI 展示足够多的“公平”与“不公平”情境的示例，它就能在不具备哲学学位的情况下学会这种模式。
第三部分：拟议的解决方案（融合两者）
论文认为，训练 AI 的最佳方式是将德沃金的“原则”与桑斯坦的“示例”结合起来。
- 混合方法：
- 给 AI 一本宪法（德沃金的原则），使其了解高层目标（例如，“保护人权”）。
- 给 AI 一个案例库（桑斯坦的示例），使其看到这些原则在现实生活中如何运作。
- 关键步骤：让人类就具体示例进行辩论和裁决。例如，“让一个 12 岁的孩子购买电子游戏公平吗？”AI 从这些辩论中学习。
- 结果：AI 不仅学会了规则是什么，还学会了通过观察过去决策的“形态”，如何将规则应用于新的、奇怪的情况。
这创造了一个民主（因为人类决定示例）且灵活（因为 AI 可以将逻辑应用于新情况）的系统。
第四部分：AI 如何回馈法律
论文还建议，AI 可以帮助律师，而不仅仅是单向帮助。
- “第二意见”机器：想象一位法官做出了裁决。一个基于成千上万过往案例训练的 AI 可以立即指出：“嘿，这个裁决与你以前做出的 50 个类似案例非常不同。你确定要走这条路吗？”它充当一种制衡机制，确保法官不是一味遵循个人偏见。
- “时间旅行”翻译器：AI 可以分析旧法律，告诉我们这些词汇当时（原意）的含义与现在的含义有何不同，帮助律师理解旧法的真实意图。
- “超级代理人”：未来，AI 可以充当每个人的私人律师。如果你想买房或签署合同，你的 AI 代理人可以为你谈判，确保交易公平，使法律不仅对富人，而且对普通人也触手可及。
总结
该论文声称，法律与 AI 对齐是同一场游戏，只是使用的棋子不同。
- 律师几个世纪以来一直在玩这场游戏，研究如何利用规则和故事来决定未来。
- AI 研究人员正试图教导机器人玩同样的游戏。
通过教导 AI 研究人员像法官一样思考（利用原则和示例），我们可以构建更安全、更智能、更公平的 AI。而通过让 AI 帮助律师，我们可以使法律体系对每个人更加透明和公正。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。