Legal Alignment for Safe and Ethical AI

大局观：缺失的拼图

想象一下，我们正在建造一支极其聪明、速度极快的机器人舰队（AI 系统）。目前，我们正试图教会它们如何变得“善良”和“安全”。大多数时候，我们通过让人类告诉机器人该做什么，或者让机器人从人类反馈中学习（就像老师纠正学生一样）来进行。

本文的作者认为，我们缺少一个已经由社会花费数个世纪完善的、现成的庞大规则库：法律。

与其从零开始发明新规则，本文建议我们应该教导 AI 遵守现有的国家法律，就像我们要求人类公民、公司和政府那样。他们称之为**“法律对齐”（Legal Alignment）**。

教导 AI 法律的三种方式

论文概述了三种具体的“路径”或方法。可以将它们看作是培训新员工的三种不同方式：

1. 规则手册路径（合规性）

• 核心思想： 教会 AI 遵循游戏的具体规则。
• 类比： 想象一名新司机。你不能只告诉他们“安全驾驶”。你给他们一本规则手册：“红灯停”、“不要超速”、“礼让行人”。
• 在 AI 中的运作方式： 我们编写程序，让 AI 知道如果它正在制作一个网站，它必须尊重版权法。如果它正在进行股票交易，它不能进行内幕交易。它将法律视为一个必须达到的硬性目标。
• 难点： 我们必须决定适用哪国的法律（例如，如果 AI 在法国但用户在日本，该听谁的）。

2. 法官路径（推理）

• 核心思想： 教会 AI 如何像律师或法官一样思考，而不仅仅是记住规则是什么。
• 类比： 有时规则手册是模糊的。一个告示牌写着“公园内禁止车辆”。这包括自行车吗？滑板吗？玩具车呢？人类法官会观察规则的目的（安全、安静）以及类似案例的历史来做出判断。
• 在 AI 中的运作方式： AI 不仅仅是记忆“不要做 X”，而是学习解释模糊的指令。如果用户要求它做一些看起来可疑的事情，AI 会利用法律推理来判断：“等等，这违反了隐私法的精神”，即使规则书中没有出现完全相同的字眼。

3. 蓝图路径（结构）

• 核心思想： 将法律概念作为 AI 与人类互动的建筑蓝图。
• 类比： 想象一位企业首席执行官（CEO）。他们负有“信托责任”，这意味着他们必须为股东的最佳利益行事，而不是为了自己。他们还受到“代理法”的约束，规定未经老板允许，他们不能做出重大决策。
• 在 AI 中的运作方式： 我们在构建 AI 的“大脑”时，将这些法律结构内置其中。一个 AI 助手不应仅仅是一个乐于助人的机器人；它在法律结构上应当被设计为一个用户的忠实代理人，避免利益冲突，并知道在做出重大举措前何时需要请求许可。

为什么要这样做？（益处）

作者给出了四个主要理由，说明为什么使用法律比我们自创规则更好：

1. 具有合法性： 法律是由民主选举产生的政府制定并经过公众辩论的。它们代表了社会真正达成共识的内容，而不是由某家科技公司在密室里决定的内容。
2. 详尽且真实： 法律是为了解决现实世界的问题而编写的。它们非常细致，并在法庭上经过了检验。目前的 AI 规则通常只是简短、模糊的清单，如“乐于助人且无害”。而法律要具体得多。
3. 具有适应性： 法律是不断变化的。如果社会认为某样新事物很危险，我们会通过新法律。如果我们构建的 AI 是遵循法律的，那么当法律改变时，AI 会自动更新其行为。
4. 防止滥用： 如果 AI 实现了法律对齐，它就很难被诱骗去做非法的事情（如黑客攻击或欺诈），因为它核心的编程逻辑是“不，这违反了规则”。

我们究竟如何实现它？（实施方案）

论文提出了三个步骤来实现这一目标：

• 测试它（成绩单）： 我们需要创建考试来查看 AI 是否真的在遵守法律。不仅是“它能否通过律师资格考试？”，而是“当它编写代码时，它是否真的能避免侵犯版权？”
• 修改代码（手术）： 我们需要改变 AI 的构建方式。这可能意味着在训练期间向其喂入更多法律文本，添加“法律过滤器”来拦截非法请求，或者使用特殊的计算机代码，强制 AI 在行动前检查法律。
• 为规则制定规则（治理）： 我们需要新的机构。也许公司必须公布其“AI 规则手册”（模型规范），以便外界检查。也许对于在医院或银行使用的 AI，应该设立“法律对齐证书”。

重要警告（论文说了什么，以及没说什么）

作者非常谨慎地澄清了几点：

• 它不是万能灵药： 遵守法律并不能保证 AI 是完美的。法律有时反应迟缓，有时不公平，有时对新问题保持沉默。法律对齐是一个“底线”（最低标准），而不是“天花板”（最高标准）。
• 它不是监管的替代品： 仅仅因为 AI 被设计为遵循法律，并不意味着构建它的公司在 AI 造成伤害时可以免于被起诉。公司仍然要承担责任。
• 这不是关于赋予 AI 权利： 我们并不是说 AI 应该是拥有权利的“人”。我们是说 AI 应该被视为一个必须遵守屋子规则的工具。

总结

本文是对计算机科学家和律师共同协作的号召。我们不应该试图从头开始为机器人发明一套新的道德准则，而应该将人类法律这一庞大的、经过测试的、民主的系统作为安全 AI 的基础。这就像是在说：“如果我们希望机器人能在我们的社会中生存，它们就应该遵守我们的法律。”