Implementing Computational Law in Wolfram Language for the Governance of Artificial Intelligence
本文展示了一种用于人工智能治理的具象化输入/输出逻辑（Reified Input/Output Logic）的 Wolfram 语言实现，证明了其将法律规范转化为可执行代码以实现可审计智能体行为的能力，同时强调了目前在使用大语言模型自动完成这一形式化过程方面的局限性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正试图教一个超级聪明的机器人如何在充满规则的世界中行事。问题在于，机器人的大脑是一个“黑盒”。你无法窥视其内部，看清它究竟是如何思考或为何做出某个决定的。这就像是在魔术师表演魔术时，要求他解释其中的奥秘。通常，我们会试图通过让机器人学习像人类一样思考来解决这个问题，但这很危险，因为人类的语言是混乱的，充满了隐晦的含义和漏洞。
这就是**计算法学（Computational Law）**发挥作用的地方。你可以把它想象成将一本杂乱的手写规则手册变成一段严格的计算机程序。与其写下“不要刻薄”，不如写下一段代码，规定“如果发生动作 X，则必须产生结果 Y”。这个领域试图让法律规则变得如此精确，以至于计算机可以读取、遵循并证明自己遵循了规则。我们正在看的这篇论文探讨了实现这一目标的特定方法，即使用一种名为 Wolfram 语言 的特殊编程语言。它将法律视为数学方程，即使你不理解机器人的大脑是如何运作的，也可以检查机器人是否遵守了规则。核心问题是：我们能否直接要求一个超级智能 AI（比如正在撰写这段文字的 AI）将我们混乱的英文法律翻译成完美的计算机代码？
这篇论文的大实验：AI 能编写规则吗？
作者詹姆斯·K·怀尔斯（James K. Wiles）决定测试这个想法。他在 Wolfram 语言中构建了一个充当“法律翻译器”的系统。该系统使用了一种特殊的逻辑，称为具象化输入/输出逻辑（Reified Input/Output Logic）。要理解这一点，请想象一台自动售货机。你投入一枚硬币（输入），机器给你一罐苏打水（输出）。在这个法律系统中，“输入”是一个事实（例如“现在是夜晚”），而“输出”是一条规则（例如“你必须停止”）。该系统还处理复杂的概念，如“具象化（reification）”，这只是一个高级说法，指的是将一个事件（例如“爱丽丝把书给了鲍勃”）转化为计算机可以持有、测量和讨论的物理对象。
随后，作者要求一个强大的 AI（GPT-4）充当翻译员。他给了 AI 四个简单的英文法律句子，并要求它将这些句子转化为该系统所需的计算机代码。
结果：魔法与故障并存
实验表明，虽然 AI 速度很快，且能编写出看起来正确的代码，但目前还不能单独信任它。以下是四个测试句子的具体情况：
- “领带与金发”测试： AI 被要求翻译一条关于不戴领带或金发人士必须离开房间的规则。AI 编写的代码看起来可以运行。然而，当作者检查数学逻辑时，他发现了一个隐性错误（bug）：代码在逻辑上是损坏的，导致它对所有人都返回“真（True）”，甚至包括那些戴着领带且黑发的人。AI 创建了一条实际上并没有进行任何检查的规则。
- “每个男人”测试： AI 被要求翻译“每个男人都有义务奔跑”。AI 编写的代码可以运行，但在定义“男人”时出了错。它没有检查一个人是否真的是男人，而是直接假设那个人就是男人，因为规则这么说。这就像是一个夜店保安，他直接认定每个人都是 VIP，从而不再检查身份证件。
- “经理与秘书”测试： AI 尝试翻译一条关于秘书必须记录经理任务的规则。AI 编写的代码看起来非常完美，甚至还加了一句注释：“戴夫不是经理，所以没有义务。”但当代码实际运行时，它却强迫秘书记录该任务，完全忽略了那句注释。AI 的代码与其自身的解释相互矛盾。
- “卫星”测试： AI 被要求编写一条关于卫星必须距离国际空间站 200 公里的规则。AI 编写的代码使用了真实的卫星数据，这令人印象深刻。但数学计算错了：它测量的是沿着地球表面（像在路上行驶）的距离，而不是穿过空间的直线距离。两个卫星在垂直高度上可能相距 400 公里，但代码会判定它们已经接触。
结论
论文得出结论：AI 是一个优秀的助手，但一个糟糕的老板。它可以快速起草规则，但会制造“隐性错误”——这些错误不会导致程序崩溃，但会让机器人做出错误的决策。作者认为，我们不能让 AI 直接编写其他 AI 的法律。相反，我们需要一种团队协作模式：由 AI 起草代码，但人类必须用严格的测试来检查每一行代码，以确保逻辑成立。
“小 Fluffy”案例研究：机器人护卫犬
为了展示这在现实世界中是什么样子的，作者创建了一个名为 Fluffy 的机器人护卫犬案例研究。Fluffy 由一家 AI 公司拥有，并在“计算合同”下运行。这不是一份纸质合同；规则直接写在 Fluffy 的大脑里。
该合同有三个简单的规则：
- 阻止入侵者： 如果有人在夜间进入房屋 100 米范围内，Fluffy 必须阻止他们。
- 保持距离： Fluffy 必须留在离家 200 米范围内。
- 使用武力的许可： Fluffy 被允许使用电击枪，但并非强制使用。
酷炫之处在于，Fluffy 的行为是可审计的。如果 Fluffy 使用了电击枪，系统不仅仅是说“我做了这件事”，它还会生成一份符号化的收据，说明：“我使用电击枪是因为：事实 A（人在 80 米处）+ 事实 B（现在是夜晚）+ 规则 1 = 停止的义务。”这创造了一个清晰、不可篡改的纸质追踪记录，证明机器人遵守了法律。
为什么这很重要
论文指出，我们应该停止寄希望于机器人能“理解”我们的法律，而应该开始给它们可以执行的法律。我们不能等待能够看透 AI 大脑黑盒的那一天。相反，我们需要用可执行规则的笼子把黑盒围起来。
作者建议，虽然我们不能把所有法律都变成代码（有些东西太模糊了，比如“合理”），但我们绝对可以、也应该将安全关键型机器的规则转化为代码。目标不是取代人类法官，而是为我们提供工具，以便能够实时检查机器人是否正在遵守规则。
论文以一个警告结束：我们正在制造强大的机器，如果我们不给它们清晰、可执行的规则，我们最终可能会面临这样一个未来：机器人做出了一个可怕的决定，而我们却完全不知道原因。通过使用计算法学，我们可以确保即使机器人的大脑是一个黑盒，它的规则也是清晰透明的，并且我们始终可以检查它是否履行了应尽之责。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。