AI Governance Under Political Constraints: The Case for Ex Post Liability
本文认为，在政治约束条件下，事后严格责任制是由于其避免了困扰事前监管的俘获与共识失败，从而成为最稳健的人工智能治理工具，同时还提供了一个用于分类补充性工具以及评估削弱民事责任努力的框架。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
人工智能的发展速度快于旨在引导它的规则。随着这些系统变得日益强大，它们有望解决医学和科学领域的难题，但也带来了严重的潜在危害，从广泛的欺诈到人类对关键机器失去控制。世界各地的政府都在试图决定如何管理这种力量，以免其造成破坏。核心问题不仅在于编写什么样的规则，而在于如何以一种真正奏效的方式来编写规则。挑战在于，没有人能就这些系统的危险程度达成一致，而且开发这些系统的人对政治家产生的影响力远超普通公众。这种失衡使得通过严格的法律变得困难，即要求公司在发布技术之前证明其安全性，因为政治家无法就“安全”的定义或可接受的风险程度达成共一。
休斯顿大学的研究员加布里埃尔·韦尔（Gabriel Weil）发表的一篇新论文指出，应对这种不确定性的最佳方法是停止预测未来，转而为过去买单。该论文建议，与其强迫公司在构建或发布新的人工智能之前获得政府批准，不如采用一种让公司对其技术实际造成的任何损害承担财务责任的制度。这种被称为“事后责任制”（ex post liability）的方法，将安全负担转移到了开发者自身身上。如果技术运作良好且未造成麻烦，公司则无需支付任何费用。如果造成了灾难，它们必须赔偿损失。韦尔的分析表明，这种方法比试图预先设定严格规则更具稳健性，也更适合于这项技术的未知性质。
论文首先解释了为什么传统的监管方法在人工智能领域很可能失败。通常，政府试图通过制定规则、要求许可或对公司创造的风险征税来管理风险。例如，政府可能会规定公司在使用其系统之前必须证明其安全性，或者可能会根据系统使用的计算能力多少来征收税款。然而，这些方法都需要对技术的危险程度达成明确共识。为了设定税率或安全规则，政治家必须首先决定预期会造成多少伤害。韦尔指出，专家们对此无法达成一致。有些人认为灾难性的风险几乎是必然的，而另一些人则认为这种风险微不足道。由于这项技术如此新颖且复杂，没有可靠的数据可以解决这场争论。由于缺乏对风险的共同理解，政治家设定的任何规则或税收要么会过于软弱而无法阻止灾难，要么会过于严格而阻碍所有进步。
此外，论文认为政治过程本身就向有效监管倾斜。人工智能系统出错时，受害者将是分散且缺乏组织的普通大众。而构建这些系统的公司数量稀少、资金雄厚，并且有极强的动力来保护自身利益。在政治体系中，拥有资金的有组织的团体通常比松散的公众拥有更大的影响力。如果政府试图制定严格的规则，这些公司可以通过游说使规则变得更弱或更容易被规避。他们还可以利用自己的技术专长来迷惑监管者，因为监管者往往依赖于公司本身来解释其技术的工作原理。这导致了规则最终是在保护公司而非公众。
韦尔提出，让公司对其实际造成的伤害承担责任可以避免这些政治陷阱。在严格责任制下，公司不需要获得构建系统的许可，也不需要与政府就特定风险水平达成一致。相反，公司只需知道，如果其系统伤害了某人，它就必须支付代价。即使没人知道这项技术到底有多危险，这种方法依然行之有效。如果技术证明是安全的，公司无需支付任何费用；如果证明是危险的，公司则需赔偿损失。这为公司创造了强大的动力，促使它们自行研究如何让系统变得安全，因为一旦出错，必须承担账单的人就是它们自己。
论文还讨论了一个常见的担忧：如果灾难规模巨大，以至于单个公司无法承担怎么办？在单个公司无法覆盖损失的案例中，作者建议使用惩罚性赔偿。这意味着，如果一家公司采取了一种可能导致灾难的风险，即使灾难尚未发生，如果其行为极其接近引发灾难，它们也可能面临巨额罚款。这种罚款将基于它们创造的潜在危险程度来计算，而不仅仅是实际造成的损害。这确保了即使公司认为自己可能不会被抓到，也会因为潜在风险而保持谨慎。为了处理公司无法支付较小事故赔偿的问题，论文建议要求它们购买保险。保险公司将扮演私人监管者的角色，检查系统的安全性，并对风险较高的系统收取更高的保费。
作者将这种方法与目前正在讨论的其他想法进行了对比，例如给予公司“安全港”待遇，或者如果遵循了某些政府规则则免于诉讼。论文认为这是一个糟糕的交易。如果一家公司仅仅因为遵循了清单就可以避免为伤害负责，那么它们就没有动力去超越最低要求以实现真正的系统安全。论文还审视了美国和欧洲最近试图用责任换取监管的立法提案。韦尔发现，这些提案都没有提供良好的价值。它们倾向于削弱追究公司责任的制度，却未能提供足够强大的替代方案来保障人们的安全。
论文总结道，虽然透明度要求和安全研究等其他工具很有用，但它们应当支持责任制，而不是取代责任制。治理人工智能最有效的方法是让市场和法院来完成风险分类的工作。通过让开发者为造成的伤害买单，该制度迫使它们将错误成本内部化。这种方法不需要政治家对未来达成共识，也不会赋予他们任意阻止进步的权力。它仅仅确保了那些构建技术的人是承担失败后果的人。在一个风险未知且政治复杂的现实世界中，这种方法提供了最可靠的安全路径。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。