Frontier Technologies, Complex Externalities, and the Evolution of Private Order: Implications for AI Governance

当一项新技术到来时，它既带来了获益的承诺，也带来了风险的阴影。通常，这种风险的真实本质在技术真正投入实际应用之前是隐藏起来的。对于人工智能这一能够重塑我们生活、工作和交流方式的工具来说，情况尤其如此。由于危险具有复杂性且依赖于特定情境，包括政府官员在内的任何人都很难在技术部署之前就制定出完美的规则。社会面临的核心问题不仅是如何阻止不良结果，而是如何在了解更多风险的过程中，发现管理这些风险的正确方法。这涉及理解“外部性”——经济学家用这个术语来描述影响那些并非原始交易参与者的成本或利益。当一项新技术给邻居或陌生人带来问题时，这些问题就是外部性。挑战在于，这些外部性往往如此错综复杂且难以预测，以至于没有任何单一机构能够提前绘制出它们的蓝图。

两位研究人员，阿里·帕利达（Ali Palida）和尼古拉斯·蒂尔曼（Nicholas Thielman），着手从一个不同的角度探讨这个问题。他们没有询问政府应该如何监管人工智能，而是询问政府监管是否会阻碍私人团体自行寻找解决方案。他们认为，使用新技术的的过程本身就是一种探索过程。通过尝试，人们可以了解哪些行得通，哪些行不通，以及谁需要受到保护。这种学习过程允许私人团体——如保险公司、安全认证机构，甚至是在彼此之间进行谈判的邻居——建立符合特定情境的灵活规则。作者指出，如果政府过早地介入并实施严格的禁令或僵化的规则，可能会阻碍那些旨在寻找最佳技术治理方式所需的实验。

为了测试这一观点，研究人员研究了三个历史上新技术面临类似不确定性的案例。第一个例子涉及19世纪晚期的电力。当电灯和输电线路首次引入时，它们引发了频繁的火灾，但当时没有人确切知道哪些设备是安全的。政府并没有立即介入设定安全标准。相反，一个名为“保险实验室”（Underwriters Laboratories）的私人组织应运而生。该组织由担心火灾损失的保险公司发起，开始测试电气设备并制定自己的安全标准。随着他们测试更多设备并观察到火灾诱因，他们不断完善规则。他们的私人系统变得如此可靠，以至于城市将其标准纳入法律，制造商也寻求其批准以销售产品。作者指出，这一系统之所以奏效，是因为它具有灵活性；它可以随着通过实际使用发现的新危害而改变，而不是受困于在人们了解风险之前就已写好的规则。

第二个例子来自网络保险领域。随着计算机和互联网的发展，黑客攻击成为了主要威胁，但这些威胁的性质不断变化。某一年，主要风险可能是窃取信用卡号；到了下一年，可能变成了锁定医院记录的勒索软件。由于风险变动极快，政府监管机构难以编写能够保持相关性的规则。然而，私人保险公司却能迅速适应。他们开始提供要求客户达到特定安全标准的保单以获得承保。如果一家公司未能更新其安全性，保险公司就会提高保费或取消保单。这创造了一个反馈循环：随着新型攻击的出现，保险公司从理赔数据中学习并更新其要求。这种私人系统实现了安全规则的持续、实时调整，而反应迟缓的政府官僚机构则难以与之匹配。

第三个故事发生在广播电台发展的早期。在政府创建中央机构管理无线电频率之前，各电台经常互相干扰，造成信号混乱。当时的普遍观点是，这种混乱只能通过中央权威来解决。然而，研究人员发现，在政府介入之前，广播电台实际上正在相互协商。他们会交换频率、商定广播时间，或者收购竞争对手以避免干扰。这种通过谈判和产权实现的私人系统让广播业得以发展并产生价值。直到后来，政府才用一个僵化、集权的计划取代了这个灵活的私人系统。作者认为，这种转变并不是因为私人系统失败了，而是因为政客和强大的广播商想要控制这些有价值的电波。结果是，该系统变得缺乏适应性，且创新速度变慢。

为了理解这一过程的机制，研究人员构建了一个关于在未来未知时决策如何运作的简单模型。在他们的模型中，新技术被使用，结果被观察。这种观察让每个人都学到了新知识。如果受该技术影响的一群人可以在学习到新知识时随时会面并重新协商规则，他们就可以调整方法以适应新的现实。他们可以决定停止使用该技术（如果它很危险），或者调整使用方式（如果它安全但需要微调）。然而，如果外部权威强加了一个永久性的禁令或一个无法由私人协议更改的固定规则，学习过程就会停止。禁令阻止了揭示真相所需的实验。即使该群体后来了解到这项技术是安全且有益的，他们仍会被困在旧规则中，因为他们无法绕过政府的否决权进行谈判。

研究人员发现，这产生了两个具体问题。首先，永久性的禁令阻断了理解风险所必需的学习过程。其次，即使该群体学到了不同的安排对所有人更好，固定的政府规则也会阻止他们做出这种改变。作者强调，这并不意味着政府规则总是坏的。有时，为了防止过于严重的灾难，禁令是必要的。但这项研究表明，我们必须权衡禁令带来的即时安全性与停止发现更好、更灵活解决方案所带来的长期成本。目标不是让危险的技术完全处于无人监管的状态，而是要避免在尚未有机会了解情况之前就锁定了规则。

论文总结道，人工智能的有效治理可能不是我们可以从一开始就设计得完美的。相反，它可能是在我们使用技术并从错误中学习的过程中逐渐显现出来的。通过合同、保险和认证，私人团体通常处于更有利的位置，能够快速学习和适应，因为他们与结果有着直接的利益关系。他们可以在新信息到达时立即更改规则。政府干预虽然有时是必要的，但存在将系统冻结在原地的风险。作者建议，最好的路径是为这种私人实验留出空间，确保我们不会阻断那个将教会我们如何安全管理技术的进程。对于政策制定者而言，挑战在于既要保护人们免受即时伤害，又不要切断通往未来更有效治理路径的道路。