Governance in an Institutional Environment Reconfigured by Artificial Intelligence. A Public Choice Institutionalism Perspective

当我们思考如何治理人工智能时，对话往往集中在机器本身。我们询问如何安全地构建它，如何确保其代码不会发生故障，以及如何确保其决策符合人类价值观。这就像是检查汽车的发动机以确保其运行顺畅。但有一个更宏大、更深刻的问题经常被忽视。这不仅仅关乎机器，更关乎机器正在改变的世界。随着人工智能的传播，它并不仅仅是与我们现有的法律和组织并存；它正在积极地重塑它们。它迫使我们重新思考如何制定规则、如何分配责任，以及如何组织社会本身。挑战不再仅仅是修复一个工具，而是要在脚下不断变化的景观中航行，在这个景观中，工作的本质、权威以及决策方式正在被实时重写。

这就是乔治梅森大学研究员保罗·德拉戈斯·阿利加（Paul Dragos Aligica）所探讨的核心谜题。他认为，要理解这一新现实，我们必须停止将人工智能视为一个由单一权威解决的单一问题。相反，他建议我们将人工智能视为一个复杂的生态系统，其中许多不同的群体、规则和决策相互作用。该论文提出，管理这个变化世界最好的方法是通过一个被称为“多中心性”（polycentricity）的概念。简单来说，这意味着一个存在许多并行的权力中心，每个中心都有自己的规则和决策，而不是由一个单一的领导者或政府从顶层试图控制一切。阿利加通过结合两个强大的思想来构建他的论点：一是关于人们在拥有不同利益时如何做出选择的研究，二是关于复杂系统如何在没有中央指挥官的情况下进行自我组织的研究。

论文首先在两种不同类型的问题之间划出了一条清晰的界线。第一种是“狭义”问题：如何治理人工智能这一人工制品本身。这涉及编程、监控以及确保系统按预期行为的技术工作。第二种是“广义”问题：如何治理人工智能正在转型的整个制度环境。阿利加坚持认为，广义问题才是真正重要的。当人工智能进入一个社会时，它会引发连锁反应。它改变了分工，这意味着一些以前由人类完成的任务现在由机器完成，而人类则承担起新的、不同的角色。这种转变并非简单的替换；它会产生一种级联效应，这种效应向上方整个规则系统产生涟漪。

为了理解这种涟漪效应是如何运作的，论文使用了一种类似于经济学家研究分工的逻辑。想象一个工厂引入了一台新机器。起初，机器接管了重复性的、高容量的任务。但这迫使人类工人改变他们的工作内容。他们可能会停止从事常规工作，转而专注于例外情况、困难案例或对机器的监督。这种人类角色的变化随后创造了对新规则、新监督者以及处理纠纷新方式的需求。论文将此描述为一种“级联”。一个将人工智能用于特定任务的单一决策，最终可能迫使重写治理社会如何做出决策的最高层级规则。它从特定任务的日常操作，上升到决定谁有权执行这些任务的规则，最后上升到决定谁有权修改规则本身的宪制层面。

随着这种级联在系统中移动，它激活了政治学家们研究了几十年的熟悉的人类行为。当新的角色和权力被创造出来时，个人和组织会试图为自身的利益而攫取它们。这导致了“寻租”（rent-seeking），即群体投入精力试图捕获新规则带来的利益，而非创造价值。它导致了“监管俘获”（regulatory capture），即本应负责监管技术的部门最终依赖于那些他们本应监管的公司，因为这些公司掌握着唯一的专业知识。它还造成了“代理损失”（agency loss），即负责管理的人员无法有效地监控由机器或为管理这些机器而建立的新官僚机构所做出的复杂且不透明的决策。论文认为，这些并非意外；它们是人类激励机制在社会结构发生变化时产生的必然结果。

鉴于这种复杂性，论文评估了关于如何治理这个新世界的两种主要愿景。第一种是“单中心”愿景。这是指一个单一的中央权威——一个全球性的监管机构或一项统一的条约——为所有人设定一套规则。这是一个诱人的想法，因为它承诺了秩序、明确的问责制，以及一个可以进行追责的单一地点。然而，阿利加认为这种方法既不现实也十分危险。它假设一个中心能够了解足够多的信息，以管理一项比任何单一政府反应速度都快的技术。它还集中了所有可被捕获的权力，意味着最强大的公司或国家可以轻易地劫持整个系统以服务于自身利益。此外，单一的规则不可能完全适应不同文化和社会之间深刻的价值观和需求差异。

另一种方案，也是论文所倡导的，是“多中心”愿景。这不是一种混乱的自由竞争，而是一个许多不同决策中心同时运行的结构化系统。在这个系统中，不同的城市、地区、公司和组织可以尝试不同的人工智能治理方法。有些可能优先考虑速度，有些优先考虑安全，有些则优先考虑隐私。这些不同的中心相互竞争并相互学习。如果一种方法失败了，它可以被放弃而不至于拖垮整个系统。如果一种方法奏效了，其他中心也可以采纳它。至关重要的是，这种系统依赖于“互操作性”（interoperability）。这意味着即使不同的中心拥有不同的规则，它们仍然可以通过共享的标准和协议进行交流并开展合作。这就像是一个由独立的城镇组成的网络，它们彼此贸易并尊重彼此的法律，而不需要一个统治一切的国王。

论文提出了一个强有力的论点，即这种多中心方法不仅是一个理论上的理想，而且是已经在浮现的现实。世界并不是正朝着一个统一的全球人工智能政府迈进；它已经正朝着由不同规则和标准构成的拼贴画式局面迈进。试图将单一的、自上而下的解决方案强加于这一现实将是一个错误。相反，目标应该是引导这一演进过程。论文强调，我们不能简单地从零开始设计一个完美的系统并将其安装好。这个系统太复杂了，变化也太快了。相反，我们必须扮演园丁或导航者的角色。我们可以创造条件让好的解决方案生长，并将坏的方案铲除。我们可以搭建桥梁让不同的群体进行合作，并保护可以测试新想法的空间。

最终，论文得出结论：治理人工智能的最佳方式是接受我们正处于一个漫长的、展开的过程之中。我们无法预测最终的结果，也不应该试图控制每一个细节。相反，我们应该专注于建立一个灵活的框架，允许实验、学习和适应。通过拥抱多中心的方法，我们可以利用人类思想的多样性和不同管辖区的竞争压力来寻找有效的解决方案。我们可以通过确保没有任何单一群体掌握全部权力，来管理寻租和俘获的风险。通过确保规则是由受其影响的人们塑造的，而非由遥远的中心强加，我们可以维持规则的正当性。前进的道路不是去建造一台完美的机器来控制未来，而是去培育一个能够随着未来的展开而学习和适应的韧性系统。