Constitutional governance for societies of AI agents in the built environment: a research agenda

隐形的机器人城市

想象一下，你的城市不仅仅是由砖块、钢铁和玻璃构成的，还充满了隐形的、超级智能的机器人。这些不是旧电影里那种笨重的金属家伙；它们是生活在你的恒温器、电网、交通灯以及房东计费软件中的软件代理（software agents）。它们的职责是做出决策：调高或调低温度、重新规划交通路线，或者就谁该支付更换新屋顶的费用进行谈判。目前，科学家和工程师主要将这些机器人视为独立的工具，就像一把非常聪明的锤子。他们会问：“这一个机器人安全吗？”但本文认为，这并不是看待问题的正确方式。

不要把一栋建筑看作一台机器，而要把它看作一个繁忙的市场或一个小镇。在一个小镇上，人们有着不同的目标：房东想省钱，租客想保持温暖，电力公司想平衡电网，而城市则希望减少污染。当你拥有这样一个由这些“机器人”组成的城镇，且它们代表各自的人类主人行事时，它们就开始玩一场游戏。它们可能会试图欺骗彼此、隐藏信息，或者争夺资源。这就是博弈论（Game Theory）发挥作用的地方——这是一个研究当利益发生冲突时，人类（或机器人）如何做出决策的数学分支。本文建议，我们需要为这个城镇制定一套新的规则，类似于一部宪法。正如一个国家的宪法设定了任何人不得违反的最高准则一样，本文提议为我们充满机器人的建筑制定一部“数字宪法”。其核心在于设计“游戏的规则”，使得即使每个机器人都是自私的，整个城镇最终仍能处于良好的状态。

论文的核心思想：机器人城市的宪法

这篇由卡迪夫大学的 Ali Ghoroghi 撰写的论文是一份研究议程。它并不声称已经解决了问题；相反，它为我们应该如何解决问题提供了一张地图，以免事态变得混乱。作者认为，我们目前正在构建一个由自主 AI 代理控制房屋和城市的未来，但我们在制定它们如何相互作用的计划方面却毫无准备。如果我们仅仅让每个机器人孤立地保持安全，我们最终可能会得到这样一种建筑：虽然每个机器人都在完美地执行自己的任务，但整体结果却是一场灾难——就像一场交通拥堵，虽然每辆车都在合法行驶，但谁也无法移动。

该论文提出了视角的转变：我们需要设计的是代理的社会，而不只是代理本身。为了实现这一点，作者建议利用经济学、计算机科学和物理学的结合，提出三个主要的研究支柱。

1. “激励分裂”之谜：谁付钱，谁获益？

在升级旧建筑的过程中，最大的问题之一是“激励分裂（split incentive）”。想象一下，一位房东必须支付昂贵的新热泵费用，但享受低电费的人却是租客。房东没有理由进行升级，而租客也负担不起费用。目前，政府试图通过补贴或法律来解决这个问题，但本文建议我们应将其视为一场谈判游戏。

作者提议创建一个“改造谈判模拟器（Retrofit Negotiation Gym）”——这是一个计算机模拟环境，我们可以通过它测试不同的规则，以观察如何让房长和租客达成一致。论文指出，由于我们无法预知未来（能源价格可能会暴跌，或者气候规则可能会改变），我们需要设计出即使在充满不确定性的情况下也能奏效的规则。这就像是在不知道下周是晴是雨的情况下，试图商定一次度假计划。论文建议，有时让交易达成的唯一方法是让政府扮演一种“机制”，支付特定金额来弥补差距，但我们需要精确计算出支付多少才既公平又高效。

2. 作为裁判的“数字孪生”

第二个支柱关乎安全。目前，如果一个机器人控制器犯了错，它可能会导致房间过热或损坏机器。论文提议开发一种新型的“数字孪生（Digital Twin）”。通常，数字孪生只是一个镜像——一个显示建筑实际情况的计算机模型。作者希望将这个镜像升级为一个裁判。

想象一场比赛，玩家（AI 代理）提出动作，例如“将温度调高到 28°C”。在动作发生之前，裁判（数字孪生）会检查规则。但这不仅仅是一个软件层面的检查；这是一个物理检查。裁判使用简化的建筑物理模型来预测：“如果你这样做，房间会对里面的人产生过热影响。”如果预测结果显示“不行”，该指令会在到达加热器之前就被拦截。这不同于事后惩罚机器人；它在物理层面阻止了不良后果的发生。

论文通过一个具体的例子进行了说明：一个炎热夏天的办公室。电网要求建筑削减能源使用。建筑的 AI 想要调高空调以节省开支，但租客的 AI 想要保持房间凉爽。裁判检查规则：“我们可以稍微调高温度，但绝不能超过 28°C，因为这会伤害人体。”裁判拦截了危险的动作，建筑 AI 尝试了一个更安全的动作，随后裁判批准了该动作。这个系统确保了即使 AI 代理在争论，建筑的物理安全性也永远不会受到威胁。

3. 从混沌中变强：反脆弱性

第三个想法是关于处理冲击。通常，我们希望系统是“韧性（resilient）”的，即能够承受打击并恢复。但论文建议我们应该追求反脆弱性（antifragility）。这是一个高级词汇，指的是那些在遇到问题时反而变得更强大的系统。

想想肌肉：如果你举起重物（一种冲击），它会变得更强壮。论文认为，我们的城市基础设施的设计应当如此：当冲击发生时（如突发热浪或停电），游戏的规则会迫使 AI 代理分享信息并重新分配资源，从而使整个系统变得更聪明、更高效。论文并不声称我们已经建立了这种系统；它建议我们需要设计规则，使得当混乱来袭时，系统不仅能生存，还能学习和改进。他们正在研究如何利用来自欧洲试点城市的数据来衡量这一点，以观察规则是否能将灾难转化为学习的机会。

这对未来意味着什么

论文非常明确地阐述了它的定位与局限。它并不是在说我们已经建立了这些系统，或者这些系统是完美的。事实上，它承认“裁判”（数字孪生）也会犯错，就像人类法官一样。如果裁判的模型是错误的，它可能会拦截一个好的想法，或者放行一个坏的想法。因此，论文呼吁建立一个裁判的决定可以被申诉和检查的系统，并且我们要保留每一项决策的记录，以便从错误中学习。

作者还在警告我们不要犯一个常见的错误：认为只要让每个 AI 代理本身变得“友善”或“安全”，一切就会顺利。论文认为，这就像试图通过让每个司机都成为好人来解决交通拥堵，却不去改变交通灯或道路规则。真正的解决方案是编写宪法——即管理这些代理如何相互作用的高层规则。

论文最后向研究人员、工程师和政策制定者发出了行动号召。我们需要在 AI 代理接管我们的建筑和城市之前，就开始编写这些规则。我们需要结合博弈论的数学、建筑物理学和法律伦理学，去创造一个人类与机器人可以安全、公平共存的社会。这是一个巨大的挑战，但论文指出，如果我们能制定好规则，未来的城市将比以往任何时候都更聪明、更安全、更具适应性。