The Three-Ring Architecture: Governing Agents in the Era of On-Platform Organisations
本文提出了“三环架构”,将其作为智能体企业(agentic enterprise)必要的治理基础设施,通过引入一个确定性的“基于策略”的联邦层(环 2)来管理并缓解前沿大语言模型智能体(环 3)带来的非确定性风险,从而防止与不受监管的去中心化智能相关的极高项目失败率。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
以下是对《三环架构》(The Three-Ring Architecture)一文的解释,采用了简单的语言和日常类比。
核心问题:在没有政府的情况下建设城市
想象一下,一座城市里的每个人突然都拥有了超级强大的施工队(AI Agent),他们可以瞬间建造房屋、道路和桥梁。问题在于,没有人建立起城市政府、交通法规或警察部队来管理他们。
本文指出,企业目前正在犯下完全相同的错误。他们购买了强大的 AI 工具(施工队),却缺乏管理它们的底层架构。其结果就是?混乱。大约 95% 的 AI 项目之所以失败,是因为这些“施工队”在孤立运行、彼此冲突,或者在没有任何中央权威阻止的情况下违反规则。
作者认为,解决方案不仅仅是“更好的 AI”,而是为你的公司建立一个**“城市政府”。他们称之为“三环架构”**。
三个环:城市的组织方式
将公司想象成一个拥有三个不同区域或“环”的城市。
🟢 环 1:旧街区(基础层)
- 它是什么: 这是你目前的业务。旧有的软件、数据库、电子表格以及你多年来遵循的规则。
- 类比: 把这想象成现有的道路和建筑。你不能直接把它们全部拆除重新开始,否则城市会崩溃。你必须在围绕着新城市进行建设的同时,继续在这些旧路上行驶。
- 目标: 环 1 保持原样不动,但环 2 最终将学会如何为你在这上面驾驶。
🔵 环 2:城市政府(操作系统)
- 它是什么: 这是最重要的部分。它是一个确定性的、基于规则的 AI 系统,充当整个公司的“操作系统”(OS)。
- 类比: 想象一个交通控制中心和警察部队。
- 它本身不盖房子;它负责确保建筑工人们遵守规则。
- 它决定谁可以在哪里行驶(权限)。
- 它协调交通,防止两辆卡车相撞(流程协调)。
- 它记录每一辆经过的车辆(审计/可追溯性)。
- 为什么它很特别: 这个环是确定性的。这意味着如果你给它相同的输入,它每次都会给出完全相同的输出。它永远不会“幻觉”或凭空捏造。它是系统中唯一足够安全、可以掌权的环节。
🟠 环 3:西部荒野(前沿 AI)
- 它是什么: 这就是你在新闻中听到的那些高端、新颖的 AI(如大语言模型)。它们富有创造力、速度极快,可以编写代码或起草邮件。
- 类比: 想象成即兴演奏的爵士乐手或狂野的艺术家。他们才华横溢,能做出惊人的成就,但他们是不可预测的。有时他们能奏出完美的音符;有时他们可能会奏错一个音符,甚至自己都察觉不到。
- 危险: 如果你让这些艺术家在没有交警(环 2)监管的情况下驾驶城市巴士,他们可能会因为“猜”交通灯是绿灯而导致车祸。
- 规则: 环 3 被允许工作,但前提是环 2(政府)必须先检查它的工作。环 3 是一个绕着安全的环 2 中心运行的“卫星”。
两种风险类型:蝴蝶与骰子
论文通过两个有趣的隐喻解释了为什么我们需要环 2:
蝴蝶效应问题(环 2 的职责):
- 想象一只蝴蝶在城市的一角扇动翅膀,导致另一侧引发了一场风暴。这就是复杂系统的运作方式:一个小小的变化可能会引起巨大的、意想不到的连锁反应。
- 环 2 的设计初衷就是为了捕捉这些“蝴蝶”。它确保如果发生了微小的变化,我们可以追溯到源头并进行修复。
骰子问题(环 3 的危险):
- 想象投掷一个骰子。你无法预测结果。如果一个“狂野艺术家”(环 3)犯了错,并不是因为他犯了逻辑错误,而是因为他投出了一个“坏数字”(幻觉)。
- 你无法将一次骰子投掷的结果追溯到原因。它只是“发生了”。
- 论文的观点: 你不能用另一个“掷骰子的人”来管理“掷骰子的人”。你需要一个刚性的、基于规则的系统(环 2)来接住掉在地上的骰子。
如何建设这座城市(转型计划)
论文不仅建议“建立政府”,还提供了一个如何在不破坏公司的情况下进行建设的分步指南。
1. 诊断(“极端高效国家”扫描)
在建设之前,你需要了解自己的现状。作者创建了一个诊断工具,将你的公司与其他数千家公司进行对比。
- 类比: 这就像一次健康体检,它不仅会问你“是否头痛?”,还会告诉你:“你的血压比同行业 90% 的公司都要低,但你的胆固醇水平比其他所有人都要高。”
- 它帮助你区分哪些是生存所必须做的事(入场券),哪些是让你获胜的事(制胜关键)。
2. 计划(排序后的转型议程)
一旦了解了问题,你就需要一个计划。
- 类比: 想象一个针对公司预算的智能 GPS。它不仅仅列出项目,还会对项目进行排序。
- 它优先考虑“快速获胜”(建立信任的小型项目)和“结构性项目”(构建环 2 政府的项目)。
- 至关重要的是,它利用了复利效应:第一个项目会为第二个项目打下基础,从而使后者更便宜、更快。这就像修高速公路:第一英里很贵,但第二英里很容易,因为路已经修好了。
3. 人才(培训与角色)
你不能只靠机器人来建设城市;你需要理解规则的人。
- 类比: 论文引入了一种被称为**“算法化”(Algorithmization)*的新型培训。这不仅仅是教人们如何使用工具,而是教他们如何设计工具所遵循的规则*。
- 角色分配:
- 卓越中心(Centre of Excellence): 在前沿领域发明新事物的“科学家”。
- 催化剂(The Catalyser): 将这些科学构想转化为公司可实际使用的规则的“翻译官”。
- 业务部门(The Business): 决定去向的“驾驶员”。
- AI 冠军(AI Champions): 确保驾驶员遵守规则的“交通管理员”。
总结
论文的结论是:AI 能力本身不是问题,治理才是。
- 旧方式: 公司购买 AI 工具并寄希望于它们能奏效。由于缺乏管理它们的“操作系统”,这导致了 95% 的失败率。
- 新方式(三环架构): 先建立环 2(政府)。让它管理环 3(狂野艺术家)和环 1(旧道路)。
- 结果: 随着 AI 变得越来越聪明(环 3 变得更好),你实际上需要一个更强大的环 2,而不是一个更弱的环 2。艺术家们表现得越出色,你就越需要一位严格的指挥家,以防止乐队变成噪音。
论文认为,如果你不建立这个“操作系统”,你只会堆积起无数孤立且失败的项目。如果你建立了它,你将建立一个智能随时间增长并产生复利效应的公司,使整个组织变得更聪明、更安全。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。