想象一下，你是这家庞大公司的首席执行官。你听说人工智能（AI）智能体是未来——它们是能够思考、规划并完成任务的数字员工。但你感到担忧。如果你雇佣了太多它们，或者雇佣了错误的智能体，它们可能会互相争执、犯错，甚至意外删除公司的数据库。

这篇由 John deVadoss 撰写的论文，是一份关于如何在不引发混乱的情况下雇佣和管理这些"AI 员工”的蓝图。它论证道：你不能仅仅在糟糕的设计上贴上一份治理政策，就指望它能发挥作用。 你必须首先正确设计工作。

以下用通俗易懂的语言，结合一些日常类比，对这篇论文进行解读。

1. 问题所在：“微服务”式的错误

多年前，企业试图将软件拆分为称为“微服务”的微小、独立的模块。他们心想：“如果我们拥有 100 个微小的服务，我们就能极其灵活！”但结果却适得其反。他们最终得到了一团乱麻般的 100 个服务，彼此沟通不畅、运行成本高昂且频繁崩溃。这被称为“分布式复杂性”。

现在，企业正在对 AI 智能体重蹈覆辙。他们仅仅因为听起来很酷，就创建了数百个微小的“微智能体”（例如“销售机器人”、“人力资源机器人”、“财务机器人”）。

• 论文的警告： 如果你在没有明确计划的情况下创建 50 个智能体，你并不是在组建一个团队；你是在制造一个混乱的人群。它们会重叠、争执并犯错。

2. 解决方案：CEAD（“能力对齐”方法）

作者提出了一种构建这些系统的新方法，称为CEAD。这就像组建一支职业运动队，而不是随意凑局的比赛。

• 旧方法（治理优先）： “让我们雇佣 20 个智能体，然后写一本 50 页的规则手册，告诉它们不能做什么。”
  • 结果： 智能体依然困惑，规则手册太慢而无法阻止它们，最终导致失败。
• CEAD 方法（设计优先）： “让我们看看实际需要完成的工作。谁负责这项工作？他们需要哪些工具？风险是什么？”然后，我们针对这些工作雇佣特定的智能体，规则自然地围绕它们建立。

3. 关键工具：“智能体能力契约”（ACC）

在过去，当你雇佣人类时，你会给他们一份职位描述。在旧软件时代，你有“服务契约”（一份列出软件程序能做什么的清单）。

论文指出，每个 AI 智能体都需要一份智能体能力契约（ACC）。这不是一份枯燥的法律文件；它是智能体的“身份证”和“职位描述”的合体。它明确规定：

• 你的工作是什么？（例如：“处理发票”，而不是“做所有事情”。）
• 你能决定什么？（例如：“你可以批准 500 美元以下的发票，但超过 500 美元必须请示人类。”）
• 你能接触哪些工具？（例如：“你可以读取数据库，但不能删除它。”）
• 如果你卡住了会发生什么？（例如：“如果你不确定，请停止并询问人类。”）

类比： 想象一个建筑工地。

• 没有 ACC： 你把一把锤子递给一个随机的人，说：“建一座房子，但要遵守规则。”他们可能会砸到自己的拇指，或者把屋顶建在地上。
• 有 ACC： 你有一位工头（主管），他给特定工人分配特定任务：“你是‘框架工’。你有一把锤子和一把锯子。你可以建造高达 10 英尺的墙壁。如果你需要切割横梁，请向高级木匠请教。如果你发现地基有裂缝，请停止并呼叫工程师。”

4. 实验：谁赢了？

作者测试了五种不同的方式来组织 10,000 项不同的商业任务（如处理工资单、检查法律合同或管理 IT 工单）。

1. 独狼模式： 一个试图包揽一切的大型 AI。（经常失败，因为它会感到困惑。）
2. 蜂群模式： 32 个微小的智能体在没有明确规则的情况下乱跑。（灾难。错误率高，成本高。）
3. SOA 风格： 像旧式软件服务一样连接的智能体。（有所改善，但仍错过了 AI 的“思考”部分。）
4. “治理优先”网格： 一个拥有庞大规则手册和严格审计员的大型智能体团队，但没有清晰的工作设计。（它们遵守了规则，但速度慢、成本高，并且由于结构糟糕，仍然犯错。）
5. CEAD 团队： 一个设计精良的小型团队，拥有清晰的契约、主管和特定工具。

结果：
CEAD 团队以压倒性优势获胜。

• 它们安全成功的概率高达70.6%。
• “治理优先”团队仅为50.8%。
• “蜂群”仅为23.1%。

教训： 你无法用更好的规则手册来修复糟糕的团队设计。你必须首先正确设计团队。规则（治理）是用来支持良好设计的，而不是用来创造设计的。

5. 给企业领导者的黄金法则

如果你想在你的公司中使用 AI 智能体，论文提供了以下简单建议：

• 不要为“角色”（如“营销机器人”）雇佣智能体。 要为能力雇佣它们（如“负责发票审批的人”）。
• 从小处着手。 不要构建一个由 50 个智能体组成的蜂群。从一个“主管”智能体开始，只有当新智能体有完全不同的工作或需要不同工具时，才添加专家。
• 像对待金库一样对待记忆。 AI 智能体会记住事情。你需要设计谁能读取这些记忆，谁能删除它们，就像对待银行金库一样。
• 人类必须在回路中。 对于高风险决策（如花钱或解雇某人），智能体必须停止并询问人类。这不是缺陷；这是一个特性。
• 解雇你的智能体。 如果一个智能体没有做好它的工作，或者两个智能体在做同样的事情，就淘汰它们。不要让它们堆积如山。

总结

论文指出：设计为王。
不要只是把 AI 扔给你的问题，然后指望规则来拯救你。首先设计“工作”，给智能体清晰的契约，保持团队精简，并让规则来保护这一良好设计。如果你这样做，你的 AI 智能体将是安全、高效且真正有用的。如果你不这样做，你得到的将只是一个非常昂贵、非常困惑的数字人群。