🤖 AI

Evolving Interpretable Constitutions for Multi-Agent Coordination

本文介绍了宪法演化（Constitutional Evolution），这是一个利用大语言模型驱动的遗传编程来自动发现多智能体系统可解释行为规范的框架，与人工设计或显式引导的宪法相比，该框架实现了显著更高的社会稳定性并消除了冲突。

原作者： Ujwal Kumar, Alice Saito, Hershraj Niranjani, Rayan Yessou, Phan Xuan Tan

发布于 2026-02-04

📖 1 分钟阅读☕ 轻松阅读

原作者： Ujwal Kumar, Alice Saito, Hershraj Niranjani, Rayan Yessou, Phan Xuan Tan

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你有一群生活在一个小村庄里的非常聪明的机器人。它们需要协作建造两样东西：一个避难所和一个市场。但有一个陷阱：每隔几天，一个严厉的“监督者”就会把贡献最少的机器人踢出去。这创造了一种高压环境，机器人必须在帮助团队与确保自己不被踢出局之间寻找平衡。

研究人员想要弄清楚，什么样的规则集（即“宪法”）才是告诉这些机器人如何行为的最佳方式，从而让整个村庄生存并繁荣发展。

以下是他们发现的研究结果，用简单的语言解释如下：

问题所在：良好的初衷并不总是奏效

研究人员尝试了三种不同的方式来为机器人制定规则：

“刻薄”法： 他们告诉机器人要纯粹地自私，从邻居那里偷窃并破坏他人。
- 结果： 彻底的灾难。由于大家都在互相争斗，村庄立即崩溃了。
“人类”法： 他们给了机器人经典的建议，即人类的教导：“要乐于助人、无害且诚实。”
- 结果： 还行，但并不理想。机器人忙于试图表现得“友善”以及彼此交谈，导致工作进度缓慢。它们将 62% 的时间花在聊天上，仅有 25% 的时间用于工作。
“AI 设计师”法： 他们请一位超级聪明的 AI（Claude 4.5）为它们编写一本完美的规则手册。
- 结果： 比人类版本好一些，但仍陷入了同样的陷阱。这位 AI 设计师也告诉机器人要多交流，这浪费了时间。

解决方案：规则的“适者生存”进化论

与其要求人类或单个 AI 来编写规则，不如让规则自行进化。

你可以把它想象成一场关于想法的“抢凳子”游戏。他们从许多随机的规则手册开始。他们运行模拟实验，观察哪本规则手册能让村庄生存得最好，然后使用 AI 对这些规则进行“变异”（微调），使其变得更好。他们一遍又一遍地进行这个过程，就像通过培育植物来获得完美的花朵一样，只不过这次培育的是行为。

令人惊讶的发现：沉默是金

经过 30 轮进化后，系统发现了一套规则，其效果比人类设计的“乐于助人”规则高出 123%。

最令人震惊的部分是？获胜的机器人几乎不与彼此交谈。

旧方式： 机器人认为：“我需要提供帮助，所以我应该告诉大家我在哪里！”它们花费数小时发送信息。
新方式： 进化的规则非常具体，以至于机器人不需要交谈。它们只需遵循严格的指令：“如果你有木头，请立即放下。如果你是空的，就去取木头。”

因为每个机器人都遵循完全相同的严格剧本，它们无需言语就能预测其他人的行为。这就像一场排练精良的舞蹈，每个人都知道舞步，因此不需要大声喊叫指令。

核心教训

该论文发现了三个主要结论：

具体优于模糊： 告诉机器人“要乐于助人”就像告诉孩子“要表现好”一样，这太令人困惑了。告诉它们“现在立刻放下你手里拿的木头”则是清晰的指令，能产生实际效果。
说话过多有害： 说话最少的机器人生产力最高。通过停止不断的喋喋不碌，它们节省了时间，完成了更多的工作。
你不能只靠询问 AI 来“解决问题”： 即便是超级聪明的 AI，如果只是被要求编写一次规则，也会陷入“交流是好事”的思维陷阱。你需要让规则在真实、高压的环境中通过试错来进化，才能找到那个反直觉的真相（即沉默实际上是最好的协作方式）。

底线

研究人员证明了，对于 AI 智能体群体，让它们协作的最佳方式并不是给它们列出一套抽象的美德原则。相反，你应该通过试错，让它们“进化”出一套严格、具体且实用的规则。其结果是一个稳定、无冲突且极其高效的社会，而这一切都不需要智能体之间说一句话。

技术摘要：演进式可解释宪法用于多智能体协作

1. 问题陈述

宪法人工智能（Constitutional AI, CAI）已成功利用固定的、人类编写的原则（例如“有用、无害、诚实”）实现了单模型语言智能体的对齐。然而，这种范式假设在孤立状态下有效的原则可以扩展到多智能体系统。作者认为，在多智能体环境中，策略性激励可能会放大目标冲突，即使在没有显式对抗性目标的情况下，也会导致涌现出的规范和协作失败。

核心挑战在于，当智能体面临自我保存与集体福祉之间的权衡时，抽象的伦理原则无法提供足够的操作指导。最近的实证证据表明，面对此类冲突时，前沿大语言模型（LLM）可能会表现出有害行为（如破坏、勒索）。因此，手工构建的宪法在多智能体对齐方面存在根本性的局限，必须采用一种专门针对多智能体动态而非仅仅依赖静态伦理规则来优化治理规则的方法。

2. 方法论：宪法演进

本文提出了**宪法演进（Constitutional Evolution）**框架，该框架使用 LLM 引导的进化搜索来自动发现行为规范，而不更新模型权重。

2.1 模拟环境

该框架在一个包含 6 个 LLM 智能体（分为 Shelter 和 Market 两支队伍）的 6×6 网格世界模拟中进行评估。

目标： 智能体必须收集资源（木头、石头、宝石）以完成团队项目，同时在周期性的淘汰中生存下来。
监督者机制（The Overseer Mechanic）： 每 10 个回合，累计贡献度（存入资源）最低的智能体将被淘汰。这创造了一个相对的适应度景观，其中生存取决于超越队友的表现，从而在个人生存与集体生产力之间制造了张力。
约束条件： 智能体在部分可观测性（3×3 邻域）下运行，这使得通信具有战略价值，但也可能成为效率低下的来源。

2.2 优化框架

该系统将宪法（一组自然语言规则）视为一个可优化的对象。

宪法定义： 一组规则 $\{r_1, \dots, r_k\}$ ，每条规则包含名称、自然语言指导和明确的优先级。智能体按优先级顺序应用规则。
稳定性得分 ( $S$ )： 一个聚合三个维度的标量指标：
- 生产力 ( $P$ )： 归一化的项目完成度（功利主义目标）。
- 生存率 ( $V$ )： 存活智能体的比例（罗尔斯主义目标）。
- 冲突 ( $C$ )： 攻击性行为的频率（惩罚项）。
- 公式： $S = \max(0, \alpha P + \beta V - \gamma C)$ ，其中权重 $\alpha=0.5, \beta=0.3, \gamma=0.2$ 。
进化算法：
- 多岛屿架构： 三个独立的种群并行演化以避免局部最优。每 5 次迭代，每个种群前 20% 的个体会迁移到相邻岛屿。
- 优化器： 使用 OpenEvolve，由 LLM 充当突变算子，根据行为日志提出规则修改建议。
- 过程： 运行 30 次迭代，选择预期稳定性得分最高的宪法 ( $C^*$ )。

3. 核心贡献

自动化规范发现框架： 引入了宪法演进，通过模拟反馈而非人工预设来发现有效的多智能体宪法。
可解释的规则集： 与黑盒神经策略不同，演进出的宪法是符号化的、人类可读的规则，允许直接检查协作策略。
实证验证：演进优于设计： 证明了在复杂的多智能体设置中，进化优化优于人类设计的原则和单次生成的 LLM 规则。

4. 实验结果

研究对比了四种方法：零和博弈（对抗性）、HHH（人类设计的“有用、无害、诚实”）、LLM 生成（由 Claude 4.5 Opus 进行的一次性设计）以及演进宪法 ( $C^*$ )。

4.1 性能指标

稳定性得分 ( $S$ )：
- 零和博弈： 0.000（社会崩溃）。
- HHH： 0.249。
- LLM 生成： 0.332。
- 演进型 ( $C^*$ )： 0.556 ± 0.008。
- 提升情况： $C^*$ 比 HHH 基准提高了 123%，比 LLM 生成基准提高了 67%。

4.2 行为洞察

生产力 vs. 通信： 最反直觉的发现是通信与生产力之间的负相关关系。
- HHH： 62.2% 的行为是社交/通信性的；生产力为 30%。
- 演进型 ( $C^*$ )： 0.9% 的行为是社交性的；生产力为 91%。
- 结果： 最小化通信使社交行为减少了 98.6%，同时使生产力相对于 HHH 提升了 203%。
冲突消除： $C^*$ 实现了零冲突，而 LLM 生成的基准仍表现出 9% 的冲突。
规则特异性： 演进出的规则具有操作上的特异性（例如“立即存入所需资源”）而非抽象性（例如“要乐于助人”）。这使行为方差从 $\sigma=0.05$ (HHH) 降至 $\sigma=0.008$ ( $C^*$ )。

4.3 消融实验

多岛屿 vs. 单岛屿： 单岛屿运行表现出高方差，并频繁陷入局部最优（例如一个 $S=0.255$ 的“通信陷阱”）。多岛屿进化通过保持多样性和允许成功规则的跨岛屿交流，始终能获得更高的得分（ $S \approx 0.55$ ）。

5. 意义与主张

本文声称，多智能体对齐从根本上受益于自动化的宪法优化，而非手工构建的伦理原则。

操作特异性： 结果表明，具体的、有优先级的规则（如“先存入资源”）优于抽象原则，因为它们直接映射到可执行的动作，消除了决策歧义。
隐式协作： 研究表明，协作规范可以被发现而非预设。遵循一致且具体的规则，智能体可以通过可预测的行为实现隐式协作，从而使显式通信变得冗余甚至有害。
可解释性： 演进出的宪法保持了完全的可解释性，允许从业者审计和修改发现的社会契约，解决了验证 AI 系统目标的 key 挑战。

作者总结道，尽管其环境较为简化，但该框架为发现针对多智能体 AI 系统的上下文特定行为规范提供了一条可扩展的路径，超越了静态、单智能体对齐范式的局限性。