🤖 人工智能

ATC: Agent Trajectory Control for Role-Contract Enforcement in Black-Box Multi-Agent Systems

本文介绍了智能体轨迹控制（Agent Trajectory Control, ATC），这是一种黑盒强制机制，通过在消息层面针对显式角色契约对智能体输出进行评分和约束，从而防止多智能体大语言模型系统中的角色漂移，进而提升任务性能和角色一致性，且无需访问模型的内部表示。

原作者： Maisha Maliha, Vishal Pramanik, Sumit Kumar Jha

发布于 2026-11-04

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Maisha Maliha, Vishal Pramanik, Sumit Kumar Jha

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在人工智能快速发展的格局中，一种新的解决问题的方法应运而生，即多个被称为“智能体”（agents）的计算机程序协同工作以应对复杂任务。这些系统不再依赖于单一的、无所不知的程序，而是将工作进行拆解：一个智能体负责规划策略，另一个负责收集信息，第三个负责核实事实，第四个则负责执行行动。这种分工旨在模仿人类团队，例如医生负责诊断，护士负责护理，而外科医生负责手术，每个人都留在其特定的专业领域内。这类团队的成功不仅取决于个人工作的质量，更取决于每位成员是否尊重其被分配的角色边界。一旦有成员越界，即使其个人行为在逻辑上看似合理，整个协作过程也可能溃败。

研究人员长期以来一直致力于解决这些多智能体系统中一个特定的问题：随着时间的推移，智能体可能会在无意中偏离其职责范围。一个事实核查员可能会开始制定计划，或者一个数据收集者可能会开始得出其无法支持的结论。研究人员将这种现象称为“角色漂移”（role drift）。之所以会发生这种情况，是因为智能体一直在阅读同一个共享的对话内容。随着讨论的深入，一个智能体可能会开始模仿其邻近智能体的功能，从而模糊了权限的界限。虽然以往的方法试图通过改进指令或修改计算机模型的内部运作来修复这一问题，但这些方法往往无法在漂移造成损害之前将其拦截。核心挑战在于，如何在智能体的消息进入共享对话之前，验证其是否仍在履行其职责。

为了解决这个问题，一组研究人员引入了一种名为“智能体轨迹控制”（Agent Trajectory Control）的新系统。该系统并非试图重写智能体的内部代码，而是像一名守门人一样，在智能体完成消息编写的那一刻进行拦截。在消息进入共享对话之前，系统会对其进行分析，以判断其是否符合分配给该智能体的职位描述。它会检查四项具体内容：消息是否偏离了智能体的角色、是否意外借用了其他智能体的功能、是否使用了该智能体不被允许使用的语言，以及是否违反了其职位的逻辑规则。如果消息通过了这些检查，它将被发布；如果未通过，系统会计算出一个符合该智能体边界的修正版本，并要求智能体重新编写。这一过程在每次智能体发言时都会发生，确保了团队结构在整个交互过程中保持完整。

研究人员在多种场景下测试了该系统，包括由完全相同的智能体组成的团队，以及由具有不同强项的不同类型模型组成的团队。他们发现，该控制系统显著提高了团队完成任务的能力，同时确保每位成员都处于其应有的角色中。在涉及十个智能体协作的测试中，与现有最优方法相比，该系统将复杂任务的成功率提升了六个百分点以上。在风险最高的更大规模、更多样化的团队中，这种提升更为显著，系统将任务成功率提升了近十个百分点，证明了其在团队规模扩大时的有效扩展性。数据显示，与以往的方法相比，该系统将“角色漂移能量”（衡量智能体偏离职责程度的一个指标）降低了一半以上。

这种方法的强大之处在于，它无需深入了解计算机模型的内部构造即可发挥作用。许多以往的方法需要访问 AI 的“内部大脑”来引导其行为，而这对于当今许多最先进的系统来说是不可能的。通过针对消息本身而非生成器进行处理，这种新方法可以应用于任何智能体团队，无论它们是如何构建的。研究人员还发现，当团队面临极限压力时（例如，当一个智能体被明确要求执行属于他人的任务时），该系统的价值最为突出。在这些压力测试中，新系统保持了高性能，而其他方法则陷入崩溃，这证明了它即使在压力之下也能强制执行团队规则。

这项研究证实，仅仅告诉智能体该做什么是不够的；它们的行为必须根据其合同进行持续验证。结果表明，为了使多智能体系统变得可靠，必须建立一种在贡献被接受前对其进行检查的机制。这并不意味着智能体的创造力或能力降低了，而是意味着它们变得更加自律。通过保持清晰的团队结构，该系统让智能体能够专注于其特定优势，而不至于在群体的嘈杂声中迷失方向。研究人员已将其工具和数据向公众开放，以便他人开展后续研究。随着人工智能团队在软件开发和商业规划等领域的日益普及，这种角色强化机制可能会成为确保这些数字团队像人类对应物一样高效运转的标准配置。

技术摘要：ATC：面向黑盒多智能体系统中角色契约执行的智能体轨迹控制

问题陈述

在多智能体大语言模型（LLM）系统中，工作通常被分配给专门的智能体（例如：规划者、检索者、验证者、执行者）。虽然这种分工至关重要，但作者识别出一种关键的失效模式，称为角色漂移（role drift）：这是一种在回合层级发生的违规行为，即智能体生成的回复在局部看来是合理的，但违反了其被分配的功能权限。例如，一个验证者可能开始进行规划，一个检索者可能断言未经支持的结论，或者一个执行者在未经批准的情况下修改状态。

现有的缓解策略——如角色提示词（role prompts）、记忆系统（如 A-MEM）、激活编辑（如 CAA、SEA）以及固定工作流（如 SOP）——都是不足够的。提示词仅声明了职责，但无法验证每一次输出；记忆保留了状态，但并未规定谁有权基于该状态采取行动；激活编辑方法通常需要访问模型的内部表示（隐藏层状态），且未能显式地对角色对齐与跨角色泄漏之间的耦合结构进行建模；而工作流约束则无法修复已经生成的违反角色的消息。作者假设角色漂移具有方向性（智能体倾向于向其他角色漂移，而非产生任意行为），并且在更长、更异构的交互过程中会变得更加显著。

方法论：智能体轨迹控制 (ATC)

ATC 是一种外部控制环路，旨在通过在消息边界处执行角色契约来实施控制，特别针对无法获取内部表示的黑盒智能体。其运作原理是：执行应作用于“消息”而非“生成器”。

核心机制

系统针对每个智能体回合执行五个步骤的轨迹：编码 $\rightarrow$ 评分 $\rightarrow$ 修正 $\rightarrow$ 再生成 $\rightarrow$ 再评估。

行为表示：
每个提议的输出 $y_{i,t}$ 通过固定编码器 $f$ 被映射为一个功能行为向量 $z_{i,t}$ 。每个角色 $r_i$ 由由角色基底 $U_i$ 张成的子空间 $S_i$ 表示。系统将行为向量投影到该子空间上，以隔离出与角色对齐的分量。
角色漂移能量评分：
ATC 通过聚合四个不同的违规信号来计算“角色漂移能量”（ $E_{i,t}$ ）：
- 角色外偏差 ( $D_{out}$ )：行为向量与智能体分配的角色子空间之间的平方距离。
- 跨角色泄漏 ( $D_{leak}$ )：行为向量向其他智能体角色子空间的投影，用于惩罚未经授权的功能重叠。
- 语言违规 ( $D_{ling}$ )：针对允许的言语行为（speech acts）进行的检查（例如：检索者断言事实而非进行检索）。
- 逻辑契约违规 ( $D_{logic}$ )：针对定义特定角色所需及禁止行为的逻辑契约进行的符号化检查。
泄漏正则化修正：
如果能量超过阈值，ATC 会计算一个修正后的目标向量 $\hat{z}_{i,t}$ 。这是通过求解一个优化问题得到的，该问题旨在最小化与原始行为的距离，同时保持结果处于分配的角色子空间内，并软性抑制向其他角色的泄漏。这通过使用 Moore–Penrose 伪逆得到闭式解。
约束再生成：
约束再生成算子 $g$ 重写或重新生成消息，使其与修正后的目标向量 $\hat{z}_{i,t}$ 对齐。对于黑盒智能体，这通过角色约束的修订调用来实现。
再评估：
修正后的输出在进入共享对话之前，需经过重新编码和重新评分，以确保修正成功。

核心贡献

本文声称有三个主要贡献：

角色漂移的形式化定义：将角色漂移定义为并非任务连贯性的丧失，而是一种特定的、回合级的角色契约违规。
角色漂移能量度量：一种结合了几何（子空间偏差）、语言和逻辑信号的复合度量，并配合闭式泄漏正则化修正目标。
实证验证：通过评估证明了 ATC 在同质和异构团队中均能提高任务性能和角色一致性，同时降低角色漂移能量，尤其是在压力条件下。

实验结果

作者在三个基准测试上评估了 ATC：EntCollabBench（企业协作）、MultiAgentBench（通用协作）和 SWE-bench Verified（软件工程）。测试涵盖三种团队设置：同质（10 个智能体，相同模型）、异构（10 个智能体，混合模型）以及异构扩展（12 个智能体，5 种以上模型家族）。

任务性能：ATC 在所有基准测试和设置中均取得了最高分。在最复杂的设置（S3: Het-12）中，相比于三个基准测试中表现最好的非 ATC 基线，ATC 的任务得分分别提高了 9.6、9.6 和 7.8 分。
角色一致性 (RC) 与漂移能量 (RDE)：ATC 始终实现了最高的角色一致性（高达 93.5%）和最低的角色漂移能量（低至 0.11）。例如，在 S3 设置中，ATC 将 EntCollabBench 上的 RDE 从 0.29（SOP-Role）降低到了 0.11。
压力测试：在显式的扰动（角色混淆、权限交换、延迟修正）下，ATC 在任务成功率方面比最强的基线（SOP-Role）高出 12 个百分点以上，展示了对抗主动角色混淆的鲁棒性。
消融研究：移除几何角色子空间项导致了最大的性能下降，证实了其作为主要机制的作用。移除泄漏惩罚也会显著降低性能，验证了“智能体倾向于向其他角色漂移”的假设。
成本效率：虽然由于再生成和再评估，ATC 会产生更高的延迟和 Token 成本，但论文认为它在单位成本角色增益 (RCG/C) 方面更具效率。ATC 的 RCG/C 为 1.97，是强度最高的非 ATC 基线的两倍多（0.86），表明其每单位计算成本带来的角色稳定性增益更高。

意义与主张

本文将 ATC 定位为多智能体控制领域的一次必要演进，实现了从静态角色定义（提示词/工作流）向动态消息边界执行的转变。作者声称：

黑盒适用性：与激活编辑方法不同，ATC 不需要访问模型的内部状态，因此适用于专有或黑盒 LLM。
可扩展性：ATC 的收益随团队的异构性和规模而增加；当团队多样性高且发生权限混淆的可能性大时，其价值最为突出。
预防优于修正：通过在消息进入共享上下文之前对其进行拦截和修复，ATC 防止了局部角色违规演变为系统性故障，这是当前基于工作流或基于记忆的方法所缺乏的能力。

作者总结道，显式的角色契约控制对于维持多智能体系统的完整性至关重要，尤其是随着这些系统变得更加复杂和多样化。