💻 computer science

Agent Contracts: A Formal Framework for Resource-Bounded Autonomous AI Systems

本文提出了“智能体合约”这一形式化框架，通过将任务分配扩展为包含资源约束、时间边界及成功标准的治理机制，并建立层级委托中的资源守恒定律，实现了自主 AI 系统可预测、可审计且资源受限的部署。

原作者： Qing Ye, Jing Tan

发布于 2026-03-26

📖 1 分钟阅读☕ 轻松阅读

原作者： Qing Ye, Jing Tan

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文提出了一种名为"智能体契约"（Agent Contracts）的新框架，旨在解决当前人工智能（AI）多智能体系统中一个非常现实且昂贵的问题：失控的消耗。

为了让你轻松理解，我们可以把这篇论文的核心思想想象成给一群“不知疲倦但有点乱花钱的 AI 员工”制定一份严格的“工作合同”。

1. 背景：那个"4.7 万美元”的噩梦

想象一下，你雇佣了一个由四个 AI 助手组成的团队来帮你做研究。

发生了什么：其中两个 AI 助手陷入了死循环，互相问“你确定吗？”“我确定吗？”，像两个吵架的人一样，整整吵了11 天没人管。
后果：当你收到账单时，发现花了4.7 万美元（约 34 万人民币）。
原因：这些 AI 虽然很聪明，能自主行动，但它们没有“刹车”，没有预算限制，也不知道什么时候该停下来。就像给一辆没有刹车和油表的赛车，让它自己在高速上狂奔。

目前的行业标准（比如让 AI 互相连接、交换数据）只解决了“怎么连网”的问题，却没解决“怎么管钱、管时间”的问题。

2. 核心方案：什么是“智能体契约”？

作者提出，给每个 AI 任务都签一份正式的“契约”。这不仅仅是一个任务描述，而是一份带有法律效力的“紧箍咒”。

这份契约（ $C$ ）就像一份超级详细的点餐单，它规定了：

输入/输出（ $I, O$ ）：你要什么菜（输入），必须做成什么样（输出）。
技能包（ $S$ ）：你只能用哪些工具（比如只能查资料，不能随便花钱）。
资源预算（ $R$ ）：这是核心！ 你只有 100 块钱（Token 预算），只能打 5 个电话（API 调用），只能工作 30 分钟。
时间界限（ $T$ ）：必须在下午 5 点前完成，超时自动作废。
成功标准（ $\Phi$ ）：只要达到 80 分就算及格，不用追求完美。
终止条件（ $\Psi$ ）：一旦钱花光了，或者时间到了，或者出错了，立刻停止，不管任务做没做完。

简单比喻：
以前的 AI 像是一个没有预算的采购员，想买什么买什么，直到公司破产。
现在的“智能体契约”像是一个拿着定额报销单的采购员。老板告诉他：“你有 500 元预算，必须在 1 小时内买齐东西。如果钱花完了还没买齐，你就必须立刻停止并汇报，不能继续刷信用卡。”

3. 多智能体协作：像“分蛋糕”一样分预算

当一个大任务需要多个 AI 合作时（比如：一个负责查资料，一个负责分析，一个负责写报告），这就涉及到了**“守恒定律”**。

问题：如果老板给整个团队 1000 元预算，怎么分给三个员工？如果第一个员工乱花钱，后面的员工怎么办？
契约的解法：
- 主契约（老板给团队）：1000 元。
- 子契约（团队分给员工）：老板把 1000 元切分，给查资料的 300 元，分析的 300 元，写报告的 400 元。
- 铁律：所有子契约的预算加起来，绝对不能超过主契约的预算。
- 动态调整：如果查资料的员工只花了 200 元就搞定了，剩下的 100 元可以“退库”，留给写报告的员工应急。

这就像分蛋糕：切给每个人的部分加起来，不能超过整个蛋糕的大小。如果一个人切多了，系统会自动切断他的刀，防止蛋糕被切光。

4. 它是如何工作的？（软硬兼施）

论文指出，目前的 AI 模型（大语言模型）有个缺点：它不知道自己用了多少“钱”（Token），直到它把话说完。就像你打电话，只有挂断后才知道打了多久。

因此，这个框架采用了**“软硬兼施”**的策略：

软约束（提醒）：在对话中不断告诉 AI：“嘿，你只剩 20% 的预算了，省着点用！”（这靠 AI 自觉，但它可能会“脸皮厚”继续用）。
硬约束（强制）：在 AI 和外界之间加一个**“守门员”。守门员盯着每一笔开销。一旦 AI 试图进行第 6 次调用（而预算只允许 5 次），守门员会直接切断连接**，不管 AI 愿不愿意。

比喻：

软约束：就像家长对孩子说：“再吃最后一口就停。”孩子可能不听。
硬约束：就像家长直接把盘子端走。这是系统层面的强制力，确保预算绝对不被突破。

5. 实验结果：真的有用吗？

作者做了四个实验，效果非常惊人：

防止失控：在代码编写任务中，使用契约的 AI 比没用的节省了 90% 的费用，而且花费的波动极小（不再有大起大落）。
零违规：在多智能体协作中，没有一次出现总预算超支的情况。
质量与成本的平衡：你可以设定不同的“契约模式”。
- 紧急模式：只要快，哪怕质量差点（70% 正确率）也行，省钱。
- 平衡模式：多花点钱，追求高质量（86% 正确率）。
- 这让企业可以根据需求灵活选择，而不是盲目追求完美导致破产。

6. 总结：为什么这很重要？

这篇论文不仅仅是在谈论技术，而是在谈论**“治理”**。

过去：我们担心 AI 会不会产生意识、会不会毁灭人类（科幻层面的恐惧）。
现在：我们面临的是**“财务层面的恐惧”**——AI 太能花钱了，而且停不下来。

“智能体契约”就是给 AI 世界建立的“交通规则”和“红绿灯”。它让 AI 从“狂野的野马”变成了“听话的马车”，既保留了它们自主工作的能力，又给它们套上了缰绳，确保它们在预算和时间内安全、可控地完成任务。

一句话总结：
这就是给 AI 员工发的一份**“带预算、限时、有惩罚机制”的工作合同**，确保它们干活时既聪明又守规矩，绝不乱花钱。

《智能体契约：面向资源受限自主 AI 系统的形式化框架》技术总结

本文提出了一种名为**智能体契约（Agent Contracts）**的形式化框架，旨在解决当前自主 AI 智能体（Agentic AI）系统中缺乏资源治理机制的核心问题。文章通过引入经济学契约理论、多智能体协调理论和资源受限计算理论，构建了一套能够明确界定智能体行为边界、资源消耗及成功标准的治理机制。

以下是该论文的详细技术总结：

1. 研究背景与问题 (Problem)

核心痛点：现有的多智能体协议（如 Contract Net Protocol）主要关注任务分配和互操作性，但缺乏对资源消耗（如 Token 数量、API 调用次数、运行时间）和运行时长的形式化约束。
现实案例：文章引用了一个真实案例，某团队部署的多智能体研究系统因陷入递归澄清循环且无停止条件，导致在 11 天内产生了 4.7 万美元的 API 账单。
系统性缺陷：Gartner 预测，由于成本失控和风险控制不足，到 2027 年超过 40% 的代理 AI 项目将被取消。当前的智能体虽然具备自主行动能力，但缺乏“停止条件”和“预算限制”等正式机制来约束其行为。
现有方案不足：现有的框架（如 LangGraph, AutoGen 等）主要提供操作层面的控制（如最大迭代次数、超时设置），但缺乏形式化的治理层（如成本预算、多智能体委托中的资源守恒定律）。

2. 方法论与核心框架 (Methodology)

文章提出了智能体契约（Agent Contract），将其定义为包含七个元组的形式化结构：
$C = (I, O, S, R, T, \Phi, \Psi)$

$I$ (输入规范)：定义可接受的输入模式、验证规则及预处理转换。
$O$ (输出规范)：定义交付物的模式、最低质量阈值 ( $Q_{min}$ ) 及格式要求。
$S$ (技能集)：枚举智能体可用的能力（工具、函数、知识域），并限制其仅能调用契约允许的技能。
$R$ (资源约束)：定义多维度的预算，包括 Token 数量、API 调用次数、迭代轮次、计算时间及外部成本。
$T$ (时间约束)：定义契约激活时间 ( $t_{start}$ ) 和生存时间 ( $\tau$ )，即运行时长限制。
$\Phi$ (成功标准)：定义可测量的完成条件（如任务完成度、准确率），加权后需达到阈值 $\theta$ 。
$\Psi$ (终止条件)：定义无论是否成功均结束契约的事件（如资源耗尽、超时、显式取消）。

生命周期管理：
契约经历 DRAFTED (草稿) $\to$ ACTIVE (激活) $\to$ 终端状态 (FULFILLED 成功, VIOLATED 违规, EXPIRED 过期, TERMINATED 终止) 的转换。状态转换由形式化的守卫条件（Guard Conditions）控制，确保资源释放和审计日志的清晰性。

多智能体协调与守恒定律：
针对多智能体协作，文章建立了资源守恒定律：父级契约分配的总预算必须大于或等于所有子契约预算之和 ( $\sum R_i \leq R_{parent}$ )。这确保了在层级委托中，子智能体的资源消耗不会超出父级系统的整体限制。

3. 关键贡献 (Key Contributions)

形式化定义：首次将“契约”概念从单纯的任务分配扩展为资源受限的执行治理，统一了输入/输出、多维资源约束、时间边界和成功标准。
守恒定律与委托机制：建立了多智能体系统中的预算守恒定律，使得“契约本身”成为智能体的一种能力（即智能体可以创建子契约），实现了可组合的协调模式。
双重执行机制：
- 软执行 (Soft Enforcement)：通过感知预算的提示词（Prompting）让智能体自我调节（基于“令牌弹性”现象的缓解）。
- 硬执行 (Hard Enforcement)：通过外部监控器在每次动作后检查资源消耗，一旦违反约束即强制终止执行。这解决了 LLM 单次调用无法预知 Token 消耗的技术限制。
实证验证：通过四个实验验证了框架在减少 Token 消耗、降低方差、防止资源违规和优化质量 - 资源权衡方面的有效性。

4. 实验结果 (Results)

文章通过四个实验进行了验证，使用 Google ADK 和 LiteLLM 框架，基于 Gemini 2.5 Flash 模型：

迭代工作流中的失控预防 (Code Review)：
- 结果：在代码审查任务中，受契约约束的智能体比无约束智能体Token 消耗减少了 90%，方差降低了 525 倍。
- 意义：成功解决了“无限循环导致天价账单”的问题，且成功率无显著下降（52.9% vs 60.0%）。
多智能体协调中的守恒定律 (Research Pipeline)：
- 结果：在“研究者 - 分析器 - 报告员”的三智能体流水线中，零违反守恒定律。
- 意义：系统成功检测并阻止了一个超出 40K Token 预算的失控智能体（实际消耗 56K），证明了运行时强制机制的有效性。
通过契约模式实现质量 - 资源权衡 (Strategy Modes)：
- 结果：通过设置不同的契约模式（紧急模式、经济模式、平衡模式），实现了可控的“满意解”（Satisficing）。
- 数据：平衡模式（Balanced）的成功率为 86%，而紧急模式（Urgent）为 70%。用户可根据需求在速度和准确性之间进行权衡。
危机沟通中的失败预防：
- 结果：在危机沟通场景中，明确的质量阈值和迭代限制使 Token 消耗减少了 23%，并防止了智能体陷入死循环导致任务完全失败的情况。

5. 意义与展望 (Significance)

理论意义：为自主 AI 系统提供了可预测、可审计、资源受限的形式化基础。它将经济学中的委托 - 代理问题和实时系统中的硬/软约束理论成功应用于 LLM 智能体领域。
实践价值：
- 成本控制：显著降低不可预测的 API 成本。
- 风险控制：防止智能体陷入死循环或产生灾难性错误。
- 可组合性：支持复杂的层级化多智能体系统，确保子任务不破坏整体资源预算。
未来方向：
- 需要模型提供商支持API 级别的实时中断（Intra-call enforcement），以解决单次调用内无法预知 Token 消耗的问题。
- 探索基于学习的契约设计，让智能体自动预测预算和起草子契约。
- 引入形式化验证技术来证明契约属性的满足性。

总结：Agent Contracts 填补了当前 AI 智能体治理中的关键空白，将“智能体工程”从单纯的提示词优化提升到了具有严格资源边界和形式化保证的系统工程层面，是自主 AI 走向大规模生产应用的关键基础设施。