🤖 AI

Green SARC: Predictive Cost and Carbon Governance for Agentic AI Systems

本文介绍了 Green SARC，这是一个将预测性成本与碳控制直接嵌入智能体 AI 循环中的架构治理框架，旨在防止预算超支并实现显著的 Token、财务及碳减排，与其针对执行后监控和软惩罚方法的可靠性相比，展现出了更优越的可靠性。

原作者： Gaston Besanson

发布于 2026-06-16

📖 1 分钟阅读☕ 轻松阅读

原作者： Gaston Besanson

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你雇佣了一位非常热情、技术精湛的助手（一个“智能体 AI”），让他去完成一项复杂的任务。这位助手不仅仅是完成单一任务，它会拆解工作、使用工具、向其他助手寻求帮助，并持续不断地进行，直到任务完成。

问题在于？这位助手完全没有预算或能量限制的概念。它可能会在试图解决一个简单问题时，不小心烧掉你整张信用卡的额度，或者消耗掉足以供一个小城市使用的电力。

这篇论文介绍了一种名为 Green SARC 的全新“治理系统”，旨在这种财务和环境上的失控发生之前将其制止。以下是其运作原理，通过日常类比进行解释。

1. 问题所在：“雪球”与“仪表盘”

目前，公司管理 AI 成本的方式有两种：

仪表盘 (The Dashboard)： 他们在月底看到账单之后才进行观察。到那时，钱已经花完了，碳排放也已经产生了。这就像是在你已经刷爆了信用卡之后，才去检查你的银行账户。
软惩罚 (The Soft Penalty)： 他们告诉 AI，“请尽量省着点用”。但 AI 本质上是一个优化器；如果它认为多花钱能获得更好的结果，它会毫不犹豫地过度消费。这就像是站在一个自助餐厅面前，却告诉一个饥肠辘辘的人要“适量进食”。

“状态雪球” (The "State Snowball")： 论文发现了一个导致成本爆炸的具体原因。如果 AI 始终保留一份关于它目前为止所做之事的运行列表（即“上下文”），并将其添加到每条新消息中，那么消息就会变得越来越长。

类比： 想象你在写一封信。在第一段，你写了 10 个单词。在第二段，你复制第一段的内容并再添加 10 个单词。在第三段，你复制前两段的内容并再添加 10 个单词。到了第 20 段，你仅仅为了说一句“你好”，就要复制数千个单词。
论文从数学上证明了这会导致成本呈二次方增长（指数级增长）。现实世界的数据显示，这种情况发生的速度甚至比数学预测的还要快。

2. 解决方案：“行动前门控” (The "Pre-Action Gate")

Green SARC 在 AI 执行任何动作之前安装了一个门卫 (Gatekeeper)。这不仅仅是一个仪表盘，它更像是门口的保安。

运作方式： 在 AI 发送消息之前，门卫会询问：“如果你发送这条消息，会花费多少钱？我们的预算还够吗？”
预测： 门卫并非靠猜测，而是使用一种学习到的预测模型。它观察上下文并预测成本。
安全网： 论文使用了一种称为符合性预测 (Conformal Prediction) 的统计技巧。你可以把它理解为一种“安全余量”。如果 AI 预测成本为 10 美元，门卫会增加一个缓冲值（例如 5 美元）以确保安全。只有当 15 美元小于剩余预算时，它才会允许该动作通过。
结果： 论文表明，这个门卫从未让预算被突破（在测试中失败率为 0%），而“软惩罚”（仅仅要求 AI 注意节省）的失败率高达 91.5%。

3. 四个“岗哨”

该系统使用四个特定的检查点（借鉴自 SARC 框架）来约束 AI 的行为：

行动前门控 (The Pre-Action Gate - 保安)： 在昂贵的动作发生之前将其拦截。
行动时间监控 (The Action-Time Monitor - 秒表)： 如果 AI 进入死循环（不断重复同一个错误），该系统会立即切断电源。
行动后审计 (The Post-Action Auditor - 会计)： 在动作执行后，它会检查：“实际成本是否符合我们的预测？”如果 AI 撒谎或预测有误，它会从中学习以在下次做得更好。
升级路由 (The Escalation Router - 经理)： 如果预算完全耗尽，它会将任务移交给人类或更简单的、更便宜的系统。

4. 结果：巨大的节省

作者在真实数据和合成场景中对该系统进行了测试。以下是他们的发现：

巨大的节省： 通过使用门卫和其他工具，他们减少了 47% 到 55% 的成本（包括金钱、Token 和碳排放）。
“范围”旋钮 (The "Scope" Knob)： 最大的节省来自于限制 AI 记忆的历史长度（阻止“雪球”效应）。这相当于告诉 AI：“只看过去 5 分钟的对话，不要看整天的内容。”
“路由”旋钮 (The "Routing" Knob)： 如果 AI 需要执行简单任务，系统会自动将其路由到更便宜、更小的模型。如果需要处理复杂任务，则使用昂贵的模型。这在不改变生成字数的情况下节省了资金。
安全第一： 系统保证预算绝不会被突破。这不是一种“可能”，而是一种通过架构强制执行的硬性规则。

5. 它“不是”什么

它不是质量的“魔杖”： 论文承认，如果你为了省钱而过于激进地削减上下文，AI 可能会犯错。该系统可以节省成本，但人类操作员必须决定愿意在多大程度上用质量来换取这些节省。
它不仅仅是为了“绿色”目标： 虽然它追踪碳排放，但其主要驱动力是财务管理 (FinOps)。在这里，省钱和节能是相辅相成的。
它并非对“骗子”完美无缺： 如果 AI 被诱导认为某项任务很便宜，而实际上很贵（对抗性攻击），门卫可能会让其通过。然而，“审计员”会在事后捕捉到这个错误并进行记录，以便系统学习下次不再受骗。

总结

Green SARC 是一种管理 AI 智能体的新方法。它不再是等待账单到来或寄希望于 AI 表现良好，而是在门口设置了一个聪明的、经过数学验证的保安。这个保安会预测成本，增加安全缓冲，并且只有在符合预算的情况下才允许 AI 行动。其结果是，该系统能在保证绝不超出限额的同时，节省近一半的资金和碳排放。

技术摘要：Green SARC

问题陈述

人工智能的成本中心已从固定设计的训练转向了智能体系统（agentic systems）中的随机推理轨迹。与具有界定成本的经典 API 调用不同，智能体工作流涉及动态的模型调用、工具调用和重试序列，这导致即使对于相同的任务，Token 消耗及其相关的财务/碳排放成本也会产生数量级的差异。

目前的缓解策略——事后审计以及与智能体循环并行的策略即代码（policy-as-code）——存在一个根本性的缺陷：它们是在执行之后或在执行旁边评估约束。月底检测到的预算违规无法“撤销”已消耗的 Token；记录在仪表盘上的碳超标无法“撤销”已排放的碳。本文认为，有效的治理要求将约束强制执行在执行循环内部，即在行动提交之前预测成本。

方法论：Green SARC 架构

Green SARC 将 SARC（基于架构的治理）框架应用于 FinOps 和 GreenOps。它将成本和碳约束视为第一类规范对象，并在智能体循环内的四个特定位置实施约束：

动作前门控（Pre-Action Gate）： 这是核心创新点。该站点并非使用静态规则，而是使用学习到的、经过校准的预测模型来预测拟议动作的 Token 成本和碳排放。只有当预测结果符合剩余预算且满足指定的置信水平（ $1-\delta$ ）时，才会允许执行该动作。
动作时监控（Action-Time Monitor）： 强制执行循环次数和边际成本的硬限制（断路器），以终止失控的重试或重新规划循环。
动作后审计（Post-Action Auditor）： 记录预测成本与实际成本，以提供审计追踪并为估算器生成训练信号。
升级路由（Escalation Router）： 将耗尽预算或碳上限的任务路由至人工审核或确定性回退方案。

理论基础

状态雪球定理（State Snowball Theorem）： 本文形式化地证明了朴素的多智能体循环（其中每一步都重新提交完整的累积上下文）会导致 $\Theta(n^2)$ 的累积提示词成本。其领先系数为 $p/2$ ，其中 $p$ 是每跳（per-hop）Token 增量。
预测门控与校准： 门控使用在历史残差上训练的估算器 $\hat{f}_\theta$ 。为了在不假设特定残差分布的情况下确保安全性，本文采用了拆分共形预测（split-conformal prediction）。这提供了一种无分布假设的有限样本边际覆盖保证：执行被准许动作时发生预算违规的概率被限制在 $\delta$ 以内。
随时有效安全性（Anytime-Valid Safety）： 利用 Ville 不等式和亚高斯假设（或针对重尾真实数据的经验-Bernstein 界），该框架为任何轨迹前缀的累积超支提供时间一致的界限。
解耦： 该架构明确地将成本治理与正确性治理解耦。系统可以既安全又昂贵，也可以既廉价又不安全；Green SARC 独立管理前者。

核心贡献

状态雪球定理： 一个形式化证明及实证确认，表明不受约束的上下文累积会导致二次方成本增长，而通过适配器节点（Adapter Node）限制每跳增量可以将此降至线性增长。
校准的预测门控： 一个运行时门控，将基于规则的会计扩展为学习型预测，并通过拆分共形校准提供无分布假设的安全性保证。
帕累托前沿支配地位： 实证证据表明，该架构门控优于软惩罚（拉格朗日）方法。虽然旨在使期望值匹配预算的软惩罚在约 91.5% 的种子实验中都发生了预算违规，但该架构门控在 0% 的种子实验中发生违规，同时最大化了完成的工作量。
真实轨迹验证： 在真实 ShareGPT 数据（非高斯残差）上的覆盖验证表明，标准的 Normal- $\sigma$ 门控在紧凑风险水平下覆盖不足，而拆分共形校准则能维持名义覆盖率。
开源实现： 一个不依赖外部依赖的 Python 库（第一阶段），实现了四站点架构，包括 Normal- $\sigma$ 门控和可选的拆分共形校准器。

实验结果

合成评估（IBP 工作负载）

消融实验： 按杠杆分解节省量（范围、路由、断路器）。
- 范围（适配器节点）： 通过限制上下文增长驱动 Token 减少（~43-55%）。
- 路由： 通过切换到高效模型将 Token 节省转化为美元和碳节省，而不进一步减少 Token 数量。
- 断路器： 通过终止失控循环增加增量 Token 节省。
绑定预算： 在紧凑预算（基准的 25%）下，门控允许 90% 的步骤执行，且预算违规发生率为 0%，而软惩罚无法在不违规的情况下完成轨迹。
预测质量： 学习到的估算器将平均绝对误差（MAE）从冷启动时的 ~~4,000 个 Token 降低到噪声水平（~~34 个 Token），仅需约 20 次观测。

真实轨迹验证

ShareGPT（聊天流量）： 真实的对话表现出负向的累积提示词曲率（凹函数），这意味着 $\Theta(n^2)$ 的雪球效应是朴素编排的产物，而非聊天本身的特性。然而，Normal- $\sigma$ 门控在真实残差（偏斜、重尾）上覆盖不足，而拆分共形预测保持了名义覆盖。
BurstGPT（生产流量）： 在 50,000 个真实的 Azure OpenAI 请求上，杠杆顺序（范围 $\to$ Token，路由 $\to$ 美元/碳）依然成立。断路器保持静默（未发生重试风暴），证实了它是多步压力场景下的安全保障。
SWE-rebench（多步智能体）： 在解决 3,000 个 GitHub Issue 的真实智能体计划上：
- 状态雪球效应成立：100% 的计划显示出正向二次方曲率（ $\hat{c}_2 > 0$ ），其中值曲率（216）超过了线性预测（134）。
- 断路器处于激活状态：它在 11.4% 的轨迹中触发，提供了全栈的边际 Token 节省。
- 成本-效用权衡： 激进的上下文截断虽能节省 Token 但存在任务解决风险。一个“安全”的上限（2 $\times$ 中值）仅节省了 2.3% 的 Token，而一个激进的上限（0.5 $\times$ ）虽然节省了 55%，但在最坏情况分析中截断了 100% 的计划。

对抗鲁棒性

感知范围的填充攻击： 攻击者可以通过在上限之下填充提示词来最大化合法工作量；门控会允许这些行为（这是受限提示词治理的基本局限性）。
破坏预测的攻击： 试图夸大完成度或错误报告模型成本的攻击会被审计员（Auditor）事后捕捉，审计员会记录差异并触发升级。该架构依赖于“预测-执行-记录-重训”的循环，而非完美的准入时拒绝。

意义与主张

论文声称 Green SARC 提供了智能体 AI 治理所必需的架构转变。其重要性在于：

从事后转向预测： 将成本控制从对账转向带有校准安全性保证的动作前预测。
硬约束 vs. 软惩罚： 证明了在随机环境中，有限惩罚（拉格朗日松弛）无法替代硬运行时约束；只有架构门控才能保证预算遵守。
无分布假设的安全性： 证明了在残差为非高斯的现实世界部署中，共形预测是必不可少的，确保了即使底层数据分布发生偏移，安全性承诺依然成立。
模块化： 该框架与正确性治理（SARC）是正交的，可以独立部署以管理云账单和碳足迹，而无需更改智能体的核心逻辑。

作者明确指出了局限性：当前的实现（第一阶段）使用单一进程预算和默认的 Normal- $\sigma$ 门控（共形预测为可选）。“状态雪球”被证实是朴素编排的失效模式，而非对话的内在属性。论文在呈现这些发现时保持了谦逊，承认通过范围限制获得的 Token 节省是取决于政策的，并且会在任务效用与之进行权衡。