🤖 AI

The Harness Effect: How Orchestration Design Sets the Token Economics of Enterprise Agentic AI

本文认为，优化编排层（即“控制架”）对于控制企业级智能体 AI 成本比模型选择更为关键，并通过一项受控研究证明，一个卓越的控制架可以在保持或提高任务质量的同时，在多种不同模型中减少 38% 的 Token 使用量并降低 41% 的成本。

原作者： Muayad Sayed Ali, Aliaksandra Novik, Anji Boddupally, Artem Yavorskyi, Chris Nickerson, Daniel Rica, Emily DuGranrut, Felix Leung, Garrett Prince, Grace Barnett, Heath Robinson, Hosain Al Ahmad, Jesse

发布于 2026-07-09

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Muayad Sayed Ali, Aliaksandra Novik, Anji Boddupally, Artem Yavorskyi, Chris Nickerson, Daniel Rica, Emily DuGranrut, Felix Leung, Garrett Prince, Grace Barnett, Heath Robinson, Hosain Al Ahmad, Jesse Resnick, Juan Carlos Farah, Jyothi Swaroop Meruga, Leonid Kuznetsov, Luke Gorham, Marie Schmoll, Michael Paciullo, Saumya Das, Sharath Sheripally, Tommy Griscom, Mykyta Osadchyi, Neha Mantri, Nick Westrum, Olivia Benowitz, Parikshith Kulkarni, Radik Chernyshov, Rakshith Vasudev, Rohith Nadimpally, Vikas Gangadevi, Waseem AlShikh

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你正在经营一家繁忙的餐厅。在这家餐厅里，厨师是 AI 模型（如 Claude、Gemini 或 Qwen），而订单则是你想要他们完成的任务。

长期以来，餐饮业一直痴迷于雇佣“超级大厨”，让他们思考得更深、更快。但问题在于：即便有了最好的厨师，服务员（管理订单的软件）却一直极其低效。

这篇由 Writer, Inc. 团队撰写的论文指出，节省成本和时间的真正秘诀并不在于购买更好的厨师，而在于优化服务员。他们将这种改进称为**“Harness”（束架/控制系统）**。

以下是他们发现的原理，用简单的语言进行了解释：

1. 问题所在：“Token 最大化”（贪婪的服务员）

在 AI 的世界里，“Token”（令牌）就像是你为 AI 阅读或编写的每一个字所支付的货币。

旧方式： 想象一个服务员，每当厨师需要思考时，都会把餐厅当天的整个历史记录（每一份订单、每一次对话、每一份菜单）全部带回厨房。如果厨师要求第二次意见，服务员会再次把整段历史带回来。
结果： 厨房被大量的纸张淹没了。厨师把所有时间都花在了阅读旧笔记上，而不是在烹饪。你最终支付了巨额的“Token”费用，仅仅是为了让服务员忙碌起来。作者称之为**“Token Maxing”**：你不断购买更多的 Token，希望获得更好的结果，但实际上你只是在为服务员搬运过重的负担而买单。

2. 解决方案：“Harness”（聪明的服务员）

作者构建了一种新型的服务员系统，称为 Writer Agent Harness。这个系统不会把所有东西都堆给厨师，而是聪明地选择带什么进厨房。

把它想象成一个智能文件系统：

“稳定”文件夹： 服务员将那些永远不会改变的东西（如菜单和厨师的身份信息）放在一个特殊的、锁定的文件夹中，厨房可以瞬间瞥一眼，而无需支付额外费用。
“易变”文件夹： 那些每秒都在变化的东西（如当前时间或特定的客户请求）被保存在一个小的、新鲜的笔记本上。
“摘要”技巧： 如果对话变得太长，服务员不会带走整本书。他们会写下一页关于之前发生情况的摘要，并只带上这个摘要。
“委托”技巧： 如果任务太大，主服务员不会尝试独自完成。他们会派出一个规模较小、专门化的助手去完成一部分工作，然后只带回最终答案。

3. 大规模实验

为了证明其有效性，作者进行了一项公平的测试。他们选取了六种不同的顶级 AI 厨师（来自不同公司），并给了他们相同的 22 个困难任务。

A 组： 使用“旧方式”（低效的服务员）。
B 组： 使用“Harness”（聪明的服务员）。
规则： 厨师完全相同。任务完全相同。唯一改变的是服务员。

4. 结果：效率的奇迹

结果令人震惊。仅仅通过更换服务员（Harness），他们在各方面都取得了巨大的提升：

成本： 账单下降了 41%。完成同样的工作，成本几乎减半。
速度： 任务完成速度快了 44%。
Token 使用量： 他们使用了 38% 更少的 Token。
质量： 食物的质量（答案）保持不变，甚至略有提升。

最令人惊讶的部分是？ 无论你雇佣哪位厨师都一样。无论你使用的是最昂贵、最强大的厨师，还是更便宜、更快的厨师，“智能服务员”都能让他们变得更便宜且更快。事实上，优化服务员所节省的钱，比从最贵的厨师切换到最便宜的厨师所节省的还要多！

5. “Harness 杠杆效应”

论文发现了一个有趣的模式：初始厨师的水平越高，他们从智能服务员那里获得的收益就越大。

超级聪明的厨师 + 智能服务员 = 惊人的结果。
较弱的厨师 + 智能服务员 = 依然不错，但如果服务员尝试进行过于复杂的委托，他们可能会感到困惑。

核心结论

长期以来，人们认为获得更好的 AI 的唯一方法是购买更强大的模型。这篇论文说：停下来。

你可以拉动的最大杠杆是你如何组织工作。如果你建立一个智能的“Harness”，来管理上下文、缓存琐碎内容并委托繁重任务，你就可以用一半的价格获得相同（甚至更好）的结果，无论你使用哪种 AI 模型。

这不在于拥有最大的引擎，而在于拥有最好的变速器。

技术摘要：束缚效应 (The Harness Effect)

1. 问题陈述：Token 最大化与编排盲点

本文指出，企业级智能体（Agentic AI）开发中存在一种普遍的低效现象，被称为 Token 最大化 (token maxing)。这是一种开发轨迹：团队试图通过单调增加 Token 强度（更长的推理痕迹、更宽的工具负载、完整的历史回放）来购买能力，但每单位 Token 的边际质量却在下降。尽管单价 Token 的价格正在下降，但由于智能体任务的“账单”并非由模型的内部冗余度决定，而是由编排层（即束缚/Harness）——负责组装上下文、管理工具 Schema 和序列化轮次的部分——所控制，导致总支出反而上升。

目前的效率研究主要集中在两个领域：

模型/服务端侧： 如投机采样（speculative decoding）或提示词压缩（prompt compression）等技术，这些技术降低了单个 Token 的价格，但并未减少智能体决定消耗的 Token 数量。
路由（Routing）： 选择较便宜的模型来处理较简单的任务，这改变了哪个模型支付账单，但并未改变账单的规模。

本文认为，编排层才是决定性的杠杆。它控制着 Token 账单的条款（系统提示词、历史回放、检索负载、重试机制），而目前的实现往往过于简单粗暴，导致随着智能体轮次的增加，输入 Token 呈现二次方增长（ $O(k^2)$ ）。

2. 方法论：受控的束缚替换 (The Controlled Harness Swap)

为了将编排的影响与模型能力进行隔离，作者设计了一个受控实验，其设计如下：

常量变量： 22 个经过能力审计的锁定企业级任务；6 个基础模型（Claude Sonnet 4.6, Gemini 3.1, Gemini Flash 3.5, Qwen 3.6, GLM 5.1, 以及 Palmyra X6）；相同的评判标准和价格表。
变量： 编排层。
- 基准（Baseline）： 一个传统的生产级智能体循环（冻结于 2026-06-07），具有单体式系统提示词、完整历史回放和破坏性截断特征。
- 实验组（Treatment）： Writer Agent Harness，一个与模型无关的编排层，具备子智能体委派、结构化压缩和缓存形状约束（cache-shape discipline）功能。
测量指标： Token 的追踪级会计、成本（使用固定的公开价格表）、墙钟时间（wall-clock latency）以及任务完成质量。

3. 核心贡献与机制

论文形式化了编排层的 Token 经济学，将“束缚”（Harness）定义为设定工作价格的组件。它引入了在 Writer Agent Harness 中实现的六个机制家族，这些机制重写了 Token 账单：

缓存形状约束（双区提示词）： 提示词在结构上分为字节稳定的前缀（工具 Schema、系统提示词、持久化转录）和易变的尾部（特定轮次的数据）。这使得高达 99.9% 的输入 Token 可以作为缓存读取进行服务，其成本仅为列表价格的约 0.1 倍，从而将输入成本从二次方增长转变为线性增长。
结构化增量压缩： 不采用破坏性截断，而是将旧的历史折叠进类型化的检查点（记忆、摘要、约束）中，同时保留最近消息的实时尾部。这在不膨胀提示词的情况下保持了上下文的相关性。
上下文卸载： 信息在不在上下文窗口内均保持可用。这包括使用子智能体作为“上下文防火墙”（返回受限的摘要）、工具文档的渐进式披露，以及将庞大的工具输出溢出到文件而非提示词中。
零 Token 等待： 人类审批或后台任务通过持久化挂起和事件恢复来处理，消除了消耗 Token 的轮询循环。
失败支出治理： 失败在产生成本之前会被分类并处理（例如，丢弃部分草稿、针对重复失败设置断路器）。这限制了重试和死胡同分支带来的“乘数效应”。
模型无关底座： 束缚层规范化了供应商流并强制执行 Schema 卫生，确保无论底层模型能力如何，都能保持基准效率。

4. 结果

更换编排层在所有模型上都带来了显著的效率提升，且质量保持稳定或随模型强度提升而提高。

效率增益（综合）：
- 单任务成本： 降低了 41%（ $0.21 \rightarrow$ 0.12）。
- 单任务 Token 数： 减少了 38%（14.2k $\rightarrow$ 8.8k）。
- 墙钟时间： 减少了 44%（48s $\rightarrow$ 27s）。
- 每美元质量： 提升了 82%。
- 每百万 Token 完成的任务数： 从 54.9 增加到 92.0（+68%）。
模型不变性： 测试中的每个模型都实现了 33% 至 61% 的成本削减。束缚层是一个比模型选择更大的成本杠杆；从最贵模型切换到最便宜模型节省了 36%，而保持模型不变并采用束缚层则节省了 33–61%。
质量与束缚杠杆：
- 标题任务完成质量保持在同水平（0.78 $\rightarrow$ 0.81，呈上升趋势）。
- 束缚杠杆： 从束缚中提取的质量增益与基准模型强度几乎完美相关（ $r = 0.99$ ）。更强的模型能将束缚结构转化为更高的质量；较弱的模型有时会被高级编排功能（如子智能体）所压制。
- 能力底座： 束缚层实现了一种新的能力（委派子智能体），该能力仅在两个最强的模型上达到了可用的可靠性阈值（0.85–0.86）。

5. 意义与主张

论文认为，束缚是组织运行的所有模型（无论是现有还是未来）中，其效率能够产生乘数效应的唯一组件。

经济转型： 论文声称，对于企业级部署，优化编排层比优化模型选择或路由能获得更高的回报。它将重点从“用 Token 购买能力”转向“用更少的 Token 完成同样的工作”。
耶文悖论的反转： 虽然下降的 Token 价格通常会导致消费增加（耶文效应），但束缚提供了结构性的纪律，使效率提升与消费增长脱钩，从而让组织得以摆脱 Token 最大化。
第一类对象： 论文提出，束缚应被视为设计和评估的一类第一等公民（first-class object），其 Token 经济学应作为一份发布的合同。它强调，如果没有在编排层中建立逐项任务的核算机制，Token 最大化将是无法被观察和管理的。
可扩展性： 由于束缚位于模型 API 之上，其效率增益会随着模型迁移和供应商变更而复合增长，使其成为比特定模型优化更持久的资产。

总之，论文证明了编排设计是智能体系统中 Token 经济学的决定性因素。通过对上下文组装和故障处理实施结构化纪律，企业可以在不牺牲任务质量的前提下，实现大幅度的成本和延迟降低。