💻 computer science

The Orchestration Gap: Why Process Automation Stalls in Operationally Complex Industries

本文认为，代理自动化在运营复杂型行业中的停滞源于缺失的编排抽象，并提出了一个阶段性框架，即根据一个部门的主要摩擦点是受监管驱动还是责任驱动，其关键架构焦点在约束执行与可解释性之间进行转移。

原作者： Jiechao Gao, Yuandong Pan. Yuangang Li, Jie Wang, Kincho Law, Michael Lepech

发布于 2026-06-19

📖 1 分钟阅读☕ 轻松阅读

原作者： Jiechao Gao, Yuandong Pan. Yuangang Li, Jie Wang, Kincho Law, Michael Lepech

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你拥有一个超级聪明的助手（一个 AI 智能体），它能在几秒钟内写出一封完美的邮件、解决一道数学题或起草一份合同。在软件和金融的数字世界里，这个助手是明星。但试着把同一个助手派到建筑工地、医院或运输仓库去工作，它往往就会陷入停滞。它会变得困惑、出错，或者干脆无法继续推进。

为什么？根据这篇论文，这并不是因为 AI 不够聪明，而是因为我们缺少了一位指挥家。

缺失的指挥家：什么是“编排”（Orchestration）？

想象一下一个复杂的行业，就像一个庞大而混乱的管弦乐队，每位乐手都在演奏不同的乐器，阅读不同的乐谱，并说着不同的语言。

AI 是那位能演奏完美独奏的技巧精湛的独奏家。
编排（Orchestration） 则是那位指挥家，他告诉独奏家何时开始，确保他们不会与鼓手发生冲突，检查他们是否遵循了乐曲的规则，并确保人类经理能够审批最终的演出效果。

论文指出，在混乱的现实世界产业中，价值不在于独奏家的技巧，而在于指挥家协调整个混乱局面的能力。这个“指挥家”层级就是论文所称的**“编排”**。目前，大多数 AI 工具都是优秀的独奏家，却是糟糕的指挥家。

你如何知道自己是否需要一位指挥家？

作者创建了一个简单的“测试”，来观察一项工作是否过于混乱，以至于无法仅靠单一 AI 完成，而需要一位指挥家。如果一个工作流程具备以下五个特征中的至少四个，它就是“受编排约束的”（orchestration-bound）：

系统过多： 工作需要在 3 个以上的不同软件程序之间跳转，且这些程序互不通信（例如：运输应用、仓库应用和客户邮件）。
人员过多： 需要在 3 个以上的不同角色之间进行任务交接（例如：医生、计费专员和保险代理人）。
隐藏规则： 决策依赖于“直觉”或未被记录在案的经验，而没有人将其输入手册。
硬性规则： 存在严格的“禁区”（如安全法或法律合同），在这里，一旦出错就是灾难，而非小错。
旧技术： 工人们仍在使用古老、笨重的软件，并且拒绝丢弃它们。

如果你的工作看起来像这样，那么仅仅向它投喂更聪明的 AI 并不能解决问题。你需要一个管理混乱的系统。

三大问题：物流、医院与建筑业

论文研究了三个行业来展示这一现象是如何运作的：

物流（运输）： 当包裹丢失时，会引发一系列电话通知和系统更新。这里的“摩擦”较低（缺乏严格法律），主要问题在于大量的人员和系统如何相互沟通。
医疗保健（保险审批）： 在这里，“摩擦”是监管性的。你不能直接批准一项手术；你必须遵循严格的保险规则。如果 AI 违反了规则，整个系统就会崩溃。这里的价值在于完美地遵循规则，而不仅仅是追求速度。
建筑业： 在这里，“摩擦”是责任归属。如果建筑物倒塌或设计有误，就会引发诉讼。由于涉及许多不同的公司（建筑师、施工方、业主），除非 AI 能提供一份完美的、不可更改的“纸质记录”来解释其决策依据，否则没人会信任它。

“阶段式”解决方案：不要在学会走路前就奔跑

论文建议，我们不应该试图一步到位构建一个能完成所有工作的全自动机器人。相反，我们应该沿着四个阶段爬梯子：

可观测性（Observability）： AI 只是观察并报告正在发生的事情（就像监控摄像头一样）。
推荐（Recommendation）： AI 建议该做什么，但由人类按下“执行”按钮。
边界自动化（Bounded Automation）： AI 自行处理小型、安全且重复的任务（如填写表格），但如果情况变得异常，它会停止运行。
受监督的自主性（Supervised Autonomy）： AI 掌控全局，但有人在密切观察，以便在需要时介入。

金科玉律：摩擦力决定方案

论文中最核心的思想是摩擦力原则。它指出，最“好”的 AI 系统取决于你试图避免哪种麻烦：

如果你的主要麻烦是监管（如医院），那么对你的 AI 最重要的功能是约束执行（Constraint Enforcement）。它必须被构建为绝不会违反规则，即使这意味着速度变慢。
如果你的主要麻烦是诉讼（如建筑业），那么对你的 AI 最重要的功能是可解释性（Explainability）。AI 必须能够说出：“我这样做是因为 X、Y 和 Z”，以便法官或律师进行核实。
如果你的主要麻烦仅仅是混乱（如运输业），那么对你的 AI 最重要的功能是协调（Coordination）。AI 只需要擅长同时处理多个任务即可。

总结

我们之所以无法实现产业自动化，并不是因为我们的 AI 不够聪明。而是因为我们试图在“混乱的管弦乐队”中使用“聪明的独奏家”。

要解决这个问题，我们需要停止制造更好的独奏家，转而开始制造更好的指挥家。我们需要构建能够处理交接、尊重旧软件、执行硬性规则并保留完美记录（谁做了什么）的系统。一旦我们构建了那个“指挥家”层级，聪明的 AI 才能真正发挥作用。

技术摘要：编排鸿沟 (The Orchestration Gap)

问题陈述
尽管智能体 AI 系统在数字化原生领域（如软件工程、金融交易）已取得显著进展，但在运营复杂的行业（如物流、医疗运营和建筑业）中的部署仍然停滞不前。行业调查表明，虽然对智能体的实验性尝试很普遍，但规模化、集成化的部署却很少见，且有相当比例的项目面临取消。本文认为，这种“部署鸿沟”并非由模型能力或准确性不足引起的，而是源于一个缺失的抽象层：编排 (Orchestration)。在复杂环境中，价值并非源于单次模型调用，而是源于多步工作流的运行时协调、硬性领域约束的执行、人类审批的管理以及异构遗留系统的集成。目前的多种智能体框架缺乏处理这些运营现实所需的架构保证。

方法论与概念框架
作者开发了一个概念框架来分析并解决这一差距，旨在将“编排”从一个口号转变为可设计的系统组件。该方法包含三个主要的分析步骤：

定义“受编排约束”的工作流： 本文提出了一个五属性测试，用于识别需要编排层的流程。如果一个工作流满足以下至少四个属性，则被视为受编排约束的：
- 系统碎片化 (System Fragmentation)： 跨越 $\ge$ 3 个记录系统且缺乏统一平台。
- 利益相关者碎片化 (Stakeholder Fragmentation)： 需要在 $\ge$ 3 个角色或组织之间进行交接。
- 隐性决策点 (Tacit Decision Points)： 依赖于未完全以书面程序规定的非成文判断。
- 约束关键性 (Constraint Criticality)： 包含硬性约束（监管、安全、合同），违反约束是不可接受的。
- 棕地压力 (Brownfield Pressure)： 在根深蒂固的遗留工具上运行，无法进行整体替换。
分解编排价值： 作者将问题分为三个不同的维度，以明确自动化在何处创造价值：
- 碎片化 ( $F$ )： 衡量结构纠缠程度的指标，计算公式为 $F = \log_{10}(s \cdot r \cdot h)$ ，其中 $s$ 是系统数量， $r$ 是利益相关者角色数量， $h$ 是跨边界交接次数。
- 协调开销 ( $C$ )： 用于协调而非实质性工作的总投入比例。
- 可回收价值 ( $V$ )： 潜在的价值增益，计算公式为 $V = n \cdot c \cdot \rho$ ，其中 $n$ 是工作流频率， $c$ 是协调成本， $\rho$ 是可实现的成本降低率。
- 摩擦 (Friction)： 一个定性轴，代表监管、责任和信任障碍，这些因素决定了部署速度以及所需的特定架构保证。
行业分析： 该框架被应用于三个焦点行业（物流、医疗运营、建筑业）及另外五个部门。分析显示，虽然这些行业共享相似的“碎片化带”（结构性纠缠的工作流），但在其主导的摩擦来源上存在显著差异（监管型 vs 责任型 vs 低摩擦）。

核心贡献

编排鸿沟论点： 本文指出，在复杂行业中部署 AI 的主要障碍在于缺乏一个将协调、约束执行和遗留集成视为一等公民架构需求（而非可选实现细节）的编排运行时。
编排运行时的五项要求： 作者定义了当前框架未能全面满足的五项具体要求：
- R1： 带有人类关卡的多步协调。
- R2： 领域知识落地（咨询通用模型知识之外的结构化规则）。
- R3： 交付前的约束执行（从结构上阻断不可行的输出）。
- R4： 可解释性（输出结构化的审计追踪）。
- R5： 棕地集成（与现有系统互操作）。
- 对现有工具（如 AutoGen, MetaGPT, LangGraph）的分析显示，它们能很好地处理 R1，但将 R2、R3 和 R5 视为可选或工程挑战，而非强制性的保证。
摩擦原则与阶段化自动化： 核心观点是自动化应分阶段进行，且“承重”架构保证取决于该行业的占主导地位的摩擦类型：
- 监管摩擦（如医疗）： 承重要求是约束执行 (R3)。违反规则会导致价值损失；因此，约束关卡至关重要。
- 责任摩擦（如建筑）： 承重要求是可解释性 (R4)。分布式责任要求通过可验证的审计追踪来确保自动化行为的可接受性。
- 低摩擦（如物流）： 承重要求是协调 (R1)。自动化可以仅基于协调效率而推进。
阶段化自动化路径： 本文概述了自主性的四个阶段：
1. 可观测性 (Observability)： 在不进行决策的情况下统一工作流状态。
2. 建议 (Recommendation)： 提出行动方案并由人类进行决策。
3. 受限自动化 (Bounded Automation)： 自主执行定义明确、低风险的子任务。
4. 受监督的自主性 (Supervised Autonomy)： 在人类监督下执行多步工作流。
  “摩擦原则”规定，不同的行业会根据其主导摩擦在不同的阶段达到“天花板”。

结果与证据
鉴于目前缺乏在所提粒度下的编排系统，本文依赖于公开的运营证据和行业调查，而非新的实验性部署。

部署统计数据： 引用麦肯锡、波士顿咨询 (BCG) 和 Gartner 的数据，本文强调虽然 72% 的员工使用生成式工具，39% 的人实验智能体，但仅有 13% 的智能体被集成到更广泛的工作流中，且超过 40% 的智能体项目预计会因集成薄弱而被迫取消。
定量分解： 对三个焦点行业的分析显示，它们都处于一个狭窄的碎片化带内（ $F \approx 5.1$ 至 $5.9$），证实了结构复杂度是一个共同的基准。然而，它们的协调开销各不相同（例如，物流中的运输成本占比 53%，医疗行政支出占比 34%，建筑重做成本占比 20%）。
验证效应： 本文使用现有数据点来锚定自动化的潜在价值。例如，在医疗领域，从手动到电子预授权的转变将成本从 3.41 降至 0.05（降低了 98%），但此类工作流中仅有 20% 是完全电子化的，这说明差距在于编排，而非数字化。

意义与研究计划
本文得出结论，“编排鸿沟”是当前工业 AI 应用进入平台期的原因。其意义在于将研究重点从提高模型能力（基准测试）转向构建编排基础设施。作者提出了一个聚焦于以下内容的研发计划：

工作流级基准测试： 衡量协调成本、约束违反率和审计完整性，而非单步准确性。
部署研究： 在实际工作流中通过测量每个阶段的降低率 ( $\rho$ ) 来校准阶段化自动化曲线。
运行时评估： 根据定义的五项要求对运行时进行对比评估，以测试“架构保证”的说法。

作者保持了审慎的态度，承认其框架是基于公开证据而非已部署系统构建的，并指出编排是成功之必要非充分条件（数据质量、激励机制和信任依然至关重要）。他们认为，解决编排鸿沟是实现复杂行业中 AI 运营价值的最具前景的路径。