🤖 AI

TRACE-ROUTER: Task-Consistent and Adaptive Online Routing for Agentic AI

TRACE-Router 是一个任务级路由框架，它在准入阶段将智能体工作流分配给单个大语言模型，并根据延迟的任务级奖励来更新策略，从而在多个基准测试中，在准确率与延迟的权衡方面优于现有的单次调用路由器。

原作者： Ritik Raj, Souvik Kundu, Sarbartha Banerjee, Dheemanth Joshi, Ishita Vohra, Tushar Krishna

发布于 2026-07-27

📖 1 分钟阅读☕ 轻松阅读

原作者： Ritik Raj, Souvik Kundu, Sarbartha Banerjee, Dheemanth Joshi, Ishita Vohra, Tushar Krishna

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你正在经营着一家规模宏大、高科技的呼叫中心，这里的每一项客户请求都是一项复杂的任务。你拥有一支员工团队：有些人动作极快但可能会忽略细节，而另一些人则极其严谨但速度较慢。在人工智能的世界里，这些员工就是大语言模型（LLMs）。企业面临的巨大挑战是弄清楚该把哪项工作分配给哪位员工。如果你总是选择那位缓慢而细心的专家，就会浪费金钱和时间处理简单的任务；如果你总是选择那位快速的员工，在处理难题时可能会得到错误的答案。

长期以来，解决这一问题的标准方法是观察单个问题，然后决定：“好吧，这看起来很简单，把它交给快速员工，”或者“这看起来很难，把它交给专家。”但这种方法在处理“智能体”（agentic）AI 时存在一个隐藏的缺陷。智能体不仅仅是在回答一个问题，它是在进行一场漫长的旅程。它可能会问一个问题，使用一个工具，查看一张地图，然后再问另一个问题，以此来解决一个大问题。如果你在旅程中途更换员工，新员工并不知道第一个人在思考什么，整个任务就可能崩溃。真正的问题在于：我们如何为整个旅程挑选出正确的员工，以及我们如何从结果中学习以在下次做得更好？

这正是 TRACE-Router 背后的研究人员试图解决的问题。他们意识到，将每一个问题都视为一个独立的决策，就像是试图通过为每一英里都更换一名司机来规划一次跨国公路旅行。相反，他们提出了一个系统，为整个旅程挑选一名司机，并让他们一直跟随直到抵达目的地。

以下是他们的新系统是如何运作的，我们可以用一个简单的类比：想象一个火车站里聪明的调度员。在旧系统中，调度员会查看乘客的票，然后决定将他们安排在哪趟列车上。如果乘客稍后需要换乘，调度员会做出一个新的决定，往往会忘记乘客最初的目标。TRACE-Router 改变了规则。当一名乘客（一项任务）到达时，调度员会立即查看目的地，并将他们分配到特定的列车（特定的 AI 模型）上。一旦乘客上了这趟列车，他们就会全程留在车上，无论中间经过多少站。

奇迹发生在旅程结束之后。调度员会等待观察乘客是否安全且准时地抵达。如果旅程成功了，调度员会对最初所做的决定给予“赞赏”；如果旅程失败或耗时过长，则给予“批评”。至关重要的是，调度员不会责怪每一个停靠站，而是责怪最初选择列车的决定。这使得系统能够从整个经历中学习，而不是仅仅从孤立的瞬间中学习。

该论文介绍了一种巧妙的学习方法，称为“上下文多臂老虎机”（contextual bandit）。可以把它想象成一个游戏，调度员通过这个游戏学习哪种列车最适合不同类型的乘客。他们根据对车票的快速浏览（无需预先询问 AI），将乘客大致分为“简单”、“中等”和“困难”等类别。对于每个类别，系统都会尝试不同的列车，学习哪一个能最好地完成任务，并最终找到完美的匹配。这就像一位厨师品尝了一道菜后，学会了对于辣味食物应该始终使用红色的炉灶，而对于甜味食物，蓝色炉灶则更合适。

其研究结果非常令人印象深刻。研究人员在几个现实世界的挑战（包括复杂的数学问题和编程任务）上测试了他们的系统。他们发现，通过让一个模型全程负责整个任务，TRACE-Router 始终能找到其他方法无法触及的速度与准确性之间的“甜点区”（平衡点）。在名为 τ 2-Bench 的特定测试中，即使其他智能路由方法被给予相同的时间，TRACE-Router 仍能比它们多正确解决 7 到 8 个问题。在另一个测试 Terminal-Bench 中，它的准确率比最强的单一模型高出 7.1 个百分点，同时速度竟然快了 36%。

论文还测试了几种不同的想法以观察哪些最为有效。他们尝试通过在正式开始前给予一些虚假的经验来“预热”系统，希望这样能让系统学得更快。然而，结果显示这反而让系统变得更慢且缺乏灵活性，因此他们决定坚持使用“冷启动”方法，即系统完全从真实的旅程中学习。他们还将自己的学习算法与几种流行的其他方法进行了比较，发现他们的选择在不同类型的任务中是最稳定且最可靠的。

简而言之，TRACE-Router 表明，管理 AI 智能体最好的方式不是微观管理每一个步骤，而是信任一个经过精心挑选、能陪伴整个旅程的伙伴。通过等待最终结果来评判决策，该系统学会了如何随着时间的推移做出更明智的选择，以一种以往方法无法做到的方式，平衡速度与准确性的需求。这是一种思维方式的转变：不再将 AI 视为一系列孤立的问题，而是将其视为一个连贯的、长途跋涉的任务。

技术摘要：TRACE-Router

问题陈述

目前的语言大模型（LLM）路由系统主要在**请求级（request level）运行，即为每个独立的提示词（prompt）做出独立的路由决策。虽然这种粒度适用于单轮推理，但它与智能体工作负载（agentic workloads）**并不匹配。智能体工作负载由长程、有状态的执行轨迹（trace）组成，其中包含多次 LLM 调用，并交织着工具使用、检索和环境转换。

核心矛盾在于反馈归因（feedback attribution）：

延迟反馈： 在智能体应用中，成功或失败仅取决于终端的任务级结果（例如，通过测试套件或实现目标），而非单个中间步骤的质量。
信用分配失败： 请求级路由器无法正确地将这种延迟的任务级奖励归因于特定的中间路由决策。一个看似最优的局部决策（例如，将中间步骤路由到更小、更快的模型）可能会导致全局次优，如果它导致模型丢失累积的状态或无法完成复杂任务。
静态策略： 现有的路由器通常依赖于离线训练的分类器，这些分类器在部署前就固定了路由策略，从而无法针对工作负载的变化进行调整，也无法在任务开始后纠正错误的分配。

方法论：TRACE-Router

作者提出了 TRACE-Router，该框架将路由和学习的单元从单个请求转向了整个任务轨迹（task trace）。该系统的原理是：路由的单元必须与反馈的单元相匹配。

核心机制

任务一致性路由（Task-Consistent Routing）：
- 在任务准入时，路由器为整个执行轨迹选择一个单一的后端模型。
- 每个请求都会附带一个持久的任务标识符（task identifier）。随后的请求会复用存储的后端分配，从而确保模型的连贯性，并在整个执行过程中保持模型特定的状态。
- 这创建了一个单一的信用分配目标：最终的任务奖励被归因于服务了整个轨迹的那个后端模型。
上下文调节的在线学习（Context-Conditioned Online Learning）：
- 为了处理多样化的工作负载场景（例如，延迟至关重要的任务 vs. 准确性至上的任务），系统采用了**上下文多臂老虎机（contextual bandit）**方法。
- 任务根据准入时可用的特征（例如，基于正则表达式的复杂度分类器）被分配到一个粗粒度的路由上下文（如：简单、中等、困难），无需额外的 LLM 调用。
- 系统为每个上下文维护独立的 bandit 策略（ $B_c$ ），从而允许学习针对不同任务类型的特定准确率-延迟权衡。
冷启动 UCB 策略（Cold-Start UCB Policy）：
- 路由策略利用带有冷启动初始化的**置信上限（UCB）**算法。
- 为了解决每个上下文中反馈稀疏带来的统计困难，系统在过渡到 UCB 选择规则之前，先执行强制性的轮询探索（每个臂进行 k 次抽取）。
- 作者发现，“热启动”先验知识并不能提高准确率，反而往往使系统偏向于较慢的模型；因此，冷启动是默认选项。
延迟奖励与标量化（Delayed Reward and Scalarization）：
- 反馈仅在任务终止后观察到。系统使用偏好参数 $\alpha$ 将梯度准确率（ $a_{t,m}$ ）和端到端延迟（ $\ell_{t,m}$ ）组合成一个标量奖励：
  $r^{(\alpha)}_{t,m} = (1 - \alpha) a_{t,m} - \alpha \tilde{\ell}_{t,m}$
- 通过对 $\alpha$ 进行遍历，系统可以追踪一系列部署策略，允许操作员调节准确率与延迟之间的权衡。

核心贡献

任务级路由公式化： 本文将模型路由公式化为任务一致性的在线模型选择，使路由决策与反馈单元（任务轨迹）对齐，从而实现从延迟奖励中进行原则性的信用分配。
上下文感知在线自适应： TRACE-Router 引入了一种基于上下文老虎机的路由器，能够在线学习上下文特定的策略，无需离线训练或显式的任务复杂度估计即可适应工作负载变化。
改进的帕累托前沿（Pareto Frontiers）： 该框架能够持续学习到占据经验准确率-延迟帕累托前沿的路由策略，其表现优于启发式基准（如复杂度路由器）和学习到的请求级路由器。

实验结果

作者在三个智能体基准测试上评估了 TRACE-Router： $\tau^2$ -Bench（零售和电信领域）、LiveCodeBench 和 Terminal-Bench。

帕累托前沿主导地位： 在所有基准测试中，TRACE-Router 均达到了非支配的帕累托前沿点。它始终优于延迟匹配的随机模型插值法。
- 在 $\tau^2$ -Bench 上，它比延迟匹配插值法高出 7–8 个准确率点。
- 在 Terminal-Bench 上，它在降低 36% 延迟的同时，比最强的单模型基准高出 7.1 个准确率点。
上下文调节作用： 虽然来自上下文调节的整体增益较为温和，但它对于确定可达的操作点至关重要。在模型性能特征差异较大的领域（如电信领域），上下文调节版本在特定的 $\alpha$ 值下能维持前沿，而无上下文版本则会被支配。
冷启动 vs. 热启动： 实验证实，冷启动初始化优于热启动变体，后者往往会强化先验偏差并选择较慢的模型。
可扩展性： 在一个四模型消融研究中，TRACE-Router 成功识别并避开了不可靠的模型（例如易发生超时的模型），而启发式路由器仍会选择这些模型，这证明了其在候选池规模增加时的鲁棒性。

意义与主张

本文主张，**任务一致性承诺（task-consistent commitment）**是智能体 AI 部署时进行模型选择的一个实用且卓越的单元。通过将工作流视为一等公民调度对象，而非独立请求的集合，TRACE-Router 解决了当前请求级路由器固有的信用分配不匹配问题。

作者强调，其方法不需要显式的任务复杂度估计或离线训练。相反，它利用延迟的任务级反馈来自适应地学习平衡准确率与延迟的路由策略。结果表明，相比于在相同延迟预算下的概率性模型混合，任务级自适应路由能提供显著更高的准确率，这为更高效、更可靠的智能体 AI 部署提供了一条路径。