🤖 AI

Pandora's AI Model Routing Box: Efficient Allocation with Costly Value Estimation

本文介绍了“潘多拉路由器”（Pandora's Router），这是一个将经典的潘多拉盒问题应用于异构专家模型间高效路由的框架，通过在价值评估成本与分配质量潜在收益之间进行最优平衡，证明了该方法在显著减少昂贵评估器使用的同时，能够达到穷举式评估的性能水平。

原作者： Adam Fisch, Shubhendu Trivedi, Fantine Huot, William W. Cohen, Michael Kaisers, Mirella Lapata, Kate Larson, Jacob Eisenstein

发布于 2026-08-25

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Adam Fisch, Shubhendu Trivedi, Fantine Huot, William W. Cohen, Michael Kaisers, Mirella Lapata, Kate Larson, Jacob Eisenstein

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在人工智能飞速扩张的版图中，一个新的挑战已经浮现，这与其说是关于如何构建更聪明的机器，不如说是关于如何明智地管理它们。如今，组织不再依赖单一、庞大的大脑来解决所有问题。相反，它们部署了一个由专业化模型组成的多元生态系统：有些模型规模小、速度快且成本低，专为简单任务设计；另一些则规模巨大、速度慢且成本高昂，保留用于复杂的推理或深度分析。还有一些模型配备了外部工具（如搜索引擎或专门的数据库），虽然可以提高准确性，但也会带来各自的成本。对于任何运行这些系统的人来说，核心问题在于如何决定针对特定任务使用哪种工具。如果你将一个简单的查询发送给一个庞大且昂贵的模型，就是在浪费金钱。如果你将一个困难且微妙的问题交给一个廉价且简单的模型，你得到的答案会很糟糕。目标是将每一个请求路由到最有可能成功且成本最低的专家那里。

然而，做出这个决定并非没有代价。为了知道哪个模型最适合给定的问题，系统必须首先估计每个模型可能提供的答案质量。这种估计过程本身分为两种类型。一种是“廉价”的估计器，它通过观察问题并基于一般模式进行猜测，这种方式很快，但往往具有噪声且不可靠。另一种是“昂贵”的估计器，它可能会实际运行任务的部分版本，或者咨询一个更强大的模型以获得精确的预测，但这需要时间和金金钱。这是一个经典的权衡困境：你是应该支付费用以获得更好的判断后再做选择，还是仅仅根据已有的廉价信息进行猜测？如果你支付得太频繁，检查的成本会吞噬掉你的节省；如果你检查得太少，就会做出错误的路由决策。

Google DeepMind 的研究人员通过将这个问题转化为经济学中一个著名的谜题——“潘多拉魔盒”（Pandora's Box）来解决它。想象一个人面前摆放着几个密封的盒子，每个盒子里都藏着一个价值未知的奖品。这个人知道奖品的总体分布情况，但不知道任何单个盒子的具体内容。为了看到里面有什么，他必须支付一笔费用来打开盒子。目标是最大化他最终获得的奖品价值，减去打开盒子所支付的总费用。几十年前发现的最优策略涉及为每个盒子计算一个“保留价格”（reservation price）——这是一个特定的价值阈值，告诉这个人打开盒子的潜在收益是否值得支付那笔费用。如果当前最好的选项已经优于这个阈值，那么跳过这个盒子才是明智之举。

研究人员将这一逻辑应用于 AI 模型路由，将每个可用的 AI 模型视为一个密封的盒子。“廉价”的价值估计是初始猜测，而“昂贵”的估计则是打开盒子以查看真实潜力的行为。他们开发了一个被称为“潘多拉路由器”（Pandora's Router）的系统，该系统为每个模型和每个传入的问题计算这些保留价格。该系统会动态决定进行更准确的检查是否具有成本效益。如果廉价的猜测表明某个模型很可能是最佳选择，或者检查的成本过高，路由器就会跳过昂贵的检查并直接做出选择。如果廉价的猜测存在不确定性，且检查的成本较低，路由器则会支付费用以获得更好的估计，然后再做决定。

为了测试这种方法，团队在三个截然不同的现实场景中进行了实验。第一个涉及数学推理，模型必须在快速的基础求解器和更慢但更强大的（能够进行长步进式推理的）求解器之间做出选择。第二个场景侧重于检索增强生成（RAG），系统必须决定是仅依赖其内部知识的模型，还是先支付费用搜索文档数据库的模型。第三个是一个包含一百多个不同语言模型的规模化基准测试，涵盖从微型到庞大的各种模型，系统必须为各种通用知识问题选择正确的模型。

结果显示，潘多拉路由器成功地处理了成本与准确性之间的权衡。在昂贵检查成本较低的情况下，系统会频繁查询，其表现几乎与每次都检查所有模型的系统完全一致。但随着检查成本的增加，路由器变得更加谨慎，每当廉价猜测足够自信时，它就会跳过昂贵的检查。这使得系统能够在保持高质量路由决策的同时，显著降低开支。事实上，在所有三个领域中，该路由器在匹配详尽检查质量的同时，查询昂贵估计器的频率却远低于后者，有效地找到了信息成本与决策价值之间的平衡点。

研究人员还探索了这个问题的更去中心化版本，称之为“潘多拉竞标者”（Pandora's Bidder）。在这种设定下，不再是由一个中央管理者做出所有决策，而是由各个 AI 模型本身充当竞标者。每个模型都会看到竞争对手提供的最高报价，并必须决定是否投入自己的资源进行自我评估，以看自己是否能赢得这项工作。这模拟了一个市场环境，即专家们需要自行决定在完善自身评估之前，投入精力是否值得。研究发现，当竞争性的估计是准确时，这种去中心化的推理提高了效率。然而，当竞争性的估计存在噪声或不可靠时，战略性模型有时会出于自身利益而行动，从而损害了整个系统的性能，这凸显了个人利润与集体效率之间存在的张力，而这种张力在中心化版本中并不存在。

最终，这项工作表明，如何评估 AI 模型本身就是一个复杂的优化问题。通过将价值估计视为一项必须权衡其收益与成本的“有代价”活动，而非一个免费或固定的步骤，研究人员创建了一个能够适应 AI 使用经济现实的框架。该系统既不会盲目信任廉价的猜测，也不会盲目地为昂贵的检查买单；相反，它会计算出“了解更多信息的价值”超过“获知真相的价格”的精确时刻。这种方法为管理异构 AI 系统提供了一条切实可行的路径，确保在不浪费资源进行不必要检查的前提下，将正确的工具用于正确的工作。

技术摘要：Pandora 的 AI 模型路由箱 (Pandora's AI Model Routing Box)

问题陈述

随着 AI 系统越来越多地依赖于异构的模型家族——从小型、快速的模型到大型、昂贵或具有检索增强能力的专家模型——如何将输入高效地分配给最合适的模型成为了一个关键问题。现有的路由方法通常通过估计每个专家对于给定输入的预期回报（质量）并选择最大值来进行。然而，这些方法通常将价值估计视为一种无成本的操作。实际上，这里存在一个根本性的权衡：廉价的估计器（例如基于嵌入的预测器）速度快但噪声大，而准确的估计器（例如能够访问部分推理轨迹或检索结果的微调模型）则成本高昂。

本文解决的核心问题是带有成本价值估计的高效分配。系统不仅必须决定选择哪个专家，还必须决定查询哪些价值估计器来为该决策提供信息。目标是使所选专家的预期回报减去总估计成本后的值最大化。这涉及确定从昂贵且准确的估计中获得的“信息价值”是否足以抵消其计算开销。

方法论

论文将这一路由问题形式化为 Pandora's Box（潘多拉之盒） 的一个实例，这是搜索理论和运筹学中的一个经典问题（Weitzman, 1979）。在这个类比中，每个专家都是一个具有隐藏价值的“盒子”。路由器默认可以获得一个廉价且有噪声的估计 ( $f_m$ )，并且可以通过支付成本 ( $c_m$ ) 来“打开盒子”，从而观察到一个更准确的估计 ( $g_m$ )。

1. Pandora's Router (集中式设置)

在集中式设置中，单个路由器控制分配。作者提出了基于保留价格 (reservation prices) 的 Pandora's Router。

信号模型： 廉价估计 $f_m$ 与昂贵估计 $g_m$ 之间的关系使用高斯信号模型进行建模： $G_m | F = f \sim \mathcal{N}(\mu_m, \sigma_m^2)$ 。均值 $\mu_m$ 是廉价估计的函数，而 $\sigma_m$ 则捕捉了残余不确定性。
保留价格 ( $u^{rsv}_m$ )： 定义为外部选项价值，在该价值下，打开盒子 $m$ 的预期收益恰好平衡检查成本。它满足 $\mathbb{E}[(G_m - u^{rsv}_m)^+] = c_m$ 。
非强制性检查： 与经典的 Pandora's Box 问题（其中必须检查所选的盒子）不同，这项工作考虑的是非强制性 (non-obligatory) 变体（Doval, 2018; Beyhaghi and Kleinberg, 2019）。路由器可以在不支付检查费用（使用廉价估计作为“密封”选项）的情况下选择专家。
算法：
1. 为所有专家计算保留价格和“备份价格”（针对密封的盒子）。
2. 识别一个“留置”专家作为初始外部选项。
3. 按保留价格降序依次检查剩余的专家。
4. 当当前观察到的最佳值超过剩余未开盒子的保留价格时停止。
5. 选择观察到的最佳值，或者如果没有进行值得的检查，则选择留置的专家。
相关联的价值： 为了处理专家之间的相关性（例如在大规模池中相似的模型），算法在每一步都使用多元高斯后验更新重新计算保留价格。

2. Pandora's Bidder (去中心化设置)

论文将该框架扩展到了一个专家控制自身价值估计的去中心化市场。

机制： 一种由平台根据最佳竞争估计设定价格的报价机制。战略性专家必须决定是接受价格还是拒绝。
信息价值 (VoI)： 在接受之前，专家可以付费来完善其自我评估。基于是否在特定区间 $[p_{lo}, p_{hi}]$ 内进行精细化评估来做出决策，在该区间内，从精细化中获得的预期收益超过了成本。
策略： 只有当价格接近其预期值（高不确定性）时，专家才会进行精细化评估，并在精细化后的价值超过价格时接受，否则则拒绝。

实验领域

该框架在三个不同的领域进行了评估：

MATH (推理时间缩放)： 在低成本模型和高成本模型之间进行路由。昂贵的估计器 $g$ 使用思维链 (CoT) 推理轨迹的前 20 个 token 来预测正确性。
RAG (检索增强生成)： 在没有检索的模型、Wikipedia RAG 模型和 PubMed RAG 模型之间进行路由。昂贵的估计器 $g$ 结合了检索结果来预测答案质量。
EmbedLLM (大规模选择)： 在超过 100 个开源权重模型中进行路由。昂贵的估计器是一个微调模型，它仅根据提示词预测性能，从而提供比基于嵌入的 KNN 基准更高的准确度。

主要结果

路由性能： Pandora's Router 始终能最小化遗憾 (regret)（所选专家的真实回报与 Oracle 最优值之间的差距）与检查成本之和。
- 当检查成本较低时，它能达到详尽估计 ( $g$ -always) 的性能。
- 当检查成本较高时，它能达到仅使用廉价估计路由 ( $f$ -only) 的性能。
- 在中间成本区间，它显著优于“Top-2”（查询前两个廉价估计）和随机策略等基准，在整个 $c_g$ 范围内实现了接近最小的总成本。
去中心化效率： 在去中心化设置中，Pandora's Bidder 成功地在过度投资和投资不足之间进行了插值。然而，论文指出了一种张力：当竞争估计具有噪声时（例如基于廉价的 $f$ ），战略性出价者可能会以牺牲整体分配效率为代价来最大化自身的盈余。
消融实验： 使用相同的查询预算，但通过随机或基于边际的启发式方法选择盒子，会导致更高的遗憾，这证实了基于保留价格的排序对于效率至关重要。

重要性与贡献

该论文声称有三个主要贡献：

形式化： 这是首个明确将模型路由与经典 Pandora's Box 问题联系起来的工作，将带有成本价值估计的模型路由形式化为非强制性检查的 Pandora's Box 实例。
算法创新： 在高斯信号模型下，推导出了具有闭式解信息价值表达式的基于保留价格的策略，从而实现了高效的路由决策计算。
去中心化： 将框架扩展到了去中心化设置（Pandora's Bidder），展示了代理如何在基于拍卖的分配机制中利用信息价值推理。

作者将这项工作定位为理解异构 AI 系统中模型选择经济学的关键一步，提供了一个统一的框架，用于在中央路由和去中心化市场中平衡成本与准确性。他们也承认了局限性，例如对高斯信号模型的依赖可能无法捕捉重尾分布，以及当前出价策略的近视性（myopic），即未考虑到多轮战略预判。