🤖 AI

DIRECT: When and Where Should You Allocate Test-Time Compute in Embodied Planners?

该论文介绍了 DIRECT，这是一个通过根据多模态上下文在不同缩放维度（如推理深度、模型规模和内存）上动态分配测试时计算量来优化具身规划的路由框架，从而以显著低于朴素缩放或固定模型选择的延迟和成本，实现了前沿水平的成功率。

原作者： Jadelynn Dao, Milan Ganai, Yasmina Abukhadra, Ajay Sridhar, Mozhgan Nasr Azadani, Katie Luo, Clark Barrett, Jiajun Wu, Chelsea Finn, Marco Pavone

发布于 2026-06-11

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Jadelynn Dao, Milan Ganai, Yasmina Abukhadra, Ajay Sridhar, Mozhgan Nasr Azadani, Katie Luo, Clark Barrett, Jiajun Wu, Chelsea Finn, Marco Pavone

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你是一位繁忙餐厅厨房的经理。你拥有一支由不同技能水平和速度组成的厨师团队：

手脚麻利的备菜员： 速度快、成本低，擅长处理简单的任务，比如切洋葱或洗碗。
大师级主厨： 动作慢、价格贵，但精于复杂的任务，比如剔除鱼骨或调制精致的酱汁。

在机器人领域，**视觉语言模型（VLMs）**充当了“主厨”或规划者的角色。它们观察一个场景（比如一张凌乱的桌子）并接收一个指令（比如“清理桌面”），然后将其分解为机器人手臂可以遵循的一系列步骤。

问题在于，许多开发者在对待所有任务时都一视同仁：他们只是在雇佣“大师级主厨”来完成每一项工作。他们认为，“既然大师级主厨是最优秀的，那我们就应该用他来做所有的活。”

但正如 DIRECT 这篇论文所指出的，这样做是浪费的。让大师级主厨去洗一个杯子既费时又昂贵，尽管备菜员也能迅速完成这项工作。

核心理念：聪明的服务员

作者引入了 DIRECT（用于具身计算权衡的动态推理路由）。你可以把它想象成站在厨房门口的一位超级聪明的服务员。

当顾客点了一道菜（一个机器人任务）时，服务员并不会直接把订单交给大师级主厨。相反，服务员会观察订单内容以及厨房的当前状态：

任务简单吗？（例如：“拿起那个红色的杯子。”）-> 服务员会将任务交给手脚麻利的备菜员。
任务复杂吗？（例如：“将这些书按大小排序，然后把它们放上架子，过程中不要撞倒任何东西。”）-> 服务员会将任务交给大师级主厨。

这种“路由”过程是瞬间完成的，既节省了时间又节省了成本。

三种“升级”厨师的方法

论文测试了三种让厨师变得更“聪明”（他们称之为“增加测试时计算量”）的方法，并发现每种升级在不同情况下都有所帮助：

深度思考（思维链/Chain-of-Thought）：
- 类比： 要求厨师在行动前先“大声思考”。
- 发现： 这对于需要推理物理或空间关系的复杂谜题（例如：“哪个方块在另一个下面？”）非常有效。但对于像“拿起勺子”这样简单的任务，思考只会拖慢速度。DIRECT 学会在处理简单工作时跳过思考过程。
聘请更高级别的厨师（模型规模/Model Size）：
- 类比： 大师级主厨知道 500 道食谱；而初级厨师只知道 50 道。
- 发现： 更大的厨师更擅长处理罕见或复杂的技能（如“折叠毛巾”或“关上抽屉”）。但对于常见任务（如“把杯子放入箱子”），大厨并不比小厨师强多少。DIRECT 对常见任务使用小厨师，并将大厨留给那些稀有的任务。
记忆过去（记忆/Memory）：
- 类比： 一个能记住 10 分钟前发生了什么的厨师，对比一个只能看到当前台面上有什么的厨师。
- 发现： 如果一个任务需要记住一个序列（例如，“先把第一个方块放入箱子，然后再放第二个”），你需要具备记忆能力的厨师。但如果任务只是单步操作，记忆反而是一种负担。DIRECT 仅在任务确实需要时才会开启记忆功能。

结果：更快、更便宜

团队在真实的机器人（Franka 手臂）和模拟环境中测试了这个“聪明服务员”系统。

结果： DIRECT 成功实现了与最昂贵、最强大的系统相当的成功率，但其平均速度快了高达 65%。
总结： 你不需要为每一项工作都使用最强大的工具。通过智能地将正确的工具匹配到正确的任务上，你可以以极低的成本和时间实现“前沿水平”（即最佳可能的结果）的性能。

简而言之，DIRECT 教会了机器人如何聪明地进行“思考”，确保它们不会在简单问题上过度思考，也不会在复杂问题上思考不足。

技术摘要：DIRECT —— 在具身规划器中，何时以及何处分配测试时计算量？

问题陈述

视觉语言模型（VLM）正越来越多地被部署为具身智能体的高层规划器，负责将抽象指令分解为可执行的子技能。一种主流的增强能力策略是扩展测试时计算（test-time compute）——即通过思维链（CoT）推理、更大的模型规模或更长的记忆历史等技术，在推理阶段投入更多资源。然而，作者观察到，在所有任务上进行朴素的计算量缩放会与现实世界的部署产生显著摩擦。前沿 VLM 的延迟可能高达数十秒，且统一的缩放往往会带来收益递减或不均衡的问题；例如，一个“思考型”模型的速度可能比非思考型模型慢 3.8 倍，但在简单任务上的成功率却完全一致。

核心问题在于，测试时计算并不是一个统一的杠杆。不同的缩放维度（推理深度、模型规模、记忆）提供的是定性的不同能力，且这些能力仅对特定的任务需求有效。统一分配昂贵的计算量是浪费，而分配不足则会导致复杂任务失败。本文认为，确定何时以及何处投入测试时计算，是让前沿性能落地到现实世界机器人系统的关键。

方法论：DIRECT 框架

作者提出了 DIRECT（用于具身计算权衡的动态推理路由），这是一个旨在根据多模态场景上下文动态分配每项任务测试时计算量的路由框架。

核心架构

DIRECT 作为一个轻量级路由，将任务输入 $x = (I, \ell)$ —— 由初始场景观测 $I$ （RGB 图像或多视图堆叠）和自然语言指令 $\ell$ 组成 —— 映射到来自固定候选池 $\mathcal{M} = \{m_1, \dots, m_K\}$ 中的特定规划器 $m_k$ 。

输入编码： 路由器使用冻结的 BGE-M3 文本编码器对指令进行编码，并使用冻结的 SigLIP 系列视觉编码器对场景进行编码。这些嵌入被拼接在一起，形成任务特征向量 $\phi(x)$ 。
路由器模型： 该框架评估了多种参数高效的架构，包括线性模型、多层感知器（MLP）、k-最近邻（KNN）和一对其余（OVR）分类器。
决策目标： 路由器选择使效用函数 $U(q, c)$ 最大化的规划器，该函数平衡了质量（ $q$ ，任务成功率）与成本（ $c$ ，延迟或 FLOPs）。该框架支持各种效用实例化，包括通过回归头预测质量得分和成本得分，以确定最优权衡。

数据收集与训练

仿真： 对于 VLABench 和 RoboMME 等基准测试，作者测量了每个“规划器-任务”对的质量（成功率）和成本（延迟或 FLOPs），以构建质量（ $Q$ ）和成本（ $C$ ）矩阵。
硬件（物理机器人）： 由于详尽的物理展开并不现实，作者采用了合成数据流水线。他们采样场景，生成候选指令，并使用大型 VLM 提出技能分解方案。随后，一个 LLM 判断器会对这些方案相对于参考技能的“可操控性（steerability）”进行评分。这使得路由器可以在无需为每一步训练都配备机器人硬件的情况下，在物理风格的任务上进行训练。训练后的路由器随后以零样本（zero-shot）方式部署在物理硬件（DROID 配置下的 Franka 手臂）上。

研究的缩放维度

该框架在三个主要的缩放维度上进行了评估：

思维链（CoT）深度： 在“思考型”（深思熟虑的推理）和“指令型”（非思考型）模型之间进行路由。
模型规模： 在不同参数量的 VLM 变体之间进行路由（例如 2B 到 235B）。
记忆历史： 在具有不同记忆架构的规划器之间进行路由（例如轻量级帧采样与基于检索的记忆如 MemER）。

关键结果

实验在 VLABench、RoboMME 和物理 Franka DROID 硬件上进行，涉及超过 270,000 次模拟路由决策和 245 条硬件轨迹。

1. 思维链（CoT）路由

发现： CoT 推理提高了平均性能，但对于 44% 的任务而言是不必要的，在这些任务中，非思考型模型的性能可以匹配甚至超过思考型模型，且延迟低了几个数量级。
结果： DIRECT 在同质和异质模型对中均实现了最高的路由效率（ $\eta$ ）。在 VLABench 上，它在恢复接近昂贵模型质量的同时，将延迟降低了约 30%（例如 $\eta \approx 75\%$ ）。在物理硬件上，DIRECT 以显著更低的延迟达到了与“思考型”规划器相当的成功率（例如，在多步购物任务中，延迟为 6.85s 对比 19.58s）。

2. 模型规模路由

发现： 扩展模型规模并不产生单调递增的改进曲线；较大的模型主要扩展了规划器可以指挥的技能广度，而非统一提升所有任务。较小的模型通常足以应对基础技能。
结果： DIRECT 将不规则的缩放曲线转化为单调的改进。通过将任务路由到针对给定技能集的最合适的小模型，它在显著降低平均延迟的同时，恢复了大型模型（如 235B）的性能。在物理硬件上，通过仅在处理折叠或关闭等复杂技能时才升级到大模型，DIRECT 以接近廉价模型的延迟（0.21s 对比 0.36s）匹配了 27B 规划器的成功率。

3. 记忆路由

发现： 面向记忆的计算仅对需要远期历史的任务（例如不可观测的目标）有益。对于需要短期回溯的简单任务，轻量级记忆方案以极低的成本优于重型检索模型。
结果： DIRECT 识别出需要长程记忆的任务并将其路由至增强记忆的规划器，而对可观测任务则使用无记忆规划器。在 RoboMME 和物理硬件上，DIRECT 实现了接近 Oracle（最优可能规划器）的成功率，同时处理的帧数显著少于静态记忆增强型规划器。

意义与主张

本文声称，朴素地扩展测试时计算是浪费的，且扩展带来的收益是取决于任务的，而非统一的。DIRECT 的主要意义在于：

以更低成本恢复前沿性能： 通过将任务需求与合适的规划器进行动态匹配，DIRECT 能够达到与池中最强、最昂贵模型相当的成功率，但成本大幅降低（在物理实验中平均延迟降低高达 65%）。
证明了计算的非均匀性： 本研究提供了经验证据，表明不同的缩放维度（推理、规模、记忆）会产生定性的不同能力增益，因此需要进行逐任务分配，而非静态的模型选择。
实现现实可行性： 通过在不牺牲成功率的前提下降低延迟和 Token 使用量，DIRECT 解决了前沿 VLM 能力与具身智能体实时约束之间日益增长的摩擦。

作者总结道，将高层规划器视为一个动态变量，而非固定的能力，是使前沿水平的具身规划在机器人系统中落地的切实路径。该框架依赖于轻量级的、基于嵌入的特征来推断任务难度，这表明有效的路由可以通过无需复杂、沉重推理机制的方式来实现。