想象一个工厂车间里挤满了数十个机器人，每个机器人都试图完成特定的工作，比如抓取零件、组装纸箱或检查缺陷。在过去，运行这些机器人的标准方式是给每一个机器人配备一个专属的“大脑”（一个强大的计算机芯片），就放在它们的背上。
这篇论文指出，这种方法就像是给大型办公室里的每一位员工都配了一台个人超级计算机。这既昂贵又浪费能源，而且通常当员工只是走去打印机那里时，那些超级计算机还处于闲置状态。
相反，作者提出了 ROSA（面向机器人的服务架构）。你可以把 ROSA 不仅仅看作是每个机器人的个人电脑，而是一个所有机器人共享的中央“大脑云”。
以下是 ROSA 的运作方式，分为三个简单的概念：
1. 共享大脑池（取代个人大脑）
旧的方法： 每个机器人都有自己的一台小型、弱性能的计算机。如果机器人需要进行复杂的计算，它会感到吃力，因为它的电池很小，且计算机速度不够快。
ROSA 的方式： 机器人通过互联网将它们的“问题”（例如“下一步我该抓取什么？”）发送到一间装满了超强大服务器的中央房间。
- 类比： 想象一家餐厅。在旧的方法中，每张桌子都有自己的微型厨房和一名厨师。在 ROSA 的方式中，后方有一个巨大的、高科技的中央厨房。服务员（机器人）只需向厨房发送订单即可。厨房可以同时处理许多订单，使用更好的设备，并且更节能，因为服务员不需要随身携带沉重的炉灶。
- 结果： 机器人的电池续航时间更长了（因为它们不再需要为沉重的计算机供电），而且获得答案的速度更快，因为中央厨房比单个机器人的大脑要强大得多。
2. 智能管理者（调度器）
仅仅拥有一个大厨房是不够的；你还需要一个聪明的管理者来决定谁来做、什么时候做。
- 问题： 机器人工厂不仅仅是为了追求速度，更是为了避免出错。一个机器人可能需要一个“安全检查员”（以确保不会撞到人）、一个“规划师”（来确定步骤）和一个“执行者”（实际进行移动）。
- ROSA 管理者： ROSA 扮演着交通控制员的角色。它观察所有的机器人并说道：
- “机器人 A 现在需要进行安全检查，所以我们优先处理这个。”
- “机器人 B 正在执行一项简单的任务，所以我们可以稍等一下再发送它的下一个指令。”
- “让我们把来自 10 个机器人的订单打包在一起，作为一个大批次发送给服务器。”
- 目标： 管理者不仅仅是试图让一个机器人变快。它试图让整个工厂实现高效生产。它确保最重要的任务得到完成，并确保机器人不会因为等待答案时间过长而发生故障。
3. “安全网”规则
论文解释了 ROSA 拥有一套内置规则，用于应对突发状况，类似于人类监督员的反应。
- 如果机器人即将撞到人： 安全模型会说“停止！”，机器人会立即冻结或移动到安全位置。
- 如果服务器响应太慢： 如果中央大脑响应过慢，机器人不会永远等待；它有一个备份计划（比如停止操作或请求人类帮助）。
- 如果任务失败： 如果机器人掉落了一个箱子，系统会察觉到这一点，重置机器人并尝试再次执行。如果持续失败，它会呼叫人类工作人员。
研究发现了什么？
研究人员在真实的机器人（Franka Panda 机械臂）上测试了 ROSA，并在包含多达 64 个机器人的模拟大型工厂中进行了测试。
- 重大优势： 与每个机器人都有专用计算机的旧方法相比，ROSA 使工厂的生产率提高了 12 倍。
- 对比： 即使与那些虽然共享服务器但没有“智能管理者”的其他系统相比，ROSA 的生产率也高出了 2.4 倍。
总结
ROSA 是一种运行机器人工厂的新方式。它不再给每个机器人配备沉重、昂贵且利用率低的计算机，而是将它们连接到一个共享的、强大的计算机云端。一个智能调度器管理着流量，以确保整个工厂运行顺畅、安全且高效，从而以最少的能源消耗完成最多的工作。
技术摘要：ROSA —— 面向机器人工厂的机器人基础模型服务系统
问题陈述
本文指出，在为“机器人工厂”部署机器人基础模型（RFM）时存在一个关键差距。虽然 RFM（如视觉-语言-动作模型）有望实现能够执行复杂任务的通用机器人，但现有的服务系统并不适用于工厂规模的部署，这是由于两个普遍存在的误解造成的：
- 误解 1：仅限边缘计算： 当前的范式假设 RFM 服务严格是一个边缘计算问题，即将每个机器人与车载片上系统（SoC）或专用的近端 GPU 耦合。这种方法受限于移动机器人的功耗和热预算，导致推理性能不佳且缩短了电池寿命。此外，一对一的服务会导致 GPU 利用率不足，因为当机器人在执行物理动作或等待下一个推理请求时，GPU 处于闲置状态。
- 误解 2：单一模型延迟最小化： 现有系统仅致力于最小化单个动作模型的延迟。然而，可靠的机器人执行需要多模型流水线（包括高层规划、安全检查和任务监控）。此外，工厂的主要目标不应是单个请求的延迟，而是在满足所有模型组件的服务水平目标（SLO）的同时，最大化总体的工厂生产力（加权动作吞吐量）。
方法论：ROSA 架构
作者提出了 ROSA（面向机器人的服务架构），这是一个围绕三个核心原则设计的服务器级共享 GPU 池服务系统。
1. 共享服务器级基础设施
ROSA 将推理与机器人解耦，将计算密集型任务卸载到中心化的数据中心级 GPU 集群（例如 NVIDIA H200）。
- 优势： 这使得机器人能够使用更强大的硬件（例如，其内存带宽比车载 Jetson Thor 高出 29 倍），通过减少移动机器人的车载功耗来延长电池寿命，并通过机器人间的请求批处理来提高硬件利用率。
- 机器人侧的角色： 机器人保留轻量级的车载 SoC 用于高频执行器控制（100 Hz+）和本地安全回退，而服务器则处理繁重的 RFM 推理。
2. 机器人感知编程抽象
ROSA 引入了一种声明式编程接口，它捕捉了机器人流水线的特定需求，超越了简单的推理请求。
- 多模型编排： 任务被定义为由异构模型组成的流水线：
- 系统 1： 低层动作生成（快速、反应式）。
- 系统 2： 高层规划与推理（较慢、审慎式）。
- 安全模型： 用于碰撞规避的周期性检查。
- 监控模型： 任务进度验证。
- 依赖关系与策略： 该接口指定了依赖关系（例如，每调用 N 次系统 1 调用一次系统 2）、调用频率、延迟 SLO 以及针对安全违规或 SLO 缺失的明确回退策略（例如，停止执行、重试或升级至人工干预）。
3. 工厂目标驱动的调度
ROSA 并不旨在最小化单个延迟，而是优化整个集群的加权机器人动作吞吐量。
- 输入： 调度器获取声明式任务配置（规模、模型组成、SLO）和剖析数据（各种批次大小和请求速率下的延迟分布）。
- 优化策略：
- 义务模型（Obligation Models）： 安全和监控模型被分配满足其固定调用率和 SLO 所需的最少可行服务器足迹。
- 目标耦合模型（Goal-Coupled Models）： 系统 1 和系统 2 模型（决定动作速率）被分配剩余资源，以最大化总动作速率。
- 算法： 系统结合了启发式算法和整数线性规划（ILP）。对于同质化集群，它通过二分查找寻找最大共享动作速率；对于异构化集群，它使用自适应前沿搜索来遍历多维速率向量。
- 运行时自适应： 系统支持保持位置不变的准入控制（placement-preserving admission control）以应对新机器人，以及针对 GPU 故障的热备切换，从而避免在发生轻微扰动时进行全系统重新调度。
核心贡献
- 识别误解： 本文挑战了流行的“仅限边缘”和“单一延迟”假设，主张采用一种中心化的、多目标的处理方法。
- ROSA 系统设计： 作者设计并实现了一个模型无关的服务系统，该系统具有声明式任务接口和旨在最大化工厂级生产力的调度器。
- 全面评估： 该系统在真实硬件（Franka Panda 机器人）和大规模合成工作负载（高达 64 台虚拟机器人，使用 8 个 NVIDIA H200 GPU）上进行了评估。
结果
评估表明，与传统基准相比，ROSA 在工厂生产力方面有显著提升：
- 对比专用服务： 与为每个机器人分配一个 GPU 或为每个机器人分配一个模型一个 GPU 的系统相比，ROSA 将工厂生产力提高了高达 12.06 倍。专用系统难以扩展；例如，“每个模型一个 GPU”的基准方案仅能支持包含 4 个组件的复杂流水线的 2 台机器人，而 ROSA 则支持了 32 台机器人。
- 对比共享服务器基准： 即使与缺乏 ROSA 先进调度功能（使用静态分区或简单批处理）的共享服务器系统相比，ROSA 也将 SLO 合格的动作吞吐量提高了高达 2.44 倍。
- SLO 合规性： 在高负载（64 台机器人）下，共享服务器基准由于不受控的请求速率和排队现象，合格动作率跌至 0%。ROSA 对系统 1 动作保持了 97.23% 的 SLO 达标率。
- 消融研究： 性能增益归功于三个因素：
- 请求速率控制： 通过基于闭环延迟约束限制请求频率，防止服务器过载。
- 资源分配： 根据模型组件的需求而非静态分区来动态分配 GPU 资源。
- 基于剖析的批处理： 根据实时延迟-吞吐量权衡选择系统 1 模型的最佳批次大小。
重要性与主张
本文将 ROSA 定位为高效 RFM 服务用于工业部署的早期基础性工作。作者声称，虽然特定的模型架构和算法可能会迅速演进，但其三个设计原则（共享基础设施、机器人感知抽象和工厂目标调度）是通用且持久的。
这项工作证明，将 RFM 推理转移到由旨在优化全局工厂吞吐量而非局部延迟的调度器管理的共享服务器池中，是部署通用机器人集群的一条可行且高效的路径。该系统成功弥合了大型基础模型的计算需求与工业机器人严格的可靠性和安全性要求之间的鸿沟。
每周获取最佳 computer science 论文。
受到斯坦福、剑桥和法国科学院研究人员的信赖。
请查收邮箱确认订阅。
出了点问题，再试一次？
无垃圾邮件，随时退订。