A Sim-to-Real Integration Pipeline for Training and Deployment of Chunk-Based VLA Manipulation Policies
本文提出了一种开源的从仿真到现实（sim-to-real）流水线，通过在真实硬件上回放专家仿真轨迹来生成配对数据集，解决了训练基于分块（chunk-based）的视觉-语言-动作（VLA）操控策略时的数据稀缺瓶颈，从而实现了高效的策略训练、评估以及对仿真到现实差距的直接测量。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
长期以来，机器人一直是重复动作的大师，能够在工厂中精确地执行成千上万次相同的动作。但要教会它们理解人类家庭中那种混乱且不可预测的世界，已被证明是一件难事。现代机器人技术正越来越多地转向一种新方法，即让机器通过观察和倾听来学习，将它们所看到的与它们被告知要做的事结合起来。这种被称为“视觉-语言-动作”（vision-language-action）的方法，允许机器人接收一个视觉场景和一个口头指令（例如“移动红色的方块”），并将它们直接转化为物理运动。挑战在于收集足够的范例来教授机器人。通常，这需要人类亲手引导机器人的手臂完成每一项任务，这一过程缓慢、昂贵且难以规模化。此外，当研究人员试图在计算机模拟中训练机器人，然后将其转移到现实世界时，结果往往会失败，因为数字世界过于完美。模拟与现实之间的差距很少被精确测量，导致科学家们无法确定失败是因为机器人的“大脑”不好，还是仅仅因为现实中的桌面太滑了。
巴黎智能系统与机器人研究所的一个研究小组开发了一种新方法来弥合这一鸿沟。他们没有依赖人类教师或未经测试的模拟，而是创建了一个使用计算机生成的专家来教导真实机器人的系统。在他们的设置中，一个虚拟机器人手臂在模拟器中规划出推开方块的完美路径。随后，这个数字计划被发送到实验室中的一台真实的 Franka FR3 机器人手臂。真实的机器人尝试完全遵循该数字计划，没有任何人类指导或实时修正。在移动过程中，团队记录了真实机器人所见所感的内容，从而创建了一个数据集：其中“正确答案”来自模拟器，而“经验”则来自现实世界。这使得他们能够利用现实世界的数据来训练新的机器人策略，而无需承担人工遥操作的成本。至关重要的是，由于他们知道机器人原本应该采取的确切路径，因此可以高精度地测量计划与现实之间的差异。
研究人员通过让真实机器人重放 200 条不同的模拟轨迹来测试这种方法，每条轨迹都涉及将方块向左或向右推动。他们发现，真实机器人的运动高度精准地遵循了数字计划。平均而言，机械臂实际走的路径与预期路径的偏差不到一厘米。最大的误差仅发生在机器人接触物体时，此时现实世界中摩擦力和重量的物理特性（这些在计算机中未被完美建模）导致了轻微的漂移。尽管存在这些微小的误差，机器人仍成功完成了全部 200 项任务。这证明了模拟与现实之间的物理差距足够小，是可以被管理的，并且该系统可以自动生成高质量的训练数据。
为了证明该系统可以端到端地运行，团队随后利用收集到的数据从零开始训练一个新的机器人策略。他们教会了一个名为 ORCHID 的模型，使其仅利用收集到的 200 个真实世界范例来执行相同的推方块任务。当他们在闭环测试中测试这个经过自我学习的新机器人（即它必须观察场景、决定行动并做出相应移动）时，它在 20 次尝试中成功了 6 次。研究人员指出，这种较低的成功率可能是由于训练数据量较少以及光照变化引起的，而非该方法本身存在根本性缺陷。该实验作为一个概念验证，证明了机器人可以在由模拟生成的现实世界数据上进行训练，并且相同的软件栈既可以用于收集数据，也可以用于运行最终的机器人。
这项研究强调，将机器人从计算机转移到现实世界最大的挑战不在于高层规划，而在于具体的物理交互。误差并非随机出现的；它们一致地出现在机器人接触物体时，这表明改进物体重量和桌面摩擦力的模型，会比优化机器人在空旷空间中的运动更能提升性能。通过提供一个开源协议和一个包含配对的模拟与真实轨迹的数据集，研究人员为整个领域提供了一个衡量并减少这些物理差异的工具。他们的工作表明，只要系统设计得当，能够测量并解释数字计划与物理现实之间的微小差异，就可以在无需人工干预的情况下生成大量的现实世界训练数据。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。