Robot Squid Game: Quadrupedal Locomotion for Traversing Narrow Tunnels
本文提出了一种强化学习框架,该框架将程序化环境生成与策略蒸馏相结合,通过将专业专家策略的知识迁移至统一的学生策略,使四足机器人能够稳健地穿越复杂且受限的三维隧道环境。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下,你正在训练一只四足机器狗如何爬过一系列狭窄且形状奇特的隧道。有些隧道是圆形的,有些是三角形的,有些是倒置的半圆形,还有些地板上有缺口,机器狗必须从一个 ledge 跳到另一个 ledge。
这篇名为《机器鱿鱼游戏》(Robot Squid Game)的论文正是致力于解决这一挑战。作者 Amir Hossain Raj、Dibyendu Das 和 Xuesu Xiao 开发了一套名为SQUID(基于模仿与蒸馏的技能融合四足运动,Skill-fused Quadrupedal locomotion Using Imitation and Distillation)的系统,旨在帮助机器人在这些狭窄的三维空间中导航,而不会卡住或撞墙。
以下是他们做法的简明解释:
问题所在:“一刀切”的陷阱
通常,当我们训练机器人行走时,可能会针对某一种特定类型的障碍物进行训练。但现实世界中的隧道杂乱无章,它们的形状、尺寸和角度各不相同。
- 旧方法:想象一下,试图同时教机器人穿过圆形隧道、方形隧道和锯齿状隧道。机器人会感到困惑。这就像试图在同一堂课里学会在高速公路上开车、在土路上开车以及在狭窄的停车库中开车一样。由于每种情况的规则差异太大,这种方法往往会导致失败。
- 局限性:现有方法要么陷入僵化的模式(例如,只知道如何直线行走的机器人),要么被现实世界传感器的噪声所压垮(例如,当“眼睛”看到模糊墙壁时就会惊慌失措的机器人)。
解决方案:“主厨”与“学徒”
作者提出了一种巧妙的训练策略,采用教师 - 学生(Teacher-Student)方法。这就像一所烹饪学校。
专业厨师(教师):
他们并没有试图一次性教会一个机器人所有事情,而是创建了四个不同的“专家”机器人。- 专家 A 只在三角形隧道中练习。
- 专家 B 只在圆形隧道中练习。
- 专家 C 只在半圆形隧道中练习。
- 专家 D 只在缺口隧道中练习(需要跳跃)。
这些专家在一个完美的计算机生成世界中进行训练,拥有“超级视觉”。它们能看到隧道的确切形状和完美的路径,即使这些路径在现实世界中无法被看见。它们成为了各自特定隧道类型的大师。
程序化厨房(环境):
为了确保这些专家真正强大,计算机并不只构建一条隧道。它使用“程序生成器”(类似于随机数生成器)来构建成千上万条具有不同尺寸、角度和难度的隧道。这就像一位厨师在一个每次转身时炉灶都会移动、地板都会倾斜、墙壁都会改变形状的厨房里练习。这防止了机器人仅仅死记硬背某条特定路径;它必须学会如何移动。学徒(学生):
一旦四位专家成为大师,团队就创建了一个最终的机器人——学生。这个机器人是真正进入现实世界的。- 学生没有“超级视觉”。它只配备标准的深度摄像头(类似 3D 眼睛)和腿部的传感器。
- 学生观察四位专家。当学生处于三角形隧道时,它向专家 A 学习;当它处于圆形隧道时,它向专家 B 学习。
- 通过一种称为蒸馏(Distillation)的过程,学生将四位专家的“肌肉记忆”和策略吸收进一个单一的“大脑”中。
结果:无所不能的爬行机器人
论文通过两种方式测试了该系统:
- 在计算机中(仿真):他们将机器人投入难度递增的隧道中。SQUID 机器人表现远优于旧方法。它通过隧道的速度更快,撞墙次数更少,且耗电量更低。它在其他机器人失败的棘手三角形和缺口隧道中表现尤为出色。
- 在现实世界中:他们将训练好的机器人(Unitree Go2)放入物理测试隧道中。尽管现实世界存在“噪声”(模糊的摄像头图像、不平坦的地面),该机器人仍成功爬过了狭窄的圆形、倾斜的三角形和缺口。根据隧道形状的不同,其成功率达到了约 60% 到 80%。
为什么这很重要
关键启示在于,通过将庞大而可怕的问题(导航任何隧道)分解为更小、可管理的课程(一次掌握一种隧道类型),然后再将这些课程结合起来,机器人的适应性大大增强。
这种机器人不再是一个看到奇怪形状就会僵住的机器人,它拥有一个动作“工具箱”。它知道如何为低矮的天花板蹲下,如何为高天花板伸展,以及如何在 ledge 上保持平衡,所有这些都源于它向专业教师学习,然后将这些技能融合成一种智能的通用策略。
简而言之:他们让机器狗在派往参加真正的“隧道鱿鱼游戏”之前,先在专门的训练营中练习,从而使其成为该游戏的 master。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。