Temporally Centered SIGReg Improves Multi-Task LeWorldModel Learning: From Analysis to Method
本文指出 LeWorldModel 中微弱的高斯正则化会导致多任务设置下的表示混叠，并提出了一种时间中心化的 SIGReg 方法，该方法转而对残差应用正则化，从而在无需外部预训练的情况下，显著提升了在 LIBERO 基准测试上的下游多任务性能。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下你正在教一个机器人做家务。你不想为每一只袜子或每一个盘子都编写上百万条具体的规则；相反，你希望它建立一个“世界模型”——一张关于世界运作方式的心智地图。这张地图让机器人能够预测如果它抓起一个杯子或推一下椅子会发生什么，从而在实际行动之前就能规划好自己的动作。长期以来，科学家们一直试图通过向机器人展示视频并让它猜测接下来会发生什么来教导它。但问题在于：如果你同时向机器人展示太多不同的任务（比如打扫、烹饪和整理），它的脑子会变得混乱。它可能会把“洗碗”的规则与“叠衣服”的规则混淆在一起，导致一张混乱的心智地图，让一切看起来都一样。这篇论文深入探讨了为什么会发生这种情况，并提供了一个巧妙的新技巧，让机器人的大脑即使在同时处理数十项工作时也能保持井然有序。
这项研究背后的研究人员正在研究一种被称为 LeWorldModel 的特定方法，这是一种通过像素（图像）教机器人学习的高级方式，而不需要人类告诉它做得对不对。为了防止机器人的大脑塌陷成一个无用的、空白的状态（即遗忘一切），旧方法使用了一条名为 SIGReg 的规则。把 SIGReg 想象成一位严格的图书管理员，她坚持要求图书馆里的每一本书都必须按照完美、均匀的圆形模式摆放在书架上。如果图书馆里只有一种类型的书，这效果很好。但当你试图将所有不同类型的书（任务）都强行塞进那个完美的圆形模式时，管理员会不小心把不同的区域挤压在一起。“烹饪”区最终会紧挨着“清洁”区，书籍就会混杂在一起。
论文指出，这种“严格的图书管理员”方法正是问题所在。通过试图让机器人的整个心智地图看起来像一个完美的圆，该方法无意中挤压了不同任务之间的差异。这就像是试图把方桩、圆桩和三角桩都塞进一个圆孔里；最终，它们都会被强行塑造成一个并不太适合任何一种形状的样子。作者进行了模拟实验，发现这种追求“完美圆形”的压力实际上会将不同的任务组推得更近，使得机器人以后很难区分它们。
为了解决这个问题，团队引入了一种新方法，称为 TC-LeWM（时间中心化 LeWorldModel）。他们不再强迫整个心智地图都是圆的，而是改变了规则：他们只强迫机器人思维中的“波动”和“变化”是圆的。想象一下，机器人的大脑有一个“稳定的嗡嗡声”（它正在执行的主要任务）和一些“静态噪声”（细微的、瞬时的变化）。旧方法试图让整个大脑听起来像一个完美的音调。新方法则说：“保持主音调无论为了完成工作需要变成什么样，但要确保静态噪声是完全有序的。”
通过仅将严格的规则应用于噪声（残差）而非主信号，机器人可以自由地保持其不同的任务区域清晰且分离。结果令人印象深刻。在 LIBERO 基准测试（涉及一系列机器人操控任务）中，新方法的成功率显著提高。在进行 10 项不同任务的测试时，成功率从 53.2% 跳升至 73.6%。当他们把任务增加到 40 个时，旧方法的表现下降到了 44.4%，而新方法依然保持在 73.5% 的强劲水平。
论文还表明，机器人的大脑变得更加稳健。当他们加入视觉干扰，如模糊摄像头或旋转图像时，旧机器人的大脑会变得混乱并剧烈跳动。而新机器人的大脑保持稳定，即使外界环境变得混乱，也能保持其内部地图的组织性。本质上，通过放弃对一个完美统一的大脑的需求，转而专注于组织那些细小的、瞬时的变化，机器人学会了处理更广泛的工作而不会迷失方向。这表明，对于机器人要在同时学习许多任务，它们的心智地图需要足够灵活以承载不同的形状，而不是被强行塞入一个单一、僵化的模具中。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。