💻 computer science

Neural Associative Skill Memories for safer robotics and modelling human sensorimotor repertoires

本文介绍了神经关联技能记忆，这是一种自监督预测编码框架，它利用生物学上合理的局部学习规则，在单一的能量基架构中统一了技能学习、情境感知表达与故障检测，以推动更安全的机器人技术发展并模拟人类的感知运动 repertoire。

原作者： Pranav Mahajan, Mufeng Tang, T. Ed Li, Ioannis Havoutis, Ben Seymour

发布于 2026-05-14

📖 1 分钟阅读☕ 轻松阅读

原作者： Pranav Mahajan, Mufeng Tang, T. Ed Li, Ioannis Havoutis, Ben Seymour

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，一个机器人不再仅仅遵循僵硬的脚本，而是能够真正“记住”执行任务时的感受，就像人类记住骑自行车或接球的感觉一样。这就是牛津大学和耶鲁大学的研究人员开发的新系统——“神经关联技能记忆”（Neural ASMs）的核心理念。

以下是其工作原理的简要说明，辅以简单的类比：

问题所在：机器人的“硬盘”与人类的“大脑”

传统机器人就像拥有庞大、硬编码词典的图书管理员。如果它们想拿起一个杯子，就会在图书馆中查找“拿起杯子”的条目，找到具体指令并执行。如果出现问题——比如杯子比预想的更重，或者手臂卡住——它们必须停下来，查阅图书馆，尝试将当前情况与预写的条目进行匹配。如果情况与图书馆条目不完全匹配，机器人就会陷入困惑或发生故障。

相反，人类并不将技能存储在词典中。我们将技能存储为感觉和模式。我们知道什么是“正常”的感觉。如果感觉“不对劲”（比如关节卡死或表面湿滑），我们的大脑会立即感知到错误并进行调整，而无需查阅手册。

解决方案：一台“预测性造梦机”

研究人员创建了一个新系统，模仿人类大脑的学习方式。机器人不再使用词典，而是利用一个充当“预测性造梦机”的神经网络。

通过观察学习（排练）：
机器人观察人类（或模拟）执行任务，例如拿起物体并放下。它不仅仅记录视频，而是记录整个感官体验：关节的角度、夹爪的力以及视觉线索。
- 类比： 想象你在学习杂耍。你不仅仅是记住球的轨迹数学公式，而是记住球击中手掌时的节奏和感觉。
“直觉”（故障检测）：
一旦机器人学会了某项技能，它就会创建一个关于该动作应该是什么感觉的“心理电影”。当它实际执行任务时，会不断将现实与心理电影进行比较。
- 神奇之处： 如果机器人的手臂卡住或传感器损坏，“现实”与“电影”就不匹配。系统会检测到巨大的“预测误差”。
- 类比： 这就像走在熟悉的走廊里。如果因为地毯缺失而突然绊倒，你的大脑会尖叫：“感觉不对！”机器人也是如此。它知道出了问题，因为感官反馈与它的记忆“不协调”。
自我修复（反应控制）：
当机器人检测到不匹配（故障）时，它不会惊慌或停止。它会尝试最小化误差。它会调整动作，使其重新与“心理电影”同步。
- 类比： 如果你在光滑的地板上行走并开始滑倒，你会本能地调整重心以保持直立。机器人会自动这样做，试图让它的传感器感觉再次“正常”。

“上下文”技巧：一个大脑，多种技能

机器人学的一个主要挑战是如何教会单个大脑执行多种不同的任务而不致混淆。

旧方法： 你必须告诉机器人：“好的，现在切换到‘拿起红色方块’模式。”
新方法： 机器人使用上下文推断。它观察最初的几个线索（如视觉提示或起始位置），并立即“猜测”需要执行哪项技能。
- 类比： 想象一位音乐家。如果看到指挥家举起指挥棒准备演奏华尔兹，他们的大脑会立即切换到华尔兹模式。如果指挥家切换到爵士节奏，大脑会再次切换。音乐家不需要手册；上下文告诉他们该演奏哪首“曲子”。

论文的实际发现

研究人员在计算机模拟中用机械臂测试了这一系统：

故障检测： 他们模拟了故障，例如机器人关节“卡住”或物体撞击手臂。Neural ASM 系统比旧方法更准确地检测到了这些错误。它仅凭数据中的“不对劲”感，就能判断手臂的哪一部分出了问题。
自我修正： 当机器人被掉落的物体撞击时，它会自动调整抓握和动作以进行补偿，使任务保持在正轨上。
速度与准确性： 该模型预测了一种与人类相似的权衡：如果机器人被迫在没有足够“思考时间”的情况下极快地决定执行哪项技能，它就会犯更多错误。如果给它一点时间“准备”（推断上下文），它执行技能会更准确。这反映了人类在反应前有片刻准备时表现更好的现象。

核心结论

这篇论文提出了一种让机器人学习技能的方法：不是通过死记硬背规则列表，而是通过构建一个关于“正常感觉是什么”的预测模型。通过使用一个从示例中学习的统一大脑，机器人可以：

知道何时出了问题（故障检测）。
即时自我修复（反应控制）。
根据上下文在不同任务间平滑切换。

目标并非让机器人明天就能进行手术或驾驶汽车，而是为机器人建立一个更安全、更稳健的基础，使其能够像生物体一样处理意外情况。

技术摘要：用于更安全机器人的神经联想技能记忆

问题陈述
现代机器人面临着一个生物系统共有的挑战：如何在通过故障检测维持安全的同时，学习、存储并自适应地表达多种感觉运动技能。传统方法，如联想技能记忆（ASMs），将运动基元（例如动态运动基元或 DMPs）与刻板的感觉反馈相链接，以实现反应式控制和异常检测。然而，现有的 ASMs 依赖于硬编码的、类似字典的库，其中每种技能由一组独立的权重建模。这种架构需要显式的技能选择或手动比较感觉特征以识别当前激活的技能，从而限制了系统在未预先指令的情况下检测技能库中故障的能力。此外，这些系统难以在单一的生物可解释学习框架内统一故障检测、反应式控制和技能表达。

方法论
作者提出了神经联想技能记忆（Neural ASMs），这是一个用基于**时间预测编码（tPC）**的单一统一神经网络取代硬编码库的框架。该方法利用自监督学习和生物可解释的局部学习规则（赫布更新），而非通过时间的反向传播（BPTT）。

架构：该模型采用两层 tPC 网络，结构化为隐马尔可夫模型（HMM）。它包含代表推断上下文和动力学的隐藏状态（ $z$ ），以及代表感觉运动数据（例如关节角度、夹爪力、视觉线索）的观测层（ $x$ ）。
学习机制：网络通过最小化能量函数进行学习，该能量函数代表当前观测值与由隐藏状态生成的预测值之间的预测误差。
- 记忆：在学习阶段，网络推断隐藏状态以最小化预测的感觉运动序列与实际序列之间的平方误差之和。权重更新（状态转移的 $W_H$ 和观测预测的 $W_F$ ）遵循局部梯度下降规则，在能量景观中为记忆序列创建吸引子状态。
- 回忆（表达）：系统通过“线索推断”从部分线索中检索技能。隐藏状态从初始观测值中迭代推断（模拟运动准备），从而设定动力系统的初始条件。随后，网络预测未来的感觉运动观测值。本文侧重于离线回忆，即轨迹在初始线索确定后固定，模拟弹道式运动。
控制集成：神经 ASMs 充当高层动态策略。它们不规定特定的底层控制器，而是通过最小化本体感觉预测误差来引导灵活的控制系统（例如位置控制器），以实现期望状态。

主要贡献

统一架构：本文证明，单个预测编码网络可以学习多种技能的技能库，执行隐式技能识别，并在无需显式技能选择机制的情况下表达这些技能。
生物可解释的学习：与通过 BPTT 训练的传统 ASMs 或标准循环神经网络（RNNs）不同，神经 ASMs 利用局部学习规则和自监督预测编码，提供了更生物真实的感运动学习模型。
隐式故障检测：该框架通过监测网络能量（预测误差）来实现对所有已学习行为的故障检测。异常（分布外事件）会导致高能量状态，使机器人能够在不知道正在执行何种具体技能的情况下检测故障。
上下文推断与运动准备：该模型引入了一个迭代推断阶段（前瞻性配置），作为运动准备的机制性解释。该阶段允许网络在运动执行之前，根据上下文线索（例如视觉目标）分离并表达不同的技能记忆。

结果
作者通过仿真实验验证了神经 ASMs：

故障检测与隔离：在包含两种技能的抓取放置任务中，该模型通过识别异常能量水平成功检测了关节锁定故障。在故障检测准确率（82–83% 对比 74–82%）和故障隔离准确率（79.5% 对比 41%）方面，其表现均优于基线方法（使用 Z 分数归一化误差）。
反应式修正：该系统通过在配置空间中最小化本体感觉预测误差，展示了反应式故障修正能力，使底层控制器能够实时补偿干扰（例如与下落物体的碰撞）。
技能分离与上下文推断：受人类运动研究（Sheahan 等人，2016）启发，该模型在测试中分离了不同规划条件下逆时针与顺时针扰动的技能记忆。神经 ASMs 仅在规划阶段提供上下文线索时（仅规划或规划与执行条件），才能成功分离并表达正确的运动计划，从而复现了类人的适应结果。
速度 - 精度权衡：该模型预测了技能表达过程中的速度 - 精度权衡：较少的推断迭代（较短的运动准备时间）导致回忆精度降低，而增加迭代次数则提高了精度。这一现象未被使用 BPTT 训练的基线 RNN 所捕捉。

意义与主张
本文声称，通过展示预测编码原理如何将故障检测、反应式控制和技能记忆统一到一个单一的能量基架构中，推动了神经机器人学领域的发展。作者提出，神经 ASMs 为研究生物感运动学习提供了计算视角，具体包括：

提供一种损伤/故障检测机制，该机制依赖于层级预测误差，而不仅仅依赖外周伤害感受信号。
模拟运动准备活动在设定动力系统初始状态以分离技能记忆中的作用。
预测习惯性技能表达中的速度 - 精度权衡，这与人类实验数据一致。

作者保持谦逊的态度，承认当前的实现是一个概念验证，使用了简化的仿真（离线回忆、有限的技能库和合成扰动）。他们指出，虽然该框架支持多种技能，但学习率可能取决于技能数量，且当前模型尚未估计后验不确定性，或在缺乏动态精度适应的情况下处理复杂传感器故障。未来的工作建议探索在线回忆、更节能的控制器以及最优反馈控制的集成。

问题所在：机器人的“硬盘”与人类的“大脑”

解决方案：一台“预测性造梦机”

“上下文”技巧：一个大脑，多种技能

论文的实际发现

核心结论

类似论文