Runtime Safety Filtering for Two-Terminal Hazards in Robotic Battery Recycling

机器人正在学习从事精细的工作，例如对为现代世界提供动力的电池进行分类和回收。为了教导它们，研究人员经常使用通过观看人类执行任务的视频来学习的人工智能。这些被称为“视觉-语言-动作模型”的系统，仅通过观察场景并理解简单的指令，就能弄明白如何拿起电池或移动工具。然而，在这些智能系统所掌握的知识与它们能够安全执行的操作之间存在着差距。机器人可能理解它需要将电池从 A 点移动到 B 点，但它可能意识不到，如果移动得离某个特定金属部件太近，可能会导致危险的电短路。为了弥补这一差距，工程师们使用了一个“安全过滤器”。可以将这个过滤器想象成一个站在机器人的大脑与肌肉之间的警觉监督员。这位监督员会观察机器人计划进行的每一次动作。如果某个动作看起来会违反安全规则，监督员就会阻止它，并告诉机器人改为做其他事情。挑战在于，究竟什么才算作危险动作，以及当机器人被告知停止时，它应该做什么。

在回收电池的具体案例中，危险是独特的。电池单元有两个金属端子，一个正极和一个负极。如果一块金属（如电池外壳本身或工具）同时接触到这两个端子，就会形成一个桥梁，允许电流在不该流动的地方流动，从而导致短路。这与标准的碰撞不同，在碰撞中，撞到一个物体本身就是问题所在；而在这里，只有当机器人同时靠近两个端子时，危险才会出现。机器人可以离其中一个端子非常近且完全安全，但一旦它在靠近第一个端子的同时接近第二个端子，风险就会显现。新加坡国立大学和几所澳大利亚大学的研究人员致力于测试如何最好地编写这些安全监督程序，以处理这种特定的“双端子”危害。他们想知道，危险的定义方式是否比机器人被停止后所做的反应更为重要。

团队使用了一个名为 LIBBRO 的标准机器人测试平台构建了模拟环境，其中一个机械臂必须在工作台上移动一个充当导电电池部件的杂货物品。他们为机器人编写了一个“冻结的 AI 策略”，这意味着机器人的决策大脑是固定的，在测试期间无法学习新技能。随后，研究人员测试了不同版本的安全过滤器。首先，他们尝试了定义“危险区域”的不同方式。一个版本使用了一个简单的规则：远离其中任何一个端子。另一个版本使用了一个更复杂的规则：远离那个可能同时触碰到两个端子的区域。他们还测试了一种结合了这两个规则的混合方法。至关重要的是，他们并没有在单一的固定距离下测试这些规则。他们调整了每个规则的“边际”（即缓冲带），以观察在保持机器人安全的同时，如何在不频繁停止机器人的情况下维持运行。

他们的发现令人惊讶。当他们调整每个规则的缓冲带以寻找安全与完成任务之间的最佳平衡时，三种危险区域的定义表现几乎完全相同。无论监督员是在寻找一个简单的“远离其中一个”的规则，还是一个复杂的“远离两者”的规则，一旦距离经过正确调整，结果都几乎一致。这表明，安全规则的具体形状并不如找准距离那么重要。真正的区别在于当监督员说“停止”时，机器人会做出什么反应。

研究人员测试了四种不同的机器人反应方式，即当动作被拒绝时的反应。第一种是仅仅保持静止，让机器人原地冻结。第二种是“撤退”，即让机器人向后远离危险。第三种是“采样搜索”，即机器人尝试几种略微不同的动作，看看是否有安全的路径。第四种是复杂的数学投影，试图找到一个既最安全、又仍非常接近机器人原始意图的动作。结果显示，“保持静止”策略的效果最差。它导致机器人无法完成任务的频率比“撤退”策略高出约 30%，而且实际上并没有让环境变得更安全。机器人只是在那里坐着，导致任务失败。另一方面，那些尝试进行“最小干预”的策略（如数学投影或采样搜索）虽然让机器人完成任务的次数更多，但也让机器人面临更高的靠近危险区域的风险。而“撤退”策略——即清晰地让机器人远离危险——提供了最佳的平衡：它既保证了机器人的安全，又能让机器人几乎像在没有过滤器的情况下那样频繁地完成任务。

研究还观察了这些过滤器在机器人犯错或环境变化时的表现。他们用不同的机器人策略和不同的电池形状测试了系统，而“撤退”策略依然是最有效的。他们甚至模拟了机器人测量距离时的误差。他们发现，如果机器人对所持物体的尺寸判断错误，安全过滤器的有效性会大幅下降，其影响程度甚至超过了对端子位置的轻微判断失误。这突显了了解负载尺寸与了解危险位置同样关键。此外，他们发现，如果安全系统仅检查物理接触，将会完全失效。许多危险时刻发生在物体距离端子仅几毫米处时——这个距离虽然不足以发生接触，但足以引起短路。基于接触的监测器会完全错过这些事件。

最终，这项研究表明，对于处理危险材料的机器人而言，安全系统最重要的部分不在于用于定义危险的复杂数学模型，而在于检测到危险时做出简单、明确的决策。一个告诉机器人“后退”的监督员，比一个告诉它“冻结”或试图让它“微调位置”的监督员要有效得多。这项完全在高度仿真环境中进行的研究提供了一份清晰的路线图，用于构建更安全的机器人。它建议工程师们不应过度专注于发明新的、复杂的几何规则，而应专注于选择一种鲁棒且明确的反应策略，使机器人既能远离风险，又能完成既定工作。随着世界向着自动化回收数百万计电池的方向迈进，这些发现为确保执行任务的机器不会意外造成其本应管理的危害提供了实用的指南。