Adaptive Cost-Sensitive Machine Learning for Autonomous Robot Navigation Failure Prediction: When Not All Errors Are Equal

自主机器人正逐渐成为仓库、医院甚至城市街道上的常见景象，它们承担着在无需人类帮助的情况下从一点移动到另一点的任务。为了实现这一目标，它们依赖于传感器和软件的复杂结合，以此构建世界地图并规划路径。多年来，研究人员的主要目标一直是让这些机器移动得更快、更准确。然而，一种不同类型的问题出现了：我们如何能在危险发生之前，预知机器人即将犯下一个危险的错误？在安全领域，并非所有的错误都是同等性质的。机器人稍微偏离预定路径只是个小麻烦，但机器人撞向人或墙壁则是灾难性的。传统的计算机程序通常将这两种结果简单地视为“错误”，未能区分轻微的不便与威胁生命的事件。这种理解上的差距促使研究人员提出了一个更紧迫的问题：我们能否教会机器人预测自身的失败，更重要的是，我们能否教会它们更加关注那些至关重要的失败？

爱丁堡大学的研究员里法·费尔赞娜（Rifa Ferzana）通过重新思考机器人如何学习预判危险，应对了这一挑战。这种新方法不再仅仅要求机器人预测它是否会失败，而是要求它预测失败的严重程度。想象一下，一个机器人在充满障碍物的房间中导航。如果它稍微偏离航线，它只会浪费一点时间；如果它离墙太近，它就有碰撞的风险；如果它高速撞向墙壁，则会造成损坏。费尔赞娜的工作建立了一个系统，让机器人经过训练后能够识别出这三种场景具有截然不同的权重。这项研究不再采用简单的“通过或失败”测试，而是创建了一个训练环境，让机器人明白，错过一次近距离擦肩而过，其代价远比错过一次轻微的路径偏差要高得多。

为了测试这一想法，研究人员创建了一个虚拟世界，其中一个小轮式机器人在一个二十乘二十米的竞技场内进行导航，竞技场内随机放置了八个圆形障碍物。机器人被赋予了一个目标和一组用于感知周围环境的传感器，就像一辆带有驾驶员的汽车一样。团队为机器人生成了两千次独立的旅程（即回合），总计约一百万个运动瞬间。在这个模拟世界中，机器人暴露在各种条件下，例如提供模糊读数的噪声传感器，或是其自身运动指令的突然变化。目标不仅是看机器人能否完成旅程，还要看计算机程序能否观察机器人的当前状态，并预测它是否即将犯下一个严重的错误。

这一发现的核心在于计算机程序是如何学习的。在标准训练中，计算机观察成千上万个示例并试图尽可能获得正确答案。如果它犯错，它会受到惩罚。在这个新系统中，惩罚并非对每个错误都一样。当机器人犯下轻微错误时，惩罚很小；当它发生近距离擦肩而过时，惩罚增加了五倍；当它处于即将碰撞的边缘时，惩罚则增加了二十五倍。这种在教学方式上的简单改变，迫使计算机更加密切地关注危险情况。结果令人瞩目。当研究人员使用这种“成本敏感型”训练时，系统识别高严重性故障的能力从捕捉约百分之八十五的故障跃升至捕捉近百分之九十九。

研究进一步增加了一个层面的上下文信息。研究人员意识到，近距离擦肩而过并不总是同样危险。以清晰的传感器进行缓慢接近墙壁，其风险低于在传感器模糊的情况下快速接近。为了解决这个问题，系统进行了更新，使其能够根据机器人的速度、与障碍物的距离以及传感器的确定程度来调整警觉性。如果机器人移动速度较快或传感器表现不佳，系统会自动变得更加保守，更频繁地发出警报。这种自适应方法进一步提高了检测率，在模拟中几乎捕捉到了每一个高严重性事件。

然而，研究人员在对待权衡取舍方面保持了诚实。通过使系统对危险变得如此敏感，它也开始在没有真实危险时频繁发出警报。这被称为误报。研究发现，虽然自适应系统在捕捉几乎所有碰撞方面表现出色，但它也通过将许多安全时刻标记为有风险来实现这一点。当研究人员在相同条件下比较这些系统时，发现自适应方法在区分真实危险与安全方面仅比简单方法略好一点。其主要优势不在于系统变得更聪明地进行风险排序，而在于它愿意表现得更加谨慎。它选择更频繁地发出警报，以确保不会遗漏任何危险事件。

为了确保这些发现不仅仅是计算机模拟的结果，团队使用了一台曾在以往研究中使用的机器人的真实世界数据对该方法进行了测试。这台配备了二十四个超声波传感器的机器人负责沿墙行驶。尽管这台机器人并非设计用来发生碰撞，但研究人员将其运动映射到了他们的严重程度量表中。结果证明了其有效性：成本敏感型训练使系统能够以完美的准确度检测出紧急操作，这比标准方法有了显著改进。这证实了该方法不仅在虚拟世界中有效，在处理实际机器的数据时同样适用。

研究还探讨了机器人真正发生碰撞时的情况。在主模拟中，机器人的安全控制非常出色，从未撞到任何物体。为了测试系统预测真实碰撞的能力，研究人员创建了第二个更困难的模拟环境，在这种环境下机器人更有可能撞击障碍物。在这样一个更严苛的环境中，系统预测碰撞的能力从百分之八十五提高到了近百分之九十九。错过碰撞的代价从一千个潜在损害单位大幅下降到了仅一百个。这证明了该方法即使对于最严重的失败类型也是有效的，尽管这带来了极高的误报率——将近百分之八十的安全时刻标记为有风险。

研究人员总结道，这项工作的价值不在于数字本身，而在于视角的转变。他们认为，机器人界需要停止将所有错误视为同等对待。一个准确率达百分之九十九但却漏掉了那个摧毁机器人的唯一碰撞的系统，在安全至上的世界里是失败的。通过教会机器根据后果来衡量其错误，我们可以构建出优先考虑人类安全和设备保护而非单纯效率的系统。研究表明，这种方法提供了一种原则性的方式来决定机器人应该有多么谨慎，允许工程师根据环境来调高安全等级。虽然该系统需要以更频繁的误报作为代价，但研究人员认为，在碰撞会导致灾难性后果的情况下，这是值得付出的代价。这项工作证明了，只要有正确的训练，机器可以学会理解并非所有的错误都是同等性质的。