Indicators of resilience for autonomous control systems

现代社会日益依赖于能够自主思考的机器，从自动驾驶汽车到送货无人机。这些自主系统旨在无需人工干预的情况下处理复杂任务，但它们并非无懈可击。随着时间的推移，这些机器的物理部件会发生磨损，或者遭受微小的损伤，这些损伤虽然不会立即导致损坏，但会微妙地削弱其保持稳定的能力。工程师面临的挑战在于，如何判断一个系统何时仍然安全，以及何时正处于突然、灾难性故障的边缘。传统的安全方法通常依赖于关于机器应如何行为的详细数学模型，或大量用于预测可能出错的数据。然而，现实世界的机器往往过于复杂，无法被完美建模，且预测罕见故障所需的数据也经常缺失。这在检测导致崩溃前的缓慢、渐进式稳定性丧失方面留下了空白。

为了填补这一空白，研究人员转向了一个从自然界借鉴的概念，即被称为“临界减速”（critical slowing down）的现象。在自然界中，当一个系统（如湖泊生态系统或气候模式）在接近临界点时，失去从微小扰动中快速恢复的能力，就会出现这种现象。在崩溃发生前，系统在受到轻微推动后，需要越来越长的时间才能恢复到正常状态。这项研究背后的研究人员询问，是否可以将同样的原理应用于机器。他们提出，当一个自主机器人失去韧性时，其控制系统对微小误差的反应也会变得更加迟钝，就像一名疲惫的运动员难以重新找回平衡一样。目标是创造一种简单、通用的方法，通过倾听机器的行为来捕捉这些警告信号，而无需了解机器的内部蓝图或拥有过去崩溃的历史数据。

由代尔夫特理工大学研究人员领导的团队开发了一种方法，通过观察机器的控制系统如何响应微小的随机波动来检测这些警告信号。他们并没有试图预测特定的故障，而是专注于一个单一的可测量信号：机器在受到微小扰动后需要多长时间才能自我纠正。他们使用两种截然不同的机器人测试了这个想法。第一种是顶端平衡着一根杆子的手推车，这是机器人学中的一个经典挑战，因为杆子天生就有倒下的倾向。第二种是四旋翼无人机，即一种带有四个螺旋桨的小型飞行无人机。在这两种情况下，研究人员都没有等待机器损坏。相反，他们以一种受控的方式系统地削弱了系统。对于手推车，他们通过增加试图使其倾斜的力量，使杆子更难保持平衡。对于无人机，他们通过降低其中一个电机的功率来模拟损坏，从而模拟损坏螺旋桨叶片的效果。

在计算机模拟中，研究人员观察了机器在被推向不稳定边缘时的表现。他们发现，早在机器人实际坠毁或倒下之前，控制信号就开始以一种可预测的方式发生变化。机器开始在微小的晃动后需要更长的时间来恢复，并且其控制信号的模式变得更加重复且反应迟钝。这种“减速”是系统正在失去韧性的明确指标。研究人员通过测量机器当前的反应与之前反应的相似程度来量化这一过程；随着机器接近失效，这些反应变得更加趋同，表明系统正在挣扎着进行适应。即使在机器处于最放松的状态（例如无人机只是在原地悬停）时，这种方法依然有效，这表明即使在没有进行困难动作时，也能检测出机器的脆弱性。

为了确保这些发现不仅仅是计算上的人为产物，团队将他们的理论应用到了现实世界。他们制造了一架小型无人机，并物理性地切掉了一些螺旋桨叶片的碎片，以制造真实的物理损伤。然后，他们在实验室中让这架受损的无人机悬停并沿着“8”字形路径飞行。结果与模拟情况完全吻iod。随着螺旋桨损伤的增加，无人机的控制信号显示出了相同的减速迹象。当损伤较小时，无人机仍能飞行，但警告指标显示它正在以较小的容错余量运行。当损伤严重时，无人机失去控制，通常会不受控制地飞走或坠毁。至关重要的是，警告信号出现在实际失去控制之前，为系统不再安全提供了明确信号，即便此时它在技术层面上仍处于飞行状态。

这项研究表明，这种方法为自主系统提供了一层新的安全保障。它并不取代现有的安全检查或故障检测系统，而是作为一个可以应用于几乎任何机器（无论其设计如何）的附加监测器。通过仅仅倾听机器如何对现实世界中不可避免的噪声做出反应，工程师可以及早检测到韧性的丧失。这意味着，在无人机坠毁或自动驾驶汽车转向之前，系统可以收到警报，提示其正在变得脆弱。研究人员强调，这并不是一种能防止所有事故的“魔法”解决方案，而是一个实用的工具，能将机器细微、隐形的退化转化为可见的警告，从而使这些技术能够更安全地融入我们的日常生活。