现代机器正越来越多地在现实世界中自主做出决策，从在繁忙街道上行驶的自动驾驶汽车到递送包裹的无人机。这些系统通常依赖复杂的计算机程序，包括人工智能，这些程序就像是“黑盒”。我们知道它们有效，但并不总能看清它们究竟是如何思考的，也无法预测它们可能采取的每一种可能的行动。为了确保这些机器的安全，工程师们使用了一种叫做“抽象”（abstraction）的技术。他们用由离散块组成的、更简单的、逐步的模型，来取代移动物体复杂且连续的现实。这使得他们在机器离开实验室之前，就能检查它是否会发生碰撞或失效。然而，这里有一个陷阱。为了保证安全，这些简化的模型必须是保守的；它们必须假设每一步动作都处于最坏的情况。如果过于保守，模型就会充斥着许多从未实际发生的、不可能存在的虚假危险。这种“误报”问题使得模型变得过于庞大且杂乱，导致计算机无法及时进行分析，从而使工程师无法对他们所构建的系统进行安全认证。

佛罗里达大学的一个研究小组开发了一种新方法来解决这种平衡难题。他们创建了一个名为 S3 的工具，它充当了精炼这些简化模型的平滑引导器。研究人员并没有通过猜测来排列模型的方块，而是构建了一个可以通过标准优化技术进行调整和改进的数学目标函数。这个工具可以自动调整模型方块的大小和形状，以去除不必要的虚假危险，同时保持模型的安全性。通过在三种不同的场景——螺旋系统、类似独轮车的机器人以及模拟汽车爬坡——中测试这种方法，他们发现该方法生成的模型比以往的技术更精确，且计算速度更快。其结果是，这提供了一种验证复杂智能机器是否安全的方法，而不会被过多的、不切实际的警告所困扰。

验证这些机器的核心挑战在于安全性和实用性之间的张力。当工程师构建一个移动系统的简化模型时，必须确保模型涵盖了现实世界中的每一种可能运动。如果模型遗漏了一条真实的路径，它就是不安全的。为了保证这一点，模型通常会包含一些现实中的机器永远不会采取的额外路径。这些额外的路径就是前文提到的“伪造”（spurious）行为。这就像是在画一张地图时，为了确保不会错过任何一条有效的路线，就把所有道路都画了出来，甚至包括那些被墙挡住或通向悬崖的道路。虽然这能确保你不会错过真实的危险，但也创造了一张充满了死胡同的地图，以至于无法用于规划行程。研究人员需要一种方法，既能修剪掉这些死胡同，又不会切断任何真实的道路。

为了实现这一目标，团队专注于一种特定类型的数学关系，即“模拟”（simulation）。在这种语境下，模拟是一种检查简化模型是否能够模仿真实系统行为的方法。如果模型是“可靠的”（sound），则意味着真实系统永远不会做出模型不允许的行为。研究人员希望最小化“逆向模拟”（reverse simulation）误差，该误差衡量了模型对系统可能性的高估程度。高误差意味着模型过于保守，充斥着太多虚假的路径。问题在于，测量这种误差的标准方法既慢又具有“锯齿状”（jagged），无法进行自动改进。这就像是试图用手去抚平一张皱巴巴的纸，一次只能处理一个微小的褶皱，却没有任何工具来引导你的手指。

研究人员的突破在于创建了一个“代理模型”（surrogate），即一个平滑且易于计算的、用来替代难以测量误差的替代物。他们推导出了一个新的目标函数，该函数近似于最坏情况下的误差，但表现得非常平滑，允许计算机使用基于梯度的优化技术。你可以将其想象成将一条崎岖不平、充满碎石的山路，替换成一条平缓起伏的小丘，而这两者通向同一个目的地。通过沿着这条平滑小丘的坡度移动，计算机可以快速找到模型方块的最佳排列方式。这个过程涉及调整方块之间的间隙，根据系统运动最不可预测的地方，让间隙变宽或变窄。该方法保证了生成的模型在构造上始终是安全的，这意味着它永远不会遗漏真实的路径，但会积极地剔除虚假的路径。

团队通过三个不同的系统测试了这种方法是否在实践中有效。第一个是一个向目标点螺旋运动的简单二维系统。第二个是一个需要在障碍物周围导航以到达目标的三维独轮车机器人。第三个是模拟汽车尝试爬陡坡的过程，这是机器人领域的一个经典挑战，汽车必须积累动量才能到达顶峰。在每种情况下，他们都将新方法与两种既定策略进行了对比：一种是仅在发现特定误差时才进行模型精炼的方法，另一种是尝试使用固定形状来优化网格大小的方法。结果显示，新方法的速度显著提高。对于独轮车机器人，新方法构建并验证模型大约耗时 140 秒，而旧的精炼方法则耗时超过 1,900 秒。对于爬坡的汽车，新方法耗时约 12 秒，而旧方法则接近 100 秒。

除了速度之外，模型的质量也得到了提升。研究人员衡量了新模型预测系统行为的能力，发现它们不再那么保守。在独轮车测试中，新方法显著降低了平均误差，这意味着模型包含的无效路径更少。对于爬坡的汽车，新方法允许模型验证更大比例的、实际上能够成功的起始位置。这一点至关重要，因为过于保守的模型可能会告诉工程师，汽车无法从某个位置爬上坡，尽管它实际上是可以做到的。通过减少这种虚假的保守性，新方法让工程师对他们的系统能否按预期工作更有信心。

这项研究还揭示了该工具在不同设置下的表现。研究人员发现，他们可以调节工具，使其侧重于“最坏情况”或“平均行为”。如果目标是确保针对极端情况的绝对安全性，工具可以设置为优先考虑最坏情况误差。如果目标是获得系统通常表现的更好整体图景，则可以调整工具以关注平均水平。这种灵活性让工程师能够根据具体需求选择合适的平衡点。团队还观察到，该工具会自然地学习在系统运动迅速或方向剧烈变化的地方缩小模型方块，而在运动平稳的地方增大方块。这种自适应的粒度正是创建高效模型所需的，因为它不会在容易预测的区域浪费计算能力。

这项工作的意义超越了这三个例子本身。该方法为使复杂智能系统的验证变得更加实用提供了一个通用的框架。随着机器变得越来越自主，并被部署在安全至上的环境中，快速且准确地验证其安全性变得至关重要。这个新工具不需要工程师了解机器使用的确切控制器，它通过已知的系统动力学和控制器的行为来进行工作。这使得它适用于广泛的场景，从工业机器人到自动驾驶汽车。研究人员已向公众开放了他们的代码，邀请他人在此基础上进行开发。

最后，这项工作证明了在复杂系统的验证中，实现安全性和效率是可以兼得的。通过将一个困难且具有锯齿状的测量指标，替换为一个平滑且可优化的引导指标，研究人员为工程师设计和认证下一代智能机器开辟了一条新路径。该方法并不承诺解决人工智能领域的所有问题，但它提供了一种具体且可靠的方式，来确保我们所依赖的系统不仅聪明，而且安全。能够剥离虚假警报的噪音并专注于真实的风险，是迈向可靠工程领域的重要一步。