NeuroStrata: Harnessing Neurosymbolic Paradigms for Improved Design, Testability, and Verifiability of Autonomous CPS

想象一下，你正在建造一辆超级智能的机器人汽车，它需要穿梭在混乱的城市中。目前，大多数这类汽车依赖于“神经网络”——你可以把它想象成一个巨大的、才华横溢但又有点混乱的艺术家。这位艺术家非常擅长识别停车标志或行人，但它的工作基于直觉和概率。有时，如果光线照射在标志上产生特定角度，或者出现了一个奇怪的新物体，这位艺术家可能会感到困惑，然后说：“这是个停车标志，还是一个巨大的红甜甜圈？”因为它是在靠猜，所以很难证明这辆车百分之百不会出错。这是一个巨大的安全问题。

由此诞生了 NeuroStrata，这是一个由研究团队提出的新想法，他们想要给那位混乱的艺术家配备一位严谨、逻辑缜密的管理者。

仅仅“猜测”存在的问题

论文指出，目前的自动驾驶系统就像是一个团队，其中的“感知”团队（眼睛）和“规划”团队（大脑）都只是根据以前见过的模式进行猜测。如果汽车遇到它在训练数据中未曾见过的场景——比如公交车做出了一些奇怪的行为，这种“长尾”场景——它可能会失败。传统的检查这些系统是否安全的工具通常只能观察局部的小部分，从而忽略了全局。它们依赖于概率，这意味着它们无法给出关于汽车是否安全的、铁律般的、坚不可摧的承诺。

NeuroStrata 的解决方案：艺术家与建筑师的组合

作者提出了 NeuroStrata 框架，它融合了两种世界的精华：神经网络灵活的学习能力（艺术家）和符号人工智能（符号 AI）严谨、不可撼动的逻辑（建筑师）。

把这想象成一个建筑工地。

• 神经网络 是施工队，它们可以观察一堆乱七八糟的砖块，并判断出：“嘿，那看起来像是一堵墙。”它们非常擅长处理摄像头和激光雷达（LiDAR）捕捉到的杂乱现实世界数据。
• 符号系统 是手持蓝图的建筑师。建筑师不靠猜测；他们确切地知道“墙必须是垂直的”以及“汽车不能穿过墙壁”。

NeuroStrata 将这两者结合在一起，形成了一个层级结构。它不仅仅是一个巨大的大脑，而是一个分层的系统：

1. 高层（建筑师）： 这一层使用纯粹的逻辑来做出重大决策，例如“汽车必须保持在道路上”。这一部分是 100% 确定性的，这意味着给定相同的规则，它总是会执行同样的操作。它就像一本严格的规则手册，在数学上可以被证明是安全的。
2. 中层和底层（施工队）： 这些层使用神经网络来处理杂乱的细节，比如“那是行人还是一个塑料袋？”但关键在于：建筑师会不断检查施工队的工作。如果施工队说：“那是一个行人”，建筑师会检查规则：“允许行人在十字路口中间吗？”如果施工队的猜测违反了规则，系统就会将其拦截。

它是如何学习与适应的

最酷的部分是它们之间是如何沟通的。这是一条双向通道。

• 自上而下： 建筑师向施工队发出严格指令。“不要闯红灯。”
• 自下而上： 如果施工队看到了新事物（比如一辆公交车在跳一种奇怪的舞），它可以实时更新建筑师的规则。该系统使用了一种叫做“可微程序归纳”（differentiable program induction）的技术，这是一种高级说法，意味着机器人可以略微重写自己的规则手册，以应对新情况，同时又不丢失其安全性保证。

他们实际做了什么（以及还没做什么）

作者并不是在声称他们已经制造出了一辆你明天就能买到的完美自动驾驶汽车。他们仍处于“早期结果”阶段。

他们运行了一个名为 LASER 的特定实验，以测试这个想法是否可行。他们训练了一个神经网络来理解视频场景，但这一次他们不仅仅是展示图片；他们强制要求神经网络遵循用“时序逻辑”（一种描述随时间变化的事件的语言）编写的严格逻辑规则。

• 结果： 在测试中，这种新方法提高了机器人预测物体间关系的能力。例如，在一个名为 OpenPVSG 的数据集上，它获得了 53.98% 的 Recall@10 分数。这听起来很专业，但这意味着它在猜测物体如何相互关联方面，比传统的全监督方法提升了 30.55%。
• 不足之处： 他们还在一个包含 87,000 个视频-标题对的海量数据集上进行了测试。当他们尝试将该模型用于未见过的新数据时，其表现与在训练数据上的表现几乎完全一致（差异仅为 -0.52%）。这表明该系统具有良好的泛化能力，但请记住，这仍然是在模拟环境中进行的，是一个特定的案例研究，而非大规模的实际部署。

未来的道路

论文概述了一个实现这一目标的六步计划。他们希望：

1. 利用 AI 生成更多奇特的、极端情况（edge-case）的训练数据（比如在人行道上行驶的公交车），以便机器人学会应对意外情况。
2. 创建工程师可以轻松编写这些安全规则的特殊语言（DSL）。
3. 构建能够在驾驶过程中实时检查机器人工作的工具。
4. 最后，从计算机模拟（如 CARLA 游戏）转向真实的汽车、无人机和机器人。

他们目前正与行业合作伙伴开展合作，并计划举办研讨会来实现这一切，但就目前而言，NeuroStrata 是一个充满前景的蓝图。它表明，通过给我们的 AI 配备一个严格的逻辑管理者来监督其创造性的猜测，我们或许终于能够构建出不仅聪明而且真正安全可靠的自主系统。论文暗示，这就是前进的方向，但从“有前景的想法”到“解决问题”的旅程仍在建设之中。