Artificial Intelligence in Safety-Critical Aerospace Systems: Applications, Challenges, and Implications

想象一艘航天器正以极高的速度穿梭于大气层中，其速度之快，甚至使空气本身变成了超高温的等离子体；或者是一个卫星星座正在拥挤的天空中航行，其中任何一个微小的计算失误都可能引发连锁碰撞反应。在这些时刻，人类的反应速度实在太慢了。那些维持飞行器安全的决策必须在毫秒内做出，而且通常是在与地球的通信因热量或距离而中断的情况下。这就是安全关键型航空航天领域的领域，在这里，容错率为零。几十年来，工程师们一直依赖预设的规则来引导这些机器，但现代任务的复杂性已经超出了那些静态指令的掌控范围。人工智能的出现，并非作为一个未来的梦想，而是作为一个实用的工具，正被直接嵌入到航天器的核心之中。具体而言，研究人员正在研究一种类型的学习——计算机程序通过尝试行动并从结果中学习来提高性能，这非常类似于孩子通过跌倒和调整来学习走路，但其运行速度和精度是人类无法企及的。行业面临的问题不再是这些系统是否可行，而是当它们在真空的太空中做出关乎生死的决策时，我们该如何信任它们。

来自北达科他大学和德克萨斯西南部大学的研究小组致力于绘制这一新领域的蓝图。他们不仅是在构建更好的软件，还在构建一个框架，以理解当机器成为驾驶员时，人工智能如何改变责任的本质。他们的工作聚焦于三个高风险场景：一艘以高超音速重返地球大气的飞行器、一个管理自身轨道的自主卫星网络，以及新兴的核动力空间推进技术。在这些领域中，研究人员发现人工智能正在从一个得力的助手转变为一个独立的决策者。他们认为，虽然这些系统在速度和效率方面提供了巨大的优势，但也引入了一个深刻的挑战：当计算机犯下导致灾难性的错误时，我们该如何追究责任？

研究人员首先考察了这些智能系统是如何被实际使用的。在航天器返回地球的过程中，飞行器面临着极端的热量和压力，这些因素可能会破坏传感器并切断无线电信号。在这种情况下，人工智能必须独立行动。团队发现，工程师们正在使用一种被称为“强化学习”的技术，即通过在模拟环境中训练计算机，以寻找最佳的下降路径，在保持冷却需求与精准降落位置之间取得平衡。人工智能不再遵循一套僵化的指令，而是通过在任务发射前的虚拟环境中测试数百万种可能的路径，学会应对诸如风力和热量等复杂的变量。这使得航天器能够做出人类飞行员无法及时计算出的实时调整。然而，研究人员指出一个关键的脆弱点：如果人工智能依赖于不完整或有偏差的数据，它可能会做出一个对机器而言看似逻辑合理、但在现实中却是灾难性的决定。

研究还观察了卫星，它们正越来越多地以大型集群或星座的形式运行。过去，地面控制人员会手动调整这些卫星的轨道以防止碰撞。现在，人工智能正在接管这种协调工作。研究人员观察到，这些系统可以管理复杂的编队，通过调整位置来避开空间碎片或维持特定的通信形状。然而，这种自主性也带来了新的问题。如果一颗卫星走错了位并与另一颗发生碰撞，谁该承担责任？论文指出，根据现行的国际法，无论最终是由人类还是机器做出的决定，发射该卫星的国家都需承担责任。作者指出，这一法律框架是在太空旅行缓慢且由人类控制的时代编写的，对于一个机器在没有人类监督的情况下做出瞬时决策的未来，它可能已不再适用。

他们探索的最复杂的领域或许是核动力推进技术，这种技术利用核反应产生推力进行深空旅行。这些系统极其敏感；温度或压力的微小波动都可能导致危险情况。研究人员发现，人工智能正被用于模拟这些反应堆并预测其行为，从而帮助工程师设计更安全的系统。他们还在探索人工智能如何实时控制反应堆，以比任何人类操作员都更快的速度调节功率输出。但由于从未有核动力推进装置在太空中进行过测试，用于训练这些人工智能系统的可用数据非常匮ار。团队强调，工程师们在很大程度上依赖计算机模拟来填补这一空白。虽然这些模拟功能强大，但研究人员警告说，它们并不完美。如果人工智能是在一个遗漏了关键物理细节的模拟环境中训练的，那么真实的反应堆可能会表现出意想不到的行为。

除了技术挑战外，论文还深入探讨了人性层面的问题：信任与伦理。研究人员认为，我们不能仅仅因为这些系统很聪明就去信任它们，我们必须因为了解它们的构建和测试方式而信任它们。他们提出了一种看待问责制的新思维方式。与其试图解释机器做出的每一个决策（这在复杂的AI中往往是不可能的），我们应该关注系统本身的结构。机器是否在设计的边界内运行？它使用的数据是否可靠？其决策过程是否足够透明，以便事后进行审查？作者建议，我们需要将人工智能的决策过程视为一个安全关键组件，就像发动机或隔热罩一样。这意味着要保留人工智能思考过程的详细记录，即使这些记录只是其内部状态的日志，以便在发生意外时，调查人员可以重建事件过程。

团队还强调，人类操作员的角色正在发生变化。过去，人类始终处于“环路内”（in the loop），随时准备接管控制权。在这些新系统中，人类通常处于“环路之上”（on the loop），这意味着他们监控系统，但由于任务的速度或与地球的距离，无法进行实时干预。这种转变需要一种不同类型的信任。这并不是要求信任机器能做得和人类完全一样，而是信任机器会在设计阶段由人类设定的安全限制范围内运行。研究人员警告说，如果我们不仔细定义这些限制以及机器何时可以自主行动的规则，我们就有可能陷入无人真正掌控局面的境地。

最终，这篇论文是对工程师、律师和政策制定者的行动号召。它认为，我们不能等到灾难发生后再去研究如何监管和设计这些系统。人工智能融入航空航天的进程正在发生，并且其速度超过了我们的法律和伦理准则。研究人员总结道，为了让这些技术既安全又造福人类，我们必须将问责制和伦理直接构建在设计过程中。我们需要确保机器做出的每一个决策都能追溯到批准其遵循规则的人类。当我们展望深空探测和自主卫星的未来时，这些任务的成功不仅取决于我们代码的卓越，更取决于我们作为所创造系统的最终守护者的能力。技术已经准备好起飞，但我们对其治理的理解仍留在地面，亟待追赶。