An Explainable IoT-Driven Framework for Trustworthy Decision-Making in Safety-Critical Autonomous Vehicles
本文提出并评估了一种可解释的物联网驱动框架，该框架通过集成可解释的人工智能模型，以增强安全至关重要的自动驾驶汽车在透明度、问责制及实时决策可靠性方面的表现。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
前方的道路正变得日益拥挤，行驶着越来越多的自动驾驶车辆。这些机器依赖于由传感器、摄像头和通信链路构成的复杂网络来观察世界，并对何时刹车、转向或避让做出瞬时的抉择。这种被称为“物联网”的技术，使汽车能够彼此交流，并与周围的基础设施进行沟通，从而构建起一个数据不断流动、以保持交通顺畅并保障人员安全的网络。然而，一个重大的障碍依然存在：当这些车辆做出关键决策时，尤其是在危险情况下，它们往往无法解释自己为什么要这样做。许多控制它们的计算机程序运作起来就像一个“黑匣子”，只产生结果，却不展示其背后的推理过程。对于乘客、监管机构和公众而言，要真正信任这些机器，他们需要理解车内“驾驶员”的逻辑。
一组研究人员提出了一种解决该问题的新方法，即通过构建一个系统，使自动驾驶车辆的决策过程变得透明且易于理解。该框架并非依赖于难以解释的复杂、不透明算法，而是使用更简单、更直接的模型，这些模型可以追踪自身的步骤。他们通过创建450种不同的驾驶场景来测试这种方法，范围涵盖了从常规城市交通到突发障碍物、恶劣天气，甚至包括必须在两个糟糕结果之间做出抉择的伦理困境。其目标是观察车辆是否能在做出安全、准确决策的同时，还能为每一个动作提供清晰、人类可读的解释。
研究人员发现，实现安全与清晰并行是可能的。通过使用像流程图一样映射选择路径的决策树，以及展示不同因素如何影响结果的回归模型，该系统能够在近90%的模拟场景中预测出正确的行动。更重要的是，该系统可以在极短的时间内给出解释，完全符合实时驾驶的时间限制。例如，当汽车检测到行人踏入路面时，该框架不仅仅是采取了刹车措施；它还可以将这一决策追溯到特定因素，如与人的距离、车辆的速度以及路面状况。这种重建推理路径的能力意味着，如果发生事故，调查人员可以通过查看数字记录，准确理解汽车为何采取那样的行动。
其中一个最关键的测试涉及汽车必须做出艰难伦理抉择或处理机械故障的情景。在这些高压场景下，该系统仍能保持提供清晰解释的能力，且不会减慢车辆的响应速度。研究表明，添加这些解释工具并不会给计算机的处理能力带来沉重负担。生成解释所需的额外时间微乎其微，仅为决策过程增加了几毫秒。这是一个至关重要的发现，因为它证明了透明度并不一定以牺牲速度或安全性为代价。该系统依然足够快，足以应对紧急制动和避障动作，确保了“解释的需求”永远不会损害车辆瞬间反应的能力。
研究结果表明，自动驾驶的未来并不需要在“智能汽车”与“值得信赖的汽车”之间做选择。通过将这些可解释的方法集成到车辆软件中，研究人员证明了汽车既可以高度高效，也可以完全负责。该框架成功减少了围绕自动化决策产生的困惑与不确定性，使汽车行为背后的逻辑对乘客和监管机构都变得可见。这种方法为构建不仅能应对复杂环境，而且符合人类价值观和监管标准的车辆提供了切实可行的基础。随着这些技术从实验室走向现实世界，解释决策的能力可能变得与决策本身同样重要，从而确保公众能够信任那些与他们共同行驶在道路上的机器。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。