为了确保每个人的安全，工程师们几十年来一直在编写严格的规则手册。一本著名的规则手册叫做 ISO 26262，它就像一名安全检查员，检查汽车的刹车和转向是否每次都能完美运行。另一本名为 SOTIF 的规则手册则担心那些汽车虽然完全按照设计运行、但由于世界过于怪异或复杂而导致出错的情况。还有 AUTOSAR 系统，它是让现代汽车中所有不同部件进行交流的通用语言和操作系统。科学家们现在面临的大问题是：我们如何将这个聪明却难以捉摸的 AI 学生，放入一辆必须遵守严格安全规则的汽车中？如果 AI 感到困惑，我们如何确保汽车不会就这样盲目地驶向危险之中？
这正是埃姆拉·埃克雷姆·卡拉巴格（Emrah Ekrem Karabag）在一篇新的研究论文中解决的谜题。论文指出，我们不能只是把 AI 插进汽车里然后听天由命。相反，作者提出了一种新的“安全框架”，它就像一位坐在 AI 学生身边的严厉老师。该框架利用现有的 AUTOSAR 系统，但增加了一个特殊的监督层。其核心思想是将 AI 的“想法”与汽车的“动作”分离。AI 可以建议：“嘿，让我们换个车道吧！”但一个独立的、更简单且极其可预测的安全系统必须在汽车实际移动之前说“是”或“否”。如果 AI 开始表现异常或感到困惑，这个安全系统会立即接管，并执行“最小风险机动”（Minimum Risk Manoeuvre），这只是一个高级说法，意思就是“减速并安全停车”。
论文引入了一种巧妙的新方法，用于评估我们可以对不同 AI 部件信任多少程度，称之为“AI 保障等级”（AI Assurance Tiers）。把它们想象成电子游戏中的权限等级。在最低等级（Tier 0），AI 只是一个提供建议的乘客，就像一个告诉你天气的 GPS。在最高等级（Tier 4），AI 是主驾驶员，但由一名极其警觉的卫兵进行监视。论文认为，仅仅因为一个汽车部件被标记为“高安全性”（工程师称之为 ASIL D）并不意味着其中的 AI 就自动安全了。你需要针对 AI 的大脑进行额外的检查，比如检查它是否正在观察正确的数据，或者它是否对那些它并不理解的事物表现得过于自信。
作者还详细规划了如何使用汽车公司已经在使用的 AUTOSAR 工具来构建这一系统。这就像是给汽车一套新的指令：“当 AI 说‘前进’时，安全管理器会检查天气、道路和 AI 的置信度评分。如果一切看起来都很好，汽车就前进。如果 AI 不确定或道路情况诡异，安全管理器就会踩下刹车。”论文并未声称这是一个能永远解决所有问题的神奇方案。相反，它建议了一种管理风险的结构化方式，确保即使 AI 犯了错，汽车也有一个简单、可靠且随时准备拯救局面的备份计划。这旨在给予 AI 发挥智慧的自由，同时将安全控制权保留在一个永不疲倦、永不困惑的系统手中。
技术摘要：面向 AI 赋能自动驾驶的 AUTOSAR 适配研究
问题陈述 汽车行业正在向集中的区域计算架构转型，以支持计算密集型的自动驾驶（AD）功能。虽然 AUTOSAR Adaptive 平台为高性能计算和机器学习（ML）提供了合适的面向服务的执行环境，但它本身并不构成一个完整的 AI 保障框架。在传统的确定性软件保障方法（由 ISO 26262 标准化）与具有数据依赖性、概率性和上下文敏感性的学习型组件之间，存在着关键性的鸿沟。
现有标准存在特定的局限性：
ISO 26262 针对故障行为，但并未主要涵盖系统在设计运行过程中因性能限制（如分布偏移、歧义场景）而导致的非安全行为。
ISO 21448 (SOTIF) 针对功能不足，但缺乏将这些要求集成到 AUTOSAR 架构中的结构化方法。
网络安全与更新标准（ISO/SAE 21434, ISO 24089）针对完整性，但并未定义如何专门为 AI 模型分配保障严谨度。
架构分离： 该框架强制要求将 AI 功能、AI 保障管理器 (AI Assurance Manager) 和 安全权威管理器 (Safety Authority Manager) 部署为分别隔离的应用或进程。一个确定性的最小风险机动 (MRM) 控制器作为经过验证的后备方案，其独立于 AI 模型及其训练数据。
AI 保障裕度： 使用非补偿性指标（不确定性、分布外检测、传感器一致性、时间稳定性、ODD 合规性、资源健康度和安全约束）计算多维运行裕度 A(t)。该裕度驱动在标称（Nominal）、受限（Restricted）和后备（Fallback）状态之间的状态转换。
AI 保障等级 (AAT) 模型： 引入了一个互补模型，根据组件的运行权限来定制 AI 特定证据（数据治理、验证、运行时控制）的严谨度。至关重要的是，AAT 并不取代汽车安全完整性等级 (ASIL)，而是对其进行补充。例如，如果输出被一个独立的机制完全界定并检查，那么一个 ASIL D 的安全目标可以包含一个 AAT-2 的 AI 组件。