Each language version is independently generated for its own context, not a direct translation.
想象一下，你正在教一个机器人驾驶汽车。你希望机器人不仅知道要做什么（比如“停车”或“左转”），还要能解释为什么要这么做（比如“因为有行人”或“因为红灯亮了”）。这就是自动驾驶汽车中可解释人工智能（Explainable AI）的目标。
然而，这篇论文的作者发现了两个大问题：
- “一刀切”规则：大多数机器人被编程为遵循一条僵硬的规则：“如果你有超过 50% 的把握，就做出决定。”作者称此为“固定阈值”。他们认为，这就像告诉一个人：“如果你有 50% 的把握在 raining，就拿起雨伞。”这行不通！有时你需要有 90% 的把握才采取行动（比如为儿童停车），而有时 50% 就足够了。论文表明，对所有情况都使用单一的 50% 规则，会导致机器人犯更多错误。
- 训练中的“西方偏见”：大多数机器人是在来自加利福尼亚或德国等地的数据上训练的。但在伊朗德黑兰驾驶则非常不同。那里有更多的摩托车、不同的交通习惯和不同的道路布局。如果你只在西方道路上训练机器人，当它看到混乱的中东街道时可能会感到困惑。
以下是作者如何解决这些问题的简单解释：
1. 调节“信心旋钮”（阈值）
想象机器人的大脑为每个决定都有一个音量旋钮。
- 旧方法：每个人都将旋钮固定在"5"（50% 置信度），之后再也不去触碰它。
- 新方法：作者在 1 到 10 的每个设置上测试了这个旋钮。他们发现，对于某些任务（比如决定“停车”），当旋钮设置在"3"（30% 置信度）时机器人表现最佳。对于其他任务（比如解释为什么停车），"4"（40%）更好。
类比：想象你是一名检查身份证的保安。
- 如果你太严格（高阈值），即使对方很友好，你也不让任何人进入（你错过了好的机会）。
- 如果你太宽松（低阈值），你会让所有人进入，包括坏人（你会犯危险的错误）。
- 作者发现，对于不同类型的“坏人”（不同的驾驶任务），你需要不同程度的严格性。通过为每项具体工作调整“严格性旋钮”，机器人变得更聪明、更安全。
2. 新的“中东驾驶学校”（数据集）
作者意识到，现有的驾驶数据集就像一所只教你在欧洲空旷、笔直的高速公路上驾驶的驾驶学校。它们没有教你如何在伊朗繁忙、混乱的市场街道上驾驶。
- 解决方案：他们创建了一个名为IUST-XAI-AD的新数据集。
- 内容：包含在伊朗库姆拍摄的 958 张真实照片。
- 特殊之处：这就像电子游戏中的“困难模式”关卡。与标准数据集相比，它拥有更多的摩托车、更多的行人以及更复杂的交通模式。
- 结果：当他们在这一新的“困难模式”上测试机器人时，机器人比在简单的欧洲道路上表现得更吃力。这证明了新数据集是一个更好、更严峻的测试，能看出机器人是否真正准备好面对现实世界。
3. “为什么”与“做什么”同样重要
机器人必须同时做两件事：
- 行动：“停车。”
- 理由：“因为有人正在过马路。”
作者发现，机器人实际上在猜测行动（停/行）方面比猜测理由（为什么？）表现得更好。这就像一个学生能轻松回答“对/错”问题，但在撰写解释为什么答案是对的的文章时却感到困难。通过使用他们新的“调节旋钮”（阈值），他们帮助机器人在行动和解释两方面都变得更好。
核心结论
论文指出：
- 停止对所有事情使用相同的 50% 规则。根据具体任务调整你的信心水平。
- 不要只在西方道路上测试机器人。你需要在多样化、混乱的道路上（如中东地区的道路）测试它们，以查看它们是否真正安全。
- 可解释性至关重要。自动驾驶汽车不仅仅是一台机器；它必须能够告诉你为什么做出某个决定，以便人类能够信任它。
通过修复“旋钮”并在“更艰难的道路”上进行测试，作者为自动驾驶汽车建立了更好的基础，使其不仅能在像加利福尼亚这样的地方，而且能在世界任何地方获得信任。
Each language version is independently generated for its own context, not a direct translation.
技术摘要：超越固定阈值与特定领域基准，实现自动驾驶可解释多任务分类
问题陈述
自动驾驶系统依赖于深度学习模型，这些模型通常是“黑盒”，缺乏安全关键部署和人类信任所需的透明度。虽然多任务学习框架已出现，旨在同时预测驾驶行为及其底层推理（可解释人工智能或 XAI），但现有方法面临两个主要局限。首先，它们主要依赖固定置信度阈值（通常为 0.5）将连续模型输出转换为离散预测。这种“一刀切”的方法忽视了不同预测任务固有的复杂性和类别不平衡问题，可能导致性能次优或安全风险。其次，现有的评估基准（如伯克利深度驾驶数据集 BDD-OIA 和 nuScenes 行为与原因数据集 nu-AR）严重偏向西方驾驶情境。这种文化多样性的缺失限制了对模型在不同全球交通模式、道路基础设施和驾驶行为（特别是中东地区）中泛化能力的评估。
方法论
作者提出了一种双管齐下的方法论进步以弥补这些差距：
置信度阈值敏感性分析：
作者不再使用静态阈值，而是引入一个系统框架来优化多任务分类的决策边界。他们定义了独立的置信度阈值（τA 用于行为，τR 用于原因），并在 [0, 1] 范围内以 0.1 为步长进行网格搜索。该框架评估四个不同的指标：F1-行为 - 总体、F1-行为 - 平均、F1-原因 - 总体和 F1-原因 - 平均。这使得能够识别针对特定任务最大化性能的最优阈值对，承认行为和原因预测可能需要不同的置信度水平。
IUST-XAI-AD 数据集构建：
为了解决缺乏文化多样性基准的问题，作者引入了 IUST-XAI-AD 数据集。该数据集在伊朗库姆收集，包含在各种光照条件下拍摄的 958 张行车记录仪图像。每张图像均由专家手动标注：
- 行为标签： 4 个类别（直行、停止/减速、左转、右转）。
- 原因标签： 21 个类别，解释驾驶决策（例如，“障碍物：行人”、“交通灯为绿灯”）。
该数据集使用加权分数（C）分析其复杂性，该分数考虑了行人、骑行者和车辆的密度，并赋予弱势道路使用者（行人和骑行者）更高的权重，以反映其更高的风险特征。
主要贡献
本文提出了三个相互关联的贡献：
- 系统化的阈值优化： 证明了固定阈值对于多任务场景并非最优。作者提供了一种识别特定任务最优阈值的方法，揭示了行为和原因任务的性能峰值存在显著差异。
- 新颖的基准（IUST-XAI-AD）： 引入了一种专为波斯驾驶情境下的可解释计算机视觉设计的数据集。该数据集解决了现有基准中的文化和区域偏差，提供了一个具有更高物体密度和独特交通模式的更具挑战性的环境。
- 全面的跨情境验证： 对之前提出的基于注意力的多任务模型在三个数据集（BDD-OIA、nu-AR 和 IUST-XAI-AD）上进行了广泛评估。这包括对模型性能、复杂性指标和特征嵌入的比较分析，以评估其在不同文化环境中的鲁棒性。
实验结果
- 阈值敏感性： 在 BDD-OIA 数据集上的分析表明，传统的 0.5 阈值并非最优。F1-行为 - 总体分数的峰值出现在 0.3 的阈值处（71.85%），而 F1-原因 - 总体分数的峰值出现在 0.4 处（54.77%）。研究确定了一个 0.3 到 0.5 之间的“鲁棒运行区域”，在此区域内所有指标均保持在峰值的 1% 以内，这表明虽然调整是有益的，但一系列阈值均可产生接近最优的结果。
- 数据集复杂性： 与 BDD-OIA（0.8062）和 nu-AR（0.5752）相比，IUST-XAI-AD 数据集表现出显著更高的复杂性（得分为 2.0038）。这是由更高的车辆密度（每张图片 1.66 辆，而 BDD-OIA 为 0.70 辆）和 drastically 更高的骑行者密度（每张图片 0.164 人，是西方数据集的 19–24 倍）驱动的，反映了中东城市常见的混合交通状况。
- 模型性能： 在 IUST-XAI-AD 上测试时，作者提出的基于注意力的模型在 12 项指标中的 9 项上优于 NLE-DM 基线。然而，与 BDD-OIA 相比，IUST-XAI-AD 上的整体性能指标（F1 分数）显著下降，表明文化和环境差异带来了根本性的新挑战，当前模型若不进行特定适应，难以泛化到这些情境。
- 特征分析： 学习特征的 t-SNE 可视化显示，模型成功地将数据按行为类别和环境背景（例如，将交通基础设施与动态障碍物分离）进行聚类，尽管仍存在一些重叠。
意义与主张
本文声称，其工作通过提供方法论工具和实际评估资源，推动了自动驾驶可解释多任务学习的最新进展。
- 方法论层面： 它挑战了固定阈值的标准做法，主张阈值选择应是基于特定操作优先级（例如，平衡精确率和召回率）的设计选择，而非固定的优化问题。
- 实践层面： IUST-XAI-AD 数据集作为评估自动驾驶系统跨文化泛化能力的关键工具，突显了单一领域评估所遗漏的模型鲁棒性中的系统性差距。
- 更广泛的影响： 作者断言，他们的综合贡献加速了更可靠、可解释且适应文化的自动驾驶系统的开发，使其适用于全球部署。他们强调，在多样化情境中进行全面验证对于评估这些系统的真实安全性和鲁棒性至关重要。
本文最后指出，虽然当前工作为文化多样性和阈值优化建立了基准，但未来的研究应针对恶劣天气条件调查微调及阈值敏感性，并进一步扩大评估范围至更广泛的地理多样性数据集。