Learning Credal Ensembles via Distributionally Robust Optimization

Each language version is independently generated for its own context, not a direct translation.

这篇论文介绍了一种名为 CreDRO 的新方法，旨在让人工智能（AI）模型变得更“聪明”、更“诚实”，特别是在面对未知情况时。

为了让你更容易理解，我们可以把 AI 模型想象成一个正在备考的学生，而这篇论文就是关于如何训练这个学生，让他不仅知道答案，还能准确判断自己“有多不确定”。

1. 核心问题：AI 的“盲目自信”

在现实生活中，AI 经常犯一个错误：它不知道它不知道。

场景：你给一个只见过猫和狗的 AI 看一张“鸭嘴兽”的照片。
普通 AI 的反应：它会非常自信地说：“这是 80% 的猫，20% 的狗！”（即使它完全错了）。
理想 AI 的反应：它应该犹豫地说：“我完全没见过这种生物，我不确定这是什么。”

这种“不确定自己不知道”的能力，在学术上被称为认知不确定性（Epistemic Uncertainty, EU）。目前的顶级方法（SOTA）虽然能算出这种不确定性，但它们主要靠“随机性”来模拟。

比喻：就像让同一个学生做 10 次同样的考试，但每次让他随机换一套笔、换个座位、甚至换个心情（随机初始化）。如果这 10 次考试答案不一样，我们就说“他不自信”。
缺陷：这只能测出他“做题时手抖不抖”，却测不出他“是否真的没见过鸭嘴兽”。

2. 创意的解决方案：CreDRO（让 AI 经历“模拟灾难”）

这篇论文提出了一种新招：CreDRO。它的核心思想是：不要只靠随机换笔，而是要故意给 AI 制造“麻烦”，让它适应各种可能的“坏情况”。

核心比喻：模拟“水土不服”的旅行团

想象你正在训练一个导游（AI 模型），让他带团去一个陌生的地方（测试数据）。

传统方法（随机初始化）：让导游在同一个城市里，随机换 10 次路线走。如果他对路线描述不一致，说明他不确定。但这没模拟出“去陌生城市”的困难。
CreDRO 方法（分布鲁棒优化）：
1. 设定“最坏情况”：训练者告诉导游：“假设未来的游客可能来自完全不同的地方，或者天气可能突然变了。”
2. 制造“压力测试”：在训练时，CreDRO 会给导游看不同难度的“模拟考题”。
  - 有的模型只看最容易的题（假设训练数据和测试数据很像）。
  - 有的模型专门看最难的题（假设训练数据和测试数据差异巨大，比如把猫的照片强行扭曲成鸭嘴兽的样子）。
3. 组建“专家团”：我们训练了一群导游，每个人对“未来有多糟糕”有不同的假设（有的假设稍微有点变化，有的假设变化巨大）。

结果：

当这群“专家”聚在一起讨论时：

如果大家都说“这是猫”，那 AI 就很确定。
如果有的专家说“这是猫”，有的说“这是鸭嘴兽”，有的说“我完全看不懂”，这种“分歧”就是真正的“认知不确定性”。
这种分歧不是因为“手抖”，而是因为真的遇到了没见过的情况。

3. 具体是怎么做的？（技术通俗版）

论文中用了一个叫分布鲁棒优化（DRO）的技术，我们可以把它想象成“挑刺训练法”：

挑选“刺头”样本：在每一批训练数据中，AI 会找出那些它最搞不懂、最容易做错的图片（损失值最高的样本）。
调整“难度系数”：
- 我们设定一个参数（论文叫 $\delta$ ）。
- 如果 $\delta$ 很小，AI 只盯着那些最难的“刺头”学（模拟巨大的环境变化）。
- 如果 $\delta$ 很大，AI 就学所有数据（模拟环境变化不大）。
组建“多样性团队”：我们训练 20 个 AI 模型，每个模型设定的“难度系数”都不一样（从稍微难一点到超级难）。
形成“置信区间”：
- 当遇到新问题时，这 20 个模型会给出 20 个不同的答案。
- CreDRO 不会取平均值，而是画出**“答案的范围”**。
- 比如：模型 A 说“是猫（90%）”，模型 B 说“是鸭嘴兽（60%）”。
- 最终输出：猫的概率在 60% 到 90% 之间。这个范围的大小，就是 AI 的“不确定程度”。范围越大，AI 越觉得自己可能搞错了。

4. 为什么这个方法更好？（实战表现）

论文在几个关键任务上测试了 CreDRO，效果吊打其他方法：

任务一：发现“外来物种”（异常检测）
- 场景：AI 在识别正常图片（如猫狗），突然来了一张“汽车”或“鸭嘴兽”。
- 表现：CreDRO 能立刻意识到“这不对劲”，并给出巨大的不确定性范围，从而报警。其他方法可能还会自信地把它归类为猫。
- 比喻：就像经验丰富的老导游，看到游客穿得完全不像当地人，立刻警觉：“这不对劲，我们要小心！”
任务二：医疗诊断（选择性分类）
- 场景：医生用 AI 看病理切片。
- 表现：如果 AI 很确定，它就给医生看结果；如果 AI 觉得“我不确定”（不确定性高），它就拒绝回答，建议医生亲自看。
- 结果：CreDRO 能更精准地识别出那些它“拿不准”的病例，从而避免误诊。这在医疗安全上至关重要。

5. 总结：这篇论文的伟大之处

以前的 AI：像是一个死记硬背的学生，只要题目稍微变个形，他就开始瞎猜，还觉得自己猜得很对。
现在的 CreDRO：像是一个经验丰富的老手，他不仅知道答案，还能通过模拟各种“极端情况”，知道自己哪里懂、哪里不懂。
核心价值：它不再把“不确定性”看作是随机误差，而是看作是对未知世界的真实反应。这让 AI 在自动驾驶、医疗诊断等高风险领域变得更加可靠和值得信赖。

简单来说，CreDRO 就是给 AI 装了一个**“自知之明”的仪表盘**，让它知道什么时候该说“我不确定，请人类介入”，从而避免灾难性的错误。

Each language version is independently generated for its own context, not a direct translation.

1. 研究背景与问题 (Problem)

核心问题：认知不确定性（Epistemic Uncertainty, EU）的量化质量不足。
在深度学习中，准确量化预测的不确定性对于安全关键应用（如医疗诊断、自动驾驶）至关重要。不确定性通常分为两类：

偶然不确定性 (Aleatoric Uncertainty, AU)： 数据生成过程中的固有随机性。
认知不确定性 (Epistemic Uncertainty, EU)： 模型对输入 - 输出关系知识不足导致的不确定性。

现有方法的局限性：
目前最先进（SOTA）的可信集（Credal Sets，即概率分布的凸集）预测方法，主要通过随机训练初始化（Random Training Initializations）来构建集成模型，利用模型间的分歧来表征 EU。

缺陷： 这种方法主要反映了优化过程的随机敏感性，而非来自更实质性来源（如训练集与测试集分布不一致）的不确定性。
后果： 在遇到分布外（Out-of-Distribution, OOD）数据或发生分布偏移时，现有方法往往无法提供足够“信息量”的不确定性估计，导致模型过于自信或无法有效识别异常。

2. 方法论 (Methodology)

作者提出了 CreDRO（Credal Distributionally Robust Optimization），一种基于分布鲁棒优化（DRO）的新框架，旨在通过模拟训练与测试分布之间的潜在偏移来学习可信集成。

2.1 核心思想

将 EU 定义为：在不同程度的“独立同分布（i.i.d.）假设松弛”下训练得到的模型之间的分歧。
即，不再仅仅依赖随机初始化，而是通过人为构造不同程度的分布偏移假设，训练出一组“合理”的模型，这些模型对分布变化的敏感度不同，从而捕捉更本质的认知不确定性。

2.2 训练过程 (Training Procedure)

CreDRO 采用对抗性重加权学习（Adversarially Reweighted Learning, ARL） 框架：

样本重加权： 在每个训练批次中，根据损失值对样本进行排序。只选择损失最高的前 $\delta$ $δ$ 比例的样本进行反向传播。
- 高损失样本通常对应于训练数据中的少数群体或难以学习的样本，模拟了测试时可能出现的分布偏移（Domain Shift）。
多样化超参数 $\delta$ ：
- 引入一个全局超参数 $\delta_G \in [0.5, 1)$ 代表假设的最坏情况偏移程度。
- 对于集成中的第 $i$ 个模型，其训练使用的 $\delta_i$ 在 $[\delta_G, 1]$ 范围内均匀插值：
  $\delta_i = (1 - \delta_G) \cdot \frac{i-1}{M-1} + \delta_G$
- 这意味着集成中的每个成员模型都在不同严格程度的分布偏移假设下进行训练（从轻微偏移 $\delta \approx 1$ 到严重偏移 $\delta \approx \delta_G$ ）。
架构优势： 与之前的 CreDE 方法不同，CreDRO 不需要修改神经网络架构（如增加输出神经元），直接利用标准神经网络和交叉熵损失函数，兼容性强。

2.3 推理与不确定性量化 (Inference & UQ)

生成可信集：
- 收集集成中 $M$ 个模型的 Softmax 概率输出 $\{p_i\}_{i=1}^M$ 。
- 对于每个类别 $k$ ，取所有模型输出的最大值和最小值，形成概率区间 $[\underline{p}_k, \overline{p}_k]$ 。
- 构建盒式可信集（Box Credal Set, $K_B$ ）：所有满足 $p_k \in [\underline{p}_k, \overline{p}_k]$ 且 $\sum p_k = 1$ 的概率向量集合。
EU 量化指标：
- 计算可信集 $K_B$ 的上熵（Upper Entropy）与下熵（Lower Entropy）之差。
- 该差值越大，表示模型对预测结果越不确定（认知不确定性越高）。
- 相比凸包（Convex Hull）方法，盒式可信集在计算上更高效，且实验证明其在 OOD 检测中表现更好。

3. 主要贡献 (Key Contributions)

理论创新： 重新定义了 EU 的来源，将其从“随机初始化分歧”转变为“不同分布偏移假设下的模型分歧”，更贴合实际部署中的分布偏移场景。
提出 CreDRO 框架： 结合 DRO 与可信集成，通过调节超参数 $\delta$ 模拟不同程度的分布偏移，无需修改模型架构即可实现。
性能提升： 在多个基准测试中，CreDRO 在 OOD 检测和选择性分类（Selective Classification）任务上均显著优于现有的 SOTA 可信分类器（如 CreDE, CreWra, CreEns 等）和深度集成基线。
效率与鲁棒性： 证明了该方法对超参数 $\delta_G$ 的选择具有鲁棒性，且在计算成本上优于部分基于凸包的方法。

4. 实验结果 (Results)

实验在多个数据集和任务上进行了验证：

OOD 检测 (Out-of-Distribution Detection)：
- 数据集： 以 CIFAR-10 为分布内（ID）数据，SVHN, Places365, CIFAR-100, FMNIST, ImageNet 为分布外（OOD）数据。
- 指标： AUROC（接收者操作特征曲线下面积）。
- 结果： CreDRO 在所有数据集上均取得最高 AUROC 分数（例如在 CIFAR-10 vs SVHN 上达到 97.4%，显著高于 DE 的 94.8% 和 CreDE 的 94.3%）。这表明 CreDRO 能更敏锐地识别分布外样本。
抗腐蚀能力 (Corrupted Data)：
- 在 CIFAR-10-C 和 CIFAR-100-C（包含 15 种不同强度的图像腐蚀）上，CreDRO 随着腐蚀强度增加，性能下降幅度最小，表现出更强的鲁棒性。
医疗场景选择性分类 (Selective Classification)：
- 数据集： Camelyon17（病理图像，存在显著的扫描仪设备分布偏移）。
- 结果： 在“准确率 - 拒绝率”（Accuracy-Rejection）曲线下，CreDRO 表现最佳。它能有效拒绝高不确定性的错误预测，而基线方法（如 CreDE）在拒绝率增加时准确率反而下降，说明其 EU 估计不可靠。
消融实验：
- 集成大小： 随着集成模型数量 $M$ 增加，性能持续提升。
- 超参数 $\delta_G$ ： 在 $0.5 $到$ 0.9$ 范围内，性能保持稳定，证明方法对超参数不敏感。
- 可信集构建： 盒式可信集（ $K_B$ ）优于凸包可信集（ $K_C$ ），因为 $K_B$ 能产生更大的 OOD 样本 EU 估计值，从而更好地区分 ID 和 OOD。

5. 意义与影响 (Significance)

提升安全性： 通过更准确地量化认知不确定性，CreDRO 使 AI 系统在面对未知数据或分布偏移时更加“谦逊”和可靠，能够主动拒绝不可靠的预测，这对医疗、自动驾驶等安全关键领域至关重要。
范式转变： 挑战了传统仅依赖随机初始化来生成不确定性的范式，证明了通过分布鲁棒性来激发模型多样性是获取高质量 EU 估计的有效途径。
实用性强： 该方法不需要复杂的贝叶斯推断或架构修改，易于集成到现有的深度学习训练流程中，具有广泛的实际应用前景。

总结： 该论文提出了一种通过分布鲁棒优化来学习可信集集成的新方法，成功解决了现有方法在捕捉实质性分布偏移不确定性方面的不足，显著提升了模型在分布外检测和医疗决策中的可靠性。