📊 statistics

CLEAR: Calibrated Learning for Epistemic and Aleatoric Risk

该论文提出了 CLEAR，一种结合了针对偶然不确定性和认知不确定性的不同参数的校准方法，旨在显著提高回归任务在多种现实世界数据集上的预测区间条件覆盖率和效率。

原作者： Ilia Azizi, Juraj Bodik, Jakob Heiss, Bin Yu

发布于 2026-07-13

📖 1 分钟阅读☕ 轻松阅读

原作者： Ilia Azizi, Juraj Bodik, Jakob Heiss, Bin Yu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你正在试图预测未来，比如猜测一套房子会卖多少钱，或者一辆汽车会跑多快。你希望你的猜测是正确的，但你也想知道这个猜测有多“不靠谱”。在机器学习的世界里，有两个主要原因会导致你的猜测变得不靠谱，而长期以来，大多数工具只关注其中之一。

两种类型的“不靠谱”

把**偶然不确定性（Aleatoric Uncertainty）**想象成收音机里的“静电噪声”。这是那种客观存在的噪声，比如测量误差或一阵随机的阵风。无论你如何研究这台收音机或听了多少次，这种静电都不会消失，除非你修理收音机本身。这是数据固有的混沌。

然后是认知不确定性（Epistemic Uncertainty）。这是那种“我以前从未来过这里”的感觉。想象你是一名绘图员，你只绘制过市中心的地图。如果你试图猜测一个遥远且未开发的森林的地形，你的猜测之所以不靠谱，是因为你缺乏数据，而不是因为森林本身有噪声。如果你去收集更多的数据，这种不靠谱感就会消失。

旧地图的问题

大多数旧的预测方法就像是一个只关心静电噪声的绘图员。他们会在他们的猜测周围画一个安全区域（预测区间），以覆盖“静电”，但他们完全忽略了这样一个事实：你正在对一个你从未涉足的地方进行猜测。这意味着在熟悉区域，他们的地图还可以，但一旦你移动到已知世界的边缘（外推），他们的安全区域就会变得危险地狭窄，从而给出一种虚假的安全感。

其他方法试图解决这个“从未来过这里”的问题，但它们会在所有地方都画出巨大的、宽阔的安全区域，以防万一。但这使得地图变得毫无用处，因为这些区域太宽了，无法提供任何具体的指导。

迎来 CLEAR：聪明的平衡者

这篇发表在 ICLR 2026 会议上的论文作者们推出了一种名为 CLEAR（用于认知与偶然风险的校准学习）的新方法。把 CLEAR 想象成一位超级聪明的绘图员，他随身携带两把不同的尺子：一把用于衡量“静电”，另一把用于衡量“未知领域”。

CLEAR 并没有只是猜测该如何加宽安全区域，而是使用了两个特殊的旋钮，称为 $\gamma_1$ 和 $\gamma_2$ ，来平衡这两种不确定性。

一个旋钮调节噪声（偶然不确定性）。
另一个旋钮调节数据的缺乏（认知不确定性）。

神奇之处在于，CLEAR 并不只是将这些旋钮设定为一个固定数值。它会观察数据，并询问：“现在，哪种类型的‘不靠谱’才是更大的问题？”如果数据有很多噪声，它就会调高第一个旋钮。如果数据很稀疏（比如那片遥远的森林），它就会调高第二个旋钮。它找到了完美的比例，使安全区域在保持安全的同时，尽可能地紧凑。

他们的发现（以及没能发现的）

研究人员在 17 个不同的真实世界数据集上测试了 CLEAR，涵盖了从房价到能源效率的各种领域。他们还运行了模拟实验，以观察其在受控环境中的表现。

以下是数据展示的结果：

结果： 在这些测试中，与那些分别进行校准的旧方法相比，CLEAR 成功将预测区间的宽度平均缩小了 28.3% 和 17.5%。至关重要的是，它在做到这一点的同时，依然保持了预期的“安全性”水平（维持了标称覆盖率）。
“如果……会怎样”： 论文明确反对了这样一种观点，即你应该将两种不确定性以固定的 1 比 1 的比例相加（例如设置 $\lambda = 1$ ）。他们表明，这种固定方法通常不是最优的，因为平衡状态会随着数据的变化而改变。
局限性： 论文指出，虽然 CLEAR 在这些数据集上表现出色，但它依赖于所使用的基础模型的质量。如果基础模型很糟糕，CLEAR 也无法修复它们。此外，他们讨论的理论保证主要适用于“渐近”场景（即拥有无限数据时）或模拟实验；在现实世界有限数据的场景下，他们依靠的是经验证据证明其有效，而非数学证明它在每一个极其罕见的极端情况下都必须奏效。

背后的“魔力”

作者们认为，CLEAR 之所以如此出色，是因为它修复了旧方法行为中的一个特定缺陷。

旧的“仅考虑噪声”的方法（如 CQR）在数据极少的地方往往会表现得过于自信。它们在陌生的森林里画出了极小的方框。
旧的“数据缺乏”方法（如集成方法）在数据密集的区域往往会表现得过于谨慎，在繁华的市中心画出了巨大的方框。

CLEAR 扮演了一个调解人的角色。它意识到，在城市里，应该信任“噪声”这把尺子；而在森林里，则应该信任“未知”这把尺子。通过让数据来决定这两者的比例，它创造了一个在需要紧凑的地方足够紧凑，在需要宽阔的地方足够宽阔的安全区域。

底线

这篇论文表明，通过将不确定性视为需要按正确比例混合的两种不同成分，而不是一个单一的整体，我们可以让机器学习的预测既更安全又更精确。它并不是解决宇宙中所有问题的魔杖，但在他们进行的测试中，它一致地优于竞争对手，证明了有时，处理未知最好的方式是准确知道你面对的是哪种类型的未知。

技术摘要：CLEAR：用于认识论与偶然性风险的校准学习

1. 问题陈述

准确的确定性量化（Uncertainty Quantification, UQ）对于可靠的预测建模至关重要，然而现有方法往往无法在平衡的方式下同时处理这两种来源的不确定性。

偶然性不确定性（Aleatoric Uncertainty）： 源于内在的数据变异性（测量噪声、缺失协变量），无法通过收集更多数据来减少。
认识论不确定性（Epistemic Uncertainty）： 源于有限的数据、模型误设或数据处理中的主观选择。它可以通过更多数据或更好的模型来减少，但在外推区域通常较大。

目前的方法通常仅处理其中一种类型，或者以固定的、非自适应的比例将它们结合起来（例如，将认识论不确定性与偶然性不确定性的权重设为 1:1）。这会导致较差的条件覆盖率（Conditional Coverage），即预测区间在平均意义上是校准良好的（边际覆盖率），但在特定子集或外推区域中无法提供可靠的覆盖。此外，现有方法通常隐式地固定了这两个不确定性组件之间的缩放参数，由于每个数据集和预测任务中相对重要性各异，这种做法可能是次优的。

2. 方法论：CLEAR

作者提出了 CLEAR（Calibrated Learning for Epistemic and Aleatoric Risk，用于认识论与偶然性风险的校准学习），这是一个通过两个不同的参数 $\gamma_1$ 和 $\gamma_2$ 自适应平衡偶然性和认识论不确定性的校准框架。

2.1 预测区间公式

CLEAR 将点估计 $\hat{f}(x)$ 的预测区间 $C(x)$ 构建为：
$C(x) = \left[ \hat{f}(x) \pm \left( \gamma_1 \times \text{aleatoric}_{\pm}(x) + \gamma_2 \times \text{epistemic}_{\pm}(x) \right) \right]$
其中 $\gamma_2 = \lambda \gamma_1$ 。参数 $\lambda$ 控制两种不确定性类型的权衡：

$\lambda = 0$ ：区间仅反映偶然性不确定性。
$\lambda \to \infty$ ：区间仅反映认识论不确定性。
$\lambda > 0$ ：实现数据驱动的平衡。

2.2 估计组件

CLEAR 与任何成对的估计器兼容，但通过以下方式展示其性能：

偶然性估计器： 在残差（ $Y_i - \hat{f}(X_i)$ ）而非原始目标值上训练的分位数回归模型。作者认为，如果均值模型拟合不足，直接在目标值上拟合分位数会扭曲偶然性估计，而基于残差的拟合则更加稳定。使用这些模型的集成（Bagging）来估计条件分位数 $\hat{q}^{ale}_{\alpha/2}$ 和 $\hat{q}^{ale}_{1-\alpha/2}$ 。
认识论估计器： 来源于**可预测性-可计算性-稳定性（PCS）**框架的区间。这涉及在不同的数据预处理版本和模型架构上训练模型集成，然后对表现最好的模型进行自助采样（Bootstrapping）。该集成模型的逐点分位数定义了未校准的认识论不确定性带 $\hat{q}^{epi}_{\alpha/2}$ 和 $\hat{q}^{epi}_{1-\alpha/2}$ 。

2.3 校准程序

该方法在验证/校准数据集上采用两步校准过程：

针对 $\lambda$ 的网格搜索： 对正值集合 $\Lambda$ 进行评估。对于每个候选 $\lambda$ ，通过标准的拆分符合预测（Split Conformal Prediction）确定缩放因子 $\gamma_1$ ，以确保 $1-\alpha$ 的边际覆盖率。
优化： 通过在验证集上最小化分位数损失（等同于分位数损失或区间得分）来选择最优的 $\lambda^*$ 。该指标平衡了覆盖率和区间宽度，从而激励真实性。

2.4 理论性质

论文证明了在温和的假设下（基估计器的相容性和 $\lambda$ 的紧凑网格），CLEAR 实现了渐近条件有效性（Asymptotic Conditional Validity）。虽然认识论组件在无限数据的极限情况下会消失，但在有限样本中，它通过防止标准符合预测方法（如 CQR）在数据稀疏区域出现的欠覆盖问题，发挥着至关重要的作用。

3. 核心贡献

双参数校准： 引入了两个不同的校准参数（ $\gamma_1$ 和 $\gamma_2$ ，由 $\lambda$ 关联）来平衡偶然性和认识论不确定性的尺度，超越了固定比例的组合。
基于残差的偶然性估计： 证明了在残差上拟合分位数比直接在目标值上拟合能产生更合理且更稳定的偶然性不确定性估计器。
PCS 与 CQR 的集成： 首次将 PCS 集成扰动区间（用于认识论不确定性）与基于残差的符合分位数回归（CQR，用于偶然性不确定性）相结合。
大规模基准测试： 在 17 个多样化的现实世界回归数据集和合成模拟上进行了广泛评估。

4. 实验结果

论文将 CLEAR 与包括 CQR（仅偶然性）、PCS（仅认识论）及其各自校准版本的基准模型进行了对比。

性能指标： CLEAR 在保持标称覆盖率（95%）的同时，始终获得更低的归一化校准区间宽度（NCIW）和分位数损失。
定量收益： 在 17 个现实世界数据集中，CLEAR 的区间宽度比单独校准的偶然性基准（ALEATORIC-R）平均降低了 28.3%，比认识论基准（PCS）降低了 17.5%，同时保持了覆盖率。
鲁棒性： CLEAR 在 17 个数据集中的 15 个上优于基准模型。在由高偶然性或高认识论不确定性主导的情景中，其效果尤为显著。
泛化能力： 该方法还通过深度集成（Deep Ensembles，认识论）和同步分位数回归（Simultaneous Quantile Regression，偶然性）进行了测试，显示出类似的改进（例如，宽度减少 28.6%）。
案例研究： 在 Ames 房屋价格案例研究中，CLEAR 根据数据特征自适应地调整其权重（ $\lambda$ ）。在低信息量机制（特征较少）下，它优先考虑偶然性不确定性；在多特征、低数据量的机制下，它大幅转向认识论不确定性，正确识别了主导的不确定性来源。

5. 重要性与主张

论文声称 CLEAR 提供了一种显著的改进，优于那些孤立对待不确定性类型或依赖于固定、非自适应组合的经典方法。

条件覆盖率： 通过自适应平衡不确定性来源，CLEAR 在整个输入空间内维持了近似的条件覆盖率，特别是在标准符合预测方法（如 CQR）容易出现欠覆盖的外推区域。
可解释性： 学习到的参数 $\lambda$ 提供了关于特定数据集或区域中哪种不确定性来源（认识论 vs 偶然性）占主导地位的见解，有助于从业者理解模型的局限性。
鲁棒性： 双参数方法允许该方法补偿基估计器的缺陷（例如，如果偶然性不确定性被高估或低估， $\gamma_1$ 可以修正其尺度）。

作者承认了局限性，指出 CLEAR 的准确性取决于基估计器的质量，并且在校准数据集非常小时可能会发生参数过拟合。他们建议未来的工作可以将该方法扩展到分类、时间序列和主动学习场景。