Geometry-Aware Uncertainty Quantification via Conformal Prediction on Manifolds

技术摘要：基于流形共形预测的几何感知不确定性量化

问题陈述
共形预测（Conformal Prediction, CP）为回归任务提供了有限样本、分布无关的覆盖保证。然而，标准的 CP 构建是针对欧几里得输出空间设计的，利用欧几里得残差和基于坐标的区域。当响应变量 $Y$ 位于黎曼流形上时（例如用于地磁方向的单位球面 $S^2$、用于蛋白质角度的环面或用于航天器姿态的旋转群），这些标准方法会失效。

在这些设定下存在两个主要问题：

1. 几何失配： 标准残差通常依赖于基于坐标的距离（例如经纬度）。在弯曲空间中，这些距离取决于所选的图（chart）而非响应之间的内在差异。例如，球面上固定的宽度坐标矩形在不同纬度下的面积是变化的（在极点附近缩小），而固定内在半径的测地圆盘则能保持恒定的面积，无论其位于何处。
2. 异方差性： 预测难度在输入空间中很少是恒定的。在诸如地磁预报的任务中，各区域的长期变化率（secular variation rates）差异显著。一个固定宽度的预测集往往会对“容易”的区域过度覆盖，而对“困难”的区域覆盖不足。虽然欧几里得回归通过使用局部难度估计来归一化残差来解决这个问题，但现有的流形值 CP 方法尚未明确地将这一概念适配到内在几何中。

方法论
作者提出了**自适应测地共形预测（Adaptive Geodesic Conformal Prediction）**框架，该框架在分割共形预测（split-conformal prediction）的设定下，将内在几何与局部自适应性相结合。

• 设置： 数据被分为训练集（$D_{tr}$）、校准集（$D_{cal}$）和测试集。仅使用 $D_{tr}$ 来训练基点预测器 $\hat{y}: \mathcal{X} \to \mathcal{M}$ 和难度估计器 $\hat{\sigma}: \mathcal{X} \to \mathbb{R}^+$。
• 非一致性得分（Nonconformity Scores）： 该方法比较了三种评分策略：
  1. 朴素坐标（Naive Coordinate）： 使用球面坐标中的 $L_\infty$ 距离，产生轴对齐的矩形。
  2. 标准测地（Standard Geodesic）： 使用未归一化的测地距离 $s_{geo}(x, y) = d_{geo}(\hat{y}(x), y)$，产生等半径的测地圆盘（球面圆帽）。
  3. 自适应测地（Adaptive Geodesic，本文提出）： 定义得分为 $s_{adapt}(x, y) = d_{geo}(\hat{y}(x), y) / \hat{\sigma}(x)$。
• 难度估计： 估计器 $\hat{\sigma}(x)$ 通过在 $D_{tr}$ 上进行 5 折交叉验证来预测基模型的测地残差。它在训练过程中不接触校准标签，以确保有效的共形保证。
• 预测区域： 对于测试点 $x$，预测集是一个以 $\hat{y}(x)$ 为中心、半径由共形分位数 $\hat{q}_\alpha$ 乘以局部难度缩放确定的测地圆盘：$C(x) = B_{geo}(\hat{y}(x), \hat{q}_\alpha \cdot \hat{\sigma}(x))$。这使得区域大小可以在困难区域扩大并在容易区域收缩，同时保持测地圆盘的形状。

核心贡献

1. 几何感知区域： 该方法使用测地距离构建预测集，确保预测区域（如球面圆帽）的面积与位置无关，从而尊重流形的内在几何。
2. 局部自适应校准： 通过使用仅在适当训练数据上训练的协变量相关难度估计器来缩放残差，该方法能够根据局部预测难度调整区域大小，且不会在模型拟合中使用校准标签。
3. 实证验证： 该方法在合成球面数据和真实的 IGRF-14 地磁场预报任务上进行了验证，证明了其在保持边际覆盖保证的同时，提高了条件覆盖的一致性和最差情况下的覆盖率。

实验结果
论文在两个基准测试上评估了该方法：一个具有异方差噪声的合成球面以及 IGRF-14 地磁场预报任务。

• 合成球面 ($S^2$)：
  • 所有方法都在名义 0.90 水平附近实现了有效的边际覆盖。
  • 自适应测地方法比标准测地方法将条件覆盖的标准差降低了 19%。
  • 最差分箱（worst-bin）覆盖率从标准方法的 0.814 提升至自适应方法的 0.839。
  • 朴素坐标方法需要大约比测地方法多 26% 的面积才能达到相似的覆盖率，凸显了坐标畸变的代价。
• IGRF-14 地磁预报：
  • 该任务涉及在 $S^2$ 上预测地磁场矢量，涵盖 352 个地点，具有天然的异方差长期变化（难度差异达 274 倍）。
  • 难度估计器与实际残差的皮尔逊相关系数为 $r=0.516$。
  • 自适应测地方法将条件覆盖的标准差降低了 71%（标准测地为 0.107，自适应测地为 0.031）。
  • 最差分箱覆盖率从标准方法的 0.689 显著增加到自适应方法的 0.855。
  • 研究发现，标准测地方法在场演化最快的赤道区域会出现覆盖不足的情况，而自适应方法在不同纬度均能保持接近名义目标的覆盖率。

意义与主张
论文声称所提方法为流形值回归中的不确定性量化提供了一种实用的解决方案。其重要性在于结合了两个互补的选择：

1. 自适应性： 通过 $\hat{\sigma}(x)$ 进行缩放，使得不同难度的区域之间的一致性得分具有可比性。
2. 几何性： 使用测地圆盘确保预测集的面积与流形的度量一致，避免了基于坐标方法的固有畸变。

作者指出，自适应方法的有效性与难度估计器的质量相关。在 IGRF-14 实验中，$r=0.516$ 的相关性带来了实质性的改进。他们建议，如果估计的难度与实际误差之间的相关性较弱（例如低于 0.15），则标准测地方法可能更优。这项工作并不声称解决了所有流形回归问题，而是为响应空间弯曲且预测难度随空间变化的场景提供了一个稳健的框架。提到的未来方向包括将该框架扩展到非交换数据，以及探索针对方向依赖型不确定性的各向异性区域。