📊 statistics

Conformal Prediction for Hierarchical Data

本文提出了一种适用于分层数据的分割共形预测方法，该方法引入投影（协调）步骤以利用结构依赖性，从而在保持联合及分量覆盖率保证的同时实现全局更小的预测区域。

原作者： Guillaume Principato, Gilles Stoltz, Yvenn Amara-Ouali, Yannig Goude, Bachir Hamrouche, Jean-Michel Poggi

发布于 2026-05-28

📖 1 分钟阅读☕ 轻松阅读

原作者： Guillaume Principato, Gilles Stoltz, Yvenn Amara-Ouali, Yannig Goude, Bachir Hamrouche, Jean-Michel Poggi

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在尝试预测整个国家的天气。你拥有一个模型，能为每一个城市、城镇和村庄提供预报。但这里有个问题：你的模型有点混乱。它可能预测全国总降雨量为 100 毫米，但如果你把所有城镇的降雨量加起来，总数却是 120 毫米。数字对不上。在数据世界中，这被称为缺乏一致性。

本文旨在解决这种混乱，使围绕你预测的“安全网”变得更小、更精确，同时不降低其安全性。

以下是他们工作的分解，使用简单的类比：

1. 问题：“混乱的地图”

想象你有一张将国家划分为区域、区域再划分为城市的地图。

层级结构：全国的总降雨量必须等于其所有区域降雨量之和，而区域降雨量之和必须等于其所有城市降雨量之和。这就是“层级结构”。
预测：你使用一个智能计算机模型来猜测每个城市的降雨量。
问题：计算机很出色，但并非完美。如果你直接采用其原始预测值，数字将无法吻合。“全国总量”将与“城市总和”不匹配。

2. 安全网：共形预测（Conformal Prediction）

当我们进行预测时，永远无法知道确切答案。因此，与其说“降雨量将正好是 5 毫米”，不如画一个框（预测区域），并说“降雨量将在 4 毫米到 6 毫米之间”。

目标：我们希望这个框既小（精确），又足够大，以确保 90% 的情况下能捕捉到真实答案（可靠）。
当前方法：标准方法为每个城市独立绘制这些框。它们并不关心城市的框加起来是否等于国家的框。这通常导致巨大且浪费的框，因为该方法过于保守，忽略了城市之间的关联性。

3. 解决方案：“协调”（投影器）

作者结合了两个概念：

共形预测：绘制安全框的方法。
预测协调：一种用于修复“混乱地图”以使数字吻合的技术。

类比：
想象你将一个三维物体的影子投射到二维墙壁上。

原始预测：你有一个三维物体（你的预测），它略微悬浮在墙壁之外，没有接触它本应所在的表面。
投影步骤：作者将这个悬浮物体直接“投影”到墙壁上。这迫使物体平铺并遵守墙壁的规则（即层级结构）。
结果：一旦物体被压平在墙上，影子（预测框）就会变得更紧凑、更高效。

4. 重大发现：更小的框，同样的安全

本文证明了两个主要观点：

针对整体画面（联合覆盖率）：如果你想要一个覆盖整个国家天气的单一巨大框，使用这种“投影”步骤可以使框更小（更精确），同时保持 90% 的安全保证。这就像收缩一条松散的毯子，使其完美贴合床铺而不留任何缝隙。
针对各个部分（分量级覆盖率）：这是更难的部分。他们希望在确保整个系统正常运行的同时，使每个特定城市的框变得更小。
- 他们引入了一种衡量效率的新方法。
- 他们证明，通过使用一种尊重层级结构的特定类型“投影”（称为协调步骤），每个城市的独立框将比逐个猜测时更小。
- 关键点：要获得最佳的小框，你需要对模型中的误差行为（具体而言，它们的“协方差”）有所了解。如果你无法完美掌握这一点，你仍然可以使用“鲁棒”版本的投影来获得更好的框，尽管可能不是绝对最小的。

5. 他们的测试

他们不仅在纸面上进行数学推导，还进行了模拟。

他们创建了看似复杂层级结构（如能源使用或销售的家谱树）的伪造数据。
他们将新的“协调”方法与旧的“原始”方法进行了比较。
结果：新方法始终产生更紧凑、更高效的预测区域（更小的框），且未损失任何安全保证。在某些情况下，改进幅度巨大（在他们的测试中，预测区域的大小减少了高达 65%）。

一句话总结

作者找到了如何将一组混乱且无法吻合的预测，强制使其遵守层级结构（如家谱树）的规则，并利用该结构来缩小预测周围的“安全网”，从而在不降低可靠性的情况下使其更加精确。

技术摘要：分层数据的共形预测

问题陈述
本文解决了为具有分层结构的多变量数据构建有效预测区域所面临的挑战，其中某些分量是其他分量的线性组合（例如，区域总和汇总为国家总量）。虽然标准共形预测（CP）为多变量数据提供了有限样本的覆盖率保证，但它通常忽略了分层数据固有的结构约束。相反，预测协调技术利用这些线性约束来提高点预测的一致性，但在历史上难以将这些优势扩展到具有严格不确定性量化的概率预测中。核心问题在于结合这两种事后处理程序，以生成既具有统计有效性（保证覆盖率）又具有高效性（最小化区域大小）的预测区域，同时尊重分层一致性约束。

方法论
作者提出了一个框架，通过投影步骤将分裂共形预测（SCP）与预测协调相结合。该方法论在数据和非共形分数满足独立同分布（i.i.d.）假设下运行，并引入了特定的分布假设以进行效率分析。

分层设定：数据 $y \in \mathbb{R}^m$ 满足 $y = H y_{1:n}$ ，其中 $H$ 是一个已知的结构矩阵，将最细粒度级别（ $n$ ）映射到聚合级别（ $m$ ）。满足 $u = H u_{1:n}$ 的向量被称为“一致的”。
两个覆盖率目标：
- 联合覆盖率：确保真实向量 $y_{T+1}$ 以 $1-\alpha$ 的概率落在多变量预测集 $C(x_{T+1})$ 内。
- 分量覆盖率：确保每个单独分量 $y_{T+1,i}$ 以 $1-\alpha$ 的概率落在其特定区间 $C_i(x_{T+1})$ 内。这被确定为分层数据更自然的目标，因为分量通常被单独分析。
提出的程序（协调后的 SCP）：
- 针对联合覆盖率：作者适应了椭球 SCP 方法（Johnstone & Cox, 2021; Messoudi et al., 2022）。他们引入了一个在 $A$ -范数下正交的投影矩阵 $P_A$ ，将其投影到一致子空间 $\text{Im}(H)$ 上。回归量被修改为 $\hat{\mu} = P_A \hat{\mu}_{base}$ ，非共形分数基于观测值与这些投影预测之间的距离计算。
- 针对分量覆盖率：作者利用带符号的非共形分数（ $s_t = y_t - \hat{\mu}_t$ ）。与绝对残差不同，带符号的残差保留了线性一致性属性（如果 $\hat{\mu}_t$ 被投影，则 $s_t = P s_t$ ）。该程序在将基础预测投影到一致子空间后，对这些带符号分数按分量应用 SCP。
效率分析：
- 理论效率分析基于残差服从椭圆分布的假设。
- 对于固定的权重向量 $w$ ，作者证明，使用特定矩阵 $P_w$ （由 $H$ 和 $w$ 导出）对预测进行投影，相比于未投影的预测，减少了预期区间长度平方和。
- 在假设分数协方差矩阵 $\Sigma$ 已知的情况下，得出了更强的“神谕”结果。使用**最小迹（MinT）**投影（ $P_{\Sigma^{-1}}$ ），该方法实现了优于任何其他投影矩阵的均匀效率提升。

主要贡献

新颖的综合：这项工作首次正式结合了共形预测和预测协调，为分层数据构建有效且高效的预测区域。
分量覆盖率保证：本文引入并分析了分量覆盖率标准，这比分层应用中的联合覆盖率更相关。它证明了所提出的协调后 SCP（算法 5）保持了这些保证。
效率证明：
- 联合覆盖率：作者证明，只要正确选择投影矩阵，协调后的椭球预测区域在勒贝格测度上就比标准椭球区域均匀更小。
- 分量覆盖率：在椭圆分布假设下，本文确立了协调后的预测区间比标准分量区间更高效（预期平方长度更小）。这是通过将区间长度的最小化与预测协调文献中核心的迹最小化问题（特别是 MinT 方法）相关联来实现的。
技术创新：作者利用带符号的非共形分数来处理预测协调中通常要求的无偏性假设的缺失，从而弥合了两个领域之间的差距，同时利用迹不等式来证明共形设置中的效率增益。

结果
理论发现通过在具有不同复杂度（多达 1,801 个节点）的合成分层数据上的广泛实验得到验证。

覆盖率：所有提出的算法在所有配置中均成功实现了联合和分量目标的预期覆盖率水平（90%）。
效率（联合）：协调后的椭球方法（算法 2）始终产生比基线（算法 1）更小的预测体积。
效率（分量）：
- **加权最小二乘法（WLS）**协调策略（使用对角协方差估计）始终优于基线（直接法）和其他方法（OLS、Combi），将总区间长度减少了 15% 到 65%。
- MinT策略（使用完整协方差矩阵）在小型分层结构中表现最佳，但在大型分层结构（配置 5 和 6）中变得不可靠，这是由于协方差矩阵估计中潜在的奇异性问题。
- Combi和OLS方法表现不一，其中 OLS 具有鲁棒性但效率不如 WLS。

意义与主张
本文声称提供了改善分层设置中不确定性量化的理论基础。通过证明结构约束可以在事后被利用以缩小预测区域而不牺牲覆盖率，这项工作为训练阶段计算成本高昂的分层建模提供了一种实用的替代方案。

作者对其理论保证的范围持谨慎态度，指出分析依赖于 i.i.d.框架和椭圆分布假设。他们明确指出，现实世界的分层时间序列通常违反非共形分数的 i.i.d.假设。因此，本文将结果定位为基础性步骤，建议未来的工作应将这些原则扩展到非交换数据（例如，通过自适应共形推断）和动态分层结构。其主要意义在于确立“协调”不仅是点预测的工具，而且是增强无分布预测集效率的有效机制。