CoCoNet: : Convex Conformal Network for Multi-Dimensional Uncertainty Regions

在数据科学领域，预测一个单一的数字往往是直截了当的，但预测一组相关的结果则是一个完全不同的挑战。当模型对未来进行预测时，它很少能提供一个完美的单一数值；相反，它必须提供一个合理的可能结果范围，以解释其中的不确定性。对于简单的预测，这个范围可能只是一个单一的区间。然而，当同时预测多项事物时——例如汽车在三维空间中的未来位置，或者气象站的温度、湿度和风速——这种不确定性就会形成一个复杂的、多维度的形状。目标是绘制一个围绕这些可能性的边界，使其既足够紧凑以供决策使用，又足够宽广以确保值得信赖。如果边界太松，则无法提供实际指导；如果太紧，则面临错过实际结果的风险。挑战在于如何塑造这个边界，使其能够匹配不确定性真实的、通常是不规则的几何形态，而不是将其强行塞入一个像方框或球体那样僵化的预定义形状中。

佐治亚理工学院的一组研究人员开发了一种名为 CoCoNet 的新方法来解决这个问题。他们的工作重点在于创建不仅在数学上保证在一定百分比时间内是正确的，而且尽可能小且高效的预测区域。传统方法通常依赖于固定的几何模板，例如通过拉伸椭圆或矩形来适应数据。虽然这些形状易于处理，但当真实的不确定性呈现偏斜、不对称或具有复杂的、不规则的形式时，它们就会失效。研究人员发现，通过教计算机直接从数据中学习不确定性的形状，同时严格执行一条规则——即该形状必须是凸的（意味着它没有向内的凹陷或孔洞）——他们可以创建出完美适应数据结构的预测区域。

他们方法的核心包含一个两步走的流程。首先，系统会学习一个评分函数，用于衡量一个潜在结果相对于标准预测而言有多么“令人惊讶”。至关重要的是，这个评分函数被设计为是凸的，从而确保生成的可能结果区域是一个单一且实心的形状。研究人员测试了该系统的两个版本：一个是通过一系列相连的平面（类似于折叠的纸张）来构建形状，另一个是使用高度灵活的神经网络架构，能够以几乎任何方式塑造形状。随后，他们使用另一组独立的数据对这些学习到的形状进行校准，以确保它们符合所需的覆盖保证。这意味着，如果系统被设定为 90% 的置信度，那么无论底层数据分布如何，实际结果在 90% 的时间内都会落在预测区域内。

为了测试他们的这种方法，研究人员将其应用于三十个不同的现实世界问题，涵盖了从自动驾驶车辆的运动预测到建筑能耗估算，再到分子化学性质分析等领域。这些任务涉及同时预测从两个到十六个不同的结果。他们将这种新方法与几种现有技术进行了对比，包括那些生成简单矩形、椭圆或其他标准形状的技术。结果令人瞩目。他们系统中最为灵活的版本（即利用神经网络学习形状的版本）在三十个任务中的二十二个任务中都产生了最高效的预测区域。在许多情况下，它生成的区域明显小于现有最佳方法所产生的区域，这意味着它可以在不牺牲可靠性的前提下，提供更紧凑、更有用的不确定性界限。

该研究还探讨了当底层不确定性不符合整齐模式时会发生什么。在一些合成测试中，当真实的不确定性呈现三角形或梯形形状时，标准方法表现挣扎，往往会产生巨大的、低效的区域，为了覆盖正确区域而浪费了大量空间。相比之下，这种新方法学习到了这些形状的精确几何结构，生成的预测区域紧紧贴合数据。即使在不确定性大致呈椭圆形的案例中，新方法的表现也等同于甚至优于专门为椭圆设计的模型，证明了其多功能性。研究人员展示了，通过允许从数据中学习形状而非从外部强加形状，该系统能够捕捉到其他方法所忽略的细微不对称性和不同结果之间的依赖关系。

这项工作之所以重要，是因为预测区域的质量直接影响基于此做出的决策。在机器人技术、金融或气候建模等领域，了解不确定性的精确界限可以实现更安全、更有效的规划。一个过于庞大的预测区域会迫使决策者为不太可能发生的极端情况做准备，从而导致资源利用效率低下。相反，一个过小的区域可能会错过实际结果，从而导致灾难性的失败。通过提供一种既能生成数学严谨的、又能实现几何高效的预测区域的方法，这一新技术为在复杂的多维环境中应对不确定性提供了更可靠的工具。研究人员已公开了他们的代码和数据，允许他人将这种方法应用于自己的问题，从而弥合了理论保证与高性能不确定性量化之间的鸿沟。