🤖 machine learning

Expectations vs. Realities: The Cost of MSE-Optimal Forecasting Under Conditional Uncertainty

本文表明，在多步时间序列预测中最小化均方误差会在点预测准确性与条件不确定性下的边际现实性之间产生一种根本性的权衡，揭示了在 MSE 上的微小放宽往往能带来显著的现实变异性增益，同时也暴露了标准评估指标在长时程预测中的局限性。

原作者： Riku Green, Zahraa S. Abdallah, Telmo M Silva Filho

发布于 2026-06-04

📖 1 分钟阅读☕ 轻松阅读

原作者： Riku Green, Zahraa S. Abdallah, Telmo M Silva Filho

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心问题：“平均值”是一个骗子

想象一下，你正在尝试预测未来 10 天的天气。

传统方法 (MSE)： 大多数计算机模型都在训练如何完美地预测平均结果。如果降雨概率是 50%，晴天概率也是 50%，模型每次都会预测“5 50% 的降雨概率”（或者是一个阴沉、细雨蒙蒙的日子）。它通过在“平均意义上”保持正确来最小化误差。
现实情况： 在现实世界中，天气并不会一直保持阴沉。它要么大雨滂จะต้อง，要么阳光明媚。那个“平均”的阴天实际上从未发生过。

本文认为，当我们试图预测更远的未来（更长的时间跨度）时，这种“平均值”方法会变得越来越具有误导性。模型会变得欠离散（under-dispersed）——它太过于平滑、太安全、也太乏味了。它无法捕捉到现实中发生的剧烈波动和多样性。

“不确定性间隙”类比

想象一条向河流下游流动的河流。

短期（低不确定性）： 如果你观察前方 10 英尺处的河流，你可以看清水的去向。其“平均”路径与真实路径非常接近。
长期（高不确定性）： 如果你观察 10 英里外的河流，河流会分叉成许多可能的路径。有的向左，有的向右，有的泛滥，有的干涸。
- 条件期望（Conditional Expectation，即模型的预测值） 是画在所有这些路径正中间的一条单一线条。
- 实现值（Realization，即实际发生的情况） 是其中一条特定的、曲折起伏的路径。

论文引入了一个概念，叫做**“条件不确定性间隙”（Conditional Uncertainty Gap）**。这是那条平滑的“平均线”与那些杂乱、真实的路径之间的距离。随着时间的推移，这个间隙会变得巨大。那条“平均线”看起来将不再像任何可能在现实中发生的事情。

重大发现：你无法鱼与熊掌兼得

作者证明了一个在预测领域中感觉像是物理定律的数学事实：你无法同时做到既能最准确地预测“平均值”，又能最真实地预测“多样性”。

权衡取舍： 如果你强迫你的模型去完美拟合“平均值”（最小化均方误差，即 MSE），它就必须变得过于平滑，从而错过现实世界的混沌。
后果： 如果你想让你的模型看起来像真实世界（拥有所有的起伏变化），你必须接受它在预测精确的“平均值”方面会稍逊一筹。

这就像是在绘制一张城市地图。

策略 A (MSE 最优)： 你画一条从 A 点到 B 点的完美直线，因为这是最短距离。在距离计算上它是“完美”的，但如果你按此路线驾驶，你会撞上建筑物。
策略 B (现实主义最优)： 你画一条蜿蜒的道路，顺着实际的街道行驶。这条路更长，在尺子测量下也不够“高效”，但它是唯一能让你开车通过的方式。

实验结果显示

研究人员在九个真实世界数据集（如用电量、交通流量和天气）以及合成系统上进行了测试。

“帕累托前沿”（The Pareto Frontier）： 他们发现了一条曲线，曲线上的每一点都代表一个不同的模型。
- 一端是：擅长预测“平均值”但表现糟糕于展示多样性的模型（过于平滑）。
- 另一端是：看起来非常真实但平均值误差略高的模型。
- 令人惊讶的是： 你可以通过接受极小的误差增加（不到 5%），就能从“过于平滑”的一端移动到“真实感”的一端。作为交换，你获得的现实感提升是巨大的（通常提升了 17% 到 30%）。
忽视此点的代价： 通过仅仅观察“平均误差”（MSE），目前的基准测试系统性地选择了那些“过于平滑”的模型。它们正在丢弃那些实际上更符合真实世界的模型，仅仅是因为这些模型在平均值上的表现比完美的模型差了 5%。

不同策略的表现

论文还研究了模型是如何进行预测的，并发现它们自然地分成了不同的阵营：

直接预测器（Direct Predictors，即“平均值追求者”）： 这些模型试图一次性预测整个未来。它们倾向于聚集在“过于平滑”的那一端。它们痴迷于平均值。
递归预测器（Recursive Predictors，即“现实主义追求者”）： 这些模型先预测一步，然后利用这个预测值去预测下一步，以此类推。由于它们在每一步中都会不断加入一点“噪声”或随机性，它们自然地创造了更多的多样性。它们最终看起来更像真实生活，即使它们的平均数值可能稍有偏差。

实际应用启示

作者并不是说“停止使用 MSE”。他们是说：不要仅仅把 MSE 作为唯一的衡量标准。

新的经验法则：

找到具有最佳“平均误差”（MSE）的模型。
查看所有与之“几乎一样好”（误差在 5% 以内）的其他模型。
在这些“几乎一样好”的模型中，挑选那个看起来最像真实生活的模型（拥有正确的起伏变化）。

简而言之： 不要只选择在数学上最接近平均值的模型。要选择那个虽然在平均值上稍逊一筹，但实际上看起来更像我们所生活的那个混乱且不可预测的世界的模型。有时候，在数学上做到“足够好”，才是实现对现实“伟大”预测的唯一途径。

技术摘要：预期与现实：在条件不确定性下 MSE 最优预测的代价

1. 问题陈述

多步时间序列预测（MSF）传统上使用点对点误差指标进行评估，其中最显著的是均方误差（MSE）。这种评估范式隐含地将条件期望 $E[Y_h | X]$ 视为充分且理想的预测目标。然而，作者认为，随着预测时界的增加，这一假设会变得脆弱。在许多现实世界系统中，不确定性会随时间累积，导致未来结果的条件分布变得日益分散。

在条件不确定性较高的条件下，条件期望（即 MSE 最优目标）可能会与典型的实际结果产生显著偏差。因此，严格针对 MSE 进行优化的模型往往会产生“欠离散”（under-dispersed）的预测——它们在点对点意义上是准确的，但未能捕捉到真实未来分布的边际变率。本文指出，这不仅仅是模型容量或优化能力的失败，而是当条件不确定性不为零时，确定性预测在平方损失函数下的一个结构性局限。

2. 方法论与理论框架

2.1 理论形式化

作者利用全方差定律（Law of Total Variance）将该问题形式化：
$\text{Var}(Y_h) = \text{Var}(E[Y_h | X]) + E[\text{Var}(Y_h | X)]$
他们定义了一个条件不确定性间隙（ $\text{Gap}_h$ ），即由给定过去信息所导致的不可约不确定性占总变率的比例：
$\text{Gap}_h = \frac{E[\text{Var}(Y_h | X)]}{\text{Var}(E[Y_h | X]) + E[\text{Var}(Y_h | X)]}$
当 $\text{Gap}_h > 0$ 时，条件均值解释的方差小于实现未来值的总方差。

2.2 准确性–现实性权衡（定理 1）

其核心理论贡献是定理 1，该定理证明了对于任何确定性预测器 $f_h$ ：

如果 $\text{Gap}_h > 0$ ，没有任何预测器能同时最小化 MSE 并匹配实现未来的边际分布 ( $L(Y_h)$ )。
唯一的 MSE 极小化器是条件期望 $f^*_h(X) = E[Y_h | X]$ 。
因为只要 $\text{Gap}_h > 0$ ，就有 $\text{Var}(f^*_h(X)) < \text{Var}(Y_h)$ ，所以 MSE 最优预测器的边际分布与真实的边际分布存在严格差异。
这产生了一个不可避免的帕累托前沿（Pareto frontier），介于点对点准确性（MSE）与边际现实性（以 Wasserstein 距离 $W_1$ 衡量）之间。

2.3 实证表征

为了量化这种权衡，作者采用了以下手段：

受控合成系统： 一个随机 Mackey–Glass 系统，可以通过调节噪声水平 ( $\sigma_s$ ) 和时界 ( $h$ ) 来控制条件不确定性间隙。
现实世界基准测试： 九个涵盖能源、交通、天气、空气质量和金融的数据集（例如 METR-LA、Electricity、ExchangeRate）。
评估策略：
- 直接法 (MIMO)： 一步预测整个时界。
- 递归法 (REC)： 迭代地进行单步预测。
- 推理规则： 对于概率模型，他们比较了基于均值的推理（预测均值）与基于样本的推理（单样本展开）。
指标： 使用 MSE 衡量准确性，使用 $W_1$ （Wasserstein-1 距离）衡量边际现实性。他们还报告了轨迹级指标（如 DTW、向量 $W_1$ 等）作为稳健性检查。

3. 关键结果

3.1 权衡的几何特性

低不确定性区间： 当条件不确定性间隙较小时，帕累托前沿是退化的；各种方法聚集在单一的操作点附近，在该点最小化 MSE 同时也获得了较高的现实性。
高不确定性区间： 随着间隙的增大（更长的时界或更高的噪声），可达到的性能集合会扩展为一个明显的帕累托前沿。这区分了 MSE 最优预测器（其表现为欠离散）与那些通过牺牲点准确性来匹配边际变率的方法。
相关性： 帕累托前沿的长度随估计的条件不确定性间隙的增加而单调增加。

3.2 严格选择 MSE 的代价

机会成本： 作者定义了一个“成功的交易”场景，即在放松 MSE 约束的情况下，能够获得比之更大的相对现实性增益。
实证发现： 在所有合成和现实世界基准测试中，仅通过放松 5% 的 MSE 约束，通常就能释放出不成比例的现实性收益。
- 中位数改进： 在所有数据集中，边际现实性（ $W_1$ ）的中位数提升了 17.3%。
- 成功率： 在 84.1% 的案例中（全球平均值），微小的 MSE 放宽带来了净正向的现实性交易。
- 数据集差异： 某些数据集（如 Weather、ExchangeRate）显示，在保持高成功率的同时，其边际现实性的中位数提升超过了 22%。

3.3 策略与推理作为控制手段

研究表明，不同的预测策略系统性地占据了帕累托前沿的不同区域：

MSE 最优极端： 由直接法 (MIMO) 策略和基于均值的推理主导。这些方法倾向于估计条件期望，并产生平滑且欠离散的预测。
现实性最优极端： 由递归法 (REC) 策略和基于样本的推理主导。这些方法随时间传播变率，从而更好地匹配实现未来的边际分布，但代价是更高的点误差。
概率模型： 即便是概率模型也无法消除这种权衡，它们只是在其中进行导航。选择预测均值使模型靠近 MSE 极端，而选择采样则使其靠近现实性极端。

4. 贡献

本文做出了三个主要贡献：

理论解释： 证明了长时界预测中的过度平滑是确定性预测在存在条件不确定性时的结构性属性，而非模型误设错误。如果条件不确定性间隙不为零，任何确定性预测器都无法同时最小化 MSE 并匹配边际分布。
实证量化： 表征了准确性–现实性的帕累托前沿，表明严格基于 MSE 的模型选择会带来显著且可避免的边际现实性代价。对 MSE 的微小放宽通常能带来巨大的现实性收益。
实践协议： 将策略选择（直接法 vs. 递归法）和推理选择（均值 vs. 样本）重新定义为导航这一多目标空间的机制，而非仅仅是优化单一指标。

5. 意义与建议

本文认为，在存在条件不确定性的情况下，点对点准确性与分布现实性之间的不兼容性是多步预测的一个内在属性，且独立于模型类别。

实践建议：
作者提出了一种用于模型选择的容差带选择规则：

在验证集上识别 MSE 最优模型。
保留所有 MSE 处于最优值在一个微小的、取决于应用的容差 $\epsilon$ （例如 5%）范围内的候选模型。
在这些“近似相等”的模型中，选择能最大化边际现实性（使用 $W_1$ 等指标）的模型；或者对于概率模型，使用校准度和锐度诊断指标进行选择。

意义：
这项工作挑战了仅根据 MSE 对模型进行排序的标准做法，特别是在长时界预测中。它表明，单一指标的评估在结构上可能是具有误导性的，因为它会系统性地剔除那些更能代表实现未来的预测。通过将长时界预测视为一个受约束的多目标选择问题，从业者可以避免“仅优化 MSE”带来的代价，并选择能更好地反映数据生成过程中内在不确定性的模型。