📊 statistics

Investigating the Histogram Loss in Regression

本文通过理论与实证分析，研究了用于回归任务的直方图损失（Histogram Loss），证明其性能提升主要源于优化过程的改进而非分布建模能力的增强，并证明了其在无需大量超参数调优的情况下，在深度学习应用中的实际可行性。

原作者： Ehsan Imani, Kai Luedemann, Sam Scholnick-Hughes, Esraa Elelimy, Martha White

发布于 2026-06-09

📖 1 分钟阅读☕ 轻松阅读

原作者： Ehsan Imani, Kai Luedemann, Sam Scholnick-Hughes, Esraa Elelimy, Martha White

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

核心思想：预测一个“模糊”的目标

想象一下，你正在试图教一个机器人去猜测室外的温度。

传统方法（平方误差/Squared Error）： 你告诉机器人：“如果实际温度是 20°C，而你猜的是 21°C，那是一个小错误。如果你猜的是 30°C，那就是一个巨大的错误。” 机器人每次都试图精准地命中那个确切的数字。
新方法（直方图损失/Histogram Loss）： 你不再要求它瞄准一个单一的数字，而是告诉机器人：“温度很可能在 20°C 左右，但它可能在 18°C 到 22°C 之间的任何地方。” 你要求机器人画出一个直方图（柱状图），展示温度落在不同范围内的概率。

这篇论文研究了为什么这种“模糊”的方法（预测整个分布）通常比“精确数字”的方法效果更好，即使你最终关心的只是平均温度。

核心发现：关键在于“路”，而非“地图”

长期以来，研究人员一直认为这种新方法之所以有效，是因为它迫使机器人学习一个更“聪明”的世界“地图”（更好的内部表示）。他们认为：“如果你让机器人做一件更难的工作（预测一整张图表），它一定学到了更有用的东西。”

这篇论文的主要发现推翻了这个观点：
这种提升并不来自于机器人学习到了更好的地图，而是来自于机器人通往目标的那条路变得更加平坦了。

类比： 想象你开车前往一个目的地。
- 旧的损失函数（平方误差）： 道路上充满了突然的、陡峭的坑洼和悬崖。如果你转错了弯，车会剧烈颠簸，导致很难平稳地转向目的地。
- 新的损失函数（直方图）： 道路是用平滑的沥青铺成的。即使你稍微转错了方向，车也会平缓地滑回正轨。

论文从数学上证明了，“直方图损失”为计算机的优化算法（驾驶员）创造了一个更平滑的景观。这使得计算机能够更快、更可靠地找到更好的解决方案，而不需要去“学习”关于数据本身的任何额外信息。

关键实验及其结论

作者进行了多项测试，以查明为什么这条“平滑之路”如此有效：

1. “平滑化”技巧（高斯目标）
在使用这种新方法时，你必须决定你的目标有多“模糊”。

太尖锐： 如果你说温度“恰好”是 20°C（一个单一的尖峰），机器人会感到困惑并产生巨大的误差。
太模糊： 如果你说温度可能在 0°C 到 100°C 之间的任何地方且概率相等，机器人就会变得懒惰并只猜中间值。
恰到好处： 论文发现，使用以目标为中心的**钟形曲线（高斯分布）**效果最好。这就像是在说：“温度肯定是 20°C，但也有极小的概率是 19°C 或 21°C。” 这种特定的“模糊度”是保持低误差的秘诀。

2. 这仅仅是“数据增强”吗？
有人认为这种方法之所以有效，是因为它本质上是通过向数据添加噪声来“作弊”（比如告诉机器人：“是 20°C，但也许是 20.1°C”）。

测试： 他们尝试在旧方法中加入噪声。
结果： 效果几乎没有提升。新方法不仅仅是关于添加噪声，它关乎的是“模糊”目标的数学逻辑如何引导学习过程。

3. 它是否学习了更好的“表示”？
他们测试了机器人是否学会了更好的内部语言。

测试： 他们提取了一个用新方法训练的机器人的“大脑”，并强迫一个用旧方法训练的机器人去使用它。
结果： 旧的机器人并没有因此变得更好。这证明了新方法的成功并不是因为它迫使机器人构建了更好的世界内部模型。它纯粹是关于优化过程（平滑之路）的问题。

4. 对“坏数据”的鲁棒性
如果训练数据中有错误（例如，温度计坏了，显示为 500°C）会怎样？

结果： 与旧方法相比，新方法对这些“离群值（异常值）”更加宽容。因为它预期的是一个范围而非一个点，所以一个疯狂的数据点不会让整个系统失去平衡。

实践建议：如何使用它

论文得出结论，你不需要成为数学天才也能使用它。他们发现了一个适用于几乎所有问题的“黄金法则”，无需为每个新问题调整设置：

划分范围： 将你的可能答案划分为 100 个桶（bin）。
设定模糊度： 让“钟形曲线”目标的宽度约为一个桶宽度的 2 倍。
添加填充： 确保你的桶延伸到你预期的最高值和最低值之外，这样就不会切掉边缘。

如果你遵循这三个步骤，直方图损失通常会击败标准的“平方误差”损失，尤其是在处理复杂任务（如时间序列预测——股票价格、天气等，或强化学习——AI 玩游戏）时。

总结

论文揭示了“直方图损失”并不是一种通过强迫 AI 做更难的数学题来让 AI 变聪明的魔术。相反，它是一种更好的转向机制。通过要求 AI 预测一个可能性的范围而非一个单一的数字，数学变得更加平滑，训练变得更加稳定，AI 也更容易达到更好的答案。

技术摘要：探究回归任务中的直方图损失（Histogram Loss）

问题陈述

在回归任务中，即使只需要预测均值，训练神经网络来对目标变量的整个条件分布进行建模也变得越来越普遍。虽然这种方法通常比标准的平方误差（ $\ell_2$ ）损失能带来性能提升，但其背后的原因尚未得到充分理解。先前的假设认为，建模分布有助于提高性能，是因为它迫使网络学习更好的表示，或者提供了对离群值的鲁棒性。本文研究了直方图损失（Histogram Loss, HL），这是一种通过最小化灵活的直方图预测与目标分布之间的交叉熵来学习条件分布的方法。主要目标是确定性能增益是源于建模额外信息（表示学习），还是源于优化景观（optimization landscape）的改善。

方法论

直方图损失（HL）将回归问题重新参数化为分类任务。该方法包含三个主要步骤：

离散化： 将连续输出空间划分为 $k$ 个分箱（bins）。
目标构建： 将训练数据中的每个标量目标 $y_j$ 转换为目标概率分布（一个长度为 $k$ 的向量）。本文提倡使用以 $y_j$ 为中心、具有固定方差 $\sigma^2$ 的截断高斯目标分布（记作 HL-Gauss），但也分析了狄拉克 $\delta$ 分布（HL-OneBin）和均匀混合分布（HL-Uniform）。
优化： 神经网络输出一个直方图（通过 softmax 层），代表目标落在每个分箱中的概率。模型通过最小化预测直方图与目标分布之间的交叉熵来进行训练。最终的预测是各分箱中心的加权平均值。

本文在四个回归数据集（CT Position, Song Year, Bike Sharing, Pole）以及时间序列/强化学习任务上进行了全面的实证研究。它将 HL-Gauss 与 $\ell_2$ 损失、 $\ell_1$ 损失、混合密度网络（MDN）以及旨在隔离特定因素的各种基线模型（例如：数据增强、softmax 非线性、梯度裁剪）进行了对比。

核心贡献与理论分析

1. 优化的理论特征

本文提供的理论界限表明，与 $\ell_2$ 相比，HL 提高了优化的稳定性：

梯度范数： 作者推导了 HL-Gauss 的局部 Lipschitz 常数的上界。在 $\ell_2$ 中，梯度范数取决于预测值与目标之间可能存在的巨大差异（ $|f(x) - y|$ ），而在 HL 中，梯度范数与 $|c_i - h_i(x)|$ 成正比，其中 $c_i$ 是目标概率， $h_i(x)$ 是预测值。由于概率被限制在 $[0,1]$ 之间，HL 提供了更稳定且可靠的梯度步长。
与强化学习的联系： HL 被视为与最大熵强化学习相关的替代目标函数。最小化 HL 对应于最小化 KL 散度 $D_{KL}(q || h_x)$ ，这促进了对最优策略的高效搜索。

2. 偏差分析

本文刻画了使用直方图近似连续分布所引入的离散化偏差：

偏差界限： 对于 HL-Gauss，只要目标分布在直方图支撑集之外的概率可以忽略不计，则最小化器的偏差由半个分箱宽度（ $w/2$ ）限定。
方差参数： 高斯目标分布中方差参数 $\sigma$ 的选择至关重要。较小的 $\sigma$ （趋向于狄拉克 $\delta$ 分布）会增加偏差，而较大的 $\sigma$ 会平滑目标，从而减少偏差。作者表明，通过适当的填充（padding）和 $\sigma$ 选择，偏差可以变得微不足道。

3. 实证假设检验

作者系统地测试了关于为什么 HL 优于 $\ell_2$ 的若干假设：

表示学习： 通过在 $\ell_2$ 和 HL-Gauss 模型之间交换表示，以及使用固定的随机表示，实验拒绝了“HL 的成功归功于学习更优特征表示”这一假设。即使使用随机表示，HL-Gaus 仍保留其优势。
辅助任务： 将分布预测作为 $\ell_2$ 模型的辅助任务（或预测高阶矩）并不能复制 HL-Gauss 的性能增益。
鲁棒性： HL 对受损目标的鲁棒性高于 $\ell_2$ ，但低于 $\ell_1$ 。
优化景观： 通过对训练过程的经验追踪显示，HL-Gauss 比 $\ell_2$ 更快地降低训练误差，并表现出更稳定的梯度范数，这支持了关于更平滑优化景观的理论主张。

结果

性能： 在多种回归数据集上，HL-Gauss 在无需针对每个数据集进行超参数调优的情况下，始终实现比 $\ell_2$ 更低的平均绝对误差（MAE）和均方根误差（RMSE）。
超参数经验法则： 作者建议使用固定配置：100 个分箱， $\sigma$ 设置为两倍的分箱宽度，并在两侧进行 $3\sigma$ 的填充。这一配置在不同数据集上表现良好。
架构依赖性： 在时间序列预测（ETD 数据集）中，HL-Gauss 在循环架构（LSTM, GRU）下显著优于 $\ell_2$ ，但对于线性模型或原生 Transformer 几乎没有收益。
强化学习： 在 Atari 状态值预测中，HL-Gauss 在 55 个游戏中展现出相对于 $\ell_2$ 的一致性乘法优势。
与基线的比较：
- MDN： 表现逊于 HL-Gauss，表明对于此类任务，通过高斯混合进行分布建模不如直方图方法有效。
- $\ell_2$ + Softmax： 在某些任务上表现接近 HL-Gauss，表明 softmax 非线性确实对增益有所贡献，但 HL-Gauss 通常仍优于它，这表明 KL 散度目标函数提供了进一步的价值。
- HL-OneBin： 表现明显差于 HL-Gauss，证实了高斯平滑（以及由此产生的偏差减少）对于成功的关键作用。

意义与主张

本文得出结论：回归中直方图损失的性能提升主要是由优化改进驱动的，而非通过建模额外信息。

优化 vs. 表示： 本研究反驳了关于“分布学习迫使产生更好表示”的常见解释。相反，收益来自于“表现更好”的损失曲面，其特征是稳定的梯度范数和更快的收敛速度。
实际可行性： 作者证明了 HL 是回归任务中一个可行的、即插即用的 $\ell_2$ 替代方案。它不需要昂贵的超参数调优，并提供了一套能够很好泛化的稳健固定参数。
机制澄清： 研究明确了目标分布的选择（高斯 vs. 狄拉克）对于管理离散化偏差至关重要，并且 softmax 非线性是成功的必要但不充分条件。

本文将 HL 不仅仅定位为一种回归工具，更将其定位为理解为何分布式方法能够成功的测试平台，强调了优化景观在深度学习性能中的重要性。