📊 statistics

Bayesian inference for the learning rate in Generalised Bayesian inference

本文提出了一种框架，用于在广义贝叶斯推断中利用保留数据推导超参数后验分布以估计学习率和超参数，从而实现对联合不确定性的量化，并证明其在模拟和真实世界文本分析任务中均优于标准贝叶斯推断。

原作者： Jeong Eun Lee, Sitong Liu, Geoff K. Nicholls

发布于 2026-05-18

📖 1 分钟阅读☕ 轻松阅读

原作者： Jeong Eun Lee, Sitong Liu, Geoff K. Nicholls

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用通俗语言和日常类比对论文《广义贝叶斯推断中学习率的贝叶斯推断》的解释。

宏观图景：调节“信任旋钮”

想象你是一名侦探，正在试图破解一个案件。你有一本笔记本（你的先验信念），记录了你对世界运作方式的理解。然后，你开始收集证据（你的数据）。

在标准的侦探工作（标准统计学）中，你假设你的笔记本是完美的，且你的证据是 100% 可靠的。你只需将它们结合起来，得出最终结论。

但在现实世界中，情况往往错综复杂：

你的笔记本可能略微过时。
你的证据可能充满噪声、包含异常值（虚假线索），或者来自你不完全信任的来源。

广义贝叶斯推断（GBI） 是一个灵活的框架，它允许你说：“我不 100% 确定我的证据是完美的，所以我会谨慎一些。”它引入了一个**“学习率”**（让我们称之为 $\eta$ 或 信任旋钮）。

如果你将旋钮调至 1，你完全信任数据（标准统计学）。
如果你将其调低至 0.5，你信任数据，但保持较高的怀疑态度，给予你的原始笔记本更多权重。
如果你将其调至 0，你完全忽略数据，坚持你的笔记本。

问题在于：你如何知道该将信任旋钮设置到什么位置？如果你猜错了，你的结论可能会非常糟糕。

论文的解决方案：“试驾”

这篇论文提出了一种巧妙的方法，利用**保留数据（held-out data）**自动找到信任旋钮（以及其他相关设置）的完美设置。

这就像买车一样。你不会只开一次就断定它完美无缺，而是会在另一条路上进行试驾，看看它的操控性能。

训练数据（ $x$ ）：你要买的那辆车。
校准数据（ $y$ ）：试驾的道路。
目标：调整悬挂系统（信任旋钮），使车辆完美适应试驾道路。

作者构建了一个系统，利用“试驾”数据为旋钮的每一种可能设置计算一个分数。然后，他们利用贝叶斯数学绘制出一张“地图”（后验分布），显示哪些设置最可能是最佳的。这使得他们不仅能挑选出一个数值，还能理解该数值周围的不确定性。

两种试驾评分方式

论文强调了两种不同的评判车辆的方式，从而得出两种不同的“地图”：

“覆盖真相”策略（混合损失，Pooled Loss）：
- 类比：想象你希望车辆的悬挂设置能让车辆物理上恰好停在“真实”的路面上，即使路面颠簸不平。
- 目标：你希望你的最终结论能覆盖“伪真”答案（在给定不完美模型的情况下，可能的最佳答案）。
- 结果：这里的旋钮设置不会收敛到一个单一的尖锐数值；它保持某种程度的分散，承认许多设置都能让你足够接近真相。
“预测未来”策略（乘积损失，Product Loss）：
- 类比：想象你希望车辆能完美应对测试道路上的每一个颠簸，以便你能预测它明天在新道路上的表现。
- 目标：你希望你的预测对于新的、未见过的数据尽可能准确。
- 结果：随着你行驶越来越多的测试里程（更多数据），旋钮设置会锁定在一个特定的、精确的数值上。它会对最佳设置变得非常自信。

处理“损坏”的模块（半模块推断）

有时，你拥有一个由两部分（模块）组成的复杂机器。

模块 A 完美运行。
模块 B 损坏了，或者包含奇怪的异常值。

在标准统计学中，损坏的部分（模块 B）可能会毁掉整台机器。而在本文的框架（称为半模块推断或 SMI）中，你可以利用信任旋钮来“切断”损坏部分与机器其余部分的连接。

你可以将旋钮调至 0，完全忽略损坏的部分（切断模型，Cut Model）。
你可以将其调至 1，让它影响一切（标准贝叶斯）。
你可以找到一个中间地带（例如 0.3），让损坏的部分稍微透露一点信息，而不至于喧宾夺主。

论文表明，他们的方法能够自动找到这个“金发姑娘”设置（既不太多，也不太少），即使损坏的部分很棘手。

现实世界测试

作者在三种场景中测试了他们的想法：

“异常值”测试（正态混合）：
- 他们模拟了数据，其中大多数点是正常的，但少数是极端的异常值。
- 结果：他们的方法自动调低了数据的信任度以忽略异常值，其表现优于被异常值搞糊涂的标准方法。
“隐藏状态”测试（状态空间模型）：
- 他们模拟了一个系统，其中部分数据缺失，或者以不同的误差进行测量。
- 结果：他们的方法找到了信任好数据与忽略坏数据之间的正确平衡，在预测未来结果方面优于标准方法。
“词义”测试（文本分析）：
- 他们分析了从 1810 年到 2010 年的大量英语文本，以观察词义如何变化（例如，单词"bug"如何从指代昆虫转变为指代软件错误）。
- 结果：该模型非常复杂且可能不完美。通过使用他们的方法调节信任旋钮，他们在按含义对单词进行分组方面比使用固定设置取得了更好的效果。他们发现，较低的信任设置（约 0.3）效果最佳，有效地过滤了文本中的“噪声”。

核心启示

这篇论文为统计模型提供了一个万能遥控器。与其猜测该信任多少数据，或者如何处理模型中损坏的部分，你可以利用一小部分额外数据来“试驾”模型。随后，系统会告诉你如何精确调节设置以获得最准确的预测，同时也会告诉你对这些设置的自信程度。

它在以下情况效果最佳：

你的数据混乱或包含异常值。
你的模型是可靠部分与不可靠部分的复杂混合体。
你希望准确预测未来的结果。

技术摘要：广义贝叶斯推断中学习率的贝叶斯推断

问题陈述
广义贝叶斯推断（GBI）使用形式为 $\pi_s(\phi|x) \propto \exp(-\eta \ell_\beta(\phi; x))\pi(\phi)$ 的吉布斯后验来更新信念，其中 $\eta$ 是学习率， $\beta$ 代表损失函数 $\ell_\beta$ 的超参数。虽然 GBI 在处理模型误设和结合异构数据集方面行之有效，但推断超参数 $s = (\eta, \beta)$ 无法通过简单地为其分配先验并基于数据进行条件化，从而与模型参数 $\phi$ 联合估计。这样做会因归一化常数 $c(\phi, s)$ 而扭曲 $\phi$ 的后验分布。因此，现有方法通常依赖特设选择或交叉验证。本文旨在解决在涉及多个数据模块（其中某些模块可能存在误设）的场景中，估计 $s$ 并量化其不确定性的连贯框架需求。

方法论
作者提出了一个利用保留的校准数据 $y$ 对推断超参数 $s$ 进行贝叶斯推断的框架。其核心思想是将校准数据的后验预测分布 $p_s(y|x)$ 视为 $s$ 的类似然量。基于不同的损失函数，定义了两种不同的 $s$ 后验分布：

混合损失（Pooled Loss）： 定义为 $l^{(1,J)}(s; y, x) = -\log p_s(y|x)$ ，其中 $p_s(y|x) = \int p(y|\phi)\pi_s(\phi|x)d\phi$ 。该方法针对“伪真”参数 $\tilde{\phi}$ （即最小化真实数据生成过程与模型之间 Kullback-Leibler 散度的参数）的覆盖率。由此产生的后验 $\rho^{(1,J)}(s|y; x)$ 随着校准数据量 $J \to \infty$ 不会集中，而是收敛于一个与 $\pi_s(\tilde{\phi}|x)\rho(s)$ 成正比的扩散分布。
乘积损失（Product Loss）： 定义为 $l^{(J,1)}(s; y, x) = -\sum_{j=1}^J \log p_s(y_j|x)$ ，对应于负期望对数点预测密度（ELPPD）。该方法针对预测风险的最小化。在正则性条件下，由此产生的后验 $\rho^{(J,1)}(s|y; x)$ 以 $J^{-1/2}$ 的速率集中在最优超参数 $s^*$ 处，并具有渐近正态分布。

本文将此框架扩展至半模块化推断（SMI），这是一种模型由多个模块组成、其中某些模块可能存在误设的场景。作者将 SMI 识别为序列吉布斯后验（Sequential-Gibbs posterior，Winter 等人，2023）的一个具体实例。他们引入了一种新变体，即 $(\eta, \beta)$ -SMI 后验，该后验联合控制来自可疑模块的信息流（通过 $\eta$ ）和损失函数的鲁棒性（通过 $\beta$ ）。

主要贡献

超参数联合估计： 本文提供了一个统一的框架，用于利用保留数据联合估计学习率 $\eta$ 和损失超参数（例如 $\beta$ -loss 中的 $\beta$ ），超越了单参数调整。
理论刻画： 作者建立了混合后验和乘积后验的渐近性质。他们证明了乘积后验集中在预测的最优超参数上，而混合后验则针对伪真参数。他们还提供了非正则情况下的结果，其中最优 $s$ 位于参数空间的边界（例如 Cut 模型中的 $\eta=0$ ），显示其收敛于 Gamma 分布。
SMI 集成： 通过将 SMI 框架化为序列吉布斯后验，作者将现有的一致性和 Bernstein-von Mises (BvM) 定理引入模块化设置，验证了新 $(\eta, \beta)$ -SMI 更新的渐近行为。
估计量： 提出并比较了多种 $s$ 估计量，包括后验均值、损失最小化者（MAP）、调和均值以及 KL 散度最小化者。

结果
所提出的方法通过模拟研究和真实的文本分析应用进行了评估：

正态混合与状态空间模型： 在误设模型的合成实验中，学习到的超参数（特别是通过乘积损失）在测试数据的期望风险比率方面，始终优于固定贝叶斯推断（ $\eta=1$ ）和 Cut 模型（ $\eta=0$ ）。 $(\eta, \beta)$ -SMI 方法表现出与 $\eta$ -SMI 相当的性能，但具有鲁棒损失函数的额外灵活性，通常能实现比标准贝叶斯或 Cut 更新更低的风险。
文本分析（语义变化）： 应用于涵盖 1810–2010 年英语文本的语料库（EDiSC 模型），该方法用于聚类词义。与 $\eta=1$ 或通过预测后验检查选择的值相比，学习到的学习率 $\hat{\eta}$ 在保留测试数据上产生了更高的后验预测概率。生成的聚类显示出改进的语义连贯性（通过 Brier 分数衡量），优于标准贝叶斯推断，有效处理了模型的误设和稀疏数据。
渐近验证： 模拟实验证实了理论预测：随着 $J$ 增加，乘积后验围绕最优值集中，而混合后验保持扩散，这与预测与参数覆盖率的不同推断目标相一致。

意义与主张
本文主张，将推断超参数视为具有源自保留数据的后验的随机变量，为广义贝叶斯推断中的不确定性量化和最优选择提供了一条连贯的途径。作者强调，混合校准与乘积校准的选择对应于不同的推断目标（覆盖伪真参数与最大化预测密度），因此，由此产生的最优超参数不必一致。

这项工作对于多模块推断尤为重要，因为它提供了一种原则性的方法来平衡已正确设定和误设模块之间的信息流，而无需诉诸任意调整。作者指出，虽然该方法在高维超参数空间下计算密集，但对于低维情况（例如 $\eta$ 和 $\beta$ ）是实用的，并为 WAIC 等方法提供了一种鲁棒的替代方案，后者在误设设置中可能不可靠。该框架支持在涉及异构数据和模型误设的复杂现实世界问题中使用广义贝叶斯。