📊 statistics

Bayesian Ensembling: Insights from Online Optimization and Empirical Bayes

本文介绍了在线贝叶斯堆叠（Online Bayesian Stacking, OBS），这是一种利用在线优化和投资组合选择方面的见解来自适应结合贝叶斯模型的创新集成方法，为在线贝叶斯模型平均法提供了具有理论依据的替代方案，并解决了其局限性，同时为实际应用提供了明确指导。

原作者： Daniel Waxman, Fernando Llorente, Petar M. Djurić

发布于 2026-01-26

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Daniel Waxman, Fernando Llorente, Petar M. Djurić

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你正在试图预测天气。你拥有一支由五位不同气象学家组成的团队：

气象学家 A 只观察气压计。
气象学家 B 只观察风速。
气象学家 C 只观察湿度。
气象学家 D 使用超级计算机模型。
气象学家 E 依赖于传统的民间谚语。

你的目标是将他们的意见结合起来，以获得对明天的最佳预测。这就是**贝叶斯集成（Bayesian Ensembling）**问题。

这篇题为《贝叶斯集成：来自在线优化与经验贝叶斯的洞察》（“Bayesian Ensembling: Insights from Online Optimization and Empirical Bayes”）的论文探讨了一个特定的挑战：如何随着时间的推移，在实时从新数据中学习的过程中，将这些专家结合起来，而不至于犯下巨大的错误？

以下是利用简单类比对他们研究结果的拆解。

1. 旧方法：“偏心的孩子”（贝叶斯模型平均法）

长期以来，标准方法被称为贝叶斯模型平均法（Bayesian Model Averaging, BMA）。

运作方式： 你开始时给予每位气象学家相等的机会。随着日子一天天过去，你会检查谁是对的。如果气象学家 A 在昨天是对的，那么今天你会给他们分配稍微大一点的“预测饼图”份额。如果他们错了，你就缩小他们的份额。
问题所在： 论文指出这种方法过于僵化。如果气象学家 A 连续几天运气好，算法可能会判定：“A 是唯一重要的人！”并把 100% 的饼图都给他们，从而忽略了其他人。
结果： 这被称为**“坍缩”（collapsing）**。系统把赌注全部押在了一位专家身上。如果这位专家后来证明错了（或者天气发生了他们无法预测的变化），整个系统就会失效，因为它已经遗忘了其他四位专家。论文称之为旧方法的一种“病态现象”。

2. 新方法：“聪明的投资组合经理”（在线贝叶斯堆叠）

作者提出了一种名为**在线贝税斯堆叠（Online Bayesian Stacking, OBS）**的新方法。

类比： 不要只是挑选一个最喜欢的气象学家，想象你是一名股票市场投资组合经理。
- 每位气象学家都是一只不同的股票。
- 他们的预测准确度就像是股价。
- 你的目标不是寻找单一的“最佳”股票，而是建立一个能随时间增长财富的多元化投资组合。
运作方式： OBS 利用来自在线凸优化（Online Convex Optimization）（一个通常用于股票交易的领域）的数学知识，不断重新平衡你的投资组合。
- 如果气象学家 A 表现出色，你就多买一点他们的“股票”。
- 如果他们表现不佳，你就卖出一点。
- 至关重要的是，你绝不会把全部赌注押在一个人身上。你会保持一种组合，确保如果天气发生变化且另一位专家成为了明星，你仍然持有他们的股份。

3. “顿悟时刻”：连接两个世界

该论文最大的洞察是意识到：结合预测模型与管理股票投资组合在数学上是完全相同的题目。

在金融领域，你想实现财富最大化。
在预测领域，你想实现“对数得分”（log-score）最大化（这是一种衡量你的预测有多自信且多准确的高级方式）。
因为这些问题在数学上是完全一致的，作者可以借鉴来自股票市场世界的强大且经过验证的算法（如指数梯度法 Exponentiated Gradient 和 在线牛顿步法 Online Newton Step），并将它们用于结合 AI 模型。这赋予了他们旧方法所不具备的“数学保证”这一超能力。

4. 为什么这很重要（实验）

作者在几种场景下测试了这种新的“投资组合经理”方法与旧的“偏心的孩子”方法：

玩具问题（Toy Problems）： 真相被隐藏的简单数学谜题。
神经网络： 结合不同的 AI 大脑结构。
股市数据： 使用复杂的金融模型预测标普 500 指数。
机器人技术： 预测当环境变化时机器人手臂的运动。

结果：
在几乎所有的测试中，新的 OBS（投资组合） 方法都击败了旧的 O-BMA（偏心的孩子） 方法。

在稳定环境中： OBS 的表现与最佳的静态混合模型一样出色。
在变化的环境中： 当“天气”发生变化（非平稳数据）时，旧方法经常坍缩到错误的专家身上且无法恢复。新的 OBS 方法能够快速适应，将其投资组合转向当前表现出色的专家。

5. “经验贝叶斯”解释

论文还使用**经验贝叶斯（Empirical Bayes）*的概念来解释为什么*旧方法会失败。

将旧方法（BMA）想象成在寻找数据的唯一真神。它假设其中一个模型是完美的，并试图找到它。
新方法（OBS）则假设没有单一的模型是完美的。相反，它将“权重”（我们对每个模型的信任程度）视为需要学习的对象。这就像是在说：“我们不知道谁是最好的，所以让我们直接寻找所有人的最佳组合。”

总结

论文的核心观点是：停止试图挑选单一的最佳 AI 模型。 相反，将你的模型集合视为一个多元化的投资组合。利用股票交易的数学知识，不断重新平衡你对每个模型的信任。这可以防止系统“坍缩”到错误的单一答案上，并允许它在世界发生变化时实现平滑适应。

谁应该使用它？
作者建议，如果你正在处理数据可能会发生变化（这在机器学习中几乎总是发生）的现实世界场景，你应该优先选择这种新的**在线贝叶斯堆叠（Online Bayesian Stacking）**方法，而不是传统的贝叶斯模型平均法。

技术摘要：通过在线优化与经验贝叶斯实现的贝叶斯集成

问题陈述

本文探讨了在在线学习场景下，如何结合多个贝叶斯模型进行预测推理的挑战。虽然组合模型（集成）是统计学和机器学习中一项成熟的技术，但现有方法在数据顺序到达且真实数据生成过程未知时面临特定局限。

主要的贝叶斯集成方法包括：

贝叶斯模型平均 (BMA)： 根据模型的边际似然对模型进行加权。虽然在“M-封闭”（M-closed，即真实模型包含在候选集合中）设置下是优化的，但在“M-开放”（M-open，即真实模型不在其中）设置下，BMA 会遭遇“权重坍缩”问题，即将所有权重集中在单个模型上，而该模型可能泛化能力较差。
贝叶斯堆叠 (Bayesian Stacking)： 在验证集上优化对数得分（预测似然），以寻找模型的最佳凸组合。然而，标准的堆叠通常是一个批处理过程，需要独立的验证数据集，这使其不适用于需要在没有留出数据的情况下随新数据到达而更新权重的严格在线场景。

本文旨在通过提出在线贝叶斯堆叠 (OBS) 来弥补这一差距：这是一种通过优化预测分布的对数得分来实时自适应组合贝叶斯模型的方法，并提供了一个理论框架来理解其与在线 BMA 的关系。

方法论

1. 与在线投资组合选择 (OPS) 的联系

核心方法论见解是将贝叶斯堆叠重新解释为一个通用在线投资组合选择 (OPS) 问题。

类比： 将 $K$ 个模型的预测密度 $p_k(y_t | x_t, D_{t-1})$ 视为金融市场中 $K$ 种资产的“价格相对值”（收益率）。
目标： 最大化累积对数预测似然的目标，在数学上等同于最大化投资组合的对数财富。
算法： 这种联系使得作者能够利用来自在线凸优化 (OCO) 文献中高效且具有理论基础的算法，具体包括：
- 指数梯度法 (EG)： 一种乘性更新规则。
- 在线牛顿步法 (ONS)： 利用二阶信息来实现更紧密的遗憾界（regret bounds）。
- Soft-Bayes： 一种无需假设有界市场变率（梯度）即可提供遗憾界的变体。
- 折扣 ONS (D-ONS)： 一种通过对二阶信息引入遗忘因子，专为非平稳环境设计的扩展版本。

2. 遗憾与损失函数的理论分析

论文确立了 OBS 与在线 BMA (O-BMA) 之间截然不同的理论特性：

O-BMA 作为 Hedge 算法： 作者证明了 O-BMA 的更新等效于学习率为 $\eta=1$ 且具有特定损失函数的 Hedge 算法。O-BMA 针对最佳单个专家（模型选择）最小化遗憾。
OBS 作为混合优化： OBS 针对最佳专家凸组合（模型组合）最小化遗憾。
遗憾界： 通过将 OBS 映射到 OPS，本文推导出了 OBS 的遗憾界。在温和的假设下，通过 Soft-Bayes，OBS 可实现 $O(\sqrt{T})$ 遗憾；通过具有有界梯度的 ONS，可实现 $O(\log T)$ 遗憾。相比之下，O-BMA 仅相对于最佳单个模型实现常数级遗憾，如果最佳单个模型相对于混合模型而言是一个较差的预测器，则其表现可能极差。

3. 经验贝叶斯视角

作者提供了经验贝叶斯 (EB) 的解释，以说明 BMA 的病态现象：

BMA 作为指示变量的 EB： BMA 对指示变量执行 EB，实际上是在选择具有最高边际似然的单个模型。这导致了“坍缩”现象，即集成退化为单个模型，即使混合模型能产生更好的预测精度。
OBS 作为权重的 EB： OBS 直接对混合权重本身执行 EB，将权重视为待优化的超参数。这通过寻求最优加权组合而非单一赢家，避免了坍缩问题。

核心贡献

新颖的联系： 本文建立了在线贝叶斯堆叠与通用在线投资组合选择之间的严谨等价关系，从而能够使用高效的 OCO 算法进行贝叶斯集成。
理论澄清： 它阐明了 O-BMA 与 OBS 之间的区别，表明它们优化不同的代价函数（模型选择 vs 模型组合），并基于 OPS 文献提供了 OBS 的遗憾界。
经验贝叶斯解释： 提供了一个引人入胜的 EB 论据，解释了为什么 BMA 在 M-开放设置下会发生坍缩，以及堆叠如何自然地避免这一问题。
混合方法： 作者提出了一种混合方法，同时维护 O-BMA 和 OBS 混合模型，并通过第二层进行平均，从而在保持 OBS 表达能力的同时，实现相对于最佳单个模型的常数级遗憾。

实验结果

作者使用最先进模型的集成（高斯过程、变分贝叶斯神经网络以及通过序列蒙特卡洛估计的随机波动率模型）在四个场景下评估了 OBS：

玩具线性回归： 在“开放”设置（真实模型不在集成中）下，OBS 变体（EG, ONS）显著优于 O-BMA（后者坍缩到了一个糟糕的单个模型）。在“封闭”设置中，OBS 的表现几乎与理论上最优的 O-BMA 持平。
在线变分推理 (MNIST)： 使用贝叶斯神经网络，OBS 始终优于 O-BMA 和动态模型平均 (DMA)。BMA 坍缩到了单个网络，而 OBS 收敛到了平衡的权重。
金融预测 (标普 500 指数)： 通过集成多样化的 GARCH 模型，OBS 方法（EG, ONS, Soft-Bayes）优于 O-BMA 和 DMA。在这种非平稳环境中，D-ONS（折扣 ONS）取得了最佳性能。
非平稳回归： 在具有协变量偏移的数据集（如机器人数据）上，OBS 方法（尤其是 D-ONS 和 Soft-Bayes）表现稳健，并持续优于 O-BMA 和标准 DMA。

关键发现： 在所有测试案例中，OBS 均显著优于在线 BMA。研究发现，与底层机器学习模型的在线训练和预测成本相比，OBS 的计算成本可以忽略不计。

重要性与主张

本文声称，在线贝叶斯堆叠 (OBS) 为在线 BMA 提供了一个原则性的、具有理论依据且经验上更优的替代方案，特别是在现实的“M-开放”场景中（即真实数据生成过程不包含在候选模型集内）。

实践指导： 作者建议从业者在大多数机器学习应用中（这些应用通常是 M-开放的）应优先选择 OBS。他们根据环境推荐了特定的 OCO 算法：针对预期非平稳性使用 D-ONS；针对通用场景且计算资源充足时使用 ONS；针对无需梯度界限的稳健性需求使用 Soft-Bayes。
理论桥梁： 这项工作在贝叶斯集成学习与在线凸优化及投资组合选择的丰富理论框架之间搭建了桥梁，为分析和提升贝叶斯预测性能提供了新工具。
谦逊态度： 作者承认，虽然 OBS 通常更优，但在严格的 M-封闭设置下，O-BMA 仍是最优的。他们也指出，OCO 算法及其超参数（如学习率）的选择会影响性能，尽管所提方法在合理的参数范围内表现得非常稳健。

文章总结道，OBS 与投资组合选择之间的联系为持续学习、自适应遗憾以及贝叶斯集成的初始化开辟了新的研究途径。