Efficient prior sensitivity analysis for Bayesian model comparison

技术摘要：用于贝叶斯模型比较的高效先验敏感性分析

问题陈述
贝叶斯模型比较依赖于边际似然（贝叶斯证据）的计算，该量本质上体现了奥卡姆剃刀原理，即对过大或浪费的参数空间进行惩罚。然而，这种机制使得证据直接对先验体积的设定具有敏感性。虽然最佳实践要求先验应具有物理动机或受数据启发，但如果先验选择不当，由此产生的模型比较可能是武断的。因此，评估证据对合理的替代先验的敏感性对于稳健的科学推断至关重要。

目前，此类敏感性分析在计算上是极其昂贵的。评估替代先验的影响通常需要重复、高成本的模型重新拟合（从头开始运行完整的马尔可夫链蒙特卡洛或嵌套采样）或使用专门的采样方案。现有的用于后验推断的正式敏感性分析方法并不能扩展到贝叶斯因子，而“非正式”检查通常仅在简单的极限情况中才可行。本研究旨在解决如何在不产生重新运行整个采样过程的计算成本的情况下，高效评估先验依赖性的需求。

方法论
作者提出了一种将采样过程与证据计算解耦的方法，从而能够复用现有的后验样本进行先验敏感性分析。该方法由两个主要部分组成：

1. 重要性重采样 (SIR)：
   给定来自原始模型 $M_0$（由似然 $L$ 和先验 $p(\theta|M_0)$ 定义）的一组后验样本 $\{\theta_i\}$，该方法利用采样重要性重采样 (SIR) 来近似替代模型 $M_1$（具有相同的似然但不同的先验 $p(\theta|M_1)$）的后验。

   • 未归一化的重要性权重计算为新先验与旧先验的比值：$w_i = p(\theta_i|M_1) / p(\theta_i|M_0)$。
   • 通过根据这些权重对原始集合进行有放回的重采样，生成一组新的无权重样本 $\{\theta^*_i\}$。
   • 这一步避免了任何新的似然评估，因为似然项在权重计算中相互抵消了。

2. 学习型调和平均估计器 (LHME)：
   为了使用重采样后的样本计算替代模型的证据，作者采用了学习型调和平均估计器。

   • LHME 引入了一个学习到的目标分布 $\phi(\theta)$（通常是针对后验样本训练的正规化流），用以稳定标准的调和平均估计器。
   • 使用重采样后的样本和新先验来估计替代模型的证据，而无需重新评估似然。
   • 如果后验对先验变化不敏感，则重复使用原始的学习目标 $\phi_0(\theta)$。如果后验发生显著偏移，则在重采样样本上重新训练 $\phi(\theta)$（这一过程比完整的模型重新拟合要快得多）。

诊断检查
为了确保重要性采样的可靠性，作者实现了一个两阶段诊断工作流：

• Pareto-$\hat{k}$ 诊断： 估计拟合到重要性权重上尾部的广义帕累托分布的形状参数。如果 $\hat{k} > 0.7$，则认为重要性采样不可靠，表明必须进行完整的模型重新拟合。
• 有效样本量 (ESS)： 计算重要性权重的分数 ESS。如果 ESS 低于一个保守的阈值（例如 0.95），则表明原始后验与新后验之间的重叠度较低，从而触发重新训练目标密度 $\phi(\theta)$，以保持证据估计的低方差。

核心贡献

• 解耦采样与证据： 本研究证明，通过利用 LHME，可以将生成后验样本的过程与计算证据的过程解耦。这使得来自任何采样方法（MCMC、嵌套采样、神经密度估计器）的后验样本都可以被复用于替代先验。
• 计算效率： 该方法消除了敏感性分析过程中重复进行似然评估的需求。它提供了一种评估先验依赖性的途径，且该途径与原始采样策略无关。
• 稳健的诊断工具： 集成了 Pareto-$\hat{k}$ 和 ESS 诊断，提供了一种系统的方法来标记重要性重采样失效的情况，以及何时必须进行重新拟合，从而防止报告错误的证据估计。

结果
该方法在两个玩具问题和一个宇宙学案例研究中得到了验证：

1. 高斯玩具问题： 在 10 维高斯设置下，该方法在不同先验宽度下准确地重现了解析证据值。诊断正确识别了后验何时对先验不敏感（高 ESS，无需重新训练），以及当先验变得过于信息丰富以至于导致后验剧烈偏移时（低 ESS，高 $\hat{k}$，需要重新训练或重新拟合）。
2. Rosenbrock 玩具问题： 使用非线性 Rosenbrock 似然，该方法成功估计了偏离似然模态的信息性先验下的证据。它通过 Pareto-$\hat{k}$ 诊断正确地标记了偏移最严重的先验为不可靠。
3. 宇宙学案例研究： 应用于宇宙学中的张标比 ($r$)，该方法比较了对数先验和均匀先验。它重现了与完整嵌套采样重新拟合及 MCMC 重新运行一致的证据估计。
   • 加速比： 对于该宇宙学示例，重采样方法相比于完整的模型重新拟合实现了约 3000 倍至 6000 倍 的计算加速。
   • 准确性： 即使在后验发生中度或显著变化的情况下，估计的对数证据值也与完整重新拟合的结果在给定的不确定度范围内相匹配。

意义与主张
作者声称，这种方法为贝叶斯模型比较中的长期瓶颈——高昂的先验敏感性分析成本——提供了切实可行的解决方案。通过允许直接从重采样后的后验样本计算证据，该方法在保持对生成原始样本的采样技术无关性的同时，极大地降低了计算成本。

论文强调，虽然贝叶斯证据对先验选择的脆弱性是一个已知问题，但无法高效测试替代先验阻碍了透明的报告。该方法促进了这种透明度，使研究人员能够在不承担过高计算成本的情况下，探索其结论对合理替代先验选择的敏感性。作者指出，学习型调和平均估计器是实现这种事后高效性的关键，并且该方法适用于任何存在后验样本的场景，甚至可能扩展到跨数据集的证据合并。