技术摘要：一种基于耦合的 $f$-散度诊断方法，用于马尔可夫链蒙特卡洛（MCMC）

问题陈述

马尔可夫链蒙特卡洛（MCMC）方法是近似目标分布 $\pi$ 下期望值的标准手段。虽然理论收敛性通常使用统计散度（如全变差距离、Wasserstein 距离、$f$-散度）进行分析，但实际的诊断工具在历史上一直依赖于诸如 Gelman–Rubin 统计量之类的指标，这些指标评估的是特定泛函的一致性，而非链向平稳分布收敛的根本过程。

现有的基于耦合的诊断方法（例如 Biswas 等人，2019 年）为全变差（TV）和 Wasserstein 距离提供了可计算的上界。然而，这些方法存在以下局限性：

1. 范围限制： 它们通常局限于 TV 和 Wasserstein 度量，缺乏一个通用的 $f$-散度（如 Kullback–KL、$\chi^2$）统一框架。
2. 效用有限： 它们主要作为警示工具（警告非收敛情况），但并不提供纠正当前链分布 $\mu_t$ 与目标分布 $\pi$ 之间差异的机制。具体而言，仅知道 $\|\mu_t - \pi\|_{TV} < \epsilon$ 并不能让你将对 $\mu_t$ 的认知转化为对 $\pi$ 的认知。
3. 预热要求： 一些基于耦合的方法需要预先确定的滞后（lag）或预热期，以确保链已经充分混合，从而使诊断变得有效。

作者识别出了一个空白：目前不存在一种通用的、在线的、可计算的任意 $f$-散度诊断方法，能够同时提供一致的 Radon–Nikodym 导数 $d\pi/d\mu_t$ 估计，从而实现重要性加权推断。

方法论：通过耦合进行权重协调（Weight Harmonization）

本文提出了一种名为**权重协调（Weight Harmonization）**的新算法，该算法通过运行并行的相互作用马尔可夫链来产生一致的重要性权重和收敛诊断。

核心机制

该方法利用 $2N$ 个粒子（链），在 $\pi$-不变核 $K$ 下演化。与独立的并行链不同，这些粒子通过**耦合（couplings）和权重平均（weight averaging）**进行相互作用：

1. 耦合（Coupling）： 在每一步 $t$，粒子对 $(X^n_t, X^{m}_t)$ 使用耦合核 $\bar{K}$ 进行演化。这种耦合的设计使得每个链的边缘动力学保持为 $K$，但两个链相遇（即 $X^n_{t+1} = X^m_{t+1}$）的联合概率为正。
2. 权重平均（Weight Averaging / Harmonization）： 当两个耦合的粒子相遇时（即它们的统计状态重合），它们累积的重要性权重会被取平均值。如果 $X^n_{t+1} = X^{m}_{t+1}$，则新的权重设定为 $W^n_{t+1} = W^m_{t+1} = (W^n_t + W^m_t)/2$。如果它们没有相遇，权重保持不变。
3. 重新洗牌（Reshuffling / Exchange）： 为了防止系统停滞在孤立的粒子对中，算法会定期对粒子的配对进行重新洗牌。已经耦合过的粒子对会被随机化，以与其他链交换信息，从而确保权重信息的全局混合。

理论基础

该方法依赖于加权经验度量 $\sum W^m_t \delta_{X^m_t}$ 收敛于目标分布 $\pi$ 的概念。

• 一致性： 定理 2 确立了对于任何有界函数 $\varphi$，加权估计量 $\sum W^m_t \varphi(X^m_t)$ 随粒子数 $N \to \infty$ 在概率上收敛于 $\int \varphi d\pi$。
• 散度上界： 通过对离散加权度量应用引理 1，作者推导出量 $\frac{1}{2N} \sum f(2N W^m_t)$ 是 $f$-散度 $D_f(\pi \| \mu_t)$ 的一个概率上界。
• 收敛性： 定理 3 证明，在遍历性和耦合假设下，权重将收敛至均匀分布（$1/2N$），导致散度上界几乎处处收敛于零。定理 4 进一步表明，在一致耦合假设下，这种收敛是以指数速度发生的。

主要贡献

1. 通用的 $f$-散度诊断： 本文引入了第一个基于任何 $f$-散度（包括 KL、$\chi^2$、Hellinger 和 TV）的通用 MCMC 收敛诊断方法，而非仅限于 TV 或 Wasserstein 距离。
2. 在线有效性： 与基于滞后的方法（如 Biswas 等人，2019 年）不同，该方法从第一步迭代（$t=0$）起就是有效的，不需要预定义的预热期或滞后参数。
3. Radon–Nikodym 估计： 除了诊断功能外，该方法还产生了一致的 Radon–Nikodym 导数 $d\pi/d\mu_t$ 估计。这使得权重可以用于重要性加权推断，将当前链分布 $\mu_t$ 下的期望修正为对 $\pi$ 下期望的估计。
4. 理论保证： 作者证明了所提出的散度上界随时间是非增的，并且随着链趋向于平稳分布而收敛至零。

实验结果

论文在三个基准测试上评估了该方法：

1. 可解高斯系统： 一个 100 维高斯目标，其理论 $f$-散度是可计算的。该方法一致地为基于 $\chi^2$ 的有效样本量（ESS）提供了保守的上界。结果显示，这些上界在不同的混合速率下都是稳健的，但由于采用了成对耦合的特性，在粒子数量增加时会出现“最坏情况”下的性能退化。
2. 逻辑回归（Pólya–Gamma Gibbs）： 应用于德国信用数据集。该方法产生的全变差（TV）界比最先进的 Biswas 等人（2019 年）的方法更为保守，但它无需像后者那样需要 350 次迭代的预热期。
3. 随机波动率模型（MALA）： 一个高维（$D=2,500$）随机波动率模型。该方法同样产生了比 Biswas 等人（2019 年）更保守的 TV 界，特别是在“预热”阶段，此时基于滞后的方法的界已经开始下降。作者指出，基于滞后的方法需要 500 步预热（这是足够的），而协调方法则不需要此类调优。

在所有案例中，该方法都被描述为是保守的：它倾向于高估散度（或低估 ESS）相对于理论最优值或其他估计器的数值。然而，作者认为这种保守性是一个特征，确保了界限作为可靠上限的有效性。

意义与主张

本文声称弥补了理论收敛分析与实际诊断之间的鸿沟，提供了一个统一且可计算的 $f$-散度框架。

• 诊断效用： 它为比目前可用方法更广泛的一类度量提供了实用的监控工具。
• 推断效用： 该方法的主要创新在于其双重用途：它不仅是一个诊断工具，也是生成一致的重要性权重以进行推断的机制，而这种能力在以往基于耦合的诊断中是缺失的。
• 局限性： 作者承认，与现有的 TV 估计器相比，该方法较为保守，且在当前的成对实现方式下，其界限的效率会随粒子数量的增加而下降。他们指出，Rao–Blackwellization（对所有可能的排列进行积分而非采样其中一个）和后向修正（离线平滑）是未来减少这种保守性的潜在途径。

这项工作旨在为“重要性加权 MCMC”奠定基础，即利用耦合机制不仅用于检测收敛，还用于主动修正链样本的分布。