🤖 machine learning

Implicit Variational Rejection Sampling

本文提出了隐式变分拒绝采样（IVRS），这是一种将基于神经网络的隐式提议分布与判别器引导的拒绝采样以及一种新的 IR-ELBO 指标相结合的新方法，旨在实现比传统变分推理技术更紧致的后验近似。

原作者： Jian Xu, Shigui Li, Wei Chen, Jiacheng Li, Zhiqi Lin, Delu Zeng, Xinghao Ding, John Paisley, Qibin Zhao

发布于 2026-06-15

📖 1 分钟阅读☕ 轻松阅读

原作者： Jian Xu, Shigui Li, Wei Chen, Jiacheng Li, Zhiqi Lin, Delu Zeng, Xinghao Ding, John Paisley, Qibin Zhao

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图在黑暗的房间里猜出一个隐藏物体的确切形状。你手里有一把手电筒（你的计算机模型），它可以照亮物体，但光束有点模糊，无法完美捕捉到每一个曲线。在机器学习的世界里，这种“猜测”的过程被称为变分推理（Variational Inference），而那个“隐藏物体”则是描述数据如何相关的一种复杂的数学分布。

长期以来，科学家们一直使用一种简单的手电筒光束，假设物体只是一个光滑的圆球（这被称为“平均场”近似）。但现实世界中的数据很少是完美的圆球；它们往往是凹凸不平、扭曲或者带有奇怪孔洞的。

为了解决这个问题，研究人员开始使用神经网络来构建一个更聪明、更灵活的手电筒，使其光束能够更好地拟合物体的形状。这被称为隐式变分推理（Implicit Variational Inference）。然而，即使是这些聪明的神经网络，有时也会因为其设计或训练方式的限制而导致形状略有偏差。

新的解决方案：IVRS

论文介绍了一种名为 隐式变分拒绝采样（Implicit Variational Rejection Sampling, IVRS） 的新方法。你可以把它想象成在你的手电筒设置中增加了一位“质量控制检查员”。

它是这样工作的，这里用一个简单的类比来说明：

1. 提议（即“猜测”）
首先，你的神经网络生成许多样本点（就像投掷飞镖一样）来猜测隐藏物体的所在位置。我们称之为“提议（Proposal）”。有时，这些飞镖落在正确的区域，但通常它们会落在稍微偏左或偏右的地方，因为神经网络并不完美。

2. 检查员（即“判别器”）
这就是见证奇迹的地方。论文增加了第二个神经网络，充当一个严格的检查员。这个检查员的任务是观察第一个网络投掷出的每一枚飞镖，并询问：“这枚飞镖是否精准落在了真实物体的范围内，还是仅仅是一个猜测？”

检查员也不知道物体的确切形状，但它非常擅长将“猜测”（提议）与“现实”（真实数据）进行比较。它会计算一个分数：这枚飞镖正确的可能性有多大？

3. 拒绝（即“过滤器”）
现在，系统应用一个过滤器：

如果检查员说：“这枚飞镖看起来很棒，非常接近真相，”系统就会保留它。
如果检查员说：“这枚飞镖有点偏离了，”系统就会拒绝它并将它丢弃。

通过丢弃错误的猜测并仅保留最好的那些，最终收集到的飞镖集合比原始神经网络单独能做出的图像要准确得多，能更精确地描绘出隐藏物体的形状。

“更紧”的界限 (IR-ELBO)

论文还引入了一个新的数学评分，称为 IR-ELBO。想象一下，你正在试图证明你的手电筒表现很好。通常，你必须满足于一个“下界（lower bound）”——一个保证，即：“我的猜测至少有这么好。”

因为 IVRS 丢弃了错误的猜测，论文证明了新的评分（IR-ELBO）是一个**更紧（tighter）**的保证。这就像是在说：“我不只是知道我的猜测‘至少’有这么好；我知道它比原来更接近真相，因为我过滤掉了其中的错误。”

实验结果显示

作者在几个“玩具”问题（如香蕉形或 X 形等简单形状）以及现实世界的任务上测试了这种方法，例如：

预测房价或混凝土强度（使用贝叶斯神经网络）。
生成图像（例如来自 MNIST 数据集的数字手写体或来自 CIFAR-10 的小图片）。

在每种情况下，IVRS 方法产生的结果都比传统方法更接近“地面真值（ground truth）”（即真实答案）。它生成的图像更清晰，预测也更准确。

权衡

这个过程存在一个小小的代价。因为系统必须在找到一个好的飞镖之前，“检查”并可能“拒绝”许多飞镖，所以它需要更多的计算时间和算力。然而，论文表明，由于最终结果显著提高了准确性，这种额外的成本是值得的。

总结一下： IVRS 将一个聪明但并不完美的猜测者（神经网络）与一个严格的质量检查员（判别器）结合在一起。通过拒绝错误的猜测，他们创造出了一个比猜测者独自能达到的结果更接近现实的最终结果。

技术摘要：隐式变分拒绝采样 (Implicit Variational Rejection Sampling, IVRS)

1. 问题陈述

变分推理 (Variational Inference, VI) 是贝叶斯机器学习的基石，用于近似复杂的后验分布。传统的 VI 方法通常依赖于均值场分解 (mean-field factorization)，这以牺牲后验表达能力为代价来换取计算的可行性。为了解决这一问题，隐式变分推理 (implicit variational inference) 应运而生，它利用神经网络来建模灵活的隐式分布，而无需显式的密度函数。

然而，本文指出一个关键的局限性：尽管神经网络具有理论上的表达能力，但实际约束（如有限的容量、糟糕的初始化或优化困难）往往会导致这些隐式分布无法准确匹配复杂的真实后验分布。因此，基于神经网络的后验近似并不总是能够作为可靠的“开箱即用”解决方案。作者认为，虽然隐式分布提供了灵活性，但它们缺乏在许多场景下进行高保真推理所需的精确度。

2. 方法论：隐式变分拒绝采样 (IVRS)

为了弥合隐式分布的灵活性与精确采样之间的差距，作者提出了 隐式变分拒绝采样 (IVRS)。该方法通过将拒绝采样与隐式分布相结合，来精炼后验近似。

核心机制

该方法将神经网络生成的隐式分布 $q_\phi(z|x)$ 视为一个提议分布 (proposal distribution)。随后，它应用拒绝采样来生成一个重采样分布 $r_{\theta,\phi}(z|x)$ ，该分布作为最终的变分近似。

该过程包含三个关键组件：

隐式提议 (Implicit Proposal)： 一个神经网络 $f_\phi(x, \epsilon)$ 从基础噪声分布 $\epsilon$ 中生成样本 $z$ 。
通过对抗训练进行的密度比估计： 由于真实后验 $p_\theta(z|x)$ $p_{θ} (z ∣ x)$ 和隐式提议 $q_\phi(z|x)$ $q_{ϕ} (z ∣ x)$ 通常缺乏解析密度形式，因此无法直接计算接受概率。作者采用了一个判别器网络 $T_\eta(x, z)$ $T_{η} (x, z)$ ，通过对抗训练来区分来自真实联合分布 $p(x, z)$ $p (x, z)$ 的样本与来自提议分布的样本。
- 最优判别器近似对数密度比： $T^*(x, z) \approx \log q_\phi(z|x) - \log p(z)$ 。
- 这使得可以构建一个完全可微的接受概率函数 $a(z)$ ，用于近似目标（未归一化后验）与提议之间的比例。
拒绝采样 (Rejection Sampling)： 根据估计的接受概率对提议样本进行接受或拒绝。得到的重采样分布 $r_{\theta,\phi}$ 是对真实后验的一个精炼近似。

理论基础：IR-ELBO

作者推导出了一个新的目标函数，称为隐式重采样证据下界 (Implicit Resampling Evidence Lower Bound, IR-ELBO)。

通过对使用重采样分布 $r_{\theta,\phi}$ 的边际对数似然应用 Jensen 不等式，他们推导出了一个比标准 VI 更紧致的变分下界。
IR-ELBO 结合了判别器网络来估计隐式密度项，确保该目标函数保持无偏，并适用于小批量 (mini-batch) 优化。
单调性性质 (Monotonicity Property)： 文中证明（命题 1），在具有最优判别器的理想设置下，重采样分布与真实后验之间的 Kullback-Leibler (KL) 散度是缩放参数 $M$ 的单调非增函数。当 $M \to \infty$ 时，重采样分布会趋向于真实后验，这在理论上保证了精度的提升。

3. 主要贡献

本文概述了三个主要贡献：

IVRS 算法： 引入了一种全新的推理方法，将隐式分布与拒绝采样相结合，以增强基于神经网络的变分推理。
IR-ELBO 与理论分析： 构建了隐式重采样证据下界，并通过理论分析证明，与原始隐式提议相比，重采样分布降低了与真实后验的 KL 散度。
实验验证： 通过全面的实验表明，IVRS 在各种任务的准确性和效率方面均优于传统的变分推理技术（包括对抗变分贝叶斯 AVB 和半隐式变分推理 SIVI）。

4. 实验结果

作者在多个无监督学习任务上对 IV way 进行了评估：

玩具密度估计 (Toy Density Estimation)： 在低维合成分布（如高斯、拉普拉斯、香蕉形、GMM）上，IV 与基准隐式分布相比，一致降低了交叉熵值，展示了与目标轮廓更好的对齐。
贝叶斯神经网络 (BNNs)： 在六个 UCI 回归数据集上，IVRS 在均方根误差 (RMSE) 和负对数似然 (NLL) 方面的表现与 AVB、SIVI 及其变体相比具有竞争优势或更优性能。
变分自编码器 (VAEs)：
- MNIST： IVRS 生成的图像比 AVB 更接近地面真值 (ground truth)。从定量上看，它实现了 81.78 的负对数证据 (NLE)，超过了 SIVI 和 AVB。当集成到 NVAE 架构中时，它实现了 77.36 的 NLE，优于原始的 NVAE (78.01)。
- CIFAR-10 和 ImageNet： IVRS 取得了比经典 VAE 方法更低的每维度比特数 (bpd) 分数。值得注意的是，将 IVRS 添加到强基准模型（如 CR-NVAE）中进一步降低了 bpd（例如，在带有增强的 CIFAR-10 上从 2.51 降至 2.43），这表明该方法与数据增强是互补的。

效率： 作者指出，虽然拒绝采样引入了计算开销，但 GPU 加速的并行采样使成本保持在适度水平（例如，在 $M=100$ 时，Boston 数据集的相对成本增加为 1.82 倍），这对于显著的精度提升而言是合理的。

5. 重要性与主张

本文将 IV 是否定位为克服基于神经网络的变分推理中“表达能力差距”的一种机制。其重要性在于：

无需改变架构的精炼： 它可以在不一定需要更大或更复杂神经网络架构的情况下，提高后验近似的质量。消融研究表明，拒绝采样带来的精度收益大于单纯增加网络容量（例如，将隐藏单元增加两倍或三倍）。
与现有技术的正交性： 该方法被呈现为与其他进展（如数据增强或特定先验设计，如 VampPrior）相辅相成的通用推理精炼步骤。
理论保证： IR-ELBO 的推导和单调性证明为拒绝采样如何使变分下界更紧密提供了理论支持，超越了经验性的启发式方法。

作者对局限性保持了谦逊的态度，承认该方法需要对超参数 $M$ 进行经验调优，并且在极高维设置（数千维）下可能会面临由于维度灾难带来的挑战，但在中高维场景（数百维）下表现良好。