📊 statistics

Nonlocal Transition Kernel for Efficient Learning of Restricted Boltzmann Machines

本文提出了一种在受限玻尔兹曼机（RBM）序列上具有往返结构的创新非局部转移核，该核能够实现高效的单步非局部移动，以克服分块吉布斯采样和深度退火的采样局限性，从而提高受限玻尔兹曼机学习的稳定性和质量。

原作者： Kaiji Sekimoto, Muneki Yasuda

发布于 2026-08-19

📖 1 分钟阅读☕ 轻松阅读

原作者： Kaiji Sekimoto, Muneki Yasuda

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在人工智能领域，机器通常通过构建世界的内部模型来学习，试图理解隐藏在海量数据中的模式。其中一种强大的方式是使用一种被称为受限玻尔兹曼机（restricted Boltzmann machine）的模型。可以将这种模型想象成一个两层网络：底层接收原始数据（如图像或声音），顶层则是试图理解这些数据的隐藏单元层。模型通过调整这两层之间的连接来匹配它所看到的数据。然而，教导这种模型是极其困难的，因为它需要计算机同时计算数十亿种可能的隐藏状态的平均行为。由于对于复杂问题而言，精确计算这种平均值是不可能的，研究人员依赖于一种称为“采样”的技术。这涉及让计算机生成一系列随机猜测，以近似真实的平均值。学习的质量完全取决于这些随机猜测在整个可能性图谱中探索得有多好。如果计算机陷入了可能性中的一个小山谷而无法爬出以探索其他区域，模型的学习效果就会很差。

几十年来，生成这些猜测的标准方法是一种被称为“分块吉布斯采样”（blocked Gibbs sampling）的过程。这种方法就像是一个局部探索者，他只进行小步且谨慎的移动，在再次移动前仅检查周围的即时环境。虽然这在简单的地形中运行良好，但当数据形成复杂的、分离的簇（类似于浓雾海面上的岛屿）时，该方法就会彻底失效。在这种情况下，地形充满了高能量势垒——即局部探索者无法攀爬的陡峭悬崖。计算机会被困在一个簇中，无法到达其他簇，从而导致学习过程崩溃。为了解决这个问题，研究人员此前开发了一种称为“深度调温”（deep tempering）的方法，它创建了一个辅助模型的阶梯，从难以训练的模型到顶层更简单、更平坦的模型。通过将一个状态沿着这个阶梯向上移动，在平坦的顶端进行探索，然后再向下移动，计算机可以实现不同簇之间的跳转。然而，这种方法很慢；它需要许多小步才能从底部走到顶部再回到底部，这意味着计算机在进行有意义的跳跃之前，仍然会在局部区域停留很长时间。

在最近的一项研究中，来自山形大学的赤本凯志（Kaiji Sekimoto）和安田宗树（Muneki Yasuda）提出了另一种更为高效的移动方式。他们没有设计成沿着模型阶梯进行多次小步移动，而是设计了一个“转换核”（transition kernel）——一套用于移动状态的规则——能够在一个移动步骤内完成一次完整的往返。想象一位旅行者，他从山脉底部出发，迅速攀登到最高峰，在顶峰跨出一步，然后在一连串连续的动作中回到底部。研究人员的方法在数学模型上正是如此。它获取当前训练模型的状态，将其通过一系列更简单的辅助模型向上传递，在最顶端执行一步，然后将结果通过序列传回原始模型。这种结构使系统能够绕过困住标准方法的各种高能量势壁，从而能够在单次转换中跳跃到相距甚远的各个数据簇之间。

研究人员在多个数据集上测试了这种新方法，包括旨在模拟具有困难、分离簇的合成数据，以及如花卉图像和葡萄酒特性等真实世界数据。他们将这种新的往返法与标准的局部探索者以及之前的阶梯攀爬法进行了对比。结果显示，新方法在探索完整可能性范围方面表现得显著更好。在模拟中，新方法比其他方法更频繁地在不同的数据簇之间移动。它还降低了对模拟起始点的依赖；虽然其他方法需要很长时间才能忘记起点，但新方法能迅速稳定在一种准确反映真实数据分布的模式中。最重要的是，当用于训练模型时，新方法防止了旧技术中经常出现的学习失败。使用这种新方法训练的模型保持了稳定性，并实现了更高的准确度，即使在数据复杂且能量势垒很高的情况下也是如此。

这项研究表明，通过重构计算机在模型可能性中的移动方式，可以实现更快、更可靠的学习。研究人员发现，他们的这种方法可以用比以前更少的步骤实现高质量的采样，这对于高效训练大型模型至关重要。虽然这项工作是通过数值实验和模拟而非现实世界的部署完成的，但结果为改进机器如何从复杂数据中学习指明了一条清晰的路径。作者指出，未来的工作可能涉及对该方法为何混合得如此之好，以及模型阶梯的具体设计如何影响性能进行更深入的理论分析。目前，这一发现是针对机器学习中一个长期存在的问题所提出的实用解决方案：如何帮助计算机逃离局部陷阱并洞察全局图景。

技术摘要：用于高效学习受限玻尔兹曼机的非局部转移核

问题陈述

通过极大似然估计来学习受限玻尔兹曼机（RBM）在计算上具有挑战性，因为评估模型联合分布的期望值具有不可行性。标准方法依赖于使用块吉布斯采样（Blocked Gibbs Sampling, BGS）的采样近似，这是一种局部马尔可夫链蒙特卡洛（MCMC）转移核。然而，当目标分布是具有高能量壁垒分隔的多模态分布时，BGS 会面临混合效果差的问题。在这种情况下，BGS 的局部性导致采样过程严重依赖于初始状态，从而导致松弛时间变慢且采样质量下降。这种退化通常会导致梯度估计不准确，从而引发训练失败，例如在使用空间蒙特卡洛积分（SMCI）等先进近似方法时出现的对数似然崩溃现象。

虽然深度退火（Deep Tempering, DT）通过构建一系列可学习的 RBM 来促进并行退火，但它仍然保留了一个局限性：在序列中的分布之间的转换被限制在相邻层之间。因此，要实现从高温度（顶层）分布回到训练（底层）RBM 的非局部移动，需要多个连续的转换，无法实现单步的非局部状态空间探索。

方法论

作者提出了一种定义在 Deep Tempering 所使用的 RBM 序列之上的新型非局部转移核。该核旨在通过单步操作执行“往返”转换，使得状态能够在整个 RBM 序列中遍历并返回到训练 RBM，而无需依赖 Metropolis–Hastings 接受/拒绝机制（其他非局部方法如 Tempered Transition 会因该机制导致链停滞）。

提出的核结构

转移核记为 $T^{prop}_{\Theta}$ ，它在由 $L+1$ 个 RBM 组成的序列（从索引为 0 的训练 RBM 到最顶层的 RBM $L$ ）上递归运行。单个转换步骤的过程包含三个阶段：

上升路径（Upward Pass）： 从当前低层 RBM 的可见变量状态开始，算法采样隐藏变量并执行相邻层（ $\ell$ 与 $\ell+1$ ）之间的交换操作（swap operations）。这使状态通过序列向上传播。
顶层转换（Topmost Transition）： 到达最顶层 RBM ( $L$ ) 时，执行单步块吉布斯采样（BGS）转换。由于高层 RBM 的状态空间通常较小（由于隐藏单元数量减少），预计此处混合速度会很快。
下降路径（Downward Pass）： 通过逆转上升路径中所执行的交换操作，将状态传回训练 RBM。

数学上，从第 $\ell$ 层到第 $L$ 层的子序列的转移核 $T_{\ell}$ 定义为：
$T_{\ell}(V'_{\ell:L} | V_{\ell:L}) = \sum \dots P_{\theta_{\ell}}(v'_{\ell} | h^{-}_{\ell}) S_{\ell, \ell+1}(\dots) T_{\ell+1}(\dots) S_{\ell, \ell+1}(\dots) P_{\theta_{\ell}}(h_{\ell} | v_{\ell})$
其中 $S_{\ell, \ell+1}$ 代表层间 $\ell$ 与 $\ell+1$ 之间的交换核。

学习程序

学习过程遵循 Deep Tempering 框架。整个 RBM 序列的参数通过梯度上升进行更新。对数似然的梯度通过以下方式估计：

数据相关项： 通过扩展数据分布的祖先采样进行估计。
模型相关项： 使用基于所提转移核的采样近似进行估计（取代了以往方法中使用的标准 BGS 或 DT 核）。

核心贡献

往返转换核（Round-Trip Transition Kernel）： 本文引入了一种能在单个转换步骤内完成完整往返 RBM 序列的转移核。与 DT 需要多个步骤才能在非相邻层之间移动不同，该核实现了从训练 RBM 到顶层再返回的单步直接非局部移动。
无拒绝不变性（Invariance without Rejection）： 不同于依赖 Metropolis–Hastings 且存在拒绝非局部提议（导致链停留在当前状态）的 Tempered Transition，所提核通过其构造确保了 RBM 序列不变分布的确定性保持，从而避免了“停滞”问题。
缓解训练失败： 该方法专门设计用于解决在 SMCI 学习中观察到的不稳定性，即高能量壁垒导致 BGS 混合时间爆炸并引起对数似然退化的问题。

实验结果

作者在六个数据集上评估了所提方法：一个合成 GenRBM 数据集，以及两个合成“岛屿（Islands）”和“五边形（Pentagon）”数据集（专为多模态分布设计），以及真实世界数据集（Iris、Wine、Seeds）。

学习稳定性： 在 BGS 和标准 DT 学习经常失败（表现为对数似密下降和期望估计的平均绝对误差增加）的 GenRBM 数据集上，所提核（ $L=3$ ）保持了稳定的学习和高对数似然。
采样质量： PCA 空间中的转换轨迹可视化显示，与 BGS 和 DT 相比，所提核探索了更广泛的状态范围，并且在簇之间移动得更加频繁。
混合速度： 在所有测试数据集中，所提核的样本分布与目标分布之间的全变分（TV）距离比 BGS 和 DT 更快地衰减。这表明该方法对初始状态的依赖性更弱，且混合速度更快。
性能： 所提方法在学习性能上达到或优于 BGS 和 DT，特别是在 BGS 难以处理的高能量壁垒设置下。

重要性与主张

本文声称，所提转移核成功弥合了局部采样的效率与并行退火的全局探索能力之间的差距。通过在单步内实现非局部转换，该方法显著减少了获得高质量样本所需的转换次数。

作者断言，这种采样质量的提升直接转化为更稳定的 RBM 训练，特别是缓解了 SMCI 学习中观察到的训练失败。往返结构利用了上层 RBM 较小的状态空间来促进快速混合，并将其传递回训练 RBM。论文得出结论，这种方法增强了参数梯度估计的准确性，从而提高了 RBM 学习（尤其是针对多模态分布）的整体稳定性和性能。未来的工作建议包括对混合性质进行理论分析以及集成无偏 MCMC 估计器。