⚛️ lattice

FUND: Density Flow for Sampling Unnormalised Distributions

本文介绍了 FUND，一种通过分布轨迹匹配（distribution-trajectory matching）迭代重塑目标分布，从而在效率、遍历性和模态覆盖方面克服 MCMC 及现有基于流的方法局限性的新型算法，该算法无需真实的训练样本即可学习玻尔兹曼分布。

原作者： Vikas Kanaujia, Vipul Arora

发布于 2026-09-29

📖 1 分钟阅读🧠 深度阅读

CC BY 4.0

原作者： Vikas Kanaujia, Vipul Arora

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在物理世界的隐藏架构中，从蛋白质如何折叠成其功能形状，到粒子如何在宇宙最深处相互作用，都存在着对概率性的不断探索。科学家们通常使用能量图谱来描述这些系统，其中每一个可能的系统状态都有一个特定的能量水平。自然界倾向于低能态，但要真正理解一个系统，必须能够探索整个景观，而不仅仅是那些最深的谷底。这需要生成大量的随机样本，以反映每种可能构型的真实概率。几十年来，用于这一任务的标准工具是一种被称为马尔可夫链蒙特卡洛（Markov Chain Monte Carlo）的方法。想象一下，试图通过在各个山峰之间进行微小的、随机的步进移动来绘制一张山脉图。虽然这行得通，但效率极低。如果山脉被深邃而宽阔的峡谷分隔开，探险者就会困在一个谷底中度过永恒，永远无法看到其他的山峰。这种“临界减速”长期以来一直是物理学和化学领域的瓶颈，限制了我们高精度模拟复杂材料或生物分子的能力。

最近，研究人员转向人工智能来解决这个问题，训练神经网络充当专家级向导，使其能够瞬间从景观的一个部分跳转到另一个部分。然而，这些新的 AI 向导也有自身的缺陷。为了学习如何导航地形，它们通常需要一个庞大的现有地图库——即由那些它们本应取代的、极其缓慢的旧方法所生成的数千个样本。这造成了一个悖论：为了构建一个快速的探险者，你首先需要花费数年时间缓慢地行走在地形之上。其他试图绕过这种对预存数据需求的方法，所产生的向导往往过于谨慎，仅关注最明显的谷底，而忽略了定义系统真实行为的那些复杂且分散的山峰。挑战在于创造一种能够自主发现整张地图、无需指南手册，同时又能确保不会仅仅困在世界某个角落的学习系统。

在发表于《机器学习研究汇刊》（Transactions on Machine Learning Research）的一项新研究中，Vikas Kanaujia 和 Vipul Arora 介绍了一种名为 FUND 的方法，全称为“非归一化分布的密度流”（Density Flow for Sampling Unnormalised Distributions）。他们的方法从根本上改变了这些 AI 模型学习的方式。FUND 不再试图追踪单个样本随时间变化的路径，而是专注于逐步重塑整个概率景观本身。研究人员设计了一个过程，让 AI 从一个简单的、平滑的、单峰状的小丘开始，这个小丘易于理解。然后，通过一系列渐进的变换，它将这个简单的小丘慢慢雕琢成目标系统中复杂的、多峰的山脉。在每一次变换的过程中，模型都会生成自己的样本，以此来学习下一个稍微复杂一点版本的景观。通过这种方式，模型永远不会丢失对不同山峰的视野；在构建最终复杂形状的过程中，它承载着它已经探索过的每一个谷底的记忆。

其核心创新在于模型如何处理阶段之间的过渡。传统方法之所以难以奏效，是因为它们试图一次性学习最终的复杂形状，或者依赖昂贵的模拟来生成训练数据。FUND 避开了这两个陷阱。它使用了一种称为“重要性加权”（importance weighting）的技术，允许模型利用在前一个更简单的阶段生成的样本，并对其进行调整，以适应当前稍显复杂的阶段。这创造了一个连续的学习链，使模型能够增量式地精炼其理解。为了确保模型不会忽略那些不那么明显的山峰，研究人员结合了两个不同的学习目标：一个目标鼓励模型覆盖景观的所有区域，确保没有山峰被遗漏；另一个目标则专注于强化模型对最重要的、高概率区域的理解。通过平衡这两股力量，该模型能够绘制出一张完整且准确的地图，而无需任何预先存在的真实样本数据集。

研究人员在几个代表现实世界科学问题的具有挑战性的基准测试上测试了这种方法。他们首先在一个由散布在二维空间中的四十个不同高斯峰组成的合成景观上进行测试，这项任务旨在测试模型是否能找到每一个山峰。随后，他们转向了模拟分子被困在多个稳定状态中的“多阱”（Many-Well）势能模型，最后是一个被称为标量 $\phi^4$ 理论的高维量子场论模型，该理论涉及高达 144 维网格上的复杂相互作用。在每种情况下，FUND 都优于现有的尖端方法。它实现了对目标分布更准确的表示，并生成了比其他技术更具多样性和独立性的样本。至关重要的是，它在无需生成大规模训练数据集的高昂计算成本，也无需旧有模拟方法的缓慢推理时间的情况下完成了任务。

结果表明，FUND 在其他方法往往会失效的高维环境下表现尤为出色。在涉及 144 维量子场模型的最高复杂度测试中，这种新方法保持了强大的性能，而竞争对手要么坍缩到仅学习少数几个主导峰值，要么在计算上变得不再可行。研究强调了一个明确的权衡：一种优先考虑速度和效率的方法在训练时间和样本质量之间提供了非常有利的平衡，而另一种计算强度更高的变体则实现了最高的准确度。然而，这两个版本都成功解决了其他方法难以应对的问题：它们可以仅凭系统的能量函数，从零开始学习复杂物理系统的结构。这种能力预示着模拟复杂物理系统的新路径，使科学家能够以以往无法企及的速度和保真度，去探索物质与能量的隐藏景观。

技术摘要：FUND —— 用于非归一化分布采样的密度流

问题陈述

从非归一化概率分布（特别是形式为 $p(x) \propto e^{-E(x)}$ 的玻尔兹曼分布）中进行采样，是统计物理学、量子力学和计算化学中模拟复杂物理系统的基础。传统的马尔可夫链蒙特卡洛（MCMC）和分子动力学（MD）方法在面对高维能量景观（尤其是被高能垒分隔的亚稳态）时，会遭遇严重的临界减慢（critical slowing down）、高自相关性和模式混合（mode mixing）差等问题。

虽然深度生成模型（如归一化流，NFs）提供了高效的采样方案，但在该领域面临着显著的局限性：

数据依赖性： 标准的 NF 训练（例如通过最大似然估计/前向 KL 散度）需要来自目标分布的真实样本的大规模数据集，而这些样本通常难以获得，或者通过 MCMC/MD 生成的成本极高。
模式崩塌（Mode Collapse）： 在没有样本的情况下使用逆向 KL 散度（ $KL(q_\theta \| p)$ ）进行训练，会使模型偏向于低能区域，导致模式崩塌，即模型无法覆盖目标分布的完整支撑集。
现有替代方案： 最近的方法，如流退火重要性采样引导（FAB）和迭代去噪能量匹配（iDEM），试图绕过对真实样本的需求，但引入了巨大的计算开销（例如重复的退火重要性采样或求解逆向随机微分方程），或者无法在不引入额外近似阶段的情况下提供精确的似然值。

方法论：FUND（用于非归一化分布的密度流）

作者提出了 FUND，这是一个旨在学习非归一化分布的可解析采样器 $q(x)$ 的框架，它不需要任何来自目标分布的真实样本。其核心创新在于将学习范式从样本轨迹匹配（如流匹配中的做法）转向分布轨迹匹配。

核心框架

退火分布轨迹： FUND 不仅仅是对单个样本的路径进行建模，而是对概率密度的连续轨迹 $\{p_t(x)\}_{t \in (0,1]}$ 进行建模，该轨迹将一个简单的单峰先验 $p_0(x)$ 转换为复杂的的目标分布 $p_1(x) = p(x)$ 。中间分布定义为：
$p_t(x) \propto p(x)^t$
随着 $t$ 从 0 增加到 1，分布逐渐变得尖锐，模式也随之分离。在 $t \to 0$ 时，分布平滑且为单峰；在 $t=1$ 时，它恢复了目标的全部复杂性。
带有重要性加权的迭代学习： 模型学习与中间分布 $p_t$ 相对应的序列 $q_t$ 。
- 初始化： 训练始于一个较小的 $t_1$ ，此时 $p_{t_1}$ 是单峰的。由于不存在 $p_{t_1}$ 的样本，模型使用**逆向 KL（RKL）**目标函数（ $L_{RKL}$ ）进行训练，该函数仅依赖于能量评估。
- 推进： 对于后续步骤 $t > t_1$ ，模型从先前学习到的 $q_{t'}$ （其中 $t' < t$ ）中生成样本。这些样本通过重要性权重 $w(x) = p_t(x) / q_{t'}(x)$ 进行重加权，以监督 $q_t$ 的学习。
- 损失函数： 训练目标结合了监督项（前向 KL 或分数匹配）与无监督的 RKL 项：
  $L_{final}(\theta) = \lambda_1 L(\theta) + \lambda_2 L_{RKL}(\theta)$
  - $L(\theta)$ ：通过加权样本鼓励模式覆盖（探索）。
  - $L_{RKL}(\theta)$ ：鼓励向主导模式集中（利用）并修正密度差异。
- 超参数退火： $\lambda_1$ 和 $\lambda_2$ 采用退火策略。初始阶段 $\lambda_1 \approx 0$ （依赖 RKL）。随着训练推进， $\lambda_1$ 逐渐增加以利用重加权样本实现模式覆盖，而 $\lambda_2$ 在后期增加以精细化模式分离。
架构与实现：
- 单块架构： 与在每个步骤中添加耦合块的增量方法不同，FUND 使用单个在所有时间步内不断精炼的归一化流模型。这提高了内存效率并防止了灾难性遗忘。
- 重放缓冲区（Replay Buffer）： 一个持久化的缓冲区存储来自先前中间分布的样本及其对数似然值，用于计算后续步骤的重要性权重，从而确保学习的稳定性和模式保持。
- 离散化： 连续时间 $t$ 被离散化为 $N$ 个步骤。步骤数和初始 $t_1$ 根据目标分布的复杂度和多峰性进行调整。

核心贡献

无样本学习： FUND 实现了为非归一化分布学习归一化流，而无需访问真实的样本，消除了对昂贵的 MCMC/MD 预采样需求。
分布轨迹匹配： 本文提出了一种新颖的公式，通过对密度本身的演化而非单个样本轨迹进行建模，从而实现直接且高效的密度评估。
平衡的目标函数： 通过在顺序退火计划中结合前向 KL/分数匹配（用于覆盖）与逆向 KL（用于集中），FUND 缓解了模式崩塌与模式覆盖之间的权衡，确保了对复杂高维景观的全面覆盖。
可扩展性： 该方法在处理高维问题（如 144 维标量 $\phi^4$ 理论）时表现出良好的可扩展性，而传统的基准方法在此类问题上性能会显著下降。

实验结果

作者在三个基准族上评估了 FUND：

MOG-40： 一个具有广泛分离模式的 2D 高斯混合模型。
多阱（Many-Well, MW-8, MW-16）： 具有指数级增长模式数量（ $2^{d/2}$ ）的合成分布。
标量 $\phi^4$ 理论： 在 $8\times8$ 、 $10\times10$ 和 $12\times12$ 网格上的晶格场论模型（最高达 144 维）。

性能指标：

负对数似然（NLL）： 衡量对目标的拟合程度。FUND 各变体在所有基准测试中均取得了最低的 NLL，优于 FAB、iDEM 以及标准的 RKL/FKL 基准。
逆向 NLL (RNLL) 与有效样本量 (ESS)： 这些指标评估模式覆盖情况。FUND 实现了高 ESS 和低 RNLL，表明其能有效捕捉多个模式。相比之下，RKL 基准显示出低 NLL 但低 ESS（模式崩塌），而 FAB 和 iDEM 在高维情况下表现出性能退化。
计算成本：
- FUND(FKL)： 提供了一个优异的成本-质量权衡，其训练时间与 FAB 相当，但推理速度显著更快（单次前向传播对比 AIS 或 MCMC）。
- FUND(SCORE)： 实现了最高的采样精度和密度估计，但由于分数匹配计算，其训练成本较高。
- 基准方法： MCMC 方法具有高推理成本；iDEM 由于需要进行逆向 SDE 模拟而具有高推理成本；FAB 则因重复的 AIS 导致高训练成本。

意义与主张

本文声称 FUND 建立了无样本学习复杂物理分布的新范式。通过通过中间退火状态逐步塑造目标分布，该方法克服了能量驱动训练中固有的“模式崩塌”以及似然驱动训练中的“数据依赖”问题。

作者强调，对于高维玻尔兹曼分布（特别是在晶格场论和统计物理中，其中临界减慢和拓扑陷阱是持久挑战），FUND 提供了一种鲁棒且可扩展的 MCMC 替代方案。该框架实现了摊销采样（通过单次前向传播进行快速并行生成），同时保持了对目标分布多峰结构的高保真度，为贝叶斯推断以及传统采样方法难以应对的规范理论模拟提供了一条切实可行的路径。