🤖 machine learning

Flow Sampling: Learning to Sample from Unnormalized Densities via Denoising Conditional Processes

本文介绍了流采样，这是一种无数据框架，利用扩散模型和流匹配，通过回归源自能量函数的去噪漂移来高效学习非归一化密度的采样器，同时自然地扩展到黎曼流形，并为常曲率空间提供闭式解。

原作者： Aaron Havens, Brian Karrer, Neta Shaul

发布于 2026-05-06

📖 1 分钟阅读☕ 轻松阅读

原作者： Aaron Havens, Brian Karrer, Neta Shaul

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图在一个巨大而黑暗的剧院里找到最好的座位。你确切地知道哪些是“好”座位，因为你拥有一张地图，标明了每一个座位的“能量”或“舒适度”。然而，有一个棘手的问题：你不知道总共有多少个好座位（即归一化常数），而且你无法走遍整个剧院去查看所有座位，因为为每一个座位读取这张地图的成本太高了。

这正是科学家们在尝试从未归一化密度中进行采样时所面临的问题。他们拥有一条规则（一个能量函数），可以描述什么样的样本是“好”的，但他们难以直接生成这些样本。

现在，流采样（Flow Sampling） 出现了，这是由 Aaron Havens、Brian Karrer 和 Neta Shaul 提出的一种新方法。以下将通过简单的类比来解释它是如何工作的。

旧方法：缓慢的徒步者

此前，科学家使用诸如MCMC（马尔可夫链蒙特卡洛）之类的方法。想象一位徒步者试图找到最好的座位。这位徒步者迈一步，查看地图，再迈一步，再次查看地图，如此反复。他们最终能找到好座位，但是一次一个，速度非常慢。如果你需要一百万个样本，这位徒步者就需要走一百万步。对于设计新材料或药物等大规模问题来说，这太慢了。

新方法：“去噪”雕塑家

流采样就像雇佣一位雕塑家，他学会雕刻出完美的雕像（目标分布），而无需先看到原始雕像。相反，他通过观察一块黏土如何随着噪声的缓慢移除而变成雕像来学习。

以下是逐步的魔法过程：

1. 倒放电影（去噪）

想象你有一张美丽风景的清晰高清照片（目标数据）。如果你给它添加静态噪声，它就会变成一团模糊的混乱。

标准人工智能通常通过学习从模糊的混乱中猜测原始照片来工作。
流采样则反其道而行之。它从一个随机噪声样本（空白画布）开始，并学习如何在能量地图的引导下将其“清理”以匹配风景。

2. “独立”的学生（节省成本）

此过程中最大的成本是读取能量地图。读取它就像支付过路费。如果必须读取地图数百万次来训练人工智能，成本将变得过高。

流采样引入了一种巧妙的技巧，称为**“独立状态”或“回放缓冲区”**：

想象一个学生（人工智能模型）正在学习。每当学生犯错时，他不再每次都向老师（能量地图）求助，而是先对自己当前的工作拍一张“快照”，仅针对该快照向老师请求一次反馈，并将答案记在笔记本（回放缓冲区）中。
然后，学生利用这本笔记本反复练习，而不再打扰老师。
这意味着昂贵的“能量地图”只需被咨询几次，而学生则从笔记中学习。与以往的方法相比，这将训练成本降低了4 到 8 倍。

3. “流”（平滑移动）

与徒步者迈着小而摇晃的步伐不同，流采样使用一种“流”。想象一条河流。水（数据）从源头（随机噪声）平滑地流向目的地（目标分布）。人工智能学习河流流向的方向，以便能够高效、快速地将水引导至确切需要的地方。

超越平坦地面（弯曲空间）

大多数人工智能假设世界是平坦的（像一张纸）。但有时，数据存在于弯曲的表面上，比如球面（想想地球）或马鞍形状。

流采样的特殊性在于它天然地理解这些曲线。

类比：如果你在平坦的地板上行走，你会走直线。如果你在球体（如地球）上行走，“最直”的路径是一条曲线（大圆）。
该论文提供了一个数学公式，告诉人工智能如何精确地沿着这些弯曲路径（测地线）行走而不迷路。这使得该方法能够在球面和双曲空间上工作，这对于机器人技术和三维分子结构等应用至关重要。

他们证明了什么？

作者在几个挑战中测试了这种方法：

合成谜题：他们创建了虚假的能量景观，并表明流采样比其他顶级方法更快、更准确地找到了最佳位置。
蛋白质折叠：他们利用它来寻找小蛋白质（肽）的形状。它成功预测了这些分子的三维形状，结果与更慢的传统模拟相匹配。
分子生成：他们利用它为大型分子生成数千种不同的形状。它比竞争对手快得多，同时仍能找到高质量的形状。
球面采样：他们证明了它可以采样分布在球面上的数据，证明其在弯曲几何结构上是有效的。

总结

流采样是一种新的、高效的方法，用于教导计算机生成复杂数据，前提是你只拥有关于什么是“好”的规则，而没有示例列表。通过使用“笔记本”来记住昂贵的计算，并理解弯曲空间，它使科学家能够比以前更快、更便宜地生成高质量样本（如新药物分子）。

技术摘要：流采样

问题陈述

本文解决了从仅定义至归一化常数的高维概率分布（非归一化密度）中进行采样的挑战。此类分布在计算科学中无处不在，由能量函数 $r(x)$ 定义，其中目标密度为 $q(x) \propto \exp(r(x))$ 。虽然评估 $r(x)$ 及其梯度 $\nabla r(x)$ 是可行的，但这通常计算昂贵，且无法直接获取来自 $q(x)$ 的样本。

传统的马尔可夫链蒙特卡洛（MCMC）方法（如朗之万动力学）虽能渐近收敛，但存在混合速度慢和序列生成的问题，使其在需要快速、可复用采样器的应用（如材料设计）中效率低下。现有的基于学习的方法，包括扩散模型和流匹配，通常需要来自目标分布的数据样本，或者依赖随机修正（例如重要性加权、重采样或辅助 MCMC），而这些方法因重复评估能量函数而产生巨大的计算成本。

方法论：流采样

作者引入了流采样（Flow Sampling），这是一个直接从非归一化密度函数学习摊销采样器而无需目标数据样本的框架。该方法建立在扩散模型和流匹配的基础之上，但调整了训练目标以适应无数据设置。

核心概念

与标准流匹配不同（后者基于数据样本 $X_1 \sim q$ 的条件来学习加噪漂移），流采样基于噪声样本 $X_0 \sim p_0$ （来自易于采样的源分布）的条件来学习去噪漂移。该学习过程的边际分布通过构造设计为与目标 $q$ 匹配。

训练目标

该框架利用定义为以源为条件的目标分布推前映射的条件概率路径：
$p_{t|0}(x|x_0) = \frac{1}{\alpha_t^d} q\left(\frac{x - \sigma_t x_0}{\alpha_t}\right)$
训练目标涉及将学习到的漂移 $u_\theta$ 回归到由能量函数构建的条件漂移 $u_{t|0}$ 上。一个关键的理论洞察（命题 3.2）为沿插值过程 $X_t = \sigma_t X_0 + \alpha_t X_1$ 的条件漂移提供了闭式表达式：
$u_{t|0}(X_t|x_0) = \dot{\alpha}_t X_1 + \dot{\sigma}_t x_0 + \frac{g_t^2}{2\alpha_t} \nabla r(X_1)$
该公式允许模型重用在单一点 $X_1$ 处评估的能量梯度 $\nabla r(X_1)$ 以用于所有时间步 $t \in [0, 1]$ ，从而显著减少了训练期间所需的能量评估次数。

算法：定点迭代

由于目标样本 $X_1 \sim q$ 不可用，作者提出了一种定点迭代训练算法（算法 1），包含两个阶段：

探索阶段：使用当前解耦的模型状态 $\bar{\theta}$ ，算法通过模拟（欧拉 - 丸山法）生成样本 $X_1^{\bar{\theta}}$ ，评估能量梯度 $\nabla r(X_1^{\bar{\theta}})$ ，并将对 $(X_1^{\bar{\theta}}, \nabla r(X_1^{\bar{\theta}}))$ 存储到回放缓冲区中。
优化阶段：通过最小化模型预测漂移与回放缓冲区中样本导出的闭式目标之间的均方误差来训练模型 $u_\theta$ 。该过程重复直至收敛。

黎曼流形扩展

该框架自然地扩展到非欧几里得几何。通过将仿射插值替换为测地线插值，并推导常曲率流形（包括超球面和双曲空间）上条件漂移的闭式公式，该方法实现了无需重参数化的黎曼流形上的基于扩散的采样。

主要贡献

流采样框架：一种通过匹配条件去噪扩散漂移从非归一化密度中学习扩散采样器的原则性方法，消除了对目标数据样本的需求。
高效的训练目标：推导了一种简单的闭式回归目标，该目标沿插值过程重用端点能量梯度，从而实现高效的回放缓冲区训练算法，大幅减少了能量函数评估次数。
黎曼扩展：将基于扩散的采样器扩展到欧几里得空间之外的几何结构，包括常曲率流形上条件漂移的闭式公式。
实证性能：在合成能量基准和分子构象生成上展示了最先进的性能，据报道，与先前的方法相比，模拟训练成本降低了 4 到 8 倍。

实验结果

作者在四个不同的基准上评估了流采样：

合成能量基准：在双势阱（DW-4）和伦纳德 - 琼斯势（LJ-13, LJ-55）上，流采样实现了比 iDEM、PIS、DDS 和伴随采样（AS）等最先进基线更低的几何和能量 Wasserstein-2（ $W_2$ ）距离。
肽采样：在丙氨酸二肽（Ala2）和四肽（Ala4）上，该方法准确恢复了真实密度（通过 KL 散度和 Jensen-Shannon 散度测量），并在减少训练期间的函数评估次数（NFE）时表现出鲁棒性，优于在低 NFE 下性能显著下降的 ASBS。
摊销构象生成：在大规模分子数据集（SPICE 和 GEOM-DRUGS）上，流采样在生成分子构象方面实现了高覆盖率和精度，优于 RDKit 和 ASBS 基线，同时需要更少的训练步骤。
黎曼采样：在具有冯·米塞斯 - 费舍尔分布混合物的 2D 单位球面（ $S^2$ ）上，该方法成功学会了从多模态目标中采样，验证了理论向弯曲几何的扩展。

意义与主张

本文声称，流采样提供了一种灵活且易于实现的替代方案，可替代复杂的最随机最优控制或薛定谔桥公式。通过避免最优耦合和辅助修正网络，它在保持高效率的同时简化了训练方案。

作者强调，该方法通过回放缓冲区和闭式漂移减少能量函数评估次数的能力，使其在能量评估是主要瓶颈的大型模型和数据集中具有特别的可扩展性。此外，向黎曼流形的扩展提供了一种在多样化几何设置（如机器人技术和分子动力学）中进行采样的统一方法，而无需专门的重新参数化。这项工作将流采样定位为在欧几里得和非欧几里得空间中针对非归一化密度进行高效、摊销采样的重要一步。