🤖 machine learning

Renormalization Group Flow Matching for Scalable Local Generative Modeling

本文介绍了重整化群流匹配（Renormalization Group Flow Matching, RGFM），这是一种可扩展的生成框架，它利用重整化群原理使局部模型能够以近乎线性的计算成本准确地重现长程相关性和全局相干性。

原作者： Kanta Masuki, Yuto Ashida

发布于 2026-08-26

📖 1 分钟阅读☕ 轻松阅读

原作者： Kanta Masuki, Yuto Ashida

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在人工智能领域，计算机正日益学会从无到有地创造新事物。通过学习现有的庞大库文件，它们可以生成逼真的面孔、谱写音乐，或设计复杂的分子结构。这些系统通过学习将数据凝聚在一起的隐藏模式，有效地绘制出一条信息如何与另一条信息相互关联的路径。然而，一个基本问题长期以来困扰着这些创造者：如何在效率与全面性之间取得平衡。为了构建一幅从边缘到边缘都逻辑自洽的图像，计算机通常需要同时观察整幅图像，这一过程需要巨大的计算能力和内存。相反，如果计算机为了节省能量而只关注细小、易于处理的局部块，它往往会无法将各个点连接起来，导致生成的图像中，例如脸部的左半边与右半边无法匹配，或者场景中相距较远的部分缺乏连贯的关系。这种在局部效率与全局一致性之间的权衡，一直是将这些技术扩展到更大、更复杂任务的主要瓶颈。

东京大学的一个研究小组提出了一种新的方法来应对这一难题，他们借鉴了理论物理学中一个强大的概念——重整化群（renormalization group）。在物理学中，这种方法被用于理解系统在不同尺度下的行为，从原子的微观运动到流体的宏观流动。其核心思想是，虽然系统的细节会随着缩放比例的变化而改变，但底层的规则往往保持一致，这使得科学家能够在不迷失于噪声的情况下，将极微观与极宏观联系起来。研究人员香月寛（Kanta Masuki）和芦田游（Yuto Ashida）借鉴了这一原理，开发出一种名为“重整化群流匹配”（Renormalization Group Flow Matching）的新型生成框架。该方法并非试图通过一个巨大且昂贵的步骤来处理整幅高分辨率图像，而是通过逐步构建图像的方式，从宽阔、粗略的轮廓开始，逐渐填充精细的细节。

这项创新的关键在于计算机如何移动并处理数据。传统方法通常试图同时学习每一个像素与所有其他像素之间的关系，随着图像尺寸的增大，这在计算上变得几乎不可能。然而，这种新方法将创建过程组织成一系列遵循自然尺度层级的步骤。它首先生成数据的宏观结构，例如脸部的整体布局或风景的构图。一旦这些粗略的线条到位，系统就会进入下一个阶段，添加更细腻的纹理和边缘，并持续这一过程，直到完成最终的高分辨率细节。至关重要的是，在进阶过程中的每一个阶段，计算机只需要观察图像的一个微小的局部邻域即可做出决策。它不需要看到全貌就能知道如何画下下一笔。

这种局部的聚焦是通过一个涉及“重整化群流”的特定数学技巧实现的。在这个过程中，系统有效地过滤掉已经生成的、高频的噪声和精细细节，留下一个更易于处理的简化版本的数据。通过反复简化数据并随后反向执行过程以添加细节，研究人员创造出一条路径，使计算机在仅对小块区域进行计算的同时，仍能保持对整体图像的感知。他们证明了，为了做出准确预测，计算机需要“观察”的距离随着图像变大而增长得非常缓慢。具体而言，对于给定大小的图像，必要的观察区域仅呈对数级增长，这意味着即使对于非常大的图像，计算机也只需要检查一个相对较小的窗口即可完成工作。这使得系统能够扩展到大规模分辨率，而不会导致计算成本爆炸式增长。

研究人员在简单的数学分布和复杂的现实世界图像（包括来自 FFHQ 数据集的肖像）上测试了他们的方法。在在一维测试中，新方法成功复现了传统局部模型所缺失的长程相关性，确保了生成的不同数据部分之间保持一致。当应用于图像生成时，结果令人瞩目。在 64x64 像素的分辨率下，新方法生成的面部结构比标准局部模型更加连贯，错误显著减少。即使在计算挑战更大的 256x256 像素高分辨率下，该方法生成的样本质量也优于其竞争对手。虽然图像尚未达到完美，仍显示出远距离面部特征之间存在一些不一致性，但在全局连贯性方面的提升是实质性的。

这项工作表明，通过构建模仿物理系统在不同尺度下组织自身的方式的生成过程，我们有可能构建出既高效又具备理解全局能力的智能。研究人员展示了，无需为了速度而牺牲全局一致性。通过使用一个系统性地连接粗略与精细的框架，他们为利用仅有的局部计算来生成复杂、高维数据开辟了一条道路。这种方法不仅仅提供了一种更快的绘图方式；它还为机器如何一步步构建复杂现实提供了新的蓝图——通过逐个尺度地构建，而无需在记忆中同时承载整个世界。

技术摘要：用于可扩展局部生成建模的重整化群流匹配

问题陈述
生成模型，特别是基于扩散（diffusion）和流匹配（flow-matching, FM）的框架，面临着捕捉全局结构相干性与保持计算可扩展性之间的根本权衡。全局方法（例如使用自注意力机制的方法）可以建模长程相关性，但其计算成本随数据维度 $D$ 呈二次方增长（ $O(D^2)$ ），这使得处理高分辨率图像或大型物理系统变得不可行。相反，局部生成模型通过仅利用空间邻域来近似速度场，虽然提供了近乎线性的扩展性，但通常无法重现长程相关性和全局相干性。这种失败归因于在生成过程的中间阶段，得分（score）或速度场具有非局部依赖性，此时纯粹的局部近似无法协调遥远的区域。

方法论：重整化群流匹配 (RGFM)
作者提出了重整化群流匹配 (Renormalization Group Flow Matching, RGFM)，该框架将理论物理中的重整化群（RG）形式引入流匹配范式，以弥合局部性与全局结构之间的鸿沟。

作为概率路径的 RG：
不同于标准噪声与数据之间的线性插值，RGFM 使用精确的 RG 流来定义概率路径。前向过程（RG 扩散）逐步积分掉高波数（短波长）模式，将其转化为独立的高斯噪声，同时保留低波数（长波长）模式的非平凡结构。反向过程通过逆转这一流来生成数据，即从粗尺度（长波长）到细尺度（短波长）构建信号。
重标度与格点消减：
一个关键创新是在流的过程中引入了连续格点重标度（格点消减/site decimation）。随着 RG 尺度 $\Lambda(t)$ 的减小，准确近似所需的局部长度自然会增长到系统尺寸 $L$ 。为了防止这种情况，该框架定期丢弃解耦的高波数高斯模式，并将剩余的低波数模式重标度到更粗的格点上。这种变换将局部长度尺度恢复到微观大小（在重标度单位下为 $O(1)$ ），无论系统尺寸如何。
局部生成建模：
通过在局部反向 ODE 演化（由局部速度场控制）与随机提升（对丢弃的高斯模式进行重采样）之间交替进行，RGFM 使得使用固定补丁（patch）大小的局部神经网络成为可能。理论分析表明，所需的补丁大小随 $O(\ln L)$ 缩放，从而使计算成本能够实现近乎线性的系统体积缩放。
理论框架：
本文为这种局部近似建立了严格的误差界限。它定义了两类数据分布：局部分布（具有短程相关性）和条件局部分布（其中长程依赖由隐变量介导）。在 RG 拟局部性（quasi-locality）和隐变量可预测性的假设下，作者证明了局部近似误差随缓冲宽度 $l_B$ 指数级衰减。具体而言，实现误差容限 $\varepsilon$ 所需的局部长度缩放为：
$l_{B,t} = O\left(\Lambda(t)^{-1} [\ln L + \ln(1/\varepsilon)]\right)$
这确保了目标分布与局部生成的分布之间的 2-Wasserstein 距离保持在 $\varepsilon$ 以内。

核心贡献

RGFM 框架： 引入了一种生成框架，其概率路径由精确的 RG 流定义，系统地构建了跨空间尺度的数据生成过程。
可扩展局部近似： 提供了一个理论证明，表明 RGFM 概率流可以被作用于空间范围为 $O(\ln L)$ 的局部速度场进行精确近似，从而实现计算成本随系统体积近乎线性的扩展。
误差界限： 针对局部和条件局部数据分布推导了严格的误差界限，表明局部近似误差随受控于运行中 RG 尺度的缓冲宽度呈指数级衰减。
算法实现： 提供了一个具体的训练和采样程序（算法 1 和 2），在局部 ODE 积分与丢弃模式的随机重采样之间进行交替。

结果
作者通过数值演示展示了 RGFM 的有效性：

一维分布： 在一维 Ising 模型和具有非衰减振荡相关性的条件局部分布中，局部 RGFM 成功重现了远超神经网络感受野距离的相关函数。相比之下，传统的局部流匹配在长距离处表现出显著误差，且无法维持全局相干性。
图像生成 (FFHQ)：
- 在 64×64 分辨率下，与各种感受野补丁大小下的局部流匹配相比，局部 RGFM 生成的图像具有显著更连贯的面部结构，并实现了更低的 Fréchet Inception Distance (FID) 分数。
- 在 256×256 分辨率下（此时训练全局模型在计算上是难以实现的），局部 RGFM 仍然可行。它比局部流匹配生成了更高质量、更具全局相干性的样本，尽管在空间分离的面部组件之间仍存在一些不一致性。

意义与主张
本文声称 RGFM 为可扩展生成建模开辟了一条充满前景的路径，即仅使用局部计算即可捕捉长程结构。通过利用尺度分离和拟局部性的 RG 原理，该框架解决了计算效率与全局相干性之间的矛盾。作者认为，这种方法允许生成高维结构化数据（如高分辨率图像和多体物理系统），而无需承担与全局注意力机制相关的二次方缩放成本。这项工作进一步强调了机器学习与理论物理之间的深层协同作用，将 RG 不仅仅作为特征提取的工具，而是作为控制概率流局部性的设计原则。

技术摘要：用于可扩展局部生成建模的重整化群流匹配

类似论文