📊 statistics

Spectral Diffusion Processes

本文介绍了谱扩散过程（Spectral Diffusion Processes），这是一个通过将数据在通过核函数表示的谱域中进行表征，从而将标准有限维扩散模型应用于随机过程的框架，该框架在确保有效的过程一致性的同时，实现了对多模态分布和条件采样的有效建模。

原作者： Angus Phillips, Thomas Seror, Michael Hutchinson, Valentin De Bortoli, Arnaud Doucet, Emile Mathieu

发布于 2026-07-15

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Angus Phillips, Thomas Seror, Michael Hutchinson, Valentin De Bortoli, Arnaud Doucet, Emile Mathieu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图教会一台计算机去画一条完美的、扭动的曲线，来代表某种真实存在的事物，比如飓风的路径、一个城市一年的气温变化，或是云朵的形状。问题在于，这些事物不仅仅是一串数字；它们是存在于时空中的连续流（continuous flows）。如果你试图仅通过向计算机展示一些点（比如屏幕上的像素或每小时的读数）来教它，计算机会感到困惑。它画出的线条可能在这些特定的点上看起来很完美，但在点与点之间却毫无逻辑，或者它画出的线条会根据你展示了多少个点而改变其遵循的规则。

这就是这篇论文作者们试图解决的大难题。他们发现，许多现有的教计算机对这些“流动”事物进行建模的方法，就像是在试图通过仅仅粘合那些你能看到的木板来建造一座桥梁。如果你从不同的角度观察（或者增加了更多的木板），整个结构就会崩塌，因为规则无法匹配。

核心思想：乐谱
与其将这种流动视为一条杂乱的、连续的线，作者们决定将其视为一份乐谱。

想象一段复杂的音乐。它是一种从开始到结束持续流动的声音。但如果你想把它记录下来或教给机器人演奏，你不会记录下每一次空气的振动。相反，你会将其分解为一组音符（频率）和音量（系数）。

音符是音乐的“形状”（时空结构）。这些是预先固定且已知的，就像钢琴的琴键一样。
音量是“随机性”（随机部分）。这是每次演奏歌曲时都会发生变化的部分。

作者的方法，被称为谱扩散（Spectral Diffusion），正是如此。他们获取一个杂乱的、流动的数据集，并将其转化为一组数字（即“音量”或谱系数），这些数字对应于这些固定的“音符”。

神奇的技巧：在音符上进行扩散
一旦拥有了这组数字，他们就会使用一种强大的工具——扩散模型（Diffusion Model）。你可以把扩散想象成一场玩着“传声筒”游戏的噪声游戏。

前向游戏： 你拿出一幅完美的画作（或一段完美的旋律），然后慢慢加入静态噪声，直到它变成纯粹的、随机的杂乱信号。
反向游戏： 你训练一个聪明的 AI 来玩这个反向游戏。它学习如何从这些模糊的噪声中，一步步剥离噪声，从而显现出原始的画作或旋律。

作者意识到，如果他们在数字列表（谱系数）上进行这种“噪声游戏”，而不是在杂乱的流本身上进行，奇迹就会发生。因为数字列表是有限的，且“音符”是固定的，AI 会学到一套完美的规则。当他们将这些数字转换回原始的流时，结果保证是一个有效的、一致的流。它不会因为你观察的角度不同而崩溃，也不会因为你展示了多少个点而改变其规则。

他们对什么说了“不”
作者们非常明确地指出哪些方法对于这项特定工作并不奏效。

他们反对简单地将流切分成微小的、不连贯的碎片（对输入空间进行离散化）。他们证明了虽然这样做很简单，但往往会导致“破碎的桥梁”，即模型的预测会取决于你对数据切分的精细程度。
他们还指出，虽然高斯过程（Gaussian Processes）（一种经典的数学工具）具有一致性，但它们过于僵化。它们只能模拟平滑的、符合钟形曲线的形状，难以处理复杂的、多峰值的模式（例如一个具有两种截然不同的“模态”或行为的数据集）。
他们提到，**神经过程（Neural Processes）**虽然灵活，但往往无法通过“一致性”测试，这意味着如果你问了一个稍微不同的问题或增加了一个数据点，它们可能会给你不同的答案。

他们有多确定？
作者们并非凭空猜测，而是通过数学证明和实验进行了测试。

数学层面： 他们证明了通过使用这种“乐谱”方法，模型必须满足一致性和可交换性的规则。这不是靠运气猜中的，而是内置于设计之中的。
模拟实验： 他们在多个数据集上运行了该模型以观察其表现。
- 在 MNIST 图像数据集（手写数字）上，他们展示了该方法可以生成新的、真实的数字。他们发现，使用一种特定类型的“核函数”（定义音符的数学函数），即协方差核（covariance kernel），可以产生最清晰、最细腻的图像，而使用较平滑的 RBF 核则会让图像看起来有些模糊。
- 在 1D 时间序列数据（如墨尔本的人流量或英国的能源需求）上，他们将模型与高斯过程、神经过程以及一种名为神经扩散过程（Neural Diffusion Processes）的新方法进行了对比。
- 在一项测试模型是否能分辨真实数据与伪造数据的测试中，针对一个合成的“二次方（Quadratic）”数据集，他们的模型得分仅为 5.4% 的辨别力（意味着很难将真假数据区分开），击败了神经过程（7.0%）和高斯过程（100.0%，这意味着测试很容易识别出伪造数据）。
- 在基于过去数据预测未来值的任务中，他们在二次方数据集上的均方误差（MSE）达到了 0.033。有趣的是，在这一特定指标上，神经过程（NPs）取得了略低的误差 0.030，但作者指出，在墨尔本和 Gridwatch 等其他现实世界数据集的方差表现上，NPs 表现挣扎，而其方法则优于它们。

底线
作者们认为，通过将一个复杂的流动问题分解为由固定音符和随机音量组成的“乐谱”，并利用扩散过程教 AI 生成这些音量，你就能获得两者的精髓。你得到的是一个既有足够的灵活性来学习复杂的、奇特的形状（如双峰分布），又具备足够的严谨性以始终产生有效且一致的流的模型。这就像是通过让机器人学习节奏和音量，而不是试图让它背诵每一个声波，从而教机器人创作音乐。其结果是一场无论你如何聆听都听起来正确的交响乐。无论你如何倾听，交响乐听起来都是正确的。

技术摘要：谱扩散过程 (Spectral Diffusion Processes)

问题陈述

在物理科学中，对函数空间（如时间序列、空间场）进行概率建模对于天气预报和流行病学等任务至关重要。然而，在这些空间上构建有效的参数化概率模型面临两个根本性的挑战：

有效性 (Validity)： 随机过程的有限维表示并不能自动保证其在无限维空间上是一个有效的分布。为了定义一个有效的随机过程，模型必须满足柯尔莫哥洛夫扩展定理 (Kolmogorov extension theorem) 的一致性 (consistency) 和 可交换性 (exchangeability) 条件。现有的方法（例如无限维扩散模型）通常会对输入空间进行离散化，导致这些模型无法满足一致性准则（即预测结果会依赖于离散化的分辨率）。
灵活性 (Flexibility)： 模型必须能够捕捉复杂的、非高斯且多峰的行为。传统的高斯过程 (GP) 回归虽然满足有效性，但受限于高斯似然。神经过程 (Neural Processes, NPs) 提供了灵活性，但通常仅满足条件一致性，无法定义有效的无条件分布。

目前的函数扩散方法要么缺乏有效性（由于离散化问题），要么难以在不引入高昂计算成本（例如 $O(N^3)$ 的核操作）的情况下自然地融入空间相关性。

本文提出的 谱扩散过程 (Spectral Diffusion Processes, SDP) 是一个框架，通过在谱域而非输入空间进行操作，构建了一个有效的、灵活的随机过程生成模型。

方法论

作者提出通过在谱域而非输入空间操作，构建一个有效的、灵活的随机过程生成模型。

1. 基于梅尔定理 (Mercer's Theorem) 的谱表示

该方法并非离散化输入空间 $X$ ，而是利用基于核函数 $K$ 的函数基底对随机过程 $(Y_x)_{x \in X}$ 进行分解。

梅尔定理： 给定一个连续、对称且正定的核函数 $K$ ，存在一组特征函数基底 $\{e_m\}_{m \in \mathbb{N}}$ 和特征值 $\{\lambda_m\}_{m \in \mathbb{N}}$ ，使得 $K(x, x') = \sum \lambda_m e_m(x) e_m(x')$ 。
分解： 该过程表示为 $Y_x = \sum_{m=0}^{\infty} \lambda_m^{1/2} Z_m e_m(x)$ ，其中 $Z_m$ 是随机系数。
截断： 将无限级数截断至阶数 $M$ 以获得有限表示 $Y^M_x$ 。至关重要的是，由于截断发生在谱域（系数层面）而非输入域，因此所得的有限线性组合在定义上就是一个有效的随机过程。这本质上满足了柯尔莫哥洛夫扩展定理的一致性和可交换性要求。

2. 谱扩散模型

过程的随机性完全由系数 $Z = (Z_0, \dots, Z_M)$ 编码。

建模： 在谱系数 $Z$ 上训练一个标准的有限维去噪扩散模型 (VP-SDE)。前向过程向 $Z$ 添加噪声，而反向过程学习对 $Z$ 进行去噪。
灵活性： 与高斯过程 (GPs) 或神经过程 (NPs) 不同，扩散模型不对系数施加任何参数形式（如高斯分布），从而允许模型捕捉函数空间中任意的多峰和非高斯分布。
条件采样： 为了处理条件任务（给定上下文 $\{x_i, y_i\}$ 预测 $y^*$ ），得分网络通过一个置换不变的编码器（受神经过程启发）在上下文集上进行摊销，生成一个上下文嵌入 $c$ ，用以对系数分布进行条件化处理。

3. 诱导空间动力学

论文建立了谱扩散与空间域之间的理论联系：

相关噪声： 诱导出的前向空间过程对应于一个具有相关噪声的 Ornstein-Uhlenbeck 过程，其噪声协方差由核 $K$ 决定。
极限行为： 当谱系数数量 $M \to \infty$ 时，该过程的基分布收敛到使 KL 散度最小化的高斯过程。

4. 实现细节

预处理： 该方法需要一个一次性的预处理步骤来计算谱数据集。这包括使用 Nyström 方法在共享评估集上近似核的特征基底，并将训练数据投影到这些系数上。
训练： 使用去噪分数匹配 (Denoising Score Matching, DSM) 在投影后的系数上训练扩散模型。
采样： 通过在系数上执行反向扩散过程并利用基底展开进行重建，从而生成新的样本。

核心贡献

有效的过程生成模型： 本文提出了一种方法，该方法构建了一个在构造上有效（满足柯尔莫哥洛夫一致性和可交换性）且保留了扩散模型表达能力的生成模型。
谱解耦： 通过将随机部分（系数）与时空结构（基底）分离，该方法避免了输入空间离散化带来的不一致性问题。
相关噪声解释： 作者证明了其谱方法等价于一个在空间域具有相关噪声的扩散模型，这为在不进行显式核矩阵运算的情况下融入空间结构提供了一种原则性的方法。
摊销条件建模： 该框架通过在上下文集上摊销得分网络，扩展到了条件采样，从而实现了预测性建模的后验分布。

实验结果

该方法在多个任务上进行了评估：

2D 图像生成 (MNIST)： 可视化结果表明，使用协方差核能有效捕捉空间相关性，而 RBF 核则会施加过度的平滑性。
1D 随机过程： 模型在 Melbourne（行人计数）、Gridwatch（能源需求）和合成的 Quadratic（双峰）数据集上进行了测试。
- 多峰性： SDP 成功捕捉了 Quadratic 数据集中的双峰分布，而神经过程 (NPs) 和高斯过程 (GPs) 由于其高斯似然假设而失败。
- 方差估计： SDP 在捕捉真实世界数据集的方差方面优于 NPs 和 GPs。
- 定量指标： 使用核二样本假设检验，SDP 在区分生成样本与真实数据方面始终优于 GPs、NPs 和神经扩散过程 (NDPs)。
预测性能： 在 1D 数据集和合成 GP 回归任务中，与 NPs、ANPs 和 AGNPs 相比，SDP 实现了更低的均方误差 (MSE) 和更好的预测协方差估计。值得注意的是，它比必须完全从数据中学习协方差结构的 NP 变体更准确地匹配了真实的预测协方差。

意义与主张

本文声称，谱扩散过程弥合了高斯过程的有效性与神经生成模型的灵活性之间的鸿沟。通过将表示转移到谱域，作者实现了一个模型，该模型：

在无需模型从数据中学习一致性的情况下，定义了随机过程上的有效分布。
自然地处理复杂的、非高斯且多峰的函数分布。
避免了训练和采样阶段的核矩阵运算带来的计算瓶颈（将此成本转移到了预处理步骤）。

作者将这项工作定位为现有无限维扩散方法的原则性替代方案，这些方法在离散化时会丢失一致性，从而为需要同时具备有效性和灵活性的物理建模提供了一个稳健的框架。