📊 statistics

MAD: Manifold Attracted Diffusion

本文介绍了流形吸引扩散（Manifold Attracted Diffusion, MAD），这是一种利用流形假设来修改基于评分的扩散模型推理过程的方法，通过抑制微小的流形外变化并保留显著的流形内结构，从而实现从含噪训练数据中高效生成无噪样本。

原作者： Dennis Elbrächter, Giovanni S. Alberti, Matteo Santacesaria

发布于 2026-06-10

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Dennis Elbrächter, Giovanni S. Alberti, Matteo Santacesaria

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图教一个机器人画出完美的猫咪图片。你给了机器人一大叠参考照片，但有一个限制：每一张照片都覆盖着一层厚厚的静电噪声、划痕和随机的尘埃斑点。

如果你要求一个标准的 AI 从这些脏照片中学习，它会学会画出带有静电和划痕的猫。它会认为那些尘埃也是猫的一部分。

你分享的这篇论文介绍了一种名为 MAD（流形吸引扩散，Manifold Attracted Diffusion） 的新方法。请不要把 MAD 想成是一个新的老师，而要把他想成是一个机器人完成学习后、在画出最终图像之前使用的特殊过滤器。

以下是它的工作原理，使用简单的类比：

1. “流形”（隐形的轨道）

这篇论文依赖于一个叫做**流形假设（Manifold Hypothesis）**的概念。想象一下，所有“真实”的猫的照片都存在于一个巨大的三维空间中一条非常特定的、隐形的火车轨道上。

在轨道上： 这些是图像中有意义的部分（耳朵的形状、尾巴的弧度、毛发的颜色）。沿着轨道移动会使猫从幼猫变成成年猫，或者从暹罗猫变成波斯猫。
在轨道外： 这是轨道周围的空白区域。如果你向这些方向移动，你并不是在改变猫，而是在添加随机的噪声、尘埃或静电。

问题在于，机器人的训练数据噪声太大，导致“轨道”变得难以辨认。机器人会感到困惑，并认为尘埃也是轨道的一部分。

2. “扩展得分”（磁性指南针）

标准 AI 模型使用一种称为“得分（score）”的东西来确定如何移动以使图像变得更清晰。这就像一个指南针，指向“最可能”的下一步。但如果数据有噪声，这个指南针就会变得抖动，并指向错误的方向（指向尘埃）。

作者发明了一个新工具，叫做扩展得分（Extended Score）。

类比： 想象标准的指南针是一个容易被微风吹动的敏感指针。扩展得分则像是一个沉重的、带磁性的指南针。
工作原理： 它具有这样一个特性：如果风（噪声）很弱，磁铁会将指针直接拉回轨道中心，并忽略微风。但如果风实际上是有意义的重大变化（比如转动猫的头），磁铁会允许指针随之移动。

用技术术语来说，这篇论文指出，这个工具将微小的变化（噪声）视为不存在，有效地将它们缩减为零。但它保留了那些大的、重要的变化（实际的图像特征）。

3. 过程：“吸引”图像

当机器人生成一张图片时，它从一团随机的静电开始。

标准方法： 机器人慢慢清理静电，但因为它学习的是脏照片，它会在最终图像中留下“尘埃”模式。
MAD 方法： 机器人使用扩展得分指南针。当它清理图像时，这个指南针就像一个强大的磁铁，将图像像素拉向真实数据的“隐形轨道”。
- 任何仅仅是随机噪声的像素都会被强烈地拉回轨道（被移除）。
- 任何属于真实猫形状的像素都会被允许留在原处。

这是一个“软阈值（soft thresholding）”效应。它就像一个筛子，让大的、沉重的石头（真实特征）掉下去，同时筛掉所有细小的、轻盈的尘埃（噪声）。

他们证明了什么？

作者通过三种方式测试了这个想法：

玩具问题（Toy Problems）： 他们在电脑上画了一些简单的形状，并展示了该方法可以将形状从一堆噪声中提取出来，而标准方法只会重现那堆混乱。
真实照片： 他们使用了在噪声版本的著名数据集（如来自 FFHQ 的人脸或来自 ImageNet 的动物）上训练的模型。当他们使用标准方法时，人脸看起来很有颗粒感。当他们使用 MAD 时，人脸看起来很干净，且背景变成了纯色（因为随机的背景噪声被“吸引”走了）。
真实科学数据： 他们在 冷冻电子显微镜（Cryo-Electron Microscopy） 图像上进行了测试（这些是微小生物粒子的图像）。这些图像的噪声极其巨大。标准方法产生的是模糊、多噪的团块。MAD 则成功提取出了清晰的形状，这些形状符合科学家们所了解的粒子形态，尽管该 AI 此前从未见过这些粒子的洁净版本。

核心结论

论文声称，MAD 允许你利用一个在噪声数据上训练的 AI 模型，通过在绘图过程中进行一个简单的数学微调，来生成干净的图像。

你不需要从头开始重新训练 AI。你只需要改变它在最后阶段使用的“指南针”。这是一种告诉 AI 的方式：“忽略那些微小的波动；它们只是噪声。只听从那些重大的变化。”

重要提示： 论文明确指出，这是为了生成新的、干净的图像，其目的是处理噪声数据集。它不是一个用来修复你已经拥有的单张特定照片的工具（比如修复一张旧的家谱照片）；它是为了创造关于那个物体应该是什么样子的新示例，而不带噪声。

技术摘要：流形吸引扩散模型 (Manifold Attracted Diffusion, MAD)

问题陈述
基于评分的扩散模型已成为图像合成领域的最先进方法，在样本质量和多样性方面通常优于 GAN 和 VAE。然而，当训练数据受到测量误差、压缩伪影或数据采集过程产生的噪声污染时，会出现一个显著的局限性。直接在这些带有噪声的数据集上训练的标准扩散模型会学习重现这种污染，生成的样本会保留训练数据的噪声特征。虽然现有的处理噪声训练的方法通常需要修改训练过程本身（例如，调整损失函数或需要混合使用干净与噪声数据），但目前缺乏一种高效的方法，能够在不进行重新训练的情况下，利用既有的训练框架和预训练网络从噪声分布中生成干净的样本。

方法论
所提出的方法——流形吸引扩散 (Manifold Attracted Diffusion, MAD)——通过修改评分模型的推理过程而非训练过程来解决这一问题。该方法立足于流形假设 (manifold hypothesis)，该假设认为有意义的数据存在于高维环境空间中的低维流形之上。作者将噪声解释为正交于该结构（偏离流形）方向上的低幅度变化，而有意义的数据变化则发生在流形之上（在流形内）。

其核心技术创新是引入了扩展评分 (extended score)。

定义： 对于概率测度 $p$ 和参数 $\gamma > 0$ ，扩展评分 $H_\gamma p$ 定义为 $(1 + \gamma)S(p * g_\gamma) + \gamma \frac{d}{d\gamma}S(p * g_\gamma)$ ，其中 $S$ 是标准评分算子 ( $\nabla \log p$ )， $g_\gamma$ 是高斯核。
性质： 与标准评分不同（标准评分对于代表在某些方向上方差为零的低维流形上的 Dirac delta 分布是未定义的），扩展评分是定义良好的。至关重要的是，对于 Dirac delta，扩展评分的行为类似于具有单位方差的高斯分布的评分。这使得推理过程可以将低方差（偏离流形）方向视为具有非零方差，从而有效地实现了一种“软阈值”效应。
推理算法： 作者提出了一种利用扩展评分近似值的迭代推理算法。给定一个预训练的去噪网络 $D_\theta$ （它近似于标准评分），可以通过在略微扰动的噪声水平下评估网络，并计算关于 $\gamma$ 的有限差分来近似扩展评分。
实现： 该算法引入了超参数 ( $a, b, p$ ) 来控制“流形吸引”的强度。通过调整这些参数，推理过程可以抑制偏离流形方向的小幅度变化（噪声），同时保留流形内方向的大幅度变化（信号）。该方法与已建立的框架（如 Karras 等人 2^022 的概率流 ODE 公式）兼容，并且可以利用预训练网络。

核心贡献

形式化定义与分析： 本文提供了扩展评分的严谨数学定义，分析了其在标准分布和 Dirac delta 测度上的行为，证明了其将评分算子推广到退化分布的能力。
高效的推理算法： 作者提出了一种无需特殊训练过程即可减少生成样本中噪声的推理算法。这使得该方法能够与现有的训练流水线和预训练模型兼容。
实证验证： 该方法的有效性在玩具问题、合成数据以及包括 FFHQ、AFHQ、ImageNet 和冷冻电子显微镜 (Cryo-EM) 数据在内的真实世界数据集上得到了验证。

结果

玩具与合成数据： 在二维说明性示例中，扩展评分成功地将低方差高斯分布的轨迹塌缩到其均值（模拟 Dirac delta），同时保留了高方差分量的扩散。在添加了高斯噪声和像素移除的合成数据集上，MAD 显著优于标准评分推理，生成的样本能够恢复原始的干净形状。
真实世界图像数据： 在 FFHQ、AFHQv2 和 ImageNet 上的实验表明，增加流形吸引参数 ( $b$ ) 会导致更干净的背景和更锐利的主要特征，从而有效地过滤掉高频噪声和次要变化。
定量指标： 在受高斯噪声、散粒噪声和像素移除污染的 CIFAR-10 和 FFHQ 数据集上，MAD 与标准推理相比实现了显著更低的 Fréchet Inception Distance (FID) 分数。值得注意的是，标准推理的 FID 与噪声训练数据的 FID 非常接近，这证实了标准模型会重现污染，而 MAD 则能成功去噪。
Cryo-EM 应用： 应用于 EMPIAR-11618 数据集（带噪声的单颗粒 Cryo-EM 图像），MAD 生成的样本强烈地呈现出类似于传统方法获得的精细形状，尽管网络仅在噪声数据上进行训练。

意义与主张
本文声称 MAD 提供了一种解决“盲生成去噪 (blind generative denoising)”问题的实用方案，即在不知道特定退化模型且仅有噪声数据的情况下。该方法的意义在于其能够利用数据流形的几何结构在生成阶段过滤噪声，而不是依赖复杂的训练时适配。

作者对其主张的范围持谨慎态度：

他们并不声称解决了逆问题（如对给定单张图像进行去噪），而是通过从噪声数据集中学习来产生来自底层分布的新的、干净的样本。
他们承认，要在特定领域（如 Cryo-EM）达到最先进的性能水平，需要结合更多领域特定的先验知识，而这超出了本文的研究范围。
他们指出，虽然该方法很有效，但计算成本最多是标准推理的两倍（由于额外的网络评估），不过经验观察表明，仅在推理过程的后半段使用扩展评分可能就足够了。

这项工作将扩展评分定位为一种具有几何基础的机制，用以提升生成质量，甚至可能适用于在干净数据上训练的模型，并为自适应参数选择和集成条件扩散模型开辟了研究途径。