🤖 machine learning

Signed Rectified Flow: Negativity-Controlled Generation

本文介绍了有符号修正流（Signed Rectified Flow），这是一种将修正流扩展到处理有符号测度（signed measures）的生成模型框架，使得能够以原则性的方式引入负信息，从而在抑制不需要的内容（如裸露或记忆数据）的同时，保持图像质量与多样性。

原作者： Runlong Liao, Baiyu Su, Lizhang Chen, Qiang Liu

发布于 2026-07-22

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Runlong Liao, Baiyu Su, Lizhang Chen, Qiang Liu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在教一个机器人画画。你向它展示了成千上万张美丽的日落照片，它学会了画出自己的作品。但如果你还想教它什么是不应该画的东西呢？也许你不希望它画出丑陋的涂鸦，或者你希望它避免复制像米老鼠这样受版权保护的角色。在人工智能的世界里，这是一个棘手的难题。通常，AI 模型通过学习“该做什么”来学习，但当你仅仅说“不要做那个”时，它们却很难理解。这就像试图通过静静站立来告诉一只狗不要去追松鼠一样；狗不知道该如何处理它的精力。

这篇论文深入探讨了人工智能中一个被称为“生成模型”（generative modeling）的特定领域，即计算机如何从零开始创造新的图像、声音或路径。作者们正在基于一种名为“整流流”（Rectified Flow）的技术进行研究，这种技术就像是一条超级高效的高速公路，将随机噪声转化为清晰的图像。你可以把它想象成一条笔直、快速的铁轨，引导着一片混乱的尘埃变成一座完美的雕塑。他们要解决的核心问题是：我们如何构建一条不仅能引导尘埃走向雕塑，还能主动将尘埃推离我们不想要的垃圾堆的铁轨？

作者们引入了一种巧妙的新方法，称为带符号整流流（Signed Rectified Flow）。这种方法不仅仅是试图引导 AI 远离坏事，而是从数学上将“坏事”视为具有“负质量”。想象一下，AI 的创作空间是一片景观。通常，AI 会被高地（好的图片）所吸引。这种新方法在坏图片上方创造了一个“负重力”区域。这就像是在那里放置了一个巨大的、隐形的磁铁，排斥着 AI 的创作能量，迫使它绕过禁区，最终只停留在安全、美丽的区域。他们在从 2D 地图到复杂图像的各种测试中验证了这一点，结果表明，这是一种强大的方法，可以在不破坏艺术质量的前提下，让 AI 变得更安全、更听话。

“负”重力的魔力

为了理解这是如何运作的，让我们把 AI 的旅程想象成一条河流，从一个嘈杂的山泉（随机静态噪声）流向一个平静的湖泊（最终图像）。在标准 AI 中，我们只是建造一条渠道来引导水流向湖泊。但如果中间有一个我们想要避开的沼泽怎么办？

作者提出了一个迷人的想法：将沼泽视为拥有负水（negative water）。在现实世界中，负水并不存在，但在数学中，它是存在的。他们创建了一张“带符号”的地图，其中好的区域拥有正水，而坏的区域拥有负水。当 AI 试图流经这张地图时，负水会产生一种排斥力。它不仅仅是静止在那里；它会将河流推开。

最酷的部分在于：AI 实际上并不会流经那片负向沼泽。相反，数学创造了一个“幽灵区域”或一道屏障。河流会自然地绕过负值区域，寻找一条完全留在正向、安全区域的路径。这就像是一名徒步旅行者，能够感觉到远离悬崖边缘的磁力拉力。徒步旅行者永远不会掉下去，因为地面本身似乎向远离危险的方向倾斜。

“带电粒子”类比

作者使用了一个有趣的物理类比来解释这一点：带电粒子。想象 AI 的数据点是微小的粒子。好的数据（比如一张猫的照片）带有正电荷，而坏的数据（比如在你想要猫的时候出现了一张狗的照片）带有负电荷。

当 AI 生成一张新图像时，就像是在旅程开始时释放了一个正粒子。随着它的移动，它会感受到来自负电荷的强烈排斥。如果它太靠近“坏”区域，这种排斥力会变得非常强大，像一堵墙一样，将粒子弹回好的一侧。论文表明，这创造了一个 AI 可以安全探索的“可达区域”，而“负值区域”则保持完全不受影响。AI 永远不会意外踏入禁区，因为流动的数学逻辑使得粒子物理上无法跨越那道边界。

实验室发现

团队不仅提出了这些构想，还通过多种方式进行了测试，结果看起来非常有前景。

1. 2D 玩具地图
首先，他们使用了简单的 2D 地图。想象一张带有“好岛屿”和“坏沼泽”的地图。在使用旧方法时，AI 要么会被困在沼泽里，要么会被推得太远，最终落入一片荒凉的沙漠。使用“带符号整流流”后，AI 完美地停留在好岛屿上，完全避开了沼泽，同时仍覆盖了整个岛屿。这就像是一个完美的 GPS，准确知道哪里不该去。

2. “反记忆”测试
关于 AI，人们最大的担忧之一是它可能会直接复制其训练数据中的图片（记忆化）。作者使用他们的方法来告诉 AI：“不要复制你在训练中看到的精确图片。”他们将训练数据视为“负值”区域。

结果： 当他们要求 AI 画出特定的犬种时，标准的 AI 有时会复制训练集中的确切照片，甚至包括水印或边框等奇怪的人造痕迹。然而，使用“带符号整流流”的 AI 则画出了一只全新的、独特的狗，它看起来符合该品种特征，但并没有复制特定的训练照片。它成功地将生成的图像推离了“训练数据沼泽”，同时保持了狗的形态特征。
数据： 在测试中，他们发现使用这种方法显著降低了与训练图像的相似度。例如，在特定设置下，他们将“攻击成功率”（即 AI 未能避开不良内容的频率）从 15.19% 降低到了 6.33%，同时保持图像质量评分（CLIP 和 Aesthetic 分数）几乎完全相同。

3. 安全性与概念抑制
他们还测试了是否可以阻止 AI 绘制不当内容或特定的版权角色。

米老鼠测试： 他们告诉 AI 画一个“有着圆黑耳朵和红裤子的卡通老鼠”，但明确说“不要画米老鼠”。标准 AI 经常还是会画出米老鼠。而“带符号整流流”AI 画出的老鼠拥有所有请求的特征（耳朵、短裤、鞋子），但在视觉身份上足以区别于受版权保护的角色。
裸露测试： 在一个名为“Ring-A-Bell”的基准测试中（该测试试图诱导 AI 绘制裸露内容），新方法将失败率从 15.19% 降低到了 6.33%。这意味着它在遵循“不要做这个”的规则方面表现得更好，且不会让图像看起来模糊或破碎。

为什么这很重要

这种方法的精妙之处在于，它不仅仅是一个“补丁”或简单的过滤器。它是对 AI 如何在其创作空间中移动的一种根本性的改变。通过使用“负质量”的概念，作者创建了一个系统，让 AI 自然而然地避开坏事，因为其旅程的数学逻辑会将其推开。

他们证明了无论你是引导机器人穿过迷宫、生成狗的图像，还是试图确保 AI 不复制其训练数据，这种方法都有效。该方法非常灵活：你可以通过调整参数 $\alpha$ 来调高或调低“排斥力”，从而决定 AI 应该多么严格地避开坏事。

论文指出，这是一种处理负向指令的、有原则且符合数学逻辑的方法。它不仅仅是关于说“不”；它是关于构建一个“不”字本身就是一道 AI 无法跨越的物理屏障的世界。虽然作者指出，由于需要计算这些排斥力，他们的方法需要更多的计算资源（大约多出 10% 的时间和内存），但这种权衡对于提供额外的安全性和控制力来说是非常值得的。

简而言之，“带符号整流流”赋予了 AI 一种新型的常识：它不仅知道该做什么，而且真正理解了什么不该做，同时还保留了它的创作灵感。

技术摘要：符号化整流流 (Signed Rectified Flow, Signed RF)

问题陈述

许多生成建模任务不仅需要促进一个理想的分布 ( $\pi_+$ )，还需要显式地抑制一个不理想的分布 ( $\pi_-$ )。这出现在条件生成（匹配目标的同时避免不一致性）、安全对齐（生成符合价值观的输出并排除有害输出）以及偏好学习等场景中。

目前的各种方法，特别是针对流模型（flow models）和扩散模型（diffusion models），依赖于采样时的启发式引导（例如，分类器自由引导，Classifier-Free Guidance）。这些方法通过固定的或人工调优的尺度在正向场与负向场之间进行外推。然而，由此产生的采样分布难以被理解，这使得人们无法明确哪些数据空间的区域被有效地促进或抑制了。此外，标准引导难以解决“缺失负样本”问题，即训练中缺乏负面示例并不本质上意味着模型不会生成这些示例。

方法论：符号化整流流 (Signed Rectified Flow)

作者提出了 符号化整流流 (Signed RF)，这是一个将整流流 (Rectified Flow, RF) 推广到处理符号测度 (signed measures) 的原则性框架。

1. 符号目标 (The Signed Target)

不同于标准的概率分布，Signed RF 定义了一个符号目标测度：
$\pi_{\text{sign}} = (1 + \alpha)\pi_+ - \alpha\pi_-$
其中 $\alpha > 0$ 。这里， $\pi_+$ 代表要促进的分布，而 $\pi_-$ 代表要抑制的分布。虽然 $\pi_{\text{sign}}$ 不是一个有效的概率分布（它可以取负值，且在标准意义上积分不为 1），但它作为一个中间对象，用于编码显式的排除约束。

2. 动力学与速度场 (Dynamics and Velocity Field)

Signed RF 将 RF 的速度公式扩展到此符号目标。给定边际分布 $\pi^+_t$ 和 $\pi^-_t$ 以及由源分布 $\pi_0$ 通过线性插值诱导的各自速度场 $v^+_t$ 和 $v^-_t$ ，Signed RF 速度场推导如下：
$v^{\text{signRF}}_t(x) = \frac{(1 + \alpha)\pi^+_t(x)v^+_t(x) - \alpha\pi^-_t(x)v^-_t(x)}{(1 + \alpha)\pi^+_t(x) - \alpha\pi^-_t(x)}$
这可以改写为一种类似于引导的形式：
$v^{\text{signRF}}_t(x) = v^+_t(x) + \lambda^\alpha_t(x) \Delta v_t(x)$
其中 $\Delta v_t(x) = v^+_t(x) - v^-_t(x)$ ，且引导强度 $\lambda^\alpha_t(x)$ 由密度比 $r_t(x) = \pi^-_t(x)/\pi^+_t(x)$ 决定：
$\lambda^\alpha_t(x) = \frac{\alpha r_t(x)}{(1 + \alpha) - \alpha r_t(x)}$

3. 理论保证：可达区域与幽灵区域 (Reachable and Ghost Regions)

论文分析了在这一动力学下，源初始化轨迹 ( $Z_0 \sim \pi_0$ ) 的行为：

正向区域保持 (Positive Region Preservation)： 轨迹始终保持在正向区域 $\Omega^+_t = \{x : \pi_{\text{sign}}_t(x) > 0\}$ 内，且绝不会跨入负向区域 $\Omega^-_t$ 。
零集作为屏障 (Zero Set as a Barrier)： $\pi_{\text{sign}}_t(x) = 0$ 的集合充当了一个排斥屏障。速度场在该边界处变得奇异，从而阻止了穿透。
可达区域与幽灵区域 (Reachable vs. Ghost Regions)： 采样律 $\pi^{\text{signRF}}_t$ 在可达区域 $\Omega^r_t \subseteq \Omega^+_t$ 上与符号边际 $\pi_{\text{sign}}_t$ 完全一致。正向区域的剩余部分被称为幽灵区域 ( $\Omega^g_t$ )。幽灵区域中的正质量恰好平衡了从采样律中排除的负质量。
解释： 作者提供了一种“带电粒子”的解释，即正粒子与负粒子在零边界处湮灭，从而在采样的轨迹与负向区域之间创造了结构性的分离。

4. 实际实现

为了实现 Signed RF，必须估计密度比 $r_t(x)$ 。论文提出了两种方法：

基于分类器的方法 (Classifier-based)： 在来自正向分支和负向分支的噪声状态上训练二元分类器，以估计胜算比 (odds ratio)。
在线比例追踪 (Online Ratio Tracking)： 通过对由连续性方程和得分函数导出的 ODE 进行积分，沿轨迹追踪对数密度比 $u_t = \log r_t(z_t)$ 。这避免了训练辅助分类器。

核心贡献与结果

1. 理论框架

论文建立了一个理论，证明 Signed RF 通过在可达区域保留符号密度并在其他地方分配零密度，将一个符号边际整流为一个有效的概率律。这为引入负面信息提供了严谨的基础，证明了诱导流能够自然地避开负向区域，而无需采用权宜之计的约束。

2. 经验应用

作者在多个领域展示了 Signed RF 的能力：

2D 玩具示例与 PointMaze： Signed RF 成功分离了正向与负向模态，并在常数引导失效（要么无法排斥，要么过度排斥）的情况下实现了对障碍物的导航（解决了缺失负数据问题）。
ImageNet 类条件生成： 使用预训练的 Rectified Flow 模型，Signed RF 改善了保真度与多样性的权衡。在 16 NFE（函数评估次数）下，它在保持同等精度下的更高召回率的同时，将 FID 从 2.38 (CFG) 降低至 1.82。
反记忆化 (Anti-Memorization)： 通过将训练集建模为负向分布，Signed RF（称为“数据排斥流”，Data Repulsive Flow）减少了训练数据的复制。在风险较高的种子（seeds）上，它抑制了数据集特有的伪影（如水印、边界），并在保持生成质量的同时增加了与训练集的最近邻距离（对于 SPELL-50，FID 为 2.03 对比 7.41）。
概念抑制与安全性： 应用于 Stable Diffusion 3.5，Signed RF 将生成裸露内容的攻击成功率 (ASR) 从 15.19% 降低到 6.33%，同时也降低了毒性率，同时保留了 CLIP 和美学评分。它还能有效抑制特定概念（例如米奇鼠或蜘蛛侠等版权角色身份），同时保留所需的视觉属性。

意义与主张

论文声称 Signed RF 为在生成流中引入显式负向分布提供了一个原则性且实用的框架。不同于依赖固定尺度的启发式引导方法，Signed RF 通过局部密度比从状态相关的角度推导出引导强度。

主要主张包括：

理论严谨性： 它提供了一种数学上合理的排除机制，证明了源初始化的流通过在符号零集处的排斥屏障，自然地避开了负向区域。
解决缺失负数据问题： 它解决了训练数据缺乏显式负面示例的局限性，允许用户定义一个需要被抑制的负向分布（例如训练集本身或特定概念）。
权衡优化： 在实证方面，它比现有基线（CFG, SPELL, SAFREE）能更有效地实现保真度与多样性的权衡，并实现更有效的概念抑制，且没有显著的计算开销增加（运行时间和内存仅增加约 10%）。

这项工作将 Signed RF 定位为 Rectified Flow 的一种通用扩展，它在一个统一的动力系统中整合了促进与抑制的处理，超越了启发式的外推，转向了一种具有理论依据的采样律。