技术摘要：空间锚定流匹配 (StructFlow)

问题陈述

目前的图像生成流匹配模型通常学习将样本从一个简单的、各向同性的高斯源分布（$p_0 = \mathcal{N}(0, I)$）传输到自然图像的复杂数据分布。虽然这种标准形式非常有效，但存在一个根本性的不匹配：自然图像具有强烈的空间局部性（相邻像素高度相关并形成连贯区域），而 i.i.d. 高斯先验则假设空间位置之间是完全独立的。

作者假设，这种差异迫使模型必须通过其学习到的速度场来隐式地重建空间局部性，而不是将其作为一种归纳偏置（inductive bias）继承下来。这给模型增加了不必要的负担，可能阻碍训练效率并限制可控性。具体而言，模型必须从零开始“学习”局部结构，而源分布的设计却与图像领域固有的归纳偏置背道而驰。

方法论：StructFlow

为了解决这一问题，作者提出了 StructFlow 框架，该框架使用一个显式编码空间局部性的结构化源分布来替代标准的各向同性高斯源。

核心机制：层次化噪声采样

StructFlow 不再为每个像素独立采样噪声，而是构建了一个层次化高斯先验，其中同一小空间区域（分段/segment）内的像素共享一个共同的噪声分量。

1. 分割 (Segmentation)： 使用 SLIC 分割（或在推理时使用代理方法）将图像空间分解为 $K$ 个区域（超像素）。
2. 层次化采样 (Hierarchical Sampling)：
   • 第一层（锚点）： 对于每个分段 $k$，采样一个共享的锚点向量 $z_k$。
   • 第二层（局部噪声）： 对于属于分段 $k$ 的每个像素 $(i, j)$，噪声 $\epsilon_{i,j}$ 从以锚点为中心的高斯分布中采样：$\epsilon_{i,j} \sim \mathcal{N}(z_k, \lambda_\varsigma^2 I)$。
   • 重缩放 (Rescaling)： 对噪声进行全局重缩放，以确保单位边缘方差。
3. 相关性控制 (Correlation Control)： 参数 $\lambda_\varsigma$ 控制局部性的强度。当 $\lambda_\varsigma \to 0$ 时，同一分段内的像素变得高度相关；当 $\lambda_\varsigma \to \infty$ 时，分布趋近于标准的 i.i.d. 高斯噪声。

稳定性训练策略

使用结构化噪声进行训练会因为梯度方差增加而引入优化不稳定性。作者提出了三种互补的策略来稳定训练：

1. 余弦诱导空间锚定 (CISA)： 锚点 $z_k$ 不再是随机采样，而是从空间格点上的确定性对角余弦网格中导出。这减少了随机变异性并提供了连贯的空间线索，从而稳定了速度场的学习。
2. 渐进式相干性退火 (Progressive Coherence Annealing)： 模型采用课程学习方式进行训练，$\lambda_\varsigma$ 从较大的值（接近 i.i.d. 高斯）开始，线性递减至目标值。这使得模型可以首先从易于学习的近高斯源开始，并逐步适应结构化约束。至关重要的是，这使得通过从大 $\lambda_\varsigma$ 开始并进行退火，可以对现有的预训练流匹配模型进行后训练 (post-training)。
3. 混合相干性训练 (Mixed-Coherence Training)： 为了避免在生成质量（高 $\lambda_\varsigma$）与局部可编辑性（低 $\lambda_\varsigma$）之间产生二元权衡，模型在训练结束阶段使用在范围 $[\lambda_{min} - \delta, \lambda_{min} + \delta]$ 内均匀采样的 \lambda_\varsigma} 进行训练。这使得单个模型能够在推理时跨越不同的相干性水平运行。

核心贡献

1. 识别源分布不匹配： 本文指出标准 i.i.d. 高斯源分布缺乏空间结构，这是流匹配的一个关键局限性，并认为局部性应当被构建在源分布中，而非完全从数据中学习。
2. StructFlow 框架： 引入了一种空间结构化源分布，使噪声在局部区域内相关联，直接编码了图像局部性的归纳偏置。
3. 稳定性技术： 开发了 CISA、渐进式退火和混合相干性训练，以解决与结构化噪声相关的优化不稳定问题。
4. 涌现能力： 证明了这种简单的修改可以在不牺牲生成质量的前提下，解锁新的特性，包括细粒度局部编辑、结构保持以及平滑的语义插值。

结果与评估

作者在 ImageNet 和 FFHQ 数据集上，使用 DiT 架构在无条件、类条件和文本条件回归下对 StructFlow 进行了评估。

• 生成质量： StructFlow 实现了极具竞争力的图像生成质量，在 FID、sFID、Precision、Recall 和 ImageReward 等指标上达到或超过了标准流匹配的效果。
• 细粒度编辑： 通过仅在选定的分段内重新采样噪声，同时保持其他部分固定，StructFlow 实现了精确的局部重合成。定量分析表明，经过低 $\lambda_\varsigma$ 训练的模型在保持未选中区域方面表现显著更好（较低的 LPIPS/RMSE “渗漏”），同时保持了编辑区域的多样性。
• 结构保持： 生成的图像能够自然地遵循提供的分割掩码，允许用户在改变纹理和细节的同时引导全局布局。
• 早期特征涌现： 对中间表示层的分析显示，与标准模型相比，StructFlow 模型在去噪过程的早期阶段就能开发出空间相干的特征（例如物体边界）。
• 后训练适用性： 该方法可以通过轻量级的相干性退火后训练，成功集成到预训练模型（如 SANA 文本生成图像模型）中，证明了其优势可扩展至基础模型。

意义与主张

本文声称，源分布设计是改进生成模型的强大且尚未被充分探索的维度。通过将源分布与目标领域的归纳偏置（空间局部性）相对齐，StructFlow：

• 减轻了学习到的速度场重建局部结构的负担。
• 解锁了可控性和可解释性（例如局部编辑、结构保持），这些特性在标准 i.i.d. 先验下难以实现。
• 证明了这些优势可以通过轻量级后训练集成到现有的基础模型中，使该方法对于当前的规模化生成系统具有实用价值。

作者强调，这些能力是从结构化源中自然涌现的，而不是需要专门的编辑架构或复杂的反转技术。