1. 문제 정의 (Problem)

Flow Matching (FM) 은 복잡한 데이터 분포를 모델링하기 위해 강력한 패러다임으로 부상했으나, 표본별 속도 (sample-wise velocities) 간의 방향적 충돌로 인해 발생하는 근본적인 한계가 존재합니다.

• 방향적 충돌 (Directional Conflicts): FM 은 단순한 사전 분포 (prior) 에서 목표 데이터 분포 (target) 로 가는 각 샘플 쌍의 개별 속도 벡터들을 평균화하여 '한계 속도장 (marginal velocity field)'을 학습합니다. 그러나 중간 상태 (intermediate state) 에서 서로 다른 샘플 쌍의 속도 벡터들이 서로 반대 방향을 가리키거나 상충될 때, 평균화된 속도 벡터는 유효한 모드 (mode) 가 아닌 **저밀도 영역 (low-density region)**을 향하게 됩니다.
• 결과: 이러한 오해석된 속도 벡터는 생성 경로를 왜곡시켜 흐릿하거나 품질이 저하된 이미지를 생성하게 만듭니다.
• 기존 접근법의 한계: 기존 연구들 (HRF, VRFM 등) 은 이 충돌을 해결하기 위해 모델의 학습 목표나 아키텍처를 변경하여 다중 모드 (multi-modal) 속도 분포를 직접 모델링하려 했습니다. 그러나 이는 **고비용의 재학습 (costly retraining)**을 요구하며, 이미 대규모 데이터로 최적화된 강력한 오프더셸 (off-the-shelf) Flow 모델을 직접 활용할 수 없다는 단점이 있습니다.

2. 제안 방법: Flow Divergence Sampler (FDS)

저자들은 모델을 재학습시키지 않고 추론 시간 (inference time) 에만 문제를 해결하는 FDS를 제안합니다. 이는 기존 솔버 (Solver) 와 호환되는 플러그 앤 플레이 (Plug-and-Play) 방식의 프레임워크입니다.

핵심 아이디어

• 상태 공간 정제 (State Refinement): 속도장 자체를 수정하는 대신, 솔버 단계 전에 현재 중간 상태 ($x_t$) 를 근처의 더 신뢰할 수 있는 상태 ($\tilde{x}_t$) 로 이동시킵니다. 이 새로운 상태에서는 동일한 사전 학습된 속도장이 덜 모호한 (less ambiguous) 방향을 가리키도록 합니다.

이론적 기반: 발산 (Divergence) 과 불일치 (Discrepancy)

• 핵심 발견: 표본별 속도와 한계 속도 간의 불일치 (discrepancy) 는 **한계 속도장의 발산 (divergence)**으로 수학적으로 표현될 수 있음을 증명했습니다 (Theorem 1).
  • $\mathcal{L}^*_{CFM}(x_t, t) \propto \nabla_{x_t} \cdot u_t(x_t)$
  • 즉, 속도장의 발산이 클수록 해당 위치에서 속도 벡터들의 충돌이 심하고 생성 품질이 저하될 위험이 높다는 것을 의미합니다.
• 데이터 없는 대리 지표 (Data-free Surrogate): 실제 데이터에 의존하지 않고, 사전 학습된 모델 $u_\theta$의 발산 ($\nabla \cdot u_\theta$) 을 계산하여 불일치 정도를 추정합니다. 이를 위해 Hutchinson's trace estimator 를 사용하여 효율적으로 계산합니다.

알고리즘 프로세스

1. 후보 생성: 현재 상태 $x_t$에 작은 무작위 섭동 (perturbation) 을 가하여 $M$개의 후보 상태 집합을 생성합니다.
2. 평가 및 선택: 각 후보 상태에 대해 모델의 발산 값을 계산합니다.
3. 정제: 발산 값이 가장 낮은 (즉, 불일치가 가장 적은) 후보 상태를 선택하여 새로운 상태 $\tilde{x}_t$로 업데이트합니다.
4. 솔버 단계: 정제된 상태 $\tilde{x}_t$에서 다음 솔버 단계 (예: Euler, Heun) 를 수행합니다.

• 효율성: 초기 디노이징 단계 ($t < 0.5$) 에만 적용하고, 후보 수 ($M$) 와 반복 횟수 ($N$) 를 1 로 설정하여 계산 오버헤드를 최소화하면서도 큰 성능 향상을 얻습니다.

3. 주요 기여 (Key Contributions)

1. 이론적 연결: 한계 속도와 표본별 속도 간의 평균 제곱 오차 (MSE) 가 한계 속도장의 발산과 직접적으로 연관됨을 수학적으로 증명했습니다. 이를 통해 추론 시 데이터 없이 불일치를 측정할 수 있는 실용적인 대리 지표를 제시했습니다.
2. FDS 프레임워크: 모델 재학습 없이 중간 상태를 공간적으로 정제하여 생성 품질을 높이는 플러그 앤 플레이 샘플링 방법을 도입했습니다.
3. 광범위한 검증: 다양한 백본 (EDM, JiT, SiT), 솔버 (Euler, Heun), 작업 (이미지 생성, 텍스트 - 이미지 생성, 역문제) 에서 일관된 성능 향상을 입증했습니다.

4. 실험 결과 (Results)

• 이미지 생성 (CIFAR-10, ImageNet 256x256):
  • 계산 비용이 동일한 베이스라인 (NFE 증가) 과 비교했을 때, FDS 를 적용한 모델이 FID (Fréchet Inception Distance) 점수에서 일관되게 우위를 보였습니다.
  • 특히 Heun 솔버와 같은 고급 솔버에서도 NFE 를 늘리는 것만으로는 성능 향상이 포화되지만, FDS 는 추가적인 세부 사항 (예: 햄버거의 참깨, 동물의 털 질감 등) 을 명확하게 생성하여 품질을 크게 향상시켰습니다.
• 텍스트 - 이미지 생성 (SD3-Medium):
  • DrawBench 데이터셋에서 Human Preference Score, Aesthetic Score, CLIP Score 등 다양한 지표에서 베이스라인보다 우수한 결과를 보였습니다.
• 역문제 (Inverse Problems):
  • 이미지 디블러링 (Deblurring) 및 초해상도 (Super-Resolution) 작업에서도 TFG (Training-Free Guidance) 와 결합하여 더 선명하고 디테일한 결과를 생성했습니다.
• 학습 기반 방법과의 비교:
  • 충돌을 해결하기 위해 재학습한 방법 (HRF 등) 보다 FDS 를 적용한 기존 모델이 더 낮은 FID 를 기록하며, 재학습 없이도 더 나은 성능을 낼 수 있음을 보였습니다.

5. 의의 및 결론 (Significance)

이 논문은 Flow Matching 의 근본적인 한계인 '경로 교차 (trajectory crossing)' 문제를 모델 수정 없이 추론 단계에서 해결할 수 있음을 증명했습니다.

• 실용성: 기존에 훈련된 강력한 생성 모델을 재학습 없이 바로 고도화할 수 있어, 실제 적용에 매우 유용합니다.
• 새로운 관점: 기존 솔버가 주로 '시간적 오차 (temporal error)'를 줄이는 데 집중했다면, FDS 는 **'공간적 정제 (spatial refinement)'**를 통해 생성 경로를 신뢰할 수 있는 영역으로 유도한다는 새로운 관점을 제시했습니다.
• 확장성: 다양한 생성 모델 (Diffusion, Flow Matching) 및 작업에 적용 가능한 범용적인 기술로, 향후 생성 모델의 신뢰성 향상 연구의 기초를 마련했습니다.