기술 요약: 보수적 흐름 (Conservative Flows)

문제 제기

현대 생성 모델링은 주로 이동 (transport) 패러다임으로 정의됩니다. 즉, 단순한 참조 분포 (일반적으로 가우시안 잡음) 에서 복잡한 데이터 분포로의 매핑을 학습하는 것입니다. 점수 기반 (score-based) 및 흐름 기반 (flow-based) 확산 모델은 전방 잡음화 과정을 역전시킴으로써 최첨단 결과를 달성해 왔지만, 이 접근법은 본질적으로 일련의 중간 분포에 걸쳐 전역 이동 지도를 학습해야 합니다.

저자들은 이러한 모델에서 사용되는 연속 시간 역학의 이산화 (discretization) 에 근본적인 한계가 있음을 지적합니다. 구체적으로, 연속 시간 란제빈 역학은 이론적으로 목표 데이터 분포 $p$를 불변 측도 (invariant measure) 로 유지하지만, 명시적 이산 시간 근사 (예: 수정되지 않은 란제빈 알고리즘, ULA) 는 이를 정확히 유지하지 못합니다. 이산화 오차는 생성된 샘플이 시간이 지남에 따라 실제 데이터 매니폴드에서 벗어나게 만들어, 생성 과정이 매 단계에서 데이터 분포 내에 머무러야 한다는 요구 사항을 위반하게 합니다.

또한 저자들은 많은 실제 환경—예를 들어 증강 검색 시스템이나 잠재 생성 파이프라인—에서는 생성이 반드시 '정보 없는' 잡음 상태에서 시작하지 않는다고 주장합니다. 대신, 검색된 데이터 포인트, 최근접 이웃, 또는 이미 목표 분포 근처에 있거나 그 위에 있는 잠재 코드와 같은 유효한 초기 상태가 존재합니다. 이 논문은 이러한 시나리오의 경우, 이동 (noise-to-data) 에서 불변성 (data-to-data) 으로 패러다임을 전환하는 것이 더 자연스럽고 효율적이라고 가정합니다.

방법론

이 논문은 데이터 분포를 불변으로 유지하는 이산 확률 역학에 의해 생성이 수행되는 보수적 흐름 (Conservative Flows) 프레임워크를 제안합니다. 시스템은 데이터 지원 상태 ($x_0 \sim p$) 에서 초기화되며, 모든 단계에서 확률 법칙을 유지하면서 진화합니다 ($x_j \sim p$ for all $j \ge 1$).

이 프레임워크는 기존 사전 훈련된 흐름 매칭 모델을 재훈련 없이 직접 위에 작동할 수 있는 두 가지 구별된 확률 보존 샘플링 메커니즘을 도입합니다.

1. 수정된 란제빈 역학 (dMALA)

이 방법은 명시적 밀도 $p(x)$를 사용할 수 없는 생성 모델링에 메트로폴리스 - 수정 란제빈 알고리즘 (MALA) 을 적용합니다.

• 메커니즘: 학습된 점수 필드 $s_\theta$를 사용하거나, 더 실용적으로는 노이즈가 있는 관측치에서 깨끗한 샘플을 예측하도록 훈련된 디노이저 (denoiser) $D_\sigma$를 활용합니다. 디노이저는 흐름 매칭 훈련에 사용된 브리지 (bridge) 에서 직접 유도됩니다.
• 수정: 불변성을 복원하기 위해 메트로폴리스 - 헤이스팅스 (Metropolis-Hastings) 수정을 적용합니다. 알려지지 않은 로그 밀도 차이 $\log p(y) - \log p(x)$ 대신, 현재 상태 $x$와 제안 상태 $y$ 사이의 경로에 따라 보수적 점수 필드 (또는 디노이저 잔차) 의 선적분 (line integration) 을 사용합니다.
• 불변성 목표: 이 메커니즘은 가우시안 평활화 분포 $p_\sigma = p * \mathcal{N}(0, \sigma^2 I)$를 유지하며, 여기서 $\sigma$는 디노이저의 노이즈 수준에 의해 결정됩니다.
• 효율성: 사다리꼴 규칙으로 선적분을 근사함으로써, 수용 비율은 디노이저의 제곱 잔차의 함수로 단순화되어 단계당 두 번의 디노이저 평가만 필요합니다.

2. 예측 - 수정 흐름 (Predictor–Corrector Flow)

이 방법은 평활화된 버전이 아닌 원래 데이터 분포 $p$를 직접 목표로 합니다.

• 메커니즘: 두 단계 프로세스로 작동합니다:
  1. 예측기: 현재 샘플 $x \sim p$에 제어된 양의 노이즈를 추가하여 중간 '브리지' 분포 $p_\tau$ (여기서 $\tau < 1$) 로 이동시킵니다.
  2. 수정기: 학습된 흐름 지도 (또는 직접 해결 지도) 를 적용하여 노이즈가 있는 샘플을 데이터 분포 $p$ (시간 $t=1$) 로 다시 이동시킵니다.
• 불변성: 정확한 흐름 모델 하에서 이 커널은 엄격하게 확률을 보존합니다. 이 방법은 브리지에서 데이터 매니폴드로 샘플을 정확하게 매핑하는 흐름 모델의 능력에 의존합니다.
• 유연성: dMALA 의 지역적 수용/거부 특성과 달리, 이 접근법은 매니폴드에서 일시적으로 벗어나 학습된 흐름을 통해 돌아옴으로써 더 크고 비국소적인 이동을 허용합니다.

주요 기여

1. 패러다임 전환: 이 논문은 생성 모델링을 "잡음으로부터의 이동"에서 "데이터 분포의 정적 탐사"로 재정의합니다. 핵심 대상은 데이터 지원 상태에서 초기화되어 관련 법칙을 보존하는 확률 역학입니다.
2. 두 가지 확률 보존 메커니즘: 저자들은 표준 란제빈 역학 및 흐름 기반 생성의 이산화 오차를 수정하는 두 가지 구체적인 샘플러 (dMALA 및 예측 - 수정) 를 개발하고 공식화했습니다.
3. 사전 훈련 모델의 재사용: 중요한 실용적 기여는 두 메커니즘 모두 처음부터 새로운 생성 모델을 훈련할 필요가 없다는 점입니다. 둘 다 기존 사전 훈련된 흐름 매칭 체크포인트 (예: SoFlow, SiT) 에서 필요한 점수, 디노이저, 또는 흐름 지도를 직접 추출할 수 있습니다.
4. 이론적 수정: 이 논문은 이산 란제빈 역학이 목표 법칙을 유지하지 못하는 문제를 명시적으로 다루며, 선적분 및 브리지 흐름을 통해 이를 수정하기 위한 수학적 유도를 제공합니다.

실험 결과

이 프레임워크는 합성 스위스 롤 (Swiss-roll) 목표, ImageNet-256, Oxford Flowers-102 에서 검증되었습니다.

• 합성 목표 (Swiss-roll): 실험은 표준 ULA 가 목표 분포에서 벗어나는 반면, 수정된 역학 (dMALA) 과 예측 - 수정 흐름은 올바른 매니폴드에 머무르며 긴 체인에서 분포를 유지함을 보여주었습니다.
• ImageNet-256:
  • 두 방법 모두 사전 훈련된 백본 (SoFlow-XL/2-cond 및 SiT-REPA-XL) 의 기준 샘플러보다 일관되게 개선된 결과를 보였습니다.
  • dMALA는 특히 작은 평활화 수준 ($\sigma=0.3$) 에서 가장 낮은 프레이트 인셉션 거리 (FID) 점수를 달성하여 데이터 분포에 대한 높은 충실도를 나타냈습니다.
  • 예측 - 수정은 더 높은 인셉션 점수 (IS) 와 정밀도 (Precision) 를 달성하여 더 다양하고 구별되는 샘플을 생성함을 시사했으나, 일부 구성에서는 dMALA 보다 약간 높은 FID 를 보였습니다.
  • 긴 체인 행동: 두 방법 모두 체인 길이 ($K$) 가 증가함에 따라 우아하게 성능이 저하되었는데, 이는 사전 훈련된 백본의 근사 오차 누적으로 인한 것이지만, 기준선보다 훨씬 더 나은 성능을 유지했습니다.
• 계산 효율성: 예측 - 수정 방법은 직접 ODE 적분과 경쟁력 있는 것으로 나타났습니다. 예를 들어, 예측 - 수정 방법의 200 회 네트워크 함수 평가 (NFEs) 는 동일한 백본의 800 단계 전방 오일러 적분 (6.51) 보다 낮은 FID(4.91) 를 달성했습니다.

중요성 및 주장

저자들은 이 작업을 생성 모델링을 위한 새로운 패러다임으로 위치시킵니다. 그들은 잡음을 데이터로 변환하는 것에서 학습된 역학 하에서 데이터 분포를 유지하는 것으로 목표를 전환함으로써, 이 프레임워크가 다음을 가능하게 한다고 주장합니다:

• 신뢰할 수 있는 샘플 변형: 프로세스를 데이터 매니폴드의 고확률 영역에 유지함으로써.
• 향상된 데이터 충실도: 표준 란제빈 역학을 괴롭히는 이산화 오차를 수정함으로써.
• 효율적인 재사용: 재훈련 없이 기존 사전 훈련된 모델을 향상시킬 수 있는 능력.

이 논문은 샘플러의 효과가 기반이 되는 사전 훈련된 흐름 또는 점수 기반 모델의 품질에 의해 제한된다는 점을 겸손하게 인정하며, 점수 모델의 근사 오차는 반복된 커널 적용을 통해 누적될 수 있다고 지적합니다. 또한, 현재 검증은 연속 영역 (이미지) 으로 제한되어 있으며, 텍스트 생성과 같은 이산 영역으로 패러다임을 확장하는 것은 향후 과제로 식별되었습니다. 저자들은 그들의 기여가 역잡음화가 아닌 정적 탐사를 중심으로 조직된 생성 프레임워크에 보존 원칙을 통합한 것임을 강조합니다.