기술 요약: CAB (수정된 애덤스-바슈포르트)

문제 제기

유동 (flow) 및 확산 (diffusion) 모델은 고충실도 이미지 및 비디오 합성을 위한 지배적인 패러다임으로 자리 잡았습니다. 그러나 실제 배포는 샘플링 단계에서 발생하는 높은 계산 비용에 의해 종종 저해되는데, 이 단계는 많은 신경망 평가 (NFE) 를 통해 학습된 역시간 상미분 방정식 (ODE) 을 수치적으로 적분해야 합니다. 훈련 없이 가속화하는 방법들이 존재하지만, 낮은 NFE 영역 (일반적으로 6~20 단계) 에서 중요한 트레이드오프에 직면합니다. DDIM 과 같은 1 차 방법은 견고하지만 품질을 위해 많은 단계를 필요로 하는 반면, 기존 고차 솔버 (예: DPM-Solver++, UniPC, STORK) 는 단계 예산이 극도로 제한될 때 불안정성, 과도한 평활화, 또는 구조적 왜곡에 종종 시달립니다. 또한 많은 고차 솔버는 특정 모델 파라미터화 (예: 확산을 위한 로그-SNR) 에 의존하거나 모델 종속 통계량이 필요하여 유동 및 확산 아키텍처 전반에 걸친 일반성을 제한합니다.

방법론

저자들은 추가적인 훈련이나 모델별 통계량 없이 유동 및 확산 모델 모두를 가속화하도록 설계된 훈련 없는 샘플러 CAB (Corrected Adams-Bashforth) 를 제안합니다. 방법론은 두 가지 주요 구성 요소로 이루어집니다:

1. 역시간 ODE 의 정류 (Rectification)

핵심 이론적 통찰은 유동 및 확산 모델 모두의 역시간 역학이 공통 좌표계로 변환될 수 있다는 점입니다. 상태 $x_t$ 를 $y_t = x_t / s_t$ 로 재조정하고 노이즈 - 대 - 신호 비율 $\rho_t = \sigma_t / s_t$ 를 사용하여 시간을 재파라미터화함으로써, 저자들은 "정류된" ODE 를 유도합니다. 이 $\rho$-좌표계에서 특정 노이즈 스케줄 ($s_t, \sigma_t$) 에 의해 유도된 선형 드리프트가 제거되고, 역학은 학습된 노이즈 필드 $\epsilon_\theta$ 에 의해 직접 구동되는 간단한 형태로 축소됩니다:
$$\frac{d\hat{y}_\rho}{d\rho} = \epsilon_\theta(s_t(\rho)\hat{y}_\rho, t(\rho))$$
이 변환은 단일 명시적 ODE 공식 아래 다양한 모델 계열 (VP, VE, 및 정류된 유동 경로 포함) 에 대한 샘플링 역학을 통합합니다.

2. 수정된 애덤스 - 바슈포르트 적분

유도된 비균일 $\rho$-그리드에서 CAB 는 다단계 애덤스 - 바슈포르트 (AB) 예측기를 적용합니다. 큰 단계 크기 (낮은 NFE) 에서 표준 AB 방법의 부정확성을 해결하기 위해 CAB 는 경량 수정 항을 도입합니다.

• 예측: 명시적 AB 예측기 (2 차 또는 3 차) 가 과거 속도 평가를 기반으로 다음 상태를 추정합니다.
• 수정: 이 방법은 "외삽 결함"을 계산하는데, 이는 현재 학습된 속도와 두 이전 단계의 속도에 대한 선형 라그랑주 외삽치 사이의 불일치로 정의됩니다.
• 업데이트: 최종 업데이트는 이 결함에 비례하는 가중 수정 항을 추가합니다:
  $$y_{t_{i+1}} = y^{pred}_{t_{i+1}} + \gamma_i h_i (\epsilon_i - \epsilon^{ext}_i)$$
  여기서 $\epsilon^{ext}_i$ 는 외삽된 속도이고 $\gamma_i$ 는 모델별 가중치입니다. 결정적으로, 이 수정은 이전 단계에서 이미 계산된 속도 평가를 활용하므로 추가 NFE 가 0입니다.

이론적 분석은 추가된 수정에도 불구하고 이 방법이 기본 애덤스 - 바슈포르트 솔버의 형식적 수렴 차수를 유지함을 증명합니다 (CAB-2 의 경우 2 차 전역 오차; $\gamma_i = O(h_i)$ 일 때 CAB-3 의 경우 3 차).

주요 기여

1. 통합 프레임워크: CAB 는 역학을 공통 노이즈 - 대 - 신호 좌표계로 정류함으로써 유동 매칭 및 확산 모델 모두에 적용 가능한 단일 훈련 없는 샘플러를 제공합니다.
2. 오버헤드 없는 수정: 이 방법은 가상 단계나 복잡한 다중 평가 수정에 의존하는 방법과 구별되며, 추가 네트워크 평가를 요구하지 않으면서 낮은 NFE 안정성과 정확도를 향상시키는 수정 메커니즘을 도입합니다.
3. 이론적 보장: 저자들은 수정된 스킴이 기본 애덤스 - 바슈포르트 방법의 국소 절단 오차 및 전역 수렴 차수를 보존함을 증명하는 증명을 제공합니다.
4. 경험적 성능: 광범위한 실험은 CAB 가 다양한 벤치마크에서 까다로운 6~20 단계 영역에서 품질-NFE 트레이드오프를 개선함을 보여줍니다.

실험 결과

저자들은 무조건부 이미지 생성 (CIFAR-10, ImageNet), 클래스 조건부 생성 (ImageNet 의 DiT), 고해상도 텍스트 - 이미지 합성 (QWEN-Image), 및 텍스트 - 비디오 생성 (HunyuanVideo) 에서 CAB 를 평가했습니다.

• 낮은 NFE 영역 (6~20 단계): CAB 는 FID (Fréchet Inception Distance) 및 지각적 품질 측면에서 강력한 훈련 없는 기준선 (DDIM, DPM-Solver++, UniPC, STORK) 보다 일관되게 우수합니다. 예를 들어, 6 NFE 에서 DiT/ImageNet 의 경우 CAB-3 은 14.81 의 FID 를 달성한 반면, DPM++ 은 26.64, STORK 는 51.52 의 FID 를 기록했습니다.
• 정성적 개선: 시각적 비교에 따르면, CAB 는 낮은 단계 설정에서 경쟁사보다 더 선명한 세부 사항을 생성하고, 구조적 무결성 (예: 얼굴 특징, 객체 경계) 을 더 잘 보존하며, 노이즈 아티팩트 및 과도한 평활화를 줄입니다.
• 고해상도 및 비디오: QWEN-Image(1024x1024) 에서 CAB-3 은 4~10 NFE 에서 가장 높은 ImageReward 점수를 달성합니다. 비디오 생성 (HunyuanVideo) 에서 CAB-2 는 낮은 단계 수에서 우수한 텍스트 - 비디오 정렬 및 시간적 일관성을 보여줍니다.
• 효율성: 수정이 저장된 과거 평가에 의존하므로 런타임 및 메모리 오버헤드는 표준 AB 솔버와 비교할 때 무시할 수 있을 정도로 작습니다.

중요성 및 주장

이 논문은 CAB 가 생성 모델링의 "낮은 NFE 딜레마"에 대한 간단하면서도 효과적인 해결책을 제공한다고 주장합니다. ODE 역학을 정류하고 결함 - 수정 전략을 적용함으로써 CAB 는 정확성, 안정성, 그리고 일반성 사이의 유리한 균형을 달성합니다. 저자들은 이 방법이 단일 가중치 $\gamma$ 이상으로 추가 훈련이나 모델별 하이퍼파라미터 튜닝을 요구하지 않으므로 기존 샘플러를 위한 실용적인 교체 솔루션이라고 강조합니다.

이 연구는 노이즈 - 대 - 신호 좌표계로 ODE 를 정류하는 것이 학습된 벡터장을 상당히 매끄럽게 만들어 더 정확한 다단계 적분을 용이하게 함을 시사합니다. 이 방법이 견고성을 향상시키지만, 저자들은 매우 적은 단계 (예: $N=6$) 와 매우 굽은 역학을 가진 극도로 까다로운 영역에서는 기하학적 추적 오류가 여전히 발생할 수 있음을 겸손하게 인정합니다. 이는 수정이 강성 (stiff) 이거나 급격히 변하는 시스템과 관련된 실패 모드를 완전히 제거하지는 못함을 나타냅니다. 그럼에도 불구하고 CAB 는 리소스 제약이 있고 지연 시간에 민감한 애플리케이션에서 고충실도 생성 모델을 더 접근 가능하게 만드는 중요한 진전을 나타냅니다.