기술 요약: 생성 모델 가속화를 위한 바이-앵커 보간 솔버 (Bi-Anchor Interpolation Solver)

1. 문제 정의

Flux 및 SD3와 같은 플로우 매칭(Flow Matching, FM) 모델은 노이즈 분포를 데이터 분포로 운송하는 속도장(velocity field)을 회귀함으로써 고충실도 이미지 합성을 위한 최첨단 성능을 확립했습니다. 그러나 생성 과정에는 수치 적분을 위한 반복적인 ODE(상미분 방정식) 풀이가 필요하며, 이는 상당한 지연 시간의 병목 현상을 야기합니다.

기존 솔루션들은 다음과 같은 이분법적 한계에 직면해 있습니다:

• 훈련이 필요 없는 솔버(Training-free Solvers): Euler, Heun, DPM-Solver와 같은 방법들은 즉시 적용 가능하지만, 큰 시간 간격을 사용할 때 큰 외삽 오차(extrapolation error)를 겪습니다. 품질을 유지하기 위해서는 고충실도 샘플링을 위해 흔히 100단계를 초과하는 높은 수의 신경 함수 평가(NFE)가 필요합니다.
• 훈련 기반의 원스텝/퓨스텝 방법(Training-based One/Few-Step Methods): Consistency Models와 같은 접근 방식은 궤적을 직접 예측하여 생성 과정을 1~2단계로 가속화합니다. 그러나 범용성이 부족하며(기존 모델에 재학습 없이 적용 불가), 거대한 백본 파라미터를 미세 조정하기 위해 수십만 번의 반복 학습이 필요한 막대한 훈련 비용을 초래합니다.

핵심 과제는 이 간극을 메우는 것입니다: 즉, 훈련 기반 방법의 가속 성능을 확보하면서도, 훈련이 필요 없는 솔버의 플러그 앤 플레이(plug-and-play) 범용성을 유지하되, 막대한 훈련 비용을 발생시키지 않는 것입니다.

2. 방법론: 바이-앵커 보간 솔버 (Bi-Anchor Interpolation Solver, BA-solver)

저자들은 동결된 백본을 유지하면서 최소한의 NFE로 고차 보간을 가능하게 하는 경량 SideNet을 도입하는 새로운 샘플링 프레임워크인 **바이-앵커 보간 솔버(BA-solver)**를 제안합니다.

핵심 구성 요소

1. 양방향 시간 인지 능력을 갖춘 경량 SideNet
무거운 백본($v_\theta$)을 재학습하는 대신, BA-solver는 백본 파라미터 크기의 약 1~2%에 불과한 경량 SideNet($S_\phi$)을 도입합니다.

• 기능: SideNet은 현재 상태($x_t$)와 속도($v_t$)에 조건화된 속도 편차를 예측하는 법을 학습합니다.
• 양방향 인지(Bidirectional Perception): 이는 동결된 백본을 통해 그래디언트를 역전파하지 않고도 미래와 과거의 속도를 근사합니다. 이를 통해 시스템에 "전방 주시(lookahead)" 및 "후방 주시(lookback)" 능력을 부여합니다.
• 훈련 효율성: 훈련은 계산 및 메모리 측면에서 매우 효율적이며, 전체 미세 조정 방법이 필요로 하는 반복 횟수의 극히 일부만을 요구합니다.

2. 바이-앵커 속도 통합 (Bi-Anchor Velocity Integration)
이 솔버는 시간 오프셋이 증가함에 따라 예측 충실도가 저하되는 단일 앵커 보간의 한계를 해결합니다. BA-solver는 두 개의 앵커 속도를 사용하여 이 오차를 최소화합니다.

• 전방 탐사(Forward Probe): 현재 앵커 속도 $v_t$(백본으로부터 추출)를 사용하여, SideNet은 일련의 쿼드러처 노드(quadrature nodes)에 대한 중간 속도를 예측합니다. 이를 통해 임시 다음 상태 $\hat{x}_{t-h}$가 계산됩니다.
• 후방 정밀화(Backward Refinement): 백본은 임시 상태에서의 속도 $v_{t-h} = v_\theta(\hat{x}_{t-h}, t-h)$를 평가하여 두 번째 앵커를 설정합니다. 그 후 SideNet은 $v_{t-h}$로부터 "후방 주시(backward lookback)"를 수행하여 구간의 끝에 더 가까운 노드들에 대한 예측을 정밀화합니다.
• 통합 및 상태 재사용: 최종 상태 업데이트는 고차 쿼드러처 규칙(예: Gauss-Lobatto)을 사용하여 두 방향의 속도(전반부를 위한 전방 예측 및 후반부를 위한 후방 정밀화)를 통합합니다. 결정적으로, 계산된 앵커 $v_{t-h}$는 캐싱되어 다음 구간의 시작 앵커로 재사용되므로, 총 NFE 수는 정확히 구간의 수와 동일하게 유지됩니다.

3. 체인 기반 훈련 (Chain-Based Training)
강건성을 보장하기 위해, SideNet은 순차적 생성 과정을 모사하는 K-구간 체인 전략을 사용하여 훈련됩니다. 훈련 목적 함수는 백본의 타겟을 수정하지 않도록 stop-gradient 연산자를 활용하여, SideNet의 속도 예측과 다음 상태의 ground truth 속도 사이의 차이를 최소화합니다.

3. 주요 기여

1. 알고리-즘: 단 5~10단계만으로 고충실도 생성을 가능하게 하는 샘플링 방법인 BA-solver를 제안합니다. 이는 비용이 많이 드는 훈련 기반 솔버와 훈련이 필요 없는 솔버 사이의 간극을 효과적으로 메웁니다.
2. 아키텍처: 동결된 플로우 매칭 백본에 양방향 시간 인지 능력을 부여하는, 훈련 효율적인 경량 SideNet을 도입하여 전체 모델 재학습의 필요성을 제거했습니다.
3. 성능: ImageNet-256 및 ImageNet-512 검증을 통해, BA-solver가 100단계 이상의 NFE를 사용하는 표준 Euler 솔버의 품질과 맞먹는 품질을 단 10 NFE만으로 달iamo 함을 입증했습니다. 또한, 기존 훈련 기반 원스텝 방법들보다 훈련 효율성(수십만 회 반복 대비 약 250회 반복 내 수렴) 및 파라미터 효율성(675M+ 파라미터 미세 조정 대비 약 6M 파라미터 최적화) 면에서 월등히 뛰어남을 보여주었습니다.

4. 실험 결과

• 품질 vs NFE: ImageNet-256에서 BA-solver는 7 NFE에서 1.96의 FID를 달성하여, Flow-DPM(4.03) 및 Euler(7.56)를 크게 앞질렀습니다. 10 NFE에서는 1.72의 FID에 도달하여 100단계 이상의 단계가 필요한 표준 Euler 솔버의 품질과 일치했습니다.
• 확장성: 이 방법은 512 해상도까지 효과적으로 확장되어, 단 7 NFE만으로도 전역적 일관성과 질감 디테일을 유지합니다.
• 훈련 효율성: BA-solver는 단 250회의 훈련 반복과 6백만 개의 학습 가능한 파라미터만으로 수렴합니다. 반면, MeanFlow나 iCT와 같은 경쟁 원스텝 방법들은 313,000회에서 800,000회의 반복이 필요하며 전체 백본(675M+ 파라미터)을 미세 조정해야 합니다.
• 이미지 편집: FM ODE의 가역성을 활용하여, BA-solver는 10 NFE 내에 고품질 이미지 편집(예: 클래스 간 변환)을 용이하게 하며, 이는 엄격한 원스텝 생성 방법들이 흔히 결여하고 있는 능력입니다.

5. 의의 및 주장

본 논문은 BA-solver가 생성 모델 가속화의 "최적의 지점(sweet spot)"을 나타낸다고 주장합니다. 무거운 백본을 가속 메커니즘으로부터 분리함으로써, 대규모 파운데이션 모델의 재학습에 따르는 과도한 비용 없이 플러그 앤 플레이 솔루션을 제공합니다.

저자들은 이 방법이 효율성과 충실도 사이에서 우수한 균형을 달성한다고 강조합니다. 이론적 분석에 따르면, 바이-앵커 메커니즘은 단일 앵커 보간에 비해 오차 경계 계수를 2배 감소시켜 외삽 드리프트(extrapolation drift)를 효과적으로 완화합니다. 경험적으로, 이 방법은 고품질 합성에 필요한 계산 비용과 에너지 소비를 획기적으로 줄임으로써 "그린 AI(Green AI)"를 실현하고, 고급 생성 모델 배포를 위한 하드웨어 장벽을 낮춥니다.

본 연구는 샘플링을 가속화하면서도, 다른 가속 기술에 의해 종종 훼손되는 ODE의 수학적 구조에 의존하는 이미지 편집과 같은 다운스트림 태스크의 범용성을 저해하지 않는다는 점을 명시합니다.