기술 요약: 확산 모델의 저차원 적응성: 총 변동 거리에서의 수렴

1. 문제 정의

확산 생성 모델, 특히 디노이징 확산 확률 모델(DDPM)과 디노이징 확산 암시 모델(DDIM)은 이미지 생성과 같은 고차원 응용 분야에서 놀라운 성공을 거두었습니다. 그러나 기존의 이론적 수렴 보증은 종종 주변 차원 $d$에 선형적으로 비례하는 경향이 있습니다 (예: 총 변동(Total Variation, TV) 거리에서 $\varepsilon$ 정밀도를 달성하기 위해 $O(d/\varepsilon)$ 회의 반복이 필요함). 이러한 스케일링은 실제 데이터(예: ImageNet)가 대개 고유 차원 $k \ll d$를 가진 저차원 구조(매니폴드, 부분 공간) 위에 있거나 그 근처에 존재한다는 점을 고려할 때 지나치게 보수적인 것으로 보입니다.

본 논문에서 다루는 핵심 문제는, 확산 샘플러가 알려지지 않은 저차원 구조에 어떻게 자동으로 적응하여 샘플링을 가속화할 수 있는지, 그리고 그 과정을 엄밀하게 입증할 수 있는지 여부입니다. 구체적으로, 저자들은 명시적인 저차원 구조 모델링이나 표준 알고리즘의 수정 없이, 주변 차원 $d$가 아닌 고유 차원 $k$에 의존하는 수렴 속도를 증명하고자 합니다. 나아가, 본 논문은 스코어 함수가 정확히 알려진 경우(ground-truth)가 아니라 데이터로부터 학습된 경우(노이즈가 섞인 추정치)로 분석을 확장하고, 스코어 추정에 대한 유한 표본 보증 또한 저차원에 적응하도록 제공하는 것을 목표로 합니다.

2. 방법론 및 프레임워크

2.1 정의 및 가정

저자들은 타겟 분포 $p_{data}$의 고유 차원(intrinsic dimension) $k$를 지지집합(support)의 피복 수(covering number)를 기반으로 정의합니다. 구체적으로, 지지집합의 피복 수의 로그가 $k \log(R_0/\epsilon_0)$로 스케일링된다면, $k$가 고유 차원이 됩니다. 이 정의는 선형 부분 공간, 매니폴드, 그리고 더블링 차원(doubling dimension) $k$를 가진 집합을 모두 포함합니다.

분석은 두 가지 주요 가정에 의존합니다:

1. 다항식으로 유계된 지지집합: $p_{data}$의 지지집합은 유계되어 있으며, 반경은 반복 횟수 $T$에 따라 다항식 형태로 스케일링됩니다.
2. 고유 차원: 지지집합은 위에서 설명한 피복 수 조건을 만족합니다.

결정적으로, 본 이론은 타겟 분포의 매끄러움(smoothness)이나 로그-오목성(log-concavity)을 가정하지 않습니다.

2.2 분석 접근 방식

본 논문은 두 가지 주류 샘플러를 분석합니다:

• DDIM: 확률 흐름 상미분 방정식(probability flow ODE)에 기반한 결정론적 샘플러.
• DDPM: 역시간 SDE(reverse-time SDE)에 기반한 확률적 샘플러.

방법론은 다음과 같습니다:

1. 정확한 스코어 분석: 먼저, 정확한 스코어 함수 $s^\star_t$에 접근할 수 있다고 가정할 때의 수렴 경계를 설정합니다. 저자들은 순방향 과정 $X_t$와 역방향 과정 $Y_t$ 사이의 TV 거리에 대한 재귀적 분석을 활용하며, 오차를 이산화 오차(discretization error)와 스코어 추정 오차로 분해합니다.
2. 노이즈가 섞인 스코어 분석: $s_t$가 $s^\star_t$의 근사치인 시나리오로 분석을 확장합니다.
   • DDIM의 경우, 결정론적 샘플러의 특성상 궤적 오차를 자연스럽게 평활화하지 못하므로, 고차 오차(스코어의 자코비안 및 헤시안)를 제어해야 합니다.
   • DDPM의 경우, 확률적 노이즈 주입 덕분에 주로 $\ell_2$ 스코어 매칭 오차에 의존하는 더 단순한 분석이 가능합니다.
3. 스코어 추정 보증: 저자들은 커널 기반 스코어 추정기(구체적으로 가우시안 커널 밀도 추정기에서 유도된 플러그인 추정기)를 사용하여 필요한 스코어 추정 가정을 충족할 수 있음을 보여줍니다. 이들은 주변 차원 $d$가 아닌 $k$에 명시적으로 의존하는 이 추정기들의 유한 표본 경계를 도출합니다.
4. 계수의 최적성: 본 논문은 원래의 DDIM 및 DDPM 공식에서 사용된 특정 계수 선택의 필요성을 조사합니다. 역과정의 단일 단계를 위한 하한을 도출함으로써, 저자들은 클래식한 계수 선택이 TV 거리가 주변 차원 $d$에 따라 발산하는 것을 방지하기 위해 거의 필수적임을 보여줍니다.

3. 주요 기여 및 결과

3.1 정확한 스코어 하에서의 수렴

**정리 1(Theorem 1)**은 정확한 스코어 함수 하에서 DDIM과 DDPM 모두 $\varepsilon$-근접한 TV 거리에 도달하기 위해 $\tilde{O}(k/\varepsilon)$의 반복 복잡도를 달성함을 입증합니다.

• 의의: 이는 DDIM 유형의 샘플러가 알려지지 않은 저차원 구조에 적응함을 보여주는 최초의 엄밀한 증명입니다. DDPM의 경우, 기존의 TV 기반 결과(KL 발산을 TV로 변환했을 때 $O(k^4/\varepsilon^2)$ 또는 $O(k^3/\varepsilon^2)$였던 것)를 $k$에 대한 선형 의존성으로 개선합니다.
• 최소한의 가정: 이 결과는 매끄러움이나 로그-오목성을 요구하지 않습니다.
• 번인(Burn-in) 없음: 일부 기존 DDIM 이론과 달리, 이 결과는 $T \gtrsim d^2$인 "번인" 기간을 요구하지 않습니다.

3.2 노이즈가 섞인 스코어 하에서의 수렴

본 논문은 스코어가 데이터로부터 추정되는 현실적인 설정으로 이러한 보증을 확장합니다.

• DDIM (정리 2): 스코어 추정기가 스코어 오차, 자코비안 오차 및 헤시안 오차에 대한 경계를 만족하면 수렴이 보장됩니다. TV 거리는 이러한 오차들과 함께 완만하게 저하됩니다.
• DDPM (정리 4 & 5): $\ell_2$ 스코어 추정 오차만을 포함하는 더 단순한 가정 하에서 수렴이 보장됩니다. 이 이론은 원래의 DDPM 계수를 특수한 경우로 포함하는 광범위한 계수 선택 범위를 수용합니다.

3.3 유한 표본 스코어 추정

저자들은 커널 기반 스코어 추정기가 유한한 표본으로 필요한 가정을 충족할 수 있음을 증명합니다.

• 정리 3 (DDIM): 플러그인 커널 추정기가 $k$에 따라 스케일링되는 표본 복잡도로 필요한 고차 정확도(스코어, 자코비안, 헤시안)를 달성함을 보여줍니다.
• 정리 6 (DDPM): 임계값 처리된(thresholded) 커널 추정기가 필요한 $\ell_2$ 스코어 정확도를 달성함을 보여줍니다. 주변 차원 $d$에 대한 의존성은 크게 감소하며 ($d^{2/(k+2)}$로 스케일링), $k \gtrsim \log d$일 때 사실상 사라집니다.

3.4 계수의 최적성

정리 7은 역과정의 단일 단계에 대한 하한을 제공합니다. 이는 계수 $(\eta_t, \sigma_t)$가 특정 관계(원래의 DDIM 및 DDMM 설계와 일치함)를 만족하지 않으면, 생성된 샘플과 타겟 사이의 TV 거리가 고유 차원 $k$와 상관없이 주변 차원 $d$에 따라 다항식 형태로 스케일링될 것임을 입증합니다. 이는 클래식한 계수 선택이 단순히 휴리스틱이 아니라 저차원 적응을 위해 구조적으로 필수적임을 시사합니다.

4. 의의 및 주장

본 논문은 DDIM 유형의 샘플러가 알려지지 않은 저차원 구조에 적응한다는 것에 대한 최초의 엄밀한 증거를 제공한다고 주장합니다. 그 기여는 다음과 같이 구성됩니다:

1. 이론적 통합: DDIM과 DDPM을 저차원 관점에서 통합하여, 두 모델 모두 TV 수렴에 대해 고유 차원 $k$에 대해 선형 스케일링을 달est할 수 있음을 보여줍니다.
2. 최신 기술 대비 개선: DDPM의 TV 거리에서의 반복 복잡도를 개선하고( $1/\varepsilon$에 대한 이차식에서 선형으로), DDIM을 위한 최초의 TV 기반 적응 이론을 제공합니다.
3. 실무적 관련성: 표준 계수 선택(Song et al., 2020; Ho et al., 2020)이 저차원 적응을 위해 이론적으로 최적임을 보여줌으로써, 특정 데이터 구조를 위해 알고리즘을 수정할 필요 없이 이들의 실질적인 성공을 설명합니다.
4. 통계적 정당성: 커널 기반 추정기가 고유 차원에 적응하는 정확도로 스코어를 학습할 수 있음을 증명함으로써, 샘플링 이론과 스코어 학습 사이의 간극을 메우고, 저차원 데이터에 대한 확산 모델링의 엔드 투 엔드 파이프라인을 검증합니다.

저자들은 분석된 DDIM의 특정 계수 범위와 더 넓은 DDPM 범위 사이에 간극이 남아 있음을 언급하며 연구 범위를 겸손하게 제한하였으며, 이는 향후 과제로 남겨두었습니다. 또한, 자신들의 하한이 단일 단계에 관한 것이며, 이를 더 넓은 범위의 샘플러에 대한 다단계 하한으로 확장하는 것은 열린 과제임을 인정했습니다.