기술 요약: 확산 모델에서는 양호한 과적합(Benign Overfitting)이 발생하지 않는다

문제 제기

"양호한 과적합(benign overfitting)"과 "이중 하강(double descent)"은 전통적인 딥러닝(과매개변수화된 모델이 노이즈가 섞인 훈련 데이터를 완벽하게 암기하면서도 좋은 일반화 성능을 유지하는 현상)에서 잘 알려진 현상이지만, 이것이 확산 모델(diffusion models)에도 적용되는지는 여전히 불분명합니다. 확산 모델은 표준 딥러닝의 많은 구조적 및 최적화 메커니나(예: 신경망, ADAM, 회귀 유사 목적 함수)를 공유하므로, 이와 유사한 일반화 동작을 보일 것이라는 자연스러운 가정이 존재합니다. 본 논문은 이러한 가정에 의문을 제기하며, 확산 모델이 지수적으로 큰 샘플 크기를 요구하지 않고도 어떻게 낮은 훈련 오차(보간)와 낮은 모집단 오차(일반화)를 동시에 달성할 수 있는지 조사합니다.

방법론

저자들은 근본적인 이론적 불가능성 결과, 단순화된 모델의 점근적 분석, 그리고 고차원 경험적 검증을 결합한 다각적인 접근 방식을 채택합니다.

1. 근본적 불가능성 결과: 본 논문은 경험적 및 모집단 스코어 매칭 손실의 합에 대한 하한(lower bounds)을 도출합니다. 정보 이론(피셔 정보량, 쿨백-라이블러 발산)과 확률 과정(거사노프 정리)의 개념을 사용하여, 저자들은 경험적 분포와 모집단 분포가 동시에 작아지려면 경험적 분포가 실제 분포와 극도로 가까워야 함을 입증합니다.
2. 선형 랜덤 특징 네트워크(RFNNs): 미세한 통찰을 얻기 위해 저자들은 다루기 쉬운 모델 클래스인 2층 선형 랜덤 특징 네트워크($s(x) = AWx$)를 분석합니다. 데이터 차원$d$, 샘플 크기$n$, 모델 너비$p$가 모두 일정한 비율을 유지하며 무한대로 향하는 비례 점근적 레짐(proportional asymptotic regime, $\psi_p = p/n$, $\psi_d = d/n$)에서 이 네트워크의 동작을 연구합니다. 이를 통해 랜덤 행렬 이론(Marchenko-Pastur 분포)을 사용하여 초과 위험(excess risk)을 정밀하게 특성화합니다.
3. 회귀와의 비교: 이 분석은 스코어 매칭을 고전적인 다중 출력 회귀와 명시적으로 대조합니다. 회귀는 타겟과 경험적 공분산 사이의 정렬(alignment)을 통해 이점(최소 노름 해법이 일반화될 수 있음)을 얻는 반면, 저자들은 스코어 매칭에는 이러한 정렬 메커니즘이 결여되어 있음을 보여줍니다.
4. 암묵적 규제 메커니즘: 본 논문은 확산 훈련에 내재된 두 가지 특정 메커니즘이 과적합을 방지할 수 있는지 조사합니다.
   • 시간적 매끄러움(Time-Smoothness): 단일 네트워크를 연속적인 노이즈 수준(시간 통합)에 대해 훈련하는 것과 각 타임스텝에 대해 독립적인 네트워크를 사용하는 효과를 분석합니다.
   • 조기 종료(Early Stopping): 스코어 네트워크 파라미터의 경사 흐름(gradient flow) 역학을 연구하여, 훈련을 수렴 전 단계에서 멈추는 것이 테스트 오차의 폭발을 완화하는지 결정합니다.
5. 경험적 검증: 이론적 결과는 CIFAR-10에 대한 U-Net 아키텍처를 사용한 고차원 실험을 통해 검증됩니다. 모델 너비와 훈련 기간을 변화시키며 실험을 진행합니다.

주요 기여 및 결과

1. 과적합의 근본적 한계

본 논문은 실질적인 설정에서 확산 모델에서 양호한 과적합이 근본적으로 불가능함을 입증합니다.

• 정리 3.1: 저자들은 샘플 크기 $n$이 데이터 차원($d$)에 대해 지수적으로 성장하지 않는 한(구체적으로 $n \gtrsim (C\sqrt{d})^{-d'}$, 여기서 $d'$는 하한 레니 차원), 경험적 손실과 모집단 스코어 매칭 손실이 동시에 작아지는 것은 불가능함을 증명합니다.
• 시사점: 과적합이 양호할 수 있는 전통적인 회귀와 달리, 확산 모델에서는 훈련 데이터를 완벽하게 보간하는 것이 데이터셋이 감당할 수 없을 정도로 크지 않은 한 필연적으로 나쁜 일반화(높은 모집단 손실)로 이어집니다.

2. 이중 하강의 부재

• U자형 위험 곡선: 선형 RFNN 분석(명제 4.1)을 통해, 본 논문은 모집단 손실이 회귀에서 관찰되는 이중 하강 곡선이 아니라 모델 복잡도에 따른 고전적인 U자형 곡선을 따름을 보여줍니다.
• 상호 불가능성: 과매개변수화된 레짐($p > d > n$)에서 경험적 위험은 0으로 유도될 수 있지만(보간), 특히 노이즈 스케일 $t \to 0$일 때 모집단 위험은 폭발합니다. 이 폭발은 스코어 매칭이 명시적 제약 없이 규제할 수 없는 경험적 공분사 행렬의 영 공간(null space)에 의해 발생합니다.

3. 과적합을 방지하는 메커니즘

양호한 과적합이 자연적으로 발생하지 않기 때문에, 본 논문은 일반화를 가능하게 하는 암묵적 규제로 작용하는 메커니즘을 식별합니다.

• 시간적 매로움(Time-Smoothness, 섹션 5.1): 시간 간격(손실 통합)에 대해 단일 네트워크를 훈련하는 것은 암묵적 규제 역할을 합니다. 이론적 분석(명제 5.1)은 시간적 매끄러움이 고정된 시간 설정에서 관찰되는 모집단 손실의 폭발을 방지함을 보여줍니다. 경험적으로 훈련 시간 범위 $r$을 늘리면 훈련 오차는 증가하지만 테스트 오차는 감소하며, 이는 규제 효과를 확인시켜 줍니다.
• 조기 종료(Early Stopping, 섹션 5.2): 본 논문은 확산 모델에서의 과적합이 훈련 후반부에 나타남을 보여줍니다. 경사 흐름을 분석함으로써, $\sigma^{-2}_t$ 차수의 시간 $\tau$에서 조기 종료를 수행하면 테스트 손실의 폭발을 막을 수 있음을 증명합니다. 이는 확산 모델이 완전한 수렴 전에 훈련을 멈출 때 종종 잘 일반화된다는 관찰 결과와 일치합니다.

4. 경험적 검증

• 선형 모델: 랜덤 특징 네트워크를 이용한 실험은 U자형 위험 곡선과 과매개변수화된 레짐에서의 훈련 및 테스트 오차 간의 괴리를 확인해 줍니다.
• 고차원 이미지: U-Net을 사용한 CIFAR-10 실험은 모델 용량이 증가함에 따라 모델이 과소적합에서 일반화로, 그리고 마지막으로 암기(낮은 훈련 손실, 높은 테스트 손실) 단계로 전이됨을 보여줍니다. 또한, 훈련 기간을 변화시키는 실험은 조기 종료가 최적의 일반화를 제공하는 반면, 수렴까지 훈련하는 것은 과적합을 초래함을 확인해 줍니다.

의의 및 주장

본 논문은 확산 모델의 일반화에 대한 이해를 근본적으로 재편한다고 주장합니다. 주요 의의는 다음과 같습니다.

1. 구별된 메커니즘: 확산 모델의 일반화는 전통적인 회귀와 구별되는 메커니즘에 의해 지배됩니다. 과매개변수화된 회귀에서 양호한 과적합을 가능하게 하는 "자기 유도 규제(self-induced regularization)"는 스코어 매칭으로 전이되지 않습니다.
2. 이중 하강 없음: 현대 딥러닝 이론의 특징인 이중 하강 현상은 표준적인 의미에서 확산 모델에 적용되지 않으며, 대신 고전적인 편향-분산 트레이드오프(bias-variance tradeoff)를 보입니다.
3. 규제의 필요성: 확산 모델에서의 좋은 일반화는 단순히 과매개변수화의 규모가 아니라, 시간적 매끄러움 및 조기 종료와 같은 훈련 프레임워크의 특정 속성에 의존합니다.

저자들은 확산 모델이 표준 딥러닝의 양호한 과적합 특성을 상속받을 것이라는 가정이 대체로 틀렸다고 결론짓습니다. 이 발견은 스코어 매칭 목적 함수와 확산 과정의 독특한 역학에 특화된 새로운 이론적 프레임워크 개발을 촉구합니다.