📊 statistics

A Diffusive Classification Loss for Learning Energy-based Generative Models

본 논문은 스코어 매칭의 모드 맹점과 최대 우도 추정의 과도한 비용을 극복하기 위해 에너지 기반 모델 학습을 지도 분류 문제로 재구성하는 계산 효율적인 목적 함수인 확산 분류 (DiffCLF) 를 소개함으로써 다양한 생성 작업에 대한 고정밀 에너지 기반 모델을 가능하게 합니다.

원저자: RuiKang OuYang, Louis Grenioux, José Miguel Hernández-Lobato

게시일 2026-05-22

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: RuiKang OuYang, Louis Grenioux, José Miguel Hernández-Lobato

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

복잡하고 보이지 않는 지형의 모양을 컴퓨터에게 가르치려 한다고 상상해 보세요. 이 지형은 "언덕"과 "골짜기"로 이루어져 있는데, 골짜기는 매우 흔한 것들 (예: 고양이의 얼굴) 을 나타내고 언덕은 드문 것들 (예: 세 개의 머리를 가진 고양이) 을 나타냅니다. AI 세계에서는 이를 **에너지 기반 모델 (Energy-Based Model, EBM)**이라고 부릅니다. 컴퓨터의 임무는 이 지형의 지도를 학습하여 새로운 사실적인 예시 (예: 새로운 고양이 그리기) 를 생성하거나 두 가지 다른 지도를 혼합하는 것과 같은 복잡한 작업을 수행할 수 있도록 하는 것입니다.

그러나 컴퓨터에게 이 지도를 가르치는 것은 유명할 정도로 어렵습니다.

문제: "눈먼" 점수판

전통적으로 AI 모델은 임의의 지점에서 지형의 **기울기 (slope)**를 보고 학습합니다. 언덕 위에 서 있다면, 그 기울기는 어느 방향이 "아래"인지 알려줍니다. 이를 **스코어 (Score)**라고 합니다.

이 논문은 기울기만 의존하는 데에는 치명적인 결함이 있다고 지적합니다: 모드 맹목성 (Mode Blindness).

두 개의 깊고 분리된 골짜기 (서로 다른 두 종류의 고양이) 가 있는 지형을 상상해 보세요.

기울기 문제: 왼쪽 골짜기에 서 있다면, 기울기는 그 골짜기 안으로 내려가라고 알려줍니다. 오른쪽 골짜기에 서 있다면, 기울기는 그 골짜기 안으로 내려가라고 알려줍니다.
실수: 기울기는 한 골짜기가 다른 골짜기에 비해 얼마나 깊은지 알려주지 않습니다. 왼쪽 골짜기가 오른쪽 골짜기보다 두 배 더 깊어야 한다는 사실을 모릅니다. AI 가 기울기만 학습한다면, 실제 세계에서는 하나가 훨씬 더 흔함에도 불구하고 실수로 두 골짜기의 깊이를 같게 만들 수 있습니다. 이는 서로 다른 그룹의 상대적 중요성에 대해 "눈이 먼" 상태가 됩니다.

해결책: 확산 분류 (Diffusive Classification)

저자들은 컴퓨터에게 가르치는 새로운 방법을 제안하는데, 이를 **확산 분류 손실 (Diffusive Classification Loss, DiffCLF)**이라고 부릅니다.

단순히 "어느 방향이 아래인가?" (기울기) 를 묻는 대신, 다른 질문을 던집니다: "이 샘플은 언제 나온 것일까?"

여기서 비유를 들어보겠습니다:
물 (데이터) 이 담긴 양동이 하나를 상상해 보세요. 시간이 지남에 따라 서서히 소음을 추가하여 흐릿한 수프처럼 만듭니다.

옛 방식: 물결의 움직임 (기울기) 을 보고 물의 모양을 추측하려 합니다.
새 방식 (DiffCLF): 세 가지 다른 순간의 물을 스냅샷으로 찍습니다:
- 시간 A: 맑은 물.
- 시간 B: 약간 흐릿한 물.
- 시간 C: 매우 흐릿한 물.

이제 컴퓨터에게 물방울 하나를 무작위로 보여주고 묻습니다: "이 물방울은 시간 A, 시간 B, 시간 C 중 어느 것에서 나온 것일까?"

이 질문에 올바르게 답하기 위해 컴퓨터는 반드시 모든 순간마다 골짜기의 정확한 모양과 깊이를 학습해야 합니다. 단순히 방향을 추측하는 것만으로는 부족하며, "맑음"과 "흐림"을 구별하려면 지형의 전체 구조를 이해해야 합니다.

이것이 중요한 이유

학습 과정을 분류 게임 (시간 추측) 으로 바꿈으로써, 컴퓨터는 골짜기의 상대적 높이를 학습하도록 강요받습니다.

맹목성 종결: 이제 한 골짜기가 다른 골짜기보다 더 깊다는 것을 구별할 수 있어 "모드 맹목성" 문제를 해결합니다.
효율성: 값비싸고 느린 계산을 필요로 하지 않습니다. 컴퓨터가 매우 잘하는 간단한 게임입니다.
다용도성: 이 방법은 이미지 생성뿐만 아니라 논문에서 언급된 다른 작업에도 적용됩니다:
- 모델 혼합: 두 가지 다른 AI 모델 (예: "고양이" 모델과 "개" 모델) 을 결합하여 새로운 모델을 만드는 것.
- 볼츠만 생성기 (Boltzmann Generators): AI 를 사용하여 복잡한 과학적 분포 (예: 분자의 움직임) 에서 샘플링하는 것.
- 자유 에너지 (Free Energy): 물리학에서 두 상태 간의 에너지 차이를 계산하는 것.

결과

저자들은 합성 데이터 (기하학적 모양의 수학적 혼합) 와 실제 분자 시스템 (예: 단백질) 에서 이를 테스트했습니다.

정확도: DiffCLF 로 학습된 모델은 기존 방법보다 "진짜 지도"를 훨씬 잘 학습했습니다.
속도: 학습 속도를 크게 늦추지 않으면서 높은 정확도를 달성했습니다.
신뢰성: 이러한 모델을 사용하여 서로 다른 분포를 혼합하거나 분자를 시뮬레이션했을 때, 결과는 실제 기준 (ground truth) 에 훨씬 더 충실했습니다.

간단히 말해, 이 논문은 AI 에게 언덕을 따라 내려가는 길만 가르치는 것이 아니라, 다른 시간들에 비해 지도의 어디에 있는지를 인식하도록 가르치는 교묘한 트릭을 소개합니다. 이 간단한 전환을 통해 AI 는 마침내 모든 숨겨진 골짜기의 상대적 크기를 포함하여 전체 지형을 "볼" 수 있게 되었습니다.

기술 요약: 에너지 기반 생성 모델 학습을 위한 확산 분류 손실

1. 문제 제기

에너지 기반 모델 (EBM) 은 학습 가능한 에너지 함수의 지수함수로 데이터 밀도를 정의함으로써 확률적 모델링을 위한 유연한 프레임워크를 제공합니다. 로그밀도의 기울기 (스코어) 를 학습하는 스코어 기반 생성 모델 (예: 확산 모델) 과 달리, EBM 은 명시적으로 에너지 지형을 모델링합니다. 이 능력은 볼츠만 생성기 구축, 구성적 샘플링 (여러 모델 결합), 그리고 통계물리학에서의 자유 에너지 차이 추정과 같이 직접적으로 에너지 값에 접근해야 하는 하위 작업에 필수적입니다.

그러나 EBM 의 학습은 여전히 중요한 과제로 남아 있습니다. 직접적인 최대우도 (ML) 추정은 비용이 많이 드는 중첩 샘플링을 필요로 하는 비추적 가능한 정규화 상수 때문에 계산적으로 불가능합니다. 따라서 연구자들은 종종 스코어 함수 (에너지의 기울기) 를 효율적으로 학습하는 데노이징 스코어 매칭 (DSM) 에 의존합니다. 생성에는 효과적이지만, 스코어 기반 방법은 '모드 맹점 (mode blindness)'에 시달립니다. 스코어가 국소 기울기에만 의존하기 때문에, 불연속적인 고밀도 영역 간의 상대적 비율 (혼합 가중치) 을 포착하지 못합니다. 그 결과, 스코어 기반 목적 함수는 진정한 에너지 지형이나 연결되지 않은 모드 간의 올바른 가중치를 신뢰할 수 있게 복원하지 못하여, 정확한 밀도 추정이 필요한 작업에서의 활용도를 제한합니다.

2. 방법론: 확산 분류 (DiffCLF)

스코어 매칭의 한계를 해결하면서도 계산 효율성을 유지하기 위해, 저자들은 **확산 분류 (DiffCLF)**를 제안합니다. 이 방법은 시간 의존적 에너지 함수 학습 문제를 다양한 노이즈 수준에 걸친 지도식 분류 문제로 재구성합니다.

핵심 공식화

이 접근법은 $Y_t = X_t + \gamma(t)Z$ 라는 일반적인 확률 과정 프레임워크 내에서 작동하며, 여기서 $X_t$ 는 소스 과정이고 $Z$ 는 가우시안 노이즈입니다. 목표는 $p_\theta^t(y) = \exp(-U_\theta^t(y) + F_\theta^t)$ 로 매개변수화된 EBM 을 사용하여 정규화 상수까지 주변 밀도 $p_t$ 를 추정하는 것입니다. 여기서 $U_\theta^t$ 는 에너지이고 $F_\theta^t$ 는 학습 가능한 로그 정규화 상수 (편향) 입니다.

DiffCLF 목적 함수 $L_{clf}$ 는 $N$ 개의 시간 단계 $t_1, \dots, t_N$ 를 샘플링하고 이러한 시간의 주변 분포를 별도의 클래스로 간주함으로써 정의됩니다. 특정 시간 $t_i$ 에서 추출된 샘플 $y$ 가 주어지면, 모델은 해당 샘플을 생성한 시간 단계를 분류하도록 학습됩니다. 손실 함수는 범주형 교차 엔트로피입니다:
$L_{clf}(\theta; t_{1:N}) = -\frac{1}{N} \sum_{i=1}^N \mathbb{E}_{p_{t_i}} \left[ \log \frac{p_\theta^{t_i}(Y_{t_i})}{\sum_{j=1}^N p_\theta^{t_j}(Y_{t_i})} \right]$
이 공식화는 서로 다른 노이즈 수준 간의 밀도 비율을 효과적으로 학습합니다. 데이터 $y$ 가 주어졌을 때 클래스 $i$ 의 사후 확률은 EBM 에 대한 소프트맥스로 모델링됩니다:
$p_\theta(c=i|y) = \frac{p_\theta^{t_i}(y)}{\sum_{j=1}^N p_\theta^{t_j}(y)}$

공동 최적화

학습된 에너지가 분류 작업과 일관될 뿐만 아니라 기울기 측면에서도 정확하도록 보장하기 위해, DiffCLF 는 표준 데노이징 스코어 매칭 (DSM) 목적 함수와 결합됩니다. 공동 목적 함수는 다음과 같습니다:
$L_{joint} = L_{DSM} + L_{clf}$
저자들은 $L_{clf}$ 만으로는 밀도의 임의적 스케일링을 허용하는 비고유 최소점이 존재하지만, $L_{DSM}$ 과 결합하면 진정한 기준 주변 분포 $p_t$ 를 복원하는 고유 최소점이 보장됨을 증명합니다.

계산 효율성

DiffCLF 의 계산 비용은 표준 DSM 과 비교 가능합니다. DSM 은 시간 샘플당 두 번의 신경망 평가 (기울기를 위한 순방향 및 역방향) 를 필요로 하는 반면, 다중 클래스 DiffCLF 목적 함수는 $N$ 번의 평가를 필요로 합니다. 결합될 경우, 시간 단계당 총 비용은 $N+1$ 번의 평가입니다. 이진 경우 ( $N=2$ ) 에는 DSM 에 비해 단 한 번의 추가 평가만 필요하므로, 이 접근법은 매우 확장 가능합니다.

3. 주요 기여

새로운 목적 함수: 노이즈 수준에 걸친 다중 클래스 분류 문제로 로그밀도 추정을 재구성하는 경량이고 유연한 목적 함수인 DiffCLF 의 도입.
이론적 보장: 순수 스코어 매칭 방법과 달리, 공동 목적 함수 ( $L_{DSM} + L_{clf}$ ) 가 기준 분포를 고유하게 복원하고 모드 맹점이 아님을 증명. 또한 추정량의 일관성과 점근적 정규성을 확립.
기존 연구와의 연관성: DiffCLF 와 기존 접근법 간의 이론적 연결을 확립하여, 이진 분류 손실이 연속 시간 극한에서 시간 스코어 매칭 (tSM) 으로 수렴함을 보이고, 이 방법을 노이즈 대비 추정 (NCE) 및 다중 상태 베넷 수용 비율 (MBAR) 과 연결함.
실증적 검증: 다양한 확률 과정 (확산 모델 및 확률적 보간자) 과 차원에 걸쳐 방법의 효과성을 입증.

4. 실험 결과

저자들은 합성 및 실제 데이터셋에 대한 광범위한 실험을 통해 DiffCLF 를 검증했습니다:

합성 가우시안 혼합: 고차원 가우시안 혼합 (최대 128 차원) 에서 DiffCLF 는 DSM 및 조건부 시간 스코어 매칭 (CtSM) 에 비해 현저히 낮은 분류 손실을 달성하고 혼합 가중치 복원에서의 일관성을 보였습니다. 모든 방법이 비교 가능한 피셔 발산 (스코어 정확도) 과 최대 평균 불일치 (샘플 품질) 를 달성하는 반면, 오직 DiffCLF 만이 불연속 모드 간의 상대적 비율을 정확하게 포착했습니다.
분자 시스템: 분자 퍼텐셜 (Müller-Brown, Alanine Dipeptide, Chignolin) 에 대한 실험은 DiffCLF 가 확산 샘플링의 품질을 저하시키지 않으면서 $t=0$ 에서 더 정확한 에너지 함수를 학습함을 보여주었습니다. 이는 Fokker-Planck 정규화 방법과 비교 가능한 성능을 달성하면서도 훈련 시간을 1.5~2.5 배 단축했습니다.
하위 응용 분야:
- 모델 구성: "AND" 및 "OR" 구성 작업에서 DiffCLF 로 훈련된 모델은 결합된 분포의 올바른 비율을 성공적으로 유지하는 반면, DSM 기반 모델은 모드 맹점으로 인해 이러한 가중치를 유지하지 못했습니다.
- 볼츠만 생성기: 순차적 몬테 카를로 (SMC) 를 통해 볼츠만 생성기를 구축할 때, DiffCLF 로 훈련된 에너지는 DSM 및 CtSM 기준에 비해 훨씬 더 정확한 샘플과 더 낮은 Wasserstein/KS 거리를 제공했습니다.
- 자유 에너지 추정: 용해 자유 에너지 추정을 위한 열역학 적분 (TI) 작업에서 DiffCLF 는 기준 방법보다 더 정확한 추정을 제공했습니다.

5. 중요성 및 주장

이 논문은 DiffCLF 가 중첩 샘플링의 계산적 부담이나 모드 맹점의 정확도 한계 없이 에너지 기반 모델 학습이라는 오랜 문제를 해결하는 단순하고 효율적이며 이론적으로 타당한 해결책을 제공한다고 주장합니다.

저자들은 그들의 방법이 단순한 샘플 생성을 넘어 스코어 기반 생성 모델의 활용 범위를 확장한다고 강조합니다. 정확한 에너지 추정을 가능하게 함으로써 DiffCLF 는 과학적 컴퓨팅 및 확률적 모델링의 다양한 하위 응용 분야를 촉진합니다.

볼츠만 생성기: 복잡한 볼츠만 분포를 위한 편향 없는 샘플러 생성.
구성적 생성: 재훈련 없이 새로운 분포 (곱 또는 혼합) 를 형성하기 위해 여러 생성 모델을 결합.
자유 에너지 추정: 통계물리학에서 자유 에너지 차이를 정확하게 계산.

이 연구는 DiffCLF 를 기존 프레임워크 (예: DSM) 와 원활하게 통합하고 이산 확산을 위한 연속 시간 마르코프 체인을 포함한 다양한 확률 과정에 광범위하게 적용 가능한 다목적 학습 원리로 위치시킵니다. 저자들은 현재 실험이 규모가 제한적 (합성 및 분자 시스템에 초점) 이지만, 이 방법이 이미지 모델링 및 텍스트 생성과 같은 미래의 대규모 응용 분야를 위한 유망한 방향을 제시한다고 결론지었습니다.