🤖 machine learning

Simulation-free and finite-time diffusion model

본 논문은 다루기 쉬운 시간 의존적 조건부 분포를 규정함으로써 시뮬레이션이 필요 없는 학습과 유한 시간 생성을 동시에 달성하는 새로운 확산 모델 설계 프레임워크를 제안하며, 이를 통해 스코어 매칭(score matching)이 프로세스 역전의 자연스러운 결과임을 밝히고 조건부 플로우 매칭(conditional flow matching)이 그 미소 노이즈 극한임을 식별한다.

원저자: Kentaro Kaba, Masayuki Ohzeki, Yuki Sughiyama

게시일 2026-08-05

📖 2 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Kentaro Kaba, Masayuki Ohzeki, Yuki Sughiyama

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

로봇에게 그림 그리는 법을 가르치려 한다고 상상해 보세요. 완성된 걸작 수백만 개를 보여주며 그것이 어떻게 만들어졌는지 추측하라고 요구하고 싶지는 않을 것입니다. 대신, 빈 캔버스와 혼란스럽고 다채로운 노이즈 한 양동이를 줍니다. 로봇의 임무는 그 무질서한 노이즈를 단계별로, 천천히 아름다운 그림으로 바꾸는 것입니다. 이것이 바로 새로운 이미지, 소리, 심지어 텍스트까지 만들어내는 인공지능의 매우 인기 있는 도구인 **생성형 확산 모델(generative diffusion models)**의 마법입니다.

이것이 작동하게 하려면, 로봇에게 "가이드" 또는 "참조 프로세스"가 필요합니다. 이 가이드를 노이즈가 최종 그림으로 자연스럽게 녹아들어야 하는 방식에 대한 일련의 지침이라고 생각하세요. 오랫동안 과학자들은 이 가이드를 선택하는 데 있어 까다로운 선택에 직면했습니다. 로봇에게 가르치기 쉬운 가이드(복잡한 시뮬레이션을 실행할 필요 없이 로봇이 빠르게 학습할 수 있도록)를 선택할 수도 있었지만, 그 가이드는 실제로 그림을 완성하는 데 너무 오랜 시간이 걸렸습니다. 또는 그림을 빠르게 완성하는 가이드를 선택할 수도 있었지만, 로봇에게 그것을 사용하는 법을 가르치는 것은 끝없는 시뮬레이션을 요구하는 계산적인 악몽이었습니다. 이는 마치 느리고 쉬운 하이킹과 빠르지만 위험한 절벽 등반 중 하나를 선택해야 하는 것과 같았습니다. 누구도 둘 다 가질 수는 없었습니다.

카바 켄타로(Kentaro Kaba), 오제키 마사유키(Masayuki Ohzeki), 스기야마 유키(Yuki Suugiyama)가 저술한 "시뮬레이션 프리 및 유한 시간 확산 모델(Simulation-free and finite-time diffusion model)"이라는 제목의 이 논문은 로봇이 두 가지 장점을 모두 가질 수 있도록 그 가이드를 구축하는 영리한 새로운 방법을 제안합니다. 저자들은 일반적인 설계 과정을 뒤집어 볼 것을 제안합니다. 복잡한 규칙에서 시작하여 그것이 어디로 이어지는지 보는 대신, 매 순간 노이즈가 정확히 어떤 모습이어야 하는지를 먼저 결정한 다음, 그 계획에 맞춰 규칙을 만드는 것입니다.

이렇게 함으로써, 그들은 로봇이 비싼 시뮬레이션을 실행하지 않고도 학습할 수 있으면서도(simulation-free), 동시에 그림이 정해진 짧은 시간 내에 완성되는 것(finite-time generation)을 보장하는 프레임워크를 만들었습니다. 나선형이나 초승달 같은 단순한 2D 도형을 대상으로 수행한 실험 결과, 이 새로운 방법은 시간 설정을 조절할 필요 없이 기존의 더 느린 방법들과 똑같이 잘 작동한다는 것을 보여주었습니다. 또한 그들은 모든 이가 이 모델을 훈련하는 비법이라고 생각했던 "스코어 매칭(score matching)"이라는 인기 있는 기술이 사실 근본적인 것이 아니라, 단지 문제를 예전의 역방향에서 바라볼 때 자연스럽게 나타나는 것뿐이라는 사실을 발견했습니다. 요컨대, 그들은 AI 예술 생성 방식을 더 빠르고, 저렴하며, 유연하게 만드는 방법을 찾아냈으며, 속도와 학습의 용이함 중 하나를 선택할 필요가 없다는 것을 증명했습니다.

기술 요약: 시뮬레이션 프리 및 유한 시간 확산 모델 (Simulation-free and Finite-time Diffusion Model)

문제 정의

생성적 확산 모델(Generative diffusion models)은 다양한 영역에서 최첨단 성능을 달enc 성과를 거두었으나, **시뮬레이션 프리 학습(simulation-free training)**과 유한 시간 생성(finite-time generation) 사이의 근본적인 트레이드오프에 직면해 있습니다.

시뮬레이션 프리 학습은 참조 확률 미분 방정식(SDE)을 시뮬레이션하지 않고도 학습 목적 함수를 평가할 수 있게 하여 계산 비용을 크게 줄여줍니다. 기존의 스코어 기반 모델(SBMs)은 이를 위해 오른슈타인-우울렌벡(Ornstein–Uhlenbeck, OU) 프로세스를 참조로 사용합니다. 그러나 OU 프로세스는 점근적으로( $T \to \infty$ ) 사전 분포(prior distribution)에 도달하므로, 유한한 시간 내에서의 생성은 고차원 데이터에 대해 비효식적이거나 부정확할 수 있습니다.
유한 시간 생성은 참조 프로세스가 정해진 유한한 시간 지평 내에서 경험적 데이터 분포와 사전 분포를 연결해야 합니다. 슈뢰딩거 브리지(Schrödinger bridge)와 같은 접근 방식이 이를 달성하지만, 대응하는 포커-플랑크 방정식(Fokker–Planck equation)이 해석적으로 다루기 어렵기 때문에 일반적으로 학습 중에 참조 SDE를 시뮬레이션해야 합니다(예: 암시적 스코어 매칭을 통해).

본 연구가 해결하고자 하는 핵심 과제는 두 가지 속성을 동시에 만족하는 참조 프로세스를 구축하는 것입니다. 즉, 참조 SDE를 시뮬레이션하지 않고도 학습이 가능하게 하면서, 동시에 고정된 유한 시간 내에 사전 분포와 경험적 분포를 연결하도록 보장하는 것입니다.

방법론

저자들은 기존의 설계 절차를 역전시키는 프레임워크를 제안합니다. 먼저 참조 SDE를 지정하고 그에 의해 유도되는 분포를 분석하는 대신, 저자들은 먼저 다루기 쉬운 시간 의존적 조건부 분포들의 가족 $\{\rho_t\}_{t \in [0,1]}$ 를 지정한 다음, 이 분포들을 마진대로(marginals) 실현하는 참조 SDE를 구축합니다.

1. 참조 프로세스의 구축

$\mu$ 를 경험적 분포, $\pi$ 를 사전 분포라고 합시다. 저자들은 다음을 만족하는 조건부 분포 가족 $\rho_t(z|x)$ 를 정의합니다:

정규성(Regularity): $\rho_t$ 는 시간과 공간에 대해 $C^{1,2}$ 급입니다.
다루기 쉬움(Tractability): $\rho_t(\cdot|x)$ 로부터 샘플을 직접 추출할 수 있습니다.
경계 조건(Boundary Conditions): 유도된 마진 $p_t(z) = \int \rho_t(z|x)\mu(x)dx$ 는 $p_0 = \pi$ 와 $p_1 = \mu$ 를 만족합니다.

이러가 조건이 주어지면, 저자들은 $\rho_t$ 가 포커-플랑크 방정식을 만족하도록 하는 계수 $\alpha(t, z, x)$ (조건부 드리프트)와 $b(t, z)$ (확산 계수)를 도출합니다:
$\partial_t \rho_t = -\nabla_z \cdot [\alpha(t, z, x)\rho_t] + \frac{1}{2} \sum_{i,j} \partial_{z_i}\partial_{z_j} [\Gamma_{ij}(t, z)\rho_t]$
여기서 $\Gamma = bb^\top$ 입니다. 그러면 참조 프로세스 $P$ 는 다음과 같은 SDE에 의해 정의됩니다:
$dZ_t = a(t, Z_t)dt + b(t, Z_t)dW_t, \quad Z_0 \sim p_0$
여기서 드리프트 $a(t, z)$ 는 $\rho_t$ 에 대한 $\alpha$ 의 기댓값입니다.

2. 시뮬레이션 프리 목적 함수

기르사노프 정리(Girsanov theorem)를 적용하여, 참조 프로세스 $P$ 와 생성 프로세스 $Q_\theta$ 사이의 경로 공간 쿨백-라이블러(KL) 발산을 재구성합니다. 결정적으로, $\rho_t$ 가 지정되어 있고 다루기 쉽기 때문에, 목적 함수는 참조 SDE를 시뮬레이션하지 않고도 평가될 수 있습니다:
$L_{SF}(\theta) = \frac{1}{2n} \sum_{i=1}^n \int_0^1 dt \, \mathbb{E}_{Z \sim \rho_t(\cdot|x_i)} \left[ \| \alpha(t, Z, x_i) - s_\theta(t, Z) \|_{\Gamma(t, Z)^{-1}}^2 \right]$
이 목적 함수는 $\rho_t$ 로부터의 직접적인 샘플링과 조건부 드리프트 $\alpha$ 에만 의존하며, 마진 $p_t$ 의 스코어(이는 일반적으로 시간 역전이 필요하며 유한 시간 브리지의 경우 다루기 어려움)를 구할 필요가 없습니다.

3. 실제적 구축

논문은 두 가지 경우에 대한 구체적인 구축법을 제공합니다:

가우시안 사전 분포(Gaussian Prior): $\rho_t$ 는 시간 의존적 평균과 분산을 가진 가우시안 분포으로 선택됩니다. 이는 디노이징 스코어 매칭(denoising score matching)과 유사한 형태를 회복하면서도 유한한 시간 지평을 갖습니다.
비가우시안 사전 분포(Non-Gaussian Priors): "푸시-포워드(push-forward)" 구축법이 사용됩니다. 정상 분포 $\pi$ 를 갖는 기본 확산 프로세스가 시간 의존적 매끄러운 단사 함수(bijection) $\phi^x_t$ 를 통해 변환됩니다. 이를 통해 프레임워크는 시뮬레이션 프리 속성을 유지하면서도 헤비 테일(heavy-tailed) 또는 비가우시안 사전 분포(예: Johnson's SU 분포)를 처리할 수 있습니다.

주요 기여

통합된 프레임워크: 본 논문은 시뮬레이션 프리 학습과 유한 시간 생성을 동시에 달성하는 일반적인 프레임워크를 도입하여, 기존 확산 모델에 내재된 트레이드오프를 해결합니다.
스코어 매칭의 재해석: 저자들은 스코어 매칭이 확산 모델 학습의 근본적인 요소가 아님을 입증합니다. 대신, 이는 데이터-투-프라이어(data-to-prior) 방향으로 정의된 참조 프로세스를 시간 역전하는 과정의 결과로서 자연스럽게 나타납니다. 생성 방향(prior-to-data)으로 참조 프로세스를 직접 구축함으로써, 학습 목적 함수는 시간 역전에 의해 유도된 스코어 함수로부터 독립적이 됩니다.
Flow Matching과의 연결: 본 논문은 **조건부 플로우 매칭(Conditional Flow Matching, CFM)**이 제안된 확률적 프레임워크의 **소음 극한(small-noise limit, $\epsilon \to 0$ )**임을 보여줍니다. 이는 확률적 확산 모델과 결정론적 플로우 기반 모델 사이의 이론적 연결을 제공하며, CFM이 경로 공간 KL 목적 함수의 결정론적 극한으로 볼 수 있음을 명확히 합니다.
비가우시안 사전 분포: 푸시-포워드 구축을 통해 방법론이 비가우시안 사전 분포로 확장됨을 보여주며, 표준 가우시안 가정 이상의 유연성을 입증합니다.

결과

저자들은 가우시안 혼합(Gaussian mixture), 나선형(spiral), 체커보드(checkerboard), 투 문즈(two moons)와 같은 2차원 토이 데이터셋에 대해 표준 가우시안 및 Johnson's SU (헤비 테일) 사전 분포를 사용하여 수치 실험을 수행했습니다.

성능: 제안된 방법은 두 가지 사전 분포 유형 모두에서 모든 데이터셋의 질적 구조를 성공적으로 학습했습니다.
효율성: 수렴과 이산화 오차 사이의 균형을 맞추기 위해 시간 지평 $T$ 를 튜닝해야 하는 SBM과 달리, 제안된 방법은 고정된 구간 $[0, 1]$ 에서 작동합니다. 실험 결과, 제안된 방법은 $T$ 튜닝 없이도 고품질의 생성을 달성한 반면, SBM에서 부적절한 $T$ 선택은 샘플 품질을 저하시켰습니다.
비교: 결과는 큰 시간 지평( $T=10$ )을 가진 표준 분산 보존 SBM(VP-SBM)과 대등했으나, 긴 시뮬레이션 시간이나 $T$ 선택에 대한 민감도와 관련된 계산 오버헤드는 없었습니다.

의의 및 주장

본 논문은 기존 확산 모델에 대한 구조적 재해석을 제공한다고 주장합니다. "SDE 지정 $\to$ 분포 분석"에서 "분포 지정 $\to$ SDE 도출"으로 설계 패러다임을 전환함으로써, 저자들은 다음을 밝혀냈습니다:

SBM에서 스코어 매칭에 의존하는 것은 참조 프로세스를 생성 방향과 일치시키기 위해 필요한 시간 역전 절차의 부산물입니다.
확률적 확산 모델과 결정론적 플ow 매칭의 구분은 노이즈 수준의 문제이며, CFM은 제안된 KL 기반 확률적 목적 함수의 소음 극한입니다.

이 연구는 조건부 분포 $\{\rho_t\}$ 의 설계가 생성 품질에 직접적인 영향을 미치는 핵심적이면서도 아직 충분히 탐구되지 않은 측면임을 시사합니다. 저자들은 자신들의 구축 원칙이 기존 방식의 계산적 병목 현상 없이 효율적인 유한 시간 확산 모델을 설계할 수 있는 견고한 경로를 제공한다고 결론짓습니다.