💬 NLP

Accelerating Diffusion Large Language Models with SlowFast Sampling: The Three Golden Principles

이 논문은 dLLM 의 추론 속도를 극대화하기 위해 '확실성', '수렴', '위치'라는 세 가지 황금 원칙에 기반한 적응형 SlowFast 샘플링 전략을 제안하여, LLaDA 모델에서 기존 오토레거시브 모델보다 높은 처리량을 달성하고 최대 34.22 배의 속도 향상을 보여줍니다.

원저자: Qingyan Wei, Yaojie Zhang, Zhiyuan Liu, Puyu Zeng, Yuxuan Wang, Biqing Qi, Dongrui Liu, Linfeng Zhang

게시일 2026-04-01

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Qingyan Wei, Yaojie Zhang, Zhiyuan Liu, Puyu Zeng, Yuxuan Wang, Biqing Qi, Dongrui Liu, Linfeng Zhang

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

🎨 비유: 그림 그리기 vs. 점 찍기

기존의 AI(자율적 생성 모델) 는 한 줄씩 글씨를 쓰는 사람과 같습니다. "안녕"이라고 쓸 때, '안'을 쓰고, 그다음 '녕'을 써야 합니다. 한 번에 하나씩만 나오니까 긴 글을 쓸 때는 시간이 오래 걸립니다.

반면, 이 논문에서 다루는 dLLM은 처음엔 다 흐릿한 그림을 그리고, 점점 선명하게 만드는 사람과 같습니다. 처음엔 종이에 모든 글자가 가려져 있고 (MASK), AI 가 "어떤 글자가 들어갈까?"라고 추측하며 점들을 하나씩 지워나갑니다.

하지만 문제점이 있었습니다.
기존 dLLM 은 이 '점 지우기' 작업을 너무 조심스럽게, 그리고 매번 똑같은 속도로 했습니다.

"아직 확실하지 않으니, 한 번 더 확인해 보자." (너무 느림)
"이미 확실한 글자도 다시 확인해 보자." (불필요한 작업)

🚀 해결책: "SlowFast Sampling" (슬로우-패스트 샘플링)

이 논문은 AI 가 글을 쓸 때 **세 가지 황금 원칙 (Three Golden Principles)**을 따르도록 가르쳤습니다.

1. 확신의 원칙 (Certainty Principle) 🎯

"확실한 건 바로 믿어라!"

AI 가 어떤 글자를 예측할 때 점수가 매우 높다면 (예: 99% 확신), 그 글자는 이미 정해졌다고 봐도 됩니다. 이때는 다시 확인하지 말고 바로 확정해버리는 것이 좋습니다.

2. 수렴의 원칙 (Convergence Principle) 📉

"오래 변하지 않으면 그냥 그대로 두라!"

AI 가 여러 번 생각해도 글자가 바뀌지 않고 안정화된다면, 더 이상 고민할 필요가 없습니다. 마치 "이 단어는 이미 결정났다"라고 선언하는 것과 같습니다.

3. 위치의 원칙 (Positional Principle) 📍

"주변이 다 안정되면 그쪽을 먼저 처리하라!"

AI 는 글자 하나하나를 따로따로 보는 게 아니라, 연속된 구간에서 확신이 생기는 경향이 있습니다. 예를 들어, 문장 앞부분이 다 정해지면 그 다음 부분도 빨리 정해질 가능성이 높습니다. 이 '덩어리'를 한 번에 처리하면 훨씬 빠릅니다.

⏱️ 어떻게 작동할까요? (SlowFast 의 두 단계)

이 방법은 글을 쓸 때 두 가지 모드를 오갑니다.

1. 탐색 모드 (Slow Phase) - "조심스럽게 발을 내딛기"

AI 는 아직 확실하지 않은 영역을 조심스럽게 훑어봅니다.
"어디가 가장 확실해 보일까?"를 찾아내며, 가장 확신 있는 글자 몇 개만 먼저 확정합니다.
마치 어둠 속에서 손전등을 비추며 "여기는 안전해, 저기는 아직 모르겠어"를 확인하는 과정입니다.

2. 가속 모드 (Fast Phase) - "뚝딱뚝딱 완성하기"

탐색 모드에서 "여기는 안정적이야!"라고 판단된 구간이 생기면, 그 구간을 한 번에 모두 확정해버립니다.
이때 캐시 (Cache) 기술을 써서, 이미 계산한 부분은 다시 계산하지 않고 저장된 값을 재활용합니다.
마치 확신이 선 부분의 글자를 한 번에 '찍어내는' 것처럼 매우 빠르게 진행됩니다.

이 과정을 반복하며, **천천히 탐색 (Slow)**하다가 확신이 서면 빠르게 (Fast) 완성하는 방식을 통해 속도를 극대화합니다.

🏆 실제 성과: 얼마나 빨라졌나요?

논문에 따르면 이 방법을 적용한 결과 놀라운 성과가 나왔습니다.

속도: 기존 방식보다 최대 15 배~34 배까지 빨라졌습니다. (예: 1 초에 1.6 개던 글자가 1 초에 54 개까지!)
정확도: 속도가 이렇게 빨라졌는데도, 답변의 정확도는 거의 떨어지지 않았습니다.
경쟁: 기존에 가장 빠르다고 알려졌던 다른 AI 모델 (LLaMA3 등) 보다도 더 빠른 속도로 글을 생성했습니다.

💡 한 줄 요약

이 논문은 **"AI 가 글을 쓸 때, 확실하지 않은 건 천천히 확인하고, 확실해진 건 한 번에 뚝딱 완성하라"**는 지혜를 적용하여, 기존 AI 보다 훨씬 빠르고 똑똑하게 글을 쓰게 만들었습니다. 마치 조심스럽게 길을 찾다가, 길이 트이면 질주하는 운전과 같습니다.

논문 요약: 확산 기반 대규모 언어 모델 (dLLM) 을 위한 SlowFast 샘플링

1. 문제 제기 (Problem)

배경: 기존 autoregressive(자기회귀) LLM 은 토큰을 순차적으로 생성하므로 긴 시퀀스 처리 시 추론 지연 (latency) 이 큰 병목 현상이 발생합니다. 이를 해결하기 위해 병렬 토큰 생성이 가능한 확산 기반 LLM(dLLM) 이 대안으로 부상했습니다.
한계: 현재 dLLM 의 샘플링 전략 (예: 신뢰도 기반 선택, 반자기회귀 디코딩 등) 은 다음과 같은 문제점을 가집니다.
- 정적 (Static) 인 행동: 생성 과정 전반에 걸쳐 고정된 속도로 토큰을 샘플링하여 유연성이 부족합니다.
- 비효율성: 많은 토큰을 병렬로 디코딩할 때 정확도가 급격히 떨어지거나, 불필요한 계산을 반복하여 효율성이 낮습니다.
- 유연성 부족: 각 단계에서 몇 개의 토큰을 샘플링할지, 시퀀스의 어디에 집중해야 할지 동적으로 결정하지 못합니다.

2. 방법론 (Methodology)

이 논문은 dLLM 의 토큰 생성 패턴을 분석하여 세 가지 황금 원칙 (Three Golden Principles) 을 도출하고, 이를 기반으로 SlowFast Sampling이라는 새로운 동적 샘플링 전략을 제안합니다.

A. 세 가지 황금 원칙 (The Three Golden Principles)

확신 원칙 (Certainty Principle): 높은 신뢰도 (confidence) 를 가진 토큰은 초기 단계에서 이미 결정된 상태이며, 이후 확산 단계에서 수정이 거의 필요하지 않습니다.
수렴 원칙 (Convergence Principle): 확산 과정이 진행됨에 따라 많은 토큰의 의미와 신뢰도 점수가 안정된 값으로 수렴합니다. 이는 해당 토큰이 최종 형태에 도달했음을 의미합니다.
위치 원칙 (Positional Principle): 높은 신뢰도와 빠른 수렴을 보이는 토큰들은 무작위로 분포하지 않고, 시퀀스의 특정 연속된 영역 (contiguous regions) 에 집중되는 경향이 있습니다. 이는 캐싱 (caching) 과 병렬 처리를 통해 가속화할 수 있는 기회입니다.

B. SlowFast Sampling 전략
위 원칙들을 활용하여 탐색 단계 (Exploratory Stage) 와 가속 디코딩 단계 (Accelerated Decoding Stage) 를 교차하는 두 단계 프로세스를 설계했습니다.

1 단계: 탐색 단계 (Slow Phase - 느린 단계)
- 목적: 다음에 안정적으로 가속화할 수 있는 영역을 신중하게 식별합니다.
- 작동 방식: 현재 윈도우 내에서 가장 신뢰도가 높은 토큰들만 소수 선택하여 디코딩합니다. 동시에 '수렴 종료 지점 (End Point of Convergence)'을 예측하고, 최근 예측들의 분산 (variance) 이 안정 임계값 ( $\sigma^2_{stable}$ ) 이하가 될 때까지 기다립니다.
- 결과: 모델이 어느 구간까지 안정적으로 예측할 수 있는지 ( $e_{cycle}$ ) 를 결정합니다.
2 단계: 가속 디코딩 단계 (Fast Phase - 빠른 단계)
- 목적: 식별된 안정 영역 내에서 병렬로 토큰을 빠르게 생성합니다.
- 작동 방식:
  - 안정 영역 내: 신뢰도가 높은 임계값 ( $\tau_{high\_conf}$ ) 을 넘는 모든 마스킹 토큰을 동시에 언마스크 (unmask) 하여 병렬 디코딩합니다.
  - 안정 영역 외: 아직 불안정한 영역의 토큰은 예측값을 계산하여 캐시 (cache) 하고, 추후 재사용합니다 (dLLM-Cache 와 연동).
- 피드백: 가속 단계가 끝나면 다음 탐색 단계의 시작점을 업데이트하고 이 과정을 반복합니다.

3. 주요 기여 (Key Contributions)

새로운 원칙 제시: dLLM 의 효율적인 샘플링을 위한 '확신', '수렴', '위치'라는 세 가지 핵심 원칙을 정립했습니다.
SlowFast Sampling 알고리즘 개발: 위 원칙을 기반으로 탐색과 가속을 동적으로 조절하는 2 단계 샘플링 전략을 제안했습니다.
성능 입증: 다양한 벤치마크에서 기존 방법론보다 월등한 추론 속도를 달성하면서도 정확도 저하를 최소화했음을 실험적으로 증명했습니다. 특히 dLLM-Cache 와 결합 시 기존 자기회귀 모델 (LLaMA3 8B) 보다 높은 처리량 (Throughput) 을 기록했습니다.

4. 실험 결과 (Results)

실험 설정: LLaDA 8B 와 Dream 7B 모델을 사용하여 GSM8K, GPQA, MMLU, HumanEval 등 다양한 벤치마크에서 평가했습니다.
주요 성과:
- 속도 향상: GPQA 벤치마크에서 LLaDA 모델에 SlowFast Sampling 만 적용 시 15.63 배의 속도 향상을 달성했습니다.
- 최대 가속: dLLM-Cache 와 결합 시 34.22 배의 속도 향상 (초당 54.75 토큰) 을 기록했습니다.
- 정확도 유지: 속도가 크게 향상되었음에도 정확도 (Score) 는 기존 모델과 유사하거나 미미하게만 감소했습니다 (예: GPQA 에서 31.47% → 30.13%).
- 자기회귀 모델 대비 우위: LLaMA3 8B(자기회귀) 대비 처리량 (TPS) 이 더 높았으며 (54.75 vs 33.79), 이는 잘 설계된 샘플링 전략이 dLLM 의 잠재력을 완전히 발휘하게 할 수 있음을 보여줍니다.

5. 의의 및 결론 (Significance)

이 논문은 확산 기반 언어 모델 (dLLM) 이 가진 병렬 생성의 잠재력을 실제 환경에서 실현 가능한 수준으로 끌어올린 중요한 연구입니다.

실용성: dLLM 의 높은 지연 시간 문제를 해결하여, 실제 배포 환경에서 자기회귀 모델과 경쟁할 수 있는 효율성을 입증했습니다.
지적 통찰: 토큰 생성 과정에서 '확신', '수렴', '위치'라는 패턴이 존재한다는 것을 발견하고 이를 알고리즘에 적용함으로써, 단순한 하드웨어 가속이 아닌 지능적인 샘플링 전략의 중요성을 강조했습니다.
미래 전망: 제안된 SlowFast Sampling 은 dLLM 의 상용화를 앞당기는 핵심 기술로 평가받으며, 향후 더 빠르고 고품질의 텍스트 생성을 가능하게 할 것으로 기대됩니다.