🤖 machine learning

When to Commit? Towards Variable-Size Self-Contained Blocks for Discrete Diffusion Language Models

이 논문은 이산 확산 언어 모델(dLLM)의 생성 과정에서 발생하는 훈련-추론 간의 불일치 문제를 해결하기 위해, 미래 문맥의 유무에 따른 예측 일관성을 기준으로 블록 경계를 유동적으로 결정하는 '가변 크기 자기 완결적 블록(VSB)' 방식을 제안합니다.

원저자: Danny Wang, Ruihong Qiu, Zi Huang

게시일 2026-04-28

📖 2 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Danny Wang, Ruihong Qiu, Zi Huang

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

1. 문제 상황: "성급한 결론이 부르는 대참사" 🏃‍♂️💨

상상해 보세요. 여러분이 아주 긴 소설을 쓰고 있는 작가입니다. 그런데 규칙이 하나 있어요. **"한 번에 딱 10문장씩만 쓰고, 그 문장들은 절대 수정할 수 없다"**는 규칙이죠.

기존 방식 (고정된 블록): 무조건 10문장이 되면 마침표가 어디에 있든 상관없이 다음 단계로 넘어갑니다. 만약 10번째 문장이 "그는 어제 산 사과를..." 하고 끝나버렸다면? 다음 단계에서는 "먹었다"라고 써야 할지, "버렸다"라고 써야 할지 앞뒤 맥락을 모른 채 결정해야 합니다. 결국 앞뒤가 안 맞는 엉터리 글이 됩니다.
기존 방식 (기호 중심): 마침표(.)가 나오면 넘어가려고 노력하지만, 수학 문제처럼 "x = 1 + 2 =" 처럼 마침표가 없는 상황에서는 여전히 갈팡질팡합니다.

이것을 논문에서는 **'미래 정보에 의존하는 결정(Future-dependent Commitment)'**이라고 부릅니다. 뒤에 올 내용을 모른 채 성급하게 결론을 내려버려서 생기는 문제죠.

2. 해결책: VSB (스스로 완결성을 검토하는 똑똑한 작가) 🧠✨

이 논문에서 제안하는 VSB(Variable-size Self-contained Blocks) 방식은 마치 **"자기 검열을 하는 완벽주의 작가"**와 같습니다.

이 작가는 글을 쓸 때 이런 질문을 스스로에게 던집니다.

"내가 지금 이 문장에서 글을 멈춘다면, 나중에 뒤 내용을 다 알게 되었을 때 지금 쓴 내용이 민망해지거나 바뀌어야 할 상황이 생길까?"

이것이 바로 논문이 말하는 **'자기 완결성(Self-containedness)'**입니다.

어떻게 검사하나요? (미래 예측 시뮬레이션)

작가는 글을 쓰다가 멈추기 전에 머릿속으로 **'가상 시뮬레이션'**을 돌려봅니다.

현재 상태: "지금까지 쓴 내용만 봤을 때의 내 생각은 이래."
미래 상상: "만약 뒤에 이런 내용이 이어진다고 가정하면, 내 생각이 바뀔까?"

만약 두 생각의 차이가 거의 없다면? "오케이, 지금 이 부분은 완벽하게 독립적인 의미를 갖췄어. 여기서 끊어도 안전해!" 하고 마침표를 찍습니다. 반대로 차이가 크다면? "아직 뒤 내용이 결정적이야. 조금 더 써야겠어." 하며 글을 계속 이어갑니다.

3. 이 방식의 놀라운 점 (결과) 🏆

논문의 실험 결과는 아주 놀랍습니다.

수학 문제 풀기: 기존 방식은 계산식 중간(예: 1 + 2 =)에서 글을 끊어버려 틀리는 경우가 많았지만, VSB는 계산이 완전히 끝난 뒤(1 + 2 = 3)에 딱 끊어서 정확한 답을 냈습니다.
코딩하기: 프로그래밍 코드는 문법이 아주 엄격하죠. VSB는 코드의 논리적 단위가 끝나는 지점을 정확히 찾아내어 훨씬 안정적인 코드를 생성했습니다.
유연함: 무조건 정해진 길이를 고집하지 않고, 내용에 따라 짧게 끊기도 하고 길게 쓰기도 하는 **'유연한 리듬감'**을 가졌습니다.

요약하자면! 📝

이 논문은 AI가 글을 쓸 때 **"앞뒤 맥락이 어긋나지 않도록, 스스로 의미가 완성되었는지 확인하며 글을 끊어 쓰는 기술"**을 개발한 것입니다.

마치 **"말을 끝맺을 때, 뒤에 올 말까지 고려해서 문장을 완벽하게 마무리하는 아주 신중하고 똑똑한 사람"**처럼 AI를 만드는 방법이라고 할 수 있습니다!

1. 문제 정의 (Problem Statement)

**이산 확산 언어 모델(Discrete Diffusion Language Models, dLLMs)**은 양방향 어텐션(bidirectional attention)을 사용하여 토큰을 병렬로 업데이트할 수 있는 강력한 모델입니다. 하지만 실제 생성 시에는 효율성을 위해 블록 단위의 준-자기회귀(semi-autoregressive) 디코딩 방식을 사용합니다. 즉, 일정 크기의 토큰 블록을 한 번에 생성한 뒤, 이를 '확정(commit)'하고 다음 블록으로 넘어가는 방식입니다.

여기서 두 가지 핵심적인 문제가 발생합니다:

훈련-추론 불일치 (Training-Inference Mismatch): 모델은 훈련 시 전체 문맥(미래 토큰 포함)을 보고 토큰을 예측하도록 학습되지만, 추론 시 블록을 확정할 때는 미래 토큰을 볼 수 없습니다.
휴리스틱 경계 설정 (Heuristic Boundaries): 기존 방식은 블록 크기를 고정하거나(Fixed-size), 구두점(punctuation) 같은 표면적인 규칙에 의존합니다. 이 경우, 미래의 문맥이 밝혀졌을 때 의미가 변할 수 있는(예: 문장 중간이나 수식 중간에서 끊기는) 토큰들을 성급하게 확정해 버려, 이후 생성되는 문맥에 오류를 전파하는 '미래 의존적 확정(future-dependent commitment)' 문제가 발생합니다.

2. 핵심 제안: 자기 완결성 (Self-Containedness)

저자들은 블록 경계를 정하는 원칙으로 **'자기 완결성(Self-containedness)'**을 제안합니다. 어떤 블록이 자기 완결적이라는 것은, **"해당 블록의 토큰 예측값이 미래의 문맥이 주어지더라도 크게 변하지 않는다"**는 것을 의미합니다.

이를 수치화하기 위해 두 가지 조건부 확률 분포를 비교합니다:

No-Future (NF): 현재 경계까지만의 문맥을 사용하여 토큰을 예측.
Future-Aware (FA): 정해진 예산(budget) 내의 미래 토큰까지 포함하여 토큰을 예측.

두 분포 사이의 **KL 발산(Divergence)**을 측정하여, 이 값이 작을수록 해당 블록은 미래 정보에 덜 의존하며 '자기 완결적'이라고 판단합니다.

3. 방법론: VSB (Variable-size Self-contained Blocks)

논문은 이 원칙을 구현하기 위해 VSB 프레임워크를 제안하며, 훈련과 추론 두 단계로 나뉩니다.

(1) 훈련 (Training: No-Future Alignment)

훈련 시에도 추론 환경과 유사하게, 선택된 블록 경계 너머의 토큰을 보지 못하도록 No-Future Truncation을 적용합니다. 이를 통해 모델이 미래 정보 없이도 안정적인 예측을 하도록 학습시켜 훈련-추론 간의 간극을 줄입니다.

(2) 추론 (Inference: Dynamic Boundary Selection)

추론 시에는 고정된 크기가 아니라, 매 단계마다 최적의 경계 $b^*$ 를 동적으로 찾습니다. 이때 단순히 발산 값이 낮은 곳을 찾는 것이 아니라, 블록의 길이와 자기 완결성 사이의 균형을 맞추는 목적 함수( $S_{L-A}$ )를 사용합니다:
$\text{Maximize: } \log(b - p) - (b - p) S(p, b)$

첫 번째 항 ( $\log(b-p)$ ): 가능한 한 긴 블록을 생성하여 병렬 효율성을 높이려 합니다.
두 번째 항 ( $(b-p)S(p, b)$ ): 블록 내 토큰들의 총 미래 의존성(Total future-dependence mass)이 커지는 것을 방지합니다.

(3) 가속화 (Acceleration)

모든 경계를 전수 조사하는 것은 비용이 많이 들기 때문에, Coarse-to-fine search(조대-미세 탐색) 알고리즘을 도입하여 계산 효율성을 높였습니다.

4. 주요 결과 (Key Results)

성능 향상: 수학적 추론(GSM8K, MATH500), 코드 생성(HumanEval, MBPP), 일반 지식(MMLU) 등 다양한 벤치마크에서 기존의 고정 크기 블록 방식이나 다른 적응형 방식(AdaBlock, DAEDAL)보다 우수한 성능을 보였습니다. 특히 코드 생성에서 큰 폭의 성능 향상을 기록했습니다.
의미론적 일관성: 사례 연구(Case Study)를 통해 VSB가 수식이나 문장의 의미 단위가 깨지지 않도록 경계를 설정함을 입증했습니다. 고정 크기 방식이 수식 중간을 끊어 오류를 범하는 것과 대조적입니다.
분포의 안정성: VSB를 사용하면 확정되는 블록들의 자기 완결성 발산(divergence) 값이 전반적으로 낮게 유지됨을 확인했습니다.

5. 의의 (Significance)

본 논문은 dLLM의 블록 단위 디코딩에서 **"언제 토큰을 확정할 것인가?"**라는 근본적인 질문에 대해, 단순한 휴리스틱이 아닌 **'예측의 일관성(Predictive Consistency)'**이라는 수학적/원칙적 기준을 제시했습니다. 이는 향후 고속 병렬 디코딩을 수행하는 차세대 언어 모델의 안정성과 정확도를 높이는 데 중요한 기여를 할 것으로 평가됩니다.