💬 NLP

Where and When to Commit: Candidate-Aware Decoding for Diffusion Language Models

이 논문은 디퓨전 언어 모델을 위한 학습이 필요 없는 프레임워크인 LATCH를 소개하며, 이는 출력 안정성을 동적으로 검증하고 접미사 프롬프트나 고정된 하이퍼파라미터에 의존하지 않고 비최종 토큰 블록을 가속화함으로써, 근사한 전체 디코딩 정확도를 유지하면서도 상당한 추론 속도 향상(최대 17.8배)을 달성하기 위해 신뢰도 검증 커밋(Confidence-Verified Commit)과 블록 단위 조기 커밋(Block-Wise Early Commit)을 결합한다.

원저자: Chia-Ming Lee, Ming-Ching Chang, Xin Li, Yu-Lun Liu, Chih-Chung Hsu

게시일 2026-07-31

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Chia-Ming Lee, Ming-Ching Chang, Xin Li, Yu-Lun Liu, Chih-Chung Hsu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 복잡한 퍼즐을 풀려고 노력하고 있다고 상상해 보세요. 하지만 퍼즐 조각을 왼쪽에서 오른쪽으로 하나씩 놓는 대신, 보드 전체가 안개로 뒤덮인 상태에서 시작합니다. 몇 초마다 안개가 조금씩 걷히며, 보드의 모든 지점에 대해 한꺼번에 흐릿한 추측값을 보여줍니다. 이것이 바로 **확산 언어 모델(Diffusion Language Model)**이라 불리는 새로운 종류의 인공지능이 생각하는 방식입니다. 인간처럼 문장을 한 단어씩 타이핑하는 기존의 AI와 달리, 이 AI는 전체 그림이 동시에 진화하는 모습을 봅니다.

과학자들의 큰 고민은 **"언제 멈출 것인가?"**입니다. AI는 끊임없이 자신의 추측을 정교하게 다듬고 있기 때문에, 과정이 완전히 "끝날" 때까지 마지막 순간을 기다릴 필요가 없습니다. 종종 정답은 과정이 마무리되기 훨씬 전부터 이미 안정화되어 변화를 멈춥니다. 만약 정답이 안정된 시점을 정확히 파악할 수 있다면, 컴퓨터를 조기에 멈춰 엄청난 시간과 에너지를 절약할 수 있습니다. 하지만 너무 빨리 멈추는 것은 위험합니다. 만약 AI가 두 가지 서로 다른 답 사이에서 갈팡질팡하고 있을 때 보드를 고정해 버린다면, 잘못된 결과를 확정 짓게 될 수도 있기 때문입니다. 과제는 단순한 일시 정지인지 최종 결정인지를 구분할 줄 아는 "스마트한 정지 버튼"을 만드는 것입니다.

논문의 이야기: "LATCH" 시스템

이 논문은 이러한 안개 낀 퍼즐 AI 모델을 위한 매우 똑똑한 정지 버튼 역할을 하는 LATCH(Localized Acceleration with Tracked-Candidate Halting)라는 영리한 새로운 시스템을 소개합니다. 연구진(국립 양밍교통대학교와 뉴욕 주립대학교 올버니 캠퍼스 팀)은 기존의 모델 가속 시도가 마치 뭉툭한 도구를 사용하는 것과 같다는 점을 깨달았습니다. 즉, 너무 일찍 멈춰서 답을 틀리거나, 너무 오래 기다려서 시간을 낭비하거나 둘 중 하나였습니다.

AI의 디코딩 과정을 여러 개의 칸(블록)이 있는 긴 기차 여행이라고 생각해 보세요. 기차는 앞으로 나아가고, 각 칸의 승객들(AI의 추측들)은 최종 목적지를 결정하려고 노력합니다.

문제점: 기존 방식들은 기차 전체를 보고 "헤이, 첫 번째 칸의 승객들이 행복해 보이니 기차를 멈추자!"라고 말했습니다. 하지만 길고 까다로운 추론 작업(예: 복잡한 수학 문제)에서는 첫 번째 칸의 승객들이 틀린 답에 만족하고 있더라도, 실제 정답은 마지막 칸에서 여전히 계산되고 있을 수 있습니다.
LATCH의 해결책: 저자들은 이 업무를 차장(Conductor)과 지역 역장(Local Station Manager)이라는 두 가지 뚜로 구분된 역할로 나누었습니다.

1. 지역 역장 (BWEC): "어디서 속도를 높일 것인가"
LATCH의 첫 번째 부분인 BWEC(Block-Wise Early Commit)는 지역 역장 역할을 합니다. 이 역장은 기차의 앞쪽 칸들(최종 블록이 아닌 블록들)을 살펴봅니다. 특정 칸의 승객들이 확신을 갖고 방향을 잡은 것처럼 보이면, 역장은 "좋아, 이 칸은 끝났어! 이 칸을 위한 나머지 정거장들을 건너뛰고 다음 칸으로 이동하자!"라고 말합니다. 이는 단어 문제에서 최종 문장을 쓰기 전 수학 계산을 하는 것과 같은 중간 단계들을 위해 여정을 크게 단축해 줍니다.

2. 차장 (CVC): "언제 기차를 멈출 것인가"
두 번째 부분인 CVC(Confidence-Verified Commit)는 기차 전체를 언제 멈출지 결정하는 엄격한 차장입니다. 이것이 가장 중요한 부분입니다. 차장은 단순히 승객들이 얼마나 "행복해" 보이는지만 보는 것이 아니라, 실제로 정답 자체를 확인합니다.

차장은 AI가 만들어내고 있는 최종 답변을 계속해서 다시 읽습니다.
그리고 질문합니다: "이 답변이 몇 단계 연속으로 동일하게 유지되었는가?"
또한 질문합니다: "AI가 이 답변에 대해 정말로 확신하고 있는가?"
답변이 특정 단계 동안 안정적이고 확신이 생겼을 때만, 차장은 비상 브레이크를 당기며 말합니다. "좋아, 정답을 찾았어. 기차를 멈춰."

연구 결과

연구팀은 이 LATCH를 간단한 객관식 문제부터 긴 추론 과정이 필요한 어려운 수학 문제에 이르기까지 11가지의 서로 다른 작업에 테스트했습니다. 그들은 LLaDA와 Dream이라는 두 가지 AI 모델을 사용했으며, LATCH가 게임 체인저임을 발견했습니다.

속도: 짧고 간단한 답변의 경우, LATCH는 표준 방식보다 9.3배에서 17.8배 더 빨랐습니다. 길고 복잡한 추론 작업의 경우, 2.0배에서 3.3배 더 빨랐습니다.
정확도: 이렇게 일찍 멈췄음에도 불구하고, LATCH는 실수를 범하지 않았습니다. LATCH는 느리지만 완전한 방식의 정확도와 비교했을 때 2.0 퍼센트 포인트 이내의 오차를 유지했습니다. 많은 경우, 느린 방식과 정확히 동일한 점수를 기록했습니다.
학습 불필요: 가장 좋은 점은 LATCH가 새로운 작업에 맞춰 재학습되거나 새로운 기술을 배울 필요가 없다는 것입니다. 연구팀은 규칙을 한 번 설정하면, 변경 없이도 11가지 모든 작업과 두 모델에 완벽하게 작동했습니다.

연구를 통해 배제한 것들

이 논문은 단순히 "신뢰도 점수"나 "진행 표시줄"을 보고 멈출 시점을 결정할 수 있다는 아이디어에 명시적으로 반대합니다.

기존 방식의 실패: 기존 방식들은 전체 시퀀스를 보고 높은 신뢰도 점수를 확인한 뒤 작업이 끝났다고 생각하여 실패했습니다. 하지만 저자들은 긴 추론 작업에서 AI가 마지막 순간에 갑자기 정답으로 바뀌기 전까지, 틀린 답에 대해 오랫동안 확신을 가질 수 있다는 것을 보여주었습니다.
그들은 단순히 "얼마나 시간이 흘렀는지" 또는 "얼마나 많은 토큰이 채워졌는지"를 기준으로 멈추는 것이 위험하다는 것을 증명했습니다. 만약 수학 문제를 너무 일찍 멈춘다면, 계산이 실제로 끝나기도 전에 답을 고정해 버릴 수 있습니다.
또한, 짧은 퀴즈와 긴 에세이에 동일한 "정지 규칙"을 사용할 수 없다는 것도 보여주었습니다. 멈추는 규칙은 단순히 프로세스에 관한 것이 아니라, 답변 자체에 특화되어야 합니다.

결 요약

저자들은 LATCH가 강력한 AI 모델들을 지능을 잃지 않으면서도 훨씬 빠르게 만들 수 있는 매우 효과적인 "학습 불필요(training-free)" 방식이라고 제안합니다. "중간 단계를 가속화하는 것"과 "최종 답변을 검증하는 것"을 분리함으로써, 그들은 정확히 어디서 가속하고 언데 멈춰야 하는지를 아는 시스템을 만들었습니다. 이는 마치 박물관의 지루한 부분은 건너뛰더라도 걸작을 온전히 감상하기 위해 끝까지 머물러야 한다는 것을 아는 투어 가이드와 같습니다. 덕분에 단 몇 분을 아끼기 위해 가장 중요한 부분을 놓치는 일 없이 여정을 마칠 수 있습니다.

기술 요약: 디퓨전 언어 모델을 위한 후보 인지형 디코딩 (Candidate-Aware Decoding for Diffusion Language Models)

1. 문제 정의

디퓨전 언어 모델(DLM)은 완전히 마스킹된 시퀀스를 반복적으로 디노이징하며 텍스트를 생성한다. 자기회귀(Autoregressive) 모델과 달리, DLM은 모든 중간 단계에서 모든 위치에 대해 잠정적인 예측값을 보유한다. 이는 두 가지 뚜렷한 축을 따라 **학습 불필요한 가속화(training-free acceleration)**를 가능하게 하는 기회를 제공한다:

적응형 샘플링 (Adaptive Sampling): 디코딩이 진행되는 동안 개별 위치가 토큰을 확정하는 속도를 결정함 (예: Fast-dLLM, SlowFast, KLASS).
생성 시점 조기 종료 (Generation-Time Early Exit): 전체 시퀀스가 언제 멈추고 채워질 수 있는지, 즉 전체 시퀀스를 한꺼번에 고정할 시점을 결정함 (예: Prophet, SchED).

기존 방법들은 결정의 범위와 일치하지 않는 증거에 의존하기 때문에 이 두 축 사이의 균형을 효과적으로 맞추지 못한다:

조기 종료 (Premature Termination): 기존의 조기 종료 게이트(Prophet 등)는 고정된 영역의 신뢰도 통계나 스케줄 기반 규칙에 의존하는 경우가 많다. 이러한 방식은 위치 수준의 신호들을 집계하는데, 이는 실제 근본적인 후보 답변이 여전히 변동 중임에도 불구하고 안정적인 것처럼 보일 수 있다. 결과적으로, 이러한 게이트들은 긴 사고 사슬(Chain-of-Thought, CoT) 작업에서 조기에 작동하여 시퀀스를 고정해 버리며, 이는 심각한 정확도 저하(일부 설정에서 최대 69포인트)를 초래한다.
비효적인 샘플링 (Inefficient Sampling): 적응형 샘플러는 토큰 확정 속도를 조절하지만, 시퀀스가 완료되었는지 여부는 검증하지 않는다. 이들은 남은 모든 토큰에 대해 디코딩을 계속 수행하며, 이미 답변이 안정화되었음에도 발생하는 글로벌 중단의 잠재적 이득을 놓친다.
태스크 의존성 (Task Dependency): 후보의 안정화 타이밍은 태스크에 따라 크게 달라진다. 단답형 태스크는 디코딩 단계의 약 4% 만에 안정화될 수 있는 반면, 긴 추론 태스크는 마지막 4%까지 안정화되지 않는 경우가 많다. 단일한 "진행도 기반" 규칙은 두 경우를 모두 만족시킬 수 없다.

2. 방법론: LATCH

저자들은 두 가지 가속 축을 분리하고 각 축에 특정 게이트를 적용하여, 결정의 범위에 맞는 증거를 적용하는 학습 불필요 프레임워크인 LATCH(Localized Acceleration with Tracked-Candidate Halting)를 제안한다.

A. 신뢰도 검증 확정 (Confidence-Verified Commit, CVC): 언제 멈출 것인가

CVC는 글로벌 종료 결정(채우기 및 정지)을 관장한다. 고정된 영역을 모니터링하는 이전 방법들과 달리, CVC는 **동적으로 추출된 후보 구간(dynamically extracted candidate span)**에 대해 작동한다.

메커니즘: 매 단계마다 CVC는 태스크의 출력 형식(예: 수학 태스크의 경우 마지막 부분)에 따라 버퍼에서 후보 답변을 다시 추출한다.
결합 수렴 기준 (Joint Convergence Criterion): 게이트는 추출된 후보 구간에 대해 다음 두 가지 조건이 동시에 충족될 때만 종료를 허용한다:
1. 신뢰도 (Confidence): 후보의 평균 소프트맥스 신뢰도( $c_t$ )가 임계값( $\tau_{CVC}$ )을 초과해야 한다.
2. 안정성 (Stability): 후보 값이 지속적인 단계( $run_t$ ) 동안 변하지 않아야 한다. 이 카운터는 추출된 값이 이전 단계와 동일할 때만 증가하며, 추출 가능한 후보가 없을 때는 일시 정지된다. 필요한 실행 길이는 동적이다: $run_t \ge \max(p_{min}, \lceil \gamma \cdot changes_t \rceil)$ , 여기서 $changes_t$ 는 값의 변화 횟수이다.
이점: 이를 통해 시퀀스는 오직 답변 자체가 안정화되었을 때만 멈추게 되며, 중간 추론 과정은 안정적으로 보일 수 있으나 최종 답변은 여전히 수정 중일 수 있는 긴 추론 태스크에서의 조기 종료를 방지한다.

B. 블록 단위 조기 확정 (Block-Wise Early Commit, BWEC): 어디를 가속할 것인가

BWEC는 최종 블록이 아닌 나머지 블록들의 로컬 확정 속도를 관장한다.

메커니즘: $B_0$ 부터 $B_{N-2}$ 까지의 블록에 더 저렴한 로컬 신뢰도 규칙을 적용한다. 마스킹된 위치의 신뢰도가 임계값( $\tau_{BWEC}$ )을 초과하면, 예정된 top- $k$ 리마스킹 과정을 건너뛰고 즉시 확정한다.
보호 (Protection): 최종 블록( $B_{N-1}$ )은 BWEC에서 제외된다. 이는 로컬 규칙에 의해 최종 답변이 조기에 확정되는 위험을 방지하기 위함이다. 글로벌 종료는 엄격하게 CVC의 통제를 받는다.
이점: 최종 답변의 무결성을 해치지 않으면서 중간 추론 단계(조기에 안정화되는 경우가 많음)를 가속화한다.

3. 주요 기여

태스크 의존적 안정화 분석: 저자들은 후보의 안정화 타이밍이 태스크에 따라 극명하게 다름(디코딩 진행도의 4%에서 96%까지)을 입증하여, 진행도만을 기반으로 한 조기 확정이 신뢰할 수 없음을 보여준다.
LATCH 프레임워크: "어디를"(비최종 블록을 위한 BWEC)과 "언제"(글로벌 종료를 위한 CVC)를 분리하는 이중 게이트 시스템을 제안한다.
- CVC는 종료 전 동적으로 추출된 후보의 동일성과 안정성을 검증한다.
- BWEC는 로컬 신뢰도 신호를 사용하여 비최종 블록을 가속한다.
제로샷, 크로스 백본 전이 가능성 (Zero-Shot, Cross-Backbone Transferability): LATCH는 단일 백본(LLaDA)에서 한 번만 캘리브레이션된 하나의 고정된 하이퍼파라미터 세트( $\tau_{CVC}=0.7, \gamma=2.0, p_{min}=3, \tau_{BWEC}=0.9$ )만을 필요로 한다. 이는 별도의 튜닝 없이 다른 백본(Dream)으로 전이되며, 태스크별 튜닝이나 접미사 프롬프트(suffix-prompt) 구성 없이 11개의 다양한 태스크에 적용 가능하다.

4. 실험 결과

LLaDA-8B-Instruct 및 Dream-7B-Instruct를 대상으로 11개 태스크(단답형 6개, 긴 추론형 5개)에 대해 제로샷 설정에서 평가하였다:

정확도 (Accuracy): LATCH는 모든 22개 평가 설정에서 풀 디코딩(full-decoding) 정확도와 2.0 퍼센트 포인트 이내의 차이를 유지한다.
- 대조적으로, 기존의 종료 게이트(Prophet, SchED) 및 샘플러(SlowFast)는 긴 추론 태스크에서 이 허용 범위를 빈번히 초과하며, 정확도 저하 폭이 5에서 69포인트에 달한다.
- LATCH는 기존 연구의 "접미사 프롬프트" 의존성을 피하며, 자유 형식의 프롬프트에서도 견고하게 작동한다.
속도 향상 (TPS):
- 단답형 태스크: **9.3× – 17.8×**의 속도 향상을 달성한다.
- 긴 추론 태스크: **2.0× – 3.3×**의 속도 향상을 달성한다.
효율성: 긴 추론 태스크에서의 속도 향상은 주로 BWEC(중간 블록 가속)에 의해 주도되며, 단답형 태스크에서는 CVC가 조기 글로벌 종료를 가능하게 함으로써 대부분의 이득을 제공한다.

5. 의의 및 주장

본 논문은 기존 DLM 가속화의 주요 실패 원인이 증거(집계된 위치 수준의 신호)와 결정의 범위(글로벌 시퀀스 종료) 사이의 불일치에 있다고 주장한다.

대리 지표 대신 검증 (Verification over Proxy): LATCH는 검증 대상을 대리 지표(고정 영역 신뢰도)에서 대상 그 자체(동적으로 추출된 후보)로 전환한다. 이를 통해 시스템이 일시적인 안정적 추측과 진정으로 수렴된 답변을 구분할 수 있게 한다.
결합 가능성 (Composability): 적응형 샘플링(로컬 확정)과 조기 종료(글로벌 정지)로부터 얻는 이득은 서로 경쟁하는 것이 아니라 결합됨을 보여준다. CVC를 통해 최종 블록을 보호하면서 BWEC를 통해 초기 블록을 가속함으로써, LATCH는 정확도를 희생하지 않고 두 축이 단독으로 달성할 수 없는 속도 향상을 달 achieves 한다.
실용성: 이 프레임워크는 완전히 학습이 필요 없으며, 접미사 프롬프트 엔지니어링을 요구하지 않고, 단일 하이퍼파라미터 세트로 다른 모델 아키텍처 간에 전이 가능하므로 DLM을 효율적으로 배포하기 위한 실질적인 솔루션이다.