💬 NLP

AdaPLD: Adaptive Retrieval and Reuse for Efficient Model-Free Speculative Decoding

AdaPLD는 기존의 재사용 기반 방식들의 한계를 극복하기 위해 어휘적 및 의미적 검색을 분기된 가설 구축과 적응적으로 결합함으로써 생성 효율을 높이는 학습 불필요(training-free), 모델 불필요(model-free) 추측 디코딩 방법으로, 최대 3.10배의 속도 향상을 달성합니다.

원저자: Runheng Liu, Jincheng Xie, Wen Hu, Xingchen Xiao, Heyan Huang

게시일 2026-06-05

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Runheng Liu, Jincheng Xie, Wen Hu, Xingchen Xiao, Heyan Huang

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신은 아주 재능 있지만 속도가 느린 작가(대상 모델)라고 상상해 보세요. 이야기를 완성하기 위해 노력 중입니다. 단어 하나를 쓸 때마다, 당신은 다음 단어를 쓰기 전에 깊이 생각하고 내부 논리를 점검해야 합니다. 이 과정은 마치 끈적한 당밀 속을 걷는 것처럼 느껴집니다.

**Speculative Decoding(추측 디코딩)**은 이 과정을 빠르게 만드는 기술입니다. 단어를 하나씩 쓰는 대신, 더 빠르고 단순한 조수(Draft)에게 다음 몇 단어를 대신 추측하도록 요청하는 것입니다. 그런 다음 당신은 그 추측들을 빠르게 검토합니다. 만약 조수의 추측이 맞다면, 그 단어들을 한꺼번에 수락하고 다음으로 넘어갑니다. 만약 조수가 틀렸다면, 아주 적은 시간만 손해를 보고 직접 올바른 단어를 직접 씁니다.

대부분의 기존 방식이 가진 문제는 추측을 하기 위해 별도의 조수 모델이 필요하며, 이는 추가적인 메모리와 연산 능력을 소모한다는 점입니다.

AdaPLD는 새로운 "모델 프리(model-free)" 방식입니다. 이 방식은 새로운 조수를 고용하지 않습니다. 대신, 아주 체계적인 사서처럼 행동하며 당신이 이미 작성한 내용(또는 시작할 때 사용한 프롬프트)을 살펴보고 패턴을 찾아내어 재사용합니다.

AdaPLD가 어떻게 작동하는지 다음의 쉬운 비유를 통해 설명해 드리겠습니다.

1. 옛날 사서들의 문제점 (한계점)

이전 방식들은 재사용 가능한 텍스트를 찾을 때 두 가지 주요한 결함이 있었습니다.

"정확한 일치"를 찾는 사서: 이 사서는 글자가 정확히 똑같이 적힌 단어만 찾습니다. 만약 당신이 "The cat sat"이라고 썼다면, 그것을 다시 찾아낼 수 있습니다. 하지만 당신이 "The feline sat"이라고 썼다면, 의미는 같음에도 불구하고 "찾은 것이 없습니다!"라며 혼란에 빠집니다. 너무 경직되어 있어서 기회를 놓치는 것입니다.
"복사해서 붙여넣기"를 하는 사서: 일단 일치하는 것을 찾으면, 이전 텍스트에서 다음 몇 단어를 그대로 복사합니다. 하지만 이야기가 약간 변했다면 어떻게 될까요? 예를 들어, 예전 텍스트에는 "The cat sat on the mat"라고 되어 있었지만, 현재 당신의 이야기는 "The cat sat on the rug"가 되어야 한다면 어떨까요? 단순한 복사-붙여해서는 잘못된 단어를 강요하게 되고, 결국 "검토" 단계에서 실패하여 시간을 낭비하게 됩니다.

2. AdaPLD의 해결책

AdaPLD는 이 두 가지 문제를 해결하는 더 똑똑한 사서입니다.

A. "유연한 검색" (적응형 검색 - Adaptive Retrieval)

단순히 철자가 똑같은 단어를 찾는 대신, AdaPLD는 두 단계의 검색을 수행합니다.

먼저 정확한 일치 항목을 찾습니다. 만약 "cat"을 찾으면, 그 텍스트를 즉시 가져옵니다. 이는 빠르고 정밀합니다.
실패할 경우, "의미론적 보완(Semantic Fallback)"을 사용합니다. 만약 당신이 "feline"이라고 썼는데 기록에서 "feline"이라는 단어를 찾을 수 없다면, "feline과 의미가 같은 단어는 무엇인가?"라고 묻습니다. 철자가 아닌 '의an'을 바탕으로 "cat"을 찾습니다. 이를 통해 표면적인 단어가 다르더라도 결코 포기하지 않습니다.

B. "갈래가 있는 경로" (적응형 재사용 - Adaptive Reuse)

일단 AdaPLD가 좋은 시작점(앵커)을 찾으면, 하나의 경로만 복사하지 않습니다. 미래가 불확실할 수 있다는 점을 깨닫기 때문입니다.

주 경로 (Main Path): 기록으로부터 가장 가능성 높은 연속된 문구를 복사합니다 (예: "on the mat").
가지 (Branches): 또한 "만약"의 시나리오인 가지들을 만듭니다. "여기 다음에 올 수 있는 다른 논리적인 단어들은 무엇인가?"라고 묻습니다 (예: "on the rug", "on the floor").
후속 단계 (Successor Step): 만약 어떤 가지가 유망해 보인다면, 동일한 스마트 검색을 사용하여 한 단계 더 확장해 봅.

이것은 나무와 같습니다. 긴 문장을 하나만 추측하는 대신, AdaPLD는 가능성의 작은 나무를 키웁니다. 그러면 "대상 모델"(느린 작가)은 이 전체 나무를 한 번에 검토합니다. 만약 나무가 작가의 논리와 일치한다면, 작가는 전체 가지를 즉시 수락합니다.

3. 결과

이 방법은 다음과 같은 다양한 작업에서 테스트되었습니다.

텍스트 요약 (입력 가이드 생성).
코드 수정 (입력 가이드 편집).
수학 및 논리 퍼즐 해결 (추론).

결과:
AdaPLD는 어디에서 텍스트를 찾고 어떻게 다음 단어를 추측하는지에 대해 더 똑똑하게 행동함으로써, 글쓰기 과정을 현저히 빠르게 만들었습니다.

일부 코드 편집 작업에서, 표준적인 느린 방식보다 3.1배 더 빠르게 만들었습니다.
이러한 적응형 가지치기와 의미론적 검색을 사용하지 않는 다른 "모델 프리" 방식들보다 일관되게 우수한 성능을 보였습니다.

요약

AdaPLD는 느린 작가에게 아주 똑똑한 기억력 조수를 붙여주는 것과 같습니다. 이 조수는 단순히 예전 텍스트를 복사해서 붙여넣는 것이 아니라, 단어의 의미를 이해하여 숨겨진 패턴을 찾아내고, 여러 가지 "만약"의 시나리오를 준비하여 작가가 한 번에 많은 단어를 수락할 수 있도록 돕습니다. 그 결과, 새로운 AI 모델을 훈련하거나 새로 고용할 필요 없이 훨씬 빠른 글쓰기 과정을 만들어냅니다.

기술 요약: AdaPLD

문제 정의

대규모 언어 모델(LLM)은 자기 회귀적 디코딩(auto-regressive decoding) 과정에서 각 출력 토큰마다 별도의 순방향 패스(forward pass)를 요구하기 때문에 심각한 지연 시간 병목 현상에 직면합니다. Speculative Decoding(SD)은 보조 드래프트 모델을 학습시키는 오버헤드를 피하기 위해 기존의 텍스트와 모델 상태를 재사용하는 모델 프리(model-free) SD 변형들을 활용하여 이를 완화합니다. 그러나 이들의 효율성은 현재 드래프트 구축 파이프라인에서의 두 가지 구체적인 실패로 인해 제한됩니다:

검색 제한 (Lexical No-Hit): 기존 방식은 재사용 가능한 컨텍스트를 찾기 위해 n-gram과 같은 정확한 토큰 수준 매칭에 크게 의존합니다. 이러한 접근 방식은 의미론적으로 관련 있는 연속형(continuation)이 존재하더라도 표면 형태(surface form)가 다를 경우 낮은 재현율(recall) 문제를 겪습니다. 만약 앵커 토큰이 컨텍스트 내에 정확히 나타나지 않으면 검색 결과가 빈 집합을 반환하게 되어, 의미론적 대안이 존재함에도 불구하고 재사용이 차단됩니다.
재사용 구축 제한 (Deterministic Span Copying): 위치가 일단 발견되면, 현재 방식은 메모리로부터 단일 연속 스팬(contiguous span)을 결정론적으로 복사합니다. 이는 역사적 연속형이 유일하게 유효한 경로라고 가정하며, 현재 컨텍스트 하에서의 다음 토큰에 대한 불확실성을 무시합니다. 만약 타겟 모델이 메모리에 저장된 것과 다른 연속형을 예측할 경우, 드래프트는 즉시 실패하며 이는 수락률(acceptance rate)을 제한합니다.

방법론: AdaPLD

AdaPLD는 드래프트 생성의 검색 및 구축 단계를 적응적으로 개선하도록 설계된 학습 불필요(training-free), 모델 프리(model-free) 스펙큘레이티브 디코딩 방법입니다.

1. 의미론적 폴백을 통한 적응형 검색 (Adaptive Retrieval with Semantic Fallback)

AdaPLD는 정밀도를 유지하면서 후보 도달 가능성을 확장하기 위해 "렉시컬 우선(lexical-first)" 전략을 채택합니다:

렉시컬 앵커링 (Lexical Anchoring): 시스템은 먼저 통합 메모리(프롬프트 + 생성 이력)에서 가장 최근에 생성된 토큰( $a_i$ )에 대한 정확한 토큰 일치를 시도합니다.
의미론적 폴백 (Semantic Fallback): 만약 렉시컬 검색 세트가 비어 있다면, AdaPLD는 의미론적 폴백 메커니즘을 활성화합니다. 이는 쿼리 앵커에 대한 토큰 임베딩 유사도(코사인 유사도)가 임계값 $\tau$ 를 초과하는 위치를 검색합니다.
선택 (Selection): 추출된 후보들은 은닉 상태 유사도(hidden-state similarity)를 사용하여 재순위화됩니다. 시스템은 선택된 앵커 앵커의 앞부분에 해당하는 은닉 표현과 현재 쿼리 앵커의 앞부분에 해당하는 은닉 표현을 비교하여 가장 컨텍스트적으로 호환되는 앵커를 선택합니다.

2. 적응형 재사용 구축 (Adaptive Reuse Construction)

단일 스팬을 복사하는 대신, AdaPLD는 세 가지 구성 요소를 가진 작은 드래프트 트리를 구축합니다:

메인 복사 경로 (Main Copy Path): 앵커가 렉시컬 매칭을 통해 발견된 경우, 시스템은 메모리로부터 후속 토큰들을 복사하여 주요 드래프트 경로로 사용합니다. (앵커가 의미론적 폴백을 통해서만 발견된 경우에는 이 경로가 생략됩니다.)
불확실성을 위한 브랜칭 (Branching for Uncertainty): 결정론적 복사의 한계를 해결하기 위해, AdaPLD는 브랜치 가설을 생성합니다. 선택된 앵커 프리픽스에 조건화된 타겟 모델의 상위- $K$ 토큰 분포를 샘플링합니다. 이 브랜치들은 타겟 모델이 역사적 메모리 스팬보다 선호할 수 있는 대안적 연속형을 나타냅니다.
서세서 드래프팅 (Successor Drafting): 이러한 브랜치의 깊이를 확장하기 위해, 시스템은 각 브랜치 토큰에 대해 2차 검색 단계를 수행합니다. 브랜치 토큰을 새로운 쿼리 앵커로 취급하여, 메모리로부터 후속자(successor)를 검색하고(동일한 렉시컬 우선/의미론적 폴백 로직 사용), 높은 신뢰도의 매치가 발견될 경우 해당 브랜치를 하나의 추가된 재사용 토큰으로 확장합니다.

3. 검증 (Verification)

구성된 모든 가설(메인 경로, 브랜치, 확장된 서세서)은 드래프트 트리로 조직되며, 트리 어텐션(tree attention)을 통해 타겟 모델에 의해 검증됩니다. 이를 통해 단일 순방향 패스 내에서 여러 경로를 병렬적으로 평가할 수 있으며, 스펙큘레이티브 디코딩의 무손실 보장(lossless guarantee)을 유지합니다.

주요 기여

병목 현상 식별: 본 논문은 "렉시컬 노-히트(lexical no-hit)" 검색과 "결정론적 스팬 복사"를 기존 모델 프리 스펙큘레이티브 디코딩 방식의 주요 제한 사항으로 식별했습니다.
적응형 검색 및 재사용 프레임워크: 저자들은 후보 도달 가능성을 보장하기 위해 엄격한 렉시컬 우선 검색과 의미론적 폴백을 결리한 방법과, 연속형의 불확실성을 고려하여 다중 드래프트 가설을 구축하는 브랜칭 메커즘을 제안합니다.
실험적 검증: 이 방법은 다양한 벤치마크를 통해 검증되었으며, 보조 모델이나 학습 없이도 일관된 효율성 이득을 보여줍니다.

실험 결과

실험은 세 가지 카테고리의 작업에 대해 Vicuna 모델(7B, 13B, 33B)을 대상으로 수행되었습니다:

입력 가이드 생성 (Input-Guided Generation): (요약, 다회차 대화, RAG). AdaPLD는 재사용 기반 방식들 중 가장 높은 평균 속도 향상을 달値하였으며, Vicuna-7B에서 2.27배, Vicuna-13B에서 1.98배, Vicuna-33B에서 1.74배의 속도 향상을 기록했습니다.
입력 가이드 편집 (Input-Guided Editing): (CodeEditorBench). AdaPLD는 특히 큰 모델에서 상당한 이득을 보였으며, 요구사항 전환 작업(requirement switching tasks)에서 Vicuna-33B 기준 최대 3.10배의 속도 향상을 달성했습니다.
추론 벤치마크 (Reasoning Benchmarks): (AIME 2024, MATH-500, MMLU-Pro). 직접적인 입력 중첩이 부족함에도 불구하고, AdaPLD는 경쟁력 있는 속도 향상을 달성했으며(예: Vicuna-33B의 AIME 2024에서 2.10배), 이는 구조화된 추론 궤적으로부터 재사용이 발생할 수 있음을 시사합니다.

**절제 연구(Ablation Studies)**를 통해 의미론적 폴백 또는 브랜칭/서세서 드래프팅 메커니즘 중 하나라도 제거할 경우 성능 저하가 발생함을 확인하였으며, 이를 통해 두 구성 요소의 필요성을 입증했습니다.

의의 및 주장

본 논문은 AdaPLD가 현재의 재사용 전략의 취약성을 해결함으로써 모델 프리 스펙큘레이티브 디코딩의 중요한 진전임을 주장합니다. 렉시컬 검색과 의미론적 검색을 적응적으로 전환함으로써, 표면 형태의 변화로 인해 드래프트 구축이 차단되는 것을 방지합니다. 또한, 단일 스팬 복사를 넘어 브랜치 가설 트리로 확장함으로써 토큰 생성의 확률적 특성에 더 잘 부합합니다.

저자들은 이러한 효율성 이득이 보조 드래프트 모델을 학습하거나 서빙하는 계산 비용 없이 달성되었다는 점을 강조합니다. 이 방법은 타겟 모델의 출력 분포를 보존하며, 입력 프롬프트나 생성 이력으로부터 유도된 컨텍스트 재사용이 가능한 모든 자기 회귀적 생성 작업에 적용 가능합니다. 이 연구는 적응형 검색과 구조화된 재사용 구축이 모델 프리 스펙큘레이티브 디코딩의 속도 향상 잠재력을 극대화하는 데 핵심적임을 보여줍니다.