기술 요약: VibeThinker-3B

문제 정의

대규모 언어 모델(LLM) 분야는 프론티어 수준의 추론 능력을 달면하기 위해 파라미터 수를 확장하는 데 점점 더 의존해 왔으며, 이는 종종 수십억 또는 수천억 개의 파라미터를 가진 모델에 고도의 논리적 추론 능력을 집중시켜 왔습니다. 결과적으로 30억 개 이하의 파라미터를 가진 소형 언어 모델(SLM)은 복잡한 수학적 유도 및 프로그래밍 작업에 있어 내재적인 병목 현상을 가진 것으로 간주되어, 유능한 추론 엔진이라기보다는 주로 비용 효율적인 대체재로 여겨져 왔습니다. 이전 연구(VibeThinker-1.5B)는 소형 모델이 안정적인 논리 체인을 생성할 수 있음을 보여주었으나, 이들의 추론 능력의 상한선은 아직 탐구되지 않은 상태였습니다. 본 보고서는 다음 질문을 다룹니다: 엄격하게 3B 파라미터만을 사용하는 모델이 검증 가능한 추론 작업에서 수십 배에서 수백 배 더 큰 최상위급 LLM과 대등한 프론티어 수준의 성능을 달jwt 할 수 있는가?

방법론

VibeThinker-3B는 Qwen2.5-Coder-3B를 베이스로 구축된 3B 밀집(dense) 모델입니다. 이 모델은 저자들의 이전 1.5B 연구에서 소개된 **스펙트럼-투-시그널 원칙(Spectrum-to-Signal Principle, SSP)**에 기반한 체계적이고 단계적인 포스트 트레이닝 파이프라인을 채택합니다. 이 파이프라인은 지도 미세 조정(SFT) 단계에서 광범위한 솔루션 공간("Spectrum")을 구축하고, 강화 학습(RL) 단계에서 가치 높은 추론 신호("Signal")를 증폭하도록 설계되었습니다.

1. 지도 미세 조정 (SFT)

SFT 단계는 커리큘럼 기반의 2단계 전략을 활용합니다:

• 1단계 (광범위한 커버리지): 수학, 코드, STEM, 일반 대화 및 지시 이행을 아우르는 다양하고 품질이 필터링된 데이터셋으로 학습합니다. 이는 안정적인 콜드 스타트 정책을 확립합니다.
• 2단계 (고난도 추론): 고난도, 장기 추론 샘플(5K 토큰 이상 및 높은 에러율로 필터링됨)에 집중하여 논리적 유도 능력을 심화합니다.
• 데이터 구축: 자동 쿼리 확장, 다중 경로 추론 증류(단일 표준 솔루션 대신 다양한 유효 솔루션 궤적 보존), 그리고 엄격한 다단계 품질 제어(N-gram 필터링, LLM 기반 쿼리 평가 및 궤적 정확성 검증)를 특징으로 합니다.
• 다양성 탐색형 증류: 중간 체크포인트는 도메인별 프로빙 세트에서 평가되어, 단순히 손실(loss)을 최소화하는 것이 아니라 유효한 솔루션의 다양성(Pass@K)을 극대화하는 전문가 모델을 선택하며, 이들은 하나의 통합된 SFT 모델을 만들기 위해 병합됩니다.

2. 강화 학습 (RL)

핵심 RL 알고-리즘은 **MaxEnt-Guided Policy Optimization (MGPO)**로, 모델의 현재 능력 경계(정답률이 0도 1도 아닌 지점)에 근접한 프롬프트에 따라 동적으로 가중치를 부여합니다.

• 멀티 도메인 RL: 수학, 코드, STEM 추론에 대해 순차적인 파이프라인을 적용합니다. 이전 버전과 달리, 이 단계는 장기 추론 궤적을 보존하기 위해 처음부터 단일 64K 롱 컨텍스트 윈도우를 사용하여 점진적인 컨텍스트 확장 시 관찰되었던 성능 저하를 방지합니다.
• Long2Short Math RL: 수학을 위한 새로운 2단계 최적화입니다. 첫 번째 단계는 정확도를 최적화하고, 두 번째 단계는 정확도를 희생하지 않으면서 짧고 간결한 추론 경로를 선호하도록 정답 궤적 간에 보상을 재분배함으로써 토큰 효율성을 최적화합니다.

3. 오프라인 자기 증류 및 지시 RL

• 오프라인 자기 증류 (Offline Self-Distillation): Math, Code, STEM RL 단계에서 이끌어낸 고품질 추론 궤적을 필터링하여 모델에 다시 증류합니다. "학습 잠재력(learning potential)" 점수는 정답이지만 아직 학생 모델에 잘 모델링되지 않은 궤적을 식별하여 이를 증류 작업의 우선순위로 둡니다.
• 지시 RL (Instruct RL): 마지막 단계는 형식에 민-감한 프롬프트와 개방형 프롬프트가 혼합된 데이터셋을 사용하여 추론 능력이 강화된 모델을 복잡한 사용자 지시사항에 맞게 정렬합니다. 이때 엄격한 제어 가능성을 보장하기 위해 규칙 기반 검증기와 루브릭 기반 보상 모델을 사용합니다.

4. 테스트 타임 스케일링 (Test-Time Scaling)

저자들은 정답 검증이 가능한 작업에 대한 테스트 타임 스케일링 전략인 **클레임 레벨 신뢰도 평가 (Claim-Level Reliability Assessment, CLR)**를 도입합니다. 전체 추론 궤적을 집계하는 대신, CLR은 핵심 결정 관련 클레임을 추출하고 이를 자가 검증한 뒤, 비선형 신뢰도 점수에 따라 결과를 집계합니다. 이는 노이즈와 토큰 소비를 줄이면서 성능을 높입니다.

주요 결과

VibeThinker-3B는 탁월한 파라미터 효율성을 입증하며, 검증 가능한 작업에서 수천억 개의 파라미터를 가진 모델과 대등한 성능을 달성했습니다.

• 수학 (Mathematics):
  • AIME26: 94.3 (CLR 적용 시 97.1), DeepSeek V3.2 (671B) 및 Kimi K2.5 (1T)와 대등함.
  • HMMT25: 89.3 (CLR 적용 시 95.4).
  • IMO-AnswerBench: 76.4 (CLR 적용 시 80.6), DeepSeek V3.2 (78.3) 및 GLM-5 (82.5)와 같은 훨씬 더 큰 모델들을 능가함.
• 코딩 (Coding):
  • LiveCodeBench v6: 80.2 Pass@1을 기록하여 모든 소형/중형 베이스라인을 능가했으며, GPT-OSS-120B와 같은 최상위 시스템만을 뒤에 둠.
  • 분포 외 데이터 (LeetCode): 최근 미보지 LeetCode 콘테스트(2026년 4월~5월)에서 96.1%의 수락률을 달성하여 GPT-5.2 및 Kimi K2.5를 능가하고 Gemini 3 Flash와 대등한 성적을 거둠.
• 지시 이행 (Instruction Following):
  • IFEval: 93.4를 기록하여, 추론 강화가 엄격한 지시 제어 가능성을 저해하지 않음을 확인함.
• 지식 (Knowledge):
  • GPQA-Diamond: 70.2 (CLR 적용 시 72.9). 모델은 이 영역에서 최상위 범용 모델들에 비해 뒤처지며, 이는 추론 작업과 지식 집약적 작업 사이의 차이를 부각함.

의의 및 주장

본 논문은 추론 능력이 파라미터 규모에 따라 엄격하게 선형적으로 제한된다는 통념에 도전합니다. 저자들은 두 가지 유형의 능력 사이를 구분하는 **파라미터 압축-커버리지 가설 (Parametric Compression-Coverage Hypothesis)**을 제시합니다:

1. 파라미터 밀집 능력 (압축 가능): 검증 가능한 추론(수학, 코드)은 구조화된 탐색, 제약 조건 충족 및 오류 수정을 기반으로 합니다. 이러한 능력은 컴팩트하고 재사용 가능한 추론 핵심부로 압축될 수 있어, 소형 모델이 프론티어 성능에 도달할 수 있게 합니다.
2. 파라미터 확장 능력 (커버리지): 오픈 도메인 지식과 범용적 역량은 사실, 개념 및 롱테일 시나리오에 대한 광범한 커버리지를 필요로 하며, 이는 거대한 파라미터 규모를 요구합니다.

핵심 주장: SLM의 개발은 단순히 배포 효율성을 위한 수동적인 타협이 아니라, 전통적인 스케일링 법칙에 대한 보완적인 진화적 궤적입니다. VibeThinker-3B는 엄격한 포스트 트레이닝 파이프라인(다양성 중심 SFT, 멀티 도메인 RL, 자기 증류)을 갖춘 3B 모델이 파라미터 수가 200배에서 300배 더 큰 시스템의 "프론티어 추론 대역"에 진입할 수 있음을 보여주는 실증적 증거 역할을 합니다. 결론적으로, 솔루션 공간이 충분히 탐색되고 학습 신호가 신뢰할 수 있다면, 컴팩트한 모델의 추론 능력 경계는 기존의 기대를 훨씬 뛰어넘는다는 것을 보여줍니다.