기술 요약: 간결함은 추론 효율성의 핵심이다

문제 정의

대규모 언어 모델(LLM) 및 시각-언어 모델(VLM)의 추론 효율성을 개선하기 위한 기존 패러다임은 증류(distillation), 가지치기(pruning), 양자화(quantization), 희소 라우팅(sparse routing)과 같은 모델 압축 기술을 통해 토큰당 비용을 줄이는 데 집중합니다. 이러한 접근 방식은 출력 길이(토큰 수)를 고정된 양으로 암묵적으로 간주합니다. 그러나 경험적 추세에 따르면, 특히 추론 모델(reasoning models)의 경우 비추론 모델보다 약 8배 더 많은 토큰을 생성하는 등 출력 길이가 급격히 팽창하고 있습니다. 결과적으로, 토큰당 효율성 이득은 증가하는 장황함(verbosity)에 의해 상쇄되어, 결국 총 추론 비용(정답당 달러 비용)과 지연 시간(latency)을 높이는 결과를 초래합니다.

본 논문은 **간결함(brevity)**이 추론 효율성을 위한 누락된 레버라고 주장합니다. 디코딩 시 제약 조건(예: 길이 페널티, 샘플링 제어)은 사후적으로 출력을 단축하려고 시도하지만, 이는 종종 장황하도록 훈련된 모델과 대립하게 됩니다. 저자들은 **데이터 큐레이션(data curation)**이 사전 훈련 단계에서 더 효과적인 메커즘이라고 상정합니다. 즉, 간결하고 정확한 데이터로 학습함으로써 모델이 품질을 희생하지 않으면서도 더 적은 토큰으로 답하는 법을 내재화하도록 하는 것입니다. 이 접근 방식은 추론 효율성을 '토큰당 FLOPs'가 아닌 **'정답당 토큰(tokens-per-correct)'**의 문제로 취급합니다.

방법론

본 연구는 큐레이션된 데이터로 학습된 모델과 표준 미큐레이션 데이터로 학습된 모델, 그리고 프런티어 오픈 웨이트 모델들을 비교하는 통제된 실험 설정을 활용합니다.

1. 데이터 큐레이션 파이프라인: 저자들은 MAmmoTH-VL 단일 이미지 학습 코퍼스에 자사의 VLM 큐레이션 파이프라인을 적용합니다. 이 파이프라인은 간결성과 정확성을 기준으로 데이터를 필터링합니다.
2. 모델 제품군:
   • DatologyAI 모델: 큐레이션된 MAmmoTH-VL 혼합 데이터로 학습되었습니다.
   • Mammoth 베이스라인: 표준 미큐레이션 MAmmoTH-VL 데이터로 학습되었습니다(미큐레이션 대조군 역할).
   • 프런티어 비교 대상: Qwen (3, 3.5, 3-VL), InternVL, Isaac 제품군의 오픈 웨이트 모델들입니다.
3. 평가 범위:
   • 규모(Scales): 활성화 파라미터 1B, 2B, 4B.
   • 벤치마크: 수학, 차트 해석, OCR, 그라운딩(grounding) 등의 역량을 다루는 20개의 통제된 평가 세트(회귀 분석을 위해 집계 전용 평가는 제외).
4. 지표:
   • Cost-of-Pass: 정답당 FLOPs($2N \times \bar{n}_{out} / \text{accuracy}$)로 정의됩니다. 여기서 $N$은 활성 파라미터이고 $\bar{n}_{out}$은 평균 출력 길이입니다. 이 지표는 모델 크기와 장황함을 모두 포착합니다.
   • 길이 제어 정확도(Length-Controlled Accuracy): 간결함과 품질을 분리하기 위해, 출력 길이를 통제하면서 벤치마크와 규모에 대한 고정 효과를 갖는 로지스틱 일반화 선형 모델(GLM)을 적합시킵니다. 이를 통해 토큰 수와 독립적인 큐레이션에 의한 정확도 이득을 격리하여 측정합니다.
   • 사례별 대조(Per-Example Contingency): 장황한 추론 모델이 간결한 모델이 놓치는 문제를 해결하는지, 혹은 그 반대인지를 결정하기 위해 오류 세트를 분석합니다.

주요 기여 및 결과

1. Cost-of-Pass의 획기적 감소

큐레이션된 모델은 추론 비용 프런티어에서 파레토 우위(Pareto-dominant)를 점합니다.

• 35배의 이점: 4B 규모에서 Datology 모델은 가장 장황한 비교 대상인 Qwen3.5-4B(14.58 TFLOPs)에 비해 거의 동일한 정확도(0.691 vs 0.704)를 유지하면서도 35배 낮은 Cost-of-Pass(0.41 TFLOPs per correct answer)를 달착했습니다.
• 스케일링 효율성: 큐레이션된 1B 모델(0.10 TFLOPs/correct)은 Qwen3.5-4B보다 정답당 143배 더 저렴합니다.
• 메커니즘: 비용 감소는 거의 전적으로 감소된 토큰 수에 의해 주도됩니다. 동일한 파라미터 수에서 토큰당 FLOPs는 모든 모델이 동일하며, 변동성은 정답에 도달하기 위해 방출되는 토큰 수에서 발생합니다.

2. 일치된 길이에서의 정확도 향상

간결함이 추론 깊이를 희생할 수 있다는 가설과 달리, 큐레이션된 모델은 출력 길이를 일정하게 유지했을 때도 더 정확합니다.

• 길이 제어 이득: 모든 규모에서 큐레이션된 모델은 출력 길이를 통제했을 때 미큐레이션된 Mammoth 베이스라인보다 +17.55 퍼센티지 포인트(pp) 더 높은 정확도를 보였습니다.
• 초선형 스케일링(Super-linear Scaling): 이 정확도 이점은 모델 규모에 따라 커집니다: 1B에서 +16.7 pp, 2B에서 +15.6 pp, 4B에서 +21.2 pp.
• 환각 감소: 캡셔닝 작업에서 큐레이션된 모델은 그라운딩 정밀도를 희생하지 않으면서도 캡션 길이를 59% 줄이는 동시에 환각 언급(hallucinated mentions)을 19% 감소시켰습니다.

3. 장황함의 한계

연구는 장황한 토큰이 정답에 기여하는지를 조사합니다.

• 일반적 장황함: (추론 기능이 없는) 미큐레이션된 Mammoth 모델은 어떤 역량 그룹이나 규모에서도 간결한 Datology 모델을 능가하지 못했습니다. 일반적인 장황함은 정확도를 사지 못합니다.
• 추론 구조적 장황함: (Chain-of-Thought를 포함하여 장황한) Qwen3.5 제품군은 이점이 줄어드는 양상을 보입니다. 2B 규모에서는 8개 역량 그룹 중 4개에서 간결한 모델을 이깁니다. 4B 규모에서는 이 이점이 8개 중 1개의 그룹으로 급감합니다. 4B 규모의 8개 그룹 중 4개에서는 간직한 모델이 오히려 장황한 추론 모델보다 뛰어난 성능을 보였습니다.
• 상호 보완적 오류 세트: 간결한 모델이 일반적으로 더 높은 평균 정확도를 달성하지만, 사례별 분석 결과 장황한 추론 모델이 간결한 모델이 놓친 문제를 해결하는 경우가 있고 그 반대도 존재했습니다. 이는 추론과 간결함이 서로 다른 큐레이션 목표임을 시사합니다.

4. 프런티어 비교

외부 프런티어 모델들과 비교했을 때, 큐레이션된 모델은 7개 비교 대상 중 6개에 대해 비용 효율적인 파레토 프런트에 위치합니다.

• InternVL 및 Perceptron 변형 모델들에 대해 정확도와 비용 모두에서 우위를 점합니다.
• Qwen 제품군에 대해서는, 4~7 pp의 길이 제어 정확도를 대가로 2.4배에서 3.6배의 비용 이점을 얻습니다.
• Qwen3.5-4B 예외 사항: Qwen3.5-4B와의 길이 제어 비교는 불가능합니다(출력 길이 분포의 중첩이 2.2%에 불κ함). 이는 Qwen3.5-4B의 정확도가 극단적인 장황함(~1,284 토큰 vs Datology의 ~32 토큰)과 불가분하게 결합되어 있기 때문입니다.

의의 및 주장

본 논문은 간결함이 추론 효율성의 핵심이며, 이는 **데이터 큐레이션을 통한 분할 상환 추론(amortized inference)**을 통해 달성 가능하다고 주장합니다.

• 최적화 목표의 전환: 저자들은 업계가 더 큰 비용 동인(정답당 토큰 수)을 무시한 채 잘못된 지표(토큰당 FLOPs)를 최적화하고 있다고 주장합니다.
• 비용의 분할 상환: 디코딩 시 제약 조건은 매 쿼리마다 "길이 페널티"를 지불하지만, 데이터 큐레이션은 훈련 중에 간결함의 비용을 한 번만 지불합니다. 모델은 이 효율성을 가중치에 "캐싱"하여, 추론 시점에 토큰 단위로 숙고(System 2)하는 대신 자동으로 짧고 정확한 답변(System 1)을 생성합니다.
• 확장성: 큐레이션의 이점은 정체되어 있지 않습니다. 이는 모델 규모와 함께 복리로 작용합니다. 모델이 커질수록 미큐레이션된 장황함 대비 큐레이션된 간결함의 상대적 이점은 비용 절감과 일치된 길이에서의 정확도 모두에서 증가합니다.
• 실용성: 이 방식은 아키텍처 변경, 특수 하드웨어, 또는 복잡한 디코딩 알고리즘을 요구하지 않습니다. 이는 긴 추론 체인에 의해 발생하는 추론 비용 인플레이션을 직접 겨냥하는 "데이터 우선" 솔루션입니다.

요약하자면, 본 논문은 큐려션된 간결한 데이터로 학습하는 것이 품질을 희생하지 않으면서도 VLM이 최첨단 비용 효율성(35배 개선)을 달성할 수 있음을 입증하며, 추론에는 반드시 장황함이 필요하다는 통념에 도전합니다.