기술 요약: 대규모 언어 모델의 통계적 무손실 양자화 (Statistically-Lossless Quantization)

문제 정의

현재의 대규모 언어 모델(LLM) 양자화 방식은 이분법적인 트레이드오프에 직면해 있다: 손실 방식(lossy methods) (예: GPTQ, AWQ)은 높은 압축률과 추론 가속을 달고 오지만 모델의 정확도를 저하시키는 반면, 무손실 방식(lossless methods) (예: ZipNN, 엔트로피 코딩 표현)은 충실도(fidelity)를 보존하지만 추론 가속을 제공하지 못하거나 높은 압축률을 달성하는 데 실패하는 경우가 많다.

본 논문은 이 두 극단 사이의 간극, 즉 통계적 무손실 양자화(Statistically-Lossless Quantization, SLQ) 영역을 식별한다. 저자들은 대부분의 오픈 웨이트 LLM이 확률적 샘플링 파라미터(예: temperature > 0)와 함께 배포되므로, 출력값이 자연스럽게 실행 간 분산(run-to-run variance)을 나타낸다고 주장한다. 양자화된 모델이 이러한 자연스러운 샘플링 분산 범위 내에 머물 수 있다면, 실질적인 관점에서 무손실이라고 볼 수 있다. 과제는 비트 단위의 정밀한 재구성을 요구하지 않으면서도 표준 샘플링 하에서 모델의 출력 특성을 보존하는 압축을 정의하고 달성하는 것이다.

방법론

제안된 SLQ 프레임워크는 비대칭 양자화 그리드를 사용하는 레이어별 비균등 스칼라 양자화를 활용한다. 이 방법론은 세 가지 핵심 축을 기반으로 구축되었다:

1. 이론적 토대: 비대칭 vs. 대칭 양자화

본 논문은 비대칭 양자화가 분포 무손실 충실도를 위한 전제 조건인 반면, 대칭 양자화는 이러한 엄격한 목표를 달성하기에 불충분함을 증명한다.

• 중심화 비효율성 ($\gamma$): $\gamma = 2M/R$로 정의된다 (여기서 $M$은 최대 절대 크기, $R$은 동적 범위). 대칭 분포의 경우 $\gamma=1$이지만, (LLM에서 전형적인) 비대칭 분포의 경우 $\gamma > 1$이다.
• 감마 제곱 분산 법칙 (Gamma-Squared Variance Law): 저자들은 대칭 양자화가 비대칭 양자화에 비해 출력 노이즈 분산을 $\gamma^2$ 배만큼 팽창시킨다는 것을 증명한다.
  • $\sigma^2_{sym} = \gamma^2 \sigma^2_{asym}$
• 영향: 이러한 분산 팽창은 특히 모델이 가장 확신을 갖는 저엔트로피 영역에서 "결정 뒤집힘(decision flips)" (argmax 토큰의 변화)의 확률을 높인다. 결과적으로, 대칭 양자화는 동일한 분포 충실도를 달est하기 위해 비대칭 양자화보다 훨씬 더 많은 비트(파라미터당 최대 1.5비트 더 많이)를 필요로 한다.

2. 충실도 지표 (Fidelity Metrics)

근무손실(near-lossless) 영역을 탐색하기 위해, 본 논문은 두 가지 구별된 무손실 정의와 그에 상응하는 지표를 도입한다:

• 태스크 무손실 (Task-Lossless, TL): 자연스러운 샘플링 분산 내에서 제로샷 벤치마크 정확도를 보존한다.
  • 지표: 회복률 (BF16 정확도 유지 비율).
  • 탐색 전략: 단일 지점 캘리브레이션(Single-point calibration). 근무손실 영역에서 KL 발산과 태스크 회복 사이의 관찰된 선형 관계를 활용하여, 저자들은 전수 조사를 수행하지 않고도 비트 폭 요구 사항을 예측할 수 있는 KL 임계값을 도출한다.
• 분포 무손실 (Distribution-Lossless, DL): 양자화된 모델의 다음 토큰 분포가 원본과 실질적으로 구별할 수 없을 정도여야 한다.
  • 지표: 기대 수용률 (Expected Acceptance Rate, EAR). 스펙큘레이티브 디코딩(speculative decoding)에서 영감을 얻은 EAR은 최적의 커플링(coupling) 하에서 원본 분포와 양자화된 분포 사이의 최대 토큰 일치 확률을 측정한다.
  • 정의: $EAR = \frac{1}{N} \sum_{i} \sum_{k=1}^{K} \min(p_i(k), q_i(k))$이며, 상위-$K$ 토큰으로 제한된다. EAR이 0.99라는 것은 최적의 커플링 하에서 99%의 일치도를 의미한다.
  • 탐색 전략: 캘리브레이션 데이터를 사용하여 EAR 제약 조건에 대한 직접 최적화.

3. SLQ 파이프라인

• 민감도 추정: 특정 레이어 그룹에 특정 비트 폭(집합 $\{2, \dots, 8\}$ 중 하나)을 할당하는 한계 영향을 평가하기 위해 **멀티 비트폭 샤플리 추정(Multi-Bitwidth Shapely Estimation)**을 사용한다. 이는 기존의 이진 선택 방식을 전체 정수 비트 폭 범위로 확장한 것이다.
• 비트 폭 할당: 할당 문제를 정수 선형 계획법(ILP)으로 해결되는 다중 선택 배낭 문제(Multiple-Choice Knapsack Problem)로 정식화한다. 솔버는 비트 폭 예산 또는 충실도 제약 조건 하에서 예측된 저하를 최소화한다.
• 구현: 비대칭 정수 그룹 양자화(그룹 크기 128)를 사용하며, 표준 추론 커널(예: vLLM의 Humming 커널)과 호환된다.

주요 결과

저자들은 가중치 전용 양자화(weight-only quantization)를 사용하여 네 가지 모델(Qwen3-8B, Q3-32B, Qwen3.5-27B, Llama-3.3-70B-Instruct)에 대해 SLQ를 평가했다.

정확도 및 압축

• 태스크 무손실 (TL): 3.3 ~ 4.7 bpp (파라미터당 비트) 사이의 공격적인 비트 폭에서 달성되었다.
  • 예: Llama-3.3-70B는 3.59 bpp에서 99.1% 회복률을 달성하여 균등 4비트 양자화를 능가했다.
  • 예: Qwen3.5-27B는 3.30 bpp에서 99.1% 회복률을 달성했다.
• 분포 무손실 (DL): 5.0 ~ 6.6 bpp에서 EAR $\ge 0.99$로 달성되었다.
  • 예: Qwen3-32B는 4.98 bpp에서 100.1% 회복률에 도달했다.
  • 예: Llama-3.3-70B는 6.55 bpp에서 99.9% 회복률에 도달했다.
• 비교: SLQ는 분포 무손실 영역에서 QTIP 및 YAQA와 같은 최첨단 방식들을 유의미하게 능가한다. 예를 들어, Llama-3.1-8B에서 QTIP은 4비트에서 0.9519의 EAR을 달성한 반면, SLQ는 5.59 bpp에서 훨씬 낮은 KL 발산(0.004)을 기록했다.

추론 가속

NVIDIA L40s GPU 상에서 최적화된 Humming 커널을 사용했을 때, SLQ 설정은 BF16 베이스라인 대비 **1.7배 ~ 3.7배의 처리량(throughput)**을 제공했다.

• 하드웨어 효율성: 모델 크기 감소를 통해 더 큰 모델을 더 적은 수의 GPU에 탑재할 수 있게 했다 (예: Llama-3.3-70B를 4개가 아닌 2개의 GPU에 탑재 가능).
• 비교: SLQ는 GPU당 처리량 측면에서 FP8 베이스라인을 지속적으로 능가했다.

절제 연구 및 분석 (Ablation and Analysis)

• 비대칭성: 비대칭 양자화를 제거하고 (대칭을 강제하여) 적용했을 때, DL 목표를 위한 비트 폭이 약 1.5 bpp 증가했다.
• 비트 폭 범위: 검색 범위를 이진 선택(예: {4, 8})으로 제한했을 때, 전체 범위({2–8})를 검색했을 때보다 평균 비트 폭이 높아졌다.
• 토큰 수준 분석: DL 설정에서 98.1%의 토큰이 베이스라인과 정확히 일치했다. 불일치는 미세한 스타일 변화(유의어, 문장 부호)에 국한되었으며, 사실적 오류는 없었다.
• 사고 토큰 (Thinking Tokens): DL 설정은 BF16과 비교하여 추가적인 "사고" 토큰 오버헤드를 발생시키지 않았으나, 손실 방식(TL 및 Uniform-4)은 사고 토큰을 2.2~2.9% 증가시켰다.

의의 및 주장

본 논문은 통계적 무손실 양자화를 공식화함으로써 LLM 압축의 새로운 패러다임을 구축했다고 주장한다. 주요 기여는 다음과 같다:

1. 간극의 공식화: 태스크 수준과 분포 수준의 무손실을 구분하여, 확률적 디코딩 시나리오에서 진정한 충실도를 위해 후자가 왜 필요한지를 논증한다.
2. $\gamma^2$ 법칙: 비대칭 양자화 설계와 토큰 수준의 결정 뒤집힘 사이의 연결 고리를 보여주는 첫 번째 공식적 증명을 제공하며, 대칭 양자화가 분포 무손실 목표에 있어 근본적으로 비효율적임을 입증한다.
3. EAR 지표: KL 발산을 보완하는 직접적으로 해석 가능한 충실도 지표인 기대 수용률(Expected Acceptance Rate)을 도입한다.
4. 실질적 효율성: 통계적 무손실 압축이 서브 4비트(태스크 무손실의 경우) 및 약 5~6 비트(분포 무손실의 경우) 폭에서도 달성 가능하며, 상당한 추론 가속을 제공하면서도 손실 압축과 무손실 저장 사이의 간극을 효과적으로 메울 수 있음을 입증한다.

저자들은 SLQ를 모든 양자화 방식의 대체제가 아니라, 작은 분포적 변화가 중요한 "근무손실(near-lossless)" 영역을 위한 원칙적인 접근법으로 포지셔닝하며, 균등 양자화기(uniform quantizers)보다 파레토 우위(Pareto-dominant)의 솔루션을 제공한다.