🤖 machine learning

ADMM-Q: An Improved Hessian-based Weight Quantizer for Post-Training Quantization of Large Language Models

ADMM-Q는 대안 방향 승수법의 조합적 변형에 기반한 새로운 모듈형 사후 훈련 가중치 양자화 알고리즘으로, 양자화 제약을 준수하면서 레이어별 재구성 오차를 최소화함으로써 공격적인 4 비트 미만 양자화 수준에서 대규모 언어 모델의 유틸리티를 크게 향상시킵니다.

원저자: Ryan Lucas, Mehdi Makni, Xiang Meng, Adam Deng, Rahul Mazumder

게시일 2026-05-13

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Ryan Lucas, Mehdi Makni, Xiang Meng, Adam Deng, Rahul Mazumder

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

다음은 ADMM-Q 논문을 쉬운 언어와 일상적인 비유를 사용하여 설명한 내용입니다.

큰 그림: 거대한 뇌 축소하기

Qwen이나 LLaMA와 같은 대규모 언어 모델 (LLM) 을 방대하고 매우 상세한 도서관이라고 상상해 보세요. 이 도서관에는 AI 가 작성, 추론, 대화를 할 수 있게 해주는 수십억 권의 책 (파라미터) 이 들어 있습니다. 하지만 이 도서관들이 너무 거대하기 때문에 휴대하기 어렵고 (높은 메모리 사용량), 책을 읽는 데도 시간이 오래 걸립니다 (느린 연산).

양자화 (Quantization) 는 이러한 도서관을 축소하는 과정입니다. 모든 책을 고화질 풀컬러 잉크 (32 비트 또는 16 비트 정밀도) 로 작성된 상태로 유지하는 대신, 더 적은 색상이나 더 간단한 기호 (4 비트 또는 심지어 2 비트) 를 사용하여 다시 쓰려고 합니다. 목표는 이야기를 잃지 않으면서 도서관을 배낭에 들어갈 정도로 작게 만드는 것입니다.

문제: "탐욕스러운" 축소자들

GPTQ(현재 업계 표준) 와 같은 기존 모델 축소 방법들은 탐욕적인 편집자처럼 작동합니다.

작동 방식: 첫 번째 문장을 보고 축소한 뒤 다음으로 넘어갑니다. 그다음 두 번째 문장을 보고 축소한 뒤 다시 다음으로 넘어갑니다.
결함: 편집자가 첫 번째 문장을 축소할 때 작은 실수를 할 수 있습니다. 그들은 즉시 다음으로 넘어가기 때문에 그 실수를 다시 돌아보아 수정하지 않습니다. 책의 끝에 도달할 때쯤이면, 그 모든 작은 실수들이 쌓여 이야기가 혼란스럽거나 nonsensical(말도 안 되는) 것이 되어버립니다. 이는 책을 매우 공격적으로 축소 (2 비트 또는 3 비트까지) 하려고 할 때 특히 나쁩니다.

해결책: ADMM-Q ("팀 회합" 접근법)

저자들은 ADMM-Q라는 새로운 방법을 제안합니다. 혼자 일하는 탐욕적인 편집자 대신, 각 장마다 원탁 회의를 개최하는 편집자 팀을 상상해 보세요.

팀 회합 (공동 최적화):
한 문장씩 수정하는 대신, 팀은 전체 장을 한 번에 봅니다. "여기 단어를 바꾸면 저기 단어에 어떤 영향을 미칠까?"라고 묻습니다. 그들은 매우 적은 색상만 사용하더라도 이야기가 명확하게 유지되도록 모든 단어를 동시에 조정하여 가능한 최상의 조합을 찾습니다.
"부드러운" 대 "블록형" 춤 (ADMM):
이 방법의 수학적 배경은 ADMM(Alternating Direction Method of Multipliers) 이라고 불립니다. 두 단계 사이의 춤으로 생각해 보세요:
- 단계 A (부드러운 미끄러짐): 팀은 이야기 흐름을 개선하기 위해 단어에 작고 연속적인 조정을 가합니다.
- 단계 B (격자에 딱 맞추기): 갑자기 그들은 그 단어들을 허용된 특정 값 (레고 블록을 제자리에 딱 맞추는 것처럼) 으로 맞춰야 합니다.
- 그들은 미끄러짐과 딱 맞추기를 계속 반복합니다. 시간이 지남에 따라 이 과정은 단어들이 이야기를 깨뜨리지 않고 가능한 최상의 "레고 위치"에 정착하도록 강제합니다.
"이상치" 문제 (대각선 스케일링):
이러한 모델에서 일부 단어는 "시끄럽고"(이상치), 일부는 "조용합니다." 모두를 한 번에 축소하려고 하면 시끄러운 단어들이 대화를 지배하고 조용한 단어들은 사라집니다.
- ADMM-Q 의 해결책: 그들은 Diagonal Scaling이라는 기법을 사용합니다. 편집 세션 동안 조용한 단어들에게 마이크를 주고 시끄러운 단어들의 볼륨만 줄여준다고 상상해 보세요. 이렇게 하면 모든 단어가 최적화될 공정한 기회를 얻게 되어 훨씬 더 명확한 최종 이야기가 만들어집니다.
최종 마무리 (국부 탐색):
팀이 회합을 마친 후, 빠른 "-spot check(현장 점검)"를 수행합니다. 실수로 바뀐 단어 쌍을 찾아보고, 다시 바꾸면 이야기가 개선되는지 확인합니다. 이는 마지막 순간의 실수를 잡기 위한 빠른 최종 마무리 작업입니다.

중요성: 결과

이 논문은 여러 모델 (Qwen 및 LLaMA) 에서 이 새로운 방법을 테스트하여 다음과 같은 결과를 발견했습니다:

더 나은 이야기: 모델을 매우 작은 크기 (3 비트 또는 2 비트) 로 축소했을 때, 기존 "탐욕스러운" 방법 (GPTQ) 은 말도 안 되는 글이나 매우 혼란스러운 답변을 생성했습니다. 반면 ADMM-Q 는 모델이 똑똑하고 일관되게 유지되도록 했습니다.
- 예시: "WikiText-2"라는 테스트에서 기존 방법은 12.85 점 (높을수록 나쁨) 을 기록한 반면, ADMM-Q 는 이를 10.06 점으로 낮췄습니다. 이는 명료성 측면에서 엄청난 개선입니다.
다른 도구와의 호환성: ADMM-Q 는 모든 것을 대체하는 것이 아니라 "축소" 부분만 교체하는 드롭인 (drop-in) 방식입니다. 데이터를 회전시키거나 스케일링하는 것과 같은 사람들이 사용하는 다른 기법들과 완벽하게 함께 작동합니다.
동일한 속도: 모델이 축소된 후에는 기존 방법과 똑같이 빠르게 실행됩니다. ADMM-Q 가 추가로 소요하는 시간은 출판 전 책을 편집하는 것처럼 "오프라인" 축소 과정 동안에만 발생하며, 실제로 AI 를 사용하는 동안에는 발생하지 않습니다.

단점 (한계점)

편집 시간이 더 걸림: ADMM-Q 는 각 레이어마다 복잡한 "팀 회합"을 수행하기 때문에, 단순한 탐욕적인 방법에 비해 모델을 축소하는 데 초기에 더 많은 컴퓨터 시간이 소요됩니다. 하지만 저자들은 이 일회성 대기 시간이 훨씬 더 나은 품질을 위해 가치가 있다고 말합니다.
샘플이 필요함: 이러한 모든 방법들처럼, 축소 작업을 시작하기 전에 모델이 무엇을 말하려는지 이해할 수 있도록 텍스트의 작은 샘플 (보정 데이터) 이 필요합니다.

요약

ADMM-Q는 AI 모델을 압축하는 더 똑똑한 방법입니다. 단계별로 압축을 서두르며 실수를 범하는 대신, 모델의 모든 부분을 함께 조정하는 전체론적이고 수학적 접근법을 취합니다. 그 결과, 매우 좁은 공간으로 밀어 넣어도 여전히 명확하게 생각하는 방법을 기억하는 훨씬 더 작은 AI 가 만들어집니다.

기술 요약: LLM 후학습 양자화를 위한 ADMM-Q

문제 정의

대형 언어 모델 (LLM) 은 계산 및 메모리 요구 사항으로 인해 배포에 상당한 어려움을 겪고 있습니다. 양자화, 특히 후학습 양자화 (PTQ) 는 재학습 없이 가중치 정밀도를 낮추는 (예: 16 비트에서 4 비트 이하로) 모델을 압축하는 주요 전략입니다.

현재 표준 가중치 양자화 방법인 반올림 (Round-to-Nearest, RTN) 과 탐욕적 열별 양자화 (Greedy Per-Column Quantization, GPTQ) 는 특히 공격적인 비트 폭 (4 비트 미만) 에서 한계를 보입니다:

RTN은 가중치 간의 의존성과 재구성 오차 지형의 구조를 무시하고 가중치를 독립적으로 반올림합니다.
GPTQ는 오차를 보정하기 위해 헤세 (Hessian) 정보를 활용하지만, 열별로 탐욕적으로 가중치를 처리합니다. 이 순차적 접근 방식은 처리 순서에 민감하며 열 간 오차가 누적됩니다.

핵심적인 과제는 비트 폭이 감소함에 따라 점점 더 어려워지는 문제로, 이산 양자화 제약을 준수하면서 재구성 오차를 최소화하는 계층별 양자화를 제약 최적화 문제로 공식화하는 것입니다.

방법론: ADMM-Q

저자들은 ADMM (Alternating Direction Method of Multipliers) 기반인 새로운 가중치 양자화 알고리즘인 ADMM-Q를 제안합니다. GPTQ 의 탐욕적 열별 접근 방식과 달리, ADMM-Q 는 계층별 양자화를 공동 최적화 문제로 취급합니다.

1. 문제 공식화

이 알고리즘은 사전 학습된 가중치 $\hat{W}$ 와 입력 활성화 $X$ 를 가진 계층의 양자화를 헤세 가중 제약 최적화 문제로 공식화합니다:
$\min_{W} \frac{1}{2} \text{Tr}\left((W - \hat{W})^\top H (W - \hat{W})\right) \quad \text{s.t.} \quad W \in \mathcal{Q}$
여기서 $H = X^\top X + \lambda I$ 는 헤세 행렬이며, $\mathcal{Q}$ 는 양자화된 가중치 행렬의 집합입니다.

2. 주요 알고리즘 구성 요소

LLM 규모에서 이 비볼록 문제를 효율적으로 해결하기 위해 ADMM-Q 는 몇 가지 개선 사항을 도입합니다:

수치적 안정성을 위한 대각 스케일링: LLM 활성화에는 종종 "채널 아웃라이어"(비례적으로 큰 크기를 가진 차원) 가 포함되어 헤세 행렬의 조건이 나빠집니다. ADMM-Q 는 $\Sigma = \text{Diag}(H)^{-1/2}$ 인 대각 스케일링 행렬을 적용하여 문제를 정규화하고, 모든 채널이 업데이트에 균등하게 기여하도록 합니다. 이는 매우 중요합니다; 제거 실험 (ablation studies) 에 따르면 이 스케일링을 제거하면 성능이 크게 저하됩니다 (예: Qwen3-8B 의 W3A16 에서 퍼플렉시티가 10.06 에서 14.68 로 증가).
ADMM 분할: 알고리즘은 연속적인 헤세 가중 목적 함수와 이산 양자화 제약을 분리하기 위해 보조 변수 $D$ $D$ 를 도입합니다. 그리고 다음을 번갈아 수행합니다:
1. W-업데이트: 헤세 가중 거리를 최소화하는 연속 업데이트로, $H$ 의 고유값 분해를 통해 효율적으로 해결됩니다.
2. D-업데이트: 양자화 그리드 (스케일링을 고려한 RTN 과 동일) 로의 이산 투영.
3. 이중 업데이트: 일관성을 강제하기 위해 라그랑주 승수를 조정합니다.
그리드 갱신: 최적화 중 양자화 그리드를 고정하는 GPTQ 와 달리, ADMM-Q 는 현재 연속 반복값을 기반으로 그리드 파라미터 (스케일 및 영점) 를 동적으로 재적합합니다. 이를 통해 투영이 이동하는 목표와 정렬된 상태를 유지하며 고정된 그리드의 부실함을 방지합니다.
국부 탐색 정제: 상관된 반올림으로 인한 비최적 이산 해를 해결하기 위해, 후처리 단계에서 효율적인 쌍 교환 (pair-swap) 국부 탐색을 수행합니다. 이 단계는 재구성 오차를 직접 감소시키는 이산 이동 (행 간 값 교환) 을 평가하며, 속도를 위해 GPU 병렬화를 활용합니다.
수렴 보장: 저자들은 기존 ADMM 수렴 증명 (이전에 희소성 제약에 대해 확립됨) 을 양자화 설정으로 확장하여, 특정 페널티 스케줄 ( $\rho_t = \rho_0 \cdot \gamma^t$ ) 하에서 연속 및 이산 반복값이 동일한 극한점으로 수렴함을 증명합니다.

3. 모듈성 및 통합

ADMM-Q 는 기존 PTQ 파이프라인 내에서 RTN 또는 GPTQ 를 대체할 수 있는 드롭인 (drop-in) 방식으로 설계되었습니다. 다음 요소와 완전히 호환됩니다:

스케일링 변환 (예: SmoothQuant, AWQ).
회전 변환 (예: SpinQuant, QuaRot).
클리핑 휴리스틱 (예: MSE 기반 그리드 검색).

실험 결과

저자들은 ADMM-Q 를 세 가지 설정에서 평가했습니다: 가중치 전용 양자화, SpinQuant 를 사용한 가중치 및 활성화 양자화, 그리고 SmoothQuant 를 사용한 가중치 및 활성화 양자화.

1. 가중치 전용 양자화 (Qwen3 계열)

Qwen3 모델 (1.7B~32B) 전반에 걸쳐 ADMM-Q 는 퍼플렉시티와 제로샷 정확도에서 GPTQ 및 AWQ 보다 일관되게 우월한 성능을 보였으며, 비트 폭이 낮아질수록 개선 폭이 커졌습니다:

W3A16 (Qwen3-8B): WikiText-2 퍼플렉시티가 **12.85 (GPTQ)**에서 **10.06 (ADMM-Q)**로 개선되었습니다.
W2A16 (Qwen3-8B): WikiText-2 퍼플렉시티가 **32.88 (GPTQ)**에서 **17.69 (ADMM-Q)**로 개선되었습니다.
계층별 분석: ADMM-Q 는 모든 디코더 계층에서 재구성 오차를 감소시켰으며, 초기 계층에서는 GPTQ 오차의 최대 10% 수준을 달성했습니다.

2. 가중치 및 활성화 양자화

SpinQuant (WbA4KV4): LLaMA-3 및 Qwen3 모델에서 GPTQ 를 ADMM-Q 로 교체하면 일관된 개선이 이루어졌습니다. 예를 들어, LLaMA-3 8B 의 W2A4KV4 에서 퍼플렉시티는 **50.27 (GPTQ)**에서 **15.65 (ADMM-Q)**로 감소했습니다.
SmoothQuant (WbA8): Qwen3-8B 에서 ADMM-Q 는 W3A8 퍼플렉시티를 16.00에서 12.21로 개선했습니다.

3. 추론 성능

vLLM 추론 스택에 통합되었을 때, ADMM-Q 는 GPTQ 와 동일한 형식의 가중치 행렬을 생성했습니다. 결과적으로 동일한 추론 처리량 및 메모리 이점을 달성했습니다. 예를 들어, SpinQuant W8A8 을 사용한 Qwen3-32B 의 경우 두 방법 모두 밀집 기준 대비 약 1.52 배의 속도 향상을 달성했습니다.

4. 계산 비용

ADMM-Q 의 오프라인 양자화 과정은 반복 최적화로 인해 GPTQ 보다 계산 집약적입니다. 그러나 저자들은 양자화가 일회성 단계이며 실행 시간은 실용적이라고 지적합니다 (예: 단일 GPU 에서 32B 모델의 경우 2 시간 미만). 피크 GPU 메모리 사용량은 GPTQ 보다 약간 높습니다 (약 6%).

중요성 및 주장

이 논문은 ADMM-Q 가 LLM 을 위한 탐욕적 순차 양자화에서 공동 제약 최적화로의 원칙적인 전환을 나타낸다고 주장합니다. 주요 기여점은 다음과 같습니다:

알고리즘적 혁신: 가중치 양자화의 어려운 조합 문제를 위해 ADMM 을 성공적으로 적용하고, LLM 규모에 필요한 안정화 (대각 스케일링) 및 정제 (그리드 갱신, 국부 탐색) 를 도입했습니다.
성능 향상: 이전 방법들이 어려움을 겪는 공격적인 저비트 영역 (W3 및 W2) 에서 모델 유용성 (퍼플렉시티 및 정확도) 에서 상당한 개선을 입증했습니다.
다용도성: 최종 추론 형식이나 속도를 변경하지 않고 기존 파이프라인 (회전 및 스케일링을 사용하는 경우 포함) 을 강화하는 모듈식 드롭인 구성 요소로 작동합니다.

저자들은 한계를 인정하며, ADMM-Q 는 오프라인 양자화 비용이 더 높고 교정 세트의 대표성에 의존한다고 지적합니다. 또한 현재 평가는 밀집 자기회귀 디코더 전용 LLM 으로 제한되어 있으며, 혼합 전문가 (mixture-of-experts) 또는 확산 모델로의 적응에는 추가 작업이 필요합니다.