기술 요약: 정규화 아키텍처는 네이티브 4 비트입니다

문제 제기

대규모 언어 모델 (LLM) 을 4 비트 정밀도로 배포하는 것은 효율성 측면에서 필수적이지만, 이러한 모델을 학습시키는 것은 여전히 취약합니다. 표준 트랜스포머 아키텍처는 일반적으로 저비트 학습 중 안정성을 유지하기 위해 복잡하고 오버헤드가 큰 개입을 필요로 합니다. 이러한 개입에는 아웃라이어를 분산시키기 위한 무작위 할다마르 변환 (RHT), 동적 텐서별 스케일링, 혼합 정밀도 예외 처리 등이 포함됩니다. 이러한 방법들이 4 비트 학습을 가능하게 하지만, 다음과 같은 근본적인 질문을 제기합니다: "양자화 기교"에 의존하지 않고도 아키텍처가 저정밀도 산술에 내재된 견고성을 가질 수 있을까요?

방법론

저자들은 모델 가중치와 은닉 표현을 모두 단위 초구 (unit hypersphere) 로 제한하는 트랜스포머 아키텍처인 nGPT를 조사합니다. 이 연구는 Blackwell GPU 에서 네이티브로 지원되는 NVIDIA 의 NVFP4 포맷에 초점을 맞춥니다.

핵심 방법론은 양자화 견고성의 기원을 추적하기 위해 36 억 파라미터 트랜스포머 (nanoGPT 베이스라인 기반) 에 대한 구조적 분석을 수행하는 것입니다. 저자들은 NVFP4 양자화 하에서 행렬 곱셈 연산 ($Y = WX$) 을 신호와 잡음 성분으로 분해합니다. 구체적으로 다음을 분석합니다:

1. 신호대잡음비 (SNR): 개별 요소 수준과 최종 내적 합계에서의 SNR 측정.
2. 상관 구조: 내적 합계 내의 요소별 곱 ($w_k x_k$) 간의 쌍별 상관관계를 정량화.
3. 스케일링 법칙: SNR 이 이득이 은닉 차원 크기 ($D$) 에 따라 어떻게 스케일링되는지 검토.
4. 실증적 검증: RHT 나 동적 스케일링 없이 NVFP4 를 사용하여 12 억 파라미터 밀집 모델과 4 억에서 300 억 파라미터 범위의 하이브리드 Mamba-트랜스포머 혼합 전문가 (MoE) 모델을 포함한 다양한 아키텍처를 학습.

주요 발견 및 메커니즘

1. 견고성은 잡음 억제에서가 아닌 신호 축적에서 비롯됨

저비트 견고성이 양자화 잡음을 줄이는 것을 요구한다는 지배적인 논리와는 대조적으로, 저자들은 nGPT 가 개별 가중치나 활성화 값을 양자화하기 쉽게 만들지 않는다는 사실을 발견합니다. 개별 요소와 그 요소별 곱의 SNR 은 표준 GPT 와 nGPT 사이에서 거의 동일합니다 (각각 약 19dB 와 약 16.5dB).

이 분기는 합계 단계 (내적) 에서만 발생합니다.

• 표준 GPT: 신호가 비일관적으로 축적되고 잡음이 천천히 평균화되어 최종 내적 SNR 이 약 18.6dB 로 나타납니다.
• nGPT: 초구 제약이 신호의 구성적 축적을 유도합니다. 최종 내적 SNR 이 약 26dB 에 도달하여 약 7.4dB 의 이점을 제공합니다.

2. 양의 상관관계의 역할

이 이점을 주도하는 메커니즘은 신호 축적의 일관성입니다.

• 표준 GPT 에서 네트워크는 내적을 지배하는 몇 개의 크고 제한 없는 좌표에 의존할 수 있습니다.
• nGPT 에서 정규화 제약은 이러한 경로를 차단합니다. 큰 출력을 생성하려면 모델은 수천 개의 차원에 걸쳐 분산된 정렬을 학습해야 합니다.
• 이 역학은 요소별 곱 ($w_k x_k$) 사이에 약하지만 체계적인 양의 상관관계를 유도합니다. 잡음 상관관계는 두 아키텍처 모두에서 거의 0 으로 유지되는 반면, nGPT 의 신호 상관관계는 GPT 보다 약 14 배 큽니다 ($\bar{\rho}_s \approx 1.32 \times 10^{-3}$ 대 $9.31 \times 10^{-5}$).
• 이러한 양의 상관관계는 합계 동안 비일관적인 잡음보다 실제 신호가 더 빠르게 성장하게 하여 SNR 을 효과적으로 증가시킵니다.

3. 너비에 따른 스케일링

SNR 이득은 정적이지 않으며 모델 너비에 따라 누적됩니다. 이론적 분석은 은닉 차원 $D$에 기반한 세 가지 영역을 제시합니다:

• 작은 너비: 유의미한 격차 없음.
• 중간 너비 (현재 모델, 예: $D=4096$): SNR 비율이 $D$에 따라 선형적으로 증가.
• 큰 너비: 비율이 약 14.2 의 이론적 최대치에서 포화됨.
  저자들은 현재 모델이 성장 영역에서 작동한다고 지적하며, 이는 모델이 더 큰 은닉 차원 (예: $D=16384$) 으로 확장됨에 따라 nGPT 의 이점이 더욱 두드러질 것임을 시사합니다.

4. 더 평탄한 손실 지형과 하이퍼파라미터 견고성

개선된 레이어별 SNR 은 더 평탄한 손실 지형으로 이어집니다. 가중치가 교란될 때 (양자화 잡음을 시뮬레이션), nGPT 의 검증 손실은 표준 GPT 보다 3.5 배 느리게 저하됩니다.

• 학습률 무감각성: nGPT 는 BF16 과 NVFP4 모두에서 광범위한 학습률 범위에 걸쳐 평탄한 최적점을 유지합니다. BF16 의 최적 학습률은 재조정 없이 NVFP4 로 직접 이전됩니다. 반면, 표준 GPT 는 NVFP4 에 대해 별도의 훨씬 더 높은 학습률 탐색이 필요합니다.

실험 결과

저자들은 여러 구성에서 이러한 발견을 검증했습니다:

• 12 억 파라미터 밀집 모델: 1 조 토큰으로 학습. NVFP4 에서의 nGPT(RHT 나 스케일링 없음) 는 NVFP4 의 표준 GPT 보다 낮은 상대 오차를 달성했으며, 하류 작업 (예: MMLU, GSM8K) 에서 BF16 의 표준 GPT 보다 우수한 성능을 보였습니다.
• 하이브리드 Mamba-트랜스포머 MoE: 4 억/6 억 및 30 억/300 억 파라미터 모델에서 평가. nGPT 는 안정성을 유지했으며 표준 개입 없이 30 억/300 억 구성에서 거의 0% 의 상대 오차를 달성했습니다.
• 처리량: RHT 와 동적 텐서별 스케일링의 계산 오버헤드를 제거함으로써, nGPT NVFP4 는 큰 은닉 크기에서 Blackwell GPU 에서 BF16 GPT 베이스라인 대비 3.3~3.6 배의 속도 향상을 달성합니다.

중요성과 주장

이 논문은 저정밀도 모델 설계의 패러다임 전환을 주장합니다. 양자화를 사후 알고리즘으로 패치해야 할 압축 문제로 취급하는 대신, 저자들은 양자화 견고성이 아키텍처적일 수 있다고 주장합니다.

주요 중요성은 nGPT 의 초구 기하학이 모델이 4 비트 산술에서 신호가 비정상적으로 잘 생존하는 표현을 향해 내재적으로 편향되도록 한다는 것을 입증하는 데 있습니다. 이 구조적 속성은 오버헤드가 큰 교정 메커니즘 (RHT, 동적 스케일링) 을 제거하여 표준 접근법보다 더 효율적이고 견고한 엔드투엔드 NVFP4 학습을 가능하게 합니다. 저자들은 산업계가 4 비트 정밀도 및 그 이하로 이동함에 따라, 이러한 구조적 속성이 표준 아키텍처 위에 계층화되는 점점 더 정교한 교정 메커니즘보다 더 가치 있을 수 있다고 제안합니다.