💬 NLP

Demystifying When Pruning Works via Representation Hierarchies

이 논문은 언어 모델의 내부 표현 계층 (임베딩, 로짓, 확률) 을 분석하여, 비선형 확률 변환 단계에서 발생하는 오차 누적으로 인해 생성 작업에서는 프루닝이 성능 저하를 일으키지만, 임베딩과 로짓 공간의 안정성으로 인해 검색이나 선택형 과업에서는 효과적임을 규명했습니다.

원저자: Shwai He, Guoheng Sun, Haichao Zhang, Yun Fu, Ang Li

게시일 2026-03-27

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Shwai He, Guoheng Sun, Haichao Zhang, Yun Fu, Ang Li

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

🎭 비유: "정교한 요리사 vs. 간단한 주문"

이 논문은 거대한 AI 모델 (LLM) 을 거대한 주방에, 그리고 그 안의 요리사에 비유할 수 있습니다.

비생성형 작업 (검색, 퀴즈): 요리사가 "오늘의 메뉴는 무엇인가요?"라고 물었을 때, 메뉴판에서 하나를 가리키는 것입니다.
생성형 작업 (글쓰기, 대화): 요리사가 한 접시씩 요리해서 내는 것입니다. 첫 번째 요리를 잘못하면, 그 재료로 두 번째 요리를 만들고, 세 번째 요리를 만들면서 실수가 계속 쌓여 결국 엉망진창이 됩니다.

🔍 연구의 핵심 발견: "세 단계의 공간"

연구진은 AI 가 정보를 처리하는 과정을 세 가지 공간으로 나누어 보았습니다.

Embedding Space (재료 준비실):
- 입력된 단어를 AI 가 이해하는 '의미 있는 형태'로 바꾸는 곳입니다.
- 결과: 모델을 잘라내도 (Pruning) 이 공간은 매우 튼튼합니다. 마치 주방의 냉장고가 조금 비어도 요리사의 기본 실력은 유지되는 것과 같습니다.
Logit Space (메뉴 추천서):
- "다음에 나올 단어는 무엇일까?"라고 숫자 점수로 나열하는 곳입니다.
- 결과: 이 공간도 상당히 안전합니다. 잘라낸 후에도 추천 점수들의 순위는 크게 바뀌지 않습니다.
Probability Space (최종 결정판):
- 숫자 점수를 **실제 확률 (퍼센트)**로 바꾸고, 그중 하나를 선택하는 곳입니다. 여기서 **소프트맥스 (Softmax)**라는 수학적 변환이 일어납니다.
- 결과: 여기가 가장 위험합니다! 아주 작은 오차도 이 변환 과정을 거치면 폭발적으로 커집니다.

💥 왜 생성형 작업은 망할까요? (악순환의 고리)

이 논문이 밝혀낸 가장 중요한 점은 **"작은 오차가 증폭되어 악순환을 만든다"**는 것입니다.

시나리오:
1. 모델을 가볍게 만들기 위해 일부 레이어를 잘라냈습니다.
2. 첫 번째 단어를 고를 때, 아주 미세한 오차가 생깁니다 (예: "사과"를 고를 확률이 99% 였는데 98% 로 살짝 떨어짐).
3. **비생성형 작업 (퀴즈)**에서는 여기서 끝납니다. "정답은 A"라고 찍으면 되니까, 98% 라도 A 를 찍으면 정답입니다. 성공!
4. **생성형 작업 (글쓰기)**에서는 다릅니다. AI 는 고른 "사과"라는 단어를 보고 다음 단어를 고릅니다.
5. 그런데 첫 번째 단어가 살짝 틀렸다면, 두 번째 단어를 고르는 기준도 흔들립니다.
6. **소프트맥스 (확률 변환)**라는 과정이 이 흔들림을 증폭시킵니다.
7. 세 번째, 네 번째 단어를 고를 때는 오차가 폭발해서, AI 는 "사과... 빵... 123456..." 같은 말도 안 되는 소리를 지껄이게 됩니다.

🛠️ 요약: 언제 잘되고 언제 망하는가?

✅ 잘되는 경우 (검색, 퀴즈, 분류):
- 이유: 한 번만 판단하면 끝납니다. "재료 준비실"과 "메뉴 추천서" 단계에서 오차가 크지 않기 때문에, 최종 결과물도 괜찮습니다.
- 비유: 메뉴판에서 하나를 고르는 건, 주방이 조금 지저분해도 상관없습니다.
❌ 망하는 경우 (글쓰기, 대화, 코드 생성):
- 이유: 한 번의 실수가 다음 단계로 넘어가면서 증폭됩니다. "최종 결정판"에서의 작은 오차가 확률의 폭풍을 일으켜, 글이 엉망이 됩니다.
- 비유: 요리를 계속 이어갈 때, 첫 번째 재료를 조금 잘못 섞으면 다음 요리, 그 다음 요리까지 모두 망가집니다.

💡 이 연구가 주는 교훈

이 논문의 결론은 매우 실용적입니다.

"AI 모델을 가볍게 만들 때, 무조건 다 잘라내면 안 됩니다."

만약 검색 엔진이나 퀴즈용 AI 를 만든다면, 과감하게 잘라내도 됩니다. (효율성 ↑)
하지만 글을 쓰거나 대화하는 AI를 만든다면, **생성 과정 (확률 단계)**을 매우 조심스럽게 다뤄야 합니다. 단순히 모델을 가볍게 만드는 것만으로는 부족하며, 생성 단계의 오차를 보정해 주는 추가적인 과정이 필요할 수 있습니다.

한 줄 요약:
"AI 를 가볍게 만들면, 한 번만 답하면 되는 퀴즈는 잘 풀지만, 글을 이어가는 대화는 오차가 쌓여 엉망이 됩니다. 그 이유는 작은 오차가 확률이라는 거울에 비춰져 점점 커지기 때문입니다."

1. 연구 배경 및 문제 제기 (Problem)

대규모 언어 모델 (LLM) 의 효율성을 높이기 위해 **네트워크 가지치기 (Network Pruning)**가 널리 사용되고 있습니다. 이는 중요도가 낮은 매개변수나 아키텍처를 제거하여 계산 비용과 메모리 사용량을 줄이는 방법입니다.

그러나 기존 연구와 실증적 관찰에 따르면, 가지치기의 효과는 작업 유형에 따라 일관되지 않습니다.

비생성적 작업 (Non-generative tasks): 검색 (Retrieval), 다중 선택 문제 (Multiple-choice) 등에서는 가지치기 후에도 성능이 잘 유지됩니다.
생성적 작업 (Generative tasks): 텍스트 생성, 코딩, 수리 문제 해결 등 autoregressive(자기회귀) 방식으로 토큰을 순차적으로 생성하는 작업에서는 가지치기가 심한 성능 저하를 초래하거나 아예 생성이 붕괴됩니다.

이러한 격차 (Discrepancy) 의 근본 원인을 규명하고, 왜 가지치기가 특정 작업에서는 작동하고 다른 작업에서는 실패하는지를 이해하는 것이 본 연구의 핵심 문제입니다.

2. 방법론 (Methodology)

저자들은 언어 모델의 내부 계산을 **세 가지 연속적인 표현 공간 (Representation Spaces)**으로 분해하여 분석하는 표현 계층 (Representation Hierarchy) 관점을 도입했습니다.

임베딩 공간 (Embedding Space): 은닉 표현 (Hidden Representations, $h$ ).
로그이트 공간 (Logit Space): 소프트맥스 전 출력 (Pre-softmax outputs, $z$ ).
확률 공간 (Probability Space): 소프트맥스 후 분포 (Post-softmax distributions, $p$ ).

주요 분석 기법:

실증적 시각화: 가지치기 (레이어 드롭, Wanda 등) 를 적용했을 때 각 공간에서의 표현 유사성 (Cosine Similarity) 과 편차 (Deviation) 를 측정했습니다.
이론적 분석 (Taylor Expansion): 가지치기로 인한 작은 섭동 ( $\Delta$ $Δ$ ) 이 각 공간에서 어떻게 변환되고 증폭되는지 2 차 테일러 급수 (Second-order Taylor expansion) 를 통해 수학적으로 유도했습니다.
- LM Head 의 역할: 임베딩에서 로그이트로의 선형 변환이 섭동을 어떻게 감쇠시키는지 분석.
- Softmax 의 역할: 로그이트에서 확률로의 비선형 변환이 섭동을 어떻게 증폭시키는지 분석.
오류 전파 분석: Autoregressive 생성 과정에서 초기 단계의 오차가 후속 단계로 어떻게 누적되고 증폭되는지 분석했습니다.

3. 핵심 기여 및 발견 (Key Contributions & Findings)

A. 표현 계층별 가지치기 영향의 불균형

임베딩 및 로그이트 공간의 강건성: 가지치기로 인한 매개변수 제거는 임베딩 공간 ( $h$ ) 에서 작은 편차를 유발하지만, LM Head 를 통한 선형 변환 ($z = Wh$) 을 거치면서 이 편차는 오히려 **감쇠 (Attenuation)**되거나 유사성이 유지됩니다. 즉, 로그이트 공간은 가지치기에 상대적으로 강건합니다.
확률 공간의 민감도 (비선형 증폭): 로그이트에서 확률 ( $p = \text{softmax}(z/T)$ $p = softmax (z / T)$ ) 로 변환되는 비선형 과정이 가지치기로 인한 작은 편차를 급격히 증폭시킵니다.
- Theorem 2 & 3: 확률 공간에서의 편차 (Cosine Similarity 감소, KL Divergence 증가) 는 로그이트 섭동 ( $\Delta z$ ) 의 분산 (Variance) 과 온도 ( $T$ ) 에 의해 지배됩니다. 가지치기로 인한 $\Delta z$ 의 분산이 확률 공간에서 과도한 왜곡을 일으킵니다.

B. 작업 유형별 성능 차이의 원인

생성적 작업의 실패 원인:
1. 비선형 증폭: 소프트맥스 변환이 초기 오차를 증폭시킵니다.
2. 시간적 오류 전파 (Temporal Error Propagation): autoregressive 생성은 이전 단계의 출력 토큰이 다음 단계의 입력이 됩니다. 가지치기로 인한 초기 오차가 확률 공간에서 증폭된 후, 다음 단계의 컨텍스트 (History) 를 왜곡시키고, 이는 다시 다음 단계의 오차를 증폭시키는 **악순환 (Feedback Loop)**을 형성하여 생성 품질이 급격히 저하됩니다.
비생성적 작업의 성공 원인:
1. 단일 단계 결정: 검색이나 다중 선택 문제는 보통 한 번의 추론 (Single-step) 으로 결정됩니다.
2. 하위 공간의 안정성: 전체 어휘 (Vocabulary) 가 아닌 소수의 후보 토큰 (예: A, B, C, D) 에 대한 확률만 고려합니다. 전체 확률 분포가 왜곡되더라도, **관련된 카테고리 토큰의 서브공간 (Subspace)**에서는 로그이트나 확률의 상대적 순서가 유지되어 정답을 선택할 가능성이 높습니다.

4. 실험 결과 (Results)

벤치마크 성능: Mistral-7B, Qwen-2.5-7B 등을 대상으로 한 실험에서, 레이어를 8 개 제거했을 때 **HellaSwag, MMLU(비생성)**와 같은 작업에서는 성능이 거의 유지되었으나, **GSM8K, HumanEval(생성)**과 같은 작업에서는 성능이 0% 에 수렴하거나 완전히 붕괴되었습니다.
시각화 결과:
- Figure 4: 가지치기 후에도 임베딩과 로그이트 공간의 코사인 유사도는 높게 유지되지만, 확률 공간에서는 유사도가 급격히 떨어지는 것을 확인했습니다.
- Figure 7: 생성 단계가 진행될수록 (Time step 증가) 임베딩/로그이트 공간의 유사도는 서서히 떨어지지만, 확률 공간의 KL Divergence 는 급격히 증가하여 생성 붕괴를 설명했습니다.
- Figure 8: 다중 선택 작업에서 전체 토큰의 확률은 크게 변했지만, 정답 후보 (A/B/C/D) 에 해당하는 토큰들의 로그-가능성 (Log-likelihood) 은 상대적으로 안정적이었습니다.

5. 의의 및 시사점 (Significance)

이론적 통찰: 가지치기의 실패 원인이 단순히 모델 용량 감소가 아니라, 비선형 변환 (Softmax) 에 의한 오차 증폭과 autoregressive 과정에서의 오류 누적에 있음을 수학적으로 증명했습니다.
실용적 가이드:
- 작업별 전략: 비생성적 작업 (검색, 분류) 에는 가지치기를 적극적으로 활용할 수 있으나, 생성적 작업에는 주의가 필요합니다.
- 평가 기준: 가지치기된 모델의 성능을 평가할 때, 비생성적 벤치마크 점수만으로 생성 능력을 판단하는 것은 위험할 수 있음을 경고합니다.
- 향후 방향: 가지치기 후 미세 조정 (Fine-tuning) 이나 양자화 (Quantization) 와의 결합 등 붕괴를 완화할 수 있는 방법에 대한 방향성을 제시합니다.

결론적으로, 이 논문은 가지치기가 왜 특정 작업에서는 성공하고 다른 작업에서는 실패하는지를 '표현 계층'과 '비선형 증폭'의 관점에서 해명하여, 효율적인 LLM 압축을 위한 중요한 이론적·실용적 토대를 마련했습니다.