💬 NLP

When Attention Collapses: How Degenerate Layers in LLMs Enable Smaller, Stronger Models

이 논문은 대규모 언어 모델의 깊은 층에서 발생하는 '주의 메커니즘 붕괴 (attention collapse)' 현상을 해결하기 위해, 사전 훈련된 모델의 초기 층을 계승하고 점진적으로 확장하는 'Inheritune'이라는 훈련 방식을 제안하여 더 적은 층으로 더 강력한 모델을 구축하는 방법을 제시합니다.

원저자: Sunny Sanyal, Ravid Shwartz-Ziv, Alexandros G. Dimakis, Sujay Sanghavi

게시일 2026-02-17

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Sunny Sanyal, Ravid Shwartz-Ziv, Alexandros G. Dimakis, Sujay Sanghavi

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

🕵️‍♂️ 1. 발견: "주의가 무너지다" (Attention Collapse)

대형 언어 모델 (예: GPT-2, LLaMA 등) 은 수백 개의 레이어 (층) 가 쌓인 거대한 구조물입니다. 보통은 레이어가 많을수록 똑똑해지리라 생각하죠. 하지만 연구진은 깊은 층으로 갈수록 모델이 실제로는 '멍때리고' 있다는 것을 발견했습니다.

🧩 비유: "거대한 도서관의 마지막 층"

마치 거대한 도서관을 상상해 보세요.

**1 층~10 층 **(초기 층) 책장을 꼼꼼히 정리하고, 독자가 원하는 책을 정확히 찾아주는 유능한 사서들이 있습니다.
**30 층~40 층 **(후기 층) 하지만 깊은 층에 올라가면, 사서들은 더 이상 책을 찾아주지 않습니다. 대신 **"모든 독자에게 똑같은 책을 무작위로 나눠주는 기계"**처럼 변해버립니다.

이 현상을 논문에서는 'Attention Collapse(주의의 붕괴)라고 부릅니다.

원래는 모델이 문장 속 단어들 사이의 복잡한 관계를 파악해야 하는데, 깊은 층으로 갈수록 모든 단어에 동일한 점수를 매겨버립니다.
수학적으로 보면, 복잡한 정보 처리 능력이 사라져서 **단순한 1 차원 **(Rank-1)으로 변해버린 것입니다.
이렇게 쓸모없게 된 레이어를 논문에서는 'Lazy Layers(게으른 층)이라고 부릅니다.

핵심: 모델이 너무 깊어지면, 마지막 층들은 사실상 "아무것도 안 하고 그냥 통과만 시키는" 게으른 직원들이 되어버리는 것입니다.

🛠️ 2. 해결책: "Inheritune" (상속 + 훈련)

이제 질문입니다. "게으른 직원들이 있는 거대한 도서관을 어떻게 효율적으로 만들까요?"
기존 방식은 도서관을 다 부수고 처음부터 다시 짓는 것 (랜덤 초기화) 이거나, 게으른 직원들을 잘라내는 것 (프루닝) 이었습니다. 하지만 연구진은 더 똑똑한 방법을 고안했습니다.

🌱 비유: "유능한 사서에게서 배우고, 팀을 키워나가기"

연구진이 제안한 **'Inheritune'**이라는 방법은 다음과 같습니다.

**상속 **(Inherit) 거대한 모델 (참조 모델) 의 **가장 유능한 초기 층들 **(1 층~10 층)만 가져옵니다. 이 층들은 아직 게으르지 않고 똑똑하니까요.
**훈련 **(Train) 이 작은 모델로 먼저 학습을 시킵니다.
**성장 **(Grow) 만약 성능이 부족하다면, 게으른 층을 바로 추가하지 않고, 새로운 층을 하나씩 추가하며 다시 학습시킵니다. 이때 새로 추가되는 층은 '게으른 상태'에서 시작하지만, 훈련을 통해 스스로 유능한 사서로 성장하게 합니다.

핵심: "거대한 모델의 좋은 부분만 가져와서, 작은 모델로 키우되, 처음부터 다시 시작하는 것보다 훨씬 빠르게 똑똑하게 만든다."

🚀 3. 결과: 작지만 더 강한 모델

이 방법을 실험해 본 결과는 놀라웠습니다.

기존 방식: 48 층짜리 거대 모델을 처음부터 100 번 학습시켰습니다.
Inheritune 방식: 24 층짜리 작은 모델을 '유능한 초기 층'으로 시작해서 100 번 학습시켰습니다.

결과?

Inheritune 모델이 48 층짜리 거대 모델과 똑같은 성능을 냈습니다!
심지어 같은 크기의 모델을 처음부터 학습시켰을 때보다 더 빠르고 더 잘 학습되었습니다.
게으른 층을 없애고, 유능한 층만 남기면서 모델을 성장시켰기 때문에, **모델이 더 집중력 있게 **(Attention이 잘 분포되어) 작동하게 되었습니다.

💡 4. 요약: 왜 이 연구가 중요한가요?

비효율성 발견: 우리가 믿어왔던 "모델이 클수록, 깊을수록 좋다"는 공식에 숨겨진 결함이 있었습니다. 깊은 층일수록 '게으름'이 생깁니다.
새로운 설계 철학: 단순히 모델을 크게 만드는 것이 아니라, 구조적인 비효율성을 제거하고 유능한 부분만 계승하여 모델을 키우는 것이 더 중요합니다.
실용성: 이 방법을 쓰면 **컴퓨터 자원 **(GPU 메모리, 전력)을 훨씬 적게 쓰면서도, 거대 모델 못지않은 성능을 내는 작고 강력한 AI를 만들 수 있습니다.

🎁 한 줄 요약

"거대한 AI 가 깊은 층에서 게으름을 피우는 것을 발견했고, 유능한 초기 부분만 가져와서 작은 AI 로 키워내는 'Inheritune'이라는 방법으로, 작지만 더 똑똑하고 빠른 AI 를 만드는 길을 열었습니다."

이 연구는 앞으로 AI 를 개발할 때, 단순히 "크기"를 늘리는 것보다 "질"과 "구조"를 어떻게 설계할지 중요한 통찰을 줍니다.

1. 문제 정의: 어텐션 붕괴 (Attention Collapse) 와 게으른 계층 (Lazy Layers)

이 논문은 대규모 언어 모델 (LLM) 의 구조적 비효율성을 발견하고 이를 해결하는 방법을 제안합니다.

관찰된 현상: 사전 훈련된 디코더 스타일 LLM(예: GPT-2 패밀리, LLaMA 등) 의 깊은 계층 (deeper layers) 에서 어텐션 행렬 (attention matrices) 이 심하게 퇴화하는 현상이 발견되었습니다.
어텐션 붕괴 (Attention Collapse): 깊은 계층의 어텐션 행렬의 유효 랭크 (effective rank) 가 급격히 감소하여 거의 랭크 -1 (rank-1) 구조로 수렴합니다. 이는 모델이 토큰 간의 복잡한 관계를 구분하지 못하고 시퀀스 전체에 대해 거의 균일한 (uniform) 평균을 내는 것과 같습니다.
게으른 계층 (Lazy Layers): 어텐션 행렬이 랭크 -1 로 퇴화하여 의미 있는 표현 학습 능력을 상실한 계층을 "게으른 계층"이라고 정의합니다.
영향: 이러한 계층들은 사전 훈련된 지식의 전달 (transferability) 이 거의 불가능하며, 모델의 효율성을 떨어뜨리고 불필요한 계산 자원을 소모합니다. 실험 결과, 게으른 계층으로 초기화된 모델은 무작위 초기화 (random initialization) 된 모델과 유사한 성능을 보였습니다.

2. 제안 방법: Inheritune

저자들은 어텐션 붕괴 문제를 해결하고, 더 작으면서도 성능이 뛰어난 모델을 만들기 위해 Inheritune이라는 새로운 훈련 레시피를 제안합니다.

핵심 아이디어:
1. 강력한 초기 계층 활용: 깊은 LLM 의 초기 계층들은 높은 랭크 (high-rank) 를 가지며 강력한 표현 능력을 갖추고 있습니다.
2. 점진적 성장 (Progressive Growth): 게으른 계층을 제거하거나 최소화하고, 강력한 초기 계층을 물려받은 작은 모델을 훈련시킨 후, 필요에 따라 계층을 추가하며 확장합니다.
Inheritune 알고리즘 단계:
1. Inherit (물려받기): 큰 참조 모델 (Reference Model, $M_{ref}$ ) 의 상위 $L$ 개 계층 중, 어텐션 랭크가 높은 초기 $l$ 개의 계층과 임베딩/헤드 레이어를 작은 목표 모델 ( $M_{tgt}$ ) 에 복사합니다.
2. Train (훈련): $M_{tgt}$ 를 훈련 데이터로 $T$ 스텝 동안 훈련하고 검증 손실 (validation loss) 을 평가합니다.
3. Grow (성장): 목표 모델의 성능이 참조 모델보다 낮으면, 참조 모델의 다음 계층들을 추가로 복사하여 모델 크기를 늘리고 훈련을 반복합니다.
4. 종료: 목표 모델이 참조 모델과同等하거나 더 나은 검증 손실을 달성할 때까지 이 과정을 반복합니다.

3. 주요 기여 (Key Contributions)

표준 LLM 에 대한 어텐션 퇴화 분석: GPT-2 패밀리 (Medium, Large, XLarge) 및 LLaMA-3, Falcon 등 다양한 현대적 아키텍처에서 깊은 계층의 어텐션 랭크 붕괴를 체계적으로 분석하고 정량화했습니다.
Inheritune 레시피 개발: 비효율적인 깊은 LLM 의 구조적 결함을 역이용하여, 더 적은 계층으로 동일한 성능을 내는 모델을 구축하는 훈련 방법을 제안했습니다.
다양한 베이스라인 대비 우월한 성능: Inheritune 으로 훈련된 모델은 무작위 초기화 된 더 큰 모델, 같은 크기의 모델 (더 긴 훈련 시간 포함), 그리고 기존 워밍업 (warm-start) 기법 (Stacking, Hybrid Stacking, Half-width 등) 보다 우수한 성능을 입증했습니다.

4. 실험 결과 및 성과

성능 비교:
- GPT-2 패밀리 실험: GPT-2 Medium(24 층), Large(36 층), XLarge(48 층) 를 기반으로 각각 16 층, 18 층, 24 층의 모델을 Inheritune 으로 훈련했습니다.
- 결과: Inheritune 으로 훈련된 모델은 층 수가 절반 이하임에도 불구하고 풀 사이즈 (Full-size) 모델과 동일한 검증 손실을 달성하거나 더 낮은 손실을 기록했습니다.
- 훈련 효율성: 같은 크기의 모델을 무작위 초기화하여 훈련할 때보다 약 2 배 빠른 수렴 속도를 보였습니다. 또한, 같은 크기의 모델을 2 배 더 훈련시킨 경우보다도 더 낮은 손실 바닥 (loss floor) 에 도달했습니다.
다운스트림 태스크: FineWeb 데이터셋으로 훈련된 모델에 대한 제로샷 (zero-shot) 평가 (ARC-Easy, LAMBADA, SciQ 등) 에서 Inheritune 모델이 무작위 초기화 된 동급 모델보다 높은 정확도를 보였습니다.
어텐션 패턴 개선: Inheritune 으로 훈련된 모델은 깊은 계층에서도 집중된 (focused) 어텐션 패턴을 유지하는 반면, 기존 모델은 깊은 계층에서 균일한 (uniform) 어텐션 패턴을 보였습니다. 이는 Inheritune 이 어텐션 붕괴를 효과적으로 완화함을 의미합니다.

5. 의의 및 결론

구조적 비효율성 제거: 기존 LLM 이 가진 "게으른 계층"이라는 구조적 낭비를 제거함으로써, 모델 설계 관점에서의 압축 (compression by design) 을 가능하게 합니다.
새로운 확장 축 (Scaling Axis): 단순히 모델 크기나 데이터 양을 늘리는 기존 스캘링 법칙 외에, 모델 구조의 효율성을 높이는 새로운 확장 축을 제시합니다.
실용적 가치: Inheritune 은 계산 비용과 메모리 사용을 줄이면서도 성능을 유지하거나 향상시킬 수 있는 방법을 제공하여, 더 작고 빠르며 강력한 언어 모델 개발의 길을 엽니다.

요약하자면, 이 논문은 LLM 의 깊은 계층에서 발생하는 어텐션 붕괴 현상을 규명하고, 이를 피하여 강력한 초기 계층만 물려받은 뒤 점진적으로 성장시키는 Inheritune 방법을 통해 더 작지만 더 강력한 모델을 만드는 데 성공했습니다.