Routing Absorption in Sparse Attention: Why Random Gates Are Hard to Beat

이 논문은 희소 어텐션에서 학습된 게이트가 무작위 게이트보다 성능이 크게 향상되지 않는 '라우팅 흡수' 현상을 규명하고, 이는 Q/K/V 파라미터의 공유로 인한 모델의 적응적 보상 메커니즘 때문이며, 따라서 표현 학습과 희소화를 분리하는 사후 접근법이 더 효과적임을 주장합니다.

핵심

🧠 핵심 비유: "유능한 팀장과 멍청한 지시자"

이 논문의 주인공은 Transformer(최신 AI 모델)입니다. 이 모델은 글을 읽을 때 수천 개의 단어 중 중요한 단어 몇 개만 골라 집중해야 합니다. 이를 위해 AI 는 **'게이트 **(Gate)라는 작은 지시자 역할을 하는 부서를 만듭니다.

• **게이트 **(지시자) "이 단어는 중요해! 저 단어는 무시해!"라고 지시합니다. (매우 작고 가벼움)
• **Q/K/V **(실무 팀원들) 지시를 받아 실제로 문서를 읽고 분석하는 수천 명의 전문가들입니다. (매우 크고 강력함)

💡 논문의 결론: "지시자는 아무것도 못 배웁니다."

연구진은 AI 를 훈련시킬 때, 이 게이트가 스스로 중요한 단어를 찾아내도록 학습시켰습니다. 하지만 결과는 놀랍게도 실패였습니다.

학습이 끝난 후, 게이트가 스스로 찾아낸 "중요한 단어"와 아무런 생각 없이 무작위로 지시한 단어를 비교해 보니, **성적 **(오류율)이었습니다.

왜일까요? 바로 **"흡수 **(Absorption)라는 현상 때문입니다.

---

🌪️ 왜 실패했을까? '흡수' 현상 설명

이 현상을 이해하기 위해 **유능한 팀장 **(실무 팀원들)과 **새내기 지시자 **(게이트)의 상황을 상상해 보세요.

1. 상황: 새내기 지시자가 "A 라는 단어를 집중해!"라고 지시합니다.
2. 반응: 하지만 실무 팀원들 (Q/K/V) 은 지시자가 누구든 상관없이, 자신들이 가장 잘할 수 있도록 상황을 바꿉니다.
   • 지시자가 "A 를 봐"라고 하면, 팀원들은 A 를 보면서도 A 가 중요하지 않더라도 A 를 잘 분석할 수 있도록 자신들의 능력을 A 에 맞춰 조정합니다.
   • 지시자가 "B 를 봐"라고 하면, 팀원들은 B 를 보도록 자신들을 B 에 맞춰 조정합니다.
3. 결과: 지시자가 무엇을 말하든, 팀원들은 그 말에 맞춰 적응해 버립니다. 결국 지시자의 말은 **팀원들의 능력에 '흡수'**되어 버립니다. 지시자가 "무작위로" 말하든 "정확하게" 말하든, 팀원들이 스스로 문제를 해결해 버리기 때문에 지시자의 역할이 무의미해지는 것입니다.

논문은 이를 **"라우팅 흡수 **(Routing Absorption)라고 부릅니다. 지시자 (게이트) 가 너무 작고, 실무 팀원 (모델 전체) 이 너무 커서, 팀원들이 지시자의 신호를 다 흡수해 버리는 것입니다.

---

🔍 4 가지 실험으로 증명된 사실

연구진은 이 현상을 증명하기 위해 4 가지 실험을 했습니다.

1. 학습 vs 무작위: 지시자를 열심히 학습시켰든, 그냥 무작위로 지시하든 AI 의 실적이 거의 똑같았습니다. (지시자가 아무것도 배우지 못함)
2. 경고 신호 차단: 지시자가 "이거 봐!"라고 강하게 말해도 (경도적 선택), 실무 팀원들은 그 말을 듣지 못하게 되어 아예 학습이 안 되었습니다.
3. 가장 결정적인 실험:
   • 상황 A: 실무 팀원들이 아무런 지시도 받지 않고 훈련된 경우. -> 지시자가 "A 를 봐"라고 하면 잘 작동합니다.
   • 상황 B: 실무 팀원들이 지시자와 함께 훈련된 경우. -> 지시자가 "A 를 봐"라고 해도, 팀원들은 이미 지시자의 방식에 맞춰 변질되어 있어서, 갑자기 "A 를 봐"라고 하면 완전히 망가집니다. (지시자의 말에 팀원들이 너무 의존하게 된 것)
4. 무작위 지시 훈련: 훈련 중에 지시자가 무작위로 말하게 하면, 팀원들은 오히려 공포에 질려 모든 단어를 다 봐야 한다고 생각하게 되어, 집중력이 사라지고 실력이 떨어졌습니다.

---

🚀 해결책: "지시자와 팀원을 분리하라"

그렇다면 어떻게 해야 할까요? 논문은 아주 간단한 해결책을 제시합니다.

**"지시자 **(게이트)

• 잘못된 방법: 지시자와 팀원을 동시에 훈련시키면, 팀원이 지시자를 흡수해 버립니다.
• 올바른 방법: 먼저 팀원 (AI 모델) 을 완벽하게 훈련시킨 뒤, **그 상태를 고정 **(얼음처럼 얼려)하고, 그 상태에서 지시자만 따로 훈련시킵니다.

이렇게 하면 지시자는 팀원의 능력을 해치지 않으면서, "어디에 집중해야 할지"를 정확히 배울 수 있습니다. 마치 이미 완성된 명작 영화를 보고, 어떤 장면을 잘라내도 스토리가 깨지지 않는지 확인하는 편집자처럼요.

---

💡 요약 및 시사점

1. 왜 중요한가요?: 최근 AI 는 더 빠르고 가볍게 만들기 위해 '중요한 단어만 골라 읽는' 기술을 개발 중입니다. 하지만 이 논문은 **"AI 가 스스로 그걸 배우려 하면 실패한다"**고 경고합니다.
2. 핵심 원인: AI 모델이 너무 커서, 작은 지시자의 신호를 다 흡수해 버리기 때문입니다. (비유: 거대한 코끼리가 작은 개미의 지시를 무시하고 제멋대로 행동하는 것)
3. 실제 적용: 앞으로 AI 를 개발할 때, "중요한 부분 찾기" 기능을 **모델을 다 만든 뒤에 따로 붙이는 **(Post-hoc) 방식으로 해야 합니다. 처음부터 같이 훈련시키면 안 됩니다.

한 줄 요약:

"AI 가 스스로 '무엇을 볼지' 결정하게 하면, AI 는 그 지시를 무시하고 스스로 적응해 버려서 지시자가 쓸모없게 됩니다. 대신, AI 를 먼저 완벽하게 만든 뒤, 그 상태에서 '무엇을 볼지'를 따로 가르쳐야 합니다."

기술 요약

1. 문제 정의 (Problem)

• 배경: 트랜스포머의 어텐션 분포는 매우 집중되어 있어 (예: 512 개 토큰 중 상위 64 개가 전체 어텐션 질량의 90% 이상 차지), 소수의 게이트 네트워크가 중요한 어텐션 엔트리를 식별하여 희소화하는 것이 이론적으로 가능해 보입니다.
• 현실: 실제로는 엔드투엔드 방식으로 희소 어텐션을 학습시키면, 게이트가 거의 학습되지 않습니다. 학습된 게이트의 성능이 고정된 무작위 게이트 (Random Gate) 와 거의 차이가 없으며, 밀집 (Dense) 모델의 성능에도 크게 미치지 못합니다.
• 핵심 질문: 어텐션 구조가 명확히 존재함에도 불구하고, 왜 학습된 게이트는 어텐션 패턴을 효과적으로 포착하지 못하는가?

2. 핵심 메커니즘: 라우팅 흡수 (Routing Absorption)

논문은 이 현상을 라우팅 흡수라고 명명했습니다.

• 정의: 모델의 주요 파라미터 (Q/K/V projections, FFN 등) 가 게이트 (라우터) 보다 훨씬 많을 때 (파라미터 비대칭성), 모델이 게이트가 부과하는 마스킹 패턴에 적응 (Co-adaptation) 하도록 자신의 표현을 조정하는 현상입니다.
• 결과: 게이트가 어떤 패턴을 선택하든, 모델의 Q/K/V 계수들이 그 패턴에 맞춰 보상 (Compensation) 하므로, 최종적으로 게이트가 제공하는 정보가 거의 무의미해집니다. 즉, 게이트는 "배운" 것처럼 보이지만, 실제로는 모델이 게이트를 흡수해버린 상태입니다.
• MoE 와의 차이: 전문가 혼합 (MoE) 모델에서도 유사한 현상이 보고되었으나, 어텐션 메커니즘은 Q/K/V 가 모든 위치에서 공유되는 (Shared) 구조이므로 MoE 의 독립적인 전문가 모듈보다 **교차 레이어 보상 경로 (Cross-layer compensation)**가 더 강력하여 흡수 현상이 더 심각하게 발생합니다.

3. 방법론 및 실험 설정 (Methodology & Setup)

• 모델: WikiText-103 데이터셋으로 학습된 31M 파라미터의 6 레이어 트랜스포머 (기본 베이스라인 PPL: 37.32).
• 게이트 구조: 헤당당 32 차원의 게이트 파라미터를 가진 이선형 (Bilinear) 게이트 (모델 전체 파라미터의 약 1.3%).
• 실험 조건:
  • 엔드투엔드 학습: 게이트와 Q/K/V 를 함께 학습 (50,000 스텝).
  • 사후 학습 (Post-hoc): Q/K/V 를 고정하고 게이트만 학습 (Distillation).
  • 비교 대상: 학습된 게이트 vs. 고정된 무작위 게이트 vs. 오라클 (Oracle) 마스킹.
  • 확장성 검증: Qwen3-1.7B 모델을 이용한 단일 레이어 및 다중 레이어 동적 학습 실험.

4. 주요 결과 및 증거 (Key Results & Evidence)

논문은 라우팅 흡수를 입증하는 4 가지 독립적인 실험 증거를 제시합니다.

1. 학습된 게이트 vs. 무작위 게이트 (Soft Gating):

   • 엔드투엔드 학습 후, 학습된 게이트의 PPL(48.73) 은 무작위 게이트의 PPL(49.83) 과 통계적으로 유의미한 차이가 거의 없었습니다 (차이 2.2%).
   • 게이트가 학습 가능한 구조임에도 불구하고, Q/K/V 가 게이트 신호를 흡수하여 학습을 방해했습니다.

2. 하드 토크 (Hard Top-k) 의 영구적 영 (Zero Gradient):

   • 하드 토크 마스킹은 미분 불가능하여 게이트에 그라디언트가 전달되지 않습니다.
   • 실험 결과, 학습된 게이트와 무작위 게이트의 성능이 정확히 일치했습니다 (PPL 71.22 vs 71.24). 이는 그라디언트 유무와 상관없이 Q/K/V 의 흡수 효과가 지배적임을 보여줍니다.

3. 증류 대비 실험 (Distillation Contrast):

   • 밀집 모델 (Mask-agnostic): Q/K/V 가 마스킹을 보지 않은 상태에서는 게이트를 학습하면 높은 F1 점수와 낮은 PPL 을 달성합니다.
   • 공적응 모델 (Co-adapted): 엔드투엔드 학습된 모델에 게이트를 증류하면, 게이트는 오라클 마스크를 잘 예측하지만 (F1 0.804), 이를 실제 배포 (Hard Top-k) 할 때 PPL 이 601.6 으로 폭망합니다.
   • 의미: 공적응된 Q/K/V 는 특정 마스킹 함수 (시그모이드) 에 의존적으로 변형되어, 다른 형태의 마스킹이 적용되면 붕괴됩니다.

4. 확률적 마스킹의 실패 (Stochastic Masking):

   • 드롭아웃처럼 학습 중 마스킹을 무작위로 변경하여 공적응을 방지하려는 시도는 실패했습니다.
   • 오히려 모델이 어텐션 분포를 평탄화 (Flattening) 하여 신호를 잃어버리게 되었고, 배포 시 PPL 이 78.19 로 악화되었습니다.

5. 규모 확장 실험 (Qwen3-1.7B):

   • 1.7B 규모 모델에서 단일 레이어만 동적 학습을 시켜도 학습된 게이트와 무작위 게이트의 성능 차이가 0.00 PPL 로 사라졌습니다.
   • 레이어를 더 많이 풀면 (Unfreeze) 무작위 게이트의 성능이 급격히 향상되며 (Q/K/V 가 보상), 학습된 게이트와의 격차가 축소되는 '흡수 경사 (Absorption Gradient)'가 관찰되었습니다.

5. 기여 및 의의 (Contributions & Significance)

• 이론적 통찰: 희소 어텐션 학습 실패의 원인을 단순한 최적화 문제나 아키텍처 결함이 아닌, 파라미터 비대칭성에 의한 구조적 라우팅 흡수로 규명했습니다.
• 실용적 제안:
  • 사후 처리 (Post-hoc) 의 우위: 게이트 학습과 Q/K/V 학습을 분리 (Decouple) 하는 사후 증류 (Post-hoc Distillation) 방식이 엔드투엔드 학습보다 훨씬 효과적입니다. Q/K/V 를 고정하면 게이트는 수백 스텝 만에 오라클에 근접하는 성능을 냅니다.
  • 학습 전략의 전환: 희소 어텐션 게이트는 학습 목표 (Objective) 가 아니라, 학습 완료 후의 압축 (Compression) 단계로 취급해야 합니다.
• MoE 연구에 대한 시사점: MoE 의 라우팅 흡수 현상과 유사하지만, 어텐션의 공유 파라미터 구조로 인해 흡수 메커니즘이 더 강력하고 교차 레이어적으로 발생함을 밝혔습니다.
• 기존 방법론에 대한 경고: 최근 제안된 엔드투엔드 학습 희소 어텐션 방법들 (예: per-query token-level gating) 은 학습된 라우팅이 실제 성능 향상에 기여하는지, 아니면 모델이 라우터를 흡수하여 무작위 라우팅과 유사한 상태에 도달한 것인지에 대한 검증 (Random Routing Ablation) 이 필수적입니다.

6. 결론

논문은 **"라우팅 게이트는 모델의 Q/K/V 파라미터에 비해 너무 작아, 모델이 게이트의 신호를 흡수해버린다"**는 결론을 내립니다. 따라서 희소 어텐션을 구현할 때는 게이트와 모델 표현을 분리하여 학습하는 Decoupling(분리) 전략이 필수적이며, 이를 무시한 엔드투엔드 학습은 비효율적일 뿐만 아니라 오히려 모델의 표현 능력을 저하시킬 수 있음을 경고합니다.