Grokking as a Phase Transition between Competing Basins: a Singular Learning Theory Approach

이 논문은 단일학습이론 (SLT) 을 활용하여 모듈러 산술 작업을 수행하는 이차 신경망에서 일반화 능력의 급격한 전환인 '그로킹 (grokking)' 현상을 국소 학습 계수 (LLC) 가 낮은 해의 영역으로의 위상 전이로 해석하고, 이에 대한 이론적 유도 및 실증적 검증을 제시합니다.

핵심

🧠 핵심 주제: "아! 그거구나!" (그로킹)

우리가 어떤 문제를 풀 때, 처음엔 답을 외우기만 하는 경우가 있습니다. 시험 문제 100 개를 다 외워서 점수는 100 점이지만, 조금만 변형된 문제를 내면 못 풉니다. 그런데 어느 순간, 갑자기 이해가 됩니다. 외운 게 아니라 원리를 깨닫는 순간이죠.

인공지능 (AI) 도 비슷합니다. 훈련 데이터는 완벽하게 외웠는데 (학습 오차 0%), 실제 시험 (테스트) 에선 못 풀다가, 훈련을 계속하다 보면 갑자기 시험 점수가 100 점으로 뚝 떨어집니다. 이 '갑작스러운 깨달음'을 연구자들은 **그로킹 (Grokking)**이라고 부릅니다.

🗺️ 이 논문이 말하는 비밀: "두 개의 우물"

이 논문은 그로킹이 왜 일어나는지 지형도에 비유해서 설명합니다.

1. 기억의 우물 (Memorization Basin):

   • AI 가 데이터를 단순히 외운 상태입니다.
   • 이 우물은 깊고 좁은 골짜기처럼 생겼습니다.
   • 여기서는 학습 점수는 완벽하지만, 조금만 빗나가도 (새로운 문제가 나오면) 바로 추락합니다.
   • 비유: 좁은 골짜기 바닥에 갇혀 있는 상태.

2. 이해의 우물 (Generalization Basin):

   • AI 가 문제의 원리를 이해한 상태입니다.
   • 이 우물은 넓고 평평한 초원처럼 생겼습니다.
   • 여기서는 학습 점수도 좋고, 새로운 문제에도 잘 대처합니다.
   • 비유: 넓은 평야. 비가 와도 (노이즈가 있어도) 물이 고이지 않고 잘 흐릅니다.

핵심 질문: AI 는 왜 처음엔 좁은 골짜기 (기억) 에 머물다가, 나중에 넓은 초원 (이해) 으로 넘어갈까요?

📐 해답: "슬기로운 학습 이론 (SLT)"과 "LLC"

이 논문은 **슬기로운 학습 이론 (Singular Learning Theory, SLT)**이라는 수학적 도구를 사용했습니다. 이 이론은 AI 가 어떤 우물에 있는지 **LLC(국소 학습 계수)**라는 숫자로 측정합니다.

• LLC 가 높을수록: 좁고 날카로운 골짜기 (기억 상태). 불안정함.
• LLC 가 낮을수록: 넓고 평평한 초원 (이해 상태). 안정적이고 일반화 능력이 좋음.

이론의 결론:
AI 는 처음엔 학습 데이터를 빠르게 맞추기 위해 좁은 골짜기 (높은 LLC) 로 떨어집니다. 하지만 훈련을 계속하면, AI 는 자연스럽게 더 넓고 평평한 초원 (낮은 LLC) 으로 이동하려는 성질이 있습니다.

이론에 따르면, 데이터 양 (훈련 시간) 이 충분히 많아지면, AI 는 좁은 골짜기보다 넓은 초원이 더 '유리'하다고 판단합니다. 이때 AI 는 좁은 골짜기에서 넓은 초원으로 갑자기 점프를 합니다. 이것이 바로 우리가 보는 **그로킹 (갑작스러운 깨달음)**입니다.

🎮 실험: "모듈러 산수" 게임

연구자들은 이 이론을 검증하기 위해 **모듈러 산수 (나눗셈 나머지 계산)**라는 간단한 게임으로 AI 를 훈련시켰습니다.

1. 이론 계산: 수학적으로 "기억 상태"와 "이해 상태"의 LLC 값을 정확히 계산했습니다.
2. 실험 결과:
   • AI 가 훈련을 시작하면 학습 점수는 금방 100 점이 됩니다 (기억 상태).
   • 하지만 LLC 값을 측정해보니, 처음엔 높다가 (좁은 골짜기), 시간이 지나면서 서서히 떨어집니다.
   • LLC 가 떨어지는 시점과 시험 점수가 갑자기 오르는 시점이 정확히 일치했습니다!
   • 또한, **학습 속도 (Learning Rate)**를 조절하면 이 '점프'가 언제 일어나는지 조절할 수 있다는 것도 발견했습니다.

💡 이 연구가 우리에게 주는 교훈

1. 기억 vs 이해: AI 가 점수를 잘 맞춘다고 해서 진짜 이해한 건 아닙니다. 처음엔 그냥 외운 것일 뿐입니다.
2. 시간이 필요해: AI 가 진짜로 깨닫기 위해서는, 단순히 점수를 맞추는 것을 넘어 **더 넓은 공간 (낮은 LLC)**을 찾아 헤매는 시간이 필요합니다.
3. 지표의 중요성: 우리는 AI 가 언제 '깨달음'을 얻는지 알 수 있는 새로운 나침반 (LLC) 을 발견했습니다. 이 나침반을 보면 AI 가 지금 외우고 있는지, 이해하고 있는지 알 수 있습니다.

🌟 한 줄 요약

"인공지능이 갑자기 똑똑해지는 순간 (그로킹) 은, 좁고 불안한 '기억의 골짜기'에서 넓고 안정적인 '이해의 초원'으로 넘어가는 지질학적 변화 (상전이) 입니다. 이 논문은 그 변화가 일어나는 정확한 시기를 수학적으로 예측하는 방법을 찾아냈습니다."

이 연구는 AI 가 어떻게 학습하는지 그 '내부 메커니즘'을 더 깊이 이해하는 데 중요한 디딤돌이 될 것입니다.

기술 요약

이 논문은 **슬래거 학습 이론 (Singular Learning Theory, SLT)**의 관점에서 딥러닝의 그로킹 (Grokking) 현상을 분석한 연구입니다. 그로킹은 모델이 훈련 데이터에 대한 손실 (loss) 을 일찍부터 거의 0 으로 만들지만, 오랫동안 일반화 (generalization) 성능이 낮다가 훈련이 계속됨에 따라 갑자기 일반화 성능이 급격히 향상되는 현상을 말합니다.

이 논문은 그로킹을 **서로 다른 통계적 특성을 가진 두 개의 근접 영손실 (near-zero-loss) 해 공간 (basin) 간의 위상 전이 (phase transition)**로 해석하며, 이를 **국소 학습 계수 (Local Learning Coefficient, LLC)**를 통해 정량화하고 설명합니다.

주요 내용은 다음과 같습니다.

---

1. 연구 문제 (Problem)

• 그로킹의 메커니즘: 모델이 훈련 데이터는 완벽하게 암기하지만 (memorization), 일반화 성능이 떨어지는 상태가 지속되다가 갑자기 일반화되는 현상이 왜 발생하는지, 그리고 어떤 해 공간 (solution basin) 이 최종적으로 선택되는지에 대한 이론적 근거가 부족합니다.
• 기존 이론의 한계: 기존에는 "손실 지형 (loss landscape) 의 평탄한 (flat) 지역이 일반화에 유리하다"는 경험적 가설이 있었으나, 신경망과 같은 **특이 모델 (singular models)**에서는 Fisher 정보 행렬이 양정치 (positive definite) 가 아니므로 기존 정규 모델의 이론이 적용되지 않습니다.
• 핵심 질문: 훈련 데이터에 적합하는 여러 해 공간 중, 통계적으로 어떤 해 공간이 선호되는지, 그리고 이 선택이 어떻게 일반화 성능의 급격한 변화 (위상 전이) 로 이어지는지 규명하는 것입니다.

2. 방법론 (Methodology)

이 논문은 **SLT (Singular Learning Theory)**를 핵심 도구로 사용하여 문제를 접근합니다.

• SLT 와 LLC (Local Learning Coefficient):

  • SLT 는 모델의 파라미터 공간 특이성 (degeneracy) 을 정량화하는 **국소 학습 계수 (LLC, $\lambda$)**를 정의합니다.
  • LLC 는 손실 지형의 "평탄함"을 측정하는 지표로, LLC 가 낮을수록 해당 해 공간의 부피가 크고 (높은 퇴화성), 사후 확률 (posterior mass) 이 집중되며, 기대 일반화 오차가 낮음을 의미합니다.
  • 베이지안 관점에서 샘플 크기 $n$이 증가함에 따라, LLC 가 더 낮은 해 공간으로의 전이가 발생하며, 이는 1 차 위상 전이 (first-order phase transition) 로 설명됩니다.

• 구체적 설정:

  • 작업: 모듈러 산술 (Modular Arithmetic, $a+b \pmod p$) 태스크를 사용합니다. 이는 구조화된 알고리즘 태스크로 그로킹이 잘 관찰되는 대표적인 예시입니다.
  • 모델: **2 층 이차 신경망 (Quadratic Neural Networks, QNN)**을 사용합니다.
  • 접근: 이차 네트워크의 특수한 구조를 활용하여 LLC 에 대한 폐쇄형 해 (closed-form expressions) 를 유도하고, 이를 실험적으로 검증합니다.

3. 주요 기여 (Key Contributions)

1. 이차 네트워크에 대한 LLC 의 폐쇄형 유도:

   • 모듈러 산술 태스크에서 훈련된 이차 네트워크 (Quadratic Networks) 에 대해 LLC 를 이론적으로 유도했습니다.
   • 과매개변수 (Over-parameterized) 경우: 은닉층 폭 $K$가 충분히 크면 LLC 는 $\lambda = p \cdot \frac{d(d+1)}{4}$로 주어집니다.
   • 저매개변수 (Under-parameterized) 경우: $K$가 작을 때 LLC 는 $\lambda = K \cdot \frac{d+p-1}{2}$로 주어집니다.
   • 이는 특이 기하학 (singular geometry) 을 명시적으로 계산한 최초의 결과 중 하나입니다.

2. 그로킹의 위상 전이 해석:

   • 훈련 초기에는 모델이 기저 (Lazy) 학습 또는 NTK (Neural Tangent Kernel) 영역에 머무르며, 이는 높은 LLC 를 가진 "암기 (memorization)" 해 공간에 해당합니다.
   • 훈련이 진행되면서 특징 학습 (Feature Learning) 영역으로 전환되면, 모델은 구조화된 일반화 해 공간 (낮은 LLC) 으로 이동합니다.
   • 이 두 해 공간 간의 LLC 차이가 샘플 수가 증가함에 따라 우세한 해 공간을 결정하며, 이것이 그로킹 현상 (갑작스러운 일반화) 을 유발하는 위상 전이임을 보여줍니다.

3. LLC 궤적을 통한 일반화 동역학 추적:

   • 훈련 데이터만으로 계산된 LLC 궤적이 검증 손실 (validation loss) 의 변화와 밀접하게 연동됨을 실험적으로 증명했습니다.
   • 학습률 (learning rate) 과 같은 최적화 하이퍼파라미터가 LLC 궤적과 그로킹의 심각도 (GSM, Grokking Severity Measure) 에 미치는 영향을 정량화했습니다.

4. 실험 결과 (Results)

• 이론적 스케일링 법칙 검증:

  • 모델 차원 ($p$) 과 은닉층 폭 ($K$) 에 따른 LLC 의 변화가 유도된 폐쇄형 공식과 일치함을 확인했습니다.
  • 특히, 모델이 일반화되더라도 네트워크 폭이 넓어질수록 최종 LLC 가 선형적으로 증가함을 발견했습니다 (이는 넓은 모델이 단순히 작은 모델에 중복 뉴런을 추가한 것이 아님을 시사).

• LLC 와 일반화의 상관관계:

  • 훈련 중 LLC 가 감소하는 시점이 검증 손실 감소 (일반화 시작) 와 거의 동시에 발생함을 확인했습니다.
  • 이는 SGD 최적화가 암시적으로 LLC 가 낮은 (더 평탄하고 부피가 큰) 해 공간으로 이동하려는 경향이 있음을 의미합니다.

• 학습률의 영향:

  • 학습률과 그로킹 심각도의 관계: 학습률이 클수록 그로킹이 더 빨리 발생하거나 심각도가 낮아지는 경향이 있습니다.
  • 이유: 큰 학습률은 손실 지형의 날카로운 골짜기 (높은 LLC) 를 피하고, 이미 높은 퇴화성 (높은 부피) 을 가진 해 공간으로 빠르게 진입하게 하여, 일반화 오차가 낮은 영역을 더 일찍 발견하게 합니다.

5. 의의 및 결론 (Significance)

• 이론적 통찰: 그로킹을 단순한 최적화 현상이 아닌, 통계적 학습 이론 (SLT) 기반의 위상 전이로 재해석했습니다. 이는 "평탄한 최소점 (flat minima) 이 일반화에 좋다"는 직관을 수학적 엄밀함 (LLC 와 사후 확률 집중) 으로 뒷받침합니다.
• 실용적 도구: LLC 는 훈련 데이터만으로 계산 가능하므로, 모델이 언제 일반화될지 예측하거나 최적화 하이퍼파라미터 (학습률 등) 를 조정하는 데 유용한 지표가 될 수 있음을 보였습니다.
• 미래 방향: 이 연구는 단순한 이차 네트워크에서 시작되었으나, SLT 기반의 LLC 분석이 더 복잡한 아키텍처 (Transformer 등) 의 학습 동역학과 능력 발현 (capability emergence) 을 이해하는 강력한 프레임워크가 될 수 있음을 시사합니다.

요약하자면, 이 논문은 SLT 와 LLC를 통해 그로킹 현상을 경쟁하는 해 공간 간의 위상 전이로 정량화하고, 이를 이차 네트워크의 폐쇄형 해와 실험적 검증을 통해 입증함으로써 딥러닝의 일반화 메커니즘에 대한 깊은 이론적 통찰을 제공했습니다.