기술 요약: 암기와 일반화의 공존 규명

문제 제기

대규모 언어 모델과 같은 고도로 과매개변수화된 모델은 노이즈가 포함된 레이블을 암기하는 동시에 보이지 않는 데이터에 잘 일반화하는 능력을 보여줍니다. 그러나 이러한 두 가지 상이한 행동이 어떻게 공존하는지를 지배하는 내부 메커니즘은 여전히 잘 이해되지 않고 있습니다. 현실적인 환경에서 훈련 데이터는 종종 노이즈 (예: 잘못 레이블링된 샘플) 로 오염되어, 보이지 않는 데이터에 적용 가능한 구조적 규칙을 발견하는 일반화와 근본적인 규칙을 반영하지 않는 특정 노이즈 레이블에 적합하도록 하는 암기 사이에 내부적 경쟁이 발생합니다.

복잡한 실제 세계 작업에서 이러한 상호작용을 진단하는 것은 어렵습니다. 높은 테스트 정확도 자체가 진정한 규칙 학습과 국소적 패턴이나 단축키의 악용을 본질적으로 구별하지 않기 때문입니다. 이를 해결하기 위해 저자들은 제어된 실험 환경으로 모듈러 산술 작업 (특히 $P$에 대한 덧셈과 곱셈) 을 조사합니다. 이러한 작업은 규칙 기반 일반화와 점별 암기 사이의 명확한 구별, "그로킹 (grokking, 암기 후 훨씬 나중에 발생하는 일반화)"의 발현, 그리고 특정 모델 구성에 대한 알려진 분석적 해법의 가용성 때문에 선택되었습니다.

방법론

이 연구는 도입된 레이블 노이즈가 있는 모듈러 산술 작업으로 훈련된 $\theta = \{W, U, V, \mu\}$로 매개변수화된 2 층 신경망을 사용합니다. 노이즈 비율 $\alpha$를 변화시키며, 훈련 데이터의 일부는 실제 결과와 다른 균일한 무작위 레이블을 할당받습니다.

이 연구는 다양한 활성화 함수 (ReLU, Quadratic, GeLU, LeakyReLU), 옵티마이저 (Adam, AdamW, Muon, SGD), 그리고 정규화 강도를 포괄하는 광범위한 실험을 통해 다음 세 가지 핵심 질문에 답합니다:

1. Q1: 노이즈가 있는 레이블에서 모델 크기를 증가시키는 것이 어떤 조건 하에서 일반화를 개선하는가?
2. Q2: 극심한 레이블 노이즈 하에서 모델이 내부 구조적 규칙을 회복할 수 있는가?
3. Q3: 일반화를 담당하는 뉴런과 암기에 사용되는 뉴런을 분리할 수 있는가?

방법론은 다음을 포함합니다:

• 훈련 역학 분석: 학습 순서를 관찰하기 위해 훈련 중 깨끗한 부분집합과 노이즈가 있는 부분집합에 대한 정확도를 추적합니다.
• 주파수 필터링 (FF): 주기적 구조를 나타내는 2 차 활성화에 대한 알려진 분석적 해법을 활용하여 ReLU 네트워크 가중치를 분해합니다. 저자들은 일반화 신호가 가중치의 지배적 주파수 성분에 의해 전달되는 반면, 암기는 잔여 주파수에 인코딩된다고 가정합니다.
• 네트워크 분할: 작업 무관 뉴런 중요도 점수 (역 참여 비율 및 뉴런 강도) 대 작업 특정 주파수 사전 지식을 사용하여 네트워크를 일반화 및 암기 하위 네트워크로 분리하려는 시도입니다.

주요 발견

1. 스케일링과 더블 디센트

저자들은 레이블 노이즈가 존재하는 상황에서 더블 디센트 현상을 강력하게 관찰합니다.

• 과매개변수화: 과매개변수화 영역 내에서 최적화와 정규화가 적절하게 구성된다면 모델 크기를 증가시키는 것이 테스트 정확도를 지속적으로 개선합니다.
• 정규화: 더 강력한 정규화는 모델을 과매개변수화 영역에서 과소매개변수화 영역으로 이동시켜 두 번째 하강을 지연시킵니다.
• 활성화 함수: ReLU 모델은 과매개변수화 영역에서 비감소하는 테스트 정확도를 보입니다. 반면, 2 차 또는 GeLU 활성화 함수를 가진 모델은 모델 크기가 증가함에 따라 테스트 정확도에 한계가 있으며, 이는 노이즈 흡수 방식에 대한 대칭성 제약 때문일 수 있습니다.

2. 반직관적 학습 역학

주요 발견 중 하나는 옵티마이저 (AdamW, Adam, Muon) 나 노이즈 비율과 관계없이 초기 훈련 에포크 동안 노이즈가 있는 레이블이 깨끗한 레이블보다 더 빠르게 암기된다는 것입니다.

• 전형적인 학습 순서의 이러한 역전은 풀-배치 훈련 역학에 기인합니다. 노이즈가 있는 부분집합은 더 작은 크기 때문에 더 큰 깨끗한 부분집합에 비해 풀-배치 기울기로부터 더 강한 샘플당 최적화 신호를 받아 정확도가 더 일찍 상승합니다.
• 이 현상은 MNIST 실험에서도 관찰되어 명시적 레이블 손상 하의 초기 풀-배치 최적화의 보다 광범위한 속성임을 시사합니다.

3. 규칙과 노이즈의 공존

심지어 극심한 레이블 노이즈 (최대 80%) 하에서도 모델은 내부적으로 올바른 대수적 규칙을 학습하지만, 이 규칙은 노이즈 레이블을 보간해야 할 필요성으로 인해 원시 출력에서 억제됩니다.

• 주파수 필터링: 가중치의 지배적 주파수 성분 (2 차 활성화에 대한 분석적 해법과 정렬됨) 을 분리함으로써, 저자들은 전체 모델의 출력이 심각하게 손상되었을 때조차 거의 완벽한 테스트 정확도를 달성하는 하위 네트워크를 추출할 수 있습니다.
• 잔여물: 잔여 주파수 성분은 주로 노이즈 레이블에 적합하는 능력을 유지하지만 일반화에는 거의 기여하지 않습니다.
• 활성화 독립성: 훈련된 네트워크에서 ReLU 활성화 함수를 2 차 또는 Reverse ReLU 로 교체하면 일반화가 유지되거나 개선됩니다. 이는 학습된 가중치가 이미 이러한 함수와 호환되는 대칭적 규칙 표현을 인코딩하고 있음을 나타냅니다.

4. 작업 무관 분리 의 한계

이 논문은 푸리에 구조와 같은 작업 특정 사전 지식을 사용하지 않고 뉴런 수준에서 일반화와 암기를 분리할 수 있는지 조사합니다.

• 뉴런 선택: 역 참여 비율 (IPR) 또는 뉴런 강도 (Str.) 와 같은 지표를 사용하여 저자들은 일반화를 위한 뉴런을 선택하기 위해 네트워크를 가지치기합니다. 이는 일반화를 약간 개선하지만, 그 이득은 주파수 필터링을 통해 달성된 것보다 훨씬 약합니다.
• 얽힘: 결과는 일반화 가능한 구조가 소수의 뉴런에 국한되지 않고 네트워크 전체에 분산되어 인코딩되며 노이즈 암기에 사용되는 구성 요소와 깊이 얽혀 있음을 시사합니다. 작업 무관 가지치기는 모델이 학습한 규칙 구조를 완전히 추출할 수 없습니다.

중요성과 주장

이 논문은 과매개변수화 학습에서 구조적 일반화와 비구조적 암기 사이의 엄격하고 검증 가능한 경계를 제공한다고 주장합니다. 주요 기여점은 다음과 같습니다:

1. 메커니즘적 통찰: 과매개변수화 모델이 명시적 레이블 노이즈 하에서도 내부적으로 근본적인 규칙을 학습할 수 있지만, 이러한 규칙은 노이즈 적합의 필요성으로 인해 가려진다는 것을 보여줍니다.
2. 주파수 기반 분해: 작업의 구조적 사전 지식을 활용하여 모듈러 산술 작업에서 일반화와 암기를 성공적으로 분리하는 방법 (주파수 필터링) 을 도입하여, 심각하게 손상된 훈련에서 거의 완벽한 정확도를 회복합니다.
3. 사후 가지치기의 한계: 현재 뉴런 수준 도구의 근본적인 한계를 강조합니다. 작업 무관 뉴런 선택은 경미한 개선을 제공하지만, 규칙이 네트워크 전체에 분산되고 얽혀 있기 때문에 일반화 가능한 구조를 완전히 추출하지 못합니다.
4. 광범위한 함의: 저자들은 미래의 학습 패러다임이 훈련 중 암기와 논리적 추론을 명시적으로 분리해야 할 수 있으며, 효과적인 사후 지식 추출은 일반적인 중요도 점수보다는 도메인 특정 구조적 사전 지식을 필요로 할 수 있다고 제안합니다.

저자들은 그들의 설정이 자연스러운 비전 또는 언어 작업의 복잡한 변이를 추상화했다고 인정합니다. 그러나 그들은 이러한 통제된 설정이 과매개변수화 네트워크에서 암기와 일반화의 공존을 엄격하게 연구하는 데 필요하며, 이러한 과정들이 과매개변수화 네트워크에서 깊이 얽혀 있다는 기초적 증거를 제공한다고 주장합니다.