기술 요약: 정규화된 학습에서 나타나는 창발적 헤브 법칙 역학의 편재성

문제 제기

계산 신경과학의 핵심 질문은 헤브(Hebbian) 또는 안티-헤브(anti-Hebbian) 가소성의 관찰이 반드시 기저에 헤브 연산을 내포하고 있음을 유일하게 의미하는가 하는 점이다. 전통적으로 생물학적 학습은 국소적인 상관관계 기반 규칙(예: 스파이크 타이밍 의존 가소성, STDP)에 의해 구동되는 것으로 간주되는 반면, 인공지능은 전역적인 경사도 기반 최적화(예: SGD)에 의존한다. 흔히 뇌에서 헤브의 징후가 발견된다는 사실은 전역적 오차 기반 최적화에 대한 근거를 약화시키는 것으로 여겨지는데, 이는 경사 하강법이 비국소적인 오차 신호를 필요로 한다고 생각되기 때문이다.

본 논문은 **식별 가능성 문제(identifi나ability question)**를 다룬다: 시냅스 업데이트에서 헤브/안티-헤브 구조를 관찰하는 것이 반드시 메커니즘적인 헤브 학습 규칙을 함의하는가? 저자들은 그 답이 아니오라고 주장한다. 그들은 헤브 및 안티-헤브 징후가 명시적인 헤브 메커니즘을 요구하지 않더라도, 정체성(stationarity) 근처에서의 정규화된 경사 기반 학습의 부산물로서 창발할 수 있다고 주장한다.

방법론

저자들은 이론적 분석과 경험적 검증을 결합하여 정규화와 노이즈가 학습 신호와 어떻게 상호작용하여 헤브와 유사한 역학을 생성하는지 입증한다.

이론적 프레임워크

1. 정체성과 가중치 감쇠(Weight Decay): 저자들은 정체점(수렴) 근처에서의 학습 규칙 거동을 분석한다. 이들은 일반적인 가중치 업데이트 규칙 $\Delta W = g(x, \theta) - \gamma W$를 고려하며, 여기서 $g(x, \theta)$는 임의의 학습 신호(예: 경사도)이고 $\gamma W$는 L2 가중치 감쇠를 나타낸다.
2. 정렬 유도: 시스템이 정체성 상태($E[\Delta W] \approx 0$)에 있다고 가정함으로써, 기대 학습 신호 $E[g(x, \theta)]$가 대략 $\gamma W$와 같아야 함을 유도한다. 헤브 업데이트 방향은 $W h_a h_a^\top$ (여기서 $h_a$는 시냅스 전 활동)에 비례하며, 표준적인 가정(예: 동일 노름 표현) 하에서 $W$는 이 방향과 양의 상관관계를 가지므로, 학습 신호는 수학적으로 헤브 방향과 일치하도록 강제된다.
3. 노이즈와 안티-헤브 역학: 저자들은 분석을 확장하여 확률적 노이즈를 포함한다. 이들은 강력한 확률적 섭동(노이즈)이 학습 신호에 안티-헤브(anti-Hebbian) 정렬을 유도할 수 있음을 보여준다. 또한 노이즈 강도($\sigma^2$)와 가중치 감쇠($\gamma$) 사이의 균형이 시스템이 헤브 징후를 보일지 혹은 안티-헤브 징후를 보일지를 결정하는 위상 경계(phase boundary)를 유도한다. 구체적으로, 노이즈가 지배적일 때는 정렬이 음의 방향(안티-헤브)이 되고, 가중치 감쇠가 지배적일 때는 양의 방향(헤브)이 된다.

경험적 검증

저자들은 다양한 태스크, 아키텍처 및 학습 규칙에 걸쳐 이러한 이론적 주장을 검증한다:

• 태스크: CIFAR-10 분류 및 합성 비선형 회귀(학생-교사 모델).
• 아키텍처: 다양한 활성화 함수(ReLU, Tanh, Sigmoid)를 가진 다층 퍼셉트론(MLP) 및 트랜스포머(Transformer).
• 학습 규칙: 표준 SGD, Adam, 직접 피드백 정렬(DFA), 그리고 "RandomNN" 구조(학습하지 않는 결정론적 무작위 오차 신호).
• 지표: 학습 신호(또는 전체 업데이트)와 이론적인 헤브 업데이트 방향($h_b h_a^\top$) 사이의 코사인 유사도(프로베니우스 내적)를 주요 지표로 사용한다.

주요 기여

1. 창발적 헤브 메커니즘: 본 논문은 L2 가중치 감쇠가 정체성 근처에서 많은 업데이트 규칙의 학습 신호 성분을 헤브 방향과 정렬되도록 일반적으로 유도한다는 것을 확립한다. 이 정렬은 가중치 감쇠의 강도가 높아짐에 따라 단조롭게 증가한다.
2. 창발적 안티-헤브 메커니즘: 저자들은 충분히 강한 확률적 노이즈가 이 징후를 반전시켜 안티-헤브 정렬을 유도할 수 있음을 보여준다. 이는 노이즈 대 가중치 감쇠의 비율에 따른 예측 가능한 트레이드오프와 위상 경계를 생성한다.
3. 규칙의 보편성: 이 현상은 특정 학습 알고리즘에 독립적임을 보여준다. 가중치 감쇠가 존재하기만 하면 SGD, Adam, DFA, 심지어 전통적인 의미에서 학습하지 않는 "RandomNN"에서도 나타난다.
4. 과도적 역학(Transient Dynamics): 연구는 헤브 정렬이 최종 정체 상태에만 국한되지 않음을 식별한다. 초기 단계에서 "초기 정렬 펌프(initial alignment bump)"가 발생하며(초기화 및 학습률에 의존), 개별 뉴런은 정상 상태 학습 중에 헤브와 안티-헤브 단계를 오가는 진동을 보인다.

결과

• 가중치 감쇠 상관관계: 분류 및 회귀 태스크에서 가중치 감쇠를 높이면 학습 신호와 헤브 업데이트 사이의 양의 정렬이 일관되게 높아진다. 이 경향은 다양한 활성화 함수와 네트워크 깊이 전반에서 유지된다.
• 노이즈 트레이드오프: 회귀 태스크에서 노이즈 강도를 높이면 헤브 정렬이 감소하고 결국 안티-헤브 정렬을 유도한다. 이 두 영역 사이의 위상 경계는 이론적 예측과 일치하는 이차 관계($\gamma \propto \sigma^2$)를 따른다.
• RandomNN 검증: 순수하게 무작위적인 비학습 업데이트 신호를 사용하는 모델조차 가중치 감쇠가 적용될 때 헤브 정렬을 보이며, 이는 해당 효과가 학습 알고리즘 자체가 아니라 정규화 제약 조건의 속성임을 확인시켜 준다.
• 일반화: 논문은 최적의 일반화 성능을 보이는 솔루션들이 종종 낮은 평균 헤브 또는 안티-헤브 정렬을 보인다는 점을 언급하며, "최적"의 영역이 이 두 극단 사이의 어딘가에 있음을 시사한다.

의의 및 주장

저자들은 이 연구를 신경생리학적 데이터를 해석하기 위한 대체물이 아닌, 신경과학적 데이터에 대한 주의 사항(cautionary note)으로 위치시킨다.

• 생물학적 데이터의 재해본: 시냅스 측정에서 헤브 또는 안티-헤브 징후가 나타난다고 해서, 그것이 뇌가 메커니즘적인 헤브 규칙을 사용한다는 것을 유일하게 증명하는 것은 아니다. 이러한 징후는 항상성 메커니즘(가중치 감쇠와 같은)과 노이즈에 의해 제약되는 전역 최적화 과정(경사 하강법과 같은)의 창발적 속성일 수 있다.
• 공존: 저자들은 메커니즘적인 헤브 가소성과 창발적인 헤브 역학이 공존할 수 있다고 주장한다. 이 결과는 시냅스 측정을 해석하는 과정을 복잡하게 만들며, 진정한 헤브 연산과 정규화로부터 발생하는 창발적 징후를 구분할 수 있는 실험 설계의 필요성을 강조한다.
• 이론적 가교: 이 연구는 머신러닝 최적화 역학과 생물학적 가소성 사이의 이론적 연결을 제공하며, "확장적 힘과 수축적 힘의 균형"(헤브적 확장 vs 홈에오스타틱 수축)이 생물학적 및 인공 시스템 모두에서 안정성을 지배하는 보편적 원리임을 시사한다.

결론적으로, 뇌에서 진정한 헤브 과정이 일어날 가능성이 높지만, 정규화된 학습에서 나타나는 창발적 헤브 역학의 편재성은 시냅스 패턴을 관찰하는 것만으로는 생물학적 시스템에서 전역적 오차 기반 학습 메커니즘을 배제하기에 불충분하다는 점을 시사한다.