Local Synaptic Rules Can Implement a SIGReg Gradient Without Backpropagation

기술 요약: SIGReg 그래디언트를 구현하는 국소적 시냅스 규칙

문제 정의
본 연구가 다루는 핵심 문제는 생물학적 신경망이 명시적인 레이블이나 백프로파게이션(backpropagation)에 필요한 전역적 오차 신호 없이도 어떻게 유용한 고차원 표현(representation)을 학습할 수 있는가 하는 점입니다. SIGReg 및 VICReg와 같은 자기지도 학습(Self-Supervised Learning, SSL) 목적 함수는 입력 뷰(view) 간의 유사성을 극대화하는 동시에 분산 및 공분산 정규화를 통해 차원 붕괴(dimensional collapse)를 방지함으로써 인공 시스템에서 효과적임이 입증되었으나, 이러한 방식은 생물학적 타당성이 부족합니다. 이들은 일반적으로 전역적인 그래디언트 계산, 가중치 전송(weight transport), 그리고 알려진 신경생물학적 기제에는 존재하지 않는 비국소적 오차 신호를 필요로 합니다. 본 연구는 정형적인 국소적 시냅스 규칙들이 SIGReg와 유사한 목적 함수의 정확한 그래디언트를 수학적으로 구현할 수 있음을 보여줌으로써 이 간극을 메우고자 합니다.

방법론
저자들은 학습이 전적으로 국소적인 시냅스 요인들, 즉 전/후 시냅스 발화율, 국소 발화 통계, 그리고 자연적 감각 스트림의 시간적 연속성에 의해 주도되는 회로 모델을 제안합니다. 이 모델은 두 가지 주요 기제를 통합합니다:

1. STDP+ (Spike-Timing-Dependent Plasticity+): STDP의 강화(potentiation) 측면은 3요인 헤브 규칙(three-factor Hebbian rule)으로 모델링됩니다. 이는 시냅스 전 뉴런이 시냅스 후 뉴런보다 직전에 발화할 때 시냅스를 강화합니다. 수학적으로 이는 전방 예측 손실($L_{pred}$)에 대한 경사 하강법에 해당하며, 여기서 $t+1$ 시점의 시냅스 후 성향(postsynaptic propensity)은 $t$ 시점의 가중치에 대한 고정된 "교사 신호(teaching signal, stop-gradient)" 역할을 합니다.
2. 플래시라이트 항상성 가소성 (Flashlight Homeostatic Plasticity): 차원 붕괴(SSL의 흔한 실패 모드)를 방지하기 위해, 모델은 인코더의 출력 $h$를 고정된 무작위 혼합 부호 행렬 $A$를 통해 투영하는 "플래시라이트" 뉴런 집단(소뇌의 과립 세포와 유사함)을 사용합니다.
   • 분산 조절 (Variance Regulation): 각 플래시라이트 뉴런은 자신의 분산과 목표값(unity) 사이의 불일치에 비례하는 역행 신호(retrograde signal)를 방출합니다. 이는 붕괴 방지 항의 대각 성분(분산)을 구현합니다.
   • 공분산 조절 (Covariance Regulation): 상관관계가 있는 플래시라이트 쌍에 의해 구동되는 중간 뉴런(basket/stellate cells)의 측부 억제(lateral inhibition)는 비대각 성분(공분산)을 구현합니다.
   • 이 두 기제는 결합하여 투영된 공분산이 단위 행렬(identity matrix)로부터 벗어나는 것을 벌칙으로 주는 약한-SIGReg 목적 함수($L_{Weak}$)의 그래디언트를 구현합니다.

이 논문의 핵심 이론적 기여는 STDP+ 업데이트와 항상성 업데이트의 합이 전체 SIGReg 목적 함수($L_{SIGReg} = L_{pred} + \lambda L_{Weak}$)의 음의 그래디언트와 같음을 직접적으로 구성하여 보여준다는 점입니다. 저자들은 STDP의 억제(depression) 측면인 STDP−가 가중치를 비음수 조건($W_{ij} \geq 0$)으로 강제하는 희소화 투영(sparsifying projection) 역할을 하지만, 그 자체로는 학습을 불안정하게 만들기 때문에 주요 성공 조건에서는 제외되었다고 명시했습니다.

주요 기여

• 수학적 등가성: 본 논문은 STDP+와 플래시라이트 항상성이 결합될 때, 백프로파게이션, 전역 오차 신호, 가중치 전송 또는 레이블 정보 없이도 SIGReg 목적 함수에 대한 경사 하강법을 구현함을 증명합니다.
• 생물학적 타당성: 이 기제는 오직 국소적으로 이용 가능한 요인들(전/후 시냅스 활동, 국소 이득, 분산/공분산 통계)에 의존하며, 반복적인 추론 루프(sparse coding와 달리)를 피하고 엄격하게 온라인 방식의 단일 패스(single-pass) 방식으로 작동합니다.
• 비음수성 처리: 본 연구는 STDP−가 목적 함수를 위한 그래디언트 단계가 아니라, 가중치를 비음수 직교 영역(non-negative orthant)으로 투영하기 위한 메커니즘임을 명확히 합니다. 다만, 안정적인 구현을 위해서는 아직 완전히 모델링되지 않은 추가적인 억제 집단이 필요하다고 언급했습니다.

실험 결과
저자들은 두 가지 태스크를 통해 메커니즘을 검증했습니다:

1. 합성 클러스터링 (Synthetic Clustering): 고차원 노이즈가 포함된 3개 클래스 데이터셋에서 네트워크에 클래스 연속 순서 또는 무작위 순서로 입력을 노출했습니다.
   • 순차적 입력 (Ordered Input): 네트워크는 클래스를 구분하는 법을 학습하여, 베이스라인 대비 약 3배 향상된 2.49의 클러스터 분리 비율(CSR)을 달와했습니다.
   • 무작위 입력 (Random Input): 무작위 순서에서는 CSR이 베이스라인 수준인 0.83에 머물렀으며, 이는 학습된 구조가 오로지 시간적 연속성으로부터 발생했음을 입증합니다.
2. MNIST 선형 프로브 (MNIST Linear Probe): STDP와 항상성 가소성만을 사용하여 학습된 2층 네트워크는 MNIST에서 **87.3%**의 선형 프로브 정확도를 달성했습니다.
   • 절제 실험 (Ablations): 항상성을 제거하면 성능이 우연 수준(18.5%)으로 붕괴되었습니다. 입력 순서를 무작위화했을 때 정확도는 86.5%로 나타났는데, 이는 항상성만으로도 "백색화 하한선(whitening floor)"을 제공하지만, 시간적 순서가 미미하지만 일관된 이득을 제공함을 시사합니다.
   • STDP−의 영향: 가중치 클리핑(clipping)과 함께 STDP−를 포함했을 때 성능이 크게 저하(~59–69%)되었으며, 이는 STDP−가 보상적인 억제 집단 없이는 시스템을 불안정하게 만든다는 이론적 주장을 확인시켜 줍니다.

의의 및 주장
본 논문은 이 연구가 독립적으로 관찰된 생물학적 시냅스 규칙과 최첨단 자기지도 학습 목적 함수 사이의 직접적인 대응 관계를 확립한다고 주장합니다. 저자들은 뇌가 유용한 표현을 비지도 방식으로 학습하기 위해 이러한 정형적인 메커니즘(STDP 및 항상성)을 사용하여 정확한 그래디언트를 계산할 수 있다고 주장합니다.

저자들은 이것이 깊이 있는 수학적 유도가 아니라, 각 생물학적 규칙을 SIGReg 목적 함수의 특정 항에 맞게 미분하여 매칭시킨 "직접적인 구성(direct construction)"임을 강조합니다. 이 연구의 의의는 SIGReg가 단순히 추상적인 알고리즘이 아니라, 국소적이고 생물학적 근거가 있는 상호작용을 통해 실현될 수 있음을 보여줌으로써 생물학적으로 타당한 연산의 도구 상자를 확장했다는 데 있습니다. 또한, 자연적인 감각 스트림의 시간적 연속성이 SSL의 양의 쌍(positive-pair) 신호 역할을 수행하여, 명시적인 데이터 증강(augmentation)이나 부정 샘플(negative sample) 구축의 필요성을 제거한다는 점을 시사합니다.

논문은 깊이 스케일링(depth scaling)에 대해서는 겸허한 입장을 유지하며, 모든 층에서 이러한 디코렐레이션(decorrelation) 목적 함수를 적용할 경우 후속 층들이 구조가 없는 입력을 받게 되어 심층 네트워크에서 성능 저하가 발생하는 "백색화 캐스케이드(whitening cascade)" 현상이 발생함을 인정했습니다. 향-공간적 척도를 다루기 위한 컨볼루션 변형 모델과 비음수 투영을 안정화하기 위한 특정 억제 집단의 통합이 향후 연구 과제로 제시되었습니다.