Equilibrium Propagation with Predictive Learning in Leaky Integrate-and-Fire Spiking Neural Networks

본 논문은 STDP 대신 예측 학습 규칙을 활용하여 역전파와 경쟁력 있는 이미지 분류 정확도를 달성하면서도 뚜렷하고 더 지속적인 은닉층 활동 패턴을 보이는 누적-적분-발화 스파이킹 신경망을 위한 생물학적으로 타당한 평형 전파 프레임워크를 제안한다.

핵심

작은 생물학적 컴퓨터들 (스파이크 신경망이라고 부름) 이 고양이와 개를 구별하는 것처럼 이미지를 인식하도록 가르치려 한다고 상상해 보세요. 보통 과학자들은 이러한 컴퓨터들을 가르치기 위해 역전파 (Backpropagation) 라는 방법을 사용합니다. 역전파를 마지막 실수를 살펴보고, 각 작업자가 그 오류에 얼마나 기여했는지 정확히 계산한 뒤, 이를 수정하기 위해 라인 아래로 구체적인 지시를 보내는 엄격한 상향식 관리자로 생각해보십시오. 이 방법은 컴퓨터에서는 잘 작동하지만, 실제 뇌가 작동하는 방식과는 그리 현실적이지 않습니다. 왜냐하면 실제 뉴런은 네트워크 전체를 거슬러 올라가 전역적인 지시를 보내는 '관리자'가 없기 때문입니다.

이 논문은 균형 전파 (Equilibrium Propagation, EP) 라는 더 자연스러운 방식으로 이러한 네트워크를 가르치는 방법을 소개합니다.

비유: '관리자'가 아닌 '그룹 허들'

지시를 보내는 관리자 대신 뉴런 팀이 허들에서 함께 퍼즐을 풀려고 노력하는 사람들처럼 작동한다고 상상해 보세요:

1. 준비: 뉴런들은 방 안에 있는 사람들처럼 행동합니다. 목표는 이미지를 올바르게 인식하는 것입니다.
2. '자유' 상태: 먼저, 그들은 이미지를 보고 최선의 추측을 합니다. 그들은 서로 대화하지만, 아직 아무도 수정을 받지 않습니다.
3. '고정' 상태: 그런 다음 누군가 그룹에게 정답 을 속삭입니다. 뉴런들은 이 진실에 맞추기 위해 내부 상태를 약간 조정합니다.
4. 학습: 뉴런들은 '자유' 상태와 '고정' 상태에서 어떻게 행동했는지 비교합니다. 이 두 순간 사이의 차이는 다음 번에 더 잘하기 위해 연결을 어떻게 조정해야 하는지 알려줍니다.

이 방법은 뉴런들이 학습이 일어나기 전에 균형 (equilibrium) 에 도달하기 때문에 균형 전파라고 불립니다. 이는 기대했던 일과 실제로 일어난 일을 바로 그 순간에 비교함으로써 학습하는 실제 뇌의 방식과 훨씬 더 유사합니다.

새로운 변형: 예측 학습

연구자들은 이 '그룹 허들' 방법을 누수성 적분 - 발화 (Leaky Integrate-and-Fire, LIF) 라는 특정 유형의 뉴런에 적용했습니다. 이러한 뉴런을 누수 있는 양동이라고 생각할 수 있습니다. 물 (신호) 이 흘러 들어가고, 양동이가 충분히 차면 '넘쳐나서' (스파이크를 발사하여) 다음 사람에게 메시지를 보냅니다. 만약 양동이가 차오르지 않으면 물은 새어 나오고 메시지는 사라집니다.

이 논문의 큰 혁신은 이러한 뉴런들이 어떻게 넘쳐나도록 학습하느냐는 점입니다. 흔히 사용되는 STDP (즉, "내가 너보다 바로 전에 발화했다면 우리는 친구야; 그 이후라면 아니야"라고 말하는 것과 같은 규칙) 대신, 예측 학습 규칙을 사용했습니다.

이를 날씨 예보관처럼 생각해보세요:

• 뉴런들은 끊임없이 다음 신호가 무엇일지 예측하려고 노력합니다.
• 만약 그들이 정확히 예측하면 그들은 차분하게 유지됩니다.
• 만약 그들이 놀라면 (예측이 틀렸다면), 그들은 다음 번에 더 잘 예측하기 위해 '누수 정도'나 넘쳐나는 방식을 조정합니다.
• 이는 뇌의 주요 임무가 끊임없이 미래를 추측하고 놀라움을 받을 때만 학습한다는 예측 부호화 (Predictive Coding) 의 개념과 일치합니다.

그들은 무엇을 발견했나요?

팀은 MNIST, KMNIST, Fashion-MNIST 라는 세 가지 유명한 이미지 데이터셋에서 이 새로운 '예측 허들' 시스템을 테스트했습니다. 이들은 이미지 인식을 위한 표준 테스트와 같습니다.

1. 작동합니다: 그들의 새로운 시스템 (EP+LIF) 은 전통적인 '관리자' 시스템 (BP+LIF) 과 거의同等한 점수를 받았습니다. 이는 훌륭한 결과를 얻기 위해 상향식 관리자가 필요하지 않으며, 지역적이고 예측적인 허들이 똑같이 잘 작동한다는 것을 증명했습니다.
2. 다른 습관: 뉴런들이 어떻게 행동하는지 자세히 살펴보면, 그들의 '성격'에 차이가 있음을 발견했습니다:
   • 전통적인 관리자 시스템 (BP) 은 뉴런들을 매우 조용하고 효율적으로 만들었습니다. 그들은 절대적으로 필요할 때만 발사하여 활동 패턴을 희소 (sparse) 하게 만들었습니다.
   • 새로운 예측 시스템 (EP) 은 뉴런들을 더 활발하고 지속적으로 유지했습니다. 그들은 더 긴 시간 동안 '깨어' 있고 서로 대화하며 있었습니다.

결론

이 논문은 역전파와 같은 경직된 공학보다는 예측과 허들과 같은 자연스러운 생물학에 더 가까운 방법으로 고급 뇌형 컴퓨터 네트워크를 훈련시킬 수 있음을 보여줍니다. 새로운 방법은 뉴런들이 전통적인 방법보다 조금 더 수다스럽고 덜 '희소'한 결과를 낳지만, 동일한 높은 정확도를 달성합니다. 이는 뇌가 이러한 종류의 예측 기반, 균형 기반의 트릭을 사용하여 학습할 수 있으며, 우리가 이러한 특정 습관을 모방함으로써 더 나은 AI 를 구축할 수 있음을 시사합니다.

기술 요약

기술적 요약: 누출 적분 및 방전 스파이킹 신경망에서의 예측 학습을 활용한 평형 전파

문제 제기
역전파 (BP) 는 심층 신경망 훈련의 표준으로 남아 있지만, 비국소적 가중치 업데이트와 대칭적 가중치 수송에 대한 요구 사항으로 인해 생물학적 타당성이 부족합니다. 평형 전파 (EP) 는 다양한 기계 학습 작업에서 경쟁력 있는 성능을 달성하는 생물학적으로 타당한 대안으로 등장했습니다. 그러나 이벤트 기반 계산을 통해 더 큰 생물학적 현실성을 제공하는 스파이킹 신경망 (SNN) 으로 EP 를 확장하는 것은 어려움을 수반합니다. 기존 EP 기반 SNN 접근법은 종종 국소 학습 규칙인 스파이크 시점 의존적 가소성 (STDP) 에 의존합니다. 본 연구는 기존 STDP 가 아닌 예측 부호화 원칙과 더 직접적으로 부합하는 학습 규칙을 활용하여 훈련 효율성을 유지하면서 생물학적 현실성을 강화하는 SNN 용 EP 프레임워크의 필요성에 대응합니다.

방법론
저자들은 누출 적분 및 방전 (LIF) 뉴런 역학을 예측 학습 규칙과 통합한 새로운 EP 기반 SNN 프레임워크를 제안합니다. 주요 방법론적 구성 요소는 다음과 같습니다:

• 뉴런 모델: 네트워크는 생물학적 뉴런의 시간적 통합 및 임계값 행동을 포착하는 LIF 뉴런을 활용합니다.
• 학습 규칙: 핵심 혁신은 표준 STDP 를 예측 학습 규칙으로 대체하는 것입니다. 이 규칙은 네트워크의 국소 역학 내에서 예측 오차를 최소화하는 것을 목표로 하여 예측 부호화 원칙과 일치하도록 설계되었습니다.
• 훈련 프레임워크: 이 모델은 평형 전파 알고리즘을 사용하며, 이는 네트워크가 평형 상태에 도달하는 자유 단계와 뉴런 상태의 차이를 기반으로 가중치 업데이트를 계산하기 위해 출력에 작은 섭동을 가하는 밀어내기 (nudge) 단계로 구성됩니다.

실험적 평가
제안된 모델 (EP+LIF 라고 함) 은 MNIST, KMNIST, Fashion-MNIST 의 세 가지 표준 이미지 분류 벤치마크에서 평가되었습니다. EP+LIF 의 성능은 LIF 뉴런을 사용하여 역전파로 훈련된 기준 모델 (BP+LIF) 과 직접 비교되었습니다.

주요 결과

• 정확도: EP+LIF 모델은 세 가지 데이터셋 모두에서 경쟁력 있는 정확도를 달성했습니다. 그 성능은 BP+LIF 기준 모델에 근접하여, 비국소적 오차 전파 없이도 예측 학습이 스파이킹 네트워크에서 EP 기반 훈련을 효과적으로 지원할 수 있음을 보여주었습니다.
• 활동 패턴: 은닉층 스파이킹 활동에 대한 분석은 두 접근법 간의 뚜렷한 역동적 차이를 드러냈습니다. EP+LIF 모델은 더 지속적인 은닉 상태 활동을 생성한 반면, BP+LIF 기준 모델은 더 희소한 스파이킹 표현을 산출했습니다.

의의 및 주장
본 논문은 EP 를 LIF SNN 에서 예측 학습 규칙과 결합하는 것의 타당성을 입증하는 것이 주요 기여라고 주장합니다. 이 연구는 생물학적 동기에 기반한 국소 학습 규칙에 의존하면서도 역전파와 비교 가능한 성능을 산출할 수 있음을 확립합니다. 또한, 관찰된 활동 패턴의 차이, 즉 EP+LIF 의 지속성과 BP+LIF 의 희소성은 모델의 실패가 아니라 생물학적으로 타당한 학습 프레임워크 내에서 활동 조절 및 희소 스파이킹 역동성 제어에 대한 향후 연구의 동기로 강조됩니다. 저자들은 모든 지표에서 역전파를 능가한다고 주장하기보다는 학습 규칙의 유효성 검증과 결과적으로 발생하는 네트워크 역동성의 특성에 초점을 맞추는 겸손한 입장을 유지합니다.