기술 요약: HERO-SNN

문제 정의

EEG(뇌파) 및 fMRI(기능적 자기공명영상)와 같은 시공간적 뇌 데이터는 복잡한 시간적 역동성과 분산된 공간적 활동을 나타내며, 이는 모델링하기 매우 까다롭습니다. 스파이크 신경망(SNN)은 스파이크 기반 처리를 통해 이러한 역동성을 표현할 수 있는 생물학적으로 타당한 프레임워크를 제공하지만, STDP(Spike-Timing-Dependent Plasticity)와 같은 표준 비지도 학습 메커니즘은 순수하게 국소적인 스파이크 타이밍에만 기반하여 작동합니다. 결과적으로, STDP로 학습된 내부 표현은 과업 불가지론적(task-agnostic)입니다. 즉, 일반적인 신호 상관관계는 포착하지만, 특정 분류 목적이나 행동적 관련성에 명시적으로 정렬되지는 않습니다.

STDP로 학습된 SNN이 지도 학습 기반의 판독 계층(예: deSNN)과 결합될 때, 내부 연결성은 비지도 학습 이후 정적으로 유지됩니다. 이는 네트워크가 지배적인 신호 특성은 보존할 수 있지만, 특정 인지 또는 임상 상태에 필수적인 미세하고 변별적인 패턴을 포착하는 데는 실패할 수 있음을 의미합니다. 또한, 분류 결과가 내부 시냅스 구조에 영향을 미치지 못하므로, 비지도 시공간 표현 학습과 과업 중심 최적화 사이에는 간극이 존재합니다. 기존의 지도 학습 또는 강화 학습 기반 SNN 방법들은 과업 성능을 달로 위해 생물학적 타당성(국소성)을 희생하거나, 과업 결과에 기반하여 내부 표현을 정교화하는 데 실패합니다.

방법론: HERO-SNN

이러한 한계를 해결하기 위해 저자들은 HERO-SNN(Homeostatic Eligibility-based Reward-Optimised Spiking Neural Network)을 제안합니다. 이 프레임워크는 기존 NeuCube 아키텍처를 확장하여, 국소적인 스파이크 기반 학습을 유지하면서 과업 성능에 따라 내부 시냅스 연결을 정교화하는 세 번째 학습 단계를 도입합니다. 방법론은 세 가지 뚜-별한 단계로 구성됩니다.

1. 비지도 시공간 학습

• 데이터 인코딩: EEG 신호는 임계값 기반의 시간적 인코딩 방법을 사용하여 스파이크 열(spike trains)로 변환됩니다. 신호 진폭의 변화가 사전 정의된 임계값($\theta$)을 초과할 때 스파이크가 생성됩니다.
• 네트워크 매핑: 입력 특징(EEG 채널)은 해부학적 좌표(예: Talairach atlas)를 기준으로 3D SNN 저장소(reservoir)에 매핑됩니다. 네트워크는 흥분성 및 억제성 연결이 혼합된 생물학적 시스템을 모방하여 "스몰 월드(small-world)" 연결성으로 초기화됩니다.
• STDP 학습: 시냅스 가중치는 비지도 STDP 규칙을 사용하여 업데이트되며, 이를 통해 네트워크는 입력 데이터의 시간적 상관관계에 따라 스스로 조직화됩니다.

2. 지도 학습 (deSNN)

• STDP 학습 후, 저장소 내의 시냅스 가중치는 고정됩니다.
• 동적 진화 스파이크 신경망(deSNN)이 학습된 시공간 패턴을 클래스 레이블과 연관시키도록 학습됩니다. 각 클래스에 대해 프로토타입 뉴런이 생성되며, 연결은 초기 스파이크가 더 높은 중요도를 갖는 순서 기반(Rank Order, RO) 학습을 사용하여 초기화됩니다.

3. 과업 인식 정교화 (HERO-SNN)

이 새로운 단계는 분류 신뢰도가 내부 시냅스 업데이트를 조절하는 피드백 루프를 도입합니다. 과정은 다음과 같습니다.

• 순방향 전파 및 신뢰도 계산: 훈련 샘플이 학습된 SNN을 통해 재재생(replay)됩니다. 임시 출력 뉴런은 현재 스파이크 패턴을 저장된 프로토타입 뉴런과 비교하여 클래스 신뢰도 벡터($p_c(s)$)를 추정합니다.
• 최적화 신격(Optimization Signal): 최적화 신호($O$)는 실제 클래스의 신뢰도와 예측된 클래스의 신뢰도 차이로 계산됩니다. 이 신호는 내부 표현이 올바른 과업 결과에 부합하는지 아니면 상충하는지를 나타냅니다.
• 적격성 흔적(Eligibility Traces): 현재 결정에 기여한 시냅스를 식별하기 위해, 각 시냅스에 대한 적격성 흔적($e_{ij}$)이 유지됩니다. 이 흔적은 재생된 샘플의 스파이크 전파 중에 활성화된 시냅스를 기록합니다.
• 시냅스 정교화: 시냅스 가중치는 최적화 신호와 적격성 흔적을 사용하여 업데이트됩니다: $\Delta w_{ij} = \eta \cdot O(s) \cdot e_{ij}(t)$. 이는 과업 관련 경로에 관여하는 시냅스를 선택적으로 강화하거나 약화시킵니다.
• 항상성 조절(Homeostatic Regulation): 반복적인 가중치 업데이트로 인해 발생할 수 있는 불안정한 네트워크 역동성(예: 과도한 발화 또는 침묵)을 방지하기 위해, 각 뉴런의 발화 임계값($V_{th}$)을 적응시키는 항상성 메커니즘이 작동합니다. 뉴런이 목표율보다 높게 발화하면 임계값이 증가하고(흥분성 감소), 목표보다 낮게 발화하면 임계값이 감소합니다. 이는 적응을 허용하면서도 희소하고 안정적인 스파이크 활동을 보장합니다.

주요 기여

1. 과업 인식 내부 정교화: 내부 시공간 표현을 과업 피드백에 따라 정교화할 수 있게 함으로써, 오직 판독 계층만을 지도 학습하는 하이브리드 접근 방식과 차별화됩니다.
2. 국소 및 전역 신호의 통합: 로컬 생물학적 학습 규칙(STDP, 적격성 흔적)과 글로벌 과업 목표(분류 신뢰도) 사이의 간극을 스파이크 기반의 국소성을 유지하면서 성공적으로 연결합니다.
3. 항상성 안정성: 항상성 임계값 적응의 포함은 네트워크가 정교화 과정 동안 안정적인 발화 역동성을 유지하도록 보장하며, 이는 보상 변조 가소성(reward-modulated plasticity)과 관련된 불안정성을 방지합니다.
   야.
4. 해석 가능성: 과업 관련성에 따라 특정 경로를 정교화함으로써, 모델은 내부 신경 표현의 해석 가능성을 높입니다.

실험 결과

본 프레-임워크는 헤이븐닝(Havening) 중재 연구의 벤치마크 EEG 데이터셋을 사용하여 검증되었습니다(너싱 터치 프로토콜(H+)과 터치가 없는 프로토콜(H−) 간의 구분).

• 데이터셋: 23명의 참가자로부터 얻은 276개의 시공간 EEG 샘플(64개 채널, 512개 타임포인트)을 사용하였으며, 일반화 가능성을 보장하기 위해 참가자 수준에서 훈련 및 테스트 세트를 분리하였습니다.
• 성능:
  • HERO-SNN은 **91.30%**의 분류 정확도(F1-score: 0.91)를 달성했습니다.
  • 베이스라인인 STDP+deSNN(정교화 없음)은 **84.62%**의 정확도를 기록했습니다.
  • 이는 표준 비지도 접근 방식 대비 11%의 정확도 향상을 나타냅니다.
  • HERO-SNN은 동일한 참가자 수준 분리 조건 하에서 CNN(83.64%) 및 LSTM(69.05%)을 포함한 최신 딥러닝 모델들을 능가했습니다.
• 분석: 결과는 정교화 과정이 연결성의 국소적 변화를 유도하여, STDP 동안 학습된 전체 구조를 보존하면서도 과업 관련 시냅스를 선택적으로 강화했음을 나타냈습니다.

의의 및 주장

본 논문은 과업 피드백을 내부 시공간 신경 표현의 적응에 직접 통합하는 것이 분류 성능과 모델 해석 가능성을 모두 크게 향고한다는 점을 주장합니다. 저자들은 HERO-SNN이 스파이크 기반의 국소성을 유지하면서도, 순수 비지도 구조 학습을 넘어 과업 특화 최적화를 달성할 수 있음을 입증한다고 강조합니다.

이 연구는 관련 정보가 약하고 분산되어 있는 고차원의 노이즈가 많은 뇌 신호(예: EEG)에 이 접근 방식이 특히 가치 있다고 제안합니다. 내부 연결성을 정교화하여 변별적 패턴을 더 잘 포착함으로써, 모델은 표준 STDP가 흔히 겪는 한계(특정 인지 또는 임상 상태와 정렬되지 못하는 문제)를 극복합니다. 저자들은 HERO-SNN을 정신 건강 및 신경학적 응용 분야를 위한 fMRI 시계열과 같은 다른 시공간 데이터 유형에도 적용 가능한 강력한 프레임워크로 위치시킵니다.