Hyperdimensional Decoding of Spiking Neural Networks

1. 연구 배경 및 문제 제기 (Problem)

• 스파이킹 신경망 (SNN) 의 한계: SNN 은 뇌의 생물학적 원리를 모방하여 에너지 효율성이 높을 것으로 기대되지만, 기존 인공 신경망 (ANN) 에 비해 정확도가 낮고, 구현이 복잡하며, 특수 하드웨어에서만 그 효율이 실현된다는 문제가 있습니다.
• 기존 디코딩 방식의 결함:
  • 율 (Rate) 디코딩: 출력 뉴런의 총 스파이크 수를 기반으로 분류합니다. 높은 정확도를 보이지만, 많은 스파이크를 필요로 하여 에너지 소비가 크고, 결과를 얻기 위해 스파이크를 누적해야 하므로 지연 시간 (Latency) 이 길어집니다.
  • 지연 (Latency) 디코딩: 첫 번째 스파이크가 발생한 시점을 기반으로 분류합니다. 에너지 효율과 지연 시간이 우수하지만, 정확도가 낮고 잡음 (Noise) 에 약합니다.
  • 일반적인 접근법: 기존 연구들은 SNN 과 초차원 컴퓨팅 (HDC) 을 결합할 때, SNN 을 먼저 다른 방식으로 학습시킨 후 특징 추출기로 사용하고 HDC 를 추가하는 2 단계 방식을 취하거나, 행렬 곱셈을 사용하여 에너지를 낭비하는 문제가 있었습니다. 또한, 전체 데이터 샘플을 관찰한 후에만 예측이 가능하여 실시간 이벤트 기반 처리에 부적합했습니다.

2. 제안된 방법론 (Methodology)

이 논문은 SNN-HDC라는 새로운 아키텍처를 제안하며, SNN 의 출력층을 직접 초차원 벡터 (Hypervector) 로 변환하여 디코딩하는 방식을 사용합니다.

• 핵심 아이디어:
  • 분산 표현 (Distributed Representation): 뇌가 뉴런 군집을 통해 개념을 표현한다는 가설에 기반하여, SNN 의 각 출력 뉴런을 하이퍼벡터의 한 차원 (Dimension) 으로 매핑합니다.
  • 이진 하이퍼벡터 인코딩: 출력 뉴런에서 스파이크가 발생하면 해당 차원의 값을 0 에서 1 로 전환합니다. 이는 스파이크의 '유무 (Presence)'에 기반하며, 스파이크의 빈도나 타이밍보다는 특정 시간적 특징의 존재 여부에 중점을 둡니다.
  • 학습 및 손실 함수: SNN-HDC 는 목표 클래스의 하이퍼벡터와 SNN 출력으로 생성된 하이퍼벡터 간의 **평균 제곱 오차 (MSE)**를 최소화하도록 학습됩니다. 이는 기존 SNN 이 클래스별 1-hot 인코딩을 목표로 하는 것과 달리, 분산된 하이퍼벡터 표현을 직접 목표로 합니다.
  • 효율적인 비교: 생성된 하이퍼벡터는 **해밍 거리 (Hamming Distance)**를 사용하여 기존 클래스와 비교됩니다. 이는 곱셈 연산 없이 덧셈만으로 계산 가능하여 뉴로모픽 하드웨어에서 에너지 효율이 매우 높습니다.
  • 이벤트 기반 실시간 처리: 전체 샘플이 끝날 때까지 기다리지 않고, 하이퍼벡터가 안정화되는 시점 (Settling time) 에 즉시 분류가 가능하여 지연 시간을 줄입니다.

3. 주요 기여 (Key Contributions)

1. 직접 학습 가능한 SNN-HDC 아키텍처: 기존 연구 (SpikeHD, HyperSpike 등) 와 달리, SNN 을 특징 추출기로 사용한 후 HDC 를 추가하는 2 단계 방식이 아닌, SNN 을 처음부터 하이퍼벡터 표현을 목표로 직접 학습시킵니다.
2. 행렬 곱셈 제거: SNN 출력에서 하이퍼벡터로 변환하는 과정에서 행렬 곱셈을 제거하고 스파이크의 유무에 기반한 단순한 비트 플립 (Bit-flip) 방식을 도입하여 에너지 효율을 극대화했습니다.
3. 미학습 클래스 식별 능력: SNN-HDC 는 출력 공간이 클래스 수로 제한되지 않기 때문에, 훈련되지 않은 새로운 클래스 (Unknown Class) 를 기존 클래스와의 유사도 부족을 통해 식별할 수 있습니다.
4. 종합적 성능 비교: DvsGesture 및 SL-Animals-DVS 데이터셋을 사용하여 기존 Rate/Latency 디코딩 방식 및 최신 SNN/HDC 연구 결과와 정확도, 에너지, 지연 시간 등을 비교 분석했습니다.

4. 실험 결과 (Results)

사용 데이터셋: DvsGesture (제스처 인식), SL-Animals-DVS (수화 동물 단어 인식)

• 정확도 (Accuracy):
  • DvsGesture: SNN-HDC 는 96.59% 의 정확도를 달성하여, 기존 Rate 디코딩 모델 (Rate-1: 95.08%) 보다 높고, 가장 깊은 Rate-2 모델 (97.35%) 과 유사한 성능을 보였습니다.
  • SL-Animals-DVS: SNN-HDC 는 74.13% 로 가장 높은 정확도를 기록했습니다 (Rate-2: 72.74%, Latency 모델들은 45~47% 대).
• 에너지 효율 (Energy Consumption):
  • SNN-HDC 는 모든 비교 모델 대비 가장 낮은 에너지 소비를 보였습니다.
  • DvsGesture: 기존 모델 대비 1.24 배 ~ 3.67 배의 에너지 절감 효과를 달성했습니다.
  • SL-Animals-DVS: 기존 모델 대비 1.38 배 ~ 2.27 배의 에너지 절감 효과를 달성했습니다.
  • 이는 SNN-HDC 가 다른 모델들에 비해 훨씬 적은 수의 스파이크 (Spike Count) 를 발생시키기 때문입니다.
• 지연 시간 (Latency):
  • SNN-HDC 는 Rate-1 및 Latency 모델들보다 일반적으로 더 낮은 지연 시간을 보였으며, 특히 DvsGesture 에서 162ms (Rate-1: 208ms) 를 기록했습니다.
• 미학습 클래스 식별 (Unknown Class Detection):
  • 11 개 클래스 중 10 개만 학습시킨 모델로 11 개 클래스를 테스트했을 때, 100% 의 미학습 샘플을 정확히 식별해냈습니다. (해밍 거리 임계값 $\delta$를 적절히 설정 시)

5. 의의 및 결론 (Significance)

• 차세대 디코딩 패러다임: 이 연구는 SNN 의 출력 해석 방식에 있어 Rate 및 Latency 디코딩의 대안이 될 수 있는 강력한 방법을 제시합니다. 특히 높은 정확도, 낮은 에너지, 낮은 지연 시간이라는 세 가지 핵심 요소를 동시에 만족시킵니다.
• 실시간 및 엣지 컴퓨팅 적합성: 이벤트 기반 처리가 가능하고 미학습 데이터를 식별할 수 있어, 실시간으로 변화하는 환경에서 작동하는 뉴로모픽 엣지 디바이스에 매우 적합합니다.
• 확장성: 하이퍼벡터의 표현력 (Expressiveness) 은 차원이 증가함에 따라 기하급수적으로 증가하므로, 클래스 수가 매우 많은 (예: 2,633 개 이상) 대규모 분류 문제에서도 1-hot 인코딩보다 파라미터 효율이 뛰어날 수 있음을 이론적으로 증명했습니다.
• 미래 전망: 향후 연구에서는 스파이크의 개수나 스파이크 간 간격 (ISI) 을 하이퍼벡터 차원에 포함시켜 정보 밀도를 높이고, 동적 하이퍼벡터를 생성하여 연속적인 온라인 데이터 스트림 처리 능력을 더욱 강화할 수 있을 것으로 기대됩니다.

요약하자면, 이 논문은 SNN 과 초차원 컴퓨팅 (HDC) 의 융합을 통해 기존 SNN 의 단점 (낮은 정확도, 높은 에너지, 긴 지연) 을 해결하고, 뉴로모픽 하드웨어의 잠재력을 극대화할 수 있는 새로운 디코딩 프레임워크를 성공적으로 제시했습니다.