NeuroMorse: A Temporally Structured Dataset For Neuromorphic Computing

NeuroMorse 기술 요약: 뉴로모픽 컴퓨팅을 위한 시간적 구조화 데이터셋

문제 정의
뉴로모픽 공학은 동기식 데이터 프레임 대신 비동기적 시간 이벤트(스파이크)를 활용하여 뇌의 효율적인 처리 방식을 모방함으로써 전력 소비를 최소한으로 줄이는 것을 목표로 합니다. 스파이킹 신경망(SNN)은 공간 및 시간 영역을 모두 활용하는 이벤트 기반 작업에 이론적으로 적합하지만, 현재의 벤치마킹 관행은 이러한 시간적 능력을 충분히 테스트하지 못하는 경우가 많습니다. 정적 이미지 변환(예: MNIST)이나 이벤트 기반 제스처 데이터셋과 같은 기존 벤치마크들은 대개 공간적 계층 구조를 우선시합니다. 이러한 벤치마크에서 시간 정보는 부차적인 요소이며, 데이터를 빈(bin)으로 나누거나 제거하더라도 성능이 높게 유지되는 경見을 보이는데, 이는 현재의 평가 방식이 뉴로모픽 시스템의 고유한 강점을 완전히 포착하지 못하고 있음을 시사합니다. 즉, 복잡한 정보의 주요 인코딩 메커니즘으로서 시간적 역학(temporal dynamics)을 사용하는 데이터셋에 대한 결정적인 공백이 존재합니다.

방법론: NeuroMorse 데이터셋
이러한 공백을 메우기 위해 저자들은 공간적 또는 채널별 표현보다 시간적 데이터 표현을 우선하도록 설계된 NeuroMorse를 소개합니다. 이 데이터셋은 영어에서 가장 빈번하게 사용되는 상위 50개 단어를 시간적 모스 부호 스파이크 시퀀스로 변환하여 구축되었습니다.

• 인코딩 방식: 데이터셋은 "점(dot)"과 "선(dash)"을 위한 두 개의 입력 스파이크 채널만을 사용합니다. 복잡한 의미론적 정보는 전적으로 스파이크의 시간적 패턴을 통해 인코딩됩니다.
• 시간적 계층 구조: 인코딩은 다음과 같은 다중 스케일 시간 계층 구조를 도입합니다:
  • $\Delta t_1$ (5 타임스텝): 연속적인 모스 문자(점/선) 사이의 간격
  • $\Delta t_2$ (10 타임스텝): 연속적인 영어 철자 사이의 간격
  • $\Delta t_3$ (15 타임스텝): 연속적인 영어 단어 사이의 간격
• 데이터셋 구성:
  • 훈련 세트: 시간적 모스 부호 시퀀스로 변환된 상위 50개 영어 단어를 포함합니다.
  • 테스트 세트: 50,441개의 Simple Wikipedia 문서(구두점 제거됨)로부터 생성되었습니다. 주요 과제는 이 연속적인 스트림 내에서 50개의 훈련 키워드 발생를 식별하는 것입니다. 테스트 세트에는 1,768,231개의 키워드 인스턴스가 포함되어 있습니다.
  • 노이즈 변형: 난이도를 높이기 위해 저수준 및 고수준의 세 가지 유형의 노이즈(스파이크 제거/드롭아웃, 시간적 지터(jitter), 포아송 스파이크 열)를 도입하였으며, 총 27개의 데이터셋 변형을 생성했습니다.
• 형식: 데이터는 스파이크 타임스탬프, 채널 정보, 레이블(테스트 세트 내 키워드의 시작/종료 시간 포함)을 포함하는 Hierarchical Data Format 5 (HDF5)로 저장됩니다.

주요 기여

1. 시간 중심 벤치마크: NeuroMorse는 공간적 입력을 최소한의 2개 채널로 줄이고 시간적 패턴을 통해 정보 밀도에 의존함으로써, 시간적 데이터 표현을 명시적으로 우선시하는 최초의 뉴로모픽 데이터셋으로 제시됩니다.
2. 계층적 복잡성: 이 데이터셋은 점/선, 철자, 단어라는 다중 시간 스케일에서 특징 계층을 임베딩하여, 알고리즘이 공간적 및 시간적 계층 구조를 모두 분해하도록 도전 과제를 부여합니다.
3. 포괄적 평가 체계: 논문은 선형 분류기, 비지도 학습 기반의 STDP(Spike-Timing Dependent Plasticity) 네트워크, 그리고 지도 학습 기반의 딥 SNN을 포함한 구조화된 평가 프레임워크를 제공하며, 이를 깨끗한 데이터와 노이즈가 있는 데이터 모두에서 테스트했습니다.

실험 결과
저자들은 난이도의 기준선을 설정하기 위해 노이즈 없이 수행된 세 가지 서로 다른 아키텍처 접근 방식을 사용하여 데이터셋의 난이도를 평가했습니다.

1. 선형 분류기: 단순한 Leaky Integrate-and-Fire (LIF) 뉴런을 Ordinary Least Squares 회귀 모듈에 연결한 결과, 훈련 세트에서 단 4%의 정확도를 기록했습니다(무작위 기준선인 2%의 두 배). 이는 시간적 패턴이 선형적으로 분리 가능하지 않음을 나타냅니다.
2. 비지도 STDP 네트워크: 가중치 의존적 STDP 시냅스와 측면 억제(lateral inhibition)를 사용하는 네트워크는 테스트 세트에서 **0.19%**의 분류 정확도를 달s했습니다. 저자들은 대부분의 오류가 null 클래스(키워드가 아닌 구간)의 오분류로 인해 발생했다고 언급하며, 연속적인 스트림에서 신호와 노이즈를 구분하는 것의 어려움을 강조했습니다.
3. 지도 학습 기반 딥 SNN: 서로게이트 그래디언트(surrogate gradients)를 이용한 스파이킹 역전파로 훈련된 3계층 네트워크는 훈련 세트에서 66%의 정확도를, 전체 테스트 세트에서 4.25%의 정확도를 달성했습니다. 테스트 세트를 필터링하여 키워드가 아닌 부분을 제거했을 때(키워드만 무작위로 나열된 경우), 정확도는 **12.46%**로 상승했습니다.

의의 및 주장
본 논문은 NeuroMorse가 시간적 계층을 학습하는 데 있어 현재의 뉴로모픽 아키텍처의 한계를 효과적으로 보여준다고 주장합니다. 결과는 다음을 시사합니다:

• 표준 선형 분류기는 시간적 구조를 디코딩하는 데 실패합니다.
• 비지도 STDP 메커니즘은 특히 연속 스트림에서의 false positive(오탐) 문제로 인해 키워드 식별에 크게 어려움을 겪습니다.
• 지도 학습 기반의 딥 러닝 접근 방식조차 훈련 세트에서 복잡하고 연속적인 테스트 세트로 일반화하는 데 어려움을 겪습니다.

저자들은 결론적으로 NeuroMorse가 뉴로모픽 컴퓨팅의 핵심이지만 현재의 평가에서는 종종 간과되는 시간적 처리 능력을 평가하기 위한 엄격한 벤치마크 역할을 한다고 밝힙니다. 이 데이터셋과 코드는 추가 연구를 촉진하기 위해 공개적으로 제공됩니다.