Spiking Neural Network Architecture Search: A Survey
본 논문은 에지 컴퓨팅 및 IoT 응용 분야에서 전력 효율성과 실시간 처리의 잠재력을 가진 스파이킹 신경망 (SNN) 의 최적 아키텍처 탐색 (SNNaS) 을 하드웨어/소프트웨어 공동 설계 관점에서 종합적으로 검토하고, 기존 ANN 기반 탐색 방법의 한계를 분석하며 SNN 특화 탐색 기법과 향후 연구 방향을 제시합니다.
기존의 인공지능 (ANN) 은 계속해서 흐르는 물과 같습니다. 모든 정보가 끊임없이 흐르고 계산되지만, 그 과정에서 전기를 많이 먹습니다.
반면, **스파이크 신경망 (SNN)**은 우리가 전구를 켜고 끄는 방식과 같습니다.
비유: 정보가 필요할 때만 '스파크 (불꽃)'가 튀고, 필요하지 않을 때는 조용히 잠듭니다.
장점: 불을 켜지 않을 때는 전기를 거의 쓰지 않아 배터리가 오래 가고, 반응 속도가 매우 빠릅니다.
문제점: 하지만 이 '스파크'를 어떻게 배치하고, 언제 켤지 정하는 설계도가 매우 복잡해서, 사람이 일일이 손으로 만들기는 너무 어렵습니다.
2. 핵심 주제: "SNNaS (설계 자동화)"
이 논문은 **"사람이 일일이 설계하는 대신, 컴퓨터가 스스로 가장 좋은 설계도를 찾아내는 방법 (SNNaS)"**을 조사했습니다.
비유: 요리사가 레시피를 직접 고민하는 대신, 로봇이 재료 (뉴런), 조리법 (연결 방식), 불 조절 (시간) 을 자동으로 조합해서 가장 맛있는 요리를 찾아내는 과정이라고 생각하세요.
3. 이 논문이 발견한 3 가지 중요한 교훈
① "소프트웨어와 하드웨어는 한 몸이다" (Co-Design)
기존 인공지능 설계는 소프트웨어만 보고 만들었습니다. 하지만 SNN 은 하드웨어 (칩) 의 성질을 무시하면 안 됩니다.
비유:비행기 설계를 생각해보세요. 엔진 (소프트웨어) 만 좋다고 해서 비행기가 잘 날까요? 날개 모양 (하드웨어) 과 맞아야 합니다.
SNN 은 '비동기식 (전구가 깜빡이는 방식)'으로 작동하는 특수 칩에 맞춰져야 합니다. 소프트웨어만 최적화하면, 실제 칩에 심었을 때 타이밍이 안 맞아서 망가질 수 있습니다. 따라서 설계할 때부터 칩의 성질을 함께 고려해야 합니다.
② "시간을 잘 활용해야 한다" (Temporal Dynamics)
기존 AI 는 정적인 사진만 봅니다. 하지만 SNN 은 시간의 흐름을 중요하게 생각합니다.
비유:영화를 볼 때, 한 장의 정지된 사진 (프레임) 만으로는 내용을 알 수 없습니다. 장면이 이어지는 시간의 흐름이 중요합니다.
많은 연구가 여전히 '사진'을 보는 방식으로 SNN 을 설계합니다. 하지만 SNN 의 진짜 힘은 **'언제 스파크가 튀는지 (타이밍)'**에 있습니다. 이 시간을 어떻게 활용하느냐가 성능을 좌우합니다.
③ "만들기 전에 미리 시험해보기" (Acceleration)
최고의 설계도를 찾으려면 수만 가지 조합을 만들어봐야 합니다. 하나하나 다 만들어서 테스트하면 시간이 너무 오래 걸립니다.
비유:요리 대회에서 모든 레시피를 다 만들어서 맛을 볼 수는 없죠? 그래서 재료의 냄새나 색깔만 보고 "이건 맛있겠다"라고 예측하는 스마트한 예측 시스템이 필요합니다.
논문에서는 **훈련 없이도 성능을 예측하는 기술 (Zero-shot)**이나 가상 시뮬레이션을 통해 검색 시간을 100 배, 1000 배나 줄이는 방법들을 소개합니다.
4. 현재 상황과 미래 (어디까지 왔을까?)
현재: 아직은 초기 단계입니다. 기존 인공지능 (ANN) 의 설계 방식을 그대로 가져와서 SNN 에 적용하는 경우가 많아서, SNN 고유의 장점을 100% 활용하지 못하고 있습니다.
미래:
뇌처럼 진화하는 AI: SNN 이 더 발전하면, 스마트폰이나 IoT 기기에서도 배터리 한 번으로 며칠씩 작동하는 초저전력 AI 가 가능해집니다.
자동 설계의 완성: 사람이 직접 레시피를 짜지 않아도, AI 가 스스로 가장 효율적인 뇌 구조를 찾아내어, 에너지 효율이 극대화된 로봇이나 자율주행차를 만들 수 있게 될 것입니다.
5. 한 줄 요약
**"뇌처럼 작동하는 초절전 인공지능 (SNN) 을 만들기 위해, 소프트웨어 설계와 하드웨어 특성을 함께 고려하며, 컴퓨터가 스스로 가장 좋은 설계도를 찾아내는 기술 (SNNaS) 을 연구한 보고서"**입니다.
이 기술이 완성되면, 우리는 배터리 걱정 없이 24 시간 작동하는 똑똑한 AI를 손쉽게 사용할 수 있게 될 것입니다.
논문 요약: Spiking Neural Network Architecture Search (SNNaS) Survey
1. 문제 정의 (Problem)
배경: 자원 제약이 있는 환경 (에지 컴퓨팅, IoT) 에서 에너지 효율적인 AI 에 대한 수요가 증가함에 따라, 생체 신경계를 모방한 **스파이크 신경망 (Spiking Neural Networks, SNNs)**이 주목받고 있습니다. SNN 은 이산적인 시간 스파이크 (spike) 를 사용하여 정보를 전달하므로 기존 인공 신경망 (ANN) 보다 전력 효율이 높고 실시간 처리에 유리합니다.
도전 과제:
최적 구조 설계의 어려움: SNN 은 이산적인 스파이크 통신, 비미분 가능한 (non-differentiable) 활성화 함수, 복잡한 시간 역학 (temporal dynamics) 을 가지므로, 기존 ANN 을 단순히 변형하거나 전문가의 수동 시행착오 (trial-and-error) 로 최적 구조를 찾는 것은 비효율적입니다.
하드웨어 - 소프트웨어 간극: SNN 의 성능은 하드웨어 제약 (비동기 처리, 제한된 정밀도, 메모리 등) 과 밀접하게 연관되어 있으나, 대부분의 기존 연구는 소프트웨어 시뮬레이션에 치중하여 실제 neuromorphic 하드웨어 (예: Loihi) 에 배포 시 성능 저하가 발생합니다.
자동화 부재: ANN 분야에서는 Neural Architecture Search (NAS) 가 활발하지만, SNN 에 특화된 자동 구조 탐색 (SNNaS) 은 아직 초기 단계이며, 시간적 요소와 하드웨어 제약을 동시에 고려하는 체계적인 접근이 부족합니다.
2. 방법론 (Methodology)
이 논문은 하드웨어/소프트웨어 공동 설계 (Hardware/Software Co-design) 관점에서 SNNaS 를 체계적으로 분석합니다. 주요 방법론적 구성 요소는 다음과 같습니다.
SNNaS 워크플로우:
탐색 공간 (Search Space): 레이어 구성, 뉴런 모델 (LIF, Izhikevich 등), 하이퍼파라미터, 인코딩 방식 등을 정의합니다.
유형: 전역 (Global), 순차 (Sequential), 셀 기반 (Cell-based, DAG 구조), 계층적 (Hierarchical), 하드웨어 설계 포함 공간 등.
탐색 전략 (Search Strategy):
진화 알고리즘 (Evolutionary): 비미분 가능한 SNN 특성에 적합하며, 다목적 최적화에 강점이 있음 (예: EONS, GAQ-SNN).
강화 학습 (RL): 다목적 보상 함수 (정확도, 에너지, 지연 시간) 를 통해 최적 구조 탐색 (예: ANCoEF).
베이지안 최적화 (BO): 데이터 효율성이 높음 (예: SpikeExplorer).
기반 미분 (Gradient-based): 서브그래디언트 (Surrogate Gradient) 를 사용하여 미분 가능하게 만든 후 DARTS 와 같은 기법 적용 (예: SpikeDHS, MA-DARTS).
평가 및 가속화 (Evaluation & Acceleration):
하드웨어 인식 (Hardware-Aware): 메모리, 지연 시간, 에너지 소비 (SynOps, Spike Count) 를 직접 고려.
가속화 전략: 전체 학습 없이 성능을 예측하는 Zero-shot 프록시 (초기화 시 스파이킹 다양성 측정), One-shot Supernet (가중치 공유), 학습 곡선 외삽 (LCE) 등을 활용하여 탐색 비용을 획기적으로 줄임.
시간적 역학 고려: 기존 ANN 기반 NAS 와 달리, SNNaS 는 스파이크 타이밍, 시간 단계 (timestep) 최적화, 시간적 주의 (Temporal Attention) 메커니즘을 탐색 공간에 명시적으로 포함해야 함을 강조합니다.
3. 주요 기여 (Key Contributions)
이 논문은 SNNaS 분야의 포괄적인 개요를 제공하며 다음과 같은 핵심 통찰 (Insights) 을 제시합니다.
하드웨어/소프트웨어 공동 설계의 필수성: SNN 의 시간적 역학과 이벤트 기반 계산은 ANN 중심의 NAS 방법과 근본적인 불일치를 일으키므로, 알고리즘과 하드웨어 제약을 초기부터 통합적으로 고려해야 합니다.
탐색 공간 설계의 진화: 단순한 ReLU 를 LIF 뉴런으로 대체하는 수준을 넘어, 세포 기반 방향성 비순환 그래프 (DAG), 계층적 구조, 생체 모방 모티프 등 SNN 고유의 표현 방식으로 탐색 공간이 진화하고 있습니다.
시간적 역학의 미활용: SNN 의 가장 큰 장점인 시간적 처리 능력을 활용하기 위해, 스파이크 타이밍과 시간적 주의 (Temporal Attention) 를 탐색 과정에 통합하는 것이 중요합니다.
학습 없는 평가 전략의 혁신: Zero-shot 지표, 서브그래디언트 모델, One-shot Supernet 등을 통해 탐색 비용을 수 orders of magnitude(수 배에서 수십 배) 줄여, 자원 제약 환경에서도 SNNaS 를 실용화할 수 있게 되었습니다.
다목적 최적화의 본질: SNNaS 는 정확도뿐만 아니라 에너지, 지연 시간, 메모리, 스파이크 희소성 (Sparsity) 을 동시에 균형 있게 최적화해야 하며, 이는 진화 알고리즘 및 베이지안 접근법과 잘 맞습니다.
동시 탐색 (Co-exploration) 의 우위: 신경망 구조와 하드웨어 구성을 분리하여 최적화하는 것보다, **동시에 탐색 (Co-exploration)**하는 프레임워크 (예: ANAS, ANCoEF) 가 에너지 - 지연 곱 (EDP) 측면에서 훨씬 우수한 성능을 보입니다.
4. 결과 및 성과 (Results)
성능 향상: 공동 설계 프레임워크 (ANCoEF 등) 는 기존 방법 대비 에너지 - 지연 곱 (EDP) 을 1.81 배 개선하고 탐색 시간을 2.73 배 단축한 것으로 보고되었습니다.
효율성 개선: 가속화 전략 (One-shot, Zero-shot 프록시) 을 적용하면 수천 개의 GPU 시간을 필요로 하던 탐색을 실용적인 수준으로 단축할 수 있습니다.
하드웨어 적합성: Loihi 와 같은 비동기 neuromorphic 하드웨어에 특화된 탐색 공간 (예: STMixer) 을 설계함으로써, 타이밍 오차로 인한 성능 저하를 방지하고 하드웨어 효율성을 극대화했습니다.
벤치마크 부재: ANN 과 달리 SNNaS 를 위한 표준화된 벤치마크 (SpikeNAS-Bench 등) 가 부족하여, 현재는 주로 ANN 벤치마크 (MNIST, CIFAR) 를 사용하지만 이는 SNN 의 시간적 강점을 충분히 반영하지 못한다는 한계가 지적되었습니다.
5. 의의 및 미래 전망 (Significance)
학문적 의의: 이 논문은 SNNaS 를 단순한 구조 최적화를 넘어 하드웨어/소프트웨어 공동 설계의 핵심 분야로 재정의했습니다. SNN 의 고유한 특성 (비미분 가능성, 시간 역학) 을 고려한 탐색 전략의 필요성을 강조하며, 연구자들에게 체계적인 로드맵을 제공합니다.
실용적 의의: 에너지 효율적인 AI 시스템 구현을 위해 SNNaS 를 통해 최적의 구조를 자동으로 도출함으로써, 에지 디바이스와 IoT 환경에서의 실시간 AI 적용 가능성을 높입니다.
미래 방향:
재현성 확보: 코드 및 환경 표준화 필요.
하드웨어 특화 탐색: 특정 neuromorphic 칩 (Loihi, Speck 등) 에 최적화된 구조 탐색.
새로운 벤치마크: 이미지 분류를 넘어 시간적/이벤트 기반 태스크에 적합한 SNN 전용 벤치마크 개발.
해석 가능성: 자동 탐색된 구조가 왜 좋은 성능을 내는지에 대한 이론적 이해 심화.
결론적으로, 이 논문은 SNNaS 가 neuromorphic computing 의 잠재력을 실현하기 위한 핵심 기술이며, 하드웨어와 소프트웨어를 분리하지 않고 통합적으로 최적화하는 Co-design 접근법이 필수적임을 강력히 주장합니다.