기술 요약: NeuroRing

문제 정의

스파이크 신경망 (SNN) 은 에너지 효율적이고 이벤트 기반의 계산 및 생물학적 현실성을 갖춘 뇌 시뮬레이션을 위한 유망한 패러다임을 제공합니다. 그러나 대규모 SNN 을 실행하는 것은 여전히 어렵습니다. 특히 대뇌 피질 미세회로 모델과 같은 높은 연결 밀도를 가진 네트워크의 경우 더욱 그렇습니다. 이러한 워크로드에서는 희소 스파이크 통신과 동기화가 종종 런타임 비용을 지배하여 범용 하드웨어 (CPU, GPU) 와 기존 특수 솔루션이 효율적으로 해결하기 어려운 병목 현상을 만듭니다. 다양한 플랫폼이 존재하지만, 모듈성, 확장 가능한 멀티-FPGA 실행, 기존 시뮬레이터와 백엔드 독립적인 통합, 그리고 고성능 대규모 SNN 시뮬레이션을 위한 실용적인 이식성을 동시에 제공하는 아키텍처는 부족합니다.

방법론

저자들은 High-Level Synthesis (HLS) 를 사용하여 Field Programmable Gate Arrays (FPGA) 에 구현된 모듈식 및 확장 가능한 SNN 가속기인 NeuroRing을 제안합니다. 이 아키텍처는 두 가지 주요 설계 기둥으로 정의됩니다:

1. 스트림 데이터플로우 아키텍처:

   • 처리 코어는 NeuroRing CU와 SynapseRouter CU라는 두 개의 연산 단위 (CU) 로 구성됩니다.
   • NeuroRing CU는 뉴런 상태 (특히 Leaky Integrate-and-Fire 모델) 를 업데이트하고 스파이크를 생성하는 뉴런 처리 단위 (NPU) 를 포함합니다. 이는 시냅스 가중치를 병렬로 처리하기 위해 8-레인 파이프라인 아키텍처를 사용합니다.
   • SynapseRouter CU는 스파이크 라우팅을 처리합니다. 이는 고대역폭 메모리 (HBM) 에서 발신 시냅스 목록을 가져와 라우팅 지연을 최소화하기 위해 목적지 근접도에 따라 정렬한 후, 적절한 링 방향으로 패킷을 배분합니다.
   • 단위 및 코어 간의 통신은 스트림 기반이므로 계산과 통신을 중첩할 수 있습니다. 동기화는 데드락을 방지하고 타임스텝 완료를 보장하기 위해 로컬 및 글로벌 토큰을 통해 관리됩니다.

2. 양방향 링 토폴로지:

   • NeuroRing 코어는 단일 FPGA 내에서 폐쇄된 양방향 링으로 연결됩니다.
   • 멀티-FPGA 확장을 위해 링은 고속 직렬 링크 (QSFP 를 통한 Aurora 커널) 를 사용하여 장치 간에 확장되며, 동일한 좌/우 라우팅 시맨틱을 유지합니다.
   • 시스템은 평탄화된 시냅스 목록 표현에서 작동하도록 백엔드 독립적으로 설계되었습니다. 이를 통해 네트워크 모델이 생성되고 연결이 추출되어 NeuroRing 에서 요구하는 형식으로 변환되는 NEST 시뮬레이터와의 통합이 가능합니다.

주요 기여

이 논문은 네 가지 주요 기여를 개요로 제시합니다:

1. 모듈식 아키텍처: 스트림 기반 통신과 양방향 링 라우팅을 통해 단일 및 멀티-FPGA 배포를 모두 지원하는 NeuroRing 의 모듈식 가속기 설계 및 구현.
2. 워크플로우 통합: Python 기반 워크플로우를 통한 NEST 시뮬레이터 통합으로, 대뇌 피질 미세회로 (신경과학) 와 스도쿠 솔버 (제약 충족) 를 포함한 다양한 워크로드의 평가 가능.
3. 설계 공간 분석: 코어당 뉴런 용량이 성능과 에너지에 미치는 영향을 포함한 아키텍처적 트레이드오프에 대한 포괄적 분석, 그리고 강한 스케일링과 약한 스케일링 regimes 하에서의 확장성 평가.
4. 비교 평가: Dardel 슈퍼컴퓨터 (CPU 기준) 및 기타 최신 시스템에 대한 벤치마킹으로, 훨씬 낮은 전력 소비와 경쟁력 있는 성능을 입증.

결과

저자들은 대뇌 피질 미세회로 벤치마크와 스도쿠 워크로드를 사용하여 두 개의 AMD/Xilinx Alveo U55C FPGA 에서 NeuroRing 을 평가했습니다:

• 정확성: NeuroRing 은 NEST 참조 모델의 주요 활동 통계를 유지합니다. 발화율, 스파이크 간격의 변동 계수 (CV), 그리고 피어슨 상관관계에 대한 레이어별 비교는 소프트웨어 기준과 밀접한 정렬을 보여줍니다.
• 성능 (대뇌 피질 미세회로):
  • NeuroRing 은 전체 규모 대뇌 피질 미세회로 (77,169 개 뉴런) 에 대해 실시간 팩터 (RTF) 0.83으로 실시간보다 빠른 실행을 달성했습니다.
  • 강한 스케일링: 단일 FPGA 에서 두 개의 FPGA 로 반규모 워크로드를 확장할 때, NeuroRing 은 RTF 를 0.73 에서 0.51 로 감소시켜 1.43 배 속도 향상을 이루었습니다. 통신 오버헤드로 인해 선형 미만이었지만, 이는 Dardel CPU 기준 (1.19 배 속도 향상) 의 확장 효율성을 능가했습니다.
  • 약한 스케일링: 워크로드와 자원이 비례하여 증가함에 따라 (1/4 규모에서 전체 규모까지), RTF 는 0.52 에서 0.83 으로 증가했습니다. 저자들은 이상적인 약한 스케일링에서의 편차를 특정 구성에서의 구현 후 주파수 감소와 FPGA 간 동기화 오버헤드 때문이라고 설명합니다.
• 에너지 효율성:
  • NeuroRing 은 경쟁력 있는 에너지 효율성을 보여주었으며, 듀얼 유닛 구성의 경우 Dardel CPU 기준 (587 W) 보다 훨씬 적은 전력 (83 W) 을 소비했습니다.
  • 시냅스 이벤트당 에너지는 확장 구성에 따라 49 nJ 에서 84 nJ까지 다양했으며, 나열된 GPU 및 CPU 기준을 능가하고 이벤트당 에너지 측면에서 SpiNNaker 및 IBM INC-3000 과 같은 대규모 ASIC 시스템을 개선했습니다.
• 제약 충족: 시스템은 단일 FPGA 에서 SNN 승자독식 네트워크로 구성된 세 가지 스도쿠 인스턴스를 성공적으로 해결하여 종단 간 지연 시간이 0.53~0.57 초였습니다.

중요성 및 주장

이 논문은 NeuroRing 을 신경과학 시뮬레이션과 더 넓은 이벤트 기반 응용 프로그램 모두를 위한 유연하고 확장 가능한 플랫폼으로 위치시킵니다. 그 주요 중요성은 다음을 결합하는 능력에 있습니다:

• 모듈성: 핵심 논리를 재설계하지 않고 단일에서 멀티-FPGA 배포까지 확장할 수 있는 능력.
• 접근성: 상용 데이터센터 FPGA 와 Python/NEST 워크플로우를 활용하여 특수 신경형 하드웨어 (예: SpiNNaker) 보다 접근성이 높으면서도 특정 SNN 워크로드에 대해 범용 CPU 및 GPU 보다 우수한 에너지 효율성을 제공.
• 성능: 생물학적 충실도를 유지하면서 복잡하고 밀집된 생물학적 네트워크 (대뇌 피질 미세회로) 의 실시간보다 빠른 시뮬레이션 달성.

저자들은 NeuroRing 이 실시간 성능, 에너지 효율성, 아키텍처 유연성 사이의 균형을 이루는 효율적이고 대규모인 SNN 시뮬레이션을 위한 실현 가능한 길이라고 결론지었습니다. 향후 작업은 재구성 가능한 뉴런 모델과 온칩 학습 기능을 지원하도록 시스템을 확장하는 것으로 식별되었습니다.