Hybridizing Equilibrium Propagation with Ising Machines for Efficient Energy-Based Learning

기술 요약: 효율적인 에너지 기반 학습을 위한 평형 전파와 이싱 머신의 하이브리드화

문제 정의
심층 신경망(DNN)의 급격한 발전은 기존 GPU 기반 학습의 높은 에너지 소비와 시간 요구 사항에 의해 제약을 받아왔습니다. 물리적 하드웨어 솔버(예: 이싱 머신)는 에너지 효율적인 컴퓨팅을 위한 경로를 제공하지만, 이들은 종로 종종 외부 전자 장치에서 역전파(BP)를 통해 사전 학습되므로 하드웨어 노이즈와 제조 결함에 취약합니다. 이는 학습이 물리적 역학 내부에서 직접 발생하는 물리적으로 근거 있는 학습 방법을 필요로 합니다.

평형 전파(Equilibrium Propagation, EP)는 로컬 학습 규칙을 통해 학습과 추론을 통합하는 저명한 에너지 기반 학습 알고리즘입니다. 그러나 표준 EP는 호프필드 네트워크(Hopfield networks)에 기반하며, 이는 비-해밀토니안 소산 역학($\dot{x} = -\nabla E(x)$)에 의해 지배됩니다. 이러한 정식화는 위상 공간 수축(phase-space contraction)을 초래하여, 시스템이 전역 최적점(global optimum)보다는 국소 에너지 최솟값(local energy minima)에 빈번하게 수렴하게 만들어 학습 효과를 저해합니다. 또한, 다층 네트워크 파라미터를 대규모 스핀 시스템으로 직접 매핑하는 것은 긴 수렴 시간과 같은 확장성 문제를 야기합니다.

방법론
저자들은 cSB-EP(continuous Simulated Bifurcation Equilibrium Propagation)라고 명명된 하이브리드 학습 프레임워크를 제안합니다. 이 접근 방식은 EP의 로컬 학습 규칙과 이싱 역학(Ising-dynamics)에서 영감을 얻은 물리적 평형 경로를 통합합니다.

1. 확장된 위상 공간 역학: 순수 소산적 호프필드 완화 대신, 저자들은 해밀토니안 프레임워크에서 유도된 연속 시뮬레이티드 분기(continuous Simulated Bifurcation, cSB) 시스템으로 이를 대체합니다. 이 시스템은 뉴런 상태에 공액 변수(momentum)를 도입합니다.

   • 역학은 결합된 미분 방정식에 의해 지배됩니다: $\dot{s}_{yi} = -s_i - \gamma s_{yi} + \rho(\sum J_{ij}s_j)$ 및 $\dot{s}_i = s_{yi}$이며, 여기서 $s_{yi}$는 관성 모멘트를 제공하는 공액 좌표 역할을 합니다.
   • 활성화 함수 $\rho(x) = \min(\max(x, 0), 1)$은 계산을 가속화하기 위해 비탄성 퍼텐셜 장벽을 대체하며, 댐핑 항 $\gamma$는 수렴을 보장합니다.

2. 작동 메커니즘: 공액 좌표의 도입은 시스템이 일시적으로 더 높은 퍼텐셜 에너지 영역으로 이동할 수 있게 합니다. 이러한 관성 모멘트는 에너지가 엄격하게 단조 감소하는 비-해밀토니안 소산 시스템에는 없는 능력인, 에너지 지형의 얕은 국소 최솟값을 극복할 수 있게 합니다. 프라이들린-벤트웰(Freidlin-Wentzell) 원리에 기반한 이론적 분석은 약한 결합이 유효 에너지 장벽을 줄여 국소 최적점에서 벗어나는 전이율을 기하급수적으로 증가시킨다는 것을 시사합니다.

3. 학습 아키텍처: 이 프레임워크는 EP의 2단계 학습 규칙을 유지합니다:

   • 자유 단계(Free Phase): 네트워크가 입력 데이터 하에서 안정적인 상태로 진화합니다.
   • 넛지 단계(Nudge Phase): 타겟 상태로 시스템을 유도하기 위해 파라미터 $\beta$에 의해 제어되는 섭동(perturbation)이 출력층에 적용됩니다.
   • 구현: 알고리즘은 하이브리드 CPU/GPU 설정을 활용합니다. 데이터 처리 및 파라미터 업데이트는 CPU에서 수행되며, 계산 집약적인 기저 상태 탐색(뉴런 상태의 수렴)은 cSB 알고리즘을 사용하여 GPU에서 가속화됩니다.

주요 기여

• 새로운 역학: 본 논문은 소산적 호프필드 완화에서 확장된 위상 공간 해밀토니안 역학으로의 전환을 도입하여, 위상 공간 수축으로 인한 국소 최솟값 문제를 효과적으로 완화합니다.
• 연속 시뮬레이티드 분기(cSB): 저자들은 원래 이진 스핀 시스템을 위해 설계된 시뮬레이티드 분기 머신을 특정 활성화 함수를 가진 연속 역학 시스템으로 적응시켰습니다.
• 확장성: 본 프레임워크는 단순한 완전 연결 네트워크에서 심층 합성곱 호프필드 네트워크(CNN)로 성공적으로 확장되어, 복잡한 아키텍처와의 호환성을 입증했습니다.

결과
실험은 MNIST, Fashion-MNIST, CIFAR-10 데이터셋을 대상으로 수행되었습니다:

• 수렴 및 에너지: cSB-EP는 기존 EP에 비해 더 낮은 유효 에너지 분포와 더 빠른 상태 수렴을 달えます. 평균 네트워크 에너지는 학습 중에 더 낮은 값으로 더 빠르게 이동합니다.
• 정확도: MNIST, Fashion-MNIST, CIFAR-10에서 cSB-EP는 역전파(BP)와 유사한 테스트 에러율을 보이며, 기존 EP 변형(예: cEP)보다 우수한 성능을 보입니다. 예를 들어, CIFAR-10에서 cSB-EP는 기존 EP보다 성능이 뛰어나며 BP 성능에 근접합니다.
• 효율성: 이 방법은 기저 상태 탐색에 필요한 반복 횟수를 크게 줄이는 것을 보여줍니다. 기존 EP 알고리즘과 비교했을 때, cSB-EP는 유사한 정확도를 유지하면서 약 3배의 계산 속도 향상을 달성했습니다.
• 강건성: 프레임워크는 노이즈에 대해 향상된 강건성을 보입니다. 아날로그 또는 광전자 하드웨어의 결함을 시뮬레이션하는 노이즈 조건 하에서도, cSB-EP는 표준 EP보다 높은 분류 정확도를 유지합니다. 관성 역학은 노이즈 강도가 과도하지 않은 한, 노이즈에 의해 섭동을 받더라도 시스템이 국소 최적점에서 탈출하도록 돕습니다.

의의 및 주장
저자들은 cSB-EP가 단순히 이싱 머신을 신경망에 적용한 것 이상임을 주장합니다. 이는 새로운 이싱 머신 역학 기반 학습 패러다임을 구축합니다. 물리적 평형 경로를 변경하면서도 로컬 학습 규칙을 보존함으로써, 이 프레임워크는 효율적이고 확장 가능하며 하드웨어 친화적인 에너지 기반 학습을 위한 실행 가능한 경로를 제공합니다.

본 연구는 이 접근 방식이 광학 시스템, 광전자 시스템 및 전자 발진기와 같은 물리적 플랫폼에 배치하기에 특히 적합하다고 제안합니다. 전통적인 물리적 학습 방법의 수렴 및 노이즈 강건성 제한 문제를 해결함으로써, cSB-EP는 에너지 집약적인 역전파에 의한 사전 학습 모델에 대한 의존을 넘어, 엣지 컴퓨팅 및 IoT 기기에서의 저전력 AI 배포를 촉진하는 것을 목표로 합니다.