A bio-inspired hybrid lifelong learning based on self-selective memristors

기술 요약: 자기 선택적 멤리스터 기반의 생체 모사 하이브리드 평생 학습 시스템

문제 정의
동적인 개방형 환경에서 작동하는 인공지능 시스템은 지식을 지속적으로 습득하고 보유하면서도 기존의 기술을 보존하는 능력인 '평생 학습(lifelong learning)' 능력을 필요로 한다. 현재의 AI 모델은 새로운 작업을 학습할 때 기존의 표현이 덮어씌워져 기존 지식이 소실되는 '파괴적 망각(catastrophic forgetting)' 현상을 겪는 '안정성-가소성 딜레마(stability-plasticity dilemma)'에 직면해 있다. 기존의 솔루션들은 대개 두 가지 상반된 범주로 나뉜다. 하나는 적응성을 희생하여 지식을 보호하는 정규화 기반 방식이며, 다른 하나는 유연성을 촉진하지만 학습된 표현을 불안정하게 만들 위험이 있는 동적 구조 또는 메모리 재생 방식이다. 더욱이, 이러한 소프트웨어 중심의 접근 방식은 상당한 계산 오버헤드와 메모리 비용을 초발한다. 복잡한 생체 모사 알고리즘과 이를 실행하는 하드웨어 사이에는 심각한 단절이 존재한다. 대부분의 생체 모사 모델은 개별적인 생물학적 메커니즘(예: 능동적 망각 또는 메타가소성)을 채택할 뿐 시너지 효과를 내는 통합을 이루지 못하며, 메모리와 프로세싱이 분리된 폰 노이만 구조에 의존함으로써 엣지 애플리케이션에서의 과도한 에너지 및 지연 시간을 초래한다.

방법론
저자들은 두 가지 상호 보완적인 신경생물학적 원리를 하드웨어 네이티브 학습 시스템에 통합함으로써 이 간극을 메우는 하드웨어-알고리즘 공동 설계(co-design) 패러다임을 제안한다.

1. 알고리즘 프레임워크 (하이브리드 평생 학습 - HLL):
   HLL 모델은 두 가지 구별된 생물학적 메커니즘을 융합한다:

• 초파리에서 영감을 받은 동적 능동 망각 (DAF): 초파리의 머슬 바디(mushroom body)를 모사한 이 메커니즘은 자원 할당을 최적화하고 가소성을 높이기 위해 중복된 시냅스를 가지치기한다. 이는 약하게 강화된 입력은 빠르게 쇠퇴하고 강하게 강화된 입력은 유지되는 "능동적 망각률($\alpha$)"을 포함한다.
• 인간 뇌(HB)에서 영감을 받은 메타가소성 및 공고화: 인간 뇌의 메커니즘에서 착안한 이 구성 요소는 공고화된 지식을 보호하고 순방향 전이(forward transfer)를 촉진한다. 이는 도파민 매개 메타가소성과 유사하게, 작업별 기대치 및 오차에 따라 시냅스 가소성을 조절하는 글로벌 이득 파라미터($\beta$)를 활용한다.

2. 하드웨어 구현 (자기 선택적 멤리스터 - SSM):
   이러한 역동성을 물리적으로 구현하기 위해, 저자들은 ITO/InOx/GaOx/Pt 자기 선택적 멤리스터의 1-kb (32×32) 크로스바 어레이를 제작하였다.

• 소자 물리학: 이 이중층 이종 구조는 낮은 산소 공석 농도(7.6%)를 가진 GaOx 층(정류 장벽 역할)과 높은 산소 공석 농도(65.33%)를 가진 InOx 층(저항 스위칭 촉진 역할)을 특징으로 한다. 이러한 비대칭성은 높은 자기 정류 특성(SR > $10^6$)과 비선형성(NL > $10^6$)을 생성하여 외부 선택기 없이도 크로스토크를 방지한다.
• 내재적 역동성: 소자는 능동적 망각을 모사하는 조절 가능한 전도도 쇠퇴를 나타낸다. 쇠퇴율은 자극 의존적이며, 이를 통해 프로그래밍 가능한 유지 비율을 제공한다. 또한, 이 소자들은 STDP, PPF, PPD와 같은 필수적인 시냅스 기능을 지원한다.
• 시스템 아키텍처: 시스템은 5개의 병렬 시냅스 처리 코어(SPC)를 통합한다. 각 SPC는 펄스 진폭과 주파수를 통해 서로 다른 튜너블 가중치 업데이트 역동성을 갖도록 프로그래밍되어 가소성-안정성의 구배(gradient)를 형성한다. SPC1은 높은 가소성(빠른 적응, ~92% 망각률)을 갖도록 구성되었고, SPC5는 높은 안정성(지식 유지, ~37% 망각률)을 갖도록 구성되었다.

3. 공동 설계 전략:
   시스템은 5개의 코어가 들어오는 작업을 병렬로 처리하는 분산 프로세싱 아키텍처를 통해 작동한다. 가소성-안정성 프로파일이 현재 작업과 가장 잘 일치하는 코어가 지배적인 끌개(attractor)가 된다. 하드웨어 호환 가능한 이득 파라미터($\beta$)는 알고리즘 규칙과 소자 물리학을 연결하며, 뉴로모듈레이션 및 희소 게이팅(sparse gating)을 구현하기 위해 펄스 파라미터를 조절한다.

주요 기여

• 시너지적 생물학적 통합: 본 연구는 초파리 유래의 능동적 망각과 인간 유래의 메타가소성을 단일한 통합 모델로 결합함으로써 고립된 생물학적 메커니즘을 넘어선다.
• 하드웨어 네이티브 에뮬레이션: SSM 소자는 가소성-안정성 연속체를 물리적으로 구현한다. 소자의 내재적 전도도 쇠퇴와 자기 정류 특성은 소프트웨어 기반의 정규화나 외부 선택기에 의존하지 않고 학습 규칙(망각 및 공고화)을 직접 실행한다.
• 확장 가능한 아키텍처: 이 설계는 1/3V 스킴 하에서 최대 17.1 Tb의 테라비트 규모 저장 용량을 달성하였으며, 이는 스니크 패스 전류(sneak-path currents)를 억제하는 SSM의 높은 자기 선택성 덕분이다.
• 그레이디언트 가소성-안정성 연속체: 5-코어 아키텍처는 빠른 재구성 가능성부터 장기 유지에 이르는 하드웨어 네이티브 연속체를 생성하여, 명시적인 코어 선택 로직 없이도 창발적인 협력적 작업 분할을 가능하게 한다.

결과
시스템은 하드웨어로 보정된 시뮬레이션을 사용하여 20개의 연속적인 CIFAR 변형 작업(S-CIFAR-100, R-CIFAR-100, R-CIFAR-10/100)에 대해 평가되었으며, 타일 단위의 하드웨어 테스트를 통해 검증되었다.

• 성능: 시스템은 평균 테스트 정확도 68.5%를 달성하여 CPU(70%) 및 GPU(70.3%) 구현과 유사한 성능을 보였으며, DAF 단독 모델보다 크게 우수한 성능을 나타냈다.
• 효율성: 기존 CMOS 가속기와 비교했을 때, SSM 기반 시스템은 3.42배의 속도 향상과 91배의 에너지 효율 개선을 입증했다.
• 안정성-가소성 균형: 시스템은 순방향 전이(FT)와 역방향 전이(BWT) 사이의 균형을 성공적으로 맞추었다. 최적의 능동 망각률($\alpha$) 범위는 약 120%로 나타났으며, 이보다 낮으면 전이가 불충분하고, 이보다 높으면 치명적인 성능 저하를 일으켰다.
• 강건성: 시스템은 견고한 제조(LRS에서의 D2D 변동은 2.91%)를 통해 최소화된 소자 간(D2D) 및 사이클 간(C2C) 변동에도 불구하고 성능을 유지했다.
• 하드웨어 검증: 1-kb 어레이 전반의 판독 오차는 ±0.06% 이내로 제한되었으며, 타일 레벨 상대 오차는 0.08%로 나타나 높은 계산 충실도를 확인했다.

의의
본 논문은 실세계 시스템에 평생 학습을 효율적으로 배포하기 위한 확장 가능한 하드웨어-알고리즘 통합 기반을 구축했다고 주장한다. 멤리스터 물리 내에 직접 내재된 다중 메커니즘 시너지를 통해 안정성-가소성 트레이드오프를 해결함으로써, 본 연구는 복잡한 생체 모사 알고리즘과 실제적인 하드웨어 구현 사이의 오랜 단절을 메운다. 이는 뉴로모픽 AI가 수동적인 메모리 기질을 넘어, 동적인 환경에서 지속적이고 자원 효율적인 적응이 가능한 능동적이고 적응적인 컴퓨팅 플랫폼으로 나아갈 수 있음을 보여준다. 저자들은 이 공동 설계 패러다임이 전통적인 폰 노이만 아키텍처의 에너지 및 지연 시간 페널티 없이 오픈 엔디드(open-ended) 실세계 시나리오에서 효과적으로 작동할 수 있는 자율 시스템을 향한 중요한 단계라고 위치시킨다.