On-chip 1 TOPS Hyperdimensional Photonic Tensor Core using a WDM Silicon Photonic Coherent Crossbar

기술 요약: WDM 실리콘 포토닉 코히어런트 크로스바를 활용한 온칩 1 TOPS 초차원 포토닉 텐서 코어

문제 제기
인공지능 (AI) 응용 분야의 급속한 확장은 행렬 - 벡터 (MVM) 및 텐서 - 벡터 (TVM) 곱셈과 같은 고도로 효율적인 선형 대수 연산을 수행할 수 있는 컴퓨팅 시스템에 대한 긴급한 수요를 창출했습니다. 포토닉 가속기는 유망한 에너지 효율성과 대역폭을 제공하지만, 현재 구현체들은 현대 AI 모델의 매개변수 요구 사항을 충족시키기 위해 확장하는 데 상당한 장애물에 직면해 있습니다. 기존 접근 방식은 종종 단일 멀티플렉싱 차원에 의존합니다: 코히어런트 포토닉 메쉬를 통한 공간 분할 멀티플렉싱 (SDM) 은 확장성을 제한하는 삽입 손실에 시달리며, 파장 분할 멀티플렉싱 (WDM) 은 온칩에서 상당한 채널 수를 생성하는 데 어려움을 겪고, 시간 분할 멀티플렉싱 (TDM) 은 지연 시간을 도입하고 처리량 확장 문제를 해결하지 못합니다. furthermore, 수백 TOPS 를 초과하는 최첨단 실험적 시연들은 대부분 벌크 광섬유 기반 장치에 의존해 왔으며, 이로 인해 시간, 공간, 파장 멀티플렉싱을 동시에 활용하는 온칩 시스템은 여전히 고군분투하고 있습니다.

방법론
저자들은 새로운 시간 - 공간 - 파장 분할 멀티플렉싱 (TSWDM) Xbar 아키텍처를 제안하고 실험적으로 검증했습니다. 이 설계는 세 가지 동시 멀티플렉싱 차원을 지원하도록 코히어런트 포토닉 크로스바 (Xbar) 를 일반화합니다:

1. 시간: 연산이 시간 영역에서 직렬화됩니다.
2. 공간: 계산 작업 부하가 공간적 행과 열에 걸쳐 분배됩니다.
3. 파장: 기본 계산 노드가 여러 파장 채널에 걸쳐 병렬화됩니다.

이 아키텍처는 다중 파장 소스, $L \times M \times N$ Xbar 메쉬 (여기서 $L$, $M$, $N$ 은 각각 파장 채널, 행, 열을 나타냄), 그리고 디멀티플렉싱 검출 지점으로 구성됩니다. 시스템은 디멀티플렉싱 및 멀티플렉싱 단계 사이에 교차 배치된 기본 요소들 (일반적으로 진폭 변조기와 위상 변조기) 의 배열로 구성된 각 노드를 포함하는 멀티플렉싱된 계산 노드 그리드를 활용합니다.

실험적 검증을 위해 저자들은 200 mm IMEC 플랫폼 위에 4 채널, 2 입력 실리콘 포토닉 Xbar 를 제작했습니다. 칩은 다음을 통합합니다:

• 입력 및 가중치 변조기로 작용하는 SiGe 50 $\mu$m, 56 GHz 프란츠 - 케르디시 전기 - 흡수 변조기 (EAMs).
• 적절한 부호 부여 및 보강 간섭을 보장하기 위한 170 $\mu$m 열광학 위상 편이기 (TO-PS).
• 3 nm 인접 채널 간격을 제공하는 온칩 4 채널 듀얼 마이크로링 (DE)-MUX 단계.

실험 설정에는 4 채널 가변 레이저 소스, RF 구동을 위한 임의 파형 발생기 (AWG), 그리고 시간 적분기 및 활성화 함수의 오프라인 구현이 사용되었습니다. 시스템은 DC 특성 분석, 텐서 - 벡터 곱셈 (TVM), 그리고 Iris 데이터셋 분류를 위해 훈련된 완전 연결 신경망에 대한 추론을 위해 테스트되었습니다.

주요 결과

• 텐서 - 벡터 곱셈: 4 채널, 2 입력 TSWDM Xbar 는 이상적인 곱과 비교하여 평균 오차 **3.9%**로 TVM 연산을 성공적으로 시연했습니다. 이는 변조기의 비선형성과 비균일한 삽입 손실 (IL) 을 복원하도록 시스템을 보정함으로써 달성되었습니다.
• 신경망 추론: Iris 데이터셋 분류 작업에서 포토닉 프로세서는 4$\times$10 에서 4$\times$30 GBd 사이의 데이터 속도에서 실험적 정확도 **93.3%**를 달성했습니다. 정확도는 견고하게 유지되어 데이터 속도가 4$\times$60 GBd 로 증가했을 때에도 **83.3%**에 도달했습니다.
• 계산 처리량: 온칩 시스템은 480 GOPS/mm²의 발자국 효율로 0.96 TOPS의 계산 처리량을 시연했습니다.
• 확장성 분석: 이론적 분석은 SDM 아키텍처에 WDM 방식을 통합하면 필요한 작동 레이저 전력을 줄인다는 것을 나타냅니다. 특정 계산 처리량의 경우, WDM 접근 방식은 주로 확장된 레이아웃에서 물리적 교차 횟수가 줄어들어 발생하는 삽입 손실 감소로 인해 동등한 전력의 순수 SDM Xbar 에 비해 최대 1 비트의 달성 가능한 비트 해상도 개선을 제공합니다.

의의 및 주장
본 논문은 시간, 공간, 파장 차원을 시너지 효과로 결합하여 온칩에서 임의의 MVM 및 TVM 계산을 수행할 수 있는 최초의 코히어런트 초멀티플렉싱 포토닉 프로세서를 제시한다고 주장합니다. 저자들은 이 아키텍처가 단일 차원 멀티플렉싱 방식의 한계를 해결하면서 많은 수의 학습 가능한 매개변수를 지원하면서 계산 능력을 확장하는 성숙한 경로를 제공한다고 주장합니다.

이 연구는 원시 계산 능력 측면에서 공간 및 스펙트럼 차원이 상호 교환 가능하지만, WDM 접근 방식이 포토닉 회로를 확장하기 위한 더 지속 가능한 경로를 제공한다는 점을 강조합니다. 구체적으로, 분석은 WDM 레이아웃이 레이저 전력 요구 사항을 줄이고 공간 차원을 증가시키는 것과 관련된 삽입 손실 페널티를 완화함으로써 POPS(초당 페타 연산) 영역의 계산 처리량을 가진 포토닉 가속기 구축 가능성을 현실적으로 높일 수 있음을 시사합니다. 0.96 TOPS 온칩 코어의 실험적 시연은 이러한 초차원 접근 방식의 개념 증명 역할을 합니다.