General-Purpose Nonlinear Function Approximation via Linear Integrated Photonics

기술 요약: 선형 집적 광학을 통한 범용 비선형 함수 근사

문제 정의
광 컴퓨팅은 선형 연산(특히 벡터-행렬 곱셈)을 위한 매우 효율적인 플랫폼으로 성숙해 왔으나, 고차 비선형 함수를 온칩(on-chip)에서 확장 가능하게 처리하는 것은 여전히 중요한 병목 현상으로 남아 있다. 현재의 접근 방식들은 다음과 같은 트레이드오프에 직면해 있다: 물리적 광학 비선형성(예: Kerr 효과)은 제어 가능성이 제한적이고 재료의 복잡성이 높으며, 광-전-광 변환을 반복하는 광전자 전략은 지연 시간과 에너지 오버헤드를 발생시키고, 구조적 비선형성 접근 방식(예: 산란 시스템)은 암시적이고 설계가 불가능한 함수를 생성하는 경우가 많다. 결과적으로, 하드웨어의 단순성과 확장성을 유지하면서도 광범위한 클래스의 비선형 함수를 유연하게 합성할 수 있는 집적 광학 플랫폼이 부족한 실정이다.

방법론
저자들은 선형 광 회로 내에서 비선형 함수를 근사하기 위해 광학적 무작위 푸리에 특징(Optical Random Fourier Feature, RFF) 매핑을 활용하는 광전자 프레임워크를 제안한다. 핵심 개념은 비선형 함수 평가 문제를 무작위 특징 공간에서의 등가적인 선형 계산 문제로 변환하는 것이다.

시스템은 실리콘 광 플랫폼 상에서 작동하며 다음과 같은 워크플로우를 따른다:

1. 광학적 인코딩: 입력 벡터 $\mathbf{x}$는 위상 변조기(PM)를 통해 광학적 위상으로 인코딩된다. $j$번째 채널의 전기장은 $\exp(i\boldsymbol{\alpha}_j^T \mathbf{x})$로 변조되며, 여기서 $\boldsymbol{\alpha}_j$는 무작위 변조 강도를 나타낸다.
2. 선형 혼합: 위상으로 인코딩된 신호는 수동적이고 고정된 무작위 선형 광 변환(다중 산란과 간섭을 유도하도록 설계된 호형 포트를 가진 혼합 영역)을 통과한다. 이 단계는 복소수 행렬 $\mathbf{A}$로 표현되는 선형 변환을 수행한다.
3. 비선형 검출: 혼합된 광 신호는 제곱 법칙 광검출(square-law photodetection)을 통해 전기적 강도로 변환된다. 이 물리적 과정은 필수적인 비선형성을 도입하여, 기저 함수 $e^{i(\boldsymbol{\alpha}_j - \boldsymbol{\alpha}_{j'})^T \mathbf{x}}$의 중첩에 해당하는 강도 특징 $I_k = |z_k|^2$을 생성한다.
4. 선형 판독: 출력은 가중치 벡터 $\mathbf{w}$를 사용하여 이러한 강도 특징들의 학습 가능한 선형 결합에 의해 형성된다.

유효 주파수 $\boldsymbol{\omega} = \boldsymbol{\alpha}_j - \boldsymbol{\alpha}_{j'}$는 인코딩된 특징들의 쌍별 상호작용으로부터 발생하며, 이는 입력 채널 수($N$)의 제곱($N^2$)에 비례하여 스케일링된다. 이를 통해 시스템은 대상 함수의 고주파 성분을 근사할 수 있다. 저자들은 $N=32$ 입력 채널을 가진 프로토타입 소자를 활용하였다. 더 큰 칩을 제작하지 않고 확장성을 평가하기 위해, 동일한 인코더를 서로 다른 입력 채널 구성으로 순차적으로 작동시키고 출력을 오프라인에서 결합하여 더 큰 특징 공간을 모사하는 "가상 병렬화(virtual parallelization)" 기법을 사용하였다.

주요 기여

• 새로운 아키텍처: RFF 매핑을 구현하는 실리콘 광 인코더를 도입하여, 고유한 광학 비선형 재료나 능동적인 광 이득 없이도 범용 비선형 근사를 가능하게 했다.
• 광범위한 기능성: 고차 다항식부터 특수 과학 함수 및 신경망 구성 요소에 이르기까지 다양한 비선형 함수를 근사할 수 있음을 입증했다.
• 확장성 분석: 근사 정확도가 유효 특징 수와 단조적으로 개선됨을 실험적으로 검증하였으며, 이는 향리 하드웨어 확장을 위한 경로를 제공한다.

실험 결과
시스템은 다음과 같은 광범위한 벤치마크를 통해 평가되었다:

• 1차원 함수: 인코더는 주기 함수(sine, sinc)와 10차까지의 고차 르장드르 다항식(Legendre polynomials)을 성공적으로 근사했다. 또한 신경망 활성화 함수(sigmoid, ReLU, Swish)와 Voigt 프로파일, 페르미-디락 분포, 프레넬 적분(Fresnel integrals)을 포함한 과학적 특수 함수들을 정확하게 모델링했다. 정확도는 매끄럽고 연속적인 대상 함수에서 가장 높았으며, 급격한 변화나 고주파 진동이 있는 함수에서는 감소했다.
• 2차원 함수: 시스템은 2D 가우시안, 이차(quadratic), 주기 함수 및 radial sinc 함수를 근사하여 전역적 구조를 효과적으로 포착했으나, 고공간 주파수 성분에 대해서는 더 높은 잔차를 보였다.
• 실제 응용 (Softmax): Fashion-MNIST 분류 작업에서 광학 인코더는 10차원 소프트맥스(softmax) 층을 근사하는 데 사용되었다. 시스템은 디지털 베이스라인인 0.8747에 근접한 0.8592의 분류 정확도를 달erm성하였으며, 최대 근사 오차(RMSE)는 0.010 미만이었다.
• 가상 병렬화: 최대 20개의 가상 인코더 인스턴스를 에뮬레이션하여(유효 특징 수를 17에서 340으로 증가), 10차 르장드르 다항식에 대한 RMSE를 약 0.10에서 0.015로 개선했다. Voigt 및 페르미-디拉克 함수에서도 유사한 차수의 개선이 관찰되었으며, 이는 특징 차원이 정확도의 핵심 자원임을 확인시켜 준다.

의의 및 주장
저자들은 본 연구를 집적 광학 분야의 비선형 컴퓨팅을 위한 실질적인 전략으로 자리매김한다. 비선형성의 부담을 소자 물리학에서 특징 공간 표현으로 전환함으로써, 이 접근 방식은 복잡한 광학 비선형 재료를 사용하는 것의 대안으로 확장 가능한 방식을 제공한다. 논문은 이 방식이 통계적 학습 이론(RFF)과 광학 하드웨어를 연결하는 일반적인 프레임워크를 구축하여, 단순한 선형 광 회로 내에서 광범위한 클래스의 비선형 연산자를 근사할 수 있게 한다고 주장한다.

저자들은 현재의 한계점, 즉 오프라인 학습에 대한 의존성, 정적 전력 소비를 유발하는 열광학 변조기(thermo-optic modulators)의 사용, 그리고 시스템이 아직 완전한 광학 비선형 컴퓨터가 아니라는 점(광검출 및 전자적 후처리가 필요함)을 겸허히 언급하였다. 그러나 그들은 다양한 비선형 함수를 실리콘 플랫폼에서 합성할 수 있는 입증된 능력은 차세대 컴퓨팅 시스템을 위한 기능적인 광 가속기로 나아가는 경로를 열어준다고 주장하며, 이는 신경망을 넘어 과학 계산 및 신호 처리 분야로 확장될 수 있는 잠재력을 가진다고 강조했다.