기술 요약: 의사-비선형 인코딩을 통한 부분 결맞음 고차 광학 신경망

문제 정의

회절 광학 신경망(DONNs)은 고속, 에너지 효율적 컴퓨팅을 위한 경로를 제공하지만, 비선형 활성화 함수가 부재하다는 근본적인 한계에 직면해 있다. 기존의 대부분의 DONN은 이상적인 결맞음 조명(coherent illumination) 하에서 작동하며 주로 선형 매핑을 구현하는데, 이는 표현 능력과 더불어 빛의 근원이 부분 결맞음(partial coherence) 특성을 갖는 실제 환경에서의 적용 가능성을 제한한다. 포화 흡수(saturable absorption)나 제2고조파 생성(second-harmonic generation)과 같은 물리적 비선형 효과가 존재하지만, 이는 종종 높은 광강도와 특수 재료를 요구한다. 반면, "의사-비선형성(pseudo-nonlinearity)"(선형 시스템 내의 인코딩 전략)은 높은 강도 요구 사항을 피할 수 있으나, 부분 결맞음 광의 물리와 통합되는 방식에 대해서는 충분히 연구되지 않았다. 해결해야 할 핵심 과제는 어떻게 하면 물리적으로 일관된 방식으로 부분 결맞음 광학 신경망에 효과적이고 제어 가능한 비선형성을 도입할 것인가이다.

방법론

저자들은 부분 결맞음 조명 하에서 작동하는 고차 광학 신경망(HONN) 프레임워크를 제안한다. 이 프레임워크는 두 가지 비선형 소스를 통합한다:

1. 결맞음 의존적 검출 비선형성(Coherence-Dependent Detection Nonlinearity): 부분 결맞음 광 하에서의 광 검출의 강도 응답으로부터 발생한다.
2. 시스템 수준의 의사-비선형성(System-Level Pseudo-Nonlinearity): 광학 시스템 내의 최적화된 인코딩 전략을 통해 달성된다.

이론적 프레임워크

이 모델은 입력 변수 간의 고차 상호작용을 도입함으로써 전통적인 선형 가중치 아키텍처를 확장한다. 출력 $y$는 입력 진폭, 위상 변조 및 결맞음 행렬($\Gamma$)의 상호작용으로부터 비선형 항이 발생하는 고차 다항식 전개로 기술된다.

• 의사-비선형성: 위상 변조 파라미터($\Phi_i = a_i X + B_i$)를 가진 회절 층에 입력 데이터를 인코딩함으로써 구현된다. 특정 계수($a_i$)를 0으로 설정함으로써, 시스템은 서로 다른 비선형 차수(1차~4차)에서 작동하도록 조정될 수 있다.
• 부분 결맞음 시뮬레이션: 시스템은 가우시안-셸 모델(Gaussian-Schell model)을 활용한다. 부분 결맞음 전파를 효율적으로 시뮬레이션하기 위해, 저자들은 결맞음 길이($l_c$)로 정의된 무작위 스펙트럼을 가진 결맞은 광장(coherent light fields)의 중첩($M=20$)을 사용한다.
• 실험 플랫폼: 가시광 영역의 공간 광 변조기(SLM) 설정(파장 660 nm)을 사용하여 4층 DONN을 구현하였다. 시스템은 입력 진폭/위상 인코딩을 위한 하나의 SLM과 특정 비선형 차수를 달성하기 위해 변조된 위상을 로드하는 두 번째 SLM을 사용한다.

훈련 및 검증

모델은 Rayleigh–Sommerfeld 회절 이론과 각 스펙트럼 방법(angular spectrum method)을 사용하여 훈련되었으며, 교차 엔트로피 손실(cross-entropy loss)과 함께 Adam 옵티마이저를 통해 최적화되었다. 검증은 다음을 대상으로 수행되었다:

• Digit MNIST 및 Fashion MNIST: 다양한 결맞음 길이($l_c$)와 비선형 차수에 따른 성능 추세를 분석하기 위함이다.
• RAF (Real-world Affective Faces) 및 MedMNIST: 복잡한 실제 데이터셋에 대한 실질적인 적용 가능성을 입증하기 위함이다.
• 강건성 테스트: 훈련 결맞음 길이($l_{c-train}$)와 테스트 결맞음 길이($l_{c-test}$)가 서로 다를 때의 성능을 평가한다.

주요 기여

1. 통합 HONH 프레임워크: 본 논문은 의사-비선형성과 부분 결맞음을 통합하는 고차 광학 추론을 위한 일반적인 프레임워크를 구축한다. 저자들은 물리적 비선형성과 의사-비선형성이 통합된 수학적 형태의 대안적 구현체라고 주장한다.
2. 실험적 입증: 저자들은 가시광 스펙트럼에서 HONN 모델을 실험적으로 검증하였으며, 결맞음 길이와 비선형 차수가 증가함에 따라 분류 정확도가 향상됨을 입증하였다.
3. 결맞음 강건성: 연구 결과, 고차 변조가 유효한 비선형 응답을 강화하여 감소된 결맞음으로 인한 성능 저하를 보상한다는 것을 밝혀냈다. 이는 피크 정확도와 결맞음 불일치에 대한 강건성 사이의 트레이드오프를 시사한다.
4. 효율성: 제안된 HONN은 전통적인 전기적 신경망의 10% 미만의 계산 복잡도를 사용하면서도 그와 대등한 성능을 달성한다.

결과

• 성능 추세: Digit MNIST에서 결맞음 길이가 $8\Delta x$에서 완전 결맞음 상태로 이동함에 따라, 시뮬레이션 정확도는 79.25%에서 94.83%(1차) 및 83.23%에서 95.55%(3차)로 증가했다. 실험 결과도 유사한 경향을 따랐으며 최대 90.25%의 정확도에 도달했다.
• 실제 데이터셋: RAF 데이터셋에서 부분 결맞음 HONN은 72.68%의 정확도를 달축성했으며, MedMNIST에서는 97.17%를 기록했다. 전기적 판독 층(광전자 하이브리드)과 결합했을 때, 정확도는 각각 75.86%와 98.39%로 향상되었다.
• 스케일링 동작: 모델 용량과 결맞음 사이의 강력한 결합이 관찰되었다. 낮은 결맞음 조건에서는 과잉 매개변수화된 모델이 과적합 및 최적화의 어려움을 겪은 반면, 높은 결맞음은 고용량 네트워크의 훈련을 용이하게 했다.
• 강건성: 낮은 결맞음 수준($l_{c-train} = 8\Delta x$)에서 훈련된 모델은 높은 결맞음에서 훈련된 모델보다 테스트 결맞음 조건이 감소할 때 성능 저하가 적고 더 넓은 범위의 테스트 결맞음 조건에서 안정적인 성능을 유지했다.

의의 및 주장

저자들은 본 연구가 부분 결맞음 조명 하에서의 고차 광학 신경 계산을 위한 통합 프레스크를 제공함으로써 연구 공백을 메운다고 주장한다. 그들은 부분 결맞음이 단순히 제한 요소가 아니라, 추론 동작을 형성하는 "물리적으로 의미 있는 자유도"라고 단언한다.

본 연구의 의의는 다음과 같다:

• 실제적 배포: 자연광(본질적으로 부분 결맞음인) 조건 하에서의 머신 비전, 계산 이미징 및 센싱을 위한 광학 컴퓨팅 경로를 제공한다.
• 일반화 가능성: 전통적인 회절 모델을 넘어 메타표면 기반 시스템이나 저임계 비선형 소자에도 적용 가능한 프레임워크를 확립한다.
• 효율성: 광학 추론이 정확도 측면에서 전기적 네트워크와 경쟁할 수 있으면서도 계산 복잡도를 획기적으로 줄일 수 있음을 입증한다.

논문은 부분 결맞음 광학 시스템의 성능과 강건성을 최적화하기 위해서는 결맞음, 비선형 차수, 그리고 모델 용량이 함께 공동 설계(co-design)되어야 한다고 결론짓는다.