기술 요약: HAMON – 장기 예측을 위한 수동 광학 시퀀스 혼합 (Passive Optical Sequence Mixing)

문제 정의

장기 시계열 예측은 전통적으로 딥러닝 아키텍처, 특히 밀집된 중첩 표현과 디지털 행렬 곱셈을 사용하는 트랜스포머(Transformer)에 의존해 왔습니다. 그러나 최근의 증거들은 표준 벤치마크에서의 경쟁력 있는 성능이 반드시 이러한 복잡한 비선형 특징을 필요로 하는 것은 아니라는 점을 시사합니다. 경량 선형 모델(예: DLinear)과 주파수 영역 모델(예: FITS)은 핵심 예측 연산자가 저복잡도이며 대략적으로 선형적이라는 것을 입증했습니다.

이러한 관찰은 계산 기질(computational substrate)에 대한 근본적인 질문을 제기합니다. 만약 핵심적인 예측 연산이 본질적으로 시간적 또는 스펙트럼 성분의 선형 혼합이라면, 이를 반드시 학습된 디지털 산술을 통해 구현해야 할까요? 본 논문은 실리콘 상에서 계산 비용이 많이 드는 선형 연산자(곱셈-누산 연산 필요)가 수동 물리 매체, 즉 푸리에 광학(Fourier optics)에 의해 제어되는 결맞음 빛의 전파를 통해 "무료로" 수행될 수 있다고 가정합니다.

방법론

저자들은 디지털 시퀀스 혼합 레이어를 수동 회절 광학 코어로 대체하는 HAMON(Passive Optical Sequence Mixing)을 소개합니다.

핵심 아키텍처

HAMON은 예측 작업을 회절 문제로 재정의합니다:

1. 입력 인코딩: 다변량 과거 시계열 $x \in \mathbb{R}^{L \times C}$를 가로 너비 $G$인 1차원 광학 어퍼처(aperture)에 정규화(가역적 인스턴스 정규화, RevIN 사용)하여 인코딩합니다.
   • 진폭 인코딩(Amplitude Encoding): 정규화된 값들이 필드 진폭을 직접 설정합니다.
   • 위상 인코딩(Phase Encoding): 어퍼처는 단위 크기를 가지며, 정규화된 값들이 위상($e^{i\alpha \pi x}$)을 변조합니다.
   • "미래" 위치는 어두운 상태(강도 0)로 남겨둡니다.
2. 수동 광학 코어: 입력 필드는 $N$개의 직렬로 연결된 학습 가능한 위상 마스크와 그 사이의 자유 공간 전파 거리 $z$를 통과합니다.
   • 위상 마스크: 각 레이어 $\ell$은 요소별 곱셈을 통해 $\phi_\ell$ 위상 변화를 적용합니다: $U \leftarrow U \odot \exp(i\phi_\ell)$.
   • 전파: 마스크 사이에서 필드는 회절과 간섭을 시뮬레이션하는 각 스펙트럼 방법(angular-spectrum method, 푸리에 광학)을 사용하여 전파됩니다.
   • 판독(Readout): 필드는 판독 평면으로 전파됩니다. 예측값은 미래 타임 스텝에 해당하는 초기 암부(dark region)에서 추출됩니다.
     • 결맞음 판독(Coherent Readout): 복소 필드의 실수부를 사용합니다.
     • 강도 판독(Intensity Readout): 제곱된 크기 $|U|^2$를 사용합니다.
     • 차동 강도 판독(Differential Intensity Readout): 두 암부의 강도를 빼서 표준 검출기와 호환되는 부호 있는 출력을 생성합니다.
3. 출력 처리: 판독된 결과는 역정규화되어 최종 예측값 $y \in \mathbb{R}^{H \times C}$를 생성합니다.

학습

시스템은 미분 가능한 파동 광학 시뮬레이터를 통한 디지털 역전파를 통해 학습됩니다. 학습 가능한 파라미터는 오직 마스크의 위상 프로파일 $\{\phi_\ell\}_{\ell=1}^N$뿐입니다. 손실 함수는 예측에 대한 평균 제곱 오차(MSE)와 입력 이력을 재구성하기 위한 보조 백캐스트(backcast) 항을 결합합니다. 광학 코어 이후에는 디지털 선형 예측 헤드가 적용되지 않습니다.

주요 기여

1. 기질 대체(Substrate Substitution): HAMON은 경쟁력 있는 예측 모델의 시퀀스 혼합 연산자를 디지털 실리콘에서 수동 빛으로 옮길 수 있음을 보여줍니다. 이는 학습된 디지털 선형 레이어를 학습 가능한 회절 전파 연산자로 대체합니다.
2. 수동 추론(Passive Inference): 이전의 광 신경망(Optical Neural Networks)이 비선형 저장소(nonlinear reservoirs)나 디지털 판독 헤드에 의존하는 것과 달리, HAMON은 전체 시퀀스 혼합 계산을 단일 수동 광학 전파 패스를 통해 수행합니다.
3. 하드웨어 인지 설계(Hardware-Aware Design): 이 아키텍처는 하드웨어 제약을 고려하여 설계되었으며, 결맞음 진폭 판독 없이도 표준 강도 검출기와 호환되는 변형 모델(Phase/Differential-Intensity)을 제공합니다.
4. 메커니즘 검증: 결함 분석(ablation studies: 위상 스크램블링, 인터페이스 변화 등)과 교차 시뮬레이터 체크(TorchOptics)를 통해, 저자들은 예측 능력이 디지털 경계 조건이 아닌 데이터가 담긴 광학 필드와 회절의 물리 법칙에서 기인함을 검증합니다.

실험 결과

HAMON은 다양한 예측 지평 $H \in \{96, 192, 336, 720\}$와 룩백(lookback) $L=336$을 가진 표준 장기 예측 벤치마크(ETT, Weather, Electricity, Traffic)에서 평가되었습니다.

• 성능:
  • ETTm2: HAMON은 모든 지평에서 가장 강력한 디지털 베이스라인(PatchTST 및 DLinear 포함)을 능가하며 MSE를 최대 14% 개선했습니다.
  • ETTh2: 가장 긴 지평(720)을 제외한 모든 지평에서 베이스라인을 능가했습니다.
  • 기타 데이터셋: Weather에서는 경쟁력을 보였고, ETTh1, ETTm1, Electricity, Traffic에서는 가장 강력한 베이스라인에 뒤처졌습니다.
• 판독 변형(Readout Variants): 검출기 호환형인 "HAMON-DiffInt" 변형(위상 인코딩 + 차동 강도 판독)은 결맞음 판독 변형과 경쟁할 만한 성능을 유지했으며, 특히 ETTm1과 Weather에서 성능을 향상시켰습니다.
• 결함 분석(Ablations):
  • 위상 스크램블링(Phase Scrambling): 입력 위상을 제로화, 셔플링 또는 부호를 반전시키면 성능이 크게 저하되었으며, 이는 모델이 데이터의 시간적 위상 구조에 의존함을 확인시켜 줍니다.
  • 깊이(Depth): 레이어를 16개에서 24개로 늘려도 개선 폭이 미미했으며, 이는 16개 레이어 구성이 필요한 물리 법칙을 포착하기에 충분함을 시사합니다.
  • 컨텍스트 길이(Context Length): 룩백을 96에서 336으로 늘리면 성능이 향상되었는데, 이는 광학 어퍼처가 추가적인 역사적 컨텍스트로부터 이득을 얻음을 나타냅니다.

의의 및 주장

본 논문은 HAMON을 새로운 디지털 SOTA(State-of-the-Art) 모델이 아니라, 하나의 **기질 수준의 조사(substrate-level investigation)**로 명시적으로 규정합니다. 주요 주장은 현대 시퀀스 모델의 핵심 계산인—특히 장기 예측에 필요한 선형 혼합—이 수동 물리 과정으로 구현될 수 있다는 것입니다.

• 제한적 범위: 저자들은 HAMON이 완전한 엔드 투 엔드 광학 학습 모델은 아님을 인정합니다. 정규화, 인코딩 및 판독 작업은 여전히 디지털 또는 전기-광학적 경계 연산으로 남습니다.
• 시뮬레이션 vs 하드웨어: 결과는 파동 광학 시뮬레이션에 기반합니다. 논문은 실험적인 하드웨어 검증을 주장하지 않으나, 밑바탕이 되는 물리(푸리에 광학, 회절, 간섭)가 표준적이고 잘 알려져 있다는 점을 강조합니다.
• 미래 방향: HAMON은 구체적인 광학 하드웨어 구현 목표를 제시합니다. 이는 "수동 물리 시퀀스 혼합"이 타당한 연구 프로그램이 될 수 있으며, 선형 연산을 디지털 프로세서에서 회절 광학으로 오프로딩함으로써 에너지 효율적인 추론을 제공할 가능성이 있음을 시사합니다.

요약하자면, HAMON은 만약 예측 작업이 선형 연산자에 의해 해결될 수 있다면, 그 연산자가 반드시 디지털 방식으로 구현될 필요는 없으며 학습 가능한 수동 회절을 통해 효과적으로 실현될 수 있다는 가설을 검증합니다.