TurPy: a physics-based and differentiable optical turbulence simulator for algorithmic development and system optimization

1. 문제 정의 (Problem)

자유 공간 광학 (Free-space optical) 시스템의 설계 및 알고리즘 개발에는 대기 난류 (optical turbulence) 로 인한 파면 왜곡을 정확하게 모사하고, 이를 기반으로 경사 기반 최적화 (gradient-based optimization) 를 수행할 수 있는 시뮬레이션 도구가 필수적입니다.

• 기존 도구의 한계:
  • 시간 평균 시뮬레이션: 빔 확산 (beam broadening) 및 섬광 (scintillation) 과 같은 평균적인 효과는 계산할 수 있으나, 신호 저하를 유발하는 순간적인 파면 왜곡을 포착하지 못합니다.
  • 기존 수치 파동 광학 시뮬레이션: 물리적 정확도는 높으나 계산 비용이 매우 큽니다. 또한, 기존 분할 단계 (split-step) 방법론은 약한 난류 가정, 공간적 정상성, 유한 개구면 등 여러 제한 사항을 가지며, 딥러닝 기반의 '엔드 - 투 - 엔드 (end-to-end)' 최적화를 위해 필요한 **미분 가능성 (differentiability)**과 GPU 가속을 지원하지 못합니다.
• 필요성: 데이터가 제한된 환경에서도 훈련이 가능하도록, 물리 법칙을 준수하면서도 미분 가능하고 고속인 난류 시뮬레이터의 개발이 시급합니다.

2. 방법론 (Methodology)

저자들은 TurPy라는 새로운 GPU 가속 기반의 완전 미분 가능 (fully differentiable) 파동 광학 난류 시뮬레이터를 개발했습니다. 주요 기술적 구성 요소는 다음과 같습니다.

• 분할 단계 (Split-Step) 모델 기반:
  • 결정론적인 회절 (diffraction) 과 확률론적인 위상 누적 (phase accumulation) 을 분리하여 모델링합니다.
  • 광학 장 (optical field) 이 전파 transfer function (Angular Spectrum) 을 통과한 후, 통계적으로 대표적인 위상 스크린 (phase screen) 에 의해 변조되는 과정을 반복합니다.
• 물리 기반 위상 스크린 생성:
  • 매체별 **전력 스펙트럼 밀도 (PSD)**를 기반으로 위상 스크린을 생성하며, 이를 통해 대기, 해양, 생물학적 환경 등 다양한 전파 환경에 적용 가능합니다.
  • 서브하모닉 (Subharmonics) 생성: 격자 크기의 제한으로 인해 발생할 수 있는 외규모 (outer scale) 효과의 손실을 방지하기 위해, 저주파수 정보를 포착하는 서브하모닉 재귀 기법을 도입하여 물리적 정확도를 높였습니다.
  • 자동 스크린 배치 최적화: 푸리에 앨리어싱 (aliasing) 제약 조건과 약한 난류 근사 (weak-turbulence approximation, Rytov variance < 1) 를 동시에 만족하도록 위상 스크린의 간격을 자동으로 조정합니다.
• 시간 상관성 (Temporal Correlation) 모델링:
  • 난류의 시간적 변화를 모사하기 위해 자기 회귀 (autoregression) 기법을 사용합니다.
  • 풍속/유속에 의한 이동 (translation) 은 위상 기울기 (phase tilt) 로, 난류 구조의 재구성 (reorganization) 은 위상 감쇠 인자 ($\alpha$) 를 통한 새로운 랜덤 노이즈 추가를 통해 구현합니다.
• 미분 가능성 및 최적화:
  • PyTorch 기반을 사용하여 자동 미분 (automatic differentiation) 을 지원하므로, 상류 광학 소자 (예: 위상 마스크) 와 하류 알고리즘을 동시에 최적화하는 엔드 - 투 - 엔드 학습이 가능합니다.

3. 주요 기여 (Key Contributions)

1. TurPy 프레임워크 개발: 서브하모닉 생성, 자기 회귀 시간 진화, 자동 스크린 배치를 통합한 최초의 GPU 가속 미분 가능 난류 시뮬레이터입니다.
2. 광범위한 환경 지원: PSD 파라미터화 구조를 통해 대기, 해양, 생물학적 전파 환경으로의 확장이 용이합니다.
3. 이중 영역 (Dual-Domain) D2NN 학습 플랫폼: 난류 보상을 위한 회절 심층 신경망 (D2NN) 의 엔드 - 투 - 엔드 학습을 가능하게 하는 플랫폼을 제공합니다.
4. 오픈소스 공개: TurPy 를 오픈소스 패키지로 공개하여 합성 데이터 생성 및 알고리즘 개발 커뮤니티의 접근성을 높였습니다.

4. 결과 (Results)

• 물리적 정확도 검증:
  • 2 차 통계 (Gaussian 빔 확산): 약한 난류부터 강한 난류 영역까지 이론적 모델과 **99.7%~97.5%**의 정확도로 일치했습니다.
  • 4 차 통계 (Plane Wave 섬광): Rytov 분산 ($\sigma_R^2$) 이 0.235 에서 235.0 에 이르는 넓은 범위에서 이론적 모델과 98% 정확도로 일치했습니다. 특히 약한 난류에서 강한 난류로의 전환 구간과 포화 (saturation) 영역을 정확하게 재현했습니다.
• D2NN 학습 성능:
  • 1500m 거리의 약한 난류 경로에서 2 개의 마스크로 구성된 이중 영역 D2NN 을 학습시켰습니다.
  • 학습된 D2NN 은 수동적 (passive) 으로 빔을 복원하여, 보상이 없는 수신기 (naïve receiver) 대비 20 배 이상의 섬광 (scintillation) 감소를 달성했습니다.
  • 학습은 Nvidia RTX 4090 GPU 에서 39 분 만에 완료되었습니다.

5. 의의 및 결론 (Significance)

• 하이브리드 접근법의 성공: TurPy 는 높은 물리적 충실도 (high-fidelity) 와 머신러닝에 필요한 미분 가능성 및 고속 계산을 성공적으로 결합했습니다.
• 시스템 최적화 혁신: 기존의 수동적 광학 설계나 단순 시뮬레이션을 넘어, 난류 환경에서 작동하는 광학 시스템과 알고리즘을 엔드 - 투 - 엔드 방식으로 공동 최적화할 수 있는 길을 열었습니다.
• 미래 응용: 대기 광학뿐만 아니라 해양 및 생물학적 전파, 적응 광학, 지향 에너지, 원격 감지 등 다양한 분야에서 난류 보상을 위한 합성 데이터 생성 및 알고리즘 개발의 표준 도구로 자리 잡을 것으로 기대됩니다.

이 논문은 TurPy 를 통해 난류 환경에서의 광학 시스템 설계 패러다임을 '물리 기반 시뮬레이션'과 '데이터 기반 최적화'의 융합으로 전환시켰음을 보여줍니다.