Performance Optimisation and Simulation-Based Validation of 400 Gbps Dual-Polarization QPSK Optical Backhaul Systems for 5G and Beyond Mobile Networks

기술 요약: 400 Gbps 이중 편파 QPSK 광 백홀 시스템의 성능 최적화 및 시뮬레이션 기반 검증

문제 정의
5G 구축과 신흥 6G 애플리케이션에 의한 모바일 데이터 트래픽의 기하급수적인 성장은 광 백홀 네트워크에 용량 위기를 초래했습니다. 400 Gbps 이중 편파 직교 위상 변조(DP-QPSK)는 스펙트럼 효율성과 구현 복잡도 사이의 매력적인 균형을 제공하지만, 실제 배포 시 상당한 물리 계층 과제에 직면해 있습니다. 여기에는 높은 심볼 레이트에서 더욱 악화되는 색 분산(CD), 편파 모드 분산(PMD), 광섬유 비선형성, 증폭된 자발 방출(ASE) 노이즈가 포함됩니다. 또한, 기존의 디지털 신호 처리(DSP) 솔루션은 계산 복잡도, 전력 소비, 그리고 실제 환경 조건(예: 온도 변화 및 다양한 광섬유 특성) 하에서의 성능 사이의 절충안을 찾는 데 어려움을 겪고 있습니다. 현재의 코히어런트 DSP는 파장당 상당한 전력(25–35 W)을 소비하며, 많은 머신러닝(ML) 접근 방식은 엄격한 통계적 검증, 물리 정보 모델링 또는 실시간 구현을 위한 하드웨어 타당성 분석이 부족합니다.

방법론
저자들은 400 Gbps DP-QPSK 광 백홀 시스템을 위한 통합된 물리 정보 기반 및 데이터 구동 프레임워크를 제안합니다. 이 방법론은 다음 구성 요소들을 통합합니다:

1. 채널 모델링: 신호 전파는 적응형 스텝 사이즈 분할 단계 푸리에 방법(SSFM)을 통해 해결되는 마나코프 방정식(Manakov equation)을 사용하여 모델링됩니다. 이 프레임워크는 CD, PMD, 커 효과(Kerr nonlinearities) 및 ASE 노이즈(EDFA 잡음 지수 5 dB)를 고려합니다. 가우시안 노이즈 가정을 대체하여 도달 거리 예측 정확도를 높이기 위해 확률적-기하학적 채널 모델이 채택되었습니다.
2. DSP 아키텍처: 핵심 혁신은 하이브리드 CNN-BiLSTM(합성곱 신경망 - 양방향 장단기 메모리) 이퀄라이저입니다. 이는 기존의 상수 변조 알고리즘(CMA) 및 디지털 역전파(DBP) 방식을 대체합니다. DSP 체인은 다음과 같습니다:
   • 전단 보정 (I/Q 불균형, DC 오프셋).
   • 주파수 영역 CD 보상.
   • 클록 복구.
   • 잔류 선형 및 비선형 보상을 위한 제안된 CNN-BiLSTM 이퀄라이저.
   • ML 강화 캐리어 위상 추정.
   • 심볼 선택 및 소프트 결정 전방 오류 수정(SD-FEC).
3. 최적화 전략:
   • 다중 타임스케일 편파 추적: 칼만 필터(빠른 변동)와 재귀 최소 제곱법(느린 드리프트)을 결합한 교차 타임스케일 상관 모델.
   • 자원 적응형 DSP: 성능을 유지하면서 전력을 최소화하기 위해 실시간 채널 상태 정보(OSNR, CD, PMD)에 따라 계산 자원을 동적으로 할당.
   • 하드웨어 인지 공동 설계: 최적화 루프 내에 송신기/수신기 임페어먼트(위상 잡음, 양자화 잡음)를 명시적으로 모델링.
4. 검증 프레แ임워크: 본 연구는 시행당 $10^6$ 심볼과 1,000개의 독립적인 시행을 포함하는 몬테카를로 시뮬레이션을 활용합니다. 주장된 개선 사항이 통계적으로 유의미함을 보장하기 위해($p < 0.01$) 베이지안 추론, 신뢰 구간(Wald 및 bootstrap), 가설 검정(이표본 t-검정)을 사용하여 통계적 검증을 수행합니다. 또한, 각 아키텍처 구성 요소의 개별 기여도를 정량화하기 위해 구성 요소를 체계적으로 제거하는 어블레이션 연구(Ablation study)를 수행합니다.
5. 타당성 분석: 합성 기반 분석은 Xilinx Zynq UltraScale+ RFSoC 및 7nm CMOS ASIC를 대상으로 하며, 32 GBaud에서 CNN-BiLSTM 이퀄라이저의 지연 시간, 전력 및 자원 활용도를 추정합니다.

주요 기여
본 논문은 다음과 같은 구체적인 기여를 주장합니다:

• 하이브리드 물리-ML 모델링: 마나코프 기반 프레임워크 내에 CNN-BiLSTM 이퀄라이저를 통합하여, 단순화된 디지털 역전파(DBP)보다 복잡도가 93% 낮으면서도 95%의 비선형성 완화를 달enc성함.
• 다중 타임스케일 추적: 편파 의존적 페널티를 60% 감소시키는 새로운 추적 모델.
• 확률적-기하학적 채널 모델: 가우시안 노이즈(GN) 모델에 비해 도달 거리 예측 정확도를 25% 향상시키는 공간 상관 프로세스.
• 자원 적응형 DSP: 전체 복잡도 성능의 0.3 dB 이내를 유지하면서 35%의 전력 절감을 달성하는 동적 할당 스킴.
• 엄격한 통계적 검증: 가설 검정 및 어블레이션 연구를 통해 모든 아키텍처 구성 요소가 성능 향상에 유의미하게 기여함을 확인.
• 하드웨어 타당성: CNN-BiLSTM 이퀄라이저가 128개의 병렬 엔진을 사용하여 32 GBaud에서 7nm CMOS에서 동작할 수 있음을 보여주는 합성 기반 추정치(추정 지연 시간 2.4 μs, 전력 150 mW) 제시.

결과
4 dBm 런칭 파워 및 1200 km 무반복 전송(SSMF, EDFA NF=5 dB) 조건에서의 시뮬레이션 결과는 다음과 같습니다:

• 성능: 시스템은 표준 양자 한계(SQL)보다 4.7 dB 높은 수준에서 작동합니다. Pre-FEC 비트 오류율(BER)은 $2.8 \times 10^{-3}$으로, SD-FEC 임계값인 $2.4 \times 10^{-2}$보다 훨씬 낮습니다.
• Q-Factor: 최대 Q-factor는 10.5 dB로, 표준 DSP 대비 2.3 dB, 최적의 기존 DBP 대비 1.2 dB 개선된 수치입니다.
• 복잡도 및 전력: 제안된 아키텍처는 표준 DSP에 비해 계산 복잡도를 93%, 전력 소비를 35% 감소시킵니다.
• 비선형성 완화: 시스템은 95%의 비선형성 완화 효율을 달성합니다.
• 수렴: CNN-BiLSTM은 35 에포크(epoch) 후에 최종 손실 값 0.008로 수렴합니다.
• 통계적 유의성: 모든 주장된 개선 사항(예: 60% 위상 잡음 감소, 2.5배 큰 아이 오픈)은 t-검정을 통해 $p < 0.001$로 확인되었습니다.
• 상업적 비교: 제안된 시스템은 낮은 DSP 복잡도 덕분에 상업용 400G 시스템(예: Acacia, Infinera, Ciena)과 비교하여 경쟁력 있는 Gbps당 비용($0.80) 및 전력 효율성을 입증합니다.

의의 및 주장
본 논문은 이 연구를 5G-Advanced 및 6G 네트워크를 위한 600G–1T 광 백할로의 확장 가능한 경로로 포지셔닝합니다. 저자들은 다음과 같은 통합된 혁신을 통해 이론적 한계와 실제 구현 사이의 간극을 메운다고 주장합니다:

1. 순수 데이터 구동 모델의 "블랙박스" 특성을 피하는 물리 정보 기반 ML 프레임워크 제공.
2. 기존 문헌에서 흔히 나타나는 질적 개선이나 신뢰 구간 결여 문제를 해결하는 엄격한 통계적 검증 및 어블레이션 연구 제공.
3. 이론적인 ML 제안을 넘어 실시간 구현 제약(지연 시간, 전력, 면적)을 통한 하드웨어 타당성 입증.
4. 상용 부품(EDFA NF=5 dB, 표준 SSMF)을 사용하여 양자 한계에 근접한 성능을 달성함으로써 경제적 생존 가능성 확보.

저자들은 본 연구가 시뮬레이션 및 합성 기반 추정치에 기초하고 있음을 명시합니다. 이들은 실제 환경 조건에서 이러한 결과를 확인하기 위해 FPGA에서의 하드웨어 인 더 루프(hardware-in-the-loop) 검증 및 필드 테스트가 필요한 향후 과제임을 밝힙니다. 본 연구는 시스템을 물리적으로 배치하거나 제작된 실리콘에서 측정했다는 주장을 하지 않으며, 대신 종합적인 시뮬레이션 기반 검증 및 타당성 로드맵을 제공합니다.