ML-Enabled Deformable Matched Filters for Band-Limit Compensation in Free-Space Optics

기술 요약: 자유 공간 광통신에서의 대역 제한 보상을 위한 ML 기반 가변형 정합 필터(Deformable Matched Filters)

문제 정의
캐리어리스 진폭 및 위상(CAP) 변조는 대역폭이 제한된 광통신 시스템을 위한 대역 효율적인 솔루션입니다. 그러나 CAP의 성능은 대역폭 제한, 대기 난류 및 하드웨어 결함(예: 광검출기 포화)으로 인한 펄스 형태 왜곡에 매우 민듯합니다. 전통적인 CAP 수신기는 이상적인 채널을 위해 설계된 고정된 해석적 정합 필터(CMF)에 의존합니다. 실제 환경에서 대역폭 제한은 신호 통계의 급격한 변화를 야기하며, 이는 명목상 필터와 최적의 수신기 구조 사이의 불일치를 초래합니다. 적응형 등화 기술이 존재하기는 하지만, 이는 종종 많은 대역폭을 소모하는 트레이닝 시퀀스를 필요로 하거나, 샘플링 전 단계에서 발생하는 펄스 형태 왜곡을 직접 보상할 수 없는 심볼 레벨에서 동작한다는 한계가 있습니다. 또한, 기존의 머신러닝(ML) 접근 방식은 일반적으로 고차원 파형이나 심볼 시퀀스 상에서 동작하며, 물리적 해석력이 부족하고 상당한 계산 자원을 요구하는 경우가 많습니다.

방법론
본 논문은 신경망 보조 가변형 정합 필터링(Neural-Network-Assisted Deformable Matched Filtering, DMF) 프레임워크를 제안합니다. 본 연구는 해석적으로 도출된 CAP 정합 필터를 블랙박스 모델로 대체하는 대신, 명목상 필터의 **잔차 변형(residual deformation)**을 학습합니다.

• 특징 추출: 시스템은 수신된 파형으로부터 물리적으로 유도된 16개의 압축된 신호 특징 세트를 추출합니다. 이 특징들은 견고성을 확보하기 위해 4개의 시간적 세그먼트에 걸쳐 평균화됩니다. 특징은 다음과 같이 분류됩니다:
  1. 시간 영역 통계: RMS 진폭, 분산, 왜도(skewness), 첨도(excess kurtosis), 평균 엔벨로프.
  2. 주파수 영역 특성: 스펙트럼 확산, 롤오프(roll-off), 평탄도, 엔트로피, 3 dB 대역폭.
  3. 신호 품질 지표: PAPR(Peak-to-Average Power Ratio), 피크 전력, 특정 래그(lag)에서의 자기상관, 엔벨로프 크레스트 팩터.
• 신경망 아키텍처: 경량화된 완전 연결 신경망(2개 층: 16 → 256 → 384 뉴런)이 16차원 특징 벡터를 복소수 값의 필터 보정 항($\Delta h$)으로 매핑합니다. 이 네트워크는 필터를 처음부터 학습하는 것이 아니라, 베이스라인 CMF 계수에 대한 잔차 보정치를 예측합니다.
• 필터 적응: 최종 가변형 필터는 해석적으로 도출된 시간 역전 필터에 예측된 보정치를 더하여 얻어집니다. 결과 필터는 적용 전 에너지 정규화 과정을 거칩니다.
• 학습: 네트워크는 하드웨어 인 더 루프(Hardware-in-the-Loop, HITL) 설정을 통해 엔드 투 엔드(end-to-end)로 학습됩니다. 손실 함수는 EVM(Error Vector Magnitude)과 물리적으로 구현 가능하고 진동이 없는 필터 계수를 보장하기 위한 평활도 정규화 페널티(1차 및 2차 미분)의 가중치 결합으로 구성됩니다. 학습은 체계적인 대역폭 변화를 포함한 온라인 데이터 생성을 활용하며, 특정 심볼 패턴에 대한 과적합을 방지하기 위해 고정된 훈련 세트를 사용하지 않습니다.

실험 설정
검증은 200 mm 자유 공간 광 링크 상에서 850 nm로 동작하는 CAP 전송 시스템을 사용하여 수행되었습니다. 시스템은 DAC/ADC 변환을 위해 Xilinx Zynq ZCU102 보드와 Analog Devices FMC-DAQ3를 사용했습니다. 대역폭 제한은 정규화된 차단 주파수($\omega_n$)가 0.5에서 0.9 범위인 101-탭 FIR 필터를 통해 디지털 도메인에서 에뮬레이션되었습니다. 시스템은 수신 광 출력이 -25 dBm에서 +5 dBm 사이인 조건에서 4-QAM 및 16-QAM 변조 형식을 테스트했습니다.

주요 결과

• 심각한 제약 조건하의 성능: 심각한 대역폭 제한($\omega_n = 0.5$) 상황에서 기존 정합 필터(CMF)는 50%를 초족하는 EVM 값을 나타내어 복조가 불가능한 상태가 되었습니다. 제안된 DMF는 동일한 조건에서 EVM을 30% 미만으로 낮추었으며, 이는 약 40% 이상의 상대적 성능 향상을 의미합니다.
• 중간 영역: 전이 영역($\omega_n \in [0.65, 0.75]$)에서 DMF는 CMF 대비 5~15%의 일관된 EVM 개선을 제공했습니다.
• 우아한 성능 저하(Graceful Degradation): 대역폭 제한이 완화됨에 따라($\omega_n \ge 0.85$), DMF 성능은 CMF와 수렴했습니다. 신경망은 0에 가까운 보정치를 학습하여 해석적으로 최적인 필터로 효과적으로 복귀하였으며, 이를 통해 유리한 조건에서 발생할 수 있는 성능 저하를 방지했습니다.
• 등화기와의 비교:
  • 심볼 레이트에서 동작하는 192-탭 LMS 선형 등화기는 CMF 대비 측정 가능한 개선을 전혀 보여주지 못했으며, 이는 펄스 형태 왜곡이 데시메이션(decimation) 이후에는 복구 불가능하게 손실됨을 확인시켜 줍니다.
  • 심볼 레이트에서 동작하는 MLP 후방 등화기는 ISI가 지배적인 영역(중간 및 심각한 대역폭 제한)에서 DMF와 유사하거나 DMF보다 낮은 성능을 보였습니다. MLP는 노이즈가 지배적인 영역에서 미세한 이점을 보였으나, DMF는 데시메이션 전 단계에서 동작하며 파일럿 심볼이나 주기적인 재학습을 요구하지 않으므로 더 우수한 복잡도-성능 트레이드오프를 제공합니다.
• 일반화: DMF는 다양한 변조 형식(4-QAM 및 16-QAM)에 대해 견고함을 입증하였으며, 16-QAM으로 학습된 모델을 재학습 없이 4-QAM에 적용했을 때의 일반화 능력도 보여주었습니다.

의의 및 주장
본 논문은 제안된 DMF 프레임워크가 고전 통신 이론과 데이터 기반 최적화 사이의 간극을 성공적으로 메웠다고 주장합니다. 주요 의의는 다음과 같습니다:

1. 하이브리드 전략: 전체 수신기 구조를 교체하는 대신 잔차 보정을 학습함으로써, 해석적으로 도출된 정합 필터의 신뢰성과 해석력을 유지하면서 머신러닝의 적응성을 결합했습니다.
2. 데시메이션 전 개입: 심볼 레이트 샘플링 이전에 정합 필터 자체를 적응시킴으로써, 심볼 레이트 등화기가 복구할 수 없는 펄스 형태 왜곡을 보상합니다.
3. 효율성 및 해석력: 물리적 지식이 반영된 압축된 특징 세트를 사용하여, 고차원 파형 기반의 딥러닝 모델과 달리 작은 신경망 아키텍처(102,528개 파라미터)를 통해 빠른 수렴과 물리적 해석력을 유지합니다.
4. 견고성: DMF는 심각한 대역폭 제한 상황에서 유의미한 성능 향상을 보여주는 동시에, 조건이 유리할 때는 기존 성능으로 우아하게 복귀함으로써 ML로 인한 불안정성 위험을 제거합니다.

저자들은 이 접근 방식이 특히 ISI가 주요 장애물인 대역폭 제한 광 링크를 위한 실용적이고 파일럿이 필요 없는 블록 적응형 솔루션을 제공한다고 결론지었습니다. 향후 연구 과제로 대기 임페어먼트(난류, 신틸레이션) 조사 및 분수 간격 등화기(fractionally spaced equalizers) 및 완전한 DSP 체인과의 비교가 제시되었습니다.