Three-Module SC-VAMP for LDPC-Coded Nonlinear Channels

1. 문제 정의 (Problem Statement)

현대 통신 시스템 (무선, 광섬유 등) 은 전력 증폭기 포화, ADC 클리핑, 광섬유 커 효과 (Kerr effect) 등으로 인해 비선형 왜곡을 겪습니다. 이로 인해 수신 신호 모델은 $y = f(Hx) + z$와 같이 선형 혼합 ($Hx$) 에 비선형 함수 ($f$) 가 적용된 후 가산성 백색 가우시안 잡음 ($z$) 이 더해지는 형태로 바뀝니다.

• 기존 방법의 한계:
  • 기존 VAMP(벡터 AMP) 나 OAMP 는 선형 관측 ($y=Hx+z$) 에 최적화되어 있어 비선형 채널에 직접 적용 시 모델 불일치 (model mismatch) 로 인해 성능이 급격히 저하됩니다.
  • GLM-VAMP(Generalized Linear Model VAMP) 는 비선형성을 처리할 수 있으나, 기존 방식은 자코비안 (Jacobian) 기반의 업데이트를 사용하여 계산이 복잡하고, 부호화 (coding) 제약 조건을 통합하는 방식이 직관적이지 않습니다.
  • 기존 터보 등화 (Turbo Equalization) 는 LLR(로그 우도비) 차분을 사용하여 외적 정보를 교환하는데, 이는 휴리스틱 (heuristic) 접근법이며 이론적 근거가 부족할 수 있습니다.

2. 방법론 (Methodology)

저자들은 3- 모듈 SC-VAMP 아키텍처를 제안하여 inference 문제를 세 개의 모듈로 분해하고, **점수 함수 (Score function)**와 **피셔 정보 (Fisher information)**를 기반으로 한 통일된 외적 메시지 교환 프로토콜을 적용했습니다.

A. 시스템 모델 및 분해

수신 모델 $y = f(Hx) + z$를 잠재 변수$W = Hx$를 도입하여 마르코프 체인$X \to W \to Y$로 재구성합니다. 이를 통해 결합 확률 밀도 함수를 세 가지 요소로 분해합니다:

1. 우도 (Likelihood): $p_{Y|W}$ (비선형 관측 처리)
2. 커플링 (Coupling): $p_{W|X}$ (선형 혼합 $W=HX$ 처리)
3. 사전 (Prior): $p_X$ (LDPC 부호 제약 처리)

B. 3- 모듈 아키텍처

각 모듈은 가우시안 의사 관측 (pseudo-observation) 을 입력받아 평균 - 분산 쌍으로 외적 메시지를 출력하며, **Onsager 보정 (Onsager correction)**을 통해 정보의 중복 계산을 방지합니다.

1. Module A (Likelihood Module):
   • 역할: 비선형 관측 $y = f(W) + z$로부터 $W$를 추정합니다.
   • 구현: $f$가 요소별 (element-wise) 함수일 경우, **가우스 - 헤르미트 구적법 (Gauss-Hermite quadrature)**을 사용하여 점수 함수와 사후 분산을 정확하게 계산합니다. $f$가 알려지지 않은 경우 데이터 기반 점수 학습 (score learning) 으로 확장 가능합니다.
2. Module C (Coupling Module):
   • 역할: $W = HX$라는 선형 제약 조건을 만족하도록$X$와$W$를 연결합니다.
   • 구현: 선형 최소 평균 제곱 오차 (LMMSE) 추정을 사용합니다. 고유값 분해를 통해 사후 분산과 Onsager 계수를 폐쇄형 (closed-form) 또는 구적법 정확도로 계산합니다.
3. Module B (Prior/Denoiser Module):
   • 역할: LDPC 부호 제약 조건을 반영하여 $X$를 복원합니다.
   • 구현: 신뢰도 전파 (Belief Propagation, BP) 디코더를 SISO(소프트 입력 소프트 출력) 디노이저로 사용합니다. BP 디코더의 출력 LLR 을 평균과 분산으로 변환하여 외적 메시지를 생성합니다.

C. 핵심 기술: 통일된 인터페이스

모든 모듈은 Tweedie 공식을 통해 사후 평균을 계산하고, Onsager 보정 계수를 통해 입력 정보를 제거한 외적 메시지를 생성합니다. 이는 모듈 간의 결합을 유연하게 하며, 기존 GLM-VAMP 의 자코비안 기반 업데이트와 달리 점수 함수 기반의 Jacobian-free 구현을 가능하게 합니다.

3. 주요 기여 (Key Contributions)

1. 3- 모듈 SC-VAMP 아키텍처 확장: 비선형 채널을 처리하기 위해 Likelihood, Coupling, Prior 모듈을 통합한 새로운 프레임워크를 제안했습니다.
2. 원칙적인 외적 정보 교환: 기존 터보 수신기의 휴리스틱 LLR 차분 대신, 점수 함수와 피셔 정보에 기반한 Onsager 보정을 LDPC BP 디코더에 통합하여 이론적으로 타당한 외적 메시지 교환을 구현했습니다.
3. 모듈성 (Modularity): 비선형성 처리 (Module A) 만을 교체하면 동일한 프레임워크가 다양한 비선형 채널에 적용 가능합니다. 커플링 및 디코더 모듈은 변경 없이 유지됩니다.
4. 성능 입증: BPSK 변조 LDPC 부호를 사용한 수치 실험을 통해 제안된 방법이 명확한 BER(비트 오류율) 워터폴 (waterfall) 곡선을 보이며, 블록 길이가 증가함에 따라 채널 용량에 근접함을 증명했습니다.

4. 실험 결과 (Results)

• Onsager 보정의 중요성:
  • 선형 채널 ($f=id$) 시나리오에서 Onsager 보정을 제거한 경우나 기존 LLR 터보 방식과 비교했습니다.
  • 결과: 제안된 SC-VAMP 는 14 번째 반복에서 기계 정밀도 ($\sim 10^{-15}$) 까지 MSE 가 수렴하는 반면, 보정이 없는 방식은 $10^{-1}$ 수준에서 정체되었습니다. BER 관점에서는 약 3 dB 의 이득을 보였습니다.
• 비선형 채널 ($f = \tanh$) 성능:
  • $y = \tanh(Hx) + z$ 채널에서 다양한 블록 길이 ($N=128$부터 $2304$까지) 의 LDPC 부호를 테스트했습니다.
  • 결과: 제안된 방법은 모든 블록 길이에서 명확한 워터폴 현상을 보였으며, 블록 길이가 커질수록 워터폴 기울기가 가파르게 되었습니다.
  • $N=2304$일 때, BER $5 \times 10^{-4}$를 7.85 dB 에서 달성했으며, 8 dB 에서는 0 오류를 기록했습니다.
  • 비선형성을 무시한 기존 2- 모듈 방식은 모든 SNR 에서 BER $\approx 0.2 \sim 0.3$으로 실패했습니다.
  • 제안된 방법은 채널 용량 추정치 (약 5.2 dB) 에 대해 약 34 dB 의 간격을 가지며, 이는 짧은중간 길이의 LDPC 부호 특성상 기대되는 수준입니다.

5. 의의 및 결론 (Significance & Conclusion)

이 논문은 비선형 채널에서의 신호 복원 문제를 해결하기 위해 모듈화된 수신기 아키텍처를 제시했습니다.

• 이론적 엄밀성: 터보 등화의 휴리스틱한 접근을 점수 기반의 Onsager 보정으로 대체하여 이론적 근거를 강화했습니다.
• 실용성: 비선형 함수 $f$가 복잡하거나 알려지지 않아도 Module A 만을 교체하거나 데이터 기반으로 학습함으로써 다양한 통신 환경 (광통신, 위성 통신 등) 에 적용 가능합니다.
• 성능: Onsager 보정을 통해 약 3 dB 의 성능 향상을 얻었으며, 블록 길이 증가에 따른 부호 이득을 효과적으로 활용하여 채널 용량에 근접하는 성능을 입증했습니다.

향후 연구 방향으로는 상태 진화 (State Evolution) 분석, 하드/소프트 클리핑 및 1- 비트 양자화와 같은 다른 비선형성 적용, 그리고 미지의 비선형 함수 $f$에 대한 데이터 기반 점수 학습 등으로 확장될 수 있습니다.