Nonlinear Sparse Bayesian Learning Methods with Application to Massive MIMO Channel Estimation with Hardware Impairments

1. 연구 배경 및 문제 정의 (Problem)

• 배경: Massive MIMO 시스템은 다수의 안테나를 통해 높은 공간 분해능과 스펙트럼 효율을 제공하지만, 이를 위해서는 정확한 채널 추정 (Channel Estimation) 이 필수적입니다. 기존 채널 추정 기법들은 수신기 하드웨어가 이상적 (Ideal) 이라고 가정하고 선형 신호 모델을 사용합니다.
• 문제점: 실제 시스템에서는 저잡음 증폭기 (LNA) 의 비선형성, 위상 노이즈, I/Q 불균형, 양자화 오차 등 다양한 하드웨어 손상 (Hardware Impairments) 이 발생합니다.
  • 이러한 손상은 수신 신호에 비선형 왜곡을 일으켜 기존의 선형 모델 (예: LMMSE) 및 선형 희소 베이지안 학습 (SBL) 기반 추정기의 성능을 급격히 저하시킵니다.
  • 특히, 하드웨어 손상은 채널 상호성 (Channel Reciprocity) 을 깨뜨려 TDD 시스템의 성능을 떨어뜨립니다.
  • 기존에 하드웨어 손상을 고려한 방법 (예: Bussgang 분해 기반 BLMMSE) 은 왜곡의 1 차 및 2 차 통계량만 활용하거나, 왜곡 함수의 정확한 수학적 형태를 미리 알아야 한다는 한계가 있습니다.

2. 제안된 방법론 (Methodology)

저자들은 하드웨어 손상으로 인한 왜곡 함수를 가우시안 프로세스 (Gaussian Process, GP) 회귀를 통해 데이터 기반으로 모델링하고, Massive MIMO 채널의 **본질적인 희소성 (Sparsity)**을 활용하는 비선형 채널 추정 프레임워크를 제안합니다.

A. 하드웨어 손상 모델링 (GP 기반)

• GP 회귀 활용: 수신된 신호의 왜곡 함수 $g(z)$를 명시적인 수학적 형태 없이 데이터로부터 학습된 **GP 기반 대리 함수 (Surrogate Function, $\hat{g}(\cdot)$)**로 대체합니다.
• 계산 복잡도 감소: GP 의 계산 비용이 훈련 샘플 수에 대해 3 차 ($O(N^3)$) 로 증가하는 문제를 해결하기 위해 의사 입력 (Pseudo-inputs) 기법을 도입합니다. 소수의 대표 점 (pseudo-inputs) 을 사용하여 전체 데이터를 요약함으로써 계산 효율성을 극대화합니다.
• 커널 선택: 입력과 출력 간의 유사성을 정의하기 위해 제곱 지수 커널 (Squared Exponential Kernel) 을 사용하며, 평균 함수는 선형 관계 ($\mu(z)=z$) 를 기반으로 설정하여 작은 비선형 왜곡을 모델링합니다.

B. 비선형 희소 베이지안 학습 (Nonlinear SBL)

GP 기반 대리 함수를 Sparse Bayesian Learning (SBL) 프레임워크에 통합하여 두 가지 새로운 알고리즘을 개발했습니다.

1. NL-E-SBL (Nonlinear Enhanced SBL):
   • 가중치 ($w$) 와 스케일 ($s$) 에 대한 주변 사후 확률 밀도 (Marginal Posterior Density) 를 최대화하는 것을 목표로 합니다.
   • 비선형성으로 인해 E-step 에서 $u$에 대한 적분이 해석적으로 불가능하므로, 각 반복 단계에서 대리 함수를 **선형화 (Linearization)**하여 근사적으로 해결합니다 (확장 칼만 필터와 유사한 접근).
2. NL-M-E-SBL (Nonlinear Modified Enhanced SBL):
   • 채널 ($u$), 가중치 ($w$), 스케일 ($s$) 의 **결합 사후 확률 밀도 (Joint Posterior Density)**를 최대화합니다.
   • $u$의 업데이트에는 가우스 - 뉴턴 (Gauss-Newton) 방법을, $w$와 $s$의 업데이트에는 폐쇄형 해 (Closed-form solution) 를 사용합니다.
   • NL-E-SBL 에 비해 수렴성이 보장되며 계산 효율성이 높습니다.

C. 추가 기술적 요소

• 위상 보정: GP 커널의 회전 불변성 (Rotation-invariance) 으로 인해 추정된 채널에 위상 편이가 발생할 수 있으므로, 수신 신호와의 오차를 최소화하는 최적 회전 각도를 계산하여 보정하는 후처리 단계를 포함합니다.
• 확장성: 제안된 프레임워크는 하이브리드 아날로그 - 디지털 빔포밍 및 1 비트 ADC와 같은 특수 케이스에도 적용 가능하도록 확장되었습니다. (1 비트 ADC 의 경우 이진 관측을 위한 로지스틱 우도 함수와 이차 근사를 활용합니다.)

3. 주요 기여 (Key Contributions)

1. 비선형 추정 프레임워크 제안: 하드웨어 손상을 명시적인 수학적 모델 없이 GP 를 통해 학습하고, 이를 Massive MIMO 채널의 희소성과 결합한 최초의 통합 프레임워크를 제시했습니다.
2. 계산 효율성 최적화: GP 의 고비용 문제를 해결하기 위해 의사 입력 (Pseudo-inputs) 을 도입하여 계산 복잡도를 줄였으며, 이를 SBL 알고리즘에 효과적으로 통합했습니다.
3. 두 가지 최적화 알고리즘 개발: NL-E-SBL 과 NL-M-E-SBL 두 가지 방법을 제안하여 추정 정확도와 계산 복잡도 간의 다양한 트레이드오프를 제공합니다.
4. 광범위한 시뮬레이션 검증: 다양한 시스템 파라미터 (SNR, 안테나 수, 경로 수, 왜곡 강도 등) 에 대한 성능을 평가하고, 기존 기법 대비 우수한 성능을 입증했습니다.

4. 실험 결과 (Results)

시뮬레이션은 저잡음 증폭기 (LNA) 비선형성을 주요 손상으로 가정하고 수행되었습니다.

• 성능 비교: 제안된 방법 (NL-E-SBL, NL-M-E-SBL) 은 최소 제곱법 (LS), Bussgang LMMSE (BLMMSE), 기존 선형 SBL (E-SBL, M-E-SBL) 보다 정규화된 평균 제곱 오차 (NMSE) 측면에서 월등히 우수한 성능을 보였습니다.
• 고 SNR 영역: SNR 이 높을수록 (예: 30 dB) 선형 추정기들은 왜곡으로 인해 오차 바닥 (Error Floor) 에 도달하는 반면, 제안된 비선형 방법은 NMSE 를 약 2 차수 (Orders of magnitude) 까지 낮추었습니다.
• 강한 왜곡 조건: LNA 비선형성 파라미터 ($\alpha$) 가 커질수록 (손상이 심해질수록) 제안된 방법의 우월성이 더욱 두드러졌습니다.
• 특수 케이스: 하이브리드 빔포밍 및 1 비트 ADC 환경에서도 기존 기법 (BLMMSE, NML 등) 보다 일관되게 높은 정확도를 달성했습니다.
• 파라미터 영향: 안테나 수 ($M$) 가 증가하거나 파일럿 길이 ($N$) 가 길어질수록 제안된 방법의 성능 이득이 더욱 커지는 것을 확인했습니다.

5. 의의 및 결론 (Significance)

• 현실적 적용성: 이론적 모델과 실제 하드웨어의 괴리를 해소하여, 실제 Massive MIMO 시스템에서 하드웨어 손상을 명시적으로 고려한 견고한 채널 추정이 가능해졌습니다.
• 데이터 기반 접근의 장점: 왜곡 함수의 정확한 수학적 형태나 통계적 파라미터에 대한 사전 지식이 없어도 데이터로부터 학습하여 추정이 가능하므로, 다양한 하드웨어 구성에 유연하게 적용할 수 있습니다.
• 미래 전망: 본 연구는 하드웨어 손상이 있는 무선 시스템의 비선형 추정 및 분석을 위한 통일된 프레임워크를 제공하며, 향후 저비용 하드웨어 (1 비트 ADC 등) 를 활용한 6G 시스템 설계에 중요한 기여를 할 것으로 기대됩니다.

결론적으로, 이 논문은 하드웨어 손상으로 인한 비선형 왜곡을 GP 로 모델링하고 Massive MIMO 채널의 희소성을 활용한 SBL 기법을 결합함으로써, 기존 선형 추정기들이 도달할 수 없는 높은 정확도의 채널 추정을 실현했습니다.