Symbol Error Analysis of Linear Receivers in Terahertz Channels under Channel-Noise Dependence

기술 요약: 채널-잡음 의존성 하의 테라헤르츠 채널 내 선형 수신기의 심볼 오류 분석

문제 정의
테라헤르츠(THz) 대역(100 GHz ~ 10 THz)은 차세대 무선 시스템에서 테라비트급 데이터 전송률를 달성하기 위해 매우 중요하다. 그러나 테라헤르츠 기술의 잠재력을 온전히 실현하는 데에는 심각한 감쇠, 분자 흡수, 하드웨어 결함과 같은 전파 저해 요소들이 걸림돌이 되고 있다. 기존 성능 분석 프레임워크의 중대한 공백은 채널과 가산 잡음(additive noise) 사이의 독립성을 가정한다는 점이다. 실제 테라헤츠 시스템에서는 채널 유도 분자 흡수 잡음 및 하드웨어 결함(예: 송신기 및 수신기 왜곡)으로 인해 채널 상태와 잡음 사이에 통계적 의존성이 발생하므로, 이러한 독립성 가정이 무너지는 경우가 많다. 채널과 잡음의 상관관계를 무시하는 전통적인 모델은 특히 딥 페이딩(deep-fading) 상황에서 선형 검출기의 성능을 정확하게 예측하지 못한다. 또한, 제로 포싱(Zero-Forcing, ZF) 및 최소 평균 제곱 오차(Minimum Mean-Square Error, MMSE) 검출기가 표준적으로 사용되지만, 다양한 테라헤르츠 페이딩 모델 전반에 걸쳐 채널-잡음 의존성이 심볼 오류율(SER)에 미치는 구체적인 영향, 특히 고차 변조에서 MMSE에 의해 발생하는 내재적 바이어스(bias)에 대한 연구는 아직 미진한 상태이다.

방법론
본 논문은 단일 입출력(SISO) 테라헤르츠 시스템에서 선형 검출기(ZF 및 MMSE)의 SER을 평가하기 위한 종합적인 분석 프레임워크를 개발한다. 방법론은 다음과 같은 핵심 구성 요소로 이루어진다:

1. 시스템 및 채널 모델링:

   • 페이딩 모델: 본 연구는 세 가지 뚜렷한 페이딩 환경을 고려한다: 레이리(Rayleigh) 페이딩(참조용), 실내 테라헤르츠 시나리오를 위한 $\alpha-\mu$ 분포, 그리고 실외 테라헤르츠 시나리오를 위한 Mixture-Gamma(MG) 분포.
   • 잡음 상관관계: 프레임워크는 채널($h$)과 잡음($n$) 사이의 의존성을 명시적으로 모델링한다. 두 가지 접근 방식이 활용된다:
     • 직접 통계적 상관관계: 가우시안 채널을 위한 복소 상관 계수($\lambda$) 사용.
     • 코퓰라 기반 모델링(Copula-Based Modeling): 비가우시안 채널 크기와 잡음 사이의 복잡한 의존 구조를 포착하기 위해 Farlie-Gumbel-Morgenstern(FGM) 및 Frank 코퓰라를 채택.
   • 하드웨어 결함: 특정 테라헤르츠 시스템 모델은 잡음 분산이 채널 전력($|h|^2$)에 비례하는 송수신기 왜곡 잡음을 포함한다.

2. 분석적 유도:

   • ZF 검출기: 유효 잡음을 종속 변수의 비율(채널 대비 잡음)로 모델링한다. 본 논문은 Meijer G-함수를 사용하여 MG 분포 채널에 대한 이 비율의 확률 밀도 함수(PDF)를 유도한다.
   • MMSE 검출기: 필터링 후 수신 신호의 PDF를 유도한다. 결정적으로, 본 논문은 "미스매치(mismatch)" 문제를 다룬다: MMSE는 표준 ZF 영역과 비교하여 결정 경계(decision boundaries)를 이동시키는 스케일링 바이어스를 도입한다. 본 논문은 표준 ZF 결정 영역 하에서 동작하는 MMSE의 SER 식을 유도하며, 이는 흔히 사용되는 실제적인 가정이다.
   • 점근적 분석(Asymptotic Analysis): 고-SNR 근사식을 유도하여 SER과 신호 대 잡음비(SNR) 간의 기능적 관계, 특히 딥 페이드 이벤트에 초점을 맞추어 특성화한다.

3. 검증:

   • 이론적 식은 MATLAB을 이용한 광범위한 몬테카를로 시뮬레이션($N = 5 \times 10^6$ 회 시행)을 통해 검증된다.
   • 시뮬레이션은 다양한 변조 방식(4-QAM 및 16-QAM)과 상관 강도를 포괄한다.

주요 기여
본 논문의 주요 기술적 기여는 다음과 같다:

• 확장된 프레임워크: 레이리 및 실내 테라헤르츠 채널에서의 ZF 검출에 관한 기존 연구를 MG 분포로 모델링된 실외 테라헤르츠 환경 및 MMSE 검출까지 확장하였다.
• 상관관계 모델링: 직접 통계적 상관관계와 코퓰라 기반 방식(FGM 및 Frank)을 모두 사용하여 채널-잡음 의존성에 대한 일반화된 솔루션을 제공하고, 이러한 시나리오에 대한 유효 잡음 PDF를 유도하였다.
• MMSE 바이어스 분석: ZF 기반 결정 영역을 사용하는 MMSE 검출기의 성능 저하를 공식적으로 분석하였다. 본 논문은 고차 변조(예: 16-QAM)에서 결정 경계를 이동시키는 바이어스로 인해 MMSE가 성능 손실을 초래한다는 것을 유도하였다.
• 폐쇄형 및 준-해석적 표현식: Rayleigh, $\alpha-\mu$, MG 채널 전반에 걸쳐 SER에 대한 새로운 준-해석적 정식화, 폐쇄형 해(closed-form solutions) 및 정확한 근사식을 유도하였다.

결과
시뮬레이션 결과는 유도된 이론적 식과 강력한 일치를 보여주며, 프레임워크의 정확성을 입증한다. 주요 결과는 다음과 같다:

• 상관관계의 영향: 채널-잡음 의존성은 수신기 성능에 상당한 영향을 미친다. 목표 SER이 $10^{-3}$일 때, 70%의 상관관계는 독립적인 경우에 비해 약 6.5 dB의 유효 SNR 저하를 초라한다.
• ZF vs. MMSE 성능:
  • 4-QAM의 경우, ZF와 MMSE 검출기는 동일한 성능을 보이며, 이는 이론적 예측을 확인시켜 준다.
  • 16-QAM의 경우, ZF 결정 영역에서 동작하는 MMSE 검출기는 SNR 5 dB에서 ZF 대비 약 1 dB의 성능 손실을 입는다. 이 손실은 바이어스가 결정 경계를 이동시키기 때문에 발생한다.
  • 그러나 MMSE는 ZF가 채널 반전(channel inversion)으로 인해 무제한적인 잡음 증폭을 겪는 심각한 페이딩 조건에서 더 우수한 견고성(robustness)을 보여준다.
• 실외 테라헤르츠: 본 프레임워크는 MG 분포를 사용하여 MG 분포를 이용한 실외 시나리오의 SER을 성공적으로 특성화하였으며, 고-SNR 영역에서 점근적 표현식이 이론적 곡선과 밀접하게 일치함을 보여준다.

의의 및 주장
본 논문은 미래 테라헤르츠 통신 시스템을 위한 선형 검출기를 평가하고 최적화하기 위한 신뢰할 수 있는 분석적 토대를 제공한다고 주장한다. 본 연구의 의의는 다음과 같다:

1. 현실성: 채널-잡음 의존성과 하드웨어 결함을 포함함으로써, 본 프레임워크는 전통적인 독립 잡음 모델보다 더 물리적으로 일관된 분석을 제공한다.
2. 실질적 트레이드오프: 본 분석은 딥 페이드에서 잡음 증폭을 방지하는 MMSE의 수치적 안정성과 고차 변조에서 성능을 저하시키는 결정 경계 미스매치 사이의 트레이드오프를 명확히 한다.
3. 설계 지침: 결과는 ZF가 4-QAM에서 고-SNR 영역에 최적이지만, MMSE는 성능 격차(약 1 dB)가 애플리케이션의 신뢰성 요구 사항 내에서 수용 가능하다면 현실적인 테라헤르츠 환경에서 실용적이고 견고한 대안임을 시사한다.

저자들은 본 프레임워크가 테라헤르츠 시스템 설계에 있어 가치 있는 도구라고 결론짓는다. 특히 다른 채널 및 잡음 모델로 확장 가능하다는 점과, 차세대 네트워크 설계에서 채널-잡음 상관관계를 고려하는 것이 필수적임을 강조한다.