Exact Outage Probability and Ergodic Capacity Analysis of NOMA in Rayleigh Fading Channels

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 차세대 무선 통신 시스템에서 주파수 효율성을 극대화하기 위해 비직교 다중 접속 (NOMA) 기술이 널리 연구되고 있습니다. 다운링크 NOMA 시스템에서는 근거리 사용자 (NU) 가 근거리 사용자의 신호를 먼저 복호화하고 제거 (SIC, Successive Interference Cancellation) 한 후 자신의 신호를 복호화합니다.
• 핵심 문제: 기존 연구들은 대부분 완벽한 SIC (잔여 간섭 없음) 또는 불완전한 SIC을 가정합니다. 특히 불완전한 SIC 모델링에서, SIC 실패로 인한 잔여 간섭은 고정된 가우시안 잡음이나 조정 가능한 '불완전성 계수 (imperfection factor, $\eta$ 또는 $\zeta$)'를 사용하여 단순화하여 모델링합니다.
• 기존 모델의 한계:
  1. 통계적 독립성 오해: 기존 모델은 SIC 후의 잡음과 페이딩이 여전히 독립적이며, SIC 전과 동일한 확률 밀도 함수 (PDF) 를 가진다고 가정합니다.
  2. 비현실적인 가정: SIC 성공 여부에 따라 잡음과 채널 이득의 통계적 특성이 실제로는 변화함에도 불구하고, 이를 고려하지 않습니다.
  3. 계수의 임의성: 기존 연구에서는 잔여 간섭을 나타내는 계수 $\zeta$를 시스템 파라미터 (SNR, 전력 할당, 중단 임계값 등) 와 무관한 독립 변수로 취급하며, 보통 $[0, 1]$ 범위로 제한합니다. 이는 실제 SIC 실패 시 발생하는 간섭의 통계적 특성을 정확히 반영하지 못합니다.

2. 방법론 (Methodology)

이 논문은 SIC 성공 및 실패 시 발생하는 잡음과 페이딩의 결합된 통계적 특성을 정밀하게 분석하는 새로운 프레임워크를 제안합니다.

• 조건부 PDF 유도: SIC 성공 (S) 또는 실패 (F) 여부에 따라 조건부 잡음 ($W, Z$) 과 채널 이득 ($\beta_S, \beta_F$) 의 결합 확률 밀도 함수 (Joint PDF) 를 유도했습니다.
  • BPSK 변조 분석: 2 차원 변조 (BPSK) 를 기준으로 SIC 성공/실패 조건 하에서 잡음과 페이딩이 어떻게 변형되는지 수학적으로 증명했습니다.
  • 의존성 규명: SIC 후 잡음과 페이딩이 더 이상 독립적이지 않으며, 서로 의존적 (dependent) 이 됨을 보였습니다. 또한, SIC 실패 시 잡음의 평균이 0 이 아니게 되어 가우시안 분포에서 벗어납니다.
• 정확한 잔여 간섭 모델링: SIC 실패 시 잔여 간섭을 단순한 가우시안 잡음이 아닌, SIC 실패 조건에서 유도된 정확한 분포로 모델링했습니다.
• 성능 지표 도출:
  • 유도된 정확한 PDF 를 사용하여 **중단 확률 (Outage Probability, OP)**에 대한 폐형식 (closed-form) 공식을 도출했습니다.
  • **에르고딕 용량 (Ergodic Capacity, EC)**에 대한 단일 적분 표현식 및 근사 폐형식 공식을 유도했습니다.
• QPSK 확장: 2 차원 변조 (QPSK) 의 경우 실수부와 허수부 잡음이 서로 의존적이게 됨을 분석하고, 이를 위한 PDF 유도 과정을 제시했습니다.

3. 주요 기여 (Key Contributions)

1. SIC 후 잡음 및 페이딩의 정확한 특성화: SIC 성공/실패 여부에 따라 잡음과 페이딩의 PDF 가 변형되고 서로 의존적이게 됨을 최초로 규명했습니다. 이는 기존 연구가 간과했던 핵심 요소입니다.
2. 파라미터 없는 (Parameter-free) 분석: 기존 연구에서 필수적이었던 '불완전성 계수 ($\zeta$)'를 사용하지 않고, 시스템 파라미터 (SNR, 전력 할당, 목표 레이트) 만으로 정확한 성능을 평가할 수 있는 공식을 제시했습니다.
3. 기존 계수 모델의 한계 입증:
   • 기존에 널리 사용되던 잔여 간섭 계수 $\zeta$가 $[0, 1]$ 범위로 제한될 수 없으며, SNR, 전력 할당, 중단 임계값에 따라 변하는 변수임을 증명했습니다.
   • 특히 중단 확률 (OP) 분석에서는 $\zeta$가 1 을 초과할 수 있으며, 에르고딕 용량 (EC) 분석에서는 $\zeta=0$으로 설정하는 것이 가장 정확한 근사임을 보였습니다.
4. 정확한 성능 평가 공식 도출: Monte Carlo 시뮬레이션과 완벽하게 일치하는 정확한 OP 및 EC 공식을 유도하여, 저~중간 SNR 영역 및 불균형 전력 할당 상황에서 기존 모델이 크게 오차 (misestimate) 를 발생시킨다는 것을 입증했습니다.

4. 실험 결과 (Results)

• 정확성 검증: 유도된 이론적 분석 결과와 몬테카를로 시뮬레이션 결과가 모든 SNR 및 파라미터 설정에서 완벽하게 일치함을 확인했습니다.
• 기존 모델과의 비교:
  • 중단 확률 (OP): 저~중간 SNR 영역과 불균형 전력 할당 ($\alpha_1$이 큰 경우) 에서 기존 모델 (Legacy) 은 실제 성능을 과소평가하거나 과대평가하는 큰 오차를 보였습니다. 특히 $\zeta$를 임의로 설정할 경우 오차가 심화되었습니다.
  • 에르고딕 용량 (EC): 기존 모델은 $\zeta > 0$을 사용할 경우 용량을 크게 과소평가하는 경향이 있었습니다. 반면, 제안된 모델은 $\zeta=0$을 사용하더라도 기존 모델보다 훨씬 정확한 결과를 제공했습니다.
  • 오차 분석: 제안된 근사 용량 공식의 평균 오차는 1.11% 이하인 반면, 기존 공식은 최대 10.87% 까지 오차가 발생했습니다.
• 계수 $\zeta$의 의존성: $\zeta$는 시스템 파라미터에 의존하므로 독립 변수로 취급할 수 없으며, 특정 조건 (예: 높은 SNR, 높은 $\alpha_1$) 에서는 $\zeta=0$이 가장 적합한 근사값임을 확인했습니다.

5. 의의 및 결론 (Significance)

• 이론적 기여: NOMA 시스템의 성능 분석에 있어 SIC 후의 잡음과 채널 상태의 통계적 변화를 고려한 최초의 정밀한 분석 프레임워크를 제공했습니다. 이는 SIC 실패가 시스템 성능에 미치는 영향을 단순한 간섭이 아닌, 잡음과 채널 분포의 근본적인 변화로 이해하게 합니다.
• 실용적 가치: 시스템 설계 시 불필요한 '불완전성 계수' 튜닝을 제거하고, 시스템 파라미터만으로 정확한 성능 예측이 가능하게 하여, 신뢰성 있는 NOMA 시스템 설계 및 최적화 (전력 할당 등) 에 기여합니다.
• 향후 연구 방향: 고차 변조 (Higher-order modulations), 다중 안테나 (MIMO), 다중 사용자 NOMA, 다양한 채널 모델로 분석을 확장할 수 있는 기반을 마련했습니다.

요약하자면, 이 논문은 NOMA 시스템의 성능 분석에서 SIC 실패로 인한 잡음과 페이딩의 통계적 의존성을 정량화하여, 기존 단순화된 모델의 한계를 극복하고 정확하고 파라미터 없는 성능 평가 방법을 제시했다는 점에서 중요한 의의를 가집니다.