Utilizing Improper Gaussian Signaling for Downlink Rate-Splitting Multiple Access with Imperfect Successive Interference Cancellation

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 차세대 무선 네트워크의 핵심 기술로 주목받는 **레이트 스플리팅 다중 접속 (RSMA)**은 사용자의 메시지를 '공통 (Common)'과 '개인 (Private)' 부분으로 나누어 전송함으로써 다중 사용자 간섭을 효과적으로 관리합니다.
• 문제점: 기존 RSMA 연구는 수신기에서 **완벽한 연속 간섭 제거 (Perfect SIC)**를 가정하는 경우가 많습니다. 그러나 실제 환경에서는 하드웨어 한계, 채널 추정 오차, 유한 블록 길이 등으로 인해 불완전한 SIC가 발생하며, 이로 인해 **잔여 간섭 (Residual Interference)**이 발생합니다.
• 기존 해결책의 한계: 기존에는 전력 제어나 RIS(재구성 가능 지능형 표면) 배치와 같은 외부적 방법으로 이 문제를 해결하려 했습니다. 그러나 이러한 방법들은 신호의 통계적 특성 (2 차 통계량) 을 활용하지 못하며, **적절한 가우시안 신호 (Proper Gaussian Signaling, PGS)**가 가진 2 차 자유도 (pseudo-variance) 의 50% 를 낭비한다는 근본적인 한계가 있습니다.
• 핵심 질문: 불완전한 SIC 로 인한 잔여 간섭을 신호 자체의 통계적 특성을 변화시켜 (IGS 활용) 어떻게 효과적으로 완화할 수 있을까요?

2. 방법론 (Methodology)

이 논문은 단일 안테나 단일 입력 단일 출력 (SISO) 환경의 2 사용자 다운링크 RSMA 시스템을 가정하고, **부적절 가우시안 신호 (Improper Gaussian Signaling, IGS)**를 도입하여 문제를 해결합니다.

• 시스템 모델:
  • 공통 스트림 (Common Stream): IGS 를 사용하여 전송합니다. IGS 는 가상의 분산 (pseudo-variance) 을 도입하여 신호의 원형성 (circularity) 을 깨뜨리며, 이를 제어하는 **원형성 계수 (Circularity Coefficient, $\kappa$)**를 설계 변수로 사용합니다.
  • 개인 스트림 (Private Streams): 전통적인 PGS 를 사용합니다.
  • 불완전한 SIC 모델링: $\lambda \in [0, 1]$ 파라미터를 도입하여 SIC 후 남는 잔여 간섭의 정도를 모델링합니다 ($\lambda$가 클수록 간섭이 큼).
• 수학적 분석:
  • 개인 속도 최대화: 개인 스트림의 합계 속도를 최대화하는 문제를 분석합니다.
  • 공통 속도 최대화: 최소 개인 속도 제약 하에서 공통 스트림의 속도를 최대화하는 문제를 분석합니다.
  • 합계 속도 최대화: 비볼록 (non-convex) 성질을 가진 전체 합계 속도 최대화 문제를 해결하기 위해 소프트 액터-크리틱 (Soft Actor-Critic, SAC) 강화 학습 알고리즘을 적용합니다.

3. 주요 기여 및 결과 (Key Contributions & Results)

이 논문은 IGS 가 RSMA 시스템의 불완전한 SIC 문제를 해결하는 데 있어 강력한 도구임을 증명하며 다음과 같은 구체적인 결과를 도출했습니다.

A. 이론적 분석 결과

1. 개인 속도 최대화 (Private Rate Maximization):
   • 결론: 개인 스트림의 속도를 최대화하기 위해서는 공통 스트림의 원형성 계수를 **최대 ($\kappa^* = 1$)**로 설정하는 것이 최적입니다.
   • 이유: $\kappa$가 증가할수록 잔여 간섭의 분모 항이 감소하여 개인 스트림의 신호대간섭비 (SINR) 가 증가하기 때문입니다.
2. 공통 속도 최대화 (Common Rate Maximization):
   • 결론: 공통 속도를 최대화하기 위한 최적의 $\kappa$에 대한 **폐쇄형 해 (Closed-form solution)**를 유도했습니다.
   • 특징: 최적 $\kappa$는 최소 개인 속도 제약 ($R_{min}$) 과 SIC 불완전도 ($\lambda$) 에 따라 단조 증가하거나 감소하는 조건을 가지며, 이를 통해 최적의 $\kappa$ 값을 명시적으로 계산할 수 있음을 보였습니다.

B. 알고리즘 개발

• SAC 기반 최적화: 합계 속도 최대화 문제는 변수 간의 복잡한 결합 (coupling) 으로 인해 비볼록 문제로, 전통적인 최적화 기법으로 해결하기 어렵습니다. 이를 위해 Soft Actor-Critic (SAC) 알고리즘을 개발하여 상태 (채널, 전력, $\lambda$ 등) 와 행동 (전력 할당, $\kappa$) 을 학습하여 전역 최적점에 가까운 해를 찾았습니다.

C. 수치 시뮬레이션 결과

• IGS vs PGS: 모든 시나리오에서 IGS 를 사용한 시스템이 기존 PGS 시스템보다 일관되게 높은 성능을 보였습니다.
• SIC 불완전도와의 관계: SIC 가 불완전할수록 ($\lambda$가 커질수록) IGS 의 성능 이득이 더욱 커졌습니다. 이는 IGS 가 잔여 간섭을 신호 설계 차원에서 효과적으로 상쇄함을 의미합니다.
• 최적 $\kappa$의 변화: 높은 SNR 영역이나 큰 $\lambda$ 조건에서는 최적의 $\kappa$ 값이 1 에 가까워지는 경향을 보였습니다.

4. 의의 및 결론 (Significance & Conclusion)

• 신호 설계의 새로운 차원: 이 연구는 추가적인 하드웨어나 스펙트럼 자원 없이, **신호의 통계적 특성 (IGS)**만 변경하여 RSMA 시스템의 핵심 약점인 '불완전한 SIC'를 해결할 수 있음을 증명했습니다.
• 해석적 통찰: 복잡한 MIMO 시스템이나 수치적 최적화에 의존하던 기존 연구와 달리, SISO 프레임워크를 통해 **명시적인 분석적 해 (Closed-form expressions)**를 제공하여 IGS 가 각 속도 성분에 미치는 영향을 투명하게 규명했습니다.
• 실용적 가치: 완벽한 간섭 제거가 불가능한 실제 무선 환경에서, IGS 를 RSMA 수신기/송신기 아키텍처의 필수 설계 요소로 고려해야 함을 시사합니다.

요약하자면, 이 논문은 불완전한 SIC 환경에서 RSMA 의 성능 저하를 극복하기 위해 **부적절 가우시안 신호 (IGS)**를 도입하고, 이를 통해 개인/공통/합계 속도를 최적화하는 이론적 근거와 알고리즘을 제시한 선구적인 연구입니다.