Tertiary-Mode STAR-RIS for Secure NOMA: Integrating Transmission, Reflection, and Jamming

논문 개요

이 논문은 차세대 무선 통신 (6G) 을 위한 비직교 다중 접속 (NOMA) 시스템의 물리 계층 보안 (Physical Layer Security, PLS) 을 강화하기 위해, **3 차 모드 (Tertiary-Mode) 동시에 전송 및 반사 재구성 가능 지능 표면 (STAR-RIS)**을 활용한 새로운 통신 프레임워크를 제안합니다. 기존 STAR-RIS 가 반사 (Reflection) 와 전송 (Transmission) 모드만 지원하는 한계를 넘어, 일부 요소를 재밍 (Jamming) 모드로 동적으로 전환하여 도청자를 방해하는 방식을 도입했습니다.

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 재구성 가능 지능 표면 (RIS) 은 전파 환경을 제어하여 신호 강도를 높이고 간섭을 억제할 수 있는 유망한 기술입니다. 기존 반사형 RIS 는 표면 한쪽 면의 사용자만 지원한다는 공간적 제약이 있어, 이를 극복하기 위해 양쪽 면을 모두 커버할 수 있는 STAR-RIS 가 등장했습니다.
• 문제점:
  • 기존 STAR-RIS 연구들은 주로 에너지 분할 (ES) 또는 시간 스위칭 (TS) 프로토콜을 사용하며, 전송과 반사 요소를 분리하여 유연성이 제한적입니다.
  • NOMA 시스템에서 도청자 (Eve) 가 존재할 경우, 기존 방식만으로는 보안 용량 (Secrecy Capacity) 을 충분히 확보하기 어렵습니다.
  • 전송, 반사, 그리고 **재밍 (방해 신호)**을 동시에 수행할 수 있는 동적 모드 제어 메커니즘이 부재했습니다.
• 목표: 기지국 (BS) 과 STAR-RIS 의 능동/수동 빔포밍 및 모드 선택을 공동 최적화하여, 합계 용량 (Sum-rate) 을 극대화하면서 도청자의 정보 유출을 최소화하는 보안 NOMA 시스템 설계.

2. 제안된 방법론 (Methodology)

가. 시스템 모델

• 구성: 다중 안테나 기지국 (BS) 이 STAR-RIS 의 양쪽 (전송 측 및 반사 측) 에 위치한 2 명의 합법적 사용자를 서비스하며, 반사 측에 도청자가 존재합니다.
• 3 차 모드 STAR-RIS: 각 STAR-RIS 요소는 네트워크 요구사항과 보안 조건에 따라 다음 3 가지 모드 중 하나를 독립적으로 선택합니다.
  1. 반사 (Reflection): 반사 측 사용자에게 신호 전달.
  2. 전송 (Transmission): 전송 측 사용자에게 신호 전달.
  3. 재밍 (Jamming): 도청자에게 간섭 신호를 방출하여 정보 유출 방지.
• 신호 모델: BS 는 $w_1s_1 + w_2s_2$ 형태의 신호를 전송하며, STAR-RIS 는 모드 선택 계수 ($\beta$) 와 위상 천이 ($\theta$) 를 통해 수신 신호의 SINR 을 제어합니다.

나. 최적화 문제 수립

• 목적 함수: 합법적 사용자의 합계 용량 ($R_{11} + R_{22}$) 최대화.
• 제약 조건:
  • BS 전송 전력 제한.
  • NOMA 성공적 복호화를 위한 SIC (Successive Interference Cancellation) 순서 보장 ($R_{12} \ge R_{22}$).
  • 도청자의 정보 유출 제한 ($R_{e1} \le \tau$).
  • 각 STAR-RIS 요소의 모드 배타성 ($\beta_r + \beta_t + \beta_j = 1$).
• 특징: 이 문제는 변수 간 결합 (Beamforming 와 Phase Shift), 이산 변수 (모드 선택), 비볼록성으로 인해 해결이 매우 어렵습니다.

다. 제안된 알고리즘: 페널티 기반 교대 최적화 (Penalty-based Alternating Optimization)

비볼록 문제를 해결하기 위해 이중 단계 페널티 최적화 (Dual Stage Penalty Optimization) 알고리즘을 개발했습니다.

1. 능동 빔포밍 최적화 (Active Beamforming):

   • STAR-RIS 설정을 고정하고 BS 의 빔포밍 벡터 ($w_1, w_2$) 를 최적화합니다.
   • SDR (Semidefinite Relaxation) 및 Slack 변수 도입을 통해 비볼록 목적 함수와 제약을 볼록 형태로 변환합니다.
   • SIC 제약과 보안 제약을 AGM (Arithmetic-Geometric Mean) 부등식 및 SOC (Second-Order Cone) 제약으로 재구성합니다.

2. 수동 빔포밍 및 모드 선택 최적화 (Passive Beamforming & Mode Selection):

   • BS 빔포밍을 고정하고 STAR-RIS 의 위상 및 모드 선택을 최적화합니다.
   • 이진수 제약 ($\beta \in \{0, 1\}$) 완화: 1 차 근사 (First-order approximation) 를 사용하여 비볼록 함수를 볼록 서로게이트로 대체하고, **페널티 계수 ($\zeta$)**를 점진적으로 증가시켜 이진 해로 수렴하도록 유도합니다.
   • 랭크 -1 제약 완화: 행렬의 랭크 -1 조건을 핵 노름 (Nuclear Norm) 과 스펙트럼 노름 (Spectral Norm) 의 차이로 표현하고, 이를 선형화하여 최적화합니다.
   • One-hot Encoding: 최적화 후 각 요소에 대해 가장 높은 확률을 가진 모드를 선택하여 실제 동작 모드를 확정합니다.

3. 주요 기여 (Key Contributions)

1. 새로운 통신 프레임워크: 전송, 반사, 재밍 모드를 동적으로 전환할 수 있는 3 차 모드 STAR-RIS 기반 보안 NOMA 시스템을 최초로 제안했습니다.
2. 공동 최적화 문제: BS 의 능동 빔포밍과 STAR-RIS 의 수동 빔포밍 및 모드 선택을 동시에 최적화하는 문제를 수학적으로 정립했습니다.
3. 효율적 알고리즘 개발: 연속 변수와 이산 변수가 혼재된 비볼록 문제를 해결하기 위해, 페널티 기반 교대 최적화 알고리즘을 개발하여 계산 효율성과 수렴성을 보장했습니다.

4. 시뮬레이션 결과 (Results)

• 성능 비교: 제안된 시스템은 기존 RIS, 재밍이 없는 STAR-RIS, 재밍이 있는 전통적 RIS, RIS 없는 시스템 등 모든 벤치마크 대비 합계 용량과 보안 성능이 월등히 우수했습니다.
  • 특히, 재밍 기능이 통합된 STAR-RIS 는 기존 RIS 기반 시스템 대비 약 1 bit/s/Hz 의 보안 용량 향상을 보였습니다.
• 요소 수 (K) 영향: STAR-RIS 요소 수 ($K$) 가 증가할수록 성능이 향상되지만, $K=50$ 이후에는 체감 현상 (Diminishing returns) 이 관찰되어 하드웨어 복잡도와 성능 간의 트레이드오프가 존재함을 확인했습니다.
• 적응적 모드 할당: 전송 전력이 낮을 때는 신호 강화를 위해 반사/전송 모드가 주로 사용되지만, 전력이 증가함에 따라 재밍 모드 요소 비율이 증가하여 도청자를 효과적으로 억제하는 것을 확인했습니다.
• 수렴성: 제안된 알고리즘은 약 10 회 이내의 반복으로 빠르게 수렴하여 계산 효율성이 높음을 입증했습니다.

5. 의의 및 결론 (Significance)

이 연구는 STAR-RIS 기술의 유연성을 극대화하여 물리 계층 보안을 강화하는 새로운 패러다임을 제시합니다. 단순한 신호 반사를 넘어 **적극적인 재밍 (Jamming)**을 통합함으로써, NOMA 시스템의 보안 취약점을 해결하고 스펙트럼 효율성을 동시에 개선할 수 있음을 증명했습니다. 이는 향후 6G 네트워크에서 동적이고 복잡한 무선 환경에 대응할 수 있는 지능형 무선표면 기술의 중요한 발전 방향을 제시합니다.