상상해 보세요. 한 개의 도로 (무선 채널) 에 두 대의 차 (사용자 1 과 사용자 2) 가 동시에 달리고 있습니다.
기존 방식 (NOMA): 두 차가 같은 차선을 달리는데, 한 차는 무겁고 (강력한 신호), 다른 차는 가볍습니다. 무거운 차가 앞을 막고 있으면, 가벼운 차는 뒤에서 그 차를 뚫고 지나가야 합니다 (이걸 '간섭 제거'라고 합니다). 하지만 도로 상태가 계속 변하면 (날씨나 장애물), 이 방식이 잘 안 될 때가 많습니다.
이 연구의 방식 (AI 기반 NOMA): 인공지능이 교통관제센터가 되어, 도로 상태에 따라 두 차가 달리는 **패턴과 속도 (신호 모양)**를 실시간으로 바꿉니다.
🌧️ 문제 상황: "날씨가 변하는 도로"
이 논문에서 다루는 **'레이리 페이딩'**은 마치 날씨가 계속 변하는 도로와 같습니다.
갑자기 안개가 끼거나, 비가 오거나, 장애물이 생기면 신호가 왜곡됩니다.
기존 연구들은 대부분 '날씨가 좋은 날 (AWGN 채널)'만 가정하거나, 날씨가 변해도 고정된 패턴만 썼기 때문에 비가 올 때 사고 (오류) 가 많이 났습니다.
🤖 해결책: "자신만의 지도를 그리는 AI"
저자들은 **자동 인코더 (Autoencoder)**라는 AI 를 도입했습니다. 이 AI 는 두 가지 역할을 합니다.
송신자 (발신인): 보낼 메시지를 어떻게 변형해서 보낼지 결정합니다.
수신자 (수신인): 왜곡된 신호를 받아서 원래 메시지로 되돌립니다.
기존 방식과의 차이점:
기존: "우리는 항상 QPSK 라는 정해진 모양 (예: 네모 반듯한 사각형) 으로 보낸다." (날씨가 변해도 모양은 안 바뀜)
이 연구의 AI: "오늘 비가 오고 바람이 불면, 네모 모양을 살짝 비틀거나 색을 바꿔서 보낸다." (날씨에 맞춰 모양을 유연하게 바꿈)
이렇게 AI 가 스스로 학습하면, 두 사용자가 보낸 신호가 섞여도 (간섭) 서로 구별하기 쉽게 만들어줍니다.
📉 현실적인 제약: "메모리 부족으로 인한 '요약' 정보"
실제 세상에서는 송신자가 모든 도로 상황을 완벽하게 알 수 없습니다. (채널 상태 정보, CSI)
완벽한 정보 (Perfect CSI): "지금 도로 상태가 100% 정확히 알려짐." (이상적인 상황)
제한된 정보 (Quantized CSI): "도로 상태를 10 단계로만 요약해서 알려줌." (현실적인 상황)
이 논문은 이 **제한된 정보 (요약된 데이터)**를 어떻게 처리할지 연구했습니다.
균일 양자화 (Uniform): 1~10 등간격으로 나눈 것. (날씨가 아주 안 좋은 구간과 아주 좋은 구간을 똑같이 취급함)
로이드 - 맥스 양자화 (Lloyd-Max):날씨가 자주 변하는 구간을 더 세밀하게, 잘 안 변하는 구간은 대충 나눈 것.
결과: 로이드 - 맥스 방식이 훨씬 더 정확했습니다. 마치 "비 오는 날은 10 단계로 자세히, 맑은 날은 2 단계로 대충" 나누는 것이 전체 교통 흐름을 더 잘 통제하는 것과 같습니다.
🏆 성과: "왜 이 연구가 중요한가?"
사고율 (오류율) 대폭 감소: AI 가 학습한 신호 방식은 기존의 고정된 방식보다 훨씬 적은 오류로 데이터를 전송했습니다. 특히 비가 많이 오는 날 (고신호 대 잡음비 영역) 에도 성능이 떨어지지 않도록 훈련 방법을 고안했습니다.
유연성: 사용자가 보내는 데이터 양 (비트 수) 이 바뀌어도 AI 는 그걸 알아서 적응합니다. (예: 한 사람은 2 비트, 다른 사람은 3 비트를 보낼 때도 최적의 신호 모양을 찾아냄)
실제 적용 가능성: 이론적으로만 존재하던 '완벽한 정보'가 없는 현실적인 환경에서도, AI 가 스스로 학습한 신호 방식이 기존 기술보다 훨씬 뛰어나다는 것을 증명했습니다.
💡 한 줄 요약
"날씨가 변하는 도로에서, 고정된 차선 대신 AI 가 실시간으로 차선과 신호 모양을 바꿔가며 두 대의 차가 충돌 없이, 그리고 더 빠르게 달릴 수 있게 만든 연구입니다."
이 기술이 상용화되면, 우리 스마트폰이 복잡한 도시 환경에서도 더 빠르고 안정적인 통신을 즐길 수 있게 될 것입니다.
1. 연구 배경 및 문제 정의 (Problem)
배경: 비직교 다중 접속 (NOMA) 은 차세대 무선통신에서 대규모 연결을 지원하기 위한 핵심 기술로 주목받고 있습니다. NOMA 는 송신기에서 서로 다른 전력 할당 인자를 사용하여 여러 사용자의 심볼을 중첩 (Superposition) 하고, 수신기에서 연속 간섭 제거 (SIC) 를 수행하는 방식입니다.
문제점:
기존 NOMA 연구는 주로 가산 백색 가우시안 잡음 (AWGN) 채널을 가정하거나, 페이딩 채널에서도 고정된 변조 방식 (예: QAM) 과 분석적 접근법을 사용했습니다.
레일리 페이딩 (Rayleigh Fading) 환경에서는 채널 상태의 확률적 변동으로 인해 사용자 간 간섭과 채널 무작위성이 심화되어, 중첩된 심볼 (Super-constellation) 이 겹치고 비트 오류율 (BER) 이 크게 저하됩니다.
기존 딥러닝 기반 NOMA 연구는 대부분 AWGN 채널에 국한되었으며, 페이딩 채널에서의 엔드 - 투 - 엔드 학습은 탐구되지 않았습니다.
또한, 실제 시스템에서는 송신기에 완벽한 채널 상태 정보 (CSI) 를 얻기 어렵기 때문에, 제한된 피드백 (양자화된 CSI) 을 고려한 연구가 부족합니다.
2. 제안된 방법론 (Methodology)
이 논문은 레일리 페이딩 채널에서 작동하는 엔드 - 투 - 엔드 오토인코더 (AE) 기반 NOMA 프레임워크를 제안합니다.
시스템 모델: 단일 기지국 (BS) 과 두 명의 사용자 (UE1, UE2) 로 구성된 다운링크 NOMA 시스템을 가정합니다.
네트워크 구조:
인코더 (송신기): 이진 입력 비트를 복소수 중첩 심볼로 매핑합니다. 기존 고정 변조와 달리, 인코더는 실시간 채널 상태 정보 (CSI) 또는 양자화된 CSI를 입력받아 비선형 매핑을 학습합니다. 이를 통해 채널 조건에 따라 중첩 constellations 을 적응적으로 형성합니다.
디코더 (수신기): 각 사용자는 수신된 잡음 신호와 해당 사용자의 채널 이득을 입력받아 비트 확률을 출력합니다.
아키텍처: 인코더와 두 개의 디코더는 모두 8 개의 은닉 층을 가진 심층 신경망 (DNN) 으로 구성되며, 잔차 연결 (Residual connections) 을 통해 학습 성능을 향상시켰습니다.
학습 전략:
손실 함수: 두 사용자의 비트 오류율 (BER) 을 균형 있게 최소화하기 위해 가중치 w를 둔 손실 함수 L(γ)=wmax(L1,L2)+min(L1,L2)를 사용합니다.
CSI 처리:
완벽한 CSI (Perfect CSI): 송신기에 정확한 채널 이득을 입력합니다.
양자화된 CSI (Quantized CSI): 실제 시스템의 제약 조건을 반영하기 위해 채널 이득의 실수부와 허수부를 균등 양자화 (Uniform) 및 로이드 - 맥스 (Lloyd–Max) 양자화 기법을 통해 양자화하여 송신기에 입력합니다.
고 SNR 에서의 BER 바닥 (Floor) 개선: 고정된 훈련 SNR 로 인해 고 SNR 영역에서 BER 이 정체되는 현상을 해결하기 위해, 여러 대표 SNR 값을 가진 배치별로 손실을 계산하고 가중치를 부여하는 새로운 훈련 방법을 제안합니다.
3. 주요 기여 (Key Contributions)
레이리 페이딩 환경으로의 AE-NOMA 확장: AWGN 에서만 연구되었던 AE-NOMA 를 레일리 페이딩 채널로 확장하여, 인코더가 채널 이득에 적응적으로 중첩 constellations 을 형성하도록 설계했습니다.
양자화된 CSI 를 고려한 최초의 프레임워크: 제한된 피드백 대역폭을 고려하여 균등 양자화와 로이드 - 맥스 양자화를 도입한 최초의 AE-NOMA 프레임워크를 제시했습니다.
새로운 훈련 및 손실 함수 제안: 고 SNR 영역에서 발생하는 BER 바닥 현상을 완화하기 위한 다중 SNR 기반 훈련 전략을 개발했습니다.
성능 검증: 기존 분석적 NOMA 방식 (적응형 전력 할당 및 심볼 회전 등) 과의 비교를 통해 제안된 방식의 우수성을 입증했습니다.
4. 실험 결과 (Results)
성능 비교:
완벽한 CSI 조건: 제안된 AE-NOMA 는 기존 QPSK 기반 NOMA 및 적응형 전력 할당/회전 기법 (PAR, PANOMA) 보다 전체 SNR 영역에서 상승한 BER 성능을 보였습니다. 특히 UE1(약한 사용자) 은 QPSK 단일 링크의 하한선에 근접하고, UE2(강한 사용자) 는 16-QAM 과 유사한 성능을 달성했습니다.
양자화된 CSI: 로이드 - 맥스 (Lloyd–Max) 양자화가 균등 양자화보다 우월한 BER 성능을 보였습니다. 이는 로이드 - 맥스가 확률 밀도 함수 (PDF) 가 집중된 영역에 더 높은 해상도를 할당하여 양자화 오차를 최소화하기 때문입니다.
비트 길이 적응성: 사용자당 비트 수 (예: 2 비트 vs 3 비트) 가 변경되더라도 네트워크 구조를 크게 수정하지 않고도 우수한 성능을 유지하며 확장성이 입증되었습니다.
BER 바닥 개선: 제안된 다중 SNR 훈련 전략을 적용함으로써 고 SNR 에서의 BER 바닥 현상이 완화되었고, 저 SNR 영역의 성능도 유지되었습니다.
5. 의의 및 결론 (Significance)
실용성: 이 연구는 이론적인 NOMA 개념을 실제와 유사한 레일리 페이딩 환경과 제한된 CSI 피드백 조건 하에서도 구현 가능함을 보여주었습니다.
학습 기반 신호 설계의 가능성: 고정된 변조 방식 대신, 채널 상태와 간섭을 고려하여 딥러닝이 최적의 중첩 constellations 을 직접 학습할 수 있음을 입증했습니다.
미래 전망: 양자화기와 AE 를 공동으로 학습 (Joint Optimization) 하는 방향으로의 확장을 통해, 더 적은 양자화 비트 수로도 완벽한 CSI 에 가까운 성능을 달성할 수 있을 것으로 기대됩니다.
요약하자면, 이 논문은 딥러닝을 활용하여 레일리 페이딩 채널과 불완전한 CSI 조건에서도 기존 NOMA 보다 우수한 오류율 성능을 달성하는 적응형 신호 설계 프레임워크를 성공적으로 제안하고 검증한 연구입니다.