FM-Receiver: A Foundation Model Enabled Unified Inner and Outer Neural Receiver Towards AI-Native Wireless Communications

기술 요약: FM-Receiver

문제 정의

현재 무선 통신 분야의 신경망 수신기 아키텍처는 일반적으로 채널 추정, 등화(equalization), 디매핑(demapping)과 같은 "외부(outer)" 수신기에는 딥러닝을 적용하는 반면, 채널 디코딩과 같은 "내부(inner)" 수신기에는 Belief Propagation(BP)과 같은 전통적인 알고리즘을 그대로 유지합니다. 이러한 분리는 두 가지 결정적인 한계를 야기합니다:

1. 결합 최적화의 부재: 외부 수신기와 내부 수신기가 독립적으로 최적화되어, 신호 처리와 디코딩 사이의 복잡하고 비선형적인 관계를 학습하지 못하며, 이는 특히 다중 사용자 또는 낮은 신호 대 잡음비(SNR) 시나리오에서 성능 저하를 초래합니다.
2. 아키텍처 불일치: 기존의 AI 기반 채널 디코더는 비트 단위로 동작하는 반면, 외부 수신기는 변조된 심볼(비트 그룹)을 처리합니다. 이러한 불일치는 두 단계를 하나의 통합된 신경망 프레임워크로 원활하게 통합하는 것을 방해하며 계산 복잡도를 증가시킵니다.

또한, 기존의 신경 학습 수신기는 광범위한 재학습 없이 다양한 시스템 구성(예: 사용자 수, 주파수 대역, 변조 방식의 변화)에 대해 일반화하는 데 어려움을 겪으며, 이는 AI 네이티브 에어 인터페이스 적용을 제한합니다.

방법론

저자들은 외부 수신기와 내부 수신기를 하나의 엔드 투 엔드(end-to-end) 프레임워크로 통합하는 FM(Foundation Model) 기반의 통합 신경 수신기인 FM-Receiver를 제안합니다. 핵심 방법론은 세 가지 주요 구성 요소로 이루어집니다:

1. 그룹화된 오류 정정 코드 트랜스포머 (G-ECCT)

심볼 단위의 외부 처리와 비트 단위 디코딩 사이의 불일치를 해결하기 위해, 저자들은 G-ECCT를 도입했습니다.

• 심볼 단위 디코딩: 개별 비트를 토큰으로 취급하는 대신, G-ECCT는 변조된 심볼의 $m$개 비트를 하나의 토큰으로 그룹화합니다. 이는 디코딩의 입도를 외부 수신기의 출력과 일치시킵니다.
• 마스크드 어텐션 (Masked Attention): 패리티 검사 행렬(parity-check matrix) 구조를 셀프 어텐션 메커니즘에 포함시키도록 설계된 특수 그룹 기반 마스크 생성 기법이 도입되었습니다. 이를 통해 트랜스포머는 코드 제약 조건을 준수하면서 심볼 그룹 간의 의존성을 학습할 수 있습니다.
• 효율성: 비트가 아닌 심볼을 처리함으로써, 비트 단위 접근 방식에 비해 계산 복의 복잡도를 $m^2$ 배만큼 줄였습니다.

2. 통합 FM-Receiver 아키텍처

전체 아키텍처는 수신된 시간-주파수 자원 그리드(FFT 후)를 입력으로 받아 최종적으로 복구된 송신 비트를 직접 출력합니다.

• 백본 (Backbone): 네트워크는 스택된 트랜스포머 백본을 활용합니다. 첫 $N_1$개 블록은 **풀 셀프 어텐션(full self-attention)**을 사용하여 외부 수신기 작업(채널 추정, 등화, 디매핑)을 수행하여 로그 우도비(LLR)를 생성합니다.
• 디코딩: 후속 $N_2$개 블록은 **마스크드 셀프 어텐션(masked self-attention, G-ECCT)**을 사용하여 생성된 LLR에 대해 심볼 단위 채널 디코딩을 수행합니다.
• 보조 감독 (Auxiliary Supervision): 읽기 출력(read-out) 모듈은 훈련 중에 정교한 채널 추정치를 제공하여 수렴성과 안정성을 향상시킵니다.

3. 3단계 구성 적응형 사전 학습 (Three-Stage Configuration-Adaptive Pre-Training)

다양한 시나리오에 대한 견고한 일반화를 보장하기 위해 3단계 사전 학습 전략이 사용됩니다:

• 1단계 (외부 수신기): 다양한 데이터셋을 통해 외부 수신기 블록을 사전 학습하여 견고한 주파수 영역 처리 및 간섭 억제 능력을 학습합니다.
• 2단계 (G-ECCT): AWGN 채널에서 생성된 깨끗한 LLR을 사용하여 G-ECCT 블록을 사전 학습합니다. 이를 통해 디코더가 외부 수신기의 불완전한 LLR 분포에 과적합되지 않고 빠르게 수렴할 수 있도록 합니다.
• 3단계 (결합 최적화): 다양한 데이터셋을 사용하여 전체 통합 네트워크를 엔드 투 엔드로 미세 조정(fine-tuning)함으로써, 외부 및 내부 구성 요소가 서로 적응하도록 합니다.

주요 기여

1. 통합 프레임워크: 본 논문은 파운데이션 모델을 사용하여 외부 및 내부 수신기를 완전히 통합한 최초의 아키텍처를 제시하며, 기존의 채널 디코딩 알고리즘의 필요성을 제거했습니다.
2. G-ECCT 설계: G-ECCT를 통한 심볼 단위 디코딩의 도입은 변조와 코딩 사이의 간극을 메워 원활한 통합을 가능하게 하고 계산 복잡도를 줄였습니다.
3. 일반화 전략: 제안된 3단계 사전 학습 전략은 사용자 수, 주파수 대역, 변조 및 코딩 방식(MCS)이 변하는 미지의 시스템 구성에 모델이 적응할 수 있게 합니다.
4. 제로샷(Zero-Shot) 능력: 모델은 미학습 주파수 대역(예: 28 GHz) 및 채널 모델에 대해 미세 조정 없이 일반화할 수 있는 능력을 보여줍니다.

시뮬레이션 결과

다양한 채널 모델(CDL-A ~ E), 주파수 대역(3.5 GHz ~ 28 GHz) 및 사용자 구성을 포함하는 15개의 데이터셋에 대해 3GPP 표준 준수 링크 레벨 시뮬레이터(Sionna)를 사용하여 광범적한 시뮬레이션을 수행했습니다.

• 성능 이점: FM-Receiver는 기존 수신기(LS/LMMSE + BP) 및 학습 기반 방법(CNN+BP, Transformer+BP)을 포함한 베이스라인들을 지속적으로 능가했습니다. 도전적인 4-사용자 시나리오에서 제안된 방법은 베이스라인 대비 2 dB 이상의 성능 이득을 달了했습니다.
• 변조 강건성: QPSK, 16-QAM, 64-QAM 전반에서 우수한 성능을 보였습니다. QPSK의 경우 전통적인 베이스라인보다 3 dB 이상의 이득을 보였고, 64-QAM의 경우에도 1.5 dB 이상의 이득을 유지했습니다.
• 제로샷 일반화:
  • 주파수 대역: 3.5–7.0 GHz에서 학습된 후 미학습된 28 GHz 대역에서 테스트했을 때, FM-Receiver는 강력한 성능을 유지했으며, 인밴드(in-band) 결과보다 "Transformer+BP" 베이스라인보다 약 1 dB 더 높은 성능을 보였습니다.
  • 채널 모델: 미학습 채널 모델(CDL-B)에서 테스트했을 때, FM-Receiver는 최상의 전통적 베이스라인 대비 약 1 dB의 이득을 유지했으나, 다른 신경 수신기들은 성능이 크게 저하되었습니다.
• 확장성: 모델 크기가 커질수록(최대 86.66M 파라미터) 그리고 사전 학습 데이터셋이 다양해질수록 성능이 향 향상되었습니다.
• 계산 효율성: 일부 베이스라인보다 더 많은 파라미터(38.98M)를 보유함에도 불구하고, FM-Receiver는 단일 패스 피드포워드(single-pass feed-forward) 구조 덕분에 반복적 BP 기반 방법(예: LMMSE+LMMSE+BP의 경우 49.980 ms)에 비해 가장 낮은 추론 지연 시간(배치당 5.511 ms)을 달성했습니다.

의의 및 주장

본 논문은 FM-Receiver가 AI 네이티브 무선 통신을 실현하는 중요한 단계라고 주장합니다. 전체 수신기 체인을 단일 파운데이션 모델로 통합함으로써, 모듈화되고 별도로 최적화된 설계의 한계를 극복합니다. 저자들은 이 아키텍처가 다양하고 도전적인 시나리오 전반에서 우수한 비트 오차율(BER) 성능을 제공할 뿐만 아니라, 시스템 구성이 동적으로 변할 수 있는 미래 6G 네트워크에 필수적인 강력한 제로샷 일반화 능력을 제공한다고 단언합니다. 추론 지연 시간의 감소는 이러한 복잡한 신경 수신기를 실시간 시스템에 배치하는 것이 이론적 이점을 넘어 실제 구현 가능한 영역임을 시사하며, AI의 실질적인 구현 가능성을 보여줍니다.