기술 요약: 스펙트럼이 분리된 간섭이 존재하는 비선형 시스템에서의 학습 기반 신호 복구

1. 문제 정의

본 논문은 스펙트럼 밀도가 높은 환경에서 작동하는 상위 중대역(FR3, 7–24 GHz) 6G 수신기의 희망 신호 복구 과제를 다룹니다. 이러한 시나리오에서는 강력한 인접 대역(대역 외, OOB) 간섭이 불가피합니다. 전통적인 선형 수신기는 분리된 대역의 간섭을 억제하기 위해 주파수 선택적 필터링에 의존하지만, 실제 하드웨어의 한계—구체적으로 프런트엔드 비선형성(예: 증폭기 포화) 및 유한 해상도 양자화—로 인해 스펙트럼 누설이 발생합니다.

강력한 OOB 간섭이 수신기를 비선형 영역으로 몰아넣으면, 대역 내 왜곡이 생성되어 고전적인 선형 필터링을 무력화합니다. 핵심 문제는 수신 관측값 $y$(또는 양자화된 $y_q$)로부터 희망 신호 $x_0$를 추정하는 것입니다. 이때 관측값은 다음 요소들에 의해 오염됩니다:

1. 강력한 OOB 간섭: 분리된 주파수 대역을 점유함.
2. 비선형 포화: 소프트 임계값(soft-thresholding) 방식의 매끄러운 메모리리스(memoryless) 비선형성으로 모델링됨.
3. 양자화: ADC에 의한 선택적 조립 양자화.

2. 방법론

시스템 모델

저자들은 서로 분리된 대역 $B_\ell$을 점유하는 주파수 영역 소스 $x_\ell$의 역 IDFT(Inverse DFT)인 수신 벡터 $r$에 대한 이산 시간 신호 모델을 채택합니다. 수신 프런트엔드는 메모리리스 비선형 함수 $\Phi(\cdot)$와 가법 노이즈 및 선택적 양자화가 결합된 형태로 모델링됩니다:
$$y = \Phi(r, w)$$
구체적으로, 위상은 보존하면서 진폭을 압축하는 $\tanh$ 함수를 사용하는 **소프트 포화 모델(soft saturation model)**이 사용되며, 이후 가법 노이즈와 균등 양자화가 뒤따릅니다.

제안된 알고리즘: Learned ML-VAMP

본 논문은 Learned Multi-Layer Vector Approximate Message Passing (LMLVAMP) 알고리즘을 제안합니다. 이 접근 방식은 모델 기반 베이지안 추론과 데이터 기반 적응성을 통합합니다.

• 구조: 알고리즘은 시스템을 두 개의 레이어로 구성된 네트워크로 취급합니다:
  1. 레이어 1 (주파수 영역): 주파수 영역의 신호 $x$를 IDFT 행렬을 통해 시간 영역의 신호 $r$로 매핑합니다.
  2. 레이어 2 (시간 영역): $r$을 비선형 관측값 $y$로 매핑합니다.
• 반복 추론: 알고리즘은 두 가지 디노이징(denoising) 함수를 사용하여 추정치 $\hat{x}$와 $\hat{r}$을 반복적으로 업데이트합니다:
  1. 스펙트럼 디노이저 ($G_0$): 주파수 영역에서 작동합니다. 희망 신호의 경우, 이는 알려진 스펙트럼 사전 확률(평균 $\mu$ 및 분산 $S$)에 기반한 선형 MMSE 추정기입니다.
  2. 비선형 디노이저 ($G_1$): 비선형 왜곡을 역전시키기 위해 시간 영역에서 작동합니다.
• 학습 구성 요소:
  • 고전적인 ML-VAMP에서는 비선형 디노이저 $G_1$이 복잡한 다차원 수치 적분을 필요로 하며, 이는 계산적으로 매우 부담이 큽니다.
  • 제안된 학습형(Learned) 접근 방식은 이러한 다루기 힘든 해석적 디노이저를 컴팩트하고 훈련 가능한 신경망($f_0$ 및 $f_1$)으로 대체합니다.
  • 이 네트워크들은 최적의 MMSE 디노이저를 근사하기 위해 시뮬레이션된 데이터를 사용하여 엔드 투 엔드(end-to-end)로 훈련됩니다. 이들은 현재의 추정치, 노이즈 분산, 시스템 파라미터(예: 포화 전력 $P_{sat}$)와 같은 입력을 받아 정제된 추정치와 정밀도 파라미터를 출력합니다.
• 훈련 목적 함수: 모델은 중간 반복 단계에서의 주파수 영역 오차를 패널티로 부여하여 수렴을 유도하고, 최종 단계에서의 오차를 패널티로 부여하여 정확도를 보장하는 복합 손실 함수를 사용하여 훈련됩니다.

복잡도 이점

$N$차원 입력을 가진 일반적인 딥러닝 접근 방식이 $O(N^2)$개의 파라미터를 요구할 수 있는 것과 달리, LMLVAMP 프레임워크는 구성 요소별(component-wise) 신경망을 활용합니다. 복잡도는 신호 차원 $N$에 따라 확장되지 않으므로 광대역 시스템에 적합합니다.

3. 주요 기여

1. 새로운 프레임워크: 강력한 OOB 간섭, 수신기 포화 및 양자화가 존재하는 상황에서의 신호 복구를 위해 특별히 설계된 Learned ML-VAMP 프레임워크를 도입했습니다.
2. 하이브리드 아키텍처: 하드웨어 비선형성에 대한 명시적인 해석적 모델 없이도 비선형 왜곡을 처리하기 위해 스펙트럼 사전 확률(희망 신호 대역용)과 신경망 기반 디노이징을 통합했습니다.
3. 해석 가능성: "블랙박스" 형태의 딥러닝 네트워크와 달리, 제안된 방법은 메시지 패싱의 반복적 구조를 유지하여 베이지안 추론에 기반한 해석 가능성을 제공합니다.
4. 효율성: 경량화된 신경망으로 해석적 디노이저를 대체함으로써 고차원 적분의 계산적 부담을 피하면서도 확장성을 유지함을 입증했습니다.

4. 성능 결과

시뮬레이션은 FR3 관련 조건(SNR 10–20 dB, INR 30–80 dB, 10-bit 양자화) 하에서 수행되었습니다. 제안된 LMLVAMP는 다음 모델들과 비교되었습니다:

• LINEAR-K/U: 선형 주파수 영역 위너(Wiener) 추정기(간섭기 지식 유/무 포함).
• ORACLE: 완벽한 시스템 지식을 가진 이상적인 추정기(상한선).

주요 결과:

• 간섭에 대한 강건성: 선형 추정기는 비선형 스펙트럼 누설로 인해 간섭 대 잡음비(INR)가 50 dB를 초과하면 급격히 성능이 저하됩니다. 반면, LMLVAMP는 강력한 성능을 유지하며, 일부 영역에서 선형 베이스라인보다 훨씬 높은 달성 가능한 전송률(Achievable Rate)을 보여주었습니다(격차가 20 dB 이상 발생).
• 수렴: 제안된 방법은 단 두 번의 반복(iteration) 만에 ORACLE 벤치마크 성능에 근접합니다.
• 일반화: 간섭 신호에 대한 지식을 가정하지 않는 "Unknown" 변형 모델(LMLVAMP-U)은 선형 베이스라인을 크게 능가하며, 미지의 간섭 조건에 대한 일반화 능력을 입증했습니다.
• 양자화 탄력성: 알고리즘은 10-bit 양자화 환경에서도 선형 대안들보다 상당한 우위를 유지합니다.

5. 의의 및 주장

본 논문은 제안된 LMLVAMP 프레임워크가 미래 6G 시스템을 위한 견고하고 비용 효율적인 FR3 수신기를 설계하는 데 있어 실행 가능한 솔루션을 제공한다고 주장합니다. 비선형성, 노이즈 및 양자화를 공동으로 모델링함으로써, 이 방법은 밀집된 스펙트럼 환경에서 고전적인 선형 필터링의 한계를 극복합니다.

저자들은 이 접근 방식이 엄격한 모델 기반 추론과 데이터 기반 방식의 적응성 사이의 간극을 메운다는 점을 강조합니다. 이는 복잡한 다항식 모델링(추정이 어려운)과 블랙박스 신경망(해석 가능성이 부족한) 사이의 실질적인 대안을 제공합니다. 결과적으로, 반복적 추론과 학습된 디노이저의 결합이 상위 중대역 공존 시나리오의 특징인 심각한 비선형 왜곡을 처리하는 데 필수적임을 보여줍니다.

저자들이 언급한 향ik후 연구 과제에는 시변 간섭(time-varying interference), 메모리 효과(memory effects) 및 실시간 하드웨어 구현으로의 확장이 포함됩니다.