Complex Approximate Message Passing with Non-separable Denoising

이 논문은 **비분리형 (Non-separable) 소음 제거기 (Denoiser) 를 사용하는 복소수 영역의 근사 메시지 전달 (Complex Approximate Message Passing, AMP)**에 대한 상태 진화 (State Evolution, SE) 이론을 확립하는 것을 목적으로 합니다.

기존의 AMP 연구는 주로 실수 영역의 분리형 함수나 행렬 AMP에 집중되어 있었으며, 복소수 신호 처리와 비분리형 구조를 동시에 다루는 통합된 이론적 틀이 부족했습니다. 이 논문은 그 간극을 메우기 위해 제안된 방법론과 결과를 다음과 같이 요약합니다.

1. 문제 정의 (Problem)

• 배경: 통신 (OFDM, OTFS 등), 레이더, 소나 등 많은 물리 시스템은 본질적으로 복소수 (Complex-valued) 신호로 모델링됩니다. 또한, 이러한 신호들은 종종 **그룹 희소성 (Group Sparsity)**과 **요소 희소성 (Element Sparsity)**이 결합된 구조를 가집니다 (예: OTFS 기반의 무원천 랜덤 액세스에서의 프리앰블 감지).
• 도전 과제:
  • 비분리형 (Non-separable) 구조: 그룹 LASSO 와 같은 문제는 그룹 내 요소들의 결합된 노름에 의존하므로, 개별 요소별로 처리할 수 없는 비분리형 소음 제거기를 요구합니다.
  • 복소수 영역의 한계: 기존 AMP 이론은 실수 신호에 최적화되어 있으며, 복소수 신호를 단순히 실수/허수 부분으로 분리하여 처리하면 신호 간의 위상 상관관계 (Phase coherence) 와 회전 불변성 (Rotational invariance) 이 손실됩니다.
  • 이론적 부재: 복소수 영역에서 비분리형 소음 제거기를 사용할 때의 성능을 예측하는 상태 진화 (State Evolution) 이론이 존재하지 않았습니다.

2. 방법론 (Methodology)

논문은 기존 실수 영역의 AMP 이론을 활용하여 복소수 영역의 문제를 해결하기 위해 **증강된 실수 시스템 (Augmented Real-valued System)**과 정규 변환 (Canonical Transformation) 기법을 도입했습니다.

• 증강 시스템 구성 (Augmented System):
  • 복소수 선형 역문제 ($y = Ax_0 + w$) 를 실수 영역으로 변환할 때, 단순한 실수/허수 분리 ($\mathbb{C}^n \cong \mathbb{R}^{2n}$) 는 측정 행렬의 i.i.d. 성질을 파괴하거나 실수/허수 간의 결합을 해체합니다.
  • 이를 해결하기 위해 저자는 더 높은 차원의 실수 행렬 시스템을 구성합니다. 측정 행렬 $W \in \mathbb{R}^{2n \times N}$과 상태 행렬 $S_0 \in \mathbb{R}^{N \times 2}$를 사용하여, 원래 복소수 시스템보다 정보량이 풍부한 (4n 개의 실수 측정값) 증강 시스템을 만듭니다.
• 정규 변환 및 상태 축소 (Canonical Transformation & State Collapse):
  • 이 증강된 실수 시스템의 반복 과정을 **정규 변환 (Canonical Transformation)**을 통해 복소수 영역으로 축소 (Collapse) 합니다.
  • 변환 행렬 $R = I_n \otimes \rho^T$ ($\rho = [1, i]^T$) 를 사용하여 실수 행렬 블록을 복소수 스칼라로 매핑합니다.
  • 이 과정에서 Wirtinger 미분이 자연스럽게 Onsager 보정항에 등장하게 되어, 비분리형 구조를 가진 소음 제거기에도 적용 가능한 스칼라 복소수 상태 진화 식을 유도합니다.
• 행렬 확장 (Matrix Extension):
  • 단일 벡터 추정뿐만 아니라, 여러 특징 벡터를 동시에 추정하는 행렬 AMP 설정으로 이론을 확장했습니다. 이때 Onsager 보정항은 스칼라에서 $p \times p$ 크기의 복소수 야코비 행렬로 일반화됩니다.

3. 주요 기여 (Key Contributions)

1. 복소수 비분리형 AMP 의 상태 진화 이론 확립:
   • 비분리형 소음 제거기를 사용하는 복소수 AMP 알고리즘의 점근적 성능을 예측하는 상태 진화 (SE) 공식을 최초로 유도했습니다.
   • 증강 실수 시스템의 SE 를 복소수 영역으로 축소하는 수학적 증명 (Theorem 11) 을 제시했습니다.
2. Wirtinger 미분의 통합:
   • 복소수 미분 (Wirtinger derivative) 을 별도의 가정으로 도입하는 대신, 증강 시스템의 구조적 변환을 통해 자연스럽게 유도됨을 보였습니다.
3. 복소수 희소 그룹 LASSO (Complex SGL) 적용:
   • 통신 시스템 (OTFS 프리앰블 감지) 에 적합한 Complex Sparse Group LASSO 문제를 구체적으로 다뤘습니다.
   • 그룹 단위의 희소성과 요소 단위의 희소성을 동시에 고려하는 비분리형 소음 제거기의 폐쇄형 해 (Closed-form solution) 와 그 Wirtinger 미분을 유도했습니다.
4. 행렬 AMP 로의 일반화:
   • 다중 특징 벡터 추정을 위한 행렬 AMP 프레임워크를 제안하여, 동시 그룹 및 요소 희소성 제약 조건을 활용하는 능력을 확장했습니다.

4. 실험 결과 (Results)

• 상태 진화의 정확성: 수치 실험을 통해 유도된 상태 진화 이론이 실제 알고리즘의 성능 (평균 제곱 오차, NMSE) 을 매우 정확하게 예측함을 확인했습니다.
• 성능 비교:
  • 제안된 Complex SGL (비분리형 복소수) 방식은 기존 방법들 (Complex LASSO, Complex GL, Real SGL) 보다 모든 SNR 구간에서 우수한 성능을 보였습니다.
  • Complex LASSO: 그룹 구조를 무시하여 성능이 낮음.
  • Complex GL: 요소 내 희소성을 무시하여 성능이 낮음.
  • Real SGL: 실수/허수 성분을 독립적으로 처리하여 복소수 신호의 위상 상관관계를 활용하지 못함.
  • Complex SGL (제안): 그룹 구조, 요소 희소성, 복소수 위상 관계를 모두 활용하여 최적의 성능 달성.
• 수렴 속도: AMP 알고리즘이 ISTA(Iterative Soft Thresholding Algorithm) 에 비해 훨씬 빠르게 수렴함을 확인했습니다.

5. 의의 및 중요성 (Significance)

• 이론적 통합: 고차원 추론 (High-dimensional inference) 과 복소수 신호 처리 이론을 통합하여, 비분리형 구조를 가진 복잡한 복소수 문제에도 AMP 프레임워크를 적용할 수 있는 이론적 토대를 마련했습니다.
• 실용적 응용: OTFS 기반의 무원천 랜덤 액세스 (Unsupourced Random Access), OFDM 채널 추정, 배열 처리 (Array Processing) 등 실제 통신 및 신호 처리 시스템에서 구조적 의존성을 활용하여 성능을 극대화할 수 있는 길을 열었습니다.
• 미래 연구 방향: 이 프레임워크는 구조화된 센싱 행렬 (Partial DFT 등) 로의 확장, 딥 언폴딩 (Deep Unfolding) 을 통한 학습 가능한 아키텍처 설계, 베이지안 최적 추정기로의 확장 등 다양한 후속 연구의 기초가 됩니다.

요약하자면, 이 논문은 복소수 신호의 고유한 구조 (위상, 회전 불변성) 와 비분리형 희소성 (그룹/요소 희소성) 을 동시에 고려할 수 있는 강력한 AMP 프레임워크를 제안하며, 이를 통해 통신 시스템의 성능 한계를 극복할 수 있음을 이론적 및 실험적으로 증명했습니다.