Indirect and Direct Multiuser Hybrid Beamforming for Far-Field and Near-Field Communications: A Deep Learning Approach

이 논문은 XL-MIMO 시스템의 근거리 및 원거리 통신에서 다중 사용자 간섭을 효과적으로 처리하고 학습 안정성을 확보하기 위해, 폐쇄형 디지털 프리코더를 통합한 복합값 종단간 (E2E) 딥러닝 기반 간접 및 직접 하이브리드 빔포밍 프레임워크를 제안합니다.

핵심

📡 핵심 주제: "거대한 안테나 숲"에서의 정밀한 데이터 배달

상상해 보세요. 기지국 (통신탑) 에 수천 개의 안테나가 빽빽하게 심어진 거대한 '안테나 숲'이 있다고 칩시다. 이 숲은 동시에 여러 사용자에게 데이터를 보내야 합니다.

하지만 여기서 두 가지 큰 문제가 발생합니다.

1. 가까운 사람 vs 먼 사람: 사용자들이 기지국에 아주 가까이 있거나 (근거리), 멀리 있거나 (원거리) 할 때, 전파가 도달하는 방식이 다릅니다. 마치 스피커 앞에서 소리가 울리는 것과 멀리서 들리는 소리가 다른 것처럼요. 기존 기술은 이 차이를 잘 처리하지 못했습니다.
2. 혼잡한 도로: 여러 사람이 동시에 데이터를 받다 보니 신호가 서로 섞여 방해가 되는 '간섭' 문제가 생깁니다.

이 논문은 **인공지능 (딥러닝)**을 이용해 이 두 문제를 해결하고, 안테나 숲을 가장 효율적으로 운영하는 방법을 제시합니다.

---

💡 해결책: "똑똑한 사령관"과 "자동 조종사"

이 논문이 제안하는 시스템은 크게 두 가지 모드로 작동합니다. 마치 **사령관 (AI)**이 상황을 파악하고 지시하는 방식입니다.

1. 간접 모드 (Indirect Mode): "지도가 있는 상황"

• 상황: 기지국이 사용자의 정확한 위치와 채널 상태 (지도) 를 이미 알고 있을 때입니다.
• 작동 방식:
  • AI 사령관 (네트워크): 지도를 보고 "누가 어디에 있는지"를 분석합니다.
  • 자동 조종사 (디지털): AI 가 "이 방향으로 보내라"라고 안테나를 조정한 후, 남은 미세한 조정은 수학 공식 (KKT 조건) 으로 자동으로 해결합니다.
  • 장점: 기존에 수천 번을 계산하며 찾던 최적의 경로를, AI 가 한 번에 찾아냅니다. 마치 복잡한 미로에서 길을 찾는 대신, AI 가 바로 출구를 알려주는 것과 같습니다.

2. 직접 모드 (Direct Mode): "지도 없이 눈으로 보는 상황"

• 상황: 사용자의 정확한 위치나 채널 상태를 미리 알 수 없을 때입니다. (실제 통신 환경에서 더 흔한 경우)
• 작동 방식:
  • 스마트 안테나 (센싱): AI 가 안테나를 이용해 "짧은 신호 (파일럿)"를 보내고 돌아오는 반응을 직접 관찰합니다.
  • 학습된 직관: AI 는 이 짧은 반응만으로도 "아, 저 사람은 저쪽에 있고, 저 사람은 여기 있구나"라고 직관적으로 파악합니다.
  • 실시간 대응: 이 정보를 바탕으로 안테나를 즉시 조정하고, 다시 수학 공식으로 정밀한 조정을 가합니다.
  • 장점: 기존 방식은 정확한 지도를 그리기 위해 많은 시간과 신호를 썼지만, 이 방식은 짧은 신호만으로도 빠르게 최적의 경로를 찾아냅니다.

---

🎨 창의적인 비유로 이해하기

1. "초점 맞추기" (Near-Field vs Far-Field)

• 기존 기술: 마치 카메라 렌즈를 '원거리'에만 초점을 맞춘 것처럼, 가까운 사람에게는 흐릿하게, 먼 사람에게는 또렷하게 보냈습니다.
• 이 기술: 줌 (Zoom) 기능이 달린 스마트 카메라처럼, 가까운 사람에게는 '근접 초점'을, 먼 사람에게는 '원거리 초점'을 자동으로 맞춰줍니다. 이를 통해 가까운 사람과 먼 사람을 동시에 선명하게 (데이터를 잘) 전달할 수 있습니다.

2. "혼잡한 파티" (Multiuser Interference)

• 상황: 파티장에서 여러 사람이 동시에 이야기할 때, 소리가 섞여 들리지 않는 상황을 상상해 보세요.
• 기존 기술: "다들 조용히 해!"라고 외치거나, 한 명씩만 말하게 하는 식이라 비효율적입니다.
• 이 기술: 초능력을 가진 DJ가 각 사람의 목소리 주파수를 정확히 분석하여, 서로의 소리가 섞이지 않도록 안테나 (스피커) 를 정밀하게 조종합니다. 마치 각자 다른 방향에서 소리가 들리도록 만들어, 모든 사람이 동시에 명확하게 대화할 수 있게 합니다.

3. "학습된 직관" (Deep Learning)

• 기존 방식: 매번 복잡한 지도를 그려가며 최적 경로를 계산합니다. (시간이 오래 걸림)
• 이 방식: AI 가 수많은 시뮬레이션을 통해 **"경험"**을 쌓았습니다. 이제 새로운 상황이 오면, 복잡한 계산 없이도 "아, 이 패턴은 저렇게 처리하면 돼!"라고 직관적으로 바로 답을 내놓습니다.

---

🚀 이 기술의 놀라운 성과

1. 속도 향상: 기존 방식보다 데이터 전송 속도 (스펙트럼 효율) 가 최대 3 배 이상 빨라졌습니다.
2. 에너지 절약: 불필요한 계산을 줄여 전력을 아끼면서도 더 많은 데이터를 보냅니다.
3. 강인함: 안테나 수가 수천 개로 늘어나거나, 사용자가 아주 가까이 있더라도 성능이 떨어지지 않습니다.
4. 실용성: 복잡한 지도 (정확한 채널 정보) 가 없어도, 짧은 신호만으로도 잘 작동합니다.

📝 결론

이 논문은 6G 시대의 거대한 안테나 시스템이 겪는 '가까운 사람과 먼 사람', '혼란스러운 간섭' 문제를 인공지능으로 해결했습니다. 마치 똑똑한 사령관이 안테나 숲을 지휘하여, 복잡한 상황에서도 데이터를 빠르고 정확하게 배달하도록 만든 혁신적인 기술입니다. 앞으로 우리가 사용하는 모바일 인터넷은 훨씬 더 빠르고, 끊김이 없으며, 많은 사람이 동시에 사용해도 쾌적해질 것입니다.

기술 요약

논문 요약: 근거리 및 원거리 통신을 위한 간접 및 직접 다중 사용자 하이브리드 빔포밍 (딥러닝 기반)

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 6G 네트워크의 초고 throughput 및 저지연 요구사항을 충족하기 위해 극대규모 MIMO (XL-MIMO) 시스템이 도입되고 있습니다. XL-MIMO 의 큰 어레이 개구면 (aperture) 은 레일리 거리를 확장시켜 많은 사용자가 근거리 (Near-field) 영역에 위치하게 만듭니다.
• 문제점:
  • 근거리 채널의 복잡성: 근거리에서는 평면파 (Plane-wave) 가정이 무효화되고 구면파 (Spherical-wave) 모델이 필요합니다. 채널이 각도 (Angle) 와 거리 (Distance) 에 동시에 의존하며, 다중 사용자 간섭 (MUI) 이 강하게 발생합니다.
  • 기존 방법의 한계:
    • 분리형 설계 (Decoupled design): 아날로그 빔포밍을 최적화할 때 MUI 를 명시적으로 고려하지 않아 성능이 저하됩니다.
    • 종단간 (E2E) 최적화: 아날로그 - 디지털 결합 최적화를 시도하지만, 비볼록 (nonconvex) 인 상수 모듈러스 (CM) 제약, 아날로그 - 디지털 간의 강한 결합, 그리고 합계율 (Sum-rate) 손실의 기울기 패턴으로 인해 학습이 불안정하고 수렴이 어렵습니다.
  • 기존 딥러닝 접근법: 대부분 코드북 기반 분류 문제로 접근하거나, MUI 억제를 위한 디지털 프리코더의 역할을 간과하여 근거리 빔 포커싱 (Beam Focusing) 의 정밀도를 달성하지 못합니다.

2. 제안된 방법론 (Methodology)

저자들은 복소수 기반의 종단간 (Complex-valued E2E) 프레임워크를 제안하며, 이는 간접 (Indirect) 모드와 직접 (Direct) 모드를 모두 지원합니다. 핵심은 변형 최소 평균 제곱 오차 (Variant-MMSE) 기준을 학습 목적 함수로 사용하여 디지털 프리코더를 폐쇄형 (Closed-form) 으로 제거한 후 아날로그 프리코더만 학습하는 것입니다.

• 핵심 전략: Variant-MMSE 기반 디지털 프리코더 제거

  • 최적화 문제를 합계 MSE 최소화 문제로 재정의합니다.
  • Karush-Kuhn-Tucker (KKT) 조건을 활용하여 주어진 아날로그 프리코더 ($F_{RF}$) 에 대해 디지털 프리코더 ($F_{BB}$) 를 해석적 (Analytical) 으로 도출합니다.
  • 이를 통해 학습 목적 함수에서 디지털 프리코더 변수를 제거하고, 아날로그 프리코더 ($F_{RF}$) 만을 학습하도록 하여 최적화 안정성을 확보합니다.

• 네트워크 아키텍처 (Deep Complex Neural Networks, DCNs):

  1. 그룹화된 복소 컨볼루션 센싱 프런트엔드: 업링크 (UL) 측정 과정을 모방합니다. 학습 가능한 센싱 행렬을 통해 채널의 공간적 특징을 추출하며, 잡음에 강인한 특징을 학습합니다.
  2. 공유 복소 MLP (Multi-Layer Perceptron): 사용자별 특징을 추출합니다. 복소수 배치 정규화 (Complex BN) 와 커스텀 복소 하이퍼볼릭 탄젠트 (Complex Tanh) 활성화 함수를 사용하여 학습 안정성을 높입니다.
  3. 병합된 출력 헤드: 모든 사용자의 특징을 통합하여 아날로그 프리코더를 생성합니다. 하드웨어 제약인 상수 모듈러스 (CM) 제약을 만족시키기 위해 정규화 레이어를 적용합니다.

• 운용 모드:

  • 간접 모드 (Indirect Mode): 추정된 채널 상태 정보 (CSI) 를 입력으로 받아 아날로그 프리코더를 생성하고, KKT 해를 통해 디지털 프리코더를 계산합니다.
  • 직접 모드 (Direct Mode): 명시적인 CSI 가 없는 경우, 짧은 파일럿 (Pilot) 신호를 입력받아 센싱 연산자와 아날로그 매핑을 직접 학습합니다. 이후 추가 파일럿을 통해 유효 채널 (Effective Channel) 을 추정하고 KKT 기반 디지털 프리코더를 적용합니다.

3. 주요 기여 (Key Contributions)

1. 완전 복소수 E2E 프레임워크: 근거리 및 원거리 환경 모두에서 작동하는 다중 사용자 하이브리드 빔포밍을 위한 새로운 딥러닝 아키텍처를 제안했습니다. 이는 아날로그 빔포밍의 CM 제약을 유지하면서 MUI 를 효과적으로 제어합니다.
2. 안정적인 Variant-MMSE 목적 함수: 합계율 (Sum-rate) 최대화의 불안정한 기울기 문제를 해결하기 위해, 디지털 프리코더를 KKT 조건으로 폐쇄형 제거한 Variant-MMSE 기반의 안정적인 학습 목적 함수를 도입했습니다.
3. 간접 및 직접 모드 통합: 명시적 CSI 가 있는 경우 (간접) 와 파일럿 기반 측정만 있는 경우 (직접) 를 모두 지원하는 유연한 프레임워크를 설계하여, XL-MIMO 시스템의 확장성과 파일럿 오버헤드 절감을 달성했습니다.
4. 물리적 해석 가능성: 학습된 센싱 패턴과 잠재 공간 (Latent Space) 특징을 시각화하여, 네트워크가 물리적으로 의미 있는 거리 의존적 공간 구조 (Range-dependent spatial structures) 를 학습했음을 입증했습니다.

4. 실험 결과 (Results)

시뮬레이션은 100 GHz 대역, 128 안테나 ULA, 4 RF 체인 환경에서 수행되었습니다.

• 성능 우위:
  • 간접 모드: 기존 반복적 최적화 알고리즘 (TH-HMP) 과 비교하여, 안테나 수에 비례하는 복잡도 감소와 함께 거의 최적의 성능 (Sum-rate) 을 달성했습니다.
  • 직접 모드: 희소 복원 (Sparse-recovery) 기반 방법 (P-SOMP, P-SIGW) 과 기존 E2E 딥러닝 (SU-DNN) 대비 최대 3 bps/Hz 의 합계율 향상을 보였습니다. 특히 짧은 파일럿 예산 (Pilot budget) 하에서도 우수한 성능을 유지했습니다.
• 근거리/원거리 적응성:
  • 근거리 (5m) 에서 원거리 (320m) 까지 다양한 거리 범위에서 안정적인 성능을 보였습니다. 기존 희소 복원 기반 방법들은 근거리에서 구면파 곡률로 인한 그리드 불일치 (Grid mismatch) 로 성능이 급격히 저하되었으나, 제안된 방법은 이를 효과적으로 극복했습니다.
• 확장성: 사용자 수 (K) 가 증가하거나 안테나 수 (M) 가 512 개로 확장되어도 성능이 선형적으로 향상되거나 유지되었으며, 계산 복잡도가 낮아 실시간 적용 가능성이 높음을 입증했습니다.

5. 의의 및 결론 (Significance)

이 논문은 XL-MIMO 시스템의 근거리 통신에서 발생하는 고차원 비볼록 최적화 문제를 딥러닝을 통해 효율적으로 해결하는 새로운 패러다임을 제시합니다.

• 기술적 혁신: 아날로그와 디지털 빔포밍의 결합 문제를 '디지털 프리코더 제거' 전략으로 단순화하여 학습의 안정성을 확보하고, 하드웨어 제약 (CM) 을 자연스럽게 통합했습니다.
• 실용성: 명시적인 채널 추정 없이도 짧은 파일럿으로 고품질 빔포밍을 수행할 수 있어, 6G XL-MIMO 시스템의 파일럿 오버헤드와 계산 비용을 획기적으로 줄일 수 있습니다.
• 미래 전망: 제안된 프레임워크는 광대역 OFDM 시스템으로 확장 가능하며, 실제 하드웨어의 비선형성 및 오차 보정에도 적용 가능한 잠재력을 가지고 있습니다.

결론적으로, 이 연구는 안정적인 학습 목적 함수 설계와 물리 모델 기반의 딥러닝 아키텍처를 결합함으로써, 차세대 XL-MIMO 시스템의 핵심 기술인 하이브리드 빔포밍의 실용성을 크게 향상시켰습니다.