A JEPA-Based Field-Layer World Model for Bridging Channel Prediction and Estimation

기술 요약: 채널 예측과 추정을 연결하기 위한 JEPA 기반 필드 레이어 월드 모델(Field-Layer World Model)

문제 정의
현대 MIMO-OFDM 무선 시스템에서 채널 상태 정보(CSI)를 획득, 재구성 및 예측하는 것은 매우 중요하면서도 비용이 많이 드는 작업입니다. 가공되지 않은(raw) CSI 계수를 직접 예측하는 것은 실제 전파 환경에서 본질적으로 취약합니다. 작은 공간적 섭동, 국부적인 산란 변화, 그리고 위상 변이는 복소수 채널 영역에서 큰 오차를 유발할 수 있으며, 이는 계수 수준의 예측을 불안정하게 만듭니다. 또한, 실제 CSI 관측치는 반송파 주파수, 대역폭, 안테나 구성 및 파일럿 패턴에 따라 매우 이질적입니다. 기존 방법들은 고정된 입력 형식을 가정하여 채널 추정, 재구성 또는 예측을 각각 별도로 다루는 경우가 많으며, 안정적인 전파 필드 구조와 위상에 민감한 순시적 세부 사항을 명시적으로 분리하지 못합니다. 결과적으로, 원시 CSI 예측 오차를 최소화하려는 모델은 역사적 데이터로부터 추론하기 어려운 불안정한 고주파 세부 사항에 과적합되는 경 Tendency가 있습니다.

방법론
저자들은 다해상도 CSI 관측으로부터 공유된 잠재 전파 상태(latent propagation state)를 학습하도록 설계된 JEPA(Joint-Embedding Predictive Architecture) 기반 프레임워크인 **필드 레이어 월드 모델(Field-Layer World Model, FWM)**을 제안합니다.

• 핵심 철학: FWM은 원시 CSI 계수를 직접 예측하는 대신, 기저에 깔린 전파 필드의 잠재 표현(latent representation)을 예측합니다. 이 잠재 공간은 안정적이고 예측 가능한 구조(예: 지연-각도 서포트, 공간 공분산)를 포착하는 한편, 미세하고 위상에 민감한 세부 사항의 복구는 희소한 현재 파일럿을 사용하는 다운스트림 단계로 미룹니다.
• 아키텍처:
  • 토크나이저 뱅크(Tokenizer Bank): 다양한 규모의 CSI 관측치(변화하는 반송파 대역, 안테나 수, 해상도)를 공유된 잠재 전파 필드 공간으로 매핑하는 일련의 규모별 토크나이저 헤드($T_\omega$)로 구성됩니다.
  • 잠재 예측 백본(Latent Prediction Backbone): 공유된 JEPA 백본($F$)은 가시적인 과거 컨텍스트로부터 마스킹되거나 미래의 잠재 상태를 추론합니다. 이는 원시 관측 영역이 아닌 잠재 영역에서 작동합니다.
  • 다운스트림 헤드(Downstream Heads): 태스크 특화 헤드($D_q$)는 예측된 잠재 필드와 현재의 희소 파일럿 관측치를 결합하여 전체 채널을 재구성하거나, 심볼 검출을 수행하거나, 빔포밍을 설계합니다.
• 학습 전략:
  • JEPA 사전 학습: 모델은 지수 이동 평균(EMA) 타겟 토크나이저를 사용하여 마스킹된 잠재 토큰을 예측하도록 학습됩니다. 이 목적 함수에는 잠재 붕괴(latent collapse)를 방지하고 모델이 불안정한 계수 수준의 세부 사항을 학습하지 않도록 하는 다양성 정규화 항이 포함됩니다.
  • 점진적 다중 규모 정렬(Incremental Multi-Scale Alignment): 이질적인 입력 스케일을 처리하기 위해, 저자들은 새로운 스케일의 토크나이저를 사전 학습된 참조 스케일에 정렬하는 전략을 도입했습니다. 이는 참조 브랜치가 고정되거나 EMA를 통해 업데이트되는 동안 새로운 스케일이 학습되는 "고정-참조(frozen-reference)" 방식을 통해 달성되며, 최적화 부담을 최소화하고 안정적인 정렬을 보장합니다.
• 다운스트림 응용: 예측된 잠재 필드는 구조화된 사전 정보(prior) 역할을 합니다. **직접 단일 대역 재구성(Direct Single-Band Reconstruction)**에서는 이를 국부적인 희소 파일럿과 융합합니다. **교차 대역 재구성(Cross-Band Reconstruction)**에서는 관측된 대역의 파일럿 정보와 공유된 잠재 구조를 활용하여 현재 파일럿이 없는 대역의 채널을 추론할 수 있게 합니다.

주요 기여

1. 네이티브 AI 프레임워크: 역사적 채널 간의 암묵적 관계를 학습하여 정확한 잠재 필드 예측을 생성함으로써, 원시 CSI의 직접적인 외삽을 피하는 JEPA 기반의 무선 시스템 프레임워크를 제안합니다.
2. 점진적 다중 규모 정렬: 모델 전체를 처음부터 다시 학습시키지 않고도 서로 다른 입력 스케일(해상도, 반송파 대역)을 동일한 잠재 공간으로 매핑하는 학습 전략을 도입하여 확장성을 용이하게 합니다.
3. 예측-추정 융합: 학습된 JEPA 잠재 표현을 다운스트림 채널 재구성에 적용하여, 역사적 사전 정보와 순시적 파일럿 증거를 융합함으로써 파일럿 오버헤드를 줄이고 재구성 품질을 개선함을 입증했습니다.
4. 설계 원칙: 다양한 JEPA 보조 타겟(예: 다양성 정규화 vs CSI 도메인 그라운딩)과 네트워크 토폴로지의 효과를 조사하여, 원시 계수 피팅보다 태스크 관련 공간 구조를 우선시하는 원칙을 도출했습니다.

결과
실험은 시카고 도심 시나리오를 기반으로 Sionna RT를 통해 생성된 데이터셋을 사용하여 수행되었으며, sub-6-GHz 및 mmWave 대역과 다양한 해상도를 포함합니다.

• 잠재 예측: JEPA-다양성 목적 함수가 직접적인 CSI 복구나 진폭 복구를 포함하는 목적 함수보다 크게 우수한 성능을 보였으며, 이는 잠재 공간이 계수 세부 사항보다는 안정적인 구조에 집중해야 함을 확인시켜 줍니다.
• 학습 전략: 고정-참조 점진적 정렬 전략이 처음부터 시작하는 공동 다중 규모 학습이나 진화하는 참조 브랜치 방식보다 우수함이 증명되었으며, 더 낮고 안정적인 잠재 예측 NMSE를 달로 성했습니다.
• 다운스트림 성능:
  • 재구성 및 SER: FWM은 채널 재구성 NMSE 및 16-QAM 심볼 오류율(SER) 측면에서 단순 추정 및 직접 학습과 같은 베이스라인보다 일관되게 우수한 성능을 보였으며, 특히 파일럿 오버헤드가 낮을 때 두드러졌습니다.
  • 빔포밍 이득: 결정적으로, NMSE 측면에서의 엔드 투 엔드 베이스라인 대비 개선은 때때로 완만했을지라도, FWM은 상당한 빔포밍 이득을 제공했습니다. 예측된 잠재 사전 정보는 직접 학습보다 지배적인 공간 고유 방향(eigendirections)과 공분산 구조를 더 잘 보존하여, 더 높은 빔포밍 성능 비율($G_{n,T}$)과 고유 벡터 유사도를 이끌어냈습니다.
  • 교차 대역 능력: 모델은 관측된 대역으로부터 공유된 잠재 필드를 통해 공간 정보를 전달함으로써, 현재 파일럿이 없는 대역에 대한 채널을 성공적으로 재구성했습니다.

의의 및 주장
본 논문은 FWM이 "원시 채널 영역에서의 태스크 특화 매핑"에서 "공유된 물리적 잠재 공간에서의 표현 중심 추론"으로의 전환을 나타낸다고 주장합니다. 이 연구의 주요 의의는 전파 필드의 구조를 예측하는 것이 원시 CSI 계수를 예측하는 것보다 더 견고하고 유용하다는 것을 입로 입증했다는 데 있습니다.

저자들은 FWM이 현재의 채널 추정을 대체하는 것이 아니라 보완하는 것이라고 강조합니다. 시간과 주파수에 걸쳐 안정적인 태스크 관련 공간 전파 구조(예: 지배적 고유 공간)를 포착함으로써, 이 모델은 원시 계수 수준의 오차(NMSE)가 극적으로 줄어들지 않더라도 빔포밍과 심볼 검출을 크게 향상시키는 강력한 사전 정보를 제공합니다. 이러한 접근 방식은 이동성 불확실성이 존재하는 상황에서 위상 민감형 CSI 예측의 근본적인 한계를 해결하며, 다양한 시스템 구성에 걸쳐 이질적인 무선 관측을 처리할 수 있는 확장 가능한 경로를 제시합니다.