⚡ electrical engineering

MultiPathFormer: Towards a Foundation Model for Multipath Wireless Propagation

이 논문은 자기회귀적 차기 경로 예측(next-path prediction)과 환경 인식 검색 메커니즘을 통해 다중 경로 전파를 핵심 사전 학습 목표로 활용하는 무선 파운데이션 모델인 MultiPathFormer를 소개하며, 기존의 채널 기반 방식들과 비교하여 위치 추정, 빔 예측 및 채널 추정 측면에서 우수한 성능을 달성하였다.

원저자: Blessed Guda, Kayley Sze, Carlee Joe-Wong

게시일 2026-08-06

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Blessed Guda, Kayley Sze, Carlee Joe-Wong

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

사람들이 내는 목소리의 전체적인 웅성거림만 듣고 북적이는 방 안을 이해하려고 노력하는 상황을 상상해 보십시오. 개별 화자의 목소리를 구분해낼 수는 없습니다. 이것이 대략적으로 기존의 무선 네트워크가 전파를 이해하려고 시도해 온 방식입니다. 그들은 벽, 자동차, 사람들에게 부딪혀 튕겨 나오는 모든 라디오파가 뒤섞인 혼란스럽고 엉킨 상태인 '채널'을 바라봅니다. 수십 년 동안 과학자들은 이 신호가 어떻게 행동하는지 예측하기 위해 방대한 양의 데이터로 학습된 초지능형 AI 두뇌인 '파운데이션 모델(foundation models)'을 구축하려고 노력해 왔습니다. 이 모델들은 무선 세계의 'GPT'와 같으며, 위치 찾기, 휴대폰을 가장 빠른 신호 빔에 연결하기, 또는 사용자가 기지국과 가시선(line of sight)에 있는지 파악하는 등의 작업을 돕기 위해 설계되었습니다. 하지만 문제가 하나 있습니다. 이 모델들은 '화자'를 배우는 대신 '웅성거림'을 배우려고 해왔다는 점입니다. 이들은 신호를 거대한 숫자의 격자로 취급하며, 신호가 사실 거울에 반사되는 빛의 줄기처럼 뚜렷한 경로들로 구성되어 있다는 사실을 간과합니다.

여기서 이야기는 흥미로워집니다. 카네기 멜런 대학교(Carnegie Mellon University)의 연구진은 단순한 질문을 던졌습니다. "만약 우리가 혼란스러운 웅성거림을 암기하는 것을 멈추고, 대신 개별 경로를 이해하도록 AI를 가르친다면 어떻게 될까?" 그들은 라디오파가 그냥 나타나는 것이 아니라 특정한 방식으로 이동하고, 튕겨 나가고, 산란한다는 사실을 깨달았습니다. 각 경로를 이야기 속의 뚜렷한 등장인물로 취급함으로써, 그들은 단순히 소음의 수학을 이해하는 것이 아니라 방의 물리 법칙을 이해하는 모델을 구축하고자 했습니다. 이는 5G와 6G 네트워크로 세상이 더 복잡해짐에 따라, 도시나 경기장 같은 복잡한 환경을 항해할 수 있는 더 똑똑하고 빠르며 정확한 신호가 필요하기 때문에 중요합니다.

이 지점에서 게임의 규칙을 바꾸는 새로운 종류의 AI 파운데이션 모델인 **멀티패스포머(MultiPathFormer)**가 등장합니다. 신호를 거대한 엉킨 스프레드시트처럼 보는 대신, 저자들은 그것을 하나의 이야기처럼 다루기로 했습니다. 여러분이 기지국에서 휴대폰으로 이동하는 라디오파라고 상상해 보십시오. 여러분은 단순히 직선으로만 가지 않습니다. 유리 건물에 부딪히거나, 자동차 윗부분을 스치듯 지나가거나, 모퉁이를 돌아 나갈 수도 있습니다. 이러한 각각의 튕김(bounce)이 바로 하나의 '경로(path)'입니다. MultiPathFormer 모델은 타워와 휴대폰 사이의 연결을 단순한 데이터 덩어리가 아니라, 강한 것부터 약한 것 순으로 정렬된 이러한 경로들의 순서 있는 목록으로 봅니다.

이 모델은 '다음 경로 예측(next-path prediction)'이라는 기법을 사용하여 학습됩니다. 이것은 마치 '맥스 립스(Mad Libs)' 게임이나 이야기 완성 게임과 같습니다. AI에게 처음 몇 개의 경로(가장 강한 경로들)를 보여주고, 다음에 올 경로가 무엇일지 추측하게 합니다. AI는 다음과 같은 것들을 알아내야 합니다. "그곳에 도달하는 데 얼마나 걸렸는가? 신호의 세기는 얼마인가? 벽에 부딪혔는가, 아니면 창문을 통해 산란되었는가?" 이를 위해 모델은 문장의 구조를 이해하는 언어 모델과 유사하게, 순서를 이해하는 데 탁월한 특수 '백본(backbone, 트랜스포머라는 유형의 신경망)'을 사용합니다.

하지만 저자들은 단순히 다음 경로를 추측하는 것만으로는 충분하지 않다는 것을 깨달았습니다. AI는 '현장(scene)'을 알아야 합니다. 만약 당신이 도시에 있다면, 숲속에 있을 때와는 경로가 다를 것입니다. 이를 해결하기 위해 그들은 두 가지 영리한 기술을 추가했습니다. 첫째, '환경 RAG(Environmental RAG)' 시스템을 구축했습니다. 이것은 AI에게 지도와 주변 사물의 목록을 주는 것과 같습니다. 다음 경로를 예측하기 전에, AI는 건물이 어디에 있는지, 얼마나 높은지, 무엇으로 만들어졌는지와 같은 특정 지역의 기하학적 구조를 찾아보고 더 똑똑한 추측을 합니다. 둘째, '첫 번째 경로 코드북(First-Path Codebook)'을 추가했습니다. 첫 번째 경로는 보통 가장 강하고 중요하기 때문에(이야기 속의 주인공처럼), 참조 가이드를 만들었습니다. 이 코드북은 사용자를 위치와 그들이 주로 받는 신호 유형에 따라 클러스터링하여, AI가 나머지 세부 사항을 채우기 전에 그 첫 번째, 가장 결정적인 경로에 대해 매우 정확한 예측을 할 수 있도록 돕습니다.

이러한 접근 방식의 결과는 적어도 저자들이 실행한 시뮬레이션상에서는 매우 인상적입니다. 그들은 27개의 서로 다른 환경에서 2,300만 개 이상의 경로 토큰을 사용하여 MultiPathformer를 학습시켰습니다. 테스트했을 때, 모델은 단순히 추측하는 것을 넘어 라디오파가 움직이는 근본적인 규칙을 학습했습니다.

정확도 측면에서, 이 모델은 이전 방식들보다 경로의 지연 시간과 전력을 훨씬 더 잘 예측할 수 있음을 보여주었습니다. 구체적으로, 환경 지도와 첫 번째 경로 참조 가이드를 결합한 결과, 이러한 기술들을 사용하지 않은 모델들에 비해 신호 지연 예측 오차는 약 38.7%, 신호 전력 예측 오차는 무려 59.2%나 감소했습니다.

하지만 진짜 시험대는 이 '경로 기반'의 두뇌가 실제로 실세계의 과제들에 도움이 되는지 여부였습니다. 연구진은 MultiPathFormer를 네 가지 다른 과제에 투입했습니다:

빔 예측(Beam Prediction): 최상의 신호를 얻기 위해 안테나를 어느 방향으로 향하게 할지 결정하는 작업입니다. MultiPathFormer는 상위 3개의 정확한 빔을 91.4%의 확률로 맞혔으며, 이는 기존의 최고 모델들을 능가하는 성적입니다.
위치 추정(Localization): 사용자가 정확히 어디에 서 있는지 파악하는 작업입니다. 이 모델은 평균 오차를 단 5.57미터로 기록했는데, 이는 다른 모델들이 보여준 68~82미터의 오차와 비교하면 엄청난 개선입니다.
가시선 분류(Line-of-Sight Classification): 사용자가 타워를 직접 볼 수 있는지, 아니면 무언가가 가로막고 있는지 판단하는 작업입니다. 모델은 99.4%의 정확도를 보였습니다.
채널 추정(Channel Estimation): 부분적인 데이터로부터 전체 신호의 모습을 재구성하는 작업입니다. 모델은 0.561의 점수를 기록하며 표준 모델들을 앞질렀습니다.

저자들은 또한 이 모델이 매우 유연하다는 것을 발견했습니다. 한 번도 본 적 없는 완전히 새로운 환경을 주었을 때도, 특히 그 장소에 대해 약간의 추가 학습(미세 조정, fine-tuning)을 거치면 여전히 우수한 성능을 발휘했습니다. 또한 예측 속도가 밀리초(ms) 단위로 매우 빨라 실시간 사용이 가능했습니다.

이 논문은 '전체적인 채널'이라는 혼란스러운 덩어리에 집중하는 대신 개별적인 '경로'에 집중함으로써, 더 해석 가능하고, 더 정확하며, 물리적 세계를 더 잘 이해하는 무선 AI를 구축할 수 있다고 제안합니다. 저자들은 이러한 결과가 고정밀 시뮬레이션(실제 라디오파를 모사하기 위한 레이 트레이싱 소프트웨어 사용)을 바탕으로 하고 있으므로, 다음 단계는 이러한 이점이 실제 도시 거리의 복잡하고 예측 불가능한 현실에서도 유지되는지 확인하는 것이라고 언급했습니다. 하지만 현재로서는, MultiPathFormer가 우리 주변의 보이지 않는 세계를 기계가 듣는 법을 가르치는 새로운 유망한 방법을 제시하고 있습니다.

기술 요약: MultiPathFormer

문제 정의

현재의 무선 파운데이션 모델들은 일반적으로 사전 학습 목표로 **마스크 채널 모델링(Masked Channel Modelling, MCM)**에 의존합니다. 이 패러다임에서 모델은 채널 텐서(서브캐리어, 안테나 또는 시간 축을 포함하는)의 마스킹된 요소를 재구성하도록 훈련됩니다. 저자들은 채널 텐서가 전파 경로와 배열 응답(array responses), 서브캐리어 샘플링, 시스템 구성이 얽혀 있는 중첩체이기 때문에 차원이 낮은(suboptimal) 사전 학습 객체라고 주장합니다. 이러한 "붕괴(collapsing)" 현상은 물리적 현상을 가려 모델의 해석 가능성을 제한하며, 유사한 총합 채널을 가지면서도 서로 다른 물리적 위치에 있는 사용자를 구별하는 능력을 저해합니다.

또한, 표준 MCM 공식은 고정된 격자 형태의 이산 토큰이 아닌, 가변적인 수의 연속적인 값(지연, 전력, 위상, 입사/출사각으로 특징지어지는 경로)에 의해 지배되는 무선 전파의 근본적인 물리 법칙을 포착하는 데 어려움을 겪습니다.

방법론: MultiPathFormer

본 논문은 사전 학습 객체를 채널 텐서에서 **멀티패스 전파 과정(multipath propagation process)**으로 전환한 자기회귀(autoregressive) 파운데이션 모델인 MultiPathFormer를 제안합니다.

1. 핵심 공식화

경로 수준 표현(Path-Level Representation): 각 송신기-수신기(tx-rx) 링크는 연속적인 값의 경로 토큰 시퀀스로 모델링됩니다. 경로 토큰 $\pi$ 는 전력( $\rho$ ), 지연( $\tau$ ), 위상( $\phi$ ), 입사/출사각(방위각/고도각), 그리고 멀티-핫 상호작용 벡터(직사파(LoS), 반사, 회절, 산란)를 포함합니다.
자기회귀 예측: 모델은 연속 회귀(continuous regression)에 적합하도록 조정된 다음 경로 예측(next-path prediction) 목표를 사용하여 사전 학습됩니다. 이는 언어 모델의 다음 토큰 예측과 유사합니다.
- 순서 지정: 결정론적인 시퀀스를 생성하기 위해 경로를 내림차순 전력 순으로 정렬합니다.
- 종료: 특수한 종료(end-of-sequence) 토큰 대신, 모델은 전체 경로의 수( $L$ )를 명시적으로 예측하여 생성을 멈출 시점을 결정합니다.
아키텍처: 백본은 인코더-디코더 트랜스포머입니다.
- 인코더: 송수신 위치와 환경적 특징을 처리하여 전체 경로 길이를 예측하고 환경에 기반한 표현(representation)을 생성합니다.
- 디코더: 이전 경로들과 인코더의 환경 표현을 조건으로 하여 경로 파라미터들을 자기회귀적으로 생성합니다.

2. 주요 아키텍처 혁신

연속 회귀의 어려움과 첫 번째 경로(first path)의 지배적인 영향력을 해결하기 위해, 저자들은 두 가지 특정 메커니즘을 도입했습니다.

환경 검색 증강 생성 (Environmental RAG):
- 경로 형성이 국소적 기하 구조와 전파 통로 주변의 물체들에 의존한다는 점을 인식하여, 모델은 거친 전역 기술자(global descriptor) 대신 특정 쌍(pair-specific)의 장면 맥락을 검색합니다.
- 검색 전략: 모델은 세 가지 유형의 특징을 검색합니다:
  1. 로컬 밀집(Local Dense): 송신기와 수신기 근처의 상위 $K$ 개 물체.
  2. 코리더 밀집(Corridor Dense): 송수신 전파선 근처에 위치한 상위 $K$ 개 물체.
  3. 희소 다중 스케일(Sparse Multi-scale): 더 넓은 범위의 클러터 밀도를 포착하기 위해 증가하는 반경 및 코리더 빈(bin)에 대한 집계 통계(개수, 최대 높이 등).
- 검색된 이러한 특징들은 쌍별 맥락 벡터(pair-specific context vector)를 형성하기 위해 결합됩니다.
첫 번째 경로 클러스터 코드북 (First-Path Cluster Codebook):
- 첫 번째 경로(지배적 경로)는 매우 중요합니다. 여기서 발생하는 오류는 자기회귀 생성 과정 전체로 전파되기 때문입니다.
- 저자들은 고정된 송신기에 인접한 수신기들이 공유된 대규모 기하 구조로 인해 유사한 첫 번째 경로의 지연 및 전력을 공유한다는 점에 주목했습니다.
- 메커니즘: 훈련된 사용자들의 첫 번째 경로 전력/지연 데이터를 바탕으로 K-Means 코드북을 학습시킵니다. 추론 시, 수신기는 훈련된 사용자들과의 근접성에 따라 클러스터 중심점(centroid)에 할당됩니다.
- 잔차 학습(Residual Learning): 모델은 이 중심점을 강력한 초기값으로 사용하며, 첫 번째 경로에 대해서는 오직 **잔차 보정(residual correction)**만을 예측합니다. 이후의 경로( $t \ge 2$ )들은 표준 자기회귀 방식을 통해 예측됩니다.

주요 기여

경로 수준의 자기회귀 공식화: 채널 텐서 마스킹을 넘어 멀티패스 전파를 순서가 있는 연속 토큰 시퀀스로 취급한 최초의 무선 파운데이션 모델입니다.
환경 RAG 및 코드북: 쌍별 기하 구조를 위한 검색 메커니즘과 지배적 경로를 위한 클러스터 기반 사전 정보를 통합하여, 생성 과정을 안정화하고 물리적 파라미터 추정 성능을 크게 향상시켰습니다.
전이 가능성: 모델이 재사용 가능한 표현을 학습함을 입증했습니다. 이는 사전 학습 환경 내의 보지 못한 사용자에게 전이될 수 있으며, 미세 조정을 통해 새로운 환경에도 효과적으로 적응합니다.
다운스트림 성능: 빔 예측, 사용자 위치 추정, 직사파(LoS) 분류, 채널 추정의 네 가지 과업에 걸쳐 검증되었습니다.

실험 결과

모델은 DeepMIMO 데이터셋의 27개 환경(2,390만 개의 멀티패스 토큰)에서 사전 학습되었으며, 31개의 시나리오에서 평가되었습니다.

멀티패스 생성 품질

정확도: 직접적인 자기회귀 베이스라인과 비교했을 때, 전체 MultiPathFormer(+RAG)는 지연(Delay) MAE를 38.7%, 전력(Power) MAE를 59.2% 감소시켰습니다.
상호작용 분류: 상호작용 유형 정확도를 0.870에서 0.925로, F1 점수를 0.786에서 0.890으로 개선했습니다.
데이터 효율성: 코드북 사전 정보 덕분에 훈련 사용자의 10%만 사용하더라도 낮은 오차율을 유지하며 견고함을 보여주었습니다.

다운스트림 과업 성능

MultiPathFormer는 최신 채널 기반 파운데이션 모델(WiFo, LWM) 및 과업별 베이스라인을 능가했습니다:

빔 예측: 0.914의 Top-3 정확도를 달성했습니다 (LWM은 0.648).
사용자 위치 추정: 5.57 m의 평균 오차를 달성했습니다 (WiFo는 68.79 m).
LoS 분류: 0.994의 정확도를 달성했습니다 (LWM은 0.978).
채널 추정: 0.561의 NMSE를 달성했습니다 (WiFo는 1.321).

추론 비용

모델은 낮은 지연 시간(전체 +RAG 변형 기준 추론당 약 3.45 ms)으로 작동하며, RAG 및 코드북 모듈이 추가하는 오버헤드는 미미합니다(<1 ms) 및 파라미터 증가도 최소 수준입니다.

의의 및 주장

본 논문은 경로 수준의 사전 학습이 채널 텐서의 얽힌 구조를 학습하는 것보다 무선 파운데이션 모델에 있어 우월한 접근 방식이라고 주장합니다. 이는 모델이 전파의 물리적 구조(지연, 각도, 상호작용)를 명시적으로 학습하기 때문입니다.

해석 가능성: 모델의 어텐션 메커니즘은 물리적 직관과 일치합니다. 디코더는 첫 번째(LoS) 경로를 위해 전역 위치에 주목하고, 후속 멀티패스를 위해 특정 물체 토큰에 주목합니다.
재사용성: 학습된 표현은 특정 안테나나 서브캐리어 구성에 묶여 있지 않아, 서로 다른 사용자 및 환경 간의 전이가 가능합니다.
6G를 위한 기반: 전파의 근본적인 물리 법칙을 포착함으로써, 본 모델은 mmWave 및 massive MIMO 배포에 필수적인 빔 선택 및 위치 추정과 같은 다양한 다운스트림 과업을 위한 재사용 가능한 출발점을 제공합니다.

저자들은 현재 결과가 레이 트레이싱(ray-tracing) 시뮬레이션에 기반하고 있으나, 이 프레임워크가 물리적 해석 가능성과 기하학적 일관성을 우선시하는 새로운 무선 파운데이션 모델의 패러다임을 구축한다고 결론지었습니다.