Low Complexity Neural Network Digital Predistortion of Wideband Power Amplifiers through Feature Selection

디지털 튜너: 왜 당신의 스마트폰에 더 똑똑한 수학이 필요한가

시끄럽고 붐비는 경기장에서 비밀 메시지를 외쳐서 전달하려고 한다고 상상해 보세요. 만약 단순히 최대 볼륨으로 소리를 지른다면, 목소리가 왜곡되거나 갈라지거나 메아리에 묻혀버려 친구가 이해하는 것이 불가능해질 수 있습니다. 무선 통신 세계에서 이 "소리 지르기"는 **전력 증폭기(Power Amplifier, PA)**라고 불리는 장치에 의해 수행됩니다. 이 장치의 역할은 휴대폰이나 기지대의 약한 신호를 증폭하여 멀리까지 전달할 수 있도록 하는 것입니다. 하지만 여기에는 함정이 있습니다. 이 증폭기들이 효율적으로 작동하려고 애쓸 때, 이들은 "심술"이 나서 신호를 뒤틀고 원치 않는 노이즈와 왜곡을 추가하기 시작합니다. 이는 마치 고음을 내려고 할 때 목소리가 갈라지는 것과 같습니다.

이를 해결하기 위해 엔지니어들은 **디지털 전왜곡(Digital Predistortion, DPD)**이라는 영리한 기술을 사용합니다. DPD를 "사전 교정" 단계라고 생각하면 됩니다. 신호가 증폭기에 도달하기 전에, 컴퓨터는 증폭기가 신호를 왜곡할 방식과 정확히 반대되는 방식으로 의도적으로 신호를 망가뜨립니다. 그러면 심술 난 증폭기가 신호를 왜곡하려고 할 때, 결과적으로 컴퓨터가 만든 엉망인 상태를 우연히 바로잡게 되어, 반대편에는 깨끗하고 완벽한 메시지가 남게 됩니다. 우리의 세상이 더 빠른 인터넷과 더 넓은 채널(미래 6G 네트워크에 사용되는 새로운 "FR3" 대역과 같은)을 요구함에 따라, 신호는 더욱 복잡해지고 증폭기는 더욱 심술궂어집니다. 이는 사전 교정을 수행하는 컴퓨터를 믿을 수 없을 정도로 복잡하게 만들어, 마치 단 한 문장을 고치기 위해 천 명의 수학자를 고용하는 것과 같은 엄청난 양의 컴퓨팅 파워를 요구하게 만듭니다. 여기서 큰 질문이 생깁니다. 슈퍼컴퓨터 없이도 어떻게 동일하게 완벽한 신호를 얻을 수 있을까요?

논문의 핵심 아이디어: 최고의 재료 고르기

"특징 선택을 통한 광대역 전력 증폭기의 저복잡도 신경망 디지털 전왜곡(Low Complexity Neural Network Digital Predistortion of Wideband Power Amplifiers through Feature Selection)"이라는 제목의 이 논문은 바로 그 문제를 다룹니다. 벨기에 출신의 연구진인 저자들은 **신경망(Neural Networks, NN)**이 이러한 왜곡된 신호를 수정하는 데 매우 뛰어나며 종종 기존 방식보다 더 나은 성능을 보이지만, 동시에 매우 무겁고 느리다는 점에 주목했습니다. 신경망은 데이터 하나당 수천 번의 수학적 단계(FLлоPS라고 불리는)를 필요로 하는데, 이는 우리 기기 내부의 작은 칩들에게는 너무 과한 작업입니다.

연구팀의 해결책은 마치 최고의 재료만을 사용하여 고급 요리를 만드는 것과 비슷합니다. 현재의 복잡한 신경망들이 냄비에 가능한 모든 향신료와 채소를 다 집어넣는 것과 달리, 그들은 스마트한 "쇼핑 리스트" 생성기를 만들었습니다. 그들은 이를 특징 선택(Feature Selection) 파이프라인이라고 부릅니다.

그들의 "스마트 쇼핑" 방식은 다음과 같습니다:

1. 거대한 더미: 먼저, 컴퓨터가 증폭기가 어떻게 오작동하는지 이해하는 데 도움이 될 수 있는 잠재적인 단서(특징)들의 방대한 목록을 생성합니다. 이 목록은 전통적인 수학 모델을 기반으로 하며, 30만 개 이상의 잠재적 단서를 포함하는 거대한 규모입니다.
2. 첫 번째 컷 (LASSO): 그들은 LASSO라고 불리는 도구를 사용하여 쓸모없는 단서들을 빠르게 잘라냅니다. 이는 마치 엄격한 요리사가 "소금 종류가 50가지나 필요하지 않아요. 실제로 맛을 더해주는 것들만 남깁시다"라고 말하는 것과 같습니다. 이 단계는 목록을 관리 가능한 크기로 줄여줍니다.
3. 최종 선택 (MRMR): 다음으로, 그들은 MRMR(Minimum Redundancy Maximum Relevance, 최소 중복 최대 관련성)이라는 방법을 사용합니다. 이것은 궁극의 필터입니다. 이 방법은 남아있는 단서들을 살펴보고 "이 중에서 다른 것들이 알려주지 못하는, 새롭고 중요한 정보를 담고 있는 것은 무엇인가?"라고 묻습니다. 그리고 단순히 같은 정보를 반복하는 단서들을 제거합니다.

이 과정을 마치면, 그들은 가장 중요하고 효율적인 100~200개의 핵심 단서 목록을 갖게 됩니다. 이 짧은 목록을 훨씬 작고 빠른 신경망에 입력합니다.

연구 결과: 더 빠르고, 더 똑똑하며, 성능은 동일하게

연구진은 이 새로운 "특징 선택" 방법을 실제 하드웨어, 구체적으로는 15 GHz 대역(FR3 대역의 일부)에서 작동하는 두 가지 서로 다른 전력 증폭기에 테스트했습니다. 그들은 이 새로운 방법을 표준적인 고성능 신경망 및 기존의 다항식 모델과 비교했습니다.

결과는 매우 유망했습니다. 테스트에서 이 새로운 방법은 표준 신경망과 비교했을 때 계산 비용을 최대 30%까지 줄이면서도 동일한 수준의 신호 선명도를 달elle 성했습니다.

• 한 증폭기의 경우, 단 595 FLOPs(수학적 단계)만을 사용하여 -37 dB의 신호 품질(NMSE로 측정)을 달성했습니다. 표준 신경망은 유사한 결과를 얻기 위해 797 FLOPs가 필요했습니다.
• 더 까다로운 두 번째 증폭기에서는, 표준 방식보다 노력을 32% 줄인 단 234 FLOPs만으로 -34 dB의 품질에 도달했습니다.

실제 하드웨어를 통해 신호를 실행하고 실제 성능을 측정했을 때도, 이 새로운 방법은 다시 한번 빛을 발했습니다. 이 방법은 더 적은 자원을 사용하면서도 표준 신경망보다 더 낮은 오류율(EVM)과 더 깨끗한 신호(ACLR)를 만들어냈습니다. 예를 들어, 그들의 모델 중 하나는 단 407 FLOPs만으로 **1.38%**라는 낮은 오류율을 기록한 반면, 표준 모델은 약간 더 높은 오류율인 **1.88%**에 도달하기 위해 더 많은 전력을 필요로 했습니다.

시사점

저자들은 신경망이 요리를 시작하기 전에 올바른 "재료"를 고르는 힘든 작업(오프라인 프로세스)을 수행함으로써, 실시간으로 작동하는 훨씬 가볍고 빠른 시스템을 구축할 수 있다고 제안합니다. 그들은 단순히 컴퓨터 시뮬레이션에 그치지 않고, 실제 하드웨어에서 측정하였으며 다른 이들이 확인할 수 있도록 데이터를 공개했습니다.

그들이 세상의 모든 문제를 해결했다고 주장하는 것은 아니지만, 명확한 방향을 제시했습니다. 즉, 더 나은 결과를 얻기 위해 반드시 신경망을 더 크고 무겁게 만들 필요는 없다는 것입니다. 때로는 어떤 단서를 무시해야 하는지 아는 것이 비결이 될 수 있습니다. 이 접근 방식은 미래의 6G 네트워크를 더 효율적으로 만드는 데 도움을 주어, 우리 기기들이 배터리를 소모하거나 거대하고 비싼 칩을 필요로 하지 않고도 더 빠르게 서로 통신할 수 있게 해줄 것입니다.