AI-Assisted Supermode Tracking and Low-Complexity Equalization in Strongly Coupled Multicore Fiber Transmission Systems

고속 인터넷의 세계는 단순하지만 강력한 아이디어, 즉 동일한 가느다란 유리 가닥을 통해 더 많은 데이터를 전송한다는 개념에 기반하고 있습니다. 수십 년 동안 엔지니어들은 하나의 광섬유 케이블에 더 많은 색상의 빛을 채워 넣음으로써 단일 케이블이 운반할 수 있는 정보량의 한계를 밀어붙여 왔습니다. 그러나 이러한 방식에는 물리적인 천장이 존재합니다. 이 한계를 돌파하기 위해 과학자들은 공간 분할 다중화(space-division multiplexing)라는 기술을 사용하여 공간 그 자체를 활용하고 있습니다. 단순히 하나의 빛 경로만을 사용하는 대신, 이들은 나란히 달리는 여러 개의 작은 채널, 즉 코어(core)를 포함하는 광섬유를 사용합니다. 이러한 첨단 광섬유 중 일부에서는 코어들이 매우 가깝게 배치되어 있어, 한 코어의 빛이 자연스럽게 이웃한 코어로 번져 나갑니다. 이러한 강력한 연결은 빛의 파동이 하나의 통합된 패턴인 '슈퍼모드(supermode)'로서 함께 이동하도록 강제합니다. 이는 용량을 배가시킬 수 있는 방법을 제공하지만, 새로운 문제인 '환경'을 야기합니다. 긴 도로가 트럭의 무게나 태양의 열기로 인해 미세하게 변형될 수 있듯이, 이러한 광섬유는 온도 변화, 굽힘 또는 뒤틀림으로 인해 형태가 미세하게 변합니다. 이러한 미세한 변화는 빛의 파동이 서로 섞이는 방식을 바꾸어 놓으며, 수신기가 새로운 패턴을 끊임없이 다시 학습하지 못한다면 데이터가 뒤섞이게 됩니다.

압둘라 굴 대학교(Abdullah Gül University)의 한 연구자는 인공지능을 사용하여 컴퓨터 시스템에 과도한 부담을 주지 않으면서 데이터 스트림을 선명하게 유지하는 새로운 방법을 개발했습니다. 연구진은 빛의 경로가 끊임없이 표류하는 강하게 결합된(strongly coupled) 광섬유에서 질서를 유지하는 과제에 도전했습니다. 그들은 사후에 거대하고 느린 계산을 통해 문제를 해결하려 하는 대신, 정교하고 스마트한 신경망을 사용하여 매 순간 빛이 어떻게 섞이고 있는지 정확하게 예측하는 수신기를 제안했습니다. 신호 패턴의 현재 형태를 학습함으로써, 이 시스템은 본격적인 오류 정정 작업이 시작되기 전에 데이터를 올바른 정렬 상태로 즉각적으로 회전시켜 놓을 수 있습니다. 이 접근 방식은 시스템이 신호를 정화하기 위해 훨씬 단순한 필터를 사용할 수 있게 하여, 고용량 광섬유를 수십 개의 코어로 확장하더라도 필요한 처리 능력이 통제 불능 수준으로 커지지 않도록 만듭니다.

연구자는 실제 케이블에서 발생하는 현상을 모사한 상세한 컴퓨터 시뮬레이션을 통해 자신의 아이디어를 테스트했습니다. 연구진은 6개의 코어를 가진 광섬유를 모델링하여 16-QAM이라 불리는 복잡한 형식으로 인코딩된 데이터를 전송했으며, 실제 케이블에서 발생하는 무작위적인 흔들림과 늘어남을 신호에 가했습니다. 그들은 새로운 AI 보조 방식과 두 가지 기존 방식을 비교했습니다. 첫 번째는 빛의 패턴이 절대 변하지 않는다고 가정하는 정적(static) 방식으로, 광섬유가 표류함에 따라 빠르게 실패했습니다. 두 번째는 강력한 적응형 필터를 사용하여 혼합을 수정하는 전통적인 방식으로, 이는 코어가 추가될 때마다 기하급수적으로 늘어나는 엄청난 양의 컴퓨팅 능력을 요구했습니다. 시뮬레이션 결과, 새로운 AI 방식은 변화하는 빛의 패턴을 성공적으로 추적했습니다. 1,500km의 거리에서 AI 보조 수신기는 정적 방식보다 현저히 낮은 오류율을 달양성했으며, 고성능의 전통적인 시스템 성능에 근접하면서도 연산 복잡도는 크게 낮추었습니다.

이 발견이 특히 중요한 이유는 데이터 처리 뒤에 숨겨진 수학적 원리를 어떻게 변화시키느냐에 있습니다. 전통적인 방식에서는 광섬유에 더 많은 코어를 추가할수록 컴퓨터가 수행해야 하는 작업량이 이차 함수적으로 증가하여, 채널이 추가될 때마다 노력이 두 배, 또 두 배로 늘어났습니다. 반면, 새로운 방식은 선형적으로 확장됩니다. 이 방식은 먼저 현재의 패턴을 식별한 다음, 신호의 각 부분에 독립적인 단순 수정을 적용함으로써 문제를 해결합니다. 이는 광섬유 시스템이 12개 또는 24개의 코어를 포함하도록 확장되더라도, 기존 방식이 너무 느리고 비용이 많이 들어 작동 불가능해지는 것과 달리 새로운 방식은 효율성을 유지할 수 있음을 의미합니다. 이 연구는 경량화된 신경망을 사용하여 빛의 물리적 행동을 이해함으로써, 엔지니어들이 환경 변화에 강하면서도 계산적으로 가벼운 수신기를 구축할 수 있음을 확인해 줍니다.

연구자는 단순히 이론에만 의존하지 않고, 무작위 데이터 생성, 실제 결함이 있는 광섬유를 통한 빛의 전파, 그리고 최종 신호 디코딩을 포함하는 완전한 시뮬레이션 프레임워크를 구축했습니다. 연구진은 AI 네트워크가 수신기에 도착하는 엉망으로 섞인 신호와 그것이 나타내는 깨끗한 원래 패턴 사이의 관계를 학습할 수 있다는 것을 발견했습니다. 일단 네트워크가 이 관계를 식별하면, 신호를 효과적으로 풀어낼 수 있어 나머지 시스템이 훨씬 짧고 단순한 필터를 사용할 수 있게 됩니다. 물리적인 빛의 이동 방식에 대한 이해와 머신 러닝의 패턴 인식 능력을 결합한 이 하이브리드 접근 방식은 실질적인 길을 제시합니다. 이는 미래의 고용량 네트워크가 모든 수신기에 불가능할 정도로 거대한 슈퍼컴퓨터를 탑재하지 않고도, 물리적 세계의 필연적인 표류를 처리할 수 있음을 시사합니다. 이 연구는 강하게 결합된 광섬유의 경우, 엄청난 용량을 여는 열쇠가 무차별적인 힘(brute force)이 아니라, 빛 자체의 변화하는 본질을 스마트하고 적응적으로 추적하는 데 있음을 보여줍니다.