Topologically Protected Learning from Exceptional Point Braiding: Toward Braid Programming

현대 머신러닝은 컴퓨터가 얼굴을 인식하고, 언어를 번역하며, 복잡한 데이터를 탐색할 수 있게 함으로써 우리가 세상을 보는 방식을 변화시켰습니다. 이 혁신의 중심에는 경사 하강법(gradient descent)이라 불리는 방법이 있는데, 이는 안개 낀 산을 내려가 가장 낮은 골짜기를 찾는 등산객처럼 움직이는 수학적 과정입니다. 등산객은 오차를 최소화하기 위해 지면의 경사를 따라 한 걸음씩 경로를 조정합니다. 이러한 방식은 오늘날 가장 강력한 인공지능 시스템을 구축해 왔지만, 근본적인 약점이 있습니다. 바로 매끄럽고 연속적인 조정에 의존한다는 점입니다. 만약 지형이 거칠거나 노이즈로 인해 경로가 막히면, 등산객은 길을 잃거나, 배운 것을 잊어버리거나, 최적의 해답을 찾는 데 실패할 수 있습니다. 이러한 취약성 때문에 과학자들은 경사를 따라 미끄러져 내려가는 방식이 아닌, 기하학과 위상수학의 견고하고 깨뜨릴 수 없는 규칙을 사용하여 정보를 저장하고 처리하는, 다른 방식의 지능형 기계를 만드는 방법에 대해 질문하기 시작했습니다.

한 연구팀은 등산객의 점진적인 발걸음을 일련의 의도적인 위상학적 움직임으로 대체하는 새로운 프레임워크를 제안했습니다. 이 시스템은 매끄러운 표면 위에서 가중치를 조정하는 대신, 특수한 물리적 풍경 속에서 경로를 꼬는(braiding) 방식으로 학습합니다. 이 풍경은 표준 물리학을 거스르는 방식으로 행동하는 입자 사슬인 비허미션(non-Hermitian) 시스템이라는 이론적 모델로 구축되었습니다. 이러한 시스템에서는 에너지가 얻어지거나 손실될 수 있으며, 이로 인해 '예외점(exceptional points)'이라 불리는 독특한 지점들이 생성됩니다. 이 특정 위치에서는 일반적인 양자 역학의 규칙이 무너지며, 시스템의 두 가지 서로 다른 상태가 하나로 합쳐져 시스템이 두 상태를 구분할 수 없게 됩니다. 연구진은 시스템의 파라미터를 이러한 예외점 주위로 폐쇄된 루프를 그리며 이동시키면, 상태가 단순히 원래 위치로 돌아오는 것이 아니라 서로 자리를 바꾼다는 사실을 발견했습니다. 이러한 교환은 위상학적인 효과로, 마치 밧줄을 흔들어도 매듭이 유지되는 것처럼 경로에 작은 오류나 노이즈가 발생하더라도 변함없이 일어나는 견고한 현상입니다.

카메룬과 가봉의 대학 소속 물리학자들로 구성된 이 팀은 모델 내에서 이러한 예외점들이 존재하는 위치를 상세히 지도화했습니다. 그들은 시스템의 크기에 따라 이 특별한 점들이 정확히 몇 개나 나타날지, 그리고 어디에 위치할지를 예측하는 정밀한 수학적 규칙을 도출했습니다. 특정 상호작용을 가진 입자 사슬을 시뮬레이션함으로써, 그들은 이 특별한 점들의 개수가 단순히 사슬의 길이에 의해 결정된다는 것을 발견했습니다. 이어 그들은 시스템을 이 점들 주변으로 유도할 때 어떤 일이 일어나는지 테스트했습니다. 시뮬레이션 결과, 예외점을 둘러싸는 움직임이 시스템의 내부 상태를 완벽하게 교환시킨다는 것을 확인했습니다. 나아가, 이러한 교환은 특정된 양자화된 위상 변화(phase change)를 동반하며, 이는 연속적인 흐름이 아니라 고정된 단계로 움직이는 일종의 내부 시계와 같습니다. 이러한 상태 교환과 고정된 위상 변화의 결 조합은 정보를 처리하는 데 사용할 수 있는 신뢰할 수 있는 연산, 즉 '게이트(gates)'의 집합을 만들어냅니다.

연구진은 이러한 위상학적 연산들을 결합하여 복잡한 과업을 수행할 수 있으며, 이를 통해 효과적으로 새로운 방식의 컴퓨터 프로그래밍이 가능함을 보여주었습니다. 그들은 비트를 반전시키거나, 중첩 상태를 만들거나, 정보 전체를 교환하는 연산을 포함하여, 예외점 주위로 경로를 꼬는 과정을 통해 생성되는 보편적인 게이트 집합을 식별했습니다. 이 개념이 학습에 적용 가능한지 증명하기 위해, 그들은 다음과 같은 과제를 설정했습니다. '컴퓨터가 양자 컴퓨팅에서 사용되는 표준 논리 게이트를 재현하기 위해 적절한 braids(경로 꼬기)의 순서를 찾아낼 수 있는가?' 유전 알고리즘(많은 조합을 테스트하고 가장 좋은 것을 남기는 진화 과정을 모방하는 방법)을 사용한 결과, 시스템은 목표로 하는 게이트를 거의 완벽한 정확도로 재현하는 짧은 브레이드 시퀀스를 성공적으로 찾아냈습니다. 이는 학습이 연속적인 숫자의 조정이 아니라, 올바른 위상학적 움직임의 순서를 찾는 과정으로 재정의될 수 있음을 입증했습니다.

이 접근 방식은 전통적인 방법들에 비해 뚜렷한 장점을 제공합니다. 정보가 파라미터 공간 내에서 이동한 경로의 '모양'에 저장되기 때문에, 시스템은 작은 교란에 본질적으로 면역력을 갖습니다. 경로가 약간 흔들리더라도, 루프가 여전히 예외점을 둘러싸고 있다면 최종 결과는 동일하게 유지됩니다. 이는 노이즈에 대한 자연스러운 방어책을 제공하며, 새로운 과업을 학습할 때 기존 지식이 지워지는 표준 신경망의 '파괴적 망각(catastrophic forgetting)' 현상을 방지합니다. 또한 연구진은 시스템의 구조적 부분마다 서로 다른 행동을 하도록 조정할 수 있어, 일부는 위상학적으로 보호받고 다른 일부는 유연성을 유지하는 하이브리드 구조를 구현할 수 있음을 발견했습니다. 이 팀은 이러한 위상학적 효과가 발생하는 위치를 정확히 매핑함으로써, 기하학의 깨뜨릴 수 없는 논리를 통해 학습하는 기계를 구축하기 위한 청사진을 제시하였으며, 이는 더욱 견고하고 신뢰할 수 있는 인공지능을 향한 유망한 길을 열어주었습니다.