Streaming Belief Propagation on Mixed-Alphabet Tanner Graphs for Practical Quantum Memory

양자 컴퓨터는 새로운 의약품 설계부터 복잡한 암호 해독에 이르기까지, 현재의 고전적 기계로는 불가능한 문제들을 해결할 수 있다는 약속을 품고 있습니다. 하지만 이 기계들은 믿기 힘들 정도로 취약합니다. 이들이 저장하는 섬세한 양자 정보는 환경으로부터 오는 아주 작은 방해에도 쉽게 흐트러지는데, 이를 노이즈(noise)라고 합니다. 이 정보를 안전하게 지키기 위해 과학자들은 양자 오류 정정(quantum error correction)이라는 방법을 사용합니다. 이 과정은 마치 배송되는 동안 깨지기 쉬운 패키지가 손상되었는지 끊임없이 확인하며, 문제가 커져서 재앙이 되기 전에 즉시 수정하는 것과 같습니다. 문제는 패키지를 확인하는 빈도가 매우 높고 손상 가능성 또한 매우 높기 때문에, 이를 확인하고 수정하는 시스템이 오류 자체보다 더 빠르고 똑똑해야 한다는 점입니다. 만약 시스템이 따라가지 못하면 정보는 소실됩니다.

새로운 연구에서 카오-유에 쿠오(Kao-Yueh Kuo)와 칭이 라이(Ching-Yi Lai) 연구진은 특정 유형의 양자 메모리에 대해 이러한 확인 작업을 수행하는 더 빠르고 효율적인 방법을 개발했습니다. 그들은 잠재적인 오류 발생 지점의 수가 너무 커져서 전통적인 방식으로는 실시간 활용이 불가능해지는 문제를 다루었습니다. 그들의 해결책인 '스트리밍 혼합 알파벳 신념 전파(streaming mixed-alphabet belief propagation)'는 연속적인 진단 데이터 스트림을 처리할 수 있는 실시간 디코더 역할을 합니다. 서로 다른 유형의 오류들 사이의 관계를 보존하는 방식으로 정보를 구성함으로써, 이 방법은 데이터가 큰 덩어리로 쌓일 때까지 기다리는 대신 오류가 발생하는 즉시 실수를 바로잡을 수 있게 해줍니다. 이러한 접근 방식은 양자 컴퓨터가 정보를 오랫동안 안정적으로 저장할 수 있도록 만드는 데 결정적이며, 이는 복잡한 프로그램을 실패 없이 실행할 수 있는 기계를 구축하기 위한 필수 단계입니다.

연구진이 직면한 어려움을 이해하려면 양자 오류가 어떻게 작동하는지를 살펴보아야 합니다. 표준 컴퓨터에서 비트(bit)는 0 또는 1이며, 오류는 단순히 이를 반대로 뒤집는 것입니다. 양자 시스템에서는 상황이 더 복잡합니다. 단 하나의 오류가 여러 가지 형태로 나타날 수 있으며, 때로는 서로 다른 조합의 오류들이 정확히 동일한 경고 신호, 즉 '증후(syndrome)'를 생성하여 서로 구별할 수 없게 만들기도 합니다. 이를 퇴화(degeneracy)라고 합니다. 더욱이 오류는 독립적으로 발생하지 않습니다. 회로의 한 부분에서 발생한 실수는 다른 부분으로 파급되어 연결된 문제의 망을 형성할 수 있습니다. 실제 양자 메모리에서 이러한 확인 작업은 반복적으로 일어납니다. 시스템이 작동함에 따라 오류가 발생할 수 있는 지점의 수는 급격히 늘어나며, 이는 디코더가 풀어야 할 거대한 퍼즐을 만들어냅니다. 전통적인 방식은 이 복잡성을 감당하지 못해 데이터 속도를 따라잡지 못하거나, 퍼즐이 너무 얽혀 있어 올바른 해답을 찾는 데 실패하곤 합니다.

쿠오와 라이는 이를 해결하기 위해 '시공간 태너 그래프(space-time Tanner graph)'라고 부르는 새로운 종류의 지도를 구축했습니다. 한 축은 양자 비트의 물리적 위치를 나타내고, 다른 축은 시간을 나타내는 격자를 상상해 보십시오. 이 지도 위에 그들은 가능한 모든 오류 발생 지점과 그 오류들이 서로 다른 순간에 어떻게 연결되는지를 표시했습니다. 특정 세부 사항을 무시하여 문제를 단순화하려 했던 이전의 지도들과 달리, 그들의 지도는 다양한 유형의 오류 사이의 복잡한 관계를 포함한 전체 그림을 유지합니다. 그들은 오류를 단순한 반전이 아니라, 단순한 스위치라기보다는 여러 설정값을 가진 다이얼처럼 다양한 값을 가질 수 있는 변수로 취급했습니다. 이러한 '혼합 알파벳(mixed-alphabet)' 접근 방식은 다른 방법들이 흔히 버리는 오류 간의 미묘한 상관관계를 보존하여, 실제로 무엇이 잘못되었는지에 대한 더 명확한 그림을 제공했습니다.

하지만 이렇게 상세한 지도는 계산량이 매우 많습니다. 이를 실용적으로 만들기 위해 연구진은 필수적인 정보는 잃지 않으면서 지도를 단순화하는 기술을 도입했습니다. 그들은 많은 잠재적 오류들이 결과 측면에서 사실상 동일하다는 점을 깨달았습니다. 이러한 유사한 오류들을 하나로 묶고 하나의 대표값으로 취급함으로써, 컴퓨터가 풀어야 할 퍼즐의 크기를 획기적으로 줄일 수 있었습니다. '확률적 오류 통합(probabilistic error consolidation)'이라고 불리는 이 과정은 중복되는 가능성들을 하나의 관리 가능한 확률로 병합합니다. 이는 "이 실수의 모든 변형을 일일이 추적할 필요는 없다. 단지 이런 종류의 실수가 발생할 확률을 알면 된다"라고 말하는 것과 같습니다. 이 단계는 높은 정확도를 유지하면서도 디코딩 과정을 크게 가속화합니다.

연속적인 오류 정정에서 또 다른 주요 장애물은 타이밍입니다. 만약 시스템이 결정을 내리기 전에 고정된 블록의 데이터를 처리하기 위해 기다린다면, 두 블록 사이의 경계에 걸쳐 있는 오류를 놓칠 수 있습니다. 이를 해결하기 위해 팀은 '적응형 슬라이딩 윈도우(adaptive sliding window)'를 개발했습니다. 시스템이 처리하는 데이터 덩어리의 크기를 고정된 크기로 사용하는 대신, 시스템은 오류 체인이 현재 보고 있는 시야의 가장자리를 넘어가는 징후를 감시합니다. 만약 연결된 체인을 감지하면, 시스템은 수정을 하기 전에 해당 오류 체인 전체를 포함하도록 윈도우를 자동으로 조정합니다. 이는 디코더가 연결된 문제를 반으로 잘라버려 잘못된 수정을 하게 되는 상황을 방지합니다. 이러한 유연성 덕분에 시스템은 메모리 실패를 유발할 수 있는 길고 복잡한 오류 이벤트를 처리할 수 있습니다.

연구진은 토러스(torus)나 뒤틀린 격자(twisted lattice) 패턴으로 배열된 여러 계열의 양자 코드에 대해 이 새로운 디코더를 테스트했습니다. 그들은 회로의 모든 구성 요소가 잠재적으로 고장 날 수 있는 현실적인 조건 하에서 시스템이 얼마나 잘 작동하는지 확인하기 위해 광범위한 시뮬레이션을 수행했습니다. 결과는 유망했습니다. 새로운 방법은 높은 오류 임계값(error threshold)을 달eric했는데, 이는 물리적 구성 요소가 상당히 노이즈가 심한 상태에서도 성공적으로 오류를 정정할 수 있음을 의미합니다. 테스트된 일부 코드의 경우, 시스템은 메모리가 실패하기 전까지 0.4%에서 0.87% 사이의 오류율을 견뎌낼 수 있었습니다. 이 수치는 기존의 최선책들과 경쟁할 만한 수준이며, 어떤 경우에는 더 뛰어난 성능을 보여주었습니다. 또한 시뮬레이션 결과, 시스템은 메모리 크기가 커짐에 따라 강력한 성능을 유지하는 것으로 나타나, 실용적인 양자 컴퓨팅에 필요한 대규모 시스템으로 확장 가능하다는 것을 시사했습니다.

이 연구는 실시간 사용이 가능할 만큼 빠르면서도 양자 오류의 복잡하고 상호 연결된 특성을 다룰 수 있을 만큼 똑똑한 디코더를 구축하는 것이 가능하다는 것을 보여줍니다. 상세한 오류 지도, 퍼즐을 단순화하는 방법, 그리고 시간에 따른 유연한 데이터 처리 방식을 결합함으로써, 연구진은 미래의 양자 메모리의 중추가 될 수 있는 프레임워크를 만들어냈습니다. 비록 결과가 물리적 하드웨어가 아닌 시뮬레이션에서 도출된 것이지만, 이는 신뢰할 수 있는 양자 시스템을 구축하기 위한 강력한 이론적 토대를 제공합니다. 이 연구는 적절한 디코딩 전략이 있다면 장기적이고 결함 허용(fault-tolerant)이 가능한 양자 메모리라는 꿈이 손에 닿을 곳에 있으며, 노이즈가 존재하는 현실 세계에서 양자 컴퓨터가 안정적으로 작동할 수 있는 길을 열어준다는 것을 시사합니다.