💻 컴퓨터 과학

Sparse Mamba Decoder for Quantum Error Correction: Efficient Defect-Centric Processing of Surface Code Syndromes

Sparse Mamba Decoder (SMD)는 활성 탐지 이벤트만을 $O(k)$ 복잡도로 처리함으로써 우수한 정확도와 거의 일정한 낮은 지연 시간을 달성하는 결함 중심 신경 디코더로서, 다양한 양자 오류 정정 벤치마크 전반에 걸쳐 기존 디코더들보다 속도와 논리적 오류율 측면에서 성능을 크게 앞지릅니다.

원저자: Samira Sayedsalehi, Nader Bagherzadeh, Maxim Shcherbakov

게시일 2026-10-22

📖 5 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Samira Sayedsalehi, Nader Bagherzadeh, Maxim Shcherbakov

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

양자 컴퓨터는 오늘날의 기계들이 수천 년 걸릴 문제를 해결할 것을 약속하지만, 믿을 수 없을 정도로 취약합니다. 정보를 담고 있는 아주 작은 입자인 큐비트는 열, 진동, 또는 심지어 주변의 전자기파에 의해서도 쉽게 방해를 받습니다. 큐비트가 방해를 받으면 실수를 저지르게 되며, 이러한 실수들이 쌓이면 전체 계산이 무너집니다. 유용한 양자 컴퓨터를 구축하기 위해 과학자들은 오류가 발생하는 즉시 이를 찾아내고 수정할 수 있는 시스템, 즉 양자 오류 정정(quantum error correction)이라 불리는 과정을 구축해야 합니다. 이를 수행하는 가장 대중적인 방법은 큐비트 격자를 사용하여 시스템이 스스로의 상태를 끊임없이 점검하는 것입니다. 이러한 점검은 '신드롬(syndrome)'이라 불리는 데이터 스트림을 생성하며, 이는 어디에서 오류가 발생했는지를 보여주는 지도 역할을 합니다. 문제는 컴퓨터가 이 지도를 읽고 새로운 오류가 나타나기 전보다 더 빠르게 오류를 어떻게 수정할지 결정해야 한다는 것이며, 이는 엄청난 속도와 정밀함을 요구하는 시간과의 싸움입니다.

수년 동안 이러한 오류 지도를 읽는 데 사용된 최고의 도구들은 전체 격자를 하나의 단단한 데이터 블록으로 취급하여, 아무런 문제가 없는 구역까지 모두 확인하는 고전적 알고리즘들이었습니다. 이 접근 방식은 신뢰할 수 있지만, 빈 공간을 처리하는 데 시간을 낭비하기 때문에 느립니다. 새로운 연구에서 캘리포니아 대학교 어바인(UC Irvine)의 연구진은 다른 사고방식을 도입했습니다. 그들은 격자의 빈 부분을 무시하고 실제로 오류가 발생한 몇몇 지점에만 집중하는 디코더를 만들었습니다. 오류 지도를 전체적인 그림이 아니라 활성화된 사건들의 희소한(sparse) 목록으로 취급함으로써, 그들은 기존의 가장 뛰어난 방법들만큼 정확하면서도 훨씬 더 빠른 시스템을 만들어냈습니다.

사미라 사이드살레히(Samira Sayedsalehi)가 이끄는 연구진은 '스파스 맘바 디코더(Sparse Mamba Decoder)'라고 부르는 것을 개발했습니다. 이것이 왜 획기적인 성과인지 이해하려면 먼저 오류의 본질을 이해해야 합니다. 일반적인 실험을 수행 중인 양자 컴퓨터에서 오류는 드물게 발생합니다. 실수가 기록될 수 있는 수천 개의 가능한 위치 중에서, 보통 5% 미만의 아주 적은 부분만이 실제로 문제를 나타냅니다. 기존의 디코딩 방식은 침입자가 특정 방에만 나타난다는 것을 알고 있음에도 불구하고, 거대한 빈 호텔의 모든 방을 하나하나 돌아다니며 침입자를 확인하는 보안 요원과 같았습니다. 새로운 디코더는 빈 방을 완전히 건너뜁니다. 대신 알람이 울리기를 기다렸다가, 소음이 발생한 특정 방을 식별한 다음, 그 방과 그 주변의 이웃한 방만을 분석합니다.

이러한 전략의 변화 덕분에 연구팀은 '상태 공간 모델(state-space model)', 특히 '맘바(Mamba)'라고 알려진 버전의 강력한 새로운 인공지능 아키텍처를 사용할 수 있었습니다. 이 모델은 정보의 시퀀스를 효율적으로 처리하도록 설계되었습니다. 연구진은 전체 데이터 격자를 시스템에 입력하는 대신, '결함(defects)'이라고 부르는 활성 오류 신호만을 추출했습니다. 그런 다음 각 결함에 위치, 오류 유형, 그리고 주변 오류와의 관계를 포함한 상세한 설명을 입혔습니다. 이를 통해 거대하고 정적인 데이터 블록이 아닌, 짧고 가변적인 길이의 이벤트 목록을 만들어냈습니다. AI 모델은 이 목록을 읽어 컴퓨터가 '논리적 실패(logical failure)', 즉 수정할 수 없어 계산을 망쳐버리는 실수를 겪었는지 여부를 예측합니다.

이 접근 방식의 결과는 놀라웠습니다. 실제 양자 하드웨어의 동작을 모방한 시뮬레이션 데이터로 테스트했을 때, 새로운 디코더는 해당 분야에서 사용되는 표준 방식에 비해 수정 불가능한 오류율을 최대 49%까지 줄였습니다. 더 중요한 것은, 이 작업이 믿기 힘들 정도로 빨랐다는 점입니다. 테스트에서 새로운 시스템은 현재 가장 뛰어난 근사 완벽 디코더인 '테서랙트(Tesseract)'보다 95배에서 467배 더 빠르게 실행되었습니다. 테서랙트 디코더가 단 하나의 오류 지도를 처리하는 데 밀리초(ms) 단위의 시간이 걸린 반면, 새 시스템은 마이크로초(μs) 단위로 작업을 완료했습니다. 이 속도는 매우 중요한데, 왜냐하면 양자 컴퓨터는 약 1마이크로초 정도 지속되는 주기로 작동하기 때문입니다. 만약 디코더가 너무 느리면 컴퓨터는 자신의 오류를 따라잡을 수 없습니다.

연구진은 또한 구글의 시카모어(Sycamore) 양자 프로세서에서 수집된 실제 데이터를 사용하여 시스템을 테스트했습니다. 이 실험에서 새로운 디코더는 전체 격자를 처리하는 이전의 더 복잡한 신경망의 성능과 대등하거나 이를 약간 능가했습니다. 이는 새로운 방법이 빈 공간을 무시함으로써 정확도를 잃지 않았음을 증명합니다. 즉, 신호를 더 효율적인 방식으로 찾아낸 것입니다. 이 시스템은 특수한 고가의 슈퍼컴퓨팅 하드웨어를 필요로 하는 다른 고급 디코더들과 달리, 표준적인 상용 그래픽 카드로도 높은 성능을 달anim했습니다.

가장 중요한 발견 중 하나는 시스템이 양자 컴퓨터의 크기를 어떻게 다루는지였습니다. 더 복잡한 계산을 수행하기 위해 큐비트 격자가 커질수록 처리해야 할 데이터량이 폭발적으로 증가하여 디코딩 속도가 점점 느려지게 됩니다. 그러나 새로운 디코더는 격자 크기에 상관없이 거의 일정한 속도를 유지했습니다. 다른 방법들이 격자가 커짐에 따라 수백 배 더 느려지는 반면, 이 시스템은 아주 작은 비율로만 느려졌습니다. 이는 양자 컴퓨터가 실용적인 사용을 위해 거대한 규모로 확장됨에 따라, 결함 중심의 이 접근 방식이 단순히 더 빨라지는 것을 넘어 필수적이 될 것임을 시사합니다.

스파스 맘바 디코더의 성공은 오류를 기술하는 영리한 방식에 달려 있습니다. 시스템은 단순히 어디에서 오류가 발생했는지만 아는 것이 아니라, 각 오류 이벤트에 대한 풍부한 단서들을 제공받았습니다. 각 오류의 정확한 좌표, 그것이 비트 플립(bit-flip)인지 위상 플립(phase-flip)인지, 그리고 이웃한 요소들도 경보를 울리고 있는지에 대한 정보를 받았습니다. 또한 시간에 따른 오류 상태의 이력도 제공받았습니다. 이러한 상세한 맥락을 AI에 입력함으로써, 시스템은 기존의 방법들이 놓쳤던 복잡한 실수 패턴을 인식하는 법을 배웠습니다. 시스템은 단일 측정 글리치(glitch)와 칩 전체로 퍼지는 오류의 사슬을 구분하는 법을 학습하여, 컴퓨터를 어떻게 수정할지에 대해 더 나은 결정을 내릴 수 있게 되었습니다.

이 연구는 또한 기존 접근 방식의 근본적인 한계를 강조했습니다. 전체 격자를 처리함으로써, 이전의 디코더들은 오류 지도의 가로 방향과 세로 방향을 별개의 문제로 취급해야만 했습니다. 하지만 양자 세계에서는 특정 유형의 오류가 두 방향 모두에 동시에 영향을 미칩니다. 새로운 디코더는 모든 오류의 시퀀스를 함께 살펴봄으로써 자연스럽게 이러한 연결성을 파악할 수 있었습니다. 이를 통해 기존의 분리된 방법들이 해결할 수 없었던 문제들을 해결할 수 있었고, 결과적으로 테스트에서 관찰된 상당한 오류율 감소를 이끌어냈습니다.

이 시스템이 아직 1마이크로초 주기로 작동하는 가장 빠른 초전도 양자 컴퓨터에서 실시간으로 실행될 만큼 빠르지는 않지만, 이는 거대한 도약을 의미합니다. 연구진은 현재 버전이 데이터를 배치(batch) 단위로 처리하여 약간의 지연이 발생한다고 언급했습니다. 그러나 밑바탕이 되는 로직이 매우 효율적이기 때문에, 데이터가 들어오는 대로 스트리밍하도록 설계된 미래 버전은 실시간 수정에 필요한 속도에 도달할 잠재력이 있습니다. 이 수준의 성능이 표준 그래픽 카드에서 달성되었다는 사실은 고품질 양자 오류 정정에 대한 진입 장벽이 생각보다 낮다는 것을 시사합니다.

이 연구는 양자 오류의 본질적인 희소성(sparsity)이 버그가 아니라 특징이라는 점을 보여줍니다. 이러한 희소성을 존중하는 아키텍처를 설계함으로써, 연구진은 더 빠르고 정확한 디코딩 경로를 찾아냈습니다. 이 연구는 높은 정확도를 위해 전체 밀집 격자를 처리하는 것이 반드시 필요하지 않다는 점을 입증하며, 대신 결함에 집중하는 것이 우월한 전략임을 보여주었습니다. 양자 하드웨어가 계속 개선되고 커짐에 따라, 오류를 빠르고 효율적으로 디코딩하는 능력이 이러한 기계들의 잠재력을 온전히 끌어내는 핵심이 될 것입니다. 이 새로운 디코더는 때때로 복잡한 문제를 해결하는 가장 좋은 방법은 고장 나지 않은 모든 것을 무시하는 것임을 증명하며, 그 미래를 향한 명확하고 실질적인 길을 제시합니다.

기술 요약: 양자 오류 정정(QEC)을 위한 희소 마마 디코더(Sparse Mamba Decoder)

문제 정의

양자 오류 정정(QEC)은 결함 허용 양자 컴퓨팅을 위한 필수 전제 조건이며, 정확도, 속도 및 확장성 사이의 균형을 맞추는 디코더를 필요로 한다. 표면 코드(Surface code)는 가장 유망한 근접 구현 후보 중 하나로, $O(d^2 R)$ 크기의 신드롬 배열을 생성한다 (여기서 $d$ 는 코드 거리, $R$ 은 측정 라운드 수이다).

AlphaQubit 및 Dense Mamba 디코더와 같은 기존의 최첨단 신경망 디코더들은 실제 오류율에 관계없이 이 전체 밀집(dense) 신드롬 배열을 처리한다. 그러나 물리적으로 유의미한 오류율(예: $p \approx 0.1\%$ )에서 신드롬 엔트리의 5% 미만이 활성 검출 이벤트를 포함한다. 이 전체 밀집 볼륨을 처리하는 것은 97%가 희소(sparse)한 행렬에 대해 밀집 행렬 곱셈을 수행하는 것과 같으며, 이는 불필요한 계산 오버헤드를 초반한다. 또한, MWPM(Minimum-Weight Perfect Matching)과 같은 매칭 기반 디코더는 빠르지만, 상관된 오류(예: X와 Z 안정기를 모두 트리거하는 Y-오류)를 고려하지 못하므로 최적이 아니다. 반대로, Tesseract나 AlphaQubit 2와 같은 최적에 가까운 디코더들은 특수 하드웨어(예: Trillium TPU)를 필요로 하거나 코드 거리에 따라 확장성이 떨어지는 높은 지연 시간을 보일 수 있다.

방법론: 희소 마마 디코더 (SMD)

저자들은 밀집 신드롬 배열에서 활성 검출 이벤트의 희소 시퀀스로 입력 표현을 근본적으로 전환하는 결함 중심(defect-centric) 아키텍처인 Sparse Mamba Decoder (SMD)를 소개한다.

1. 희소 결함 표현 (Sparse Defect Representation)

SMD는 전체 $(d^2-1) \times R$ 신드롬 볼륨을 처리하는 대신, 오직 $k$ 개의 활성 검출 이벤트만을 추출한다. 각 결함은 다음을 인코딩하는 13차원 특징 벡터( $f_{i,t}$ )로 표현된다:

공간 좌표: 회전된 격자 상의 정규화된 $(x, y)$ .
시간적 맥락: 정규화된 라운드 인덱스 $t/R$ .
안정기 유형: X-타입 또는 Z-타입 체크를 나타내는 이진 플래그.
연결성 플래그: 공간적 이웃(4개 플래그) 및 시간적 이웃(2개 플래그) 중 함께 발화한 이웃을 나타내는 이진 지표.
경계 거리: Z 및 X 논리 경계까지의 정규화된 거리 ( $b_Z, b_X$ ).
재구성된 측정값: 현재 안정기의 상태를 제공하는 누적 XOR 검출 이력 ( $m_{i,t}$ ).

이러한 특징들은 시간 및 안정기 인덱스 순으로 정렬되어 길이 $k$ 를 가진 가변 길이 시퀀스를 형성하며, 여기서 $k \ll d^2 R$ 이다 (유의미한 오류율에서).

2. 아키텍처

SMD는 어텐션 메커니즘 없이 결함 시퀀스를 선형 시간 내에 처리하는 마마 상태 공간 모델(Mamba state-space model) 백본을 활용한다.

임베딩(Embedding): 2층 MLP가 13차원 특징을 모델 차원( $d_{model}$ )으로 투영한다.
믹서 레이어(Mixer Layers): 핵심은 $L$ 개의 레이어로 구성되며, 각 레이어는 마마 선택적 스캔 블록(상태 차원 $d_{state}=16$ , 컨볼루션 폭 $d_{conv}=4$ 포함)과 SiLU 게이팅을 사용하는 게이트형 밀집(Gated Dense) 블록으로 이루어진다.
리드아웃(Readout): 가변 길이 시퀀스는 마스크드 평균 풀링(masked mean pooling)을 통해 집계된 후, 논리 관측량 $\hat{\lambda}$ 를 예측하기 위해 리드아웃 네트워크(ResBlock 또는 MLP)를 통과한다.
듀얼 헤드 변형(Dual-Head Variant): 데폴라라이징 노이즈(depolarizing noise)의 경우, $\lambda_Z$ 와 $\lambda_X$ 를 공동으로 예측하는 듀얼 헤드 아키텍처를 사용하여, 독립적인 매칭 디코더가 놓치는 두 오류 기저 간의 상관관계를 포착할 수 있게 한다.

3. 훈련 프로토콜

저자들은 노이즈 모델에 따라 서로 다른 훈련 전략을 채택한다:

합성 벤치마크: AdamW 또는 Lion 옵티마이저를 사용하여 새로운 합성 데이터로 처음부터 학습한다.
SI1000 벤치마크: 긴 시퀀스를 처리하기 위해 측정 라운드( $r \le 9, 25, 120$ )에 따른 3단계 커리큘럼을 활용한다.
Sycamore 실험 데이터: XEB 데이터를 통해 하드웨어에 의해 교정된 검출기 오류 모델(DEM)으로 사전 학습한 후, 실제 실험 데이터로 미세 조정하는 2단계 프로토콜을 따른다.
앙상블(Ensembling): 정확도를 극대화하기 위해, 저자들은 멀티 체크포인트 앙상블(다양한 훈련 단계의 모델로부터 로짓을 평균화) 및 멀티 시드 앙상계를 사용한다.

주요 기여

희소 결함 중심 아키텍처: SMD는 전체 신드롬 볼륨( $d^2 R$ ) 대신 활성 결함( $k$ )만을 처리하여 $O(k)$ 의 계산 복잡도를 달성한다. 이는 밀집 신경망 디코더의 $O(d^2 R)$ 및 어텐션 기반 방식의 $O(d^4 R)$ 와 대조된다.
벤치마크 전반에 걸친 높은 정확도:
- 데폴라라이징 노이즈: $d=5–11$ 에서 공동 디코딩을 통해 Y-오류 상관관계를 활용함으로써 MWPM, Tesseract, Belief Matching 대비 논리 오류율을 40–91% 감소시킨다.
- SI1000 노이즈: $d \le 5$ 에서 MWPM의 논리 오류율을 최대 49% 줄인다. $d=7$ 에서 3-체크포인트 앙상블은 MWPM 대비 16%의 감소를 달s성한다.
- Sycamore 데이터: SMD 앙상블은 희소 입력을 사용하고 확산 2D 컨볼루션(dilated 2D convolutions)을 사용하지 않았음에도 불구하고, 실험 데이터에서 Lee 등의 밀집 마마 디코더 성능과 일치하거나 이를 약간 상회한다.
계산 효율성: SMD는 유니폼 회로 수준 노이즈(uniform circuit-level noise) 하에서 SI1000 노이즈 발생 시 Tesseract 근사-MLD 디코더보다 95–467배 빠르고, Belief Matching보다 232–463배 빠르다. $d$ 가 3에서 9로 증가함에 따라 SMD의 지연 시간은 거의 일정하게(24–57 $\mu$ s) 유지되는 반면, Belief Matching의 지연 시간은 773배 증가한다.
범용 하드웨어 실행 가능성: 모든 결과는 표준 NVIDIA GPU(RTX 4090 및 H200 NVL)에서 달성되었으며, 모델 크기는 7.5–16M 파라미터 수준으로 AlphaQubit 2에 필요한 특수 TPU 없이도 가능하다.

결과 및 성능

정확도: Sycamore 데이터셋( $d=3, 5$ )에서 SMD 앙상블은 각각 $2.940 \times 10^{-2}$ 및 $3.001 \times 10^{-2}$ 의 논리 오류율을 달성하여, 밀집 마마 베이스라인( $2.98 \times 10^{-2}$ 및 $3.03 \times 10^{-2}$ )과 $d=3$ 에서의 텐서 네트워크 디코더를 능가한다.
지연 시간 스케일링: 유니폼 회로 수준 노이즈의 경우, SMD의 지연 시간은 $d=3$ 에서 $d=9$ 로 증가할 때 단 2.4배 증가하는 반면, Belief Matching은 773배 증가한다.
일반화: 모델은 훈련된 라운드 수( $r=120$ 까지)를 벗어난 분포 외(OOD) 라운드(예: $r=140$ ) 및 다양한 오류율에 대해 강력한 일반화 능력을 보여준다 (단, 결함 밀도가 훈련 분포 내에 있는 경우).

의의 및 주장

본 논문은 물리적으로 유의미한 오류율에서 양자 오류 신드롬의 본질적인 희소성이 활용되어야 할 강력한 구조적 사전 지식(structural prior)임을 주장한다. Sparse Mamba Decoder는 다음을 입증한다:

희소 표현의 충분성: 정확한 디코딩을 위해 전체 밀집 신드롬 배열을 처리할 필요는 없다. 특징 벡터에 공간 구조를 직접 인코딩함으로써 1D 순차 모델이 필요한 기하학적 상관관계를 포착할 수 있다.
범용 하드웨어에서의 확장성: 고정밀, 근사-MLD 성능을 특수 가속기 없이 소비자급 GPU를 통해 달성할 수 있다.
효율성 대 정확도의 트레이드오프: SMD는 MWPM과 근사-MLD 디코더 사이의 정확도 격차를 상당 부분 메우면서도 수 차수의 낮은 지연 시간으로 작동하는 파레토 최적(Pareto-optimal)의 균형을 제공한다.

저자들은 SMD가 현재 하드웨어에서 배치 처리량(batched throughput)에 최적화되어 있지만, 그 $O(k)$ 스케일링은 스트리밍 아키텍처와는 별개의 문제라고 언급한다. 향후 연구는 SMD의 희소 처리 방식을 스트리밍 최적화와 결합하여 초전도 큐비트에 대한 실시간 디코딩을 달성하는 방향으로 진행될 수 있다. 또한 이 접근 방식은 컬러 코드(color codes) 및 양자 LDPC 코드와 같은 다른 코드 제품군에도 적용 가능할 것으로 보인다.