기술 요약: 양자 오류 코드를 위한 신경망 최소 가중치 완벽 매칭 (Neural Minimum Weight Perfect Matching)

문제 정의

결함 허용 양자 컴퓨팅(Fault-tolerant quantum computing)을 실현하기 위해서는 물리적 큐비트의 내재된 취약성을 완화할 수 있는 강력한 양자 오류 정정(QEC)이 필수적이다. 다양한 QEC 방식 중에서도 서피스 코드(Surface Code)와 토릭 코드(Toric Code) 같은 위상학적 코드는 높은 오류 임계값을 갖기 때문에 유력한 후보로 꼽힌다. 이러한 코드의 효능은 관측된 신드롬 측정값으로부터 가장 가능성 높은 오류 구성을 추론하는 알고리즘인 디코더에 크게 의존한다.

이러한 코드의 표준 디코더는 최소 가중치 완벽 매칭(Minimum Weight Perfect Matching, MWPM) 알고리즘이다. MWPM은 그래프 이론 문제로 디코딩을 변환하여, 노드는 신드롬 결함을 나타내고 에지는 잠재적인 오류 체인을 나타내는 그래프에서 최소 총 가중치를 갖는 완벽한 매칭을 찾는다. MWPM은 효과적이긴 하지만, 정적 에지 가중치(예: 독립적인 비트 및 위상 플립 오류와 같은 단순화된 가정에 기반함)에 의존한다. 이러한 접근 방식은 특히 데폴라이징 노이즈(depolarizing noise)와 같은 복잡한 노이즈 모델 하에서 존재하는 풍부한 통계적 상관관계를 활용하지 못한다는 한계가 있다.

나아가, MWPM을 개선하기 위해 머신러닝을 통합하는 데에는 근본적인 최적화 장벽이 존재한다. MWPM 알고리즘은 이산적이고 조합적인 연산(구체적으로 블로섬(Blossom) 알고리즘)에 의존하며, 이는 본질적으로 미분 불가능하다. 이로 인해 표준 역전파(backpropagation)가 불가능해지며, 결과적으로 디코딩 결정으로부터 네트워크 파라미터까지의 그래디언트 흐름(gradient flow)이 단절되어 최적의 가중치 전략을 엔드 투 엔드로 학습하는 것을 방해한다.

방법론

저자들은 기존의 MWPM을 대체하는 대신 이를 보강하는 데이터 기반 디코더인 **신경망 최소 가중치 완벽 매칭(Neural Minimum Weight Perfect Matching, NMWPM)**을 제안한다. 핵심 혁신은 관측된 신드롬을 기반으로 에지 가중치를 동적으로 예측하는 하이브리드 딥러닝 아키텍처와, 미분 불가능한 매칭 단계를 우회하는 새로운 훈련 목적 함수를 결합한 것이다.

1. 하이브리드 아키텍처

이 프레임워크는 신드롬 그래프를 처리하기 위해 두 단계의 신경망 백본을 사용한다:

• 국소 특징 추출 (GNN): 그래프 신경망(특히 TransformerConv 레이어 사용)이 신드롬 그래프의 국소적 위상을 처리한다. 이는 2D 격자 좌표, 스태빌라이저 유형(X 또는 Z), 격자 중심으로부터의 거리, 위치 인코딩을 포함하는 노드 특징을 인코딩한다. GNN은 이웃 결함으로부터 정보를 집계하여 노드 표현을 업데이트한다.
• 전역 의존성 모델링 (Transformer): 트랜스포머 인코더는 업데이트된 노드 임베딩을 결합하여 형성된 에지를 처리한다. 이 단계는 장거리 전역 의존성을 포착하고 전체 격자에 걸친 경쟁하는 오류 체인에 대해 추론함으로써, 순수하게 국소적인 접근 방식의 한계를 해결한다.
• 양자 가중치 예측기 (QWP): 네트워크는 노드 $i$와 $j$를 연결하는 모든 에지에 대해, 해당 에지가 실제 오류 체인의 일부일 확률인 스칼라 $p_{ij}$를 출력한다. 이 확률들은 음의 로그 가능도 변환($w_{ij} = -\ln(p_{ij})$)을 통해 MWPM 알고리즘을 위한 가중치로 변환된다.

2. 대리 손실 함수를 통한 미분 가능한 훈련

미분 불가능한 MWPM 단계를 극복하고 엔드 투 엔드 훈련을 가능하게 하기 위해, 저자들은 **대리 손실 함수(proxy loss function)**를 구성한다. 문제는 에지 분류 작업으로 프레임화된다:

• 그라운드 트루스 생성: 알고리즘적 절차를 통해 물리적 오류 구성을 유효한 매칭으로 축소함으로써 라벨이 지정된 훈련 데이터를 생성한다. 여기에는 오류 클러스터링, 짝수 패리티 스태빌라이저 필터링, 그리고 최적의 교정 체인을 결정하기 위한 국소적 MWPM 또는 브루트 포스(brute-force) 탐색이 포함된다.
• 손실 함수: 네트워크는 예측 확률과 그라운드 트루스 라벨 사이의 이진 교차 엔트로피(Binary Cross-Entropy, BCE)와 엔트로피 정규화 항($\lambda \cdot H(p)$)으로 구성된 복합 손실을 사용하여 최적화된다. 엔트로피 항은 예측을 명확하고 결정적으로 만들도록(확률을 0 또는 1로 밀어붙임) 유도하며, 이는 다운스트림 MWPM 알고리즘이 총 가산 가중치를 효과적으로 최소화하는 데 매우 중요하다.

주요 기여

1. 새로운 하이브리드 아키텍처: 국소 신드롬 위상을 위한 GNN과 전역 의존성 모델링을 위한 Transformer를 결합하여 동적 에지 가중치를 예측하는 통합 프레임워크를 제시하였다.
2. 그라운드 트루스 생성: 위상적 코드의 퇴행성(degeneracy) 문제를 해결하기 위해, 물리적 오류 구성을 유효한 매칭으로 축소하여 지도 학습용 훈련 라벨을 생성하는 알고리즘적 절차를 개발하였다.
3. 미분 가능한 훈련 목적 함수: 비미분적인 조합 알고리즘을 구동하는 네트워크를 그래디언트 기반으로 훈련할 수 있게 하는 대리 손실 함수(엔트로피 정규화가 포함된 BCE)를 제안하였다.
4. 성능 평가: 독립 노이즈 및 데폴라이징 노이즈 모델 하에서 토릭 코드와 회전 서피스 코드에 대한 포괄적인 평가를 수행하였다.

결과

저자들은 토릭 코드($L_{code} \in \{6, 8, 10, 12\}$)와 회전 서피스 코드($L_{code} \in \{5, 7, 9\}$)에 대해 NMWPM을 평가하였다.

• 논리적 오류율 (LER): 데폴라이징 노이즈 하에서, NMWPM은 표준 MWPM, BPOSD-2, QECCT에 비해 LER을 실질적으로 감소시켰다. 이러한 이점은 격자 크기가 클수록(예: $L_{code}=10$) 더욱 두드러졌으며, 물리적 오류율 $p > 0.12$에서 모델은 LER을 17~50% 감소시켰다.
• 임계값 (Thresholds):
  • 데폴라이징 노이즈 (토릭 코드): NMWPM은 최대 가능도 경계인 18.9%에 근접한 **17.9%**의 임계값을 달성하였다. 이는 MWPM, BPOSD-2 (16.0%), QECCT (17.8%)를 능가하는 수치이다.
  • 독립 노이즘 (토릭 코드): 이 방법은 이론적 최대 가능도 경계인 11.0%와 거의 일치하는 **10.95%**의 임계값을 달est하였으며, MWPM (10.3%) 및 BPOSD-2 (10.8%)보다 우수한 성능을 보였다.
  • 회전 서피스 코드: 데폴라이징 노이즈 하에서 NMWPM은 **17.7%**의 임계값에 도달하여 QECCT (17.2%) 및 고전적 베이스라인들을 넘어섰다.
• 회로 수준 노이즈: Stim을 사용하여 반복 코드(repetition code)에서의 회로 수준 노이즈에 대한 평가를 수행한 결과, N_MWPM이 표준 MWPM보다 일관되게 우수한 성능을 보였으며, 높은 오류율에서 그 격차가 더 커짐을 확인하였다.

의의

본 논문은 NMWPM이 신경망의 예측 능력과 고전적 매칭의 알고리즘 구조를 결합한 하이브리드 디코더의 이점을 강조한다고 주장한다. 신드롬 데이터로부터 에지 가중치를 동적으로 학습함으로써, 디코더는 정적 사전 확률(static priors)이 무시하는 통계적 정보를 효과적으로 활용한다. 이 연구는 대리 손실 함수를 통해 조합적 디코딩 알고리즘의 비미분성을 극복할 수 있음을 입증하였으며, 위상적 코드에 대한 이론적 최대 가능도 경계에 근접하는 성능을 달성하였다. 이는 더 견고하고 확장 가능한 결함 허용 양자 컴퓨팅을 향한 실행 가능한 경로를 제시한다.