Machine Learning Decoding of Circuit-Level Noise for Bivariate Bicycle Codes

기술 요약: 이변량 바이사이클 코드(Bivariate Bicycle Codes)의 회로 수준 노이즈에 대한 머신러닝 디코딩

문제 정의
결함 허용 양자 컴퓨팅은 신드롬 측정을 해석하고 오류를 추론하기 위해 고전적 디코더에 의존한다. 머신러닝(ML) 디코더는 표면 코드(surface code)에서 유망한 성능을 보여주었으나, 특히 **회로 수준 노이즈(circuit-level noise)**가 존재하는 양자 저밀도 패리티 검사(QLDPC) 코드에 대한 적용은 아직 미개척 분야이다. 회로 수준 노이즈는 코드 용량 노이즈(code-capacity noise)보다 복잡한데, 이는 결함이 있는 측정과 오류 전파를 포함하며, 이로 인해 입력 공간이 신드롬 라운드 수에 따라 기하급수적으로 증가하기 때문이다. 또한, QLDPC 코드는 표면 코드와 같은 국소적 스태빌라이저 구조가 부족하여 표준 컨볼루션 또는 로컬 디코더 접근 방식을 적용할 수 없다. 기존의 벤치마크인 BP-OSD(Belief Propagation with Ordered Statistics Decoding)는 효과적이긴 하지만, 실행 시간의 분산이 크고 최악의 경우 3차 복잡도를 가지는 문제가 있어 실시간 디코딩에 어려움이 있다.

방법론
저자들은 이변량 바이사이클(Bivariate Bicycle, BB) 코드 상의 회로 수준 노이즈를 디코딩하도록 설계된 순환형 트랜스포머 기반 신경망을 제안한다. 이 모델은 전체 회로 수준 오류를 재구성하는 대신, 논리적 측정 플립(논리 연산자와 반교환하는 오류)의 확률을 예측함으로써 최대 가능도 디코더(maximum likelihood decoder)를 근사하는 것을 목표로 한다.

주요 아키텍처 및 훈련 혁신 사항은 다음과 같다:

1. 코드 인지적 셀프 어텐션(Code-Aware Self-Attention): QLDPC 코드의 국소적 구조 부재를 해결하기 위해, 저자들은 (본래 고전 코드를 위한) 코드 인지적 셀프 어텐션을 변형하여 적용하였다. 이 메커니즘은 거리 2 이내의 디텍터를 고려하여 태너 그래프(Tanner graph) 구조에 기반해 신드롬 비트 간의 어텐션 가중치를 제한한다. 이는 훈련 속도를 높이고 강건성을 개선하기 위한 귀납적 편향(inductive bias) 역할을 한다.
2. 순환형 아키텍처(Recurrent Architecture): 모델은 신드롬 측정 라운드를 순차적으로 처리하기 위해 순환형 구조를 채택한다. 이는 모든 라운드를 동시에 처리하는 것보다 입력 크기를 줄여 훈련 가능성을 높인다.
3. 조건부 확률 출력: 고정된 오류 클래스 집합(논리 큐비트 수에 따라 지수적으로 증가함)을 출력하는 대신, 모델은 조건부 확률 분포를 출력한다. 모델은 자기회귀(autoregressive) 예측을 사용하여 특정 논리적 오류가 발생했는지 여부를 결정한다.
4. 잠재 공간 예측을 포함한 다단계 훈련: 회로 수준 노이즈에 대한 직접적인 훈련은 어려웠다. 저자들은 "생각의 사슬(chain of thought)" 프롬프팅에서 영감을 받은 다단계 훈련 프로토콜을 활용한다. 초기에는 매 라운드 이후의 중간 논리적 측정 플립을 예측하도록 모델을 훈련시킨다. 점진적으로 훈련은 **잠재 공간 예측(latent space predictions)**으로 전환되는데, 여기서 모델은 최종 신드롬 라운드 전까지 최종 오류 수정을 확정하지 않고 내부 표현만을 출력한다. 이는 모델이 불충분한 데이터로 성급한 결정을 내리는 것을 방지한다.

실험 설정
연구는 두 가지 BB 코드 인스턴스에 대해 모델을 평가한다:

• [[72, 12, 6]] BB 코드: 12개의 논리 큐비트를 가진 작은 규모의 코드.
• [[144, 12, 12]] BB 코드: 12개의 논리 큐비트를 가진 더 큰 규모의 코드.

성능은 표준 BP-OSD 구현(오류율에는 3차 OSD를 사용하고, 실행 시간 벤치마크에는 0차를 사용) 및 정수 계획법(Integer Programming, IP) 디코더(최대 가능도 오류 디코더)와 비교하여 평가된다. 실험은 물리적 오류율($p$)과 노이즈가 있는 신드롬 측정 라운드 수($NR$)를 변화시키며 회로 수준 디폴라이징 노이즈가 발생하는 메모리 실험을 시뮬레이션한다.

주요 결과

• [[72, 12, 6]] 코드:

  • 논리적 오류율: 물리적 오류율 $p = 0.1\%$에서, ML 디코더는 BP-OSD-3보다 약 5배 낮은 논리적 오류율을 달성했다. 그러나 최적의 IP 디코더보다는 약 5배 높다.
  • 실행 시간: ML 디코더는 일관된 실행 시간을 보이는 반면, BP-OSD는 상당한 이상치를 포함한 넓은 분포를 보인다. ML 모델은 최악의 경우 BP-OSD 인스턴스보다 약 10배 빠르다.
  • 일반화: $p=0.6\%$에서 훈련된 모델은 더 낮은 오류율에서도 잘 일반화된다.
  • 확장성: 모델의 성능은 신드롬 라운드 수($NR$)가 증가함에 따라 크게 향상되며, BP-OSD에 비해 라운드당 더 나은 오류 억제력을 보여준다.

• [[144, 12, 12]] 코드:

  • 논리적 오류율: ML 디코더는 물리적 오류율 $p$가 $0.3\%$에서 $0.7\%$ 사이일 때 BP-OSD-3와 유사한 성능을 보인다. 그러나 $p < 0.3\%$인 경우, ML 디코더의 논리적 오류율이 급격히 악화된다(예: $p=0.1\%$에서 BP-OSD보다 약 7배 나쁨). 이는 현재의 아키텍처가 더 큰 코드 거리에 대응하는 데 어려움이 있음을 시사한다.
  • 실행 시간: BP-OSD 대비 속도 우위가 유지된다.

의의 및 주장
본 논문은 머신러닝 디코더가 작은 규모의 QLDPC 코드에서 논리적 오류율과 최악의 경우 실행 시간 일관성 측면 모두에서 기존 디코더(특히 BP-OSD)를 능가할 수 있다는 초기 증거를 제시한다. 저자들은 자신들의 작업이 QLDPC 코드에 대한 미래의 ML 디코더를 위한 베이스라인을 제공한다고 주장한다.

그러나 저자들은 현재 접근 방식의 확장성에 대해 겸허한 입장을 취한다. 그들은 원하는 논리적 오류율을 달키기 위해 더 복잡한 아키텍처 및/또는 훈련 절차가 필요함을 명시적으로 밝히고 있다. 이 논문은 현재의 모델이 대규모 QLDPC 코드의 디코딩 문제를 해결했다고 주장하는 것이 아니라, 접근 방식의 타당성을 입증하고 아키텍처 확장성 및 저오류율에서의 훈련 데이터 밀도와 같은 향후 연구가 필요한 구체적인 영역을 식별하는 데 목적이 있다. 또한 저자들은 자신들의 디코더가 논리적 측정 플립을 통한 파울리 기반 계산(Pauli-Based Computation, PBC)에는 충분하지만, 대규모 계산을 위한 실시간 디코딩을 위해서는 병렬 윈도우 디코딩 전략과 같은 추가적인 발전이 필요하다고 언급했다.