기술 요약: 텐서 네트워크를 이용한 판독 오류의 특성화 및 완화

문제 정의

판독 오류(Readout errors)는 근접 중규모 양자(NISQ) 장치에서 지배적인 노이즈 원인으로 남아 있으며, 기댓값 추정, 토모그래피, 샘플링 벤치마크와 같은 작업에서 고전적 측정 결과를 직접적으로 왜곡하고 편향을 유발합니다. 표준적인 판독 오류 완화(REM) 접근 방식은 일반적으로 이상적인 분포를 노이즈가 있는 분포로 매핑하는 고전적 전이 행렬 $\Lambda$를 특성화합니다. 그러나 $\Lambda$의 완전한 특성화는 시스템 크기에 따라 지수적으로($2^N \times 2^N$) 증가합니다. 이를 우회하기 위해 기존 방법들은 종종 독립적인 단일 큐비트 판독 프로세스(무상관 모델)를 가정합니다. 이러한 인수 분해 모델은 크로스토크(crosstalk), 공유 제어 라인 및 하드웨어 고유 메커즘에 의해 유도되는 공간적 상관관계를 무시합니다. 이러한 상관관계는 실제 장치에서, 특히 비국소적 관측량이나 대규모 샘플링 작업에서 무시할 수 없는 수준인 경우가 많으며, 이는 무상관 완화 전략의 성능을 제한합니다.

방법론

저자들은 판독 오류 행렬 $\Lambda$를 **행렬 곱 연산자(Matrix Product Operator, MPO)**로 모델링하는 통합 텐서 네트워크 프레임워크를 제안합니다. 이 표현법은 국소적 및 단거리 상관관계를 유한한 결합 차원(bond dimension) 내에서 다항식 복잡도로 자연스럽게 포착합니다.

1. MPO 학습을 통한 특성화

• 표현: 판독 오류 행렬 $\Lambda_{x,y}$ (진 상태 $y$가 주어졌을 때 결과 $x$가 나타날 확률)는 $|\text{Tr}(M^{[1]}_{x_1,y_1} \cdots M^{[N]}_{x_N,y_N})|^2$로 표현됩니다. 여기서 $M^{[k]}$는 유한한 결합 차원 $\chi$를 갖는 국소 텐서입니다. 이는 행렬 요소의 양의 성질(positivity)을 보장합니다.
• 정규화: 행렬 곱 유니터리(MPU)와 달리, MPO 모델은 행의 합이 1이어야 한다는 조건($\sum_x \Lambda_{x,y} = 1$)만을 요구하며, 이는 고전적 확률 과정에 적합한 더 약한 조건입니다.
• 학습: MPO 파라미터는 캘리브레이션 데이터(곱 상태 준비 및 측정)로부터 우도 기반 최적화를 통해 직접 학습됩니다. 손실 함수는 관찰된 결과의 음의 로그 우도를 최소화하며, 정규화 제약 조건을 강제하기 위한 페널티 항이 추가됩니다. 기울기(gradient)는 효율적인 텐서 네트워크 수축을 통해 계산됩니다.

2. 완화 전략

이 프레임워크는 학습된 MPO 모델을 다양한 REM 작업에 통합합니다:

• 비국소적 관측량: 이상적인 기댓값 $\langle O \rangle_{ideal}$은 관측량(MPS로 표현됨)을 판독 오류 행렬의 역행렬($\Lambda^{-1}$)과 수축시켜 추정합니다. 역행렬은 $\|\Lambda \Omega - I\|_F^2$를 최소화하는 단일 레이어 MPO를 사용하여 변분적으로 근사됩니다.
• 전역 샘플링: 노이즈가 있는 샘플로부터 이상적인 분포 $P_{ideal}$을 복구하기 위해, 이 방법은 $P_{noisy} = \Lambda P_{ideal}$ 변환 하에서 관찰된 데이터의 우도를 최대화함으로써 $P_{ideal}$에 대한 MPS 모델을 학습합니다.
• 무작위 측정: 클래식 섀도우(classical shadows) 및 학습 기반 토모그래피(예: 국소 순수 밀도 연산자, LPDO 사용)와 같은 작업의 경우, 판독 오류 모델이 최적화 목적 함수에 직접 통합됩니다. 샘플을 사후 처리하는 대신, 우도 함수는 판독 오류 행렬 $\Lambda$에 의해 가중치가 부여된 진 상태들의 합으로 수정됩니다.
• 양자 오류 정정(QEC) 디코딩: 2D 표면 코드(surface code)를 위해, MPO 모델은 **투영된 얽힘 쌍 연산자(Projected Entangled-Pair Operator, PEPO)**로 일반화됩니다. 판독 오류 모델은 디코더의 텐서 네트워크(PEPS)와 국소적으로 융합되어, 데이터 오류와 판독 오류에 대한 공동 추론을 수행하며, 이를 통해 신드롬 판독을 단순한 하드 보팅(hard-voted) 비트가 아닌 소프트 정보 입력으로 효과적으로 취급합니다.

주요 결과

실험적 검증 (초전도 프로세서)

실험은 Baihua 초전도 칩(Quafu 플랫폼)에서 6-큐비트 체인을 사용하여 수행되었습니다.

• 상관관계 포착: MPO 모델($\chi=4$)은 전체 오류 행렬 $\Lambda_{Full}$을 특성화하는 데 있어 무상관 곱 모델보다 일관되게 우수한 성능을 보였습니다. MPO 모델은 전체 특성화로부터의 상대적 거리가 $\approx 0.043$이었던 반면, 무상관 모델은 $\approx 0.074$였으며, 이는 MPO 모델이 표준 모델이 놓치는 상관된 노이즈를 포착할 수 있음을 입증합니다.
• 비국소적 관측량: 7-큐비트 클러스터 상태에 대한 실험에서, MPO 기반 REM은 특히 오류가 두드러지는 긴 스트링(string)에 대해 비국소적 스트링 질서 매개변수(string order parameters)의 추정을 크게 개선했습니다.

수치 시뮬레이션

• 확장성: $N=20$ 큐비트까지의 시뮬레이션 결과, MPO 모델을 학습하는 데 필요한 샘플 비용은 시스템 크기에 따라 거의 선형적으로 증가함을 보여주었습니다. 이는 전체 특성화에 드는 지수적 비용과 극명한 대조를 이룹니다.
• 전역 샘플링: 랜덤 회로 샘플링에서 이 방법은 교차 엔트로피 벤치마킹(XEB) 충실도(fidelity)를 개선했습니다. 새로운 이상적 샘플을 생성하는 데 지수적으로 증가하는 결합 차원을 가진 MPS가 필요함에도 불구하고, 이 방법은 텐서 수축을 사용하여 노이즈가 있는 샘플로부터 XEB 충실도를 직접 성공적으로 추론함으로써 명시적인 샘플링 없이 판독 편향을 제거했습니다.
• 무작위 측정: 1D XY 모델 깁스 상태의 클래식 섀도우 추정 및 LPDO 기반 토모그래피에서, REM 방법은 미완화 방법(unmitigated methods)에 비해 자화량 추정의 편향을 크게 줄이고 밀도 행렬 재구성을 개선했습니다.
• QEC 디코딩: 거리 $d=7$ 회전 표면 코드에 대한 시뮬레이션에서, PEPO가 융합된 디코더는 표준 디코더에 비해 논리적 오류율을 크게 낮추었으며, 특히 판독 플립(read-out flip) 비율이 높은 영역에서 그러했습니다. 이 방법은 반복 측정을 통한 소프트 정보를 효과적으로 활용하여 다수결(majority-vote) 접근 방식보다 뛰어난 성능을 보였습니다.

의의 및 주장

본 논문은 텐서 네트워크 기반 판독 오류 완화를 확장 가능하고 다재다능한 접근 방식으로 확립합니다. 주요 기여는 다음과 같습니다:

1. 통합 프레임워크: 국소적 관측량부터 전역 샘플링 및 QEC 디코딩에 이르기까지 다양한 응용 분야에서 상관된 판독 오류를 처리할 수 있는 단일 MPO/PEPO 형식을 제공합니다.
2. 효율성: 전체 오류 특성화의 지수적 오버헤드를 피하면서도 무상관 모델이 놓치는 상관관계를 포착합니다. 샘플 복잡도는 시스템 크기에 따라 거의 선형적으로 증가합니다.
3. 실용성: 실제 하드웨어에서의 실험 결과는 상관된 판독 오류가 유의미하며, MPO 모델이 이를 효과적으로 완화할 수 있음을 확인시켜 줍니다.
4. 통합성: 이 프레임워크는 단순한 사후 처리 단계가 아니라, 클래식 섀도우 및 QEC 디코더와 같은 기존 알고리즘에 통합될 수 있는 빌딩 블록으로 설계되었습니다.

저자들은 이 방법이 특히 측정 크로스토크를 통합된 텐서 네트워크 추론 문제 내에서 처리할 수 있게 함으로써, 근접 및 미래의 결함 허용(fault-tolerant) 양자 장치로부터 신뢰할 수 있는 물리적 정보를 추출하는 유망한 경로를 제공한다고 결론짓습니다.