Large-Scale Quantum Circuit Simulation on an Exascale System for QPU Benchmarking

본 연구는 유럽의 JUPITER 엑사스케일 슈퍼컴퓨터에서 대규모 무잡음 시뮬레이션과 실험 출력을 비교함으로써 98 큐비트 Quantinuum Helios-1 양자 프로세서를 벤치마크하여, 해당 장치가 93 큐비트까지 일관된 성능을 유지한 후 그 결과가 무작위 샘플링과 통계적으로 구별할 수 없게 된다는 점을 밝혀냈다.

핵심

상상해 보세요. 인간이 들어본 적 없는 음을 연주할 수 있는 brand-new, 극도로 복잡한 악기 (양자 컴퓨터) 가 있다고 가정해 봅시다. 하지만 문제가 하나 있습니다. 이 악기는 약간 '소음이 많습니다'. 때로는 요청한 완벽한 음 대신 약간 어긋난 음이나 무작위 잡음을 연주하죠. 핵심 질문은 이것입니다: 어느 시점에서 음악이 너무 소음에 휩싸여 단순한 무작위 잡음으로 변해버리고, 언제까지 여전히 아름답고 의미 있는 노래로 남아 있을까요?

이 논문은 98 개의 '건반' (큐비트) 을 가진 Helios-1이라는 특정 악기에 대한 그 질문의 답을 찾는 것입니다. 연구진들은 소음이 있는 악기가 실제로 얼마나 잘 수행하는지 확인하기 위해, '완벽한 기준' 역할을 할 거대하고 초고속인 고전 컴퓨터 (슈퍼컴퓨터 JUPITER) 를 사용했습니다.

다음은 그들의 여정을 요약한 것입니다:

1. 도전: 신호와 잡음 구분하기

양자 컴퓨터를 완벽한 케이크를 굽는 셰프로 생각하세요.

• 이상: 완벽한 케이크 (소음이 없는 시뮬레이션).
• 현실: 셰프는 바람이 부는 주방 (소음) 에서 일합니다. 때로는 바람이 밀가루를 날려버리거나 오븐 온도가 변동하죠.
• 목표: 연구진들은 알고 싶었습니다. "우리가 얻은 케이크가 여전히 진짜 케이크인지, 아니면 바람이 너무 심하게 훼방을 놓아 그냥 무작위 밀가루와 달걀 그릇이 되어버린 것인지?"

이를 테스트하기 위해 LR-QAOA라는 특정 레시피를 사용했습니다. 이 레시피는 재료 (큐비트) 를 더 추가할수록 점점 더 어려워지는 표준화된 '맛보기 테스트'라고 생각하세요.

2. 슈퍼 기준: JUPITER

'완벽한 케이크'가 어떤 모습인지 알기 위해서는 기준이 필요합니다. 작은 케이크 (최대 48 개 재료) 의 경우, 연구진들은 유럽 최초의 '엑사스케일' 슈퍼컴퓨터인 JUPITER를 사용했습니다.

• 비유: JUPITER 가 완벽하게 동기화된 16,384 명의 슈퍼 베이커 팀이라고 상상해 보세요. 그들은 컴퓨터에서 '완벽한 케이크' (소음이 없는 시뮬레이션) 를 굽습니다.
• 규모: 이는 엄청난 작업이었습니다. 그들은 4,096 개의 거대한 컴퓨터 노드를 사용하여 48 큐비트 회로를 시뮬레이션했습니다. 이는 병 속에서 폭풍을 시뮬레이션하려는 것과 같아 엄청난 양의 컴퓨팅 파워가 필요합니다.
• 결과: 그들은 최대 48 큐비트 크기의 완벽한 기준 케이크들을 성공적으로 굽었습니다.

3. 실험: Helios-1 테스트

이제 그들은 실제 Helios-1 양자 컴퓨터를 이 완벽한 기준들과 비교했습니다.

• 최대 48 큐비트: 그들은 Helios-1 의 출력을 JUPITER 시뮬레이션과 직접 비교했습니다. 결과는 무엇일까요? Helios-1 케이크는 완벽한 기준과 너무 가까워서 구별할 수 없었습니다. '바람' (소음) 은 있었지만, 아직 레시피를 망치고 있지는 않았습니다. 기계는 '소음 허용' 구역에 있었습니다.
• 48 큐비트 초과: 여기가 까다로운 부분입니다. 48 큐비트를 넘어서면, 슈퍼컴퓨터 JUPITER 조차도 너무 커서 시뮬레이션할 수 없기 때문에 '완벽한 케이크'를 더 이상 구울 수 없습니다. 기준이 사라지는 것이죠.
• 새로운 전략: 완벽한 케이크와 비교할 수 없었기 때문에, 그들은 무작위 추측과 비교했습니다. 다트를 보드에 던져 케이크의 재료를 추측하라고 누군가에게 요청하는 상황을 상상해 보세요.
  • 그들은 Helios-1 출력이 단순히 다트를 던지는 것보다 나은지 확인하기 위해 통계적 트릭 ('3 시그마' 테스트) 을 사용했습니다.
  • 발견: 완벽한 기준이 없더라도, Helios-1 이 93 큐비트까지 여전히 '진짜 케이크' (의미 있는 결과) 를 굽고 있다는 것을 발견했습니다.
  • 한계점: 95 큐비트에서 출력은 마침내 무작위 다트 던지기 결과와 정확히 똑같이 보였습니다. 소음이 장악했고 신호는 사라진 것입니다.

4. '로우-샷'의 비밀

이 논문 중 가장 영리한 트릭 중 하나는 기계를 테스트한 방법입니다. 일반적으로 좋은 평균을 얻으려면 테스트를 100 번 실행해야 할 수도 있습니다.

• 비유: 수프를 맛보는 상황을 상상해 보세요. 소금기가 있는지 확실히 하려면 100 숟가락을 떠볼 수도 있지만, 매우 자신감 있는 셰프라면 10 숟가락만 떠도 됩니다.
• 결과: 연구진들은 그들의 특정 통계적 방법을 사용하면, "네, 이것은 진짜 케이지이지 무작위 잡음이 아닙니다"라고 확신 있게 말하기 위해 **10 개의 '샷' (맛보기)**만 필요하다는 것을 보여주었습니다. 양자 컴퓨터를 실행하는 것은 비용이 많이 들기 때문에 이는 엄청난 시간과 비용을 절약해 줍니다.

5. 하드웨어 대결

이 논문은 시뮬레이션을 수행하는 데 사용된 다양한 컴퓨터 칩의 속도도 비교했습니다.

• 경쟁: 그들은 구형 A100 칩과 신형 H100 칩을 비교했습니다.
• 결과: 새로운 H100 칩은 거의 두 배 더 빠릅니다. 자전거에서 스포츠카로 업그레이드한 것과 같아, 같은 목적지에 절반의 시간으로 도달할 수 있거나, 이 경우 컴퓨터 수를 절반으로 줄여 문제를 해결할 수 있습니다.

결론

이 논문은 양자 컴퓨터를 위한 '스트레스 테스트'입니다.

1. 그들은 거대한 슈퍼컴퓨터를 사용하여 Helios-1 양자 프로세서가 48 큐비트까지의 문제에서 완벽하게 작동 (소음 허용) 함을 증명했습니다.
2. 그들은 통계적 트릭을 사용하여 슈퍼컴퓨터 기준이 없더라도 기계가 93 큐비트까지 여전히 의미 있는 결과를 산출함을 증명했습니다.
3. 95 큐비트에서 기계는 마침내 소음이 결과를 무작위 추측과 구별 불가능하게 만드는 벽에 부딪힙니다.

간단히 말해, 그들은 양자 컴퓨터가 유용한 도구를 멈추고 무작위 잡음의 원천이 되는 정확한 '전환점'을 찾았으며, 동시에 수백만 개의 샘플이 필요하지 않고도 이러한 기계를 효율적으로 테스트할 수 있음을 증명했습니다.

기술 요약

"QPU 벤치마킹을 위한 엑사스케일 시스템에서의 대규모 양자 회로 시뮬레이션" 논문에 대한 상세한 기술적 요약은 다음과 같습니다.

1. 문제 제기

양자 컴퓨팅의 급속한 발전으로 수백 개의 큐비트를 가진 프로세서가 등장했습니다 (예: 98 개 큐비트를 가진 Quantinuum 의 Helios-1). 그러나 노이즈와 하드웨어 결함은 이러한 시스템의 신뢰성을 심각하게 제한합니다. 중요한 과제는 양자 프로세서가 일관성 있고 알고리즘적으로 의미 있는 행동을 보이는 영역과 노이즈로 인해 출력이 사실상 무작위가 되는 영역 사이의 경계를 식별하는 것입니다.

기존 벤치마킹 방법 (예: Quantum Volume, Cross-Entropy Benchmarking) 은 종종 이상적인 분포에 대한 고전적 시뮬레이션에 의존하는데, 이는 약 50 개를 초과하는 큐비트에서는 계산이 불가능해지거나, 칩의 분리된 섹션만을 평가하여 시스템 성능에 대한 전체적인 시각을 제공하지 못합니다. 고전적 계산의 한계와 그 너머에서 양자 프로세서를 검증할 수 있는 확장 가능한 애플리케이션 수준의 벤치마크가 필요합니다.

2. 방법론

저자들은 대규모 고전적 시뮬레이션과 실험적 양자 실행을 결합한 다면적 접근법을 사용합니다:

• 벤치마킹 프로토콜 (LR-QAOA):

  • 본 연구는 완전히 연결된 가중치 최대 컷 (Weighted Max-Cut, WMC) 문제에 적용된 선형 램프 양자 근사 최적화 알고리즘 (Linear Ramp Quantum Approximate Optimization Algorithm, LR-QAOA) 을 사용합니다.
  • 변분 QAOA 와 달리 LR-QAOA 는 결정론적이고 비변분적인 선형 어닐링 스케줄을 사용하여 고전적 최적화 루프의 필요성을 제거합니다. 이는 알고리즘 튜닝에서 하드웨어의 고유한 성능을 분리합니다.
  • 지표: 성능 측정을 위해 근사 비율 (Approximation Ratio, $r$) 을 사용합니다. 이는 양자 처리 장치 (QPU) 로부터 얻은 샘플의 평균 비용을 최적 해 및 무작위 샘플링 기준과 비교합니다.

• 통계적 분류 프레임워크:

  • 값비싼 QPU 에서 사용 가능한 제한된 수의 샷 (샘플) 을 처리하기 위해 저자들은 "평균의 평균 (mean-of-means)" 리샘플링 절차를 개발했습니다.
  • 참조 분포 (무노이즈 시뮬레이션 및 무작위 샘플링) 로부터 평균 근사 비율의 커널 밀도 추정 (KDE) 을 구성합니다.
  • 영역 분류:
    • 노이즈 허용 (Noise-Tolerant): QPU $r$ 이 무노이즈 시뮬레이션의 99.73% 신뢰 구간 ($3\sigma$) 내에 있는 경우.
    • 전환 (Transition): QPU $r$ 이 무노이즈 구간과 무작위 구간 사이에 있는 경우.
    • 무작위 (Random): QPU $r$ 이 무작위 샘플링과 통계적으로 구별되지 않는 경우 (무작위 $3\sigma$ 임계값 미만).
  • 이 방법은 최소 10 개의 샷으로도 통계적으로 유의미한 분류를 가능하게 합니다.

• 고전적 시뮬레이션 인프라 (JUPITER):

  • 시뮬레이션은 JUQCS 시뮬레이터를 사용하여 유럽 최초의 엑사스케일 슈퍼컴퓨터인 JUPITER에서 수행되었습니다.
  • 하드웨어: 최대 4,096 개의 노드로 구성되었으며, 각 노드는 16,384 개의 NVIDIA Grace Hopper GH200 슈퍼칩 (총 16,384 개의 GPU) 을 탑재했습니다.
  • 규모: FP32 정밀도를 사용하여 최대 48 개 큐비트 (3,384 개의 2-큐비트 게이트) 회로에 대한 무노이즈 상태 벡터 시뮬레이션이 실행되었습니다.
  • 메모리 전략: 48 개 큐비트의 경우, 시뮬레이션은 슈퍼칩당 디바이스 메모리 (96 GiB) 와 호스트 메모리 (120 GiB) 를 모두 활용하여 $2^{48}$ 개의 복소 진폭을 저장하기 위해 16,384 개의 칩이 필요했습니다.

• 실험 설정:

  • 장치: 모든-대-all 연결성을 갖춘 양자 전하 결합 소자 (QCCD) 아키텍처 기반의 98 개 큐비트 트랩드 이온 QPU 인 Quantinuum Helios-1.
  • 범위: 실험은 40 에서 98 개까지의 큐비트 수에 대해 완전히 연결된 WMC 인스턴스에서 수행되었습니다.
  • 제약 사항: 큐비트 수에 따라 2 제곱으로 증가하는 하드웨어 양자 크레딧 (HQC) 의 특성상, 예산 내에서 실험을 유지하기 위해 낮은 샷 수 (9~49 샷) 로 제한되었습니다.

3. 주요 기여

1. 최초의 엑사스케일 QPU 벤치마킹 시뮬레이션: 저자들은 현재까지 보고된 가장 큰 QAOA 시뮬레이션을 FP32 정밀도로 수행하여, JUPITER 슈퍼컴퓨터의 4,096 개 노드에서 48 개 큐비트 회로를 시뮬레이션했습니다.
2. 일관성 경계 식별: Helios-1 에 대한 정량적 경계를 설정하여 시뮬레이션을 통해 48 개 큐비트까지의 노이즈 허용 작동을 인증하고, 실험적 외삽을 통해 93 개 큐비트까지의 일관성 있는 성능을 입증했습니다.
3. 저샷 통계 방법론: 평균의 평균 리샘플링과 $3\sigma$ 임계값을 사용하는 강력한 통계적 테스트를 도입하여 최소 샘플링 (최소 10 샷) 으로도 신뢰할 수 있는 성능 분류를 가능하게 했습니다.
4. 크로스 플랫폼 GPU 벤치마킹: 30 개 큐비트 시뮬레이션에서 NVIDIA H100 GPU(JUPITER) 가 A100 GPU(JUWELS Booster) 보다 1.9 배 빠른 속도 향상을 달성했으며, GPU 수의 절반으로 40 개 큐비트 시뮬레이션의 실행 시간과 일치함을 입증했습니다.

4. 주요 결과

• 시뮬레이션 성능:

  • JUPITER 에서 수행된 강한 확장성 테스트는 40 개 큐비트 문제에 대해 GPU 를 128 개에서 512 개로 증가시켰을 때 이상적인 속도 향상 (3.7 배) 을 보여주었습니다.
  • 48 개 큐비트에서 시뮬레이션은 약 2,490 초가 소요되었으며, 이는 결합 메모리를 활용할 때 호스트 - 디바이스 데이터 전송 및 MPI 통신의 상당한 오버헤드를 강조합니다.
  • H100 GPU 는 특히 더 깊은 회로 깊이 ($p=100$) 에서 A100 보다 훨씬 뛰어난 성능을 발휘했습니다.

• Helios-1 벤치마킹 결과:

  • 40~48 큐비트 (노이즈 허용 영역): Helios-1 샘플은 무노이즈 JUPITER 시뮬레이션과 통계적으로 구별되지 않았으며, 무작위 샘플링과는 명확하게 분리되었습니다. 이는 장치가 알고리즘 신호에 비해 누적 노이즈가 무시할 수 있는 노이즈 허용 영역에서 작동함을 확인시켜 줍니다.
  • 49~93 큐비트 (전환/일관성 영역): 고전적 검증 범위를 초과하는 크기에서도 QPU 는 93 개 큐비트 (12,834 개의 2-큐비트 게이트) 까지 무작위 샘플링과 통계적으로 유의미한 분리를 유지했습니다.
  • 95~98 큐비트 (무작위 영역): 95 개 및 98 개 큐비트에서 출력물은 $3\sigma$ 무작위 임계값 아래로 떨어졌으며, 무작위 샘플링과 통계적으로 구별할 수 없게 되었습니다. 이는 특정 벤치마크에 대한 현재 장치 일관성의 실질적 한계를 나타냅니다.

• 이전 세대와의 비교:

  • Helios-1 은 이전 세대인 H2-1 프로세서와 비교하거나 더 높은 근사 비율을 달성했으며, 이는 훨씬 적은 샷 수 (10 대 50) 를 사용했음에도 하드웨어 개선이 있었음을 시사합니다.

5. 의의

• 계산 한계에서의 검증: 이 연구는 엑사스케일 고전적 컴퓨팅이 고전적으로 시뮬레이션 가능한 한계 (48 개 큐비트) 직전까지 양자 프로세서를 검증하는 "골드 스탠다드" 참조로 어떻게 기능할 수 있는지를 보여줍니다.
• "양자 우위" 경계 정의: Helios-1 이 무작위성으로 저하되기 전까지 93 개 큐비트까지 일관성을 유지한다는 점을 식별함으로써, 현재 트랩드 이온 기술의 운영 한계에 대한 구체적이고 정량적인 지표를 제공합니다.
• 확장 가능한 벤치마킹 프레임워크: LR-QAOA 프로토콜은 매개변수 튜닝이나 후처리가 필요하지 않은 플랫폼 중립적이고 해석 가능한 프레임워크를 제공하여, 고전적 검증을 넘어 확장되는 차세대 양자 장치를 평가하는 데 이상적입니다.
• 하드웨어 효율성 통찰: 이 연구는 차세대 하드웨어 (H100/Grace Hopper) 가 고전적 시뮬레이션과 더 효율적인 양자 자원 활용 가능성 모두에서 효율성 향상을 가져왔음을 강조합니다.

결론적으로, 본 논문은 고전적 시뮬레이션과 실험적 양자 컴퓨팅 사이의 간극을 메우며, 대규모 양자 프로세서에서 진정한 양자 일관성과 노이즈로 인한 무작위성을 구별하기 위한 엄격한 방법론을 제공합니다.