Integrated error-suppressed pipeline for quantum optimization of nontrivial binary combinatorial optimization problems on gate-model hardware at the 156-qubit scale

이 논문은 156 큐비트 규모의 게이트 모델 양자 컴퓨터에서 표준 회로 실행만으로는 무작위 샘플링과 구별되지 않는 비자명한 이진 최적화 문제를 해결하기 위해, 맞춤형 변형 안사츠와 오류 억제 파이프라인을 통합한 하이브리드 양자 - 고전적 최적화 방법을 제안하고 IBM 하드웨어에서 기존 고전적 솔버를 능가하는 높은 성능을 입증했습니다.

핵심

1. 문제 상황: "소음 많은 공장에서의 미션"

현재의 양자 컴퓨터 (게이트 모델) 는 아직 완벽하지 않습니다. 마치 소음이 심하고 진동이 심한 낡은 공장에서 정교한 시계를 만드는 것과 같습니다.

• 문제: 컴퓨터가 계산을 하려고 하면, 주변 환경의 잡음 (오류) 때문에 결과가 엉망이 됩니다. 연구자들은 "이 정도 크기의 문제 (156 개의 비트) 를 풀면, 그냥 무작위로 숫자를 뽑는 것과 결과가 똑같다"는 것을 발견했습니다. 즉, 양자 컴퓨터가 제 역할을 못 하고 있었습니다.
• 목표: 이 잡음을 잡아서, 실제로 의미 있는 최적의 해답을 찾아내는 것입니다.

2. 해결책: "5 단계로 이루어진 통합 튜닝 시스템"

이 연구팀은 단순히 알고리즘 하나만 고친 게 아니라, **전 과정을 연결한 하나의 통합 시스템 (파이프라인)**을 만들었습니다. 마치 레이싱 카를 위해 엔진, 서스펜션, 타이어, 그리고 운전자의 전략을 모두 최적화한 것과 같습니다.

① 맞춤형 설계도 (변형된 변분 안사츠)

• 비유: 보통 양자 컴퓨터는 "아무 생각 없이 시작" (균등 중첩 상태) 합니다. 하지만 이 연구팀은 **"시작할 때부터 약간의 힌트를 주자"**고 생각했습니다.
• 설명: 처음부터 모든 가능성을 동등하게 보지 않고, 이전 계산에서 "아까운 해답"이 보였던 방향을 살짝 더 강조하는 방식으로 시작합니다. 마치 미로를 풀 때, 막힌 길보다는 열려 있는 길로 조금 더 무게를 두는 것과 같습니다. 이렇게 하면 더 적은 단계로 정답에 도달할 수 있습니다.

② 실시간 피드백 (이중 업데이트 전략)

• 비유: 운전자가 내비게이션을 보며 "여기 막히네, 우회하자"라고 계속 수정하는 것처럼, 계산 중간중간 결과를 보고 초기 설정을 다시 조정합니다.
• 설명: 단순히 한 번 계산하고 끝내는 게 아니라, "지금까지 나온 가장 좋은 답"을 기억해두고, 다음 계산의 시작점을 그쪽으로 조금씩 당겨옵니다. 이렇게 하면 엉뚱한 길로 빠지는 것을 막을 수 있습니다.

③ 빠른 조립 (효율적인 컴파일)

• 비유: 공장에서 부품을 조립할 때, 불필요한 나사 하나도 빼고 가장 빠른 도구를 사용합니다.
• 설명: 양자 컴퓨터는 계산하는 동안 시간이 지날수록 오류가 쌓입니다. 이 연구팀은 계산을 위한 명령어 (게이트) 를 가장 짧고 빠르게 조립하는 기술을 써서, 오류가 생기기 전에 계산을 끝내도록 했습니다.

④ 잡음 제거 필터 (자동 오류 억제)

• 비유: 소음 제거 이어폰을 끼고 음악을 듣는 것과 같습니다.
• 설명: 하드웨어가 작동할 때 발생하는 잡음 (크로스토크, 위상 소실 등) 을 AI 가 실시간으로 감지하고, 이를 상쇄시키는 펄스 신호를 보냅니다. 이 기술 덕분에 IBM 양자 컴퓨터의 성능이 1,000 배 이상 향상되었다고 합니다.

⑤ 마지막 다듬기 (고전적 후처리)

• 비유: 양자 컴퓨터가 대략적인 답을 내놓으면, 사람이 마지막에 "아, 이 부분은 조금만 고치면 완벽해지네"라고 손보아주는 것입니다.
• 설명: 양자 컴퓨터가 내놓은 답에 작은 실수 (비트 플립) 가 있을 수 있습니다. 이를 고전적인 컴퓨터가 아주 빠르게 (O(n) 시간) 한 번 더 훑어보며, "이 비트만 뒤집으면 더 좋아지네?"라고 수정합니다. 이 과정은 추가적인 양자 계산 없이 순식간에 끝납니다.

---

3. 성과: "기적 같은 결과"

이 통합 시스템을 적용했을 때 어떤 일이 일어났을까요?

• 규모: 156 개의 큐비트 (양자 비트) 를 사용하는 거대한 문제를 해결했습니다. 이는 지금까지 게이트 모델 양자 컴퓨터로 풀었던 문제 중 가장 큰 규모입니다.
• 문제 유형:
  1. 최대 컷 (Max-Cut): 복잡한 네트워크에서 연결을 끊어 가장 많은 연결 고리를 만드는 문제. (예: 156 개의 노드가 있는 그래프)
  2. 스핀 글라스 (Spin Glass): 자석 입자들의 복잡한 상호작용을 분석하는 문제. (예: 127~156 개의 큐비트)
• 결과:
  • 정답률: 대부분의 문제에서 **100% 에 가까운 정답 (최적해)**을 찾았습니다.
  • 비교: 같은 문제를 다른 방식 (양자 어닐링이나 다른 양자 컴퓨터) 으로 풀었을 때보다 최대 9 배 이상 더 자주 정답을 찾아냈습니다.
  • 중요한 점: 이 모든 과정은 실제 하드웨어에서 직접 수행되었습니다. 시뮬레이션이나 미리 계산된 답을 사용하지 않고, 오직 양자 컴퓨터 스스로 학습하고 해결한 것입니다.

4. 결론: "왜 이것이 중요한가?"

이 연구는 **"잡음 많은 현재의 양자 컴퓨터로도, 충분히 복잡한 실용적인 문제를 풀 수 있다"**는 것을 증명했습니다.

• 과거의 생각: "양자 컴퓨터는 오류가 너무 많아서 쓸모없다. 완전한 오류 수정이 될 때까지 기다려야 한다."
• 이 연구의 메시지: "아직 완전하지 않아도, **적절한 튜닝 (오류 억제) 과 지능적인 전략 (하이브리드 시스템)**을 쓰면 지금 당장이라도 유용한 결과를 낼 수 있다."

마치 낡은 자동차로 경주에 나갔는데, 튜닝과 전략으로 페라리를 이겼다는 이야기와 같습니다. 이는 양자 컴퓨팅이 먼 미래의 이야기가 아니라, 지금 당장 실용화 단계로 들어설 수 있음을 보여주는 중요한 이정표입니다.

기술 요약

1. 문제 정의 (Problem)

• 배경: 양자 최적화는 물류, 금융, 네트워크 등 다양한 산업에서 중요한 조합 최적화 문제를 해결하기 위한 핵심 동력입니다. 그러나 현재의 잡음 중간 규모 양자 (NISQ) 장치는 오류가 많아 대규모 문제를 해결하는 데 한계가 있습니다.
• 현황: 기존 게이트 모델 양자 컴퓨터 (특히 초전도 큐비트) 에 적용된 양자 근사 최적화 알고리즘 (QAOA) 은 40 큐비트 수준에서도 하드웨어 네이티브 연결성이 아닌 문제 토폴로지를 다룰 때, 표준 구현 방식으로는 무작위 샘플링과 구별되지 않는 결과를 내놓는 경우가 많습니다.
• 도전 과제: 100 개 이상의 큐비트를 가진 대규모 비자명한 이진 최적화 문제 (예: Max-Cut, 고차 이진 최적화) 를 양자 하드웨어에서 정확하게 해결하면서도, 오류로 인한 성능 저하를 극복하는 통합적인 방법론이 필요했습니다.

2. 방법론 (Methodology)

저자들은 Q-CTRL 의 기술과 결합된 통합 하이브리드 양자 - 고전 최적화 파이프라인을 제안했습니다. 이 파이프라인은 다음과 같은 핵심 요소들로 구성됩니다:

• 수정된 변분 안사츠 (Modified Variational Ansatz):
  • 기존 QAOA 의 균일 중첩 상태 (Hadamard 게이트) 대신, 각 큐비트마다 개별적인 회전 각도 $\theta_j$를 가진 $R_y(\theta_j)$ 게이트로 초기 상태를 파라미터화합니다.
  • 이중 변분 파라미터 업데이트 전략: 최적화 과정에서 $\gamma, \beta$ (QAOA 계층 파라미터) 를 매 단계 최적화하는 동시에, 특정 시점에 이전 단계에서 발견된 최선의 해 (bitstring) 를 기반으로 초기 상태 파라미터 $\theta$를 업데이트하여 탐색 공간을 저비용 해 쪽으로 편향시킵니다 (Warm-start 와 유사하지만 동적으로 업데이트됨).
• 효율적인 파라메트릭 컴파일 (Efficient Parametric Compilation):
  • 실시간으로 파라미터가 변경되는 변분 회로를 위해, 펄스 레벨의 사전 보정된 게이트를 활용하여 컴파일 오버헤드를 최소화하고 게이트 수와 실행 시간을 줄였습니다.
• 하드웨어 실행 중 자동 오류 억제 (Automated Error Suppression):
  • Q-CTRL 의 오류 억제 파이프라인을 사용하여 동적 결합 (dynamical decoupling) 임베딩과 AI 기반 게이트 파형 대체 기술을 적용했습니다. 이는 크로스토크와 위상 소실을 동시에 억제하여 알고리즘 성능을 1,000 배 이상 향상시킵니다.
• 고전적 사후 처리 (Classical Post-processing):
  • 측정된 비트열에 대해 $O(n)$ 복잡도의 탐욕적 (greedy) 최적화를 수행하여 비트 플립 오류를 보정하고 해의 품질을 높입니다. 이는 추가적인 하드웨어 실행 없이 수행됩니다.
• 최적화 루프:
  • CMA-ES (공분산 행렬 적응 진화 전략) 를 사용하여 비볼록 최적화 문제를 해결하며, 목적 함수로 꼬리 위험 (CVaR) 을 사용하여 수렴 속도를 높였습니다.

3. 주요 기여 및 성과 (Key Contributions & Results)

이 연구는 IBM 의 초전도 양자 컴퓨터 (127 큐비트 'Eagle' 및 156 큐비트 'Heron' 칩) 에서 다음과 같은 성과를 거두었습니다.

• 규모의 확장: 156 큐비트 규모의 문제를 성공적으로 처리하여, 게이트 모델 양자 컴퓨터에서 온-디바이스 (on-device) 각도 최적화를 통해 최적 해를 찾은 최대 규모 기록을 세웠습니다.
• Max-Cut 문제 (무작위 정규 그래프):
  • 결과: 가중치 없는 3-정규 그래프 (최대 156 노드), 가중치 정규 그래프 (최대 80 노드), 가중치 7-정규 그래프 (최대 50 노드) 에서 **100% 근사 비율 (Approximation Ratio, AR)**을 달성했습니다.
  • 비교: 동일한 문제 인스턴스에 대해 이전 연구 (이온 트랩 장치, 32 큐비트) 나 D-Wave 양자 어닐러보다 훨씬 높은 성공 확률 (최대 9 배 이상 향상) 을 보였습니다. 특히 이온 트랩 연구는 시뮬레이션으로 최적화된 파라미터를 사용했으나, 본 연구는 완전한 하드웨어 최적화 루프를 수행했습니다.
• 고차 이진 최적화 (HUBO) 및 스핀 글래스 모델:
  • 선형, 2 차, 3 차 상호작용 항을 가진 127 및 156 큐비트 스핀 글래스 모델의 바닥 상태 에너지를 찾았습니다.
  • 결과: 모든 테스트 인스턴스에서 최소 99.5% 이상의 근사 비율을 달성했습니다. 일부 인스턴스에서는 D-Wave 어닐러가 바닥 상태를 찾지 못한 경우에도 양자 솔버가 정확한 해를 찾았습니다.
• 성능 비교:
  • 제안된 방법은 모든 문제에서 고전적 로컬 솔버 (탐욕적 알고리즘) 를 능가했습니다.
  • 동일한 문제 인스턴스에 대한 기존 공개 결과 (이온 트랩, 어닐러) 와 비교했을 때, 정답을 찾을 확률에서 9 배 (이온 트랩 대비) 및 1,500 배 이상 (어닐러 대비) 의 향상을 보였습니다.

4. 의의 및 중요성 (Significance)

• 게이트 모델의 잠재력 입증: 양자 어닐러가 조합 최적화 문제에서 항상 우세하다는 기존 통념을 깨뜨렸습니다. 적절한 엔지니어링 (오류 억제, 변분 안사츠 개선, 컴파일 최적화) 을 통해 게이트 모델 양자 컴퓨터도 비자명한 최적화 문제에서 어닐러를 능가하거나 경쟁력 있는 성능을 낼 수 있음을 증명했습니다.
• 실용적 양자 우위의 길: 오류가 있는 현재의 하드웨어에서도 대규모 문제를 해결할 수 있는 구체적인 파이프라인을 제시했습니다. 이는 고장 내성 양자 컴퓨팅 (FTQC) 시대를 기다리지 않고도 NISQ 시대에 실용적인 양자 우위를 달성할 수 있는 가능성을 보여줍니다.
• 확장성: 이 방법은 하드웨어 토폴로지에 구애받지 않고 다양한 문제 클래스 (QUBO, HUBO 등) 에 적용 가능하며, 향후 더 큰 규모의 양자 프로세서로 확장될 수 있는 청사진을 제공합니다.

결론적으로, 이 논문은 단순한 알고리즘 실험을 넘어, 오류 억제 기술과 변분 최적화 전략을 통합한 엔지니어링 접근법이 현재 양자 하드웨어의 한계를 극복하고 156 큐비트 규모의 복잡한 최적화 문제를 해결할 수 있음을 실증적으로 보여준 획기적인 연구입니다.