양자 컴퓨터는 오늘날의 기계로는 불가능한 문제들을 해결할 것을 약속하지만, 매우 취약하기로 악명이 높습니다. 큐비트라고 불리는 정보를 운반하는 아주 작은 입자들은 주변 환경에 의해 쉽게 방해를 받으며, 이는 계산을 망칠 수 있는 오류를 일으킵니다. 이러한 기계들을 유용하게 만들기 위해 과학자들은 먼저 이들이 정확히 어떻게 작동하는지 이해해야 합니다. 이를 위해서는 '특성 분석(characterization)'이라 불리는 과정이 필요합니다. 이는 기계의 출력을 측정하고 역으로 추적하여 내부에서 어떤 일이 일어나고 있는지 알아내는 과정입니다. 이것은 마치 시계의 바늘만을 보고 복잡한 시계의 내부 작동 원리를 이해하려는 것과 비슷하지만, 한 가지 반전이 있습니다. 양자 세계에서는 시계의 톱니바퀴를 역설계하는 데 필요한 수학이 너무나 압도적으로 복잡해져서, 아주 작은 장치 외에는 무엇을 위해서도 문제를 해결하는 것이 사실상 불가능합니다. 이러한 기계들이 수백 개의 큐비트로 성장함에 따라, 기계의 동작을 파악하기 위한 전통적인 방법들은 벽에 부딪히게 되며, 연구자들은 강력한 하드웨어를 가지고 있으면서도 이를 완전히 신뢰하거나 조정하지 못하는 상황에 놓이게 됩니다.

한 연구팀은 이 벽을 뚫을 수 있는 새로운 방법을 개발하여, 한때 계산적으로 불가능했던 문제를 관리 가능한 과제로 바꾸어 놓았습니다. 복잡한 수학 방정식을 직접 풀려고 노력하는 대신, 그들은 컴퓨터가 수백만 개의 시뮬레이션 사례를 관찰함으로써 양자 기계의 설정과 그 결과 사이의 관계를 학습하도록 가르쳤습니다. '시뮬레이션 기반 추론(simulation-based inference)'이라고 부르는 이 접근 방식은, 실재하는 양자 컴퓨터가 생성하는 모든 측정값의 숨겨진 원인을 즉각적으로 추측할 수 있는 디지털 모델을 구축할 수 있게 해줍니다. 연구진은 이 방법을 최대 81개의 큐비트를 가진 시스템에 적용하여 노이즈 패턴을 성공적으로 식별하고, 오류를 수정하며, 심지어 시뮬레이션된 양자 시뮬레이터 내 원자들의 물리적 위치까지 매핑하는 데 성공했습니다. 빠른 고전 슈퍼컴퓨터가 생성한 데이터로 신경망을 훈련시킴으로써, 그들은 단 한 단계만으로 양자 장치를 분석하고, 단순한 최선의 추측뿐만 아니라 그 추측에 대한 확신 정도까지 명확하게 보여주는 도구를 만들어냈습니다.

이 새로운 방법의 핵심은 두 종류의 컴퓨터 프로그램 간의 영리한 역할 분담에 달려 있습니다. 첫 번째는 시뮬레이터로, 특정 조건 하에서 양자 시스템이 어떻게 작동해야 하는지를 모사하는 프로그램입니다. 실제 양자 시스템을 시뮬레이션하는 것은 어렵지만, 연구진은 많은 실용적인 경우에 빠르고 방대한 양의 훈련 데이터를 생성하기 위해 단순화된 고전 알고리즘을 사용할 수 있다는 것을 발견했습니다. 그들은 이 데이터를 신경망으로 설계된 두 번째 프로그램에 입력했습니다. 이 네트워크는 시뮬레이터의 출력을 보고 그것을 유발한 설정을 즉시 예측하도록 훈련되었습니다. 일단 훈련되면, 이 네트워크는 '만능 번역기' 역할을 합니다. 실제 양자 컴퓨터가 측정을 생성하면, 네트워크는 그 데이터를 기계 내부에서 일어나고 있을 가능성이 높은 확률 지도로 즉시 변환할 수 있습니다. 이는 매 실험마다 느리고 복잡한 계산을 수행해야 하는 필요성을 없애주며, 몇 시간 또는 며칠이 걸리던 작업을 단 몇 초 만에 해결하는 것으로 바꾸어 놓았습니다.

연구진은 이 프레임워크를 네 가지 서로 다른 과제에 적용하여, 다양한 유형의 양자 문제에 대한 범용성을 입증했습니다. 첫째, 그들은 50큐비트 시스템의 노이즈를 학습하는 데 이 방법을 사용했습니다. 양자 컴퓨팅에서 노이즈란 계산에 스며드는 무작위 오류를 의미합니다. 연구팀은 수백 개의 서로 다른 게이트(양자 회로의 구성 요소)에 대한 이러한 오류의 구체적인 확률을 성공적으로 식별했습니다. 그들은 일부 오류 원인은 찾아내기 쉬운 반면, 다른 원인들은 서로 연결되어 있어 분리하는 것이 불가능하다는 것을 발견했습니다. 결정적으로, 그들의 방법은 이러한 '식별 불가능한' 파라미터들을 자동으로 식별해 냈으며, 이를 통해 연구자들에게 측정값이 불충분한 지점과 어디를 더 자세히 살펴봐야 하는지를 정확히 보여주었습니다. 무엇을 알 수 있고 무엇을 알 수 없는지를 구분하는 이 능력은 미래의 실험을 개선하기 위한 필수적인 진단 도구입니다.

다음으로, 연구팀은 학습된 노이즈 모델을 사용하여 실시간으로 오류를 수정하는 데 적용했습니다. 양자 오류 완화(quantum error mitigation)는 완벽한 하드웨어 없이도 노이즈가 섞인 데이터를 정화하는 데 사용되는 기술입니다. 신경망의 노이즈 이해도를 표준 교정 프로토콜에 입력함으로써, 그들은 노이즈가 있는 시뮬레이션으로부터 정확한 결과를 회복할 수 있었습니다. 상호작용하는 원자 사슬을 포함한 한 테스트에서, 그들의 방법은 기존 기술에 비해 오류를 절반 이상 줄였으며, 이전에 본 적 없는 깊이의 회로에 대해서도 정확하게 결과를 예측하며 지속적으로 작동했습니다. 이는 모델이 단순히 특정 사례를 암기한 것이 아니라 오류의 근본적인 물리학을 학습했음을 시사하며, 이를 통해 새로운 상황에서도 일반화될 수 있음을 보여줍니다.

또한, 이 프레임워크는 시스템의 전체 양자 상태를 재구성하는 데 사용되는 과정인 양자 상태 토모그래피(quantum state tomography)에서도 효과적임을 입증했습니다. 보통 이 과정은 시스템을 여러 번 측정하고 각 새로운 상태에 대해 무거운 계산을 수행해야 합니다. 연구진은 광범위한 시뮬레이션 상태를 바탕으로 신경망을 훈련시켰으며, 그 결과 새로운 미지의 상태를 매우 높은 정확도로 재구성할 수 있음을 발견했습니다. 12큐비트 시스템 테스트에서 네트워크는 99% 이상의 충실도(fidelity), 즉 정확도로 상태를 재구성했습니다. 이는 이 방법이 매 실험마다 시스템을 다시 훈련시킬 필요 없이, 양자 상태의 품질을 점검하기 위한 재사용 가능한 도구로 기능할 수 있음을 의미하며, 대규모 기계를 위한 양자 진단을 실용화하는 데 중요한 단계입니다.

마지막으로, 연구팀은 양자 시스템을 지배하는 정확한 힘과 상호작용을 파악하는 해밀토니안 학습(Hamiltonian learning) 문제를 다루었습니다. 그들은 시뮬레이션된 81개 원자 배열에 이 방법을 적용하였는데, 여기서 목표는 이웃과의 상호작용 방식을 바탕으로 각 원자의 정밀한 물리적 위치를 결정하는 것이었습니다. 불과 몇 나노미터의 미세한 변위에도 불구하고, 신경망은 놀라운 정밀도로 원자의 위치를 추론해 낼 수 있었습니다. 결과는 높은 상관관계와 함께 실제 값과 일치했으며, 네트워크의 불확실성 추정치는 데이터가 불분명한 몇몇 영역을 정확하게 짚어냈습니다. 이러한 능력은 물리적 원자 배치가 기계의 전체적인 거동을 결정하는 미래의 양자 시뮬레이터를 보정하는 데 매우 중요할 수 있습니다.

이 연구의 성공은 연구진이 불가능한 수학을 직접 풀려고 하지 않았다는 사실에 기반합니다. 대신, 그들은 모든 새로운 상황에 대해 답을 계산할 수는 없다는 점을 받아들였습니다. 방대한 양의 시뮬레이션 데이터로 모델을 훈련시키는 데 사전 투자를 함으로써, 그들은 매우 빠르고 재사용 가능한 시스템을 만들어 냈습니다. 이 방법이 작동하는 이유는 많은 양자 시스템이 비록 크더라도 고전 컴퓨터가 여전히 효율적으로 시뮬레이션할 수 있는 구조를 가지고 있다는 점을 활용했기 때문입니다. 이러한 효율적인 시뮬레이터와 강력한 신경망을 결합함으로써, 연구진은 고전 세계와 양자 세계 사이의 가교를 만들었습니다. 이 접근 방식은 물리적 실험의 필요성을 대체하는 것이 아니라, 실험을 바라보는 강력한 렌즈를 제공하여 가공되지 않은 데이터를 양자 세계에 대한 실행 가능한 통찰력으로 전환해 줍니다.

이 작업의 영향은 단지 이러한 특정 테스트들에만 국한되지 않습니다. 연구진은 이 방법이 센서 보정이나 피드백 제어 설계와 같은 많은 다른 양자 과학 문제에도 적용될 수 있을 만큼 일반적이라고 언급합니다. 현재 결과는 시뮬레이션에 기반하고 있지만, 프레임워크는 실제 실험 데이터와도 작동하도록 설계되었습니다. 주요 한계점은 훈련 데이터를 시뮬레이션하는 능력에 달려 있습니다. 만약 시스템이 최고의 고전 시뮬레이터조차 감당할 수 없을 정도로 복잡해진다면, 이 방법 또한 적응해야 할 것입니다. 그러나 현재 접근 가능한 광범위한 양자 시스템에 있어서, 이 기술은 실질적인 경로를 제시합니다. 이는 양자 장치의 특성 분석을 느리고 맞춤 제작된 과정에서 스트림라인화되고 자동화된 역량으로 변화시켜, 우리가 양자 컴퓨터를 믿고 실생활 응용 분야에 신뢰하며 사용할 수 있는 날에 한 걸음 더 다가가게 합니다.