A Case Study on Noise Resilient Operator Selection in Adaptive Variational Quantum Algorithms

스마트폰의 재료부터 우리를 치유하는 약물에 이르기까지 우리 주변 세계의 화학을 이해하기 위해서, 과학자들은 먼저 전자들이 분자 내에서 어떻게 배열되는지를 이해해야 합니다. 이러한 전자들의 가장 안정적인 배열을 '바닥 상태(ground state)'라고 부르며, 이를 찾는 것은 조각들이 끊임없이 움직이는 복잡한 퍼즐을 푸는 것과 같습니다. 수십 년 동안 고전 컴퓨터는 이 과제를 수행하는 데 어려움을 겪어 왔습니다. 가능한 배열의 수가 너무 빠르게 증가하여 가장 강력한 슈퍼컴퓨터조차 아주 단순한 분자 외에는 따라잡을 수 없기 때문입니다. 양자 컴퓨터는 다른 길을 제시합니다. 모든 가능성을 하나씩 계산하려고 노력하는 대신, 양자 역학의 기묘한 규칙을 사용하여 많은 가능성을 동시에 탐색합니다. 이 기계들을 사용하는 가장 유망한 방법 중 하나는 변분 양자 고유값 솔버(variational quantum eigensolver)라고 불리는 방법으로, 이는 일종의 유도된 탐색처럼 작동하며 최저 에너지 상태를 찾을 때까지 추측을 천천히 정교화합니다. 하지만 오늘날의 양자 컴퓨터는 여전히 초기 단계에 있습니다. 즉, '노이즈(noise)'가 많다는 것인데, 이는 구성 요소들이 빈번하고 미세한 실수를 저질러 전체 계산을 망칠 수 있음을 의미합니다.

ADAPT-VQE로 알려진 이 탐색 방법의 특정 버전은 해결책을 단계별로 구축하며 진행 과정에서 가장 도움이 되는 조각들을 선택하기 때문에 주목을 받아왔습니다. 이러한 적응성은 기존 방법보다 효율적이지만, 새로운 취약점 또한 도입합니다. 바로 컴퓨터가 다음에 추가할 조각을 결정하는 단계입니다. 만약 기계의 노이즈가 그 결정을 내리는 데 사용되는 신호를 왜곡하면, 알고리즘은 잘못된 조각을 선택하여 막다른 길로 빠질 수 있습니다. 연구자 소랴 하라부(Soorya Haravu), 마팔다 라모아(Mafalda Ramôa), 그리고 바라트 삼바시밤(Bharath Sambasivam)은 정확히 이 노이즈가 그 결정적인 의사 결정 과정에 어떤 영향을 미치는지 조사하기 위해 나섰습니다. 그들은 이 연구를 위해 물리적인 양자 컴퓨터를 제작한 것이 아니라, 실제 양자 장치가 다양한 유형의 노이즈 하에서 어떻게 작동할지를 모방하기 위해 고전 컴퓨터 상에서 매우 상세한 시뮬레이션을 구현했습니다. 그들의 테스트 케이스는 일직선으로 배열된 세 개의 수소 원자로 구성된 단순한 분자였으며, 이는 정확하게 시뮬레이션할 수 있을 만큼 작으면서도 오류의 미묘한 효과를 드러낼 수 있을 만큼 복잡한 시스템이었습니다.

연구팀은 실제 양자 하드웨어를 괴롭히는 두 가지 광범위한 노이즈 범주를 시뮬레이션했습니다. 첫 번째 유형인 '비결맞춤 노이즈(incoherent noise)'는 라디오 선의 잡음과 같습니다. 이는 무작위적이고 예측 불가능하며, 시스템이 되돌리기 어려운 방식으로 정보를 잃게 만듭니다. 두 번째 유형인 '결맞춤 노이즈(coherent noise)'는 나침반의 일관되고 미세한 어긋남과 같습니다. 기계가 항상 같은 방향으로 똑같은 작은 실수를 저지르는 것이며, 이러한 오류는 서로 쌓여가기 때문에 똑같이 치명적일 수 있습니다. 시뮬레이션에서 연구진은 알고리즘이 잠재적인 새로운 조각이 해결책을 얼마나 개선할지를 알려주는 값인 '그레이디언트(gradient)'를 측정하는 순간에 이러한 오류를 주입했습니다. 그들은 아주 적은 양의 노이즈라도 이러한 측정을 왜곡하여 선택의 지형을 평평하고 혼란스럽게 만들 수 있다는 것을 발견했습니다. 지형이 평평해지면 알고리즘은 방향 감각을 잃습니다. 알고리즘은 더 나은 새로운 조각을 찾는 것을 멈추고 대신 똑같은 것들을 계속해서 반복적으로 선택하게 되어, 올바른 답에 도달하기도 전에 사실상 갇혀버리게 됩니다.

이를 극복하기 위해 연구진은 추가적인 하드웨어 없이 신호를 정화하기 위해 설계된 세 가지 전략을 테스트했습니다. 첫 번째인 '동적 디커플링(dynamical decoupling)'은 노이즈 캔슬링 헤드폰이 배경 소음을 제거하기 위해 음파를 사용하는 것과 유사하게, 시스템에 일련의 빠른 제어 펄스를 가하여 노이즈를 상쇄하는 방식입니다. 두 번째인 '제로 노이즈 외삽(zero noise extrapolation)'은 의도적으로 노이즈를 통제된 방식으로 악화시킨 후 결과를 측정하고, 수학을 사용하여 노이즈가 전혀 없었을 때의 답을 추측하는 방식입니다. 세 번째인 '파울리 트월링(Pauli twirling)'은 노이즈를 무작위하게 만들어 관리하기 쉽게 만드는 기술입니다. 연구팀은 단일 방법이 모든 상황에 작동하지 않는다는 것을 발견했습니다. 무작위적인 잡음 형태의 노이즈에 대해서는 빠른 제어 펄스와 노이즈 외삽 기술을 결래하는 것이 가장 효과적인 접근법이었습니다. 이 결합은 알고리즘이 올바른 경로를 볼 수 있는 능력을 성공적으로 복원하여, 올바른 조각들을 선택하고 화학적으로 정확한 해결책에 도달할 수 있게 해주었습니다.

일관된 어긋남 유형의 노이즈를 다룰 때는 다른 조합이 필요하다는 것을 연구진은 발견했습니다. 그들은 노이즈를 먼저 무작위화한 다음, 빠른 펄스나 외삽법 중 하나를 적용하는 것이 성공의 열쇠라는 것을 알아냈습니다. 실제로 세 가지 기술을 모두 함께 사용하는 것이 이러한 유형의 오류에 대해 가장 강력한 보호를 제공했습니다. 연구의 중요한 발견 중 하나는 알고리즘이 성공하기 위해 매 단계마다 반드시 '최고의' 조각을 선택할 필요는 없다는 점이었습니다. 노이즈 완화 기술이 알고리즘을 계속 전진하게 하고 막히지 않게만 해준다면, 비록 그 과정이 완벽한 기계가 취했을 경로와 다르게 보이더라도 여전히 올바른 최종 답에 도달할 수 있습니다. 그러나 연구진은 남겨진 과제 또한 언급했습니다. 이러한 기술들이 알고리즘이 정답을 찾는 데 도움을 주긴 하지만, 종종 노이즈 신호를 실제보다 더 크게 보이게 만들어 컴퓨터의 표준적인 종료 규칙을 혼란스럽게 할 수 있다는 점입니다. 이는 이러한 알고리즘이 가까운 미래에 실제 기기에서 안정적으로 작동하려면, 계산이 언제 끝나는지를 결정하는 규칙이 노이즈의 존재를 고려하여 다시 작성되어야 할 수도 있음을 시사합니다.

이 연구는 노이즈가 큰 장애물이기는 하지만, 극복 불가능한 것은 아니라고 결론짓습니다. 어떤 오류 수정 도구를 사용할지, 그리고 그것들을 어떻게 조합할지를 신중하게 선택함으로써, 적응형 양자 알고리즘을 오늘날의 하드웨어 속 혼돈 속에서도 안내할 수 있습니다. 연구진은 적절한 기술의 조합을 통해 양자 컴퓨터가 불완전한 환경에서도 여전히 올바른 분자 구조를 구축하는 법을 배울 수 있음을 입증했습니다. 이 연구는 과학자와 엔지니어들이 실제 양자 장치에서 이러한 복잡한 화학 시뮬레이션을 실행할 준비를 하는 데 있어 실질적인 로드맵을 제공하며, 유용한 양자 화학으로 가는 길이 노이즈에 의해 막힌 것이 아니라, 오히려 노이즈를 항해하는 더 정교한 방법이 필요함을 보여줍니다.