Band structure of two-dimensional graphene and of one-dimensional nanoribbons via variational quantum algorithms: from energies to wavefunction quality

재료 과학의 세계는 현재 심오한 난제에 직면해 있다: 전자들이 빽빽하게 모여 있고 서로 격렬하게 상호작용할 때 그들의 행동을 어떻게 이해할 것인가 하는 문제이다. 일반적인 금속이나 반도체에서 전자들은 차분하고 질서 정연한 군중처럼 움직이며, 그들의 행동은 잘 확립된 규칙들로 예측될 수 있다. 하지만 특정 첨단 재료들 내에서 전자들은 서로를 매우 강하게 밀고 당기며, 이를 통해 저항 없이 전기를 전도하는 초전도체나 절연체에서 도체로 전환되는 재료와 같은 완전히 새로운 물질 상태를 만들어낸다. 이러한 현상을 이해하기 위해 과학자들은 수십억 개의 입자가 펼치는 집단적인 춤을 설명하는 복잡한 방정식들을 풀어야 한다. 이를 일반적인 컴퓨터로 수행하는 것은 종종 불가능한데, 가능성의 수가 너무 빠르게 증가하여 가장 강력한 슈퍼컴퓨터조차 메모리 부족에 직면하기 때문이다. 여기서 양자 컴퓨터가 이야기 속으로 등장한다. 정보를 단순한 온-오프 스위치로 처리하는 고전적 기계와 달리, 양자 컴퓨터는 물리학 법칙을 사용하여 전자의 행동을 자연스럽게 모방하는 방식으로 정보를 저장한다. 그러나 오늘날 사용 가능한 양자 컴퓨터는 여전히 초기 단계의 노이즈가 많은 상태이다. 이 기계들은 열, 진동, 간섭로 인해 발생하는 오류에 취약하며, 이는 계산이 완료되기도 전에 섬세한 계산 과정을 뒤섞어 놓을 수 있다.

이러한 맥락에서, 스페인 대학 연구진은 이 기계들을 실제 재료 과학 분야에 유용하게 만들기 위한 중요한 발걸음을 내디뎠다. 그들은 탄소 원자들이 벌집 모양 패턴으로 배열된 단일 층의 탄소 구조인 그래핀에 연구 역량을 집중했다. 그래핀 자체는 전자 간의 상호작용이 강하지 않은 단순한 재료이지만, 완벽한 테스트 베드 역할을 한다. 연구진은 노이즈가 있는 양자 컴퓨터를 사용하여 두 가지 형태, 즉 평평한 2차원 시트와 나노리본이라 불리는 좁은 1차원 띠 형태의 그래핀의 에너지 준위, 즉 "밴드 구조"를 정확하게 그려낼 수 있는지 확인하고자 했다. 이 띠들은 들쭉날쭉한 가장자리나 매끄럽고 직선적인 가장자리를 가질 수 있으며, 가장자리의 모양은 전자의 이동 방식에 변화를 준다. 이러한 비상호작용 시스템을 성공적으로 시뮬레이션함으로써, 연구진은 자신들의 방법론이 훨씬 더 복잡하고 상호작용하는 재료들에 대한 미래 연구를 위한 신뢰할 수 있는 토대가 될 수 있음을 증명하고자 했다.

연구진은 평평한 시트와 좁은 띠 모두를 다루기 위해 단일하고 유연한 워크플로우를 개발했다. 그들은 먼저 그래핀 내 전자들의 수학적 설명을 양자 컴퓨터가 이해할 수 있는 언어로 번ano, 즉 문제를 큐비트(qubit) 상의 일련의 연산으로 변환하며 시작했다. 시스템의 최저 에너지 상태를 찾기 위해 그들은 변분 양자 고유값 솔버(Variational Quantum Eigensolver)라고 불리는 방법을 사용했다. 이 접근법은 가이드된 탐색과 같이 작동한다: 양자 컴퓨터가 시도 상태(trial state)를 준비하고 에너지를 측정하면, 고전 컴퓨터가 설정을 조정하여 더 낮은 에너지를 찾도록 유도한다. 그들은 가장 안정적인 구성을 찾을 때까지 이 과정을 반복하며 설정을 정교화했다. 더 높은 에너지 상태를 찾기 위해 그들은 변분 양자 삭퇴법(Variational Quantum Deflation)이라는 기술을 사용했는데, 이는 컴퓨터가 이미 발견한 상태를 다시 찾으려고 할 경우 탐색에 페널티를 부여하여 다음 단계의 상태를 찾도록 강제하는 방식이다.

연구진은 결과의 신뢰성을 확보하기 위해 세 가지 방식으로 방법을 테스트했다. 첫째, 이상적인 결과를 확인하기 위해 노이즈가 없는 완벽한 시뮬레이션에서 전체 과정을 실행했다. 둘째, 현재의 양자 하드웨어에서 발견되는 오류 모델을 포함한 컴퓨터로 과정을 시뮬레이션했다. 마지막으로, IBM이 제공하는 실제 양자 프로세서에서 계산을 수행했다. 완벽한 시뮬레이션의 결과는 알려진 정확한 답과 거의 일치했으며, 이는 그들의 수학적 번역과 알고리즘이 올바르다는 것을 증명했다. 시뮬레이션에 노이즈를 도입했을 때, 계산된 에너지 값들이 약간 벗어나기는 했지만, 에너지 밴드의 전체적인 형태는 명확하고 정확하게 유지되었다. 편차는 원자가 사이를 도약하는 방식을 설명하는 데 사용되는 에너지 단위의 수백 분의 일 수준으로 매우 작았다.

연구진이 실제 하드웨어로 옮겨갔을 때, 가장 단순한 사례에 대한 결과는 노이즈 시뮬레이션이 시사했던 것보다 훨씬 더 고무적이었다. 단 하나의 큐비트만을 필요로 하는 평평한 2차원 그래핀 시트의 경우, 장치는 이론적 예측과 놀라울 정도로 정밀하게 일치하는 결과를 생성했다. 오차는 너무 작아서 하드웨어 자체보다는 제한된 횟수의 측정을 수행함에 따라 발생하는 통계적 노이즈에 의해 지배되었다. 이는 단순한 시스템에 대해 현재의 양자 기계들이 이미 고품질의 데이터를 생성할 능력이 있음을 보여주는 결정적인 발견이었다. 그러나 더 많은 큐비트와 복잡한 회로를 요구하는 1차원 나노리본을 살펴볼 때는 이야기가 약간 달라졌다. 여기서 실제 장치들은 노이즈 모델이 예측했던 것보다 약간 더 큰 오차를 나타냈다. 연구진은 이러한 오류가 무작위적인 것이 아니라, 에너지 값들을 스펙트럼의 중앙으로 밀어내는 체계적인 오류임을 발견했다. 이는 하드웨어가 그들의 시뮬레이션 모델에는 완전히 포착되지 않은 인접 큐비트 간의 간섭과 같은 특정한 유형의 오류를 유발하고 있음을 나타냈다.

이 연구의 핵심적인 발견 중 하나는 시스템의 크기가 커짐에 따라 방법론의 정확도가 어떻게 변화하는가 하는 점이었다. 연구진은 나노리본이 넓어짐에 따라 이를 설명하는 데 필요한 큐비트의 수가 매우 느리게 증가한다는 것을 발견했는데, 이는 향후 응용 분야에 있어 매우 유리한 확장성이다. 그러나 또한 정확도에 대한 한계도 발견했다. 만약 오류를 피하기 위해 양자 회로를 단순하고 얕게 유지한다면, 작은 시스템에서는 결과가 좋았으나 시스템이 커질수록 정확도가 떨어졌다. 반대로, 더 많은 세부 사항을 포착하기 위해 회로를 더 깊고 복잡하게 만들면, 노이즈가 있는 하드웨어에서의 결과는 오히려 악화되었다. 추가된 깊이가 오류가 축적될 수 있는 더 많은 기회를 제공하여, 복잡성을 더함으로써 얻는 이점을 상쇄해 버린 것이다. 이는 오늘날의 기계에서는 물리적으로 허용되는 가장 강력한 회로를 구축하려 하기보다, 문제가 허용하는 범위 내에서 가장 얕은 회로를 사용하는 것이 최선의 전략임을 입증했다.

연구의 가장 통찰력 있는 부분은 아마도 연구진이 단순히 에너지 수치뿐만 아니라 양자 상태 자체의 품질을 어떻게 확인했는가 하는 점일 것이다. 그들은 컴퓨터가 물리적 상태의 올바른 그룹에 실제로 속하지 않더라도 우연히 올바른 에너지 값을 찾을 수도 있다는 점을 깨달았다. 이를 포착하기 위해 그들은 계산된 상태가 실제 물리적 상태 그룹에 얼마나 속해 있는지를 측정하는 진단 도구를 사용했다. 완벽한 시뮬레이션에서 이 검사는 컴퓨터가 올바른 상태를 찾고 있음을 확인해주었다. 그러나 노이즈가 있는 환경에서 그들은 미묘한 실패 모드를 발견했다: 때때로 컴퓨터가 에너지 레벨을 건너뛰고 잘못된 레벨에 안착함에도 불구하고, 에너지 값 자체는 여전히 그럴듯해 보일 수 있다는 점이다. 상태를 직접 확인함으로써, 그들은 계산이 실패했음을 알 수 있었으며, 이는 에너지 값만 관찰해서는 숨겨졌을 실수였다. 이 진단 도구는 특히 계산된 상태가 에너지적으로 매우 가까운 상태 그룹들과 충돌할 때 유용했는데, 이는 이러한 재료들에서 흔히 나타나는 특징이다.

이 연구는 현재의 양자 컴퓨터가 아직 재료 과학의 가장 어려운 문제들을 독자적으로 해결할 만큼 강력하지는 않지만, 통제 가능하고 신뢰할 수 있는 출발점으로서 역할을 할 준비가 되어 있다고 결론짓는다. 연구진은 그래핀 시스템의 에너지 지형을 정확하게 매핑할 수 있음을 입증하였으며, 이는 기준 상태(reference states)를 제공한다. 이러한 기준 상태들은 향후 초전도체 및 기타 이색적인 재료에서 발견되는 복잡한 상호작용 전자들을 다루게 될 더 고급 알고리즘에 필수적이다. 자신들의 워크플로우가 이상적인 시뮬레이션부터 실제 하드웨어에 이르기까지 작동함을 증명하고, 발생하는 오류를 진단하고 이해하는 방법을 보여줌으로써, 연구팀은 명확한 앞길을 제시했다. 그들은 양자 컴퓨팅의 노이즈가 많은 시대에도, 정확히 무엇을 찾아야 하는지, 그리고 기계가 우리에게 말하는 바를 어떻게 해석해야 하는지 알고 있다면 물리 세계에 대한 의미 있고 고품질의 정보를 추출하는 것이 가능하다는 것을 보여주었다.