Coherence-Rate Graphs and the Trainability of Quantum Neural Networks Under Noise

유용한 양자 컴퓨터를 구축하기 위한 경쟁 속에서, 과학자들은 현재 강력하지만 불완전한 기계들을 다루고 있습니다. '노이즈가 있는 중간 규모 양자(noisy intermediate-scale quantum)' 컴퓨터라고 알려진 이 장치들은 복잡한 계산을 시도할 만큼 충분히 크지만, 주변 환경에 의해 쉽게 방해를 받을 만큼 작습니다. 이러한 기계가 데이터로부터 학습하게 만들기 위해, 연구자들은 '변분 학습(variational learning)'이라는 방법을 사용합니다. 기계가 라디오의 다이얼을 돌리듯 자신의 내부 설정을 스스로 조정하여 문제에 대한 최선의 답을 찾아가는 과정을 상상해 보십시오. 기계는 계산을 수행하고, 결과를 확인하며, 클래식 컴퓨터로부터 다이얼을 어떻게 돌려야 개선될 수 있는지 안내를 받습니다. 이 순환 과정은 기계가 학습할 때까지 반복됩니다. 그러나 이 과정은 종종 실패합니다. 계산이 더 깊어지고 복잡해짐에 따라, 기계에게 다이얼을 어떻게 조정해야 할지 알려주는 신호가 완전히 사라져 버려, 기계가 아무런 진전도 불가능한 평탄한 지형에 갇혀버리게 됩니다. 이를 '배런 플래토(barren plateau, 불모의 고원)'라고 부릅니다.

이를 피하기 위해, 과학자들은 특정 대칭성을 존중하는 회로를 설계하기 시작했습니다. 즉, 기계가 문제의 특정 부분들을 동일한 방식으로 처리하도록 강제하는 것입니다. 이러한 제한은 완벽하고 노이즈가 없는 세상에서는 학습 신호를 살아있게 유지하는 데 도움이 됩니다. 하지만 현실 세계는 완벽하지 않습니다. 연구자들을 오랫동안 괴롭혀온 질문은, 이렇게 정교하게 설계된 대칭 존중 회로가 실제로 노이즈가 있는 하드웨어에서 실행될 때 어떻게 작동하느냐는 것입니다. 과연 노이즈가 대칭이 제공하는 보호 기능을 파괴할까요? 지금까지 이를 알아내는 유일한 방법은 수천 번의 시뮬레이션을 실행하는 것이었는데, 이는 느리고 비용이 많이 들며, 종종 실패의 근본적인 이유에 대해 연구자들을 추측하게만 만들었습니다.

하산 우가일(Hassan Ugail)과 뉴턴 하워드(Newton Howard)의 새로운 연구는 다른 접근 방식을 제시합니다. 연구진은 기계가 어떻게 실패하는지 보기 위해 전체를 시뮬레이션하는 대신, 기계가 실행되기도 전에 실패를 매핑하는 방법을 개발했습니다. 그들은 '결맞음율 그래프(coherence-rate graph)'라고 부르는 도구를 만들었습니다. 이것은 본질적으로 양자 회로의 서로 다른 부분들이 노이즈에 노출되었을 때 어떻게 붕괴하거나 정보를 잃는지 보여주는 지도입니다. 이 지도의 구조를 살펴봄으로써, 연구자들은 단 한 번의 시뮬레이션도 실행하지 않고도 어떤 부분의 회로가 학습 가능성을 유지할지, 그리고 어떤 부분이 실패할지를 정확히 예측할 수 있습니다. 그들은 많은 일반적인 유형의 노이즈에 대해, 붕괴가 간단하고 예측 가능한 패턴을 따르며 이를 공식으로 써 내려갈 수 있다는 것을 발견했습니다. 이를 통해 노이즈의 '서명(signature)'을 즉시 확인할 수 있게 되었습니다.

연구팀은 시스템 내의 에너지 단위, 즉 흥분 상태(excitations)의 수를 보존하도록 설계된 특정 유형의 양자 회로에 이 방법을 테스트했습니다. 그들은 실제 장치에서 흔히 발생하는 아홉 가지 유형의 노이즈 채널을 조사했습니다. 각 채널에 대해, 그들은 정보가 얼마나 빨리 붕괴하는지를 정확히 설명하는 수학적 규칙을 도출했습니다. 그들은 일부 유형의 노이즈에 대해서는 붕괴율이 두 상태 사이의 거리에 의존하는 반면, 다른 유형에 대해서는 상태 자체의 특정 에너지 레벨에 의존한다는 것을 발견했습니다. 결정적으로, 그들은 만약 회로의 구조가 정보를 이 지도의 특정 '안전 구역' 안에 유지한다면, 노이즈가 아무리 강하더라도 학습 신호가 완벽하게 온전하게 유지된다는 것을 증명했습니다. 이 보호 기능은 근사치가 아니라 정확한 사실입니다.

그러나 연구진은 노이즈를 바라보는 기존의 관점에 도전하는 놀랍고도 직관에 어긋나는 사실을 밝혀냈습니다. 오랫동안 학계에서는 개별 양자 연산 수준에서의 노이즈가 작다면, 학습 과정에 미치는 전체적인 영향 또한 작고 예측 가능할 것이라고 가정해 왔습니다. 새로운 연구는 이것이 사실이 아님을 보여줍니다. 연구진은 개별 수준의 노이즈는 아주 미미했음에도 불구하고, 전체 학습 신호는 엄청나게 저하되는—때로는 개별 노이즈 수준보다 10배 이상 더 나쁜—경우를 발견했습니다. 그들은 단일 구성 요소의 노이즈만을 보고는 전체 시스템의 건강 상태를 예측할 수 없음을 입증했습니다. 노이즈가 회로의 구조와 상호작용하는 방식은 단순한 측정으로는 결코 드러낼 수 없는 방식으로 피해를 증폭시킬 수 있습니다.

연구 결과의 신뢰성을 확보하기 위해, 팀은 표준적인 통계적 추측에 의존하지 않았습니다. 그들은 '결정론적 벤치마크(deterministic benchmark)', 즉 정밀한 계산을 통해 골드 스탠다드 역할을 하는 기준을 구축했습니다. 그들은 이를 사용하여 실제 회로의 동작과 자신들의 예측을 비교 검증했습니다. 6개의 레이어로 구성된 회로를 대상으로 한 특정 테스트에서, 적은 양의 데이터에 기반한 그들의 초기 예측은 상당한 오차를 보였습니다. 이를 엄격한 벤치마크와 비교했을 때, 예측치가 붕괴 정도를 과소평가했다는 사실을 발견했습니다. 이는 깊은 양자 회로를 다룰 때 작은 표본이나 단순한 평균에 의존하는 것이 얼마나 위험한지를 강조했습니다. 엄격한 벤치마크는 노이즈가 초기 추정치보다 실제로 더 해롭다는 것을 확인해주었으며, 그들의 새로운 접근 방식이 왜 더 엄격해야 하는지를 입로써 입증했습니다.

또한 이 연구는 왜 어떤 회로는 성공하고 어떤 회로는 실패하는지를 명확히 했습니다. 그들은 단순히 각 단계에서 노이즈가 약한지 확인하는 것만으로는 충분하지 않다는 것을 보여주었습니다. 회로는 각 단계에서는 안전해 보일 수 있지만, 모든 단계가 결합되었을 때는 실패할 수 있습니다. 그들은 회로가 첫 번째 단계와 두 번째 단계에서 각각 노이즈로부터 보호받았으나, 두 단계가 동시에 노이즈를 가질 때 보호 기능이 무너지는 구체적인 사례를 제시했습니다. 이는 양자 컴퓨터의 안전성을 개별 부품을 조사하는 것만으로는 보장할 수 없으며, 전체 시스템을 하나의 연결된 네트워크로 보아야 함을 의미합니다. 그들의 새로운 그래프 기반 방법은 이러한 연결성을 고려함으로써, 노이즈가 기계 속에서 어떻게 이동하는지에 대한 전체적인 그림을 볼 수 있게 해줍니다.

이 연구의 함의는 매우 큽니다. 연구진은 과학자들이 값비싼 하드웨어를 실제로 실행하기 전에 양자 회로의 학습 가능성을 감사(audit)할 수 있는 도구 세트를 제공했습니다. 회로의 연결성을 노이즈 맵과 대조함으로써, 어떤 파라미터가 안전하고 어떤 것이 실패할 운명인지 식별할 수 있습니다. 이는 시간과 자원을 절약하며, 시뮬레이션 노력이 정말 필요한 경우에만 집중할 수 있게 합니다. 나아가, 연산자 수준의 노이즈 측정이 얼마나 위험하게 오도될 수 있는지를 입증함으로써, 본 연구는 단순한 지표로 알고리즘의 건전성을 판단하는 것에 대해 경고합니다. 그들이 제안하는 앞으로의 방향은 노이즈가 충분히 약하기를 바라는 것이 아니라, 구조적 맵을 사용하여 본질적으로 견고한 회로를 설계하는 것입니다.

결국, 이 작업은 양자 학습의 취약성을 이해하는 방식을 변화시킵니다. 논의의 중심을 "얼마나 많은 노이즈를 견딜 수 있는가?"에서 "노이즈가 실제로 어디를 해치는가?"로 옮겨 놓았습니다. 붕괴율을 매핑하고 보호가 유지되는 지점을 정확히 증명함으로써, 연구진은 모호한 노이즈에 대한 공포를 정밀하고 해결 가능한 공학적 문제로 바꾸어 놓았습니다. 그들은 노이즈가 강력한 장애물이긴 하지만, 무질서한 것은 아니라는 점을 보여주었습니다. 노이즈는 명확한 서명을 남기며, 올바른 지도만 있다면 우리는 그것을 피해 갈 수 있습니다. 이 연구는 노이즈 문제를 완전히 해결했다고 주장하는 것이 아니라, 가장 먼저 신뢰할 수 있는 방식으로 지형을 명확히 파악하는 법을 제시함으로써, 실제로 학습할 수 있는 양자 기계를 구축하기 위한 실질적인 가이드를 제공하고 있습니다.