Evaluating the Effect of the Order of Optimization Passes in Quantum Circuit Optimization

양자 컴퓨터는 고전적인 기계가 해결하는 데 수천 년이 걸릴 문제를 해결할 가능성을 약속하며, 새로운 의약품 설계부터 복잡한 기후 시스템 모델링에 이르기까지 다양한 분야를 아우릅니다. 하지만 이 기계들은 믿을 수 없을 정도로 취약합니다. 환경으로부터 발생하는 아주 작은 방해조차도 '노이즈'라고 알려진 오류를 일으킬 수 있습니다. 이를 방지하기 위해 과학자들은 고수준의 컴퓨터 프로그램을 특정 양자 하드웨어가 실제로 이해할 수 있는 명령어로 변환해야 합니다. 컴파일이라고 불리는 이 번역 과정은 종종 추가적인 단계를 더하며, 정보가 이동하는 경로인 회로를 더 길고 복잡하게 만듭니다. 회로가 길어진다는 것은 오류가 침투할 시간이 더 많아진다는 것을 의미하므로, 목표는 프로그램을 실행하기 전에 이 회로를 최대한 짧고 단순하게 만드는 것입니다. 여기서 최적화가 등장합니다. 최적화란 불필요한 단계를 제거하고 회로를 정리하기 위해 설계된 일련의 규칙입니다.

오랫동안 엔지니어들은 이러한 정화 규칙을 적용하는 것이 도움이 된다는 사실을 알고 있었지만, 이 규칙들을 적용하는 순서는 크게 중요하지 않다고 대체로 가정해 왔습니다. 규칙을 적용하기만 하면 결과는 대략 비슷할 것이라고 생각한 것입니다. 요리사가 채소를 먼저 썰고 나서 볶느냐, 아니면 먼저 볶은 후에 채소를 써느냐에 따라 결과가 달라질 수 있는 것처럼, 연구진은 최적화 단계의 순서가 프로그램의 최종 품질을 극적으로 변화시킬 수 있다는 사실을 발견했습니다.

연구진은 양자 컴퓨터를 프로그래밍하는 데 사용되는 대중적인 소프트웨어인 Qiskit을 활용하여 이 아이디어를 체계적으로 테스트했습니다. 그들은 각각 특정 유형의 비효율성을 해결하도록 설계된 16가지의 서로 다른 최적화 기법을 선정했습니다. 어떤 기법은 작은 단계들을 하나로 합치고, 어떤 기법은 서로를 상쇄하는 한 쌍의 연산을 취소하며, 또 다른 기법은 단계를 더 효율적으로 만들기 위해 순서를 재배치합니다. 연구팀은 단순히 각 기법이 단독으로 얼마나 잘 작동하는지만 본 것이 아니라, 이 16가지 기법의 가능한 모든 쌍을 테스트했습니다. 그들은 동일한 양자 회로를 컴파일러에 통과시키면서, 먼저 A 기법을 적용한 후 B를 적용하는 방식과 B를 먼저 적용한 후 A를 적용하는 방식을 모두 수행했습니다. 이 과정을 120개의 모든 가능한 쌍에 대해 반복하며, 각 결과물의 회로 길이와 총 단계 수를 측정했습니다.

결과는 명확하고 놀라웠습니다. 120개의 쌍 중 12개에서 순서가 상당한 차이를 만들었습니다. 어떤 경우에는 한 가지 순서가 다른 순서보다 거의 절반 크기의 회로를 만들어내기도 했습니다. 이 연구는 특정 기법이 다른 기법이 작동할 수 있는 더 나은 토대를 만든다는 것을 보여주었습니다. 예를 들어, 초기에 쓸모없는 단계를 제거하면 이후의 기법이 단순화할 수 있는 새로운 패턴이 드러날 수 있지만, 만약 나중에 쓰일 기법을 먼저 실행한다면 그 패턴을 놓칠 수도 있습니다. 연구진은 최적의 순서가 대상이 되는 특정 양자 하드웨어의 종류에 크게 의존한다는 것을 발견했는데, 이는 서로 다른 기계들이 사용하는 기본 연산의 '언어'가 다르기 때문입니다. 예를 들어, 한 종류의 기계에 가장 적합했던 순서가 다른 기계에는 효과적이지 않을 수 있습니다.

연구팀은 잘못된 선택이 나중에 수정될 수 있는지에 대해서도 조사했습니다. 그들은 기법을 두 번 실행하는 것이 최적이 아닌 순서를 보완할 수 있는지 물었습니다. 12개의 사례 중 7개에서 기법을 다시 적용하는 것이 결과물을 개선하는 데 실제로 도움이 되었으며, 때로는 원래의 가장 좋았던 순서보다 더 나은 결과를 만들어내기도 했습니다. 그러나 이것이 보편적인 해결책은 아니었습니다. 다른 경우에는 단계를 반복하는 것이 결과의 개선 없이 불필요한 작업만을 추가할 뿐이었습니다. 이는 두 번째 실행이 나쁜 시작을 바로잡을 수는 있지만, 시간과 자원을 낭비하지 않기 위해서는 처음부터 순서를 제대로 맞추는 것이 훨씬 더 낫다는 것을 시사합니다.

연구진이 테스트를 3개, 4개, 또는 5개의 기법을 사용하는 순서로 확장했을 때, 상호작용은 더욱 복잡해진다는 것을 발견했습니다. 두 가지 기법에 대해 최적이었던 순서가 세 번째 기법이 추가되었을 때 반드시 유지되는 것은 아니었습니다. 어떤 경우에는 두 단계 프로세스의 시작 부분에 배치되는 것이 가장 좋았던 기법이 세 번째 단계가 도입되면 중간으로 옮겨져야 할 때도 있었습니다. 이는 이 규칙들 사이의 관계가 단순한 인과관계의 사슬이 아니라, 하나의 규칙이 존재함에 따라 다른 규칙들의 행동 방식이 변하는 상호작용의 그물망임을 나타냅니다.

연구 결과에 기반하여, 저자들은 이러한 최적화 규칙을 적용하는 새로운 권장 순서를 제안했습니다. 그들이 제안하는 순서는 효과가 거의 없는 게이트를 먼저 제거한 다음, 남은 단계들을 재배치하여 더 많은 단순화를 가능하게 하고, 이어서 패턴 매칭과 반대되는 연산의 취소를 수행하는 방식으로 시작됩니다. 이 권장 순서는 현재 표준 양자 컴파일러에서 사용되는 기본 설정과 다릅니다. 이 새로운 순서를 표준 순서와 비교 테스트했을 때, 최적화 단계만 포함된 통제된 환경에서는 차이가 미미했습니다. 그러나 전체 컴파일 과정이 포함되었을 때, 새로운 순서는 특히 총 단계 수를 줄이는 데 있어 많은 경우에서 약간 더 나은 성능을 보였습니다.

연구는 모든 상황에 적용되는 단 하나의 '완벽한' 순서는 없다는 결론을 내립니다. 최적의 순서는 실행되는 특정 회로, 해당 회로의 크기, 그리고 무엇보다도 대상 하드웨어의 네이티브 게이트 세트에 달려 있습니다. 연구진은 자신들의 작업이 강력한 토대와 더 나은 기본 시작점을 제공하지만, 주어진 양자 프로그램에 대한 최적의 경로는 아마도 고유할 것이라고 강조합니다. 그들의 연구는 단순히 고정된 규칙 목록을 적용하는 것에서 벗어나, 규칙들 사이의 역동적인 관계를 이해함으로써 양자 프로그램이 하드웨어에 닿기도 전에 최대한 효율적이고 오류에 강하도록 만드는 데 초점을 맞추고 있습니다.