QFOR: A Fidelity-aware Orchestrator for Quantum Computing Environments using Deep Reinforcement Learning

양자 컴퓨터는 오늘의 슈퍼컴퓨터가 해결하는 데 수천 년이 걸릴 문제를 해결할 가능성을 약속하며, 새로운 의약품 설계부터 복잡한 암호 해독에 이르기까지 광범위한 분야를 아우릅니다. 하지만 이 기계들은 아직 공상 과학 소설 속의 신뢰할 수 있는 일꾼은 아닙니다. 이들은 매우 미세한 방해만으로도 계산을 망칠 수 있는 노이즈가 많고 오류가 발생하기 쉬운 환경에서 작동하는 취약하고 민감한 정밀 기기입니다. 이러한 기계를 구축하고 유지하는 것은 믿을 수 없을 정도로 어렵고 비용이 많이 들기 때문에, 대부분의 연구자들은 마치 인터넷을 통해 강력한 컴퓨터를 대여하는 것처럼 클라우드를 통해 원격으로 접속합니다. 이는 독특한 물류적 퍼즐을 만들어냅니다. 모든 기계가 서로 다르고, 모든 작업이 고유하며, 기계 자체의 성능 특성이 시간이 지남에 따라 변할 때, 특정 작업을 수행하기 위해 어떤 특정 양자 기계를 사용해야 할지 어떻게 결정할 것인가 하는 문제입니다.

이러한 환경에서는 단순히 사용 가능한 첫 번째 기계로 작업을 보내는 것이 종종 실수가 될 수 있습니다. 서류상으로는 빨라 보이는 기계가 복잡한 작업에는 너무 노이즈가 많을 수 있고, 반대로 조용한 기계는 너무 느려서 섬세한 양자 정보가 작업이 완료되기 전에 사라져 버릴 수도 있습니다. 과제는 속도와 정확성 사이의 완벽한 균란을 찾는 것인데, 이는 표준적인 스케줄링 규칙으로는 해결하기에 너무 복잡한 작업입니다. 연구자 Hoa T. Nguyen, Muhammad Usman, 그리고 Rajkumar Buyya는 딥 강화 학습(deep reinforcement learning)이라 알려진 인공지능의 한 종류를 사용하여 실시간으로 최선의 결정을 내리는 방법을 배우는 지능형 관리자 시스템인 QFOR를 개발하여 이 문제를 해결했습니다.

연구진은 27개에서 127개의 큐비트(양자 정보의 기본 단위)에 이르는 다섯 가지 유형의 양자 프로세서를 포함하여 실제 양자 클라우드 환경을 모방한 정교한 시뮬레이션을 구축했습니다. 그들은 이 시스템에 잘 알려진 벤치마크 알고리즘 집합에서 유도된 수천 개의 다양한 양자 작업을 입력했고, 새로운 AI 관리자가 기존의 스케줄링 방식과 비교하여 어떻게 성능을 보이는지 관찰했습니다. 그들이 테스트한 전통적인 방식에는 사용 가능한 첫 번째 기계를 선택하거나, 기계 간에 작업을 균등하게 배분하거나, 항상 평균 오류율이 가장 낮은 기계를 선택하는 것과 같은 단순한 전략들이 포함되었습니다. 이러한 오래된 접근 방식은 변화무쌍하고 예측 불가능한 양자 하드웨어의 특성에 쉽게 적응할 수 없는 고정된 규칙에 의존합니다.

반면, QFOR는 실행하며 배웁니다. 이 시스템은 충실도(fidelity), 즉 결과의 정확도와 작업 완료에 걸리는 시간이라는 두 가지 주요 요소를 바탕으로 점수를 극대화하려고 노력하는 게임처럼 스케줄링 문제를 다룹니다. 시스템은 현재 양자 기계의 상태(현재 오류율 및 가동 시간 포함)를 관찰한 다음, 다음에 들어오는 특정 작업에 가장 적합한 기계가 무엇인지 결정합니다. 수천 번의 훈련 세션을 거치면서, 이 AI는 인간이 설계한 규칙이 놓친 패턴과 전략을 발견했습니다. AI는 단순히 '가장 빠른' 또는 '가장 조용한' 것과 같은 지표를 넘어, 실행하려는 양자 회로의 구체적인 형태와 복잡성을 고려하여 해당 작업을 가장 효과적으로 처리할 수 있는 기계와 매칭하는 법을 배웠습니다.

시뮬레이션 결과는 놀라웠습니다. 전통적인 방식들과 비교했을 때, QFOR 시스템은 일관되게 훨씬 더 정확한 결과를 만들어냈습니다. 가장 유리한 설정에서, QFOR는 가장 성능이 좋은 전통적 기준점과 비교하여 계산의 상대적 충실도를 29.5%에서 84%까지 향상시켰습니다. 이는 계산이 올바를 가능성이 현저히 높아졌음을 의미합니다. 결정적으로, 연구진은 이러한 엄청난 정확도의 향상이 속도를 희생하면서 얻어진 것이 아님을 발견했습니다. 이 시스템은 전체 작업 완료 시간을 가장 빠른 전통적 방식들과 비슷하거나 약간 더 긴 수준으로 유지했습니다. 이는 AI가 더 나은 기계를 기다리는 것과 노이즈가 많은 기기에 작업을 서둘러 밀어넣는 것 사이의 어려운 절충안을 성공적으로 헤쳐 나갔음을 시사합니다.

가장 중요한 발견 중 하나는, 단순히 평균 오류율이 가장 낮은 기기를 선택해야 한다는 기존의 가정이 잘못되었다는 점이었습니다. 연구진은 특정 양자 작업이 기계가 잘 처리할 수 없는 복잡한 연결 구조를 요구할 경우, 평균 오류율이 낮은 기계라도 성능이 저하될 수 있음을 보여주었습니다. AI는 최선의 선택이 단순히 일반적인 등급이 아니라, 작업의 구체적인 세부 사항에 달려 있다는 것을 배웠습니다. 이 통찰은 하드웨어가 다양하고 끊임없이 진화하는 양자 컴퓨팅의 미래에 왜 유연하고 학습 기반의 접근 방식이 필요한지를 강조합니다.

또한 이 연구는 시스템을 서로 다른 목표에 맞춰 조정할 수 있음을 입증했습니다. 단 하나의 설정을 조정함으로써, 연구진은 AI에게 가능한 가장 정확한 결과를 얻는 데 더 집중하도록 하거나, 혹은 작업을 최대한 빨리 끝내는 데 우선순위를 두도록 지시할 수 있었습니다. 이러한 유연성은 서로 다른 요구사항을 가진 사용자들이 존재하는 분야에서 매우 중요합니다. 예를 들어, 신약 개발 연구자는 정확도를 최우선으로 할 수 있고, 금융 분석가는 빠른 답변이 필요할 수 있습니다. 시스템 전체를 다시 구축하지 않고도 이 균형을 이동할 수 있는 능력은 이 접근 방식이 견고하고 적응력이 높음을 보여줍니다.

이러한 결과는 실제 물리적인 양자 클라우드가 아닌 시뮬레이션에서 나온 것이지만, 연구진은 IBM의 양자 장치에서 얻은 실제 데이터를 사용하여 노이즈와 오류를 모델링함으로써 시뮬레이션의 엄격함을 확보했습니다. 이 연구는 양자 컴퓨터가 더욱 흔해지고 복잡해짐에 따라, 인간 운영자가 이를 수동으로 관리하는 것은 불가능해질 것임을 시사합니다. 대신, QFOR와 같은 지능형 시스템이 작업의 흐름을 조율하여 이 비싸고 취약한 자원들이 효율적으로 사용되도록 보장하는 데 필수적일 것입니다. 결론적으로, 딥 강화 학습을 사용하여 충실도와 시간 사이의 균형을 맞춤으로써, 우리는 양자 컴퓨팅이 세상의 가장 어려운 문제들에 대해 신뢰할 수 있고 비용 효율적인 솔루션을 제공하겠다는 약속을 실현하는 미래에 더 가까이 다가갈 수 있습니다.