QuSema: Detecting Silent Bugs in Quantum Libraries via Quantum-knowledge-enhanced Agents

양자 컴퓨팅은 새로운 의약품 설계부터 복잡한 물류 최적화에 이르기까지, 현재의 고전적 컴퓨터로는 불가능한 문제들을 해결할 것을 약속합니다. 이 기술을 실제로 사용할 수 있게 만들기 위해, 과학자들은 양자 프로그램을 구축하는 데 필수적인 도구 역할을 하는 방대한 사전 작성 코드 모음인 소프트웨어 라이브러리를 구축해 왔습니다. 이러한 라이브러리를 통해 연구자들은 양자 연산을 정의하고 이를 시뮬레이터나 실제 하드웨어에서 실행할 수 있습니다. 그러나 이 분야가 아직 초기 단계에 있기 때문에, 소프트웨어 자체는 오류가 발생하기 쉽습니다. 어떤 오류는 프로그램이 즉시 충돌하거나 멈추게 하는 명백한 오류인 반면, 다른 오류들은 훨씬 더 위험한데, 바로 '침묵하는 오류(silent error)'입니다. 침묵하는 버그는 프로그램이 경고 없이 끝까지 실행되도록 허용하면서도, 잘못된 결과값을 산출합니다. 단 한 번의 잘못된 계산이 수년간의 연구를 오도하거나 값비싼 컴퓨팅 자원을 낭비할 수 있는 분야에서, 이러한 숨겨진 오류를 찾아내는 것은 매우 중요한 과제입니다.

수년 동안 이러한 버그를 찾는 표준적인 방법은 하나의 양자 라이브러리를 다른 라이브러리와 비교하거나, 특정 수학적 변환 후에 프로그램이 일관되게 작동하는지 확인하는 것이었습니다. 이 접근 방식은 예상되는 결과가 알려져 있거나 두 가지 서로 다른 도구가 동일한 출력을 생성해야 할 때는 잘 작동합니다. 하지만 라이브러리가 다른 도구가 수행할 수 없는 독특한 작업을 수행하거나, 버그가 추측하기 어려운 매우 구체적이고 복잡한 조건 하에서만 나타날 때는 실패합니다. 이런 경우 소프트웨어는 완벽하게 실행되는 것처럼 보이지만 조용히 잘못된 결과를 전달하며, 사용자는 자신의 작업이 결함이 있다는 사실을 알지 못하게 됩니다.

이 문제를 해결하기 위해 연구팀은 QuSema라고 불리는 새로운 자동화 시스템을 개발했습니다. 출력값을 비교하거나 어떤 조건이 실패를 유발할지 추측하는 대신, QuSema는 라이브러리의 소스 코드를 직접 읽는 지능형 감사관 역할을 합니다. 이 시스템은 고급 인공지능을 사용하여 라이브러리 자체의 문서와 양자 물리학의 기본 규칙을 바탕으로 코드의 의도된 동작을 이해합니다. 시스템은 라이브러리를 작고 관리 가능한 코드 조각들로 분해한 뒤, "이 코드 조각이 양자 역학의 규칙에 따라 의도한 대로 작동하는가?"라는 단순한 질문을 던지는 방식으로 작동합니다. 만약 코드 로직이 유효한 입력으로부터 유효하지 않은 결과를 생성할 가능성이 있다고 판단되면, 시스템은 이를 잠재적 결함으로 표시합니다.

과정은 엄격합니다. 시스템이 의심스러운 로직을 식별하면 거기서 멈추지 않습니다. 시스템은 인간 사용자가 오류를 확인하기 위해 실행할 수 있는 실제 테스트 케이스를 구축하려고 시도합니다. 또한, 발견된 내용이 단순히 내부 기계 장치의 이론적인 결함이 아니라 실제 세계의 문제인지 확인하기 위해, 사용자들이 실제로 사용하는 표준 도구를 통해 버그를 유발할 수 있는지 점검합니다. 이 방법은 이전 방식들이 놓쳤던 오류들, 특히 고유한 기능에서 발생하거나 매우 구체적이고 비직관적인 조건이 필요할 때 발생하는 오류들을 찾아낼 수 있게 해줍니다.

연구진이 이 시스템을 가장 인기 있는 두 양자 라이브러리인 Qiskit과 PennyLane에 적용했을 때, 그 결과는 상당했습니다. 연구진은 먼저 과거에 보고되었던 20개의 알려진 침묵하는 버그 세트로 시스템에 도전했습니다. 시스템은 일반적인 프로그래밍 지식에 의존하는 다른 자동 코딩 어시스턴트들보다 뛰어난 성능을 보이며, 이 알려진 오류들의 근본 원인을 대부분 성공적으로 찾아냈습니다. 더욱 놀라운 점은, 특정 버그에 대한 사전 지식 없이 이 라이브러리들의 전체 현재 코드베이스에 시스템을 적용했을 때, 40개의 미지의 문제를 발견했다는 것입니다. 라이브러리 개발자들은 이 40개의 발견 사항을 모두 확인했습니다. 이 새로운 발견들 중 30개는 오류를 반환하면서도 충돌하지 않는 침묵하는 버그였으며, 그중 5개는 비교할 수 있는 다른 도구가 존재하지 않아 기존의 테스트 방식으로는 완전히 접근할 수 없었던 기능들에 영향을 미치는 것이었습니다.

시스템이 발견한 한 가지 구체적인 사례는 PennyLane에서 보존 연산자(bosonic operators)를 곱하는 함수와 관련이 있습니다. 시스템은 코드가 정렬된 딕셔너리 키를 삽입 순서대로 유지된 값과 쌍을 이루게 함으로써, 곱셈 과정에서 생성 연산자와 소멸 연산자를 교체하여 동일한 피연산자에 대해 잘못된 결과를 생성할 수 있음을 포착했습니다. 또 다른 발견은 Qiskit의 양자 회로 최적화 도구와 관련된 것으로, 시스템은 해당 도구가 중첩된 제어 수정자(control modifiers)를 잘못된 순서로 결합하여 제어 조건을 변경하고 회로 의미론(semantics)을 위반하면서도 에러를 발생시키지 않는다는 것을 감지했습니다. 이러한 오류들은 프로그램이 성공적으로 실행되고 그럴듯해 보이는 출력을 생성했기 때문에 표준 테스트로는 발견되지 않았을 것입니다.

QuSema의 성공은 양자 소프트웨어의 신뢰성을 보장하기 위한 새로운 경로를 제시합니다. 인공지능에게 양자 물리학의 특정 의미론을 추론하도록 가르치고, 이를 라이브러리 자체의 문서와 교차 검증함으로써, 연구진은 복잡한 시스템을 괴롭히는 '침묵하는' 실패를 찾아낼 수 있는 도구를 만들었습니다. 이 접근 방식은 비교를 위한 두 번째 라이브러리나 미리 정의된 테스트 케이스 목록을 필요로 하지 않습니다. 대신, 코드가 무엇을 해야 하는지에 대한 깊은 이해에 기반합니다. 이번 연구 결과는 가장 진보된 소프트웨어 인프라에서도 미세한 오류들이 숨어 있을 수 있으며, 인간과 같은 추론 능력과 자동화된 테스트를 결합하는 것이 과학적 발견의 막대한 비용을 초래하기 전에 이러한 오류들을 밝혀낼 수 있음을 보여줍니다.