Lean-QuantumAlg: A Framework for AI Agents to Produce Quantum Algorithms that Humans Can Trust

컴퓨팅 영역에서, 오늘날의 슈퍼컴퓨터가 도달할 수 없는 범위를 넘어서는 문제를 해결할 수 있는 기계를 구축하려는 야심이 커지고 있습니다. 이들은 양자 컴퓨터로, 고전적인 기계로는 불가능해 보이는 방식으로 정보를 처리하기 위해 아원자 세계의 기묘한 법칙을 활용하는 장치입니다. 이들은 현재의 컴퓨터가 깨뜨리는 데 수천 년이 걸릴 암호를 해독하거나, 새로운 의약품 개발로 이어질 수 있는 화학 반응을 시뮬레이션할 것을 약속합니다. 그러나 이러한 기계들이 유용해지기 위해서는, 과학자들이 먼저 그들에게 무엇을 할지 알려주는 지침, 즉 알고리즘을 작성해야 합니다. 문제는 양자 역학을 정확하게 다루는 것이 매우 어렵다는 점입니다. 논리에서의 아주 작은 실수 하나가 전체 계산을 실패하게 만들 수 있으며, 수학이 매우 복잡하기 때문에 인간 전문가들조차 자신의 지침이 결함이 없는지 확신하는 데 어려움을 겪습니다.

이러한 불확실성은 연구자들이 인공지능으로부터 도움을 구하도록 이끌었습니다. AI 에이전트는 코드를 작성하고 심지어 수학적 정리를 증명하는 데 놀라운 숙련도를 보이고 있습니다. 하지만 새로운 문제가 발생했습니다. AI가 컴퓨터 화면상에서 올바르게 보이는 증명을 작성할 수 있다고 해서, 그 증명이 반드시 인간이 의도한 문제를 실제로 해결한다는 것을 의미하지는 않는다는 점입니다. 컴퓨터가 질문의 다른 버전을 체크하고 있거나, 숨겨 된 비용을 무시하는 방식으로 프로그램을 실행하는 데 필요한 자원을 계산하고 있을 수도 있습니다. 만약 AI가 특정 암호 코드를 깨뜨리는 방법을 찾았다고 주장하지만, 그 증명이 컴퓨터가 단계를 계산하는 방식에 대한 오해에 기반하고 있다면, 그 결과는 쓸모가 없습니다. 과학계는 AI가 문제를 해결했다고 말할 때, 그것이 모든 비용과 조건을 고려하여 정말로 그 특정 문제를 해결했는지 확인하는 방법이 필요합니다.

한 연구팀은 바로 이 딜레마를 해결하기 위해 Lean-QuantumAlg라고 불리는 새로운 시스템을 도입했습니다. 그들은 인간 사용자와 인공지능 사이의 엄격한 계약 역할을 하는 디지털 프레임워크를 구축했습니다. 이 시스템에서 인간은 문제와 게임의 규칙을 정의하고, AI는 알고리즘을 구성하고 그것이 작동함을 증명하는 임무를 맡습니다. 핵심적인 혁신은 이 프레임워크가 AI로 하여금 정당성의 증명을 자원 사용의 증명과 직접 연결하도록 강제한다는 점입니다. 더 쉽게 말하면, 이 시스템은 AI가 실제로 고백한 것보다 더 많은 에너지나 시간을 사용하고 있다면 효율적이라고 주장할 수 없게 만들며, 계산을 마친 후 컴퓨터를 원래의 상태로 되돌려 놓지 못한다면 정답이라고 주장할 수 없게 만듭니다.

연구진은 기초적인 탐색 방법부터 RSA-2048과 같은 현대 암호 표준에 대한 복잡한 공격에 이르기까지 9가지의 서로 다른 양자 알고리즘을 AI 에이전트가 형식화하게 함으로써 이 접근 방식의 위력을 입증했습니다. 과거에는 이러한 종류의 알고리즘을 검증하기 위해 인간이 모든 세부 사항을 확인하기 위해 수천 줄의 코드를 읽어야 했습니다. 이 새로운 프레임워크를 사용하면, 시스템의 핵심 규칙이 인간에 의해 감사되고 신뢰받은 후에는 AI가 힘든 작업을 수행할 수 있습니다. 연구진은 9개의 알고리즘 각각에 대해, 인간의 검토가 필요한 코드가 1% 미만이라는 것을 발견했습니다. 나머지 작업은 프레임워크가 처리했으며, AI의 증명이 유효한지, 그리고 알고리즘이 계약의 모든 요구 사항을 충족하는지를 자동으로 확인했습니다.

이 시스템은 검증 과정을 별개의, 변경 불가능한 부분들로 나누어 작동합니다. 먼저, 인간은 알고리즘이 달성해야 할 정확한 목표와 사용할 수 있는 자원을 정의하며 문제를 명시합니다. 이 명세는 솔루션 자체와 분리되어 있습니다. 다음으로, AI는 본질적으로 양자 컴퓨터를 위한 일련의 지침인 알고리즘을 구성합니다. 그런 다음 프레임워크는 이 알고리즘의 시뮬레이션을 실행하여 어떤 일이 일어나는지 확인합니다. 프레임워크는 세 가지 결정적인 사항을 체크합니다: 알고리즘이 요구된 확률로 정답을 생성하는가, 빌려온 양자 시스템의 부품들을 발견했을 때와 똑같은 상태로 되돌려 놓는가, 그리고 인간이 설정한 시간과 메모리의 한계 내에 머무는가? 만약 AI가 비용이 드는 단계를 누락하거나 자원을 잘못 계산하려고 시도하면, 프레임워크는 그 증명을 거부합니다.

이 방법의 가장 중요한 발견 중 하나는 이 방식이 "빌려온" 자원을 어떻게 처리하는가 하는 점입니다. 양자 컴퓨팅에서 알고리즘은 종종 자신이 소유하지 않은 추가 메모리를 사용해야 하며, 단, 사용 후에 그 메모리를 원래 상태로 되돌려 놓아야 한다는 조건이 붙습니다. 만약 AI가 메모리를 올바른 상태로 반환하더라도, 허용되지 않은 방식으로 다른 시스템 부분들과 얽힌 상태로 남겨둔다면, 그 알고리즘은 결함이 있는 것입니다. Lean-QuantumAlg 프레임워크는 이 결합된 상태를 극도로 정밀하게 체크하여, 빌려온 메모리가 진정으로 복구되었는지 확인합니다. 이러한 수준의 세부 사항은 이전에는 자동화하기 어려웠으나, 새로운 시스템은 이를 검증 과정의 표준적인 부분으로 만들었습니다.

연구진은 또한 이 접근 방식이 잘 확장된다는 것을 보여주었습니다. 시스템의 공유된 토대를 한 번 감사함으로써, 그들은 이를 많은 다양한 알고리즘에 재사용할 수 있었습니다. 보안 통신에 사용되는 P-256 암호 표준에 대한 공격을 포함하여 테스트된 9개의 알고리즘에 대해, 인간이 읽어야 하는 코드의 양은 급격히 감소했습니다. 가장 복잡한 경우에도 인간의 검토는 전체 코드의 아주 작은 부분으로 제한되었으며, 나머지는 프레임워크가 처리했습니다. 이는 향 easily 미래에, 신뢰할 수 있는 검증 시스템이 있다면 AI가 인간 전문가가 혼자서는 결코 달성할 수 없는 속도와 규모로 새로운 양자 알고리즘을 발견하고 인증하는 데 사용될 수 있음을 시사합니다.

이 연구는 AI가 모든 양자 문제를 해결했다거나 이 알고리즘들이 즉시 물리적 하드웨어에서 실행될 준비가 되었다고 주장하는 것이 아닙니다. 대신, AI가 생성한 수학적 증명을 신뢰할 수 있도록 보장하는 엄격한 방법을 제공합니다. 이는 무엇이 중요한지를 정의하는 인간의 역할과 논리를 체크하는 기계의 역할을 분리합니다. 그렇게 함으로써, 이 연구는 AI가 해결책을 찾았다고 주장할 때 그 해결책이 실제적이고, 효율적이며, 정확히 요청된 대로임을 보장하여, 양자 알고리즘의 확장 가능한 발견을 위한 길을 열어줍니다. 결과적으로 이는 기계가 작업을 수행하되 인간이 무엇이 중요한지에 대한 최종 판단자가 되는, 자동화된 과학적 발견의 시대에 신뢰를 위한 새로운 표준을 제시합니다.