Shuttling Compiler for Trapped-Ion Quantum Computers Based on Large Language Models

이 논문은 특정 아키텍처에 대한 미세 조정을 통해 보지 못한 레이아웃에 대해서도 유효한 스케줄을 생성하는 레이아웃 독립적 컴파일을 달성하고, 최신 베이스라인 대비 셔틀링 노력을 최대 15%까지 줄이는, 트랩 이온 양자 컴퓨터를 위한 최초의 거대 언어 모델 기반 셔틀링 컴파일러를 소개한다.

핵심

이온 트랩 양자 컴퓨터를 고도로 정교한 미세 규모의 기차역이라고 상상해 보십시오. 이 역에서 "기차"는 양자 정보를 담고 있는 개별 이온(원자)이며, "선로"는 마이크로칩 위의 아주 작은 구간들입니다.

계산을 수행하려면 이 기차들은 정보를 교환하기 위해 특정 "작업장"(게이트 구간)에서 만나야 합니다. 하지만 작업장은 작고 혼잡합니다. 만약 두 기차가 함께 작업해야 하는데 서로 다른 보관소에 갇혀 있다면, 이들은 물리적으로 이동하거나, 합쳐지거나, 혹은 주변을 돌아서 이동해야 합니다. 이 이동 과정을 **셔틀링(shuttling)**이라고 부릅니다.

문제는 이 기차들을 움직이는 것이 느리고 위험하다는 점입니다. 너무 많이 움직이면 그들이 가진 정보가 뒤섞여(결맞음 해제, decoherence) 전체 계산이 실패할 수 있습니다. 수년 동안 엔지니어들은 새로운 역 레이아웃이 나올 때마다 기차를 가장 효율적으로 움직이는 방법을 찾아내기 위해 맞춤형의 수동 규칙서(컴파일러)를 작성해야 했습니다. 만약 다른 모양의 새로운 역을 만들면, 처음부터 다시 시작해야 했습니다.

새로운 솔루션: AI "교통 관제사"

이 논문은 챗봇을 구동하는 것과 같은 종류의 AI인 **대규모 언어 모델(LLM)**을 사용하여 구축된 새로운 종류의 "교통 관제사"를 소개합니다. 경직된 규칙에 따라 프로그래밍되는 대신, 이 AI는 다양한 역 레이아웃에서 기차를 효율적으로 움직이는 수천 가지의 사례를 관찰함으로써 **훈련(미세 조정)**되었습니다.

저자들이 이 기술을 어떻게 구현했는지, 쉬운 비유를 통해 설명하겠습니다.

1. 훈련: 사례로부터 배우기

AI를 새로운 견습생이라고 생각해 보십시오. 연구진은 AI에게 물리학 법칙이나 복잡한 수학을 가르치지 않았습니다. 대신, 성공적인 기차 이동 사례가 담긴 "교과서"를 보여주었습니다.

• 입력: 연구진은 AI에게 역의 지도 설명, 현재 기차들이 위치한 곳, 그리고 다음에 수행해야 할 작업(게이트)들을 제공했습니다.
• 출력: AI는 다음 작업이 가능하도록 기차를 이동시키는 단계별 지침 목록(스케줄)을 작성해야 했습니다.
• 교훈: 직선 선로와 분기점(T자형 교차로)에서 연습함으로써, AI는 단순히 특정 경로를 암기하는 것이 아니라 기차를 효율적으로 움직이는 개념을 배웠습니다.

2. 테스트: 새로운 형태를 감당할 수 있는가?

진정한 마법은 AI가 한 번도 본 적 없는 역 레이아웃에서 테스트를 받았을 때 일어났습니다.

• 운전사에게 직선 도로와 단순한 T자형 교차로를 주행하는 법을 가르쳤다고 가정해 봅시다. 그러고 나서 그 운전사를 한 번도 가본 적 없는 복잡한 사거리 교차로에 떨어뜨려 놓았습니다.
• 놀랍게도, AI는 사거리 교차로 레이아웃을 성공적으로 통과했습니다. AI는 해당 특정 모양이 어떻게 작동하는지 명시적으로 배우지 않았음에도 불구하고 기차를 이동시키는 방법을 알아냈습니다. 이는 AI가 단순히 특정 지도를 외운 것이 아니라, 작업의 논리를 배웠음을 증명합니다.

3. 결과: 더 빠르고 더 똑똑하게

연구진은 자신들의 AI 교통 관제사를 현재 사용 중인 최고의 인간 제작 규칙서들과 비교했습니다.

• 효율성: 여러 테스트 케이스에서 AI는 인간 전문가보다 15% 적은 이동으로 경로를 찾아냈습니다. 양자 컴퓨터의 세계에서 이동 시간을 15% 절약하는 것은 엄청난 승리입니다. 왜냐하면 이는 계산이 더 빨리 끝나고 오류 발생 가능성이 낮아짐을 의미하기 때문입니다.
• 확장성: AI는 최대 16개의 큐비트(기차)가 있는 시스템의 스케줄을 성공적으로 관리했습니다. 이는 현재 기술 수준에서 상당한 규모입니다.

4. 주의점: 시행착오

이 시스템은 아직 완벽하지 않습니다. 때때로 AI는 규칙을 어기는 이동(예: 이미 가득 찬 곳에 두 기차를 병합하려고 시도하는 것)을 제안하기도 합니다.

• 이를 해결하기 위해 연구진은 "안전 검사관"(Python 스크립트)을 구축했습니다. 만약 AI가 잘못된 이동을 제안하면, 검사관이 이를 거부하고 AI가 다시 시도하게 합니다.
• 이 "재시도" 과정은 추가적인 시간이 소요되지만, 최종 스케줄이 유효함을 보장합니다. 논문은 더 크고 복잡한 회로의 경우, AI가 중간에 막히는 경우가 있어 더 멀리 내다볼 수 있는 고급 훈련이 필요하다고 언급했습니다.

요약

요약하자면, 이 논문은 양자 컴퓨터 내에서 양자 입자의 움직임을 자동으로 계획하기 위해 AI가 사용된 첫 번째 사례를 제시합니다. 경직된 규칙이 아닌 사례로부터 학습함으로써, 이 AI는 새로운 기계 설계에 즉각 적응할 수 있으며, 어떤 경우에는 인간 엔지니어보다 더 효율적인 경로를 찾아낼 수 있습니다. 이는 솔루션을 "하드코딩"하는 것에서 컴퓨터가 스스로 퍼즐을 푸는 법을 "가르치는" 방식으로의 전환을 의미합니다.

기술 요약

기술 요약: 대규모 언어 모델 기반 트랩 이온 양자 컴퓨터를 위한 셔틀링 컴파일러

문제 정의
셔틀링 기반 트랩 이온 양자 컴퓨터를 위한 컴파일은 역사적으로 특정 트랩 토폴로지(예: 선형 분절 트랩)에 맞춤화된 수작업 휴리스틱에 의존해 왔습니다. 하드웨어가 브랜치(branched), 레이스트랙(racetrack), 정션(junction) 기반 레이아웃으로 진화함에 따라, 새로운 장치마다 고유한 컴파일러를 설계해야 하는 요구사항은 심각한 병목 현상이 되었습니다. 또한, 현재의 분절 마이크로칩 이온 트랩 실험에서 셔틀링 연산(세그먼트 간 큐비트 이동)은 수십 마이크로초가 소요되며, 이는 게이트 연산 시간과 비슷하거나 이를 초과하기도 합니다. 따라서 셔틀링 연산 횟수는 전체 회로 실행 시간의 주요 기여 요인이자 데코히어런스(dephasing) 및 운동 가열(motional heating)의 주요 원인입니다. 셔틀링 노력을 줄이는 것은 엔드 투 엔드 피델리티(fidelity)를 개선하는 데 매우 중요합니다. SHAW/SHAPER와 같은 기존의 범용 컴파일러는 수작업으로 설계된 그래프 추상화와 결정론적 휴리스틱을 통해 토폴로지 불가지론(topology agnosticism)을 해결하려고 시도하지만, 데이터로부터 직접 학습하지는 못합니다.

방법론
저자들은 데이터로부터 레이아웃 독립적인 컴파일 전략을 직접 학습하는, 대규모 언어 모델(LLM) 기반의 첫 번째 셔틀링 컴파일러를 제안합니다. 이 접근 방식은 세 가지 주요 단계로 구성됩니다:

1. 데이터셋 생성:

   • 출처: 무작위로 생성된 양자 회로에 대해 클래식 최적화 컴파일러(구체적으로 선형 구조용 [17] 및 브랜치 구조용 [21])를 사용하여 셔틀링 스케줄을 생성합니다.
   • 표현 방식: 트랩은 정점(vertex)이 세그먼트이고 간선(edge)이 연결성을 나타내는 그래프 $G=(V, E)$로 모델링됩니다. 데이터셋은 Alpaca 형식을 사용하여 *명령(instruction)*과 *출력(output)*으로 구성됩니다.
   • 명령(Instruction): 현재 트랩 상태(큐비트 위치를 튜플 $[v, p]$로 인코딩), 양자 회로(실행 가능한 첫 번째 레이어 게이트와 더 깊은 비실행 가능 게이트로 분할됨), 아키텍처 제약 조건(예: 세그먼트 용량, 정션 규칙), 그리고 유효한 셔틀링 프리미티브(Translate, Separate, Merge, Swap, Execute Gate)의 정의를 인코딩합니다.
   • 출력(Output): 다음 첫 번째 레이어 게이트를 실행하기 위해 필요한 셔틀링 연산의 단계별 시퀀스로, 각 단계 후의 업데이트된 큐비트 위치와 허용된 연산을 포함합니다.
   • 범위: 데이터셋은 큐비트 수(최대 16개)와 구조적 파라미터(스택 높이, 정션 거리)가 다양한 선형 아키텍처 및 정션이 있는 브랜치 1차원 아키텍처를 다룹니다.

2. 미세 조정(Fine-Tuning):

   • 모델: LLaMA 3.2 (3B), Qwen 3 (4B, 14B), DeepSeek LLM (7B), Gemma 3 (27B)를 포함한 여러 오픈 웨이트 LLM을 평가했습니다.
   • 전략: 저자들은 Axolotl을 사용하여 풀 파인 튜닝(full fine-tuning)을 수행했습니다. 매개변수 효율적 방법(LoRA, QLoRA)을 사용한 초기 실험은 형식 준수 및 규칙 준수 측면에서 만족스럽지 못한 결과를 보였습니다.
   • 최적화: 8개의 H100 GPU에서 메모리와 훈련 효율성을 관리하기 위해, 파이프라인은 DeepSpeed ZeRO-3, bfloat16 정밀도, FlashAttention 2, 시퀀스 병렬성(sequence parallelism), 멀티패킹(multipacking)을 활용했습니다. 훈련은 광범위한 예시에 모델을 노출시키기 위해 단일 에포크(epoch) 동안 진행되었습니다.

3. 추론 및 검증:

   • 배포: 미세 조정된 모델은 OpenAI 호환 API를 사용하는 vLLM 서버를 통해 배포됩니다.
   • 반복 프로세스: 파이썬 스크립트가 컴파일 루프를 관리합니다. 이 스크립트는 현재 트랩 상태와 남은 회로를 기반으로 명령을 구성하고, 이를 LLM에 제출하며, 출력 결과가 아키텍처 규칙을 준수하는지 검증합니다.
   • 재시도 메커니즘: LLM이 유효하지 않은 시퀀스(예: 정션 제약 조건이나 세그먼트 용량 위반)를 생성하는 경우, 요청을 다시 제출합니다. 프로세스는 단일 명령에 대해 10회 연속으로 유효하지 않은 시도가 발생하면 종료됩니다.
   • 후처리: 유효한 스케줄은 불필요한 번역(translation) 및 불필요한 스왑을 제거하기 위한 최적화 과정을 거칩니다.

주요 기여

• 최초의 LLM 기반 셔틀링 컴파일러: 본 논문은 수작업으로 코딩된 휴리스틱 대신 데이터로부터 직접 셔틀링 스케줄을 학습하는 컴파일러를 소개합니다.
• 레이아웃 독립성: 시스템은 훈련 중에 보지 못한 아키텍처, 구체적으로 4방향 정션(four-way junction) 레이아웃에 대해 유효한 스케줄을 생성하는 능력을 보여줍니다.
• 체계적인 벤치마킹: 저자들은 재현 가능한 엔드 투 엔드 파이프라인을 제공하며, 표준 153개 회로 벤치마크 라이브러리에 대해 4개의 LLM 제품군에 걸친 5가지 모델 변형을 평가합니다.
• 성능 향상: 특정 구성에서 LLM 기반 컴파일러는 최첨단 클래식 베이스라인보다 우수한 성능을 보이며, 셔틀링 연산 횟수를 최대 15%까지 줄입니다.

결과

• 훈련 아키텍처: 미세 조정된 모델은 선형 및 브랜치 1차원 레이아웃에 대해 유효한 스케줄을 성공적으로 생성했습니다.
  • 7-큐비트 회로 4mod5-bdd_287의 경우, 가장 우수한 LLM 생성 스케줄(Qwen-4B)은 클래식 베이스라인 대비 셔틀링 연산을 15% 감소시켰습니다.
  • 더 큰 회로(10 및 16 큐비트)의 경우, 모델은 몇몇 브랜치 구성에서 완전한 스케줄을 달성했으나, 모델 크기와 온도(temperature) 설정에 따라 성능 차이가 있었습니다.
• 일반화: 선형 및 브랜치 1차원 레이아웃만 학습한 모델이 이전에 보지 못한 4방향 정션 레이아웃(그림 5c)에 대해 완전하고 유효한 스케줄을 생성했습니다. 이는 이 작업에 대한 교차 토폴로지 일반화의 첫 번째 증거입니다.
• 모델 성능: 작은 모델(예: LLaMA 3B, Qwen 4B)은 종종 더 큰 대응 모델(예: Qwen 14B, Gemma 27B)만큼 우수하거나 더 나은 성능을 보였으며, 이는 컴팩트한 모델이 이 특정 추론 작업에 더 적합할 수 있음을 시사합니다.
• 한계점:
  • 확장성: 16-큐비트 회로에 대한 완전한 스케줄은 특정 브랜치 구성에서만 달성되었습니다. 많은 실행이 생성 과정이 특정 게이트 이후 실패하는 "부분적" 스케줄 결과를 낳았습니다.
  • 토큰 오버헤드: 유효하지 않은 시도로 인해 총 생성된 토큰 수가 최종 스케줄 크기의 최대 6.2배까지 증가하여 재시도 및 검증 루프가 크게 늘어났습니다.
  • 미학습 토폴로지: 4방향 정션은 처리되었지만, 더 복잡한 미학습 레이아웃(멀티 리니어 및 서클 트랩)은 매우 초기 단계에서 생성이 실패했습니다.

의의 및 주장
본 논문은 "레이아웃당 하나의 컴파일러" 패러다임이 단일한 학습 기반 전략으로 대체될 수 있음을 입증한다고 주장합니다. 저자들은 LLM이 명시적인 라우팅 로직의 인코딩 없이도 예시로부터 셔틀링 연산의 복잡하고 제약이 많은 로직(정션 통과 규칙 및 세그먼트 용량 포함)을 직접 학습할 수 있음을 강조합니다.

이 연구는 LLM이 레이아웃 독립적인 컴파일을 위한 실행 가능한 경로임을 확립하며, 특정 영역에서 클래식 휴리스틱과 대등하거나 이를 능가할 수 있음을 보여줍니다. 그러나 저자들은 현재의 한계에 대해 겸허한 태도를 유지하며, 현재 접근 방식이 더 큰 회로에 대한 훈련 데이터의 부족, 추론 중 룩어헤드(lookahead) 메커니즘의 부재(로 인한 하위 최적의 로컬 결정), 그리고 지도 학습 기반 미세 조정(SFT)에 대한 의존성으로 인해 제약을 받고 있다고 언급했습니다. 저자들은 직접 선호도 최적화(DPO) 및 그룹 상대 정책 최 optimization(GRPO)을 통합하는 향러 연구가 다단계 계획 및 선호도 학습을 가능하게 함으로써 이러한 격차를 해소할 수 있을 것이라고 제안합니다.