⚛️ quantum physics

Transformers as Intrinsic Optimizers for Quantum Approximate Optimization Algorithm

이 논문은 문제 구조와 최적화 이력을 처리함으로써 QAOA 파라미터 업데이트를 예측하는 법을 학습하는 트랜스포머 기반의 내재적 최적화 프레임을 제안하며, 이를 통해 비용이 많이 드는 인스턴스별 고전적 최적화를 MaxCut 벤치마크에서 하이브리드 양자-고전 성능을 향상시키는 전이 가능하고 분할 상환된 정책으로 대체한다.

원저자: Kuan-Cheng Chen, Xiaotian Xu, Hiromichi Matsuyama, Wei-Hao Huang, Haomu Yuan, Yu Yamashiro

게시일 2026-09-18

📖 4 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Kuan-Cheng Chen, Xiaotian Xu, Hiromichi Matsuyama, Wei-Hao Huang, Haomu Yuan, Yu Yamashiro

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

유용한 양자 컴퓨터를 구축하기 위한 경쟁 속에서, 과학자들은 현재 강력하지만 불완전한 기계들을 다루고 있습니다. '노이즈가 있는 중간 규모 양자(NISQ)'라고 알려진 이 장치들은 복잡한 계산을 수행할 수 있지만, 오류에 취약하고 크기가 제한적입니다. 물류나 금융 모델링과 같은 실제 문제에 유용하게 사용하기 위해, 연구자들은 '양자 근사 최적화 알고리즘(QAOA)'이라 불리는 특정 전략에 의존합니다. 이 알고리즘을 두 부분으로 구성된 기계라고 생각해보십시오. 하나는 가능한 해답의 광활한 지형을 탐색하는 양자 프로세서이고, 다른 하나는 양자 기계가 최선의 답을 찾을 수 있도록 설정을 어떻게 조정해야 할지 알려주는 가이드 역할을 하는 고전 컴퓨터입니다. 양자 부분이 안개 낀 산맥을 탐험하는 등산객이라면, 고전적인 부분은 다음 방향을 결정하는 지도와 나침반과 같습니다. 전체 작업의 성공 여부는 이 고전적인 가이드가 등산객의 진행 상황으로부터 얼마나 잘 학습하고 다음 단계를 결정할 수 있는지에 크게 달려 있습니다.

수년 동안 이 가이드 역할은 다른 유형의 문제들을 위해 수십 년 전에 설계된 표준 수학적 도구들에 의해 채워져 왔습니다. 이러한 도구들은 양자 최적화 특유의 울퉁불퉁하고 거친 지형에 직면했을 때 종종 어려움을 겪으며, 좋은 해답을 찾기 위해 많은 시도와 상당한 컴퓨팅 능력을 요구합니다. 한 연구팀은 이제 다른 접근 방식을 제 제안했습니다. 바로 전통적인 가이드를 자신이 보는 데이터로부터 직접 최적화 방법을 학습하는 특화된 인공지능으로 교체하는 것입니다. 정교한 신경망이 가이드 역할을 하도록 훈련시킴으로써, 그들은 문제의 구조와 자신의 과거 경험을 바탕으로 양자 설정의 최적의 조정을 예측할 수 있는 시스템을 만들어냈습니다. 이 새로운 방법은 단순히 추측하는 것이 아니라, 여러 유사한 문제에 적용할 수 있는 개선 패턴을 학습하여 탐색 과정을 더 빠르고 신뢰할 수 있게 만듭니다.

연구진은 연결된 점들의 네트워크를 두 그룹으로 나누어 그룹 간의 연결이 최대한 강해지도록 하는 'MaxCut'이라는 고전적인 퍼즐에 집중했습니다. 그들의 설정에서 양자 컴퓨터는 잠재적인 해답을 나타내는 물질의 상태를 준비하고, 고전 컴퓨터는 그 결과를 측정하여 그것이 얼마나 좋은지 확인합니다. 표준적인 설정에서는 고전 컴퓨터가 다음 시도를 위한 설정을 어떻게 변경할지 결정하기 위해 고정되고 경직된 규칙을 사용합니다. 그러나 새로운 접근 방식은 의사 결정 과정을 학습 가능한 것으로 취급합니다. 연구팀은 데이터 내의 복잡한 관계를 이해하는 능력으로 유명한 '트랜스포머(Transformer)' 유형의 인공지능을 기반으로 한 시스템을 구축했습니다. 이 시스템은 단순히 현재의 결과만을 보는 것이 아니라, 문제의 형태, 현재 설정, 이전 시도들의 이력, 그리고 양자 기계로부터의 피드백을 종합적으로 살펴보고 다음 움직임을 예측합니다.

이 아이디어가 효과가 있는지 테스트하기 위해, 연구진은 대규모의 무작위 네트워크 문제 집합을 통해 AI를 훈련시켰습니다. 그들은 시스템이 이러한 문제들의 기저 구조를 인식하고, 시간이 지남에 따라 해답을 개선하는 전략을 학습하도록 가르쳤습니다. 훈련을 마친 후, 그들은 AI에게 한 번도 접해보지 못한 새로운 문제를 해결하도록 요청했습니다. 결과는 이 학습된 가이드가 매우 효과적임을 보여주었습니다. 최대 13개의 점을 가진 네트워크를 대상으로 한 테스트에서, AI는 경사 하강법(gradient descent)이나 다른 표준 최적화 기법과 같은 전통적인 방법들보다 일관되게 더 나은 해답을 찾아냈습니다. 또한 이는 더 안정적이었는데, 즉 문제가 더 커지거나 복잡해질 때도 쉽게 막히거나 실패하지 않았습니다. 이 연구는 AI가 학습한 패턴을 파악하여 새로운 상황에 성공적으로 적용함으로써, 학습 내용을 일반화할 수 있음을 입증했습니다.

가장 중요한 발견 중 중 하나는 이 시스템이 잘 작동하기 위해 반드시 거대할 필요는 없다는 것이었습니다. 연구진은 다양한 크기의 AI 모델을 테스트했으며, 적당한 크기만으로도 필요한 패턴을 포착하기에 충분하다는 것을 발견했습니다. 모델을 훨씬 더 크게 만든다고 해서 반드시 더 나은 결과로 이어지는 것은 아니었으며, 때로는 시스템을 훈련시키기 더 어렵게 만들기도 했습니다. 이는 이 방식의 이점이 단순히 엄청난 수의 매개변수(parameter)에서 오는 것이 아니라, 최적화 과정을 학습하도록 설계된 방식에서 온다는 것을 시사합니다. 또한 연구팀은 시스템이 단순히 훈련 데이터를 암기하고 있는 것인지, 아니면 실제로 유용한 전략을 학습하고 있는 것인지를 확인했습니다. 그들은 아무런 변화도 가하지 말라는 명령을 받은 버전과 AI를 비교했습니다. 설정을 조정하도록 학습된 AI가 훨씬 더 뛰어난 성능을 보였으며, 이는 개선 효과가 양자 컴퓨터의 탐색 능력 때문이 아니라 지능적인 결정을 내리는 능력에서 비롯되었음을 증명합니다.

이 연구는 또한 양자 회로가 더 깊고 복잡해짐에 따라 시스템이 어떻게 작동하는지도 살펴보았습니다. 양자 회로의 층(layer) 수가 증가함에 따라, 적절한 설정을 찾는 문제는 모든 방식에 있어 더 어려워졌습니다. 그러나 학습된 최적화 도구는 우위를 유지하며, 탐색 공간이 크게 확장되었음에도 불구하고 높은 품질의 해답을 계속해서 찾아냈습니다. 이는 이 시스템이 미래 양자 하드웨어의 증가하는 복잡성을 처리할 수 있음을 나타냅니다. 연구진은 또한 훈련 데이터의 양이 성능에 미치는 영향을 조사했습니다. 그들은 시스템이 빠르게 학습하며 상대적으로 적은 수의 사례만으로도 훈련을 마친 후에는 수확 체감의 법칙(diminishing returns)에 도달한다는 것을 발견했는데, 이는 시스템이 관찰하는 데이터로부터 가장 중요한 정보를 추출하는 데 효율적임을 시사합니다.

결과가 유망하기는 하지만, 연구진은 이를 최종적인 해결책이라기보다는 하나의 진전된 단계로 규정하며 주의를 기울이고 있습니다. 이 작업은 시뮬레이션 상에서 수행되었으며, 다음 단계는 실제 세계의 노이즈와 오류가 존재하는 실제 양자 하드웨어에서 이 방법들을 테스트하는 것입니다. 연구팀은 향후 버전의 시스템이 더 다양한 유형의 문제를 처리하고 물리적인 양자 기계의 구체적인 한계를 고려하도록 조정될 수 있다고 제안합니다. 최적화 도구를 양자 알고리즘과 함께 진화하는 학습 가능한 구성 요소로 취급함으로써, 이 접근 방식은 하이브리드 컴퓨팅에 대한 새로운 사고방식을 제공합니다. 이는 분야의 흐름을 정적인 수동 제작 규칙에 의존하는 방식에서 벗어나, 컴퓨터가 스스로를 안내하는 법을 배우며 세계에서 가장 어려운 최적화 과제들을 해결하기 위해 양자 기계의 잠재력을 완전히 끌어올릴 수 있는 미래로 이동시키고 있습니다.

기술 요약: 양자 근사 최적화 알고리즘(QAOA)을 위한 내재적 최적화 도구로서의 트랜스포머(Transformers)

1. 문제 정의

양자 근사 최적화 알고리즘(QAOA)은 잡음이 있는 중규모 양자(NISQ) 하드웨어 상의 조합 최적화를 위한 선도적인 변분 프레임워크이다. 그러나 QAOA의 실질적인 효용성은 변분 파라미터( $\gamma, \beta$ )를 튜닝하기 위해 필요한 클래식 외부 루프 최적화에 의해 크게 제약받는다. 이 최적화 과정은 다음과 같은 몇 가지 과제에 직면해 있다:

비볼록성(Nonconvexity) 및 민감도: QAOA 각도(angles)의 탐색 공간은 일반적으로 비볼록하며, 문제 의존적이고, 초기화 및 옵티마이저 선택에 매우 민감하다.
계산 비용: 현실적인 설정에서 유한 샷(finite-shot) 잡음을 고려할 때, 반복적인 목적 함수 평가는 계산 비용을 지배하며, 특히 서로 연관된 대규모 문제 인스턴스 군(families)을 가로질러 최적화를 수행할 때 더욱 그러하다.
전이성(Transferability) 부족: 기존의 옵티마이저(예: 경사 하강법, SPSA, COBYLA, Nelder–Mead)는 각 그래프 인스턴스를 독립적으로 취급하며, 관련 문제들 사이의 전이 가능한 패턴이나 최적화 이력을 활용하지 못한다.

본 논문은 비용이 많이 드는 인스턴스별 온라인 최적화에 대한 의존도를 줄이기 위해, 전이 가능한 패턴을 활용하여 탐색 과정을 분할 상환(amortize)할 수 있는 구조화된 최적화 메커니즘의 필요성을 다룬다.

2. 방법론

저자들은 클래식 옵티마이저가 수동으로 설계된 루틴이 아니라, 하이브리드 양자-클래식 루프 내에 직접 임베딩된 학습된 구성 요소인 트랜스포머 기반 내재적 최적화 프레임워크를 제안한다.

A. 핵심 개념: 분할 상환된 학습된 정책 (Amortized Learned Policy)

모든 인스턴스 $G$ 에 대해 최적화 문제 $\theta^\star(G) = \arg\max_\theta f_G(\theta)$ 를 처음부터 다시 푸는 대신, 저자들은 문제 구조와 최적화 이력을 바탕으로 파라미터 업데이트를 예측하는 매핑 $F_\phi$ 를 학습한다:
$\Delta\theta^{(t)} = F_\phi(G, H_t, \theta^{(t)})$
여기서 $H_t$ 는 $t$ 시점까지의 최적화 이력을 나타내며, $\phi$ 는 신경망의 학습 가능한 가중치이다. 업데이트된 파라미터는 가용 영역 $\Omega$ 로 투영된다.

B. 그래프 조건부 트랜스포머 아키텍처

제안된 옵티마이저는 QAOA 레이어, 그래프 토폴로지, 그리고 과거의 최적화 동작 간의 의존성을 모델링하기 위해 트랜스포머 인코더를 활용한다.

상태 표현 (State Representation): 입력 상태 $s^{(t)}$ $s^{(t)}$ 는 다음을 포함한다:
- 그래프 임베딩 ( $g$ ): 그래프 구조(예: 인접 행렬 특징)를 나타내는 고정 크기 벡터.
- 현재 파라미터: 현재의 변분 각도 $\theta^{(t)}$ .
- 이력 (History): 이전 업데이트 $\Delta\theta^{(t-1)}$ , 현재 목적 함수 추정치 $\hat{f}_G^{(t)}$ , 역대 최고 목적 함수 값, 그리고 정규화된 스텝 수.
토큰화 (Tokenization):
- 그래프 토큰 (Graph Token): 글로벌 그래프 토폴로지를 인코딩하는 특수 토큰.
- 레이어 토큰 (Layer Tokens): 각 QAOA 레이어 $\ell \in \{1, \dots, p\}$ 에 대한 하나의 토큰으로, 로컬 파라미터( $\gamma_\ell, \beta_\ell$ )와 로컬 모멘텀( $\Delta\gamma_{\ell}^{(t-1)}, \Delta\beta_{\ell}^{(t-1)}$ )을 포함한다.
- 글로벌 스칼라 지표(목적 함수 값, 스텝 수)는 모든 레이어 토큰에 브로드캐스트된다.
자기 주의 집중 역학 (Self-Attention Dynamics): 트랜스포머 인코더는 멀티 헤드 자기 주의 집중(multi-head self-attention)을 사용하여 토큰 시퀀스(그래프 토큰 + $p$ 개의 레이어 토큰)를 처리한다. 이를 통해 각 레이어의 파라미터 업데이트가 글로벌 그래프 구조 및 다른 레이어의 상태에 따라 조건화될 수 있다.
출력 및 업데이트 규칙:
- 공유 예측 헤드는 원시 증분(raw increments) $\Delta\theta^{(t)}$ 를 출력한다.
- 유계된 비선형 단계( $\alpha \odot \tanh(\cdot)$ )가 업데이트를 안정화한다.
- 투영 연산자 $\Pi_\Omega$ 는 파라미터를 유효한 도메인(예: $\gamma \in [-\pi, \pi]$ , $\beta \in [-\pi/2, \pi/2]$ ) 내로 클리핑한다.

C. 학습 목표

모델은 근사 비율(approximation ratio) $\rho_G$ 의 단조적 개선을 장려하는 궤적 형성 손실(trajectory-shaping loss)을 최소화하도록 MaxCut 인스턴스 분포 $\mathcal{D}$ 에 대해 메타 학습된다. 이 과정에서 불안정한 업데이트와 높은 분산 측정 영역에 대해 페널티를 부여한다. 교사 옵티마이저(teacher optimizer)로부터의 선택적 모방 사전 학습(imitation pretraining)도 지원된다.

3. 주요 기여

내재적 최적화 정식화: 본 논문은 QAOA를 위한 클래식 옵티마이저를 학습 가능한 그래프 조건부 정책으로 재정의하여, 인스턴스별 탐색에서 분할 상환 학습(amortized learning)으로 패러다임을 전환한다.
트랜스포머 통합: 문제 토폴로지(그래프 토큰을 통해)와 순차적 최적화 이력(레이어 토큰 및 자기 주의 집중을 통해) 모두에 파라미터 업데이트를 조건화하는 특정 아키텍처를 도입한다.
수학적 프레임워크: 하이브리드 루프 내에서 트랜스포머의 순전파(forward pass)를 하나의 옵티마이저 스텝으로 취급하는 내재적 최적화 관점에 대한 공식적인 정의를 제공한다.
포괄적 평가: 제안된 방법은 다양한 그래프 크기, 회로 깊이 및 하이퍼파라미터 설정에 대해 기존 옵티마이저(SPSA, COBYLA, Nelder–Mead) 및 기타 학습된 베이스라인(MLP, LSTM)과 엄격하게 벤치마킹되었다.

4. 실험 결과

프레임워크는 다양한 그래프 크기( $n=5$ to $13 $)와 회로 깊이($ p=1$ to $10$)를 가진 MaxCut 벤치마크에 대해 평가되었다.

성능 우위: 트랜스포머 기반 옵티마이저는 테스트된 모든 그래프 크기( $n=5, 8, 11$ )와 깊이에서 가장 높은 평균 근사 비율을 일관되게 달성하였으며, 기존의 미분 불능 방법론 및 더 단순한 신경망 옵티마이저(MLP, LSTM)를 능가하였다.
전이성 및 데이터 효율성: 이 방법은 보지 못한(unseen) 인스턴스에 대해 강력한 일반화 성능을 보여주었다. 성능은 상대적으로 작은 학습 세트(6-큐비트 문제의 경우 약 50개의 그래프)에서 포화되었는데, 이는 모델이 단순 암기가 아닌 전이 가능한 업데이트 구조를 학습했음을 나타낸다.
확장성: 문제 크기가 증가함에 따라(더 복잡한 에너지 지형으로 인해) 성능이 자연스럽게 저하되었으나, 트랜스머 옵티마이저는 기존 베이스라인들이 급격한 저하 추세를 보이는 것과 달리 눈에 띄는 우위를 유지하였다.
깊이 민감도: 옵티마이저는 회로 깊이( $p$ )에 따라 유리하게 확장되었으며, 파라미터 공간이 확장됨에 따라 견고한 성능을 유지하였고, 훈련, 검증, 테스트 곡선이 서로 밀접하게 일치함을 보여주었다.
강건성: 이 접근 방식은 하이퍼파라미터 선택(학습률, 언롤 스텝, 초기화 노이즈)에 대한 민감도가 낮았으며, 경쟁력 있는 결과를 얻기 위해 미세 조정(fine-tuning)을 필요로 하지 않았다.
절제 실험(Ablation): "제로 업데이트(zero-update)" 제어 실험을 통해 성능 향상이 단순히 QAOA 안사츠(ansatz)의 표현력 때문이 아니라, 학습된 업데이트 정책에 의해 유도되었음을 확인하였다.

5. 의의 및 주장

본 논문은 트랜스포머 기반 내재적 최적화가 하이브리드 양자 알고리즘의 클래식 구성 요소를 개선하기 위한 구조적이고 전이 가능한 메커니즘을 제공한다고 주장한다. 이 방법을 통해:

반복적인 인스턴스별 최적화에 따른 계산 부담을 줄인다.
관련 문제군 사이의 재사용 가능한 구조를 활용한다.
경사도 추정이 비용이 많이 들거나 불안정한 잡음 섞인 유한 샷 환경에서, 수동으로 설계된 옵티마이저보다 더 견고한 대안을 제공한다.

저자들은 이 연구가 QAOA의 실질적인 배포를 강화하기 위한 유망한 방향임을 밝히며, 향후 연구에서 더 큰 규모의 이질적인 그래프 군과 실제 QUBO 인스턴스를 탐구하여 분포 외(out-of-distribution) 전이성을 평가할 것이라고 언급하였다. 또한, 학습된 옵티마이저가 기존의 것들보다 우수한 성능을 보이는 조건에 대해 완전히 규명하기 위해서는 추가적인 이론적 분석이 필요하다는 점을 겸허히 덧붙였다.