Pure and mixed Dicke state ansatz for equality and inequality constraints in variational quantum eigensolver

이 논문은 페널티 항의 필요성을 제거하기 위해 등식 및 부등식 해밍 가중치 제약을 구조적으로 인코딩하는 실현 가능성 보존 혼합 디키 상태 안사츠(mixed Dicke state ansatz)를 변분 양자 고유값 솔버(VQE)에 도입하며, 조합 포트폴리오 최적화에서 무작위 탐색보다 우수한 성능을 입증하는 동시에 NISQ 하드웨어 배포를 위한 남은 과제들을 강조한다.

핵심

개요: 수많은 선택지 속에서 최고의 팀을 찾는 법

당신이 100명의 후보자 중에서 완벽한 팀을 구성하려는 매니저라고 상상해 보세요. 당신에게는 두 가지 주요 목표가 있습니다:

1. 성과 극대화 (최고의 결과를 얻는 것).
2. 엄격한 규칙 준수 (예: "반드시 정확히 5명을 뽑아야 한다" 또는 "3명에서 7명 사이로 뽑아야 한다").

금융 세계에서는 이를 **포트폴리오 최적화(Portfolio Optimization)**라고 부릅니다. 직원 대신 주식을 고르는 것이며, 성과 대신 높은 수익률과 낮은 리스크를 찾는 것입니다.

문제는 후보자의 수가 늘어날수록 가능한 팀의 조합이 폭발적으로 증가한다는 점입니다. 모든 조합을 하나하나 확인하는 것(무차별 대입 탐색과 같은 방식)은 시간이 너무 오래 걸립니다. 여기서 **양자 컴퓨팅(Quantum Computing)**이 등장합니다. 양자 컴퓨팅은 일반 컴퓨터보다 훨씬 빠르게 이 거대한 가능성들을 탐색할 수 있음을 약속합니다.

문제점: "페널티"의 함정

과 과거에 과학자들이 이 문제를 양자 컴퓨터로 해결하려고 했을 때, **변분 양자 고유값 솔버(VQE)**라는 방법을 사용했습니다. VQE를 수학 문제를 푸는 학생이라고 생각해 봅시다.

학생이 규칙(예: "주식 5개를 정확히 골라라")을 따르도록 만들기 위해, 선생님은 보통 **페널티(벌점)**를 부여합니다.

• 선생님: "만약 네가 6개의 주식을 고르면, 네 시험지에 아주 큰 빨간색 낙점을 줄 거야."
• 학생: "알겠습니다. 그럼 그 빨간색 낙점을 피하도록 노력할게요."

문제는 선생님이 그 빨간색 낙점을 얼마나 크게 설정해야 할지 예측해야 한다는 점입니다. 페널티가 너무 작으면 학생은 규칙을 무시하게 됩니다. 반대로 페널티가 너무 크면 학생은 혼란에 빠져 최적의 해답을 찾지 못합니다. 이 "페널티"를 조절하는 것은 매우 골치 아픈 일이며 종종 좋지 않은 결과로 이어집니다.

해결책: 설계도 자체에 규칙을 심기

이 논문은 양자 컴퓨터의 "학생"(이를 **안사츠(Ansatz)**라고 부름)을 만드는 새로운 방법을 소개합니다. 사후에 페널티를 추가하는 대신, 저자들은 규칙을 학생의 DNA에 직접 심어 넣었습니다.

그들은 **디케 상태(Dicke States)**라는 것을 사용합니다.

• 비유: 정확히 5명의 팀만 뱉어내는 마법의 상자를 상상해 보세요. 당신이 상자에게 4명이나 6명을 달라고 요청할 수 없습니다. 이 상자가 규칙을 어기는 것은 물리적으로 불가능합니다.
• 순수 디케 상태(Pure Dicke State): 정확히 5명의 팀만 내뱉는 상자입니다. 이는 "정확히 5개를 골라야 한다"는 **등식 제약 조건(Equality Constraint)**을 해결합니다.
• 혼합 디케 상태(Mixed Dicke State): 이것이 이 논문의 핵심 혁신입니다. 3명, 4명, 5명, 6명 또는 7명의 팀을 내뱉을 수는 있지만, 2명이나 8명은 절대 내뱉지 않는 상자를 상상해 보세요. 이는 다양한 유효한 팀 규모의 "혼합물"입니다. 이는 "3명에서 7명 사이"라는 **부등식 제약 조건(Inequality Constraint)**을 해결합니다.

저자들은 밀도 행렬(Density Matrices)(다양한 가능성의 혼합을 설명하는 세련된 수학적 방법)을 사용하여, 오직 유효한 해답만을 탐색하는 양자 회로를 만들었습니다.

• 페널티 불필요: 기계가 물리적으로 유효하지 않은 팀을 생성할 수 없으므로, 빨간색 낙점이나 페널티를 추가할 필요가 없습니다.
• 조절 불필요: 규칙을 얼마나 엄격하게 적용할지 추측할 필요가 없습니다. 규칙이 기계 안에 이미 하드웨어적으로 내장되어 있기 때문입니다.

테스트 방법

저자들은 이 아이디어를 "조합 포트폴리오 최적화"(최고의 주식 조합을 고르는 문제)를 사용하여 테스트했습니다. 그들은 난이도가 높아지는 세 가지 시나리오를 마치 산을 오르는 것처럼 만들었습니다:

1. 시나리오 1 (낮은 언덕): 11개의 옵션 중 최대 4개의 주식을 고릅니다.
2. 시나리오 2 (중간 언덕): 11개의 옵션 중 3개에서 6개 사이의 주식을 고릅니다.
3. 시나리오 3 (큰 산): 서로 다른 그룹의 주식들이 서로 다른 규칙을 가진 복잡한 혼합 형태입니다 (예: "에너지 섹터에서 정확히 3개", "금융 섹터에서 1개 또는 2개").

그들은 자신들의 새로운 "규칙 내장형" 양자 방법과 무작위 탐색(Random Search)(유효한 팀을 무작위로 찍는 방식)을 비교했습니다.

결과:

• 유효한 팀의 수가 많아질수록(시나리오 1에서 3으로 갈수록), 그들의 방법은 무작위 추측보다 훨씬 더 뛰어난 성능을 보였습니다.
• 무작위 추측은 눈을 가리고 다트를 던지는 것과 같습니다. 결국 과녁을 맞힐 수는 있겠지만 시간이 매우 오래 걸립니다. 그들의 방법은 유효한 목표물을 향해 날아가는 유도 미사일과 같습니다.
• 그들은 무작위 탐색보다 훨씬 빠르게 고품질의 해답(리스크와 보상의 최적의 균형점인 "효율적 투자선" 상의 포트폴리오)을 찾아냈습니다.

한계: 현실 세계의 노이즈

저자들은 이 기술을 실제 양자 컴퓨터(IBM의 노이즈가 있는 기기들)에서도 테스트했습니다.

• 문제점: 실제 양자 컴퓨터는 섬세한 악기와 같아서 "노이즈"가 발생합니다. 아주 작은 간섭만으로도 비트가 뒤집혀(0이 1로 변함) 오류가 생길 수 있습니다.
• 리스크: 만약 비트가 뒤집히면, 유효한 5인 팀이 실수로 6인 팀이 되어 규칙을 깨뜨릴 수 있습니다.
• 발견: 저자들은 자신들의 "혼합(Mixed)" 방식(3, 4, 5, 6, 7명을 허용하는 상자)이 엄격한 "순수(Pure)" 방식보다 이러한 오류에 대해 **더 견고하다(robust)**는 것을 발견했습니다. 단 하나의 오류가 발생하더라도, "혼합" 상스는 엄격한 상자보다 유효한 범위 내에 머물 가능성이 더 높기 때문입니다.
• 현실적인 점검: 이러한 장점에도 불구하고, 실제 하드웨어는 여전히 매우 노이즈가 심합니다. 실제 기기에서의 결과는 시뮬레이션과 비교했을 때 약 50%의 오차율을 보였습니다. 논문은 이 아이디어는 매우 훌륭하지만, 이를 실제 자산 관리 등에 사용하기 위해서는 더 나은 "노이즈 제거" 기술이 필요하다고 결론지었습니다.

요약

이 논문은 양자 컴퓨터를 위한 영리한 트릭을 제안합니다: 나쁜 답에 벌을 주는 대신, 애초에 나쁜 답을 만들 수 없는 기계를 만드십시오. "혼합 디케 상태"를 사용하여 구조적으로 규칙(예: 3~7개의 주식 선택)을 양자 회로에 인코딩함으로써, 까다로운 페널티 조절 문제를 제거했습니다. 실험 결과, 이 방식은 특히 복잡한 문제에서 무작위 탐색보다 훨씬 빠르게 최적의 해답을 찾아냈지만, 현실 세계의 하드웨어 노이즈는 여전히 극복해야 할 과제로 남아 있습니다.

기술 요약

기술 요약: 등식 및 부등식 제약을 위한 VQE의 순수 및 혼합 디케 상태 안사테즈(Ansatz)

문제 정의
본 논문은 조합 최적화 문제에 변분 양자 알고리즘(VQA), 특히 변분 양자 고유치 계산법(VQE)을 적용할 때 발생하는 핵심 과제를 다룹니다. 즉, 문제의 제약 조건(해밍 가중치 제한 등)을 준수하면서 힐베르트 공간의 실행 가능한 부분 공간을 탐색할 수 있을 만큼 표현력이 풍부한 안사테즈를 설계하는 것입니다. 전통적인 방식은 제약 조건을 강제하기 위해 목적 함수에 페널티 항을 사용하는 경우가 많으나, 이는 라그랑주 승수(Lagrange multipliers)를 튜닝해야 하는 어려움을 수반합니다. 또한, 변수와 제약 조건의 수가 증가함에 따라 최적해를 찾는 계산 비용이 기하급급수적으로 증가하여, 정확한 고전적 방법은 계산 불가능해지며 차선책인 근사법에 의존할 수밖에 없습니다. 본 논문에서 강조된 구체적인 문제 영역은 조합 포트폴리오 최적화로, 자산 선택 개수(해밍 가중치)에 대한 제약을 준수하면서 수익을 극대화하고 리스크를 최소화하는 것을 목표로 합니다.

방법론
저자들은 페널티 항 없이 등식 및 부등식 제약을 직접 양자 회로 안사테즈에 구조적으로 인코딩하는 실행 가능성 보존 프레임워크를 제안합니다.

1. 순수 및 혼합 디크 상태(Pure and Mixed Dicke States):

   • 등식 제약: 선택된 자산의 개수가 정확히 $k=b$여야 하는 제약의 경우, 저자들은 매개변수화된 순수 디크 상태(pure Dicke state) 안사테즈를 사용합니다. 이 상태는 고정된 해밍 가중치 $k$를 가진 계산 기저 상태들의 중첩이며, 자연스럽게 탐색 범위를 실행 가능한 부분 공간으로 제한합니다.
   • 부등식 제약: 상한 또는 하한($k \leq b$ 또는 $k \geq b$)이 포함된 제약의 경우, 저자들은 이를 **혼합 디크 상태(mixed Dickes states)**로 확장합니다. 밀도 행렬 형식과 개방 양자계 이론을 활용하여, 실행 가능한 범위 내에서 다양한 해밍 가중치를 가진 디크 상태들의 앙상블(mixture)을 나타내는 안사테즈를 구축합니다.
   • 구현: 혼합 상태는 서로 다른 디크 상태의 조건부 준비를 제어하기 위해 보조 큐비트(ancilla qubits)를 사용하여 생성됩니다. 보조 큐비트를 트레이스 아웃(trace out)하여 얻은 시스템의 축소 밀도 행렬은 이 혼합 상태를 기술합니다. VQE 목적 함수는 이 밀도 행렬과 문제 해밀토니안의 곱의 트레이스를 최소화하는 방향으로 일반화됩니다: $\min \text{tr}(\sigma H)$.

2. 텐서 곱 구조(Tensor Product Structure):
   이 프레임워크는 개별 순수 또는 혼합 디크 상태 밀도 행렬의 텐서 곱을 통해 구성함으로써, 여러 제약 그룹(예: 포트폴리오 내의 서로 다른 섹터)이 있는 문제로 일반화됩니다. 이를 통해 변수의 서로 다른 하위 집합에 걸쳐 다양한 유형의 제약(등식 및 부등식)을 동시에 만족시킬 수 있습니다.

3. 실험 설정:
   본 접근 방식은 복잡도가 증가하는 세 가지 시나리오를 통해 조합 포트폴리오 최적화에 대한 검증을 거쳤습니다:

   • 시나리오 I: 11개 자산과 상한 제약($k \leq 4$).
   • 시나리오 II: 11개 자산과 범위 제약($3 \leq k \leq 6$).
   • 시나리오 III: 텐서 곱 안사테즈를 활용하여 등식 및 부등식 제약이 혼합된 다중 섹터 포트폴리오(4개 섹터, 각 5개 자산).
     최적화에는 그래디언트 프리(gradient-free) 방법인 CMA-ES(Covariance Matrix Adaptation Evolution Strategy) 옵티마이저가 사용되었으며, 실행 가능한 부분 공간 내에서의 무작위 탐색(random search)과 비교되었습니다. 시뮬레이션은 클래식 하드웨어(CPU/GPU)에서 수행되었으며, IBM NISQ 프로세서에서 검증되었습니다.

주요 결과

• 탐색 효율성: 실행 가능한 탐색 공간의 크기가 커짐에 따라(시나리오 I의 561에서 시나리오 III의 45,000까지), 제안된 VQE-Dicke 프레임워크는 무작위 탐색에 비해 명확한 우위를 보여주었습니다. 이 프레임워크는 고품질의 해를 식별하는 데 훨씬 적은 수의 목적 함수 호출을 필요로 했습니다.
• 해의 품질: 모든 시나리오에서 최적화된 분포로부터 샘플링된 비트 문자열(bitstrings)은 클래식 효율적 경계(efficient frontier) 상 또는 그 근처에 위치하는 포트폴리오로 매핑되었습니다. 옵티마이저가 단일 최적 비트 문자열에 밀도 행렬을 완전히 집중시키지 못하더라도, 샘플링된 솔루션들은 여전히 고품질의 실행 가능한 후보였습니다.
• 하드웨어 성능: IBM NISQ 프로세서에서의 실험은 이론적 타당성을 확인해주었으나 실질적인 한계도 드러냈습니다. 안사테즈는 QPU에서 약 50%의 상대 오차를 보였습니다. 저자들은 혼합 상태 안사테즈가 단일 비트 플립 오류(순수 상태를 실행 가능한 집합 밖으로 이탈시킬 수 있음)에 대해 더 큰 이론적 견고성을 제공하지만, 두 큐비트 게이트의 누적 노이즈가 여전히 중요한 과제라고 언급했습니다.

의의 및 주장
본 논문은 페널티 항 없이 등식 및 부등식 제약을 모두 처리할 수 있는 최초의 실행 가능성 보존 혼합 디크 상태 안사테즈를 도입했다고 주장합니다. 주요 의의는 다음과 같습니다:

1. 구조적 제약 인코딩: 밀도 행렬 형식을 통해 제약을 안사테즈에 직접 임베딩함으로써, 라그랑주 승수 튜닝의 필요성을 제거하고 최적화 지형(optimization landscape)의 복잡도를 줄입니다.
2. 확장성: 이 접근 방식은 실행 가능한 부분 공간이 충분히 커서 전수 무작위 샘플링이 비효実적이지만, 전체 힐베르트 공간($O(2^n)$ 대비 $O(n^k)$)에 비해서는 작은 영역일 때 특히 효과적입니다.
3. 범용성: 포트폴리오 최적화에서 검증되었으나, 이 프레임워크는 해밍 가중치 제약이 있는 특성 선택(feature selection) 및 앙상블 선택(ensemble selection)과 같은 다른 조합 문제에도 직접 적용 가능하다고 주장됩니다.

저자들은 현재의 작업이 상업적 솔루션으로서의 완전한 구현이라기보다, 안사테즈의 잠재력을 입증하는 이론적 및 실험적 검증임을 강조하며, 노이즈 완화 및 회로 트랜스파일 최적화가 여전히 해결해야 할 과제로 남아 있음을 인정하며 신중한 입장을 유지하고 있습니다.