PCA and t-SNE analysis in the study of QAOA entangled and non-entangled mixing operators

본 연구는 최대 절단 문제에 대한 QAOA 매개변수 데이터셋에 주성분 분석과 t-SNE 분석을 적용하여, 얽힌 혼합 연산자가 깊이 2L 및 3L 에서 비얽힌 대응 연산자보다 뚜렷한 군집 행동을 보이며 더 많은 정보를 보존함을 입증함으로써, 두 연산자의 최적화 지형에서 정량화 가능하고 시각적으로 구별되는 차이를 규명한다.

핵심

복잡한 기계가 어떻게 작동하는지 이해하려고 한다고 상상해 보세요. 하지만 기어와 전선을 보는 대신, 기계가 퍼즐을 풀기 위해 선택한 최종 설정만 볼 수 있다고 가정해 봅시다. 이 논문이 QAOA(Quantum Approximate Optimization Algorithm, 양자 근사 최적화 알고리즘) 라는 양자 컴퓨팅 알고리즘에 대해 수행하는 일이 바로 이것입니다.

연구자들은 "얽힘(entanglement, 양자 비트가 깊이 연결되는 현상) 이라는 특정 기능을 추가하는 것이 알고리즘이 어떻게 "생각"하거나 행동하는지 변화시키는지 확인하고 싶어 했습니다. 이를 위해 그들은 PCA와 t-SNE라는 두 가지 수학적 도구를 사용했는데, 이는 거대한 3 차원 (심지어 100 차원) 데이터 방을 인간이 실제로 볼 수 있는 평면 2 차원 그림으로 축소할 수 있는 특수한 카메라처럼 작동합니다.

다음은 간단한 비유를 사용한 연구 내용 요약입니다:

1. 설정: 퍼즐과 두 가지 기계

연구자들은 **"Max-Cut"**이라는 고전적인 퍼즐을 풀었습니다. 파티에 모인 사람들을 두 그룹으로 나누어 그룹 간에 끊어지는 우정의 수를 최대화하고 싶다고 상상해 보세요.

그들은 이 문제를 해결하기 위해 QAOA 기계의 두 가지 버전을 구축했습니다:

• "비얽힘" 기계: 이 기계는 사람들이 퍼즐을 독립적으로 해결하는 것처럼 작동합니다. 각 사람 (큐비트) 은 혼합 단계 동안 다른 사람들과 대화하지 않고 자신의 움직임을 결정합니다.
• "얽힘" 기계: 이 기계는 사람들 사이에 "심리적 연결"(얽힘) 을 추가합니다. 그들은 서로의 움직임을 즉시 영향을 미칠 수 있으며, 더 복잡하고 연결된 전략을 만들어냅니다.

그들은 다양한 복잡도 수준 ( "깊이"라고 함) 에서 이 기계들을 테스트했습니다:

• 1L(Level 1): 단순하고 얕은 전략.
• 2L(Level 2): 중간 깊이의 전략.
• 3L(Level 3): 깊고 복잡한 전략.

2. 도구: PCA 와 t-SNE( "축소 광선" 카메라)

이 기계들이 생성한 데이터는 직접 보기에는 너무 컸습니다. 마치 모래 한 알을 보며 도서관의 책들을 읽으려는 것과 같았습니다. 그래서 그들은 데이터를 축소하기 위해 두 가지 방법을 사용했습니다:

• PCA(주성분 분석): 이것은 그림자 프로젝터라고 생각하세요. 3 차원 물체에 빛을 비추어 가능한 한 "가장 평평한" 그림자를 만듭니다. 노이즈는 버리면서 가장 중요한 세부 사항 (분산) 을 유지하려고 시도합니다. 전체적인 모양을 보여주는 데는 좋지만 일부 미묘한 곡선은 놓칠 수 있습니다.
• t-SNE(t-분포 확률적 이웃 임베딩): 이것은 자석 지도라고 생각하세요. 단순히 물체를 평평하게 만드는 대신, 어떤 점들이 "이웃"(친구) 인지 살펴보고 원래 3 차원 방에서 멀리 떨어져 있었더라도 2 차원 그림에서 서로 가까이 있도록 유지하려고 합니다. 숨겨진 군집이나 그룹을 찾는 데 더 좋습니다.

3. 발견: "얽힘"의 차이

실험에서 나온 최종 설정 ( "최적 매개변수") 을 가져와 이 "축소 광선" 카메라에 통과시켰을 때, 몇 가지 흥미로운 패턴이 나타났습니다:

"정보" 증가
중간 및 깊은 기계 (2L 및 3L) 의 경우, 얽힘 버전은 축소될 때 더 많은 "정보"를 유지하는 것처럼 보였습니다.

• 비유: 고해상도 사진을 작은 JPEG 로 압축하려고 한다고 상상해 보세요. 비얽힘 기계의 사진은 흐려지고 세부 정보가 손실됩니다. 반면 얽힘 기계의 사진은 놀랍도록 선명하게 유지됩니다. 수학적으로 얽힘 모델은 데이터의 원래 "이야기"를 더 많이 보존한다는 것이 입증되었습니다.

"군집" 효과
이것이 가장 시각적인 발견이었습니다.

• 비얽힘 모델: 매핑해 보면 데이터 포인트들이 무작위 먼지 구름처럼 보였습니다. 명확한 모양 없이 여기저기 흩어져 있었습니다.
• 얽힘 모델: 이 점들은 뚜렷한 모양, 선, 또는 군집으로 뭉치기 시작했습니다.
  • 비유: 테이블 위에 손에 든 구슬을 던졌을 때, 비얽힘 구슬들은 무작위로 흩어집니다. 반면 얽힘 구슬들은 마치 자석에 끌리듯 깔끔한 선이나 원을 형성하는 것처럼 보였습니다. 이는 "심리적 연결"이 기계가 서로 더 구조화되고 유사한 해답을 찾도록 강제한다는 것을 시사합니다.

"쌍" 테스트
연구자들은 두 가지 유형의 기계를 같은 그림에 섞어서 구별할 수 있는지 확인했습니다.

• PCA 그림에서 두 그룹은 같은 도시에 살더라도 서로 다른 이웃에 사는 것처럼 보였습니다.
• t-SNE 그림에서는 분리가 훨씬 더 명확했습니다. 얽힘 데이터는 단단하고 조직화된 섬을 형성한 반면, 비얽힘 데이터는 흩어진 바다로 남아 있었습니다.

4. 결론

이 논문은 QAOA 알고리즘의 혼합 부분에 얽힘 단계를 추가하는 것이 알고리즘이 해답 공간을 탐색하는 방식을 근본적으로 변화시킨다고 결론지었습니다.

• 시각적으로: 혼란스럽고 무작위하게 흩어진 데이터를 조직화된 군집 패턴으로 바꿉니다.
• 수학적으로: 데이터가 압축될 때 원래 정보를 더 많이 보존합니다 (낮은 "정보 손실").

저자들은 이러한 패턴이 명확하고 뚜렷하지만, 정확히 왜 이런 일이 발생하는지, 그리고 이러한 특정 모양이 알고리즘이 모든 경우에 퍼즐을 "더 잘" 풀고 있음을 의미하는지 여부는 아직 파악 중이라고 조심스럽게 말합니다. 그들은 이 시각화 도구를 사용하여 두 기계가 육안으로 구별될 정도로 다르게 행동한다는 것을 성공적으로 입증했지만, 이것이 미래 양자 컴퓨팅에 어떤 의미를 갖는지에 대한 완전한 이야기는 아직 쓰이고 있습니다.

기술 요약

기술 요약: QAOA 얽힘 및 비얽힘 혼합 연산자 연구에서의 PCA 및 t-SNE 분석

문제 제기
양자 근사 최적화 알고리즘 (QAOA) 은 Max-Cut 과 같은 조합 최적화 문제를 해결하는 데 사용되는 대표적인 변분 양자 알고리즘 (VQA) 입니다. 양자 하드웨어가 발전하고 회로 깊이가 증가함에 따라 이러한 알고리즘의 내부 동작을 이해하는 것이 중요해졌습니다. 구체적으로, 다양한 회로 구성, 특히 혼합 연산자 내 얽힘의 유무가 최적화 지형과 매개변수 분포에 어떻게 영향을 미치는지 분석할 필요가 있습니다. 이전 연구들은 문제 지형 표현과 매개변수 집중을 탐구해 왔으나, 본 연구는 QAOA 의 근본적인 모델에 관한 정보를 추출하고 시각화하여 얽힘 및 비얽힘 혼합 전략을 구분하는 데 초점을 맞추고 있습니다.

방법론
저자들은 Max-Cut 문제에 대해 생성된 최적 매개변수 데이터셋을 분석하기 위해 주성분 분석 (PCA) 과 t-분포 확률 이웃 임베딩 (t-SNE) 을 활용했습니다.

• 데이터 생성: 본 연구는 4, 10, 15 개의 노드를 가진 그래프의 Max-Cut 문제를 해결하기 위해 확률적 경사 하강법과 무작위 재시작 (SHC-RR) 최적화 방법을 사용했습니다. 순환형과 완전형 두 가지 그래프 구성이 테스트되었습니다.
• QAOA 모델: 실험은 세 가지 회로 깊이 (1L, 2L, 3L) 에서 수행되었습니다. 각 깊이마다 두 가지 혼합 연산자 변형이 비교되었습니다:
  1. 비얽힘: 표준 $R_X$ 및 $R_Y$ 회전을 사용.
  2. 얽힘: $R_X$ 및 $R_Y$ 회전 사이에 CNOT 게이트를 사용하는 추가 얽힘 단계를 포함.
• 차원 축소:
  • PCA: 회로 깊이에 따라 3 개, 6 개, 또는 9 개인 매개변수 집합의 차원을 첫 세 개의 주성분으로 축소하는 데 적용되었습니다. 분석은 설명된 분산과 데이터 포인트의 기하학적 분포에 중점을 두었습니다. 개별 모델 분석과 얽힘 및 비얽힘 데이터셋을 결합한 쌍별 분석이 모두 수행되었습니다.
  • t-SNE: 데이터 내의 비선형 관계와 국소 구조를 시각화하는 데 적용되었습니다. 알고리즘의 안정성을 보장하기 위해 PCA 를 사용하여 초기화되었습니다. 다양한 퍼플렉시티 값 (3, 30, 99, 199) 이 테스트되었습니다. 매핑의 품질은 Kullback-Leibler (KL) 발산을 사용하여 정량화되었습니다.

주요 기여 및 결과

• 분산 분포 (PCA):

  • 얽힘 모델: 더 높은 깊이 (2L 및 3L) 를 가진 모델에서 얽힘 혼합 연산자는 비얽힘 대응 모델에 비해 주성분에서 일관되게 더 높은 설명 분산을 보여주었습니다. 이는 얽힘 단계가 매개변수 공간에 더 많은 감지 가능한 정보나 분산을 도입함을 시사합니다.
  • 클러스터링: PCA 투영의 시각적 분석 결과, 얽힘 모델 (특히 2L 깊이에서) 은 종종 뚜렷한 클러스터링 행동 (예: 세 줄 클러스터 또는 타원형 그룹화) 을 보인 반면, 비얽힘 모델은 명확한 패턴 없이 무작위로 흩어진 분포를 자주 나타냈습니다.
  • 한계: 3L 깊이 모델 (9 개 매개변수) 의 경우, 첫 세 개의 PCA 성분이 포착한 총 분산은 상대적으로 낮았습니다 (종종 50% 미만). 이로 인해 이러한 복잡한 모델에 대한 매핑에 대한 명확한 결론을 내리는 것이 어려웠습니다.

• 비선형 매핑 (t-SNE):

  • 성능: t-SNE 는 특히 높은 퍼플렉시티 설정 (99 및 199) 에서 더 낮은 KL 발산 값으로 입증된 바와 같이, 저차원 공간에서 데이터를 표현하는 데 일반적으로 PCA 보다 우수했습니다.
  • 구분: t-SNE 임베딩은 얽힘 및 비얽힘 모델 간에 성공적으로 구분을 이루었습니다. 얽힘 모델은 특정 클러스터를 형성하거나 선이나 타원과 같은 구조화된 패턴을 따르는 경향이 있는 반면, 비얽힘 모델은 종종 더 균일하거나 무작위적인 분포를 유지했습니다.
  • 퍼플렉시티 민감도: 연구 결과에 따르면 퍼플렉시티가 결과에 상당한 영향을 미쳤습니다. 더 높은 퍼플렉시티 값 (예: 개별 모델의 경우 99, 쌍별 모델의 경우 199) 은 일반적으로 더 나은 KL 발산 점수와 더 안정적인 표현을 산출했습니다.

• 쌍별 분석: 얽힘 및 비얽힘 모델을 함께 투영했을 때, 개별 분석에서 관찰된 뚜렷한 행동은 대부분 유지되었습니다. 얽힘 단계는 투영된 점들의 분포에 감지 가능한 변화를 도입하여 두 모델 유형의 시각적 분리를 가능하게 했습니다.

의의 및 주장
본 논문은 PCA 와 t-SNE 의 적용이 혼합 연산자에서 얽힘 유무에 따른 QAOA 모델 간의 차이를 시각화하고 정량화하는 실현 가능한 방법을 제공한다고 주장합니다. 결과는 얽힘 모델이 PCA 에서 더 높은 분산 유지와 t-SNE 에서 더 명확한 클러스터링을 특징으로 하는 매개변수 공간에서 고유한 구조적 특성을 지니고 있음을 나타냅니다.

저자들은 이러한 발견의 보편성에 대해 겸손한 입장을 유지합니다. 그들은 매핑 결과가 테스트된 특정 Max-Cut 문제와 깊이에 대해 얽힘 및 비얽힘 모델 간의 감지 가능한 차이를 명확하게 보여주고 있지만, 이러한 특정 패턴이 모든 QAOA 모델이나 문제 유형에 걸쳐 보편적이라고 결론 내리기에는 시기상조라고 명시합니다. 본 연구는 이러한 시각화 기법이 근본적인 모델 행동에 대한 통찰력을 추출하는 데 유용함을 강조하지만, 이러한 분산을 주도하는 구체적인 게이트 상호작용을 이해하고 이러한 패턴이 다른 최적화 전략 및 문제 영역에서 지속되는지 확인하기 위해서는 추가 조사가 필요하다고 지적합니다.