Q-PhotoNAS: Hybrid Quantum Neural Architecture Search Framework on Photonic Devices

본 논문은 유전 알고리즘과 학습 가능한 양자 위상 인코딩을 결합하여 광자 양자 - 고전 모델을 자동으로 설계하고 최적화하는 하이브리드 신경 아키텍처 탐색 프레임워크인 Q-PhotoNAS 를 소개하며, 이는 이미지 분류 벤치마크에서 높은 정확도를 달성함과 동시에 광자 하드웨어의 고유한 특징 추출 능력을 입증합니다.

핵심

복잡한 요리를 위한 궁극적인 레시피를 만들려고 상상해 보세요. 하지만 여기서는 두 가지 매우 다른 셰프가 함께 일합니다: 인간 셰프(고전 컴퓨터)와 마법사(양자 컴퓨터). 인간 셰프는 채소를 다지고 재료를 정리하는 데 탁월하지만, 마법사는 인간이 혼자서는 할 수 없는 불가능한 마술을 부릴 수 있습니다.

문제는 이 두 명이 어떻게 함께 일해야 하는지 파악하는 것이 매우 어렵다는 점입니다. 인간 셰프에게만 요리를 맡기면 요리는 그럭저럭 나쁘지 않습니다. 마법사에게만 맡기면 재앙이 됩니다. 하지만 두 사람을 섞으려 하면, 그들의 기술을 결합하는 방식이 수십억 가지나 됩니다. 모든 조합을 일일이 손으로 시도해 보는 것은 우주가 존재한 시간보다 더 오래 걸릴 것입니다.

이 논문은 Q-PhotoNAS라는 스마트한 "맛보기 로봇"을 소개합니다. 이 로봇은 전기가 아닌 빛(광자)을 사용하는 특정 유형의 양자 컴퓨터를 위해, 인간 - 마법사 팀을 위한 완벽한 레시피를 자동으로 찾아냅니다.

다음은 이를 간단한 개념으로 분해한 작동 원리입니다:

1. 문제: 선택지가 너무 많습니다

이 하이브리드 시스템을 설계하는 것은 커스텀 카를 만드는 것과 같습니다. 다음을 결정해야 합니다:

• 엔진의 크기는 얼마나 커야 하는지.
• 어떤 연료를 사용할지.
• 핸들이 바퀴에 어떻게 연결되는지.
• 시트의 색상.

빛 기반 양자 컴퓨팅 세계에서는 이러한 부품들을 배열하는 약 370 억 가지의 서로 다른 방법이 있습니다. 저자들은 이를 수동으로 시도해 보았습니다 (어떤 부품이 맞는지 기계공이 추측하는 것처럼). 그 결과 느리고, 종종 잘 작동하지 않는 차를 만드는 것으로 나타났습니다. 그들은 최상의 조합을 자동으로 테스트할 수 있는 방법이 필요했습니다.

2. 해결책: "진화형" 로봇 셰프

저자들은 Q-PhotoNAS라는 시스템을 개발했는데, 이는 디지털 진화 실험실처럼 작동합니다. 인간이 추측하는 대신 컴퓨터는 유전 알고리즘을 사용합니다.

• 개체군: 로봇이 한 번에 20 개의 서로 다른 "아기" 레시피 (아키텍처) 를 생성한다고 상상해 보세요.
• 테스트: 작은 양의 데이터를 사용하여 요리의 맛을 확인하기 위해 요리의 작은, 빠른 버전을 요리합니다.
• 선택: 가장 맛있는 20 가지 레시피를 유지하고 나쁜 것들은 버립니다.
• 혼합 (교차): 두 가지 좋은 레시피의 가장 좋은 부분을 가져와 서로 섞습니다. 예를 들어, 레시피 A 의 "엔진"과 레시피 B 의 "조향"을 가져와 새롭고 잠재적으로 더 나은 레시피 C 를 만들 수 있습니다.
• 변이: 때로는 맛을 개선하는지 확인하기 위해 한 가지 재료를 무작위로 변경합니다 (설탕 대신 소금 한 꼬집을 추가하는 것처럼).
• 루프: 이 과정을 30 회 반복합니다. 매 라운드마다 레시피는 점점 더 나아지며 완벽한 조합을 향해 진화합니다.

3. 특별한 재료: "학습 가능한" 빛

이 논문에서 가장 큰 혁신 중 하나는 "마법" 부분을 처리하는 방식입니다. 일반적으로 데이터를 양자 컴퓨터에 입력할 때는 특정 형태로 강제로 넣어야 합니다 (예: 네모난 못을 둥근 구멍에 억지로 끼우는 것).

이 새로운 프레임워크에서는 로봇이 빛 자체를 어떻게 모양을 잡을지 학습합니다. 양자 컴퓨터가 데이터를 가장 잘 이해할 수 있도록 이미지 데이터를 "위상"(파동의 타이밍을 조정하는 것과 유사) 으로 변환하는 완벽한 방법을 찾아냅니다. 이는 마법사를 강제로 경직되고 미리 설정된 트릭을 사용하게 하는 대신, 로봇이 마법사가 최상의 결과를 얻기 위해 정확히 어떻게 지팡이를 흔들어야 하는지 가르치는 것과 같습니다.

4. 결과: 승리하는 레시피

로봇은 두 가지 유명한 이미지 데이터셋인 Digits(손으로 쓴 0~9 번 숫자) 와 MNIST(더 크고 어려운 손으로 쓴 숫자 세트) 에 대해 새로운 레시피를 테스트했습니다.

• 점수: 로봇은 Digits 테스트에서 **99.44%**의 정확도를, MNIST 테스트에서는 **98.78%**의 정확도를 보이는 레시피를 찾았습니다.
• 비교: 이 "인간 + 마법사" 팀을 "인간 전용" 팀 (양자 부분이 없는 일반 컴퓨터) 과 비교했을 때, 하이브리드 팀이 매번 승리했습니다.
• 승리한 이유: 분석 결과, "마법사"(광자 계층) 가 인간 셰프가 한 일을 단순히 반복한 것이 아니라는 것이 드러났습니다. 인간 셰프가 볼 수 없는 숨겨진 패턴과 특징을 찾아내어 요리에 인간이 혼자서는 제공할 수 없는 새로운 차원의 맛을 효과적으로 더했습니다.

5. 속도 점검: 마법은 얼마나 빠른가?

저자들은 또한 빛을 사용하는 실제 물리 양자 컴퓨터 (Quandela Ascella 칩) 에서 이 작업이 얼마나 걸리는지 계산했습니다.

• 병목 현상: 가장 느린 부분은 빛이 이동하는 것 (즉시 발생) 이나 검출이 아닙니다. 바로 가열입니다. 기계는 빛의 경로를 변경하기 위해 열을 사용하며, 이는 데우고 식히는 데 약간의 시간이 걸립니다.
• 시간: 이러한 가열 지연이 있음에도 불구하고, 시스템은 Digits 의 경우 약 67 밀리초, MNIST 의 경우 149 밀리초 안에 단일 이미지를 식별할 수 있었습니다. 이는 많은 실제 작업에 실용적으로 사용할 수 있을 만큼 빠릅니다.

요약

간단히 말해, 이 논문은 AI 를 위한 양자 컴퓨터를 구축하기 위해 우리가 천재 건축가가 될 필요가 없다는 것을 보여줍니다. 대신 자동화된 진화 로봇을 사용하여 수십억 가지 가능성을 탐색하고, 고전 컴퓨터와 빛 기반 양자 컴퓨터를 혼합하는 완벽한 방법을 찾아, 어느 쪽이 혼자일 때보다 더 똑똑하고 정확한 시스템을 만들 수 있습니다. 이는 완벽한 자동차 설계를 인간이 추측하는 것과 공장이 자동으로 자동차를 만들고, 테스트하며, 완벽해질 때까지 개선하는 것 사이의 차이와 같습니다.

기술 요약

기술 요약: Q-PhotoNAS

문제 제기
광자 양자 컴퓨팅은 상온 작동, 낮은 결어긋남 (decoherence), 기존 광섬유 네트워크와의 호환성으로 인해 확장 가능한 양자 머신러닝 (QML) 을 위한 유망한 플랫폼을 제공합니다. 그러나 효과적인 하이브리드 광자 양자 - 고전 아키텍처를 설계하는 것은 여전히 중요한 과제입니다. 현재의 접근 방식은 고전 전처리 파이프라인, 데이터 인코딩 전략 (고전 특징을 광 위상으로 매핑), 그리고 주변 고전 레이어의 구조와 같은 개별 구성 요소의 수동 튜닝에 의존합니다. 논문의 동기 부여 예시 (그림 1) 에서 보인 바와 같이, Digits 및 MNIST 와 같은 데이터셋에서 경쟁력 있는 정확도를 달성하려면 각 아키텍처 변경이 전체 재학습 실행을 필요로 하는 반복적이고 수동으로 설계된 시도들이 필요합니다. 결합된 설계 공간은 방대하며 (약 $3.7 \times 10^{10}$개의 구성), 구성 요소 간의 강력한 상호작용으로 인해 탐욕적인 수동 튜닝은 신뢰할 수 없고 비효율적입니다. furthermore, 기존의 신경망 아키텍처 검색 (NAS) 프레임워크는 게이트 기반 큐비트 시스템과 구별되는 고유한 제약 조건 (예: 고정 모드 수, 특정 인코딩 비선형성) 을 가진 광자 하드웨어를 특별히 대상으로 하지 않습니다.

방법론: Q-PhotoNAS 프레임워크
저자들은 하이브리드 광자 양자 - 고전 모델을 위해 특별히 설계된 신경망 아키텍처 검색 프레임워크인 Q-PhotoNAS를 제안합니다. 이 시스템은 데이터 전처리, 점진적 모델 개발, 유전 알고리즘 (GA) 기반 검색, 그리고 하드웨어 실행 시간 추정의 네 가지 단계를 통합합니다.

1. 게놈과 검색 공간: 이 프레임워크는 여섯 가지 기능적 유전자 그룹에 걸쳐 19 개의 하이퍼파라미터를 인코딩합니다.

   • 데이터/전처리: PCA 구성 요소 및 컨볼루션 프론트엔드 파라미터.
   • 양자 전 네트워크: 양자 회로에 앞서는 고전 레이어의 깊이, 너비, 활성화 함수, 그리고 정규화.
   • 위상 인코딩: 고정된 방식을 대체하는 새로운 학습 가능한 인코딩 메커니즘. 이는 $\theta_i = \text{act}_\phi(x_i \cdot s_i + b_i) \cdot \pi$인 미분 가능한 변환을 사용하며, 여기서 활성화 함수 ($\sigma$, $\tanh$, 또는 $\text{clamp}$), 스케일 초기화 ($s_i$), 그리고 편향 포함 ($b_i$) 은 모두 GA 에 의해 최적화됩니다.
   • 양자 레이어: 광자 회로의 출력 차원.
   • 분류기 헤드: 최종 고전 레이어의 깊이, 너비, 그리고 활성화.
   • 학습: 학습률, 스케줄, 가중치 감쇠, 그리고 그래디언트 클리핑.
     검색 공간은 약 $3.7 \times 10^{10}$개의 구성에 달합니다.

2. 유전 알고리즘 전략: GA 는 30 세대에 걸쳐 20 개의 후보 아키텍처 집단을 진화시킵니다. 이는 다음을 활용합니다.

   • 그룹 기반 교차: 아키텍처의 일관성을 유지하기 위해, 전체 유전자 그룹 (예: 모든 양자 전 파라미터) 이 부모로부터 단위로 상속되어 일관성 없는 아키텍처 (예: 좁은 너비를 가진 깊은 네트워크) 의 생성을 방지합니다.
   • 유전자별 변이: 구성을 정교하게 다듬거나 다양화하기 위한 국소 단계와 전역 점프의 혼합.
   • 엘리티즘: 상위 2 개 개체는 변경 없이 보존됩니다.
   • 적합도 평가: 후보들은 검증 정확도를 추정하기 위해 짧은 "프록시" 예산 (Digits 의 경우 1,000 개 샘플에 대해 5 에포크, MNIST 의 경우 5,000 개 샘플에 대해 3 에포크) 으로 평가됩니다. 이후 발견된 최상의 아키텍처는 전체 데이터셋에 대해 100 에포크 동안 완전히 재학습됩니다.

3. 하드웨어 추정: 이 프레임워크는 Quandela Ascella 광자 QPU 에서의 실행 시간을 추정하기 위한 첫 번째 원리 (first-principles) 수학적 모델을 포함합니다. 총 지연 시간 ($T_{total}$) 은 위상 시프터 재구성 시간 ($T_{prep}$), 도파로 전파 시간 ($T_{prop}$), 검출 시간 ($T_{det}$), 그리고 전자적 오버헤드 ($T_{lat}$) 의 합으로 모델링됩니다. 몬테카를로 시뮬레이션은 열 드리프트, 광자 동시성 불확실성, 그리고 전자적 지터 (jitter) 를 고려합니다.

주요 결과
이 프레임워크는 Digits 및 MNIST 이미지 분류 벤치마크에서 평가되었습니다.

• 정확도: Q-PhotoNAS 는 Digits 에서 99.44%, MNIST 에서 **98.78%**의 최종 검증 정확도를 달성했습니다. 이러한 결과는 수동으로 설계된 베이스라인 (예: 순수 양자 회로 또는 고정 인코딩 하이브리드) 보다 훨씬 우수하며, 고전 전용 베이스라인과 일치했습니다.
• 양자 기여도: 학습된 아키텍처에 대한 분석은 광자 레이어가 중복되지 않는 특징을 추출함을 보여주었습니다.
  • Digits 의 경우, 양자 출력의 클래스 간 코사인 유사도는 낮아 (0.135) 직교하는 클래스 분리를 나타냈습니다. 양자 및 고전 특징 간의 샘플별 유사도는 0.167 로, 보완적인 정보를 시사했습니다.
  • MNIST 의 경우, 클래스 간 유사도는 0.100 이었고, 샘플별 유사도는 -0.154로, 광자 레이어가 고전 경로와 적극적으로 *반정렬 (anti-aligns)*하여 더 강력한 형태의 보완성을 제공함을 나타냈습니다.
  • 하이브리드 모델은 매개변수가 일치하는 고전 전용 베이스라인보다 일관되게 약 0.65 퍼센트 포인트 (Digits) 및 0.83 퍼센트 포인트 (MNIST) 더 우수한 성능을 보였으며, 무작위 시드 간 분산이 더 낮았습니다.
• 하드웨어 지연 시간: Quandela Ascella QPU 에서 단일 이미지 추론 시간은 Digits 의 경우 약 67 ms, MNIST 의 경우 약 149 ms로 추정되었습니다. 분석은 열 위상 시프터 재구성이 지배적인 비용 (양자 예산의 88% 이상 차지) 으로 식별되었으며, 이는 회로 깊이에 따라 선형적으로 증가함을 확인했습니다.

의의 및 주장
이 논문은 하이브리드 광자 양자 - 고전 아키텍처를 위해 특별히 설계된 최초의 NAS 프레임워크를 제시한다고 주장합니다. 그 의의는 다음과 같습니다.

1. 체계적인 설계 공간 탐색: 고전 전처리, 학습 가능한 위상 인코딩, 그리고 광자 회로 구조 간의 복잡하고 미분 불가능한 상호작용을 처리하는 자동화된 검색으로, 수동 시행착오 설계에서 벗어납니다.
2. 학습 가능한 인코딩: 위상 인코딩 변환을 공동 최적화 설계 축으로 취급함으로써, 프레임워크는 광자 회로가 데이터 분포와 위상 공간을 엔드투엔드로 정렬하도록 허용하여 고정 인코딩 방식의 한계를 극복합니다.
3. 실용적 타당성: 결과는 자동화된 검색이 하이브리드 광자 시스템에서 실용적임을 보여주며, 현재 열 광자 하드웨어에서 수십 밀리초 범위의 추론 시간으로 높은 정확도를 달성합니다.
4. 하드웨어 인식 최적화: 첫 번째 원리 타이밍 추정기의 포함은 하드웨어 병목 현상 (특히 열 재구성) 을 식별하여 향후 하드웨어 개발을 전기 - 광학 대안으로 이끕니다.

저자들은 Q-PhotoNAS 가 광자 장치에서 양자 AI 의 체계적 설계를 위한 재사용 가능하고 원칙적인 프레임워크를 제공하며, 더 큰 모드 수와 대체 인코딩 전략을 탐색하는 길을 연다고 결론지었습니다.