Quantum Feature Selection with Higher-Order Binary Optimization on Trapped-Ion Hardware

본 논문은 IonQ Forte 포획 이온 하드웨어에서 성공적으로 구현되어 머신러닝 전처리를 위한 경쟁력 있는 분류 성능과 고차 양자 최적화의 실현 가능성을 입증한 다변량 종속성을 갖는 고차 무제약 이진 최적화 (HUBO) 형식을 사용한 양자 특징 선택 프레임워크를 제시합니다.

핵심

거대한 퍼즐을 풀려고 노력한다고 상상해 보세요. 하지만 전체 그림을 명확하게 보기 위해 필요한 것은 전체 32 개의 조각 (특징) 중 일부뿐입니다. 문제는 어떤 조각은 단독으로 볼 때 중요해 보이지만, 어떤 조각은 다른 조각과 짝을 이루었을 때만 중요해 보이며, 어떤 조각들은 서로 중복된다는 점입니다.

이 논문은 양자 컴퓨터를 사용하여 퍼즐 조각의 완벽한 조합을 찾는 새로운 방법을 설명합니다. 기존 방법처럼 조각을 하나씩 또는 두 개씩만 살펴보는 대신, 이 새로운 방법은 세 조각이 어떻게 함께 작용하는지 살펴봅니다.

다음은 간단한 비유를 사용한 그들의 접근 방식에 대한 해설입니다:

1. 문제: 선택지가 너무 많음

데이터 과학에서 "특징 선택 (Feature Selection)"은 방대한 목록에서 가장 유용한 정보를 선택하는 과정입니다.

• 기존 방식 (QUBO): "A 라는 사람은 얼마나 좋은가?"와 "A 와 B 는 얼마나 잘 지내는가?"만 물어보면서 최고의 팀원을 뽑는다고 상상해 보세요. 이는 때로는 세 사람으로 구성된 특정 그룹이 개인이나 짝을 이루었을 때는 볼 수 없는 마법 같은 화학적 반응을 만들어낸다는 사실을 놓치게 합니다.
• 새로운 방식 (HUBO): 저자들은 "이 특정 세 사람이 함께 일할 때 얼마나 좋은가?"라고 묻는 방법을 고안했습니다. 이를 **고차 무제약 이진 최적화 (Higher-Order Unconstrained Binary Optimization, HUBO)**라고 부릅니다. 이는 개별 능력뿐만 아니라 복잡한 그룹 역학까지 즉각적으로 이해할 수 있는 초지능적인 관리자와 같습니다.

2. 레시피: "에너지" 모델

최고의 팀을 찾기 위해 연구자들은 **해밀토니안 (Hamiltonian)**이라는 수학적 "레시피"(점수판으로 생각하세요) 를 구축했습니다.

• 관련성 (1-체): 정보 조각이 단독으로 매우 유용하다면, 점수판은 이에 "보너스"를 주어 에너지 수준을 낮춥니다.
• 중복성 (2-체): 두 개의 정보 조각이 정확히 같은 내용을 말한다면, 점수판은 둘 다 선택하는 것을 벌칙으로 하여 에너지 수준을 높입니다.
• 복합 그룹 (3-체): 이것이 비결입니다. 세 개의 정보 조각이 결합될 때만 강력한 통찰력을 만들어낸다면, 점수판은 그 특정 세트를 보상합니다.
• "공짜 점심은 없다" 규칙: 컴퓨터가 모든 조각을 선택하는 게으르고 쉬운 해결책을 피하도록 하기 위해 벌칙을 추가했습니다. 마치 엄격한 코치가 "전체 팀을 뽑을 수는 없다. 반드시 최고의 소규모 전담팀을 뽑아야 한다"고 말하는 것과 같습니다.

3. 기계: 양자 체육관

연구자들은 이 레시피를 IonQ에서 만든 실제 양자 컴퓨터에서 테스트했는데, 이 컴퓨터는 이온 (전하를 띤 원자) 을 "비트"로 사용합니다.

• 운동: **디지털화된 반단열 양자 최적화 (Digitized Counterdiabatic Quantum Optimization, DCQO)**라는 기법을 사용했습니다. 안개가 자욱한 계곡에서 가장 낮은 지점을 찾는 상황을 상상해 보세요. 일반적인 걷기는 작은 함정에 갇히게 할 수 있습니다. 이 기법은 컴퓨터가 안개에 갇히지 않고 가장 낮은 지점 (최고의 해결책) 으로 빠르고 부드럽게 "미끄러져" 내려가도록 안내하는 가이드 투어와 같습니다.
• 결과: 컴퓨터는 이 "운동"을 수행한 후 각 특징에 대한 확률 목록을 출력하여, 해당 특징이 최고의 해결책에 얼마나 자주 나타났는지 알려주었습니다.

4. 시승 테스트: 두 가지 실제 시나리오

그들은 이 방법이 실제로 작동하는지 확인하기 위해 두 가지 다른 데이터 세트로 테스트를 진행했습니다:

• 시나리오 A: 담석 데이터 세트 (의료)

  • 과제: 32 가지 건강 지표 (콜레스테롤, 나이, 체중 등) 를 기반으로 환자가 담석을 가지고 있는지 예측합니다.
  • 결과: 양자 방법은 19 가지 핵심 지표를 선택했습니다. 이는 표준 컴퓨터 방법 (PCA 나 단순 순위로 상위 19 개를 선택하는 것 등) 보다 더 좋은 성과를 냈습니다. 이는 모든 데이터를 사용하는 것과 동일하거나 더 나은 질병 예측을 제공하는 더 작고 깨끗한 증상 목록을 찾아냈습니다.
  • 확인: 그들은 실제 양자 컴퓨터 결과와 완벽한 노이즈 없는 시뮬레이션을 비교했습니다. 두 결과가 매우 밀접하게 일치하여 실제 하드웨어가 예상대로 작동함을 입증했습니다.

• 시나리오 B: 스팸베이스 데이터 세트 (이메일)

  • 과제: 32 가지 단어/문자 빈도를 기반으로 이메일이 스팸인지 아닌지 판별합니다.
  • 결과: 양자 방법은 목록을 23 가지 핵심 지표로 줄였습니다. 다시 한 번 표준 방법보다 우수한 성과를 보였습니다. 이는 "신호"(실제로 스팸을 나타내는 단어) 를 유지하면서 "노이즈"(중복된 단어) 를 제거하는 데 성공했습니다.

5. 결론

이 논문은 다음과 같이 주장합니다:

1. 작동함: 양자 컴퓨터가 성공적으로 고품질의 데이터 부분 집합을 찾았습니다.
2. 기존 방식보다 우수함: "세 가지 관계"(고차) 를 살펴봄으로써 개인이나 짝만 보는 방법보다 더 나은 조합을 찾았습니다.
3. 효율적임: 정확도를 잃지 않으면서 정확한 예측을 위해 필요한 데이터 양을 줄였습니다.
4. 하드웨어 준비 완료: 실제 IonQ 기계의 결과가 완벽한 시뮬레이션과 매우 유사하여, 오늘날의 양자 컴퓨터가 이미 이러한 복잡한 "그룹 역학" 문제를 처리할 능력이 있음을 시사합니다.

간단히 말해, 저자들은 사람들이 짝이 아닌 세 명으로 상호작용하는 방식을 이해하기 때문에 그룹 내에서 가장 가치 있는 팀원을 더 잘 찾아내는 양자 "스카우트"를 구축했습니다. 그들은 실제 하드웨어와 실제 데이터로 이것이 작동함을 입증했습니다.

기술 요약

"Quantum Feature Selection with Higher-Order Binary Optimization on Trapped-Ion Hardware" 논문에 대한 상세한 기술 요약입니다.

1. 문제 제기

특성 선택 (Feature Selection, FS) 은 고차원 데이터셋에서 모델 해석성 향상, 과적합 감소, 계산 효율성 증대에 필수적입니다. 그러나 기존 고전적 FS 방법은 다음과 같은 중대한 한계에 직면해 있습니다:

• 래퍼 (Wrapper) 방법: 계산 비용이 매우 높고 확장성이 떨어집니다.
• 필터 (Filter) 방법: (상호 정보량 등) 종종 특성 간 상호작용을 무시합니다.
• 임베디드 (Embedded) 방법: 하이퍼파라미터에 민감하며, 종종 선형 또는 계층적 의존성으로 편향됩니다.
• 양자적 한계: 기존 양자 접근법은 FS 를 이차 제약 없는 이진 최적화 (QUBO) 문제로 공식화하는 경향이 있습니다. QUBO 는 1 차 및 2 차 상호작용으로 제한되므로, 고차 의존성 (다변량 관계) 을 무시하거나 근사화하거나, 비용이 많이 드는 2 차 변환 (quadratization) 오버헤드를 통해 도입해야 하는 문제가 발생합니다.

핵심 과제: 2 차 형태로 문제를 축소하지 않고 양자 최적화 프레임워크 내에서 특성 간의 복잡하고 고차적인 통계적 의존성을 명시적으로 포착하는 방법, 그리고 이를 현재의 잡음이 있는 중간 규모 양자 (NISQ) 하드웨어에서 실행하는 방법은 무엇인가?

2. 방법론

저자들은 IonQ Forte 트랩드 이온 하드웨어에서 실행되는 고차 제약 없는 이진 최적화 (HUBO) 기반의 새로운 프레임워크를 제안합니다.

A. HUBO 공식화

이차 해밀토니안 대신, 1 차, 2 차, 그리고 3 체 (three-body) 상호작용 항을 포함하는 해밀토니안으로 문제가 인코딩됩니다:
$$H(Z) = \sum_i h_i Z_i + \sum_{i<j} J_{ij} Z_i Z_j + \sum_{i<j<k} K_{ijk} Z_i Z_j Z_k + C$$

• 변수: $Z_i \in \{-1, +1\}$ (Ising 규약), 여기서 $-1$은 특성 선택을 나타냅니다.
• 계수: 상호 정보량 (Mutual Information, MI) 에서 도출됨:
  • $h_i$: 타겟에 대한 개별 특성의 관련성을 인코딩합니다.
  • $J_{ij}$: 쌍별 중복성을 인코딩합니다 (상관된 특성을 패널티로 부과).
  • $K_{ijk}$: 고차 의존성을 인코딩합니다 (세 개의 특성 그룹에서만 존재하는 정보를 포착).
• 구조화된 패널티: 자명한 해 (예: 모든 특성 선택) 를 방지하기 위해, 임계값 $\tau$ 미만의 미미한 관련성을 가진 특성을 억제하는 선형 패널티 항 $H_\lambda$가 추가됩니다.

B. 최적화 알고리즘: 디지털화된 반단열 양자 최적화 (DCQO)

저자들은 HUBO 해밀토니안의 바닥 상태를 찾기 위해 DCQO 를 활용합니다:

• 메커니즘: "단열성으로의 단축 (shortcuts to adiabaticity)"에서 영감을 받은 게이트 기반 접근법입니다. 드라이버 해밀토니안과 목표 HUBO 해밀토니안 사이를 보간하면서 근사적인 반단항 (counterdiabatic) 항을 추가하여 유한 시간 진동 중의 단열적이지 않은 전이를 억제합니다.
• 실행: IonQ Forte(Yb+ 이온) 에서 전결합 (all-to-all) 연결성을 통해 구현되었으며, 이는 복잡한 임베딩 없이 HUBO 에 필요한 장거리 상호작용을 자연스럽게 지원합니다.

C. 후처리 및 선택

1. 샘플링: 시스템을 측정하여 비트열 샘플을 생성합니다.
2. 필터링: 샘플을 에너지 순으로 순위 매깁니다. 잡음을 제거하기 위해 가장 낮은 에너지 비율 ($\rho$, 예: 상위 25%) 만 유지합니다.
3. 점수 매기기: 특성 중요도 ($I_i$) 는 저에너지 부분집합 내에서 특성이 선택 ($x_i=1$) 된 경험적 빈도로 계산됩니다.
4. 임계값 설정: $I_i \geq \delta$인 경우 특성이 선택됩니다.

3. 주요 기여

1. 특성 선택을 위한 HUBO: QUBO 축소의 내재적 정보 손실을 피하고 3 체 상호작용을 직접 포착하는 특성 선택을 명시적으로 공식화한 최초의 사례입니다.
2. 하드웨어 구현: IonQ Forte 트랩드 이온 하드웨어에서 고차 최적화 문제를 성공적으로 실행하여, 머신러닝 전처리를 위한 심층 양자 회로 실행의 실현 가능성을 입증했습니다.
3. 모델 독립성: 이 방법은 데이터에서 도출된 통계적 의존성 (상호 정보량) 에만 의존하며, 선택 단계 동안 모델 학습이 필요하지 않습니다.
4. 벤치마킹: 실제 세계 데이터셋에 대한 무잡음 양자 시뮬레이션 및 고전적 베이스라인 (SelectKBest 및 PCA) 에 대한 포괄적인 비교 분석을 수행했습니다.

4. 실험 결과

이 프레임워크는 두 가지 데이터셋에서 테스트되었습니다: Gallstone(생물의학, 38 개 특성) 과 Spambase(텍스트, 57 개 특성). 하드웨어 제약으로 인해 두 데이터셋 모두 32 개 특성으로 사전 선택되었습니다.

A. Gallstone 데이터셋

• 하드웨어 vs 시뮬레이션: IonQ Forte 와 무잡음 시뮬레이션 간에 특성 포함 확률에 대해 강한 정성적 합의를 보였습니다.
• 성능: 양자 선택 부분집합 (19 개 특성) 은 0.88 ROC-AUC를 달성하여 다음보다 우수했습니다:
  • 모든 특성 (0.86)
  • PCA (0.79)
  • SelectKBest (0.84)
• 통찰: 고차 항의 포함으로 인해 모델은 단변량 방법보다 더 컴팩트하고 정보량이 풍부한 부분집합을 식별할 수 있었습니다.

B. Spambase 데이터셋

• 성능: 양자 선택 부분집합 (23 개 특성) 은 0.9836 ROC-AUC를 달성하여 다음을 능가했습니다:
  • 모든 특성 (0.9817)
  • PCA (0.9615)
  • SelectKBest (0.9805)
• 효율성: 이 방법은 차원을 약 28% 축소하면서도 모든 특성을 사용하는 경우보다 분류 정확도를 약간 향상시켰습니다.

5. 의의 및 결론

• 이차 형식을 넘어: 이 연구는 고차 통계적 구조 (3 체 항을 통해) 를 명시적으로 모델링하는 것이 복잡한 다변량 의존성을 가진 데이터셋에서 표준 2 차 (QUBO) 접근법보다 더 나은 특성 부분집합을 산출함을 입증했습니다.
• 하드웨어 적합성: 트랩드 이온 프로세서는 초전도 아키텍처에서 흔히 발생하는 큐비트 매핑/임베딩 오버헤드를 제거하는 전결합 (all-to-all) 연결성 덕분에 HUBO 문제에 고유하게 적합합니다.
• 확장성: 결과는 양자 하드웨어가 확장됨에 따라 (더 많은 큐비트, 더 높은 충실도), 이 접근법이 고전적 조합 방법으로 계산적으로 해결 불가능한 고차원 특성 선택 문제를 다룰 수 있음을 시사합니다.
• 향후 작업: 저자들은 Bias-Field DCQO (BF-DCQO) 를 통합하여 편향 필드를 반복적으로 업데이트하고, 더 큰 데이터셋에 대한 최적화 지형을 더욱 강화할 것을 제안합니다.

요약하자면, 이 논문은 고차 최적화를 트랩드 이온 하드웨어에서 활용하여 특성 컴팩트성과 예측 성능 모두에서 고전적 차원 축소 기법을 능가하는 실용적이고 모델에 구애받지 않는 양자 워크플로우를 보여줍니다.