HattriQ: Designing Integrated Gradients for Feature Attribution in Quantum Machine Learning

본 논문은 측정 붕괴와 시뮬레이션 복잡성으로 인한 고전적 방법의 한계를 극복하기 위해 하마르드 테스트를 통해 양자 하드웨어에서 직접 진폭 기반 통합 기울기를 계산함으로써 회로 기반 양자 머신 러닝의 해석 가능성을 가능하게 하는 범용 프레임워크인 HattriQ를 소개합니다.

핵심

상상해 보세요. 고양이 사진을 보고 "그건 고양이야!"라고 말해주는 마법 같은 초복잡한 블랙박스가 있다고 가정해 봅시다. 이 박스는 양자 머신러닝 (QML) 모델입니다. 그것은 놀라울 정도로 강력하지만, 양자 물리학의 기이한 법칙을 사용하여 작동합니다.

문제는 무엇일까요? 그것은 블랙박스입니다. 심지어 그것을 만든 사람들도 왜 그것이 고양이로 결정했는지 쉽게 설명할 수 없습니다. 귀를 보았을까요? 수염을 보았을까요? 아니면 단순히 운이 좋았을까요? 고전 세계에서는 입력의 어떤 부분이 가장 중요했는지 들여다보고 확인할 수 있는 도구들이 있습니다. 하지만 양자 세계에서는 들여다보려고 하면 마법이 사라집니다 (양자 상태가 '붕괴'됨) 그리고 답이 변합니다.

이 논문은 마법을 깨뜨리지 않고 이 수수께끼를 해결하도록 설계된 새로운 도구인 HATTRIQ를 소개합니다.

핵심 문제: "보이지 않는" 상자

양자 컴퓨터를 완전히 밀폐되고 방음 처리된 주방에서 요리를 하는 셰프로 생각해 보세요. 당신은 그들에게 재료 (데이터) 를 주고, 그들은 완성된 요리 (예측) 를 당신에게 서빙합니다.

• 고전적 AI: 당신은 셰프에게 "소금을 더 많이 썼나요, 후추를 더 많이 썼나요?"라고 물을 수 있고, 그들은 레시피를 확인할 수 있습니다.
• 양자 AI: 셰프는 한 번에 두 곳에 존재하는 (중첩 상태) 재료로 작업하고 있습니다. 소금에 대해 물어보기 위해 문을 열면, 재료는 즉시 다른 무엇인가로 변하고 레시피는 망가집니다.

이로 인해 우리는 이전까지 최종 결정에 가장 중요한 "재료"(이미지의 픽셀 또는 데이터 포인트) 가 무엇인지 알 수 없었습니다.

해결책: HATTRIQ (마법 거울)

저자들은 HATTRIQ(양자 모델을 위한 해다마드 테스트 기반 입력 귀속 점수 체계) 를 개발했습니다.

요리를 망치면서 주방을 들여다보려고 시도하는 대신, HATTRIQ는 교묘한 거울 트릭(해다마드 테스트라고 함) 을 사용합니다.

• 유사성: 국물을 직접 맛볼 수는 없지만 특정 재료가 맛에 얼마나 기여했는지 알고 싶다고 상상해 보세요. 대신 실제 요리 과정과 병렬로 "유령" 버전의 요리 과정을 실행합니다. 실제 국물과 유령 국물이 어떻게 상호작용하는지 비교함으로써, 냄비를 열지 않고도 수학적으로 그 특정 재료가 얼마나 중요한지 정확히 계산할 수 있습니다.

HATTRIQ 는 실제 양자 하드웨어에서 이를 수행합니다. 그것은 양자 컴퓨터에 "만약 입력의 이 특정 부분을 조정하면 최종 답이 어떻게 변할까?"라고 묻는 특수 회로를 실행합니다. 이는 특정 결과의 "확률"을 측정함으로써 수행되며, 이는 해당 입력 특성의 중요성을 드러냅니다.

작동 방식 (기울기 개념)

간단히 말해, HATTRIQ 는 **적분 기울기 (Integrated Gradients)**를 계산합니다.

• 빈 흰색 화면 (이미지 없음) 에서 고양이 사진이 가득 찬 화면까지 걸어간다고 상상해 보세요.
• HATTRIQ 는 그 경로를 따라 작은 걸음을 내딛습니다. 각 단계마다 "이 특정 픽셀이 변화에 얼마나 기여했을까?"라고 묻습니다.
• 모든 작은 기여도를 합산하여 최종 점수를 제공합니다: "이 픽셀은 매우 중요했습니다 (높은 양수)", "이 픽셀은 혼란스러웠습니다 (음수)", 또는 "이 픽셀은 중요하지 않았습니다 (영)".

그들이 무엇을 테스트했는지

팀은 그들의 결정을 설명할 수 있는지 확인하기 위해 여러 "블랙박스"에서 HATTRIQ 를 테스트했습니다:

1. 단순한 패턴: 막대와 줄무늬를 구분합니다.
2. 손글씨 숫자: 0, 1, 3, 4 등의 숫자를 인식합니다 (MNIST 및 NIST 데이터셋에서).
3. 의류: 드레스와 셔츠, 또는 부츠와 샌들을 구분합니다 (FashionMNIST).
4. 양자 물리학 데이터: TFIM 데이터셋과 같이 사슬의 자기 스핀을 나타내는 데이터에서도 테스트하여, 단순히 이미지뿐만 아니라 순수한 양자 데이터에서도 작동함을 입증했습니다.

결과: 실제로 작동합니다!

• 논리적입니다: HATTRIQ 가 숫자 "4"의 사진을 볼 때, 그것은 4 의 날카로운 각도를 강조하고 배경은 무시했습니다. "3"을 볼 때는 곡선을 강조했습니다. 그것은 단순히 추측한 것이 아니라, 모델이 실제로 사용하던 특징을 찾아냈습니다.
• 견고합니다: 그들은 "노이즈가 있는" 양자 하드웨어 (약간 고장 나거나 불완전한 기계를 시뮬레이션) 로 테스트했습니다. 오류가 있더라도 HATTRIQ 는 여전히 명확하고 정확한 답을 제공했습니다.
• 효율적입니다: 그들은 속도를 높이기 위해 이러한 테스트를 병렬로 실행할 수 있음을 보여주었습니다 (여러 개의 "유령" 주방을 동시에 사용).

이것이 중요한 이유

HATTRIQ 이전에 양자 AI 가 실수를 하면 왜 그랬는지 알 방법이 없었습니다. 우리는 맹목적으로 날아다니고 있었습니다.

• 신뢰: 이제 AI 가 올바른 것 (신발의 모양과 같은) 을 보고 있는지, 아니면 잘못된 것 (무작위 먼지 조각과 같은) 을 보고 있는지 확인할 수 있습니다.
• 디버깅: AI 에 편향이 있거나 혼란스러우면, HATTRIQ 는 개발자가 혼란이 정확히 어디서 발생하는지 보게 하여 모델을 수정할 수 있도록 돕습니다.

간단히 말해, HATTRIQ 는 양자 블랙박스를 끄지 않고도 그 안을 들여다보게 해주는 최초의 손전등입니다. 그것은 혼란스럽고 보이지 않는 양자 결정을 최종 답변에 "무엇이 중요했는지"에 대한 명확한 지도로 번역합니다.

기술 요약

기술 요약: HATTRIQ – 양자 머신 러닝에서 특성 할당을 위한 통합 기울기 설계

1. 문제 제기

양자 머신 러닝 (QML) 알고리즘은 하드웨어 플랫폼 전반에 걸쳐 가능성을 보여주지만, 양자 상태 진화의 본질적 불투명성과 중간 관측의 부재로 인해 해석 가능성 부족에 시달리고 있습니다. 통합 기울기 (IG) 와 대리 모델 기반 민감도 분석과 같은 고전적 해석 방법론은 잘 정립되어 있으나, 양자 회로와는 직접 호환되지 않습니다.

• 측정 붕괴: 회로 계층마다 숨겨진 양자 상태를 기록하거나 로그로 남기려는 시도는 상태를 붕괴시켜 계산을 파괴합니다.
• 지수적 복잡성: 대규모 모델에 대한 상태 진화를 시뮬레이션하려면 지수적으로 큰 힐베르트 공간에서 복소 진폭 벡터를 조작해야 하므로, 고전적 시뮬레이션은 자원 집약적입니다.
• 불호환성: 전통적인 민감도 방법 (예: Sobol/Shapley 점수) 은 양자 회로의 유니터리 성질을 보존할 수 없으며, 데이터가 진폭 임베딩을 통해 인코딩되는 경우 표준 기울기 규칙 (예: 파라미터 이동) 을 적용하기 어렵습니다. 이는 상태 준비 회로 구조가 종종 입력에 따라 변경되기 때문입니다.

결과적으로, 진폭 인코딩 QML 모델에서 입력 특성이 최종 측정 결과에 어떻게 영향을 미치는지 이해하는 데 있어 중요한 격차가 존재합니다.

2. 방법론: HATTRIQ

저자들은 진폭 임베딩을 사용하는 회로 기반 QML 모델에 대한 입력 할당 점수를 계산하기 위해 고안된 프레임워크인 HATTRIQ(양자 모델을 위한 하다마드 테스트 기반 입력 할당 점수 체계) 를 제안합니다. 이 방법론은 내부 양자 상태에 대한 접근 없이 고전적 통합 기울기 (IG) 접근법을 양자 환경에 맞게 적응시킵니다.

핵심 구성 요소

• 진폭 임베딩: 이 프레임워크는 데이터 특성이 입력 상태 $|x\rangle = \sum x_i |b_i\rangle$ 의 진폭으로 인코딩되는 널리 사용되는 인코딩 체계를 대상으로 합니다. 이를 통해 큐비트 수에 비해 지수적으로 많은 특성을 인코딩할 수 있습니다.
• 기울기 유도 (Lemma III.1): 저자들은 입력 진폭의 실수 ($c_k$) 및 허수 ($d_k$) 성분에 대한 모델 출력 $F(x; \theta)$ 의 기울기에 대한 폐쇄형 식을 유도합니다.
  $$\frac{\partial F}{\partial c_k} = 2 \text{Re}[\langle b_k | U^\dagger(\theta) O U(\theta) | x \rangle]$$
  이 식은 명시적 상태 단층촬영이 필요하지 않도록 입력 상태에 작용하는 특정 연산자의 기대값과 기울기를 연관시킵니다.
• 하다마드 테스트 구성: 양자 하드웨어에서 필요한 내적 $\langle b_k | \tilde{O} | x \rangle$ 을 직접 계산하기 위해 HATTRIQ 는 하다마드 테스트 회로를 사용합니다.
  • 이 회로는 보조 큐비트 (또는 레지스터) 와 제어 연산을 사용합니다.
  • 한 가지 분기는 기저 상태 $|b_k\rangle$ 를 준비하고, 다른 분기는 모델 유니터리 $U(\theta)$ 와 관측 가능량 $O$ 를 따르는 입력 상태 $|x\rangle$ 를 준비합니다.
  • 보조 큐비트를 $|0\rangle$ 상태로 측정할 확률은 내적의 실수부를 산출하며, 이는 기울기 성분에 해당합니다.
• 병렬화 (Theorem IV.3): 입력 특성의 수에 따른 회로 평가의 선형적 스케일링 문제를 해결하기 위해, 저자들은 다중 보조 큐비트 병렬화 기법을 도입합니다. $m$ 개의 보조 큐비트를 사용하면 프레임워크는 단일 회로 실행에서 $2^m - 1$ 개의 기울기 성분을 동시에 계산할 수 있어, 진폭 임베딩의 지수적 공간 효율성을 유지합니다.

3. 주요 기여

본 논문은 다음과 같은 구체적인 기여를 제시합니다:

1. QML 을 위한 IG 형식화: 효율적으로 미분하기 어려웠던 진폭 임베딩 체계를 활용하는 QML 모델에 대한 통합 기울기를 계산하는 공식적 방법.
2. 양자 네이티브 회로 구성: 내부 양자 상태에 대한 지식이 필요 없이 양자 하드웨어에서 직접 정확한 특성 기울기를 계산하는 하다마드 테스트 기반 회로 설계.
3. 병렬화 전략: 보조 큐비트 수에 따라 지수적으로 확장되는 동시 기울기 계산을 가능하게 하는 다중 보조 큐비트 기법으로, 충분한 용량을 가진 장치에서 더 큰 데이터셋에 대한 접근성을 제공합니다.
4. 실증적 검증: Bars and Stripes, MNIST, FashionMNIST 및 합성 횡단장 이징 모델 (TFIM) 양자 데이터셋을 사용한 분류 작업에 대한 HATTRIQ 평가.
5. 오픈 소스: 재현성을 촉진하기 위한 코드 및 데이터셋 공개.

4. 실험 결과

저자들은 이상적인 오류 정정 하드웨어를 가정하는 시뮬레이션과 초기 오류 허용 양자 컴퓨팅 (EFTQC) 을 대표하는 노이즈 시뮬레이션을 사용하여 HATTRIQ 를 평가했습니다.

• 데이터셋 및 정확도: 이 프레임워크는 여러 데이터셋에 대한 이진 분류 작업에서 테스트되었습니다. 모델들은 높은 정확도를 달성했습니다 (예: Bars/Stripes 및 NIST 부분집합에서 약 95-100%; FashionMNIST 부분집합에서 약 70-99%).
• 할당 품질:
  • 의미적 관련성: 이미지 데이터셋 (NIST, MNIST, FashionMNIST) 의 경우, 생성된 할당 맵은 의미적으로 중요한 영역을 강조했습니다. 예를 들어, 숫자 분류에서 할당은 배경 노이즈를 무시하면서 숫자의 획에 집중했습니다. FashionMNIST 의 경우, 모델은 가방의 끈을 올바르게 식별하고 샌들 영역을 제외했습니다.
  • 인코딩 비교: 각도 및 진폭 인코딩은 유사한 분류 정확도를 달성했지만, HATTRIQ 는 이들이 현저히 다른 할당 패턴을 생성함을 밝혀내어 서로 다른 특성 활용 전략을 시사했습니다.
  • 널 모델 검증: "널 모델"(무작위 초기화된 파라미터) 에 적용되었을 때, HATTRIQ 는 확산되고 집중되지 않은 할당 맵을 생성하여 훈련된 모델의 구조화된 할당이 방법의 인공물이 아니라 학습된 특성을 반영함을 확인했습니다.
• 강건성:
  • 샷 노이즈: 낮은 측정 샷 수 (10~100 샷) 에도 불구하고 할당 점수는 정확한 시뮬레이션과 대체로 일치했으며, 편차는 약한 할당에서만 나타났습니다.
  • 하드웨어 노이즈: 탈분극 노이즈 채널 ($\gamma = 10^{-4}$) 하에서 할당 점수는 공간적 분포와 상대적 강도를 유지하여 초기 오류 허용 장치에 적합함을 입증했습니다.
• 양자 데이터 (TFIM): 합성 TFIM 데이터셋에서 HATTRIQ 는 위상 전이를 올바르게 식별했습니다. 강한장 영역 ($g > 1$) 에서 할당은 $\sigma_x$ 상관관계에 집중하는 반면, 약한장 영역 ($g < 1$) 에서 할당은 $\sigma_y$ 및 $\sigma_z$ 성분으로 이동하여 물리적 직관과 일치했습니다.

5. 중요성 및 주장

본 논문은 진폭 인코딩을 지원하고 양자 하드웨어에서 네이티브로 작동하는 QML 모델을 위해 특별히 설계된 최초의 기울기 기반 입력 할당 방법으로서 HATTRIQ 를 위치시킵니다.

• 하드웨어 호환성: 유니터리 성질을 깨거나 상태 붕괴가 필요한 고전적 대리 모델 또는 교란에 의존하는 이전 해석 방법론과 달리, HATTRIQ 는 양자 역학을 존중하는 회로 기반 구성을 사용합니다.
• 확장성: 하다마드 테스트와 다중 보조 큐비트 병렬화를 활용함으로써 이 방법은 진폭 인코딩의 지수적 복잡성을 해결하여 더 큰 양자 모델에 대한 확장 가능한 해석 가능성을 제공합니다.
• 신뢰 및 디버깅: 이 프레임워크는 매우 영향력 있는 특성을 식별하고 모델 예측이 의미 있는 영역과 일치하는지 연구자가 확인할 수 있게 합니다. 또한 배경 아티팩트에 대한 편향을 감지하거나 유사한 정확도를 가지지만 다른 내부 논리를 가진 서로 다른 인코딩 체계를 비교하는 메커니즘을 제공합니다.

저자들은 HATTRIQ 가 충실도 보장을 갖춘 통합적이고 구현 중립적인 입력 할당 프레임워크를 제공하며, QML 모델을 투명하고 신뢰할 수 있게 만드는 중요한 단계라고 결론지었습니다. 향후 작업은 프레임워크를 파라미터 및 계층 할당으로 확장하는 것으로 언급되었습니다.