HattriQ: Designing Integrated Gradients for Feature Attribution in Quantum Machine Learning

本論文は、ハダマードテストを用いて量子ハードウェア上で直接振幅ベースの統合勾配を計算することにより、測定収縮とシミュレーションの複雑さに起因する古典的手法の限界を克服し、回路ベースの量子機械学習における解釈可能性を実現する汎用フレームワークであるHattriQを導入する。

要約

あなたが猫の写真を見て「あれは猫だ！」と教えてくれる、魔法のような超複雑なブラックボックスを持っていると想像してください。このボックスは量子機械学習（QML）モデルです。それは驚くほど強力ですが、量子物理学の奇妙な法則を用いて動作します。

問題は、それがブラックボックスであることです。それを構築した人でさえ、なぜそれが猫だと判断したのかを簡単に説明できません。耳を見たのでしょうか？ひげを見たのでしょうか？それとも単に運が良かっただけなのでしょうか？古典的な世界では、入力の中でどの部分が最も重要だったかを覗き見て確認するツールがあります。しかし、量子の世界では、もし覗こうとすれば、魔法は消えてしまいます（量子状態が「崩壊」し）、答えが変わってしまいます。

この論文は、その魔法を壊すことなくこの謎を解くために設計された新しいツール、HATTRIQを紹介します。

核心的な問題：「見えない」ボックス

量子コンピュータを、完全に密封され防音加工されたキッチンで料理をするシェフだと考えてみてください。あなたは材料（データ）を提供し、彼らは完成した料理（予測）を提供します。

• 古典的 AI： あなたはシェフに「塩を多く使いましたか、それともコショウを多く使いましたか？」と尋ね、シェフはレシピを確認できます。
• 量子 AI： シェフは、同時に二つの場所に存在する材料（重ね合わせ）を扱っています。塩について尋ねるために扉を開けると、材料は瞬時にもう一つの何かへと変化し、レシピは台無しになってしまいます。

このため、以前は最終的な決定にとってどの「材料」（画像のピクセルやデータポイント）が最も重要だったかを特定できませんでした。

解決策：HATTRIQ（「魔法の鏡」）

著者たちは、量子モデルのためのハダマードテストに基づく入力帰属スコア方式であるHATTRIQを作成しました。

キッチンの中を覗いて料理を台無しにする代わりに、HATTRIQは巧妙な鏡のトリック（ハダマードテストと呼ばれる）を使用します。

• アナロジー： 特定の材料が味にどの程度貢献したかを知りたいが、スープを直接味わうことはできないと想像してください。その代わりに、本物の調理プロセスと並行して、ゴースト版の調理プロセスを実行します。本物のスープとゴーストのスープがどのように相互作用するかを比較することで、鍋を開けることなく、その特定の材料がどの程度重要だったかを数学的に計算できます。

HATTRIQは実際の量子ハードウェア上でこれを行います。それは量子コンピュータに「もし入力のこの特定の部分を微調整したら、最終的な答えはどのように変化するか？」と尋ねる特別な回路を実行します。これは、特定の結果の「確率」を測定することで行われ、それによってその入力特徴の重要性が明らかになります。

仕組み（「勾配」の概念）

簡単に言えば、HATTRIQは統合勾配を計算します。

• 何もない白い画面（画像なし）から、猫の完全な写真まで歩いていると想像してください。
• HATTRIQはその道のりを小さなステップで進みます。各ステップで、「この特定のピクセルは変化にどの程度貢献しましたか？」と尋ねます。
• すべての小さな貢献を合計して、最終的なスコアを提示します。「このピクセルは非常に重要でした（高い正の値）」「このピクセルは混乱を招きました（負の値）」、あるいは「このピクセルは関係ありません（ゼロ）」というように。

何に対してテストされたか

チームは、HATTRIQが意思決定を説明できるかどうかを確認するために、いくつかの「ブラックボックス」でテストを行いました。

1. 単純なパターン： バーとストライプの区別。
2. 手書き数字： 0、1、3、4 などの数字の認識（MNIST および NIST データセットから）。
3. 衣類： ドレスとシャツ、あるいはブーツとサンダルの区別（FashionMNIST）。
4. 量子物理学データ： 磁気スピンを鎖状に並べたデータを表すデータ（TFIM データセット）でもテストし、単なる画像だけでなく、純粋な量子データに対しても機能することを証明しました。

結果：実際に機能します！

• 理にかなっている： HATTRIQ が数字「4」の画像を見たとき、4 の鋭い角を強調し、背景を無視しました。「3」を見たときは、曲線を強調しました。単に推測したのではなく、モデルが実際に使用していた特徴を見つけ出しました。
• 堅牢である： 彼らは「ノイズの多い」量子ハードウェア（少し壊れているか不完全な機械をシミュレートしたもの）でテストしました。エラーがあっても、HATTRIQ は依然として明確で正確な答えを提供しました。
• 効率的である： 彼らは、これらテストを並列実行（複数の「ゴースト」キッチンを使用）することで処理を高速化できることを示しました。

なぜこれが重要なのか

HATTRIQ 以前は、量子 AI が間違いを犯した場合、その理由が全くわかりませんでした。私たちは盲目で飛んでいたのです。

• 信頼： 今や、AI が正しいもの（靴の形など）を見ているのか、間違ったもの（無作為なほこりの粒など）を見ているのかを検証できます。
• デバッグ： AI が偏見を持っていたり混乱していたりする場合、HATTRIQ は開発者が混乱がどこで発生しているかを正確に把握し、モデルを修正できるように支援します。

要するに、HATTRIQ は、量子ブラックボックスの中を光を消さずに覗き見る最初の懐中電灯です。それは、混乱し目に見えない量子の意思決定を、最終的な答えにとって「何が重要だったか」の明確な地図へと翻訳します。

技術概要

技術的サマリー：HATTRIQ – 量子機械学習における特徴量帰属のための積分勾配の設計

1. 問題定義

量子機械学習（QML）アルゴリズムはハードウェアプラットフォーム全体で有望な成果を示しているが、量子状態進化の本質的な不透明性と中間観測の欠如により、解釈性の欠如に悩まされている。古典的な解釈手法である積分勾配（IG）や代理モデルに基づく感度分析は確立されているが、これらは量子回路と直接互換性がない。

• 測定による収縮: 各回路層の後に隠れた量子状態を記録またはログ化しようとすると、状態が収縮し、計算が破棄される。
• 指数関数的複雑性: 大規模モデルの状態進化をシミュレーションするには、指数関数的に大きなヒルベルト空間内で複素振幅ベクトルを操作する必要があり、古典的シミュレーションはリソース集約的である。
• 非互換性: 従来の感度手法（ソボル/シャプレイスコアなど）は量子回路のユニタリ性を維持できず、データが振幅エンコーディングを介して符号化される場合、状態準備回路の構造が入力に基づいて変化することが多いため、標準的な勾配則（パラメータシフトなど）の適用が困難である。

したがって、振幅符号化された QML モデルにおいて、入力特徴量が最終的な測定結果にどのように影響を与えるかを理解する上で、決定的なギャップが存在する。

2. 手法：HATTRIQ

著者らは、振幅エンコーディングを用いた回路ベースの QML モデルの入力帰属スコアを計算するためのフレームワークであるHATTRIQ（量子モデルのためのハダマードテストに基づく入力帰属スコア方式）を提案する。この手法は、内部量子状態へのアクセスを必要とすることなく、古典的な積分勾配（IG）アプローチを量子設定に適応させる。

コアコンポーネント

• 振幅エンコーディング: このフレームワークは、データ特徴が入力状態 $|x\rangle = \sum x_i |b_i\rangle$ の振幅として符号化される、広く用いられている符号化方式を対象とする。これにより、量子ビット数に対して指数関数的に多くの特徴量を符号化できる。
• 勾配導出（補題 III.1）: 著者らは、モデル出力 $F(x; \theta)$ に対する入力振幅の実部（$c_k$）と虚部（$d_k$）の勾配の閉形式式を導出した。
  $$\frac{\partial F}{\partial c_k} = 2 \text{Re}[\langle b_k | U^\dagger(\theta) O U(\theta) | x \rangle]$$
  この式は、勾配を入力状態に作用する特定の演算子の期待値に関連付け、明示的な状態トモグラフィを必要としない。
• ハダマードテストの構築: 必要な内積 $\langle b_k | \tilde{O} | x \rangle$ を量子ハードウェア上で直接計算するために、HATTRIQ はハダマードテスト回路を採用する。
  • 回路はアンシラ量子ビット（またはレジスタ）と制御操作を使用する。
  • 一方のブランチは基底状態 $|b_k\rangle$ を準備し、もう一方のブランチは入力状態 $|x\rangle$ を準備した後、モデルユニタリ $U(\theta)$ と観測量 $O$ を適用する。
  • アンシラを $|0\rangle$ 状態で測定する確率は、内積の実部（すなわち勾配成分）を与える。
• 並列化（定理 IV.3）: 入力特徴量の数に比例する回路評価の線形スケーリングに対処するため、著者らはマルチアンシラ並列化手法を導入した。$m$ 個のアンシラ量子ビットを使用することで、フレームワークは単一の回路実行で $2^m - 1$ 個の勾配成分を同時に計算でき、振幅エンコーディングの指数関数的な空間効率を維持する。

3. 主要な貢献

本論文は、以下の具体的な貢献を概説する。

1. QML における IG の形式化: 以前は効率的に微分することが困難だった振幅エンコーディングを利用する QML モデルに対する積分勾配を計算するための形式的な手法。
2. 量子ネイティブな回路構築: 内部量子状態の知識を必要とせず、量子ハードウェア上で直接正確な特徴量勾配を計算する、ハダマードテストに基づく回路設計。
3. 並列化戦略: アンシラ量子ビットの数に対して指数関数的にスケーリングするマルチアンシラ手法による同時勾配計算。これにより、十分な容量を持つデバイスにおける大規模データセットへの適用が可能となる。
4. 実証的検証: Bars and Stripes、MNIST、FashionMNIST、および合成の横磁場イジングモデル（TFIM）量子データセットを用いた分類タスクにおける HATTRIQ の評価。
5. オープンソース: 再現性を促進するためのコードとデータセットの公開。

4. 実験結果

著者らは、HATTRIQ をシミュレーション（理想的な誤り訂正ハードウェアを想定）および初期のフォールトトレラント量子コンピューティング（EFTQC）を代表するノイズシミュレーションを用いて評価した。

• データセットと精度: フレームワークは、複数のデータセットにわたる二値分類タスクでテストされた。モデルは高い精度を達成した（例：Bars/Stripes および NIST サブセットで約 95-100%、FashionMNIST サブセットで約 70-99%）。
• 帰属の質:
  • 意味的関連性: 画像データセット（NIST、MNIST、FashionMNIST）において、生成された帰属マップは意味的に意味のある領域を強調した。例えば、数字分類では、背景ノイズを無視しながら数字のストロークに帰属が集中した。FashionMNIST では、モデルはバッグのストラップを正しく識別し、サンダルの領域を除外した。
  • 符号化の比較: 角度符号化と振幅符号化は同様の分類精度を達成したが、HATTRIQ はそれらが著しく異なる帰属パターンを生み出し、異なる特徴量利用戦略を示唆していることを明らかにした。
  • ヌルモデル検証: 「ヌルモデル」（ランダムに初期化されたパラメータ）に適用した場合、HATTRIQ は拡散した非集中型の帰属マップを生成し、訓練済みモデルにおける構造化された帰属が手法のアーティファクトではなく、学習された特徴を反映していることを確認した。
• ロバスト性:
  • ショットノイズ: 低い測定ショット数（10〜100 ショット）であっても、帰属スコアは正確なシミュレーションとほぼ忠実であり、弱い帰属でのみ偏差が生じた。
  • ハードウェアノイズ: 脱分極ノイズチャネル（$\gamma = 10^{-4}$）下でも、帰属スコアは空間分布と相対強度を維持し、初期のフォールトトレラントデバイスへの適合性を示した。
• 量子データ（TFIM）: 合成 TFIM データセットにおいて、HATTRIQ は正しく相転移を識別した。強磁場領域（$g > 1$）では、帰属は $\sigma_x$ 相関に集中し、弱磁場領域（$g < 1$）では、帰属は $\sigma_y$ および $\sigma_z$ 成分へシフトし、物理的直感と一致した。

5. 意義と主張

本論文は、HATTRIQ を振幅符号化をサポートし、量子ハードウェア上でネイティブに動作する QML モデル向けに設計された最初の勾配ベースの入力帰属手法として位置づけている。

• ハードウェア互換性: ユニタリ性を破るか状態収縮を必要とする古典的代理モデルや摂動に依存する以前の解釈手法とは異なり、HATTRIQ は量子力学を尊重する回路ベースの構築を使用する。
• スケーラビリティ: ハダマードテストとマルチアンシラ並列化を活用することで、この手法は振幅エンコーディングの指数関数的複雑性に対処し、大規模な量子モデルに対するスケーラブルな解釈性への道を開く。
• 信頼性とデバッグ: このフレームワークは、極めて影響力のある特徴量の特定を可能にし、研究者がモデルの予測が意味的に意味のある領域と整合しているかを確認できるようにする。また、背景のアーティファクトへのバイアスを検出するか、類似の精度を持つが異なる内部ロジックを持つ異なる符号化方式を比較するメカニズムも提供する。

著者らは、HATTRIQ が忠実度の保証を備えた入力帰属のための統一された実装に依存しないフレームワークを提供し、QML モデルを透明で信頼性の高いものとするための重要な一歩であると結論づけている。今後の課題として、パラメータおよび層への帰属へのフレームワークの拡張が挙げられている。