HattriQ: Designing Integrated Gradients for Feature Attribution in Quantum Machine Learning

本文介绍了 HattriQ，这是一个通用框架，它通过在量子硬件上利用哈达玛测试直接计算基于振幅的积分梯度，从而实现了基于电路的量子机器学习的可解释性，克服了经典方法因测量坍缩和模拟复杂性而存在的局限性。

要点

想象你拥有一个神奇且极度复杂的黑盒，它能观察一张猫的图片并告诉你：“那是一只猫！”这个黑盒就是一个**量子机器学习（QML）**模型。它极其强大，但其运作基于量子物理的奇异法则。

问题在于：它是一个黑盒。即使是构建它的人也无法轻易解释为什么它判定那是一只猫。它是观察了耳朵？胡须？还是仅仅运气好？在经典世界中，我们有工具可以窥探内部，查看输入的哪些部分最为重要。但在量子世界中，如果你试图窥探，魔法就会消失（量子态“坍缩”），答案也会随之改变。

本文介绍了HATTRIQ，这是一种旨在在不破坏魔法的前提下解开这一谜团的新工具。

核心问题：“不可见”的黑盒

将量子计算机想象成一位在完全密封且隔音的厨房中烹饪菜肴的厨师。你提供食材（数据），他们端上成品（预测）。

• 经典人工智能：你可以问厨师：“你用了更多的盐还是更多的胡椒？”他们可以检查食谱。
• 量子人工智能：厨师使用的食材同时存在于两个地方（叠加态）。如果你打开门询问关于盐的问题，食材会瞬间变成别的东西，食谱也就被毁了。

正因如此，我们此前无法确定哪种“食材”（图像中的像素或数据点）对最终决策最为重要。

解决方案：HATTRIQ（“魔镜”）

作者创建了HATTRIQ（基于哈达玛测试的量子模型输入归因评分方案）。

HATTRIQ 没有试图窥探厨房内部从而毁掉菜肴，而是使用了一种巧妙的镜像技巧（称为哈达玛测试）。

• 类比：想象你想知道某种特定食材对味道贡献了多少，但你无法直接品尝汤。相反，你在真实烹饪过程旁边运行一个平行的“幽灵”版本。通过比较真实汤品与幽灵汤品的相互作用，你可以精确计算出该特定食材的重要性，而无需打开锅。

HATTRIQ 在真实的量子硬件上执行此操作。它运行一个特殊电路，向量子计算机提问：“如果我微调输入的这一特定部分，最终答案会如何变化？”它通过测量特定结果的“概率”来实现这一点，从而揭示该输入特征的重要性。

工作原理（“梯度”概念）

简而言之，HATTRIQ 计算积分梯度。

• 想象你从空白屏幕（无图像）走向一张完整的猫的图片。
• HATTRIQ 沿着这条路径迈出微小的步伐。在每一步，它都会问：“这个特定像素对变化的贡献有多大？”
• 它将所有这些微小贡献相加，得出最终评分：“这个像素非常重要（高正值）”、“这个像素令人困惑（负值）”或“这个像素无关紧要（零值）”。

测试对象

团队在多个“黑盒”上测试了 HATTRIQ，以查看它是否能解释其决策：

1. 简单模式：区分横条和竖条纹。
2. 手写数字：识别 0、1、3、4 等数字（来自 MNIST 和 NIST 数据集）。
3. 服装：区分连衣裙和衬衫，或靴子和凉鞋（FashionMNIST）。
4. 量子物理数据：甚至将其测试于代表磁链中自旋的数据（TFIM 数据集），证明它不仅适用于图像，也适用于纯量子数据。

结果：它确实有效！

• 合乎逻辑：当 HATTRIQ 观察数字"4"的图片时，它突出了 4 的锐角并忽略了背景。当它观察"3"时，它突出了曲线。它不仅仅是猜测，而是找到了模型实际使用的特征。
• 鲁棒性强：他们在“有噪声”的量子硬件上进行了测试（模拟略微损坏或不完美的机器）。即使存在误差，HATTRIQ 仍然给出了清晰、准确的答案。
• 高效：他们表明，可以并行运行这些测试（同时使用多个“幽灵”厨房）以加快速度。

为何这很重要

在 HATTRIQ 出现之前，如果量子人工智能犯了错误，我们完全不知道原因。我们是在盲目飞行。

• 信任：现在，我们可以验证人工智能是否在看正确的东西（如鞋子的形状）或错误的东西（如随机的灰尘斑点）。
• 调试：如果人工智能存在偏见或困惑，HATTRIQ 能帮助开发者确切地看到困惑发生的位置，以便他们修复模型。

简而言之，**HATTRIQ 是第一支手电筒，让我们能够在不关灯的情况下看到量子黑盒内部。**它将令人困惑、不可见的量子决策转化为清晰的“什么 mattered"（什么重要）地图，从而得出最终答案。

技术摘要

技术摘要：HATTRIQ——为量子机器学习设计用于特征归因的积分梯度

1. 问题陈述

量子机器学习（QML）算法在各种硬件平台上展现出前景，但由于量子态演化的固有不可见性以及缺乏中间可观测性，其可解释性存在不足。虽然经典的积分梯度（IG）和基于代理的敏感性分析等可解释性方法已相当成熟，但它们与量子电路并不直接兼容。

• 测量坍缩：试图在电路的每一层之后记录或记录隐藏的量子态会导致态坍缩，从而破坏计算。
• 指数级复杂度：模拟大规模模型的态演化需要在指数级大的希尔伯特空间中操作复杂的振幅向量，这使得经典模拟资源消耗巨大。
• 不兼容性：传统的敏感性方法（如 Sobol/Shapley 分数）无法保持量子电路的幺正性，且当数据通过振幅编码（amplitude embedding）进行编码时，标准梯度规则（如参数移位）难以应用，因为态制备电路结构通常会随输入而变化。

因此，在理解输入特征如何影响振幅编码 QML 模型中的最终测量结果方面，存在关键空白。

2. 方法论：HATTRIQ

作者提出了HATTRIQ（基于 Hadamard 测试的量子模型输入归因评分方案），这是一个专为使用振幅编码的基于电路的 QML 模型计算输入归因评分而设计的框架。该方法将经典的积分梯度（IG）方法适配到量子环境中，且无需访问内部量子态。

核心组件

• 振幅编码：该框架针对广泛使用的编码方案，即将数据特征编码为输入态 $|x\rangle = \sum x_i |b_i\rangle$ 的振幅。这使得相对于量子比特数量，能够编码指数级数量的特征。
• 梯度推导（引理 III.1）：作者推导出了模型输出 $F(x; \theta)$ 关于输入振幅的实部（$c_k$）和虚部（$d_k$）的梯度的闭式表达式。
  $$\frac{\partial F}{\partial c_k} = 2 \text{Re}[\langle b_k | U^\dagger(\theta) O U(\theta) | x \rangle]$$
  该表达式将梯度与作用于输入态的特定算符的期望值联系起来，避免了显式态层析的需求。
• Hadamard 测试构建：为了直接在量子硬件上计算所需的内积 $\langle b_k | \tilde{O} | x \rangle$，HATTRIQ 采用 Hadamard 测试电路。
  • 该电路使用辅助量子比特（或寄存器）及受控操作。
  • 一个分支制备基态 $|b_k\rangle$，另一个分支制备输入态 $|x\rangle$，随后施加模型幺正算符 $U(\theta)$ 和可观测量 $O$。
  • 测量辅助量子比特处于 $|0\rangle$ 态的概率给出了内积的实部，这对应于梯度分量。
• 并行化（定理 IV.3）：为了解决电路评估随输入特征数量线性扩展的问题，作者引入了一种多辅助量子比特并行化技术。通过使用 $m$ 个辅助量子比特，该框架可以在单次电路执行中并发计算 $2^m - 1$ 个梯度分量，从而保持振幅编码的指数级空间效率。

3. 主要贡献

本文概述了以下具体贡献：

1. QML 中的积分梯度形式化：一种为利用振幅编码的 QML 模型计算积分梯度的形式化方法，该方案此前难以高效地进行微分。
2. 量子原生电路构建：一种基于 Hadamard 测试的电路设计，可直接在量子硬件上计算精确的特征梯度，而无需了解内部量子态。
3. 并行化策略：一种多辅助量子比特技术，支持并发梯度计算，其扩展性与辅助量子比特数量呈指数关系，使得该方法在容量充足的设备上对更大规模数据集可行。
4. 实证验证：在分类任务上对 HATTRIQ 进行了评估，使用了 Bars and Stripes、MNIST、FashionMNIST 以及合成横场伊辛模型（TFIM）量子数据集。
5. 开源：发布代码和数据集以促进可复现性。

4. 实验结果

作者在模拟（假设理想的纠错硬件）和代表早期容错量子计算（EFTQC）的噪声模拟中评估了 HATTRIQ。

• 数据集与准确率：该框架在多个数据集上的二分类任务中进行了测试。模型实现了高准确率（例如，Bars/Stripes 和 NIST 子集上约为 95-100%；FashionMNIST 子集上约为 70-99%）。
• 归因质量：
  • 语义相关性：对于图像数据集（NIST、MNIST、FashionMNIST），生成的归因图突出了语义上有意义的区域。例如，在数字分类中，归因集中在数字的笔画上，而忽略了背景噪声。在 FashionMNIST 中，模型正确识别了包上的带子，并排除了凉鞋区域。
  • 编码比较：虽然角度编码和振幅编码实现了相似的分类准确率，但 HATTRIQ 揭示它们产生了截然不同的归因模式，表明采用了不同的特征利用策略。
  • 零模型验证：当应用于“零模型”（随机初始化的参数）时，HATTRIQ 产生了弥散、非集中的归因图，证实了训练模型中的结构化归因并非该方法的伪影，而是反映了学习到的特征。
• 鲁棒性：
  • 散粒噪声：即使在低测量散粒计数（10–100 次）下，归因评分仍主要忠实于精确模拟，偏差仅出现在弱归因中。
  • 硬件噪声：在去极化噪声通道（$\gamma = 10^{-4}$）下，归因评分保持了其空间分布和相对强度，证明了其适用于早期容错设备。
• 量子数据（TFIM）：在合成 TFIM 数据集上，HATTRIQ 正确识别了相变。在强场区域（$g > 1$），归因集中在 $\sigma_x$ 关联上，而在弱场区域（$g < 1$），归因转移到 $\sigma_y$ 和 $\sigma_z$ 分量，这与物理直觉一致。

5. 意义与主张

本文将 HATTRIQ 定位为首个专为支持振幅编码并在量子硬件上原生运行的 QML 模型设计的基于梯度的输入归因方法。

• 硬件兼容性：与依赖经典代理或扰动（这会破坏幺正性或需要态坍缩）的先前可解释性方法不同，HATTRIQ 使用尊重量子力学的基于电路的构建。
• 可扩展性：通过利用 Hadamard 测试和多辅助量子比特并行化，该方法解决了振幅编码的指数级复杂度问题，为更大规模量子模型的可扩展可解释性提供了一条路径。
• 信任与调试：该框架能够识别高影响力特征，并允许研究人员检查模型预测是否与语义上有意义的区域一致。它还提供了一种机制来检测对背景伪影的偏差，或比较可能具有相似准确率但内部逻辑不同的不同编码方案。

作者得出结论，HATTRIQ 提供了一个统一的、与实现无关的输入归因框架，具有保真度保证，标志着迈向使 QML 模型透明和可信的重要一步。未来工作 noted 为可能将该框架扩展到参数和层归因。