🤖 machine learning

Towards interpretable AI with quantum annealing feature selection

本文提出了一种用于图像分类中卷积神经网络解释的新方法，通过将特征图选择构建为通过量子退火求解的量子约束优化问题，该方法在类别解耦和透明度方面优于 GradCAM 等最先进技术，同时为算法的计算行为提供了理论见解。

原作者： Francesco Aldo Venturelli, Emanuele Costa, Sikha O K, Bruno Juliá-Díaz, Miguel A. González Ballester, Alba Cervera-Lierta

发布于 2026-04-29

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Francesco Aldo Venturelli, Emanuele Costa, Sikha O K, Bruno Juliá-Díaz, Miguel A. González Ballester, Alba Cervera-Lierta

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你有一位才华横溢却神秘莫测的厨师（一个深度学习模型），他能完美地识别出一张图片是猫还是卡车。然而，这位厨师从不解释为什么会做出这样的选择。他们只是说：“这是一只猫”，然后便继续前行。在人工智能领域，这被称为“黑箱”。如果厨师犯了错，我们完全不知道他们是在看胡须、耳朵，还是仅仅看了背景颜色。

本文介绍了一种窥探厨师思维的新方法，以确切了解他们做出决策时使用了哪些“成分”（特征）。但作者并未使用标准的厨房工具，而是使用了一种非常特殊、具有未来感的烤箱，称为量子退火机。

以下是他们方法的分解，使用简单的类比：

1. 问题：过多的成分

当计算机查看图像时，它会将其分解为成千上万个微小的“特征图”。可以将这些想象成千上万个不同的滤镜或镜头。一个镜头可能突出“曲线”，另一个可能突出“绿色纹理”，还有一个可能突出“锐利的边缘”。

标准方法（如 GradCAM）试图通过将所有这些镜头混合成一张模糊的图片来解释决策。这就像试图通过同时聆听整个乐团的演奏来理解一首歌曲。你能听到音乐，但无法分辨是哪个具体的乐器在演奏主旋律。

2. 解决方案：量子“最佳”列表

作者想要找到真正发挥作用的那一小群完美的镜头。他们问道：“在 500 个镜头中，哪 10 个真正负责识别这个‘飞机’？”

这是一个巨大的谜题。如果你有 500 个镜头，可能的组合数量如此之大，以至于普通计算机需要花费永恒的时间来检查所有组合。这就像试图从 500 人的候选池中，通过尝试每一种组合来找出完美的 10 人团队。

3. 魔法工具：量子退火

为了解决这个谜题，作者使用了量子退火。

类比：想象你身处一个黑暗、多山的山谷中，手里有一个球。你的目标是找到山谷的最底部（最佳解决方案）。普通计算机就像一名徒步者，必须一步一步地行走，检查每一座山丘，并希望不会被困在一个小凹陷里。
量子方式：量子退火就像一个魔法球，可以“隧穿”过山丘，或者同时存在于许多地方。它能迅速探索整个山谷，并比徒步者更快地找到绝对的最低点（最佳的镜头组合）。

4. 他们如何设定游戏规则

他们将这个问题转化为一个具有两条规则的游戏：

“重要”规则：选择那些强烈帮助模型说出“是的，这是一架飞机！”的镜头（高重要性）。
“独特”规则：不要选择那些本质上在做同样事情的镜头。如果镜头 A 和镜头 B 都突出“曲线”，则只选择其中一个。他们想要一个多样化的团队，而不是一个克隆人团队。

量子退火机搜索同时满足这两条规则的最佳镜头组合。

5. 结果：更清晰的视野

当他们在图像数据集（如飞机、鸟和卡车）上测试这种方法时，他们发现：

更少的混淆：他们的方法创建了一幅更清晰的图片，展示了模型正在查看的内容。与标准方法相比，它能更好地将“飞机”特征与“船只”特征区分开来。
更高的准确性：当他们移除其方法未选择的图像部分时，模型的置信度下降幅度不如标准方法那么大。这证明他们选择的镜头是真正重要的。
物理检查：他们还分析了其量子系统的“能量”（就像检查烤箱的温度）。他们发现系统很稳定，并且在大多数情况下成功找到了最佳解决方案。

总结

简而言之，这篇论文指出：“深度学习模型很聪明，但难以理解。我们利用量子物理构建了一个新工具，充当‘特征选择器’。它不是向你展示所有内容的模糊混合，而是挑选出模型真正关心的图像中那些具体、独特的部分。这使得 AI 的推理更加清晰，也更容易让人信任。”

他们在标准图像数据集（STL-10）上使用 ResNet-18 模型演示了这一点，表明他们的量子方法比当前的标准技术更能解开模型的思维。

以下是论文《面向可解释人工智能的量子退火特征选择》的详细技术总结。

1. 问题陈述

深度学习（DL）模型，特别是卷积神经网络（CNN），广泛应用于关键领域，但通常作为“黑盒”运行。尽管存在如Grad-CAM和**Grad-CAM++**等可解释人工智能（XAI）技术用于可视化影响预测的图像区域，但它们存在显著局限性：

聚合性：它们将所有特征图（FMs）的贡献合并为单一显著性图，未能解耦各个特征图的具体作用。
冗余性：它们无法过滤掉冗余或相关的表示，使得难以理解驱动决策的具体学习模式。
组合复杂性：选择用于解释预测的最佳特征图子集是一个组合优化问题，其规模随特征数量呈指数级增长（ $2^N$ ），使得经典穷举搜索在计算上不可行。

作者提出，将**特征选择（FS）**应用于内部学习表示（而非原始输入像素）是 XAI 中一种强大但未被充分利用的工具。然而，高效解决此 FS 问题需要一种新方法。

2. 方法论

本文提出了一种新颖的基于**量子退火（QA）**的方法，用于为给定的图像预测选择最相关且非冗余的特征图。

A. 特征图过滤

梯度分析：作者计算了相对于最后一层卷积层特征图（ $f^{(a)}_{ij}$ ）的梯度的全局平均池化。
$\alpha_a = \frac{1}{H_f W_f} \sum_{i,j} \frac{\partial z}{\partial f^{(a)}_{ij}}$
其中 $\alpha_a$ 代表特征图 $a$ 的重要性。
正向选择：仅保留具有正梯度贡献（ $\alpha_a > 0$ ）的特征图，因为这些确认了预测类别。这形成了一个过滤后的集合 $\{\tilde{f}\}$ 。

B. QUBO 公式化

该选择问题被编码为**二次无约束二进制优化（QUBO）**问题（或等效地，伊辛模型）。

变量：二进制变量（量子比特）表示每个过滤后的特征图的包含（1）或排除（0）。
目标函数（哈密顿量）：目标是最大化所选图的重要性，同时最小化冗余（几何相似性）。
$\hat{H}_{QUBO} = (1 - \beta) \frac{1}{2} \sum_{p,q} J_{pq} \hat{n}_p \hat{n}_q + \beta \sum_{p} h_p \hat{n}_p$
- 线性项（ $h_p$ ）：代表特征图 $p$ 的归一化重要性（源自 $\alpha_p$ ）。
- 二次项（ $J_{pq}$ ）：代表特征图 $p$ 和 $q$ 之间的绝对余弦相似度。高相似度意味着冗余；该项惩罚同时选择两者。
- 超参数（ $\beta$ ）：控制选择高重要性特征与最小化冗余之间的权衡。

C. 量子退火协议

初始化：系统处于所有可能特征子集的叠加态（驱动哈密顿量 $\hat{H}_D = -\sum \hat{\sigma}_x$ 的基态）。
演化：系统通过含时哈密顿量 $\hat{H}(s) = A(s)\hat{H}_D + B(s)\hat{H}_{QUBO}$ 演化，其中 $s$ 从 0 到 1。
采样：对最终状态进行采样，以获得代表最佳特征图子集的位串。该子集构成了“解释图”。

3. 主要贡献

新颖的 XAI 框架：首次将量子退火专门应用于选择 CNN 的内部特征图（潜在表示），而非输入像素。
解耦：与聚合所有图的 Grad-CAM 不同，该方法隔离了一个稀疏、非冗余的特征图子集，提供了模型所用具体模式的更清晰视图。
物理驱动分析：作者利用量子物理指标（如最小能隙 $\Delta_{min}$ 和保真度）分析算法的计算行为，以解释该方法为何有效及其可扩展性限制。
混合方法：该工作展示了如何模拟 NISQ（含噪声中等规模量子）概念来解决经典启发式方法难以处理的高维 FS 问题。

4. 结果

该方法在STL-10 数据集上使用ResNet-18架构进行了评估。

类别解耦：
- 作者使用 Bhattacharyya 系数生成了类别 - 类别相关性图。
- 基于 QA 的方法（ $N_f=16$ ）显示出比完整 ResNet-18 模型显著更好的解耦性（更对角化的矩阵），表明所选特征图对各个类别更具特异性。
定量性能（平均下降百分比）：
- 指标：“平均下降百分比”衡量当解释图中不包含的像素被掩码时，模型置信度下降的程度。下降幅度越小，解释越好（该图包含关键信息）。
- 发现：在使用缩减特征集（ $N_f=16$ ）时，QA-fGradCAM方法在大多数类别上实现了比 Grad-CAM 和 Grad-CAM++ 更低的平均下降百分比（更好的性能）。
- 可扩展性说明：当使用模拟退火（SA）扩展到完整 ResNet-18（ $N_f=512$ ）时，性能下降。作者将此归因于在更大的 QUBO 实例中寻找全局最小值的困难，以及冗余项在缺乏对 $\beta$ 的仔细调整下对特征的过度抑制。
物理分析：
- 能隙：发现最小能隙（ $\Delta_{min}$ ）相对较大（约 $10^{-1}$ ），表明问题景观并非 Sherrington-Kirkpatrick 模型的“最困难”实例，且是可处理的。
- 保真度：对于退火时间 $\tau > 50$ ，算法实现了高保真度（收敛至基态），证实了协议的鲁棒性。

5. 意义与结论

可解释性：该方法通过识别负责决策的特定、非冗余滤波器，增强了 DL 模型的透明度，超越了粗略的热图。
量子优势潜力：尽管当前硬件有限，但该研究证明，将 XAI 表述为 QUBO 问题允许高效地探索指数级大的解空间。这表明未来的量子硬件可能比经典启发式方法更快、更准确地解决这些可解释性问题。
未来方向：作者建议调整超参数 $\beta$ 并可能添加基数约束可进一步改善结果。该框架是架构无关的，可应用于其他架构（如 Vision Transformers）或生成模型。

总之，本文 bridged 量子计算与可解释人工智能之间的鸿沟，证明了量子退火可以有效解决深度网络中特征选择的组合问题，从而产生更独特、可靠且可解释的模型解释。