🤖 machine learning

Towards interpretable AI with quantum annealing feature selection

Ce papier propose une méthode novatrice pour interpréter les réseaux de neurones convolutifs dans la classification d'images en formulant la sélection de cartes de caractéristiques comme un problème d'optimisation quantique sous contraintes résolu par recuit quantique, qui surpasse les techniques de l'état de l'art comme GradCAM en matière de désintrication des classes et de transparence tout en fournissant des aperçus théoriques sur le comportement computationnel de l'algorithme.

Auteurs originaux : Francesco Aldo Venturelli, Emanuele Costa, Sikha O K, Bruno Juliá-Díaz, Miguel A. González Ballester, Alba Cervera-Lierta

Publié 2026-04-29

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Francesco Aldo Venturelli, Emanuele Costa, Sikha O K, Bruno Juliá-Díaz, Miguel A. González Ballester, Alba Cervera-Lierta

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous avez un chef brillant mais mystérieux (un modèle d'apprentissage profond) capable d'identifier parfaitement une image de chat ou de camion. Cependant, ce chef n'explique jamais pourquoi il a fait ce choix. Il dit simplement : « C'est un chat », et passe à autre chose. Dans le monde de l'intelligence artificielle, c'est ce qu'on appelle une « boîte noire ». Si le chef se trompe, nous ne savons pas s'il regardait les moustaches, les oreilles, ou peut-être juste la couleur de l'arrière-plan.

Ce papier présente une nouvelle façon de jeter un coup d'œil dans l'esprit du chef pour voir exactement quels ingrédients (caractéristiques) il a utilisés pour prendre sa décision. Mais au lieu d'utiliser un outil de cuisine standard, les auteurs ont utilisé un four très spécial et futuriste appelé recuit quantique.

Voici la décomposition de leur méthode en utilisant des analogies simples :

1. Le Problème : Trop d'Ingrédients

Lorsqu'un ordinateur examine une image, il la décompose en milliers de petites « cartes de caractéristiques ». Imaginez-les comme des milliers de filtres ou de lentilles différents. Une lentille pourrait mettre en évidence des « lignes courbes », une autre des « textures vertes », et une autre des « bords nets ».

Les méthodes standard (comme GradCAM) tentent d'expliquer la décision en mélangeant toutes ces lentilles en une seule image floue. C'est comme essayer de comprendre une chanson en écoutant tout l'orchestre jouer en même temps. Vous entendez la musique, mais vous ne pouvez pas dire quel instrument spécifique joue la mélodie.

2. La Solution : La Liste « Meilleur de » Quantique

Les auteurs voulaient trouver le petit groupe parfait de lentilles qui ont réellement fait le travail. Ils se sont demandé : « Quelles sont les 10 lentilles parmi les 500 qui sont vraiment responsables de l'identification de cet 'Avion' ? »

C'est un puzzle immense. Si vous avez 500 lentilles, le nombre de combinaisons possibles est si énorme qu'un ordinateur ordinaire mettrait une éternité à les vérifier toutes. C'est comme essayer de trouver l'équipe parfaite de 10 joueurs parmi un bassin de 500 en essayant chaque combinaison possible.

3. L'Outil Magique : Le Recuit Quantique

Pour résoudre ce puzzle, les auteurs ont utilisé le recuit quantique.

L'Analogie : Imaginez que vous êtes dans une vallée montagneuse sombre avec une balle. Votre objectif est de trouver le fond même de la vallée (la meilleure solution). Un ordinateur ordinaire est comme un randonneur qui doit avancer pas à pas, vérifier chaque colline et espérer ne pas rester coincé dans une petite dépression.
La Façon Quantique : Le recuit quantique est comme une balle magique capable de « tunneler » à travers les collines ou d'exister à plusieurs endroits à la fois. Elle peut explorer rapidement toute la vallée et trouver le point le plus bas absolu (le meilleur ensemble de lentilles) beaucoup plus vite que le randonneur.

4. Comment Ils Ont Mis en Place le Jeu

Ils ont transformé le problème en un jeu avec deux règles :

La Règle « Importante » : Choisissez les lentilles qui ont fortement aidé le modèle à dire « Oui, c'est un avion ! » (Haute importance).
La Règle « Unique » : Ne choisissez pas les lentilles qui font essentiellement la même chose. Si la lentille A et la lentille B mettent toutes deux en évidence des « lignes courbes », choisissez-en une seule. Ils veulent une équipe diversifiée, pas une équipe de clones.

Le recuit quantique a recherché le mélange parfait de lentilles satisfaisant simultanément les deux règles.

5. Les Résultats : Une Vision Plus Claire

Lorsqu'ils ont testé cela sur un ensemble de données d'images (comme des avions, des oiseaux et des camions), ils ont constaté :

Moins de Confusion : Leur méthode a créé une image beaucoup plus claire de ce que le modèle regardait. Elle a mieux séparé les caractéristiques de l'« Avion » de celles du « Navire » que les méthodes standard.
Meilleure Précision : Lorsqu'ils ont supprimé les parties de l'image que leur méthode n'avait pas sélectionnées, la confiance du modèle n'a pas diminué autant que ce qui se produisait avec les méthodes standard. Cela prouve que leurs lentilles sélectionnées étaient les vraiment importantes.
Vérification Physique : Ils ont également analysé l'« énergie » de leur système quantique (comme vérifier la température du four). Ils ont constaté que le système était stable et qu'il trouvait avec succès les meilleures solutions la plupart du temps.

Résumé

En bref, ce papier dit : « Les modèles d'apprentissage profond sont intelligents mais difficiles à comprendre. Nous avons construit un nouvel outil utilisant la physique quantique pour agir comme un 'sélecteur de caractéristiques'. Au lieu de vous montrer un mélange flou de tout, il sélectionne les parties spécifiques et uniques d'une image qui intéressent réellement le modèle. Cela rend le raisonnement de l'IA beaucoup plus clair et plus facile à faire confiance. »

Ils ont démontré cela sur un ensemble de données d'images standard (STL-10) en utilisant un modèle ResNet-18, montrant que leur approche quantique pouvait démêler la pensée du modèle mieux que les techniques standard actuelles.

1. Énoncé du problème

Les modèles d'Apprentissage Profond (DL), en particulier les Réseaux de Neurones Convolutifs (CNN), sont largement utilisés dans des applications critiques mais fonctionnent souvent comme des « boîtes noires ». Bien que des techniques d'IA Explicable (XAI) comme Grad-CAM et Grad-CAM++ existent pour visualiser les régions d'image influençant les prédictions, elles souffrent de limitations significatives :

Agrégation : Elles combinent les contributions de toutes les cartes de caractéristiques (FMs) en une seule carte de saillance, échouant à dissocier les rôles spécifiques des FMs individuelles.
Redondance : Elles ne filtrent pas les représentations redondantes ou corrélées, rendant difficile la compréhension des motifs appris spécifiques qui sous-tendent une décision.
Complexité combinatoire : Sélectionner le sous-ensemble optimal de FMs pour expliquer une prédiction est un problème d'optimisation combinatoire qui croît de manière exponentielle ( $2^N$ ) avec le nombre de caractéristiques, le rendant computationnellement intraitable pour une recherche exhaustive classique.

Les auteurs proposent que la Sélection de Caractéristiques (FS) appliquée aux représentations apprises internes (plutôt qu'aux pixels d'entrée bruts) est un outil puissant mais sous-utilisé pour la XAI. Cependant, résoudre ce problème de FS efficacement nécessite une nouvelle approche.

2. Méthodologie

L'article propose une approche novatrice basée sur le Recuit Quantique (QA) pour sélectionner les cartes de caractéristiques les plus pertinentes et non redondantes pour une prédiction d'image donnée.

A. Filtrage des cartes de caractéristiques

Analyse du gradient : Les auteurs calculent le pooling moyen global des gradients par rapport aux cartes de caractéristiques de la dernière couche convolutive ( $f^{(a)}_{ij}$ ).
$\alpha_a = \frac{1}{H_f W_f} \sum_{i,j} \frac{\partial z}{\partial f^{(a)}_{ij}}$
où $\alpha_a$ représente l'importance de la carte de caractéristiques $a$ .
Sélection positive : Seules les cartes de caractéristiques ayant une contribution de gradient positive ( $\alpha_a > 0$ ) sont conservées, car elles confirment la classe prédite. Cela crée un ensemble filtré $\{\tilde{f}\}$ .

B. Formulation QUBO

Le problème de sélection est encodé dans un problème d'Optimisation Binaire Quadratique Non Contrainte (QUBO) (ou de manière équivalente, un modèle d'Ising).

Variables : Des variables binaires (qubits) représentent l'inclusion ($1$) ou l'exclusion ($0$) de chaque carte de caractéristiques filtrée.
Fonction objectif (Hamiltonien) : L'objectif est de maximiser l'importance des cartes sélectionnées tout en minimisant la redondance (similarité géométrique).
$\hat{H}_{QUBO} = (1 - \beta) \frac{1}{2} \sum_{p,q} J_{pq} \hat{n}_p \hat{n}_q + \beta \sum_{p} h_p \hat{n}_p$
- Terme linéaire ( $h_p$ ) : Représente l'importance normalisée de la carte de caractéristiques $p$ (dérivée de $\alpha_p$ ).
- Terme quadratique ( $J_{pq}$ ) : Représente la similarité cosinus absolue entre les cartes de caractéristiques $p$ et $q$ . Une forte similarité implique une redondance ; le terme pénalise la sélection des deux.
- Hyperparamètre ( $\beta$ ) : Contrôle le compromis entre la sélection de caractéristiques à haute importance et la minimisation de la redondance.

C. Protocole de recuit quantique

Initialisation : Le système démarre dans une superposition de tous les sous-ensembles de caractéristiques possibles (état fondamental d'un Hamiltonien pilote $\hat{H}_D = -\sum \hat{\sigma}_x$ ).
Évolution : Le système évolue via un Hamiltonien dépendant du temps $\hat{H}(s) = A(s)\hat{H}_D + B(s)\hat{H}_{QUBO}$ , où $s$ va de 0 à 1.
Échantillonnage : L'état final est échantillonné pour obtenir une chaîne de bits représentant le sous-ensemble optimal de cartes de caractéristiques. Ce sous-ensemble constitue la « carte d'explication ».

3. Contributions clés

Nouveau cadre XAI : La première application du Recuit Quantique spécifiquement pour sélectionner les cartes de caractéristiques internes (représentations latentes) des CNN, plutôt que les pixels d'entrée.
Désenchevêtrement : Contrairement à Grad-CAM qui agrège toutes les cartes, cette méthode isole un sous-ensemble sparse et non redondant de FMs, offrant une vue plus claire des motifs spécifiques que le modèle utilise.
Analyse pilotée par la physique : Les auteurs analysent le comportement computationnel de l'algorithme en utilisant des métriques de physique quantique, telles que le gap d'énergie minimum ( $\Delta_{min}$ ) et la fidélité, pour expliquer pourquoi la méthode fonctionne et quelles sont ses limites d'évolutivité.
Approche hybride : Le travail démontre comment les concepts NISQ (Quantique à Échelle Intermédiaire Bruyante) peuvent être simulés pour résoudre des problèmes de FS de haute dimension difficiles pour les heuristiques classiques.

4. Résultats

La méthode a été évaluée sur le jeu de données STL-10 en utilisant une architecture ResNet-18.

Désenchevêtrement des classes :
- Les auteurs ont généré des cartes de corrélation classe-à-classe en utilisant le coefficient de Bhattacharyya.
- La méthode basée sur le QA (avec $N_f=16$ ) a montré un désenchevêtrement nettement meilleur (matrice plus diagonale) par rapport au modèle ResNet-18 complet, indiquant que les FMs sélectionnées sont plus spécifiques à des classes individuelles.
Performance quantitative (Pourcentage de chute moyenne) :
- Métrique : Le « Pourcentage de chute moyenne » mesure de combien la confiance du modèle chute lorsque les pixels non inclus dans la carte d'explication sont masqués. Une chute plus faible indique une meilleure explication (la carte contient l'information critique).
- Constats : La méthode QA-fGradCAM a obtenu un Pourcentage de chute moyenne plus faible (meilleure performance) que Grad-CAM et Grad-CAM++ pour la plupart des classes lors de l'utilisation d'un ensemble de caractéristiques réduit ( $N_f=16$ ).
- Note sur l'évolutivité : Lors de la mise à l'échelle vers le ResNet-18 complet ( $N_f=512$ ) en utilisant le Recuit Simulé (SA), les performances se sont dégradées. Les auteurs attribuent cela à la difficulté de trouver le minimum global dans de plus grandes instances QUBO et à la suppression agressive des caractéristiques par le terme de redondance sans un réglage minutieux de $\beta$ .
Analyse physique :
- Gap d'énergie : Le gap d'énergie minimum ( $\Delta_{min}$ ) s'est avéré relativement large (environ $10^{-1}$ ), suggérant que le paysage du problème n'est pas l'instance la plus « difficile » du modèle de Sherrington-Kirkpatrick et qu'il est traitable.
- Fidélité : Pour des temps de recuit $\tau > 50$ , l'algorithme a atteint une haute fidélité (convergence vers l'état fondamental), confirmant la robustesse du protocole.

5. Signification et conclusion

Interprétabilité : La méthode améliore la transparence des modèles DL en identifiant les filtres spécifiques et non redondants responsables d'une décision, allant au-delà des cartes thermiques grossières.
Potentiel d'avantage quantique : Bien que le matériel actuel soit limité, l'étude prouve que la formulation de la XAI comme un problème QUBO permet l'exploration efficace d'espaces de solutions exponentiellement grands. Cela suggère que le matériel quantique futur pourrait résoudre ces problèmes d'interprétabilité plus rapidement et plus précisément que les heuristiques classiques.
Perspectives futures : Les auteurs suggèrent que le réglage de l'hyperparamètre $\beta$ et l'ajout potentiel de contraintes de cardinalité pourraient améliorer davantage les résultats. Le cadre est agnostique et pourrait être appliqué à d'autres architectures (par exemple, les Transformers de vision) ou à des modèles génératifs.

En résumé, cet article comble le fossé entre l'Informatique Quantique et l'IA Explicable, démontrant que le recuit quantique peut résoudre efficacement le problème combinatoire de la sélection de caractéristiques dans les réseaux profonds, conduisant à des explications de modèles plus distinctes, fiables et interprétables.