HattriQ: Designing Integrated Gradients for Feature Attribution in Quantum Machine Learning

Ce papier présente HattriQ, un cadre polyvalent qui permet l'interprétabilité dans l'apprentissage automatique quantique basé sur des circuits en calculant des gradients intégrés à base d'amplitudes directement sur du matériel quantique à l'aide de tests de Hadamard, surmontant ainsi les limites des méthodes classiques dues à l'effondrement de la mesure et à la complexité de la simulation.

L'essentiel

Imaginez que vous possédez une boîte noire magique et ultra-complexe capable d'examiner une image de chat et de vous dire : « C'est un chat ! ». Cette boîte est un modèle d'apprentissage automatique quantique (QML). Il est incroyablement puissant, mais il fonctionne selon les lois étranges de la physique quantique.

Le problème ? C'est une boîte noire. Même les personnes qui l'ont construite ne peuvent pas facilement expliquer pourquoi elle a décidé qu'il s'agissait d'un chat. A-t-elle examiné les oreilles ? Les moustaches ? Ou a-t-elle simplement eu de la chance ? Dans le monde classique, nous disposons d'outils pour jeter un coup d'œil à l'intérieur et voir quelles parties de l'entrée étaient les plus importantes. Mais dans le monde quantique, si vous essayez de regarder, la magie disparaît (l'état quantique « s'effondre ») et la réponse change.

Ce papier présente HATTRIQ, un nouvel outil conçu pour résoudre ce mystère sans briser la magie.

Le problème central : la boîte « invisible »

Imaginez un ordinateur quantique comme un chef cuisinant un plat dans une cuisine totalement scellée et insonorisée. Vous lui donnez des ingrédients (les données), et il vous sert un plat fini (la prédiction).

• IA classique : Vous pouvez demander au chef : « Avez-vous utilisé plus de sel ou plus de poivre ? » et il peut vérifier sa recette.
• IA quantique : Le chef travaille avec des ingrédients qui existent à deux endroits à la fois (superposition). Si vous ouvrez la porte pour demander des nouvelles du sel, les ingrédients se transforment instantanément en quelque chose d'autre, et la recette est ruinée.

En raison de cela, nous ne pouvions pas précédemment déterminer quel « ingrédient » (pixel dans une image, ou point de données) était le plus important pour la décision finale.

La solution : HATTRIQ (le « miroir magique »)

Les auteurs ont créé HATTRIQ (schéma de score d'attribution d'entrée basé sur le test de Hadamard pour les modèles quantiques).

Au lieu d'essayer de jeter un coup d'œil dans la cuisine et de gâcher le plat, HATTRIQ utilise un tour de miroir astucieux (appelé test de Hadamard).

• L'analogie : Imaginez que vous voulez savoir dans quelle mesure un ingrédient spécifique a contribué au goût, mais que vous ne pouvez pas goûter la soupe directement. Au lieu de cela, vous exécutez une version « fantôme » parallèle du processus de cuisson à côté de la version réelle. En comparant comment la soupe réelle et la soupe fantôme interagissent, vous pouvez calculer mathématiquement exactement dans quelle mesure cet ingrédient spécifique comptait, sans jamais ouvrir la marmite.

HATTRIQ fait cela sur le matériel quantique réel. Il exécute un circuit spécial qui demande à l'ordinateur quantique : « Si je modifie cette partie spécifique de l'entrée, comment la réponse finale change-t-elle ? » Il fait cela en mesurant la « probabilité » d'un résultat spécifique, ce qui révèle l'importance de cette caractéristique d'entrée.

Comment cela fonctionne (le concept de « gradient »)

En termes simples, HATTRIQ calcule des gradients intégrés.

• Imaginez que vous marchez d'un écran blanc vide (sans image) vers une image complète d'un chat.
• HATTRIQ fait de petits pas le long de ce chemin. À chaque étape, il demande : « Dans quelle mesure ce pixel spécifique a-t-il contribué au changement ? »
• Il additionne toutes ces petites contributions pour vous donner un score final : « Ce pixel était très important (positif élevé) », « Ce pixel était confus (négatif) » ou « Ce pixel n'avait pas d'importance (zéro) ».

Sur quoi ils l'ont testé

L'équipe a testé HATTRIQ sur plusieurs « boîtes noires » pour voir s'il pouvait expliquer leurs décisions :

1. Motifs simples : Distinguer les barres des rayures.
2. Chiffres manuscrits : Reconnaître des chiffres comme 0, 1, 3, 4, etc. (à partir des ensembles de données MNIST et NIST).
3. Vêtements : Faire la différence entre une robe et une chemise, ou des bottes et des sandales (FashionMNIST).
4. Données de physique quantique : Même en le testant sur des données représentant des spins magnétiques dans une chaîne (ensemble de données TFIM), prouvant qu'il fonctionne sur des données purement quantiques, et pas seulement sur des images.

Les résultats : ça marche vraiment !

• C'est logique : Lorsque HATTRIQ a examiné une image du chiffre « 4 », il a mis en évidence les angles vifs du 4 et ignoré l'arrière-plan. Lorsqu'il a examiné un « 3 », il a mis en évidence les courbes. Il n'a pas simplement deviné ; il a trouvé les caractéristiques réelles que le modèle utilisait.
• C'est robuste : Ils l'ont testé avec du matériel quantique « bruyant » (simulant une machine légèrement cassée ou imparfaite). Même avec des erreurs, HATTRIQ a toujours donné des réponses claires et précises.
• C'est efficace : Ils ont montré que vous pouvez exécuter ces tests en parallèle (en utilisant plusieurs « cuisines fantômes » à la fois) pour accélérer le processus.

Pourquoi cela compte

Avant HATTRIQ, si une IA quantique faisait une erreur, nous n'avions aucune idée de la raison. Nous volions à l'aveugle.

• Confiance : Maintenant, nous pouvons vérifier si l'IA regarde les bonnes choses (comme la forme d'une chaussure) ou les mauvaises choses (comme une poussière aléatoire).
• Débogage : Si l'IA est biaisée ou confuse, HATTRIQ aide les développeurs à voir exactement où la confusion se produit afin qu'ils puissent corriger le modèle.

En bref, HATTRIQ est la première lampe de poche qui nous permet de voir à l'intérieur de la boîte noire quantique sans éteindre les lumières. Il traduit les décisions quantiques confuses et invisibles en une carte claire de « ce qui comptait » pour la réponse finale.

Résumé technique

Résumé Technique : HATTRIQ – Conception d'Intégrales de Gradients pour l'Attribution de Caractéristiques en Apprentissage Automatique Quantique

1. Énoncé du Problème

Les algorithmes d'Apprentissage Automatique Quantique (AAQ) montrent des promesses sur diverses plateformes matérielles, mais souffrent d'un manque d'interprétabilité dû à l'opacité inhérente de l'évolution des états quantiques et à l'absence d'observabilité intermédiaire. Bien que les méthodes classiques d'interprétabilité comme les Intégrales de Gradients (IG) et l'analyse de sensibilité basée sur des substituts soient bien établies, elles ne sont pas directement compatibles avec les circuits quantiques.

• Effondrement de la Mesure : Tenter d'enregistrer ou de journaliser les états quantiques cachés après chaque couche de circuit provoque l'effondrement de l'état, détruisant le calcul.
• Complexité Exponentielle : Simuler l'évolution de l'état pour de grands modèles nécessite de manipuler des vecteurs d'amplitudes complexes dans des espaces de Hilbert exponentiellement grands, rendant la simulation classique très gourmande en ressources.
• Incompatibilité : Les méthodes de sensibilité traditionnelles (par exemple, les scores de Sobol/Shapley) ne peuvent pas préserver l'unitarité des circuits quantiques, et les règles de gradient standard (comme le décalage de paramètre) sont difficiles à appliquer lorsque les données sont encodées via un encodage par amplitude, car la structure du circuit de préparation de l'état change souvent en fonction de l'entrée.

Par conséquent, il existe un fossé critique dans la compréhension de la manière dont les caractéristiques d'entrée influencent les résultats de mesure finaux dans les modèles AAQ encodés par amplitude.

2. Méthodologie : HATTRIQ

Les auteurs proposent HATTRIQ (schéma de score d'attribution d'entrée basé sur le test de Hadamard pour les modèles quantiques), un cadre conçu pour calculer des scores d'attribution d'entrée pour les modèles AAQ basés sur des circuits utilisant l'encodage par amplitude. La méthodologie adapte l'approche classique des Intégrales de Gradients (IG) au contexte quantique sans nécessiter l'accès aux états quantiques internes.

Composants Principaux

• Encodage par Amplitude : Le cadre cible le schéma d'encodage largement utilisé où les caractéristiques de données sont encodées comme des amplitudes de l'état d'entrée $|x\rangle = \sum x_i |b_i\rangle$. Cela permet d'encoder un nombre exponentiel de caractéristiques par rapport au nombre de qubits.
• Dérivation du Gradient (Lemme III.1) : Les auteurs dérivent une expression sous forme fermée pour le gradient de la sortie du modèle $F(x; \theta)$ par rapport aux composantes réelles ($c_k$) et imaginaires ($d_k$) des amplitudes d'entrée.
  $$\frac{\partial F}{\partial c_k} = 2 \text{Re}[\langle b_k | U^\dagger(\theta) O U(\theta) | x \rangle]$$
  Cette expression relie le gradient à la valeur attendue d'un opérateur spécifique agissant sur l'état d'entrée, évitant ainsi le besoin d'une tomographie d'état explicite.
• Construction du Test de Hadamard : Pour calculer directement sur le matériel quantique les produits scalaires requis $\langle b_k | \tilde{O} | x \rangle$, HATTRIQ emploie un circuit de test de Hadamard.
  • Le circuit utilise un qubit (ou registre) auxiliaire et des opérations contrôlées.
  • Une branche prépare l'état de base $|b_k\rangle$, et l'autre prépare l'état d'entrée $|x\rangle$ suivi de l'unitaire du modèle $U(\theta)$ et de l'observable $O$.
  • La probabilité de mesurer l'auxiliaire dans l'état $|0\rangle$ donne la partie réelle du produit scalaire, qui correspond à la composante du gradient.
• Parallélisation (Théorème IV.3) : Pour répondre à l'échelle linéaire des évaluations de circuits avec le nombre de caractéristiques d'entrée, les auteurs introduisent une technique de parallélisation multi-ancillaire. En utilisant $m$ qubits auxiliaires, le cadre peut calculer $2^m - 1$ composantes de gradient simultanément dans une seule exécution de circuit, préservant ainsi l'efficacité spatiale exponentielle de l'encodage par amplitude.

3. Contributions Clés

L'article expose les contributions spécifiques suivantes :

1. Formalisme pour les IG en AAQ : Une méthode formelle pour calculer les intégrales de gradients pour les modèles AAQ utilisant l'encodage par amplitude, un schéma précédemment difficile à différencier efficacement.
2. Construction de Circuit Natif Quantique : Une conception de circuit basée sur le test de Hadamard qui calcule les gradients exacts des caractéristiques directement sur le matériel quantique sans nécessiter la connaissance de l'état quantique interne.
3. Stratégie de Parallélisation : Une technique multi-ancillaire permettant le calcul simultané de gradients, qui évolue de manière exponentielle avec le nombre de qubits auxiliaires, rendant l'approche viable pour des ensembles de données plus grands sur des dispositifs ayant une capacité suffisante.
4. Validation Empirique : Évaluation de HATTRIQ sur des tâches de classification utilisant Bars and Stripes, MNIST, FashionMNIST, et un ensemble de données quantique synthétique du Modèle d'Ising à Champ Transverse (TFIM).
5. Open Source : Publication du code et des ensembles de données pour faciliter la reproductibilité.

4. Résultats Expérimentaux

Les auteurs ont évalué HATTRIQ en utilisant des simulations (en supposant un matériel idéal corrigé des erreurs) et des simulations bruyantes représentatives de l'informatique quantique tolérante aux pannes précoce (EFTQC).

• Ensembles de Données et Précision : Le cadre a été testé sur des tâches de classification binaire à travers plusieurs ensembles de données. Les modèles ont atteint une haute précision (par exemple, ~95-100 % sur les sous-ensembles Bars/Stripes et NIST ; ~70-99 % sur les sous-ensembles FashionMNIST).
• Qualité de l'Attribution :
  • Pertinence Sémantique : Pour les ensembles de données d'images (NIST, MNIST, FashionMNIST), les cartes d'attribution générées mettaient en évidence des régions sémantiquement significatives. Par exemple, dans la classification de chiffres, les attributions se concentraient sur les traits des chiffres tout en ignorant le bruit de fond. Dans FashionMNIST, le modèle a correctement identifié les sangles des sacs et exclu les zones de sandales.
  • Comparaison d'Encodage : Bien que l'encodage par angle et l'encodage par amplitude aient atteint des précisions de classification similaires, HATTRIQ a révélé qu'ils produisaient des schémas d'attribution nettement différents, suggérant des stratégies d'utilisation des caractéristiques distinctes.
  • Validation par Modèle Null : Lorsqu'appliqué à des "modèles nuls" (paramètres initialisés aléatoirement), HATTRIQ a produit des cartes d'attribution diffuses et non concentrées, confirmant que les attributions structurées dans les modèles entraînés ne sont pas des artefacts de la méthode mais reflètent des caractéristiques apprises.
• Robustesse :
  • Bruit de Tir : Même avec de faibles nombres de tirs de mesure (10–100 tirs), les scores d'attribution sont restés largement fidèles aux simulations exactes, avec des écarts n'apparaissant que dans les attributions faibles.
  • Bruit Matériel : Sous un canal de bruit dépolarisant ($\gamma = 10^{-4}$), les scores d'attribution ont maintenu leur distribution spatiale et leur intensité relative, démontrant leur adéquation pour les dispositifs tolérants aux pannes précoces.
• Données Quantiques (TFIM) : Sur l'ensemble de données TFIM synthétique, HATTRIQ a correctement identifié les transitions de phase. Dans le régime de champ fort ($g > 1$), les attributions se concentraient sur les corrélations $\sigma_x$, tandis que dans le régime de champ faible ($g < 1$), les attributions se sont déplacées vers les composantes $\sigma_y$ et $\sigma_z$, s'alignant avec l'intuition physique.

5. Signification et Revendications

L'article présente HATTRIQ comme la première méthode d'attribution d'entrée basée sur le gradient spécifiquement conçue pour les modèles AAQ qui prend en charge l'encodage par amplitude et fonctionne nativement sur le matériel quantique.

• Compatibilité Matérielle : Contrairement aux méthodes d'interprétabilité précédentes qui reposent sur des substituts classiques ou la perturbation (qui brisent l'unitarité ou nécessitent un effondrement d'état), HATTRIQ utilise une construction basée sur des circuits qui respecte la mécanique quantique.
• Évolutivité : En tirant parti du test de Hadamard et de la parallélisation multi-ancillaire, la méthode aborde la complexité exponentielle de l'encodage par amplitude, offrant une voie vers une interprétabilité évolutive pour des modèles quantiques plus grands.
• Confiance et Débogage : Le cadre permet d'identifier les caractéristiques hautement influentes et permet aux chercheurs de vérifier si les prédictions du modèle s'alignent avec des régions sémantiquement significatives. Il fournit également un mécanisme pour détecter les biais envers les artefacts de fond ou pour comparer différents schémas d'encodage qui peuvent avoir une précision similaire mais une logique interne différente.

Les auteurs concluent que HATTRIQ fournit un cadre unifié, agnostique de l'implémentation, pour l'attribution d'entrée avec des garanties de fidélité, marquant une étape significative vers la transparence et la fiabilité des modèles AAQ. Un travail futur est noté comme potentiellement étendant le cadre aux attributions de paramètres et de couches.