🔬 optique

Seeing Why: Exact Evidence Maps for Quantum and Optical Image Classifiers

Cet article introduit les Born Evidence Maps (BEM), une méthode exacte et sans approximation pour interpréter les classificateurs d'images quantiques et entièrement optiques linéaires en décomposant les probabilités de classe en contributions d'amplitude mesurables, démontrant leur efficacité pour identifier les caractéristiques critiques et révéler les raccourcis de données à travers des expériences sur matériel quantique IBM simulées et réelles.

Auteur original : Teerawat Tongloy, Rangsan Jomtarak

Publié 2026-11-03

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteur original : Teerawat Tongloy, Rangsan Jomtarak

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par l'auteur. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Lorsqu'un ordinateur regarde une photographie et décide de ce qu'il voit, le raisonnement derrière ce choix est généralement un mystère. Même les systèmes les plus avancés fonctionnent comme des boîtes noires : ils reçoivent une image en entrée et recrachent une étiquette, mais le chemin entre les deux est caché à l'intérieur de couches de calculs complexes. Les scientifiques ont développé des méthodes pour deviner quelles parties d'une image importaient le plus, mais ces suppositions sont souvent des approximations qui ne correspondent pas à la décision finale. Ce manque de transparence est un obstacle important, surtout à mesure que les chercheurs commencent à construire des classificateurs utilisant de la lumière ou des particules quantiques au lieu des puces traditionnelles en silicium. Si ces nouvelles machines doivent être dignes de confiance, nous devons savoir exactement pourquoi elles ont fait un choix, et non pas seulement une supposition. Le défi est de trouver un moyen de voir le raisonnement à l'intérieur de la machine, de remonter la décision jusqu'aux pixels spécifiques qui l'ont pilotée, sans perdre en précision ou s'appuyer sur des estimations approximatives.

Une équipe de chercheurs a maintenant construit un système qui résout ce problème pour les classificateurs d'images optiques et quantiques. Ils ont créé une machine capable de regarder une image et, en même cas, de produire une carte montrant exactement quelles parties de cette image ont contribué à la réponse. Contrairement aux méthodes précédentes qui n'offrent qu'une estimation, ce système fournit un compte rendu exact. Chaque fragment de preuve collecté par la machine s'ajoute parfaitement à la probabilité finale de sa décision. Les chercheurs ont démontré cela sur deux types de matériel très différents : une puce d'ordinateur quantique et un banc optique simulé composé de lentilles et de lumière. Dans les deux cas, ils ont pu pointer les pixels spécifiques qui ont convaincu la machine d'identifier un bateau, un léopard ou une voiture, et ils ont pu prouver que ces pixels étaient la véritable raison de la décision.

Le cœur de ce travail est une nouvelle façon de coder les images afin que la machine traite les caractéristiques sombres et lumineuses de manière égale. Dans de nombreux systèmes, les zones claires d'une photo dominent l'analyse, ce qui amène la machine à ignorer des détails sombres mais importants. Les chercheurs ont résolu ce problème en décalant l'image de sorte que la luminosité moyenne devienne un point de référence neutre. Cela permet à une ombre sombre sur la coque d'un bateau de peser autant qu'une tache lumineuse dans le ciel. Une fois l'image préparée de cette façon, elle passe à travers une série de filtres. Dans la version optique, la lumière traverse une série de plaques de verre qui courbent et façonnent le faisceau. Dans la version quantique, l'image est traduite en l'état de quelques bits quantiques, qui sont ensuite manipulés par une séquence spécifique d'opérations. Les deux chemins mènent à une mesure finale qui détermine la classe de l'objet.

Ce qui rend ce travail unique est la capacité de rétro-concevoir la décision. Les chercheurs ont montré que les mathématiques sous-jacentes à ces systèmes linéaires leur permettent de décomposer la probabilité finale en contributions provenant de chaque pixel. Ils appellent ces « cartes d'évidence de Born ». Ces cartes agissent comme une carte thermique, mettant en évidence les parties de l'image qui ont poussé la machine vers une réponse spécifique et montrant quelles parties l'en ont éloignée. Parce que les mathématiques sont exactes, la somme de toutes ces contributions de pixels est égale à la confiance de la machine dans sa réponse. Il n'y a aucune approximation impliquée ; l'explication est aussi précise que la décision elle-même. C'est un départ significatif par rapport aux autres méthodes, qui nécessitent souvent de faire passer l'image à travers le système des milliers de fois avec différentes parties bloquées pour deviner ce qui comptait. Ici, l'explication provient directement de l'exécution unique de l'image.

Pour tester si ces cartes étaient réellement utiles, les chercheurs ont mené une expérience rigoureuse. Ils ont pris un ensemble d'images de test et ont systématiquement supprimé les pixels que la carte indiquait comme étant les plus importants. Lorsqu'ils ont supprimé seulement cinq pour cent des pixels ayant la plus forte évidence, la précision de la machine a chuté de soixante-treize pour cent à neuf pour cent. Cela a prouvé que la carte identifiait correctement les caractéristiques critiques. En revanche, lorsqu'ils ont supprimé des pixels basés sur d'anciennes méthodes moins précises, la précision de la machine a à peine chuté. Les cartes ont également révélé une faille cachée dans les données qu'ils utilisaient. Le système a remarqué que les photos de léopards dans leur ensemble d'entraînement comportaient souvent une bande sombre tout en haut du bord, une particularité de la façon dont les photos avaient été recadrées. La machine avait appris à utiliser cette bande sombre comme un raccourci pour identifier les léopards, plutôt que de regarder l'animal lui-même. Les chercheurs ont utilisé les cartes pour repérer ce comportement, ont supprimé les bandes sombres des images et ont réentraîné le système. Le résultat fut une machine qui a enfin appris à reconnaître le corps et les taches du léopard, plutôt que l'espace vide au-dessus de lui.

Les chercheurs ont ensuite pris leur conception optique et l'ont exécutée sur un véritable ordinateur quantique, spécifiquement la puce IBM ibm_kingston. Ils ont chargé trois cents images de test sur la puce et leur ont demandé de les classifier. La machine a atteint une précision de trente-sept virgule sept pour cent, ce qui est près de quatre fois supérieur à un choix aléatoire. Plus important encore, ils ont mesuré les cartes d'évidence directement sur la puce pour une sélection d'images. Ces mesures du monde réel correspondaient aux cartes théoriques exactes avec une corrélation de zéro virgule soixante-dix-sept. Cela a confirmé que le matériel quantique ne se contentait pas de prendre des décisions, mais produisait également le même raisonnement interne que celui prédit par la théorie. Bien que la puce quantique ait été limitée par la difficulté de charger les images dans sa mémoire, la simulation optique a montré qu'un banc physique de lentilles et de miroirs pouvait atteindre une précision de soixante-douze virgule trois pour cent sur le même ensemble de photographies couleur.

L'étude a également établi les exigences physiques pour construire une telle machine optique. Les chercheurs ont simulé les effets des imperfections du monde réel, telles que de légers désalignements des plaques de verre ou des fluctuations de la puissance du laser. Ils ont constaté que le système est étonnamment robuste ; il peut tolérer de petites erreurs d'alignement et tout de même bien fonctionner. Cependant, l'alignement doit être précis à environ un micron, et la puissance du laser doit rester stable pendant la mesure. Ces conclusions fournissent un schéma directeur clair pour les ingénieurs qui souhaitent construire ces dispositifs. Le travail démontre qu'il est possible de créer des classificateurs d'images qui sont non seulement précis, mais aussi totalement transparents. En utilisant la lumière ou des particules quantiques, et en concevant le système pour qu'il soit linéaire, les chercheurs ont levé le mystère du processus de prise de décision. La machine ne donne plus seulement une réponse ; elle montre son travail, pixel par pixel, prouvant que la voie pour comprendre comment ces nouvelles technologies pensent est désormais ouverte.

Résumé Technique : Voir pourquoi : Cartes de preuves exactes pour les classificateurs d'images quantiques et optiques

Énoncé du problème
Les explications actuelles pour les classificateurs d'images, telles que les gradients, les cartes d'activation de classe, les gradients intégrés ou les valeurs de Shapley, sont généralement des approximations. Elles échouent souvent à se sommer exactement pour atteindre la décision qu'elles expliquent ou nécessitent une estimation numérique via des intégrales de chemin ou des coalitions de caractéristiques. Ce problème persiste dans les classificateurs quantiques et optiques, qui reposent souvent sur des architectures hybrides avec des réseaux classiques pré-entraînés ou nécessitent une estimation numérique des attributions. Les auteurs répondent au besoin d'une architecture de classificateur d'images où la contribution de chaque amplitude d'entrée à chaque probabilité de classe peut être décomposée exactement, sans approximation, et où ces explications peuvent être mesurées directement sur le matériel effectuant la classification.

Méthodologie
Le papier propose une architecture unifiée pour les classificateurs basés sur les qubits et les classificateurs entièrement optiques, qui opère linéairement sur des images encodées en amplitude jusqu'à la mesure finale, sans réseau classique entraîné avant ou après la transformation quantique/optique.

Encodage (Le plan de la moyenne) : Pour garantir que les caractéristiques sombres transportent autant de signal que les brillantes, les auteurs retirent la moyenne des canaux de chaque image des plans de couleur. Ces moyennes sont déplacées vers un « plan de moyennes » dédié (le quatrième plan), mis à l'échelle pour transporter 50 % de l'énergie de l'image. Cela permet aux déviations sombres de devenir de grandes amplitudes négatives avec une énergie égale aux amplitudes positives.
Masque du plan de Fourier : Avant le traitement principal, chaque plan de couleur passe par un masque complexe appris dans son domaine de fréquence spatiale. Sur un banc optique, il s'agit d'un système 4f avec un modulateur spatial de lumière ; sur les qubits, il s'agit d'une Transformée de Fourier Quantique (QFT) avec un masque post-sélectionné. Ce filtre est équivariant par translation et agit comme une convolution avec un noyau réel.
Traitement principal :
- Qubits : Un circuit en « mur de briques » (brickwall) de profondeur 11 sur 12 qubits, composé de rotations à un qubit et de CNOT de voisinage proche.
- Optique : Quatre plaques de phase séparées de 3,2 mm, faisant progresser la lumière par diffraction de Fresnel.
Lecture (Born Headroom) : Le système utilise une lecture « Born Headroom » (BHR). Au lieu d'un softmax standard, il calcule le « headroom » ( $u_g$ ) pour chaque classe $g$ , défini comme la probabilité mesurée ( $P_g$ ) moins la « part d'absence d'information » de la classe ( $b_g$ , la masse qu'un apport maximally mixte recevrait), normalisée par l'espace restant ( $1-b_g$ ). Ces headrooms sont convertis en probabilités via un LeakyReLU fixe et un softmax avec un paramètre d'échelle $\phi$ pré-réglé, ne nécessitant aucun paramètre entraînable dans la couche de lecture.
Cartes de Preuve de Born (BEM) : La contribution théorique centrale est la dérivation d'une décomposition additive exacte de la probabilité de classe au-dessus de sa part d'absence d'information ( $P_g - b_g$ ). Pour une application linéaire $A$ et une projection $\Pi_g$ , l'évidence d'une amplitude $x$ est donnée par $e_g(x) = a(x) \text{Re}[\langle Mg \rangle(x)] / Z$ , où $M_g = A^\dagger(\Pi_g - b_g)A$ . Cette décomposition est une identité algébrique, équivalente aux gradients intégrés à partir d'une ligne de base zéro pour la forme quadratique sous-jacente, et se somme exactement à $P_g - b_g$ .

Contributions clés

Décomposition exacte : Le papier fournit une décomposition exacte et en forme fermée des probabilités de classe pour les classificateurs à encodage d'amplitude linéaires. Contrairement aux méthodes précédentes, ces cartes se somment exactement à la probabilité de classe au-dessus de sa ligne de base, évitant ainsi l'approximation numérique.
Cartes mesurables sur matériel : Les auteurs démontrent que ces cartes d'évidence peuvent être estimées directement à partir de mesures matérielles.
- Sur les qubits, les cartes sont dérivées des probabilités de classe à l'aide de l'identité de polarisation des formes quadratiques, ne nécessitant que des passages directs (forward) et adjoints (adjoint), sans tests de Hadamard.
- Sur un banc optique, les cartes sont dérivées uniquement des intensités de caméra en mesurant la lumière pour l'image complète, l'image avec un masque de bloc, et l'image avec le bloc conservé.
Encodage par plan de moyenne : L'introduction de l'encodage par « plan de moyenne » est présentée comme l'amélioration architecturale la plus significative, déplaçant le focus de l'explication de l'arrière-plan vers l'objet lui-même.
Architecture unifiée : Un seul design (masque de Fourier + transformation linéaire + BHR) sert à la fois le matériel quantique (mur de briques) et optique (plaques de phase), entraîné sur des jeux de données allant de MNIST à Caltech-10 en couleur.
Découverte de raccourcis de données : Les cartes ont été utilisées pour identifier et supprimer un raccourci de données (un cadre sombre sur les images de léopards dans le jeu de données non tronqué), démontrant l'utilité des explications exactes pour le débogage des données.

Résultats

Performance : Sur Caltech-10 (couleur, 32x32), le modèle optique complet (quatre plaques de phase) a atteint une précision de 72,3 %. Le modèle de qubits (mur de briques de profondeur 11) a atteint 54,9 % en simulation.
Exécution sur matériel : Sur la puce quantique ibm_kingston d'IBM, le modèle de qubits a atteint 37,7 % de précision sur 300 images de test (3,8 fois la chance), comparé à 56,3 % en simulation exacte. La chute de précision est principalement attribuée au circuit de chargement d'état (fidélité ~0,77) plutôt qu'au bruit de la puce.
Qualité de l'explication :
- Tests de suppression (Deletion Tests) : Supprimer les 5 % de pixels supérieurs par évidence a fait chuter la précision de 73 % à 9 % (optique) et de 56 % à 5 % (qubit), égalant les performances des méthodes d'occlusion mais nécessitant beaucoup moins de passages.
- Corrélation : Sur la puce quantique, les cartes d'évidence de blocs 2x2 pour 10 images correctement classées corrélaient avec les cartes exactes à r = 0,77.
- Focus sur l'objet : Avec le plan de moyenne, l'évidence se concentre sur l'objet (1,32–1,37 fois la part de surface), tandis que l'encodage d'amplitude simple répartit l'évidence uniformément.
Tolérances : Les simulations d'un banc optique physique indiquent que le système est robuste aux modulateurs 8 bits mais nécessite un alignement précis (décalages de plaques < 0,8 µm, rotation < 0,25°) et une puissance laser stable (dérive < 0,1 % par image).

Signification et affirmations
Le papier affirme fournir le premier classificateur d'images optique dont les probabilités de classe se décomposent exactement en contributions des amplitudes encodées, ainsi qu'un classificateur quantique sans réseau classique entraîné dont les explications ont été mesurées sur un véritable ordinateur quantique.

Les auteurs font preuve de modestie quant aux résultats, précisant explicitement que :

Le modèle entièrement optique est un réseau diffractif linéaire ; aucun avantage quantique n'est revendiqué, et la lumière classique suffit.
Les précisions (par exemple, 72,3 % sur Caltech-10) sont inférieures à celles de petits réseaux convolutifs électroniques (85,4 %) ou de grands ensembles diffractifs.
La décomposition est exacte pour les amplitudes encodées, et non pour les pixels bruts, en raison de l'encodage par soustraction de la moyenne.
Les résultats matériels sont limités par l'état actuel du chargement de l'état quantique, et non nécessairement par l'architecture du classificateur elle-même.
Le « raccourci » trouvé dans les données a été identifié à l'aide de l'ensemble de test, ce qui signifie que les résultats sur l'ensemble tronqué sont exploratoires et manquent d'un ensemble de validation totalement indépendant.

La principale signification réside dans l'interprétabilité du système : la capacité de mesurer exactement pourquoi un classificateur linéaire quantique ou optique a pris une décision directement sur le matériel, sans approximation, et d'utiliser ces cartes pour valider que le modèle repose sur l'objet plutôt que sur des artefacts d'arrière-plan.

Articles similaires