HattriQ: Designing Integrated Gradients for Feature Attribution in Quantum Machine Learning

Dit artikel introduceert HattriQ, een algemeen toepasbaar raamwerk dat interpretatie in circuitgebaseerde quantummachinelearning mogelijk maakt door amplitudegebaseerde geïntegreerde gradiënten direct op quantumhardware te berekenen met behulp van Hadamard-tests, waarmee de beperkingen van klassieke methoden als gevolg van metingscollaps en simulatiecomplexiteit worden overwonnen.

De kern

Stel je een magische, super-complexe zwarte doos voor die naar een foto van een kat kan kijken en je kan vertellen: "Dat is een kat!" Deze doos is een Quantum Machine Learning (QML)-model. Het is ongelooflijk krachtig, maar het werkt volgens de vreemde wetten van de quantumfysica.

Het probleem? Het is een zwarte doos. Zelfs de mensen die het hebben gebouwd kunnen niet gemakkelijk uitleggen waarom het besliste dat het een kat was. Keek het naar de oren? Naar de snorharen? Of had het gewoon geluk? In de klassieke wereld hebben we hulpmiddelen om naar binnen te kijken en te zien welke delen van de invoer het belangrijkst waren. Maar in de quantumwereld, als je probeert te gluren, verdwijnt de magie (de quantumtoestand "collapt") en verandert het antwoord.

Dit artikel introduceert HATTRIQ, een nieuw hulpmiddel dat is ontworpen om dit mysterie op te lossen zonder de magie te breken.

Het Kernprobleem: De "Onzichtbare" Doos

Denk aan een quantumcomputer als een chef-kok die een gerecht bereidt in een volledig afgesloten, geluiddichte keuken. Je geeft hen ingrediënten (de data), en ze serveren je een afgewerkt gerecht (de voorspelling).

• Klassieke AI: Je kunt de chef vragen: "Heb je meer zout of meer peper gebruikt?" en hij kan zijn recept controleren.
• Quantum AI: De chef werkt met ingrediënten die tegelijkertijd op twee plaatsen bestaan (superpositie). Als je de deur opent om te vragen naar het zout, veranderen de ingrediënten direct in iets anders en is het recept verpest.

Hierom konden we eerder niet vertellen welk "ingrediënt" (pixel in een afbeelding, of datapunt) het belangrijkst was voor de uiteindelijke beslissing.

De Oplossing: HATTRIQ (De "Magische Spiegel")

De auteurs hebben HATTRIQ gecreëerd (Hadamard test-based input attribution score scheme for quantum models).

In plaats van te proberen naar binnen te kijken in de keuken en het gerecht te bederven, gebruikt HATTRIQ een slimme spiegeltruc (een Hadamard-test genoemd).

• De Analogie: Stel je wilt weten hoeveel een specifiek ingrediënt heeft bijgedragen aan de smaak, maar je kunt de soep niet direct proeven. In plaats daarvan draai je een parallelle, "geestelijke" versie van het kookproces naast het echte proces. Door te vergelijken hoe de echte soep en de geest-soep met elkaar interageren, kun je wiskundig precies berekenen hoeveel dat specifieke ingrediënt teweegbracht, zonder ooit de pot open te maken.

HATTRIQ doet dit op de daadwerkelijke quantumhardware. Het draait een speciale schakeling die de quantumcomputer vraagt: "Als ik dit specifieke deel van de invoer aanpas, hoe verandert het uiteindelijke antwoord dan?" Dit doet het door de "kans" van een specifiek resultaat te meten, wat de belangrijkheid van dat invoereigenschap onthult.

Hoe Het Werkt (Het Concept van de "Gradiënt")

In eenvoudige termen berekent HATTRIQ Geïntegreerde Gradiënten.

• Stel je voor dat je loopt van een leeg wit scherm (geen afbeelding) naar een volledige foto van een kat.
• HATTRIQ zet kleine stapjes langs dat pad. Bij elke stap vraagt het: "Hoeveel heeft deze specifieke pixel bijgedragen aan de verandering?"
• Het telt al die kleine bijdragen op om je een eindcijfer te geven: "Deze pixel was zeer belangrijk (Hoog Positief)", "Deze pixel was verwarrend (Negatief)" of "Deze pixel deed er niet toe (Nul)".

Waarop Ze Het Testten

Het team testte HATTRIQ op verschillende "zwarte dozen" om te zien of het hun beslissingen kon verklaren:

1. Eenvoudige Patronen: Onderscheid tussen balken en strepen.
2. Handgeschreven Cijfers: Herkenning van nummers zoals 0, 1, 3, 4, enz. (uit MNIST- en NIST-datasets).
3. Kleding: Het verschil tussen een jurk en een overhemd, of laarzen en sandalen (FashionMNIST).
4. Quantumfysica-data: Zelfs testen op data die magnetische spins in een keten voorstelt (TFIM-dataset), wat bewijst dat het werkt op pure quantumdata, niet alleen op afbeeldingen.

De Resultaten: Het Werkt Eigenlijk!

• Het heeft zin: Toen HATTRIQ naar een afbeelding van het cijfer "4" keek, markeerde het de scherpe hoeken van de 4 en negeerde het de achtergrond. Toen het naar een "3" keek, markeerde het de krommingen. Het gokte niet zomaar; het vond de werkelijke kenmerken die het model gebruikte.
• Het is robuust: Ze testten het met "ruisende" quantumhardware (het simuleren van een lichtelijk defecte of onvolmaakte machine). Zelfs met fouten gaf HATTRIQ nog steeds duidelijke, accurate antwoorden.
• Het is efficiënt: Ze lieten zien dat je deze tests parallel kunt draaien (met meerdere "geestelijke" keukens tegelijk) om het proces te versnellen.

Waarom Dit Belangrijk Is

Voor HATTRIQ hadden we, als een quantum-AI een fout maakte, geen idee waarom. We vlogen blind.

• Vertrouwen: Nu kunnen we verifiëren of de AI naar de juiste dingen kijkt (zoals de vorm van een schoen) of naar de verkeerde dingen (zoals een willekeurige stofvlek).
• Debuggen: Als de AI vooroordeelt of verward is, helpt HATTRIQ de ontwikkelaars precies te zien waar de verwarring plaatsvindt, zodat ze het model kunnen repareren.

Kortom, HATTRIQ is de eerste zaklamp die ons toelaat om naar binnen te kijken in de quantumzwarte doos zonder het licht uit te doen. Het vertaalt de verwarrende, onzichtbare quantumbeslissingen naar een duidelijk kaartje van "wat er toe deed" voor het uiteindelijke antwoord.

Technische samenvatting

Technische Samenvatting: HATTRIQ – Het Ontwerpen van Geïntegreerde Gradiënten voor Feature-Attributie in Quantum Machine Learning

1. Probleemstelling

Quantum Machine Learning (QML)-algoritmen tonen potentie op hardwareplatforms, maar lijden onder een gebrek aan interpretatiebaarheid vanwege de inherente ondoorzichtigheid van quantumtoestands-evolutie en het ontbreken van tussentijdse waarneembaarheid. Hoewel klassieke interpretatiemethoden zoals Geïntegreerde Gradiënten (IG) en sensitiviteitsanalyse op basis van surrogate-methoden goed gevestigd zijn, zijn ze niet direct compatibel met quantumcircuits.

• Metingen-Collapse: Pogingen om verborgen quantumtoestanden na elke circuitlaag op te nemen of te loggen, laten de toestand instorten en vernietigen de berekening.
• Exponentiële Complexiteit: Het simuleren van toestands-evolutie voor grote modellen vereist het manipuleren van complexe amplitudevectoren in exponentieel grote Hilbertruimten, wat klassieke simulatie resource-intensief maakt.
• Incompatibiliteit: Traditionele sensitiviteitsmethoden (bijv. Sobol/Shapley-scores) kunnen de unitariteit van quantumcircuits niet behouden, en standaard gradiëntregels (zoals parameter-shift) zijn moeilijk toe te passen wanneer data wordt gecodeerd via amplitude-embedding, aangezien de structuur van de toestandsvoorbereidingscircuit vaak verandert op basis van de invoer.

Bijgevolg bestaat er een kritieke kloof in het begrijpen hoe invoerfeatures de uiteindelijke meetuitkomsten beïnvloeden in amplitude-gecodeerde QML-modellen.

2. Methodologie: HATTRIQ

De auteurs stellen HATTRIQ voor (Hadamard-testgebaseerd schema voor input-attributiescores voor quantummodellen), een raamwerk ontworpen om input-attributiescores te berekenen voor circuitgebaseerde QML-modellen met behulp van amplitude-embedding. De methodologie past de klassieke Geïntegreerde Gradiënten (IG)-benadering aan op de quantumsetting zonder toegang tot interne quantumtoestanden te vereisen.

Kerncomponenten

• Amplitude-embedding: Het raamwerk richt zich op het veelgebruikte coderingsschema waarbij data-features worden gecodeerd als amplitudes van de invoertoestand $|x\rangle = \sum x_i |b_i\rangle$. Dit maakt het coderen van exponentieel veel features mogelijk ten opzichte van het aantal qubits.
• Gradiëntafleiding (Lemma III.1): De auteurs leiden een gesloten uitdrukking af voor de gradiënt van de modeloutput $F(x; \theta)$ met betrekking tot de reële ($c_k$) en imaginaire ($d_k$) componenten van de invoeramplitudes.
  $$\frac{\partial F}{\partial c_k} = 2 \text{Re}[\langle b_k | U^\dagger(\theta) O U(\theta) | x \rangle]$$
  Deze uitdrukking relateert de gradiënt aan de verwachtingswaarde van een specifieke operator die op de invoertoestand werkt, waardoor de noodzaak voor expliciete toestands-tomografie wordt vermeden.
• Hadamard-testconstructie: Om de vereiste inproducten $\langle b_k | \tilde{O} | x \rangle$ direct op quantumhardware te berekenen, maakt HATTRIQ gebruik van een Hadamard-testcircuit.
  • Het circuit gebruikt een ancilla-qubit (of register) en gecontroleerde operaties.
  • Eén tak bereidt de basistoestand $|b_k\rangle$ voor, en de andere bereidt de invoertoestand $|x\rangle$ voor, gevolgd door de model-unitaire $U(\theta)$ en observabele $O$.
  • De waarschijnlijkheid om de ancilla in de $|0\rangle$-toestand te meten, levert het reële deel van het inproduct op, wat overeenkomt met het gradiëntcomponent.
• Parallelisatie (Stelling IV.3): Om de lineaire schaling van circuitbeoordelingen met het aantal invoerfeatures aan te pakken, introduceren de auteurs een parallelisatietechniek met meerdere ancilla's. Door $m$ ancilla-qubits te gebruiken, kan het raamwerk $2^m - 1$ gradiëntcomponenten gelijktijdig berekenen in één circuitexecutie, waardoor de exponentiële ruimtewerkingsefficiëntie van amplitude-embedding behouden blijft.

3. Belangrijkste Bijdragen

Het artikel schetst de volgende specifieke bijdragen:

1. Formalisme voor IG in QML: Een formele methode om geïntegreerde gradiënten te berekenen voor QML-modellen die amplitude-embedding gebruiken, een schema dat voorheen moeilijk efficiënt te differentiëren was.
2. Quantum-natieve Circuitconstructie: Een op Hadamard-test gebaseerd circuitontwerp dat exacte feature-gradiënten direct op quantumhardware berekent zonder kennis van de interne quantumtoestand te vereisen.
3. Parallelisatiestrategie: Een techniek met meerdere ancilla's die gelijktijdige gradiëntberekening mogelijk maakt, die exponentieel schaalt met het aantal ancilla-qubits, waardoor de aanpak haalbaar wordt voor grotere datasets op apparaten met voldoende capaciteit.
4. Empirische Validatie: Evaluatie van HATTRIQ op classificatietaken met behulp van Bars and Stripes, MNIST, FashionMNIST en een synthetische Transverse-Field Ising Model (TFIM) quantumdataset.
5. Open Source: Publicatie van de code en datasets om reproduceerbaarheid te faciliteren.

4. Experimentele Resultaten

De auteurs evalueerden HATTRIQ met behulp van simulaties (onder de aanname van ideale, foutgecorrigeerde hardware) en ruisige simulaties die representatief zijn voor vroege fouttolerante quantumcomputing (EFTQC).

• Datasets en Nauwkeurigheid: Het raamwerk werd getest op binaire classificatietaken over meerdere datasets. Modellen behaalden hoge nauwkeurigheid (bijv. ~95-100% op Bars/Stripes en NIST-subsets; ~70-99% op FashionMNIST-subsets).
• Kwaliteit van Attributie:
  • Semantische Relevantie: Voor afbeeldingsdatasets (NIST, MNIST, FashionMNIST) benadrukten de gegenereerde attributiekarten semantisch betekenisvolle gebieden. Bijvoorbeeld, bij cijferclassificatie concentreerden attributies zich op de streken van de cijfers en negeerden ze achtergrondruis. Bij FashionMNIST identificeerde het model correct bandjes op tassen en sloot het sandaalgebieden uit.
  • Vergelijking van Codering: Hoewel hoek- en amplitudecodering vergelijkbare classificatienauwkeurigheid bereikten, onthulde HATTRIQ dat ze opvallend verschillende attributiepatronen produceerden, wat wijst op verschillende strategieën voor featuregebruik.
  • Null-modelvalidatie: Wanneer toegepast op "null-modellen" (willekeurig geïnitieerde parameters), produceerde HATTRIQ diffuse, niet-geconcentreerde attributiekarten, wat bevestigt dat de gestructureerde attributies in getrainde modellen geen artefacten van de methode zijn, maar geleerde features weerspiegelen.
• Robuustheid:
  • Shot-ruis: Zelfs met lage meet-shotaantallen (10–100 shots) bleven de attributiescores grotendeels trouw aan exacte simulaties, met afwijkingen die alleen verschenen bij zwakke attributies.
  • Hardware-ruis: Onder een depolariserend ruischannel ($\gamma = 10^{-4}$) behielden de attributiescores hun ruimtelijke verdeling en relatieve intensiteit, wat aantoont dat ze geschikt zijn voor vroege fouttolerante apparaten.
• Quantumdata (TFIM): Op de synthetische TFIM-dataset identificeerde HATTRIQ correct faseovergangen. In het sterk-veldregime ($g > 1$) concentreerden attributies zich op $\sigma_x$-correlaties, terwijl ze in het zwak-veldregime ($g < 1$) verschoven naar $\sigma_y$- en $\sigma_z$-componenten, in overeenstemming met fysieke intuïtie.

5. Betekenis en Claims

Het artikel positioneert HATTRIQ als de eerste gradiëntgebaseerde input-attributiemethode die specifiek is ontworpen voor QML-modellen die amplitudecodering ondersteunen en natiu op quantumhardware werken.

• Hardware-compatibiliteit: In tegenstelling tot eerdere interpretatiemethoden die vertrouwen op klassieke surrogate-methoden of perturbatie (die unitariteit verbreken of toestandsinstorting vereisen), maakt HATTRIQ gebruik van een circuitgebaseerde constructie die de quantummechanica respecteert.
• Schalbaarheid: Door gebruik te maken van de Hadamard-test en parallelisatie met meerdere ancilla's, adresseert de methode de exponentiële complexiteit van amplitudecodering en biedt een weg naar schaalbare interpretatiebaarheid voor grotere quantummodellen.
• Vertrouwen en Debuggen: Het raamwerk maakt het mogelijk om sterk invloedrijke features te identificeren en stelt onderzoekers in staat te controleren of modelvoorspellingen overeenkomen met semantisch betekenisvolle gebieden. Het biedt ook een mechanisme om bias ten opzichte van achtergrondartefacten te detecteren of om verschillende coderingsschema's te vergelijken die vergelijkbare nauwkeurigheid maar verschillende interne logica kunnen hebben.

De auteurs concluderen dat HATTRIQ een unificerend, implementatie-onafhankelijk raamwerk biedt voor input-attributie met fideliteitsgaranties, wat een belangrijke stap markeert naar het transparant en betrouwbaar maken van QML-modellen. Toekomstig werk wordt genoemd als potentiële uitbreiding van het raamwerk naar parameter- en laagattributies.