HattriQ: Designing Integrated Gradients for Feature Attribution in Quantum Machine Learning

Dieser Beitrag stellt HattriQ vor, ein allgemeines Framework, das die Interpretierbarkeit in schaltkreisbasiertem Quantenmaschinenlernen ermöglicht, indem es amplitudenbasierte integrierte Gradienten direkt auf Quantenhardware unter Verwendung von Hadamard-Tests berechnet und so die Einschränkungen klassischer Methoden infolge des Messkollapses und der Simulationskomplexität überwindet.

Das Wesentliche

Stellen Sie sich vor, Sie haben eine magische, extrem komplexe Blackbox, die ein Bild einer Katze betrachten und Ihnen sagen kann: „Das ist eine Katze!" Diese Box ist ein Quanten-Machine-Learning-Modell (QML). Es ist unglaublich leistungsstark, funktioniert jedoch unter den seltsamen Gesetzen der Quantenphysik.

Das Problem? Es ist eine Blackbox. Selbst die Menschen, die sie gebaut haben, können nicht leicht erklären, warum sie entschied, dass es eine Katze ist. Hat sie auf die Ohren geschaut? Auf die Schnurrhaare? Oder hatte sie einfach nur Glück? In der klassischen Welt haben wir Werkzeuge, um hineinzuschauen und zu sehen, welche Teile des Eingangs am wichtigsten waren. Aber in der Quantenwelt verschwindet die Magie, wenn Sie versuchen hineinzuschauen (der Quantenzustand „kollabiert"), und die Antwort ändert sich.

Diese Arbeit stellt HATTRIQ vor, ein neues Werkzeug, das entwickelt wurde, um dieses Rätsel zu lösen, ohne die Magie zu zerstören.

Das Kernproblem: Die „Unsehbare" Box

Stellen Sie sich einen Quantencomputer wie einen Koch vor, der in einer völlig versiegelten, schalldichten Küche ein Gericht zubereitet. Sie geben ihm Zutaten (die Daten), und er serviert Ihnen ein fertiges Gericht (die Vorhersage).

• Klassische KI: Sie können den Koch fragen: „Haben Sie mehr Salz oder mehr Pfeffer verwendet?" und er kann sein Rezept überprüfen.
• Quanten-KI: Der Koch arbeitet mit Zutaten, die gleichzeitig an zwei Orten existieren (Superposition). Wenn Sie die Tür öffnen, um nach dem Salz zu fragen, verwandeln sich die Zutaten sofort in etwas anderes, und das Rezept ist ruiniert.

Aus diesem Grund konnten wir bisher nicht sagen, welche „Zutat" (Pixel in einem Bild oder Datenpunkt) für die endgültige Entscheidung am wichtigsten war.

Die Lösung: HATTRIQ (Der „Magische Spiegel")

Die Autoren entwickelten HATTRIQ (Hadamard-Test-basiertes Eingangs-Attributions-Score-Schema für Quantenmodelle).

Anstatt zu versuchen, in die Küche hineinzuschauen und das Gericht zu ruinieren, nutzt HATTRIQ einen cleveren Spiegeltrick (genannt Hadamard-Test).

• Die Analogie: Stellen Sie sich vor, Sie möchten wissen, wie stark eine bestimmte Zutat zum Geschmack beigetragen hat, aber Sie können die Suppe nicht direkt probieren. Stattdessen führen Sie eine parallele, „geisterhafte" Version des Kochprozesses neben dem echten Prozess aus. Indem Sie vergleichen, wie die echte Suppe und die Geistersuppe interagieren, können Sie mathematisch genau berechnen, wie wichtig diese spezifische Zutat war, ohne den Topf jemals zu öffnen.

HATTRIQ führt dies auf der tatsächlichen Quantenhardware durch. Es schaltet eine spezielle Schaltung ein, die den Quantencomputer fragt: „Wenn ich diesen spezifischen Teil des Eingangs leicht verändere, wie ändert sich dann die endgültige Antwort?" Dies geschieht, indem die „Wahrscheinlichkeit" eines bestimmten Ergebnisses gemessen wird, was die Bedeutung dieses Eingangsmerkmals offenbart.

Wie es funktioniert (Das „Gradienten"-Konzept)

Einfach ausgedrückt berechnet HATTRIQ Integrierte Gradienten.

• Stellen Sie sich vor, Sie gehen von einem leeren weißen Bildschirm (kein Bild) zu einem vollständigen Bild einer Katze.
• HATTRIQ macht auf diesem Weg winzige Schritte. Bei jedem Schritt fragt es: „Wie stark hat dieses spezifische Pixel zur Veränderung beigetragen?"
• Es summiert all diese winzigen Beiträge auf, um Ihnen eine endgültige Punktzahl zu geben: „Dieses Pixel war sehr wichtig (Hoch Positiv)", „Dieses Pixel war verwirrend (Negativ)" oder „Dieses Pixel spielte keine Rolle (Null)".

Worauf sie es getestet haben

Das Team testete HATTRIQ an mehreren „Blackboxes", um zu sehen, ob es ihre Entscheidungen erklären konnte:

1. Einfache Muster: Unterscheidung zwischen Balken und Streifen.
2. Handschriftliche Ziffern: Erkennung von Zahlen wie 0, 1, 3, 4 usw. (aus den MNIST- und NIST-Datensätzen).
3. Kleidung: Unterscheidung zwischen einem Kleid und einem Hemd oder zwischen Stiefeln und Sandalen (FashionMNIST).
4. Quantenphysik-Daten: Selbst Tests mit Daten, die magnetische Spins in einer Kette darstellen (TFIM-Datensatz), was beweist, dass es auf reinen Quantendaten funktioniert und nicht nur auf Bildern.

Die Ergebnisse: Es funktioniert tatsächlich!

• Es ergibt Sinn: Als HATTRIQ ein Bild der Zahl „4" betrachtete, hob es die scharfen Winkel der 4 hervor und ignorierte den Hintergrund. Als es eine „3" betrachtete, hob es die Kurven hervor. Es riet nicht einfach; es fand die tatsächlichen Merkmale, die das Modell verwendete.
• Es ist robust: Sie testeten es mit „verrauschter" Quantenhardware (Simulation einer leicht defekten oder unvollkommenen Maschine). Selbst mit Fehlern lieferte HATTRIQ klare, genaue Antworten.
• Es ist effizient: Sie zeigten, dass man diese Tests parallel ausführen kann (unter Verwendung mehrerer „Geisterküchen" gleichzeitig), um die Geschwindigkeit zu erhöhen.

Warum das wichtig ist

Vor HATTRIQ hatten wir, wenn eine Quanten-KI einen Fehler machte, keine Ahnung, warum. Wir flogen blind.

• Vertrauen: Jetzt können wir überprüfen, ob die KI die richtigen Dinge betrachtet (wie die Form eines Schuhs) oder die falschen Dinge (wie einen zufälligen Staubfleck).
• Fehlerbehebung: Wenn die KI voreingenommen oder verwirrt ist, hilft HATTRIQ den Entwicklern zu sehen, genau wo die Verwirrung stattfindet, damit sie das Modell beheben können.

Kurz gesagt, HATTRIQ ist die erste Taschenlampe, die es uns ermöglicht, in die Quanten-Blackbox hineinzusehen, ohne das Licht auszuschalten. Es übersetzt die verwirrenden, unsichtbaren Quantenentscheidungen in eine klare Karte dessen, „was für die endgültige Antwort wichtig war".

Technische Zusammenfassung

Technische Zusammenfassung: HATTRIQ – Entwicklung integrierter Gradienten für die Feature-Attribution im Quanten-Machine-Learning

1. Problemstellung

Quanten-Machine-Learning (QML)-Algorithmen zeigen vielversprechende Ergebnisse auf verschiedenen Hardware-Plattformen, leiden jedoch unter mangelnder Interpretierbarkeit aufgrund der inhärenten Undurchsichtigkeit der Quantenzustandsentwicklung und des Fehlens einer Zwischenbeobachtbarkeit. Während klassische Methoden zur Interpretierbarkeit wie Integrierte Gradienten (IG) und surrogate-basierte Sensitivitätsanalysen gut etabliert sind, sind sie nicht direkt mit Quantenschaltkreisen kompatibel.

• Messkollaps: Der Versuch, verborgene Quantenzustände nach jeder Schaltungsschicht aufzuzeichnen oder zu protokollieren, kollabiert den Zustand und zerstört die Berechnung.
• Exponentielle Komplexität: Die Simulation der Zustandsentwicklung für große Modelle erfordert die Manipulation komplexer Amplitudenvektoren in exponentiell großen Hilbert-Räumen, was die klassische Simulation ressourcenintensiv macht.
• Inkompatibilität: Traditionelle Sensitivitätsmethoden (z. B. Sobol-/Shapley-Werte) können die Unitärität von Quantenschaltkreisen nicht bewahren, und Standard-Gradientenregeln (wie Parameter-Verschiebung) sind schwer anzuwenden, wenn Daten über Amplituden-Embedding kodiert werden, da die Struktur des Zustandsvorbereitungsschaltkreises oft vom Eingabewert abhängt.

Folglich besteht eine kritische Lücke im Verständnis davon, wie Eingabe-Features die finalen Messergebnisse in amplitudenkodierten QML-Modellen beeinflussen.

2. Methodik: HATTRIQ

Die Autoren schlagen HATTRIQ (Hadamard-Test-basiertes Schema zur Eingabe-Attribution für Quantenmodelle) vor, ein Framework, das entwickelt wurde, um Eingabe-Attributionswerte für schaltkreisbasierte QML-Modelle unter Verwendung von Amplituden-Embedding zu berechnen. Die Methodik passt den klassischen Ansatz der Integrierten Gradienten (IG) an die Quantenumgebung an, ohne Zugriff auf interne Quantenzustände zu erfordern.

Kernkomponenten

• Amplituden-Embedding: Das Framework zielt auf das weit verbreitete Kodierungsschema ab, bei dem Daten-Features als Amplituden des Eingabezustands kodiert werden $|x\rangle = \sum x_i |b_i\rangle$. Dies ermöglicht die Kodierung exponentiell vieler Features relativ zur Anzahl der Qubits.
• Gradientenherleitung (Lemma III.1): Die Autoren leiten einen geschlossenen Ausdruck für den Gradienten des Modellausgangs $F(x; \theta)$ bezüglich der reellen ($c_k$) und imaginären ($d_k$) Komponenten der Eingabeamplituden ab.
  $$\frac{\partial F}{\partial c_k} = 2 \text{Re}[\langle b_k | U^\dagger(\theta) O U(\theta) | x \rangle]$$
  Dieser Ausdruck verknüpft den Gradienten mit dem Erwartungswert eines spezifischen Operators, der auf den Eingabezustand wirkt, und vermeidet die Notwendigkeit einer expliziten Zustandstomographie.
• Hadamard-Test-Konstruktion: Um die erforderlichen Skalarprodukte $\langle b_k | \tilde{O} | x \rangle$ direkt auf Quantenhardware zu berechnen, setzt HATTRIQ einen Hadamard-Test-Schaltkreis ein.
  • Der Schaltkreis verwendet ein Ancilla-Qubit (oder -Register) und kontrollierte Operationen.
  • Ein Zweig bereitet den Basiszustand $|b_k\rangle$ vor, der andere bereitet den Eingabezustand $|x\rangle$ vor, gefolgt vom Modell-Unitär $U(\theta)$ und dem Observable $O$.
  • Die Wahrscheinlichkeit, das Ancilla im Zustand $|0\rangle$ zu messen, liefert den Realteil des Skalarprodukts, was der Gradientenkomponente entspricht.
• Parallelisierung (Theorem IV.3): Um die lineare Skalierung der Schaltkreisauswertungen mit der Anzahl der Eingabe-Features zu adressieren, führen die Autoren eine Parallelisierungstechnik mit mehreren Ancilla-Qubits ein. Durch die Verwendung von $m$ Ancilla-Qubits kann das Framework $2^m - 1$ Gradientenkomponenten gleichzeitig in einer einzigen Schaltkreisausführung berechnen und bewahrt so die exponentielle Speichereffizienz des Amplituden-Embeddings.

3. Hauptbeiträge

Die Arbeit skizziert die folgenden spezifischen Beiträge:

1. Formalismus für IG in QML: Eine formale Methode zur Berechnung integrierter Gradienten für QML-Modelle, die Amplituden-Embedding nutzen, ein Schema, das zuvor schwer effizient differenzierbar war.
2. Quanten-nativer Schaltkreisentwurf: Ein Hadamard-Test-basiertes Schaltkreisdesign, das exakte Feature-Gradienten direkt auf Quantenhardware berechnet, ohne Kenntnis des internen Quantenzustands zu erfordern.
3. Parallelisierungsstrategie: Eine Multi-Ancilla-Technik, die eine gleichzeitige Gradientenberechnung ermöglicht, die exponentiell mit der Anzahl der Ancilla-Qubits skaliert und den Ansatz für größere Datensätze auf Geräten mit ausreichender Kapazität praktikabel macht.
4. Empirische Validierung: Evaluation von HATTRIQ bei Klassifizierungsaufgaben unter Verwendung von Bars and Stripes, MNIST, FashionMNIST und einem synthetischen Transverse-Field-Ising-Modell (TFIM)-Quantendatensatz.
5. Open Source: Veröffentlichung des Codes und der Datensätze zur Förderung der Reproduzierbarkeit.

4. Experimentelle Ergebnisse

Die Autoren bewerteten HATTRIQ mittels Simulationen (unter Annahme idealer, fehlerkorrigierter Hardware) und rauschbehafteter Simulationen, die repräsentativ für frühe fehlertolerante Quantencomputing-Systeme (EFTQC) sind.

• Datensätze und Genauigkeit: Das Framework wurde an binären Klassifizierungsaufgaben über mehrere Datensätze hinweg getestet. Modelle erreichten hohe Genauigkeiten (z. B. ~95–100 % bei Bars/Stripes und NIST-Teilmengen; ~70–99 % bei FashionMNIST-Teilmengen).
• Qualität der Attribution:
  • Semantische Relevanz: Bei Bilddatensätzen (NIST, MNIST, FashionMNIST) hoben die generierten Attributionskarten semantisch bedeutungsvolle Regionen hervor. Beispielsweise konzentrierten sich bei der Ziffernerkennung die Attributionen auf die Striche der Ziffern und ignorierten Hintergrundrauschen. Bei FashionMNIST identifizierte das Modell korrekt Riemen an Taschen und schloss Sandalbereiche aus.
  • Kodierungsvergleich: Während Winkel- und Amplitudenkodierung ähnliche Klassifizierungsgenauigkeiten erreichten, zeigte HATTRIQ, dass sie deutlich unterschiedliche Attributionsmuster erzeugten, was auf unterschiedliche Strategien der Feature-Nutzung hindeutet.
  • Nullmodell-Validierung: Bei Anwendung auf „Nullmodelle" (zufällig initialisierte Parameter) erzeugte HATTRIQ diffuse, nicht konzentrierte Attributionskarten, was bestätigt, dass die strukturierten Attributionen in trainierten Modellen keine Artefakte der Methode sind, sondern gelernte Features widerspiegeln.
• Robustheit:
  • Shot-Rauschen: Selbst bei niedrigen Mess-Shot-Zahlen (10–100 Shots) blieben die Attributionswerte weitgehend den exakten Simulationen treu, wobei Abweichungen nur bei schwachen Attributionen auftraten.
  • Hardware-Rauschen: Unter einem depolarisierenden Rauschkanal ($\gamma = 10^{-4}$) behielten die Attributionswerte ihre räumliche Verteilung und relative Intensität bei und demonstrierten somit ihre Eignung für frühe fehlertolerante Geräte.
• Quantendaten (TFIM): Auf dem synthetischen TFIM-Datensatz identifizierte HATTRIQ Phasenübergänge korrekt. Im starken Feldregime ($g > 1$) konzentrierten sich die Attributionen auf $\sigma_x$-Korrelationen, während sie im schwachen Feldregime ($g < 1$) auf $\sigma_y$- und $\sigma_z$-Komponenten verschoben wurden, was mit physikalischer Intuition übereinstimmt.

5. Bedeutung und Behauptungen

Die Arbeit positioniert HATTRIQ als die erste gradientenbasierte Eingabe-Attributionsmethode, die speziell für QML-Modelle entwickelt wurde, die Amplitudenkodierung unterstützen und nativ auf Quantenhardware operieren.

• Hardware-Kompatibilität: Im Gegensatz zu früheren Interpretierbarkeitsmethoden, die auf klassischen Surrogaten oder Perturbationen beruhen (die die Unitärität brechen oder einen Zustandskollaps erfordern), verwendet HATTRIQ eine schaltkreisbasierte Konstruktion, die die Quantenmechanik respektiert.
• Skalierbarkeit: Durch die Nutzung des Hadamard-Tests und der Multi-Ancilla-Parallelisierung adressiert die Methode die exponentielle Komplexität der Amplitudenkodierung und bietet einen Weg zu skalierbarer Interpretierbarkeit für größere Quantenmodelle.
• Vertrauen und Debugging: Das Framework ermöglicht die Identifizierung hochinfluenzieller Features und erlaubt Forschern zu prüfen, ob Modellvorhersagen mit semantisch bedeutungsvollen Regionen übereinstimmen. Es bietet zudem einen Mechanismus, um Verzerrungen gegenüber Hintergrundartefakten zu erkennen oder verschiedene Kodierungsschemata zu vergleichen, die möglicherweise ähnliche Genauigkeit, aber unterschiedliche interne Logik aufweisen.

Die Autoren schließen, dass HATTRIQ ein einheitliches, implementierungsagnostisches Framework für Eingabe-Attribution mit Fidelitätsgarantien bietet und einen bedeutenden Schritt hin zu transparenten und vertrauenswürdigen QML-Modellen darstellt. Als zukünftige Arbeit wird eine mögliche Erweiterung des Frameworks auf Parameter- und Schicht-Attributionen erwähnt.