Benchmarking loss functions for trainable quantum feature maps

Technisches Resümee: Benchmarking von Verlustfunktionen für trainierbare Quanten-Feature-Maps

Problemstellung
Quanten-Support-Vektormaschinen (QSVMs) verlassen sich auf Quanten-Feature-Maps (QFMs), um klassische Daten in hochdimensionale Quantenzustände zu kodieren. Während Standard-QSVMs jedoch auf festen QFMs basieren, begrenzt dies ihre Expressivität und Anpassungsfähigkeit an komplexe, nicht-lineare Datenverteilungen. Trainierbare Quanten-Feature-Maps (TQFMs) adressieren dies durch die Einführung parametrisierter Gates und Data Re-uploading, um den Einbettungsraum zu optimieren. Die Optimierung von TQFMs hängt jedoch stark von der Wahl der Verlustfunktion ab. In der bestehenden Literatur fehlt ein systematisches Verständnis darüber, wie verschiedene Verlustfunktionen die Optimierungsdynamik, die Rechenkosten und die Klassifikationsstabilität beeinflussen. Insbesondere identifizieren die Autoren ein „Trajektorien-Kreuzungsproblem“ (trajectory crossing problem) in Fixed-Target-Trainingsschemata, bei dem sich Optimierungstrajektorien kreuzen, was zu instabiler Konvergenz und abrupten Einbrüchen der Genauigkeit führt.

Methodik
Die Autoren schlagen ein systematisches Benchmarking-Framework vor, das drei verschiedene Verlustfunktionen für das Training von TQFMs innerhalb einer hybriden quanten-klassischen QSVM-Pipeline vergleicht:

1. Distanz-Verlust (Distance Loss, DL): Basiert auf der Hilbert-Schmidt-Distanz zwischen gemischten Dichtematrizen verschiedener Klassen. Diese Methode zielt darauf ab, die Inter-Klassen-Separation zu maximieren, erfordert jedoch die Evaluierung aller paarweisen Sample-Fidelities, was zu einer quadratischen Komplexität von $O(M^2)$ führt, wobei $M$ die Datensatzgröße darstellt.
2. Messungs-Verlust (Measurement Loss, ML): Weist jeder Klasse einen festen orthogonalen Basiszustand zu und minimiert den Fehler zwischen dem kodierten Zustand und dem Zielzustand. Dieser Ansatz evaluiert Samples unabhängig und erreicht eine lineare Komplexität von $O(M)$. Die Autoren hypothetisieren jedoch, dass das Erzwingen von Clustern hin zu festen Zielen in einem eingeschränkten Hilbert-Raum die Trajektorienkreuzungen verursacht.
3. Log-Likelihood-Verlust (Log-Likelihood Loss, LLL): Der Kernvorschlag dieser Arbeit. Inspiriert von der Maximum-Likelihood-Schätzung interpretiert diese Methode die Fidelity $|\langle \psi | y \rangle|^2$ als bedingte Wahrscheinlichkeit $P(y|x)$ um. Anstatt eine lineare Strafe zu minimieren, minimiert LLL die negative Log-Likelihood:
   $$L_{LLL}(\theta) = -\frac{1}{L} \sum_{j=1}^{L} \frac{1}{M_j} \sum_{i=1}^{M_j} \log \left( |\langle \psi(x_i^j, \theta) | y_j \rangle|^2 \right)$$
   Diese Formulierung wendet eine nicht-lineare Strafe an, die für Samples mit geringen Vorhersagewahrscheinlichkeiten schnell ansteigt und dadurch schwer klassifizierbare Samples stärker gewichtet und somit ein stärkeres Optimierungssignal liefert.

Experimentelles Setup
Die Studie nutzt den Qiskit State-Vector Simulator mit dem EfficientSU2-Ansatz. Die Experimente wurden auf drei synthetischen Datensätzen (Moons, Circles, Gaussian) durchgeführt, die unterschiedliche Grade an Nicht-Linearität und Klassifikationskomplexität repräsentieren. Die Evaluierung umfasste 20 unabhängige Durchläufe pro Konfiguration zur Bewertung der statistischen Stabilität, variierende Schaltungstiefen (1 bis 6 Layer) sowie Tests der Robustheit gegen simuliertes depolarisierendes Rauschen und Readout-Rauschen.

Wichtigste Ergebnisse

• Optimierungsstabilität: Die ML-Methode zeigte eine signifikante Instabilität, charakterisiert durch das „Trajektorien-Kreuzungsproblem“, bei dem die Inter-Klassen-Überlappung während des frühen Trainings anstieg und die Genauigkeit sank, insbesondere bei flachen Schaltungen. Die LLL-Methode konnte dies erfolgreich entschärfen und erreichte eine stabile Konvergenz, die mit der DL-Methode vergleichbar ist, jedoch ohne deren quadratische Kosten.
• Recheneffizienz: DL beibelte die höchste Klassifikationsgenauigkeit bei, litt jedoch unter der $O(M^2)$-Skalierung, was sie für große Datensätze unpraktisch macht. Sowohl ML als auch LLL behielten eine lineare $O(M)$-Skalierung bei. Die Trainingszeit von LLL war nahezu identisch mit der von ML, was bestätigt, dass die verbesserte Stabilität ohne zusätzlichen Rechenaufwand erreicht wird.
• Klassifikationsleistung:
  • DL erreichte konsistent die höchste mittlere Genauigkeit über alle Datensätze hinweg.
  • LLL übertraf ML signifikant hinsichtlich der Stabilität (geringere Standardabweichung der Genauigkeit über die Durchläufe) und erreichte eine wettbewerbsfähige mittlere Genauigkeit, die oft mit ML mithielt oder diese sogar übertraf, insbesondere bei flachen Schaltungen (z. B. 1-Layer-Schaltungen auf dem Circles-Datensatz).
  • Eine Erhöhung der Schaltungstiefe (variational layers) half dabei, das Trajektorien-Kreuzungsproblem für alle Methoden zu mildern, führte jedoch zu einem Trade-off, bei dem übermäßige Tiefe ohne proportionalen Gewinn an Testgenauigkeit zu Overfitting führte.
• Rauschrobustheit: Unter simulierten Rauschmodellen behielt die LLL-Methode eine robuste Leistung bei einfacheren Datensätzen (Moons) bei, zeigte jedoch die erwartete Degradation bei komplexeren Datensätzen (Circles, Gaussian), was der Schwierigkeit der Klassifikationsaufgabe entspricht.

Bedeutung und Behauptungen
Das Paper behauptet, dass das Design des Trainingsziels ein kritischer Faktor für die Trainierbarkeit und Generalisierung von TQFM-basierten QSVMs ist. Der primäre Beitrag ist die Einführung des Log-Likelihood-Loss, der eine praktische Lösung für den Trade-off zwischen Recheneffizienz und Optimierungsstabilität bietet.

Die Autoren behaupten, dass LLL ein „stabileres Optimierungsverhalten“ als der konventionelle Measurement Loss bietet, während es die lineare Rechenkomplexität beibehält. Dieses Benchmarking bietet praktische Orientierungshilfe für die Abwägung von Trainierbarkeit, Effizienz und Vorhersageleistung. Die Arbeit beansprucht nicht, die grundlegenden Einschränkungen von NISQ-Geräten zu lösen, sondern bietet eine methodische Verbesserung der Optimierungsphase für hybride Quantenklassifikatoren.

Zukünftige Richtungen
Die Autoren merken an, dass das aktuelle Framework immer noch auf einer klassischen SVM für die endgültige Entscheidungsgrenze basiert. Sie schlagen vor, zukünftige Arbeiten zu untersuchen, die voll-quantenbasierte Inferenzschemata nutzen, welche Labels direkt basierend auf Messwahrscheinlichkeiten zuweisen. Darüber hinaus ist weitere Untersuchung zum Zusammenhang zwischen der Expressivität der Schaltung (Parameteranzahl vs. strukturelle Eigenschaften) und der Optimierungsleistung erforderlich.