Closing the Loop: Resource-aware Hybrid NAS Guided by Analytical and Hardware-Calibrated Quantum Cost Modeling

Diese Arbeit stellt Hyb-HANAS vor, einen hardwarebewussten Framework für die neuronale Architektursuche von hybriden Quanten-Klassischen-Netzwerken, der durch ein neuartiges, analytisches Kostenmodell, das auf Kalibrierungsdaten realer Quantenhardware basiert, eine gemeinsame Optimierung von Genauigkeit und Ressourceneffizienz ermöglicht.

Das Wesentliche

Stellen Sie sich vor, Sie wollen ein Super-Rennauto bauen, das zwei völlig verschiedene Motoren hat: einen klassischen Verbrennungsmotor (die klassische KI) und einen futuristischen, aber sehr empfindlichen Quanten-Motor.

Das Problem? Die beiden Motoren funktionieren nach völlig unterschiedlichen Regeln. Der klassische Motor wird mit "Liter pro 100 Kilometer" (Rechenleistung) gemessen. Der Quanten-Motor aber? Da zählen nicht die Liter, sondern wie lange er braucht, um zu starten, wie oft er ausfällt und wie sehr er auf der Straße wackelt (Rauschen).

Bisher haben Ingenieure versucht, den Quanten-Motor einfach so zu bewerten, als wäre er ein normaler Motor. Sie sagten: "Der braucht 500 Rechenoperationen." Das ist aber falsch! Ein Quanten-Motor kann zwar nur 500 Operationen brauchen, aber wenn er auf einer holprigen Straße (einem echten Quanten-Chip) fährt, braucht er vielleicht 100-mal länger, um ans Ziel zu kommen, weil er ständig korrigiert werden muss.

Das ist genau das Problem, das diese Forscher gelöst haben. Hier ist die Erklärung ihrer Arbeit in einfachen Worten:

1. Das alte Messproblem: Der falsche Tacho

Bisher haben Forscher bei solchen Hybrid-Autos (Hybrid-Neural Networks) nur auf den klassischen Tacho geschaut (die sogenannte "FLOPs"-Zahl).

• Das Problem: Der Quanten-Teil des Autos trägt gar nichts zu dieser Zahl bei. Es ist, als würde man ein Flugzeug nur nach dem Gewicht der Räder bewerten und den riesigen Jet-Triebwerken keine Beachtung schenken.
• Die Folge: Man baut Autos, die auf dem Papier super aussehen, aber auf der echten Straße (dem echten Quanten-Chip) sofort stecken bleiben, weil sie zu viel "Wackeln" (Rauschen) oder zu viele Umwege (Routing) benötigen.

2. Die neue Lösung: Ein gemeinsames Maß für Zeit

Die Forscher haben eine neue Art zu messen erfunden: Die Zeit.
Statt zu fragen "Wie viele Rechenoperationen?", fragen sie jetzt: "Wie lange dauert das Ganze wirklich auf dem echten Chip?"

Sie haben dafür zwei Werkzeuge entwickelt:

• Für den klassischen Teil: Sie messen, wie schnell ein bestimmter Computer Rechenoperationen schafft, und rechnen das in Sekunden um.
• Für den Quanten-Teil: Das ist der Clou. Sie schauen sich die echten Daten des Quanten-Chips an.
  • Wie lange dauert ein einziger Quanten-Schritt?
  • Wie oft muss man wegen eines Fehlers (Rauschen) den Schritt wiederholen? (Stellen Sie sich vor, Sie versuchen, ein Foto zu machen, aber es ist so dunkel, dass Sie 10-mal klicken müssen, bis eines scharf ist. Das kostet Zeit!)
  • Wie viele Umwege muss das Signal nehmen, weil die Quanten-Bits nicht alle direkt miteinander verbunden sind?

Sie fügen all diese Faktoren zusammen und erhalten eine einheitliche Zeit-Schätzung. So können sie den klassischen und den Quanten-Teil direkt vergleichen, als wären sie zwei Läufer auf derselben Strecke.

3. Der intelligente Architekt (Hyb-HANAS)

Mit diesem neuen Maßstab haben sie einen intelligenten Architekten (einen Algorithmus namens Hyb-HANAS) gebaut. Dieser Architekt sucht nicht einfach nach dem schnellsten Auto, sondern nach dem besten Kompromiss zwischen:

1. Genauigkeit: Wie gut erkennt das Auto die Straße?
2. Kosten: Wie lange dauert die Fahrt auf dem echten Chip?
3. Größe: Wie viele Teile (Parameter) hat das Auto?

Der Architekt probiert tausende Kombinationen aus:

• Vielleicht ist ein kleinerer Quanten-Motor besser, wenn der klassische Motor stärker ist?
• Vielleicht lohnt sich ein komplexerer Quanten-Motor nicht, weil er zu viele Umwege braucht?

Er findet die "perfekten" Autos, bei denen man nichts mehr verbessern kann, ohne etwas anderes zu verschlechtern. Das nennt man Pareto-Optimierung.

4. Was sie herausfanden (Die Überraschung)

Als sie ihre neue Methode anwandten, sahen sie etwas Interessantes:

• Im "festen" Modus (wenn der klassische Teil nicht verändert wird): Je komplexer der Quanten-Teil wurde, desto mehr Zeit verlor er durch Umwege und Fehlerkorrekturen. Einfachheit war oft besser.
• Im "variablen" Modus (wenn beide Teile angepasst werden): Der Architekt fand Lösungen, bei denen der klassische Teil die schwere Arbeit übernahm und der Quanten-Teil nur das tat, wofür er gut ist. Das Ergebnis war ein viel effizienteres Gesamtsystem.

Zusammenfassung

Stellen Sie sich vor, Sie planen eine Reise von Berlin nach Rom.

• Die alte Methode sagte: "Wir brauchen 1000 Liter Benzin." (Ignoriert, dass wir auf einer unbefestigten Straße fahren und das Auto oft liegen bleibt).
• Die neue Methode sagt: "Basierend auf dem aktuellen Wetter, den Baustellen und der Zuverlässigkeit Ihres Fahrzeugs werden wir genau 4 Stunden und 12 Minuten brauchen."

Diese Forscher haben also nicht nur ein besseres Messgerät gebaut, sondern auch einen Architekten, der Autos entwirft, die wirklich auf der echten Straße funktionieren – nicht nur auf dem Papier. Das ist ein riesiger Schritt, um Quanten-KI in der echten Welt nutzbar zu machen, bevor die Computer überhaupt perfekt sind.

Technische Zusammenfassung

1. Problemstellung

Hybride Quanten-Klassische Neuronale Netze (HQNNs) kombinieren klassische Schichten mit Quantenschaltungen. Die Entwicklung effizienter Architekturen mittels Neural Architecture Search (NAS) stößt jedoch auf erhebliche Hindernisse:

• Unzureichende Metriken: Herkömmliche NAS-Ansätze nutzen oft Floating-Point Operations (FLOPs) zur Abschätzung des Rechenaufwands. FLOPs sind für klassische Netze geeignet, versagen aber bei Quantenschaltungen, da diese auf anderen Paradigmen basieren (Qubit-Verbindungen, Rauschen, Dekohärenz). FLOPs erfassen weder die tatsächliche Hardware-Latenz noch die Kosten auf echten Quantenprozessoren (NISQ-Geräten).
• Diskrepanz zwischen Simulation und Hardware: Die meisten HQNNs werden auf klassischen Simulatoren trainiert, wobei die Hardware-Kosten nur grob geschätzt werden. Auf echten Geräten sind tausende Schaltungsausführungen nötig, was aufgrund von Wartezeiten und Kosten unpraktisch ist.
• Fehlende Rückkopplung: Ohne ein genaues, hardware-kalibriertes Kostenmodell gibt es keine valide Rückkopplung zwischen dem Architekturentwurf und den physikalischen Einschränkungen der Quantenhardware. Dies führt zu Architekturen, die theoretisch effizient erscheinen, aber auf realer Hardware unbrauchbar sind.

2. Methodik

Die Autoren schlagen einen ganzheitlichen Ansatz vor, der analytische Kostenmodelle mit einem hardware-bewussten NAS-Framework (Hyb-HANAS) verbindet.

A. Unified Time-Based Cost Modeling (Einheitliches Zeit-basiertes Kostenmodell)

Um klassische und Quantenkomponenten vergleichbar zu machen, werden beide Kosten in eine gemeinsame physikalische Einheit umgewandelt: Zeit (Sekunden).

1. Klassisches Kostenmodell:

   • Basierend auf der gemessenen Durchsatzrate (Throughput) eines Referenzmodells auf der Zielhardware.
   • Die FLOPs des Kandidatenmodells werden durch diesen geräte-spezifischen Durchsatz dividiert, um die Latenz zu berechnen. Dies entkoppelt die algorithmische Komplexität von der Hardware-Effizienz.

2. Analytisches Quanten-Kostenmodell:

   • Dies ist der Kernbeitrag. Das Modell schätzt die Hardware-Ressourcen direkt aus Echtzeit-Kalibrierungsdaten des Quanten-Backends (z. B. IBM Quantum).
   • Es berücksichtigt:
     • Gate-Dauern: Kalibrierte Zeiten für 1-Qubit- und 2-Qubit-Gatter.
     • Routing-Overhead: Zusätzliche SWAP-Gatter, die durch begrenzte Qubit-Konnektivität (Transpilierung) notwendig werden.
     • Rausch-induzierte Ineffizienz: Ein Faktor $(1 - p_{fail})^{-1}$, der die statistische Notwendigkeit erhöht, mehr „Shots" (Messungen) durchzuführen, um aufgrund von Gate-Fehlern und Dekohärenz ein zuverlässiges Ergebnis zu erhalten.
     • Gradienten-Bewertung: Berücksichtigung des Parameter-Shift-Regel, die für jeden Parameter zwei Schaltungsauswertungen erfordert.
   • Das Ergebnis ist eine realistische Schätzung der Trainingslatenz ohne Ausführung auf dem echten Gerät.

B. Hyb-HANAS Framework (Hardware-Aware Hybrid NAS)

Das Framework nutzt den NSGA-II-Algorithmus (ein multi-objektiver evolutionärer Algorithmus), um Architekturen zu finden, die folgende Ziele gleichzeitig optimieren:

• Genauigkeit (Accuracy)
• Hardware-Kosten (klassisch + quanten, in Sekunden)
• Gesamtzahl der Parameter

Workflow:

1. Konfiguration: Der Nutzer wählt zwischen einem festen klassischen CNN (nur Quantenteil wird optimiert) oder einer variablen Suche (beide Teile werden gemeinsam optimiert).
2. Backend-Profiling: Das System ruft in Echtzeit Kalibrierungsdaten (Konnektivität, Fehlerraten, Gate-Zeiten) des ausgewählten Quanten-Backends ab.
3. Suche: Eine Population von HQNN-Architekturen wird generiert.
   • Das Training erfolgt auf einem Simulator (für Geschwindigkeit).
   • Die Hardware-Kosten werden jedoch analytisch basierend auf den Kalibrierungsdaten berechnet (Transpilierung des Quanten-Teils zu QASM, Analyse der Gate-Anzahl und Routing).
4. Selektion: NSGA-II identifiziert die Pareto-optimalen Architekturen (beste Kompromisse zwischen Genauigkeit und Kosten).

3. Wichtige Beiträge

• Identifikation von FLOPs-Grenzen: Nachweis, dass FLOPs für Quantenschichten irreführend sind (sie messen oft nur den Simulations-Overhead oder sind konstant, obwohl die tatsächliche Laufzeit steigt).
• Analytisches Quanten-Kostenmodell: Ein neues Modell, das Gate-Zeiten, Routing-Kosten und Rausch-Effekte in einer einzigen Zeitmetrik vereint. Es ist hardware-kalibriert und liefert realistische Schätzungen für NISQ-Geräte.
• Hyb-HANAS: Ein Framework, das diese Modelle in einen NAS-Prozess integriert, um echte Hardware-Effizienz zu erreichen, ohne jedes Kandidaten-Netzwerk auf teurer Hardware trainieren zu müssen.
• Einheitliche Metrik: Die Umwandlung aller Kosten in Sekunden ermöglicht einen fairen Vergleich und eine gemeinsame Optimierung von klassischen und quantenmechanischen Komponenten.

4. Ergebnisse

Die Studie wurde mit dem MNIST-Datensatz durchgeführt und auf verschiedenen IBM-Quanten-Backends (sowohl echte Geräte als auch simulierte „Fake"-Backends) validiert.

• Validierung des Kostenmodells: Die analytisch geschätzten Laufzeiten korrelieren stark mit den von IBM Qiskit Scheduler vorhergesagten Zeiten, bestätigen aber, dass das analytische Modell durch die Berücksichtigung von Rausch-Overhead etwas konservativere (realistischere) Werte liefert.
• Fixierter CNN-Modus: Wenn nur der Quantenteil variiert wird, zeigt sich, dass tiefere, komplexere Quantenschaltungen oft höhere Routing- und Rausch-Overheads verursachen, die die Genauigkeit nicht im gleichen Maße steigern. Flache, gut geroutete Schaltungen sind oft effizienter.
• Variabler CNN-Modus (Co-Adaptation): Bei der gemeinsamen Optimierung von klassischen und Quantenteilen entstehen reichhaltigere Pareto-Fronten. Das System findet Architekturen, bei denen ein leistungsfähigerer klassischer Teil einen einfacheren, kostengünstigeren Quantenteil ermöglicht (und umgekehrt).
• Ablationsstudie: Die Analyse zeigt, dass bei komplexeren Schaltungen die Kosten durch Routing-Overhead (zusätzliche 2-Qubit-Gatter) und Zuverlässigkeitsstrafen (Rauschen) dominiert werden, nicht nur durch die reine Gate-Anzahl.

5. Bedeutung und Ausblick

• Schließen der Feedback-Schleife: Das Paper schließt die Lücke zwischen theoretischem Architekturentwurf und physikalischen Hardware-Einschränkungen.
• Skalierbarkeit: Da die Hardware-Kosten analytisch geschätzt werden, ist die Suche skalierbar und benötigt keine teuren, direkten Ausführungen auf echten Quantencomputern für jeden Kandidaten.
• Breite Anwendbarkeit: Das vorgestellte analytische Kostenmodell ist nicht nur für NAS nützlich, sondern auch für:
  • Benchmarking von Quanten-Hardware.
  • Bewertung von Compilern und Transpilierungsalgorithmen.
  • Schätzung der Trainingszeit für Quantenalgorithmen auf NISQ-Geräten.
  • Auswahl und Planung von Hardware-Ressourcen.

Zusammenfassend bietet das Paper einen essenziellen Schritt hin zu praxistauglichen hybriden Quanten-Klassischen Systemen, indem es sicherstellt, dass die gewählten Architekturen nicht nur mathematisch genau, sondern auch auf aktueller und zukünftiger Quantenhardware effizient ausführbar sind.