QNAS: A Neural Architecture Search Framework for Accurate and Efficient Quantum Neural Networks

Titel: QNAS: Een Framework voor Neural Architecture Search voor Accurate en Efficiënte Quantum Neural Networks

Publicatie: IEEE International Joint Conference on Neural Networks (IJCNN), juni 2026.
Auteurs: Kooshan Maleki, Alberto Marchisio, Muhammad Shafique.

---

1. Het Probleem

Het ontwerpen van Quantum Neural Networks (QNNs) die zowel accuraat als bruikbaar zijn op huidige NISQ-hardware (Noisy Intermediate-Scale Quantum) is een aanzienlijke uitdaging.

• Handmatige Ontwerpen: Bestaande "handgemaakte" ansatz-circuits moeten een delicate balans vinden tussen expressiviteit, trainbaarheid en hardware-efficiëntie. Ze lijden vaak onder optimalisatieproblemen zoals "barren plateaus" (waarbij gradiënten exponentieel verdwijnen).
• Beperkte Qubits: Huidige hardware heeft een beperkt aantal qubits. Om grotere circuits te draaien, moet men gebruikmaken van circuit cutting (het opsplitsen van een circuit in kleinere subcircuits).
• De Kruisingskost: Circuit cutting brengt een enorme computationele overhead met zich mee; het aantal uitvoeringen van het circuit groeit exponentieel met het aantal cuts ($O(4^k)$). Bestaande methoden voor Quantum Architecture Search (QAS) optimaliseren vaak alleen voor nauwkeurigheid en negeren deze cutting-overhead, wat leidt tot architecturen die theoretisch accuraat zijn, maar onbetaalbaar duur om uit te voeren op beperkte hardware.

2. Methodologie: Het QNAS Framework

QNAS is een framework voor Neural Architecture Search (NAS) dat specifiek is ontworpen voor hybride quantum-klassieke neural networks (HQNNs). Het combineert drie kerncomponenten:

A. Hardware-bewuste One-Shot Evaluatie

In plaats van elk kandidaat-circuit volledig te trainen (wat computatievermogen zou verspillen), gebruikt QNAS een SuperCircuit-benadering:

• Een overparameteriseerd circuit wordt getraind met gedeelde gewichten.
• Kandidaat-architecturen worden beoordeeld na slechts een beperkt aantal trainingsepochs (bijv. 2 epochen).
• Analyse toont aan dat er na 2 epochen al een sterke correlatie (>0,9) is tussen de tussentijdse prestaties en de uiteindelijke prestaties, wat de zoekkosten drastisch verlaagt.

B. Multi-Doel Optimalisatie (NSGA-II)

QNAS gebruikt het evolutionaire algoritme NSGA-II om een Pareto-optimaal front te vinden dat drie doelstellingen gelijktijdig optimaliseert:

1. Validatiefout (F1): De nauwkeurigheid van het model.
2. Runtime-kost Proxy (F2): De wandelkloktijd per steekproef (wall clock time), wat de uitvoeringskosten op de backend weerspiegelt.
3. Cutting Overhead (F3): Het geschatte aantal subcircuits dat nodig is binnen een bepaald qubit-budget ($Q_{target}$). Het minimaliseren van F3 is cruciaal om de exponentiële kosten van circuit cutting te vermijden.

C. Zoekruimte en Transpilatie

De zoekruimte omvat variabelen zoals:

• Embeddingstype: Hoek-embeddings (Angle-X, Y, Z) vs. Amplitude-embedding.
• Circuitstructuur: Aantal qubits, diepte, entanglement-bereik en CNOT-modus (bijv. 'all', 'odd', 'even', 'none').
• Transpilatie: QNAS simuleert de implementatie op specifieke NISQ-apparaten (via "fake backends" met ruismodellen) om de impact van routing en basis-gate-decompositie op de uitvoeringstijd te beoordelen.

3. Belangrijkste Bijdragen

1. Unificatie van Doelen: QNAS is de eerste framework die expliciet de overhead van circuit cutting integreert in de optimalisatie, naast nauwkeurigheid en runtime.
2. Efficiënte Zoekstrategie: Door het combineren van weight-sharing SuperCircuits met een beperkt aantal trainingsepochs en NSGA-II, maakt het het mogelijk om duizenden architecturen te evalueren binnen een haalbare tijd.
3. Empirische Validatie: Het framework is getest op drie verschillende benchmarks (MNIST, Fashion-MNIST, Iris) en levert inzichtelijke ontwerprichtlijnen op die afhankelijk zijn van het type dataset.
4. Open Source: De code is beschikbaar gesteld om reproduceerbaarheid te waarborgen.

4. Resultaten

De resultaten tonen aan dat QNAS architecturen kan vinden die een uitstekende balans bieden tussen nauwkeurigheid en resource-efficiëntie:

• MNIST (Beeldherkenning):

  • Beste architectuur: 97,16% testnauwkeurigheid.
  • Configuratie: 8 qubits, 2 lagen, Angle-Y embedding, "none-odd" CNOT-modus.
  • Inzicht: Dichte entanglement-modi ("all") presteren slecht (vermoedelijk door barren plateaus), terwijl spaarzame CNOT-modi ("none-odd") superieur zijn.

• Fashion-MNIST (Moeilijker Beeldherkenning):

  • Beste architectuur: 87,38% testnauwkeurigheid.
  • Configuratie: 5 qubits, 2 lagen, Angle-Y embedding.
  • Inzicht: Bevestigt dat Angle-Y en spaarzame entanglement ook op complexere beelddata werken.

• Iris (Tabulaire Data):

  • Beste architectuur: 100% validatienauwkeurigheid.
  • Configuratie: 4 qubits, 2 lagen, Amplitude embedding, "none-odd" CNOT-modus.
  • Inzicht: In tegenstelling tot beelddata, presteert Amplitude-embedding hier het beste, waarschijnlijk vanwege de kleine datasetgrootte en het klassieke hoofd van het netwerk.

Algemene bevindingen:

• Few-Epoch Training: Een korte training (2 epochen) is voldoende om goede architecturen te selecteren.
• Circuit Cutting: Door F3 te optimaliseren, worden architecturen gevonden die minder subcircuits vereisen, wat de uitvoeringskosten op beperkte hardware drastisch verlaagt (bijv. een reductie van 62,8% in cutting-overhead vergeleken met methoden die F3 negeren).
• Transpilatie: De gevonden architecturen vereisen minimale extra routing-overhead bij transpilatie naar echte hardware-topologieën.

5. Betekenis en Conclusie

QNAS biedt een praktische methode om QNN-architecturen te ontdekken die niet alleen theoretisch accuraat zijn, maar ook direct inzetbaar zijn op huidige beperkte quantumhardware. Door de exponentiële kosten van circuit cutting expliciet te optimaliseren, voorkomt het framework het ontwerpen van modellen die in theorie werken maar in de praktijk onuitvoerbaar zijn.

Het paper benadrukt dat er geen "one-size-fits-all" oplossing is: de beste embedding en entanglement-patronen hangen af van het type data (beelden vs. tabellen). QNAS automatiseert dit ontwerpproces en helpt onderzoekers en ingenieurs om de juiste trade-offs te vinden tussen nauwkeurigheid, snelheid en hardware-beperkingen in het NISQ-tijdperk.