A hardware efficient quantum residual neural network without post-selection

Probleemstelling

Quantum Machine Learning (QML), en specifiek Variational Quantum Classifiers (VQC's), belooft veel voor de toekomstige toepassing op Noisy Intermediate-Scale Quantum (NISQ) apparaten. Echter, bestaande VQC-architecturen kampen met fundamentele beperkingen:

1. Barren Plateaus: Bij het vergroten van de circuitdiepte of het aantal qubits, verdwijnen de gradiënten exponentieel (barren plateaus), wat het trainen van diepe netwerken onmogelijk maakt.
2. Post-selectie afhankelijkheid: Bestaande methoden voor het implementeren van residu-verbindingen (zoals in Ref. [17]) maken vaak gebruik van post-selectie. Dit betekent dat alleen metingen waarbij een ancilla-qubit in een specifieke toestand (bijv. $|0\rangle$) wordt gevonden, worden behouden. Dit leidt tot een probabilistisch uitvoeringsmodel dat niet differentieerbaar is en een exponentieel aantal herhalingen vereist op echte hardware.
3. Hardware-efficiëntie: Bestaande modellen vereisen vaak zeer diepe circuits met duizenden poorten om vergelijkbare prestaties te behalen als klassieke netwerken, wat niet haalbaar is op huidige NISQ-processoren.

Methodologie: QResNet

De auteurs stellen een nieuwe architectuur voor: QResNet (Quantum Residual Neural Network). Deze architectuur lost de bovengenoemde problemen op door residu-verbindingen te implementeren via een deterministische lineaire combinatie van eenheidsoperatoren (Unitaries) zonder post-selectie.

Kerncomponenten:

• Ancilla-gestuurde Residu-blokken: In plaats van post-selectie, gebruiken de auteurs een ancilla-qubit die in een coherente superpositie wordt gebracht via een rotatie $R_Y(\theta)$. Deze ancilla controleert of een variational unitary $W_\ell$ wordt toegepast op de data-qubits of niet (identiteitsoperatie).
• Deterministische Lineaire Combinatie (LCU): Door de ancilla niet te meten (geen post-selectie), maar de verwachtingswaarde van de data-qubits te gebruiken, ontstaat een deterministische transformatie. De effectieve kaart voor blok $\ell$ wordt:
  $$M_l = \frac{1}{1 + |\beta_l|^2} \left( I + |\beta_l|^2 W_l(\vartheta_l) \right)$$
  Hierbij is $\beta_l$ een trainbare parameter die de sterkte van de residu-verbinding bepaalt.
• Volledige Differentieerbaarheid: Omdat er geen stochastische "sample-and-discard" stap (post-selectie) is, is de uitgangsfunctie volledig differentieerbaar ten opzichte van zowel de variational hoeken ($\vartheta_l$) als de residu-strengths ($\beta_l$). Dit maakt standaard gradiënt-gedreven optimalisatie (zoals Adam) mogelijk.
• Adaptieve Residu-strengths: De parameter $\beta_l$ wordt tijdens het trainen aangepast. Als $\beta_l \to 0$, wordt het blok genegeerd (identiteit); als $|\beta_l| \to 1$, wordt een mengsel van identiteit en variatie toegepast. Dit stelt het netwerk in staat om dynamisch te beslissen welke lagen essentieel zijn.

Belangrijkste Bijdragen

1. Eliminatie van Post-selectie: De eerste implementatie van residu-verbindingen in QML die volledig deterministisch is en geen post-selectie vereist, waardoor het geschikt is voor gradiënt-basering en hardware-efficiëntie.
2. Mitigatie van Barren Plateaus: De auteurs bewijzen theoretisch en numeriek dat door $\beta_l$ als trainbare parameter te behandelen (en de domein-grenzen van $\beta$ te laten schalen met de systeemdimensie, bijv. $\beta_{max} = \sqrt{d}$), de variatie van de gradiënt niet exponentieel afneemt met het aantal qubits. Dit opent de weg voor het trainen van diepere netwerken.
3. Hardware-efficiëntie: De architectuur bereikt hoge nauwkeurigheid met aanzienlijk minder quantum-poorten dan conventionele VQC's.
4. Adversariële Robuustheid: Het model toont een sterke weerstand tegen "black-box" adversariële aanvallen, waarbij aanvalsperturbaties die zijn gegenereerd door klassieke modellen slecht overdraagbaar zijn naar het quantummodel.

Resultaten

De auteurs hebben het model getest op drie datasets: MNIST, CIFAR-2 en SARFish.

• Nauwkeurigheid:
  • Binaire classificatie (MNIST 0 vs 1): 99% nauwkeurigheid.
  • Binaire classificatie (CIFAR-2): 76% nauwkeurigheid.
  • Binaire classificatie (SARFish): 72,14% nauwkeurigheid.
  • Multi-class classificatie (MNIST 10 klassen): 80% nauwkeurigheid.
• Hardware-efficiëntie:
  • Voor de multi-class MNIST taak behaalde een standaard VQC met 200 lagen slechts 65% nauwkeurigheid en vereiste ~8000 poorten.
  • De QResNet-architectuur (30 lagen VQC + 5 residu-blokken) bereikte 80% nauwkeurigheid met slechts 1400 poorten.
  • Dit is een 10x reductie in het aantal poorten vergeleken met de beste standaard VQC-benchmarks voor vergelijkbare prestaties.
• Adversariële Aanvallen:
  • Onder "white-box" aanvallen (waar de aanvaller de volledige architectuur kent) neemt de nauwkeurigheid af, wat verwacht wordt voor differentieerbare modellen.
  • Onder "black-box" aanvallen (waar klassieke perturbaties worden overgedragen) behoudt QResNet zijn hoge nauwkeurigheid, wat aangeeft dat de beslissingsgrenzen structureel verschillen van die van klassieke modellen.

Betekenis en Conclusie

Dit werk biedt een nieuwe route voor de ontwikkeling van schaalbare en robuuste Quantum Machine Learning-modellen. Door het probleem van post-selectie te omzeilen en barren plateaus te mitigeren via trainbare residu-strengths, maakt QResNet het mogelijk om effectieve deep learning-architecturen te bouwen die compatibel zijn met de beperkte resources van huidige en toekomstige NISQ-processoren. De combinatie van hoge nauwkeurigheid, lage circuitdiepte en weerstand tegen adversariële aanvallen positioneert deze architectuur als een veelbelovende kandidaat voor praktische toepassingen op quantumhardware.