Stochastic Neural Networks for Quantum Devices

Deze paper presenteert een methode om stochastische neurale netwerken te formuleren en te optimaliseren als quantumcircuits voor gate-based quantum computing, waarbij diverse netwerktopologieën worden getest en het geoptimaliseerde model wordt gebruikt als oracle in het Grover-algoritme voor quantum generatieve AI.

De kern

Stochastische Neurale Netwerken voor Quantum-apparaten: Een Simpele Uitleg

Stel je voor dat je een enorme, superkrachtige rekenmachine hebt die niet werkt met 0-en en 1-en zoals onze huidige computers, maar met "quantum-bits" (qubits). Deze qubits kunnen op een magische manier in meerdere toestanden tegelijk zijn. Dit artikel beschrijft hoe we neurale netwerken (de hersenen van kunstmatige intelligentie) kunnen bouwen op zo'n quantumcomputer, maar dan op een heel slimme, nieuwe manier.

Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het Probleem: De "Strenge" versus de "Losse" Neurone

Normaal gesproken werken neurale netwerken (zoals die in je telefoon of bij Google) met strenge regels. Een neuron kijkt naar een invoer, doet een berekening en zegt: "Ja, dit is een kat" (1) of "Nee, dit is geen kat" (0). Dit is deterministisch: altijd hetzelfde antwoord voor dezelfde vraag.

De auteurs van dit artikel zeggen: "Wacht even, echte hersenen zijn niet zo streng. Ze zijn een beetje willekeurig." Soms vuurt een hersencel wel een signaal af, soms niet, zelfs als de input hetzelfde is. Dit noemen ze stochastisch (kansgebaseerd).

Hun idee: Waarom gebruiken we die willekeur niet op een quantumcomputer? Omdat quantumcomputers van nature al willekeurig zijn (als je meet, krijg je een kansverdeling), is dit een perfecte match.

2. De Oplossing: De Quantum-Perceptron

Ze hebben een nieuw type "neuron" bedacht dat werkt als een quantum-loterij:

• De Input: Je voert data in (bijvoorbeeld een foto van een bloem).
• De Berekening: In plaats van een simpele "ja/nee" te geven, draait de quantumcomputer een hoekje (een rotatie) op een qubit.
• De Uitkomst: Als je de qubit meet, is er een bepaalde kans dat hij "aan" gaat (1) of "uit" blijft (0).
  • Analogie: Stel je een munt op een quantumcomputer voor. Normaal is het 50/50. Maar door de "gewichten" van het netwerk aan te passen, kun je de munt zo manipuleren dat hij 90% van de tijd op "Kop" valt als het een bloem is, en 10% als het een auto is.

Het mooie is: ze hebben geen extra "hulp-qubits" nodig (die vaak nodig zijn in andere quantum-modellen) en het werkt heel simpel.

3. Hoe leer je dit systeem? (De Kunst van het Zand)

Hoe leer je zo'n quantumnetwerk? Je kunt niet gewoon "gradient descent" gebruiken (de standaard methode in AI) omdat quantumcomputers soms vastlopen in lokale minima (zoals een bal die in een klein kuilletje blijft hangen in plaats van de diepste vallei te vinden).

Ze gebruiken een combinatie van twee slimme technieken:

1. Gesimuleerde Afkoeling (Simulated Annealing): Denk aan het smeden van staal. Je verwarmt het metaal (laat het systeem veel fouten maken en springen) en koelt het heel langzaam af. Hierdoor kan het systeem uit kleine kuilen springen en uiteindelijk de perfecte, diepste vallei vinden.
2. De Kiefer-Wolfowitz Algoritme: Dit is een slimme manier om te gokken welke richting je op moet, zonder precies te weten hoe de berg eruitziet. Het is alsof je in het donker loopt en met een stok voelt of de grond iets stijgt of daalt, om zo de top te vinden.

4. Wat kunnen ze ermee? (De Experimenten)

Ze hebben getoond dat je bijna elk type neurale netwerk op deze manier kunt bouwen:

• Eenvoudige Netwerken: Voor het herkennen van bloemen of wijnen (zoals in de Iris-dataset).
• Hopfield Netwerken: Dit zijn netwerken die fungeren als herinneringen. Als je een vies, ruisend plaatje geeft, kan het netwerk het "opkuisen" en de originele, schone herinnering terugvinden.
• Auto-Encoders: Dit zijn netwerken die data samendrukken. Ze leren de essentie van een foto (bijvoorbeeld "een gezicht") in een heel klein pakketje te stoppen en die later weer perfect te reconstrueren.
• Convolutional Netwerken (CNN): De standaard voor beeldherkenning, nu ook op quantum.

5. De "Killer App": Generatieve AI met Grover

Dit is het coolste deel. Stel je voor dat je een quantumcomputer hebt die getraind is om te herkennen wat een "mooi gezicht" is.

• Herkenningsmodus: Je geeft een foto, en het zegt: "Ja, dat is een gezicht."
• Generatieve Modus (Grover's Algoritme): Je draait het proces om! Je vraagt de computer: "Geef me willekeurige patronen, maar filter er alleen die uit die eruitzien als een gezicht."

Normaal gesproken moet je bij generatieve AI (zoals Midjourney of DALL-E) duizenden keren proberen om een goed plaatje te maken. Met hun quantum-methode (de Grover-zoektocht) kan de computer in één keer een patroon vinden dat perfect voldoet aan de criteria. Het is alsof je in een enorme bibliotheek niet één voor één boeken zoekt, maar met een magische bril direct het juiste boek ziet oplichten.

Conclusie

Kortom: Dit artikel laat zien dat we neurale netwerken niet hoeven te forceren om "stijf" te werken op quantumcomputers. Door ze juist willekeurig en kansgebaseerd te maken (zoals echte hersenen), kunnen we ze veel efficiënter en krachtiger maken. Ze kunnen niet alleen dingen herkennen, maar ook nieuwe dingen creëren (generatieve AI) met een snelheid en efficiëntie die klassieke computers niet kunnen evenaren.

Het is alsof we van een strikte, lineaire rekenmachine zijn gegaan naar een creatieve, dromerige quantum-dichter die in één zin het perfecte gedicht schrijft.

Technische samenvatting

Titel: Stochastische Neuronale Netwerken voor Quantum-apparaten

Auteurs: Bodo Rosenhahn, Tobias J. Osborne, Christoph Hirche (Leibniz Universiteit Hannover)
Datum: 27 februari 2026

---

1. Het Probleem

Neuronale netwerken zijn essentieel voor moderne kunstmatige intelligentie, maar het trainen en uitvoeren van grote modellen vereist enorme rekenkracht en energie, vaak aangedreven door GPU's of NPUs. Er is een groeiende interesse in het uitvoeren van deze netwerken op alternatieve hardware, zoals quantumcomputers. Echter, bestaande modellen voor quantum-neuronale netwerken (QNN's) hebben vaak significante nadelen:

• Ze vereisen vaak ancilla-qubits (extra hulp-qubits).
• Ze maken gebruik van complexe "repeat-until-success" (RUS) circuits om deterministische activatiefuncties na te bootsen, wat leidt tot een hoog aantal poorten (gate count).
• Ze zijn soms moeilijk te interpreteren of te koppelen aan klassieke netwerktopologieën.

Het doel van dit werk is het ontwikkelen van een eenvoudiger, efficiënter model voor stochastische neurale netwerken dat direct op een gate-based quantumcomputer kan worden geïmplementeerd, zonder extra qubits of complexe herhalingsprocedures.

2. Methodologie

A. Het Stochastische Quantum-Perceptron

De auteurs introduceren een nieuw model voor een neuron dat gebaseerd is op een probabilistische activatie in plaats van een deterministische stapfunctie (zoals bij klassieke perceptrons).

• Implementatie: Het model gebruikt RX-gates (rotatie om de x-as) voor de bias en gecontroleerde RX-gates (CRX) voor de input.
• Werking: De input-qubits (binair: $|0\rangle$ of $|1\rangle$) manipuleren de rotatiehoek van het neuron. De activatiekans wordt bepaald door de som van de gewogen inputs en de bias.
• Transformatie: Om een lineair additief gedrag van de hoeken te garanderen dat direct correspondeert met kansen, wordt de functie $asin(\sqrt{a_i})$ gebruikt.
• Voordeel: Dit model is inherent stochastisch (gebaseerd op de kwantummeetkansen), wat het ideaal maakt voor quantumcomputers. Het kan complexe functies zoals de XOR-functie leren met één enkele laag, wat onmogelijk is voor klassieke perceptrons met standaard activeringsfuncties (zoals sigmoid of ReLU).

B. Optimalisatie: Kiefer-Wolfowitz + Simulated Annealing

Omdat het trainen van QNN's vaak lastig is met standaard backpropagation (vanwege het ontbreken van een gladde differentieerbare loss-functie in de kwantumcontext), gebruiken de auteurs een hybride optimalisatieaanpak:

1. Kiefer-Wolfowitz algoritme: Een methode voor stochastische benadering die de gradiënt schat via centrale verschillen (zonder expliciete gradiëntberekening).
2. Simulated Annealing (SA): Een probabilistische zoektechniek die helpt om lokale minima te vermijden. De "temperatuur" wordt geleidelijk verlaagd om de zoekruimte te verkleinen en naar een globaal optimum te convergeren.

• Flexibiliteit: Deze aanpak maakt het mogelijk om specifieke constraints op te leggen, zoals gedeelde gewichten (weight sharing) en het verwijderen van verbindingen, wat essentieel is voor het modelleren van specifieke netwerktopologieën.

3. Belangrijkste Bijdragen

1. Nieuw Perceptron-model: Een kwantumperceptron dat probabilistisch activeert, geen ancilla-qubits vereist en een gelaagde structuur toestaat die lijkt op klassieke netwerken.
2. Optimalisatieframework: Een methode die Simulated Annealing combineert met Kiefer-Wolfowitz, wat robuust is tegen lokale minima en constraints (zoals symmetrie in Hopfield-netwerken) kan handhaven.
3. Diverse Architecturen: De auteurs demonstreren de toepasbaarheid van hun model op verschillende netwerktopologieën:
   • Shallow Fully Connected Networks (voor classificatie).
   • Hopfield Networks (voor patroonherinnering).
   • Restricted Boltzmann Machines (RBM) (voor dimensiereductie).
   • Autoencoders (voor representatieleren).
   • Convolutional Neural Networks (CNN) (voor patroonherkenning).
4. Generatieve AI met Grover: Een innovatieve combinatie van het getrainde (bevroren) quantumneuronale netwerk als oracle binnen het Grover-algoritme. Dit stelt de computer in staat om specifieke patronen (bijv. gezichten of cijfers) te genereren door ze te "zoeken" in de superpositie, in plaats van ze iteratief te denoisen zoals bij diffusion-modellen.

4. Resultaten en Experimenten

De auteurs hebben experimenten uitgevoerd op diverse datasets (UCI: Iris, Wine, Zoo; en een subset van MNIST):

• Classificatie (Shallow Networks):
  • Het model behaalde hoge nauwkeurigheden (bijv. 95% op Iris, 95% op Wine, 99% op MNIST subset).
  • Vergelijking: In tegenstelling tot standaard gradient descent (gd), dat vaak vastloopt in lokale minima en grote variantie vertoont, leverde de Kiefer-Wolfowitz + SA-methode consistent betere en stabielere resultaten.
• Hopfield Networks:
  • Het netwerk slaagde erin om patronen te memoriseren en ruis uit invoer te verwijderen, waarbij het convergerde naar het dichtstbijzijnde opgeslagen patroon.
• Restricted Boltzmann Machines (RBM) & Autoencoders:
  • De auteurs toonden aan dat een 12-dimensionale invoer (Iris dataset) kan worden gecomprimeerd naar 2 dimensies en vervolgens met redelijke kwaliteit kan worden gereconstrueerd.
  • Autoencoders (zonder gewichtsdeling) presteerden beter dan RBM's (met gewichtsdeling) vanwege de hogere capaciteit, maar RBM's bleken efficiënter in parameters.
• Convolutional Networks:
  • Het model kon complexe patronen zoals "bars and stripes" perfect classificeren, ondanks een onbalans in de dataset.
• Generatieve AI (Grover Oracle):
  • Door het getrainde circuit te gebruiken als oracle in het Grover-algoritme, konden patronen die aan een bepaald criterium voldoen (bijv. "twee stippen") met een veel hogere waarschijnlijkheid worden gesampled dan andere patronen. Dit biedt een efficiëntere methode voor generatie dan iteratieve denoising.

5. Betekenis en Conclusie

Dit werk biedt een brug tussen klassieke neurale netwerken en gate-based quantumcomputing. De belangrijkste implicaties zijn:

• Efficiëntie: Het elimineert de noodzaak voor ancilla-qubits en complexe RUS-circuits, wat de implementatie op huidige en nabije toekomstige quantumhardware haalbaarder maakt.
• Natuurlijke Stochasticiteit: Het benut de inherente probabilistische aard van quantummetingen als een feature in plaats van een bug, wat goed aansluit bij stochastische neurale netwerken.
• Generatieve AI: De integratie met het Grover-algoritme opent een nieuw pad voor Generatieve AI op quantumcomputers. In plaats van duizenden iteraties (zoals bij diffusion-modellen), kan een enkele evaluatie van het circuit leiden tot het genereren van een geldig voorbeeld, wat een potentiële kwadratische snelheidswinst biedt.
• Flexibiliteit: De gebruikte optimalisatiestrategie maakt het mogelijk om complexe klassieke architecturen (zoals CNN's en Hopfield-netwerken) direct te vertalen naar quantumcircuits met behoud van hun structurele eigenschappen (zoals gewichtsdeling).

Kortom, de auteurs tonen aan dat stochastische neurale netwerken een veelbelovende en praktische route zijn om machine learning-taken op quantumcomputers uit te voeren, met name voor generatieve toepassingen.