SpinGQE: A Generative Quantum Eigensolver for Spin Hamiltonians

Titel: SpinGQE: Een generatieve kwantum-eigensolver voor spin-Hamiltonianen

Auteurs: Alexander Holden, Moinul Hossain Rahat, en Nii Osae Osae Dade (Mindbeam AI & Case Western Reserve University).

1. Het Probleem

Het vinden van de grondtoestand (de toestand met de laagste energie) van een kwantumsysteem is een fundamentele uitdaging in de kwantumcomputing, met toepassingen in kwantumchemie, gecondenseerde materie-fysica en optimalisatie.

• Beperkingen van VQE: De huidige standaard, de Variational Quantum Eigensolver (VQE), heeft succesvol gewerkt voor kleine systemen, maar kampt met ernstige beperkingen bij schaalvergroting:
  • Barren Plateaus: Het optimalisatielandschap wordt extreem vlak, waardoor het trainen van parameters onmogelijk wordt.
  • Beperkte Expressiviteit: Vooraf gedefinieerde circuits (ansatzes) kunnen vaak de complexe entanglement-structuren van het systeem niet volledig vangen.
  • Afhankelijkheid van Domeinkennis: VQE vereist vaak fysieke intuïtie en specifieke symmetrieën van het probleem, wat generalisatie naar willekeurige Hamiltonianen bemoeilijkt.

2. Methodologie: SpinGQE

SpinGQE is een uitbreiding van het Generative Quantum Eigensolver (GQE) framework, specifiek aangepast voor spin-Hamiltonianen. In plaats van continue parameters binnen een vast circuit te optimaliseren, wordt het circuitontwerp zelf omgezet in een generatief modelleringstaken.

Kerncomponenten:

• Transformer-based Decoder: Een klassiek transformer-model (gebaseerd op de architectuur van Large Language Models) wordt getraind om distributies over volledige kwantumcircuits te leren. Het model genereert circuits als sequenties van tokens (gates) die worden gesampled uit een vaste "operator pool".
• Online Training Loop:
  • Het model genereert batches van operator-sequenties (circuits).
  • De verwachte energie van deze circuits wordt berekend op een kwantumcomputer of simulator.
  • Unieke Supervisie: In plaats van alleen de energie van het volledige circuit te evalueren, wordt de energie berekend voor elke prefix (voorgaande subsequence) van de gates. Dit creëert een traject van energieën door het circuit.
• Gewogen Verliesfunctie (Weighted Loss):
  • Het model wordt getraind om zijn interne "logits" (scores) te laten overeenkomen met de gemeten energieën van de circuits.
  • Er wordt een Mean-Squared Error (MSE) verlies gebruikt, maar met een gewichtsfactor $w(E, \beta) = \frac{1}{1 + e^{\beta E}}$.
  • Dit geeft een hogere prioriteit aan circuits met lage energieën, waardoor het model wordt gestimuleerd om de laagste energielandschappen te verkennen en lokale minima te vermijden.
• Operator Pool: Voor spin-systemen wordt een pool van Pauli-rotaties gebruikt (bijv. $XX, YY, ZZ$ op naburige qubits en $Z$ op individuele qubits) met discrete hoeken. Dit balanceert expressiviteit met een beheersbare zoekruimte.

Post-processing Optimalisatie:
Na het generatieve trainen wordt een hybride klassiek-kwantum optimalisatie uitgevoerd:

1. Hoekverfijning: Continue optimalisatie van de rotatiehoeken (met algoritmen zoals L-BFGS-B) om de discrete beperkingen van de training te overwinnen.
2. Wire Swap (Greedy Search): Een zoektocht naar betere qubit-toewijzingen voor de twee-qubit gates. Dit stelt het circuit in staat om langere-afstand entanglement te creëren, zelfs als het basismodel beperkt was tot naburige qubits.

3. Belangrijkste Bijdragen

• Generatieve Aanpak voor Spin-systemen: De eerste toepassing van het GQE-framework op spin-Hamiltonianen, een fundamenteel andere klasse dan de oorspronkelijke fermionische systemen.
• Vermijden van Barren Plateaus: Door de optimalisatie naar de klassieke kant te verschuiven (het leren van de distributie van circuits) en gebruik te maken van per-prefix supervisie, wordt het probleem van barren plateaus omzeild.
• Hybride Workflow: Een effectieve combinatie van generatief leren (voor globale structuur) en lokale post-processing (voor precisie), wat leidt tot zeer nauwkeurige resultaten zonder afhankelijkheid van domeinspecifieke symmetrieën.
• Open Source Implementatie: De code is beschikbaar gesteld via GitHub, wat reproduceerbaarheid en verdere ontwikkeling mogelijk maakt.

4. Resultaten

Het model werd gevalideerd op het vier-qubit 1D Heisenberg-model met een extern magnetisch veld, in twee regimes:

• Antiferromagnetisch Regime ($h \leq J$):

  • Dit is een uitdagend geval met veel lokale minima en hoge entanglement.
  • Het basismodel bereikte na training een energie van $-60.78J$ (exacte grondtoestand: $-64.641J$).
  • Na post-processing (hoekverfijning + wire swap) bereikte het model een energie van $-64.64J$, wat vrijwel exact overeenkomt met de theoretische grondtoestand.
  • Het model leerde specifieke voorkeuren voor gate-types en hoeken (bijv. $YY$-gates op bepaalde qubitparen met specifieke hoeken), wat aantoont dat het de fysieke structuur van het probleem heeft begrepen.

• Veld-gedomineerd Regime ($h > J$):

  • In dit regime is het landschap gladder. Het model convergeerde snel naar $-37.0J$, wat al zeer dicht bij de exacte oplossing lag en vaak geen post-processing vereiste.

• Hyperparameter Onderzoek:

  • Modelgrootte: Kleinere modellen (12 lagen, 8 attention heads, ~37M parameters) presteerden beter dan grotere modellen (113M parameters), die overfitting vertoonden en faalden bij convergentie door gebrek aan voldoende trainingsdata.
  • Sequentielengte: Een lengte van 12 gates bleek optimaal.
  • Gewichtsfactor ($\beta$): Een waarde van $\beta = 0.3$ bleek het beste evenwicht te bieden tussen exploratie en focus op lage energieën.

5. Betekenis en Conclusie

SpinGQE demonstreert dat generatieve modellen een krachtig alternatief zijn voor traditionele variatie-methoden in de kwantumcomputing.

• Schaalbaarheid: De methode is schaalbaar omdat de zware berekeningen (het zoeken naar de circuitstructuur) klassiek worden uitgevoerd, terwijl de kwantumhardware alleen wordt gebruikt voor energie-evaluaties.
• Generalisatie: De aanpak vereist geen vooraf kennis van de symmetrieën van het systeem, wat het veelzijdiger maakt voor diverse kwantumsystemen.
• Toekomstperspectief: Hoewel de schaalvergroting naar meer qubits uitdagingen blijft bieden (exponentiële groei van de Hilbert-ruimte), suggereert de succesvolle toepassing op spin-systemen dat deze generatieve aanpak de basis kan vormen voor robuuste, algemene kwantum-eigensolvers die dynamisch kunnen aanpassen aan complexe problemen.

De studie bevestigt dat het combineren van deep learning (transformers) met kwantum-evaluatie een veelbelovende weg is om de beperkingen van de huidige NISQ-era (Noisy Intermediate-Scale Quantum) apparatuur te overwinnen.