Quantum Circuit Generation via test-time learning with large language models

Titel: Quantum circuit generatie via test-time learning met grote taalmodellen (LLM's)

Auteurs: Adriano Macarone-Palmieri en Rosario Lo Franco (Universiteit van Palermo)
Datum: 13 februari 2026

---

1. Probleemstelling

Het artikel adresseert de uitdaging om betrouwbare optimalisatie voor wetenschappelijk ontwerp te realiseren met behulp van Large Language Models (LLM's). Hoewel LLM's uitstekend zijn in het genereren van gestructureerde artefacten (zoals code), zijn ze van nature stochastische sequentiegeneratoren. Dit leidt vaak tot inefficiëntie bij "naïeve" benaderingen zoals herhaaldelijk steekproeven (bekend als "Large Language Monkeys"), waarbij veel rekenkracht wordt verspild zonder gegarandeerd succes.

Specifiek richt dit onderzoek zich op synthese van quantumcircuits. Bestaande machine learning-benaderingen (zoals diffusiemodellen of reinforcement learning) vereisen vaak grote datasets voor training of fine-tuning, wat kostbaar en tijdrovend is. Het doel is om een methode te vinden die:

• Geen voorafgaande training of fine-tuning vereist.
• Werkt in een "black-box" omgeving waar de evaluatie duur is (simulatie).
• In staat is om complexe, hoog-geënteerde quantumtoestanden te synthetiseren voor systemen met veel qubits (20-25 qubits).

2. Methodologie

De auteurs formuleren de synthese van quantumcircuits als een test-time optimalisatieprobleem. In plaats van het model te trainen, wordt het model tijdens de inferentie (tijdens het "testen") geleerd door feedback en geheugen.

A. Representatie en Beperkingen

• Circuitrepresentatie: Circuits worden voorgesteld als lijsten van poorten in tekstformaat.
• Poortset: Om de zoekruimte beheersbaar te houden en experimenteel haalbare circuits te garanderen, wordt een discrete subset van poorten gebruikt: {CNOT, H, RY}.
• Parameters: De continue hoekparameter van de RY-poort wordt beperkt tot een discrete set {3, 7, 25} (of later {0.1, 0.42, 1.0}) om de zoekruimte niet te laten exploderen.
• Constraint: Het aantal poorten mag niet worden verhoogd of verlaagd; het model moet bestaande poorten modificeren.

B. Evaluatiemeta: Meyer-Wallach (MW) Maatstaf

Als objectieve functie wordt de Meyer-Wallach (MW) globale verstrengelingsmaatstaf gebruikt.

• Definitie: $Q(\psi) = \frac{4}{N} \sum_{i=1}^{N} (1 - \text{Tr}[\rho_i^2])$, waarbij $\rho_i$ de gereduceerde dichtheidsmatrix is van de $i$-de qubit.
• Doel: Maximalisatie van $Q(\psi)$ (waarbij 1 maximale verstrengeling aangeeft, zoals bij GHZ-toestanden).
• Voordeel: Deze maatstaf is permutatie-invariant en experimenteel toegankelijk, en straalt de globale structuur van het circuit uit in plaats van lokale heuristieken.

C. Test-time Learning Strategie

De methode combineert drie elementen om de zoekrichting te sturen:

1. Episodisch Geheugen (Dynamic Cheatsheet): Het model krijgt de geschiedenis van eerdere pogingen en de beste resultaten tot nu toe als context.
2. Score-Feedback: Na elke simulatie krijgt het model expliciete tekstuele feedback over de verandering in de MW-score (bijv. "Je hebt een verbetering van ±0.05 behaald" of "Je hebt verslechterd"). Dit fungeert als een dicht leersignaal.
3. Restart-from-Best: Om lokale minima te ontvluchten, wordt de zoektocht herhaaldelijk gestart vanaf het beste tot nu toe gevonden circuit, in plaats van vanaf een willekeurig startpunt.

Het proces verloopt als een lus:

1. Start met een willekeurig circuit.
2. LLM stelt een edit voor (binnen de poortset en constraints).
3. Simulator berekent de MW-score.
4. Feedback (scoreverschil) en het beste circuit worden aan de prompt toegevoegd.
5. Herhaal tot convergentie of budgetop.

3. Belangrijkste Resultaten

A. 20-Qubit Experimenten (GPT-5.1)

• Zonder feedback kon het model de MW-score verbeteren, maar de succeskans op zeer hoge scores ($Q > 0.8$) was laag (~10%).
• Het model slaagde er soms in om perfecte scores te behalen (bijv. bij 35 poorten), maar de prestaties waren inconsistent.
• Dit bevestigde dat een simpele prompt zonder feedback onvoldoende is voor betrouwbare optimalisatie.

B. 25-Qubit Experimenten (GPT-5.2 met Feedback)

Bij het schalen naar 25 qubits trad er een duidelijk plateau op bij naïeve benaderingen (MW-score ~0.48 - 0.7).

• Effect van Feedback: Door de toevoeging van score-feedback en de "restart-from-best" strategie, brak het model het plateau.
• Resultaten: Het model kon systematisch oplossingen vinden met zeer hoge verstrengeling (MW > 0.99).
• Vergelijking met Baseline: Een klassieke "random hill-climbing" methode (met hetzelfde evaluatiebudget) faalde om scores boven 0.16 te halen, terwijl de LLM-methode consistent scores boven 0.90 behaalde. Dit toont aan dat de LLM structurele patronen leert te herkennen die een willekeurige zoektocht mist.

C. Analyse van de Gesynthetiseerde Toestanden

• Structuur: De hoogst scorende oplossingen lijken vaak op stabielizer-toestanden of graf-toestanden (bijv. combinaties van Bell-paren en GHZ-toestanden).
• Connectiviteit: Hoewel de MW-score hoog is, is volledige connectiviteit tussen alle qubits niet altijd gegarandeerd. De oplossingen bestaan vaak uit meerdere disjuncte verstrengelde clusters.
• Niet-Clifford Poorten: Het model slaagde erin om ook circuits met RY-poorten (niet-Clifford) te genereren, hoewel het vaak terugkeerde naar Clifford-oplossingen (alleen CNOT en H) om de maximale score te bereiken, wat suggereert dat Clifford-circuits voor deze specifieke metriek efficiënter zijn.

4. Bijdragen en Significatie

1. Nieuwe Paradigma voor Quantum Synthese: Het artikel demonstreert dat LLM's zonder fine-tuning effectief kunnen worden ingezet voor quantumcircuit-optimalisatie door gebruik te maken van test-time learning. Dit is cruciaal voor domeinen waar datasets schaars zijn en het trainen van gespecialiseerde modellen onhaalbaar is.
2. Validatie van Test-Time Learning: Het bewijst dat het combineren van expliciet geheugen (hergebruik van succesvolle artefacten) en evaluatie-gebaseerde feedback (scoreverschillen) de zoekefficiëntie drastisch verbetert ten opzichte van pure steekproeven.
3. Inzicht in LLM-Redenering: De studie onthult dat LLM's in staat zijn om complexe quantumpatronen (zoals stabilizer-toestanden) te "ontdekken" en te reproduceren, zelfs zonder expliciete kennis van de onderliggende quantumtheorie in hun training, zolang ze maar een duidelijke feedbacklus hebben.
4. Beperkingen en Toekomst: De auteurs merken op dat het model soms vastloopt in lokale minima die lijken op "traps" in de zoekruimte, wat wijst op een gebrek aan diepgaand theoretisch inzicht. Toekomstig werk richt zich op het verbeteren van de connectiviteit van de circuits en het gebruik van geavanceerdere geheugenmechanismen (zoals cumulatief geheugen).

Conclusie

Dit onderzoek toont aan dat LLM's, wanneer ze worden geleid door een gesloten lus van evaluatie en feedback, krachtige hulpmiddelen kunnen zijn voor het ontwerpen van quantumcircuits. De methode biedt een praktische route naar betrouwbare, data-efficiënte quantumontwerpen, hoewel menselijke tussenkomst bij het definiëren van de doelstellingen en het selecteren van de juiste metrieken essentieel blijft.