⚛️ quantum physics

When Close Enough Is Not Enough: Autoregressive Drift in Quantum Circuit Synthesis

Dit artikel toont aan dat hoewel transformer-gebaseerde modellen kwantumcircuits succesvol kunnen optimaliseren wanneer benaderende outputs corrigeerbaar zijn via post-processing, hun betrouwbaarheid voor exacte discrete synthese fundamenteel wordt beperkt door autoregressieve drift die ervoor zorgt dat de prestaties scherp afnemen naarmate de circuitlengte toeneemt, een probleem dat slechts gedeeltelijk wordt verzacht door zoekprocessen tijdens de inferentie en schaling van data in plaats van door aanpassingen op modelniveau.

Oorspronkelijke auteurs: Mehdi Saeedi, Eddie Richter, Paul Hartke

Gepubliceerd 2026-07-15

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Mehdi Saeedi, Eddie Richter, Paul Hartke

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot probeert te leren hoe hij een perfect LEGO-kasteel moet bouwen. Je laat het hem zien: een rommelige stapel stenen (de "input circuit") en je vraagt hem om dit om te bouwen tot een gestroomlijnde, efficiënte versie met zo min mogelijk speciale "magische" stenen. Dit is de taak van quantum circuit optimalisatie, en de onderzoekers bij AMD probeerden een slimme AI-robot (een "transformer") hiervoor te trainen.

Hier komt de twist: de robot is geweldig in sommige dingen, maar loopt tegen een muur aan bij andere, en de reden daarvoor is een fout die ze autoregressieve drift noemen.

De Twee Werelden: De "Vage" versus de "Pixel-Perfecte"

De onderzoekers testten de robot in twee verschillende spelmodi.

Modus 1: De Vage Wereld (Geparametriseerde Circuits)
In deze modus bouwt de robot een kasteel waarbij de hoeken van de muren een klein beetje aangepast kunnen worden. Als de robot de vorm van het kasteel correct bouwt, maar de muren een klein beetje verkeerd staan, kan een mens (of een klassieke rekenmachine) later nog even langskomen om de hoeken bij te stellen totdat ze perfect zijn.

Het resultaat: De robot was een superster in deze modus. Hij leerde de structuur zo goed dat hij na een kleine "correctie" een 100% perfecte fideliteit (een score van 1.000) bereikte op circuits met 3 tot 6 qubits. Het is alsof de robot het blauwdruk perfect heeft getekend, en de bouwer alleen de kleine scheve lijntjes even rechtzet.

Modus 2: De Pixel-Perfecte Wereld (Clifford+T Circuits)
Dit is de echte uitdaging. Hier moet de robot bouwen met rigide, discrete LEGO-stenen. Er zijn geen "hoeken" die later bijgesteld kunnen worden. Elke enkele steen moet precies op de juiste plek liggen, anders stort het hele kasteel in tot een andere vorm.

Het resultaat: Dit is waar de robot begon te struikelen over zijn eigen voeten. Hoewel hij de regels van het spel leerde (de syntaxis) en ongeveer wist hoeveel magische stenen hij moest gebruiken, slaagde hij er vaak niet in om het exact juiste kasteel te bouwen.
- Voor korte kastelen (9 stenen of minder) kreeg hij het ongeveer 88% van de tijd goed.
- Voor middelgrote kastelen (15–25 stenen) daalde het succes naar 8,4% met de standaard trainingsdata, en steeg dit naar 23,4% wanneer de robot aanzienlijk meer oefendata kreeg.
- Voor lange kastelen (26+ stenen) kreeg hij het 0% van de tijd goed met de standaard data, en slechts 3,7% zelfs met de extra data.

De Boosdoener: Het "Domino-effect" van Drift

Waarom faalde de robot bij de lange, rigide kastelen? De auteurs ontdekten een probleem dat ze autoregressieve drift noemden.

Stel je voor dat de robot een verhaal schrijft, woord voor woord, van links naar rechts.

Hij schrijft het eerste woord correct.
Hij schrijft het tweede woord correct.
Maar dan, bij het derde woord, maakt hij een kleine fout. Misschien vervangt hij een "T"-steen door een "S"-steen.

In de "Vage Wereld" zou die fout niet uitmaken, omdat je de hoek later kunt corrigeren. Maar in de "Pixel-Perfecte Wereld" verandert die enkele verkeerde steen de context voor elke volgende steen die volgt. De robot probeert de rest van het kasteel te bouwen op basis van een gebroken fundament. De fout plant zich voort (cascandeert), en tegen de tijd dat hij het einde bereikt, is de hele structuur volledig fout.

De tekst laat zien dat deze drift ongelooflijk snel optreedt. De robot maakt meestal zijn eerste fout binnen de eerste 1–2 stenen (ongeveer 3% van de sequentie). Zodra dat gebeurt, staat de rest van de sequentie vast.

Wat Niet Werkte (De "Probeer Harder"-valstrik)

De onderzoekers probeerden veel manieren om dit te fixen, en ze waren heel duidelijk over wat niet hielp:

De robot slimmer maken (Meer parameters): Ze probeerden een groter brein (133,6 miljoen parameters versus 44,8 miljoen). Dit hielp een klein beetje, maar het driftprobleem bleef bestaan.
Fine-tuning: Ze probeerden de robot specifiek te trainen op de moeilijke, lange kastelen. Dat hielp niet.
Modellen mengen: Ze probeerden de outputs van twee verschillende robots te combineren. Dat hielp niet veel.
Gewoon harder proberen (Inference-time search): Ze probeerden 200 verschillende versies van het kasteel te genereren en de beste te kiezen. Dit hielp, waardoor de succesratio steeg van 7% naar 22,5%, maar het kon de lange kastelen nog steeds niet oplossen.

Het Enige Dat Wel Hielp (Meer Data)

De enige manier waarop de robot een significante boost kreeg, was door hem meer te laten oefenen.

Toen ze de trainingsdata met een factor 2,5 verhoogden (van 200.000 naar 500.000 voorbeelden), steeg de succesrate van de robot bijna verdubbeld.
Met meer data kreeg de robot de korte kastelen 94% van de tijd goed en de middelgrote kastelen (15–25 stenen) 23,4% van de tijd.
Echter, het driftprobleem verdween niet. Zelfs met al die extra oefening bleef de succesrate voor de langste kastelen (26+ stenen) slechts 3,7%. Het "domino-effect" van de eerste fout was nog steeds te sterk om te overwinnen door simpelweg meer boeken te lezen.

De Kern van het Verhaal

Het paper concludeert dat voor quantum circuits waarbij elk enkel onderdeel perfect moet zijn, "bijna goed genoeg" niet goed genoeg is.

Als je kleine fouten later kunt herstellen (zoals in de Vage Wereld), werkt AI geweldig. Maar als je een perfecte, discrete sequentie nodig hebt waarbij één verkeerde stap alles verpest, is de neiging van AI om vroegtijdig uit koers te raken (drift) een grote flessenhals. De onderzoekers suggereren dat deze AI voorlopig het beste gebruikt kan worden als een "peephole" optimizer — het fixen van kleine, korte secties code waar de AI betrouwbaar is, in plaats van het proberen van de volledige reconstructie van complexe circuits vanaf nul.

De auteurs benadrukken dat dit geen opgelost probleem is. Ze hebben deze resultaten gemeten op specifieke simulaties en vonden dat, hoewel meer data helpt, het fundamentele probleem van "drift" in lange sequenties een hardnekkige hindernis blijft die de huidige methoden nog niet hebben overwonnen.

Probleemstelling

Het artikel behandelt de uitdaging van het optimaliseren van kwantumcircuits voor fouttolerante computing, met een specifieke focus op het minimaliseren van de T-count (het totale aantal niet-Clifford T- en T†-poorten). In fouttolerante architecturen vereisen T-poorten dure magic state distillatie, waardoor minimalisatie een cruciale stap is in de compilatie.

De auteurs onderzoeken of een geleerd neuraal netwerk deze optimalisatietaak kan uitvoeren, als vervanging voor of aanvulling op handmatige regelbibliotheken (zoals die gebaseerd op de ZX-calculus of matroid partitioning). Ze formuleren het probleem als een sequence-to-sequence vertaaltaak: gegeven een invoercircuit, moet het model een equivalent uitvoercircuit genereren met een lagere T-count. De studie contrasteert twee verschillende instellingen:

Geparametriseerde circuits: Circuits die continue rotatiehoeken bevatten.
Clifford+T circuits: Circuits die volledig bestaan uit discrete poorten (H, S, T, CNOT, etc.) zonder continue parameters, waarbij exacte functionele equivalentie vereist is.

Methodologie

De auteurs maken gebruik van een compacte encoder-decoder transformer (44,8 miljoen parameters) die getraind is op 200.000 circuitparen.

Gestructureerde Tokenisatie: In tegenstelling tot tekstgebaseerde benaderingen die ruwe QASM-strings parsen, gebruikt het model een gestructureerde tokenisatie-methode waarbij elke token circuit-semantische informatie draagt (type poort, qubit-index). De vocabulaire is klein (~102 tokens), met slechts 25 actieve tokens voor Clifford+T circuits.
Architectuur: Het model maakt gebruik van pre-layer normalisatie en causale masking. Voor geparametriseerde circuits voorspelt een aparte regressie-head de $(\sin \theta, \cos \theta)$ paren voor rotatiehoeken. Voor Clifford+T wordt deze head uitgeschakeld omdat alle poorten discreet zijn.
Trainingsdata:
- Geparametriseerd: Gegenereerd met Qiskit O3 optimalisatie.
- Clifford+T: Gegenereerd door willekeurige circuits te creëren, redundantie te injecteren (bijv. $HH=I$), en ze te optimaliseren met behulp van PyZX (een op de ZX-calculus gebaseerde optimizer) om de ground-truth targets te creëren.
Decoding Strategieën: De studie evalueert vijf strategieën, die allemaal een verifier-first reranking beleid gebruiken. Kandidaten worden gegenereerd (via greedy, beam search of temperature sampling), geverifieerd op een functionele equivalentie ( $F > 0,999$ ), en de meest optimale geldige kandidaat met de laagste T-count wordt geselecteerd.

Belangrijkste Bevindingen en Resultaten

1. De Dichotomie van Succes en Falen

Het paper identificeert een scherp contrast tussen de twee circuit-instellingen:

Geparametriseerde circuits: Het model bereikt een mediane fidelity van 1,000 op 3–6 qubit circuits. De transformer leert de circuitstructuur met bijna perfecte validiteit (100%). Hoewel hoekvoorspellingen onnauwkeurig kunnen zijn, slaagt klassieke post-processing (Nelder-Mead optimalisatie) erin de hoeken te verfijnen, waardoor de output wordt gered.
Clifford+T circuits: Het model leert de geldige syntaxis en nauwkeurige T-count statistieken (het voorspelt de juiste distributie van het aantal poorten). Echter, de exacte functionele equivalentie neemt sterk af naarmate het doelcircuit langer wordt.
- Op korte circuits ( $\le$ 9 poorten) is de exact-match rate hoog (88% met beam search).
- Op langere circuits ( $\ge$ 26 poorten) daalt de exact-match rate naar bijna nul.

2. Autoregressieve Drift

De primaire foutmodus die wordt geïdentificeerd is autoregressieve drift.

Mechanisme: Het model wijkt vaak al binnen de eerste paar tokens af van de correcte output (mediane eerste fout bij ~3% van de sequentielengte). Omdat de decoding van links naar rechts verloopt, corrumpeert een vroege fout in een discrete token (bijv. het wisselen van een S-poort voor een T-poort) de context voor alle daaropvolgende tokens.
Onherstelbaarheid: In tegen tegenstelling tot geparametriseerde circuits waar hoeken opnieuw geoptimaliseerd kunnen worden, verandert een enkele foutieve discrete poort in een Clifford+T circuit onomkeerbaar de unitaire matrix. De fidelity-distributie is bimodaal ( $F \approx 1$ of $F \approx 0$ ), zonder een "goed genoeg" middengebied.
Dominante Voorspeller: De fout wordt gedreven door de doelcircuitlengte, niet door het aantal qubits. De prestaties storten in naarmate het aantal poorten verschuift van enkel cijfers naar dubbele cijfers.

3. Evaluatie van Interventies

De auteurs testten verschillende strategieën om drift te mitigeren:

Inference-Time Compute: Het schalen van het aantal kandidaten ( $N$ ) verbetert de resultaten. Temperature sampling met $N=200$ verhoogt de exact-match rates van 7% (greedy) naar 22,5%. Dit volgt echter een verzadigingscurve met afnemende meeropbrengsten.
Data Schaling: Het vergroten van de trainingsdataset met een factor 2,5× (van 200K naar 500K paren) verdubbelt bijna de exact-match rate naar 39,5%. Dit is de meest effectieve hefboom.
Fine-Tuning & Diversificatie: Gericht fine-tunen op lange circuits, gewogen sampling, hybride zoekopdrachten en model-ensembles leverden slechts marginale winst op (bijv. 21,0% naar 24,5%) en veranderden het fundamentele degradatiepatroon niet.
Persistentie van Drift: Zelfs met 2,5× meer data blijft de lengte-afhankelijke degradatie bestaan. De exacte equivalentie daalt van 94% op korte circuits naar minder dan 4% op circuits met 26+ poorten.

Betekenis en Claims

De centrale bijdrage van het paper is een diagnose van autoregressieve drift als de fundamentele bottleneck voor geleerde kwantumcircuit-compilatie wanneer exacte discrete correctheid vereist is.

De "Close Enough" Limiet: De auteurs tonen aan dat hoewel transformers optimalisatiepatronen en structurele validiteit kunnen leren, ze niet betrouwbaar kunnen herstellen van fouten in vroege tokens in discrete domeinen. Post-processing kan discrete fouten niet herstellen, in tegen tegenstelling tot continue parameteroptimalisatie.
Praktische Implicaties: Het model is het meest levensvatbaar als een peephole optimalisatie pass voor korte subcircuits (bijv. $\le$ 14 poorten) binnen productie-compilers, waar het hoge exact-match rates kan behalen. Voor langere circuits is de huidige autoregressieve aanpak onbetrouwbaar.
Scaling Laws: De studie benadrukt dat voor taken met efficiënte verifiers (zoals unitaire vergelijking), het schalen van trainingsdata effectiever is dan het schalen van modelparameters of complexe inference-time zoekstrategieën.
Toekomstige Richting: De auteurs suggereren dat het overwinnen van deze bottleneck waarschijnlijk vereist dat men afstapt van zuivere autoregressieve decoding naar niet-autoregressieve methoden (bijv. discrete diffusie, iteratieve verfijning) of subcircuit-decompositiestrategieën die opereren binnen het hoge-accuratesse regime van het model.

Het paper concludeert dat hoewel geleerde modellen veelbelovend zijn voor het begrijpen van de circuitstructuur, het mechanisme van autoregressieve drift momenteel de betrouwbaarheid beperkt voor de exacte synthese van complexe, discrete kwantumcircuits.