Machine Learning Decoding of Circuit-Level Noise for Bivariate Bicycle Codes

Technische Samenvatting: Machine Learning Decodering van Circuit-niveau Ruis voor Bivariate Bicycle Codes

Probleemstelling
Fouttolerante kwantumcomputing vertrouwt op klassieke decoders om syndroommetingen te interpreteren en fouten af te leiden. Hoewel Machine Learning (ML) decoders veelbelovend zijn voor de surface code, blijft hun toepassing op Quantum Low-Density Parity-Check (QLDPC) codes onderbelicht, met name voor circuit-niveau ruis. Circuit-niveau ruis is complexer dan code-capaciteit ruis omdat het defecte metingen en foutpropagatie bevat, waardoor de inputruimte exponentieel groeit met het aantal syndroomrondes. Bovendien missen QLDPC-codes de lokale stabilizer-structuur van de surface code, waardoor standaard convolutionele of lokale decoder-benaderingen niet toepasbaar zijn. Bestaande benchmarks zoals Belief Propagation met Ordered Statistics Decoding (BP-OSD) zijn effectief, maar lijden aan een hoge variantie in runtime en een cubische worst-case complexiteit, wat een uitdaging vormt voor real-time decodering.

Methodologie
De auteurs stellen een recurrente, transformer-gebaseerde neurale netwerkstructuur voor, ontworpen om circuit-niveau ruis op Bivariate Bicycle (BB) codes te decoderen. Het model beoogt een maximum likelihood decoder te benaderen door de waarschijnlijkheid van logische metingsflips (fouten die anti-commuterend zijn met logische operatoren) te voorspellen, in plaats van de volledige circuit-niveau fout te reconstrueren.

Belangrijke architecturale en training-innovaties zijn:

1. Code-bewuste Self-Attention: Om het gebrek aan lokale structuur in QLDPC-codes aan te pakken, passen de auteurs code-bewuste self-attention aan (oorspronkelijk voor klassieke codes). Dit mechanisme beperkt de aandachtgewichten tussen syndroombits op basis van de Tanner-grafiekstructuur, waarbij specifiek wordt gekeken naar detectoren binnen een afstand van twee. Dit dient als een inductieve bias om de training te versnellen en de robuustheid te verbeteren.
2. Recurrente Architectuur: Het model maakt gebruik van een recurrente structuur om syndroommetingsrondes sequentieel te verwerken. Dit vermindert de inputgrootte per iteratie, wat de trainbaarheid verbetert in vergelking met het gelijktijdig verwerken van alle rondes.
3. Conditionele Waarschijnlijkheidsoutput: In plaats van een vaste set foutklassen uit te geven (wat exponentieel is in het aantal logische qubits), geeft het model een conditionele waarschijnlijkheidsverdeling uit. Het gebruikt autoregressieve voorspelling om te bepalen of specifieke logische fouten zijn opgetreden.
4. Multi-stage Training met Latente Ruimte Voorspellingen: Directe training op circuit-niveau ruis bleek moeilijk. De auteurs maken gebruik van een multi-stage trainingprotocol geïnspireerd door "chain of thought" prompting. Eerst wordt het model getraind om intermediaire logische metingsflips na elke ronde te voorspellen. Geleidelijk verschuift de training naar latente ruimte voorspellingen voor intermediaire rondes, waarbij het model interne representaties uitvoert zonder zich vast te leggen op een definitieve foutcorrectie tot de laatste syndroomronde. Dit voorkomt dat het model voortijdige beslissingen neemt met onvoldoende data.

Experimentele Opzet
De studie evalueert het model op twee BB-code instanties:

• [[72, 12, 6]] BB code: Een kleinere code met 12 logische qubits.
• [[144, 12, 12]] BB code: Een grotere code met 12 logische qubits.

Prestaties worden gemeten tegenover een standaard BP-OSD implementatie (gebruikmakend van derde-orde OSD voor foutpercentages en zero-order voor runtime benchmarks) en een Integer Programming (IP) decoder (een most-likely error decoder). De experimenten simuleren geheugenexperimenten met circuit-niveau depolariserende ruis, waarbij de fysieke foutratio ($p$) en het aantal ruisige syndroommetingsrondes ($NR$) variëren.

Belangrijkste Resultaten

• [[72, 12, 6]] Code:

  • Logische Foutratio: Bij een fysieke foutratio van $p = 0,1\%$ bereikt de ML-decoder een logische foutratio die ongeveer 5 keer lager is dan BP-OSD-3. Het blijft echter ongeveer 5 keer hoger dan de optimale IP-decoder.
  • Runtime: De ML-decoder vertoont een consistente runtime, terwijl BP-OSD een brede distributie laat zien met significante uitschieters. Het ML-model is ongeveer een orde van grootte sneller dan de worst-case BP-OSD instanties.
  • Generalisatie: Het model, getraind bij $p=0,6\%$, generaliseert goed naar lagere foutratio's.
  • Schaalbaarheid: De prestaties van het model verbeteren aanzienlijk naarmate het aantal syndroomrondes ($NR$) toeneemt, waarbij het een betere foutonderdrukking per ronde laat zien vergeleken met BP-OSD.

• [[144, 12, 12]] Code:

  • Logische Foutratio: De ML-decoder presteert vergelijkbaar met BP-OSD-3 voor fysieke foutratio's tussen $0,3\%$ en $0,7\%$. Echter, voor $p < 0,3\%$ verslechtert de logische foutratio van de ML-decoder aanzienlijk (bijv. ongeveer 7 keer slechter dan BP-OSD bij $p=0,1\%$), wat suggereert dat de huidige architectuur moeite heeft met het schalen naar grotere codeniveaus.
  • Runtime: Het snelheidsvoordeel ten opzie van BP-OSD blijft behouden.

Betekenis en Claims
Het artikel levert initieel bewijs dat machine learning decoders conventionele decoders (specifiek BP-OSD) op kleine QLDPC-codes kunnen overtreffen in zowel logische foutratio als consistentie van de worst-case runtime. De auteurs beweren dat hun werk een baseline biedt voor toekomstige ML-decoders op QLDPC-codes.

De auteurs zijn echter bescheiden over de schaalbaarheid van hun huidige aanpak. Ze stellen expliciet dat de resultaten erop wijzen dat complexere architecturen en/of trainingsprocedures noodzakelijk zijn om gewenste logische foutratio's op grotere codeniveaus te bereiken. Het papier claimt niet dat het huidige model het decoderingsprobleem voor grootschalige QLDPC-codes oplost, maar demonstreert de haalbaarheid van de aanpak en identificeert specifieële gebieden (zoals architecturale schaling en trainingsdatadichtheid bij lage foutratio's) waarvoor toekomstig werk vereist is. De auteurs merken ook op dat hoewel hun decoder voldoende is voor Pauli-Based Computation (PBC) via logische metingsflips, real-time decodering voor grote berekeningen verdere ontwikkelingen vereist, zoals parallel window decoding strategieën.