An interpretable closed form for entanglement entropy from bitstrings, guided by a graph neural network

Technische Samenvatting: Een interpreteerbare gesloten vorm voor verstrengelingsentropie uit bitstrings, gestuurd door een Graph Neural Network

Probleemstelling
In Rydberg-atoomarray kwantumsimulaties is de empirische bitstringverdeling (meetresultaten in de bezettingsbasis) de meest toegankelijke observeerbare grootheid. De bipartiete von Neumann-verstrengelingsentropie ($S_{vN}$), een cruciale diagnostiek voor kwantum veel-deeltjes materie, is echter veel kostbaarder te verkrijgen. Volledige tomostatie van de toestand schaalt exponentieel met de systeemgrootte $N$, en zelfs protocollen zonder tomografie vereisen aanzienlijke overhead in termen van kopieën, poorten of post-processing. Hoewel de bitstringverdeling de $S_{vN}$ niet uniek bepaalt (omdat verschillende toestanden een identieke diagonale verdeling kunnen delen maar verschillen in verstrengeling), beperkt het deze wel strikt. Bestaande schatters worden geconfronteerd met een afruil: analytische grenzen gebaseerd op klassieke wederzijdse informatie ($I$) zijn interpreteerbaar maar grof (onderschatten $S_{vN}$ met $\sim 0,10$ nat), terwijl nauwkeurige Graph Neural Network (GNN) surrogaten black boxes zijn die voor elk nieuw regime (fase, geometrie of Hamiltoniaan) opnieuw getraind moeten worden. Het doel is om een schatter te vinden die de nauwkeurigheid van geleerde modellen combineert met de interpreteerbaarheid en draagbaarheid van analytische vormen.

Methodologie
De auteurs maken gebruik van een "GNN-gestuurde" aanpak om een gesloten vorm-schatter af te leiden:

1. Mechanistische Probing van de GNN: In plaats van een analytische vorm te fitten aan handmatig gekozen observeerbare grootheden, onderzoeken de auteurs een vooraf getrainde GNN (uit [5]) om te identificen welke inputs de voorspellingen van de $S_{vN}$ aansturen. Door middel van causale interventies (attention routing, activation patching en edge removal) stellen zij vast dat de voorspelling van de GNN specifiek wordt gerouteerd via de bipartitie-rand randen ($E_b = A \times B$). Het netwerk herrouteert de aandacht op basis van de vraag of een rand de snede kruist, en het verwijderen van de rand randen degradeert de prestaties aanzienlijk.
2. Feature Restrictie en Zoektocht: Gestuurd door de focus van de GNN op de randcorrelaties, beperken de auteurs een exhaustieve zoektocht tot een gecureerde shortlist van 25 fysieke scalairen afgeleid van de bitstringverdeling, specifiek die berekend over de randverzameling $E_b$.
3. Exhaustieve Symbolische Zoektocht: Een exhaustieve zoektocht over alle $\binom{25}{6} = 177.100$ deelverzamelingen van zes features wordt uitgevoerd met behulp van Ordinary Least Squares (OLS). De winnaar is een zes-termige lineaire gesloten vorm (Vergelijking 1).
4. Validatie en Schaling: De vorm wordt gevalideerd tegen de grondwaarheid (Exact Diagonalization voor $N \le 20$ en Density Matrix Renormalization Group (DMRG) voor $N$ tot 100). De auteurs analyseren het schalingsgedrag van de coëfficiënten en testen de overdraagbaarheid naar verschillende Hamiltoniaan-families en geometrische verschuivingen.

Belangrijkste Bijdragen

1. Een Zes-termige Gesloten Vorm (Vergelijking 1): De auteurs presenteren een menselijk leesbare, hyperparameter-vrije lineaire schatter:
   $$\hat{S}_{vN} = b_1 \log(I+1) + b_2 \sum_{E_b} \sqrt{|c|} + b_3 \sum_{E_b} \tanh |c| + b_4 (\max_{E_b} |c|)^2 + b_5 \min_{E_b} c + b_6 \min(H_A, H_B) I$$
   waarbij $c$ twee-punts correlaties representeert, $I$ de wederzijdse informatie is, en $H$ de single-site entropie is.
2. GNN-gestuurde Featurizatie: Dit werk demonstreert dat causale probing van een neuraal netwerk effectief de relevante fysieke subspace (randcorrelaties) kan identificeren voor een specifieke voorspellingsopgave, waardoor handmatige feature engineering wordt omzeild.
3. Schalingswetten en Kalibratieregels: Het paper stelt vast dat hoewel de coëfficiënten van de gesloten vorm niet schaal-invariant zijn (bevroren coëfficiënten falen bij grote $N$), de vorm zelf standhoudt tot $N=100$. Twee coëfficiënten volgen heldere $1/N$-wetten, en de ankercoëfficiënt groeit met neerwaartse kromming. Dit maakt een "label-budget regel" mogelijk: een paar dozijn labels bij een doelgrootte kunnen de vorm herkalibreren om overeen te komen met fijnmazige ensembles.

Resultaten

• Nauwkeurigheid: De gesloten vorm bereikt een Mean Absolute Error (MAE) van 0,0244 nats op de in-distributie testset. Dit is 6,4 keer de fout van de basis-GNN (0,0038 nats) maar aanzienlijk beter dan de klassieke wederzijdse informatie baseline (0,1002 nats).
• Draagbaarheid (Out-of-Distribution): Wanneer de vorm ongewijzigd (één keer gefit) wordt toegepast op zes out-of-distribution (OOD) pools (variërende systeemgroottes, structurele verschuivingen en willekeurige 2D-posities), presteert de gesloten vorm beter dan de basis-GNN in vijf van de zes pools en is gelijk aan de zesde. Dit wordt toegeschreven aan het geometrie-niet-parametrische karakter van de vorm; in tegenstelling tot de GNN neemt de vorm geen expliciete atomaire coördinaten in.
• Cross-Hamiltonian Transfer: Wanneer per familie opnieuw gefit, presteert de zes-feature vorm beter dan de analytische baselines ($I$ en gefilterde $I$) op alle geteste Hamiltoniaan-families (TFIM, XXZ, J1-J2, Rydberg, en random-sign). Hoewel XGBoost op dezelfde features nauwkeuriger is, mist het de interpreteerbaarheid.
• Schaling naar $N=100$: Gebruikmakend van onafhankelijke DMRG-data, tonen de auteurs aan dat een globale fit met bevroren coëfficiënten faalt bij grote schalen (MAE groeit naar $>1$ nat). Echter, het opnieuw fitten van de coëfficiënten per grootte behoudt een MAE van 25–50 mnat. De gefitte schalingswetten voor de coëfficiënten maken label-vrije inzet mogelijk bij ongeveer 40–80 mnat.
• Robuustheid: De vorm is robuust tegen shot noise en presteert beter dan de wederzijdse informatie baselines met slechts $\sim 160$ meet-shots.

Betekenis en Claims
Het paper claimt dat Vergelijking 1 een unieke niche inneemt in de afruil tussen nauwkeurigheid en interpreteerbaarheid. Het is geen "distillatie" van de GNN in de zin van het reconstrueren van de interne gewichten; het is een onafhankelijke, laag-dimensionale grondwaarheid-fit op dezelfde fysieke grootheden die de GNN gebruikt. De GNN codeert deze grootheden in een redundante, hoog-dimensionale code, terwijl Vergelijking 1 een leesbare projectie biedt.

De betekenis ligt in het bieden van een transparante, overdraagbare en afstembare schatter. Het stelt experimentatoren in staat om de fysica te inspecteren die de entropie-schat drijft, het model toe te passen over verschillende geometrieën en fasen zonder opnieuw te trainen, en te kalibreren met een minimaal aantal labels. De auteurs concluderen dat hoewel niet-lineaire modellen (zoals XGBoost of de GNN) hogere ruwe nauwkeurigheid bieden bij grote gelabelde datasets, de gesloten vorm superieure transparantie en gekarakteriseerde schalingsgedrag biedt, waarmee een "label-budget regel" wordt vastgesteld voor grootschalige kwantumsimulaties.