Symmetry Constraints Regularize Neural Quantum State Learning

Technische Samenvatting: Symmetrie-restricties Regulariseren het Leren van Neural Quantum States

Probleemstelling
Neural Quantum States (NQS) bieden zeer expressieve variationele golffuncties die in staat zijn om veel-deeltjescorrelaties te vangen die conventionele tensornetwerken ontgaan. Echter, deze expressiviteit introduceert ernstige optimalisatieproblemen. Grote, zeer expressieve NQS-architecturen lijden vaak onder "barren plateaus" en slecht geconditioneerde optimalisatie-landschappen. Deze problemen ontstaan door redundante gradiëntrichtingen veroorzaakt door zwak identificeerbare parameters; dezelfde parameters die een model de mogelijkheid geven om expressief te zijn, remmen vaak het vermogen om snel te convergeren. Hoewel numerieke methoden symmetrieën kunnen afdwingen via Hilbert-ruimte projectie of strafconstructies, blijft de specifieke geometrische impact van het direct inbedden van symmetrieën in de variationele parametrisering — voorbij eenvoudige parameterreductie — een open vraag. Specifiek: hoe verandert symmetrie de structuur van het optimalisatie-landschap, en hoe kan dit gekwantificeerd worden met een metriek die invariant is voor coördinatentransformaties en gevoelig is voor de doeltoestand?

Methodologie
De auteurs stellen een raamwerk voor waarbij Hamiltonian-symmetrieën structureel direct in Boltzmann-familie NQS-ansatze worden ingebed, in plaats van asymmetrie tijdens de optimalisatie te bestraffen.

1. Symmetrie-compilatie via Coëfficiënt-tying:
   Het model parametriseert de reële amplitude- en fasevelden met behulp van diagonale operator-expansies (Pauli-Z strings) over een $k$-lokale ondersteuningsbasis. In plaats van alle coëfficiënten onafhankelijk te optimaliseren, dwingen de auteurs invariantie af door lokale coëfficiënten langs fysieke geometrische banen (bijv. translaties, ruimtegroep-operaties of globale bit-flip pariteit) te "binden" (tying). Dit wordt bereikt door symmetrie-equivalente coëfficiënten te identificeren en de exponentieel grote configuratieruimte te laten inklappen naar symmetrie-compatibele eigenwaarde-klassen vóór de training. Wiskundig gezien beperkt dit de optimalisatie-trajectorie tot de nulruimte van een globale restrictiematrix $V$, wat effectief de redundante, slecht geconditioneerde parameterrichtingen verwijdert voordat de optimalisatie begint.

2. Geometrische Diagnostiek:
   Om de resulterende optimalisatiegeometrie te kwantificeren, introduceren de auteurs een doel-bewuste geometrische metriek gebaseerd op de Jacobiaan en de Hessiaan van het optimalisatie-landschap:

• Fubini–Study Metriek: Gebruikt om het volume van de fysiek toegankelijke toestandsruimte te meten, wat een coördinaat-invariante maat biedt die onderscheid maakt tussen fysiek onderscheidbare toestanden en gauge-redundanties.
• Positieve Kromming Rang ($r_+$): Een maat voor het aantal fysiek onderscheidbare richtingen waar de energie kwadratisch stijgt rond een stationair punt.
• Doel-bewuste Nuttige Expressiviteit ($f_\epsilon$): Gedefinieerd als het fractie van het totale toegankelijke Fubini–Study volume dat wordt ingenomen door de verbonden $\epsilon$-nauwkeurige buurt van de doel-grondtoestand. Deze metriek evalueert hoe efficiënt de ansatz zijn capaciteit toewijst aan het doelprobleem.
• Kenmerkende Bekken-schaal ($R_\epsilon$): Een rang-genormaliseerde lineaire schaal afgeleid van het lokale volume van de "goede" regio, waardoor vergelijking van bekken-breedtes over manifolds met verschillende dimensies mogelijk is.

Belangrijkste Bijdragen

• Structurele Regularisatie: Het artikel toont aan dat het direct inbedden van symmetrieën in de parametrisering fungeert als een geometrische regularisator. Door de trainable coëfficiëntruimte analytisch te laten inklappen, verwijdert de methode redundante parameterrichtingen en verbetert het de conditionering van het optimalisatieprobleem vanaf het begin.
• Nieuwe Geometrische Metrieken: De auteurs introduceren een raamwerk om onderscheid te maken tussen ruwe parameter-aantallen, fysiek toegankelijke variationele capaciteit en de concentratie van die capaciteit nabij nauwkeurige oplossingen. Dit maakt een rigoureuze vergelijking tussen geconstrueerde en ongeconstrueerde ansatze mogelijk die verder gaat dan eenvoudige nauwkeurigheidsbenchmarks.
• Analytische Parametercompressie: De methode biedt een systematische, reproduceerbare procedure (gebruikmakend van Burnside's lemma en groepentheorie) om het aantal onafhankelijke parameters te bepalen, waarbij dimensionaliteitsreductie direct wordt gekoppeld aan de intrinsieke degeneraties van de doeltoestand.

Resultaten
De aanpak werd geëvalueerd op Transversale-Veld Ising Model (TFIM) en XXZ spin-ketens met periodieke randvoorwaarden.

• Nauwkeurigheid vs. Compressie: Symmetrie-compilatie reduceerde het aantal trainable parameters drastisch (bijv. van 210 naar 10–11 voor $N=20$ TFIM met translatie-restricties) terwijl de grondtoestand-nauwkeurigheid behouden bleef binnen de resolutie van de gerapporteerde benchmarks. De gecomprimeerde modellen faalden niet systematisch ten opzichte van ongeconstrueerde baselines, zelfs niet nabij kritieke punten.
• Runtime Versnelling: In grote systemen ($N=64, 128$), compresseerden sterke ruimtelijke restricties duizenden parameters terug naar tientallen, wat substantiële versnellingen in wandtijd opleverde (tot 30$\times$ voor $N=128$) zonder nauwkeurigheid op te offeren.
• Geometrische Regularisatie:
  • Concentratie ($f_\epsilon$): Symmetrie-geconstrueerde manifolds namen een significant groter deel van hun bereikbare volume in met doel-nauwkeurige toestanden vergeleken met ongeconstrueerde manifolds. Deze concentratie nam toe met de systeemgrootte, wat aangeeft dat ongeconstrueerde leerders een steeds kleiner deel van hun capaciteit toewijzen aan de doel-buurt.
  • Bekken-breedte ($R_\epsilon$): Translatie-gebaseerde restricties behielden substantieel grotere kenmerkende bekken-schalen dan ongeconstrueerde modellen. Dit geeft aan dat symmetrie-restricties niet alleen de bereikbare manifold concentreren, maar ook de effectieve stijfheid van de resterende opsluitende richtingen verminderen, wat bredere, robuustere minima creëert.
  • Hiërarchie: Translatie- en ruimtegroep-symmetrieën boden de sterkste verbeteringen in zowel globale concentratie als lokale bekken-geometrie, gevolgd door reflectie- en bit-flip-symmetrieën.

Betekenis
Het artikel claimt dat symmetrie-compilatie meer doet dan louter de modelgrootte reduceren; het reorganiseert de bereikbare fysieke toestandsruimte zodat de resterende variationele capaciteit beter is uitgelijnd met het doelprobleem. Door de expressieve kracht van NQS te concentreren op toestanden die relevant zijn voor het doel-Hamiltoniaan, reguleert de methode de leer-dynamiek, waardoor de modelgrootte en trainingskosten worden verminderd zonder nauwkeurigheid op te offeren.

De auteurs stellen dat variationele expressiviteit beoordeeld moet worden op basis van waar de bereikbare toestanden liggen ten opzichte van het doel, en niet enkel op hoeveel toestanden de ansatz kan representeren. De voorgestelde geometrische diagnostiek ($f_\epsilon$ en $R_\epsilon$) biedt een geprincipeerde manier om deze uitlijning te kwantificeren. Het werk suggereert dat het inbouwen van fysieke symmetrieën in het variationele model vóór de optimalisatie superieur is aan post-hoc pruning of methode-gebaseerde penalty-methoden, en biedt een schaalbare en zeer nauwkeurige aanpak voor het bestuderen van veel-deeltjes fysica.