Group-Equivariant Diffusion Models for Lattice Field Theory

Technische Samenvatting: Groep-equivariante Diffusiemodellen voor Lattice Veldtheorie

Probleemstelling
Lattice Kwantumveldentheorie (LQFT) vertrouwt op Markov Chain Monte Carlo (MCMC)-methoden, zoals Hamiltonian Monte Carlo (HMC), om de verwachtingswaarden van observabelen te berekenen door veldconfiguraties te samplen uit een padintegraal-maat. Deze conventionele algoritmen lijden echter onder "critical slowing down" nabij faseovergangen en topologische bevriezing, waarbij autocorrelatietijden evenredig groeien naarmate de lattice-volumes toenemen of de lattice-afstanden afnemen. Hoewel machine learning generatieve modellen (bijv. normalizing flows, GANs) zijn voorgesteld om de ensemblegeneratie te versnellen, worstelen veel bestaande benaderingen met het efficiënt schalen of falen ze in het strikt afdwingen van de fundamentele symmetrieën van de onderliggende fysieke theorieën.

Methodologie
De auteurs stellen een raamwerk voor het samplen van lattice veldentheorieën met behulp van score-gebaseerde diffusiemodellen die expliciet de symmetrieën van de doelactie behouden. De methodologie integreert drie kerncomponenten:

1. Reversibele Stochastische Processen: De auteurs formuleren diffusie als een voorwaarts proces (ruis toevoegen) en een achterwaarts proces (denoising) die worden beheerst door Stochastische Differentiaalvergelijkingen (SDE's). Ze verenigen variance-preserving (VP) en variance-expanding (VE) kaders, waarbij ze uiteindelijk het VE-schema adopteren waarbij ruis lineair over de tijd wordt toegevoegd. Het achterwaartse proces wordt opgelost via een predictor-corrector schema, waarbij de "predictor" een deterministische drift volgt die is afgeleid van de geleerde scorefunctie, en de "corrector" (Langevin-stap) ervoor zorgt dat de sample op de doelverdeling blijft.
2. Symmetrie-Equivariante Score Netwerken: Een centrale theoretische bijdrage is de afleiding van de transformatiewet voor scorefuncties onder groepswerkingen. De auteurs bewijzen dat als de actie $S(\phi)$ invariant is onder een symmetriegroep $G$, de scorefunctie $\nabla \log p(\phi)$ equivariant transformeert volgens de Jacobiaan van de groepswerking. Op basis hiervan construeren ze neurale netwerken (specifiek U-Nets) die exact equivariant zijn aan:
   • Globale $Z_2$ reflecties: Geïmplementeerd via antisymmetrisatie van de netwerkoutput of antisymmetrische activatiefuncties.
   • Lokale $U(1)$ gauge rotaties: Geïmplementeerd door het netwerk te parametriseren als een functie van gauge-invariante plaquette-variabelen in plaats van ruwe link-variabelen.
   • Periodieke translaties ($T$): Geïmplementeerd via circulaire padding in convolutionele lagen om periodieke randvoorwaarden te respecteren.
3. Force-Guided Score Matching: Om de kwaliteit van de samples te verbeteren, introduceren de auteurs een uitgebreide trainingsdoelstelling. Terwijl standaard score matching het verschil minimaliseert tussen de geleerde score en de ware score bij ruisige tijdstappen, voegt deze methode een regularisatieterm toe bij $t=0$ die het netwerk dwingt de analytisch bekende fysieke kracht ($-\nabla S[\phi]$) van de theorie te matchen. Dit fungeert als physics-informed guidance, wat het netwerk corrigeert bij het eindpunt van de denoising-trajectorie.

Belangrijkste Bijdragen

• Theoretisch Formalisme: Het artikel vestigt de algemene transformatiewet voor scorefuncties onder willekeurige symmetriegroepen (Theorem C.4), en bewijst dat scorefuncties equivariant zijn aan de groepswerking. Dit biedt een rigoureuze basis voor het construeren van symmetrie-behoudende generatieve modellen.
• Exacte Symmetrie Afdwinging: In tegen tegenstelling tot eerdere werken die vertrouwen op data-augmentatie om symmetrieën te benaderen, dwingen de voorgestelde architecturen $Z_2$, $U(1)$ en translationele symmetrieën af door constructie.
• Nieuwe Trainingsdoelstelling: De introductie van "force-guided score matching" maakt gebruik van de bekende analytische kracht van de lattice-theorie om de training te regulariseren, wat de kwaliteit van de gegenereerde samples aanzienlijk verbetert.
• Exactheid via Reweighting: Het raamwerk ondersteunt exacte berekeningen door middel van likelihood schatting. Door de modelwaarschijnlijkheid $q(\phi)$ te berekenen naast de samplegeneratie (met de Skilling-Hutchinson trace estimator voor de divergentie), maken de auteurs reweighting of accept/reject stappen mogelijk om asymptotisch exacte ensembles te produceren.

Resultaten
Het raamwerk werd getest op de tweedimensionale $\phi^4$ theorie en $U(1)$ gauge theorie:

• $\phi^4$ Theorie:

  • De modellen leerden de scorefuncties succesvol in zowel symmetrische als gebroken fasen.
  • Impact van Symmetrie: Het afdwingen van symmetrieën ($Z_2$ en $T$) verbeterde de prestaties consistent. De combinatie van beide symmetrieën leverde de hoogste Effective Sample Sizes (ESS) en acceptatiepercentages op. Bijvoorbeeld, op $8 \times 8$ lattices bereikte het $Z_2 \times T$ model met force guidance een ESS van ~67%, vergeleken met ~28% voor een niet-symmetrische baseline.
  • Autocorrelatie: Resampled diffusie-ensembles vertoonden aanzienlijk lagere geïntegreerde autocorrelatietijden ($\tau_{int}$) voor magnetisatie vergeleken met HMC (bijv. $\tau_{int} \approx 1.1$ versus $5.4$ voor $L=8$).
  • Force Guidance: Modellen getraind met de force regularisatie term ($c_0 = 0.1$) vertoonden duidelijke verbeteringen in ESS en KL-divergentie ten opzichte van standaard score matching.

• $U(1)$ Gauge Theorie:

  • Het gauge-equivariant netwerk, getraind op plaquette-variabelen, genereerde succesvol configuraties met de juiste topologische eigenschappen.
  • Topologische Lading: Het diffusieproces maakte exploratie van verschillende topologische sectoren mogelijk, hoewel de topologische lading de neiging had om eerder in de achterwaartse trajectorie te stabiliseren, vergelijkbaar met high-level features in beeldgeneratie.
  • Observabelen: Gewogen metingen van de gemiddelde plaquette $\langle P \rangle$ en de topologische susceptibiliteit $\chi_Q$ kwamen goed overeen met HMC-data en exacte resultaten, met name bij lagere koppelingen ($\beta$).
  • Scaling: Naarmate het lattice-volume toenam ($L=16$) en de koppeling $\beta$ toenam, nam de ESS af (bijv. dalend naar 14% bij $\beta=5$ voor $L=16$), wat aangeeft dat likelihood schatting uitdagender wordt in grotere volumes en sterkere koppelingsregimes.

Betekenis en Claims
Het artikel beweert dat symmetrie-behoudende diffusiemodellen een veelbelovend alternatief bieden voor standaard MCMC voor LQFT, met name voor het mitigeren van critical slowing down. De auteurs benadrukken dat:

1. Efficiëntie: De diffusiemodellen genereren ensembles met aanzienlijk gereduceerde autocorrelatietijden vergeleken met HMC, wat snellere exploratie van de configuratieruimte mogelijk maakt.
2. Kwaliteit: Het afdwingen van exacte symmetrieën en het gebruik van force guidance levert hogere kwaliteit samples op (hogere ESS en acceptatiepercentages) dan generieke of niet-equivariante baselines.
3. Exactheid: Het vermogen om model-likelihoods te berekenen maakt bias-gecorrigeerde observabelen mogelijk via reweighting, wat ervoor zorgt dat de methode asymptotisch exacte resultaten kan produceren ondanks de generatieve benadering.
4. Schaalbaarheid: Hoewel het huidige werk succes demonstreert in 2D, merken de auteurs op dat de aanpak computationeel paralleliseerbaar is (in tegen tegenstelling tot sequentiële HMC-ketens) en suggereren dat het uitbreiden van deze methoden naar niet-Abelse gauge-theorieën (zoals $SU(3)$) en hogere dimensies een noodzakelijke volgende stap is om de schaalbaarheid voor QCD-toepassingen volledig vast te stellen.

De auteurs blijven bescheiden en erkennen dat, hoewel de methode sterke prestaties laat zien in 2D, de afname van de ESS met toenemend volume en koppeling suggereert dat verdere architecturale verbeteringen of langere trainingstijden vereist kunnen zijn voor grootschalige 4D-simulaties. Zij positioneren diffusiemodellen als één component van een breder taxonomisch kader van ML-verbeterde samplingtechnieken voor LQFT.