Architecture as physical prior: cooperative neural network for nuclear masses

Dit artikel introduceert de Cooperative Neural Network (CoNN), een architectuur die fysieke inductieve bias direct in het netwerk verwerkt om kernmassa's uitsluitend op basis van het aantal protonen en neutronen te voorspellen, waardoor handmatige feature-engineering overbodig wordt en een nauwkeurigheid wordt bereikt die vergelijkbaar is met de beste bestaande methoden.

De kern

Stel je voor dat je een enorme, ingewikkelde puzzel probeert op te lossen: het voorspellen van het gewicht van atoomkernen. In de wereld van de kernfysica is dit cruciaal, want het helpt ons te begrijpen hoe sterren ontstaan en hoe zware elementen in het heelal worden gemaakt.

Vroeger deden wetenschappers dit met twee hoofdmethodes:

1. De "Theoretische" methode: Ze bouwden complexe wiskundige modellen op basis van wat ze al wisten over de natuurkunde. Dit werkte goed, maar was niet perfect.
2. De "Machine Learning" methode: Ze lieten computers de data leren, maar vaak gaven ze de computer al een voorsprong door handgemaakte "hints" (fysieke kenmerken) te geven.

Het probleem: De eerste methode was soms te simpel, en de tweede vereiste dat een mens eerst wist welke hints belangrijk waren. Dat is lastig als je de puzzel nog niet helemaal kent.

De Oplossing: De "Coöperatieve Neural Network" (CoNN)

De auteurs van dit paper hebben een slimme nieuwe aanpak bedacht, die ze de Coöperatieve Neural Network (CoNN) noemen. In plaats van de computer te vertellen wat hij moet zoeken, hebben ze de computer zelf zo ontworpen dat hij hoe hij moet denken, in zijn bouwplaat zit.

Ze vergelijken dit met het bouwen van een huis. In plaats van één grote, rommelige kamer waar alles door elkaar ligt, bouwen ze een huis met vier gespecialiseerde kamers die samenwerken. De input is heel simpel: alleen het aantal protonen (Z) en neutronen (N).

Hier zijn de vier "kamers" (modules) en hun taken, vertaald naar alledaagse analogieën:

1. De "Stromende Rivier" (Macroscopisch deel)

• Wat het doet: Dit is het basisgewicht van de kern. Net als een rivier die over het landschap stroomt, is het gewicht van een kern over het algemeen glad en voorspelbaar.
• De Analogie: Stel je voor dat je de gemiddelde temperatuur van een land meet. Die verandert langzaam naarmate je noordelijker of zuidelijker gaat. Deze module leert die grote, gladde trend. Hij negeert kleine details en kijkt naar het "grote plaatje".

2. De "Schakelaars" (Schaal-effecten)

• Wat het doet: Soms springt het gewicht plotseling omhoog of omlaag bij specifieke aantallen deeltjes (de zogenaamde "magische getallen"). Dit komt doordat de deeltjes in de kern in lagen zitten, net als elektronen in een atoom.
• De Analogie: Denk aan een trap. Je loopt meestal rustig omhoog (de rivier), maar bij elke trede spring je even een stukje hoger. Deze module is een rij van losse schakelaars. Als je op een "magisch getal" landt (zoals 20, 28, 50), springt de schakelaar aan en voegt hij een extra stukje energie toe. De computer heeft nooit geleerd waar die trappen zitten; hij heeft ze zelf ontdekt door de data te bekijken!

3. De "Gordijn" (Regionale correlaties)

• Wat het doet: Soms werken protonen en neutronen samen op een manier die niet alleen afhangt van hun eigen aantal, maar van hoe ze samenwerken in een bepaald gebied.
• De Analogie: Stel je een groot, flexibel gordijn voor dat over het hele landschap hangt. Op sommige plekken is het gordijn dikker of dunner, afhankelijk van hoe de protonen en neutronen samenwerken. Deze module is een leerbaar raster dat die lokale, complexe interacties kan "voelen" en aanpassen, zonder de gladde rivier te verstoren.

4. De "Tandwiel" (Pariteit / Even-Odd)

• Wat het doet: Kernen met een even aantal deeltjes zijn vaak iets zwaarder (stabieler) dan die met een oneven aantal. Dit is een heel snel veranderend patroon.
• De Analogie: Denk aan een tandwiel dat heen en weer beweegt: links, rechts, links, rechts. Dit is het "tandwiel-effect". Omdat dit patroon zo snel wisselt, kan de "Stromende Rivier" het niet zien. Deze kleine module is speciaal gemaakt om dat snelle, ritmische gedrag te vangen.

Waarom is dit zo speciaal?

De magie zit hem in de samenwerking.
De computer wordt niet één grote, ondoorzichtige "black box" die alles tegelijk probeert te raden. In plaats daarvan wordt hij getraind in twee fasen:

1. Eerst leert de "Stromende Rivier" het grote plaatje.
2. Daarna komen de andere drie modules erbij om de foutjes van de rivier op te vangen. Ze werken samen, zoals een goed georganiseerd team.

Het resultaat:

• De computer voorspelt het gewicht van atoomkernen met een nauwkeurigheid die bijna net zo goed is als de beste traditionele modellen.
• Belangrijkste punt: Hij deed dit zonder dat de wetenschappers hem handmatig hints gaven over "magische getallen" of "even/oneven getallen". De computer ontdekte die regels zelf, puur door de architectuur van zijn eigen "huis" zo te bouwen dat het logisch was voor de natuurkunde.

Conclusie

Dit paper toont aan dat je niet altijd een expert nodig hebt om een computer te vertellen wat hij moet weten. Als je de structuur van het brein van de computer slim genoeg bouwt (met de juiste "kamers" en "schakelaars"), kan hij de wetten van de natuurkunde zelf aflezen uit de data.

Het is alsof je een kind leert rekenen niet door formules te laten uit het hoofd leren, maar door het een rekenmachine te geven die zo is gebouwd dat het antwoord vanzelf logisch volgt. Dit opent de deur voor een nieuwe manier van wetenschap: Architectuur als fysica.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "Architecture as physical prior: cooperative neural network for nuclear masses" in het Nederlands.

Titel: Architectuur als fysieke prior: een coöperatief neurale netwerk voor kernmassa's

Auteurs: Peiwen Zai, Wei Cheng, en Feng-Shou Zhang (Beijing Normal University en geassocieerde instituten).

---

1. Het Probleem

Het voorspellen van kernbindingsenergieën is cruciaal voor het begrijpen van nucleaire stabiliteit, vervalenergetiek en nucleosynthese (zoals het r-proces). Hoewel machine learning (ML) methoden succesvol zijn toegepast, lijden ze vaak aan twee beperkingen:

1. Afhankelijkheid van theoretische baselines: Veel succesvolle ML-modellen trainen op het verschil tussen experimentele data en een bestaand theoretisch model (residucorrectie). Dit maakt ze afhankelijk van de kwaliteit van dat theoretische model en beperkt hun onafhankelijke voorspellende vermogen.
2. Handmatige feature-engineering: Modellen die direct voorspellen op basis van de minimale identifiers (protonen $Z$ en neutronen $N$), vereisen vaak handmatig ontworpen fysieke kenmerken (zoals pariteit, afstand tot magische getallen) om nauwkeurig te zijn. Dit vereist domeinexpertise en kan de extrapolatiegedrag beïnvloeden.

De uitdaging is om een model te ontwikkelen dat direct bindingsenergieën voorspelt uit alleen $(Z, N)$, zonder externe theoretische baselines of handgemaakte input-features, maar toch de complexe multi-schaal structuur van het massavlak (gladde bulk + microscopische correcties) kan leren.

2. Methodologie: De Coöperatieve Neurale Netwerk (CoNN)

De auteurs introduceren de Cooperative Neural Network (CoNN). In plaats van fysieke kennis te coderen in de input-features, wordt deze kennis ingebouwd in de architectuur van het netwerk zelf. Het model decomposeert de bindingsenergie ($B_{pred}$) in vier additieve, structureel beperkte modules:

$$B_{pred} = E_{Macro} + E_{Shell} + E_{Cor} + E_{Pair}$$

Elke module is ontworpen om een specifiek fysiek fenomeen te vangen:

• Macroscopische tak (Bulk): Een volledig verbonden netwerk (MLP) dat de gladde, bulk-vloeistofdruppel-trend leert. Door een smalle "bottleneck" (16 dimensies) en de spectrale bias van gradient-based optimalisatie, wordt het netwerk geforceerd om alleen lage-frequentie componenten te leren.
• Schalings-embeddings (Shell effects): Discrete scalair embeddings voor protonen ($e_Z$) en neutronen ($e_N$). Deze vangen de scherpe "kinks" in het massavlak bij magische getallen op, analoog aan het onafhankelijk-deeltjesmodel.
• Regionale correlatiegrid (Collectieve effecten): Een leerbaar 2D-rooster ($50 \times 60$) met bilineaire interpolatie. Dit module vangt niet-separabele proton-neutron correlaties en collectieve vervormingen (zoals in de zeldzame-aarde en actinide regio's) die niet door de som van de embeddings kunnen worden beschreven.
• Pariteitsbewust netwerk (Pairing): Een klein MLP dat de pariteit van $Z$ en $N$ ($Z \mod 2, N \mod 2$) verwerkt. Dit module is specifiek ontworpen om de snelle even-onaan even-onaan oscillaties (odd-even staggering) te modelleren, een hoog-frequentie component.

Trainingsprotocol:
Om te voorkomen dat de macroscopische tak de microscopische fluctuaties absorbeert (of vice versa), gebruiken de auteurs een tweefasig afwisselend trainingsprotocol:

1. Warm-up: Alleen de macroscopische tak wordt getraind om een gladde basislijn te vestigen.
2. Coöperatieve training: De macroscopische en microscopische parameters worden afwisselend bijgewerkt. De microscopische modules krijgen een hogere leersnelheid ($\alpha_{Micro} = 10 \times \alpha_{Macro}$) om sneller te kunnen reageren op de residuen die door de macro-tak niet worden gevangen.

3. Belangrijkste Resultaten

Het model is getraind en getest op de AME2020 dataset (3558 nucliden).

• Algemene Nauwkeurigheid: De CoNN bereikt een Root-Mean-Square Deviation (RMSD) van 0,269 MeV over alle 3558 kernen. Dit is vergelijkbaar met modellen die handgemaakte fysieke features gebruiken (zoals KAN-11 met 11 features), maar de CoNN gebruikt slechts de twee inputs $(Z, N)$.
• Extrapolatie: Op een testset van 122 kernen die pas na AME2016 zijn gemeten, bereikt het model een RMSD van 0,728 MeV. Dit is aanzienlijk beter dan traditionele macroscopisch-microscopische modellen (zoals FRDM2012: 2,444 MeV en WS4: 1,295 MeV) en beter dan een standaard MLP zonder architecturale beperkingen (1,232 MeV).
• Ablatie-studies:
  • Zonder het pairing-netwerk stijgt de RMSD naar 1,257 MeV, wat aantoont dat de even-onaan oscillaties de grootste bijdrage leveren aan de totale fout.
  • Een "plain" MLP met hetzelfde aantal parameters (~74.000) presteert slecht (0,836 MeV), wat bewijst dat de verbetering komt door de inductieve bias van de architectuur en niet door het aantal parameters.
• Fysische Interpretatie:
  • De geleerde embeddings vertonen duidelijke extremen bij de canonieke magische getallen ($Z, N = 20, 28, 50, 82, 126$), hoewel deze nooit expliciet in de training zijn gespecificeerd.
  • Het pairing-netwerk reproduceert het verwachte "zaagtand"-patroon langs isotopische en isotone ketens.
  • De regionale grid toont lokale correcties bij dubbel-magische kernen en uitgestrekte structuren die overeenkomen met collectieve vervorming.

4. Bijdragen en Betekenis

De belangrijkste bijdragen van dit werk zijn:

1. Architectuur als Fysieke Prior: Het demonstreert dat fysieke kennis effectief kan worden ingebed in de structuur van een neurale netwerk (inductieve bias) in plaats van in handgemaakte input-features. Dit verschuift de ontwerp-vraag van "welke features moeten we toevoegen?" naar "welke structuur moet het netwerk hebben?".
2. Zelfstandige Directe Voorspelling: De CoNN is een van de meest nauwkeurige baseline-vrije modellen voor directe massa-voorspelling. Het is niet afhankelijk van een theoretisch model om fouten te corrigeren.
3. Interpreteerbaarheid: Het model levert een fysiek transparante decompositie op. De verschillende modules leren automatisch de juiste fysieke componenten (schalen, collectieve effecten, pairing) zonder toezicht, wat inzicht geeft in de onderliggende fysica die door het netwerk wordt "begrepen".
4. Robuustheid: Het model presteert beter dan gevestigde theoretische modellen op nieuw gemeten kernen, wat suggereert dat deze data-gedreven aanpak met fysieke beperkingen goed kan generaliseren naar gebieden buiten de trainingsdata.

Beperkingen en Toekomst:
Het huidige model heeft een harde grens voor de voorspelbare kernen ($Z \le 120, N \le 180$) vanwege de discrete embeddings. Voor superzware elementen of extreem neutronenrijke kernen zou een continue parametrisatie nodig zijn. Ook is de extrapolatie-accuraatheid nog lager dan de interpolatie-accuraatheid, wat een fundamentele uitdaging blijft voor puur data-gedreven modellen zonder expliciete asymptotische fysieke priors.

Conclusie:
Dit werk vestigt een nieuw paradigma voor kernmodelering waarbij de netwerkarchitectuur zelf fungeert als de drager van fysieke wetten, waardoor de noodzaak van handmatige feature-engineering wordt weggenomen en tegelijkertijd hoge nauwkeurigheid en fysieke interpretatie worden bereikt.