Mass Conservation as an Inductive Bias for Self-Organized Criticality in NCA Reservoirs

Technische Samenvatting: Massa-behoud als Inductieve Bias voor Zelfgeorganiseerde Kritikaliteit in NCA-reservoirs

Probleemstelling

Reservoir computing (RC) maakt gebruik van de intrinsieke dynamiek van vaste, hoogdimensionale systemen om inputs te mappen naar feature-ruimtes die oplosbaar zijn door eenvoudige lineaire readouts. Een veelbelovende theoretische basis voor RC is Zelfgeorganiseerde Kritikaliteit (SOC), een dynamisch regime dat wordt gekenmerkt door schaalvrije lawine-dynamiek en power-law statistieken, vaak geassocieerd met de "edge-of-chaos"-hypothese waar de computationele capaciteit wordt gemaximaliseerd. Hoewel recent werk heeft aangetoond dat Neural Cellular Automata (NCA) kunnen worden geëvolueerd naar kritieke lawine-dynamiek om effectieve RC-substraten te dienen, blijft het bereiken van robuuste en consistente kritikaliteit een uitdaging. Dit artikel onderzoekt of massa-behoud—een lokale herverdelingsregel die de totale rooster-massa behoudt—kan dienen als een betrouwbare inductieve bias om SOC te bevorderen in geëvolueerde NCA-reservoirs zonder hun bruikbaarheid in downstream-taken in gevaar te brengen.

Methodologie

De auteurs stellen een gemodificeerde NCA-architectuur voor gebaseerd op het werk van Pontes-Filho et al. (2025), waarbij een massa-behoudmechanisme is geïntegreerd dat geïnspireerd is op het MaCE-framework (Papadopoulos en Guichard, 2025).

1. NCA Architectuur: Het systeem is een eendimensionale, binaire, deterministische CA met een roosterbreedte $W=1000$ en $C=5$ kanalen (1 zichtbaar, 4 verborgen). De status-updates worden beheerd door een lichtgewicht 3-laagse Convolutionele Neurale Netwerk (CNN) met 1.565 parameters.
2. Massa-behoudmechanisme: In tegenstelling tot standaard NCAs past de "conserverende" variant een lokale donate-then-collect herverdelingsregel toe op het zichtbare kanaal alleen, na de CNN-update maar vóór de binarisatie.
   • Elke cel $j$ doneert massa aan zijn buren ($i \in N(j)$) proportioneel aan een softmax-gewogen affiniteit gebaseerd op de ruwe zichtbare waarden.
   • Elke cel $i$ verzamelt donaties van buren wiens buurt $i$ bevat.
   • Dit zorgt ervoor dat de totale zichtbare activatie $\sum s_i$ op elk tijdstip exact behouden blijft. De vier verborgen kanalen blijven onbeperkt om willekeurige interne representaties toe te staan.
3. Evolutionaire Training: Zowel de baseline (niet-conserverende) als de conserverende varianten werden geëvolueerd met behulp van CMA-ES (Covariance Matrix Adaptation Evolution Strategy) over 500 generaties.
   • Fitness Functie: Een samengestelde score die power-law gedrag beloont in de lawine-statistieken van het zichtbare kanaal. Deze combineert de determinatiecoëfficiënt ($R^2$), de Kolmogorov–Smirnov (KS) afstand, bin-bezetting, staat-uniciteit en log-likelihood ratio's die power-law versus exponentiële modellen vergelijken.
   • Experimentele Opstelling: Drie onafhankelijke random seeds (42, 43, 44) werden gebruikt voor elke variant.
4. Evaluatiemetrieken:
   • Kritikaliteit: Beoordeeld via Goodness-of-Fit (GOF) tests op zes lawine-distributies (grootte, duur en inter-arrival tijd voor zowel de 0-staat als de 1-staat). Een distributie slaagt als $p \ge 0.1$. "Perfecte kritikaliteit" wordt gedefinieerd als alle zes de distributies slagen.
   • Downstream Taken: Prestaties werden geëvalueerd op drie benchmarks met een getrainde lineaire readout:
     • 5-bit Sequentiële Geheugen: Retentie van een 5-bit patroon na een 200-stappen distractor.
     • MNIST Classificatie: Beeldclassificatie met een LinearSVC readout.
     • CartPole-v1 Temporele Controle: Een reinforcement learning taak met een lineaire Q-network.

Belangrijkste Bijdragen

1. Inductieve Bias voor SOC: De studie demonstreert dat massa-behoud fungeert als een betrouwbare inductieve bias, wat de waarschijnlijkheid aanzienlijk vergroot dat geëvolueerde NCA-reservoirs perfecte kritikaliteit vertonen (6/6 GOF passes).
2. Trainingsefficiëntie: De conserverende variant behaalde een 7,3% hogere gemiddelde fitness en convergeerde 1,27× sneller in wall-clock tijd vergeleken met de baseline.
3. Behoud van Bruikbaarheid: De introductie van conserveringsrestricties degradeerde de downstream prestaties niet. Beide varianten behaalden vergelijkbare resultaten op geheugen- en classificatietaken, waarbij de conserverende variant superieure prestaties liet zien bij temporele controle na checkpoint-selectie.
4. Kritikaliteit-Computation Koppeling: De seed met de sterkste kritikaliteit (conserverende seed 44) behaalde ook de hoogste score voor temporele controle, wat wijst op een positieve correlatie tussen de kwaliteit van SOC en sequentiële computationele vermogens.

Resultaten

• Karakterisering van Kritikaliteit:
  • Conserverende Varianten: Seeds 43 en 44 bereikten perfecte kritikaliteit (6/6 GOF passes). Seed 42 behaalde 3/6.
  • Baseline Varianten: Geen baseline seed bereikte perfecte kritikaliteit. De beste baseline (seed 44) behaalde 5/6 passes; seeds 42 en 43 behaalden 3/6.
  • Lawine Statistieken: De conserverende seeds vertoonden power-law schaling over alle distributies. Opvallend genoeg had de 1-state duur distributie van seed 44 een steile exponent ($\hat{\alpha} \approx 10.3$), die de GOF test triviaal doorstond vanwege lage variantie, maar nog steeds bijdroeg aan de perfecte score.
• Downstream Prestaties:
  • 5-bit Geheugen: Beide varianten behaalden perfecte scores (1.0) over alle seeds.
  • MNIST: Beide varianten presteerden beter dan de raw-pixel baseline (~91.1%). De baseline leidde met een marginale gemiddelde van +0,27 procentpunt (93,81% vs. 93,54%), een verschil binnen de seed-tot-seed variantie. Echter, de conserverende features waren 2–6× sneller bij classificatie, wat duidt op betere lineaire scheidbaarheid.
  • CartPole-v1: De conserverende variant behaalde een hogere gemiddelde beloning (120,6 vs. 88,6). Cruciaal is dat seed 44 (conserverend, perfecte kritikaliteit) de hoogste individuele score behaalde (163,4).
• Checkpoint Alignment: Een opmerkelijke asymmetrie werd waargenomen in checkpoint selectie. Voor de conserverende variant maximaliseerde het laatste checkpoint (gen 499) simultaan de fitness en de kritikaliteit. Voor de baseline kwamen checkpoints met de beste lawine-statistieken niet overeen met die welke de beste downstream prestaties opleverden, wat aangeeft dat conservering de SOC-kwaliteit afstemt op functionele bruikbaarheid.

Betekenis en Claims

Het artikel claimt dat massa-behoud een eenvoudig, effectief en zero-parameter mechanisme is voor het bevorderen van robuuste kritikaliteit in geëvolueerde NCA-reservoirs. Door massa-explosie of extinctie te voorkomen, reguleert conservering de dynamiek, waardoor het fitnesslandschap wordt vernauwd rond volledig kritieke attractoren en ze gemakkelijker te vinden zijn voor evolutionaire algoritmen.

De auteurs stellen dat deze aanpak er succesvol in slaagt de zoektocht naar kritikaliteit te ontkoppelen van het opofferen van downstream bruikbaarheid. De resultaten bieden voorlopige empirische steun voor de edge-of-chaos-hypothese in de context van reservoir computing, en suggereren dat systemen die nabij kritikaliteit opereren (gefaciliteerd door conservering) mogelijk superieure vermogens bieden voor sequentiële computation en temporele controle. De studie concludeert dat conservering niet alleen helpt bij het bereiken van SOC, maar ook ervoor zorgt dat de resulterende kritieke dynamiek functioneel in lijn is met taakprestaties, waardoor de spanning tussen het optimaliseren voor kritikaliteit en het optimaliseren voor taakbruikbaarheid wordt weggenomen.

Noot: De auteurs erkennen beperkingen, waaronder het gebruik van slechts drie seeds per variant (wat de statistische kracht beperkt) en de toepassing van conservering enkel op de zichtbare kanalen. Zij suggereren dat toekomstig werk grotere populaties seeds, conservering van verborgen kanalen en de co-optimalisatie van kritikaliteit en taak-fitness zou moeten verkennen.