🤖 machine learning

Exploration of the generative capabilities of Boltzmann machines applied to social systems under the majority rule

Dit artikel toont aan dat deep belief networks met niet-binaire zichtbare eenheden succesvol monsters kunnen genereren en herstellen van sociale systemen die worden beheerst door de meerderheidsregel onder kritieke condities, waarbij ze kritikaliteit behouden en geleidelijke fysieke degradatie vertonen, zelfs in de aanwezigheid van inputruis.

Oorspronkelijke auteurs: Mauricio A. Valle, Gonzalo A. Ruz

Gepubliceerd 2026-07-28

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Mauricio A. Valle, Gonzalo A. Ruz

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een wereld voor waarin je stemming, je mening over een nieuwe film, of zelfs je beslissing om een aandeel te kopen niet slechts een individuele gedachte is, maar een rimpeleffect veroorzaakt door iedereen om je heen. Dit is het speelveld van de statistische fysica en de sociale wetenschap, twee vakgebieden die een verrassend geheim hebben ontdekt: groepen mensen gedragen zich vaak als reusachtige magneten. Net zoals kleine magnetische spins plotseling allemaal in dezelfde richting kunnen uitlijnen om een sterk magnetisch veld te creëren, kunnen groepen mensen plotseling allemaal het met elkaar eens worden (consensus) of plotseling allemaal van mening verschillen (polarisatie). Het moment waarop deze schakelaar omklapt, wordt een faseovergang genoemd. Het is precies het kantelpunt tussen kalme orde en chaotische ruis. Wetenschappers zijn geobsedeerd door het vinden van deze "kantelpunten", omdat dit de momenten zijn waarop de meest dramatische veranderingen plaatsvinden—zoals een beurscrash of een plotselinge sociale beweging. Om deze onzichtbare verschuivingen te bestudelen, gebruiken onderzoekers Boltzmann-machines, een type computerbrein dat leert door patronen te raden en vervolgens zijn eigen gokjes te controleren, een beetje zoals een student die steeds weer een oefentoets maakt totdat hij de antwoorden uit zijn hoofd kent.

Stel je nu een groep vrienden voor op een vierkant rooster, waarbij iedereen drie mogelijke stemmingen heeft: blij, neutraal of chagrijnig. Ze kijken naar hun vier dichtstbijzijnde buren en proberen de meerderheidsstemming te matchen, maar soms raken ze afgeleid of koppig (dit is de "ruis"). De onderzoekers in dit artikel stelden een lastige vraag: als we een snapshot maken van deze groep op het moment dat ze zich precies op dat chaotische kantelpunt bevinden, en we wissen dan enkele van hun stemmingen (door te doen alsof we niet weten wat ze denken), kan een computerbrein dan de ontbrekende stukjes invullen en de hele scène reconstrueren? Ze wilden niet alleen dat de computer zou gokken; ze wilden weten of de computer een nieuwe versie van de groep kon "dromen" die nog steeds aanvoelde alsof deze zich precies op die rand van chaos bevond, zelfs met ontbrekende informatie.

Het team bouwde een speciaal soort computerbrein genaamd een Deep Belief Network (DBN). Denk aan dit als een meerlagige detective. De eerste laag is een "Gaussian-Bernoulli"-detective, wat een chique manier is om te zeggen dat deze niet alleen meningen kan verwerken die "ja" of "nee" zijn, maar ook "misschien" of "een beetje" (drie toestanden). Ze trainden deze detective op duizenden snapshots van de vriendengroep in verschillende stemmingen. Eenmaal getraind, testten ze de detective door een fractie van de meningen van de vrienden te verbergen (tot wel 50% van hen!) en de detective te vragen de gaten in te vullen. De resultaten waren verrassend hoopvol. Het computerbrein kon de ontbrekende meningen succesvol "dromen", waardoor een nieuwe groep ontstond die er zeer veel op leek en zich zeer veel gedroeg als de originele groep.

Echter, het verhaal is niet simpelweg een kwestie van "de computer heeft gewonnen". De onderzoekers ontdekten dat de vorm van de detective ertoe deed. Wanneer ze een detective bouwden die zijn blik verbreedde (de verborgen lagen groter maakte dan de oorspronkelijke groep), was deze beter in het kopiëren van de exacte details van de stemmingen van de vrienden. Maar wanneer ze een detective bouwden die de informatie comprimeerde (de verborgen lagen kleiner maakte), was deze verrassend goed in het behouden van de "kritieke" staat van de groep, zelfs als de details niet perfect waren. Het is als het hebben van een schetskunstenaar die ofwel elke individuele sproet tekent (expansief) of de algemene vibe van het gezicht vastlegt (compressief). Het artikel suggereert dat voor het recreëren van het gevoel van een kritiek sociaal moment, de compressieve kunstenaar misschien wel de betere keuze is, zelfs als de tekening niet tot in de kleinste details perfect is.

Om er zeker van te zijn dat de computer niet simpelweg aan het hallucineren was, bouwde het team een "thermometer" (een apart computerprogramma) om de temperatuur van de groep te meten. Deze thermometer controleert of de groep te chaotisch is (subkritisch), te kalm (superkritisch) of precies goed op het kantelpunt (kritiek). De thermometer was goed in het opsporen van de extremen, maar raakte soms in de war rond het kantelpunt, wat logisch is omdat dat het meest rommelige deel van het systeem is. Wanneer ze de "gedroomde" groepen testten, ontdekten ze dat de computer, zelfs met de helft van de meningen ontbrekend, nog steeds groepen kon genereren die de thermometer als nabij dat kritieke kantelpunt herkende.

Het paper sluit expliciet de mogelijkheid uit dat het simpelweg langer laten draaien van het gokproces van de computer (meer "Gibbs sampling"-stappen) het proces beter maakt. Sterker nog, het doen van meer stappen hielp niet en kon er zelfs toe leiden dat de computer de trainingsdata te rigide uit het hoofd leert. Ze ontdekten ook dat de manier waarop de computer zijn "bottom-up" aanwijzingen (wat hij ziet) mengt met zijn "top-down" gokjes (wat hij heeft geleerd), de uitkomst verandert. Als de computer de ontbrekende data te veel vertrouwt, raakt hij in de war; als hij zijn eigen geleerde patronen te veel vertrouwt, verliest hij de fijne details. Het ideale evenwicht hangt af van hoeveel informatie er ontbreek.

Uiteindelijk suggereert dit onderzoek dat hoewel we een sociaal systeem met ontbrekende gegevens niet perfect kunnen reconstrueren, we wel dichtbij genoeg kunnen komen om de "kritieke" magie levend te houden. De computer hoeft niet de mening van elk individu te kennen om de energie van de groep te begrijpen. Dit opent de deur om deze modellen te gebruiken als "wat-als"-machines. Stel je voor dat we de gedeeltelijke data van een social mediaplatform in een dergelijk systeem kunnen voeren en dat het de volledere context van de publieke opinie kan "dromen", wat ons helpt een polarisatiecrisis te spotten voordat deze explodeert. Het artikel beweert niet dat het dit al voor de echte wereld heeft opgelost—het is nog steeds een simulatie op een rooster van 784 agenten—maar het bewijst dat het concept werkt. Het laat zien dat deep learning-modellen de verborgen fysica van sociale opinies kunnen leren, zelfs wanneer de data rommelig, luidruchtig en incompleet is.

Technische Samenvatting: Onderzoek naar de generatieve capaciteiten van Boltzmann-machines toegepast op sociale systemen onder de meerderheidsregel

Probleemstelling
Het artikel behandelt de uitdaging van het modelleren van complexe sociale systemen die worden beheerst door de meerderheidsregel, met een specifieke focus op systemen die in staat zijn tot faseovergangen (bijv. verschuivingen van consensus naar polarisatie). In tegen tegenover gestandaardiseerde beelddatasets (zoals MNIST), die duidelijke ruimtelijke regelmatigheden bezitten, vertonen systemen van opiniedynamiek heterogene en onregelmatige patronen, met name nabij kritieke punten waar het systeem balanceert tussen orde en wanorde. De auteurs onderzoeken of ongesuperviseerde generatieve modellen, specifiek Deep Belief Networks (DBNs), de onderliggende waarschijnlijkheidsverdelingen van deze systemen kunnen leren, ontbrekende informatie kunnen reconstrueren (imputatie) onder ruis, en de kritieke staat van het systeem kunnen behouden tijdens reconstructie.

Methodologie
De studie maakt gebruik van een driefasige methodologie (geïllustreerd in Figuur 1) met behulp van een drietoestands Majority Vote-model (MV3) op een $28 \times 28$ vierkant rooster ( $L=784$ agenten). Agenten houden meningen aan $s_i \in \{0, 0.5, 1\}$ en updaten op basis van buurconsensus met waarschijnlijkheid $p$ (ruisniveau $q=1-p$ ).

Datageneratie: Monte Carlo-simulaties genereren systeemtoestanden $S(p)$ over verschillende ruisniveaus. Het kritieke punt voor dit eindige systeem wordt geïdentificeerd op $q_c \approx 0.151$ ( $p \approx 0.849$ ).
DBN-training: De auteurs trainen Deep Belief Networks waarbij de eerste laag een Gaussian-Bernoulli Restricted Boltzmann Machine (GBRBM) is om de niet-binaire (drietoestands) zichtbare eenheden te verwerken, gevolgd door gestapelde Bernoulli-Bernoulli RBM's (BBRBM). Verschillende architecturen worden getest, variërend tussen "expansieve" (verborgen laag dimensie $>784$ ), "compressieve" (verborgen laag dimensie $<784$ ) en "expand-contract" strategieën. Training maakt gebruik van Contrastive Divergence (CD) met een gulzig laag-voor-laag (greedy layer-wise) benadering.
Discrete Thermometer: Een Convolutional Neural Network (CNN) wordt getraind als een "thermometer" om systeemtoestanden te classificeren als subkritisch, kritiek of superkritisch op basis van de ruimtelijke distributie van opinieclusters.
Imputatie en Generatie Experimenten:
- Dromen: De DBN genereert synthetische monsters geconditioneerd op vaste zichtbare eenheden.
- Imputatie: Een fractie $f$ van de opinies van agenten wordt gemaskeerd (gesteld op -1). De DBN reconstrueert deze ontbrekende waarden met behulp van een Mean-Field benadering die bottom-up (data-gestuurde) en top-down (prior-gestuurde) informatiestromen mengt via mixingsparameters $\alpha_1$ en $\alpha_2$ .
- Evaluatie: Reconstructiefout wordt gemeten tegen de originele monsters, en de "thermometer" evalueert of de gereconstrueerde monsters de kritieke staat behouden.

Belangrijkste Bijdragen

Leren van MV3 Representaties: De auteurs demonstreren dat DBNs met Gaussische zichtbare eenheden succesvol gecomprimeerde representaties van het drietoestands majority-vote model over verschillende fasen kunnen leren, waarbij lage reconstructiefouten worden bereikt ondanks de configurationele complexiteit.
Validatie van een Faseclassificator: Zij ontwikkelen en valideren een op CNN gebaseerde "thermometer" die in staat is om subkritische, kritieke en superkritische toestanden te onderscheiden zonder expliciete kennis van ordeparameters, hoewel de prestaties lager zijn voor kritieke toestanden vanwege de ambiguïteit van mesoschaal clusters.
Generatieve Imputatie onder Ruis: De studie onderzoekt systematisch de generatieve capaciteiten van DBN's door middel van imputatie-experimenten. Het onthult dat deze modellen ontbrekende informatie kunnen reconstrueren en kritikaliteit kunnen behouden, zelfs onder aanzienlijke ruis ( $f$ tot 0.5), waarbij de prestaties afhankelijk zijn van de netwerkarchitectuur en de mixing parameters van de informatiestroom.

Resultaten

Reconstructienauwkeurigheid: Expansieve architecturen (waar de eerste verborgen laag dimensie de inputgrootte overstijgt, bijv. $n_{H1} = 2704$ ) bereiken over het algemeen lagere reconstructiefouten (0.065–0.075) vergeleken met compressieve architecturen (0.108–0.132).
Behoud van Kritikaliteit: Hoewel expansieve modellen de reconstructiefout minimaliseren, vertoonden compressieve architecturen (bijv. DBN7 met $n_{H1}=256$ ) een verrassende robuustheid in het behoud van de kritieke staat tijdens imputatie, gemeten door de thermometer.
Imputatie Prestaties: Naarmate de fractie ontbrekende data ( $f$ ) toeneemt, neemt de imputatiefout toe. Voor expansieve architecturen leverde een data-gestuurde benadering (hoger gewicht op inputsignalen, $\alpha_1$ ) betere resultaten op. Daarentegen presteerden compressieve architecturen competitief met specifieke mixing parameters ( $\alpha_1=0.9, \alpha_2=0.1$ ), wat suggereert dat optimale mixing afhankelijk is van de signaal-ruisverhouding op elk niveau.
Beperkingen van de Thermometer: De CNN thermometer vertoonde een hoge nauwkeurigheid voor subkritische (AUC 0.918) en superkritische (AUC 0.996) toestanden, maar een lagere nauwkeurigheid voor kritieke toestanden (AUC 0.838), toegeschreven aan het niet-abrupte karakter van de faseovergang en de ambiguïteit van patronen nabij het kritieke punt.

Betekenis en Claims
Het artikel claimt dat DBN's een levensvatbaar kader bieden voor het extraheren van betekenisvolle representaties uit hooggestructureerde sociale systemen. Het vermogen van deze modellen om te "dromen" of synthetische monsters te genereren die zich in kritieke toestanden bevinden, zelfs wanneer ze geconditioneerd zijn op ruisige of incomplete data, suggereert potentieel nut voor:

Scenario Generatie: Het creëren van realistische synthetische data voor sociale systemen op het punt van kritikaliteit.
Imputatie: Het reconstrueren van de meningen van agenten vanuit incomplete data (bijv. de "stille meerderheid" op sociale media), wat potentieel het ontstaan van consensus of polarisatie kan identificeren voordat deze volledig zichtbaar is.
Hypothese Testen: Het dienen als instrumenten voor computationele sociale wetenschappen om hypothesen over faseovergangen te testen.

De auteurs hanteren een bescheiden toon, waarbij zij opmerken dat hun simulaties reguliere roosters gebruiken in plaats van realistische netwerktopologieën en dat de verminderde sensitiviteit van de thermometer bij het kritieke punt onzekerheid introduceert. Zij concluderen dat hoewel expansieve architecturen superieur zijn voor reconstructiefaillibiliteit, de interactie tussen architectuur en informatiestroom cruciaal is voor het behoud van de fysieke eigenschappen (kritikaliteit) van de gegenereerde systemen. Toekomstig werk wordt gesuggereerd om hybride benaderingen met score-gebaseerde diffusiemodellen te verkennen en deze methodologieën op echte data te testen.

Meer zoals dit