📊 statistics

Simulation-consistent Estimation of the Marginal Likelihood for Block Models

Dit artikel stelt een simulatie-consistente, asymptotisch normale en label-switching-invariante schatter voor voor het berekenen van marginale likelihoods van blokmodellen met behulp van MCMC-steekproeven, waarbij de effectiviteit ervan wordt aangetoond door middel van analytische benchmarks en een toepassing op een COP28-sociaal netwerkdataset.

Oorspronkelijke auteurs: Martin Metodiev, Marie Perrot-Dockès, Guilhem Fouetillou, Pierre Latouche, Adrian E. Raftery

Gepubliceerd 2026-07-28

📖 8 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Martin Metodiev, Marie Perrot-Dockès, Guilhem Fouetillou, Pierre Latouche, Adrian E. Raftery

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een enorme, chaotische feestpartij binnenloopt waar duizenden mensen door elkaar heen praten, schreeuwen en verhalen delen. Je doel is om te achterhalen wie bij welke groep hoort. Zijn de mensen in de hoek die de nieuwste sciencefictionfilm bespreken een ander publiek dan degenen bij de punchbowl die het klimaat debat voeren? In de wereld van data science is dit feestje een "netwerk", en de groepen worden "clusters" genoemd. Wetenschappers gebruiken wiskundige hulpmiddelen zoals "block models" om deze onzichtbare sociale cirkels in kaart te brengen. Maar hier komt de lastige factor bij: net zoals proberen te raden hoeveel groepen er precies zijn op een feestje zonder het antwoord te weten, is het ontzettend moeilijk om te weten of je het juiste aantal clusters hebt gevonden. Je zou kunnen gokken dat er 5 groepen zijn, of misschien wel 50, en zonder een betrouwbare manier om dit te controleren, kun je er volledig naast zitten. Dit is een enorm probleem, want als je de groepen niet nauwkeurig kunt tellen, kun je niet begrijpen hoe informatie, ideeën of zelfs virussen zich door een netwerk verspreiden.

Dit is waar een nieuwe methode genaamd THAMES (Truncated Harmonic Mean Estimator for Block Models) om de hoek komt kijken, optredend als een superintelligente, door simulaties gedreven detective. De onderzoekers achter dit artikel, onder leiding van Martin Metodiev en collega's, hebben een tool gebouwd die de "score" van verschillende groepsconfiguraties kan berekenen om te zien welke het meest logisch is. In tegen tegenstelling tot oudere methoden, die vaak vastlopen, het opgeven of extreem instabiele resultaten produceren, is THAMES ontworpen om "simulatie-consistent" te zijn. Denk aan het proeven van een soep: als je één lepel neemt, weet je misschien nog niet of hij zout genoeg is. Maar als je steeds meer en meer lepels blijft proeven (simulaties), wordt je smaak steeds nauwkeuriger totdat je absoluut zeker bent. THAMES doet dit voor netwerkdata, waardoor wetenschappers met vertrouwen het ware aantal verborgen groepen kunnen bepalen, zelfs in enorme, rommelige datasets. Ze testten dit op een praktijkvoorbeeld met miljoenen berichten over een belangrijke klimaatconferentie, waarmee ze bewezen dat het duidelijke patronen kan vinden waar andere methoden in de war raken.

Het Probleen: De "Label Switching" Verwarring

Om te begrijpen waarom deze nieuwe tool zo speciaal is, moeten we eerst kijken naar de rommeligheid van de data. Stel je voor dat je een stapel gekleurde knikkers in emmers aan het sorteren bent. Je hebt rode, blauwe en groene knikkers. Maar in de geest van de computer kan de "rode" emmer vandaag "Emmer 1" heten en morgen "Emmer 3", ook al zitten er exact dezelfde knikkers in. Dit is een fenomeen dat label switching wordt genoemd.

In de complexe wiskunde die wordt gebruikt om netwerken te analyseren, draait de computer duizenden keren een simulatie (een beetje als een virtueel experiment) om de groepen te achterhalen. Vanwege label switching kan de computer zeggen: "Oké, in deze ronde zijn de klimaatactivisten Groep A," en in de volgende ronde: "De klimaatactivisten zijn Groep B." Als je probeert deze resultaten te middelen, krijg je een enorme, verwarrende bende. Het is alsof je probeert de gemiddelde lengte van een groep mensen te berekenen als je, elke keer dat je iemand meet, willekeurig hun naam verwisselt met die van iemand anders. Het gemiddelde wordt dan nutteloos.

De meeste bestaande methoden voor het tellen van netwerkgroepen worstelen hiermee. Ze breken of falen wanneer de data te groot wordt, of ze vertrouwen op shortcuts (genaamd benaderingen/approximaties) die in theorie goed werken, maar in de echte wereld volkomen onnauwkeurig kunnen zijn. Sommige methoden zijn als het raden van het aantal snoepjes in een pot door door het glas te kijken; andere zijn als het proberen te tellen door de pot te schudden en te hopen dat ze niet aan elkaar plakken. De auteurs stellen dat deze oudere manieren vaak onbetrouwbaar zijn, vooral wanneer de data eindig is (niet oneindig) en de groepen moeilijk te onderscheiden zijn.

De Oplossing: THAMES, de "Gecureerde" Detective

Het artikel introduceert THAMES, een nieuwe manier om de "marginale waarschijnlijkheid" te berekenen. In gewone mensentaal is de marginale waarschijnlijkheid een score die vertelt hoe goed een specifiek aantal groepen de beschikbare data verklaart. Een hogere score betekent dat het model een betere fit is.

De auteurs creëerden THAMES door twee bestaande ideeën te combineren, maar hun grootste gebreken te herstellen.

De Harmonic Mean Estimator: Dit is een oude truc die makkelijk te berekenen is, maar berucht onstabiel is. Het is alsof je een kaartenhuis probe{t te balanceren tijdens een storm; één kleine windvlaag (een vreemd datapunt) kan de hele boel omverwerpen.
De Variational Approximation: Dit is een snelle, slimme schatting gebaseerd op een vereenvoudigde versie van het probleem. Het is meestal accuraat, maar kan bevooroordeeld (lichtelijk onjuist) zijn omdat het een vereenvoudiging is.

THAMES combineert het beste van beide werelden. Het gebruikt de slimme schatting om een "truncation set" te definiëren—een specifieke, beheersbare lijst van de meest waarschijnlijke groepsconfiguraties om op te focussen. Door de vreemde, onwaarschijnlijke uitschieters (de "staart" van de verdeling) te negeren, vermijdt het de instabiliteit van de oude Harmonic Mean-methode. Tegelijkertijd gebruikt het de werkelijke simulatiegegevens om ervoor te zorgen dat het resultaat accuraat is, waardoor de bias van de vereenvoudigde schatting wordt vermeden.

Cruciaal is dat THAMES symmetrisch is. Dit betekent dat het er niet toe doet of de computer een groep "Cluster 1" of "Cluster 100" noemt. Het behandelt alle groepen als een enkele, verenigde set. Dit lost het "label switching"-probleem automatisch op. Als de computer de namen van de groepen verwisselt, blijft de THAMES-score exact hetzelfde. Het is als een rechter die alleen geeft om de kwaliteit van de uitvoering, niet om de naam van de deelnemer.

Het Bewijs: Simulaties en Praktijktesten

De auteurs hebben dit instrument niet alleen gebouwd; ze hebben het flink op de proef gesteld.

De Simulatietest:
Ze creëerden fictieve netwerken waarbij ze het exacte antwoord kenden (het "ware" aantal groepen). Ze testten THAMES tegen andere populaire methoden, waaronder de oude Harmonic Mean-estimator en een methode genaamd ChibPartition.

Het resultaat: Naarmate het aantal simulaties toenam (van 1.000 naar 10.000), nam de fout in de berekening van THAMES gestaag af. Het was "simulatie-consistent", wat betekent dat hoe meer ze de simulatie draaiden, hoe dichter ze bij de waarheid kwamen.
De vergelijking: De oude Harmonic Mean-estimator was alle kanten op en faalde soms volledig wanneer de data lastig was. De ChibPartition-methode werkte goed, maar alleen wanneer één specifieke groep overweldigend populair was; deze stortte in wanneer de groepen meer gelijkmatig verdeeld waren. THAMES bleef echter stabiel en accuraat in alle scenario's.

De Praktijktest: COP28
Om te zien of THAMES een echte, rommelige situatie aan kon, pasten de auteurs het toe op een enorme dataset van de 2023 Verenigde Naties Conferentie over Klimaatverandering (COP28). Ze verzamelden meer dan 4 miljoen berichten van het sociale netwerk X (voorheen Twitter), wat betrokken bij meer dan 1 miljoen gebruikers. Na de opschoning analyseerden ze een netwerk van ongeveer 11.000 gebruikers.

De bevinding: THAMES bepaalde dat het netwerk het beste verklaard kon worden door 12 duidelijke clusters.
Het contrast: Ze vergeleken dit met een populaire alternatieve methode genaamd ICL (Integrated Complete Likelihood), die suggereerde dat er 37 clusters waren.
Het inzicht: Toen de auteurs naar de 37 clusters van de ICL-methode keken, zagen ze dat deze "gefragmenteerd" waren. Bijvoorbeeld, de ICL-methode splitste de kern van invloedrijke figuren (zoals Al Gore en de VN voor Klimaatverandering) op in meerdere kleine, aparte groepen. Ook brak het de #SaveSoil-beweging op in vier verschillende, losstaande clusters.
Het THAMES-perspectief: In tegen plaats maakte de 12 door THAMES gevonden clusters veel meer sociologisch zin. Het identificeerde een duidelijke "core-periphery" (kern-periferie) structuur. Er was één piepkleine, centrale cluster (Cluster 11) met slechts 5 gebruikers: UN Climate Change, Al Gore, COP28 UAE, Loss and Damage Collaboration, en António Guterres. Alle andere gebruikers in het netwerk waren "periferie"-groepen die voornamelijk de centrale kern citeerden of repostten. Dit onthulde een ster-vormig patroon waarbij een paar dominante stemmen het gesprek dreven, en de rest daarop reageerde.

De auteurs merken op dat deze structuur logisch is in de echte wereld: grote klimaatgebeurtenissen hebben vaak een paar centrale figuren die het narratief domineren, terwijl grassroots-bewegingen en bots eromheen draaien. Het feit dat THAMES deze schone, logische structuur vond, terwijl de andere methode een chaotische bende van 37 kleine groepjes vond, suggereert dat THAMES beter is in het vinden van de "ware" verborgen structuur in complexe sociale netwerken.

Waarom dit ertoe doet

Het artikel concludeert dat THAMES een significante stap voorwaarts is omdat het de eerste methode van zijn soort is die zowel simulatie-consistent (wordt nauwkeuriger met meer rekenkracht) als invariant voor label switching (laat zich niet in de war brengen door naamgevingen) is.

Hoewel de auteurs voorzichtig zijn en benadrukken dat dit een instrument is voor schatting en modelselectie en geen wondermiddel dat elk probleem in de netwerkwetenschap oplost, zijn de resultaten overtuigend. Ze laten zien dat we, door slimme benaderingen te combineren met rigoureuze simulaties, eindelijk met veel meer vertrouwen de verborgen groepen in onze digitale wereld kunnen tellen. Of het nu gaat om het begrijpen van de verspreiding van klimaatinformatie, de vorming van politieke bubbels of de beweging van ziekten door een populatie: een betrouwbare manier om de groepen te tellen, is de eerste stap om het volledige plaatje te begrijpen.

Kortom, THAMES is de nieuwe, betrouwbare liniaal om de verborgen vormen van onze sociale netwerken te meten, en bewijst dat de beste manier om de waarheid te vinden soms is om te stoppen met gokken en te beginnen met precisie-simulaties.

Technische Samenvatting: Simulatie-consistente Schatting van de Marginale Waarschijnlijkheid voor Blokmodellen

Probleemstelling
Het stochastische blokmodel (SBM) is een standaard willekeurig graafmodel voor knoopclustering, in staat om heterogene structuren zoals gemeenschappen of sterpatronen te verwerken. Echter, een groot onopgelost probleem in SBM-inferentie is de schatting van het aantal clusters ( $G$ ). Vanuit een Bayesiaans perspectief is het optimale criterium voor modelselectie het model dat de product van de marginale waarschijnlijkheid en de prior modelwaarschijnlijkheid maximaliseert. Toch betreft de marginale waarschijnlijkheid $Z(G)$ een som over alle mogelijke clusterconfiguraties, die exponentieel groeit met de netwerkomvang, wat de berekening computationeel onhandelbaar maakt.

Bestaande methoden voor het schatten van het aantal clusters in SBM's vertrouwen op asymptotische benaderingen of variatiemodellen. Hoewel deze redelijk kunnen zijn in limietgevallen waar de netwerkomvang groeit, zijn er geen bekende consistentieresultaten voor deze benaderingen met betrekking tot eindige gegevensomvang. Bovendien vereisen de meeste simulatie-consistente marginale waarschijnlijkheidsschatters (die convergeren naarmate het aantal simulaties toeneemt) de evaluatie van de likelihoodfunctie, wat onmogelijk is voor de SBM vanwege de onhandelbare som over configuraties. Daarnaast lijdt standaard Bayesiaanse MCMC-schatting van SBM-parameters aan het "label switching"-probleem, waarbij parameters willekeurig van label wisselen, wat zorgt voor een hoge variantie in ergodische schatters.

Methodologie: De Truncated Harmonic Mean Estimator (THAMES)
De auteurs stellen de Trunced Harmonic Mean Estimator (THAMES) voor, een simulatie-consistente estimator voor de marginale waarschijnlijkheid van de SBM die geen evaluatie van de onhandelbare likelihoodfunctie vereist. De methode steunt op de "gecollapsteerde" verdelingen van de latente allocatievectoren, die beschikbaar zijn in eenvoudige analytische vormen.

De kern van de methodologie omvat de volgende stappen:

Reciprocal Importance Sampling (RIS) Framework: De estimator wordt geplaatst binnen de RIS-context, waarbij de inverse marginale waarschijnlijkheid wordt geschat door het gemiddelde te nemen van de ratio van een proposal-densiteit $h(C)$ tot de posterior-densiteit.
Symmetrie en Label Switching: Om label switching aan te pakken, is de estimator geconstrueerd om symmetrisch te zijn (invariant onder permutaties van labels). Dit wordt bereikt door te middelen over permutaties of door de proposal-densiteit over symmetrische verzamelingen te definiëren.
Truncatie-strategie: De THAMES combineert de uniforme densiteit van de ChibPartition-estimator met een variatiebenadering die wordt gebruikt in Variational Bayes Reciprocal Importance Sampling (RISVB). Het definieert een truncatie-verzameling $A$ $A$ (een deelverzameling van de allocatievectorruimte) om de variantie te verminderen.
- De verzameling $A$ wordt geconstrueerd als de intersectie van een Cartesisch product-verzameling $E_{\hat{C}, \hat{r}}$ (gebaseerd op de meest waarschijnlijke allocatievectoren uit de eerste helft van de MCMC-steekproef) en een Highest Posterior Density (HPD) regio $H_\alpha$ .
- De parameter $\alpha$ wordt empirisch gekozen om de steekproefvariantie van de estimator te minimaliseren.
Efficiënte Berekening: Een belangrijke bijdrage is een algoritmische optimalisatie die de computationele kosten drastisch vermindert. In plaats van te sommeren over alle $G!$ permutaties (wat superexponentieel is), identificeert de methode een lexicografische ordening van de allocatievectoren. Onder de voorwaarde dat er geen lege clusters voorkomen in de tweede helft van de MCMC-steekproef, kan de som over permutaties worden gereduceerd tot een som over een veel kleinere verzameling $\Omega$ , die vaak slechts één element bevat.
Afhandeling van Lege Clusters: Indien er lege clusters optreden in de MCMC-steekproef, maken de auteurs gebruik van een uitbreiding van Nobile's formule om de marginale waarschijnlijkheid van een model met $G$ clusters te relateren aan die van een model met $G-1$ clusters, waardoor de estimator kan doorgaan zonder de lege cluster.

Belangrijkste Bijdragen

Eerste Simulatie-Consistente Estimator voor SBM: Naar weten van de auteurs is dit de eerste estimator die wordt gepresenteerd die convergeert naar de marginale waarschijnlijkheid met een toenemend aantal simulaties, zelfs wanneer de netwerkomvang vast en klein is.
Theoretische Eigenschappen: De THAMES is bewezen simulatie-consistent en asymptotisch normaal met een eindige variantie onder standaardcondities. Het is ook symmetrisch, wat het invariant maakt voor het label switching-probleem.
Computationele Efficiëntie: De methode maakt efficiënte berekening mogelijk, zelfs voor modellen met een groot aantal componenten, door de volledige permutatiesom te vermijden en de evaluatie van de likelihoodfunctie niet te vereisen.
Toepasbaarheid: De benadering is toepasbaar op de SBM en, door analogie, op het Latent Block Model (LBM) voor co-clustering.

Resultaten
De prestaties van THAMES werden geëvalueerd via simulatiestudies waarbij de ware marginale waarschijnlijkheid analytisch kon worden berekend (met kleine netwerken met $n=10$ en $G=2$ ).

Convergentie: De fout tussen de logaritme van de THAMES-schatting en de ware log-marginale waarschijnlijkheid nam af naarmate de MCMC-steekproefgrootte ( $T$ ) toenam, wat de simulatie-consistentie bevestigt.
Vergelijking: THAMES werd vergeleken met de Harmonic Mean Estimator (HME), de ChibPartition-estimator, de RISVB-estimator en variatiebenaderingen (ILvb).
- De HME bleek instabiel, vooral wanneer de posterior-verdeling sterk geconcentreerd was.
- Variatie-estimators (ILvb) vertoonden bias, met name wanneer de variatie-aannames niet golden (bijv. in lage $\lambda$ -regimes), en vereisten een correctiefactor ( $G!$ ) om rekening te houden met het focussen op een enkele modus.
- In een specifieke simulatie die de COP28-dataset nabootste (waarbij de posterior-waarschijnlijkheid van de Maximum A Posteriori (MAP)-estimator extreem laag was en er geen herhalingen voorkwamen in de steekproef), presteerde THAMES significant beter dan andere estimators. De ChibPartition-estimator faalde in deze lage-waarschijnlijkheidssituatie omdat de verzameling van herhaalde MAP-toestanden leeg was.
Reële Toepassing (COP28): De methode werd toegepast op een sociaal netwerkdataset afgeleid van de 2023 Verenigde Naties Klimaatconferentie (COP28), bevattende meer dan 1 miljoen knopen en 2 miljoen randen (voorverwerkt naar ~11k knopen).
- THAMES schatte het optimale aantal clusters op $G=12$ .
- In tegenstelling hiertoe schatte het Integrated Complete Likelihood (ICL) criterium, gebruikmakend van een gulzig algoritme, $G=37$ .
- De THAMES-clustering onthulde een core-periphery structuur waarbij een kleine kerncluster (Cluster 11, grootte 5) die sleutelfiguren (bijv. Al Gore, VN Klimaatverandering) bevat, door alle andere clusters werd geciteerd/geretweet, terwijl interne verbindingen binnen andere clusters zeldzaam waren. Deze structuur werd geïnterpreteerd als een patroon van "asymmetrische disassortatieve menging".
- Het ICL-resultaat werd beschreven als "gefragmenteerd", waarbij de kern en specifieke bewegingen (zoals #SaveSoil) werden opgesplitst in meerdere kleine, instabiele clusters, terwijl THALES een robuustere structurele identificatie bood.

Betekenis en Claims
Het artikel claimt dat THAMES de eerste simulatie-consistente tool biedt voor het bepalen van het aantal clusters in blokmodellen, waarmee een kritiek gat in Bayesiaanse modelselectie voor netwerkdata wordt gedicht. Door invariant te zijn voor label switching en computationeel efficiënt te zijn, maakt het het gebruik van marginale waarschijnlijkheden voor modelvergelijking mogelijk in situaties waar eerdere methoden ofwel inconsistent ofwel onhandelbaar waren. De toepassing op de COP28-dataset demonstreert de praktische bruikbaarheid voor het identificeren van betekenisvolle sociale structuren in grootschalige, ijle netwerken, wat inzichten biedt in de core-periphery dynamiek van online klimaatdiscours die alternatieve methoden (zoals ICL) kunnen vertroebelen door oversegmentatie. De auteurs merken op dat hoewel de methode steunt op gecollapsteerde verdelingen, toekomstig werk de mogelijkheid kan verkennen om simulatie-consistente schatting uit te breiden naar modellen waar dergelijke verdelingen niet beschikbaar zijn.

Het Probleen: De "Label Switching" Verwarring

De Oplossing: THAMES, de "Gecureerde" Detective

Het Bewijs: Simulaties en Praktijktesten

Waarom dit ertoe doet

Meer zoals dit