A Bayesian approach to out-of-sample network reconstruction

Deze paper introduceert een Bayesiaanse methode die gebruikmaakt van informatie uit eerdere netwerksnappschotten om toekomstige configuraties te voorspellen en onzekerheid te kwantificeren, waardoor nauwkeurige, zelfonderhoudende reconstructie van evoluerende netwerken mogelijk wordt met minimale extra data.

De kern

De Kern: Het Voorspellen van een Netwerk met een "Geheugen"

Stel je voor dat je een enorme, ingewikkelde web van banken probeert te begrijpen. Bank A leent geld aan Bank B, die weer geld leent aan Bank C, enzovoort. Dit is een netwerk.

Het probleem is dat we vaak niet het hele netwerk kunnen zien. We zien misschien alleen hoeveel geld elke bank heeft verhuurd of geleend (de "sterkte" van de bank), maar we weten niet precies wie met wie een deal heeft gesloten. Het is alsof je een feestje binnenkomt en je ziet hoeveel drankjes elke gast heeft gedronken, maar je ziet niet wie met wie praat.

Wat doen de onderzoekers?
Ze hebben een nieuwe, slimme manier bedacht om die onzichtbare gesprekken (de verbindingen) te voorspellen. Ze noemen dit een Bayesiaanse benadering.

De Analogie: De "Verstandige Gokker"

Om dit te begrijpen, laten we twee manieren vergelijken om het netwerk te reconstrueren:

1. De Oude Manier: De Vergetelheid (Maximum Likelihood)

Stel je voor dat je elke maand een nieuwe foto maakt van het feestje. De oude methode kijkt naar de foto van deze maand, probeert de regels te raden die op die ene foto van toepassing zijn, en gooit die regels daarna weg.

• Het nadeel: Als je de volgende maand een nieuwe foto maakt, begint het proces helemaal opnieuw. Het heeft geen "geheugen". Het weet niet dat de sfeer in januari leek op die in december. Het is alsof je elke dag opnieuw probeert te raden hoe het weer wordt, zonder naar gisteren te kijken.

2. De Nieuwe Manier: De "Verstandige Gokker" (Bayesiaanse Aanpak)

De onderzoekers hebben een methode bedacht die werkt als een slimme gokker met een geheugen.

• Stap 1: Het Verleden als Gids. Ze kijken naar de foto's van de afgelopen jaren. Ze leren hieruit een patroon: "Ah, als Bank X veel geld heeft, is de kans groot dat ze ook met Bank Y praten."
• Stap 2: De Gok. Voor de volgende maand (de toekomst) gebruiken ze die geleerde patronen als een startpunt (in het vakjargon: een prior). Ze maken een gok over wie met wie praat, gebaseerd op wat ze al weten.
• Stap 3: Het Leren. Zodra ze de nieuwe maand hebben (of een schatting daarvan), gebruiken ze die informatie om hun "gok-vaardigheden" nog beter te maken voor de maand daarna.

De Magie: De voorspelling voor maand 1 wordt gebruikt om maand 2 te voorspellen, en die weer voor maand 3. Het systeem zelfonderhoudend (self-sustained). Het heeft geen nieuwe, volledige data nodig om te blijven werken; het bouwt voort op zijn eigen voorspellingen.

De Twee Methoden die ze Testten

De onderzoekers testten twee versies van deze "verstandige gokker" op echte data van de Italiaanse interbancaire markt (eMID) tussen 1999 en 2012:

1. De "Gelijke Kansen" Methode (BERM):

   • Analogie: Stel je voor dat je denkt dat elke bank even belangrijk is. Je gokt dat iedereen met iedereen praat, gebaseerd op het gemiddelde aantal gesprekken.
   • Resultaat: Dit werkt goed om te voorspellen hoeveel totaal er wordt verhandeld, maar het faalt als je wilt weten wie precies met wie praat. Het ziet alle banken als identieke kopieën.

2. De "Individuele Sterkte" Methode (BFM - De Winnaar):

   • Analogie: Hierbij kijken ze naar de "sterkte" van elke bank. Sommige banken zijn enorme spelers (zoals een supermarktketen), anderen zijn kleine winkeltjes. De methode zegt: "Een grote speler heeft een hogere kans om met een andere grote speler te praten."
   • Resultaat: Dit werkt veel beter! Het kan niet alleen het totale aantal gesprekken voorspellen, maar ook heel nauwkeurig voorspellen welke specifieke banken met elkaar verbonden zijn. Het houdt rekening met de verschillen tussen de banken.

Waarom is dit belangrijk?

• Risicobeheersing: In de financiële wereld is het cruciaal om te weten wie met wie verbonden is. Als een grote bank faalt, kan dat een kettingreactie veroorzaken. Als je het netwerk niet goed kunt voorspellen, zie je de risico's niet aankomen.
• Minder Data nodig: De oude methoden hadden vaak volledige data nodig om te werken. Deze nieuwe methode kan werken met heel weinig informatie (alleen de "sterkte" van de banken) en toch een betrouwbaar beeld van het hele netwerk schetsen.
• Toekomstvoorspelling: Omdat het systeem zijn eigen voorspellingen gebruikt om de volgende stap te zetten, kunnen we in theorie het netwerk in de toekomst volgen, zelfs als we geen nieuwe data meer binnenkrijgen.

Samenvattend in één zin:

De onderzoekers hebben een slimme computerprogramma bedacht dat, net als een ervaren detective, het verleden gebruikt om een "geest" van het netwerk te vormen, en die geest vervolgens gebruikt om de toekomst van wie met wie praat nauwkeurig te voorspellen, zelfs als de volledige waarheid verborgen blijft.

Technische samenvatting

Titel: Een Bayesiaanse aanpak voor reconstructie van netwerken buiten de steekproef (Out-of-sample)

Auteurs: Mattia Marzi en Tiziano Squartini
Datum: 26 februari 2026

---

1. Het Probleem

Netwerken vormen de basis van systemen variërend van de financiën tot de biologie, maar hun structuur is vaak slechts gedeeltelijk waarneembaar. Bestaande methoden voor netwerkreconstructie passen doorgaans modelparameters opnieuw aan voor elke individuele tijdsnapshot (in-sample). Dit heeft twee grote beperkingen:

1. Geen voorspellend vermogen: Deze methoden bieden geen richtlijnen om toekomstige configuraties te voorspellen.
2. Geen onzekerheidskwantificering: Traditionele benaderingen (zoals Maximum Likelihood Estimation) leveren punt-schattingen op zonder de onzekerheid over parameters van de ene snapshot naar de andere te propageren.

Er is een behoefte aan een methode die informatie uit het verleden gebruikt om een a priori (prior) te vormen voor toekomstige netwerken, waarbij onzekerheid expliciet wordt meegenomen.

2. Methodologie

De auteurs ontwikkelen een volledig Bayesiaans raamwerk om netwerken te reconstrueren op basis van eerdere observaties, zonder toegang te hebben tot de daadwerkelijke topologie van de toekomstige snapshot.

Kernconcepten:

• Bayesiaanse Inferentie: In plaats van alleen de parameters te schatten die het beste bij de huidige data passen, wordt de posterior predictive distribution gebruikt. Dit stelt de kans voor op een toekomstige netwerkconfiguratie ($A_{t+1}$) gegeven de huidige observatie ($A_t$):
  $$P(A_{t+1}|A_t) = \int P(A_{t+1}|x) P(x|A_t) dx$$
  Hierbij is $x$ de onbekende parameter en $P(x|A_t)$ de posterior verdeling van de parameter gegeven de huidige data.
• Empirische Prior: De auteurs gebruiken een "empirische prior" die wordt afgeleid uit een rollend venster van eerdere snapshots. Dit zorgt ervoor dat de geschiedenis van het netwerk de voorspelling beïnvloedt.
• Modelkeuze:
  1. Bayesiaanse Erdős-Rényi Model (BERM): Een homogene benadering waarbij alle knopen gelijk worden behandeld. De link-kans $p$ wordt gemodelleerd met een Beta-verdeling als conjugate prior.
  2. Bayesiaanse Fitness Model (BFM): Een heterogene benadering gebaseerd op het density-corrected Gravity Model (dcGM). Hierbij heeft elke knoop een specifieke "fitness" (sterkte $s_i$), en wordt de link-kans bepaald door:
     $$p_{ij} = \frac{z s_i s_j}{1 + z s_i s_j}$$
     De parameter $z$ (een schaalparameter voor dichtheid) wordt geïntegreerd over een Gamma-verdeling (de prior), afgeleid uit eerdere schattingen.
• Numerieke Integratie: Omdat de BFM geen analytische oplossing toelaat voor de posterior predictive distribution, gebruiken de auteurs numerieke methoden zoals Gauss-Hermite kwadratuur en slice sampling (in logaritmische coördinaten) om de integralen op te lossen.

De "Zelfonderhoudende" (Self-sustained) Regime:
Een unieke test van de methode is het voorspellen van $A_{t+1}$, het gebruik van die voorspelling om $A_{t+2}$ te voorspellen, enzovoort. De voorspelde matrix $Q_t$ (de verwachte waarden) vervangt de werkelijke matrix $A_t$ in de volgende stap. Hierdoor wordt het model volledig zelfonderhoudend en heeft het na de initiële kalibratie geen extra topologische data meer nodig.

3. Belangrijkste Bijdragen

• Out-of-sample Formulier: De eerste toepassing van een entropie-gebaseerd netwerkmodel voor echte voorspelling (out-of-sample) in plaats van alleen reconstructie van bekende data.
• Propagatie van Onzekerheid: Het raamwerk kwantificeert onzekerheid door parameters als verdelingen te behandelen in plaats van vaste waarden, waardoor informatie over de geschiedenis wordt meegenomen.
• Zelfonderhoudende Reconstructie: Het bewijs dat een voorspelde snapshot kan dienen als een betrouwbare prior voor de volgende stap, waardoor een langdurige reconstructie mogelijk is met minimale extra data.
• Open Source Implementatie: De auteurs hebben het Python-pakket OR4CLE (Out-of-sample bayesian Reconstruction 4 CompLex nEtworks) ontwikkeld en openbaar gemaakt.

4. Resultaten

De methode werd getest op de eMID-dataset (Electronic Market for Interbank Deposits), een markt voor onbeveiligde interbancaire deposito's, over de periode 1999-2012.

• Prestatie BERM vs. BFM:
  • Beide modellen konden het totale aantal verbindingen ($L$) nauwkeurig voorspellen.
  • Het BFM (Fitness Model) was echter aanzienlijk superieur in het voorspellen van de gradenverdeling (het aantal verbindingen per bank). Het BERM kon de heterogeniteit van het netwerk niet vastleggen omdat het uitgaat van een homogene structuur.
  • Het BFM verdubbelde de scores voor True Positive Rate (TPR) en Positive Predictive Value (PPV) vergeleken met het BERM.
• Vergelijking met In-sample Reconstructie:
  • De Bayesiaanse voorspeller (out-of-sample) presteerde bijna even goed als een traditionele dcGM die in-sample wordt getraind (waarbij het totale aantal verbindingen van de toekomstige snapshot al bekend is).
  • Op ongeveer 54% van de wekelijkse snapshots presteerde de Bayesiaanse voorspeller zelfs beter dan de in-sample dcGM.
• Zelfonderhoudende Regime:
  • Zelfs wanneer het model alleen voorspellingen gebruikte als input voor de volgende stap (zonder echte data), bleef de nauwkeurigheid hoog. De Kullback-Leibler-divergentie tussen de werkelijke en de voorspelde netwerken bleef laag, wat aantoont dat het model structurele regulariteiten effectief vasthoudt.

5. Betekenis en Conclusie

Dit onderzoek markeert een verschuiving in de netwerkwetenschap van statische reconstructie naar dynamische voorspelling. De belangrijkste implicaties zijn:

• Robuustheid in Financiële Netwerken: De methode kan de structuur van interbancaire netwerken betrouwbaar reconstrueren en voorspellen, zelfs bij gebrek aan volledige data. Dit is cruciaal voor risicobeheer en het detecteren van systeemrisico's.
• Efficiëntie: Het vermogen om netwerken te voorspellen met slechts een minimale hoeveelheid aanvullende data (alleen de sterktes van de knopen) maakt de methode zeer toepasbaar in real-world scenario's waar data vaak beperkt of vertraagd is.
• Methodologische Vooruitgang: Het bewijst dat Bayesiaanse inferentie, gecombineerd met entropie-maximalisatie, een krachtig instrument is om tijdsafhankelijkheid en onzekerheid in complexe systemen te modelleren.

Samenvattend biedt dit artikel een wiskundig onderbouwde, praktische oplossing voor het voorspellen van de evolutie van complexe netwerken, waarbij elke voorspelling de basis vormt voor de volgende, wat leidt tot een zelfonderhoudend en accuraat reconstructieproces.