Latent space models for grouped multiplex networks

Deze paper introduceert het GroupMultiNeSS-model, dat de identificeerbare en via convex optimalisatie schatbare latentere ruimte-structuren van gegroepeerde multilayer netwerken ontrafelt om zowel gedeelde, groepspecifieke als individuele patronen te scheiden, wat leidt tot verbeterde modellering en inzichten in toepassingen zoals Parkinson-onderzoek.

De kern

De "Groepsgeheugen" van Netwerken: Een Simpele Uitleg van de GroupMultiNeSS

Stel je voor dat je een enorme bibliotheek hebt vol met boeken. Maar dit zijn geen gewone boeken; het zijn netwerken. Denk aan een kaart van vliegroutes, een diagram van vrienden op sociale media, of een kaart van verbindingen in een hersen.

In de echte wereld hebben we vaak niet één kaart, maar een hele reeks. Bijvoorbeeld:

• De hersenverbindingen van 40 verschillende mensen.
• De handelsroutes tussen landen, maar dan voor verschillende goederen (koffie, auto's, computers).

De uitdaging is: hoe begrijp je al die kaarten tegelijk?

Het Probleem: De "Alles-en-Alles" Verwarring

Tot nu toe hadden wetenschappers twee manieren om naar deze verzameling kaarten te kijken:

1. De "Alles-over-een-streep" methode: Ze keken alleen naar wat iedereen gemeen heeft. Alsof je zegt: "Alle mensen hebben een hart en longen." Dat is waar, maar het vertelt je niets over wie ziek is en wie gezond.
2. De "Iedereen is uniek" methode: Ze keken alleen naar wat elk individu speciaal maakt. Alsof je zegt: "Jouw hartslag is anders dan die van mij." Dat is ook waar, maar het negeert de grote patronen die ons allemaal verbinden.

Het probleem is dat er vaak een tussenliggende groep is. Bijvoorbeeld: "Alle Parkinson-patiënten hebben een specifiek patroon in hun hersenen dat gezond mensen niet hebben, maar dat wel verschilt van het algemene menselijke patroon."

De oude methoden zagen dit groepspatroon niet goed, omdat ze verwarden wat "gemeenschappelijk voor iedereen" is met wat "specifiek voor een groep" is.

De Oplossing: GroupMultiNeSS

De auteurs van dit papier (Kagan, MacDonald, Levina en Zhu) hebben een nieuwe wiskundige tool bedacht, genaamd GroupMultiNeSS.

Je kunt je dit voorstellen als een drie-laags cake of een ontleedbaar puzzel:

1. De Bodemlaag (Het Gemeenschappelijke): Dit is wat iedereen in de dataset deelt. Bijvoorbeeld: "Alle mensen hebben een hersenstam." Dit is de basisstructuur die voor iedereen geldt.
2. De Middenlaag (De Groep): Dit is wat alleen een specifieke groep deelt. Bijvoorbeeld: "Alle Parkinson-patiënten hebben een specifieke verandering in de kleine hersenen." Gezonde mensen hebben dit niet.
3. De Toplaag (Het Individueel): Dit is wat iedere persoon uniek maakt. Bijvoorbeeld: "Jouw specifieke manier van lopen of jouw unieke vriendengroep."

De magie van GroupMultiNeSS is dat het deze drie lagen tegelijkertijd kan "ontleden". Het kan zeggen: "Oké, dit stukje van de kaart hoort bij de basis (voor iedereen), dit stukje hoort bij de Parkinson-groep, en dit stukje is puur van deze ene persoon."

Hoe werkt het? (De Metafoor van de Geluidsmixer)

Stel je voor dat je naar een concert luistert waar drie bands tegelijk spelen:

• Band A (De basis) speelt een constante baslijn.
• Band B (De groep) speelt een melodie die alleen in de eerste helft van de zaal te horen is.
• Band C (De individuen) speelt willekeurige nootjes die elke luisteraar anders hoort.

Een oude microfoon zou alleen het totale geluid opnemen (een rommelige soep). Een andere microfoon zou proberen alleen de individuen te horen, maar dan mis je de melodie van de groep.

GroupMultiNeSS is als een super-mixer. Het kan het geluid opnemen en vervolgens de knoppen draaien om:

• De baslijn (gemeenschappelijk) eruit te halen.
• De groeps-melodie (Parkinson vs. Gezond) eruit te halen.
• De individuele nootjes (persoonlijke variatie) eruit te halen.

Wat hebben ze ontdekt? (Het Parkinson-voorbeeld)

De auteurs hebben hun tool getest op echte hersen-data van mensen met Parkinson en gezonde mensen.

• Vroeger: Als je de data analyseerde, zag je misschien een paar kleine verschillen, maar het was vaag. Het was alsof je probeerde een schilderij te zien door een troebel raam.
• Met GroupMultiNeSS: Ze konden duidelijk zien dat bij Parkinson-patiënten de verbindingen in de kleine hersenen (balans) en de achterhoofdskwab (zicht) heel anders waren dan bij gezonde mensen.
• Waarom is dit belangrijk? Omdat deze gebieden precies die functies regelen die bij Parkinson vaak kapot gaan (balans en visuele verwerking). De tool heeft de "ruis" van individuele verschillen verwijderd en het echte ziektepatroon blootgelegd.

Waarom is dit cool?

1. Het is slim: Het leert zelf hoeveel er gemeen is en hoeveel er uniek is. Je hoeft het niet van tevoren in te stellen.
2. Het is eerlijk: Het behandelt elke groep en elk individu met respect, zonder ze door elkaar te halen.
3. Het helpt bij diagnose: Door precies te zien waar de groepen verschillen, kunnen artsen en onderzoekers betere tests ontwikkelen en betere behandelingen bedenken.

Kortom: GroupMultiNeSS is een nieuwe bril waarmee we naar complexe netwerken kunnen kijken. In plaats van een wazige massa te zien, kunnen we nu duidelijk onderscheid maken tussen wat voor iedereen geldt, wat voor een specifieke groep geldt, en wat uniek is voor jou. En dat is een enorme stap vooruit in het begrijpen van de wereld om ons heen, van onze hersenen tot de wereldwijde handel.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "Latent space models for grouped multiplex networks" van Kagan et al., geschreven in het Nederlands.

Titel: Latent space modellen voor gegroepeerde multiplex netwerken

1. Probleemstelling

Complex multilayer (multiplex) netwerkdatabestanden zijn overal te vinden in toepassingen zoals neurowetenschappen, sociale wetenschappen en genetica. Bestaande statistische methoden voor deze data focussen meestal op het modelleren van de structuur die door alle netwerken (lagen) wordt gedeeld, of op individuele variatie per laag.

Echter, in real-world scenario's (bijvoorbeeld hersenconnectiviteit bij patiënten met een ziekte versus gezonde controles) vertonen netwerken vaak patronen die specifiek zijn voor bepaalde subgroepen van lagen. Bestaande modellen kunnen deze groepspecifieke structuren niet onderscheiden van de algemene gemeenschappelijke structuur en de individuele variatie. Dit leidt tot een verlies aan power bij statistische toetsen en beperkt de mogelijkheid om systematische verschillen tussen groepen (bijv. behandelingsgroep vs. controlegroep) te visualiseren en te analyseren.

Het centrale probleem: Hoe kunnen we een latent space model ontwikkelen dat simultaan drie niveaus van structuur kan extraheren uit een steekproef van multiplex netwerken:

1. Gemeenschappelijke structuur: Gedeeld door alle lagen.
2. Groepspecifieke structuur: Gedeeld binnen een specifieke subset van lagen (groepen).
3. Individuele structuur: Specifiek voor elke enkele laag.

2. Methodologie: Het GroupMultiNeSS Model

De auteurs introduceren GroupMultiNeSS (GROUPed MULTIplex NEtworks with Shared Structure), een generalisatie van het eerdere MultiNeSS-model.

Modelstructuur:
Het model veronderstelt dat de latent posities $X_{k\ell}$ van een laag $\ell$ binnen groep $k$ kunnen worden ontbonden in drie componenten:
$$X_{k\ell} = [V, W_k, U_{k\ell}]$$

• $V$: De latent posities voor de gemeenschappelijke structuur (gedeeld door alle $M$ lagen).
• $W_k$: De latent posities voor de groepspecifieke structuur (gedeeld door de $m_k$ lagen binnen groep $k$).
• $U_{k\ell}$: De individuele latent posities (specifiek voor laag $\ell$).

De waargenomen connectiviteit (adjacency matrix $A_{k\ell}$) wordt gemodelleerd via een exponentiële familie verdeling waarbij de verwachte waarde afhangt van een Gram-matrix $\Theta_{k\ell}$, opgebouwd uit deze componenten met een veralgemeende inproduct-functie (inclusief disassortatieve dimensies).

Schattingsprocedure (Algorithm 1):
Om de parameters te schatten, gebruiken de auteurs een convex optimalisatiebenadering met een nucleaire norm straal (nuclear norm penalty) om lage-rang constraints te forceren zonder het probleem niet-convex te maken. Het algoritme werkt in twee fasen:

1. Fase I (Binnen groepen): Schatting van de som van gemeenschappelijke en groepscomponenten ($S + Q_k$) en de individuele componenten ($R_{k\ell}$) voor elke groep apart. Dit wordt gedaan via blokgewijze coördinaatdaling (block coordinate descent) met soft-thresholding.
2. Fase II (Tussen groepen): Schatting van de pure gemeenschappelijke component ($S$) en de pure groepscomponenten ($Q_k$) door de geschatte individuele componenten uit Fase I vast te houden.

Hyperparameterselectie:
De tuning parameters (stralingsterktes) worden geselecteerd via edge cross-validation, waarbij een subset van randen wordt gebruikt voor training en de rest voor validatie.

Identificeerbaarheid:
De auteurs bewijzen dat de parameters identificeerbaar zijn (tot op een indefinitie orthogonale rotatie) onder voorwaarden dat er voldoende lagen zijn binnen groepen en tussen groepen om de componenten van elkaar te kunnen scheiden.

3. Belangrijkste Bijdragen

• Nieuw Model: Introductie van GroupMultiNeSS, het eerste model dat expliciet gemeenschappelijke, groepspecifieke en individuele latent structuren in multiplex netwerken scheidt.
• Theoretische Garanties: Bewijs van identificeerbaarheid en consistentie van de schatters onder een Gaussische randverdeling. De foutenmarges worden afgeleid en tonen aan dat de schatters de "oracle" snelheid bereiken (de snelheid die bereikt zou worden als de ware rangen en andere parameters bekend waren) onder bepaalde scheidingcondities.
• Efficiënt Algoritme: Ontwikkeling van een convex optimalisatie-algoritme met nucleaire norm straling, wat zorgt voor stabiliteit en convergentie, in tegenstelling tot niet-convexe benaderingen.
• Empirische Validatie: Uitgebreide simulaties en een toepassing op real-world data.

4. Resultaten

Synthetische Experimenten:

• Accuraatheid: GroupMultiNeSS presteert aanzienlijk beter dan bestaande methoden zoals MultiNeSS (dat geen groepsstructuur onderscheidt) en COSIE/MASE (die een gemeenschappelijke ruimte schatten zonder groepsnuances).
• Scheiding: Het model slaagt erin de individuele componenten ($R$) en groepscomponenten ($Q$) nauwkeurig te scheiden, zelfs wanneer deze sterk correleren.
• Oracle Vergelijking: De prestaties van GroupMultiNeSS komen dicht in de buurt van de "oracle" versie (waarbij de ware rangen bekend zijn), wat aantoont dat de straling en cross-validation effectief werken.
• Invloed van Data: De schattingsfout neemt af met het aantal knopen ($n$) en het aantal lagen ($M$), wat overeenkomt met de theoretische voorspellingen.

Toepassing: Parkinson's Ziekte (Hersenconnectiviteit):
De auteurs pasten het model toe op een dataset van 40 onderwerpen (20 Parkinson-patiënten, 20 controles) met fMRI-data.

• Resultaat: Het model identificeerde significante verschillen in de groepspecifieke latent posities tussen de patiënten en de controles.
• Biologische Interpretatie: Er werden sterke verschillen waargenomen in het cerebellum (evenwicht/spiercontrole) en de occipitale kwab (visuele verwerking), wat overeenkomt met bekende symptomen van Parkinson. Ook het frontaal en temporale kwab toonden verschillen.
• Vergelijking: Wanneer men MultiNeSS apart op elke groep toepaste (zonder de gemeenschappelijke structuur te scheiden), leken de groepen meer op elkaar. GroupMultiNeSS onthulde echter de subtiele, maar biologisch relevante verschillen door de "ruis" van de gemeenschappelijke menselijke structuur te verwijderen.
• Statistische Toetsing: Een permutatietest bevestigde dat de verschillen in connectiviteit tussen bepaalde hersensystemen statistisch significant waren.

5. Betekenis en Conclusie

De studie toont aan dat het negeren van groepsstructuren in multiplex netwerken leidt tot een verlies aan inzicht en statistische power. GroupMultiNeSS biedt een krachtig, flexibel en theoretisch onderbouwd kader om complexe netwerkdatabestanden te analyseren waarbij lagen in natuurlijke groepen voorkomen.

Toekomstperspectief:
De auteurs wijzen op mogelijke uitbreidingen, zoals het hanteren van onbekende groepsleden (clustering), het toepassen op gerichte netwerken, en het ontwikkelen van formele toetsingsprocedures voor groepsverschillen. Het model legt de basis voor een universele aanpak voor complexe multiplex netwerken in diverse wetenschappelijke domeinen.