SphUnc: Hyperspherical Uncertainty Decomposition and Causal Identification via Information Geometry

Dit paper introduceert SphUnc, een unificerend raamwerk dat hypersferische representatieleren combineert met structurele causale modellering om voorspellingsonzekerheid te ontleden en interpreteerbare causale relaties te identificeren voor betrouwbare besluitvorming in complexe multi-agent systemen.

De kern

Stel je voor dat je in een drukke, chaotische stad bent waar duizenden mensen tegelijk praten, plannen maken en elkaar beïnvloeden. Dit is een multi-agent systeem: een groep van individuen die met elkaar interageren.

Het probleem is dat het vaak moeilijk is om te weten: Wat is echt waar? Wie beïnvloedt wie? En hoe zeker kunnen we zijn van onze voorspellingen?

Deze paper introduceert SphUnc, een slimme nieuwe manier om deze chaos te doorgronden. Laten we het uitleggen alsof we het over een superkrachtige, wiskundige detective hebben die een heel nieuwe soort kompas gebruikt.

1. Het Kompas: De "Hypersfeer" (De Bol)

Normaal gesproken denken computers in rechte lijnen (zoals op een plat stuk papier). Maar in de echte wereld zijn meningen, intenties en gevoelens vaak meer als richtingen dan als afstanden.

• De Analogie: Stel je voor dat je een kompas hebt. Het is niet belangrijk hoe ver de naald van het midden staat (dat is de grootte), maar naar welke kant hij wijst (dat is de richting).
• SphUnc's truc: In plaats van een plat papier, gebruikt SphUnc een bol (een sfeer). Alle informatie wordt omgezet in pijlen die precies op het oppervlak van deze bol wijzen. Dit helpt het model om te begrijpen dat twee dingen "op elkaar lijken" als ze in dezelfde richting wijzen, zelfs als ze anders groot zijn.

2. Twee soorten twijfel: De "Wetenschapper" en de "Ruis"

Wanneer een computer iets voorspelt, is er altijd twijfel. SphUnc splitst die twijfel op in twee duidelijke soorten, net zoals een detective dat zou doen:

1. Epistemische onzekerheid (De "Ik weet het nog niet"-twijfel):
   • Analogie: Je bent een detective die nog niet genoeg bewijzen heeft. Je weet dat je de oplossing kunt vinden als je meer onderzoek doet. De twijfel zit in jouw kennis, niet in de wereld.
   • In SphUnc: Als de pijlen op de bol erg wazig zijn en in alle richtingen wijzen, zegt het model: "Ik weet het nog niet zeker, ik heb meer data nodig."
2. Aleatorische onzekerheid (De "Chaos"-twijfel):
   • Analogie: Je hebt alle bewijzen, maar de dader is gewoon een onvoorspelbare gek die elke dag iets anders doet. De twijfel zit in de wereld zelf, niet in jou.
   • In SphUnc: Soms is het gewoon ruis. Het model zegt dan: "Ik weet het precies, maar de situatie is zo chaotisch dat het resultaat toch onzeker blijft."

SphUnc is uniek omdat het deze twee soorten twijfel scheiden en dan slim combineert, zodat je precies weet waarom je niet zeker bent.

3. De Regels van het Spel: Oorzaak en Gevolg

Veel modellen kijken alleen naar patronen: "Als A gebeurt, gebeurt B." Maar dat is gevaarlijk! Misschien gebeurt A en B alleen omdat er een derde persoon C is die beiden aanstuurt.

• De Analogie: Stel je voor dat je ziet dat ijsjes worden verkocht en dat mensen verdrinken. Een dom model denkt: "Ijsjes veroorzaken verdrinking!" (Omdat beide in de zomer gebeuren).
• SphUnc's superkracht: SphUnc bouwt een causaal model. Het probeert de echte regels van het spel te vinden. Het vraagt zich af: "Wat zou er gebeuren als we opzettelijk het ijsje verbieden?" (Dit heet een interventie).
• Door te simuleren op die bol, kan SphUnc zeggen: "Nee, het is niet het ijsje. Het is de hitte." Het onderscheidt dus echte invloed van toeval.

4. Hoe werkt het in de praktijk?

Het model werkt als een slimme coach voor een team:

1. Invoer: Het kijkt naar de data (bijvoorbeeld tweets, stemmingsmetingen of financiële transacties).
2. Vertaling: Het zet dit om in pijlen op de bol (de "hypersfeer").
3. Analyse: Het meet hoe wazig die pijlen zijn (onzekerheid) en wie wie beïnvloedt (oorzaak).
4. Besluit: Het geeft een voorspelling, maar dan met een vertrouwensscore.
   • Voorbeeld: Als het model zegt: "Deze gerucht is waar," maar de twijfel is hoog (veel epistemische onzekerheid), dan zegt het eigenlijk: "Ik denk van wel, maar wees voorzichtig, ik heb nog niet genoeg bewijs."

Waarom is dit belangrijk?

In complexe situaties (zoals sociale netwerken, medische diagnoses of financiële markten) is het gevaarlijk om alleen naar een voorspelling te kijken. Je moet ook weten hoe zeker die voorspelling is.

SphUnc zorgt ervoor dat:

• Voorspellingen betrouwbaarder zijn.
• We weten waarom we twijfelen (ontbrekende info vs. chaos).
• We kunnen simuleren wat er gebeurt als we iets veranderen (bijvoorbeeld: "Wat als we deze persoon van het sociale netwerk halen?").

Kortom: SphUnc is als een supersterke kompasnaald die niet alleen de weg wijst, maar ook precies aangeeft hoe zeker we zijn van die richting en of we de weg kunnen veranderen door een andere route te kiezen. Het maakt complexe, chaotische systemen begrijpelijker en veiliger voor ons om beslissingen in te nemen.

Technische samenvatting

Titel en Context

Titel: SPHUNC: Hypersferische Uncertainty Decompositie en Causale Identificatie via Informatie-geometrie.
Doel: Het bieden van betrouwbare besluitvorming in complexe multi-agent systemen door gekalibreerde voorspellingen en interpreteerbare onzekerheid te combineren met structurele causale modellering.

---

1. Het Probleem

In complexe multi-agent systemen (zoals sociale netwerken of collaboratieve omgevingen) wordt gedrag bepaald door latente eigenschappen, vluchtige intenties en evoluerende groepsdynamiek. Bestaande methoden hebben drie belangrijke tekortkomingen:

1. Beperkte representatie: Traditionele grafen modelleren alleen paar-voor-paar relaties en missen hogere-orde interacties (multi-party).
2. Onnauwkeurige onzekerheid: Modellen die de geometrie van de data negeren (bijv. door Euclidische ruimte te gebruiken voor richtingsgevoelige data) kunnen epistemic (model) en aleatoric (data) onzekerheid niet goed scheiden, wat leidt tot slechte kalibratie.
3. Gebrek aan causaal inzicht: Het is moeilijk om echte causale invloeden te onderscheiden van homofilie (gelijkheid trekken) of confounding factoren, vooral bij hogere-orde relaties. Bestaande causale methoden (zoals Granger-causaliteit) werken vaak niet goed op latente structuren in niet-Euclidische ruimtes.

---

2. Methodologie: Het SphUnc Framework

SphUnc is een unificerend framework dat hypersferische representatielering koppelt aan structurele causale modellering (SCM).

A. Hypersferische Representatie en vMF

• Projectie: Kenmerken van agents worden geprojecteerd naar een eenheids-hypersfeer ($S^{D-1}$) via een normalisatielaag.
• Verdeling: De latente toestanden worden gemodelleerd met von Mises-Fisher (vMF) verdelingen. Dit is ideaal voor directionele data (oriëntatie is belangrijker dan magnitude).
• Parameters:
  • $\mu$: De gemiddelde richting (mean direction).
  • $\kappa$: De concentratieparameter. Een hoge $\kappa$ betekent hoge zekerheid (lage onzekerheid), een lage $\kappa$ betekent grote spreiding.

B. Decompositie van Onzekerheid

Het model splitst totale voorspellende onzekerheid ($U_{total}$) in twee componenten:

1. Epistemic Uncertainty ($U_{epi}$): Gerelateerd aan de onzekerheid van het model zelf. Dit wordt gemeten via de hypersferische entropie ($H_{sph}$) van de vMF-verdeling, die afhangt van $\kappa$.
2. Aleatoric Uncertainty ($U_{alea}$): De irreductibele ruis in de data. Dit wordt gemodelleerd door een apart "aleatoric head" dat de variantie ($\sigma^2$) schat.

• Fusie: Een leerbaar, monotoon mechanisme ($g_\omega$) combineert deze twee tot een totale onzekerheidsschatting, waarbij de interpretatie van de bijdragen behouden blijft.

C. Structurele Causale Modellering (SCM) op de Sfeer

• Dynamica: De evolutie van agents wordt beschreven door structurele vergelijkingen op de hypersfeer: $h^i_t = F_i(\{h^j_{t-1}\}, x^i_t, \epsilon^i_t)$.
• Berichtenoverdracht: Er wordt gebruik gemaakt van Spherical Hypergraph Message Passing met "angular attention". Dit houdt rekening met de hoek tussen vectoren in plaats van alleen de afstand.
• Interventie: Het model ondersteunt do-calculus. Door een subset van latente toestanden vast te zetten (interventie $do(h^*)$), kan het model de gevolgen simuleren en de causale onzekerheid ($H_{causal}$) berekenen.

D. Leerdoel (Loss Function)

Het model wordt getraind om een samengestelde loss te minimaliseren:
$$\mathcal{L} = \mathcal{L}_{pred} + \lambda_1 \mathcal{L}_{entropy} + \lambda_2 \mathcal{L}_{causal}$$

• $\mathcal{L}_{pred}$: Voorspellingsnauwkeurigheid.
• $\mathcal{L}_{entropy}$: Kalibratie van de totale onzekerheid tegen empirische fouten.
• $\mathcal{L}_{causal}$: Regularisatie voor causale structuur en consistentie met domeinkennis.

---

3. Belangrijkste Bijdragen

1. Hypersferische Onzekerheidsdecompositie: Een nieuwe methode om directionele epistemic onzekerheid te kwantificeren via vMF-concentratie, gecombineerd met een aleatoric schatter.
2. Gecombineerd Trainingsproces: Een gezamenlijke training die latente geometrie, onzekerheidskalibratie en causale structuurontdekking aligneert, zodat representatielering direct wordt gestuurd door causale en kalibratie-doelen.
3. Operationele Identificeerbaarheid: Definities van voorwaarden waaronder de decompositie uniek is, samen met een evaluatieprotocol dat zowel interventie-entropie als een "confidence score" voor de gevonden structuur rapporteert.
4. Empirische Validatie: Uitgebreide experimenten die aantonen dat SphUnc superieur is aan bestaande methoden op sociale en affectieve benchmarks.

---

4. Resultaten

Het model is getest op diverse datasets, waaronder SNARE (sociale netwerken), PHEME (online geruchten/ Twitter), en AMIGOS (multimodaal affect).

• Voorspellende Prestaties: SphUnc behaalde consistent hogere scores (F1, AUC, Accuracy) dan sterke baselines zoals HyperGCN, SphereNet en CI-GNN.
  • Voorbeeld: Op SNARE steeg de F1-score van 71.4 (Causal-SphHN) naar 78.5 (SphUnc).
• Kalibratie: De Expected Calibration Error (ECE) werd aanzienlijk verlaagd.
  • Voorbeeld: Op PHEME daalde de ECE van 0.041 naar 0.018, wat betekent dat de voorspelde zekerheid veel beter overeenkomt met de werkelijke nauwkeurigheid.
• Causale Herwinning: SphUnc herstelde gerichte causale invloeden met een veel hogere precisie (Precision@10) dan concurrenten, wat aantoont dat het effectief onderscheid maakt tussen correlatie en causaliteit.
• Robuustheid: Het model degradeerde minder snel bij het wegvallen van input-kenmerken (feature dropout) dan andere modellen, dankzij de geometrische inductieve bias.
• Ablatie Studies: Verwijdering van de hypersferische representatie, de onzekerheidsdecompositie of de causale module leidde tot significante prestatieverliezen, wat bewijst dat alle componenten essentieel zijn.

---

5. Betekenis en Conclusie

SphUnc biedt een fundamentele doorbraak voor het modelleren van multi-agent systemen met hogere-orde interacties.

• Theoretisch: Het koppelt informatie-geometrie (vMF op de sfeer) met causale inferentie, wat een nieuwe weg opent voor het modelleren van onzekerheid in niet-Euclidische ruimtes.
• Praktisch: Het stelt onderzoekers en practitioners in staat om niet alleen nauwkeurige voorspellingen te doen, maar ook om te begrijpen waarom een model onzeker is (epistemic vs. aleatoric) en om de gevolgen van ingrepen te simuleren.
• Toepassing: Het is bijzonder waardevol voor domeinen zoals beleidsanalyse, mensgerichte AI en risicobeheer, waar betrouwbare besluitvorming onder onzekerheid cruciaal is.

Kortom, SphUnc vestigt een "geometrisch-causale" basis voor onzekerheidsbewuste redenering in complexe systemen.