📊 statistics

Causality-Encoded Diffusion Models for Interventional Sampling and Edge Inference

Dit artikel introduceert een causaal gecodeerd diffusiemodel dat een bekende gerichte acyclische graaf integreert om zowel interventie-veilingen mogelijk te maken als een betrouwbare statistische test voor gerichte randen te bieden, met bewezen convergentie en controle van type I-fouten.

Oorspronkelijke auteurs: Li Chen, Xiaotong Shen, Wei Pan

Gepubliceerd 2026-04-24

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Li Chen, Xiaotong Shen, Wei Pan

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een enorme, ingewikkelde machine hebt die data genereert, zoals een superkrachtige kunstenaar die foto's tekent of een chef-kok die nieuwe gerechten bedenkt. In de wereld van kunstmatige intelligentie noemen we dit een Diffusiemodel. Deze modellen zijn fantastisch in het nabootsen van hoe de wereld eruit ziet (bijvoorbeeld: hoe een mens eruitziet, of hoe eiwitten in een cel reageren).

Maar er is een groot probleem: deze modellen weten niet waarom dingen gebeuren. Ze weten alleen dat dingen gebeuren. Ze zien dat rook vaak met vuur gaat, maar ze begrijpen niet dat het vuur de oorzaak is van de rook, en niet andersom. Als je ze vraagt: "Wat zou er gebeuren als we het vuur doven?", kunnen ze dat niet goed beantwoorden. Ze zijn "oorzaak-loos".

De auteurs van dit paper, Li Chen, Xiaotong Shen en Wei Pan, hebben een oplossing bedacht. Ze noemen hun uitvinding CEDM (Causality-Encoded Diffusion Models). Laten we dit uitleggen met een paar simpele metaforen.

1. De "Stroomdiagram" Metafoor (De Causale Kaart)

Stel je voor dat je een stad bouwt. Een gewone diffusiemodel bouwt de stad zomaar: het plaatst huizen, wegen en parken op basis van wat het eerder heeft gezien, zonder te kijken naar de logica. Het resultaat ziet er misschien mooi uit, maar het heeft geen zin: een huis staat midden in een meer, of een weg eindigt in een muur.

De auteurs zeggen: "Wacht even, we hebben een stroomdiagram (een zogenaamde DAG - Directed Acyclic Graph)!" Dit is een kaart die aangeeft welke dingen invloed hebben op welke andere dingen. Bijvoorbeeld: Regen veroorzaakt natte straten, en natte straten veroorzaken gladde auto's.

CEDM is als een architect die deze kaart strikt volgt.

In plaats van de hele stad in één keer te tekenen, tekent hij eerst de regen.
Dan tekent hij de straten, wetende dat ze nat zijn door de regen.
Dan tekent hij de auto's, wetende dat de weg glad is.

Door deze volgorde te respecteren, begrijpt het model de oorzaak-gevolg relatie. Het weet nu dat als je de regen verwijdert (een ingreep doen), de straten droog blijven en de auto's niet meer glijden.

2. De "Wat-als" Machine (Interventies)

Het echte toverwerk gebeurt als je vraagt: "Wat als we de regen stopten?" (In de wetenschap noemen we dit een do-interventie).

De oude manier: Een gewoon model zou proberen een foto te maken van een droge stad, maar het zou waarschijnlijk rare dingen doen, zoals auto's die vliegen of straten die vanzelf droog worden zonder reden.
De CEDM manier: Omdat het model de stroomdiagram-kaart kent, "bevriest" het de regen (zet hem op 'geen regen') en laat het de rest van het systeem zich aanpassen volgens de regels. De straten worden droog, en de auto's rijden veilig.

Dit is cruciaal voor wetenschappers. Als je een medicijn wilt testen, wil je weten wat er gebeurt als je dat medicijn toedient (de oorzaak), niet alleen wat er gebeurt bij mensen die toevallig dat medicijn nemen (de observatie). CEDM kan deze "wat-als" scenario's simuleren.

3. De "Grote Ruimte" vs. "Kleine Kamers" (Wiskundige Slimheid)

Een ander groot probleem bij deze modellen is dat ze vaak verstrikt raken in de complexiteit. Stel je voor dat je een kamer moet vullen met ballen. Als de kamer enorm groot is (duizenden variabelen), is het heel moeilijk om te voorspellen waar de ballen komen.

De auteurs tonen aan dat CEDM slim is. Het hoeft niet de hele enorme kamer tegelijk te vullen.

Het kijkt alleen naar kleine kamertjes: "Hoe beïnvloedt deze ene persoon (de ouder) deze ene andere persoon (het kind)?"
Omdat het model zich focust op deze kleine, lokale relaties in plaats van de hele chaotische wereld, werkt het veel sneller en nauwkeuriger, zelfs als er duizenden variabelen zijn. Het is alsof je een groot raadsel oplost door het in kleine, beheersbare stukjes te breken, in plaats van naar het hele plaatje te staren.

4. De "Rechter" (Het Testen van Verbindingen)

Ten slotte gebruiken ze dit model als een rechter in een rechtszaal. Soms weten wetenschappers niet of er een echte verbinding is tussen twee dingen (bijvoorbeeld: "Is dit eiwit de oorzaak van die ziekte, of is het toeval?").

CEDM helpt hierbij door een experiment te doen:

De rechter (het model) zegt: "Laten we doen alsof er géén verbinding is tussen A en B."
Het model genereert duizenden "schijnwereldjes" waarin A en B los van elkaar staan.
Vervolgens kijkt het naar de echte data. Als de echte data er heel anders uitziet dan al die schijnwereldjes, zegt de rechter: "Aha! Er is een echte verbinding!"

Dit helpt wetenschappers om foutieve theorieën te verwijderen en echte ontdekkingen te doen.

Samenvatting in het Kort

Dit paper introduceert een nieuwe manier om slimme computers (AI) te leren hoe de wereld werkt, niet alleen hoe hij eruit ziet.

Het probleem: Bestaande AI's zijn goed in kopiëren, maar slecht in begrijpen van oorzaak en gevolg.
De oplossing: CEDM dwingt de AI om te werken volgens een logische stroomdiagram (causaliteit).
Het resultaat: De AI kan nu betrouwbaar voorspellen wat er gebeurt als je iets verandert (zoals een medicijn geven), en kan helpen ontdekken welke verbanden in de natuur echt zijn en welke nep zijn.

Het is alsof je van een simpele fotokopieerapparaat een echte ingenieur maakt die begrijpt hoe de machine werkt en hem kan repareren of verbeteren.

Titel

Causaliteit-gecodeerde Diffusiemodellen voor Interventie-Steekproeftrekking en Rand-inferentie

1. Het Probleem

Standaard diffusiemodellen zijn krachtige generatieve modellen die complexe verdelingen kunnen schatten via score-estimation en omgekeerde stochastische differentiaalvergelijkingen (SDE's). Echter, deze modellen zijn doorgaans causaliteit-agnostisch: ze leren de gezamenlijke verdeling zonder de directionele asymmetrieën te coderen die nodig zijn voor causale interpretatie.
Dit leidt tot twee hoofdproblemen:

Gebrek aan causale inferentie: Ze kunnen geen principieel antwoord geven op interventievragen (bijv. $do(X=x)$) of ondersteuning bieden voor structurele causale modellen (SCM's).
Curse of Dimensionality: De convergentiesnelheid van standaard diffusiemodellen wordt vaak bepaald door de omgevingsdimensie (het totale aantal variabelen), wat leidt tot slechte prestaties in hoge dimensies, zelfs als de onderliggende structuur lokaal is.

Er is een behoefte aan een framework dat bekende causale structuren (gericht acyclische grafieken of DAG's) integreert in de generatieve processen om zowel interventiële steekproeftrekking mogelijk te maken als de statistische efficiëntie te verbeteren.

2. Methodologie

De auteurs stellen Causality-Encoded Diffusion Models (CEDM) voor, een raamwerk dat een bekende DAG in het diffusieproces codeert.

A. Causaliteit-gecodeerd Diffusieproces

In plaats van één gezamenlijke scorefunctie ( $\nabla \log p_t(x)$ ) te leren, leert CEDM een reeks voorwaardelijke scorefuncties die consistent zijn met de factorisatie van de DAG:
$X_j = g_j(X_{pa(j)}, U_j)$
waarbij $pa(j)$ de ouders van knoop $j$ zijn.

Forward proces: Blijft hetzelfde als in standaard diffusie (toevoegen van ruis).
Reverse proces: Wordt aangepast tot een topologische volgorde. Voor elke knoop $j$ wordt een omgekeerde SDE opgelost die alleen afhankelijk is van de huidige toestand van $j$ en de reeds gegenereerde waarden van de ouders $X_{pa(j)}$ .
Interventie-Steekproeftrekking: Om een interventie $do(X_S = x^*_S)$ te simuleren, worden de variabelen in $S$ gefixeerd op hun interventiewaarden tijdens het reverse proces. De effecten worden vervolgens door de DAG gepropageerd naar de afstammelingen, wat resulteert in steekproeven uit de interventiële verdeling $p(x | do(X_S = x^*_S))$ .

B. Training en Schatting

De voorwaardelijke scorefuncties worden geschat met behulp van Denoising Score Matching. De auteurs bewijzen dat neural networks (ReLU) voldoende expressief zijn om deze scores te benaderen. Een cruciaal aspect is dat de schattingsfout wordt bepaald door de maximale lokale dimensie ( $q = \max_j (d_j + d_{pa(j)})$ ) en niet door de totale dimensie $d$ .

C. CEDM-gebaseerde Inferentie (CEDMI)

Voor het testen van gerichte randen in een DAG gebruiken de auteurs een resampling-benadering:

Null-hypothese: Een specifieke rand $(k \to j)$ ontbreekt.
Generatie: Een CEDM wordt getraind op de "null-grafiek" (waar de rand is verwijderd).
Resampling: De generator wordt gebruikt om nieuwe steekproeven te trekken voor $X_j$ onder de voorwaarde dat de ouders (exclusief $k$ ) en $X_k$ vastgehouden worden.
Teststatistiek: Een nieuwe multivariate conditionele afhankelijkheidscoëfficiënt (MCODEC) wordt gebruikt om de afhankelijkheid tussen $X_j$ en $X_k$ gegeven de andere ouders te meten. Deze coëfficiënt is rang-gebaseerd, tuning-vrij en loopt van 0 tot 1.
P-waarde: De p-waarde wordt berekend door de geobserveerde statistiek te vergelijken met de verdeling van statistieken gegenereerd door de CEDM onder de null-hypothese.

3. Belangrijkste Bijdragen

Methodologie: Introductie van CEDM, een score-based generatief raamwerk dat causale structuur respecteert, en CEDMI, een procedure voor rand-inferentie gebaseerd op resampling.
Statistische Garantie:
- Bewijzen van convergentie voor zowel observationele als interventiële steekproeftrekking. De foutmarges worden beheerst door de maximale lokale dimensie ( $q$ ) in plaats van de omgevingsdimensie ( $d$ ). Dit biedt een structurele vorm van dimensiereductie.
- Bewijs van asymptotische controle van de Type I-fout voor de randtest.
Empirische Validatie: Uitgebreide simulaties tonen aan dat CEDM betere recovery van interventiële verdelingen biedt dan bestaande methoden (zoals VACA en causale-agnostische diffusie). CEDMI toont een goede kalibratie (grootte) en hoge power, zelfs in niet-lineaire en niet-additieve settings.

4. Resultaten

Simulaties (Distributierecovery): In synthetische grafieken (Chain, Hub, Random) en op het Sachs-signaleringsnetwerk presteerde CEDM significant beter in het reproduceren van interventiële verdelingen (gemeten via MMD) dan benchmarks. Het voordeel is het grootst bij schaarse grafieken.
Simulaties (Inferentie): CEDMI behield een Type I-foutrate dicht bij het nominale niveau (0.05) over verschillende configuraties, terwijl andere methoden (zoals RCoT en RCIT) vaak te liberaal waren. CEDMI toonde ook superieure power bij het detecteren van bestaande randen.
Toepassing (Flow Cytometry): De methode werd toegepast op een dataset van CD4+ T-cellen om betwiste signaalkoppelingen te testen.
- CEDMI ondersteunde de rand Erk $\to$ Akt, wat consistent is met biologische literatuur over kruis-talk, maar niet in het oorspronkelijke "consensus"-netwerk stond.
- De methode verwierp andere betwiste randen die in het consensusnetwerk stonden, wat suggereert dat het consensusnetwerk niet als absolute waarheid moet worden beschouwd.

5. Betekenis en Conclusie

Dit werk markeert een belangrijke stap in de integratie van causale theorie en moderne generatieve AI.

Theoretisch: Het toont aan dat het coderen van causale structuur in diffusiemodellen niet alleen de interpretatie verbetert, maar ook de statistische complexiteit verlaagt door de afhankelijkheid van de totale dimensie te doorbreken.
Praktisch: Het biedt een robuust instrument voor causale inferentie in complexe, niet-lineaire systemen waar traditionele lineaire methoden falen. Het vermogen om interventiële verdelingen te simuleren en randen te testen zonder strikte aannames over de onderliggende verdelingen (zoals lineariteit of additieve ruis) maakt het zeer waardevol voor toepassingen in de biologie en geneeskunde.
Toekomst: De auteurs wijzen op de noodzaak van een geünificeerde aanpak die structureel leren (het vinden van de DAG) koppelt aan causaal gecodeerde score-schatting, aangezien de huidige methode een bekende DAG vereist.