I-CAM-UV: Integrating Causal Graphs over Non-Identical Variable Sets Using Causal Additive Models with Unobserved Variables

Dit paper introduceert I-CAM-UV, een methode die Causal Additive Models met niet-gewaarnomen variabelen (CAM-UV) integreert over meerdere datasets met niet-identieke variabele sets om een samenhangend causaal graf te reconstrueren dat rekening houdt met verborgen confounders.

De kern

Stel je voor dat je een detective bent die probeert het verhaal van een misdaad op te lossen. Maar er is een probleem: je hebt niet één dossier, maar meerdere dossiers van verschillende agenten. En elk dossier bevat een ander stukje van de puzzel.

Soms heeft Agent A foto's van de verdachte en het slachtoffer, maar mist de foto van de getuige. Agent B heeft de foto's van de verdachte en de getuige, maar mist die van het slachtoffer. En soms hebben ze allebei een foto van een spookgetuige die niemand anders heeft gezien.

Deze paper, getiteld I-CAM-UV, is een slimme nieuwe methode om al die losse puzzelstukken samen te voegen tot één compleet, logisch verhaal, zelfs als er "onzichtbare" stukjes ontbreken.

Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het Probleem: De Gebroken Spiegels

In de wetenschap proberen we vaak te begrijpen wat de oorzaak is van iets (bijvoorbeeld: "Is roken de oorzaak van kanker?"). Meestal kijken we naar één grote dataset. Maar in de echte wereld hebben we vaak veel kleine datasets.

• Dataset 1 meet alleen variabelen A, B en C.
• Dataset 2 meet alleen B, C en D.
• Dataset 3 meet alleen A en D.

Als je deze datasets simpelweg over elkaar heen legt (zoals twee transparante vellen papier), krijg je een rommeltje. Je ziet niet hoe A en D met elkaar te maken hebben, omdat ze nooit samen zijn gemeten. En erger nog: soms is er een "geheime" oorzaak (een onzichtbare variabele) die alles beïnvloedt, maar die staat in geen enkel dataset.

2. De Oude Methode: Het "Gokken"

Vroeger probeerden onderzoekers gewoon de beste schatting te maken voor elke dataset apart en die dan te plakken.

• Het nadeel: Als er een onzichtbare oorzaak is (een "spook"), denken ze dat twee dingen direct met elkaar te maken hebben, terwijl ze eigenlijk beide door dat spook worden gestuurd. Het verhaal klopt dan niet.

3. De Nieuwe Methode: I-CAM-UV (De "Spook-Detective")

De auteurs van dit papier hebben een slimme truc bedacht. Ze gebruiken een bestaande tool genaamd CAM-UV.

• Wat doet CAM-UV? In plaats van te zeggen "Ik weet het niet", zegt deze tool: "Ik zie een mysterieus verband tussen A en B, alsof er een onzichtbare spook tussen zit die ze aan het sturen is." Het tekent een lijntje en zegt: "Hier is een onzichtbaar pad."

I-CAM-UV pakt al die "spook-lijntjes" uit de verschillende datasets en probeert ze samen te voegen tot één groot, logisch verhaal.

4. Hoe werkt het? (De Creatieve Analogie)

Stel je voor dat je een enorme doos met Lego-blokken hebt. Je wilt een kasteel bouwen, maar je hebt geen blauwdruk. Je hebt wel drie dozen met instructies van drie verschillende mensen:

• Persoon 1 zegt: "De toren moet hier staan, maar er is een onzichtbare muur die de toren tegenhoudt."
• Persoon 2 zegt: "De toren moet daar staan, en er is een onzichtbare brug die naar de poort leidt."
• Persoon 3 zegt: "De poort en de toren zijn verbonden, maar ik zie een onzichtbare tunnel."

I-CAM-UV is de meesterbouwer die al die onzichtbare muren, bruggen en tunnels in gedachten houdt.

1. Het Samenvoegen: Het neemt alle zichtbare muren en probeert de onzichtbare muren zo te plaatsen dat ze logisch bij elkaar passen.
2. Het Zoeken: Omdat er veel manieren zijn om die onzichtbare muren te plaatsen, probeert het systeem alle mogelijke kasteel-ontwerpen te maken die logisch consistent zijn.
3. De Slimme Zoektocht: Het systeem is niet dom. Het weet dat als een ontwerp al fout is (bijvoorbeeld: een muur die door een andere muur gaat), het niet verder hoeft te bouwen. Het zoekt dus alleen naar de beste, meest logische ontwerpen.

5. Wat leverde het op?

De onderzoekers hebben dit getest met computer-simulaties (alsof ze 100 verschillende misdaden oplossen).

• Resultaat: I-CAM-UV kon veel meer verbanden vinden dan de oude methoden. Het kon zelfs verbanden ontdekken tussen variabelen die nooit samen in één dataset zaten (zoals A en D in ons voorbeeld).
• De prijs: Soms geeft het systeem niet één antwoord, maar een lijstje met 10 of 20 mogelijke verhalen. Maar gelukkig zijn al die verhalen bijna even goed. Je kunt er dus gewoon één uitkiezen of ze gemiddeld nemen.
• Snelheid: Het werkt verrassend snel, zelfs als er veel variabelen zijn, zolang het verhaal niet te ingewikkeld wordt.

Samenvatting in één zin

I-CAM-UV is een slimme detective die losse, onvolledige dossiers over verschillende onderwerpen samenvoegt tot één compleet verhaal, zelfs als er "onzichtbare" oorzaken zijn die in geen enkel dossier staan, door slim te gokken welke onzichtbare paden het meest logisch zijn.

Het is alsof je een compleet filmpje kunt reconstrueren uit losse frames, zelfs als je weet dat er scènes zijn die nooit zijn opgenomen, maar die je wel kunt afleiden uit de rest.

Technische samenvatting

Probleemstelling

Causale ontdekking (causal discovery) uit observationele data is een fundamentele taak in de wetenschap. Bestaande methoden zijn echter vaak ontworpen voor één enkel dataset en gaan uit van de afwezigheid van onwaargenomen verstorende variabelen (unobserved confounders). In de praktijk moeten onderzoekers echter vaak omgaan met:

1. Meerdere datasets met niet-identieke variabele sets: Verschillende datasets meten verschillende subsets van variabelen, maar delen een gemeenschappelijk doel.
2. Onwaargenomen variabelen: Verborgen factoren die als confounders kunnen optreden, zelfs in kleine systemen.

Een eenvoudige aanpak is het schatten van een causaal graf per dataset en deze vervolgens te overlappen. Dit heeft echter ernstige beperkingen:

• Onwaargenomen variabelen in individuele datasets kunnen leiden tot verkeerde conclusies over causale relaties.
• Causale relaties tussen variabeleparen die in geen enkele dataset gelijktijdig worden waargenomen, kunnen niet direct worden geïdentificeerd.
• Bestaande methoden voor meerdere datasets (zoals ION, IOD, COmbINE) produceren vaak onzekere "Partial Ancestral Graphs" (PAGs) of zijn beperkt tot lineaire modellen.

Methodologie: I-CAM-UV

De auteurs stellen I-CAM-UV (Integrating Causal Additive Models with Unobserved Variables) voor. Deze methode integreert resultaten van CAM-UV over meerdere datasets om een geïntegreerd causaal graf (DAG) te reconstrueren.

1. Basis: CAM-UV
De methode bouwt voort op CAM-UV, een model dat niet-lineaire causale relaties kan modelleren en expliciet rekening houdt met onwaargenomen variabelen. CAM-UV levert een "mixed graph" op met:

• Gerichte randen (causale relaties).
• Ongerichte randen die wijzen op een Unobserved Causal Path (UCP) of Unobserved Backdoor Path (UBP) tussen twee variabelen.

2. Het Integratieprobleem
Gegeven $m$ datasets met verschillende variabele sets $V_1, ..., V_m$, levert CAM-UV voor elke dataset een gemengde graf $G_k$ op. Het doel is een enkele DAG $\tilde{G}$ te vinden over de geïntegreerde variabele set $\hat{V} = \bigcup V_k$ die consistent is met alle $G_k$.

• Consistentie: Een DAG is consistent als voor elke dataset de UCP/UBP-relaties die door CAM-UV worden gemeld, ook daadwerkelijk bestaan in de geïntegreerde graf (en vice versa).
• Uitdaging: Er kunnen meerdere DAGs bestaan die voldoen aan deze consistentie-eisen, vooral voor variabeleparen die nooit gelijktijdig zijn waargenomen ($E_{uno}$).

3. Het Optimisatieprobleem (Realistische Situatie)
In de praktijk kunnen CAM-UV-schattingen fouten bevatten, wat kan leiden tot het ontbreken van een volledig consistente graf. Daarom definiëren de auteurs een inconsistentiekost ($C(\tilde{G})$): het aantal variabeleparen waarbij de aanwezigheid of afwezigheid van een UCP/UBP in de geïntegreerde graf niet overeenkomt met de CAM-UV-resultaten.
Het doel is om alle DAGs te enumereren met een inconsistentiekost $\leq C^* + b$, waarbij $C^*$ de minimale kost is en $b$ een gebruikersparameter.

4. Het Algorithm: Best-First Search
Om het exponentiële zoekruimteprobleem (elk variabelepaar kan een richting hebben of geen rand) efficiënt op te lossen, gebruiken de auteurs een best-first search algoritme:

• Monotonie: De inconsistentiekost is monotoon stijgend naarmate meer randen worden toegevoegd of georiënteerd.
• Heuristiek: Het algoritme gebruikt een heap (prioriteitswachtrij) om staten te verwerken op basis van een ondergrens van de inconsistentiekost ($\tilde{C}$).
• Zoekstrategie: Het begint met een overlappende DAG en breidt deze uit door systematisch randen toe te voegen of te oriënteren. Staten met een hoge ondergrens worden genegeerd als ze de drempel $C^* + b$ overschrijden.
• Efficiëntie: Er zijn polynoomtijd-algoritmen ontwikkeld om UCP's en UBP's snel te detecteren tijdens de zoektocht.

Belangrijkste Bijdragen

1. I-CAM-UV Methode: Een nieuwe aanpak om causale grafen te integreren over datasets met niet-identieke variabele sets, specifiek ontworpen om onwaargenomen variabelen en niet-lineariteiten te hanteren.
2. Theoretische Validatie: Bewijs dat de grondwaarheid (ground truth) causale graf consistent is met de CAM-UV-informatie onder ideale omstandigheden.
3. Efficiënt Algoritme: Een combinatorisch zoekalgoritme met een best-first strategie dat de inconsistentiekost monitort, waardoor het mogelijk is om grote zoekruimtes te doorzoeken zonder alle mogelijke grafen te genereren.
4. Vermogen tot Oriëntatie: De methode kan causale relaties tussen variabeleparen bepalen die in geen enkele individuele dataset gelijktijdig zijn waargenomen, door gebruik te maken van de structurele informatie uit de UCP/UBP.

Resultaten

De auteurs hebben experimenten uitgevoerd met synthetische data (100 datasets, 10 variabelen, niet-lineaire functies) en vergeleken met bestaande methoden (CAM-UV-OVL, PC-OVL, Imputatie, CD-MiNi).

• Terugwinnen van gemiste relaties (Q1): I-CAM-UV toont een superieure recall ten opzichte van alle concurrenten, zowel voor waargenomen als onwaargenomen variabeleparen. Het slaagt erin relaties te vinden die door CAM-UV alleen werden gemist.
• Onwaargenomen paren (Q2): De methode is effectief in het ontdekken van causale relaties tussen variabelen die nooit samen in één dataset voorkomen.
• Aantal DAGs en Accuratie (Q3): Hoewel I-CAM-UV soms een groot aantal DAGs kan genereren, vertonen deze een enkele cluster van vergelijkbare accuratie. De recall van individuele gegenereerde DAGs is vaak hoger dan die van concurrenten. Dit suggereert dat zelfs bij een groot aantal output, willekeurige steekproeven bruikbare resultaten opleveren.
• Berekeningstijd (Q4): Het enumeratieproces is in de meeste gevallen snel genoeg en vergelijkbaar met andere methoden, dankzij de best-first strategie. De tijd hangt echter sterk af van de kwaliteit van de CAM-UV-input.

Betekenis en Conclusie

I-CAM-UV is een significante doorbraak in het veld van causale ontdekking, omdat het de beperkingen van "single-dataset" en "geen onwaargenomen variabelen" aannames doorbreekt.

• Praktische Toepassing: Het stelt onderzoekers in staat om data uit verschillende bronnen (met verschillende meetinstrumenten) te combineren om een completer beeld van de causale structuur te krijgen.
• Robuustheid: Door rekening te houden met onwaargenomen confounders via CAM-UV, vermijdt het de valkuilen van methoden die deze negeren.
• Beperkingen: De nauwkeurigheid is sterk afhankelijk van de kwaliteit van de onderliggende CAM-UV-schattingen. Bovendien kan de output groot zijn, wat menselijke validatie uitdagend maakt.

Kortom, I-CAM-UV biedt een krachtig raamwerk voor het reconstrueren van causale netwerken in complexe, realistische scenario's met fragmentarische data en verborgen factoren.