📊 statistics

EML-CD: Causal Mechanism Recovery via EML Symbolic Trees in Structure Learning

Het artikel stelt EML-CD voor, een causaal ontdekkingsframework dat EML symbolische bomen integreert om simultaan DAG-structuren te leren en interpreteerbare, gesloten vorm causale mechanismen te herstellen, waarbij het een competitieve structurele nauwkeurigheid en superieure mechanismeherstel demonstreert vergeleken met bestaande baselines op reële en synthetische datasets.

Oorspronkelijke auteurs: Sota Asanuma

Gepubliceerd 2026-06-05

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Sota Asanuma

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een detective bent die een mysterie probeert op te lossen: Wie beïnvloedt wie in een complex systeem? Misschien is het een netwerk van eiwitten in je lichaam, of een reeks variabelen in een natuurkundig experiment.

Lange tijd waren moderne "AI-detectives" (neurale netwerken) erg goed in het tekenen van de kaart van de verbindingen (de structuur). Ze kunnen je vertellen: "Ja, Eiwit A beïnvloedt Eiwit B." Maar ze zijn slecht in het uitleggen van het hoe. Ze behandelen de relatie als een "black box". Je weet dat de deur openstaat, maar je kunt de raderen die erin draaien niet zien.

Een eerdere studie wees op een groot gebrek: proberen het "hoe" te reconstrueren vanuit een black box is alsof je probeert een geheim recept te raden door alleen de uiteindelijke soep te proeven; het is wiskundig onmogelijk om zeker te weten dat je het goed hebt gedaan.

Maak kennis met EML-CD. Dit paper introduceert een nieuwe detective-tool die niet alleen de kaart tekent, maar ook het exacte recept voor elke verbinding opschrijft.

Het kernidee: De "Lego"-machine

De auteurs gebruiken een speciale wiskundige tool genaamd de EML-operator. Zie dit als een enkele, magische Lego-steen.

Je kunt twee stenen aan elkaar klikken om een nieuwe vorm te maken.
Door deze stenen in een specifieke boomstructuur op elkaar te stapelen, kun je elke standaard wiskundige functie bouwen (zoals het kwadrateren van een getal, het nemen van een vierkantswortel, of het gebruiken van sinusgolven).

In plaats van de AI een enorme, onverklaarbare black box te laten bouwen, dwingt EML-CD de AI om zijn antwoorden te bouwen met behulp van alleen deze specifieke, begrijpelijke Lego-stenen.

Hoe het werkt (De twee-stappen dans)

De methode werkt in twee fasen, als een twee-stappen dans:

De oefenronde (Pre-training): Het systeem bekijkt elk mogelijk paar variabelen (bijv. Eiwit A en Eiwit B) en probeert de best mogendeelijke "Lego-machine" te bouwen om B uit A te voorspellen. Het leert de vorm van de relatie.
De definitieve kaart (Greedy Construction): Het neemt al die oefenrondes en bouwt de definitieve kaart. Het kiest de sterkste verbindingen, zorgt ervoor dat er geen lussen zijn (A veroorzaakt B, B veroorzaakt C, maar C veroorzaakt niet A), en verwijdert zwakke schakels.

De magische truc: Omdat de machine is gebouwd van "Lego-stenen" (de EML-bomen), is het eindresultaat geen black box. Het spuugt een closed-form vergelijking uit.

Oude manier: "Eiwit A beïnvloedt Eiwit B." (Einde verhaal).
EML-CD manier: "Eiwit A beïnvloedt Eiwit B via deze specifieke formule: $B = \text{een complexe mix van } A \text{ en constanten}$ ."

Wat hebben ze gevonden?

De auteurs testten dit op drie verschillende "mysteriegevallen":

1. De real-world test (Sachs Protein Data)
Ze testten het op een echte dataset van 11 eiwitten betrokken bij cel signalering.

Het resultaat: EML-CD was net zo goed in het tekenen van de juiste kaart als de beste bestaande methoden.
De bonus: In tegen tegenstelling tot de anderen, gaf het de werkelijke vergelijkingen voor de verbindingen. Het ontdekte bijvoorbeeld dat de relatie tussen twee eiwitten niet zomaar een rechte lijn was, maar een curve die van gedrag verandert afhankelijk van het niveau van het eiwit. Dit is also os het ontdekken dat een lichtschakelaar niet alleen "aan" of "uit" staat, maar het licht ook dimt op basis van hoe hard je erop drukt.

2. De "Bekend Antwoord" test (Synthetische Data)
Ze creëerden een nepwereld waarin ze de exacte wiskundige regels vooraf kenden.

Het resultaat: Wanneer de regels eenvoudig waren (zoals rechte lijnen of vloeiende curves), herstelde EML-CD de exacte wiskundige formules in 10 van de 11 gevallen.
De stabiliteit: Ze vergeleken het met een andere methode (SINDy) die een vaste woordenlijst gebruikt. De vaste woordenlijst crashte soms en gaf volkomen verkeerde antwoorden (zoals een woordenboek dat plotseling "kat" als "vliegtuig" definieert). EML-CD bleef stabiel en betrouwbaar, zelfs als het de meest complexe, grillige curves niet perfect kon vangen.

3. De Natuurkundetest (Causal Chambers)
Ze testten het op een lichttunnel-experiment dat wordt beheerst door natuurkundige wetten.

Het resultaat: Een eenvoudige versie van hun tool (depth-2) versloeg standaard lineaire methoden. Het besefte dat de natuurkunde curves betrof, geen rechte lijnen. Echter, als ze de tool te complex maakten (depth-3), raakte het in de war door de kleine hoeveelheid data. Dit leert ons dat "groter niet altijd beter is"; soms is een eenvoudiger instrument betrouwbaarder.

De essentie

EML-CD is een nieuwe manier van causale discovery die weigert een black box te zijn.

Het behoudt de nauwkeurigheid: Het vindt de juiste verbindingen net zo goed als de beste AI-methoden.
Het voegt het "Waarom" toe: Het geeft je de werkelijke wiskundige formule voor hoe het ene ding het andere verandert.
Het legt het "Hoeveel" uit: Omdat het de formule heeft, kan het exact berekenen hoeveel het effect verandert als je de input aanpast (met behulp van iets dat een "analytische Jacobian" wordt genoemd).

Beperkingen:
Het paper geeft toe dat het nog niet perfect is.

Het heeft moeite als twee variabelen op een zeer complexe manier met elkaar interageren waardoor ze met elkaar vermenigvuldigd moeten worden voordat ze de formule ingaan (hoewel ze een prototype hebben om dit te fixen).
Het werkt het best op kleinere datasets (tot ongeveer 20 variabelen).
De exacte wiskundige formule die het vindt, kan licht variëren afhankelijk van hoe de computer de berekening start (random seeds), dus het is niet altijd elke keer 100% identiek.

Kortom, EML-CD is een tool die je de tandwielen in de machine laat zien, waardoor wetenschappers niet alleen een kaart van het gebied krijgen, maar ook de werkelijke blauwdrukken van hoe het gebied werkt.

Technische Samenvatting: EML-CD – Herstel van Causale Mechanismen via EML Symbolische Bomen

1. Probleemstelling

Huidige methoden voor causale ontdekking staan voor een fundamentele afruil tussen structurele nauwkeurigheid en mechanistische interpreteerbaarheid. Hoewel continue optimalisatiemethoden (bijv. NOTEARS, GOLEM) en op neurale netwerken gebaseerde additive noise modellen (bijv. GraNDAG, NOTEARS-MLP) een hoge nauwkeurigheid bereiken bij het herstellen van Directed Acyclic Graph (DAG) structuren, representeren zij causale mechanismen als black-box neurale netwerken. Zoals beargumenteerd door Waxman et al. [22], is het extraheren van specifieke functionele vormen uit de gewichten van neurale netwerken een slecht gesteld probleem; de gewichten identificeren het onderliggende mechanisme niet uniek. Bijgevolg kunnen bestaande methoden geen gesloten vorm vergelijkingen leveren om interventie-effecten te voorspellen of causale effectfuncties kwantitatief te analyseren. Post-hoc verklaringstools (SHAP, LIME) bieden slechts lokale benaderingen, en spline-gebaseerde modellen (CAM) kunnen niet worden geëxtraheerd als symbolische vergelijkingen. Geen enkel bestaand framework herstelt gezamenlijk causale structuren en willekeurige niet-lineaire gesloten vorm mechanismen binnen een enkel leerproces.

2. Methodologie: EML-CD

EML-CD (EML-gebaseerde Causal Discovery) pakt dit gat aan door de EML-operator [14] te integreren in het leren van causale structuren. De EML-operator, gedefinieerd als $eml(x, y) = \exp(x) - \ln(y)$ , is functioneel compleet voor elementaire functies wanneer deze wordt samengesteld via een grammatica $S \to 1 \mid eml(S, S)$ .

2.1 EML Boomrepresentatie

In plaats van neurale netwerken te gebruiken, representeert EML-CD elk randmechanisme $f_{j,i}(X_i)$ als een gated EML binaire boom met een begrensde diepte $D$ .

Structuur: De boom is een volledige binaire boom waarbij interne knopen de EML-operator toepassen of deze omzeilen via een gating-mechanisme.
Gating: Een dieptegate $\sigma(\gamma)$ regelt de complexiteit. Als $\gamma \ll 0$ , omzeilt de knoop de EML-operatie (wat degradeert naar een lineair pad); als $\gamma \gg 0$ , is de EML-operatie actief. Dit stelt het model in staat om een datagestuurde selectie te maken tussen lineaire en niet-lineaire mechanismen.
Training: Het model maakt gebruik van een deterministisch annealing schema voor de gate-temperatuur $\tau_g$ , die tijdens de training verloopt van 1 naar 0,02. Dit zorgt ervoor dat gradiënten in een vroeg stadium vrij kunnen stromen, terwijl de gates convergeren naar bijna-binaire toestanden, wat resulteert in een hard-thresholded gesloten vorm vergelijking die de getrainde zachte functie getrouw representeert.
Stabiliteit: Om numerieke divergentie (bijv. door $\exp$ of $\ln$ ) te voorkomen, knipt de operator inputs en outputs af naar specifieke grenzen (bijv. $\exp$ input naar $[-2, 2]$ , $\ln$ argument geflored op 0,5).

2.2 Twee-fasen Inferentie

Het leerproces bestaat uit twee afzonderlijke fasen:

Mechanisme Pre-training: Voor alle $d(d-1)$ potentiële paren $(i, j)$ wordt een EML-boom $T_{j,i}$ getraind via Adam om de Mean Squared Error (MSE) te minimaliseren. De beste van drie willekeurige initialisaties wordt voor elk paar geselecteerd. Deze fase levert $R^2$ -scores (voorspellende kracht) en getrainde boomparameters op.
Greedy DAG Constructie: Randen worden toegevoegd aan de graaf in afnemende volgorde van hun $R^2$ -scores, waarbij acycliciteit strikt wordt gehandhaafd. Randen met een $R^2$ onder een drempelwaarde $\tau$ worden uitgesloten. Optionele achterwaartse pruning met behulp van BIC (gebaseerd op OLS) kan verdere spuriale randen verwijderen.

2.3 Identificeerbaarheid en Richting

EML-CD oriënteert randen op basis van fit-kwaliteit asymmetrie ( $R^2_{i \to j}$ vs. $R^2_{j \to i}$ ) in plaats van residu-onafhankelijkheidstesten. De beperking van de functieklasse tot EML-bomen maakt het de anticausale mechanisme moeilijker te representeren, wat de $R^2$ op natuurlijke wijze verlaagt. Dit dient als een heuristische proxy voor Additive Noise Model (ANM) identificeerbaarheid.

3. Belangrijkste Bijdragen

Framework Integratie: EML-CD is het eerste framework dat EML symbolische bomen direct integreert in het leren van causale structuren, waarbij gesloten vorm vergelijkingen en analytische Jacobiaan aan elke gedetecteerde rand worden gekoppeld.
Interpreteerbaarheid zonder Verlies: Het demonstreert dat het toevoegen van symbolische interpreteerbaarheid niet noodzakelijkerwijs de nauwkeurigheid van de structurele herwinning verslechtert ten opzichte van state-of-the-art baselines.
Getrouwe Mechanisme Herwinning: In gecontroleerde omgevingen herstelt de methode de functionele vorm van elementaire functies met hoge getrouwheid, in plaats van enkel een curve te fitten.
Analytische Causale Effecten: Door vergelijkingen direct af te leiden uit de boomstructuur, maakt EML-CD de berekening van analytische Jacobiaan ( $\partial X_j / \partial X_i$ ) mogelijk, wat zorgt voor een staat-afhankelijke kwantificering van causale effecten die niet beschikbaar is via lineaire coëfficiënten of numerieke NN-afgeleiden.

4. Experimentele Resultaten

4.1 Real-world Data: Sachs Protein Signaling ( $d=11$ )

Structurele Herwinning: EML-CD bereikte een Structural Hamming Distance (SHD) van 11,2 ± 0,4 (gemiddelde van 5 seeds). Dit ligt op gelijke hoogte met PC en GES (SHD=11) en is beter dan CAM (SHD=12).
Precisie/Recall: Het behaalde de hoogste precisie (0,756) van alle methoden, hoewel de recall lager was (0,365), wat wijst op een voorkeur voor randen met een hoge betrouwbaarheid.
Mechanismen: De methode herstelde succesvol bekende paden (bijv. Raf $\to$ Mek) met gesloten vorm vergelijkingen. Bijvoorbeeld, het identificeerde een niet-lineair mechanisme voor PKC $\to$ P38 met een staat-afhankelijke Jacobiaan variërend van -5,4 tot +2,3, en een lineair mechanisme voor Erk $\to$ Akt.

4.2 Gecontroleerde Bivariante Herwinning

In een test met bekende grondwaarheid functies ( $N=2000$ ), herstelde EML-CD 10 van de 11 elementaire functiefamilies (lineair, kwadratisch, kubisch, cos, tanh, exp, sqrt, sigmoid, log, abs) met een held-out shape correlatie $\ge 0,96$ . Alleen de hoogfrequente sinus ( $\sin(1.5x)$ ) vertoonde een gedeeltelijk herstel (0,84).

4.3 Synthetische Symbolische Benchmark (S-Sym)

Stabiliteit vs. Vaste Dictionaries: Op een symbolische SEM benchmark bereikte EML-CD een gemiddelde mechanisme $f$ -MSE van 3,67, wat aanzienlijk lager en stabieler is dan een vaste SINDy dictionary (gemiddelde 7644). De SINDy baseline leed onder catastrofale extrapolatie op één seed.
Structurele Herwinning: De structurele SHD (14,0) kwam overeen met de SINDy dictionary baseline maar bleef onder gespecialiseerde lineaire optimalisaties.
Beperking: Hoewel de methode stabiel was, herstelde deze zeer niet-lineaire vormen (bijv. verzadiging van tanh) niet betrouwbaar bij diepte 2 met de gegeven steekproefomvang.

4.4 Causal Chambers (Light-Tunnel Subset)

Op een fysisch systeem geregeerd door de wet van Malus ( $\cos^2(\theta_1 - \theta_2)$ ), verbeterde een diepte-2 EML-CD model de F1 (0,444) ten opzichte van lineaire OLS-BIC (0,273). Echter, diepte-3 modellen faalden in deze kleine-steekproef setting. Het integreren van interactie-bewuste bladeren en interventie-metadata verbeterde de precisie naar 1,000, hoewel de recall beperkt bleef.

5. Betekenis en Claims

Het artikel positioneert EML-CD als een proof of concept die aantoont dat symbolische causale-mechanisme interpreteerbaarheid geïntegreerd kan worden in structurele herwinning zonder de structurele nauwkeurigheid op te offeren.

Kernprestatie: Het omzeilt de slecht gestelde aard van NN-gebaseerde mechanisme-extractie door de zoekruimte te beperken tot een einddimensionale, interpreteerbare EML-functieklasse.
Praktische Waarde: Het vermogen om analytische Jacobiaan te outputten maakt de kwantitatieve voorspelling van interventie-effecten en staat-afhankelijke causale analyse mogelijk, wat onmogend is met standaard DAG-only methoden.
Bescheidenheid: De auteurs erkennen expliciet de beperkingen:
- De methode gaat momenteel uit van univariate additive mechanismen en kan cross-variabele interacties (bijv. $\cos^2(\theta_1 - \theta_2)$ ) niet inherent representeren zonder specifieke uitbreidingen.
- Structurele herwinning op synthetische benchmarks komt overeen met dictionary baselines maar overtreft gespecialiseerde lineaire optimalisaties nog niet.
- De stabiliteit van de herstelde vergelijkingen over verschillende seeds vereist verdere verbetering.
- De EML-operator zelf is een recente ontwikkeling die nog niet op grote schaal onafhankelijk gevalideerd is.

Het werk concludeert dat EML-CD een eerste bewijs levert dat het koppelen van gesloten vorm vergelijkingen aan causale grafen haalbaar is, wat een pad biedt naar transparante, analytisch hanteerbare causale modellen.