📊 statistics

EML-CD: Causal Mechanism Recovery via EML Symbolic Trees in Structure Learning

Das Papier schlägt EML-CD vor, ein Framework zur kausalen Entdeckung, das EML-Symbolbäume integriert, um gleichzeitig DAG-Strukturen zu lernen und interpretierbare, geschlossene kausale Mechanismen zu rekonstruieren, wobei es im Vergleich zu bestehenden Baselines auf realen und synthetischen Datensätzen eine wettbewerbsfähige strukturelle Genauigkeit und eine überlegene Rekonstruktion der Mechanismen demonstriert.

Ursprüngliche Autoren: Sota Asanuma

Veröffentlicht 2026-06-05

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Sota Asanuma

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, ein Rätsel zu lösen: Wer beeinflusst wen in einem komplexen System? Vielleicht ist es ein Netzwerk von Proteinen in Ihrem Körper oder eine Reihe von Variablen in einem Physikexperiment.

Lange Zeit waren moderne „KI-Detektive“ (Neuronale Netze) sehr gut darin, die Karte der Verbindungen zu zeichnen (die Struktur). Sie können sagen: „Ja, Protein A beeinflusst Protein B.“ Aber sie sind schlecht darin zu erklären, wie. Sie behandeln die Beziehung als eine „Black Box“. Man weiß, dass die Tür offen steht, aber man kann die Zahnräder im Inneren nicht sehen.

Eine vorangegangene Studie wies auf einen schwerwiegenden Mangel hin: Der Versuch, das „Wie“ aus einer Black Box zurückzuentwickeln, ist so, als würde man versuchen, ein geheimes Rezept zu erraten, indem man nur die fertige Suppe probiert; es ist mathematisch unmöglich, sicher zu sein, dass man es richtig verstanden hat.

Hier kommt EML-CD ins Spiel. Dieses Paper stellt ein neues Detektiv-Werkzeug vor, das nicht nur die Karte zeichnet, sondern auch das exakte Rezept für jede Verbindung aufschreibt.

Die Kernidee: Die „Lego“-Maschine

Die Autoren verwenden ein spezielles mathematisches Werkzeug namens EML-Operator. Betrachten Sie dies als einen einzelnen, magischen Lego-Stein.

Sie können zwei Steine zusammenstecken, um eine neue Form zu bauen.
Indem Sie diese Steine in einer spezifischen, baumartigen Struktur stapeln, können Sie jede Standard-Mathematikfunktion bauen (wie das Quadrieren einer Zahl, das Ziehen einer Quadratwurzel oder die Verwendung von Sinuswellen).

Anstatt die KI eine riesige, unerklärliche Black Box bauen zu lassen, zwingt EML-CD die KI dazu, ihre Antworten nur unter Verwendung dieser spezifischen, verständlichen Lego-Steine zu konstruieren.

Wie es funktioniert (Der Zwei-Schritte-Tanz)

Die Methode arbeitet in zwei Phasen, wie ein Zwei-Schritte-Tanz:

Die Übungsrunde (Pre-training): Das System betrachtet jedes mögliche Paar von Variablen (z. B. Protein A und Protein B) und versucht, die bestmögliche „Lego-Maschine“ zu bauen, um B aus A vorherzusagen. Es lernt die Form der Beziehung.
Die endgültige Karte (Greedy Construction): Es nimmt all diese Übungsrunden und baut die endgültige Karte. Es wählt die stärksten Verbindungen aus, stellt sicher, dass es keine Schleifen gibt (A verursacht B, B verursacht C, aber C verursacht nicht A) und verwirft schwache Verbindungen.

Der Zaubertrick: Da die Maschine aus „Lego-Steinen“ (den EML-Bäumen) gebaut ist, ist das Endergebnis keine Black Box. Es spuckt eine geschlossene Form der Gleichung aus.

Der alte Weg: „Protein A beeinflusst Protein B.“ (Ende der Geschichte).
Der EML-CD-Weg: „Protein A beeinflusst Protein B durch diese spezifische Formel: $B = \text{eine komplexe Mischung aus } A \text{ und Konstanten}$ .“

Was haben sie herausgefunden?

Die Autoren testeten dies an drei verschiedenen „Rätselfällen“:

1. Der Realwelt-Test (Sachs Protein Data)
Sie testeten es an einem echten Datensatz von 11 Proteinen, die an der Zellsignalisierung beteiligt sind.

Das Ergebnis: EML-CD war genauso gut darin, die korrekte Karte zu zeichnen, wie die besten existierenden Methoden.
Der Bonus: Im Gegensatz zu den anderen lieferte es ihnen die tatsächlichen Gleichungen für die Verbindungen. Es fand zum Beispiel heraus, dass die Beziehung zwischen zwei Proteinen nicht nur eine gerade Linie war, sondern eine Kurve, die ihr Verhalten je nach dem Niveau des Proteins änderte. Das ist so, als würde man herausfinden, dass ein Lichtschalter nicht einfach nur „an“ oder „aus“ ist, sondern das Licht dimmt, je nachdem, wie fest man drückt.

2. Der „Bekannte Antwort“-Test (Synthetische Daten)
Sie erschufen eine künstliche Welt, in der sie die exakten mathematischen Regeln im Voraus kannten.

Das Ergebnis: Wenn die Regeln einfach waren (wie gerade Linien oder glatte Kurven), stellte EML-CD die exakten mathematischen Formeln in 10 von 11 Fällen wieder her.
Die Stabilität: Sie verglichen es mit einer anderen Methode (SINDy), die ein festes Wörterbuch verwendet. Das feste Wörterbuch führte manchmal zu Abstürzen und lieferte völlig falsche Antworten (wie ein Wörterbuch, das plötzlich anfängt, „Katze“ als „Flugzeug“ zu definieren). EML-CD blieb stabil und zuverlässig, selbst wenn es nicht in der Lage war, die komplexesten, extrem geschwungenen Kurven perfekt zu erfassen.

3. Der Physik-Test (Causal Chambers)
Sie testeten es an einem Lichttunnel-Experiment, das durch physikalische Gesetze gesteuert wird.

Das Ergebnis: Eine einfache Version ihres Werkzeugs (Tiefe-2) schlug Standard-Linearmethoden. Es erkannte, dass die Physik Kurven beinhaltete, nicht nur gerade Linien. Wenn sie das Werkzeug jedoch zu komplex machten (Tiefe-3), wurde es durch die geringe Menge an Daten verwirrt. Dies lehrt uns: „Größer ist nicht immer besser“; manchmal ist ein einfacheres Werkzeug zuverlässiger.

Das Fazit

EML-CD ist ein neuer Weg zur kausalen Entdeckung, der sich weigert, eine Black Box zu sein.

Es behält die Genauigkeit: Es findet die richtigen Verbindungen genauso gut wie die besten KI-Methoden.
Es fügt das „Warum“ hinzu: Es liefert Ihnen die tatsächliche mathematische Formel dafür, wie eine Sache eine andere verändert.
Es erklärt das „Wie viel“: Da es die Formel besitzt, kann es genau berechnen, wie stark sich der Effekt ändert, wenn man die Eingabe verändert (unter Verwendung einer sogenannten „analytischen Jacobi-Matrix“).

Einschränkungen:
Das Paper gibt zu, dass es noch nicht perfekt ist.

Es hat Schwierigkeiten, wenn zwei Variablen auf eine sehr komplexe Weise interagieren, die erfordert, dass sie miteinander multipliziert werden, bevor sie in die Formel eingehen (obwohl sie einen Prototyp zur Behebung haben).
Es funktioniert am besten bei kleineren Datensätzen (bis zu etwa 20 Variablen).
Die exakte mathematische Formel, die es findet, kann je nach dem Startwert der Berechnung (Random Seeds) leicht variieren, ist also nicht immer zu 100 % identisch.

Kurz gesagt: EML-CD ist ein Werkzeug, mit dem man die Zahnräder innerhalb der Maschine sehen kann und das Wissenschaftlern nicht nur eine Karte des Gebiets liefert, sondern die tatsächlichen Blaupausen dafür, wie das Gebiet funktioniert.

Technisches Resümee: EML-CD – Rekonstruktion kausaler Mechanismen via EML-Symbolbäume

1. Problemstellung

Aktuelle Methoden zur kausalen Entdeckung stehen vor einem grundlegenden Kompromiss zwischen struktureller Genauigkeit und mechanistischer Interpretierbarkeit. Während kontinuierliche Optimierungsmethoden (z. B. NOTEARS, GOLEM) und auf neuronalen Netzen basierende additive Rauschmodelle (z. B. GraNDAG, NOTEARS-MLP) eine hohe Genauigkeit bei der Rekonstruktion von gerichteten azyklischen Graphen (DAGs) erreichen, stellen sie kausale Mechanismen als Black-Box-neuronale Netze dar. Wie von Waxman et al. [22] argumentiert, ist die Extraktion spezifischer Funktionsformen aus den Gewichten eines neuronalen Netzes ein schlecht gestelltes Problem; die Gewichte identifizieren den zugrunde liegenden Mechanismus nicht eindeutig. Folglich können bestehende Methoden keine geschlossenen Formeln liefern, um Interventionsfolgen vorherzusagen oder kausale Effektfunktionen quantitativ zu analysieren. Post-hoc-Erklärungsmodelle (SHAP, LIME) bieten nur lokale Approximationen, und Spline-basierte Modelle (CAM) können nicht als symbolische Gleichungen extrahiert werden. Kein bestehendes Framework rekonstruiert gleichzeitig die kausale Struktur und beliebige nichtlineare geschlossene Mechanismen innerhalb eines einzigen Lernprozesses.

2. Methodik: EML-CD

EML-CD (EML-basierte kausale Entdeckung) adressat diese Lücke, indem es den EML-Operator [14] in das Lernen der kausalen Struktur integriert. Der EML-Operator, definiert als $eml(x, y) = \exp(x) - \ln(y)$ , ist funktional vollständig für elementare Funktionen, wenn diese über eine Grammatik $S \to 1 \mid eml(S, S)$ komponiert werden.

2.1 EML-Baum-Repräsentation

Anstatt neuronale Netze zu verwenden, repräsentiert EML-CD jeden Kantenmechanismus $f_{j,i}(X_i)$ als einen gated EML-Binärbaum mit begrenzter Tiefe $D$ .

Struktur: Der Baum ist ein vollständiger Binärbaum, bei dem die inneren Knoten den EML-Operator anwenden oder diesen über einen Gating-Mechanismus umgehen.
Gating: Ein Tiefen-Gate $\sigma(\gamma)$ steuert die Komplexität. Wenn $\gamma \ll 0$ , umgeht der Knoten die EML-Operation (Degeneration zu einem linearen Pfad); wenn $\gamma \gg 0$ , ist die EML-Operation aktiv. Dies ermöglicht es dem Modell, eine datengesteuerte Auswahl zwischen linearen und nichtlinearen Mechanismen zu treffen.
Training: Das Modell verwendet ein deterministisches Annealing-Schema für die Gate-Temperatur $\tau_g$ , das während des Trainings von 1 auf 0,02 abkühlt. Dies stellt sicher, dass die Gradienten frühzeitig frei fließen, während die Gates zu nahezu binären Zuständen konvergieren, was eine hart-thresholdierte geschlossene Gleichung ergibt, die die trainierte Soft-Funktion getreu repräsentiert.
Stabilität: Um numerische Divergenz (z. B. durch $\exp$ oder $\ln$ ) zu verhindern, begrenzt das Modell die Eingaben und Ausgaben auf spezifische Grenzen (z. B. $\exp$ -Eingabe auf $[-2, 2]$ , $\ln$ -Argument am unteren Ende bei 0,5).

2.2 Zweiphasige Inferenz

Der Lernprozess besteht aus zwei distinkten Phasen:

Mechanismus-Pretraining: Für alle $d(d-1)$ potenziellen Paare $(i, j)$ wird ein EML-Baum $T_{j,i}$ mittels Adam trainiert, um den mittleren quadratischen Fehler (MSE) zu minimieren. Die beste aus drei zufälligen Initialisierungen wird für jedes Paar ausgewählt. Diese Phase liefert $R^2$ -Scores (Vorhersagekraft) und trainierte Baumparameter.
Greedy DAG-Konstruktion: Kanten werden in absteigender Reihenfolge ihrer $R^2$ -Scores zum Graphen hinzugefügt, wobei die Azyklizität strikt aufrechterhalten wird. Kanten mit einem $R^2$ unterhalb eines Schwellenwerts $\tau$ werden ausgeschlossen. Ein optionales rückwärtiges Pruning mittels BIC (basierend auf OLS) kann zudem spurehafte Kanten entfernen.

2.3 Identifizierbarkeit und Richtung

EML-CD orientiert Kanten basierend auf der Fit-Qualitäts-Asymmetrie ( $R^2_{i \to j}$ vs. $R^2_{j \to i}$ ) statt durch Residuen-Unabhängigkeitstests. Die Beschränkung der Funktionsklasse auf EML-Bäume macht den antikausalen Mechanismus schwerer darstellbar, was die $R^2$ natürlich senkt. Dies dient als heuristischer Proxy für die Additive-Noise-Model (ANM)-Identifizierbarkeit.

3. Kernbeiträge

Framework-Integration: EML-CD ist das erste Framework, das EML-Symbolbäume direkt in das Lernen der kausalen Struktur integriert und jeder detektierten Kante geschlossene Gleichungen und analytische Jacobis anfügt.
Interpretierbarkeit ohne Einbußen: Es zeigt, dass das Hinzufügen symbolischer Interpretierbarkeit nicht zwangsläufig die Genauigkeit der Strukturrekonstruktion im Vergleich zu State-of-the-Art-Baselines verschlechtert.
Getreue Rekonstruktion von Mechanismen: In kontrollierten Settings rekonstruiert die Methode die Funktionsform elementarer Funktionen mit hoher Fidelität, anstatt nur eine Kurve anzupassen.
Analytische kausale Effekte: Durch die direkte Ableitung von Gleichungen aus der Baumstruktur ermöglicht EML-CD die Berechnung analytischer Jacobis ( $\partial X_j / \partial X_i$ ), was eine zustandsabhängige Quantifizierung kausaler Effekte ermöglicht, die über lineare Koeffizienten oder numerische NN-Derivate hinausgeht.

4. Experimentelle Ergebnisse

4.1 Reale Daten: Sachs Protein Signaling ( $d=11$ )

Strukturrekonstruktion: EML-CD erreichte eine Structural Hamming Distance (SHD) von 11,2 ± 0,4 (Mittelwert aus 5 Seeds). Dies liegt auf Augenhöhe mit PC und GES (SHD=11) und ist besser als CAM (SHD=12).
Präzision/Recall: Es erreichte die höchste Präzision (0,756) aller Methoden, wenngleich der Recall niedriger war (0,365), was auf eine Bevorzugung von High-Confidence-Kanten hindeutet.
Mechanismen: Die Methode rekonstruierte erfolgreich bekannte Pfade (z. B. Raf $\to$ Mek) mit geschlossenen Gleichungen. Beispielsweise identifizierte sie einen nichtlinearen Mechanismus für PKC $\to$ P38 mit einem zustandsabhängigen Jacobian im Bereich von -5,4 bis +2,3, und einen linearen Mechanismus für Erk $\to$ Akt.

4.2 Kontrollierte bivariate Rekonstruktion

In einem Test mit bekannten Ground-Truth-Funktionen ( $N=2000$ ) rekonstruierte EML-CD 10 von 11 Familien elementarer Funktionen (linear, quadratisch, kubisch, cos, tanh, exp, sqrt, sigmoid, log, abs) mit einer Held-out Shape-Korrelation $\ge 0,96$ . Nur die hochfrequente Sinusfunktion ( $\sin(1.5x)$ ) zeigte eine teilweise Rekonstruktion (0,84).

4.3 Synthetischer Symbolik-Benchmark (S-Sym)

Stabilität vs. feste Dictionaries: Auf einem symbolischen SEM-Benchmark erreichte EML-CD einen mittleren Mechanismus- $f$ -MSE von 3,67, was signifikant niedriger und stabiler ist als ein festes SINDy-Dictionary (Mittelwert 7644). Das SINDy-Baseline-Modell litt unter katastrophaler Extrapolation bei einem Seed.
Strukturrekonstruktion: Die strukturelle SHD (14,0) entsprach der SINDy-Dictionary-Baseline, blieb jedoch unter spezialisierten linearen Optimierern.
Limitierung: Obwohl stabil, rekonstruierte die Methode hochgradig nichtlineare Formen (z. B. Sättigung von tanh) bei Tiefe 2 mit der gegebenen Stichprobengröße nicht zuverlässig.

4.4 Causal Chambers (Light-Tunnel Subset)

In einem physikalischen System, das durch Malus' Gesetz ( $\cos^2(\theta_1 - \theta_2)$ ) gesteuert wird, verbesserte ein EML-CD-Modell der Tiefe 2 den F1-Score (0,444) gegenüber dem linearen OLS-BIC (0,273). Jedoch scheiterten Modelle der Tiefe 3 in diesem Setting mit geringer Stichprobengröße. Die Einbeziehung von Interaktions-bewussten Blättern und Interventions-Metadaten verbesserte die Präzision auf 1,000, wenngleich der Recall begrenzt blieb.

5. Bedeutung und Ansprüche

Die Arbeit positioniert EML-CD als einen Proof of Concept, der demonstriert, dass symbolische kausale Interpretierbarkeit in das Lernen der Struktur integriert werden kann, ohne die strukturelle Genauigkeit zu opfern.

Kernleistung: Es umgeht die schlecht gestellte Natur der NN-basierten Extraktion, indem es den Suchraum auf eine endliche, interpretierbare EML-Funktionsklasse einschränkt.
Praktischer Wert: Die Fähigkeit, analytische Jacobis auszugeben, ermöglicht die quantitative Vorhersage von Interventionsfolgen und die zustandsabhängige kausale Analyse, was mit Standard-DAG-Methoden unmöglich ist.
Bescheidenheit: Die Autoren räumen explizit Limitationen ein:
- Die Methode setzt derzeit univariate additive Mechanismen voraus und kann Kreuzvariablen-Interaktionen (z. B. $\cos^2(\theta_1 - \theta_2)$ ) ohne spezifische Erweiterungen nicht nativ darstellen.
- Die Strukturrekonstruktion auf synthetischen Benchmarks entspricht den Dictionary-Baselines, übertrifft aber noch nicht spezialisierte lineare Optimierer.
- Die Stabilität der rekonstruierten Gleichungen über verschiedene Seeds hinweg erfordert weitere Verbesserungen.
- Der EML-Operator selbst ist eine erst kürzlich entwickelte Entwicklung, die noch nicht in großem Maßstab unabhängig validiert wurde.

Die Arbeit schließt mit der Feststellung, dass EML-CD erste Belege dafür liefert, dass das Anfügen geschlossener Gleichungen an kausale Graphen machbar ist, und damit einen Weg zu transparenten, analytisch handhabbaren kausalen Modellen eröffnet.