Expert-Aided Causal Discovery of Ancestral Graphs

Diese Arbeit stellt Ancestral GFlowNet (AGFN) vor, einen neuartigen Reinforcement-Learning-Algorithmus, der die kausale Entdeckung unter latenten Störgrößen ermöglicht, indem er sowohl vorab eingebrachtes als auch unsicheres nachträgliches Expertenwissen integriert und dabei durch eine bayessche Modellierung des Feedbacks zur wahren kausalen Struktur konvergiert.

Das Wesentliche

🕵️‍♂️ Die Detektive, die unsichtbare Schatten jagen

Stell dir vor, du bist ein Detektiv, der versuchen muss, herauszufinden, wer wem das Essen gestohlen hat. Du hast nur eine Liste von Beweisen (Daten), aber keine Überwachungskameras.

Das Problem: Manchmal sehen Dinge zufällig ähnlich aus, obwohl sie nichts miteinander zu tun haben. Und schlimmer noch: Es gibt unsichtbare Schatten (latente Störfaktoren), die du nicht sehen kannst, aber die beide beeinflusst haben. Vielleicht hat ein dritter Dieb (der Schatten) beiden das Essen gegeben, oder er hat sie beide abgelenkt.

In der Wissenschaft nennen wir das kausale Entdeckung (Causal Discovery). Die meisten Computerprogramme versuchen, diese Rätsel zu lösen, indem sie nur auf die Daten schauen. Aber das führt oft zu falschen Schlussfolgerungen, besonders wenn diese „unsichtbaren Schatten" im Spiel sind.

🧩 Das riesige Puzzle ohne Bild

Normalerweise versuchen Computer, ein Bild aus einem Puzzle zu legen, bei dem alle Teile in eine Richtung zeigen (wie ein Fluss, der nur fließt). Aber wenn es unsichtbare Schatten gibt, wird das Puzzle viel komplizierter. Es gibt nicht nur Pfeile, sondern auch „Zweipfeile" (↔), die anzeigen: „Hey, diese beiden wurden von einem unsichtbaren Schatten beeinflusst!"

Die Forscher nennen diese komplexen Bilder Ancestral Graphs (Vorfahren-Graphen). Das Problem ist: Die Anzahl der möglichen Puzzles ist astronomisch groß. Für nur 6 Variablen gibt es mehr als 100 Millionen Möglichkeiten! Ein normaler Computer würde ewig brauchen, um das richtige Bild zu finden.

🤖 Der neue Ansatz: Ein lernender Maler (AGFN)

Die Autoren dieses Papers haben eine neue Methode namens AGFN (Ancestral GFlowNet) entwickelt. Stell dir AGFN nicht als starren Rechner vor, sondern als einen kreativen Maler, der lernt, ein Bild zu malen.

1. Der Maler (Der Algorithmus): Der Maler beginnt mit einem leeren Blatt Papier. Schritt für Schritt fügt er Linien und Pfeile hinzu. Er lernt durch Versuch und Irrtum, welche Bilder am besten zu den Beweisen (den Daten) passen.
2. Die Vielfalt: Statt nur ein Bild zu malen, probiert der Maler viele verschiedene Versionen aus. Er lernt, wie wahrscheinlich jedes Bild ist. So behält er immer eine ganze Sammlung von möglichen Lösungen im Kopf, statt sich auf eine einzige (falsche) Idee zu versteifen.

🗣️ Der Experte im Raum (Der menschliche Ratgeber)

Hier kommt der Clou: Manchmal weiß der Computer nicht weiter, weil die Daten mehrdeutig sind. Hier holt der Maler einen Experten hinzu.

• Das Problem: Experten sind teuer (oder in diesem Fall: ein KI-Modell wie ein Chatbot, das man fragen muss). Man kann sie nicht 10.000 Mal fragen.
• Die Lösung: Der Maler fragt den Experten nicht einfach irgendwas. Er fragt genau das, bei dem er sich am unsichersten ist. Das nennt man aktives Lernen.
  • Analogie: Stell dir vor, du lernst Spanisch. Du fragst deinen Lehrer nicht nach dem Wort für „Apfel" (das kennst du schon), sondern nach dem Wort, bei dem du dir unsicher bist, ob es „Haus" oder „Auto" bedeutet. So lernst du am effizientesten.

🎭 Was passiert, wenn der Experte sich irrt?

Das ist der wichtigste Teil: Experten sind nicht perfekt. Sie können sich irren, oder zwei Experten können unterschiedlicher Meinung sein.

• Die alte Methode: Wenn ein Experte sagt „Es ist Pfeil A", dann glaubt der Computer blind daran. Wenn der Experte lügt, ist das ganze Bild falsch.
• Die neue Methode (AGFN): Der Maler hört dem Experten zu, aber er vertraut ihm nicht blind. Er sagt: „Der Experte sagt Pfeil A, aber meine Daten sagen vielleicht Pfeil B. Ich werde eine Mischung daraus machen."
  • Wenn der Experte oft recht hat (besser als ein Zufallsglück), passt sich der Maler langsam an.
  • Wenn der Experte sich irrt, ignoriert der Maler die falsche Information nach und nach, weil die Daten und die Logik dagegen sprechen.

🚀 Das Ergebnis

Die Forscher haben gezeigt, dass dieser Ansatz super funktioniert:

1. Schneller: Der Computer findet das richtige Bild viel schneller, als wenn er nur auf die Daten schaut.
2. Robuster: Selbst wenn der Experte (oder eine KI) Fehler macht, wird das Endergebnis trotzdem sehr gut.
3. Flexibel: Man kann dem Maler schon vor dem Start Regeln geben (z. B. „Das Bild darf nicht zu viele Linien haben" oder „Diese beiden Teile dürfen nicht verbunden sein").

Zusammenfassung in einem Satz

AGFN ist wie ein kluger Detektiv, der ein riesiges Puzzle löst, indem er Schritt für Schritt lernt, die Daten zu lesen, und dabei gezielt einen menschlichen (oder KI-)Experten fragt, um die unsichtbaren Schatten zu entlarven – und das alles, ohne sich von Fehlern des Experten verwirren zu lassen.

Es ist ein Schritt in Richtung einer Zusammenarbeit zwischen Mensch und Maschine, bei der beide ihre Stärken nutzen, um die wahren Ursachen von Dingen zu verstehen.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „Expert-Aided Causal Discovery of Ancestral Graphs" auf Deutsch:

1. Problemstellung

Die kausale Entdeckung (Causal Discovery, CD) ist ein zentrales Element in vielen wissenschaftlichen Anwendungen, um Ursache-Wirkungs-Beziehungen aus Daten zu inferieren. Herkömmliche Methoden haben jedoch zwei wesentliche Schwächen:

• Unzuverlässigkeit: Statistische Schätzungen basieren oft auf der Annahme der „Treue" (Faithfulness), die in der Praxis häufig verletzt wird. Dies führt zu fehlerhaften Kantenorientierungen.
• Latente Confounder: Viele reale Systeme enthalten nicht beobachtete (latente) Störvariablen. Während Directed Acyclic Graphs (DAGs) für kausal vollständige Systeme verwendet werden, sind Ancestral Graphs (AGs) notwendig, um latente Confounder abzubilden. Der Suchraum der AGs ist jedoch exponentiell größer als der der DAGs (z. B. bei 6 Variablen ca. $1,3 \cdot 10^8$AGs gegenüber$3,8 \cdot 10^6$ DAGs), was die Suche extrem erschwert.
• Expertenwissen: Bestehende Ansätze zur Integration von Expertenwissen (Background Knowledge, BK) sind oft starr (ex-ante) und gehen von fehlerfreien, deterministischen Antworten aus. In der Praxis ist Expertenfeedback jedoch oft teuer (z. B. durch LLM-APIs), unsicher, verrauscht und kann von mehreren Experten widersprüchlich sein. Es fehlt ein Rahmenwerk, das sowohl ex-ante strukturelle Constraints als auch unsicheres ex-post Feedback integriert.

2. Methodik: Ancestral GFlowNets (AGFN)

Die Autoren stellen Ancestral GFlowNets (AGFN) vor, einen neuen Algorithmus, der Reinforcement Learning (RL) und Bayessche Inferenz kombiniert, um eine Verteilung über den Raum der Ancestral Graphs zu lernen.

Kernkomponenten:

1. Amortisierte Stichprobenziehung via GFlowNet:

   • AGFN modelliert die Generierung eines Graphen als einen sequentiellen Prozess (State Graph). Beginnend mit einem leeren Graphen werden schrittweise Beziehungen zwischen Variablenpaaren hinzugefügt (keine Kante, gerichtete Kante $A \to B$, $B \to A$ oder bidirektionale Kante $A \leftrightarrow B$).
   • Ein Maskierungsmechanismus (basierend auf Algorithmen zur Pfadverfolgung) sorgt dafür, dass nur gültige Ancestral Graphs generiert werden (keine gerichteten oder fast gerichteten Zyklen).
   • Das GFlowNet lernt eine Policy-Funktion (ein neuronales Netz), die Graphen proportional zu einem Goodness-of-Fit-Score (z. B. modifiziertes BIC) zur beobachteten Datenverteilung sampelt. Dies ermöglicht eine probabilistische Inferenz über den gesamten Raum der AGs, nicht nur einen Punktschätzer.

2. Integration von Expertenwissen (Expert-in-the-Loop, EITL):

   • Ex-ante Constraints: Starre strukturelle Constraints (z. B. Sparsität, Partitionierbarkeit) werden direkt in die Initialisierung und Maskierung des Generierungsprozesses kodiert.
   • Ex-post Refinement (Unsicheres Feedback): Der Algorithmus fragt iterativ Experten (Menschen oder LLMs) nach der Beziehung spezifischer Variablenpaare.
   • Bayessches Expertenmodell: Das Feedback wird als verrauschte Realisierung der wahren Beziehung modelliert. Ein Bayessches Modell schätzt die Zuverlässigkeit des Experten ($\pi_r$). Selbst wenn das Feedback nur „besser als zufällig" ist, konvergiert die Posterior-Verteilung gegen die wahre Beziehung.
   • Log-Pooling: Die vom GFlowNet gelernte Verteilung und die vom Experten abgeleitete Posterior-Verteilung werden mittels Log-Pooling kombiniert. Dies erzeugt eine „expert-refined" Policy, die sowohl datenkonforme als auch expertenkonforme Graphen bevorzugt.

3. Aktive Wissenselizitation (Active Knowledge Elicitation):

   • Um die Kosten für Expertenabfragen zu minimieren, wird nicht zufällig gefragt. Stattdessen wird das Variablenpaar ausgewählt, das den erwarteten Entropie-Abfall der Posterior-Verteilung maximiert (minimiert die Unsicherheit). Dies basiert auf Prinzipien des aktiven Lernens und des Bayesschen Experimental Designs.

3. Wichtige Beiträge

1. Erste probabilistische CD-Methode unter latenten Confoundern: AGFN ist der erste Algorithmus, der eine Verteilung über den Raum der Ancestral Graphs (statt nur eines Punktschätzers) inferiert.
2. Erste EITL-Pipeline für unsicheres Feedback: Das Framework integriert sowohl ex-ante strukturelle Constraints als auch verrauschtes, widersprüchliches ex-post Expertenfeedback in einen iterativen Prozess.
3. Optimale Experimental Design-Strategie: Entwicklung einer Methode, um die informativsten Variablenpaare für Expertenabfragen zu identifizieren, um die Konvergenz zur wahren Struktur zu beschleunigen.
4. Theoretische Konsistenz: Es wird bewiesen, dass die Methode unter der Annahme „besser-als-zufällig" Feedback (auch bei leicht misspezifizierten Modellen) fast sicher gegen die wahre AG konvergiert.

4. Ergebnisse

Die Autoren evaluieren AGFN auf synthetischen und realistischen Datensätzen (DREAM3, Sachs-Datenbank) unter Verwendung simulierter menschlicher Experten und LLMs (GPT-4o) als Experten-Proxy.

• Verteilungstreue: AGFN kann die Zielverteilung über AGs (basierend auf BIC-Scores) hochpräzise approximieren, auch bei großen Graphen (25 Knoten) und unter Sparsitätsbedingungen.
• Vergleich mit Baselines: AGFN übertrifft starke Baselines (FCI, GFCI, ACI, DCD, N-ADMG) signifikant in Bezug auf:
  • Strukturelle Hamming-Distanz (SHD): AGFN findet mit weniger Experten-Feedback (oft < 4 Antworten) genauere Graphen als Baselines, die nur auf Daten basieren.
  • Goodness-of-Fit (BIC): Die gefundenen Graphen passen besser zu den Daten.
• Robustheit: Die Methode funktioniert auch, wenn Experten (oder LLMs) inkonsistente oder verrauschte Antworten geben. Die aktive Abfragestrategie beschleunigt die Konvergenz im Vergleich zu zufälligen Abfragen erheblich.

5. Bedeutung und Fazit

Das Paper stellt einen Paradigmenwechsel in der kausalen Entdeckung dar, indem es die Lücke zwischen rein datengetriebenen Methoden und der Integration von menschlichem/LLM-Expertenwissen schließt.

• Praktische Relevanz: Besonders wertvoll in Szenarien, wo Daten knapp sind oder latente Confounder vermutet werden, aber Expertenwissen verfügbar ist.
• Effizienz: Durch die aktive Abfrage wird die Anzahl der teuren Experteninteraktionen minimiert.
• Zukunftsausblick: Die Modularität von AGFN eröffnet neue Forschungsrichtungen, wie z. B. die Entwicklung von Foundation Models für probabilistische Inferenz, die Behandlung von zeitlich abhängigen Feedbacks und die Optimierung der Netzwerkarchitekturen.

Zusammenfassend bietet AGFN ein robustes, probabilistisches Framework, das die Stärken von maschinellem Lernen (GFlowNets) und menschlicher Expertise kombiniert, um zuverlässigere kausale Modelle in komplexen, latent-confounded Umgebungen zu entdecken.