How Rules Represent Causal Knowledge: Causal Modeling with Probabilistic Logic Programming

Technisches Resümee: Wie Regeln kausales Wissen repräsentieren: Kausale Modellierung mit probabilistischer Logikprogrammierung

Problemstellung
Judea Pearls Theorie der Kausalität, die zwischen observationalem und interventionellem Wissen unterscheidet, war grundlegend für die Künstliche Intelligenz. Ihr Rahmenwerk ist jedoch ausschließlich innerhalb von Bayes’schen Netzen und kausalen Modellen entwickelt, was es weitgehend auf azyklische kausale Beziehungen beschränkt. Die Übertragung dieser Konzepte auf andere Formalismen, wie etwa die probabilistische Logikprogrammierung (PLP), birgt das Risiko der Fehlinterpretation oder Inkonsistenz. Insbesondere scheitern bestehende Semantiken für PLP-Frameworks wie ProbLog und LPMLN (Log-Linear-Modelle) oft an der Einhaltung des Prinzips der kausalen Irrelevanz (die Vorstellung, dass unbeobachtete Wirkungen nicht die Überzeugungen über andere Variablen verändern sollten) und der Nicht-Interferenz (die Vorstellung, dass Interventionen keine Variablen außerhalb ihres kausalen Nachlaufs beeinflussen sollten). Dies führt zu kontraintuitiven Ergebnissen beim Schließen über Interventionen in zyklischen oder nicht-stratifizierten Programmen.

Methodik
Die Autoren überbrücken Pearls interventionistischen Ansatz mit den philosophischen Grundlagen der Kausalität nach Eelink et al. [10], die sich auf logische Erklärungen statt auf zeitliche Sukzession stützen. Die Methodik verfährt wie folgt:

1. Theoretische Ausrichtung: Das Paper übernimmt die Sichtweise, dass kausale Erklärungen aus Regeln bestehen (z. B. „Rauchen verursacht das Tragen von Streichhölzern“) und dass wissenschaftliche Erkenntnis Rechtfertigungen erfordert, die eine kausale Ordnung respektieren. Diese Ordnung wird durch die Prinzipien der natürlichen Notwendigkeit (Ursachen erzwingen Wirkungen) und der kausalen Hinlänglichkeit (jede Wirkung hat eine Ursache) formalisiert, die auf externen Prämissen (Abduktiblen) basieren.
2. Definition der formalen Semantik: Die Autoren definieren ein Kausales System $CS := (P, A, \Phi)$, wobei $P$ ein LPMLN-Programm, $A$ eine Menge von Abduktiblen und $\Phi$ ein Log-Linear-Modell über $A$ ist.
   • Sie formalisieren natürliche Notwendigkeit über den Constraint-Inhalt des Programms und kausale Hinlänglichkeit über den explanativen Inhalt.
   • Sie definieren eine Intervention als eine Modifikation des Systems, bei der Klauseln mit Köpfen in der Interventionsmenge entfernt und Fakten, die spezifische Werte erzwingen, hinzugefügt werden.
3. Kritik bestehender Semantiken: Die Autoren zeigen, dass die Standard-P-log-Semantik für ProbLog und die Standard-Semantik für LPMLN die kausale Irrelevanz (Formalisierung 6) nicht erfüllen. In nicht-stratifizierten oder zyklischen Fällen erlauben diese Semantiken, dass sich Überzeugungen ändern, wenn zusätzliche unbeobachtete Wirkungen berücksichtigt werden, was gegen das Prinzip verstößt, dass Interventionen nicht „stromaufwärts“ oder zu unbezogenen Zweigen propagieren sollten.
4. Vorgeschlagene kausale Semantik: Um dies zu lösen, schlagen die Autoren eine neue kausale Semantik ($\pi^{causal}_{CS}$) vor, die auf einer „gierigen“ Maximierung der Entropie entlang der kausalen Ordnung basiert.
   • Der Abhängigkeitsgraph wird in stark zusammenhängende Komponenten (Strongly Connected Components, SCCs) zerlegt.
   • Die SCCs bilden einen gerichteten azyklischen Graphen (DAG).
   • Wahrscheinlichkeiten werden durch Konditionierung auf die Eltern-Komponenten berechnet und durch lokale Maximierung der Entropie innerhalb jeder Komponente, wodurch sichergestellt wird, dass die resultierende Verteilung mit einer aus den kausalen Abhängigkeiten abgeleiteten Bayes’schen Netzstruktur übereinstimmt.

Kernbeiträge

• Formale kausale Semantik für PLP: Das Paper überträgt die formale kausale Semantik von Eelink et al. [10] auf die probabilistischen Logikprogrammierung-Frameworks ProbLog und LPMLN, wodurch sowohl stratifizierte als auch nicht-stratifizierte (zyklische) Programme berücksichtigt werden.
• Identifizierung von Mängeln in Standard-Semantiken: Durch die Beispiele 20–22 zeigen die Autoren, dass Standard-P-log- und LPMLN-Semantiken die kausale Irrelevanz und Nicht-Interferenz verletzen, was zu falschen Vorhersagen von Interventionseffekten in zyklischen Szenarien führt.
• Theoretische Garantien:
  • Theorem 2: Beweist, dass für stratifizierte ProbLog-Programme die Standard-P-log-Semantik mit der vorgeschlagenen kausalen Semantik übereinstimmt und somit die kausale Irrelevanz erfüllt.
  • Theorem 3: Legt fest, dass die vorgeschlagene kausale Semantik eine konsistente Verallgemeinerung der P-log-Semantik für stratifizierte Programme darstellt.
  • Theorem 4: Beweist, dass die vorgeschlagene kausale Semantik die kausale Irrelevanz für allgemeine (einschließlich zyklische) kausale Systeme erfüllt.
• Implementierung: Die Autoren stellen eine Implementierung der vorgeschlagenen Semantik unter Verwendung der PLP-BN Tool-Suite bereit. Dieses System verbindet PLP-Programme mit Bayes’schen Netzen und nutzt den Clingo Answer Set Solver zur Berechnung stabiler Modelle von SCCs sowie Faktor- und Variablenelimination für die Inferenz.

Ergebnisse

• Konsistenz mit stratifizierten Programmen: Für stratifizierte ProbLog-Programme liefert die neue Semantik identische Ergebnisse wie die etablierte P-log-Semantik, was bestätigt, dass der Standardansatz für azyklische Fälle korrekt ist.
• Korrektur von Zyklus-Fällen: In nicht-stratifizierten Fällen (z. B. das „Anna und Kilian“-Türglockenbeispiel) erzeugen die Standard-Semantiken Wahrscheinlichkeiten, die die kausale Irrelevanz verletzen (z. B. verändert eine Intervention an einer nachgeschalteten Variable fälschlicherweise die Wahrscheinlichkeit einer vorgelagerten Variable). Die vorgeschlagene kausale Semantik korrigiert diese Wahrscheinlichkeiten und stellt sicher, dass Interventionen nur die nachgeschalteten Variablen beeinflussen, wie es die kausale Struktur vorgibt.
• Umgang mit Interventionen: Die Implementierung zeigt, dass die neue Semantik Interventionen korrekt modelliert, indem sie die Programmstruktur modifiziert und die Wahrscheinlichkeiten basierend auf dem kausalen DAG der SCCs neu berechnet, wodurch das „Zurückverfolgen“ kausaler Einflüsse verhindert wird, das in Standard-LPMLN/ProbLog-Interpretationen auftritt.

Bedeutung
Das Paper behauptet, dass durch die Abstimmung der probabilistischen Logikprogrammierung mit den philosophischen Grundlagen der kausalen Erklärung (insbesondere der Arbeit von Eelink et al. [10] und den Prinzipien von Notwendigkeit und Hinlänglichkeit) möglich ist, die kausale Argumentation von Pearl auf Logikprogrammierung-Formalismen zu erweitern, die Zyklen und Unsicherheit handhaben. Die vorgeschlagene Semantik stellt sicher, dass die Repräsentation kausalen Wissens in PLP robust gegenüber Fehlinterpretationen ist, wenn Interventionen durchgeführt werden. Diese Arbeit bietet eine theoretisch fundierte Methode zum Schließen über „Was-wäre-wenn“-Szenarien in Logikprogrammen, die zuvor auf azyklische Bayes’sche Netze beschränkt war, und ermöglicht damit ein zuverlässigeres kausales Modellieren in Domänen, die zyklische Abhängigkeiten erfordern.