🤖 AI

DeepSWIP: Quotient-WMC Counterfactuals for Neural Probabilistic Logic Programs

Dieses Paper stellt DeepSWIP vor, ein neurosymbolisches Framework, das exaktes Counterfactual Reasoning für eine einzelne Welt für DeepProbLog-Programme ermöglicht, indem es neuronale Prädikate in probabilistische Entscheidungen für effizientes Weighted Model Counting transformiert und dadurch signifikante Beschleunigungen bei der Inferenz sowie eine Korrektur von Kalibrierungsfehlern in kausalen Schätzern erreicht.

Ursprüngliche Autoren: Saimun Habib, Vaishak Belle, Fengxiang He

Veröffentlicht 2026-06-19

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Saimun Habib, Vaishak Belle, Fengxiang He

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie hätten einen superintelligenten Roboter-Detektiv. Dieser Detektiv hat zwei Gehirne, die zusammenarbeiten:

Das „Auge“ (Neuronales Netz): Es betrachtet verschwommene Fotos oder Sensordaten und rät, was gerade passiert (z. B. „Das sieht nach einem roten Auto aus“ oder „Der Verkehr ist dicht“).
Das „Logik-Gehirn“ (Probabilistische Logik): Es nimmt diese Vermutungen und nutzt strikte Regeln, um die Konsequenzen abzuleiten (z. B. „Wenn dort ein rotes Auto ist UND es regnet, dann ist die Straße rutschig“).

Normalerweise ist dieser Roboter großartig darin, Fragen zu beantworten wie: „Angesichts dessen, was ich sehe, was wird wahrscheinlich passieren?“ Er hat jedoch Schwierigkeiten mit der Frage: „Was wäre wohl passiert, wenn ich etwas anders gemacht hätte?“ Dies nennt man kontrafaktisches Denken.

Dieses Paper stellt eine neue Methode namens DeepSWIP vor, die dem Roboter hilft, diese „Was wäre wenn?“-Fragen genau und schnell zu beantworten. So funktioniert es, unter Verwendung einfacher Analogien:

1. Das Problem: Die „Zwilling-Falle“

Um eine „Was wäre wenn?“-Frage zu beantworten, nutzt die traditionelle Methode einen Trick, den man „Twin Network“ nennt. Stellen Sie sich vor, der Roboter erschafft einen identischen Zwilling.

Welt A (Realität): Der Roboter sieht ein rotes Auto und es regnet.
Welt B (Zwilling/Kontrafaktisch): Der Roboter fragt: „Was wäre, wenn ich das Auto erzwungen blau gemacht hätte?“

Das Problem ist, dass die „Twin“-Methode den Roboter dazu zwingt, zwei ganze Welten gleichzeitig aufzubauen und die Logik-Engine auf beiden laufen zu lassen. Wenn der Roboter ein komplexes Bild betrachten muss, um die Farbe des Autos zu erraten, muss er sein „Auge“-Gehirn zweimal ausführen – einmal für die reale Welt und einmal für die Twin-Welt. Das ist langsam, verschwenderisch und verwirrend, da es die visuelle Vermutung des Roboters als etwas behandelt, das durch „Eingriffe“ (magische Veränderung) beeinflusst werden kann, was keinen Sinn ergibt.

2. Die Lösung: DeepSWIP (Die „Freeze and Swap“-Methode)

DeepSWIP ändert das Spiel, indem es sagt: „Lass uns nicht zwei Welten bauen. Lass uns einfach die Fakten in einer Welt festlegen.“

Hier ist der schrittweise Prozess:

Schritt 1: Der „Schnappschuss“ (Neurale Materialisierung)
Anstatt das „Auge“-Gehirn jedes Mal laufen zu lassen, wenn wir eine Frage stellen, macht DeepSWIP einen Schnappschuss von dem, was der Roboter gerade jetzt sieht. Es friert das Bild und die Vermutung des Roboters ein.
- Analogie: Stellen Sie sich vor, der Roboter betrachtet ein Foto und sagt: „Ich bin mir zu 70 % sicher, dass das ein rotes Auto ist.“ DeepSWIP nimmt diese 70-prozentige Vermutung und schreibt sie als festen Fakt auf ein Blatt Papier. Es verwandelt das komplexe, verschwommene „Auge“-Gehirn in einen einfachen, statischen Münzwurf (70 % Kopf, 30 % Zahl).
Schritt 2: Die „Operation“ (Single-World Intervention)
Nun hat der Roboter nur noch eine einzige Welt, mit der er arbeiten muss. Wenn wir fragen wollen: „Was wäre, wenn das Auto blau gewesen wäre?“, führt DeepSWim eine kleine Operation an den Logikregeln durch.
- Es schneidet die Regel heraus, die besagt: „Das Auto ist rot, weil es auf dem Foto so ist.“
- Es heftet eine neue Regel ein, die besagt: „Das Auto ist blau (weil wir es so erzwungen haben).“
- Entscheidend ist: Der Rest der Welt bleibt exakt gleich. Der Regen fällt immer noch; die Straße ist immer noch nass. Es wird nicht die ganze Welt dupliziert; es wird nur der spezifische Teil editiert, über den wir neugierig sind.
Schritt 3: Die „Mathematische Magie“ (Weighted Model Counting)
Schließlich lässt der Roboter seine Logik-Engine auf dieser einen, editierten Welt laufen. Er zählt alle möglichen Szenarien zusammen, die zu den neuen Regeln passen, und berechnet die Wahrscheinlichkeit.
- Der „Quotienten“-Trick: Das Paper erklärt, dass diese Berechnung wie ein Bruch (ein Quotient) ist. Der Zähler zählt die Szenarien, in denen das Ergebnis eintritt; der Nenner zählt die Szenarien, in denen die Evidenz existiert. Diese Mathematik offenbart etwas Wichtiges: Wenn wir eine Änderung erzwingen, spielt die ursprüngliche visuelle Vermutung des Roboters für diesen spezifischen Teil nicht mehr. Die „Operation“ entfernt die alte Vermutung aus der Gleichung, sodass Fehler in der Wahrnehmung des Roboters die „Was wäre wenn?“-Antwort für diesen spezierten Teil nicht verfälschen.

3. Warum das wichtig ist (Die Ergebnisse)

Das Paper testete dies in zwei Hauptbereichen:

Geschwindigkeit: Da DeepSWIP keine „Twin“-Welt baut, ist es 2,14-mal schneller als die alte Methode. Es ist wie das Editieren eines einzelnen Dokuments, anstatt zwei Kopien zu drucken, beide zu editieren und sie dann zu vergleichen.
Genauigkeit & Kalibrierung: Das Paper fand heraus, dass der Roboter für die Richtigkeit nicht nur „genau“ sein muss (oft die richtige Farbe zu raten), sondern auch kalibriert sein muss (genau zu wissen, wie sicher er sich ist).
- Analogie: Wenn der Roboter sagt: „Ich bin mir zu 90 % sicher, dass es regnet“, es aber in Wirklichkeit nur zu 50 % der Zeit regnet, wird die „Was wäre wenn?“-Mathematik zusammenbrechen, besonders wenn die Evidenz selten ist. DeepSWIP zeigt uns genau, wo diese Fehler auftreten, damit wir sie beheben können.
Echtzeit-Verkehrstest: In einer Verkehrssimulation wurde gezeigt, dass bei unbeständigem Sichtfeld des Roboters (durch Sensorrauschen) einfache Vermutungen sehr falsch liegen können. Durch die Verwendung eines speziellen statistischen Werkzeugs (AIPW), das sich auf den Durchschnittsverkehr statt auf die Vermutung jedes einzelnen Fahrzeugpfads konzentriert, konnte der Bias korrigiert und eine zuverlässige Antwort für die gesamte Stadt gewonnen werden.

Zusammenfassung

DeepSWIP ist eine neue Art und Weise für KI, auf „Was wäre wenn?“-Fragen zu antworten. Anstatt ein verwirrendes Duplikat des Universums zu bauen (die Twin-Methode), macht es einen Schnappschuss der aktuellen Wahrnehmung des Roboters, friert diese ein, editiert chirurgisch den spezifischen „Was wäre wenn?“-Teil und führt die Mathematik auf dieser einen, sauberen Version aus. Dies macht den Prozess schneller, präziser und hilft uns zu verstehen, wie die visuellen Fehler des Roboters seine logischen Schlussfolgerungen beeinflussen.

Technisches Resümee: DeepSWIP – Quotient-WMC-Kontrafaktika für neuronale probabilistische Logikprogramme

1. Problemstellung

Neurosymbolische Systeme wie DeepProbLog kombinieren effektiv neuronale Wahrnehmung mit probabilistischer Logik, um perzeptive Unsicherheit zu handhaben. Die Standard-Inferenz in diesen Systemen ist jedoch assoziativ (Berechnung von $P(Y|X=x)$ ) statt kausal. Sie können nicht nativ kontrafaktische Abfragen beantworten (z. B. „Was wäre passiert, wenn $X$ gleich $x$ wäre, gegeben die Evidenz $E=e$ ?“), welche eine kausale Semantik für Interventionen ($do(X=x)$) erfordern.

Bestehende Ansätze für Kontrafaktika in der Probabilistischen Logikprogrammierung (PLP) stützen sich oft auf Twin Networks, welche die Programmstruktur in ein faktisches und ein kontrafaktisches Koplat duplizieren, während sie exogene Entscheidungen teilen. Während dies semantisch bequem ist, ist diese Duplikation für relationale Programme rechenintensiv und für neuronale Prädikate ungeschickt. Insbesondere bleibt unklar, ob neuronale Prädikate (z. B. konvolutionale Netzwerke) zweimal evaluiert werden sollten (einmal pro Welt) oder als exogene Unsicherheit geteilt werden sollten. Zudem verschleiert die Duplikation die Single-World-Semantik von Interventionen und führt zu unnötigen Unabhängigkeitsannahmen.

2. Methodik: DeepSWIP

Das Paper führt DeepSWIP (Deep Single World Intervention Programs) ein, ein Framework, das die SWIP-Methodik (Habib et al., 2026) auf DeepProbLog erweitert. Der Kerngedanke besteht darin, die neuronale Wahrnehmung von der symbolischen kontrafaktischen Inferenz zu trennen, indem neuronale Prädikate als feste probabilistische Entscheidungen behandelt werden, bevor kausale Transformationen angewendet werden.

2.1 Neuronale Materialisierung

Für eine feste Menge an neuronalen Parametern $\eta$ und Input-Kontexten $c$ wird ein neuronales Prädikat $nn(m, x, y)$ einmalig evaluiert. Seine Output-Verteilung über symbolische Werte wird in gewöhnliche probabilistische Fakten (annotierte Disjunktionen) innerhalb des Logikprogramms „materialisiert“.

Transformation: Das neuronale Netzwerk wird eingefroren, und seine Output-Wahrscheinlichkeiten $p_{k,j}$ ersetzen das neuronale Prädikat durch kategorische Entscheidungen: $p_{k,1} :: a_k(y_{k,1}); \dots; p_{k,r_k} :: a_k(y_{k,r_k})$ .
Ergebnis: Das DeepProbLog-Programm wird in ein gewöhnliches ProbLog-Programm ( $P_{mat}$ ) umgewandelt, in dem die gesamte Unsicherheit durch unabhängige probabilistische Fakten repräsentiert wird.

2.2 Single-World Intervention Surgery

Nach der Materialisierung durchläuft das Programm eine SWIP-Transformation (Single World Intervention Program), um die Intervention $do(X=x)$ zu handhaben:

Löschung: Alle Regeln, die das intervenierte Atom $X$ definieren, werden entfernt.
Umleitung: Downstream-Regeln, die zuvor von $X$ abhingen, werden so umgeschrieben, dass sie von einem festen Atom $X_{fix}(x)$ abhängen.
Assertion: Ein deterministischer Fakt $X_{fix}(x)$ wird hinzugefügt.
Dieser Prozess erzeugt ein einzelnes transformiertes Programm $\Delta_x$ , das die kontrafaktische Welt ohne Duplikation der Struktur darstellt.

2.3 Quotient-WMC-Semantik

Kontrafaktische Wahrscheinlichkeiten werden mittels Weighted Model Counting (WMC) über das einzelne transformierte Programm berechnet. Die kontrafaktische Konditionalität wird als Quotient zweier WMC-Polynome definiert:
$Q(p) = P(Y_x = y \mid E = e) = \frac{\Phi^x_{Y,E}(p)}{\Phi^x_E(p)}$
Wobei:

$\Phi^x_{Y,E}(p) = \text{WMC}(\Delta_x \land Y=y \land E=e; p)$
$\Phi^x_E(p) = \text{WMC}(\Delta_x \land E=e; p)$
$p$ die materialisierten neuronalen Wahrscheinlichkeiten repräsentiert.

Diese algebraische Repräsentation vereinheitlicht die Inferenzaufgabe und ermöglicht die exakte Berechnung relativ zum gelernten materialisierten Funktionalen Kausalen Modell (FCM).

3. Zentrale Beiträge

Das Paper leistet vier primäre Beiträge:

Neuronale Materialisierung: Eine Methode, um DeepProbLog-Programme mit festem Kontext in gewöhnliche ProbLog-Programme umzuwandeln, was standardmäßige kausale Programmtraumationen ermöglicht.
Korrektheitsbeweis: Ein Beweis, dass DeepSWIP exakt relativ zum gelernten materialisierten FCM ist, vorausgesetzt, das Programm besitzt eindeutige unterstützte Modelle.
Quotient-WMC-Analyse: Eine theoretische Analyse, die zeigt, dass:
- Intervention Cleaning: Die mit intervenierten Mechanismen assoziierten neuronalen Wahrscheinlichkeiten eine Null-Ableitung in der kontrafaktischen Abfrage haben (sie werden chirurgisch entfernt).
- Kalibrierungssensitivität: Der Fehler in Kontrafaktika von der Kalibrierung der neuronalen Wahrscheinlichkeiten abhängt, nicht nur von der Klassifikationsgenauigkeit.
- Instabilität bei seltener Evidenz: Die Sensitivität der Schätzung der Kontrafaktika wächst invers mit der Wahrscheinlichkeit der Evidenz ( $1/P(E=e)$ ), was zu potenzieller Instabilität bei seltener Evidenz führt.
Empirische Validierung: Experimente auf MPI3D und SUMO-Verkehrssimulationen, die die Korrektheit, Geschwindigkeit und statistischen Eigenschaften des Frameworks demonstrieren.

4. Experimentelle Ergebnisse

4.1 MPI3D Visuelle Kontrafaktika

Setup: Eine visuelle Denkaufgabe mit neuronalen Prädikaten für Form, Größe und Farbe, kombiniert mit symbolischen Regeln für physikalische Stabilität.
Korrektheit: DeepSWIP stimmte in 100 % der 12.000 Abfragen mit einer DeepTwin-Konstruktion überein, was die Transformation validiert.
Effizienz: DeepSWIP erreichte eine 2,14-fache Beschleunigung (3,57 ms/Abfrage vs. 7,65 ms/Abfrage) durch Vermeidung der endogenen Duplikation, die für Twin Networks erforderlich ist.
Feerfortpflanzung: Der quadratische Mittelwertfehler (RMSE) war null für Abfragen, die ausschließlich durch die Intervention bestimmt wurden (was das Intervention Cleaning demonstriert), und gering für Abfragen, die von nicht-intervenierten Prädikaten abhängen.
Pruning: Die SWIP-Transformation konnte irrelevante Klauseln effektiv entfernen (z. B. Reduzierung der Statement-Anzahl von 18 auf 5 für spezifische Abfragen).

4.2 SUMO HOV Verkehrsexperimente

Setup: Eine Verkehrssimulation, die Kalibrierungssensitivität und Double Machine Learning (DML) Korrektur testet.
Ergebnisse:
- Mit zunehmendem Sensorrauschen verschlechterte sich die neuronale Kalibrierung, was zu einem signifikanten Bias in naiven Plug-in-Kontrafaktika-Schätzungen führte.
- AIPW/DML: Ein Augmented Inverse Propensity Weighted (AIPW) Schätzer, der eine bekannte randomisierte Policy verwendet, konnte den Großteil des First-Order-Bias für Population Mean und Average Treatment Effect (ATE) Estimanden erfolgreich entfernen, selbst bei verschlechterter neuronaler Kalibrierung.
- Dies verdeutlicht, dass während die symbolische Inferenz relativ zu den materialisierten Wahrscheinlichkeiten exakt ist, die statistische Schätzung dieser Wahrscheinlichkeiten weiterhin eine Fehlerquelle bleibt.

5. Bedeutung und Ansprüche

Das Paper positioniert DeepSWIP nicht als universelle kausale Entdeckungsmethode, sondern als präzise kontrafaktische Inferenzschicht für neurosymbolische Programme mit expliziten kausalen Strukturen und gelernten probabilistischen Mechanismen.

Theoretische Einsicht: Die Quotient-WMC-Perspektive bietet eine vereinheitlichte Erklärung dafür, warum Intervention Cleaning funktioniert, warum Kalibrierung kritischer als Genauigkeit für Kontrafaktika ist und warum seltene Evidenz zu Instabilität führt.
Praktische Auswirkung: Durch die Reduktion der kontrafaktischen Inferenz auf ein Single-World WMC-Problem bietet DeepSWIP eine recheneffiziente Alternative zu Twin Networks, insbesondere für Programme mit neuronalen Prädikaten.
Limitierungen: Die Autoren merken explizit an, dass die Exaktheit von DeepSWIP relativ zum gelernten materialisierten FCM ist. Wenn neuronale Prädikate falsch kalibriert sind, wird das symbolische Kontrafaktikum im Vergleich zum wahren datengenerierenden Prozess „exakt falsch“ sein. Das Framework trennt die exakte symbolische Inferenz von dem statistischen Fehler der Schätzung neuronaler Wahrscheinlichkeiten.

Die Arbeit schließt mit dem Schluss, dass DeepSWIP erfolgreich die Lücke zwischen neuronaler Wahrnehmung und Single-World-kausalem Denken schließt und eine robuste Grundlage für die Kontrafaktika-Analyse in der neurosymbolischen KI bietet.