🤖 AI

DeepSWIP: Quotient-WMC Counterfactuals for Neural Probabilistic Logic Programs

Dit artikel introduceert DeepSWIP, een neurosymbolisch framework dat exacte single-world contrafactische redenering voor DeepProbLog-programma's mogelijk maakt door neurale predicaten te transformeren naar probabilistische keuzes voor efficiënte weighted model counting, waardoor het significante versnellingen in inferentie bereikt en kalibratiebiases in causale estimators corrigeert.

Oorspronkelijke auteurs: Saimun Habib, Vaishak Belle, Fengxiang He

Gepubliceerd 2026-06-19

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Saimun Habib, Vaishak Belle, Fengxiang He

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een super-slimme robotdetective hebt. Deze detective heeft twee hersenen die samenwerken:

Het "Oog" (Neuraal Netwerk): Het kijkt naar wazige foto's of sensordata en raadt wat er gebeurt (bijv. "Dat lijkt een rode auto," of "Het verkeer is druk").
Het "Logische Brein" (Probabilistische Logica): Het neemt die vermoedens en gebruikt strikte regels om de gevolgen te bepalen (bijv. "Als er een rode auto is EN het regent, dan is de weg glad").

Normaal gesproken is deze robot geweldig in het beantwoorden van vragen als: "Gezien wat ik zie, wat is de kans op wat er gaat gebeuren?" Maar hij worstelt met "Wat zou er gebeurd zijn als ik iets anders had gedaan?" Dit wordt contrafactisch redeneren genoemd.

Een paper introduceert een nieuwe methode genaamd DeepSWIP om deze robot te helpen deze "Wat als?"-vragen nauwkeurig en snel te beantwoorden. Zo werkt het, met eenvoudige analogieën:

1. Het Probleem: De "Tweeling"-valstrik

Om een "Wat als?"-vraag te beantwoorden, gebruikt een traditionele methode een truc genaamd het "Twin Network" (Tweelingnetwerk). Stel je voor dat de robot een identieke tweeling creëert.

Wereld A (Echt): De robot ziet een rode auto en het regent.
Wereld B (Tweeling/Contrafactueel): De robot vraagt: "Wat als ik de auto met geweld blauw had gemaakt?"

Het probleem is dat de "Tweeling"-methode de robot dwingt om twee volledige werelden tegelijk te bouren en de logische motor op beide te draaien. Als de robot een complexe afbeelding moet bekijken om de kleur van de auto te raden, moet hij zijn "Oog"-brein twee keer gebruiken — één keer voor de echte wereld en één keer voor de tweelingwereld. Dit is traag, verspillend en verwarrend, omdat het behandelt alsof de visuele gok van de robot zelf iets is waar je op kunt ingrijpen (veranderen door magie), wat niet logisch is.

2. De Oplossing: DeepSWIP (De "Freeze and Swap"-methode)

DeepSWIP verandert het spel door te zeggen: "Laten we niet twee werelden bouwen. Laten we gewoon de feiten in één wereld vastleggen."

Hier is het stapsgewijze proces:

Stap 1: De "Snapshot" (Neurale Materialisatie)
In plaats van het "Oog"-brein elke keer te laten draaien wanneer we een vraag stellen, maakt DeepSWIP een snapshot van wat de robot op dit moment ziet. Het bevriest de afbeelding en de gok van de robot.
- Analogie: Stel je voor dat de robot naar een foto kijkt en zegt: "Ik weet voor 70% zeker dat dat een rode auto is." DeepSWIP neemt die 70%-gok en schrijt het op een papiertje als een vaststaand feit. Het verandert het complexe, wazige "Oog"-brein in een simpele, statische muntworp (70% kop, 30% munt).
Stap 2: De "Chirurgie" (Single-World Intervention)
Nu heeft de robot slechts één wereld om mee te werken. Als we willen vragen: "Wat als de auto blauw was?", voert DeepSWIP een kleine chirurgie uit op de logische regels.
- Het snijdt de regel eruit die zegt: "De auto is rood vanwege de foto."
- Het niet (stapelt) een nieuwe regel aan die zegt: "De auto is blauw (omdat we dat hebben afgedwongen)."
- Cruciaal is dat het de rest van de wereld exact hetzelfde houdt. De regen valt nog steeds; de weg is nog steeds nat. Het dupliceert niet de hele wereld; het bewerkt alleen het specifieke deel waar we nieuwsgierig naar zijn.
Stap 3: De "Rekenkundige Magie" (Weighted Model Counting)
Ten slotte laat de robot zijn logische motor draaien op deze enkele, bewerkte wereld. Het telt alle mogelijke scenario's op die passen bij de nieuwe regels en berekent de waarschijnlijkheid.
- De "Quotient"-truc: De paper legt uit dat deze berekening lijkt op een breuk (een quotient). De bovenkant telt scenario's waarbij het resultaat gebeurt; de onderkant telt scenario's waarbij het bewijs bestaat. Deze wiskunde onthult iets belangrijks: Als we een verandering afdwingen, doet de oorspronkelijke visuele gok van de robot voor dat specifieke deel er niet meer toe. De "chirurgie" verwijdert de oude gok uit de vergelijking, waardoor fouten in de visie van de robot de "Wat als?"-antwoord voor dat specifieke deel niet verpesten.

3. Waarom dit ertoe doet (De Resultaten)

De paper testte dit op twee hoofdpunten:

Snelheid: Omdat DeepSWIP geen "Tweelingwereld" bouwt, is het 2,14 keer sneller dan de oude methode. Het is als het bewerken van één enkel document in plaats van twee kopieën printen, beide bewerken en ze dan vergelijken.
Nauwkeurigheid & Kalibratie: De paper vond dat voor de robot om het goed te hebben, het niet alleen gaat om "nauwkeurigheid" (vaak de juiste kleur raden); het moet ook gekalibreerd zijn (precies weten hoe zelfverzekerd hij is).
- Analogie: Als de robot zegt "Ik weet voor 90% zeker dat het regent," maar het regent in werkelijkheid slechts 50% van de tijd, dan zal de "Wat als?"-wiskunde instorten, vooral als het bewijs zeldzaam is. DeepSWIP laat ons precies zien waar deze fouten optreden, zodat we ze kunnen oplossen.
Real-World Traffic Test: In een verkeerssimulatie lieten ze zien dat als de visie van de robot onstabiel is (door sensorruis), eenvoudige gokken heel fout uitpakken. Echter, door een speciale statistische tool (AIPW) te gebruiken die zich richt op de gemiddelde verkeersstroom in plaats van elke individuele auto te raden, konden ze de bias corrigeren en een betrouwbaar antwoord krijgen voor de hele stad.

Samenvatting

DeepSWIP is een nieuwe manier voor AI om "Wat als?"-vragen te beantwoorden. In plaats van een verwarrende duplicaat van het universum te bouwen (de Twin-methch), maakt het een snapshot van de huidige perceptie van de robot, bevriest deze, bewerkt chirurgisch het specifieke "Wat als?"-gedeelte, en voert de berekening uit op deze enkele, schone versie. Dit maakt het proces sneller, preciezer, en helpt het ons te begrijpen hoe de visuele fouten van de robot zijn logische conclusies beïnvloeden.

Technische Samenvatting: DeepSWIP – Quotient-WMC Counterfactuals voor Neurale Probabilistische Logische Programma's

1. Probleemstelling

Neurosymbolische systemen zoals DeepProbLog combineren effectief neurale perceptie met probabilistische logica om om te gaan met perceptuele onzekerheid. Echter, standaard inferentie in deze systemen is associatief (het berekenen van $P(Y|X=x)$ ) in plaats van causaal. Ze kunnen niet van nature counterfactual vragen beantwoorden (bijv. "Wat zou er gebeurd zijn als $X$ de waarde $x$ had, gegeven bewijs $E=e$ ?") die een causale semantiek vereisen voor interventies ($do(X=x)$).

Bestaande benaderingen voor counterfactuals in Probabilistic Logic Programming (PLP) vertrouwen vaak op Twin Networks, die de programmastructuur dupliceren naar een feitelijke en een counterfactual kopie, waarbij exogene keuzes gedeeld worden. Hoewel dit semantisch handig is, is deze duplicatie computationeel duur voor relationele programma's en onhandig voor neurale predicaten. Specifiek is het onduidelijk of neurale predicaten (bijv. convolutionele netwerken) twee keer geëvalueerd moeten worden (één keer per wereld) of gedeeld moeten worden als exogene onzekerheid. Bovendien vertroebelt duplicatie de single-world semantiek van interventies, wat onnodige onafhankelijkheidsaannames creëert.

2. Methodologie: DeepSWIP

Het artikel introduceert DeepSWIP (Deep Single World Intervention Programs), een framework dat de SWIP-methodologie (Habib et al., 2026) uitbreidt naar DeepProbLog. De kern van het idee is het scheiden van neurale perceptie van symbolische counterfactual inferentie door neurale predicaten te behandelen als vaste probabilistische keuzes voordat causale transformaties worden toegepast.

2.1 Neurale Materialisatie

Voor een vaste set neurale parameters $\eta$ en inputcontexten $c$ , wordt een neuraal predicaat $nn(m, x, y)$ één keer geëvalueerd. De outputdistributie over symbolische waarden wordt "gematrialiseerd" in gewone probabilistische feiten (geannoteerde disjuncties) binnen het logische programma.

Transformatie: Het neurale netwerk wordt bevroren, en de outputkansen $p_{k,j}$ vervangen het neurale predicaat door categorische keuzes: $p_{k,1} :: a_k(y_{k,1}); \dots; p_{k,r_k} :: a_k(y_{k,r_k})$ .
Resultaat: Het DeepProbLog-programma wordt omgezet in een gewoon ProbLog-programma ( $P_{mat}$ ) waarbij alle onzekerheid wordt gerepresenteerd door onafhankelijke probabilistische feiten.

2.2 Single-World Intervention Surgery

Zodra gematerialiseerd, ondergaat het programma een SWIP-transformatie (Single World Intervention Program) om de interventie $do(X=x)$ af te handelen:

Verwijdering: Alle regels die het geïntervenieerde atoom $X$ definiëren, worden verwijderd.
Redirectie: Downstream regels die voorheen afhankelijk waren van $X$ , worden herschreven zodat ze afhankelijk zijn van een vast atoom $X_{fix}(x)$ .
Assertie: Een deterministisch feit $X_{fix}(x)$ wordt toegevoegd.
Dit proces creëert één getransformeerd programma $\Delta_x$ dat de counterfactual wereld representeert zonder de structuur te dupliceren.

2.3 Quotient-WMC Semantiek

Counterfactual kansen worden berekend met behulp van Weighted Model Counting (WMC) over het enkele getransformeerde programma. De counterfactual conditie wordt gedefinieerd als een quotient van twee WMC-polynomen:
$Q(p) = P(Y_x = y \mid E = e) = \frac{\Phi^x_{Y,E}(p)}{\Phi^x_E(p)}$
Waar:

$\Phi^x_{Y,E}(p) = \text{WMC}(\Delta_x \land Y=y \land E=e; p)$
$\Phi^x_E(p) = \text{WMC}(\Delta_x \land E=e; p)$
$p$ representeert de gematerialiseerde neurale kansen.

Deze algebraïsche representatie verenigt de inferentietaken, waardoor exacte berekening mogelijk is ten opzichte van het geleerde gematerialiseerde Functionele Causale Model (FCM).

3. Belangrijkste Bijdragen

Het artikel levert vier primaire bijdragen:

Neurale Materialisatie: Een methode om DeepProbLog-programma's met een vaste context om te zetten in gewone ProbLog-programma's, wat standaard causale programmatransformaties mogelijk maakt.
Correctheidstheorema: Een bewijs dat DeepSWIP exact is ten opzichte van het geleerde gematerialiseerde FCM, mits het programma unieke ondersteunde modellen heeft.
Quotient-WMC Analyse: Een theoretische analyse die aantoont dat:
- Intervention Cleaning: Neurale kansen geassocieerd met geïntervenieerde mechanismen een nul-afgeleide hebben in de counterfactual query (ze worden chirurgisch verwijderd).
- Kalibratiegevoeligheid: De fout in counterfactuals afhangt van de kalibratie van neurale kansen, niet alleen van classificatienauwkeurigheid.
- Instabiliteit bij zeldzaam bewijs: De gevoeligheid van de counterfactual schatting groeit invers met de kans van het bewijs ( $1/P(E=e)$ ), wat kan leiden tot instabiliteit bij zeldzaam bewijs.
Empirische Validatie: Experimenten op MPI3D en SUMO verkeerssimulaties die de correctheid, snelheid en statistische eigenschappen van het framework demonstreren.

4. Experimentele Resultaten

4.1 MPI3D Visuele Counterfactuals

Setup: Een visuele redeneringstaak bestaande uit neurale predicaten voor vorm, grootte en kleur, gecombineerd met symbolische regels voor fysieke stabiliteit.
Correctheid: DeepSWIP kwam overeen met een DeepTwin-constructie op 100% van de 12.000 queries, wat de transformatie valideert.
Efficiëntie: DeepSWIP behaalde een 2.14× versnelling (3.57 ms/query vs. 7.65 ms/query) door de endogene duplicatie die nodig is voor Twin Networks te vermijden.
Foutpropagatie: De Root Mean Square Error (RMSE) was nul voor queries die uitsluitend bepaald werden door de interventie (wat intervention cleaning demonstreert) en klein voor queries die afhankelijk waren van niet-geïntervenieerde predicaten.
Pruning: De SWIP-transformatie maakte irrelevante clausules effectief ongedaan (bijv. het reduceren van het aantal statements van 18 naar 5 voor specifieke queries).

4.2 SUMO HOV Verkeer Experimenten

Setup: Een verkeersimulatie die kalibratiegevoeligheid en Double Machine Learning (DML) correctie test.
Bevindingen:
- Naarmate de sensornoise toenam, verslechterde de neurale kalibratie, wat leidde tot significante bias in naïeve plug-in counterfactual schattingen.
- AIPW/DML: Een Augmented Inverse Propensity Weighted (AIPW) estimator, gebruikmakend van een bekend gerandomiseerd beleid, slaagde erin de meeste eerste-orde bias te verwijderen voor populatiegemiddelde en Average Treatment Effect (ATE) estimanden, zelfs bij verslechterde neurale kalibratie.
- Dit benadrukt dat hoewel symbolische inferentie exact is ten opzichte van de gematerialiseerde kansen, de statistische schatting van die kansen een bron van fout blijft.

5. Betekenis en Claims

Het artikel positioneert DeepSWIP niet als een universele causale ontdekkingsmethode, maar als een precieze counterfactual inferentielaag voor neurosymbolische programma's met expliciete causale structuren en geleerde probabilistische mechanismen.

Theoretisch Inzicht: Het quotient-WMC perspectief biedt een verenigde verklaring voor waarom intervention cleaning werkt, waarom kalibratie belangrijker is dan nauwkeurigheid voor counterfactuals, en waarom zeldzaam bewijs instabiliteit veroorzaakt.
Praktische Impact: Door counterfactual inferentie te reduceren tot een enkelvoudig single-world WMC probleem, biedt DeepSWIP een computationeel efficiënt alternatief voor Twin Networks, met name voor programma's met neurale predicaten.
Beperkingen: De auteurs merken expliciet op dat de exactheid van DeepSWIP relatief is aan het geleerde gematerialiseerde FCM. Als neurale predicaten verkeerd gekalibreerd zijn, zal de symbolische counterfactual "exact fout" zijn ten opzichte van het werkelijke data-genererende proces. Het framework scheidt exacte symbolische inferentie van de statistische fout van het schatten van neurale kansen.

Het werk concludeert dat DeepSWIP er succesvol in is geslaagd de kloof tussen neurale perceptie en single-world causaal redeneren te overbruggen, en daarmee een robuust fundament biedt voor counterfactual analyse in neurosymbolische AI.