How Rules Represent Causal Knowledge: Causal Modeling with Probabilistic Logic Programming

Technische Samenvatting: Hoe regels causale kennis representeren: Causale modellering met Probabilistische Logische Programmering

Probleemstelling
De theorie van Judea Pearl over causaliteit, die onderscheid maakt tussen observationele en interventionele kennis, is fundamenteel geweest voor kunstmatige intelligentie. Echter, het raamwerk van Pearl is uitsluitend ontwikkeld binnen Bayesiaanse netwerken en causale modellen, wat de toepassing grotendeels beperkt tot acyclische causale relaties. Het overdragen van deze concepten naar andere formalismen, zoals Probabilistische Logische Programmering (PLP), brengt het risico op misinterpretatie of inconsistentie met zich mee. Specifiek voldoen bestaande semantiek voor PLP-raamwerken zoals ProbLog en LPMLN (Log-lineaire Modellen) vaak niet aan het principe van causale irrelevantie (het idee dat niet-geobserveerde effecten de overtuigingen over andere variabelen niet mogen veranderen) en niet-interferentie (het idee dat interventies geen invloed mogen hebben op variabelen buiten hun causale stroomafwaartse richting). Dit leidt tot contra-intuïtieve resultaten bij het redeneren over interventies in cyclische of niet-gestratificeerde programma's.

Methodologie
De auteurs overbruggen de interventionistische benadering van Pearl met de filosofische fundamenten van causaliteit zoals vastgesteld door Eelink et al. [10], die steunen op logische verklaringen in plaats van temporele opeenvolging. De methodologie verloopt als volgt:

1. Theoretische Afstemming: Het artikel adopteert het standpunt dat causale verklaringen worden samengesteld uit regels (bijv. "roken veroorzaakt het dragen van lucifers") en dat wetenschappelijke kennis rechtvaardigingen vereist die een causale orde respecteren. Deze orde wordt geformaliseerd via principes van Natuurlijke Noodzakelijkheid (oorzaken noodzaken effecten) en Causale Sufficiëntie (elk effect heeft een oorzaak), gegrond in externe premissen (abducibles).
2. Definitie van Formele Semantiek: De auteurs definiëren een Causaal Systeem $CS := (P, A, \Phi)$, waarbij $P$ een LPMLN-programma is, $A$ een verzameling abducibles is, en $\Phi$ een Log-lineair model over $A$ is.
   • Zij formaliseren Natuurlijke Noodzakelijkheid via de restrictieve inhoud van het programma en Causale Sufficiëntie via de verklarende inhoud.
   • Zij definiëren een interventie als een modificatie van het systeem waarbij clausules met koppen in de interventieset worden verwijderd, en feiten die specifieke waarden afdwingen worden toegevoegd.
3. Kritiek op Bestaande Semantiek: De auteurs demonstreren dat de standaard P-log semantiek voor ProbLog en de standaard semantiek voor LPMLN niet voldoen aan Causale Irrelevantie (Formalisatie 6). In niet-gestratificeerde of cyclische gevallen laten deze semantieken toe dat overtuigingen veranderen wanneer er aanvullende niet-geobserveerde effecten worden overwogen, wat het principe schendt dat interventies niet "stroomopwaarts" of naar ongerelateerde takken moeten propageren.
4. Voorgestelde Causale Semantiek: Om dit op te lossen, stellen de auteurs een nieuwe Causale Semantiek ($\pi^{causal}_{CS}$) voor, gebaseerd op een "gulzige" maximalisatie van entropie langs de causale orde.
   • De afhankelijkheidsgraaf wordt gedecomposeerd in Sterk Samenhangende Componenten (SCC's).
   • De SCC's vormen een Gerichte Acyclische Graaf (DAG).
   • Kansen worden berekend door te conditioneren op ouder-componenten en lokaal de entropie te maximaliseren binnen elke component, waardoor wordt gewaarborgd dat de resulterende distributie overeenkomt met een Bayesiaanse netwerkstructuur afgeleid van de causale afhankelijkheden.

Belangrijkste Bijdragen

• Formele Causale Semantiek voor PLP: Het artikel draagt de formele causale semantiek van Eelink et al. [10] over naar de probabilistische logische programmeerramenwerken van ProbLog en LPMLN, waarbij zowel gestratificeerde als niet-gestratificeerde (cyclische) programma's worden ondersteund.
• Identificatie van Gebreken in Standaard Semantiek: Door middel van Voorbeelden 20–22 tonen de auteurs aan dat standaard P-log en LPMLN semantiek de causale irrelevantie en niet-interferentie schenden, wat leidt tot incorrecte voorspellingen van interventie-effecten in cyclische scenario's.
• Theoretische Garanties:
  • Theorem 2: Bewijst dat voor gestratificeerde ProbLog-programma's de standaard P-log semantiek samenvalt met de voorgestelde causale semantiek, waardoor aan causale irrelevantie wordt voldaan.
  • Theorem 3: Stelt vast dat de voorgestelde causale semantiek een consistente generalisatie is van de P-log semantiek voor gestratificeerde programma's.
  • Theorem 4: Bewijst dat de voorgestelde causale semantiek voldoet aan causale irrelevantie voor algemene (inclusief cyclische) causale systemen.
• Implementatie: De auteurs bieden een implementatie van de voorgestelde semantiek met behulp van de PLP-BN toolsuite. Dit systeem verbindt PLP-programma's met Bayesiaanse Netwerken, waarbij gebruik wordt gemaakt van de Clingo answer set solver voor het berekenen van stabiele modellen van SCC's en factor/variabele eliminatie voor inferentie.

Resultaten

• Consistentie met Gestratificeerde Programma's: Voor gestratificeerde ProbLog-programma's levert de nieuwe semantiek identieke resultaten op aan de gevestigde P-log semantiek, wat bevestigt dat de standaard benadering solide is voor acyclische gevallen.
• Correctie van Cyclische Casussen: In niet-gestratificeerde gevallen (bijv. het "Anna en Kilian" deurbelvoorbeeld) produceert de standaard semantiek kansen die de causale irrelevantie schenden (bijv. een interventie op een stroomafwaartse variabele die onterecht de waarschijnlijkheid van een stroomopwaartse variabele verandert). De voorgestelde causale semantiek corrigeert deze kansen, waardoor wordt gewaarborgd dat interventies alleen stroomafwaartse variabelen beïnvloeden zoals bepaald door de causale structuur.
• Afhandeling van Interventies: De implementatie demonstreert dat de nieuwe semantiek interventies correct modelleert door de programmastructuur te wijzigen en kansen opnieuw te berekenen op basis van de causale DAG van SCC's, waardoor het "terugkeren" van causale invloed wordt voorkomen dat optreedt in standaard LPMLN/ProbLog interpretaties.

Significantie
Het artikel claimt dat door probabilistische logische programmering af te stemmen op de filosofische fundamenten van causale verklaring (specifiek het werk van Eelink et al. [10] en de principes van noodzakelijkheid en sufficiëntie), het mogelijk is om de causale redenering van Pearl uit te breiden naar logische programmeerformalismen die cycli en onzekerheid kunnen verwerken. De voorgestelde semantiek zorgt ervoor dat de representatie van causale kennis in PLP robuust is tegen misinterpretatie bij het uitvoeren van interventies. Dit werk biedt een theoretisch gefundeerde methode voor het redeneren over "wat als"-scenario's in logische programma's die voorheen beperkt waren tot acyclische Bayesiaanse netwerken.