🤖 AI

PACE: A Neuro-Symbolic Framework for Plausible and Actionable Counterfactual Explanations

Dit artikel introduceert PACE, een modulair neuro-symbolisch framework dat neurale voorspellende modellen combineert met symbolische redenering om contrafactische verklaringen te genereren die niet alleen valide, maar ook realistisch en acteerbaar zijn door expliciet domeinspecifieke beperkingen en haalbare interventies af te dwingen.

Oorspronkelijke auteurs: Pavel Iakovets, Liyanapathiranage Sudeepika Wajirakumari Samarathunga, Martin Thomas Horsch, Fadi Al Machot

Gepubliceerd 2026-07-03

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Pavel Iakovets, Liyanapathiranage Sudeepika Wajirakumari Samarathunga, Martin Thomas Horsch, Fadi Al Machot

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een machine learning "black box" gebruikt om te beslissen of je in aanmerking komt voor een lening of een baan. De computer zegt "Nee". Je vraagt: "Wat moet ik veranderen om een 'Ja' te krijgen?"

Een standaard AI zou je een antwoord kunnen geven als: "Als je 150 jaar oud was en 200 uur per week zou werken, zou je de lening krijgen." Hoewel dit wiskundig gezien correct is (het verandert de voorspelling), is het nutteloos omdat het onmogelijk is.

Dit artikel introduceert PACE, een nieuw systeem dat ontworpen is om je antwoorden te geven die niet alleen wiskundig correct zijn, maar ook realistisch en uitvoerbaar.

Hier is hoe PACE werkt, onderverdeeld in eenvoudige concepten:

1. Het Probleem: Het "Onrealistische" Advies

Beschouw de bestaande AI-uitlegtools als een roekeloze reisagent. Als je vraagt: "Hoe kom ik van New York naar Londen?", kan hij zeggen: "Vlieg met de snelheid van het licht." Je komt er wel (geldig), maar je kunt het niet echt doen (niet plausibel).

Bestaande methoden richten zich vaak alleen op het veranderen van het resultaat (het krijgen van de "Ja") zonder te controleren of de stappen om daar te komen zinvol zijn in de echte wereld. Ze kunnen suggereren om je leeftijd of je geslacht te veranderen, dit zijn dingen die je simpelweg niet kunt veranderen.

2. De Oplossing: Het "Neuro-Symbolische" Team

De auteurs hebben PACE gecreëerd, wat fungeert als een tweepersoons-team dat samenwerkt om jou advies te geven:

Het Neurale Netwerk (De "Gokker"): Dit is de AI die weet hoe hij een uitkomst moet voorspellen. Hij is goed in het raden van: "Als je X verandert, zal de uitkomst waarschijnlijk omslaan naar Y." Maar hij kent de regels van de echte wereld niet.
De Symbolische Redeneerder (Het "Regelboek"): Dit is een strikte logische motor die een lijst met regels uit de echte wereld bevat. Hij weet dat je je leeftijd niet kunt veranderen, dat je niet 200 uur per week kunt werken, en dat je alleen van "Middelbare School" naar "Enige Hogere Educatie" kunt gaan, en niet in één stap direct naar een "PhD" kunt springen.

PACE dwingt de "Gokker" om alleen veranderingen voor te stellen die de "Regelboek" goedkeurt.

3. Hoe het werkt: "Zoeken met een hek"

Stel je voor dat je naar een specifieke sleutel zoekt in een groot veld.

Oude methoden rennen willekeurig door het hele veld. Ze vinden de sleutel misschien snel, maar ze kunnen ook voorstellen dat je een berg opgraaft om de sleutel te vinden.
PACE bouwt een hek rondom het veld. Dit hek vertegenwoordigt de "haalbare interventieruimte". Het systeem weet dat je alleen binnen het hek mag lopen. Het controleert systematisch elke plek binnen het hek totdat het de sleutel vindt.

Als de sleutel niet binnen het hek ligt (wat betekent dat een realistische verandering niet tot een "Ja" kan leiden), geeft PACE dat toe. Het zal niet liegen en je niet vertellen dat je de wetten van de fysica moet breken.

4. De Test: De "Adult Income" Casestudy

Om dit te testen, gebruikten de onderzoekers een dataset over de inkomens van mensen. Ze vroegen het systeem: "Welke kleine, realistische veranderingen kan een persoon maken om zijn inkomen te verhogen van onder de $50k naar boven de $50k?"

Ze vergeleken PACE met andere populaire methoden (zoals DiCE, Wachter en Random Search).

De Resultaten:

De "Roekeloze" Methoden (Random Search, DiCE): Deze waren erg goed in het vinden van een manier om de voorspelling te veranderen (Hoge "Validiteit"). Echter, de meeste van hun suggesties waren onzin (Lage "Plausibiliteit"). Ze zouden bijvoorbeeld kunnen voorstellen om het geslacht of de leeftijd van een persoon te veranderen.
PACE: Het was iets langzamer in het vinden van elk antwoord omdat het strikt de regels volgde. Echter, 100% van de antwoorden die het gaf, waren realistisch.
- Het suggereerde zaken als: "Verhoog je opleidingsniveau met één stap" of "Werk een paar uur meer per week per week."
- Het stelde nooit onmogelijke veranderingen voor.

5. De Afweging

Het paper benadrukt een duidelijke afweging, zoals het kiezen tussen snelheid en veiligheid.

Als je het snelste antwoord wilt dat het resultaat verandert, krijg je misschien een suggestie die onmogelijk te volgen is.
Als je een suggestie wilt die je daadwerkelijk kunt doen, heb je een systeem als PACE nodig dat eerst de regels controleert.

Samenvatting

PACE is een framework dat een slimme AI-voorspeller combineert met een strikte logische controleur. Het zorgt ervoor dat wanneer een AI je vertelt hoe je je leven moet veranderen om een beter resultaat te krijgen, het advies uitvoerbaar is. Het zal je niet vertellen dat je een ander mens moet worden; het zal je vertellen welke realistische stappen je daadwerkelijk kunt ondernemen.

Het paper concludeert dat hoewel deze aanpak soms wat langer nodig heeft om een antwoord te vinden, het veel beter is in het bieden van betrouwbaar advies voor de echte wereld dan methoden die de regels van de werkelijkheid negeren.

Technische Samenvatting: PACE – Een Neuro-Symbolisch Framework voor Plausibele en Actievenbare Counterfactuele Verklaringen

Probleemstelling
Counterfactuele verklaringen (CE's) zijn een prominente benadering binnen Explainable AI (XAI), ontworpen om actievenbare aanbevelingen te bieden door minimale wijzigingen in een input-instantie te identificeren die de voorspelling van een machine learning-model zouden veranderen. Hoewel bestaande methoden effectief voorspellingsveranderende alternatieven genereren, produceren ze vaak onrealistische of onhaalbare aanbevelingen. Dit komt doordat veel benaderingen primair optimaliseren voor voorspellingsverandering en nabijheid tot de oorspronkelijke instantie, en vaak een gebrek hebben aan expliciete mechanismen om domeinkennis of interventiebeperkingen te integreren. Bijgevolg kunnen gegenereerde verklaringen domeinspecifieke regels schenden (bijv. het suggereren van een onmogelijke verandering in onveranderlijke attributen zoals leeftijd of geslacht) of er niet in slagen om realistische menselijke handelingen te representeren. Er is een kritieke behoefte aan methoden die ervoor zorgen dat verklaringen niet alleen valide zijn (het veranderen van de voorspelling), maar ook plausibel en haalbaar binnen de beperkingen van het toepassingsdomein.

Methodologie
Het artikel stelt PACE (Plausible and Actionable Counterfactual Explanations) voor, een modulair neuro-symbolisch framework dat datagedreven predictieve modellen integreert met symbolische redenering om haalbaarheid af te dwingen. De methodologie is gestructureerd rond drie kerncomponenten:

Probleemformulering:
De generatie van een counterfactueel wordt geformaliseerd als een beperkt zoekprobleem. Gegeven een black-box model $f$ en een input $x$ met voorspelling $y$ , is het doel om een counterfactueel $x_{cf}$ te vinden waarvoor $f(x_{cf}) \neq f(x)$ . De zoekopdracht minimaliseert een afstandmetriek $d$ (gedefinieerd als het aantal gewijzigde kenmerken) onder de voorwaarde dat $x_{cf}$ moet liggen binnen een haalbare interventieruimte $\Omega$ . Deze ruimte wordt strikt gedefinieerd door domeinspecifieke regels, wat ervoor zorgt dat onveranderlijke attributen ongewijzigd blijven en bewerkbare attributen logische afhankelijkheden volgen.
Neuro-Symbolische Architectuur:
- Neuraal Component: Een predictief model (bijv. een Multilayer Perceptron) fungeert als een oracle om kandidaat-instanties te evalueren en te verifiëren of aan de voorwaarde voor de voorspellingsomslag is voldaan.
- Symbolisch Component: Een symbolische redeneerlaag, geïmplementeerd met behulp van Answer Set Programming (ASP), codeert de domeinkennis. Deze laag definieert de haalbare ruimte $\Omega$ door kenmerken te partitioneren in onveranderlijke ( $X_I$ ) en bewerkbare ( $X_E$ ) sets. Het handhaaft logische regels, zoals directionele invarianten (bijv. opleidingsniveaus kunnen alleen naar aangrenzende niveaus veranderen) en relationele invarianten (bijv. specifieke beroepstransities).
- Zoekprocedure: Het framework maakt gebruik van een iteratieve "generate-and-verify"-loop. De symbolische engine genereert kandidaat-interventies binnen een specifiek budget $K$ (wat het aantal gelijktijdige kenmerkwijzigingen beperkt). Kandidaten worden gefilterd tegen de symbolische beperkingen voordat ze door het neurale model worden geëvalueerd. De zoekopdracht begint met een minimaal budget en breidt dit stapsgewijs uit totdat een valide counterfactueel wordt gevonden of de maximale grens is bereikt.

Casestudy en Experimentele Opzet
Het framework werd geëvalueerd op de Adult Income dataset, een benchmark voor tabulaire classificatie. De taak was het voorspellen of een individu een inkomen heeft dat de $50.000 overstijgt.

Model: Een Multilayer Perceptron (MLP) met een nauwkeurigheid van 82% diende als het predictieve model.
Kenmerken: Vijf kenmerken werden gebruikt: Leeftijd en Geslacht (onveranderlijk), en Opleiding, Beroep en Werkuren per week (bewerbaar).
Beperkingen: De symbolische kennisbasis handhaafde regels zoals:
- Leeftijd en Geslacht kunnen niet worden gewijzigd.
- Wijzigingen in Opleiding zijn beperkt tot aangrenzende niveaus.
- Beroepswijzigingen moeten een vooraf gedefinieerde transitiegraaf volgen.
- Werkuren moeten binnen begrensde stappen veranderen.
Baselines: PACE werd vergeleken met Random Search, DiCE, Wachter-stijl optimalisatie, VCNet-stijl en C-CHVAE-stijl benaderingen.

Belangrijkste Resultaten
De experimenten, uitgevoerd op 1.000 testinstanties, benadrukten een duidelijk compromis tussen validiteit (succesvol de voorspelling veranderen) en plausibiliteit (voldoen aan domeinbeperkingen):

Plausibiliteit: PACE behaalde een plausibiliteit van 100%, aangezien alle gegenereerde verklaringen strikt de symbolische beperkingen naleefden. In contrast hiermee produceerden onbeperkte methoden zoals Random Search (2,7% plausibiliteit) en DiCE (4,2% plausibiliteit) regelmatig onhaalbare aanbevelingen.
Validiteit: Onbeperkte methoden behaalden over het algemeen hogere validiteitsscores (bijv. Random Search op 0,778, DiCE op 0,742) vergeleken met PACE (0,240). Dit geeft aan dat het beperken van de zoekruimte tot haalbare interventies het aantal instanties vermindert waarvoor een counterfactueel kan worden gevonden.
Minimaliteit: PACE genereerde relatief compacte verklaringen, waarbij gemiddeld 1,242 kenmerkwijzigingen nodig waren, wat lager was dan de meeste baselines (bijv. DiCE op 1,953).
Zoalefficiëntie: PACE demonstreerde een hoge efficiëntie, waarbij gemiddeld 5,271 iteraties nodig waren om een voorspelling om te keren en een runtime van 0,076 seconden per instantie, waarmee het de Wachter-stijl baseline aanzienlijk versloeg.
Aanvullende Analyse: Wanneer alle methoden werden beperkt tot dezelfde haalbare ruimte $\Omega$ , convergeerden hun plausibiliteitsscores naar 1,0, wat bevestigt dat de winst in plausibiliteit bij PACE voortkomt uit expliciete beperkingsspecificatie. Bovendien bleken de PACE-counterfactuelen dichter bij de empirische datamanifold te liggen (gemiddelde afstand tot dichtstbijzijnde buren: 0,354) vergeleken met onbeperkte zoekopdrachten (0,944).

Betekenis en Bijdragen
Het artikel beweert dat PACE het gat tussen hoogwaardige counterfactuele generatie met hoge validiteit en de expliciete handhaving van haalbaarheid overbrugt. De primaire bijdragen zijn:

Een Modulair Framework: Het integreert machine learning met symbolische redenering om beperkte counterfactuele generatie mogelijk te maken.
Haalbaarheidsbewuste Formulering: Het definieert counterfactuele generatie als een zoektocht waarbij symbolische beperkingen expliciet de toelaatbare interventieruimte afbakenen.
Implementatie: Het biedt een ASP-gebaseerde implementatie die domeinspecifieke beperkingen tijdens het zoekproces afdwingt.
Empirisch Bewijs: Het demonstreert via de Adult Income casestudy dat het integreren van symbolische beperkingen leidt tot verklaringen die beter voldoen aan de domeinspecifieke haalbaarheidseisen, hoewel dit gepaard gaat met een trade-off in de snelheid waarmee voor alle instanties een valide counterfactueel wordt gevonden.

De auteurs concluderen dat hoewel er een trade-off bestaat tussen validiteit en plausibiliteit, neuro-symbolische methoden zoals PACE een veelbelovende richting bieden voor het genereren van transparante, haalbaarheidsbewuste verklaringen in kritieke besluitvormingssystemen. Het artikel erkent beperkingen, zoals de afhankelijkheid van een enkele dataset en handmatig gespecificeerde beperkingen, en suggereert dat toekomstig werk zich zou moeten richten op automatische acquisitie van beperkingen en rijkere vormen van domeinkennis.