🤖 AI

An XAI View on Explainable ASP: Methods, Systems, and Perspectives

Deze enquête biedt een door XAI geleid overzicht van bestaande uitlegmethoden en -instrumenten voor Answer Set Programming, waarbij deze worden in kaart gebracht naar gebruikersbehoeften terwijl huidige tekortkomingen worden geïdentificeerd en toekomstige onderzoeksrichtingen worden geschetst.

Oorspronkelijke auteurs: Thomas Eiter, Tobias Geibinger, Zeynep G. Saribatur

Gepubliceerd 2026-06-11

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Thomas Eiter, Tobias Geibinger, Zeynep G. Saribatur

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer slimme, logische robot hebt gebouwd om een complexe puzzel op te lossen. Je geeft het een reeks regels (zoals een recept) en het spuugt een oplossing uit. Maar soms geeft de robot je een antwoord dat je verrast, of erger nog, het weigert een antwoord te geven. Je vraagt: "Waarom deed je dat?" of "Waarom kan je dit niet oplossen?"

Dit artikel is een gids voor het stellen van die vragen aan Answer Set Programming (ASP)-systemen. ASP is een type "Symbolische AI" dat gebruikmaakt van strikte logische regels (zoals een superprecieze receptenboek) om problemen op te lossen. In tegen tegenstelling tot moderne "neurale netwerk"-AI's, die vaak black boxes zijn (je stopt er data in, er gebeurt magie, en je krijgt een antwoord), is ASP van nature transparant omdat het strikte, geschreven regels volgt.

Zelfs met duidelijke regels kan de logica echter in de knoop raken. Dit artikel onderzoekt de verschillende "instrumenten" en "methoden" die we hebben om uit te leggen wat de robot aan het denken is. De auteurs, Thomas Eiter, Tobias Geibinger en Zeynep G. Saribatur, organiseren deze instrumenten op basis van twee hoofdperspectieven: Lokaal en Globaal.

De Twee Soorten Vragen

Beschouw het ASP-systeem als een detective die een zaak oplost.

1. Lokale Verklaringen (De "Specifieke Zaak" Detective)

De Vraag: "Ik heb een specifieke oplossing (één specifieke answer set). Waarom is dit feit waar in deze oplossing?" of "Waarom is dit feit onwaar?"
De Analogie: Stel je voor dat je naar een specifieke foto van een plaats delict kijkt. Je vraagt: "Waarom houdt de verdachte een paraplu?" De tool kijkt naar de specifieke regels die hebben geleid tot het feit dat die paraplu op de foto staat.
De Instrumenten: Het artikel somt verschillende manieren op om dit te doen:
- Rechtvaardigingsbomen (Justification Trees): Zoals een stamboom, maar dan voor logica. Het laat zien hoe één feit "afstamt" van andere feiten en regels.
- Support Grafieken (Support Graphs): Een kaart die laat zien welke regels een beslissing "ondersteunden".
- Contrastieve Verklaringen: Dit is also eigenlijk vragen: "Waarom droeg de verdachte een paraplu in plaats van een hoed?" De tool legt het verschil uit tussen de werkelijke uitkomst en een hypothetisch "wat als"-scenario.

2. Globale Verklaringen (De "Grote Plaatje" Detective)

De Vraag: "Waarom geeft de robot nooit een antwoord?" of "Waarom bevat de robot dit feit altijd in elke enkele oplossing?"
De Analogie: Stel je voor dat je naar het volledige regelboek van de detective kijkt. Je vraagt: "Waarom is het onmogelijk om deze zaak op te lossen?" of "Waarom is de verdachte altijd schuldig, ongeacht wat er gebeurt?"
De Instrumenten:
- Debugging: Als de robot vastloopt (geen oplossing), fungeren deze tools als een monteur die de kapotte onderdelen van de motor vindt. Ze zoeken naar "Minimale Onbevredigende Sets" — de kleinste groep regels die met elkaar in strijd zijn en de crash veroorzaken.
- Abstractie: Dit is als het uitzoomen op een kaart. Als de kaart te druk is om het probleem te kunnen zien, vervaag je de kleine straatjes en kijk je alleen naar de snelwegen. Dit helpt om de kernreden te vinden waarom het systeem vastlobt.

De Huidige Staat van de Gereedschapskist

Het artikel fungeert als een overzicht van de "gereedschapskist" die beschikbaar is voor ASP-gebruikers. Dit is wat zij vonden:

We hebben veel instrumenten voor "Waarom is X waar?" Er zijn veel manieren om uit te leggen waarom een specifief feit in een oplossing verschijnt (Lokaal).
We missen instrumenten voor "Waarom is de oplossing optimaal?" Als de robot de "beste" oplossing kiest op basis van bepaalde voorkeuren, is het momenteel erg moeilijk om uit te leggen waarom deze de beste is.
De "Taalkloof": Veel van deze verklarende instrumenten werken goed op eenvoudige regels. Maar echte problemen maken echter gebruik van geavanceerde functies zoals "disjunctie" (A of B), "aggregaten" (dingen tellen) of "zwakke beperkingen" (voorkeuren). Het artikel merkt op dat veel verklarende instrumenten deze geavanceerde functies nog niet kunnen aan. Het is alsover een moersleutel die alleen past op kleine bouten, terwijl je machine grote bouten heeft.
De "Systeemkloof": Je moet vaak kiezen tussen een tool die een specifieke oplossing verklaart (Lokaal) of een tool die verklaart waarom het hele systeem kapot is (Globaal). Je krijgt zelden een tool die beide naadloos combineert.

Het Menselijke Element (Cognitieve Aspecten)

De auteurs wijzen er ook op dat alleen een technisch antwoord niet genoeg is; de verklaring moet begrijpelijk zijn voor een mens.

Te Veel Informatie: Als je een enorm programma hebt met duizenden regels, is het tonen van de volledige "stamboom" van de logica overweldigend voor de gebruiker. Het artikel suggereert dat we betere manieren nodig hebben om deze verklaringen te "samenvatten" of te "abstraheren", door bijvoorbeeld de saaie details te verbergen en alleen de kernlogica te tonen.
Praten met Niet-Experts: De meeste tools geven technische grafieken of lijsten met regels terug. Het artikel suggereert het gebruik van Large Language Models (LLM's) (zoals de AI waarmee je nu praat) om deze technische "robottalen" te vertalen naar gewone mensentaal. Stel je voor dat de robot zegt: "Ik koos de paraplu omdat het regende," in plaats van een complexe grafiek van logische regels te tonen.

De Kernconclusie

Dit artikel is een kaart van het huidige landschap van "Verklaarbare ASP". Het vertelt ons:

We zijn goed in het verklaren van specifieke, lokale beslissingen.
We worstelen met het verklaren waarom systemen volledig falen of waarom ze de "beste" optie kiezen tussen vele opties.
We hebben betere tools nodig die de complexe, real-world regeltypen kunnen aan.
We moeten het mensvriendelijk maken door complexe logica samen te vatten en te vertalen naar natuurlijke taal.

De auteurs concluderen dat hoewel we een rijke variëteit aan methoden hebben, er nog geen enkel instrument is dat aan alle behoeften voldoet. De toekomst van ASP-uitleg ligt in het overbruggen van de kloof tussen complexe logische redenering en menselijk begrip, mogelijk door nieuwe AI-technologieën te gebruiken om als vertaler te fungeren.

Technische Samenvatting: Een XAI-perspectief op Verklarebare ASP

Probleemstelling

Answer Set Programming (ASP) is een prominent paradigma voor declaratieve redenering binnen de symbolische AI, gewaardeerd om zijn regelgebaseerde formalisme dat inherent interpreteerbaarder is dan subsymbolische benaderingen zoals neurale netwerken. Ondanks dit blijft het "black box"-karakter van solver-outputs een barrière voor adoptie in de industrie en de samenleving, vooral nu Explainable AI (XAI) aan belang wint. Gebruikers worstelen vaak met het begrijpen van de redeneermechanismen achter specifieke solver-resultaten (answer sets) of het algemene gedrag van een programma (bijv. waarom er geen oplossing bestaat).

Hoewel eerdere surveys (bijv. Fandinno en Schulz, 2019) specifieke verklaringstechnieken hebben gecatalogiseerd, richten deze zich vaak op nauwe settings (bijv. "waarom is atoom $a$ aanwezig in answer set $I$ ?"). Er is een gebrek aan een uitgebreid, gebruikersgericht overzicht dat diverse gebruikersvragen koppelt aan bestaande theoretische benaderingen en tools, en de hiaten in de huidige dekking identificeert en de verklaringcapaciteiten van ASP afstemt op het bredere XAI-onderscheid tussen lokale en globale verklaringen.

Methodologie

De auteurs voeren een survey uit naar ASP-verklaringbenaderingen, geleid door een XAI-perspectief. De methodologie omvat:

Categorisering: Het structureren van het landschap van verklaringen in Lokale Verklaringen (betreffende een specifiek berekend answer set) en Globale Verklaringen (betreffende het algemene gedrag van het programma of de verzameling van alle answer sets).
Vraaggestuurde Analyse: Het identificeren van een uitgebreide lijst van typische gebruikersvragen (Q1–Q8) variërend van "Waarom is literaal $\ell$ aanwezig in $I$ ?" tot "Waarom heeft het programma geen answer sets?" en "Waarom is $I$ optimaal?".
Mapping en Reductie: Analyseren hoe bestaande methoden (gelabeld M1–M15) en systemen (bijv. xASP2, xclingo, s(CASP), UCOREXPLAIN) deze vragen adresseren. De auteurs identificeren ook waar vragen kunnen worden gereduceerd tot andere oplosbare problemen (bijv. het reduceren van "waarom $a \in I$ " naar "waarom een aangepast programma onvervulbaar is").
Gap-identificatie: Het evalueren van de dekking van huidige tools tegenover taalfuncties (disjunctie, aggregaten, choice rules, zwakke constraints) en gebruikersbehoeften (schaalbaarheid, cognitieve belasting, interactie).

Belangrijkste Bijdragen

Het artikel biedt een gestructureerde taxonomie van ASP-verklaringmethoden en benadrukt de volgende specifieke bijdragen:

1. Taxonomie van Verklaringstypen

Lokale Verklaringen: Gericht op het afleiden van de aanwezigheid of afwezigheid van atomen in een specifiek answer set $I$ $I$ .
- Rechtvaardigingen (M1–M4): Omvat offline rechtvaardigingen (afleidingsgrafieken), ABA-gebaseerde rechtvaardigingen (argumentatiestambomen), causale rechtvaardigingen (algebraïsche termen) en regelgebaseerde rechtvaardigingen vanuit solver-traces.
- Uitgebreide Rechtvaardigingen (M5): Unit-provable unsatisfiable subsets (1-PUS) gebruikt in UCOREXPLAIN om minimale regelsets te vinden die een literaal verklaren.
- Support Graphs (M6): Gebruikt door xclingo, waarbij atomen worden gekoppeld aan regels die hen ondersteunen, wat natuurlijke taalannotaties mogelijk maakt.
- Witnesses (M7): Solver-onafhankelijke stapsgewijze logische afleidingen.
- Contrastieve Verklaringen (M8): Legt uit waarom een verzameling atomen $E$ in $I$ zit in plaats van een verzameling $F$ , gebruikmakend van contrafectuals (Eiter et al., 2023).
Globale Verklaringen: Gericht op programma gedrag zonder een specifiek answer set.
- Why-not Provenance (M9): Identificeert programma-aanpassingen die nodig zijn om waarheidswaarden te veranderen.
- Top-down Computation (M10): Doelgerichte rechtvaardigingsbomen (bijv. s(CASP)).
- Proof Systems (M11): Calculi voor sceptische implicatie (waarom een atoom in elke of geen answer set aanwezig is).
- Debugging (M12–M14): Technieken zoals meta-encodings (spock), Minimal Unsatisfiable Sets (MUS) en interactief stappen om inconsistenties uit te leggen.
- Abstractie (M15): Over-approximatie technieken om "in te zoomen" op onvervulbare delen door irrelevante details weg te laten.

2. Analyse van Gebruikersvragen (Q1–Q8)

Het artikel koppelt specifieke gebruikersqueries aan beschikbare methoden:

Q1 (Waarom $\ell \in I$ ?): Gedekt door de meeste lokale methoden (M1–M7).
Q2 (Waarom $\ell \in I$ maar $\ell' \notin I$ ?): Geadresseerd door contrastieve verklaringen (M8) of reductie tot onvervulbaarheid.
Q3 (Waarom is $I$ optimaal?): Mist momenteel native ondersteuning; reduceerbaar naar het verklaren van de niet-existentie van een beter answer set.
Q4–Q6 (Globale existentie/niet-existentie): Geadresseerd door provenance, bewijssystemen en debugging/abstractie methoden.
Q7–Q8 (Kwantitatief/Collectief gedrag): Geïdentificeerd als hiaten. Huidige tools kunnen niet inherent verklaren waarom een eigenschap geldt voor een collectie answer sets of waarom een programma een specifiek aantal answer sets heeft.

3. Analyse van Tool- en Taalondersteuning

De auteurs evalueren bestaande tools tegenover ASP-taalextensies (Tabel 2):

Disjunctie: Slecht ondersteund; de meeste tools (LABAS, s(CASP), xASP2) gaan niet goed om met disjunctieve regels vanwege de complexiteit in het genereren van verklaringen.
Choice Rules & Aggregaten: Gedeeltelijk ondersteund (bijv. xASP2, xclingo, UCOREXPLAIN), maar vaak met beperkingen.
Zwakke Constraints: Over het algemeen niet ondersteund voor verklaringen, met DWASP als een opmerkelijke uitzondering voor debugging.
Solver Afhankelijkheid: Er bestaat een mix van solver-afhankelijke (bijv. xclingo, s(CASP)) en solver-onafhankelijke (bijv. LABAS, Causal Justifications) benaderingen.

Resultaten en Bevindingen

Dekking: De meeste gebruikersvragen kunnen natief worden beantwoord of door reductie tot onvervulbaarheid (het verklaren waarom een programma geen answer sets heeft).
Beperkingen:
- Taal Hiaten: Disjunctie en zwakke constraints blijven significante hindernissen voor verklaringstools.
- Schaalbaarheid: De meeste methoden zijn post-hoc en opereren op ge-groundeerde programma's, wat leidt tot een hoge computationele complexiteit voor grote problemen.
- Cognitieve Belasting: Verklaringen voor inconsistenties (debugging) zijn vaak technisch (regelsets) en moeilijk te interpreteren voor niet-experts.
- Ontbrekende Scenario's: Geen enkele huidige methode adresseert vragen over de hoeveelheid answer sets of eigenschappen die gelden over meerdere answer sets tegelijkertijd.
Interoperabiliteit: Er is een "systeemkloof" waarbij gebruikers moeten kiezen tussen lokale of globale verklaringstools, zonder een verenigd framework.

Betekenis en Toekomstige Richtingen

Het artikel positioneert zichzelf als een gids voor zowel onderzoekers als niet-expert ASP-gebruikers, met als doel de kloof tussen theoretische verklaringcapaciteiten en praktische gebruikersbehoeften te overbruggen.

Betekenis:

Het vestigt een verenigd XAI-framework voor ASP, waarbij onderscheid wordt gemaakt tussen lokale en globale redenering.
Het benadrukt dat het verklaren van inconsistentie (onvervulbaarheid) een cruciale stapsteen is voor universele verklaringbenaderingen, aangezien veel vragen naar deze vorm reduceren.
Het identificeert de noodzaak voor beknopte en interpreteerbare verklaringen, waarbij wordt gesuggereerd dat abstractie en stapsgewijze redenering essentieel zijn voor het verminderen van de cognitieve inspanning.

Toekomstige Onderzoeksrichtingen:

Cognitieve Aspecten: Het ontwikkelen van methoden om inconsistenties (bijv. via verborgen "lemma's" of cliques in grafiekkleuring) te presenteren op een manier die begrijpelijk is voor niet-experts.
Interactie: Het integreren van Large Language Models (LLMs) om technische verklaringen (bijv. MUS) naar natuurlijke taal te vertalen en om gebruikersqueries te parsen.
Schaalbaarheid: Het direct in de solvers integreren van verklaringstechnieken om niet-ge-groundeerde programma's en grootschalige problemen aan te pakken.
Nieuwe Vraagtypen: Het ontwikkelen van specifieke oplossingen voor vragen over de hoeveelheid answer sets en collectief gedrag (Q7, Q8).

De auteurs concluderen dat hoewel er een rijk landschap van methoden bestaat, geen enkele tool aan alle behoeften voldoet, en dat toekomstig werk de taalondersteuning, schaalbaarheid en de cognitieve interpretatie van complexe logische redenering moet aanpakken.