🤖 AI

An XAI View on Explainable ASP: Methods, Systems, and Perspectives

Questo sondaggio fornisce una panoramica guidata dall'XAI dei metodi e degli strumenti di spiegazione esistenti per l'Answer Set Programming, mappandoli in base alle esigenze dell'utente e identificando al contempo le lacune attuali e delineando le future direzioni della ricerca.

Autori originali: Thomas Eiter, Tobias Geibinger, Zeynep G. Saribatur

Pubblicato 2026-06-11

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Thomas Eiter, Tobias Geibinger, Zeynep G. Saribatur

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di aver costruito un robot molto intelligente e logico per risolvere un puzzle complesso. Gli dai un insieme di regole (come una ricetta) e lui produce una soluzione. Ma a volte, il robot ti dà una risposta che ti sorprende o, peggio, si rifiuta di dare una risposta. Tu chiedi: "Perché hai fatto così?" o "Perché non riesci a risolverlo?".

Questo articolo è una guida per porre queste domande ai sistemi di Programmazione per Insiemi di Risposte (ASP - Answer Set Programming). L'ASP è un tipo di "IA Simbolica" che utilizza regole logiche rigorose (come un libro di ricette super preciso) per risolvere problemi. A differenza delle moderne IA a "reti neurali" (che spesso sono scatole nere: inserisci dei dati, avviene la magia e ottieni una risposta), l'ASP è trasparente per natura perché segue regole chiare e scritte.

Tuttavia, anche con regole chiare, la logica può diventare intricata. Questo articolo esamina i diversi "strumenti" e "metodi" che abbiamo per spiegare cosa sta pensando il robot. Gli autori, Thomas Eiter, Tobias Geibinger e Zeynep G. Saribatur, organizzano questi strumenti basandosi su due prospettive principali: Locale e Globale.

I due tipi di domande

Pensa al sistema ASP come a un detective che risolve un caso.

1. Spiegazioni Locali (Il detective del "Caso Specifico")

La domanda: "Ho una soluzione specifica (un particolare insieme di risposte). Perché questo fatto è vero in questa soluzione?" oppure "Perché questo fatto è falso?".
L'analogia: Immagina di guardare una foto specifica di una scena del crimine. Chiedi: "Perché il sospettato tiene in mano un ombrello?". Lo strumento analizza le regole specifiche che hanno portato a quel particolare ombrello nella foto.
Gli strumenti: L'articolo elenca diversi modi per farlo:
- Alberi di Giustificazione: Come un albero genealogico, ma per la logica. Mostra come un fatto "deriva" da altri fatti e regole.
- Grafi di Supporto: Una mappa che mostra quali regole hanno "supportato" una decisione.
- Spiegazioni Contrastive: Questa è come chiedere: "Perché il sospettato ha indossato un ombrello invece di un cappello?". Lo strumento spiega la differenza tra l'esito reale e uno scenario ipotetico "e se...".

2. Spiegazioni Globali (Il detective del "Quadro Generale")

La domanda: "Perché il robot non dà mai una risposta?" oppure "Perché il robot include sempre questo fatto in ogni singola soluzione?".
L'analogia: Immagina di guardare l'intero libro delle regole del detective. Chiedi: "Perché è impossibile risolvere questo caso?" o "Perché il sospettato è sempre colpevole, a prescindere da tutto?".
Gli strumenti:
- Debugging: Se il robot si blocca (nessuna soluzione), questi strumenti agiscono come un meccanico che trova il pezzo rotto del motore. Cercano "Insiemi Minimi Insoddisfacibili" — il più piccolo gruppo di regole che si stanno scontrando tra loro e causando il blocco.
- Astrazione: Questa è come zoomare su una mappa. Se la mappa è troppo affollata per vedere il problema, sfochi le strade piccole e guardi solo le autostrade. Questo aiuta a trovare la ragione fondamentale per cui il sistema è bloccato.

Lo stato attuale della cassetta degli attrezzi

L'articolo funge da recensione della "cassetta degli attrezzi" disponibile per gli utenti ASP. Ecco cosa hanno scoperto:

Abbiamo molti strumenti per "Perché X è vero?": Esistono molti modi per spiegare perché un fatto specifico appare in una soluzione (Locale).
Ci mancano strumenti per "Perché la soluzione è ottimale?": Se il robot sceglie la soluzione "migliore" in base ad alcune preferenze, spiegare perché sia la migliore è attualmente molto difficile.
Il "Gap del Linguaggio": Molti di questi strumenti di spiegazione funzionano bene su regole semplici. Ma i problemi del mondo reale utilizzano spesso funzioni avanzate come la "disgiunzione" (A o B), gli "aggregati" (contare le cose) o i "vincoli deboli" (preferenze). L'articolo nota che molti strumenti di spiegazione non possono ancora gestire queste funzioni avanzate. È come avere una chiave inglese che si adatta solo a bulloni piccoli, mentre la tua macchina ha bulloni giganti.
La "Divisione del Sistema": Spesso devi scegliere tra uno strumento che spiega una soluzione specifica (Locale) o uno strumento che spiega perché l'intero sistema è rotto (Globale). Raramente si trova uno strumento che faccia entrambe le cose in modo fluido.

L'elemento umano (Aspetti Cognitivi)

Gli autori sottolineano che non basta avere la risposta tecnica; la spiegazione deve essere comprensibile a un essere umano.

Troppe informazioni: Se hai un programma enorme con migliaia di regole, mostrare all'utente l'intero "albero genealogico" della logica è travolgente. L'articolo suggerisce che abbiamo bisogno di modi migliori per "riassumere" o "astrarre" queste spiegazioni, magari nascondendo i dettagli noiosi e mostrando solo la logica centrale.
Parlare a non esperti: La maggior parte degli strumenti produce grafici tecnici o liste di regole. L'articolo suggerisce di utilizzare i Large Language Models (LLM) (come l'IA con cui stai parlando ora) per tradurre questi linguaggi tecnici "da robot" in un inglese (o linguaggio naturale) semplice. Immagina il robot che dice: "Ho scelto l'ombrello perché stava piovendo", invece di mostrare un complesso grafo di regole logiche.

In sintesi

Questo articolo è una mappa del panorama attuale della "Spiegabilità ASP". Ci dice che:

Siamo bravi a spiegare decisioni specifiche e locali.
Stiamo faticando a spiegare perché i sistemi falliscono completamente o perché scelgono l'opzione "migliore" tra molte altre.
Abbiamo bisogno di strumenti migliori che possano gestire tipi di regole complessi e reali.
Dobbiamo rendere il tutto "human-friendly", riassumendo la logica complessa e traducendola in linguaggio naturale.

Gli autori concludono che, sebbene abbiamo una ricca varietà di metodi, non esiste ancora un singolo strumento che soddisfi ogni esigenza. Il futuro della spiegazione ASP risiede nel colmare il divario tra il ragionamento logico complesso e la comprensione umana, forse utilizzando nuove tecnologie di IA per agire come traduttori.

Riepilogo Tecnico: Una Prospettiva XAI sulla Spiegabilità dell'ASP

Definizione del Problema

L'Answer Set Programming (ASP) è un prominente paradigma di ragionamento dichiarativo nella IA simbolica, apprezzato per il suo formalismo basato su regole che è intrinsecamente più interpretabile rispetto agli approcci subsimbolici come le reti neurali. Nonostante ciò, la natura "black box" degli output dei solver rimane una barriera all'adozione nell'industria e nella società, particolarmente mentre la XAI (Explainable AI) acquista importanza. Gli utenti spesso faticano a comprendere i meccanismi di ragionamento dietro specifici risultati del solver (answer set) o il comportamento generale di un programma (ad esempio, perché non esiste una soluzione).

Sebostante precedenti survey (ad es. Fandinno e Schulz, 2019) abbiano catalogato tecniche di spiegazione specifiche, esse si concentrano spesso su contesti ristretti (ad es. "perché l'atomo $a$ è in un answer set $I$ ?"). Manca una panoramica completa e incentrata sull'utente che mappi i diversi quesiti dell'utente verso gli approcci teorici e gli strumenti esistenti, identifichi le lacune nella copertura attuale e allinei le capacità di spiegazione dell'ASP con la più ampia distinzione XAI tra spiegazioni locali e globali.

Metodologia

Gli autori conducono una survey sugli approcci di spiegazione ASP guidata da una prospettiva XAI. La metodologia prevede:

Categorizzazione: Strutturare il panorama delle spiegazioni in Spiegazioni Locali (relative a un specifico answer set calcolato) e Spiegazioni Globali (relative al comportamento generale del programma o all'insieme di tutti gli answer set).
Analisi Guidata dai Quesiti: Identificare un elenco completo di tipici quesiti dell'utente (Q1–Q8) che spaziano da "Perché il letterale $\ell$ è in $I$ ?" a "Perché il programma non ha answer set?" e "Perché $I$ è ottimale?".
Mappatura e Riduzione: Analizzare come i metodi esistenti (etichettati come M1–M15) e i sistemi (ad es. xASP2, xclingo, s(CASP), UCOREXPLAIN) affrontano questi quesiti. Gli autori identificano anche dove i quesiti possono essere ridotti ad altri problemi risolvibili (ad es. ridurre "perché $a \in I$ " a "perché un programma modificato è insoddisfacibile").
Identificazione delle Lacune: Valutare la copertura degli strumenti attuali rispetto alle caratteristiche del linguaggio (disgiunzione, aggregati, regole di scelta, vincoli deboli) e ai bisogni dell'utente (scalabilità, carico cognitivo, interazione).

Contributi Chiave

Il documento fornisce una tassonomia strutturata dei metodi di spiegazione ASP e mette in evidenza i seguenti contributi specifici:

1. Tassonomia dei Tipi di Spiegazione

Spiegazioni Locali: Si concentrano sulla derivazione della presenza o assenza di atomi in un particolare answer set $I$ $I$ .
- Giustificazioni (M1–M4): Include giustificazioni offline (grafi di derivazione), giustificazioni basate su ABA (alberi di argomentazione), giustificazioni causali (termini algebrici) e giustificazioni basate su regole da tracce di solver.
- Giustificazioni Estese (M5): Sottoinsiemi insoddisfacibili unit-provable (1-PUS) utilizzati in UCOREXPLAIN per trovare minimi insiemi di regole che spiegano un letterale.
- Grafi di Supporto (M6): Utilizzati da xclingo, collegano gli atomi alle regole che li supportano, permettendo annotazioni in linguaggio naturale.
- Testimoni (Witnesses) (M7): Derivazioni logiche passo-passo indipendenti dal solver.
- Spiegazioni Contrastive (M8): Spiegano perché un insieme di atomi $E$ è in $I$ invece di un insieme $F$ , utilizzando controfattuali (Eiter et al., 2023).
Spiegazioni Globali: Si concentrano sul comportamento del programma senza un particolare answer set.
- Provenienza del "Perché-non" (Why-not Provenance) (M9): Identifica le modifiche al programma necessarie per cambiare i valori di verità.
- Computazione Top-down (M10): Alberi di giustificazione orientati all'obiettivo (ad es. s(CASP)).
- Sistemi di Prova (M11): Calcoli per l'implicazione scettica (perché un atomo è in ogni o in nessun answer set).
- Debugging (M12–M14): Tecniche come meta-codifiche (spock), Insiemi Minimi Insoddisfacibili (MUS) e stepping interattivo per spiegare le inconsistenze.
- Astrazione (M15): Tecniche di sovra-approssimazione per "zoomare" sulle parti insoddisfacibili omettendo dettagli irrilevanti.

2. Analisi dei Quesiti dell'Utente (Q1–Q8)

Il documento mappa specifici quesiti dell'utente verso i metodi disponibili:

Q1 (Perché $\ell \in I$ ?): Coperto dalla maggior parte dei metodi locali (M1–M7).
Q2 (Perché $\ell \in I$ ma $\ell' \notin I$ ?): Affrontato dalle spiegazioni contrastive (M8) o dalla riduzione all'insoddisfacibilità.
Q3 (Perché $I$ è ottimale?): Attualmente manca di supporto nativo; riducibile alla spiegazione della non esistenza di un miglior answer set.
Q4–Q6 (Esistenza/Non esistenza globale): Affrontati da provenienza, sistemi di prova e metodi di debugging/astrazione.
Q7–Q8 (Comportamento quantitativo/collettivo): Identificati come lacune. Gli strumenti attuali non possono spiegare nativamente perché una proprietà valga attraverso una collezione di answer set o perché un programma abbia un numero specifico di answer set.

3. Analisi del Supporto al Linguaggio e agli Strumenti

Gli autori valutano gli strumenti esistenti rispetto alle estensioni del linguaggio ASP (Tabella 2):

Disgiunzione: Scarsamente supportata; la maggior parte degli strumenti (LABAS, s(CASP), xASP2) non gestisce bene le regole disgiuntive a causa della complessità nella generazione delle spiegazioni.
Regole di Scelta e Aggregati: Parzialmente supportati (ad es. xASP2, xclingo, UCOREXPLAIN), ma spesso con restrizioni.
Vincoli Deboli: Generalmente non supportati per scopi di spiegazione, con DWASP come nota eccezione per il debugging.
Dipendenza dal Solver: Esiste un mix di approcci dipendenti dal solver (ad es. xclingo, s(CASP)) e indipendenti dal solver (ad es. LABAS, Giustificazioni Causali).

Risultati e Conclusioni

Copertura: La maggior parte dei quesiti dell'utente può essere risposta nativamente o tramite riduzione all'insoddisfacibilità (spiegare perché un programma non ha answer set).
Limitazioni:
- Lacune del Linguaggio: La disgiunzione e i vincoli deboli rimangono ostacoli significativi per gli strumenti di spiegazione.
- Scalabilità: La maggior parte dei metodi è post-hoc e opera su programmi non-ground, portando a un'elevata complessità computazionale per problemi di grandi dimensioni.
- Carico Cognitivo: Le spiegazioni per le inconsistenze (debugging) sono spesso tecniche (insiemi di regole) e difficili da interpretare per i non esperti.
- Scenari Mancanti: Nessun metodo attuale affronta quesiti riguardanti la quantità di answer set o proprietà che valgono su molteplici answer set simultaneamente.
Interoperabilità: Esiste un "divario di sistema" dove gli utenti devono scegliere tra strumenti di spiegazione locale o globale, mancando di un framework unificato.

Significato e Direzioni Future

Il documento posiziona se stesso come una guida sia per i ricercatori che per gli utenti non esperti di ASP, mirando a colmare il divario tra le capacità teoriche di spiegazione e le necessità pratiche degli utenti.

Significato:

Stabilisce un framework XAI unificato per l'ASP, distinguendo tra ragionamento locale e globale.
Evidenzia che spiegare l'inconsistenza (insoddisfacibilità) è un passaggio critico per approcci di spiegazione universali, poiché molti quesiti si riducono a questa forma.
Identifica la necessità di spiegazioni concise e interpretabili, suggerendo che l'astrazione e il ragionamento passo-passo siano vitali per ridurre lo sforzo cognitivo.

Direzioni di Ricerca Futura:

Aspetti Cognitivi: Sviluppare metodi per presentare le inconsistenze (ad es. tramite "lemmi" nascosti o clique in grafi di colorazione) in modo comprensibile ai non esperti.
Interazione: Integrare i Large Language Models (LLM) per tradurre spiegazioni tecniche (ad es. MUS) in linguaggio naturale e per analizzare i quesiti dell'utente.
Scalabilità: Incorporare le tecniche di spiegazione direttamente nei solver per gestire programmi non-ground e problemi su larga scala.
Nuovi Tipi di Quesiti: Sviluppare soluzioni dedicate per quesiti riguardanti la quantità di answer set e i comportamenti collettivi (Q7, Q8).

Gli autori concludono che, sebbene esista un ricco panorama di metodi, nessun singolo strumento soddisfa tutte le esigenze, e il lavoro futuro dovrà affrontare il supporto linguistico, la scalabilità e l'interpretazione cognitiva del complesso ragionamento logico.