📊 statistics

Axiomatic Foundations of Counterfactual Explanations

Questo articolo introduce un framework assiomatico che stabilisce teoremi di impossibilità e di rappresentazione per caratterizzare sistematicamente cinque distinte famiglie di spiegazioni controfattuali, colmando così il divario tra interpretabilità locale e globale nei sistemi autonomi.

Autori originali: Leila Amgoud, Martin Cooper

Pubblicato 2026-02-05

📖 6 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Leila Amgoud, Martin Cooper

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di essere davanti a un distributore automatico tecnologico e misterioso. Inserisci i soldi, premi un pulsante e ti dà una soda. Ma poi, chiedi: "Perché non ho ricevuto un succo?".

La maggior parte degli attuali spiegatori di IA cerca di rispondere a questo problema guardando alla tua transazione specifica. Dicono: "Beh, hai inserito 1,00$ , ma il succo costa 1,50$". Questa è una spiegazione locale. È utile, ma dice solo qualcosa di questo specifico momento.

Il documento che hai fornito, "Axiomatic Foundations of Counterfactual Explanations" di Amgoud e Cooper, sostiene che abbiamo guardato a questo problema in modo troppo limitato. Hanno costruito un nuovo "regolamento" (un quadro assiomatico) per categorizzare tutti i possibili modi in cui un'IA può spiegare le sue decisioni, non solo quelli che vediamo di solito.

Ecco la suddivisione delle loro scoperte in termini semplici:

1. Le due grandi famiglie di spiegazioni

Gli autori hanno scoperto che tutte le spiegazioni controfattuali (risposte a "Perché no?") appartengono a due grandi fazioni, come due diversi modi per risolvere un puzzle:

La fazione del "Necessario" (Il pezzo mancante):
- La logica: "Se rimuovi questa specifica cosa, il risultato cambia."
- La metafora: Immagina una torta che non è lievitata. Una spiegazione necessaria dice: "La torta non è lievitata perché hai dimenticato il lievito". Se non avessi dimenticato il lievito, la torta avrebbe potuto lievitare. Identifica l'ingrediente critico che era presente e ha causato l'attuale risultato.
- L'intoppo: A volte, non esiste un singolo "pezzo mancante". Per esempio, se un prestito è stato rifiutato a causa di un mix complesso di basso reddito e cattivo credito, rimuoverne solo uno potrebbe non essere sufficiente a garantire un "sì". In questi casi, le spiegazioni necessarie potrebbero non esistere affatto.
La fazione del "Sufficiente" (L'interruttore magico):
- La logica: "Se aggiungi o cambi questa specifica cosa, il risultato cambierà sicuramente."
- La metafora: Immagina un interruttore della luce. Una spiegazione sufficiente dice: "Se premi questo interruttore, la luce si accende". Non importa cosa altro stia succedendo nella stanza; premere l'interruttore garantisce il cambiamento.
- L'intoppo: Spesso ci sono molti interruttori da premere. Potresti premere l'interruttore, oppure potresti sostituire la lampadina, o portare una torcia. Questo tipo di spiegazione garantisce un risultato, ma può essere travolgente perché ci sono così tante opzioni.

2. I cinque tipi di spiegazioni

Gli autori non si sono fermati a "Necessario" vs. "Sufficiente". Hanno suddiviso queste categorie in cinque tipi distinti in base a quanto rigide o ampie siano le regole. Pensali come a diverse "personalità" degli spiegatori:

Necessario Globale (Il custode del regolamento):
- Cosa fa: Spiega l'intero distributore, non solo il tuo ordine specifico. Dice: "Questa macchina sempre dà soda se il pulsante è rosso".
- A chi serve: Alle persone che vogliono capire la logica complessiva del sistema.
- Limitazione: Potrebbe non esistere se la macchina è troppo caotica (ad esempio, a volte il rosso dà soda, a volte succo).
Necessario Locale (Il detective specifico):
- Cosa fa: Guarda il tuo ordine e dice: "Per il tuo caso specifico, il fatto che tu indossi un cappello è il motivo per cui hai ricevuto la soda".
- A chi serve: Alle persone che vogliono sapere esattamente cosa riguardo a loro ha causato il risultato.
- Limitazione: Come la versione globale, potrebbe non esistere se la tua situazione è troppo unica.
Sufficiente Globale (Il simulatore "E se"):
- Cosa fa: Guarda l'intera macchina e dice: "Se chiunque preme il pulsante blu, riceve il succo".
- A chi serve: Alle persone che vogliono sapere quali cambiamenti garantirebbero un risultato diverso per chiunque.
- Limitazione: Potrebbe suggerire cambiamenti che non fanno parte della tua situazione attuale (ad esempio, "Se fossi un robot...").
Scettico Locale (Lo scettico rigoroso):
- Cosa fa: Guarda il tuo ordine e dice: "Se cambi il tuo cappello con un oggetto completamente nuovo (uno che non hai attualmente), otterrai il succo".
- A chi serve: Alle persone che vogliono sapere quali cose nuove potrebbero fare.
- Limitazione: Potrebbe non esistere se non ci sono nuovi oggetti che garantiscono un cambiamento.
Creduloso Locale (L'ottimista):
- Cosa fa: Guarda il tuo ordine e dice: "Se cambi il tuo cappello con un altro cappello (anche uno che sembra simile), potresti ottenere il succo".
- A chi serve: Questo è il tipo di spiegazione che la maggior parte degli strumenti di IA attuali utilizza. È il più flessibile e garantisce che tu riceva una risposta.
- Limitazione: È meno "discriminante". Potrebbe suggerire un cambiamento che funziona per te, ma che non funzionerebbe per qualcun altro.

3. Le regole "impossibili"

Il documento dimostra un fatto matematico affascinante: non puoi avere tutto.

Hanno dimostrato che certe combinazioni di "buone qualità" (come essere garantito, essere la risposta più breve e l'essere strettamente vero per tutti) sono matematicamente incompatibili.

Analogia: È come cercare di costruire un'auto che sia contemporaneamente la più veloce, la più sicura e la più economica. Le leggi della fisica (o, in questo caso, della logica) dicono che devi sceglierne due.
Il Risultato: Se vuoi una spiegazione che esista sempre (garantita), devi rinunciare al fatto che sia la "più breve" o la "più specifica" possibile. Se vuoi la spiegazione "più breve", potresti ottenere una risposta che non esiste per alcune persone.

4. Perché questo è importante

Prima di questo articolo, la maggior parte degli strumenti di IA era solo un esplicatore "Locale Creduloso" (Tipo 5). Erano come l'Ottimista: ti davano sempre una risposta, ma non ti dicevano se quella risposta fosse l'unica via o se fosse il modo migliore.

Questo articolo fornisce una mappa. Ci dice:

Se vuoi capire le regole del sistema, cerca le ragioni Necessarie Globali.
Se vuoi sapere esattamente cosa ha cambiato il tuo risultato, cerca le ragioni Necessarie Locali.
Se vuoi solo qualsiasi modo possibile per ottenere un risultato diverso, cerca le ragioni Credulose Locali.

Riassunto

Gli autori non hanno inventato un nuovo strumento di IA; hanno inventato una tassonomia (un sistema di classificazione). Hanno dimostrato che ci sono cinque modi fondamentalmente diversi per spiegare "Perché no?" e che nessun singolo strumento può essere il migliore in tutti loro contemporaneamente. Hanno anche dimostrato che la maggior parte degli strumenti attuali è solo un tipo specifico (il tipo dell' "Ottimista" o Creduloso), e che stiamo trascurando altri tipi di spiegazioni potenzialmente più utili che potrebbero essere costruiti se conoscessimo le regole.

Sintesi Tecnica: Fondamenti Assiomatici delle Spiegazioni Controfattuali

Problema
Il documento affronta una lacuna critica nella letteratura sulla XAI (Explainable AI). Sebbene le spiegazioni controfattuali (che rispondono a domande del tipo "perché no") siano emerse come un metodo convincente per migliorare la fiducia nei sistemi autonomi, la ricerca esistente soffre di due limitazioni principali:

Mancanza di Classificazione Sistematica: La maggior parte del lavoro esistente si concentra su un singolo tipo di controfattuale locale (adattato a singoli casi) senza studiare sistematicamente tipi alternativi.
Negligenza verso le Spiegazioni Globali: Vi è una scarsa attenzione dedicata ai controfattuali globali, che mirano a spiegare il processo di ragionamento complessivo di un modello piuttosto che singole predizioni.
Di conseguenza, i trade-off teorici tra controfattuali locali e globali, e tra diverse definizioni di "vicinanza" o "validità", rimangono scarsamente compresi.

Metodologia
Gli autori propongono un framework assiomatico per definire, confrontare e caratterizzare gli esplicatori controfattuali in modo sistematico. Questo approccio, comune nella scienza teorica, costruisce un sistema basato su un insieme di assiomi chiaramente enunciati (proprietà fondamentali) per derivare teoremi di rappresentazione.

Ambito Formale: Il framework opera su una teoria di classificazione $T = \langle F, dom, C \rangle$ (caratteristiche, domini, classi) e un classificatore $\kappa$ . Una query è definita come $Q = \langle T, \kappa, x \rangle$ .
Assiomi: Il documento introduce nove assiomi raggruppati in tre categorie:
- Proprietà Generali: Successo (output non vuoto), Non-Trivialità (assenza di insiemi vuoti), Equivalenza (stessa classe $\to$ stessa spiegazione) e Fattibilità (le spiegazioni sono sottoinsiemi dell'istanza).
- Proprietà di Ragioni Necessarie: Coreness (le spiegazioni contengono solo letterali core) e Validità Scettica (rimuovere la spiegazione garantisce un cambio di classe).
- Proprietà di Ragioni Sufficienti: Novità (le spiegazioni non contengono letterali dall'istanza originale), Validità Forte (la presenza della spiegazione garantisce un cambio di classe) e Validità Debole (sostituire i valori con la spiegazione produce una classe differente).
Analisi: Gli autori utilizzano questi assiomi per dimostrare teoremi di impossibilità (mostrando che certe combinazioni sono incompatibili) e teoremi di rappresentazione (stabilendo corrispondenze biunivoche tra sottoinsiemi di assiomi e famiglie di esplicatori).

Contributi Chiave
Il documento presenta sei contributi primari:

Framework Assiomatico: Introduce un framework basato su nove assiomi per definire gli esplicatori controfattuali.
Teoremi di Impossibilità: Dimostra che nessun singolo esplicatore può soddisfare simultaneamente certe combinazioni di assiomi (ad esempio, Successo, Non-Trivialità e Coreness sono incompatibili).
Caratterizzazione di Insiemi Compatibili: Caratterizza completamente tutti gli insiemi compatibili di assiomi.
Teoremi di Rappresentazione: Stabilisce corrispondenze biunivoche tra specifici sottoinsiemi di assiomi e cinque distinte famiglie di esplicatori, scoprendo cinque tipi fondamentalmente diversi di controfattuali:
- Ragioni Necessarie Globali (GNR): Combinazioni di caratteristiche-valore che distinguono una classe da tutte le altre (soddisfano Coreness, Non-Trivialità).
- Ragioni Necessarie Locali Scettiche (SNR): Sottoinsiemi di un'istanza che la distinguono da tutte le altre istanze con una decisione differente (soddisfano Fattibilità, Validità Scettica).
- Ragioni Sufficienti Globali (GSR): Combinazioni di caratteristiche-valore la cui presenza garantisce una classe differente (soddisfano Validità Forte).
- Ragioni Sufficienti Locali Scettiche (SSR): Nuovi valori di caratteristiche non presenti nell'istanza che garantiscono una decisione differente (soddisfano Novità, Validità Forte).
- Ragioni Sufficienti Locali Credule (CSR): Combinazioni di caratteristiche-valore che distinguono un'istanza da alcuna istanza con una decisione differente (soddisfano Novità, Validità Debole).
Tassonomia del Lavoro Esistente: Caratterizza formalmente gli esplicatori esistenti all'interno di questa tassonomia. Il documento rileva che quasi tutti gli esplicatori locali esistenti rientrano nella famiglia delle Ragioni Sufficienti Credule (CSR). Gli esplicatori globali proposti nel lavoro precedente [2] corrispondono alle Ragioni Necessarie Globali (GNR). Questa analisi rivela tre tipi precedentemente non riconosciuti (SNR, GSR, SSR).
Analisi della Complessità: Analizza la complessità computazionale della generazione di queste spiegazioni, distinguendo tra problemi di decisione (verificare se una spiegazione è valida) e problemi di ricerca (generare una spiegazione).

Risultati

Classificazione: I cinque tipi di controfattuali sono divisi in due forme fondamentali: Ragioni Necessarie (ciò che deve essere assente per cambiare la decisione) e Ragioni Sufficienti (ciò che deve essere presente per cambiare la decisione).
Esistenza e Compattezza:
- Le ragioni necessarie (GNR, SNR) e le Ragioni Sufficienti Scettiche (SSR) non sono garantite ad esistere per ogni query.
- Le Ragioni Sufficienti Credule (CSR) e le Ragioni Sufficienti Globali (GSR) sono garantite ad esistere.
- Le ragioni necessarie sono compatte (trasmettono l'intero intervallo di cambiamenti tramite un insieme minimo di letterali), mentre le ragioni sufficienti sono non compatte (enumerano tutti i possibili cambiamenti).
Preferenza Umana: Il documento sostiene che le ragioni necessarie, quando esistono, si allineano meglio alle preferenze umane per spiegazioni brevi e concise rispetto alle spesso numerose e verbiose ragioni sufficienti.
Complessità:
- Per classificatori Booleani, decidere se una spiegazione è valida ($DECIDEEXP $) è$ O(n)$ per CSR, SNR ed esplicatori basati sulla sparsità, ma è co-NP-completo per GNR, GSR, SSR ed esplicatori basati su cardinalità/distanza.
- Trovare una spiegazione ($FINDEXP$) è NP-hard per la maggior parte delle famiglie (incluse GNR, CSR, SNR, GSR), sebbene possa essere risolto con al massimo $n$ chiamate a un oracolo SAT nella maggior parte dei casi.

Significato
Il documento rivendica di fornire il primo framework assiomatico per le spiegazioni controfattuali. Il suo significato risiede nella:

Rigore Teorico: Superare la valutazione empirica per un confronto oggettivo e fondato degli esplicatori basato sugli assiomi che soddisfano.
Unificazione e Scoperta: Unificare gli esplicatori locali esistenti sotto la famiglia CSR e identificare formalmente e definire tre nuovi tipi di controfattuali (SNR, GSR, SSR) precedentemente non riconosciuti.
Generalità Model-Agnostic: Il framework è applicabile in diversi contesti e tipi di classificatore.
Fondamento per il Lavoro Futuro: Caratterizzando lo spazio dei possibili esplicatori, il framework permette il design futuro di esplicatori che soddisfino combinazioni specifiche di proprietà desiderabili (ad esempio, azionabilità, equità, diversità) all'interno di un tipo di controfattuale specifico.

Gli autori concludono che, sebbene le ragioni necessarie siano teoricamente attraenti per la loro concisione, le ragioni sufficienti sono più robuste in termini di esistenza. Il framework fornisce gli strumenti necessari per navigare questi trade-off in modo sistematico.