P$^2$CE: Model-Agnostic Plausible Pareto-Optimal Counterfactual Explanations

Il documento introduce P$^2$CE, un algoritmo agnostico rispetto al modello che genera spiegazioni controfattuali diverse, plausibili e Pareto-ottimali combinando una foresta di isolamento per l'aderenza alla distribuzione dei dati e i valori SHAP per l'efficienza computazionale, superando così i metodi esistenti in termini di qualità della soluzione e velocità.

L'essenziale

Immagina di richiedere un prestito, un lavoro o un mutuo, e che il computer ti risponda con un "No". Naturalmente vorresti sapere: "Cosa dovrei cambiare della mia vita per ottenere un 'Sì'?"

È qui che entrano in gioco le Spiegazioni Controfattuali (Counterfactual Explanations). Sono come una mappa del "Cosa succederebbe se" che ti indica i passi più piccoli e realistici da compiere per trasformare un rifiuto in un'accettazione.

Tuttavia, le mappe esistenti hanno due grandi problemi:

1. Suggeriscono cambiamenti impossibili: Come dirti di "aumentare il tuo reddito del 1000%". Questo non è utile.
2. Suggeriscono cambiamenti strani e irrealistici: Come dire a uno studente di 20 anni di avere improvvisamente il portafoglio di investimento di un miliardario di 60 anni. Sebbene sia matematicamente possibile, non si adatta al mondo reale.

Gli autori di questo articolo introducono un nuovo strumento chiamato P2CE (Plausible Pareto-Optimal Counterfactual Explanations). Pensa a P2CE come a un agente di viaggio intelligente e realistico che ti aiuta a trovare la migliore rotta per raggiungere il tuo obiettivo senza perderti nel mondo della fantasia.

Ecco come funziona P2CE, usando semplici analogie:

1. Il "Controllo di Realtà" (Il Filtro di Plausibilità)

Immagina di stare cercando una casa. Un cattivo agente di viaggio potrebbe dirti: "Compra un castello sulla luna!". È una casa, ed è un cambiamento, ma è impossibile.

• I vecchi metodi suggeriscono spesso questi "castelli sulla luna" perché guardano solo alla distanza matematica tra la tua situazione attuale e l'obiettivo.
• P2CE utilizza un speciale "Rilevatore di Realtà" (chiamato Isolation Forest). Esamina il quartiere dei dati reali. Se un suggerimento è un "outlier" (come un ventenne con il portafoglio di un miliardario), il Rilevatore di Realtà lo segnala come "Non Reale" e lo scarta. P2CE ti fornisce solo suggerimenti che si inseriscono naturalmente nel mondo reale.

2. Il Cercatore dell' "Offerta Migliore" (Il Concetto di Pareto-Ottimalità)

A volte, devi scegliere tra due buone opzioni:

• Opzione A: Cambiare il tuo titolo lavorativo (un grande cambiamento, ma una sola cosa da fare).
• Opzione B: Risparmiare un po' di più, estinguere un piccolo debito e seguire un breve corso (tre piccoli cambiamenti).

Qual è la migliore? Dipende da te.

• I vecchi metodi spesso ti costringono a scegliere un unico "miglior" approccio combinando questi fattori in un unico punteggio, il che potrebbe ignorare la tua preferenza personale.
• P2CE agisce come un menu di scelte ottimali. Ti fornisce una lista di opzioni "Pareto-Ottimali". Questo significa: "Ecco una lista dei migliori compromessi possibili. Non puoi ottenere un risultato migliore in un'area (come il risparmio di tempo) senza peggiorare l'altra (come lo sforzo)". Ti permette di scegliere quale compromesso si adatta meglio alla tua vita.

3. Il Navigatore della "Scatola Nera" (Model-Agnostic)

Molti sistemi di IA sono "Scatole Nere" (Black Boxes): non sappiamo come pensano all'interno, conosciamo solo ciò che producono in uscita.

• I vecchi metodi spesso si rompono se la Scatola Nera è troppo complessa (come una rete neurale profonda). Potrebbero bloccarsi o impiegare troppo tempo per calcolare.
• P2CE è un navigatore universale. Non gli importa come funzioni la Scatola Nera all'interno. Utilizza una scorciatoia intelligente chiamata valori SHAP (pensa a questi come a una "scheda di valutazione" che dice all'algoritmo quali caratteristiche contano di più) per indovinare il percorso migliore senza dover aprire la scatola. Questo lo rende veloce e compatibile con qualsiasi tipo di modello di IA.

I Risultati: Perché è Importante

Gli autori hanno testato P2CE contro altri strumenti popolari utilizzando dati del mondo reale (come punteggi di credito e dati sul reddito).

• Velocità: Ha trovato buone risposte molto più velocemente dei metodi più vecchi e rigidi, specialmente con modelli di IA complessi.
• Qualità: Ha prodotto molti meno suggerimenti "irrealistici" (outlier) rispetto alla concorrenza.
• Varietà: Ha fornito agli utenti un set diversificato di scelte invece di un'unica risposta forzata.

In sintesi: P2CE è un nuovo modo per spiegare le decisioni dell'IA che assicura che il consiglio che ricevi sia realistico (si adatta alla tua vita), efficiente (non richiede un tempo infinito per il calcolo) e flessibile (ti offre un menu dei migliori compromessi tra cui scegliere). Trasforma un confuso "No" in un chiaro, azionabile e credibile "Ecco come puoi ottenere un Sì".

Sommario tecnico

Sintesi Tecnica: P2CE – Spiegazioni Controfattuali Pareto-Ottimali e Model-Agnostiche

Definizione del Problema

L'impiego crescente dell'apprendimento automatico in domini ad alto rischio (ad es., valutazione del credito, assunzioni, diagnosi medica) richiede trasparenza ed equità. Le spiegazioni controfattuali (CE) affrontano questo problema suggerendo cambiamenti minimi alle caratteristiche di input ($x \to x'$) che modificherebbero la previsione di un modello da un esito indesiderato a uno desiderato. Tuttavia, i metodi esistenti affrontano tre sfide critiche:

1. Plausibilità: Molti algoritmi generano soluzioni che sono matematicamente vicine all'input ma si trovano al di fuori della distribuzione naturale dei dati (outlier), rendendole irrealistiche per gli individui da raggiungere.
2. Compromessi sulla Fattibilità: Non esiste una metrica singola per la "fattibilità". Gli utenti possono preferire piccoli cambiamenti in molte caratteristiche o cambiamenti moderati in poche caratteristiche. L'ottimizzazione a obiettivo singolo non riesce a catturare queste diverse preferenze.
3. Agnosticismo rispetto al Modello ed Efficienza: Sebbene alcuni metodi siano model-agnostic, spesso faticano con l'efficienza computazionale o si affidano ad assunzioni (come la monotonicità del modello) che non valgono per modelli complessi non lineari (ad es., Reti Neurali, SVM).

Metodologia

Gli autori propongono P2CE, un algoritmo progettato per generare Spiegazioni Controffattuali Pareto-Ottimali e Plausibili. L'approccio combina una strategia di ricerca branch-and-bound con due innovazioni chiave per garantire plausibilità ed efficienza attraverso qualsiasi modello black-box.

1. Strategia di Ricerca e Ottimizzazione Multi-Obiettivo

P2CE cerca in una griglia discretizzata di possibili cambiamenti delle caratteristiche ($A = A^{(1)} \times \dots \times A^{(d)}$) per trovare un insieme di azioni $a$ tali che $f(x+a) \geq \tau$. Ottimizza simultaneamente più obiettivi:

• Distanza Continua Media ($c_1$): L'entità media normalizzata dei cambiamenti nelle caratteristiche numeriche.
• Distanza Continua Massima ($c_2$): L'entità massima di cambiamento in una singola caratteristica numerica.
• Numero di Cambiamenti ($c_3$): Il conteggio delle caratteristiche alterate (sparsità).

L'algoritmo restituisce un insieme Pareto-ottimale, garantendo che non esista altra soluzione migliore o uguale in tutti gli obiettivi.

2. Garantire la Plausibilità tramite il Rilevamento degli Outlier

Per evitare la generazione di outlier (soluzioni al di fuori della distribuzione dei dati), P2CE integra un rilevatore di outlier basato su Isolation Forest ($u$).

• Durante la ricerca, ogni volta che viene trovata una soluzione candidata $x+a$, viene valutata $u(x+a)$.
• Se $u(x+a)$ indica un outlier, la soluzione viene scartata.
• Guadagno di Efficienza: P2CE sfrutta la capacità dell'Isolation Forest di gestire i valori mancanti. Se una soluzione parziale (con alcune caratteristiche non definite) è già classificata come outlier, l'algoritmo pota l'intero ramo dell'albero di ricerca, evitando computazioni superflue.

3. Potatura Model-Agnostic Branch-and-Bound

Per mantenere l'efficienza computazionale senza assumere la monotonicità del modello (che limita metodi precedenti come MAPOCAM), P2CE stima la massima previsione possibile ($f_a$) raggiungibile da un'azione parziale $a$.

• Stima Basata su SHAP: L'algoritmo utilizza la proprietà additiva dei valori SHAP: $f(x) = E[f(x)] + \sum \phi_i$.
• Calcola un limite superiore per la previsione assumendo lo scenario "migliore caso" per le restanti caratteristiche aperte (quelle non ancora fissate nella ricerca).
• Il limite è formulato come:
  $$\max f(x+\tilde{a}) \leq f(x) - \sum_{i \in O_k} \phi_i(x) + \sum_{i \in O_k} \bar{\phi}_i + R(x, O_k)$$
  Dove $O_k$ rappresenta le $k$ caratteristiche con la più alta attribuzione potenziale, $\bar{\phi}_i$ è la massima attribuzione possibile per la caratteristica $i$, e $R$ è un termine residuo.
• Se questo limite superiore è inferiore alla soglia decisionale $\tau$, il ramo viene potato. Ciò consente a P2CE di funzionare efficientemente con modelli non monotoni come le Reti Neurali.

Contributi Chiave

1. Algoritmo P2CE: Un nuovo algoritmo model-agnostic che genera spiegazioni controfattuali Pareto-ottimali garantendo rigorosamente la plausibilità della distribuzione dei dati tramite il rilevamento degli outlier.
2. Esplorazione della Proprietà SHAP: L'introduzione di un metodo per utilizzare i valori SHAP per stimare le massime previsioni in un contesto branch-and-bound, rimuovendo il vincolo di monotonicità richiesto dai precedenti metodi allo stato dell'arte.
3. Valutazione Comprensiva: Uno studio empirico esteso su tre dataset (German Credit, Taiwan Credit, Adult) e tre classificatori (Logistic Regression, LightGBM, MLP), confrontando P2CE con MAPOCAM, DiCE e NICE.
4. Open Source: Il rilascio dell'implementazione per facilitare la riproducibilità.

Risultati Sperimentali

La valutazione si è concentrata sulla qualità della soluzione (ipervolume della frontiera di Pareto), sulla plausibilità (percentuale di outlier) ed sull'efficienza computazionale.

• Plausibilità: P2CE ha generato costantemente significativamente meno soluzioni outlier rispetto ai concorrenti. Ad esempio, sul dataset Adult con un MLP, P2CE ha prodotto solo l'11% di outlier, mentre DiCE ne ha prodotti l'87% e MAPOCAM il 58%. In alcuni casi, DiCE ha suggerito scenari impossibili (ad es., 97 ore di lavoro a settimana).
• Qualità della Soluzione: P2CE ha ottenuto punteggi di ipervolume comparabili a MAPOCAM (il gold standard teorico per l'ottimalità di Pareto) e ha superato significativamente DiCE e NICE. Sebbene MAPOCAM abbia occasionalmente ottenuto ipervolumi leggermente superiori, ciò è avvenuto a un costo computazionale elevato.
• Efficienza: P2ce ha dimostrato un'efficienza computazionale superiore, in particolare con modelli non lineari complessi.
  • Sul dataset Taiwan con un MLP, MAPOCAM ha impiegato in media 118,5 secondi, mentre P2CE ha impiegato 0,81 secondi.
  • Sul dataset Adult con un MLP, MAPOCAM ha impiegato 6,24 secondi, mentre P2CE ha impiegato 2,34 secondi.
  • P2CE è stato più lento di DiCE e NICE in termini di tempo puro, ma ha fornito la garanzia cruciale di ottimalità di Pareto e plausibilità che i metodi più veloci non possedevano.

Significato e Rivendicazioni

Il paper posiziona P2CE come una soluzione pratica per applicazioni del mondo reale dove le spiegazioni controfattuali devono essere sia azionabili (fattibili per l'utente) che plausibili (coerenti con i dati reali).

Gli autori affermano che P2CE riesce a colmare il divario tra ottimalità teorica e utilità pratica. Garantendo che le soluzioni siano "inlier", l'algoritmo evita la generazione di consigli fuorvianti (ad es., suggerire a un utente di aumentare il proprio reddito del 1000% o lavorare ore impossibili). Inoltre, utilizzando i valori SHAP per la potatura, P2CE estende la capacità di generare controfattuali ottimali a qualsiasi modello black-box, superando i limiti dei metodi precedenti che erano limitati a modelli monotoni o tipi specifici.

Il lavoro conclude che P2CE consente un processo decisionale più rapido e informato nelle applicazioni del mondo reale, fornendo un insieme diversificato di scambi di alta qualità e plausibili senza richiedere adattamenti specifici del modello.

Limitazioni e Lavori Futuri

Gli autori riconoscono due limitazioni primarie:

1. Dipendenza da SHAP: L'efficienza della strategia di potatura dipende dalle approssimazioni SHAP. Calcolare i valori di Shapley esatti è computazionalmente costoso (esponenziale nel numero di caratteristiche), sebbene vengano utilizzate approssimazioni. Gli errori in queste approssimazioni potrebbero teoricamente influenzare la potatura, sebbene i risultati empirici suggeriscano che l'impatto sia minimo rispetto ai guadagni in velocità.
2. Griglia Discretizzata: La ricerca è limitata a una griglia discreta. Sebbene questo sia pratico per la maggior parte delle applicazioni (ad es., suggerire un aumento del reddito di 1.000 dollari rispetto a 998 dollari è funzionalmente simile), una granularità estremamente fine aumenta il tempo di ricerca. Gli autori suggeriscono come lavoro futuro su griglie adattive che regolino la granularità in base all'impatto delle caratteristiche, potenzialmente guidate dai valori SHAP.