Synthesising Counterfactual Explanations via Label-Conditional Gaussian Mixture Variational Autoencoders

Il paper propone LAPACE, un nuovo framework generativo basato su un VAE a miscela gaussiana condizionata all'etichetta che sintetizza percorsi di spiegazioni controfattuali robuste, diversificate e plausibili, garantendo allo stesso tempo l'incorporazione di vincoli di azionabilità.

L'essenziale

Immagina di essere stato rifiutato per un prestito bancario da un'intelligenza artificiale. Ti chiedi: "Cosa avrei dovuto fare diversamente per ottenere quel 'Sì'?"

Le spiegazioni controfattuali sono proprio la risposta a questa domanda: ti dicono quali piccoli cambiamenti (es. "aumenta il tuo reddito", "riduci i debiti") ti avrebbero fatto ottenere il risultato desiderato.

Il problema è che spesso queste risposte sono fragili. Se cambi leggermente i tuoi dati o se la banca aggiorna il suo algoritmo, la risposta potrebbe diventare sbagliata o il suggerimento potrebbe sembrare irrealistico (come dire "vendi la tua casa per comprare un'isola privata").

Gli autori di questo paper, pubblicato alla conferenza ICLR 2026, hanno creato un nuovo metodo chiamato LAPACE (che suona come un nome di un supereroe, ma sta per LAtent PAth Counterfactual Explanations) per risolvere questi problemi. Ecco come funziona, spiegato in modo semplice:

1. Il Problema: Trovare la "Strada Perfetta"

Immagina che il mondo delle decisioni finanziarie sia una mappa complessa.

• I metodi vecchi cercano di trovare un punto specifico sulla mappa dove il risultato cambia. Spesso però, questo punto è isolato, strano (non assomiglia a nessun essere umano reale) o fragile: se muovi di un millimetro il punto di partenza, la strada cambia totalmente.
• L'obiettivo è trovare non un punto, ma una strada sicura che ti porti dal tuo stato attuale (rifiutato) a quello desiderato (approvato), passando solo per luoghi realistici e sicuri.

2. La Soluzione: L-GMVAE (La Mappa Segreta)

Prima di creare le strade, gli autori costruiscono una mappa speciale chiamata L-GMVAE.
Pensa a questa mappa come a un archivio di "ideali".

• Invece di memorizzare ogni singolo cliente, il sistema impara a riconoscere i "prototipi" perfetti per ogni categoria.
• Immagina che per la categoria "Cliente Approvato", il sistema non veda solo una persona, ma un gruppo di modelli ideali (es. il "Cliente Risparmiatore", il "Cliente Stabile", il "Cliente Dinamico").
• Questi modelli sono come dei fari o dei poli magnetici nel mondo dei dati. Sono punti di riferimento sicuri, realistici e robusti.

3. LAPACE: Costruire il Ponte

Ora, se sei un cliente rifiutato, il sistema LAPACE fa questo:

1. Ti localizza sulla mappa.
2. Guarda i "fari" (i prototipi) della categoria "Approvato".
3. Invece di darti un solo punto di arrivo, ti disegna diverse strade (percorsi) che partono da te e si dirigono verso questi fari.

L'analogia del Viaggio:
Immagina di dover andare da Roma a Milano.

• Un metodo vecchio ti dice: "Prendi quella strada di montagna". Se piove (cambia il modello), la strada diventa impraticabile.
• LAPACE ti dice: "Ecco tre strade diverse".
  • Una strada è molto breve ma passa per un bosco (vicina a te, ma forse un po' rischiosa).
  • Un'altra è un po' più lunga ma passa per un'autostrada sicura e liscia (molto realistica e sicura).
  • Tu puoi scegliere quale strada percorrere in base a quanto vuoi cambiare la tua vita oggi.

4. Perché è Geniale? (I Vantaggi)

• Robustezza (Non si rompe): Poiché tutte le strade portano verso gli stessi "fari" (i prototipi), anche se l'algoritmo della banca cambia leggermente, la strada rimane valida. Non importa se piove o se c'è nebbia, il faro è sempre lì.
• Diversità (Non sei solo): Non ti dà una sola opzione. Ti offre un ventaglio di possibilità. Forse non puoi aumentare il reddito, ma puoi ridurre i debiti. Il sistema ti mostra entrambe le strade.
• Realtà (Niente fantascienza): Le strade passano solo attraverso zone "popolate" di dati. Non ti suggerirà mai di diventare un miliardario improvvisamente se non è realistico. Rimani sempre nel mondo reale.
• Regole Personalizzate: Se hai una regola specifica (es. "Non voglio vendere la mia auto"), puoi dirlo al sistema e lui aggiusterà la strada per evitare quella zona, mantenendo il viaggio sicuro.

In Sintesi

Questo paper ci dice che invece di cercare un "miracolo" puntuale per cambiare la tua situazione, dovremmo costruire percorsi sicuri e realistici verso il successo.

Gli autori hanno creato un sistema che impara a riconoscere i "campioni" ideali di un gruppo (chi viene approvato) e ti guida verso di loro lungo strade che non si rompono mai, offrendoti la libertà di scegliere quanto sforzo vuoi mettere nel viaggio. È come avere una bussola infallibile che ti mostra non solo la destinazione, ma anche il modo migliore per arrivarci, tenendo conto delle tue esigenze personali.

Sommario tecnico

1. Il Problema

Le Spiegazioni Controfattuali (CE) sono fondamentali nell'IA spiegabile (XAI) per fornire raccomandazioni di ricorso (recourse) agli individui influenzati da decisioni algoritmiche (es. un rifiuto di prestito bancario). Una CE ideale deve soddisfare diverse proprietà:

• Validità: L'input modificato deve ottenere la predizione desiderata.
• Prossimità: La modifica deve essere minima rispetto all'input originale.
• Plausibilità: La CE deve risiedere sul "manifold" dei dati reali (non deve essere un dato irrealistico).
• Diversità: Devono essere offerte multiple opzioni di ricorso distinte.
• Robustezza: Le CE devono resistere a perturbazioni sia dell'input (piccoli rumori) che del modello (aggiornamenti o retraining del classificatore).

Limitazioni degli approcci esistenti:
I metodi attuali faticano a soddisfare simultaneamente questi requisiti in modo unificato e agnostico rispetto al modello. Spesso:

• Le CE sono fragili: piccole modifiche all'input o al modello invalidano la spiegazione.
• Mancano di diversità o plausibilità (spesso generano dati fuori distribuzione).
• I metodi basati su vicini più prossimi (nearest-neighbors) rischiano di esporre dati sensibili del training set e non garantiscono stabilità perfetta.
• I modelli generativi esistenti (VAE standard, Flussi Normalizzanti) sono spesso incondizionati, ignorando le etichette predette dal classificatore, rendendo difficile garantire la validità della CE senza ottimizzazioni complesse.

2. Metodologia Proposta

Gli autori propongono un nuovo framework generativo composto da due componenti principali:

A. L-GMVAE (Label-conditional Gaussian Mixture Variational Autoencoder)

È un modello generativo adattato per il ricorso algoritmico.

• Struttura: Estende il GMVAE standard rendendolo condizionato all'etichetta. Lo spazio latente è strutturato come una miscela di Gaussianhe, dove ogni classe target è associata a un sottoinsieme specifico di componenti Gaussiane (cluster).
• Funzionamento:
  • Per ogni classe $y$, esistono $K/L$ cluster latenti.
  • Durante l'addestramento, il modello impara a mappare gli input a questi cluster specifici in base all'etichetta predetta dal classificatore.
  • I centroidi di queste distribuzioni Gaussiane (le medie dei cluster) diventano punti sintetici che rappresentano prototipi validi, plausibili e diversificati per quella classe.
• Vantaggio: Poiché i centroidi sono appresi per massimizzare la verosimiglianza dei dati della classe, le loro ricostruzioni nello spazio degli input sono intrinsecamente plausibili e robuste agli aggiornamenti del modello.

B. LAPACE (LAtent PAth Counterfactual Explanations)

È l'algoritmo di generazione delle CE basato su L-GMVAE.

• Generazione di Percorsi: Invece di cercare un singolo punto, LAPACE genera un percorso continuo (una traiettoria) nello spazio degli input.
• Processo:
  1. Si codifica l'input originale $x$ nel suo rappresentante latente $z_x$.
  2. Si identificano i centroidi latenti $z_{c_j}$ associati alla classe target desiderata.
  3. Si esegue un'interpolazione lineare nello spazio latente tra $z_x$ e ciascun centroide $z_{c_j}$.
  4. Si decodifica l'intera traiettoria latente per ottenere un percorso di punti nello spazio degli input.
• Gestione dei Vincoli di Azionabilità: L'algoritmo permette di incorporare vincoli specifici dell'utente (es. "l'età non può diminuire") tramite un'ottimizzazione leggera del gradiente attraverso il decoder durante l'interpolazione, correggendo i punti del percorso se violano i vincoli.

3. Contributi Chiave

1. Nuovo Modello Generativo (L-GMVAE): Un VAE condizionato all'etichetta che apprende uno spazio latente strutturato con centroidi prototipici per ogni classe, garantendo validità e plausibilità.
2. Algoritmo Agnostico (LAPACE): Un metodo semplice ed efficiente che genera percorsi di CE senza bisogno di ottimizzazione del gradiente complessa nello spazio latente (basta interpolazione lineare).
3. Robustezza Intrinseca:
   • Robustezza all'Input: Poiché tutti i percorsi per una classe target convergono agli stessi centroidi fissi, CE generate da input simili sono stabili.
   • Robustezza al Modello: I centroidi, essendo prototipi densi nel manifold dei dati, hanno alta probabilità di mantenere la classe predetta anche se il classificatore viene re-addestrato.
4. Flessibilità: Capacità di gestire vincoli di azionabilità e di offrire agli utenti un trade-off tra prossimità (punti vicini all'originale) e robustezza/plausibilità (punti vicini ai centroidi).

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su 4 dataset reali (Heloc, Wine, Adult, Compas) con classificatori Random Forest e Neural Network, confrontando LAPACE con stati dell'arte (NNCE, FACE, RobXCE, DiCE, DRCE) su 8 metriche quantitative.

• Validità: LAPACE raggiunge il 100% di validità (tutte le CE generano la classe target).
• Plausibilità: LAPACE ottiene i migliori risultati in termini di plausibilità (basso Local Outlier Factor - LOF) su tutti i dataset, superando i metodi basati su vicini.
• Robustezza:
  • Model Changes: LAPACE (nella variante "Last", ovvero i punti finali sui centroidi) mostra una robustezza del 100% ai cambiamenti del modello.
  • Input Changes: Garantisce una stabilità perfetta rispetto a piccole perturbazioni dell'input.
• Diversità: Offre un'ampia gamma di opzioni di ricorso (diverse traiettorie verso diversi centroidi).
• Efficienza: È computazionalmente molto veloce (secondo solo a NNCE) grazie alla natura "amortized" dell'inferenza: una volta addestrato il VAE, la generazione di CE richiede solo passaggi in avanti (forward passes).
• Vincoli: Nell'analisi di azionabilità, LAPACE ha soddisfatto il 100% dei vincoli imposti mantenendo la validità, superando le varianti di FACE.

5. Significato e Impatto

Questo lavoro colma un divario significativo nella ricerca sulle spiegazioni controfattuali, offrendo un approccio unificato che non sacrifica una proprietà per ottenerne un'altra.

• Fiducia nel Recorso: La garanzia di robustezza sia all'input che al modello rende le CE affidabili per decisioni critiche, evitando che le raccomandazioni diventino obsolete dopo un aggiornamento del sistema.
• Privacy: Generando dati sintetici (centroidi e percorsi) invece di riutilizzare punti reali del training set, LAPACE protegge la privacy dei dati originali.
• Scalabilità: L'approccio agnostico e l'efficienza computazionale lo rendono applicabile a scenari reali complessi.
• Futuro: Apre la strada all'uso di spazi latenti strutturati per spiegazioni basate su regioni (region-based explanations) e all'integrazione di vincoli causali più complessi.

In sintesi, LAPACE rappresenta un passo avanti verso spiegazioni controfattuali non solo accurate, ma anche stabili, diversificate e pratiche per l'utente finale.