ReasonX: Declarative Reasoning on Explanations

Il paper presenta ReasonX, un nuovo strumento di spiegazione per modelli di Machine Learning che utilizza un'algebra dichiarativa di operatori su vincoli lineari e la programmazione logica a vincoli per fornire spiegazioni interattive e basate sulla conoscenza simbolica, superando i limiti dei metodi XAI attuali.

L'essenziale

🧠 Cos'è REASONX? Il "Detective" che parla la lingua delle regole

Immagina di avere una scatola nera (un modello di Intelligenza Artificiale) che prende decisioni importanti, come concedere o negare un prestito bancario. Spesso, questa scatola ti dice solo "No", ma non ti spiega perché. È frustrante, no?

Il campo dell'Intelligenza Artificiale spiegabile (XAI) cerca di aprire questa scatola. Ma la maggior parte dei metodi attuali è come un traduttore automatico che fa errori: ti dà una spiegazione statica, confusa e che non puoi modificare. Se chiedi "E se avessi fatto questo?", il sistema spesso non sa rispondere.

REASONX è un nuovo strumento che cambia le regole del gioco. Non è solo un traduttore, è un detective logico che parla il linguaggio della matematica e della logica, ma ti permette di interagire con lui come se stessi facendo un gioco di ruolo.

🏗️ Come funziona? L'Analogia del "Cantiere edile"

Per capire REASONX, immagina che il modello di IA sia un grande edificio (un albero decisionale).

1. I Mattoni (Vincoli Lineari): Invece di vedere l'edificio come un blocco unico, REASONX lo smonta in mattoni. Ogni "regola" dell'edificio (es. "Se l'età è > 30 E lo stipendio > 2000, allora Prestito = Sì") diventa un vincolo matematico (una linea su un grafico).
2. Il Linguaggio delle Domande (Algebra): REASONX ti dà un linguaggio speciale per fare domande. Non devi programmare, devi solo dire: "Voglio sapere cosa succede se cambio questo mattoncino".
3. Due Strati di Lavoro:
   • Il Livello Python (L'Interfaccia Amichevole): È come il bancone di un bar. Tu (l'utente) ordini il caffè (fai una domanda) in modo semplice.
   • Il Livello CLP (Il Cervello Logico): Dietro le quinte, c'è un super-calcolatore logico che prende la tua domanda, la traduce in matematica pura, risolve il puzzle e ti ridà la risposta.

🎮 Cosa rende REASONX speciale? (Le 3 Super Poteri)

Ecco le tre cose che lo rendono unico, spiegate con esempi:

1. La Magia dell'Immaginazione (Istanze "Non Specificate")

La maggior parte dei sistemi ti chiede: "Ecco un cliente: Mario, 30 anni, stipendio 1500€. Perché ha preso il prestito?".
REASONX ti permette di dire: "Ecco un cliente: Mario, 30 anni, ma non so ancora quanto guadagna. Per quali stipendi avrebbe preso il prestito?".

• Analogia: È come se invece di chiederti di disegnare un ritratto perfetto di una persona, ti chiedessi di disegnare il contorno di tutte le persone che potrebbero essere quella persona. REASONX ti dà un'area (una zona grigia) invece di un punto preciso. È potentissimo per capire le regole generali, non solo casi singoli.

2. Il "Cosa Succede Se..." (Spiegazioni Contrastive)

Vuoi sapere come cambiare la decisione? "Cosa devo fare per ottenere il prestito?".
REASONX non ti dà solo una lista di cose da fare. Ti permette di dire: "Voglio ottenere il prestito, ma non posso cambiare la mia età (è immutabile) e voglio cambiare il meno possibile le mie altre caratteristiche".

• Analogia: Immagina di voler attraversare un fiume. Altri sistemi ti dicono "Nuota!". REASONX ti dice: "Ecco il ponte più vicino che puoi usare senza bagnarti i piedi, tenendo conto che hai un zaino pesante (i tuoi vincoli)".

3. Il Viaggio nel Tempo (Confronto tra Modelli)

Spesso le aziende addestrano un modello oggi e un altro domani. Sono uguali?
REASONX può prendere due modelli diversi (o lo stesso modello in due momenti diversi) e chiederti: "Quali sono le regole che sono vere per entrambi?".

• Analogia: È come avere due mappe geografiche diverse di una città. REASONX sovrappone le due mappe e ti mostra solo le strade che esistono su entrambe. Se una strada c'è solo su una mappa, significa che quella regola è cambiata ed è instabile. Questo aiuta a trovare bias o errori nascosti.

🚀 Perché dovresti preoccupartene?

Fino ad oggi, le spiegazioni dell'IA erano come fogli di carta stampati: li guardi, leggi e basta. Se cambiavi un dettaglio, dovevi stampare tutto di nuovo.

REASONX è come una lavagna interattiva.

• Puoi disegnare sopra le regole.
• Puoi cancellare un vincolo ("Ok, allora posso cambiare l'età") e vedere subito come cambia la risposta.
• Puoi chiedere: "Dimmi tutte le possibilità, non solo una".

📝 In sintesi

REASONX è uno strumento che trasforma le decisioni oscure dell'Intelligenza Artificiale in regole logiche chiare e modificabili.
Non ti dice solo "Perché hai perso", ma ti permette di giocare con le variabili per scoprire:

• "Quali sono i limiti della mia situazione?"
• "Cosa devo cambiare per vincere?"
• "Le regole sono giuste e stabili nel tempo?"

È un passo avanti verso un'Intelligenza Artificiale che non è solo "intelligente", ma anche comprensibile, interattiva e onesta con noi esseri umani.

Sommario tecnico

1. Il Problema

L'adozione e la fiducia nelle applicazioni di Intelligenza Artificiale (AI) sono spesso ostacolate dall'opacità e dalla complessità dei modelli di Machine Learning (ML). Sebbene il campo dell'AI Esplicabile (XAI) offra metodi per comprendere le decisioni dei modelli, le approcci esistenti presentano diverse limitazioni:

• Mancanza di astrazione: Le spiegazioni sono spesso limitate a istanze completamente specificate, senza supportare il ragionamento su istanze parzialmente definite (es. "cosa succede se l'età è > 20?").
• Interattività limitata: Pochi strumenti permettono agli utenti di definire condizioni, integrare conoscenze di fondo o effettuare analisi "what-if" in modo dichiarativo e iterativo.
• Integrazione insufficiente di conoscenze simboliche: Difficoltà nell'incorporare vincoli esterni (es. leggi fisiche, regole aziendali) direttamente nel processo di generazione delle spiegazioni.
• Mancanza di ragionamento temporale e multi-modello: Scarsa capacità di confrontare spiegazioni tra modelli diversi o dello stesso modello in momenti temporali differenti.

2. Metodologia: REASONX

Il paper propone REASONX, uno strumento di spiegazione basato su un approccio neuro-simbolico che combina l'apprendimento automatico con la logica simbolica.

Architettura

REASONX è strutturato in due livelli principali:

1. Livello Python (Interfaccia Utente): Gestisce l'interazione con l'utente, l'importazione dei dati (tramite pandas), la definizione di istanze e vincoli, e la traduzione delle richieste dell'utente in espressioni dell'algebra di query. Supporta modelli ML come alberi decisionali (DT) nativi o come modelli surrogati (globali o locali) per modelli "black-box".
2. Livello CLP (Constraint Logic Programming): Implementa un meta-interprete in CLP(R) (Constraint Logic Programming sui reali, tramite SWI-Prolog). Questo livello esegue il ragionamento simbolico sulle espressioni generate dal livello Python.

Algebra delle Query

Il cuore teorico di REASONX è un'algebra chiusa di operatori definita su insiemi di vincoli lineari. Gli operatori permettono di costruire espressioni (query) per:

• inst(I, DT, l, pr): Estrae i vincoli di un percorso nell'albero decisionale che porta a una classe l con confidenza pr per l'istanza I.
• cross(...): Calcola il prodotto cartesiano tra insiemi di vincoli (es. combinare istanze fattuali e contrastive).
• sat(...): Verifica la soddisfacibilità dei vincoli.
• πw(...): Proietta i vincoli su un sottoinsieme di variabili (feature), permettendo di ragionare su istanze non specificate.
• inf(...): Minimizza una funzione di distanza (es. norma L1 o L∞) tra istanze, utile per trovare esempi contrastivi minimi.
• relax(...): Rilassa le disuguaglianze strette in non strette per gestire l'incertezza ai bordi di decisione.

Tipi di Spiegazione Supportati

• Spiegazioni Fattuali: Perché un'istanza è stata classificata in un certo modo? (Regole basate sui percorsi dell'albero).
• Spiegazioni Contrastive: Cosa deve cambiare nell'input per ottenere un risultato diverso? (Istanzie o regole che portano a una classe diversa).
• Istanzie Non Specificate (Under-specified): REASONX può ragionare su insiemi di istanze definiti da vincoli parziali (es. età >= 20), non solo su punti fissi nello spazio delle feature.
• Ragionamento Multi-Modello e Temporale: Confronto di spiegazioni tra modelli diversi o dello stesso modello in tempi diversi, identificando intersezioni di regole valide per tutti.

3. Contributi Chiave

1. Algebra di Operatori Chiusa: Introduzione di un linguaggio formale basato su vincoli lineari che permette di comporre liberamente operatori per modellare problemi di spiegazione complessi (fattuali, contrastivi, minimi).
2. Strumento REASONX: Sviluppo di un tool pratico che integra Python e CLP, permettendo agli sviluppatori ML di definire istanze, vincoli di background knowledge e di interrogare il sistema in modo dichiarativo.
3. Gestione dell'Interattività e dell'Astrazione: Capacità unica di ragionare su istanze parzialmente specificate e di iterare sulle spiegazioni aggiungendo o rimuovendo vincoli (es. "mantieni immutata la nazionalità").
4. Validazione Quantitativa e Qualitativa: Dimostrazione delle capacità del tool attraverso esempi sintetici e dataset reali (es. Adult Income, Credit Card), confrontandolo con strumenti XAI esistenti come DiCE e ANCHORS.

4. Risultati

• Qualitativi: REASONX è stato dimostrato in grado di generare spiegazioni fattuali e contrastive, gestire vincoli di fattibilità (es. feature immutabili), e trovare intersezioni di regole tra modelli diversi. Ha mostrato la capacità di ragionare su istanze non specificate, fornendo regioni di soluzioni invece di singoli punti.
• Quantitativi (Confronto con DiCE e ANCHORS):
  • Distanza: Gli esempi contrastivi generati da REASONX tendono ad essere più vicini all'istanza originale rispetto a quelli di DiCE (distanze L1 e L∞ inferiori).
  • Regole: Rispetto ad ANCHORS, REASONX produce regole con lunghezze correlate alla profondità dell'albero e garantisce che le regole non si sovrappongano (copertura completa dello spazio delle istanze).
  • Runtime: I tempi di esecuzione di REASONX sono generalmente più alti rispetto a DiCE e ANCHORS a causa della complessità computazionale della programmazione logica e della comunicazione tra i layer Python e CLP, ma rimangono accettabili per l'analisi interattiva.
  • Vincoli: REASONX rispetta rigorosamente i vincoli imposti dall'utente (es. immutabilità di feature), riducendo il numero di soluzioni ammissibili ma garantendo la validità delle raccomandazioni.

5. Significato e Implicazioni

REASONX rappresenta un passo avanti significativo verso un'XAI dichiarativa e interattiva.

• Neuro-Simbolico: Colma il divario tra modelli ML opachi e la logica simbolica, permettendo di incorporare conoscenza di dominio (es. leggi fisiche, vincoli aziendali) direttamente nel processo di spiegazione.
• Flessibilità: La capacità di ragionare su istanze non specificate e di confrontare modelli nel tempo offre agli esperti di dominio strumenti potenti per l'audit, la rilevazione di bias e la comprensione della stabilità dei modelli.
• Usabilità: Pur essendo basato su formalismi matematici complessi (MILP, CLP), l'interfaccia Python lo rende accessibile agli sviluppatori ML, ponendo le basi per futuri sviluppi che includano interfacce naturali (LLM) per utenti non tecnici.

In sintesi, il paper presenta REASONX non solo come un tool di generazione di spiegazioni, ma come un ambiente di ragionamento che eleva il livello di astrazione dell'XAI, permettendo agli utenti di interrogare la logica decisionale dei modelli in modo flessibile, interattivo e vincolato dalla conoscenza del dominio.