Riepilogo Tecnico: Spiegazioni Controfattuali in Presenza di Deriva Concettuale

1. Enunciato del Problema

Le spiegazioni controfattuali (CFE) sono meccanismi di ricorso azionabili che rispondono alla domanda "cosa deve cambiare affinché l'esito sia diverso?". Sebbene la letteratura esistente copra estesamente la generazione di CFE per dati statici e classificatori fissi, questo articolo identifica una lacuna critica: la manutenzione delle CFE in presenza di deriva concettuale.

In ambienti di dati in evoluzione (ad esempio, flussi di dati), i classificatori vengono aggiornati frequentemente online per adattarsi alle distribuzioni dei dati in cambiamento. Gli autori sostengono che una CFE valida al momento della generazione possa diventare silenziosamente invalida man mano che il modello evolve, anche se la spiegazione originale era robusta rispetto a cambiamenti del modello limitati e a singolo passo. A differenza delle ricerche precedenti sulla robustezza, che mirano a rendere una singola spiegazione resistente a un evento di riaddestramento limitato, questo lavoro affronta il degrado continuo di una popolazione di CFE mentre un classificatore viene aggiornato ripetutamente nel tempo. La sfida principale è mantenere la validità e la plausibilità locale delle CFE esistenti senza il costo computazionale di rigenerarle da zero dopo ogni aggiornamento del modello.

2. Metodologia

Gli autori propongono uno schema di manutenzione leggero e agnostico rispetto al modello che ripara le CFE esistenti utilizzando il campionamento locale e una finestra scorrevole delle osservazioni recenti.

2.1 Rappresentazione dello Stato e Attivazione

Il sistema mantiene uno stato $s = (x_0, x', c', a)$ per ogni istanza di query $x_0$, dove $x'$ è la CFE corrente, $c'$ è la classe target e $a$ è un flag attivo.

• Ritiro: Uno stato viene ritirato se il classificatore corrente $f_t$ prevede già la classe target per $x_0$ (cioè, la deriva ha risolto naturalmente la necessità di ricorso).
• Attivazione dell'Aggiornamento: Un aggiornamento viene attivato se la CFE corrente è invalida ($f_t(x') \neq c'$) o ha bassa confidenza nella classe target ($p_t(c' | x') < \tau_{low}$).

2.2 Il Meccanismo di Aggiornamento

Il metodo applica un vettore di correzione alla CFE corrente $x'$, bilanciando tre obiettivi:

1. Direzione di Validità ($v$): Aumenta la probabilità della classe target. Per modelli non differenziabili (ad esempio, alberi di Hoeffding), ciò viene stimato campionando perturbazioni locali attorno a $x'$, interrogando il classificatore e adattando un surrogato lineare localmente pesato (simile a LIME) per approssimare il gradiente.
2. Direzione di Plausibilità ($p$): Sposta la CFE verso regioni dense della classe target nel flusso di dati recente. Questo viene calcolato utilizzando una direzione di spostamento della media pesata dal kernel basata sui $k$-vicini più prossimi della classe target all'interno di un buffer scorrevole $B_t$.
3. Attrazione di Prossimità ($r$): Un vettore che richiama $x'$ verso l'istanza originale $x_0$ per minimizzare deviazioni non necessarie.

La direzione di aggiornamento $d$ è una combinazione lineare normalizzata del vettore di correzione selezionato ($u \in \{v, p\}$) e dell'attrazione di prossimità:
$$d = \frac{\lambda_u \hat{u} + \lambda_r \hat{r}}{\|\lambda_u \hat{u} + \lambda_r \hat{r}\|}$$
dove $\lambda_u$ e $\lambda_r$ controllano rispettivamente l'intensità relativa della correzione e della prossimità.

2.3 Varianti di Manutenzione

L'articolo valuta due strategie specifiche:

• Validità–Plausibilità (Ours-VP): Utilizza la direzione di validità $v$ quando la CFE è invalida o a bassa confidenza. Inoltre, applica la direzione di plausibilità $p$ periodicamente (ogni $K$ passi) per mantenere le CFE valide allineate con le distribuzioni dei dati recenti.
• Solo Plausibilità (Ours-P): Non stima la direzione di validità. Si affida esclusivamente alla direzione di plausibilità $p$ per riparare CFE invalide o a bassa confidenza, testando se lo spostamento verso regioni target dense sia sufficiente a ripristinare la validità in caso di deriva graduale.

3. Configurazione Sperimentale e Risultati

Gli esperimenti sono stati condotti su flussi sintetici in deriva (Rotating Hyperplane, Sine, SEA) utilizzando classificatori online (Regressione Logistica e Alberi di Hoeffding Adattivi).

3.1 Risultati Chiave

• Degrado delle CFE Statiche: Le CFE "congelate" (incluso quelle generate da metodi robusti come RobX) perdono rapidamente validità man mano che la deriva concettuale si accumula. Ad esempio, sul flusso Rotating Hyperplane, la validità è scesa a circa 0,29–0,35 per le CFE congelate.
• Preservazione della Validità: Entrambe le varianti di manutenzione (Ours-P e Ours-VP) hanno preservato con successo una validità quasi perfetta (spesso 1,0) per tutta la durata del flusso, superando significativamente le linee di base congelate.
• Miglioramento della Plausibilità: Le CFE mantenute hanno ottenuto punteggi di plausibilità locale (kNN e KDE) sostanzialmente più alti rispetto alle linee di base di rigenerazione come Vicino Più Prossimo (NN) e Sfere in Crescita (GS). Ciò è dovuto al fatto che lo schema di manutenzione incorpora esplicitamente il buffer di dati recenti, mentre i metodi di rigenerazione ottimizzano spesso solo per validità e prossimità.
• Compromesso di Prossimità: Le CFE mantenute hanno mostrato distanze $L_2$ (prossimità) maggiori rispetto ai metodi di rigenerazione. Gli autori attribuiscono ciò al costo di mantenere la plausibilità locale; le CFE vengono spostate verso regioni recenti della classe target che possono essere leggermente più distanti dall'istanza originale rispetto al punto valido più vicino trovato dalla rigenerazione.
• Efficienza Computazionale: Nonostante l'esecuzione di 200 aggiornamenti di manutenzione, i metodi proposti sono stati competitivi o più veloci delle linee di base di rigenerazione (ad esempio, RobX) che vengono eseguite una sola volta alla fine del flusso. Ours-P è stato notevolmente più veloce di Ours-VP evitando la stima della direzione di validità.

4. Contributi

L'articolo rivendica i seguenti contributi:

1. Definizione del Problema: Introduce la manutenzione delle CFE in presenza di deriva concettuale come una classe di problemi distinta, differenziandola dalle impostazioni di robustezza statica. L'obiettivo è mantenere valida e plausibile una popolazione di spiegazioni man mano che il classificatore evolve, piuttosto che rendere una singola spiegazione resistente a un singolo cambiamento.
2. Metodo Proposto: Uno schema leggero e agnostico rispetto al modello che ripara le CFE utilizzando il campionamento locale per stimare le direzioni di validità e plausibilità, preservando al contempo la prossimità.
3. Evidenza Empirica: Dimostrazione che le CFE standard e robuste perdono sistematicamente validità sotto deriva continua, mentre lo schema proposto preserva validità e plausibilità locale a un costo computazionale inferiore rispetto alla rigenerazione ripetuta.

5. Significato e Limitazioni

Gli autori collocano questo lavoro come una prima prova di concetto. Il significato risiede nello spostamento del paradigma dell'XAI negli ambienti di streaming dal trattare le spiegazioni come artefatti statici al considerarle oggetti dinamici che richiedono manutenzione. Ciò è particolarmente rilevante quando il generatore originale di CFE è computazionalmente costoso, non disponibile o inadatto a un'esecuzione frequente.

L'articolo riconosce modestamente i propri limiti:

• La valutazione è limitata a flussi sintetici a bassa dimensionalità con deriva graduale controllata.
• Non stabilisce ancora le prestazioni in scenari reali complessi, dati ad alta dimensionalità o dati di tipo misto.
• Viene suggerito un lavoro futuro per esplorare flussi di dati reali, classificatori differenziabili e l'estensione della manutenzione da CFE individuali a controfattuali a livello di gruppo.

Gli autori concludono che mantenere le spiegazioni nel tempo è un'alternativa pratica alla rigenerazione ripetuta, offrendo un equilibrio tra validità, plausibilità e costo computazionale in ambienti in evoluzione.