Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions: An Internal Audit Perspective

Immaginate il mondo digitale del denaro come una città enorme e frenetica dove miliardi di monete sfrecciano attraverso tunnel invisibili ogni singolo giorno. In questa città, le banche sono i guardiani, che cercano di individuare i borseggiatori e i ladri prima che rubino. Per molto tempo, questi guardiani hanno utilizzato semplici libri di regole: "Se una transazione avviene alle 3 del mattino, bloccala!" oppure "Se l'importo è superiore a 10.000 dollari, bloccala!". Ma la città è troppo grande e i ladri sono troppo astuti; queste vecchie regole catturano troppe persone innocenti (falsi allarmi) e, peggio ancora, non possono spiegare perché hanno fermato qualcuno. È come un guardiano della sicurezza che grida "Fermati!" senza dire cosa hai fatto di sbagliato.

È qui che entra in gioco un nuovo tipo di scienza chiamata Intelligenza Artificiale Spiegabile (XAI). Pensate alla XAI non come a una scatola nera magica che fornisce semplicemente risposte, ma come a un detective che non solo risolve il crimine, ma scrive anche un rapporto chiaro e dettagliato spiegando esattamente come ha trovato il colpevole. Il documento che state per leggere si immerge in questo mondo, combinando uno strumento di riconoscimento dei pattern chiamato Isolation Forest (che trova le cose strane vedendo quanto facilmente possono essere isolate dal resto della folla) con un metodo matematico chiamato SHAP (che agisce come una lente d'ingrandimento, mostrando esattamente quali indizi — come un orario strano o un importo enorme — hanno reso il computer sospettoso). L'obiettivo è aiutare gli auditor bancari, che sono gli investigatori umani, a fidarsi dei sospetti del computer e a catturare i cattivi senza perdersi in codici confusi.

Il Documento: Il Kit di Attrezzi di un Detective per gli Auditor Bancari

Nel documento "Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions", l'autrice Anupa Lodhi affronta un problema complicato nel mondo bancario. Le banche sono sommerse dai dati, con miliardi di transazioni che avvengono quotidianamente, e devono trovare quelle poche che sono fraudolente. Il problema è che i programmi informatici intelligenti (Machine Learning) che sono bravi a trovare queste transazioni illecite sono spesso delle "scatole nere". Dicono: "Questa transazione è cattiva", ma non possono dire all'auditor umano il perché. Senza una ragione, gli auditor non possono scrivere i loro rapporti e i regolatori non possono essere certi che la banca stia facendo il proprio lavoro.

La Soluzione: Una Squadra di Tre Persone
Lodhi propone un nuovo sistema che agisce come una squadra di tre detective, progettata specificamente per i team di audit interno delle banche:

1. L'Osservatore (Isolation Forest): Questa è la prima linea di difesa. Immaginate una foresta gigante dove ogni albero è un sentiero. Le transazioni normali sono come una folla di persone che camminano insieme; seguono un percorso lungo e tortuoso per attraversare la foresta. Le anomalie (i frodatori) sono come elementi isolati; sono così strani che vengono isolati rapidamente, percorrendo un sentiero molto breve. L'algoritmo Isolation Forest usa questa idea per segnalare transazioni sospette senza bisogno di sapere in anticipo cosa sia una "frode". Sa solo cosa è "normale" e individua ciò che non si adatta.
2. Lo Spiegatore (SHAP): Una volta che l'Osservatore segnala una transazione, lo Spiegatore interviene. Utilizzando un metodo chiamato SHAP (che si basa su un ramo della matematica chiamato teoria dei giochi), esso scompone la decisione. Chiede: "Quanto ha contribuito l'importo di denaro a questa segnalazione? Quanto ha contribuito l'ora del giorno?". Assegna un punteggio a ogni indizio, trasformando un numero informatico spaventoso in una frase in linguaggio semplice come: "Questa transazione è sospetta perché l'importo era enorme e l'ora era insolita".
3. L'Interfaccia (Dashboard Streamlit): Infine, il team ha costruito una dashboard semplice e colorata. Questo è lo strumento che l'auditor umano utilizza effettivamente. Non richiede di conoscere la programmazione o di comprendere la matematica complessa. Basta caricare i propri dati e la dashboard mostra un elenco di transazioni rischiose, codificate per colore come "Alto Rischio" o "Basso Rischio", con le spiegazioni SHAP proprio accanto a esse.

Cosa Hanno Trovato
Gli autori hanno testato questo sistema utilizzando un dataset sintetico (un insieme di dati finti di 10.000 transazioni bancarie creato al computer per simulare la realtà). Non hanno usato dati bancari reali per questo test, ma hanno iniettato con cura 500 transazioni fraudolente "finte" (il 5% del totale) per vedere se il sistema fosse in grado di trovarle.

Ecco i risultati, direttamente dal documento:

• Il nuovo sistema (Isolation Forest + SHAP) ha catturato le frodi finte con una precisione di 0,91 e un richiamo (recall) di 0,88.
  • La Precisione significa che quando il sistema diceva "Questa è una frode", ci azzeccava il 91% delle volte.
  • Il Richiamo significa che è riuscito a trovare l'88% di tutte le frodi finte che si nascondevano nei dati.
• Confrontando questo sistema con altri metodi (come gli Autoencoder e le One-Class SVM), il nuovo sistema è risultato superiore. Ad esempio, l'Autoencoder ha raggiunto solo un F1-Score (una combinazione di precisione e richiamo) di 0,83, e la One-Class SVM era ancora più bassa, a 0,77.
• Fondamentalmente, l'aggiunta della parte "Spiegabile" (SHAP) non ha rallentato il sistema né ne ha diminuito l'accuratezza. La "Standard Isolation Forest" senza lo strato di spiegazione aveva esattamente gli stessi punteggi di rilevamento (precisione 0,91, richiamo 0,88), dimostrando che le spiegazioni sono un bonus gratuito che non danneggia le prestazioni.

Il Tocco Umano
Il documento non si è limitato a guardare i numeri; ha chiesto a persone reali se questo aiuti davvero. Cinque professionisti con esperienza negli audit bancari hanno esaminato le spiegazioni generate dal sistema. Hanno valutato la qualità delle spiegazioni 4,3 su 5,0. Gli auditor hanno affermato che avere queste spiegazioni a livello di singola caratteristica (feature) ha fornito loro il "linguaggio giustificativo" necessario per scrivere i propri rapporti. Prima di allora, dovevano indovinare perché una transazione fosse stata segnalata; ora, il computer dice loro esattamente quali indizi scrivere.

Perché Questo è Importante (e Cosa Non Fa)
Questo documento suggerisce che possiamo rendere l'IA utile per gli auditor bancari rendendola trasparente. Sostiene la tesi contro l'idea che dobbiamo scegliere tra un computer intelligente e un essere umano che comprenda la decisione. Inveve, si possono avere entrambi.

Tuttavia, ci sono dei limiti alla certezza di questi risultati. Lo studio ha utilizzato un dataset sintetico, il che significa che i dati sono stati creati dagli autori, non presi dalle operazioni quotidiane di una banca reale. Sebbene i risultati sembrino promettenti, il documento ammette che i dati bancari del mondo reale potrebbero essere più disordinati e complessi di questa versione pulita e artificiale. Il sistema è stato inoltre testato con solo quattro caratteristiche specifiche (importo, tempo, frequenza e variazione della posizione), mentre le banche reali potrebbero dover monitorare centinaia di altre cose.

Nonostante questi limiti, il documento conclude che questo framework è un passo avanti pratico. Dimostra che è possibile costruire uno strumento che sia accurato, facile da usare e che dia all'auditor umano la fiducia necessaria per agire. È un ponte tra il complesso mondo del machine learning e il mondo pratico e basato su regole degli audit bancari, assicurando che quando il computer lancia un allarme, l'umano responsabile sappia esattamente perché.