Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions: An Internal Audit Perspective

Stel je de digitale wereld van geld voor als een enorme, bruisende stad waar dagelijks miljarden munten door onzichtbare tunnels razen. In deze stad zijn banken de poortwachters, die proberen zakkenrollers en dieven te ontdekken voordat ze stelen. Een lange tijd gebruikten deze poortwachters eenvoudige regelboeken: "Als een transactie om 3 uur 's nachts plaatsvindt, stop deze dan!" of "Als het bedrag boven de $10.000 ligt, stop het dan!" Maar de stad is te groot en de dieven zijn te slim; deze oude regels houden te veel onschuldige mensen tegen (vals alarm) en, erger nog, ze kunnen niet uitleggen waarom ze iemand hebben tegengehouden. Het is alsof een beveiligingsbeambte "Stop!" roept zonder te zeggen wat je fout deed.

Dit is waar een nieuw soort wetenschap genaamd Explainable Artificial Intelligence (XAI) om de hoek komt kijken. Zie XAI niet als een magische zwarte doos die simpelweg antwoorden geeft, maar als een detective die niet alleen de misdaad oplost, maar ook een helder, stapsgewijs rapport schrijft waarin precies wordt uitgelegd hoe hij de dader heeft gevonden. Het artikel dat u zult lezen, duikt in deze wereld en combineert een slim patroonherkenningsinstrument genaamd Isolation Forest (dat vreemde zaken vindt door te kijken hoe gemakkelijk ze van de massa te scheiden zijn) met een wiskundige methode genaamd SHAP (die werkt als een vergrootglas en laat zien welke specifieke aanwijzingen — zoals een vreemd tijdstip of een enorm bedrag — de computer verdacht maakten). Het doel is om bankauditors, die de menselijke onderzoekers zijn, te helpen het vermoeden van de computer te vertrouwen en de boeven te vangen zonder verdwaald te raken in verwarrende code.

Het Artikel: Een Gereedschapskist voor de Bankauditor

In het artikel "Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions" pakt auteur Anupa Lodhi een lastig probleem in de bankwereld aan. Banken verdrinken in data, met dagelijks miljarden transacties, en ze moeten de enkelingen vinden die frauduleus zijn. Het probleem is dat de slimme computerprogramma's (Machine Learning) die goed zijn in het vinden van deze slechte transacties, vaak "black boxes" zijn. Ze zeggen: "Deze transactie is slecht," maar ze kunnen de menselijke auditor niet vertellen waarom. Zonder een reden kunnen auditors hun rapporten niet schrijven, en kunnen toezichthouders er niet zeker van zijn of de bank zijn werk goed doet.

De Oplossing: Een Team van Drie
Lodhi stelt een nieuw systeem voor dat werkt als een driepersoons detectiveteam, specif으로 ontworpen voor de interne auditteams bij banken:

1. De Spotter (Isolation Forest): Dit is de eerste verdedigingslinie. Stel je een gigantisch bos voor waar elke boom een pad is. Normale transacties zijn als een menigte mensen die samenlopen; zij nemen een lang, kronkelend pad om door het bos te komen. Anomalieën (de fraudeurs) zijn als uitschieters; ze zijn zo vreemd dat ze snel geïsoleerd worden en een zeer kort pad nemen. Het Isolation Forest-algoritme gebruikt dit idee om verdachte transacties te markeren zonder vooraf te hoeven weten hoe "fraude" eruitziet. Het weet simpelweg wat "normaal" is en ziet de zaken die er niet bij passen.
2. De Uitlegger (SHAP): Zodra de Spotter een transactie markeert, stapt de Uitlegger in. Met behulp van een methode genaamd SHAP (die gebaseerd is op een tak van de speltheorie) breekt het de beslissing af. Het vraagt: "Hoeveel heeft het bedrag bijgedragen aan deze melding? Hoeveel heeft de tijd van de dag bijgedragen?" Het geeft een score voor elke aanwijzing, waardoor een eng computertal verandert in een begrijpelijke zin zoals: "Deze transactie is verdacht omdat het bedrag enorm was en het op een ongebruikelijk uur plaatsvond."
3. De Interface (Streamlit Dashboard): Ten slotte heeft het team een eenvoudig, kleurrijk dashboard gebouwd. Dit is het instrument dat de menselijke auditor daadwerkelijk gebruikt. Het vereist geen kennis van programmeren of complexe wiskunde. Men uploadt simpelweg de data, en het dashboard toont een lijst met risicovolle transacties, gecodeerd met kleuren als "Hoog Risico" of "Laag Risico", met de SHAP-uitleg direct ernaast.

Wat Ze Hebben Gevonden
De auteurs hebben dit systeem getest met behulp van een synthetische dataset (een nepset van 10.000 banktransacties die op een computer is gemaakt om het echte leven na te bootsen). Ze hebben geen echte bankgegevens gebruikt voor deze test, maar hebben zorgvuldig 500 "nep" frauduleuze transacties (5% van het totaal) geïnjecteerd om te zien of het systeem deze kon vinden.

Hier zijn de resultaten, rechtstreeks uit het artikel:

• Het nieuwe systeem (Isolation Forest + SHAP) ving de nepfraudeurs met een precisie van 0,91 en een recall van 0,88.
  • Precisie betekent dat wanneer het systeem zei: "Dit is fraude," het in 91% van de gevallen gelijk had.
  • Recall betekent dat het 88% van alle verborgen nepfraudeurs in de data wist te vinden.
• Wanneer ze dit vergeleken met andere methoden (zoals Autoencoders en One-Class SVMs), presteerde het nieuwe systeem beter. Zo bereikte de Autoencoder bijvoorbeeld slechts een F1-score (een combinatie van precisie en recall) van 0,83, en de One-Class SVM was zelfs lager met 0,77.
• Cruciaal is dat het toevoegen van het "Verklaarbare" deel (SHAP) het systeem niet vertraagde of minder nauwkeurig maakte. De "Standaard Isolation Forest" zonder de uitleglaag had exact dezelfde detectiescores (0,91 precisie, 0,88 recall), wat bewijst dat de uitleg een gratis bonus is die de prestaties niet schaadt.

De Menselijke Touch
Het artikel keek niet alleen naar cijfers; het vroeg echte mensen of dit hen daadwerkelijk helpt. Vijf professionals met ervaring in bankaudits bekeken de uitleg die het systeem genereerde. Zij beoordeelden de kwaliteit van de uitleg met 4,3 uit 5,0. De auditors zeiden dat het hebben van deze uitleg op kenmerkniveau hen de "onderbouvende taal" gaf die ze nodig hadden om hun rapporten te schrijven. Voorheen moesten ze raden waarom een transactie werd gemarkeerd; nu vertelt de computer hen precies welke aanwijzingen ze moeten opschrijven.

Waarom Dit Er Toe Doet (en Wat Het Niet Doet)
Dit artikel suggereert dat we AI nuttig kunnen maken voor bankauditors door het transparant te maken. Het spreekt zich uit tegen het idee dat we moeten kiezen tussen een slimme computer en een mens die de beslissing begrijpt. In plaats daarvan kun je beide hebben.

Er zijn echter beperkingen aan hoe zeker we kunnen zijn over deze resultaten. De studie gebruikte een synthetische dataset, wat betekent dat de data door de auteurs is gemaakt en niet afkomstig is van de dagelijkse operaties van een echte bank. Hoewel de resultaten veelbelovend lijken, geeft het artikel toe dat echte bankgegevens rommeliger en complexer kunnen zijn dan deze schone, nepversie. Het systeem werd ook getest met slechts vier specifieke kenmerken (bedrag, tijd, frequentie en locatieverandering), terwijl echte banken misschien honderden verschillende zaken moeten bijhouden.

Ondanks deze beperkingen concludeert het artikel dat dit framework een praktische stap voorwaarts is. Het laat zien dat het mogelijk is om een instrument te bouwen dat accuraat en gemakkelijk te gebruiken is en de menselijke auditor het vertrouwen geeft om te handelen. Het is een brug tussen de complexe wereld van machine learning en de praktische, op regels gebaseerde wereld van bankaudits, waarbij wordt gewaarborgd dat wanneer de computer een alarm slaat, de mens in de leiding precies weet waarom.