Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions: An Internal Audit Perspective

Stellen Sie sich die digitale Welt des Geldes als eine riesige, geschäftige Stadt vor, in der täglich Milliarden von Münzen durch unsichtbare Tunnel sausen. In dieser Stadt sind Banken die Torwächter, die versuchen, Taschendiebe und Betrüger zu entdecken, bevor diese stehlen. Lange Zeit nutzten diese Torwächter einfache Regelbücher: „Wenn eine Transaktion um 3 Uhr morgens stattfindet, stoppe sie!“ oder „Wenn der Betrag über 10.000 $ liegt, stoppe ihn!“ Aber die Stadt ist zu groß und die Diebe sind zu clever; diese alten Regeln erfassen zu viele unschuldige Menschen (Fehlalarme) und – was noch schlimmer ist – sie können nicht erklären, warum sie jemanden gestoppt haben. Es ist, als würde ein Sicherheitsbeamter „Stopp!“ rufen, ohne zu sagen, was man falsch gemacht hat.

Hier kommt eine neue Art der Wissenschaft namens Erklärbare Künstliche Intelligenz (Explainable Artificial Intelligence, XAI) ins Spiel. Betrachten Sie XAI nicht als eine magische Blackbox, die einfach nur Antworten liefert, sondern als einen Detektiv, der nicht nur den Verbrechen fall klärt, sondern auch einen klaren, schrittweisen Bericht schreibt, der genau erklärt, wie er den Schuldigen gefunden hat. Das Papier, das Sie gleich lesen werden, taucht in diese Welt ein und kombiniert ein intelligentes Mustererkennungswerkzeug namens Isolation Forest (das Ungewöhnliches findet, indem es sieht, wie leicht sie sich von der Masse abgrenzen lassen) mit einer mathematischen Methode namens SHAP (die wie eine Lupe wirkt und zeigt, welche Hinweise – wie eine seltsame Uhrzeit oder ein riesiger Betrag – die Computer verdächtig gemacht haben). Das Ziel ist es, Bankprüfer, die menschlichen Ermittler, dazu zu befähigen, den Vermutungen des Computers zu vertrauen und die Übeltäter zu fangen, ohne sich in verwirrendem Code zu verlieren.

Das Papier: Ein Werkzeugkasten für Detektive der Bankenprüfung

In dem Papier „Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions“ befasst sich die Autorin Anupa Lodhi mit einem kniffligen Problem in der Bankenwelt. Banken ertrinken in Daten, mit Milliarden von Transaktionen, die täglich stattfinden, und sie müssen diejenigen finden, die betrügerisch sind. Das Problem ist, dass die intelligenten Computerprogramme (Maschinelles Lernen), die gut darin sind, diese schlechten Transaktionen zu finden, oft „Black Boxes“ sind. Sie sagen: „Diese Transaktion ist schlecht“, aber sie können dem menschlichen Prüfer nicht sagen, war Warum. Ohne einen Grund können die Prüfer ihre Berichte nicht schreiben, und die Regulierungsbehörden können nicht sicher sein, ob die Bank ihre Arbeit ordnungsgemäß erledigt.

Die Lösung: Ein Team aus drei Personen
Lodhi schlägt ein neues System vor, das wie ein dreiköpfiges Detektivteam fungiert, das speziell für die internen Revisionsteams bei Banken entwickelt wurde:

1. Der Spürer (Isolation Forest): Dies ist die erste Verteidigungslinie. Stellen Sie sich einen riesigen Wald vor, in dem jeder Baum ein Pfad ist. Normale Transaktionen sind wie eine Menschenmenge, die gemeinsam wandert; sie nehmen einen langen, gewundenen Pfad durch den Wald. Anomalien (die Betrüger) sind wie Ausreißer; sie sind so seltsam, dass sie schnell isoliert werden und einen sehr kurzen Pfad nehmen. Der Isolation-Forest-Algorithmus nutzt diese Idee, um verdächtige Transaktionen zu kennzeichnen, ohne vorher wissen zu müssen, wie „Betrug“ aussieht. Er weiß einfach, wie „normal“ aussieht, und erkennt die Dinge, die nicht hineinpassen.
2. Der Erklärer (SHAP): Sobald der Spürer eine Transaktion markiert, tritt der Erklärer auf den Plan. Unter Verwendung einer Methode namens SHAP (die auf einem Zweig der Mathematik namens Spieltheorie basiert) bricht er die Entscheidung auf. Er fragt: „Wie sehr hat der Betrag des Geldes zu dieser Kennzeichnung beigetragen? Wie sehr hat die Zeit des Tages dazu beigetragen?“ Er vergibt einen Wert für jeden Hinweis und verwandelt eine beängstigende Computernummer in einen klaren Satz wie: „Diese Transaktion ist verdächtig, weil der Betrag riesig war und sie zu einer ungewöhnlichen Stunde stattfand.“
3. Die Schnittstelle (Streamlit Dashboard): Schließlich baute das Team ein einfaches, farbenfrohes Dashboard. Dies ist das Werkzeug, das der menschliche Prüfer tatsächlich benutzt. Es erfordert kein Programmierwissen oder Verständnis komplexer Mathematik. Man lädt einfach seine Daten hoch, und das Dashboard zeigt eine Liste riskanter Transaktionen, farblich kodiert als „Hochrisiko“ oder „Niedrigrisiko“, mit den SHAP-Erklärungen direkt daneben.

Was sie herausgefunden haben
Die Autoren testeten dieses System mit einem synthetischen Datensatz (einem künstlich erstellten Datensatz von 10.000 Banktransaktionen, der das echte Leben nachahmt). Sie verwendeten keine echten Bankdaten für diesen Test, sondern injizierten sorgfältig 500 „falsche“ betrügerische Transaktionen (5 % der Gesamtzahl), um zu sehen, ob das System sie finden kann.

Hier sind die Ergebnisse, direkt aus dem Papier:

• Das neue System (Isolation Forest + SHsAP) identifizierte die gefälschten Betrugsfälle mit einer Präzision von 0,91 und einem Recall von 0,88.
  • Präzision bedeutet, dass das System, wenn es sagte: „Dies ist Betrug“, in 91 % der Fälle richtig lag.
  • Recall bedeutet, dass es 88 % aller im Datensatz versteckten gefälschten Betrugsfälle gefunden hat.
• Beim Vergleich mit anderen Methoden (wie Autoencodern und One-Class SVMs) schnitt das neue System besser ab. Beispielsweise erreichte der Autoencoder nur einen F1-Score (eine Mischung aus Präzision und Recall) von 0,83, und die One-Class SVM lag sogar noch niedriger bei 0,77.
• Entscheidend ist, dass das Hinzufügen des „Erklärbaren“ Teils (SHAP) das System nicht verlangsamte oder die Genauigkeit verringerte. Der „Standard-Isolation-Forest“ ohne die Erklärungsebene hatte exakt dieselben Erkennungswerte (0,91 Präzision, 0,88 Recall), was beweist, dass die Erklärungen ein kostenloser Bonus sind, der die Leistung nicht beeinträchtigt.

Die menschliche Komponente
Das Papier betrachtete nicht nur Zahlen; es fragte echte Menschen, ob dies tatsächlich hilft. Fünf Fachleute mit Erfahrung in der Bankrevision betrachteten die vom System generierten Erklärungen. Sie bewerteten die Qualität der Erklärungen mit 4,3 von 5,0. Die Prüfer sagten, dass die Merkmalserklärungen ihnen die „begründende Sprache“ gaben, die sie für ihre Berichte benötigen. Zuvor mussten sie raten, warum eine Transaktion markiert wurde; jetzt sagt ihnen der Computer genau, welche Hinweise sie aufschreiben sollen.

Warum dies wichtig ist (und was es nicht tut)
Dieses Papier legt nahe, dass wir KI für Bankprüfer nützlich machen können, indem wir sie transparent gestalten. Es argumentiert gegen die Vorstellung, dass wir uns zwischen einem smarten Computer und einem Menschen, der die Entscheidung versteht, entscheiden müssen. Stattdessen kann man beides haben.

Es gibt jedoch Einschränkungen hinsichtlich der Sicherheit dieser Ergebnisse. Die Studie verwendete einen synthetischen Datensatz, was bedeutet, dass die Daten von den Autoren erstellt wurden und nicht aus dem täglichen Betrieb einer echten Bank stammen. Obwohl die Ergebnisse vielversprechend aussehen, räumt das Papier ein, dass reale Bankdaten viel unordentlicher und komplexer sein könnten als diese saubere, künstliche Version. Das System wurde zudem nur mit vier spezifischen Merkmalen getestet (Betrag, Zeit, Häufigkeit und Standortwechsel), während echte Banken möglicherweise hunderte verschiedene Dinge verfolgen müssen.

Trotz dieser Einschränkungen kommt das Papier zu dem Schluss, dass dieser Rahmen ein praktischer Schritt nach vorn ist. Es zeigt, dass es möglich ist, ein Werkzeug zu bauen, das präzise, einfach zu bedienen ist und dem menschlichen Prüfer das Vertrauen gibt, zu handeln. Es ist eine Brücke zwischen der komplexen Welt des maschinellen Lernens und der praktischen, regelbasierten Welt der Bankenprüfung, die sicherstellt, dass der Mensch, der die Verantwortung trägt, genau weiß, warum der Computer Alarm schlägt.