Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions: An Internal Audit Perspective

Imaginez le monde numérique de l'argent comme une ville immense et bouillonnante où des milliards de pièces circulent dans des tunnels invisibles chaque jour. Dans cette ville, les banques sont les gardiens, tentant de repérer les pickpockets et les voleurs avant qu'ils ne volent. Pendant longtemps, ces gardiens utilisaient des recueils de règles simples : « Si une transaction a lieu à 3 heures du matin, arrêtez-la ! » ou « Si le montant est supérieur à 10 000 $, arrêtez-la ! » Mais la ville est trop grande et les voleurs sont trop astucieux ; ces vieilles règles arrêtent trop de personnes innocentes (fausses alertes) et, pire encore, elles ne peuvent pas expliquer pourquoi elles ont arrêté quelqu'un. C'est comme un agent de sécurité qui crie « Stop ! » sans dire ce que vous avez fait de mal.

C'est ici qu'entre en scène une nouvelle forme de science appelée Intelligence Artificielle Explicable (XAI). Voyez la XAI non pas comme une boîte noire magique qui donne simplement des réponses, mais comme un détective qui non seulement résout le crime, mais rédige également un rapport clair et détaillé expliquant exactement comment il a trouvé le coupable. Le document que vous allez lire plonge dans cet univers, combinant un outil de détection de motifs intelligent appelé Forêt d'isolement (Isolation Forest) (qui trouve les choses étranges en voyant à quel point elles sont faciles à isoler du groupe) avec une méthode mathématique appelée SHAP (qui agit comme une loupe, montrant exactement quels indices — comme une heure étrange ou un montant énorme — ont rendu l'ordinateur suspect). L'objectif est d'aider les auditeurs bancaires, qui sont les enquêteurs humains, à faire confiance aux intuitions de l'ordinateur et à attraper les méchants sans se perdre dans un code confus.

Le document : Une boîte à outils de détective pour les auditeurs bancaires

Dans l'article « Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions », l'auteure Anupa Lodhi s'attaque à un problème complexe du monde bancaire. Les banques sont noyées sous les données, avec des milliards de transactions se produisant quotidiennement, et elles doivent trouver les quelques transactions frauduleuses. Le problème est que les programmes informatiques intelligents (Apprentissage Automatique / Machine Learning) qui sont bons pour trouver ces mauvaises transactions sont souvent des « boîtes noires ». Ils disent : « Cette transaction est mauvaise », mais ils ne peuvent pas dire à l'auditeur humain pourquoi. Sans raison, les auditeurs ne peuvent pas rédiger leurs rapports, et les régulateurs ne peuvent pas être sûrs que la banque fait son travail.

La Solution : Une équipe de trois
Lodhi propose un nouveau système qui agit comme une équipe de détective composée de trois personnes, conçue spéciment pour les équipes d'audit interne des banques :

1. Le Repéreur (Isolation Forest) : C'est la première ligne de défense. Imaginez une forêt géante où chaque arbre est un chemin. Les transactions normales sont comme une foule de gens marchant ensemble ; elles empruntent un chemin long et sinueux pour traverser la forêt. Les anomalies (les fraudeurs) sont comme des éléments isolés ; elles sont si bizarres qu'elles sont isolées rapidement, empruntant un chemin très court. L'algorithme Isolation Forest utilise cette idée pour signaler les transactions suspectes sans avoir besoin de savoir à quoi ressemble la « fraude » au préalable. Il sait simplement ce qu'est la « normalité » et repère ce qui ne correspond pas.
2. L'Explicateur (SHAP) : Une fois que le Repéreur a signalé une transaction, l'Explicateur intervient. En utilisant une méthode appelée SHAP (basée sur une branche des mathématiques appelée théorie des jeux), il décompose la décision. Il demande : « Quelle part du montant d'argent a contribué à ce signalement ? Quelle part de l'heure de la journée a contribué ? » Il attribue un score à chaque indice, transformant un nombre informatique effrayant en une phrase en langage courant comme : « Cette transaction est suspecte car le montant était énorme et elle a eu lieu à une heure inhabituelle. »
3. L'Interface (Tableau de bord Streamlit) : Enfin, l'équipe a construit un tableau de bord simple et coloré. C'est l'outil que l'auditeur humain utilise réellement. Il ne nécessite pas de connaître le codage ou de comprendre des mathématiques complexes. Il suffit de télécharger ses données, et le tableau de bord lui montre une liste de transactions risquées, codées par couleur comme « Risque élevé » ou « Risque faible », avec les explications SHAP juste à côté.

Ce qu'ils ont trouvé
Les auteurs ont testé ce système en utilisant un jeu de données synthétiques (un ensemble de données fictives de 10 000 transactions bancaires créées par ordinateur pour imiter la vie réelle). Ils n'ont pas utilisé de données bancaires réelles pour ce test, mais ils ont soigneusement injecté 500 transactions frauduleuses « fausses » (5 % du total) pour voir si le système pouvait les trouver.

Voici les résultats, directement issus du document :

• Le nouveau système (Isolation Forest + SHSHAP) a capturé les fraudes fictives avec une précision de 0,91 et un rappel de 0,88.
  • La précision signifie que lorsque le système disait « C'est une fraude », il avait raison 91 % du temps.
  • Le rappel signifie qu'il a réussi à trouver 88 % de toutes les fraudes fictives qui se cachaient dans les données.
• Lorsqu'ils ont comparé cela à d'autres méthodes (comme les Autoencodeurs et les SVM à classe unique/One-Class SVM), le nouveau système a obtenu de meilleurs résultats. Par exemple, l'Autoencodeur n'a atteint qu'un F1-Score (un mélange de précision et de rappel) de 0,83, et le One-Class SVM était encore plus bas à 0,77.
• Crucialement, l'ajout de la partie « Explicable » (SHAP) n'a pas ralenti le système ni réduit sa précision. L'« Isolation Forest standard » sans la couche d'explication présentait exactement les mêmes scores de détection (0,91 de précision, 0,88 de rappel), prouvant que les explications sont un bonus gratuit qui ne nuit pas à la performance.

La Touche Humaine
Le document ne s'est pas contenté d'examiner les chiffres ; il a demandé à de vraies personnes si cela aidait réellement. Cinq professionnels ayant de l'expérience dans les audits bancaires ont examiné les explications générées par le système. Ils ont évalué la qualité des explications à 4,3 sur 5,0. Les auditeurs ont déclaré que le fait de disposer de ces explications au niveau des caractéristiques leur donnait le « langage justificatif » nécessaire pour rédiger leurs rapports. Auparavant, ils devaient deviner pourquoi une transaction était signalée ; désormais, l'ordinateur leur dit exactement quels indices noter.

Pourquoi cela importe (et ce que cela ne fait pas)
Ce document suggère que nous pouvons rendre l'IA utile pour les auditeurs bancaires en la rendant transparente. Il soutient l'idée que nous n'avons pas à choisir entre un ordinateur intelligent et un humain qui comprend la décision. Au contraire, vous pouvez avoir les deux.

Cependant, il existe certaines limites quant à la certitude de ces résultats. L'étude a utilisé un jeu de données synthétiques, ce qui signifie que les données ont été créées par les auteurs, et non tirées des opérations quotidiennes d'une banque réelle. Bien que les résultats semblent prometteurs, le document admet que les données bancaires réelles pourraient être plus désordonnées et complexes que cette version fictive et propre. Le système a également été testé avec seulement quatre caractéristiques spécifiques (montant, heure, fréquence et changement de lieu), alors que les banques réelles pourraient devoir en suivre des centaines de différentes.

Malgré ces limites, le document conclut que ce cadre est une étape concrète vers l'avant. Il montre qu'il est possible de construire un outil qui est précis, facile à utiliser et qui donne à l'auditeur humain la confiance nécessaire pour agir. C'est un pont entre le monde complexe de l'apprentissage automatique et le monde pratique et rigoureux des audits bancaires, garantissant que lorsque l'ordinateur déclenche une alarme, l'humain responsable sait exactement pourquoi.