Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions: An Internal Audit Perspective

Imagine o mundo digital do dinheiro como uma cidade enorme e movimentada, onde bilhões de moedas viajam por túneis invisíveis todos os dias. Nesta cidade, os bancos são os guardiões, tentando detectar os batedores de carteira e ladrões antes que eles roubem. Por muito tempo, esses guardiões usaram livros de regras simples: "Se uma transação ocorrer às 3 da manhã, pare-a!" ou "Se o valor for superior a US$ 10.000, pare-a!". Mas a cidade é grande demais e os ladrões são espertos demais; essas regras antigas pegam muitas pessoas inocentes (alarmes falsos) e, pior, não conseguem explicar por que pararam alguém. É como um segurança gritando "Pare!" sem dizer o que você fez de errado.

É aqui que entra um novo tipo de ciência chamada Inteligência Artificial Explicável (XAI). Pense na XAI não como uma caixa preta mágica que apenas dá respostas, mas como um detetive que não apenas resolve o crime, mas também escreve um relatório claro e passo a passo explicando exatamente como encontrou o culpado. O artigo que você está prestes a ler mergulha neste mundo, combinando uma ferramenta inteligente de detecção de padrões chamada Isolation Forest (que encontra coisas estranhas ao ver com que facilidade elas podem ser separadas da multidão) com um método matemático chamado SHAP (que atua como uma lupa, mostrando exatamente quais pistas — como um horário estranho ou um valor enorme — tornaram o computador suspeito). O objetivo é ajudar os auditores bancários, que são os investigadores humanos, a confiar nos palpites do computador e a pegar os bandidos sem se perderem em códigos confusos.

O Artigo: Um Kit de Ferramentas de Detetive para Auditores Bancários

No artigo "Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions", a autora Anupa Lodhi aborda um problema complexo no mundo bancário. Os bancos estão submersos em dados, com bilhões de transações ocorrendo diariamente, e precisam encontrar as poucas que são fraudulentas. O problema é que os programas de computador inteligentes (Machine Learning) que são bons em encontrar essas transações maliciosas são frequentemente "caixas pretas". Eles dizem: "Esta transação é ruim", mas não conseguem dizer ao auditor humano o porquê. Sem um motivo, os auditores não podem escrever seus relatórios e os reguladores não podem ter certeza de que o banco está fazendo seu trabalho.

A Solução: Uma Equipe de Três
Lodhi propõe um novo sistema que atua como uma equipe de detetives de três pessoas, projetada especificamente para as equipes de auditoria interna dos bancos:

1. O Observador (Isolation Forest): Esta é a primeira linha de defesa. Imagine uma floresta gigante onde cada árvore é um caminho. Transações normais são como uma multidão de pessoas caminhando juntas; elas percorrem um caminho longo e sinuoso para atravessar a floresta. As anomalias (os fraudadores) são como pontos fora da curva; elas são tão estranhas que são isoladas rapidamente, percorrendo um caminho muito curto. O algoritmo Isolation Forest usa essa ideia para sinalizar transações suspeitas sem precisar saber previamente o que é "fraude". Ele apenas sabe o que é "normal" e detecta o que não se encaixa.
2. O Explicador (SHAP): Assim que o Observador sinaliza uma transação, o Explicador entra em cena. Usando um método chamado SHAP (que é baseado em um ramo da matemática chamado teoria dos jogos), ele detalha a decisão. Ele pergunta: "Quanto o valor do dinheiro contribuiu para este alerta? Quanto o horário do dia contribuiu?". Ele atribui uma pontuação para cada pista, transformando um número assustador do computador em uma frase clara em linguagem comum, como: "Esta transação é suspeita porque o valor era enorme e ocorreu em um horário incomum".
3. A Interface (Painel Streamlit): Finalmente, a equipe construiu um painel simples e colorido. Esta é a ferramenta que o auditor humano realmente utiliza. Não exige que eles saibam programar ou entendam matemática complexa. Eles apenas carregam seus dados, e o painel mostra uma lista de transações de risco, codificadas por cores como "Alto Risco" ou "Baixo Risco", com as explicações do SHAP logo ao lado.

O Que Eles Descobriram
Os autores testaram este sistema usando um conjunto de dados sintéticos (um conjunto de dados falsos de 10.000 transações bancárias criadas em um computador para imitar a vida real). Eles não usaram dados bancários reais para este teste, mas injetaram cuidadosamente 500 transações fraudulentas "falsas" (5% do total) para ver se o sistema conseguiria encontrá-las.

Aqui estão os resultados, vindos diretamente do artigo:

• O novo sistema (Isolation Forest + SHAP) detectou as fraudes falsas com 0,91 de precisão e 0,88 de recall.
  • Precisão significa que, quando o sistema dizia "Isto é fraude", ele estava certo 91% das vezes.
  • Recall significa que ele conseguiu encontrar 88% de todas as fraudes falsas que estavam escondidas nos dados.
• Quando compararam este sistema com outros métodos (como Autoencoders e One-Class SVMs), o novo sistema teve um desempenho superior. Por exemplo, o Autoencoder alcançou apenas um F1-Score (uma mistura de precisão e recall) de 0,83, e o One-Class SVM foi ainda mais baixo, com 0,77.
• Crucialmente, adicionar a parte "Explicável" (SHAP) não atrasou o sistema nem reduziu sua precisão. O "Isolation Forest Padrão", sem a camada de explicação, teve exatamente as mesmas pontuações de detecção (0,91 de precisão, 0,88 de recall), provando que as explicações são um bônus gratuito que não prejudica o desempenho.

O Toque Humano
O artigo não olhou apenas para números; perguntou a pessoas reais se isso realmente ajuda. Cinco profissionais com experiência em auditoria bancária analisaram as explicações geradas pelo sistema. Eles avaliaram a qualidade das explicações em 4,3 de 5,0. Os auditores disseram que ter essas explicações ao nível de características lhes deu a "linguagem justificativa" necessária para escrever seus relatórios. Antes disso, eles tinham que adivinhar por que uma transação foi sinalizada; agora, o computador diz exatamente quais pistas anotar.

Por Que Isso Importa (e O Que Não Faz)
Este artigo sugere que podemos tornar a IA útil para auditores bancários ao torná-la transparente. Ele argumenta contra a ideia de que temos que escolher entre um computador inteligente e um humano que entenda a decisão. Em vez disso, você pode ter ambos.

No entanto, existem limites para o quão certos podemos estar desses resultados. O estudo utilizou um conjunto de dados sintéticos, o que significa que os dados foram criados pelos próprios autores, não retirados das operações diárias de um banco real. Embora os resultados pareçam promissores, o artigo admite que os dados bancários do mundo real podem ser mais desordenados e complexos do que esta versão limpa e artificial. O sistema também foi testado com apenas quatro características específicas (valor, tempo, frequência e mudança de localização), enquanto bancos reais podem precisar monitorar centenas de outras coisas.

Apesar desses limites, o artigo conclui que este framework é um passo prático à frente. Ele mostra que é possível construir uma ferramenta que seja precisa, fácil de usar e que dê ao auditor humano a confiança para agir. É uma ponte entre o mundo complexo do aprendizado de máquina e o mundo prático e cheio de regras da auditoria bancária, garantindo que, quando o computador levantar um alerta, o humano responsável saiba exatamente o porquê.