Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions: An Internal Audit Perspective

想象一下，数字货币的世界就像一座繁忙的大都市，每天都有数以十亿计的硬币在隐形的隧道中穿梭。在这座城市里，银行是守门人，试图在小偷和窃贼下手之前识破他们。长期以来，这些守门人一直使用简单的规则手册：“如果交易发生在凌晨3点，就拦截它！”或者“如果金额超过1万美元，就拦截它！”但这座城市太大了，小偷也太聪明了；这些旧规则会误伤太多无辜的人（误报），更糟糕的是，它们无法解释为什么要拦截某人。这就像一名保安大喊“站住！”，却没说你到底做错了什么。

这就是一种被称为**可解释人工智能（XAI）的新型科学。请不要把 XAI 仅仅看作一个只会给出答案的“黑匣子”，而要把它看作一名侦探，他不仅能破案，还能写出一份清晰、循序渐进的报告，详细说明是如何找到罪犯的。你即将阅读的这篇论文深入探讨了这个领域，它将一种名为孤立森林（Isolation Forest）**的智能模式识别工具（它通过观察事物被从人群中分离出来的难易程度来发现异常情况）与一种名为 SHAP 的数学方法（它像放大镜一样，展示出究竟是哪些线索——比如奇怪的时间或巨大的金额——让计算机产生了怀疑）结合在了一起。其目标是帮助银行审计师（即人类调查员）能够信任计算机的直觉，并在不迷失在混乱代码中的情况下抓获坏人。

论文：银行审计师的侦探工具包

在题为《银行交易异常检测中的可解释人工智能》的论文中，作者 Anupa Lodhi 解决了一个银行领域棘手的难题。银行正淹没在数据之中，每天都有数十亿笔交易发生，他们需要找出其中极少数的欺诈交易。问题在于，那些擅长发现这些不良交易的智能计算机程序（机器学习）通常是“黑匣子”。它们会说“这笔交易有问题”，但却无法告诉人类审计师“为什么”。如果没有理由，审计师就无法撰写报告，监管机构也无法确定银行是否履行了职责。

解决方案：三人小组
Lodhi 提出了一个新系统，该系统就像一个专门为银行内部审计团队设计的“三人侦探小组”：

1. 观察者（孤立森林）： 这是第一道防线。想象一片巨大的森林，每一棵树都是一条路径。正常的交易就像一群结伴行走的人；他们会走一段漫长且曲折的路径才能穿过森林。而异常值（欺诈者）则像是离群者；他们如此奇特，以至于能很快被隔离出来，走过一段非常短的路径。孤立森林算法利用这个概念，在不需要预先知道“欺诈”长什么样的情况下，就能标记出可疑交易。它只需要知道什么是“正常”，并识别出那些不符合常态的事物。
2. 解释者（SHAP）： 一旦“观察者”标记了一笔交易，“解释者”就会介入。利用一种名为 SHAP 的方法（基于名为博弈论的分支数学），它会对决策进行拆解。它会询问：“金额对这次标记贡献了多少？时间对这次标记贡献了多少？”它会为每个线索给出评分，将一个令人恐惧的计算机数字转化为一句通俗易懂的话，例如：“这笔交易之所以可疑，是因为金额巨大且发生在异常时刻。”
3. 界面（Streamlit 控制面板）： 最后，该团队构建了一个简单、色彩鲜艳的控制面板。这是人类审计师实际使用的工具。它不需要审计师具备编程知识或理解复杂的数学。他们只需上传数据，控制面板就会向他们展示一份风险交易清单，并用颜色标注为“高风险”或“低风险”，同时在旁边附上 SHAP 的解释。

研究发现
作者使用了一个合成数据集（由计算机生成的、旨在模拟现实生活的 10,000 笔虚构银行交易）对该系统进行了测试。他们并没有使用真实的银行数据进行此项测试，但他们仔细地注入了 500 笔“虚假”欺诈交易（占总数的 5%），以观察系统能否找到它们。

以下是直接来自论文的研究结果：

• 新系统（孤立森林 + SHSHAP）捕捉虚假欺诈的精确率（Precision）为 0.91，召回率（Recall）为 0.88。
  • 精确率意味着当系统说“这是欺诈”时，它的正确率是 91%。
  • 召回率意味着它成功找到了隐藏在数据中的 88% 的虚假欺诈。
• 当将其与其他方法（如自动编码器 Autoencoders 和单类支持向量机 One-Class SVMs）进行比较时，新系统的表现更为出色。例如，自动编码器的 F1 分数（精确率和召回率的综合指标）仅为 0.83，而单类支持向量机甚至更低，为 0.77。
• 至关重要的是，添加“可解释性”部分（SHAP）并没有减慢系统的速度，也没有降低其准确性。没有解释层的“标准孤立森林”拥有完全相同的检测得分（0.91 精确率，0.88 召回率），这证明了这些解释是一个不损害性能的“免费赠品”。

人文关怀
论文不仅关注数字，还询问了真实的人士该系统是否真的有所帮助。五位具有银行审计经验的专业人士查看了系统生成的解释，并对解释质量给出了 4.3 分（满分 5.0 分） 的评价。审计师表示，拥有这些特征层面的解释为他们撰写报告提供了所需的“证明性语言”。在此之前，他们必须猜测为什么一笔交易会被标记；而现在，计算机直接告诉他们应该记录下哪些线索。

意义所在（以及局限性）
这篇论文表明，我们可以通过提高透明度，使人工智能对银行审计师变得有用。它反对“必须在智能计算机与理解决策的人类之间做出选择”的观点。相反，你可以两者兼得。

然而，对于这些结果的可靠程度，我们仍存在一定的局限性。研究使用的是合成数据集，这意味着数据是由作者制作的，而非取自真实银行的日常运营。虽然结果看起来很有前景，但论文也承认，现实世界的银行数据可能比这个干净的虚构版本更加混乱且复杂。此外，该系统测试时仅使用了四个特定特征（金额、时间、频率和位置变化），而真实的银行可能需要追踪数百个不同的维度。

尽管存在这些局限，论文结论认为，这一框架是向前迈出的务实一步。它表明，构建一个既准确又易于使用，且能让审计师产生行动信心的工具是完全可能的。它是复杂机器学习世界与注重规则的银行审计实践世界之间的一座桥梁，确保当计算机发出警报时，负责的人员清楚地知道原因所在。