Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions: An Internal Audit Perspective

お金のデジタル世界を、毎日何十億ものコインが目に見えないトンネルを駆け抜ける、巨大で賑やかな都市だと想像してみてください。この都市では、銀行が門番として、泥棒やスリが盗みを働く前にそれを見つけ出そうとしています。長い間、これらの門番は単純なルールブックを使用してきました。「もし午前3時に取引が行われたら、停止せよ！」とか「もし金額が1万ドルを超えたら、停止せよ！」といった具合です。しかし、都市はあまりにも大きく、泥棒たちはあまりにも巧妙です。これらの古いルールは、あまりにも多くの無実の人々を（誤検知として）捕まえてしまいますし、さらに悪いことに、「なぜ」その人を止めたのかを説明することができません。それはまるで、警備員が「止まれ！」と叫ぶだけで、自分が何をしたのかという理由を言わないようなものです。

ここで、**説明可能な人工知能（XAI）**という新しい科学が登場します。XAIを、単に答えを出すだけの「魔法のブラックボックス」ではなく、犯罪を解決するだけでなく、どのようにして犯人を見つけたのかを正確に説明するステップ・バイ・ステップの報告書を書く「探偵」だと考えてみてください。これからあなたが読む論文は、この世界に深く入り込み、**アイソレーション・フォレスト（Isolation Forest）**と呼ばれるスマートなパターン認識ツール（群衆からいかに簡単に分離できるかによって異常を見つけ出す手法）と、SHAPと呼ばれる数学的手法（どの手がかり――例えば奇妙な時間や膨大な金額――がコンピュータを疑わせたのかを、拡大鏡のように示す手法）を組み合わせています。その目的は、銀行の監査員（人間の捜査官）が、混乱するコードに迷い込むことなく、コンピュータの直感を信頼し、悪党を捕まえられるようにすることです。

論文：銀行監査人のための探偵の道具箱

「銀行取引における異常検知のための説明可能な人工知能（Explainable Artificial Intelligence for Anomaly Detection in Banking Transactions）」という論文の中で、著者である Anupa Lodhi は、銀行業界における厄介な問題に取り組んでいます。銀行はデータに溺れています。毎日何十億もの取引が行われており、その中から不正な取引を特定する必要があります。問題は、これらの不正な取引を見つけるのが得意なスマートなコンピュータプログラム（機械学習）が、しばしば「ブラックボックス」であることです。それらは「この取引は不適切です」とは言いますが、人間の監査人に「なぜ」なのかを伝えることができません。理由がなければ、監査人は報告書を書くことができず、規制当局も銀行がその役割を果たしているかどうかを確認できません。

解決策：3人組のチーム
Lodhi は、銀行の内部監査チーム向けに特別に設計された、3人組の探偵チームのように機能する新しいシステムを提案しています。

1. 見つけ出す者（アイソレーション・フォレスト / Isolation Forest）： これは第一防衛線です。巨大な森を想像してください。そこではすべての木が道です。通常の取引は、一緒に歩いている群衆のようなものです。彼らは森を通り抜けるために、長く曲がりくねった道を通ります。異常（詐欺師）は、外れ値のようなものです。彼らは非常に奇妙なので、すぐに孤立し、非常に短い道を通ります。アイソレーション・フォレスト・アルゴリズムは、この考え方を利用して、「不正」がどのようなものかを事前に知ることなく、疑わしい取引をフラグ立てします。それは単に「正常」がどのようなものであるかを知っており、それに適合しないものを特定するのです。
2. 説明する者（SHAP）： 「見つけ出す者」が取引をフラグ立てすると、「説明する者」が介入します。SHAP（ゲーム理論の一派に基づく手法）を用いて、決定内容を分解します。それは、「金額がどれだけこのフラグに寄与したか？」「時刻がどれだけ寄与したか？」と問いかけます。各手がかりに対してスコアを与え、恐ろしいコンピュータの数値を、「この取引は金額が非常に大きく、かつ通常とは異なる時間帯に行われたため、疑わしい」といった平易な英語の文章へと変えます。
3. インターフェース（Streamlit ダッシュボード）： 最後に、チームはシンプルでカラフルなダッシュボードを構築しました。これは、人間の監査人が実際に使用するツールです。これを使うのに、コーディングを理解したり複雑な数学を理解したりする必要はありません。データをアップロードするだけで、ダッシュボードは「高リスク」または「低リスク」として色分けされたリスクの高い取引のリストを、SHAPによる説明と共に表示します。

研究結果
著者らは、このシステムを合成データセット（実生活を模倣するためにコンピュータ上で作成された、10,000件の架空の銀行取引のセット）を使用してテストしました。このテストには実際の銀行データは使用していませんが、システムがそれらを検出できるかを確認するために、500件の「偽の」不正取引（合計の5%）を慎重に注入しました。

論文から直接引用した結果は以下の通りです：

• 新しいシステム（アイソレーション・フォレスト ＋ SHAP）は、**0.91 の適合率（precision）**と **0.88 の再現率（recall）**で偽の不正を捉えました。
  • 適合率とは、システムが「これは不正である」と言ったとき、その91%が正しかったことを意味します。
  • 再現率とは、データの中に隠れていた偽の不正のうち、88%を見つけ出したことを意味します。
• 他の手法（オートエンコーダや One-Class SVM など）と比較した際、この新しいシステムはより優れた性能を示しました。例えば、オートエンコーダの F1 スコア（適合率と再現率を組み合わせた指標）は 0.83 に留まり、One-Class SVM はさらに低い 0.77 でした。
• 極めて重要な点として、「説明可能」な部分（SHAP）を追加しても、システムの速度が低下したり精度が下がったりすることはありませんでした。「標準的なアイソレーション・フォレスト」は、説明レイヤーがない状態でも全く同じ検出スコア（適合率 0.91、再現率 0.88）を示しており、説明機能はパフォーマンスを損なわない「無料のボーナス」であることを証明しています。

人間による評価
この論文は単に数字を見ただけではありません。このシステムが実際に役立つかどうかを、実在の人物に尋ねました。銀行監査の経験を持つ5人の専門家が、システムが生成した説明を確認しました。彼らは説明の質を 5.0 点満点中 4.3 点と評価しました。監査員たちは、システムが生成した特徴レベルの説明があることで、報告書を書くために必要な「正当化のための言語」が得られたと述べました。以前は、なぜ取引がフラグ立てされたのかを推測しなければなりませんでしたが、今ではコンピュータがどの手がかりを書き留めるべきかを正確に教えてくれるのです。

なぜこれが重要なのか（そして、何ができないのか）
この論文は、AIを透明にすることで、銀行監査人にとって有用なものにできると示唆しています。著者は、「スマートなコンピュータ」か「意思決定を理解する人間」かのどちらかを選ばなければならないという考えに異を唱えています。むしろ、その両方を持つことができるのです。

しかし、これらの結果をどの程度確信できるかについては、いくつかの限界があります。本研究は合成データセットを使用しており、つまりデータは著者によって作られたものであり、実際の銀行の日常業務から取得されたものではありません。結果は有望に見えますが、論文では、現実世界の銀行データは、このクリーンで架空のバージョンよりも、はるかに乱雑で複雑である可能性があることを認めています。また、システムは4つの特定の機能（金額、時刻、頻度、場所の変化）のみでテストされましたが、実際の銀行は数百もの異なる要素を追跡する必要があるかもしれません。

これらの限界にもかかわらず、論文は、このフレームワークが実用的な一歩であると結論付けています。それは、正確で使いやすく、かつ人間の監査人に自信を持って行動させるためのツールを構築することが可能であることを示しています。それは、複雑な機械学習の世界と、実務的でルール重視の銀行監査の世界を繋ぐ架け橋であり、コンピュータが警報を鳴らしたとき、責任者である人間が「なぜ」なのかを正確に理解できるようにするものです。