論文要約：説明可能な AML 選別（Triage）における LLM の活用：証拠検索と反事実的検証

本論文は、大規模言語モデル（LLM）を反マネーロンダリング（AML）のトランザクション監視アラート選別（Triage）プロセスに統合する際、規制遵守と説明責任を確保するための新しいフレームワークを提案しています。LLM の生成能力を活用しつつ、幻覚（ハルシネーション）や根拠の欠如といったリスクを軽減し、監査可能な意思決定支援システムを構築する方法論を詳述しています。

以下に、問題定義、手法、主要な貢献、結果、および意義について詳細にまとめます。

1. 問題定義と背景

金融機関における AML トランザクション監視は、大量の偽陽性アラートを処理し、調査官が迅速に「 benign（ benign な行為）」「継続監視」「エスカレーション（調査・報告）」のいずれかに選別することを要求しています。

• 現状の課題: 従来のルールベースや機械学習モデルは、アラート数の多さと誤検知の多さに悩まされており、調査官の負担が過大です。
• LLM の可能性とリスク: LLM は多様な証拠（KYC 情報、取引履歴、ポリシー文書など）を要約し、論理的な根拠を生成できます。しかし、規制された環境では、事実と異なる根拠（幻覚）や、内部の推論プロセスがブラックボックス化していることが重大なコンプライアンスリスクとなります。
• 核心的な課題: AML 選別は単なる分類タスクではなく、「証拠に基づく説明と判断」のタスクです。LLM が生成する説明が、実際の証拠や意思決定ロジックに忠実（Faithful）であることが不可欠です。

2. 提案手法：説明可能な AML 選別フレームワーク

著者は、LLM を「自由な文章生成機」ではなく、「証拠制約付きの意思決定プロセス」として設計するフレームワークを提案しています。このシステムは以下の 3 つの主要コンポーネントで構成されます。

A. 証拠検索と束縛（Evidence Retrieval & Bundling）

• RAG（Retrieval-Augmented Generation）の適用: 各アラートに対して、ポリシー/typology ガイド、顧客コンテキスト（KYC）、アラートトリガー、取引サブグラフ、過去の事例メモなどから関連する証拠を収集します。
• 証拠バンドル: 収集された証拠をコンパクトなバンドルとして LLM に提供し、生成されるすべての主張が、このバンドル内の特定の証拠 ID に明示的に引用されることを強制します。
• アクセス制御: 権限管理（ACL）に基づき、不適切な情報がモデルのコンテキストに混入しないようにします。

B. 構造化された LLM 出力と検証（Structured Output & Verification）

• 出力契約: LLM は、 dispositions（判断）、信頼度、根拠（Supporting evidence）、矛盾または欠落している証拠（Contradicting/Missing evidence）、次のアクションを構造化された形式で出力します。
• 検証ループ: 生成された出力は自動検証器によってチェックされます。存在しない証拠 ID の引用、数値や日付の不整合、証拠に裏付けられていない主張が検出された場合、モデルにフィードバックを与えて再生成させます。これにより、事実性の高い出力を確保します。

C. 反事実的検証（Counterfactual Checks）

• 意思決定の忠実性テスト: 説明が単なる装飾ではなく、実際の意思決定ロジックに基づいているかを検証します。
• 手法:
  1. 決定反事実（Decision Counterfactuals）: 重要な要因（例：特定のリスク指標の有無）を最小限に変更し、システムが適切に判断を反転（Flip）するかを確認します。
  2. 証拠反事実（Evidence Counterfactuals）: 引用された重要な証拠を削除し、モデルがその証拠への依存を適切に停止し、説明を更新するかどうかを確認します。
• これにより、モデルが「なぜその判断を下したか」を真に理解しているか、あるいは単に統計的な相関を利用しているだけかをテストします。

3. 主要な貢献

1. 証拠に基づく選別の定式化: AML 選別を、RAG 原則に基づき、明示的な出典要件を持つ「証拠に基づく説明タスク」として形式化しました。
2. 反事実的堅牢性レイヤーの導入: 規制に関連する最小限の変更に対してモデルの推奨がどのように反応するかをテストする、AML 固有の反事実的検証メカニズムを導入しました。
3. 再現可能な評価ブループリント: 公開された合成データセット（SynthAML10, AMLSim）を用いた評価手法を確立し、選別品質、証拠の忠実性、堅牢性を測定可能な指標として定義しました。

4. 実験結果

公開された合成 AML ベンチマーク（SynthAML10）とシミュレーター（AMLSim）を用いて、ルールベース、表形式 ML、グラフ ML、LLM のみ、RAG のみ、および提案手法（RAG + 反事実的検証）を比較しました。

• 選別性能: 提案手法は、PR-AUC 0.75、エスカレーション F1 スコア 0.62 を達成し、従来のグラフ ML ベースライン（PR-AUC 0.69, F1 0.56）や LLM のみの手法（F1 0.41）を上回りました。特に、偽陽性を減らしつつ真陽性を維持する精度（Precision）の向上が顕著でした。
• 監査可能性と証拠の質:
  • 引用の妥当性（Citation Validity）: 提案手法では 0.98（LLM のみは 0.62）と、ほぼすべての引用が実際の証拠に存在することを示しました。
  • 証拠サポート率（Evidence Support）: 0.88（LLM のみは 0.54）と、生成された文章の大部分が引用された証拠に裏付けられていることを示しました。
• 反事実的忠実性:
  • CF-Flip Rate: 0.58（RAG のみは 0.41）となり、システムが意思決定に影響を与える最小限の変更をより正確に特定できることを示しました。
  • 証拠除去時の忠実性: 0.76（RAG のみは 0.57）となり、重要な証拠が削除された際に、モデルが適切に判断と説明を更新できることを示しました。
• 安全性: 数値不整合やポリシーの幻覚（事実と異なる政策の引用）の発生率が、提案手法ではそれぞれ 0.03 と 0.02 まで大幅に低減しました。

5. 意義と結論

• 規制対応の実現: 本フレームワークは、LLM を規制された金融環境で実用的に活用するための道筋を示しました。LLM を単独の生成モデルとして使うのではなく、証拠検索、検証、反事実的テストを組み合わせた「ガバナンスされたシステム」として構築することで、追跡可能性と防御可能性を確保しています。
• 実務へのインパクト: 調査官の認知負荷を軽減し、エスカレーションの精度を向上させることで、業務効率化とリスク管理の両立が可能です。また、生成された説明が「証拠に裏付けられたもの」であるため、内部監査や規制当局への説明が容易になります。
• 将来展望: 本アプローチは、選別段階だけでなく、その後の調査や SAR（疑わしい取引報告書）の作成など、AML ライフサイクルの他の段階にも拡張可能であり、プライバシー保護や実データを用いたさらなる検証が今後の課題です。

総じて、この論文は、生成 AI を金融コンプライアンス分野に導入する際、「証拠の裏付け」と「意思決定の堅牢性の検証」が不可欠であるという重要な示唆を与えています。