Explainable AML Triage with LLMs: Evidence Retrieval and Counterfactual Checks
تقترح هذه الورقة إطار عمل لتصنيف مكافحة غسل الأموال (AML) قابل للتفسير، يدمج بين تجميع الأدلة المعزز بالاسترجاع، ومخرجات النماذج اللغوية الكبيرة المقيدة بالاستشهادات المهيكلة، والتحقق من خلال التباين، وذلك لتحسين قابلية تدقيق القرارات بشكل كبير، وتقليل الهلوسة، وتحقيق أداء فائق مع الحفاظ على الامتثال التنظيمي الصارم.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك محقق في مدينة ضخمة وفوضوية، حيث يتحرك ملايين الأشخاص بأموالهم يوميًا. مهمتك هي العثور على القلة من الأشرار الذين يحاولون إخفاء الأموال المسروقة (غسيل الأموال). لكن المشكلة تكمن في أن جهاز اللاسلكي الخاص بك (نظام التنبيه) يطلق صافرات الإنذار باستمرار. إنه يصرخ "مشبوه!" تجاه كل شيء تقريبًا، حتى عندما يشتري الناس البقالة أو يدفعون الإيجار.
لديك فريق من المحققين البشر، لكنهم يغرقون. يتعين عليهم فحص كل إنذار، وكتابة تقرير يشرح لماذا هو مشبوه، وإثبات ذلك لقاضٍ (الجهة التنظيمية). إذا أخطأوا، ستتعرض المؤسسة البنكية لغرامة؛ وإذا فاتهم مجرم، سيفوز المجرمون.
تقترح هذه الورقة طريقة جديدة لمساعدة هؤلاء المحققين باستخدام الذكاء الاصطناي، ولكن مع مجموعة صارمة جدًا من القواعد لضمان عدم كذب الذكاء الاصطناي أو اختلاق أشياء من العدم.
إليك تفصيل حله، باستخدام تشبيهات بسيطة:
1. المشكلة: المحقق "الهلوس"
عادةً، عندما نستخدم الذكاء الاصطناعي (النماذج اللغوية الكبيرة) للمساعدة، فإننا نسأله: "هذه عملية مشبوهة. هل هي سيئة؟ أخبرني لماذا."
المشكلة هي أن الذكاء الاصطناعي يشبه القصّاص الواثق الذي يختلق القصص. قد يقول: "هذا الشخص مشبوه لأنه اشترى قاربًا في عام 2019،" رغم أنه لم يشترِ قاربًا قط. في محكمة حقيقية أو تدقيق بنكي، يكون اختلاق الحقائق كارثة. وهذا ما يسمى بـ "الهلوسة" (Hallucination).
2. الحل: المحقق "المعتمد على الأدلة"
قام المؤلفون ببناء نظام يعامل الذكاء الاصطناعي ليس كقصّاص، بل كـ محامٍ يجب عليه الاستشهاد بمصادره. وقد أطلقوا عليه اسم التصنيف القابل للتفسير لمكافحة غسيل الأموال (Explainable AML Triage).
فكر في الأمر كعملية مكونة من ثلاث خطوات:
الخطوة (أ): "خزانة الملفات" (استرجاع الأدلة)
قبل السماح للذكاء الاصطناعي بالتحدث، يجبره النظام على فتح خزانة ملفات محددة.
- القاعدة: لا يُسمح للذكاء الاصطناعي بالنظر إلا في وثائق محددة: هوية العميل، سجلات المعاملات البنكية الفعلية، كتاب قواعد البنك، والحالات السابقة المماثلة.
- التشبيه: تخيل أن الذكاء الاصطناعي طالب يؤدي اختبارًا، لكن لا يُسمح له باستخدام ذاكرته. يُسمح له فقط باستخدام كومة من الأوراق التي يسلمها له المعلم. إذا كتب إجابة، يجب عليه أن يشير إلى السطر المحدد في الورقة الذي يثبت ذلك.
- النتيجة: لا يمكن للذكاء الاصطناعي اختلاق حقائق. إذا لم تذكر الورقة أن الشخص اشترى قاربًا، فلا يمكن للذكاء الاصطناعي أن يقول إنه فعل ذلك.
الخطوة (ب): "مدقق الحقائق" (التحقق)
بمجرد أن يكتب الذكاء الاصطناعي تقريره (على سبيل المثال: "تصعيد هذا التنبيه لأن الشخص نقل 10,000 دولار إلى دولة عالية المخاطر")، يعمل نظام آلي ثانٍ كـ محرر صارم.
- الفحص: ينظر النظام إلى التقرير ويقول: "لقد استشهدت بـ 'الوثيقة أ' لمبلغ الـ 10,000 دولار. دعني أتحقق من الوثيقة أ... نعم، إنها تقول 10,000 دولار. جيد."
- الإصلاح: إذا قال الذكاء الاصطناعي: "الوثيقة أ تقول 10,000 دولار" بينما تقول الوثيقة أ في الواقع 1,000 دولار، فإن المحرر يرفض التقرير ويخبر الذكاء الاصطناعي: "حاول مرة أخرى. لقد أخطأت في الرقم."
- النتيجة: هذا يمنع الذكاء الاصطناي من الخطأ في الأرقام أو التواريخ، وهو أمر بالغ الأهمية للامتثال القانوني.
الخطوة (ج): "لعبة ماذا لو" (فحوصات التناقض الواقعي)
هذا هو الجزء الأكثر ذكاءً. يسأل النظام الذكاء الاصطناعي: "حسنًا، أنت تعتقد أن هذا مشبوه بسبب تحويل الـ 10,000 دولار. ولكن ماذا لو كان هذا التحويل في الواقع 100 دولار فقط؟ هل ستظل تعتقد أنه مشبوه؟"
- التشبيه: تخيل أن محققًا يقول: "أنا أعتقل هذا الرجل لأنه كان يركض." يسأل فحص التناقض الواقعي: "ماذا لو كان يمشي بسرعة فقط؟" إذا ظل المحقق يقول: "اعتقله!" فإن ذلك يعني أن المحقق غير منطقي.
- الهدف: يختبر النظام ما إذا كان قرار الذكاء الاصطناعي منطقيًا. إذا غير الذكاء الاصطناعي رأيه عند تغيير حقيقة رئيسية، فهذا يثبت أن الذكاء الاصطناي يفكر فعليًا وليس مجرد يخمن. وإذا حافظ الذكاء الاصطناي على نفس القرار حتى بعد إزالة الدليل، فإن النظام يصنفه كغير موثوق.
3. النتائج: لماذا هذا مهم؟
اختبر الباحثون هذا النظام مقابل:
- القواعد القديمة: (مثل جهاز كشف المعادن الذي يطلق صفارات الإنذار عند كل شيء).
- الذكاء الاصطناي القياسي: (القصّاص الواثق الكاذب).
- نظامهم الجديد: (المحامي الملتزم بالأدلة).
النتائج:
- الدقة: اصطاد النظام الجديد مجرمين حقيقيين أكثر وتجاهل أشخاصًا أبرياء أكثر من الطرق القديمة.
- الثقة: نظرًا لأن الذكاء الاصطناعي كان ملزمًا بالاستشهاد بمصادره، فقد توقف عن اختلاق الحقائق. انخفض "معدل الكذب" لديه من 14% إلى 2% فقط.
- قابلية التدقيق: عندما يسأل المنظم: "لماذا قمت بوضع علامة على هذا الشخص؟" يمكن للنظام فورًا إظهار الوثيقة المحددة، والقاعدة المحددة، والمنطق المحدد. إنه مثل امتلاك سجل ورقي مثالي ولا يمكن كسرُه.
الصورة الكبيرة
تجادل هذه الورقة بأنه في الوظائف عالية المخاطر مثل الخدمات المصرفية والقانون، لا ينبغي لنا فقط أن نطلب من الذكاء الاصطناعي "أن يكون ذكيًا". بل يجب علينا بناء أنظمة تجبر الذكاء الاصطناي على إظهار طريقة عمله.
من خلال معاملة الذكاء الاصطناي كـ محامٍ يجب أن يستشهد بالأدلة وكـ طالب يجب أن يجتاز اختبار المنطق، نحصل على سرعة الذكاء الاصطأي دون خطر اختلاق القصص. هذا يحول "الصندوق الأسود" الذي يخمن إلى "صندوق زجاجي" يشرح، مما يجعله آمنًا بما يكفي للاستخدام في العالم الحقيقي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.