SHAP and LIME Explainability in Financial Machine Learning: A Systematic Review of Methods, Evaluation Gaps, and Barriers to Deployment
تكشف هذه المراجعة المنهجية لـ 297 دراسة أنه في حين يتم اعتماد SHAP وLIME على نطاق واسع من أجل القابلية للتفسير في تعلم الآلة المالي — لا سيما في نماذج الائتمان — إلا أنهما يعانيان من نقص حاد في التقييم الرسمي، حيث قامت 9.1% فقط من الأوراق البحثية بتقييم جودة التفسير، مما يسلط الض الضوء على الحاجة الملحة لمعايير أقوى للتحقق والنشر لضمان الامتثال التنظيمي والثقة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم المال الحديث، تعتمد البنوك وشركات التأمين وشركات التداول بشكل كبير على برامج حاسوبية معقدة لاتخاذ قرارات عالية المخاطر. هذه البرامج، التي تُسمى غالباً نماذج تعلم الآلة، يمكنها التنبؤ بما إذا كان الشخص سيسدد قرضاً، أو تحديد ما إذا كانت المعاملة مشبوهة، أو تحديد سعر وثيقة تأمين. ورغم أن هذه الأدوات قوية للغاية، إلا أنها غالباً ما تعمل كـ "صناديق سوداء"؛ وهذا يعني أنه حتى الأشخاص الذين بنوها لا يمكنهم بسهولة رؤية كيف توصل الحاسوب إلى إجابة محددة. فعندما يُرفض طلب قرض أو يتم تجميد حساب، يحتاج العميل والمراقب والجهة التنظيمية إلى معرفة السبب. ولحل هذه المعضلة، طور الباحثون مجالاً يسمى "الذكاء الاصطناعي القابل للتفسير". وهي أدوات مصممة لتسليط الضوء على الصندوق الأسود، وترجمة الرياضيات المعقدة للحاسوب إلى أسباب مفهومة للبشر. ومن بين أكثر أداتين شعبية لهذا الغرض أداتان تُعرفان بـ SHAP وLIME؛ حيث تعملان مثل المترجمين، فيأخذان تنبؤاً نهائياً ويعملان بشكل عكسي لإظهار العوامل التي كانت أكثر أهمية، مثل الدخل أو تاريخ الإنفاق. ومع ذلك، فإن مجرد قدرة الأداة على إنتاج تفسير لا يعني أن هذا التفسير صحيح أو مستقر أو جدير بالثقة بما يكفي لاستخدامه في قاعة محكمة أو فرع بنك حقيقي.
قرر فريق من الباحثين من جامعة بوسطن، وجامعة كاليفورنيا في إيرفاين، وجامعة شاردا، والمعهد الهندي للتكنولوجيا في كانبور، التحقيق بدقة في مدى جودة استخدام هذه الأدوات في العالم المالي الحقيقي. لم يكتفوا بالنظر في الأفكار الجديدة فحسب، بل أجروا مراجعة منهجية واسعة النطوة لنحو 300 دراسة علمية نُشرت بين عامي 2016 و2026. كان هدفهم هو تدقيق الأدلة؛ أرادوا معرفة ما إذا كان الباحثون يكتفون فقط بعرض صور جميلة لكيفية عمل النموذج، أم أنهم يثبتون بالفعل أن تلك الصور دقيقة وموثوقة. اتبع الفريق بروتوكولاً صارماً، حيث بحثوا في آلاف السجلات الأكاديمية للعثور فقط على الدراسات التي طُبقت فيها أدوات SHAP أو LIME فعلياً على بيانات مالية، مثل التقييم الائتماني أو كشف الاحتيال. ثم فحصوا كل التفاصيل: نوع المشكلة المالية التي يتم حلها، ونوع النموذج الحاسوبي الذي يتم شرحه، والأهم من ذلك، ما إذا كان الباحثون قد اختبروا جودة تفسيراتهم.
تكشف نتائج هذه المراجعة عن فجوة كبيرة بين سرعة اعتماد هذه الأدوات ومدى دقة اختبارها. وجد الباحثون أن هذا المجال قد تحرك بسرعة كبيرة؛ حيث ركزت الغالبية العظمى من الدراسات التي حللوها، بنسبة 74 بالمائة تقريباً، على القرارات البسيطة القائمة على (نعم أو لا)، مثل الموافقة على قرض أو رصد عملية احتيال. وفي هذه الدراسات، كانت الأداة المعروفة باسم SHAP هي المفضلة بوضوح، حيث ظهرت في ما يقرب من 94 بالمائة من جميع الأوراق البحثية. وتعود هذه الشعبية إلى أن SHAP تعمل بشكل جيد جداً مع أنواع النماذج الحاسوبية التي تستخدمها البنوك غالباً. أما الأداة الثانية، LIME، فقد استُخدمت بشكل أقل بكثير، وغالباً ما كانت تُذكر كملاحظة جانبية لـ SHAP، بدلاً من كونها طريقة أساسية. وبينما وجد الباحثون أن كل دراسة تقريباً ذكرت مدى جودة تنبؤ نموذجها الحاسوبي بالنتيجة، إلا أن القصة تغيرت تماماً عندما نظروا إلى التفسيرات نفسها.
كانت النتيجة الأكثر إثارة للدهشة هي أن لا أحد تقريباً كان يتحقق مما إذا كانت تفسيراته جيدة. فمن بين 297 درسة تمت مراجعتها، أجرت 21 دراسة فقط، أي حوالي 7 بالمائة، اختباراً رسمياً لمعرفة ما إذا كان التفسير يتطابق مع سلوك النموذج الحقيقي. بينما قدمت 6 دراسات أخرى بعض الأدلة المحدودة، لكن الأغلبية الساحقة اكتفت ببساطة بتوليد التفسير وافترضت أنه صحيح. وأشار الباحثون إلى أن هذا يعد سهواً خطيراً؛ ففي التمويل، لا يعد التفسير مجرد وسيلة مساعدة بصرية، بل هو جزء حيوي من عملية اتخاذ القرار. فإذا أخبر البنك عميلاً بأنه رُفض طلبه بسبب تاريخه الائتماني، بينما كان التفسير خاطئاً أو غير مستقر في الواقع، فإن ذلك يخلق مخاطر قانونية وأخلاقية. ووجدت المراجعة أن الباحثين غالباً ما يعاملون عملية توليد التفسير على أنها هي نفسها عملية التحقق من صحته، لكن الأدلة تثبت أن هذين الأمرين مختلفان تماماً.
كما نظرت الدراسة في العقبات التي تمنع استخدام هذه الأدوات بأمان في الأنظمة الواقعية. وجد الباحثون أن 72 بالمائة من الدراسات ذكرت عوائق تقنية أو متعلقة بالبيانات. وكان المشكل الأكثر شيوعاً المذكور هو "عدم توازن الفئات"، وهو وضع يحدث فيه الحد المراد التنبؤ به، مثل التعثر في سداد القرض أو حالة احتيال، بشكل نادر جداً مقارنة بالحالات العادية. وهذا الندرة تجعل من الصعب على أدوات التفسير تقديم إجابات متسقة. وشملت العوائق الأخرى الحاجة إلى نتائج سريعة، ومخاوف الخصوصية، وحقيقة أن البيانات المالية تتغير بمرور الوقت. ومع ذلك، سلطت المراجعة الضوء على وجود انفصال؛ فبينما يدرج الباحثون هذه العوائق باستمرار كأدوات للمشكلات، إلا أنهم نادراً ما يختبرون كيف تؤثر هذه القضايا فعلياً على جودة التفسيرات. لقد سمّوا العقبات، لكنهم لم يقيسوا حجم الضرر.
وعندما نظر الباحثون في كيفية محاولة العلماء بناء الثقة في نتائجهم، وجدوا أن معظمهم اعتمد على أساليب ضعيفة. فقد ذكرت حوالي 36 بالمائة من الدراسات شكلاً من أشكال التحقق، لكن النهج الأكثر شيوعاً كان ببساطة مقارنة نتائج SHAP مع LIME؛ فإذا اتفقت الأداتان، يفترض الباحثون غالباً أن التفسير صحيح. وتجادل المراجعة بأن هذا ليس دليلاً كافياً، لأن كلتا الأداتين يمكن أن تكونا مخطئتين بنفس الطماثل. أما الأساليب الأقوى، مثل اختبار مدى صمود التفسير عندما تتغير البيانات قليلاً، أو طلب حكم الخبراء البشريين على النتائج، فقد استُخدمت في جزء ضئيل جداً من الدراسات. وخلص المؤلفون إلى أن هذا المجال قد أتقن فن إنتاج التفسيرات، لكنه فشل إلى حد كبير في إثبات أن تلك التفسيرات موثوقة. وهم يقترحون معياراً جديداً للبحوث المستقبلية، يحث العلماء على التوقف عن معاملة توليد التفسير كخطوة نهائية، وبدلاً من ذلك، يجب عليهم معاملة التفسير نفسه كمنتج يحتاج إلى اختبار صارم، تماماً مثل النموذج المالي الذي يصفه، قبل أن يُستخدم أبداً لاتخاذ قرارات تؤثر على حياة الناس.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.