Enhancing Interpretability in Credit Risk Modeling: A Synergistic Approach Integrating SHAP and Counterfactual Explanations

في كل مرة يقرر فيها البنك ما إذا كان سيقرض المال أم لا، فإنه يعتمد على نموذج لوزن التاريخ المالي للشخص مقابل خطر التعثر في السداد. ولعقود من الزمن، كانت هذه النماذج بسيطة بما يكفي ليتمكن البشر من تتبع منطقها: إذا تأخرت في الدفع، ينخفض تقييمك. ولكن مع بدء البنوك في استخدام أنظمة حاسوبية أكثر قوة للعثور على أنماط دقيقة في كميات هائلة من البيانات، أصبح المنطق مخفياً داخل "صندوق أسود". تمكنت هذه الأنظمة المتقدمة من التنبؤ بالمخاطر بدقة كبيرة، لكنها لم تستطع شرح لماذا اتخذت قراراً معيناً. خلق هذا مشكلة خطيرة؛ فالقوانين في أماكن كثيرة تفرض الآن على المقرضين شرح قراراتهم للمتقدمين، وبدون سبب واضح، يبدو رفض الائتمان تعسفياً وغير عادل. وقد تمثل التحدي للعلماء في إيجاد طريقة للحفاظ على الدقة العالية لهذه الأنظمة المعقدة مع فتح الصندوق الأسود للكشف عن المنطق بداخله.

لقد ظهرت أداتان جديدتان للمساعدة في حل هذا اللغز. الأولى هي طريقة تعمل مثل "عدسة مكبرة"، حيث توضح بالضبط أي قطع من المعلومات — مثل الرصيد في الحساب الجاري أو مدة القرض — دفعت النموذج نحو استنتاج معين. أما الأداة الثانية فهي أشبه بمحاكي "ماذا لو". فهي تطلب من الحاسوب تخيل أصغر التغييرات الممكنة التي يمكن للشخص إجراؤها على ملفه المالي لقلب حالة الرفض إلى حالة موافقة. وبينما تعد كل أداة مفيدة بحد ذاتها، تساءل باحثون في جامعة ولاية أريزونا عما إذا كان الجمع بينهما سيخلق صورة أوضح. لقد شرعوا في اختبار ما إذا كان استخدام هاتين الطريقتين معاً يمكن أن لا يكتفي بشرح سبب اتخاذ القرار فحسب، بل يوفر أيضاً مساراً عملياً وعادلاً للشخص الذي رُفض طلبه.

لاختبار هذه الفكرة، استخدم الباحثون مجموعة بيانات معروفة تحتوي على ألف طلب ائتمان حقيقي من ألمانيا. وقاموا ببناء نوعين مختلفين من نماذج التنبؤ لمعرفة كيفية سلوكهما. استخدم أحد النماذج نهجاً خطياً مباشراً، بينما استخدم الآخر نظاماً أكثر تعقيداً يبني العديد من أشجار القرار للعثور على الأنماط. ثم طبقوا طريقة الشرح المدمجة على كلا النموذجين. وأظهرت النتائج أن النموذج المعقد لم يكن في الواقع أفضل بكثير من النموذج البسيط من حيث الدقة الإجمالية، لكن النموذجين ارتكبا أنواعاً مختلفة من الأخطاء. كان النموذج البسيط أفضل في كشف الأشخاص الذين يُحتمل تعثرهم، بينما كان النموذج المعقد أفضل في تجنب الإنذارات الكاذبة. والأهم من ذلك، أن طريقة الشرح المدمجة عملت بشكل رائع؛ فمن خلال استخدام أداة "العدسة المكبرة" لتحديد العوامل الأكثر أهمية أولاً، تمكن الباحثون من توجيه محاكي "ماذا لو" للعثور على أفضل الحلول بشكل أسرع بكمت.

أظهرت الدراسة أن هذا النهج المدمج جعل عمليات الشرح أكثر كفاءة بشكل ملحوظ. فعندما طلب الباحثون من الحاسوب إيجاد التغييرات الدنيا اللازمة لتحويل الرفض إلى موافقة، تطلبت الطريقة القديمة من المتقدم أن يتخيل تغيير حوالي ثلاثة أشياء في آن واحد. أما مع الطريقة الجديدة الموجهة، فقد احتاج المتقدم لتخيل تغيير شيئين فقط. وهذا التقليل في التعقيد يجعل النصيحة أسهل للفهم والتطبيق من قبل البشر. نجح النظام في توليد مقترحات صالحة بنسبة مائة بالمائة، مما أثبت أنه يمكنه العثور بشكل موثوق على مسار يؤدي إلى نتيجة مختلفة دون كسر قواعد النموذج.

وبعيداً عن مجرد جعل العملية أكثر وضوحاً، استخدم الباحثون هذا الإطار للبحث عن عدم الإنصاف. فقد اكتشفوا أن النماذج تعاملت مع مجموعات مختلفة من الناس بشكل مختلف، حتى عندما كانت الملفات المالية للمتقدمين متشابهة. على سبيل المثال، تم تصنيف الرجال العزاب كأشخاص ذوي مخاطر عالية بشكل متكرر أكثر من الرجال المتزوجين أو الأرامل، حتى عندما كانت أوضاعهم المالية متقاربة. وأظهر التحليل أن النموذج كان أكثر صرامة مع الرجال العزاب، حيث تطلب منهم إجراء تحسينات مالية أكبر للحصول على الموافقة. وباستخدام الأدوات المدمجة، تمكن الباحثون من تحديد مكان حدوث هذا التحيز بدقة؛ حيث رأوا أن عدم وجود حساب جاري أضر درجات الرجال العزاب أكثر مما أضر درجات المتزوجين، مما يشير إلى أن النموذج قد تعلم تحيزاً خفياً من البيانات التاريخية التي تدرب عليها.

كما وجد الباحثون أن أقوى العوامل في هذه القرارات لم تكن التفاصيل الديموغرافية مثل العمر أو الجنس، بل الحقائق المالية الملموسة. فقد كانت حالة الحساب الجاري وتاريخ سداد الائتمان هما القوتان المهيمنتان اللتان تقودان القرارات. وهذه نتيجة مطمئنة، لأنها تشير إلى أن النماذج تركز على القدرة الفعلية على السداد بدلاً من الخصائص الشخصية غير ذات الصلة. ومع ذلك، سلطت الدراسة الضوء أيضاً على أنه حتى عندما تكون العوامل الرئيسية عادلة، فإن الطريقة التي يزن بها النموذج هذه العوامل يمكن أن تخلق نتائج غير متساوية لمجموعات مختلفة. وقد تمكنت طريقة الشرح المدمجة من كشف هذه التفاوتات الدقيقة، موضحة بالضبط مقدار الجهد الإضافي الذي توجب على مجموعة معينة بذله مقارنة بغيرها لتحقيق نفس النتيجة.

في النهاية، يشير هذا العمل إلى أنه ليس علينا الاختيار بين نموذج ذكي ونموذج عادل ومفهوم. فمن خلال دمج القدرة على شرح الماضي مع القدرة على اقتراح مستقبل أفضل، يمكن للمؤسسات المالية بناء أنظمة تتسم بالدقة والشفافية في آن واحد. وتثبت الدراسة أنه عندما نوجه البحث عن الحلول باستخدام العوامل الأكثر أهمية، يمكننا تقديم نصائح واضحة وقابلة للتنفيذ للمتقدمين تحترم ظروفهم الخاصة. إن هذا النهج يتجاوز مجرد إخبار الشخص بأنه رُفض؛ بل يقدم خارطة طريق ملموسة وعادلة لكيفية تحسين وضعه، مما يضمن أن التكنولوجيا التي تخدم حياتنا المالية تظل مسؤولة أمام الناس الذين تؤثر في حياتهم.