Enhancing Interpretability in Credit Risk Modeling: A Synergistic Approach Integrating SHAP and Counterfactual Explanations

जब भी कोई बैंक ऋण देने का निर्णय लेता है, तो वह किसी व्यक्ति के वित्तीय इतिहास और डिफॉल्ट (ऋण न चुका पाने) के जोखिम को तौलने के लिए एक मॉडल पर निर्भर करता है। दशकों तक, ये मॉडल इतने सरल थे कि एक इंसान उनके तर्क को समझ सकता था: यदि आपने भुगतान मिस किया, तो आपका स्कोर कम हो गया। लेकिन जैसे-जैसे बैंकों ने बड़ी मात्रा में डेटा से सूक्ष्म पैटर्न खोजने के लिए अधिक शक्तिशाली कंप्यूटर सिस्टम का उपयोग करना शुरू किया, उनका तर्क एक "ब्लैक बॉक्स" के भीतर छिप गया। ये उन्नत प्रणालियाँ बहुत सटीकता के साथ जोखिम का अनुमान लगा सकती थीं, लेकिन वे यह नहीं बता सकती थीं कि उन्होंने एक विशिष्ट निर्णय क्यों लिया। इसने एक गंभीर समस्या पैदा कर दी। कई स्थानों पर कानून अब ऋणदाताओं के लिए आवेदकों को उनके निर्णयों का स्पष्टीकरण देना अनिवार्य बनाते हैं, और बिना किसी स्पष्ट कारण के, ऋण की अस्वीकृति मनमानी और अनुचित लगती है। वैज्ञानिकों के लिए चुनौती इन जटिल प्रणालियों की उच्च सटीकता को बनाए रखते हुए, ब्लैक बॉक्स को खोलकर उसके भीतर के तर्क को प्रकट करने का तरीका खोजना रहा है।

इस पहेली को सुलझाने में मदद करने के लिए दो नए उपकरण उभरे हैं। पहला तरीका एक आवर्धक लेंस (मैग्निफाइंग ग्लास) की तरह काम करता है, जो ठीक से दिखाता है कि किस जानकारी—जैसे कि चेकिंग अकाउंट का बैलेंस या ऋण की अवधि—ने मॉडल को एक विशिष्ट निष्कर्ष की ओर धकेला। दूसरा उपकरण एक "क्या-होता-अगर" (वॉट-इफ) सिम्युलेटर की तरह है। यह कंप्यूटर से कल्पना करने को कहता है कि एक व्यक्ति अपने वित्तीय प्रोफाइल में क्या छोटे से बदलाव कर सकता है जिससे एक अस्वीकृति को स्वीकृति में बदला जा सके। हालाँकि प्रत्येक उपकरण अपने आप में उपयोगी है, एरिजोना स्टेट यूनिवर्सिटी के शोधकर्ताओं ने सोचा कि यदि वे इन दोनों को मिला दें, तो क्या इससे एक स्पष्ट तस्वीर बन पाएगी। उन्होंने यह परीक्षण करने के लिए यह प्रयोग किया कि क्या इन दो विधियों का संयोजन न केवल यह समझा सकता है कि निर्णय क्यों लिया गया, बल्कि उस व्यक्ति के लिए एक व्यावहारिक और निष्पक्ष मार्ग भी प्रदान कर सकता है जिसे अस्वीकार कर दिया गया था।

इस विचार का परीक्षण करने के लिए, शोधकर्ताओं ने जर्मनी के एक हजार वास्तविक ऋण आवेदनों वाले एक प्रसिद्ध डेटा संग्रह का उपयोग किया। उन्होंने यह देखने के लिए कि वे कैसे व्यवहार करते हैं, दो अलग-अलग प्रकार के प्रेडिक्शन मॉडल बनाए। एक मॉडल ने सीधा, रैखिक (लीनियर) दृष्टिकोण अपनाया, जबकि दूसरे ने पैटर्न खोजने के लिए कई 'डिसीजन ट्री' बनाने वाली एक अधिक जटिल प्रणाली का उपयोग किया। फिर उन्होंने दोनों मॉडलों पर अपनी संयुक्त व्याख्या पद्धति लागू की। परिणामों ने दिखाया कि जटिल मॉडल वास्तव में समग्र सटीकता के मामले में सरल मॉडल से बहुत बेहतर प्रदर्शन नहीं कर रहा था, लेकिन दोनों मॉडलों ने अलग-अलग प्रकार की गलतियाँ कीं। सरल मॉडल उन लोगों को पकड़ने में बेहतर था जिनके डिफॉल्ट होने की संभावना थी, जबकि जटिल मॉडल गलत अलार्म (फॉल्स अलार्म) से बचने में बेहतर था। महत्वपूर्ण रूप से, संयुक्त व्याख्या पद्धति उल्लेखनीय रूप से अच्छी तरह से काम करती है। "मैग्निफाइंग ग्लास" टूल का उपयोग करके सबसे महत्वपूर्ण कारकों की पहचान करने के बाद, शोधकर्ता "क्या-होता-अगर" सिम्युलेटर को बेहतर समाधान खोजने के लिए निर्देशित करने में सक्षम रहे।

अध्ययन से पता चला कि इस संयुक्त दृष्टिकोण ने स्पष्टीकरणों को काफी अधिक कुशल बना दिया। जब शोधकर्ताओं ने कंप्यूटर से पूछा कि अस्वीकृति को स्वीकृति में बदलने के लिए न्यूनतम परिवर्तन खोजने के लिए क्या आवश्यक है, तो पुराने तरीके में एक आवेदक को एक साथ लगभग तीन अलग-अलग चीजें बदलने की कल्पना करने की आवश्यकता थी। नए, निर्देशित तरीके के साथ, आवेदक को केवल लगभग दो चीजों को बदलने की कल्पना करने की आवश्यकता थी। जटिलता में यह कमी सलाह को समझने और उस पर अमल करने के लिए मानव के लिए बहुत आसान बनाती है। सिस्टम ने सौ प्रतिशत समय वैध सुझाव सफलतापूर्वक उत्पन्न किए, जिससे यह सिद्ध हुआ कि यह मॉडल के नियमों को तोड़े बिना एक अलग परिणाम तक पहुँचने के लिए विश्वसनीय रूप से रास्ता खोज सकता है।

केवल प्रक्रिया को स्पष्ट बनाने के अलावा, शोधकर्ताओं ने इस ढांचे का उपयोग अन्याय को देखने के लिए किया। उन्होंने पाया कि मॉडल अलग-अलग समूहों के साथ अलग-अलग व्यवहार करते थे, भले ही आवेदकों के वित्तीय प्रोफाइल समान हों। उदाहरण के लिए, अविवाहित पुरुषों को विवाहित या विधवा पुरुषों की तुलना में अधिक बार उच्च-जोखिम वाला माना गया, भले ही उनकी वित्तीय स्थितियाँ तुलनीय थीं। विश्लेषण से पता चला कि मॉडल अविवाहित पुरुषों के प्रति अधिक सख्त था, जिससे उन्हें स्वीकृत होने के लिए बड़े वित्तीय सुधार करने की आवश्यकता थी। इन संयुक्त उपकरणों का उपयोग करके, शोधकर्ता सटीक रूप से पहचान सके कि यह पूर्वाग्रह कहाँ हुआ। उन्होंने देखा कि चेकिंग अकाउंट की कमी ने विवाहित पुरुषों की तुलना में अविवाहित पुरुषों के स्कोर को अधिक नुकसान पहुँचाया, जिससे पता चलता कि मॉडल ने उस ऐतिहासिक डेटा से एक छिपा हुआ पूर्वाग्रह सीखा था जिस पर उसे प्रशिक्षित किया गया था।

शोधकर्ताओं ने यह भी पाया कि इन निर्णयों में सबसे शक्तिशाली कारक जनसांख्यिकीय विवरण जैसे आयु या लिंग नहीं, बल्कि ठोस वित्तीय वास्तविकताएँ थीं। चेकिंग अकाउंट की स्थिति और ऋण पुनर्भुगतान का इतिहास निर्णयों को संचालित करने वाली प्रमुख ताकतें थीं। यह एक आश्वस्त करने वाला निष्कर्ष है, क्योंकि यह बताता है कि मॉडल अप्रासंगिक व्यक्तिगत विशेषताओं के बजाय वास्तविक पुनर्भुगतान की क्षमता पर ध्यान केंद्रित कर रहा है। हालाँकि, अध्ययन ने यह भी रेखांकित किया कि भले ही मुख्य कारक निष्पक्ष हों, लेकिन जिस तरह से मॉडल उन्हें तौलता है, वह विभिन्न समूहों के लिए असमान परिणाम पैदा कर सकता है। संयुक्त व्याख्या पद्धति इस सूक्ष्म असमानता को उजागर करने में सक्षम थी, जिससे पता चला कि एक समूह को दूसरे समूह की तुलना में समान परिणाम प्राप्त करने के लिए कितना अतिरिक्त प्रयास करना पड़ा।

अंततः, यह कार्य सुझाव देता है कि हमें एक स्मार्ट मॉडल और एक निष्पक्ष, समझने योग्य मॉडल के बीच चयन करने की आवश्यकता नहीं है। अतीत को समझाने की क्षमता को बेहतर भविष्य का सुझाव देने की क्षमता के साथ बुनकर, वित्तीय संस्थान ऐसे सिस्टम बना सकते हैं जो सटीक और पारदर्शी दोनों हों। अध्ययन प्रदर्शित करता है कि जब हम सबसे महत्वपूर्ण कारकों का उपयोग करके समाधानों की खोज को निर्देशित करते हैं, तो हम आवेदकों को स्पष्ट, कार्रवाई योग्य सलाह दे सकते हैं जो उनकी विशिष्ट परिस्थितियों का सम्मान करती है। यह दृष्टिकोण केवल किसी व्यक्ति को यह बताने से आगे बढ़ता है कि उन्हें अस्वीकार कर दिया गया है; यह एक ठोस, निष्पक्ष रोडमैप प्रदान करता है कि वे अपनी स्थिति में कैसे सुधार कर सकते हैं, यह सुनिश्चित करता है कि हमारे वित्तीय जीवन की सेवा करने वाली तकनीक उन लोगों के प्रति जवाबदेह बनी रहे जो इससे प्रभावित होते हैं।