SHAP and LIME Explainability in Financial Machine Learning: A Systematic Review of Methods, Evaluation Gaps, and Barriers to Deployment
297 अध्ययनों का यह व्यवस्थित समीक्षा (सिस्टमैटिक रिव्यू) प्रकट करता है कि हालांकि वित्तीय मशीन लर्निंग—विशेष रूप से क्रेडिट मॉडलिंग के लिए—में व्याख्यात्मकता (एक्सप्लेनेबिलिटी) हेतु SHAP और LIME को व्यापक रूप से अपनाया जाता है, लेकिन वे औपचारिक मूल्यांकन की गंभीर कमी से ग्रस्त हैं, जिसमें केवल 9.1% शोध पत्र स्पष्टीकरण की गुणवत्ता का आकलन करते हैं, जो नियामक अनुपालन और विश्वास सुनिश्चित करने के लिए मजबूत सत्यापन और परिनियोजन मानकों की तत्काल आवश्यकता को रेखांकित करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक वित्तीय दुनिया में, बैंक, बीमा कंपनियाँ और ट्रेडिंग फर्में उच्च-दांव वाले निर्णय लेने के लिए जटिल कंप्यूटर प्रोग्रामों पर बहुत अधिक निर्भर करती हैं। ये प्रोग्राम, जिन्हें अक्सर मशीन लर्निंग मॉडल कहा जाता है, यह भविष्यवाणी कर सकते हैं कि कोई व्यक्ति ऋण चुका पाएगा या नहीं, किसी लेनदेन को धोखाधड़ी के रूप में चिह्नित कर सकते हैं, या बीमा पॉलिसी की कीमत निर्धारित कर सकते हैं। हालाँकि ये उपकरण अविश्वसनीय रूप से शक्तिशाली हैं, लेकिन वे अक्सर "ब्लैक बॉक्स" के रूप में काम करते हैं। इसका अर्थ यह है कि यहाँ तक कि उन्हें बनाने वाले लोग भी आसानी से यह नहीं देख सकते कि कंप्यूटर एक विशिष्ट उत्तर तक कैसे पहुँचा। जब कोई ऋण अस्वीकार किया जाता है या कोई खाता फ्रीज किया जाता है, तो ग्राहक, ऑडिटर और नियामक को यह जानने की आवश्यकता होती है कि क्यों। इसे हल करने के लिए, शोधकर्ताओं ने 'एक्सप्लेनेबल एआई' (Explainable AI) नामक एक क्षेत्र विकसित किया है। ये उपकरण ब्लैक बॉक्स पर रोशनी डालने के लिए डिज़ाइन किए गए हैं, जो कंप्यूटर के जटिल गणित को मानव-पठनीय कारणों में अनुवादित करते हैं। इस काम के लिए दो सबसे लोकप्रिय उपकरण 'SHAP' और 'LIME' के रूप में जाने जाते हैं। वे अनुवादकों की तरह कार्य करते हैं, जो एक पूर्ण भविष्यवाणी को लेते हैं और पीछे की ओर काम करते हुए यह दिखाते हैं कि कौन से कारक, जैसे आय या खर्च का इतिहास, सबसे अधिक महत्वपूर्ण थे। हालाँकि, केवल इसलिए कि एक उपकरण स्पष्टीकरण उत्पन्न कर सकता है, इसका मतलब यह नहीं है कि वह स्पष्टीकरण सही, स्थिर या किसी वास्तविक अदालत या बैंक शाखा में उपयोग किए जाने के लिए पर्याप्त विश्वसनीय है।
बोस्टन यूनिवर्सिटी, यूसीएलए (UC Irvine), शारदा यूनिवर्सिटी और भारतीय प्रौद्योगिकी संस्थान कानपुर के शोधकर्ताओं की एक टीम ने यह जांचने का निर्णय लिया कि इन उपकरणों का वास्तविक वित्तीय जगत में कितनी अच्छी तरह उपयोग किया जा रहा है। उन्होंने केवल नए विचारों को नहीं देखा; उन्होंने 2016 से 2026 के बीच प्रकाशित लगभग 300 वैज्ञानिक अध्ययनों की एक व्यापक, व्यवस्थित समीक्षा की। उनका लक्ष्य साक्ष्यों का ऑडिट करना था। वे देखना चाहते थे कि क्या शोधकर्ता केवल यह दिखाने के लिए सुंदर चित्र पेश कर रहे थे कि एक मॉडल कैसे काम करता है, या क्या वे वास्तव में यह सिद्ध कर रहे थे कि वे चित्र सटीक और विश्वसनीय थे। टीम ने एक सख्त प्रोटोकॉल का पालन किया, हजारों शैक्षणिक रिकॉर्ड की खोज की ताकि केवल उन्हीं अध्ययनों को पाया जा सके जहाँ SHAP या LIME को वास्तव में क्रेडिट स्कोरिंग या धोखाधड़ी का पता लगाने जैसे वित्तीय डेटा पर लागू किया गया था। फिर उन्होंने हर विवरण की जांच की: किस प्रकार की वित्तीय समस्या को हल किया जा रहा था, किस प्रकार के कंप्यूटर मॉडल की व्याख्या की जा रही थी, और सबसे महत्वपूर्ण बात यह कि क्या शोधकर्ताओं ने अपने स्पष्टीकरणों की गुणवत्ता का परीक्षण किया था।
इस समीक्षा के परिणाम इन उपकरणों को अपनाने की गति और उनके परीक्षण की सावधानी के बीच एक महत्वपूर्ण अंतर को प्रकट करते हैं। शोधकर्ताओं ने पाया कि यह क्षेत्र बहुत तेज़ी से आगे बढ़ा है। उनके द्वारा विश्लेषण किए गए अधिकांश अध्ययन, लगभग 74 प्रतिशत, सरल हाँ या ना वाले निर्णयों पर केंद्रित थे, जैसे ऋण को मंजूरी देना या धोखाधड़ी का पता लगाना। इन अध्ययनों में, SHAP नामक उपकरण स्पष्ट रूप से पसंदीदा था, जो सभी शोध पत्रों में लगभग 94 प्रतिशत बार दिखाई दिया। यह लोकप्रियता मुख्य रूप से इसलिए है क्योंकि SHAP उन विशिष्ट प्रकार के कंप्यूटर मॉडल के साथ बहुत अच्छा काम करता है जिनका बैंक सबसे अधिक उपयोग करते हैं। दूसरा उपकरण, LIME, बहुत कम बार उपयोग किया गया और आमतौर पर SHAP के एक मुख्य पद्धति के बजाय केवल एक सहायक नोट के रूप रूप में उपयोग किया गया। जबकि शोधकर्ताओं ने पाया कि लगभग हर अध्ययन ने यह बताया कि उनके कंप्यूटर मॉडल ने परिणाम की कितनी अच्छी भविष्यवाणी की, कहानी पूरी तरह से बदल गई जब उन्होंने स्वयं स्पष्टीकरणों को देखा।
सबसे चौंकाने वाला निष्कर्ष यह था कि लगभग कोई भी वास्तव में यह जाँच नहीं रहा था कि उनके स्पष्टीकरण कितने अच्छे हैं। समीक्षा किए गए 297 अध्ययनों में से केवल 21, जो लगभग 7 प्रतिशत है, ने औपचारिक परीक्षण किया कि क्या स्पष्टीकरण मॉडल के वास्तविक व्यवहार से मेल खाता है। अन्य 6 अध्ययनों ने कुछ सीमित साक्ष्य दिए, लेकिन भारी बहुमत ने केवल एक स्पष्टीकरण उत्पन्न किया और मान लिया कि यह सही है। शोधकर्ताओं ने नोट किया कि यह एक खतरनाक चूक है। वित्त में, एक स्पष्टीकरण केवल एक दृश्य सहायता नहीं है; यह निर्णय लेने की प्रक्रिया का एक महत्वपूर्ण हिस्सा है। यदि एक बैंक ग्राहक को बताता है कि उसे उसके क्रेडिट इतिहास के कारण ऋण देने से मना कर दिया गया है, लेकिन स्पष्टीकरण वास्तव में गलत या अस्थिर है, तो यह कानूनी और नैतिक जोखिम पैदा करता है। समीक्षा में पाया गया कि शोधकर्ता अक्सर स्पष्टीकरण उत्पन्न करने के कार्य को उसके सत्यापन के समान ही मानते थे, लेकिन साक्ष्य बताते हैं कि ये दो बहुत अलग चीजें हैं।
अध्ययन ने उन बाधाओं को भी देखा जो इन उपकरणों को वास्तविक दुनिया के सिस्टम में सुरक्षित रूप से उपयोग करने से रोकती हैं। शोधकर्ताओं ने पाया कि 72 प्रतिशत अध्ययनों ने तकनीकी या डेटा संबंधी बाधाओं का उल्लेख किया। सबसे आम समस्या "क्लास इम्बैलेंस" (class imbalance) बताई गई, जो एक ऐसी स्थिति है जहाँ भविष्यवाणी किया जाने वाला इवेंट, जैसे ऋण चूक या धोखाधड़ी का मामला, सामान्य मामलों की तुलना में बहुत कम होता है। यह दुर्लभता स्पष्टीकरण उपकरणों के लिए सुसंगत उत्तर देना कठिन बना देती है। अन्य बाधाओं में तेज़ परिणाम की आवश्यकता, गोपनीयता संबंधी चिंताएं और यह तथ्य शामिल था कि वित्तीय डेटा समय के साथ बदलता रहता है। हालाँकि, समीक्षा ने एक विसंगति को उजागर किया: जबकि शोधकर्ता अक्सर इन बाधाओं को समस्याओं के रूप में सूचीबद्ध करते थे, उन्होंने शायद ही कभी यह परीक्षण किया कि इन मुद्दों ने स्पष्टीकरण की गुणवत्ता को वास्तव में कैसे नुकसान पहुँचाया। उन्होंने बाधाओं का नाम तो लिया लेकिन नुकसान को मापा नहीं।
जब शोधकर्ताओं ने देखा कि वैज्ञानिक अपने परिणामों में विश्वास बनाने के लिए किन तरीकों का सहारा लेते हैं, तो उन्होंने पाया कि अधिकांश कमजोर विधियों पर निर्भर थे। लगभग 36 प्रतिशत अध्ययनों ने किसी न किसी रूप में सत्यापन का उल्लेख किया, लेकिन सबसे आम दृष्टिकोण केवल SHAP के परिणामों की LIME के साथ तुलना करना था। यदि दोनों उपकरण सहमत थे, तो शोधकर्ता अक्सर मान लेते थे कि स्पष्टीकरण सही है। समीक्षा का तर्क है कि यह पर्याप्त प्रमाण नहीं है, क्योंकि दोनों उपकरण एक ही तरह से गलत हो सकते हैं। अधिक मजबूत तरीके, जैसे कि यह परीक्षण करना कि डेटा में थोड़ा बदलाव होने पर स्पष्टीकरण कैसे टिकता है, या मानव विशेषज्ञों से परिणामों का निर्णय लेना, केवल अध्ययनों के एक बहुत छोटे अंश में उपयोग किए गए थे। लेखकों ने निष्कर्ष निकाला कि इस क्षेत्र ने स्पष्टीकरण उत्पन्न करने की कला में महारत हासिल कर ली है लेकिन बड़े पैमाने पर यह साबित करने में विफल रहा है कि वे स्पष्टीकरण भरोसेमंद हैं। वे भविष्य के अनुसंधान के लिए एक नया मानक प्रस्तावित करते हैं, जिसमें वैज्ञानिकों से आग्रह किया गया है कि वे स्पष्टीकरण उत्पन्न करने को अंतिम चरण मानना बंद करें। इसके बजाय, उन्हें स्पष्टीकरण को स्वयं एक उत्पाद के रूप में मानना चाहिए जिसे उस वित्तीय मॉडल की तरह कठोर परीक्षण की आवश्यकता है जिसका वह वर्णन करता है, इससे पहले कि उसका उपयोग लोगों के जीवन को प्रभावित करने वाले निर्णय लेने के लिए किया जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।