Could Large Language Models work as Post-hoc Explainability Tools in Credit Risk Models?
यह अध्ययन क्रेडिट जोखिम मॉडलों के लिए पोस्ट-हॉक व्याख्यात्मकता उपकरणों के रूप में लार्ज लैंग्वेज मॉडल्स के उपयोग का मूल्यांकन करता है और यह निष्कर्ष निकालता है कि हालांकि वे नियंत्रित प्रॉम्प्ट्स के तहत फीचर-इम्पॉर्टेंस रैंकिंग को विश्वसनीय रूप से पुनरुत्पादित कर सकते हैं, लेकिन स्वायत्त स्पष्टीकरण पीढ़ी में सीमित संरेखण के कारण उन्हें औपचारिक एट्रिब्यूशन विधियों के विकल्प के बजाय नैरेटिव इंटरफेस के रूप में तैनात किया जाना सबसे अच्छा है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बैंक में लोन ऑफिसर हैं। आपके पास एक बहुत ही स्मार्ट, लेकिन रहस्यमयी कंप्यूटर रोबोट (एक "मशीन लर्निंग मॉडल") है जो तय करता है कि किसे लोन मिलेगा और किसे नहीं। यह रोबोट यह भविष्यवाणी करने में माहिर है कि कौन पैसा वापस करेगा, लेकिन यह एक "ब्लैक बॉक्स" है। यह केवल "हाँ" या "ना" देता है, लेकिन यह इंसानी भाषा नहीं बोलता। यह बस संख्याओं की एक सूची देता है कि, "इस कारक का महत्व 5% था, उस एक का 3% था।"
नियामक (regulators) और ग्राहक, संख्याओं का स्प्रेडशीट नहीं देखना चाहते। वे एक कहानी चाहते हैं: "हमने ऋण इसलिए अस्वीकार कर दिया क्योंकि आवेदक पर बहुत अधिक कर्ज है और नौकरी का इतिहास अस्थिर है।"
यहाँ प्रवेश होता है लार्ज लैंग्वेज मॉडल्स (LLMs) का। इन्हें AI की दुनिया के "अनुवादक" या "कहानीकार" के रूप में सोचें। ये वे हैं जो उन उबाऊ संख्याओं को एक मित्रवत, पठनीय पैराग्राफ में बदल सकते हैं।
यह शोध पत्र एक बहुत ही विशिष्ट प्रश्न पूछता है: क्या हम इन AI कहानीकारों पर इस बात के लिए भरोसा कर सकते हैं कि वे रोबोट के निर्णय के पीछे के कारणों के बारे में सच बोल रहे हैं?
शोधकर्ताओं ने यह पता लगाने के लिए दो अलग-अलग परीक्षण किए, जिसमें LendingClub से वास्तविक ऋण डेटा का उपयोग किया गया।
टेस्ट 1: "डिक्टेशन" टेस्ट (क्या LLM आदेशों का पालन कर सकता है?)
सेटअप: शोधकर्ताओं ने AI कहानीकार को कारणों की सटीक सूची दी, जिसे सबसे महत्वपूर्ण से कम महत्वपूर्ण के क्रम में रखा गया था। फिर उन्होंने AI से पूछा: "यहाँ कारणों की सूची है। कृपया इस सूची को एक कहानी के रूप में फिर से लिखें, लेकिन सुनिश्चित करें कि आप बिल्कुल उसी क्रम को बनाए रखें।"
परिणाम: AI कहानीकार बेहतरीन थे।
कल्पना कीजिए कि एक सख्त शिक्षक एक छात्र को 24 सामग्रियों की सूची देता है और कहता, "इनका उपयोग करके एक रेसिपी लिखें, ठीक इसी क्रम में।" AI ने बिल्कुल वैसा ही किया। उसने सामग्रियों को न तो बदला, न ही उन्हें भुलाया और न ही अपने विचार जोड़े। उसने रोबोट की "संख्या सूची" को बिना अर्थ बदले वफादारी से एक "शब्द सूची" में अनुवादित किया।
निष्कर्ष: यदि आप AI को तथ्य देते हैं, तो वह उन्हें मानव-पठनीय कहानी में ढालने में उत्कृष्ट है। यह एक बहुत ही विश्वसनीय सचिव की तरह कार्य करता है।
टेस्ट 2: "डिटेक्टिव" टेस्ट (क्या AI खुद से पता लगा सकता है?)
सेटअप: इस बार, शोधकर्ताओं ने AI को कारणों की सूची नहीं दी। उन्होंने केवल AI को आवेदक का डेटा (आय, क्रेडिट स्कोर आदि) और रोबत का निर्णय दिया। उन्होंने पूछा: "इस व्यक्ति के डेटा के आधार पर, आपके अनुसार इस निर्णय के शीर्ष कारण क्या हैं?"
परिणाम: AI कहानीकार संघर्ष करते रहे।
कल्पना कीजिए कि आप एक जासूस से पुलिस रिपोर्ट दिखाए बिना अपराध को सुलझाने के लिए कहते हैं। AI ने दुनिया के बारे में अपनी सामान्य जानकारी के आधार पर कारणों का अनुमान लगाने की कोशिश की (जैसे, "ओह, आमतौर पर उच्च ऋण बुरा होता है")।
- समस्या: रोबोट (मशीन लर्निंग मॉडल) जटिल, छिपे हुए पैटर्न के आधार पर निर्णय लेता है जो सामान्य मानवीय तर्क से भिन्न होते हैं। AI के अनुमान अक्सर लक्ष्य से चूक जाते थे।
- "फ्यू-शॉट" (Few-Shot) ट्रिक: शोधकर्ताओं ने पहले उसे दो उदाहरण दिखाकर मदद करने की कोशिश की (जैसे, "यहाँ हमने एक 'हाँ' वाले लोन को समझाया, और यहाँ हमने एक 'ना' वाले लोन को समझाया")। इससे थोड़ी मदद मिली, लेकिन AI फिर भी रोबोट के वास्तविक तर्क से पूरी तरह मेल नहीं खा सका, विशेष रूप से अधिक जटिल रोबोट मॉडल्स के लिए।
निष्कर्ष: जब AI एक जासूस की तरह काम करने की कोशिश करता है और कारणों का पता लगाने की कोशिश करता है, तो वह अक्सर कहानी गलत कर देता है। वह विश्वसनीय लगने वाले कारण चुन सकता है, लेकिन वे वास्तविक कारण नहीं होते जो रोबोट ने उपयोग किए थे।
अंतिम निर्णय: "अनुवादक" बनाम "जासूस"
यह पत्र बैंकिंग जगत में इन उपकरणों का उपयोग करने के लिए एक स्पष्ट नियम के साथ समाप्त होता है:
- AI को जासूस के रूप में उपयोग न करें: आप AI को यह अनुमान लगाने की अनुमति नहीं दे सकते कि ऋण क्यों अस्वीकार किया गया। यदि आप ऐसा करते हैं, तो आप ग्राहक को एक ऐसा कारण दे सकते हैं जो सुनने में तो अच्छा लगता है लेकिन वास्तव में गलत है। यह नियमों और विश्वास के लिए खतरनाक है।
- AI को अनुवादक के रूप में उपयोग करें: आप AI का उपयोग आधिकारिक, गणितीय रूप से सिद्ध कारणों (जो रोबोट द्वारा गणना किए गए हैं) को ग्राहक के लिए एक सुंदर, पढ़ने में आसान पत्र में बदलने के लिए कर सकते हैं।
रूपक (Metaphor):
मशीन लर्निंग मॉडल को एक शेफ (Chef) के रूप में सोचें जो एक जटिल व्यंजन बनाता है।
- AI अनुवादक एक फूड क्रिटिक (खाद्य समीक्षक) है जो एक सुंदर व्यंजन का वर्णन करने में उत्कृष्ट है यदि शेफ उसे रेसिपी दे देता है। वे एक सुंदर मेनू विवरण लिख सकते हैं।
- लेकिन यदि आप फूड क्रिटिक से केवल भोजन चखकर (शेफ की मदद के बिना) रेसिपी का अनुमान लगाने के लिए कहते हैं, तो वे संभवतः सामग्री का गलत अनुमान लगाएंगे।
संक्षेप में: लार्ज लैंग्वेज मॉडल्स गणित को शब्दों में बदलने में महान हैं, लेकिन वे पहले से ही गणित का अनुमान लगाने में बहुत खराब हैं। क्रेडिट रिस्क में, आपको हमेशा गणित (रोबोट) को कारणों का निर्णय लेने देना चाहिए, और AI को केवल कहानी लिखने देना चाहिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।