Shapley in Context: Explaining Financial Language with Domain Expertise
यह शोध पत्र वित्तीय अनुप्रयोगों में लार्ज लैंग्वेज मॉडल्स (LLMs) की व्याख्या करने के लिए शापली वैल्यूज (Shapley values) के उपयोग की जांच करता है, जो सैद्धांतिक और अनुभवजन्य विश्लेषण के माध्यम से यह प्रदर्शित करता है कि ये एट्रिब्यूशंस स्थापित डोमेन ज्ञान के साथ संरेखित हैं और वित्तीय तर्क के अनुरूप सार्थक अंतर्दृष्टि प्रदान करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक सुपर-स्मार्ट, लेकिन रहस्यमयी, वित्तीय सलाहकार (एक लार्ज लैंग्वेज मॉडल या LLM) को काम पर रखा है ताकि वह किसी कंपनी की रिपोर्ट को पढ़ सके और आपको बता सके कि यह एक अच्छा निवेश है या एक जोखिम भरा जुआ। वह सलाहकार आपको एक स्कोर देता है: "जोखिम के पैमाने पर यह 10 में से 9 है!"
लेकिन यहाँ समस्या है। सलाहकार आपको यह नहीं बताएगा कि क्यों। वह बस एक नंबर दे देता है। वित्त की दुनिया में, जहाँ लोग वास्तविक पैसा खो देते हैं और नियामक (regulators) जवाबदेही मांगते हैं, एक "ब्लैक बॉक्स" जो केवल नंबर देता है, पर्याप्त नहीं है। आपको जानने की जरूरत है: क्या यह "बढ़ती ब्याज दरों" के उल्लेख के कारण था? क्या यह "कर्ज" के कारण था? या यह सिर्फ "कर्मचारियों" के बारे었던 एक सामान्य चेतावनी थी?
यह शोध पत्र एक निष्पक्ष, गणितीय "आवर्धक लेंस" (magnifying glass) बनाने के बारे में है जिससे यह पता लगाया जा सके कि रिपोर्ट के कौन से शब्दों ने उस जोखिम स्कोर को प्रेरित किया। लेखक इस उपकरण को शापली वैल्यू (Shapley Value) कहते हैं।
मुख्य विचार: एक निष्पक्ष पाई स्लाइसर (The Fair Pie Slicer)
सोचिए कि अंतिम जोखिम स्कोर एक स्वादिष्ट पाई (pie) है। रिपोर्ट के शब्द (ingredients) वे चीजें हैं जिन्होंने उस पाई को बनाया है। शापली वैल्यू उस पाई को काटने का एक तरीका है ताकि हर सामग्री को उसकी वास्तविक योगदान के आधार पर श्रेय (या दोष) का एक निष्पक्ष हिस्सा मिल सके।
यदि रिपोर्ट में "दिवालियापन" (Bankruptcy) शब्द था, तो संभवतः उसने पाई का एक बहुत बड़ा हिस्सा लिया होगा। यदि "The" शब्द वहाँ था, तो उसे केवल एक टुकड़ा मिला होगा। शापली वैल्यू इस परीक्षण को बार-बार करके इसे निष्पक्ष रूप से गणना करती है: "अगर हम 'Bankruptcy' को हटा दें तो पाई के साथ क्या होगा?" "अगर हम 'The' को हटा दें तो क्या होगा?" "अगर हमारे पास दोनों हों तो क्या होगा?" इन सभी परिदृश्यों का औसत निकालकर, यह प्रत्येक एकल शब्द को एक सटीक मान (value) प्रदान करती है।
"वित्तीय नियम पुस्तिका" (Axioms)
लेखकों को केवल कोई भी निष्पक्ष स्लाइसर नहीं चाहिए था; वे चाहते थे कि यह वित्त की दुनिया के नियमों का सम्मान करे। उन्होंने "वित्तीय नियम पुस्तिकाएं" (जिन्हें वे एक्सिओम्स/axioms कहते हैं) बनाईं ताकि यह परीक्षण किया जा सके कि उनका शापली वैल्यू टूल एक मानव विशेषज्ञ के लिए समझ में आता है या नहीं।
यहाँ वे नियम दिए गए हैं जिनकी उन्होंने जाँच की:
- "अच्छा शब्द" नियम (Monotonicity): यदि कोई शब्द स्पष्ट रूप से सकारात्मक है (जैसे "मजबूत आय" - Strong Earnings), तो टूल को उसे सकारात्मक स्कोर देना चाहिए। यदि आप "मजबूत" को "कमजोर" से बदलते हैं, तो स्कोर गिर जाना चाहिए। टूल ने इस परीक्षण को पास किया।
- "घटते प्रतिफल" का नियम (Diminishing Returns): कल्पना कीजिए कि आपके पास एक सेब है; आप खुश हैं। आपको दूसरा सेब मिलता है; आप और भी खुश होते हैं, लेकिन दोगुने खुश नहीं होते। टूल समझता है कि एक दूसरा "मजबूत" शब्द जोड़ने से पहले वाले की तुलना में प्रभाव दोगुना नहीं होता है। इसने इस परीक्षण को भी पास किया।
- "संदर्भ मायने रखता है" का नियम (Context Matters): टूल जानता है कि "स्थिर आय" (Stable Earnings) एक उबाऊ, सुरक्षित कंपनी (जैसे कोका-कोला) के लिए बहुत अच्छी है, लेकिन एक ऐसी टेक कंपनी (जैसे अमेज़न) के लिए कम रोमांचक हो सकती है जिसे तेजी से बढ़ने की आवश्यकता है। टूल ने विभिन्न कंपनियों के व्यक्तित्वों को दर्शाने के लिए स्कोर को सफलतापूर्वक समायोजित किया।
बड़ा परीक्षण: 10-K फाइलिंग
अपने टूल को वास्तविक दुनिया में सिद्ध करने के लिए, लेखकों ने केवल छोटे वाक्यों को नहीं देखा। उन्होंने इसमें फॉर्म 10-K नामक विशाल, उबाऊ, कानूनी दस्तावेज़ डाले। ये सार्वजनिक कंपनियों के वार्षिक विवरण हैं जिन्हें सरकार के पास जमा करना अनिवार्य है, जिसमें "जोखिम कारक" (Risk Factors) नामक एक खंड होता है।
उन्होंने तीन बहुत अलग कंपनियों का परीक्षण किया:
- सिलिकॉन वैली बैंक (SVB): इसके ढहने से पहले, उनकी रिपोर्ट "क्रेडिट रिस्क" और "लिक्विडिटी" के बारे में चेतावनियों से भरी थी। टूल ने रिपोर्ट को देखा और कहा, "हे, 'क्रेडिट रिस्क' वाला खंड यहाँ खतरे का सबसे बड़ा चालक है।" इसने सही ढंग से उन विशिष्ट शब्दों की पहचान की जो बैंक की विफलता की भविष्यवाणी कर रहे थे।
- वेल्स फारगो (Wells Fargo): इस बैंक का नियामक घोटालों (जैसे फर्जी खाते) का लंबा इतिहास रहा है। टूल ने उनकी रिपोर्ट को देखा और कहा, " 'नियामक जोखिम' (Regulatory Risks) वाला खंड यहाँ सबसे भारी खिलाड़ी है।" इसने वेल्स फारगो की समस्याओं को SVB की समस्याओं से सफलतापूर्वक अलग पहचाना।
- क्रॉक्स (जूते की कंपनी): उन्होंने महामारी के दौरान 2020 के क्रॉक्स के रिपोर्ट की तुलना 2021 के रिपोर्ट से की। टूल ने गौर किया कि "अर्थव्यवस्था जोखिम" (Economy Risk) का स्कोर कम हुआ (क्योंकि महामारी कम हो रही थी) जबकि "अधिग्रहण जोखिम" (Acquisition Risk) का स्कोर बढ़ गया (क्योंकि उन्होंने एक नया जूता ब्रांड खरीदा था)।
यह क्यों महत्वपूर्ण है
शोध पत्र निष्कर्ष निकालता है कि यह "निष्पक्ष पाई स्लाइसर" (बेसलाइन शापली वैल्यू) वित्त में AI के ब्लैक बॉक्स को खोलने का एक विश्वसनीय तरीका है।
- यह सुसंगत है: यदि आप परीक्षण को दस बार चलाते हैं, तो सबसे महत्वपूर्ण शब्दों की रैंकिंग समान रहती है।
- यह सटीक है: यदि आप उन शब्दों को हटा देते हैं जिन्हें टूल ने महत्वपूर्ण बताया था, तो जोखिम स्कोर में भारी बदलाव आता है। यदि आप महत्वहीन शब्दों को हटा देते हैं, तो स्कोर बहुत कम बदलता है।
संक्षेप में, लेखकों ने एक गणितीय विधि बनाई है जो केवल यह अनुमान नहीं लगाती कि AI ने निर्णय क्यों लिया। यह साबित करती है कि AI के निर्णय लेने का तर्क वास्तव में मानव वित्तीय विशेषज्ञों के सोचने के तरीके के अनुरूप है, जिससे उच्च-दांव वाले वित्तीय निर्णयों के लिए इन शक्तिशाली AI उपकरणों का उपयोग करना सुरक्षित हो जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।