Measuring Algorithmic Monoculture in Credit Intermediation: Supply-Chain Concentration, Decision Convergence, and the Case for Reference-Portfolio Supervision
यह शोध पत्र क्रेडिट मध्यस्थता में एल्गोरिद्मिक मोनोकल्चर (algorithmic monoculture) के लिए माप ढांचों की कमी को संबोधित करता है, जिसमें आपूर्ति-श्रृंखला एकाग्रता (supply-chain concentration) और निर्णय अभिसरण (decision convergence) के बीच अंतर करते हुए, एक ऐसा मॉडल विकसित किया गया है जो यह दर्शाता है कि साझा मॉडल क्रेडिट आपूर्ति को तब अस्थिर कर सकते हैं जब त्रुटि सहसंबंध (error correlation), विचरण (variance) के घटने की दर से अधिक तेजी से बढ़ता है, और त्रुटि सहसंबंध का अनुमान लगाने के लिए एक संदर्भ-पोर्टफोलियो पर्यवेक्षण दृष्टिकोण प्रस्तावित करता है, साथ ही समयपूर्व पूंजी परिवर्धन (capital add-ons) के बजाय मजबूत माप क्षमताओं के निर्माण का तर्क देता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
बैंकिंग की दुनिया में, ऋणदाताओं को हमेशा एक सरल लेकिन खतरनाक सच्चाई का सामना करना पड़ा है: यदि प्रत्येक बैंक एक ही जानकारी के आधार पर अपने निर्णय लेता है, तो वे सभी एक ही समय में एक ही गलतियाँ करेंगे। यह कोई नई आशंका नहीं है; यह एक किसान द्वारा पूरे महाद्वीप में एक ही फसल उगाने के समान है। यदि उस विशिष्ट फसल पर कोई बीमारी आती है, तो पूरी फसल विफल हो जाती है, और किसान के पास कोई बैकअप नहीं होता। दशकों से, नियामक बैंकों पर नज़र रखते आए हैं ताकि यह सुनिश्चित किया जा सके कि वे सभी एक ही कंपनियों या लोगों को ऋण न दें, क्योंकि यदि वे कर्जदार विफल होते हैं, तो बैंक भी साथ मिलकर विफल हो जाते हैं। लेकिन एक नए प्रकार का जोखिम उभर कर आया है, जो देखने में कठिन है। एक ही लोगों को ऋण देने के बजाय, बैंक अब यह तय करने के लिए कि किसे ऋण दिया जाए, एक ही कंप्यूटर प्रोग्राम का उपयोग करने लगे हैं। ये प्रोग्राम, जो अक्सर विशाल, साझा कृत्रिम बुद्धिमत्ता (AI) प्रणालियों पर आधारित होते हैं, सेकंडों में लाखों आवेदनों को संसाधित कर सकते हैं। चिंता यह है कि यदि ये प्रणालियाँ एक ही अंतर्निहित कोड या डेटा पर निर्भर करती हैं, तो वे सभी एक ही समय में एक ही अच्छे कर्जदारों को अस्वीकार कर सकती हैं या एक ही खराब कर्जदारों को मंजूरी दे सकती हैं, जिससे ऋण का एक अचानक, प्रणालीगत संकट पैदा हो सकता है जिसे किसी भी एकल बैंक ने पहले नहीं देखा होगा।
शोधकर्ताओं की एक टीम ने इस अदृश्य खतरे को मापने का प्रयास किया है, जिसे वे "एल्गोरिदमिक मोनोकल्चर" (algorithmic monoculture) कहते हैं। उनका कार्य उस अंतर पर केंद्रित है जो नियामक जो देख सकते हैं और उन्हें वास्तव में जो जानने की आवश्यकता है, उसके बीच मौजूद है। वर्तमान में, पर्यवेक्षक आसानी से गिन सकते हैं कि कितने बैंक एक विशिष्ट क्लाउड प्रदाता या एक विशिष्ट सॉफ्टवेयर विक्रेता का उपयोग करते हैं। वे आपूर्ति श्रृंखला (supply-chain) को देख सकते हैं। हालाँकि, वे परिणाम को नहीं देख सकते। दो बैंक एक ही सॉफ्टवेयर का उपयोग कर सकते हैं, लेकिन यदि वे इसे अलग तरह से संशोधित करते हैं या इसमें अलग डेटा डालते हैं, तो उनके निर्णय फिर भी अद्वितीय हो सकते हैं। इसके विपरीत, दो बैंक पूरी तरह से अलग सॉफ्टवेयर का उपयोग कर सकते हैं, लेकिन यदि वे समान डेटा के साथ एक ही समस्या को हल कर रहे हैं, तो वे एक जैसे ही त्रुटियाँ कर सकते हैं। शोधकर्ताओं का तर्क है कि सॉफ्टवेयर विक्रेताओं की गिनती करना वास्तविक जोखिम को मापने का एक खराब तरीका है, जो यह नहीं है कि उपकरण किसने बनाया, बल्कि यह है कि क्या उपकरण एक ही समय में एक ही गलतियाँ कर रहे हैं।
दांव को समझने के लिए, लेखकों ने अर्थव्यवस्था में ऋण प्रवाह का एक गणितीय मॉडल बनाया। उन्होंने एक ऐसी दुनिया की कल्पना की जहाँ बैंक एक साझा, अत्यधिक सटीक कृत्रिम बुद्धिमत्ता प्रणाली का उपयोग करते हैं। यह प्रणाली पुराने, स्वतंत्र प्रणालियों की तुलना में बेहतर है; यह कुल मिलाकर कम गलतियाँ करती है। हालाँकि, क्योंकि यह साझा है, जब यह एक गलती करती है, तो प्रत्येक बैंक एक साथ वही गलती करता है। शोधकर्ताओं ने एक महत्वपूर्ण 'टिपिंग पॉइंट' (tipping point) पाया। यदि साझा प्रणाली पुरानी प्रणालियों की तुलना में केवल थोड़ी बेहतर है, तो कम त्रुटियों का लाभ एक साथ होने वाली त्रुटियों के खतरे से समाप्त हो जाता है। अपने सिमुलेशन में, यहाँ तक कि एक ऐसी प्रणाली जो पुराने तरीकों की तुलना में पचास प्रतिशत अधिक सटीक थी, वह भी बैंकिंग प्रणाली को अधिक अस्थिर बना सकती थी यदि उसके कारण बैंकों की त्रुटियाँ अत्यधिक सहसंबंधित (correlated) हो जातीं। सटीकता का लाभ साझा विफलता की लागत चुकाने के लिए पर्याप्त नहीं है। प्रणाली अधिक अस्थिर हो जाती है, बहुत अधिक ऋण देने और बहुत कम ऋण देने के बीच झूलती रहती है, केवल इसलिए क्योंकि हर कोई एक ही लेंस के माध्यम से दुनिया को देख रहा है।
लेखक फिर इस प्रश्न पर आते हैं कि इस समस्या को संकट पैदा करने से पहले कैसे पकड़ा जाए। लेखक डेटा का उपयोग करके जोखिम को मापने का एक नया तरीका प्रस्तावित करते हैं जो नियामक पहले से ही एकत्र करते हैं, लेकिन एक नए तरीके से। केवल यह पूछने के बजाय कि बैंक किन मॉडलों का उपयोग करते हैं, पर्यवेक्षकों को बैंकों के एक समूह को ज्ञात परिणामों वाले काल्पनिक ऋण आवेदनों का एक ही सेट देना चाहिए—अनिवार्य रूप से एक ऐसी परीक्षा जहाँ उत्तर पहले से ही लिखे हुए हैं। इन समान आवेदनों के लिए प्रत्येक बैंक के मॉडल कैसे स्कोर करते हैं, इसकी तुलना करके, नियामक गणना कर सकते हैं कि बैंकों की त्रुटियाँ कितनी एक साथ चलती हैं। यदि सभी बैंक एक ही आवेदकों पर एक ही गलत भविष्यवाणियाँ कर रहे हैं, तो प्रणाली खतरे में है। शोधकर्ताओं ने पाया कि इस माप को सटीक रूप से करना आश्चर्यजनक रूप से कठिन है। इसे सांख्यिकीय रूप से उपयोगी होने के लिए डेटा में बड़ी संख्या में ऋण चूक (defaults) का दृश्यमान होना आवश्यक है। छोटे व्यावसायिक ऋणों या बड़े कॉर्पोरेट ऋणों के लिए, जहाँ चूक दुर्लभ होती है, डेटा बहुत पतला है जिससे स्पष्ट उत्तर नहीं मिल पाता। लेकिन रोजमर्रा के उपभोक्ता ऋणों, जैसे क्रेडिट कार्ड के लिए, पर्याप्त डेटा उपलब्ध है जिससे सटीक रीडिंग प्राप्त की जा सकती है।
मौजूदा जोखिम को मापने का तरीका होने के बावजूद, लेखक सबसे स्पष्ट समाधानों के विरुद्ध तर्क देते हैं। उनका सुझाव है कि नियामकों को केवल बैंकों को अलग मॉडल उपयोग करने के लिए मजबूर नहीं करना चाहिए या उनके मॉडल्स की समानता के आधार पर अतिरिक्त पूंजी शुल्क नहीं लगाना चाहिए। विविधता के लिए मजबूर करना उल्टा पड़ सकता है, जिससे बैंक केवल अलग दिखने के लिए खराब, कम सटीक मॉडल का उपयोग करने के लिए मजबूर हो सकते हैं, जो उन कर्जदारों को नुकसान पहुँचाएगा जो निष्पक्ष ऋण प्राप्त करने के लिए इन प्रणालियों पर भरोसा करते हैं। इसके बजाय, पेपर एक अधिक व्यावहारिक दृष्टिकोण का प्रस्ताव करता है। नियामकों को यह सुनिश्चित करने पर ध्यान केंद्रित करना चाहिए कि प्रत्येक बैंक के पास एक "बैकअप" (fallback) योजना हो। यदि कोई बैंक एक साझा, बाहरी कृत्रिम बुद्धिमत्ता प्रणाली पर बहुत अधिक निर्भर है, तो उसे यह साबित करना चाहिए कि यदि वह साझा प्रणाली विफल हो जाती है या सहसंबंधित त्रुटियाँ करने लगती है, तो वह अपने व्यवसाय के एक महत्वपूर्ण हिस्से के लिए एक अलग, स्वतंत्र पद्धति पर स्विच कर सकता है। यह सुनिश्चित करता है कि प्रणाली के पास एक बैकअप है जो मुख्य जोखिम से जुड़ा नहीं है।
शोधकर्ता सावधानीपूर्वक नोट करते हैं कि यह संकट अभी तक नहीं हुआ है। हालिया सर्वेक्षणों से पता चलता है कि जबकि कई बैंक कृत्रिम बुद्धिमत्ता का उपयोग कर रहे हैं, बहुत कम बैंक अपने मुख्य ऋण निर्णयों के लिए सबसे उन्नत, साझा फाउंडेशन मॉडल्स का उपयोग कर रहे हैं। यह जोखिम भावी (prospective) है, जिसका अर्थ है कि यह कुछ ऐसा है जो तकनीक के अधिक सामान्य होने पर हो सकता है। उनके प्रस्ताव की तात्कालिकता यह नहीं है कि खतरा आज मौजूद है, बल्कि यह है कि जैसे ही बैंक इन साझा प्रणालियों को पूरी तरह से अपना लेंगे, यह जानना असंभव होगा कि परिवर्तन से पहले "सामान्य" जोखिम का स्तर क्या था। यदि नियामक समस्या के दृश्यमान होने तक इंतजार करते हैं, तो वे यह समझने के लिए आवश्यक आधार रेखा (baseline) खो देंगे कि यह कितना गंभीर हो गया है। पेपर का निष्कर्ष है कि मापने वाले उपकरण बनाने का समय अभी है, जब सिस्टम अभी भी बदल रहा है, ताकि पर्यवेक्षक वास्तविक समय में बदलाव को देख सकें, न कि नुकसान होने के बाद उसका पता लगा सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।