Artificial Intelligence and Systemic Risk: A Unified Model of Performative Prediction, Algorithmic Herding, and Cognitive Dependency in Financial Markets
यह शोध पत्र एक एकीकृत मॉडल विकसित करता है जो यह प्रदर्शित करता है कि वित्तीय बाजारों में एआई (AI) का अपनाना परफॉर्मेटिव प्रेडिक्शन (performative prediction), एल्गोरिद्मिक हर्डिंग (algorithmic herding) और संज्ञानात्मक निर्भरता (cognitive dependency) के परस्पर सुदृढ़ चैनलों के माध्यम से सुपरलीनियर प्रणालीगत जोखिम (superlinear systemic risk) उत्पन्न करता है, जिससे उत्तल भंगुरता (convex fragility), संभावित एल्गोरिद्मिक मोनोकल्चर (algorithmic monocultures) और 18-54% का अनुभवजन्य रूप से सत्यापित टेल-लॉस प्रवर्धन (tail-loss amplification) होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि वित्तीय बाजार एक विशाल, हलचल भरे ऑर्केस्ट्रा की तरह है। दशकों से, संगीतकार (निवेशक) अलग-अलग शीट संगीत बजा रहे थे, अलग-अलग कंडक्टरों को सुन रहे थे, और कभी-कभी थोड़ा तालमेल से बाहर भी बज रहे थे। इस "शोर" ने संगीत को दिलचस्प बनाए रखा और पूरे समूह को एक ही समय में एक बड़ी, एकीकृत गलती करने से रोका।
अब, कल्पना कीजिए कि ऑर्केस्ट्रा के हर संगीतकार को अचानक बिल्कुल एक जैसा शीट संगीत थमा दिया गया है, एक ही AI शिक्षक द्वारा प्रशिक्षित किया गया है, और एक ही कंडक्टर को सुनने के लिए कहा गया है।
यह शोध पत्र तर्क देता है कि हालांकि यह सुनने में कुशल लगता है, लेकिन यह एक भयानक नए प्रकार का जोखिम पैदा करता है। लेखक, शुचेन मेंग और ज़ुपेन्ग चेन, समझाते हैं कि वित्त में आर्टिफिशियल इंटेलिजेंस (AI) केवल एक उपकरण नहीं है; यह एक तीन-चरणीय जाल है जो एक छोटी सी गलती को वैश्विक वित्तीय आपदा में बदल सकता है।
यहाँ उस जाल की कहानी है, जिसे तीन सरल भागों में विभाजित किया गया है।
1. जाल के तीन पैर
लेखक कहते हैं कि AI तीन सुदृढ़ चैनलों के माध्यम से जोखिम पैदा करता है। इन्हें एक स्टूल के तीन पैरों के रूप में सोचें जो, जब एक साथ जुड़ते हैं, तो अविश्वसनीय रूप से अस्थिर हो जाते हैं।
पैर 1: प्रतिध्वनि कक्ष (एल्गोरिद्मिक हर्डिंग - Algorithmic Herding)
कल्पना कीजिए कि यदि ऑर्केस्ट्रा का हर संगीतकार एक ही रेडियो स्टेशन सुन रहा हो। यदि उस रेडियो स्टेशन में कोई स्टैटिक कड़कड़ाहट (खराब सिग्नल) आती है, तो सभी उसे एक ही समय में सुनते हैं।
- वास्तविकता: AI मॉडल अक्सर एक ही विशाल डेटासेट पर प्रशिक्षित होते हैं और समान कोड का उपयोग करते हैं। यदि डेटा में कोई दोष है, या यदि बाजार को कोई अजीब संकेत मिलता है, तो सभी AI सिस्टम एक ही तरह से प्रतिक्रिया देते हैं। वे केवल एक साथ व्यापार नहीं करते; वे एक साथ सोचते हैं। इसे एल्गोरिद्मिक हर्डिंग कहा जाता है।
पैर 2: स्वयं-सिद्ध भविष्यवाणी (परफॉर्मेटिव प्रेडिक्शन - Performative Prediction)
यह सबसे अजीब हिस्सा है। कल्पना कीजिए कि एक मौसम विज्ञानी बारिश की भविष्यवाणी करता है। क्योंकि हर कोई उस पूर्वानुमान पर विश्वास करता है, इसलिए वे सभी छाते खरीदते हैं। छतों की अचानक मांग के कारण छतों की कीमत आसमान छूने लगती है, जिससे किसी तरह मौसम वास्तव में बारिश में बदल जाता है (इस वित्तीय दुनिया में, कीमतें अर्थव्यवस्था को प्रभावित करती हैं)।
- वास्तविकता: जब AI भविष्यवाणी करता है कि स्टॉक नीचे जाएगा, तो वह बेच देता है। बिक्री कीमतों को नीचे ले जाती है। क्योंकि कीमत अब कम है, इसलिए AI की भविष्यवाणी "सही" थी। लेकिन AI फिर उस नई, कम कीमत का उपयोग अपने अगले मॉडल को प्रशिक्षित करने के लिए करता है, जिससे यह विचार पुख्ता होता है कि कीमत वास्तव में कम होनी चाहिए। यह एक ऐसा लूप है जहाँ भविष्यवाणी वास्तविकता का निर्माण करती है, जिससे बाजार अधिक नाजुक हो जाता है।
पैर 3: जंग लगा हुआ मस्तिष्क (संज्ञानात्मक निर्भरता - Cognitive Dependency)
यह सबसे खतरनाक पैर है। कल्पना कीजिए कि संगीतकार अपने वाद्य यंत्रों का अभ्यास करना छोड़ देते हैं क्योंकि AI शीट संगीत इतना सटीक है। वे आलसी हो जाते हैं। वे AI के बिना बजाना भूल जाते हैं।
- वास्तविकता: जैसे-जैसे मनुष्य AI पर अधिक निर्भर होते जाते हैं, बाजार को समझने की उनकी अपनी क्षमता ("मानवीय कौशल") कम होती जाती है, जैसे कि एक मांसपेशी जो उपयोग नहीं की जा रही है। यदि AI टूट जाता है या पागल हो जाता है, तो मनुष्य हस्तक्षेप करने और उसे ठीक करने के लिए बहुत "जंग लगे" हुए होते हैं। वे AI के तर्क में फंस जाते हैं।
2. "टिपिंग पॉइंट" (सैडल-नोड बिफर्केशन - Saddle-Node Bifurcation)
शोध पत्र एक फैंसी गणितीय शब्द का उपयोग करता है जिसे "सैडल-नोड बिफर्केशन" कहा जाता है, लेकिन आप इसे टिपिंग पॉइंट के रूप में समझ सकते हैं।
कल्पना कीजिए कि आप एक पहाड़ी पर एक भारी पत्थर को धकेल रहे हैं। लंबे समय तक, ऐसा लगता है कि आप प्रगति कर रहे हैं। लेकिन एक विशिष्ट बिंदु आता है जहाँ, यदि आप थोड़ा और जोर से धक्का देते हैं, तो पत्थर केवल थोड़ा आगे नहीं बढ़ता—वह किनारे से नीचे गिर जाता है और अनियस्त रूप से तेज होने लगता है।
- बाजार में: जैसे-जैसे अधिक बैंक AI अपनाते हैं, यह सुरक्षित और कुशल लगता है। लेकिन एक बार जब यह अपनाने की सीमा (उनके मॉडल में लगभग 70%) पार हो जाती है, तो सिस्टम बदल जाता है। अचानक, बाजार एक "मोनोकल्चर" (सब कुछ बिल्कुल एक जैसा कर रहे हैं) बन जाता है।
- परिणाम: एक छोटा सा झटका (जैसे समाचार रिपोर्ट में टाइपो या ब्याज दर में मामूली बदलाव) एक बड़े क्रैश को ट्रिगर कर सकता है क्योंकि हर कोई ठीक उसी मिलीसेकंड में प्रतिक्रिया दे रहा होता है।
3. "तूफान से पहले की शांति" का विरोधाभास (The "Calm Before the Storm" Paradox)
यहाँ वह डरावना हिस्सा है जिसे लेखक "तूफान से पहले की शांति" कहते हैं।
जब AI मोनोकल्चर काम कर रहा होता है, तो बाजार अत्यधिक स्थिर दिखाई देता है। क्योंकि हर कोई इतना सिंक्रनाइज़ है, कीमतें बहुत कम हिलती हैं। यह एक चिकने, शांत समुद्र जैसा दिखता है।
- जाल: यह शांति एक भ्रम है। यह एक खिंचे हुए रबर बैंड की तरह है। यह जितना अधिक "शांत" दिखता है, उतना ही तनाव बनता जा रहा है।
- क्रैश: जब रबर बैंड अंततः टूटता है, तो क्रैश हिंसक और अचानक होता है। शोध पत्र सुझाव देता है कि संकट के दौरान, नुकसान इस AI जाल के बिना होने वाले नुकसान की तुलना में 18% से 54% अधिक हो सकता है।
4. हम इसे बंद क्यों नहीं कर सकते? (अपरिवर्तनीयता - The Irreversibility)
यह "रैचेट इफेक्ट" (Ratchet Effect) है।
कल्पना कीजिए कि आप एक ऐसे कमरे में हैं जिसका दरवाजा अंदर से लॉक होता है। आप आसानी से अंदर जा सकते हैं, लेकिन एक बार जब आप अंदर होते हैं, तो आप उसी तरह वापस बाहर नहीं निकल सकते।
- समस्या: संज्ञानात्मक निर्भरता (पैर 3) के कारण, एक बार जब मनुष्य AI के बिना व्यापार करना भूल जाते हैं, तो वे चाहकर भी पुराने तरीके पर "वापस" नहीं जा सकते। यदि AI अराजकता पैदा करने लगता है, तो मनुष्य दिन बचाने के लिए हस्तक्षेप नहीं कर सकते क्योंकि वे कौशल खो चुके हैं।
- परिणाम: भले ही नियामक इस समस्या को ठीक करने की कोशिश करें, सिस्टम तुरंत सामान्य स्थिति में नहीं लौटता है। यह लंबे समय तक एक "नाजुक" अवस्था में फंसा रहता है।
बड़ी तस्वीर: इसका आपके लिए क्या अर्थ है?
लेखक यह नहीं कह रहे हैं कि AI बुरा है। AI पैटर्न खोजने और बाजारों को कुशल बनाने में महान है। लेकिन वे चेतावनी देते हैं कि हम एक ऐसा सिस्टम बना रहे हैं जहाँ हर कोई एक ही समय में एक ही विचार सोच रहा है।
- उपमा: यह मछलियों के झुंड की तरह है। यदि वे सभी पूर्ण तालमेल में तैरते हैं, तो वे सुंदर और कुशल दिखते हैं। लेकिन यदि एक शार्क (बाजार का झटका) दिखाई देती है, और वे सभी एक ही समय में एक ही दिशा में मुड़ते हैं, तो वे एक साथ चट्टान से टकरा सकते हैं।
- समाधान: शोध पत्र सुझाव देता है कि हमें अपने AI में "विविधता" की आवश्यकता है। हमें यह नहीं होने देना चाहिए कि हर बैंक एक ही AI मॉडल का उपयोग करे। हमें मनुष्यों को अपने कौशल का अभ्यास जारी रखने के लिए मजबूर करने की आवश्यकता है ताकि यदि रोबोट पागल हो जाए तो वे नियंत्रण संभाल सकें। हमें इन AI सिस्टमों का परीक्षण "तनाव परीक्षणों" (stress tests) के साथ करने की भी आवश्यकता है जो यह सिम्युलेट करते हैं कि क्या होता है जब वे सभी एक साथ घबरा जाते हैं।
संक्षेप में: शोध पत्र चेतावनी देता है कि हमारे वित्तीय तंत्र को स्मार्ट और कुशल बनाकर, हम अनजाने में ताश के पत्तों का एक ऐसा घर बना रहे हैं जो तब तक सुंदर दिखता है जब तक कि हल्की सी हवा उसे गिरा न दे, जिससे हमारे पास इसे जल्दी से फिर से बनाने का कोई तरीका नहीं बचता।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।