AI, Digital Platforms, and the New Systemic Risk

तकनीकी सारांश: एआई (AI), डिजिटल प्लेटफॉर्म और नया प्रणालीगत जोखिम (Systemic Risk)

समस्या विवरण (Problem Statement)
आर्टिफिशियल इंटेलिजेंस (AI) तेजी से डिजिटल, सामाजिक और संस्थागत बुनियादी ढांचों में समाहित हो रहा है, जो प्लेटफॉर्म के साथ मिलकर हाइब्रिड संरचनाएं बना रहा है। यह एकीकरण "प्रणालीगत जोखिम" (systemic risk) को जन्म दे रहा है—एक महत्वपूर्ण लेकिन कम सिद्धांतिक चुनौती, जहाँ स्थानीय विफलताएं संरचनात्मक व्यवधानों में बदल सकती हैं। हालांकि हालिया यूरोपीय कानून, विशेष रूप से 'ईयू एआई एक्ट' (EU AI Act) और 'डिजिटल सर्विसेज एक्ट' (DSA), प्रणालीगत जोखिम का उल्लेख करते हैं, यह शोध पत्र तर्क देता है कि ये ढांचे संकीर्ण, अस्पष्ट या विरोधाभासी चरित्र चित्रणों पर निर्भर हैं। एआई एक्ट, विशेष रूप से, प्रणालीगत जोखिम को "उच्च-प्रभाव वाली क्षमताओं" वाले "सबसे उन्नत" जनरल-पर्पज एआई (GPAI) मॉडलों तक सीमित रखता है, जिन्हें अक्सर कंप्यूट थ्रेशोल्ड (जैसे, $10^{25}$ FLOPs) द्वारा परिभाषित किया जाता है। यह दृष्टिकोण छोटे, गहराई से एकीकृत सिस्टम, गैर-फ्रंटियर मॉडलों, और उन नुकसानों से उत्पन्न होने वाले प्रणालीगत जोखिमों की अनदेखी करने का जोखिम उठाता है जो कड़ाई से बाजार व्यवधानों के रूप में प्रकट नहीं होते (जैसे, बड़े पैमाने पर भेदभाव, मतिभ्रम/hallucinations, और पर्यावरणीय क्षरण)। DSA, हालांकि कुछ जोखिमों की पहचान करने में बेहतर है, एक एकीकृत परिभाषा की कमी रखता है और एआई मॉडलों तथा प्लेटफॉर्म आर्किटेक्चर के बीच की अंतःक्रिया को पूरी तरह से समझने में विफल रहता है।

कार्यप्रणाली (Methodology)
लेखक वित्त, जटिल प्रणाली सिद्धांत (complex system theory) और साइबर सुरक्षा से जुड़े एक बहु-विषयक विश्लेषणात्मक ढांचे का उपयोग करते हैं। कार्यप्रणाली चार विशिष्ट चरणों में आगे बढ़ती है:

1. ऐतिहासिक और सैद्धांतिक संश्लेषण: पेपर वित्तीय विनियमन (2008 के संकट के बाद) में प्रणालीगत जोखिम की परिभाषाओं के विकास और जटिल प्रणालियों के सिद्धांत की समीक्षा करता है ताकि मुख्य परिभाषाओं में सामान्य न्यूनतम स्थितियों की पहचान की जा सके।
2. वैचारिक ढांचा विकास: ऐतिहासिक निष्कर्षों के आधार पर, लेखक एआई-और-प्लेटफॉर्म-संचालित प्रणालीगत जोखिमों को निर्दिष्ट करने के लिए चार-मानदंड ढांचे को तैयार करते हैं:
   • पैमाना और दायरा (Scale and Scope): प्रणाली में अपेक्षित क्षति की सीमा।
   • हानि की प्रकृति (सामूहिक): ऐसी हानियों का उद्भव जो व्यक्तिगत प्रभावों के योग से अधिक होती हैं (संरचनात्मक विफलता)।
   • अपरिवर्तनीयता (Irreversibility): दीर्घकालिक, गैर-पुनर्प्राप्य क्षति की क्षमता।
   • जटिलता/अनिश्चितता (Complexity/Unpredictability): परस्पर जुड़ाव की उपस्थिति जो कैस्केडिंग (श्रृंखलाबद्ध), गैर-नियंत्रित प्रभावों को सक्षम करती है।
3. जोखिम स्तरों का वर्गीकरण (Taxonomy of Risk Levels): लेखक प्रणालीगत जोखिमों को चार स्तरों में वर्गीकृत करते हैं:
   • सिंगल-मॉडल (Single-model): एक एकल केंद्रीकृत मॉडल के व्यापक उपयोग से होने वाली विफलताएं (मोनोकल्चर प्रभाव)।
   • मल्टी-मॉडल (Multi-model): कई मॉडलों में सिंक्रोनाइज्ड विफलताएं (हर्डिंग बिहेवियर/भेड़चाल)।
   • मॉडल-प्लेटफॉर्म एकीकरण (Model-platform integration): बड़े पैमाने के प्लेटफॉर्म में एम्बेडेड एआई जो फीडबैक लूप बनाता है (जैसे, नुकसान को बढ़ाने वाले अनुशंसा एल्गोरिदम)।
   • मॉडल-संस्था एकीकरण (Model-institution integration): शासन, कानून प्रवर्तन या वित्त में एमाबेडेड एआई जो संरचनात्मक कमजोरियां पैदा करता है।
4. तुलनात्मक कानूनी विश्लेषण और केस टेस्टिंग: इस ढांचे को DSA और एआई एक्ट का मूल्यांकन करने के लिए लागू किया गया है। लेखक इन कानूनी ढांचों की पर्याप्तता का परीक्षण तीन विवादास्पद उदाहरणों के विरुद्ध करते हैं: बड़े पैमाने पर भेदभाव, एआई मतिभ्रम (सूचना प्रदूषण), और पर्यावरणीय प्रभाव।

प्रमुख योगदान (Key Contributions)

• प्रणालीगत जोखिम की एक कठोर परिभाषा: यह पेपर "जब आप इसे देखें तो आप इसे जान जाएंगे" (you-know-it-when-you-see-it) वाले दृष्टिकोण से आगे बढ़कर पैमाने, सामूहिक हानि, अपरिवर्तनीयता और जटिलता पर आधारित एक संरचित ढांचा स्थापित करता है।
• एआई एक्ट की "फ्रंटियर" सीमा की आलोचना: लेखक यह प्रदर्शित करते हैं कि प्रणालीगत जोखिम को विशेष रूप से "सबसे उन्नत" मॉडलों से जोड़ना वैचारिक रूप से त्रुटिपूर्ण है। वे तर्क देते हैं कि भेदभाव और मतिभ्रम जैसे जोखिम, मॉडल की उन्नति के बावजूद प्रणालीगत हो सकते हैं, और कंप्यूट-आधारित थ्रेशोल्ड महत्वपूर्ण बुनियादी ढांचे में गहराई से एकीकृत पुराने या छोटे मॉडलों से उत्पन्न जोखिमों को पकड़ने में विफल रहते हैं।
• नियामक अंतराल की पहचान: विश्लेषण से पता चलता है कि एआई एक्ट का 'कोड ऑफ प्रैक्टिस' अपने "निर्दिष्ट प्रणालीगत जोखिमों" की सूची में मौलिक अधिकारों (जैसे, भेदभाव) और पर्यावरणीय जोखिमों को काफी हद तक दरकिनार कर देता है, और पारंपरिक एआई सुरक्षा चिंताओं (जैसे, CBRN, साइबर हमला) पर ध्यान केंद्रित करता है। इसके अलावा, "यूनियन बाजार पर महत्वपूर्ण प्रभाव" की आवश्यकता को एक पुराने प्रतिमान के रूप में आलोचित किया गया है जो लोकतांत्रिक क्षरण या जलवायु परिवर्तन जैसे गैर-आर्थिक नुकसानों के लिए अनुपयुक्त है।
• हाइब्रिड सिस्टम विश्लेषण: पेपर "मॉडल-प्लेटफॉर्म एकीकरण" जोखिम को उजागर करता है, जहाँ एआई मॉडल और प्लेटफॉर्म वितरण तंत्र (जैसे, अनुशंसा एल्गोरिदम) के बीच की अंतःक्रिया ऐसे उभरते जोखिम पैदा करती है जिसे न तो DSA और न ही एआई एक्ट अलग-थलग रहकर पर्याप्त रूप से संबोधित कर पाता है।

परिणाम और निष्कर्ष (Results and Findings)

• बड़े पैमाने पर भेदभाव: लेखक पाते हैं कि हालांकि मॉडल के आकार और पूर्वाग्रह के बीच संबंध पर अनुभवजन्य साक्ष्य मिश्रित हैं, लेकिन तैनाती का पैमाना और संरचनात्मक बहिष्कार की अपरिवर्तनीयता बड़े पैमाने पर भेदभाव को एक स्पष्ट प्रणालीगत जोखिम बनाती है। "सबसे उन्नत" मॉडलों पर एआई एक्ट का ध्यान भेदभाव के लिए एक नियामक अंतराल पैदा करता है जो कम उन्नत लेकिन व्यापक रूप से तैनात सिस्टम द्वारा संचालित होता है।
• मतिभ्रम (Hallucinations): पेपर एक विरोधाभास की पहचान करता है: मॉडल की उन्नति के साथ मतिभ्रम की दर अक्सर कम हो जाती है, फिर भी उन्नत मॉडलों की प्रभावशीलता के कारण मतिभ्रम का प्रभाव बढ़ सकता है। वर्तमान एआई एक्ट ढांचा मतिभ्रम को प्रणालीगत जोखिम के रूप में वर्गीकृत करने में संघर्ष करता है क्योंकि वे आवृत्ति के मामले में "सबसे उन्नत" मॉडलों के विशिष्ट नहीं हैं, जिससे गलत सूचना प्रसार के लिए एक संभावित नियामक अंतराल पैदा होता है।
• पर्यावरणीय प्रभाव: लेखक तर्क देते हैं कि एआई ऊर्जा खपत से होने वाला पर्यावरणीय क्षरण अपने पैमाने, परस्पर जुड़ाव (ऊर्जा-जल-जलवायु फीडबैक लूप) और अपरिवर्तनीयता के कारण प्रणालीगत जोखिम की श्रेणी में आता है। हालांकि, एआई एक्ट की बाजार-केंद्रित परिभाषा इन गैर-आर्थिक नुकसानों को प्रणालीगत जोखिम के रूप में वर्गीकृत करना कठिन बनाती है।
• DSA बनाम एआई एक्ट: पाया गया है कि DSA "सबसे उन्नत" प्रतिबंध के संबंध में अधिक "फ्यूचर-प्रूफ" है लेकिन इसमें एक सुसंगत परिभाषा की कमी है। एआई एक्ट एक औपचारिक परिभाषा प्रदान करता है लेकिन यह फ्रंटियर मॉडलों और बाजार प्रभावों पर अपने ध्यान के कारण सीमित है। पेपर निष्कर्ष निकालता है कि DSA, एआई एक्ट की तुलना में प्रणालीगत जोखिम श्रेणियों की पहचान करने में बेहतर काम करता है, फिर भी दोनों हाइब्रिड एआई-प्लेटफॉर्म सिस्टम की विशिष्ट गतिशीलता को संबोधित करने में विफल रहते हैं।

महत्व और दावे (Significance and Claims)
यह पेपर दावा करता है कि यह एआई और प्लेटफॉर्म के बीच की अंतःक्रिया को नियंत्रित करने के लिए एक "वैचारिक आधार और नीति-प्रासंगिक नैदानिक उपकरण" प्रदान करता है। इसका महत्व निम्नलिखित में निहित है:

1. दायरे का विस्तार: यह प्रस्तावित करना कि प्रणालीगत जोखिम मूल्यांकन को फ्रंटियर क्षमताओं और बाजार प्रभावों से आगे बढ़कर सामूहिक नुकसान, मौलिक अधिकार और पर्यावरणीय स्थिरता को शामिल करना चाहिए।
2. नीति सुधार: सिफारिश करना कि यूरोपीय एआई एक्ट को प्रणालीगत जोखिम दायित्वों को "सबसे उन्नत" मॉडल थ्रेशोल्ड से अलग करने और प्रणालीगत जोखिम की परिभाषा में सामूहिक नुकसान और गैर-बाजार प्रभावों को स्पष्ट रूप से शामिल करने के लिए संशोधित किया जाना चाहिए।
3. नियामक समन्वय: एक "पारस्परिक जोखिम विश्लेषण" (reciprocal risk analysis) के लिए तर्क देना जहाँ DSA और एआई एक्ट को अलग-थलग शासन के रूप में नहीं, बल्कि हाइब्रिड सिस्टम को प्रबंधित करने के लिए आवश्यक परस्पर क्रिया करने वाले ढांचों के रूप में देखा जाना चाहिए। लेखक जोर देते हैं कि इस समन्वय के बिना, स्थानीय एआई और प्लेटफॉर्म की विफलताएं तेजी से उन संरचनात्मक व्यवधानों में बदल जाएंगी जिन्हें वर्तमान नियम नियंत्रित नहीं कर सकते।

पेपर एक संतुलित रुख बनाए रखता है, यह स्वीकार करते हुए कि हालांकि यह एक ढांचा और नैदानिक उपकरण प्रदान करता है, इन सुधारों के कार्यान्वयन के लिए विभिन्न नियामक व्यवस्थाओं के बीच समन्वय की आवश्यकता सहित जटिल राजनीतिक और तकनीकी चुनौतियों से गुजरना होगा।