The Universality Myth: Epistemic Exclusion, Structural Power, and AI Governance in the Global South
यह शोध पत्र यह तर्क देता है कि प्रमुख एआई (AI) शासन ढांचों की कथित सार्वभौमिकता एक वैचारिक मिथक है जो ज्ञानमीमांसीय बहिष्करण (epistemic exclusion) के एक संरचनात्मक तंत्र को छिपाती है, जिसमें ग्लोबल साउथ (Global South) की आबादी में एआई प्रणालियों को चुनौती देने के लिए आवश्यक "प्रतिवाद साक्षरता" (contestation literacy) का अभाव होता है, जिससे वैचारिक संसाधन अभाव, विकृत सामाजिक-तकनीकी कल्पनाओं और नौकरशाही संरचनात्मक बाधाओं के संयोजन के माध्यम से तैनात करने वालों (deployers) की शक्ति सुदृढ़ होती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ आर्टिफिशियल इंटेलिजेंस (AI) को बनाने और नियंत्रित करने के नियम एक ऐसी भाषा में लिखे गए हैं जिसे अधिकांश लोग पढ़ नहीं सकते। वैश्विक नेता और प्रमुख संगठन अक्सर यह दावा करते हैं कि ये नियम सभी पर, हर जगह लागू होते हैं, जिन्हें मानवता और ग्रह की रक्षा के लिए डिज़ाइन किया गया है। वे सार्वभौमिक सिद्धांतों की बात करते हैं जो हर राष्ट्र का मार्गदर्शन करने चाहिए। लेकिन एक सूक्ष्म दृष्टि एक अलग वास्तविकता प्रकट करती है: कई समुदायों के लिए, विशेष रूप से ग्लोबल साउथ के लिए—एक ऐसा शब्द जिसका उपयोग यहाँ उन क्षेत्रों के लिए किया गया है जिन्हें ऐतिहासिक रूप से इन तकनीकों के निर्माण से बाहर रखा गया है—ये नियम न केवल पालन करने में कठिन हैं; बल्कि ये अदृश्य भी हैं। इन प्रणालियों के नीचे रहने वाले लोगों के पास अक्सर उन बुनियादी उपकरणों का अभाव होता है जिससे वे यह भी पहचान सकें कि एक आर्टिफिशियल इंटेलिजेंस प्रणाली उनके जीवन के बारें में निर्णय ले रही है, और उस पर सवाल उठाने की क्षमता तो दूर की बात है। यह केवल अधिक शिक्षा या बेहतर इंटरनेट एक्सेस की आवश्यकता का मामला नहीं है। यह एक संरचनात्मक अंतराल है जहाँ इन प्रणालियों को समझने और उन्हें चुनौती देने के लिए आवश्यक अवधारणाएँ सार्वजनिक चर्चा से गायब हैं।
यह अंतराल ही है जिसकी जांच आरवी यूनिवर्सिटी (RV University) के शोधकर्ता अमुल्या एन और अश्विनी प्रसाद एस ने करने का प्रयास किया है। उनका तर्क है कि "सार्वभौमिक" AI शासन का विचार एक भ्रम है जो वास्तव में सत्ता में बैठे लोगों की मदद करता है। लेखक सुझाव देते हैं कि जबकि तकनीकी कंपनियाँ और सरकारें लोगों को AI उत्पादों का उपयोग करना सिखाने में व्यस्त हैं—जैसे स्क्रॉल करना, क्लिक करना और इंटरैक्ट करना—वे उन्हें इनका शासन (govern) करना नहीं सिखा रहे हैं। एक उपकरण का उपयोग करने का ज्ञान होने और उस उपकरण के निर्माता को जवाबदेह ठहराने का ज्ञान होने के बीच एक महत्वपूर्ण अंतर है। यह शोध पत्र प्रतिपादित करता है कि "प्रतिवाद योग्यता" (contestability)—यानी एक प्रणाली को कुछ ऐसा देखने की क्षमता जिसे प्रश्न किया जा सके और विनियमित किया जा सके—का अभाव कोई दुर्घटना नहीं है। यह इस बात का एक कार्यात्मक हिस्सा है कि शक्ति कैसे काम करती है। जब लोग प्रणाली को देख नहीं पाते, तो वे उसे चुनौती नहीं दे सकते, और इससे उन कंपनियों को बदलाव के लिए कोई दबाव महसूस नहीं होता जो इसे बना रही हैं।
इस प्रक्रिया को समझने के लिए, शोधकर्ताओं ने दो बहुत अलग स्थानों को देखा: भारत और उप-सहारा अफ्रीका के देश। उन्होंने इन स्थानों को इसलिए चुना ताकि यह दिखाया जा सके कि यह समस्या केवल एक देश या एक प्रकार की सरकार तक सीमित नहीं है। भारत में, जो अपने स्वयं के शक्तिशाली तकनीकी उद्योग और एक बड़े सरकार वाला राष्ट्र है, समस्या भीतर से आती है। सरकार ने एक प्रमुख डेटा संरक्षण कानून पारित किया, लेकिन संसद में इस पर बहस केवल लगभग दो घंटे चली, और अंतिम कानून में स्वयं राज्य के लिए व्यापक छूट शामिल थी। जनता, जो मुख्य रूप से आर्टिफिशियल इंटेलिजेंस के विवरणों से अनभिज्ञ थी, के पास बेहतर सुरक्षा उपायों की मांग करने के लिए न तो शब्दावली थी और न ही राजनीतिक दबाव। परिणाम स्वरूप एक ऐसा कानून बना जो कागज़ पर सुरक्षात्मक दिखता था लेकिन आम नागरिकों को वास्तविक सुरक्षा देने में बहुत कम था। उप-सहारा अफ्रीका में, समस्या बाहर से आती है। वहाँ के देश यूरोप या संयुक्त राज्य अमेरिका द्वारा बनाए गए AI सिस्टम और शासन के नियमों को अपना रहे हैं, जो अक्सर उन्हें लागू करने के लिए आवश्यक स्थानीय संस्थानों या विशेषज्ञता के बिना होते हैं। उन्हें बताया जाता है कि ये नियम सार्वभौमिक हैं, लेकिन क्योंकि इन्हें अलग सामाजिक परिवेश के लिए डिज़ाइन किया गया था, इसलिए वे अक्सर स्थानीय आबादी की रक्षा करने में विफल रहते हैं, जिससे वे ऐसी प्रणालियों के अधीन हो जाते हैं जिनका वे ऑडिट या समझ नहीं सकते।
शोधकर्ताओं ने पाया कि यह अदृश्यता दो मुख्य शक्तियों द्वारा बनाए रखी जाती है। पहला, जागरूकता का अभाव। बहुत से लोग बस यह नहीं जानते कि AI उनके ऋण, उनके कल्याणकारी लाभों या उनकी सुरक्षा के बारे में निर्णय ले रहा है। दूसरा, एक प्रकार की गलत सूचना है, जहाँ लोग AI के बारे में जानते तो हैं लेकिन केवल विशिष्ट कहानियों के माध्यम से जो वास्तविक खतरों को छिपाती हैं। कुछ को बताया जाता है कि AI एक जादुई समाधान है जो सभी विकास संबंधी समस्याओं को हल कर देगा, जबकि अन्य को एक साइंस-फिक्शन रोबोट के कब्ज़े के डर के बारे में बताया जाता है। ये दोनों कहानियाँ वास्तविक, शांत नुकसान से ध्यान भटकाती हैं: ऐसे एल्गोरिदम जो भेदभाव करते हैं, वह डेटा जो चोरी किया जाता है, और वह बुनियादी ढांचा जो स्थानीय सहमति के बिना बनाया जाता है। यह शोध पत्र तर्क देता है कि ये कहानियाँ केवल गलतफहमियाँ नहीं हैं; ये संरचनात्मक विशेषताएं हैं जो लोगों को सही प्रश्न पूछने से रोकती हैं।
अध्ययन के सबसे चौंकाने वाले निष्कर्षों में से एक यह है कि यह अंधापन उन सरकारी अधिकारियों तक भी फैला हुआ है जो उन डेटा केंद्रों के निर्माण को मंजूरी देते हैं जो इन प्रणालियों को शक्ति प्रदान करते हैं। भारत में, एक एकल डेटा केंद्र को विभिन्न सरकारी एजेंसियों से तीस अलग-अलग परमिटों की आवश्यकता हो सकती है। एक अधिकारी भवन निर्माण अनुमति या बिजली कनेक्शन को मंजूरी दे सकता है, बिना यह जाने कि वह इमारत आर्टिफिशियल इंटेलिजेंस प्रणाली के लिए एक डेटा सेंटर है। कागजी कार्रवाई में वह जानकारी नहीं मांगी जाती है और अधिकारी के कार्य विवरण में AI के व्यापक प्रभाव को समझना शामिल नहीं है। वे भ्रष्ट नहीं हैं; वे बस अनभिज्ञ हैं। वे एक विशाल शासन प्रणाली को सक्षम बना रहे हैं जबकि इसके अस्तित्व से पूरी तरह अनजान हैं। यह एक ऐसी स्थिति पैदा करता है जहाँ जो लोग प्रभारी होने चाहिए, वे वास्तव में उन नागरिकों की तरह ही ज्ञान से बाहर हैं जिनकी वे सेवा करते हैं।
यह अध्ययन इस सामान्य धारणा को चुनौती देता है कि समाधान केवल अधिक लोगों को तकनीक के बारे में सिखाना है। लेखक तर्क देते हैं कि लोगों को AI का उपयोग करना सिखाना समस्या को ठीक नहीं करता यदि सत्ता में बैठे लोगों के पास खराब प्रणालियों को रोकने की कानूनी शक्ति नहीं है, या यदि कानून स्वयं शक्तिशाली लोगों को छूट देने के लिए लिखे गए हैं। बातचीत में अधिक आवाजों को जोड़ने से तब तक कोई मदद नहीं मिलती जब तक कि बातचीत उस भाषा में हो रही हो जिसे वे आवाजें बोल नहीं सकतीं, या यदि बातचीत के नियम उन लोगों द्वारा तय किए जाते हैं जिन्हें सुनने की आवश्यकता नहीं है। यह शोध पत्र निष्कर्ष निकालता है कि सार्वभौमिक AI शासन का दावा एक मिथक है जो उन लोगों के हितों की सेवा करता है जो इन प्रणालियों को बनाते और तैनात करते हैं। यह उन्हें यह दावा करने की अनुमति देता है कि वे वैश्विक मानकों का पालन कर रहे हैं, जबकि वे एक ऐसे स्थान में काम कर रहे हैं जहाँ कोई भी यह जाँच नहीं सकता कि क्या वे मानक वास्तव में पूरे किए जा रहे हैं। जब तक उन लोगों को, जो इन प्रणालियों के अधीन रह रहे हैं, दर्पण को उसके वास्तविक रूप में देखने के लिए वैचारिक उपकरण नहीं दिए जाते, तब तक आर्टिफिशियल इंटेलिजेंस के भविष्य को आकार देने की शक्ति उनकी पहुँच से बाहर रहेगी।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।