Epistemic Subordination: Generative AI and the Infrastructure of Knowledge

आधुनिक दुनिया में, हम समाचारों का सारांश लिखने, कहानियाँ लिखने और प्रश्नों के उत्तर देने के लिए तेजी से कृत्रिम बुद्धिमत्ता (AI) पर निर्भर होते जा रहे हैं। ये प्रणालियाँ, जिन्हें जनरेटिव एआई (generative AI) के रूप में जाना जाता है, केवल एक डेटाबेस से तथ्यों को प्राप्त नहीं करतीं; वे इंटरनेट से बड़ी मात्रा में टेक्स्ट का अध्ययन करके यह सीखती हैं कि अगला शब्द क्या होना चाहिए। यह प्रक्रिया मानव भाषा का एक सांख्यिकीय मॉडल बनाती है, जहाँ प्रणाली उस पैटर्न को सीखती है जो उसने सबसे अधिक बार पढ़ा है। दशकों से, विशेषज्ञों ने चिंता व्यक्त की है कि ये प्रणालियाँ पक्षपाती हो सकती हैं, जिसका अर्थ है कि वे किसी एक समूह का दूसरे समूह पर अनुचित रूप से पक्षपात कर सकती हैं। सामान्य धारणा यह रही है कि यह पूर्वाग्रह डेटा में विशिष्ट त्रुटियों या उन उपकरणों को बनाने वाले प्रोग्रामरों द्वारा किए गए विकल्पों से आता है। हालाँकि, एक नया दृष्टिकोण सुझाव देता है कि समस्या कहीं अधिक गहरी और संरचनात्मक है। यह केवल यह नहीं है कि एआई गलतियाँ करता है; बल्कि यह है कि एआई दुनिया को कैसे समझता है, इसका आधार ही एक एकल, प्रभावी सोच पद्धति पर बना है, जिससे अन्य सभी प्रकार के ज्ञान को विचलन (deviations) के रूप में देखा जाता है।

दो कानूनी विद्वान, गिलाड अबिरी और इमैनुएल टोविफ, तर्क देते हैं कि यह घटना, जिसे वे 'एपिस्टेमिक सबऑर्डिनेशन' (ज्ञान संबंधी अधीनता) कहते हैं, ज्ञान के संगठन में एक मौलिक बदलाव का प्रतिनिधित्व करती है। वे प्रस्ताव देते हैं कि जनरेटिव एआई कुछ ऐसा करता है जो पिछली किसी भी तकनीक ने नहीं किया है: यह बहुसंख्यक ज्ञान के तरीके को सभी ज्ञान के लिए डिफ़ॉल्ट बुनियादी ढांचे (default infrastructure) के रूप में कूटबद्ध (encode) करता है। इस प्रणाली में, वैश्विक बहुसंख्यक की सांस्कृतिक धारणाएँ, भाषाएँ और तर्क करने की शैलियाँ वह अदृश्य मानक बन जाती हैं, जिसके विरुद्ध बाकी सब कुछ मापा जाता है। नुकसान केवल यह नहीं है कि एआई अनुचित परिणाम देता है, बल्कि यह है कि वह एक ऐसी सांख्यिकीय वास्तविकता का निर्माण करता है जहाँ अल्पसंख्यक संस्कृतियाँ और भाषाएँ संरचनात्मक रूप से नीचे धकेल दी जाती हैं, इसलिए नहीं कि उन्हें बाहर कर दिया गया है, बल्कि इसलिए क्योंकि उन्हें एक एकल, समरूप औसत (homogenized average) में समाहित और सपाट कर दिया गया है। लेखक बताते हैं कि यह मुद्दा उन तीन अलग-अलग समस्याओं को एकीकृत करता है जिन्हें अक्सर अलग माना जाता है: भेदभावपूर्ण आउटपुट, अल्पसंख्यक संस्कृतियों के लिए खतरे, और लोकतांत्रिक बहस का संकुचन। वे पाते हैं कि ये केवल यादृच्छिक त्रुटियाँ नहीं हैं, बल्कि यह उन मॉडलों के निर्माण के तरीके का अपरिहार्य परिणाम है।

इस अधीनता के पीछे की प्रक्रिया तीन स्पष्ट चरणों में विकसित होती है, जिसकी शुरुआत डेटा से होती है। अधिकांश एआई मॉडल इंटरनेट पर उपलब्ध मानवीय अभिव्यक्ति की अनस्ट्रक्चर्ड समग्रता पर प्रशिक्षित होते हैं। यह डिजिटल परिदृश्य तटस्थ नहीं है; यह अत्यधिक रूप से अंग्रेजी-भाषा की सामग्री, पश्चिमी दृष्टिकोणों और ऑनलाइन प्रकाशित करने की शिक्षा और पहुंच रखने वाली आबादी के विचारों के प्रभुत्व में है। जब एक मॉडल इस संग्रह (corpus) से सीखता है, तो वह केवल शब्द नहीं सीखता; वह उस बहुसंख्यक के सांस्कृतिक अनुमानों और मानकीय ढाँचों (normative frameworks) को अपने सांख्यिकमिक डिफ़ॉल्ट के रूप में सीखता है। दूसरा चरण इस डिफ़ॉल्ट को अपरिवर्तनीय बनाता है। प्रशिक्षण के दौरान, डेटा को अरबों सांख्यिकीय मापदंडों (parameters) में संकुचित कर दिया जाता है जिन्हें उनके मूल स्रोतों तक अनपैक या ट्रैक नहीं किया जा सकता है। पुराने कंप्यूटर प्रोग्रामों के विपरीत जहाँ एक प्रोग्रामर किसी विशिष्ट नियम की ओर इशारा कर सकता था जो पूर्वाग्रह का कारण था, ये मॉडल डिज़ाइन के अनुसार अपारदर्शी (opaque) हैं। पूर्वाग्रह किसी एक कोड की पंक्ति या विशिष्ट चर (variable) में नहीं है; यह प्रणाली की पूरी वास्तुकला (architecture) में बुना हुआ है।

तीसरा चरण उन उपकरणों से संबंधित है जिनका उपयोग इन एआई प्रणालियों को सुरक्षित और निष्पक्ष बनाने के लिए किया जाता है, जिसे 'वैल्यू अलाइनमेंट' (मूल्य संरेखण) कहा जाता है। 'रीइन्फोर्समेंट लर्निंग फ्रॉम ह्यूमन फीडबैक' जैसी तकनीकें मॉडल को अधिक विनम्र या कम हानिकारक बनाने के लिए उसके आउटपुट को समायोजित करती हैं। हालाँकि, लेखक तर्क देते हैं कि ये उपकरण केवल आउटपुट को बदलते हैं, अंतर्निहित ज्ञान को नहीं। जब डेवलपर्स एक मॉडल को विविध होने के लिए मजबूर करने की कोशिश करते हैं, तो परिणाम हास्यास्पद हो सकते हैं, जैसे कि नस्लीय रूप से विविध नाजी सैनिकों की छवियां बनाना, क्योंकि मॉडल के आधार में वास्तविक संदर्भगत विविधता का कोई वास्तविक ढांचा नहीं होता है। यह केवल एक सांख्यिकीय डिफ़ॉल्ट को क्रूरता से ओवरराइड करने का प्रयास करता जिसे वह वास्तव में समझ नहीं सकता। फलस्वरूप, नुकसान निर्माण के स्तर पर उत्पन्न होता है, न कि अंतिम उत्तर के स्तर पर। मॉडल केवल पक्षपाती निर्णय ही नहीं देता; बल्कि वह पूरे ज्ञान और संस्कृति को अधीनस्थ बनाता है क्योंकि वह उन्हें उस मानक से विचलन मानता है जिसमें उनकी कोई भूमिका नहीं थी।

यह संरचनात्मक वास्तविकता मौजूदा कानूनों के लिए एक संकट पैदा करती है जो अल्पसंख्यकों की रक्षा के लिए बनाए गए हैं। उदाहरण के लिए, भेदभाव विरोधी कानून एक विशिष्ट निर्णय की तुलना एक तटस्थ आधार रेखा (baseline) से करके काम करते हैं। यदि कोई बैंक किसी संरक्षित समूह को नुकसान पहुँचाने वाले एक विशिष्ट नियम के आधार पर ऋण आवेदक को अस्वीकार करता है, तो कानून उसे रद्द कर सकता है। लेकिन जनरेटिव एआई ऐसा कोई विशिष्ट लक्ष्य प्रदान नहीं करता। भेदभावपूर्ण आउटपुट पूरी वास्तुकला का उत्पाद है, न कि किसी एक पहचान योग्य नियम का। "निर्णय" एक संभाव्य अनुमान (probabilistic guess) है, "मानदंड" अरबों अदृश्य पैरामीटर हैं, और जिम्मेदार "इकाई" डेवलपर्स और तैनात करने वालों की एक श्रृंखला है। इरादे और कारण (intent and causation) के कानूनी उपकरण अपनी पकड़ खो देते हैं क्योंकि नुकसान बहिष्कार का एक विशिष्ट कार्य नहीं है, बल्कि समावेश की एक ऐसी स्थिति है जहाँ अल्पसंख्यक दृष्टिकोणों को समाहित और सपाट कर दिया जाता है।

यह खतरा सांस्कृतिक और भाषाई अधिकारों तक भी विस्तृत है, जिन्हें अल्पसंख्यक संस्थानों को बहुसंख्यक के प्रभुत्व से बचाने के लिए बनाया गया है। पारंपरिक रूप से, एक अल्पसंख्यक स्कूल अपनी भाषा और परंपराओं को संरक्षित करने के लिए अपना स्वयं का पुस्तकालय क्यूरेट कर सकता था या अपना पाठ्यक्रम चुन सकता था। उन प्रौद्योगिकियों में सांस्कृतिक पूर्वाग्रह 'सामग्री' (content) में था, जिसे चुना जा सकता था। जनरेटिव एआई इसके विपरीत कार्य करता है। पूर्वाग्रह मॉडल की वास्तुकला में है। एक अल्पसंख्यक समुदाय अपना स्वयं का फाउंडेशन मॉडल नहीं बना सकता क्योंकि इसकी लागत करोड़ों डॉलर है और आवश्यक डेटा इंटरनेट के आकार के छोटे भाषाओं के लिए मौजूद नहीं है। हालिया परीक्षणों से पता चलता है कि सर्वश्रेष्ठ मॉडल अंग्रेजी में उच्च सटीकता प्राप्त करते हैं, लेकिन स्वाहिली या योरूबा जैसी भाषाओं में काफी गिर जाते हैं। जब कोई धार्मिक स्कूल या अल्पसंख्यक-भाषा वाला कक्षा एक एआई सहायक का उपयोग करता है, तो वह एक ऐसा मानकीय ढांचा आयात करता है जो धर्मनिरपेक्ष, पश्चिमी तर्क पर आधारित होता है। यह तकनीक उन संस्थागत स्थानों में प्रवेश करती है जिनकी रक्षा इन अधिकारों को किया जाना था, और ज्ञान को भीतर से पुनर्गठित करती है जैसा कि पिछले उपकरणों ने कभी नहीं किया।

अंततः, यह घटना लोकतांत्रिक विचार-विमर्श के बुनियादी ढांचे के लिए खतरा पैदा करती है। एक स्वस्थ लोकतंत्र समस्याओं को समझने के लिए वास्तव में विविध ढाँचों की उपलब्धता पर निर्भर करता है। इसके लिए आवश्यक है कि लोग उन दृष्टिकोणों के संपर्क में आएं जिन्हें उन्होंने पहले से नहीं चुना होगा। हालाँकि, यदि जनरेटिव एआई सूचना का प्राथमिक स्रोत बन जाता है, तो यह 'एपिस्टेमिक फील्ड' (ज्ञान क्षेत्र) को समरूप बना देता है। अल्पसंख्यक ढाँचों को सेंसर नहीं किया जाता है; उन्हें मॉडल के प्रशिक्षण डेटा में समाहित किया जाता है लेकिन आउटपुट में संरचनात्मक रूप से अधीनस्थ बनाया जाता है। सार्वजनिक विमर्श समाप्त नहीं होगा, लेकिन यह तेजी से एक ऐसे क्षेत्र के भीतर होगा जो पहले से ही औसत संस्कृति (median culture) तक समतल हो चुका है। दृष्टिकोण बहुलवाद (viewpoint pluralism) की रक्षा के लिए डिज़ाइन किए गए कानूनी ढांचे, जैसे कि मीडिया विविधता के नियम, यह मानते हैं कि विविध ज्ञान स्वतंत्र रूप से मौजूद है और उसे बस जनता तक पहुँचने के लिए एक चैनल की आवश्यकता है। एपिस्टेमिक सबऑर्डिनेशन इस धारणा को ध्वस्त कर देता है, जिससे विविध भाषण उत्पन्न होने वाले क्षेत्र को संकुचित कर दिया जाता है।

लेखक निष्कर्ष निकालते हैं कि वर्तमान कानूनी प्रतिक्रियाएं संरचनात्मक रूप से इस समस्या तक पहुँचने में असमर्थ हैं क्योंकि वे 'डाउनस्ट्रीम' (downstream) कार्य करती हैं, यानी वे यह विनियमित करती हैं कि एआई सिस्टम क्या करते हैं, न कि यह कि वे कैसे बनाए जाते हैं। यूरोपीय संघ के 'एआई एक्ट' या विभिन्न राज्य नियमों जैसे कानून भर्ती या ऋण देने में एआई के अनुप्रयोग, या अंतिम उत्पाद की सुरक्षा पर ध्यान केंद्रित करते हैं। वे प्रशिक्षण डेटा की संरचना या मॉडल की वास्तुकला को संबोधित नहीं करते हैं। निबंध का केंद्रीय दावा यह है कि 'एपिस्टेमिक प्लुरलिज्म' (ज्ञान संबंधी बहुलवाद) की रक्षा के लिए एक मौलिक रूप से भिन्न नियामक अभिविन्यास की आवश्यकता है। कानून को प्रशिक्षण के स्तर पर शासन करने के लिए आगे बढ़ना चाहिए, जो डेटा की संरचना, अलाइनमेंट की विधियों और मॉडल की वास्तुकला को आकार दे सके।

यह केवल एक सैद्धांतिक मांग नहीं है; हालिया शोध सुझाव देते कि हस्तक्षेप करने की तकनीकी क्षमता वास्तविक है। वैज्ञानिकों ने मॉड्यूलर आर्किटेक्चर प्रस्तावित किए हैं जहाँ एक बेस मॉडल विशिष्ट दृष्टिकोणों को संरक्षित करने के लिए छोटे, समुदाय-विशिष्ट मॉडलों का उपयोग करता है। अन्य लोगों ने यह प्रदर्शित किया है कि कैसे कम प्रतिनिधित्व वाली भाषाओं के लिए व्यवस्थित रूप से सांस्कृतिक रूप से आधारित प्रशिक्षण डेटा का निर्माण किया जा सकता है, जिससे यह सुनिश्चित हो सके कि बारीकियों को समतल करने के बजाय संरक्षित किया जाए। ऐसे तरीके भी हैं जिनसे विशिष्ट सांस्कृतिक दृष्टिकोणों का प्रतिनिधित्व करने के लिए सिंथेटिक प्रशिक्षण डेटा तैयार किया जा सकता है और अलाइनमेंट प्रक्रिया को पुनर्गठित किया जा सकता है ताकि यह एक एकल डिफ़ॉल्ट के बजाय मानव मूल्यों के पूर्ण वितरण का प्रतिनिधित्व करे। हालाँकि ये प्रस्ताव पूर्ण समाधान नहीं हैं, फिर भी वे प्रदर्शित करते हैं कि तकनीकी मार्ग मौजूद है। जो अनुपस्थित है वह है राजनीतिक इच्छाशक्ति और वह कानूनी ढांचा जो इन हस्तक्षेपों की आवश्यकता और अनुमति दे सके। आगे का कार्य ऐसे कानून बनाना है जो मॉडल के निर्माण तक पहुँच सकें, यह सुनिश्चित करते हुए कि ज्ञान का बुनियादी ढांचा उस विविधता को अधीनस्थ न बनाए जिसकी सेवा करने का वह दावा करता है।