Whose story gets told? ChatGPT, collective memory, and ethical narratives in the age of Artificial Intelligence
यह शोधपत्र तर्क देता है कि जहाँ चैटजीपीटी (ChatGPT) जैसे एआई (AI) उपकरण ऐतिहासिक ज्ञान तक पहुँच का लोकतंत्रीकरण कर सकते हैं, वहीं वे एल्गोरिदम संबंधी पूर्वाग्रहों और तथ्यात्मक विसंगतियों के माध्यम से सामूहिक स्मृति को विकृत करने का जोखिम भी उठाते है, जिसके लिए नैतिक रूप से आधारित मानवीय निरीक्षण की आवश्यकता है ताकि यह सुनिश्चित किया जा सके कि ऐतिहासिक वृत्तांत स्वचालित प्रतिनिधित्व के बजाय आलोचनात्मक चिंतन के उत्पाद बने रहें।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
डिजिटल युग में, अतीत की हमारी समझ अब केवल धूल भरी अभिलेखागारों या बुजुर्गों की यादों में ही संग्रहित नहीं है। यह इंटरनेट के विशाल, परस्पर जुड़े नेटवर्क में जीवित है, जहाँ कृत्रिम बुद्धिमत्ता (आर्टिफिशियल इंटेलिजेंस) प्रणालियाँ नए द्वारपाल (गेटकीपर) के रूप में कार्य करती हैं। ये प्रणालियाँ, जिन्हें 'लार्ज लैंग्वेज मॉडल्स' कहा जाता है, मानव लेखन के विशाल संग्रहों पर प्रशिक्षित होती हैं। वे केवल तथ्यों को पुनः प्राप्त नहीं करतीं; बल्कि वे कहानियाँ और उत्तर बनाने के लिए सूचनाओं का संश्लेषण करती हैं। यह इतिहासकारों और समाजशास्त्रियों के लिए एक गहरा प्रश्न खड़ा करता है: जब हम किसी मशीन से किसी युद्ध या संघर्ष के बारे में बताने के लिए कहते हैं, तो हमें किसका संस्करण प्राप्त होता है? "सामूहिक स्मृति" की अवधारणा उस साझा कहानी को संदर्भित करती है जो एक समूह अपने अतीत के बारे में स्वयं को बताता है, एक ऐसी कहानी जो यह निर्धारित करती है कि वे कौन हैं। यदि कोई एल्गोरिदम यह तय करता है कि किन विवरणों को शामिल किया जाए, किन्हें छोड़ दिया जाए, या किसी त्रासदी को कैसे प्रस्तुत किया जाए, तो वह प्रभावी रूप से उस साझा स्मृति को नया आकार देता है। चिंता केवल एक तारीख गलत होने के बारे में नहीं है, बल्कि इस बारे में है कि क्या ये उपकरण इतिहास के खुरदरे, दर्दनाक किनारों को सुचारू बना सकते हैं, जिससे जटिल मानवीय संघर्षों को तटस्थ, निर्दለት सारांशों में बदल दिया जाए जो सत्य के बजाय तकनीक के रचनाकारों के हितों की सेवा करते हों।
शोधकर्ताओं की एक टीम ने ठीक यही परीक्षण करने के लिए हाथ बढ़ाया कि ये कृत्रिम बुद्धिमत्ता उपकरण इतिहास की जटिल वास्तविकता को कैसे संभालते हैं। उन्होंने तकनीक के एक विशिष्ट, शक्तिशाली संस्करण पर ध्यान केंद्रित किया जिसे 'चैटजीपीटी' (ChatGPT) कहा जाता है, और उससे चार प्रमुख बहुराष्ट्रीय संघर्षों की कहानियाँ दोहराने को कहा: यूगोस्लाविया के टूटने के बाद हुए युद्ध, इज़राइल और फिलिस्तीन के बीच लंबे समय से चल रहा संघर्ष, अफ्रीका में पुर्तगाल द्वारा लड़े गए औपनिवेशिक युद्ध, और वियतनाम युद्ध। यह देखने के लिए कि क्या मशीन सभी को एक ही कहानी सुनाती है, शोधकर्ताओं ने केवल अंग्रेजी में ही नहीं पूछा। उन्होंने प्रत्येक संघर्ष में शामिल लोगों की मूल भाषाओं, जैसे कि क्रोएशियाई, सर्बियाई, अरबी, हिब्रू, पुर्तगाली और वियतनामी में समान प्रश्न पूछे। उन्होंने चैटबॉट को केवल एक खोज इंजन (सर्च इंजन) के रूप में नहीं, बल्कि एक बातचीत में सक्रिय भागीदार के रूप में माना, और बारीकी से देखते रहे कि वह अपने उत्तरों का निर्माण कैसे करता है, वह क्या याद रखता है, और वह क्या भूल जाता है।
परिणामों ने खुलासा किया कि मशीन एक तटस्थ पर्यवेक्षक होने से बहुत दूर है। एक एकल, सुसंगत इतिहास प्रदान करने के बजाय, एआई ने उपयोग की गई भाषा के आधार पर अलग-अलग आख्यान (नैरेटिव) प्रस्तुत किए। जब शोधकर्ताओं ने अलग-अलग भाषाओं में एक ही घटना के बारे में पूछा, तो उत्तर अक्सर एक-दूसरे के विरोधाभासी निकले। उदाहरण के लिए, पूर्व यूगोस्लाविया के युद्धों की सबसे महत्वपूर्ण अंतिम घटना की पहचान करने के लिए जब पूछा गया, तो अंग्रेजी संस्करण ने 2001 में उत्तरी मैसेडोनिया में एक शांति समझौते की ओर संकेत किया। क्रोएशियाई संस्करण 1995 के एक शांति समझौते पर रुक गया, जबकि सर्बियाई संस्करण ने एक सैन्य नेता के 2022 के मुकदमे तक टाइमलाइन को विस्तृत किया। ये केवल शब्दों के मामूली बदलाव नहीं थे; ये इस बारे में मौलिक रूप से भिन्न कहानियाँ थीं कि संघर्ष कब समाप्त हुआ और क्या महत्वपूर्ण था। अध्ययन में पाया गया कि एआई अक्सर उस भाषा का प्रतिबिंब होता था जिसे वह बोल रहा था, जो उस क्षेत्र के आधिकारिक राष्ट्रीय आख्यानों को दर्शाता था, जिससे वह एक संतुलित, वैश्विक दृष्टिकोण देने के बजाय उस विशिष्ट राजनीतिक परिप्रेक्ष्य को सुदृढ़ करता था।
इन विसंगतियों के अलावा, शोधकर्ताओं ने त्रुटियों और चूक के एक पैटर्न की पहचान की जिसने ऐतिहासिक रिकॉर्ड को विकृत कर दिया। एआई अक्सर तारीखें और नाम गलत बताता था, कभी-कभी ऐसी घटनाओं का आविष्कार करता था जो कभी हुई ही नहीं थीं या युद्धों के क्रम को मिला देता था। अधिक चिंताजनक बात यह थी कि मशीन क्या छोड़ देती थी। मददगार होने के प्रयास में, वह अक्सर महत्वपूर्ण विवरणों को छोड़ देती थी, जैसे कि अत्याचारों के विशिष्ट पीड़ित, कुछ सैन्य बलों की भूमिका, या युद्ध के जटिल कारण। एक उदाहरण में, एआई ने पुर्तगाली उपनिवेशों के युद्धों को एक एकल, सरल कहानी के रूप में वर्णित किया, जिससे विभिन्न देशों के अलग-अलग संघर्षों को एक सपाट आख्यान में मिला दिया गया। इस "सरलीकरण" ने प्रत्येक संघर्ष की अद्वितीय राजनीतिक और सामाजिक वास्तविकताओं को छीन लिया। अध्ययन में "तटस्थता" (न्यूट्रलाइजेशन) की प्रवृत्ति भी देखी गई, जहाँ एआई दोष मढ़ने से बचने के लिए अस्पष्ट भाषा का उपयोग करता था। यह एक नरसंहार को दोषियों का नाम लिए बिना एक "त्रासद घटना" या "अपराध" के रूप में वर्णित करता था, जिससे प्रभावी रूप रूप से शामिल पक्षों की विशिष्ट जिम्मेदारी मिट जाती थी।
शोधकर्ताओं ने निष्कर्ष निकाला कि ये लार्ज लैंग्वेज मॉडल्स न केवल अतीत को प्रतिबिंबित कर रहे हैं, बल्कि वे इसे सक्रिय रूप से नया आकार दे रहे हैं। क्योंकि एआई उसी डेटा से सीखता है जो उसे दिया जाता है, वह उस डेटा के पूर्वाग्रहों और कमियों को भी विरासत में प्राप्त करता है। जब यह किसी युद्ध के बारे में कहानी बनाता है, तो यह एक पूर्ण, वस्तुनिष्ठ रिकॉर्ड से नहीं निकाल रहा होता है। इसके बजाय, यह अपने प्रशिक्षण के पैटर्न के आधार पर अगले संभावित शब्दों की भविष्यवाणी करता है, जो अक्सर अपने डेटाबेस में सबसे आम या प्रमुख आवाजों को प्राथमिकता देता है। इसका अर्थ यह है कि उन उपयोगकर्ताओं के लिए जो ऐतिहासिक ज्ञान के लिए इन उपकरणों पर निर्भर हैं, अतीत आलोचनात्मक चिंतन के बजाय एल्गोरिदम के तर्क का एक उत्पाद बन जाता है। अध्ययन सुझाव देता है कि मानवीय निरीक्षण और एक मजबूत नैतिक ढांचे के बिना, हम अपने साझा इतिहास की जटिलता को एक ऐसी मशीन के हाथों खोने का जोखिम उठाते है जो सुचारू, सरल और कभी-कभी विरोधाभासी कहानियों को पसंद करती है। यह निर्णय लेने की शक्ति कि कौन सी कहानियाँ सुनाई जाएँगी, और उन्हें कैसे बताया जाएगा, इतिहासकारों और समुदायों से हटकर उन कोड और डेटा की ओर स्थानांतरित हो गई है जो इन डिजिटल प्रणालियों को संचालित करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।