Artificial Intelligence in America and China: Investigating prompt response between Human rights and geopolitical questions
यह अध्ययन प्रकट करता है कि जहाँ अमेरिकी और चीनी लार्ज लैंग्वेज मॉडल्स संयुक्त राज्य अमेरिका के बारे में प्रश्नों को संबोधित करते समय न्यूनतम पूर्वाग्रह प्रदर्शित करते हैं, वहीं वे चीन के संबंध में महत्वपूर्ण भिन्न पैटर्न प्रदर्शित करते हैं, जिसमें क्लॉड (Claude) लगातार कम स्कोर करता है, डीपसीक (DeepSeek) उच्च स्कोर करता है, और चैटजीपीटी (ChatGPT) समूह के औसत की तुलना में अपेक्षाकृत तटस्थ रहता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
पिछले कुछ वर्षों में, एक नए प्रकार का कंप्यूटर प्रोग्राम दैनिक जीवन का एक सामान्य हिस्सा बन गया है। ये प्रोग्राम, जिन्हें लार्ज लैंग्वेज मॉडल्स (large language models) के रूप में जाना जाता है, मानवीय भाषा को आश्चर्यजनक प्रवाह के साथ पढ़ और लिख सकते हैं। उन्हें इंटरनेट से प्राप्त विशाल मात्रा में टेक्स्ट पर प्रशिक्षित किया जाता है, जिससे वे यह सीखते हैं कि एक वाक्य में अगले शब्द क्या होने चाहिए। क्योंकि वे मानवीय बातचीत की नकल करने में इतने कुशल हैं, इसलिए कई लोग अब इतिहास, विज्ञान और समसामयिक घटनाओं के बारे में उत्तर पाने के लिए उनकी ओर मुड़ते हैं। हालाँकि, क्योंकि ये प्रोग्राम उस डेटा से सीखते हैं जो उन्हें खिलाया जाता है, वे उस डेटा के भीतर छिपे विचारों, पूर्वाग्रहों और कमियों को भी आत्मसात कर सकते हैं। यह उन सभी के लिए एक महत्वपूर्ण प्रश्न खड़ा करता है जो सूचना के लिए इन उपकरणों पर भरोसा करते हैं: क्या ये डिजिटल सहायक दुनिया को उसी तरह देखते हैं जैसे हम देखते हैं, या क्या वे अपने स्वयं के छिपे हुए पूर्वाग्रह लेकर चलते हैं?
एक हालिया अध्ययन ने आर्टिफिशियल इंटेलिजेंस (AI) के साथ एक परीक्षण विषय की तरह व्यवहार करके इसका उत्तर देने का प्रयास किया। शोधकर्ता, ज़ियान डिंग, यह देखना चाहते थे कि क्या अलग-अलग कंप्यूटर मॉडल संवेदनशील विषयों जैसे मानवाधिकार और अंतर्राष्ट्रीय राजनीति के बारे में पूछे जाने पर अलग-अलग उत्तर देंगे। इसके लिए, अध्ययन ने उस समय उपलब्ध तीन सबसे लोकप्रिय मॉडलों पर ध्यान केंद्रित किया: दो अमेरिकी कंपनियों के और एक चीनी कंपनी का। लक्ष्य मशीनों के साथ लंबी बातचीत करना नहीं था, बल्कि उनसे प्रश्नों का एक विशिष्ट सेट पूछना और यह देखना था कि वे स्थितियों को एक सरल पैमाने पर कैसे रेट करते हैं। शोधकर्ता ने प्रत्येक मॉडल से सोलह अलग-अलग परिदृश्यों को रेट करने के लिए कहा, जिसमें मानवाधिकारों के बारे में दस प्रश्न और अमेरिका और चीन के बीच भू-राजनीतिक प्रतिस्पर्धा के बारे में छह प्रश्न शामिल थे। प्रत्येक प्रश्न के लिए, मॉडलों को एक से दस तक का स्कोर देना था, जहाँ कम संख्या एक नकारात्मक दृष्टिकोण और उच्च संख्या एक सकारात्मक दृष्टिकोण को दर्शाती थी।
प्रयोग को बहुत सावधानी से डिजाइन किया गया था। परिणामों को निष्पक्ष सुनिश्चित करने के लिए, शोधकर्ता ने हर प्रश्न को एक नए चैट सत्र में पूछा, जिससे यह सुनिश्चित हुआ कि कंप्यूटर पिछले उत्तरों को याद न रखे या पिछली बातचीत से भ्रमित न हो। शोधकर्ता ने अमेरिकी मॉडलों में उस फीचर को भी बंद कर दिया जो उपयोगकर्ता के बारे में विवरण याद रखता है, जिससे यह सुनिश्चित हुआ कि प्रत्येक उत्तर केवल पूछे गए विशिष्ट प्रश्न पर आधारित हो। तीनों अलग-अलग मॉडलों द्वारा दिए गए स्कोर की तुलना करके, अध्ययन ने पैटर्न की तलाश की। यदि तीनों मॉडलों ने समान स्कोर दिए, तो यह सुझाव देता कि वे एक सामान्य, तटस्थ दृष्टिकोण साझा करते हैं। यदि उन्होंने बहुत अलग स्कोर दिए, तो यह सुझाव देता कि प्रत्येक मॉडल का अपना अनूठा दृष्टिकोण है, जो संभवतः उस डेटा से आकार लेता है जिस पर उसे प्रशिक्षित किया गया है।
जब शोधकर्ता ने संयुक्त राज्य अमेरिका के बारे में मॉडलों से पूछा, तो परिणाम काफी हद तक सुसंगत थे, हालांकि इनमें मामूली भिन्नताएं थीं। तीनों कंप्यूटर प्रोग्रामों ने अमेरिकी मानवाधिकारों और भू-राजनीतिक स्थिति से संबंधित अधिकांश प्रश्नों के लिए बहुत समान स्कोर दिए। हालाँकि, इसमें कुछ अपवाद भी थे; उदाहरण के लिए, क्लॉड (Claude) नामक मॉडल ने 6G संचार प्रश्न के लिए एक स्कोर दिया जो औसत से 1.89 अंक कम था, जो अन्य दो मॉडलों से एक उल्लेखनीय विचलन को दर्शाता है। चाहे विषय नस्लीय न्याय के बारे में हो या अंतर्राष्ट्रीय प्रतिस्पर्धा के बारे में, अमेरिकी और चीनी मॉडल आम तौर पर एक-दूसरे के साथ सहमत थे, हालांकि विशिष्ट प्रश्नों ने उनके आकलन में छोटी भिन्नताएं दिखाईं। यह बताता है कि जब अपने देश या एक करीबी सहयोगी का वर्णन करने की बात आती है, तो ये आर्टिफिशियल इंटेलिजेंस सिस्टम आम तौर पर तथ्यों और मूल्यों के एक साझा सेट से काम करते हैं, क्योंकि संभवतः उन सभी को बड़ी मात्रा में पश्चिमी डेटा पर प्रशिक्षित किया गया था।
कहानी पूरी तरह से बदल गई जब प्रश्न चीन की ओर मुड़े। यहाँ, तीनों मॉडल स्पष्ट रूप से अलग हो गए, जिससे विशिष्ट पूर्वाग्रह प्रकट हुए। चीनी मॉडल, डीपसीक (DeepSeek), ने लगातार उच्चतम स्कोर दिए, जो चीन के मानवाधिकार रिकॉर्ड और वैश्विक प्रतिस्पर्धा में उसकी संभावनाओं की एक बहुत ही सकारात्मक तस्वीर पेश करता है। इसने अपने उच्च रेटिंग का समर्थन करने के लिए अक्सर कई अलग-अलग स्रोतों का हवाला दिया, हालांकि इसने शुरुआत में कुछ संवेदनशील प्रश्नों पर उत्तर देने में हिचकिचाहट भी दिखाई। दूसरी ओर, अमेरिकी कंपनी का अमेरिकी मॉडल, क्लॉड, ने सबसे कम स्कोर दिए। इसने अल्पसंख्यक अधिकारों के बारे में प्रश्नों का उत्तर देने से अक्सर इनकार कर दिया, यह कहते हुए कि एक साधारण संख्या इस मुद्दे की जटिलता को नहीं पकड़ सकती। जब इसने उत्तर दिया, तो इसके स्कोर औसत से काफी कम थे, जो चीन के प्रति बहुत अधिक आलोचनात्मक दृष्टिकोण का सुझाव देते हैं।
तीसरा मॉडल, एक अमेरिकी प्रोग्राम, बिल्कुल बीच में स्थित था। इसके स्कोर तीनों के औसत के बहुत करीब थे, जो यह सुझाव देते हैं कि यह अन्य दोनों की तुलना में अपेक्षाकृत तटस्थ बना रहा। यह मध्य मार्ग इंगित करता है कि इस विशिष्ट मॉडल को शायद डेटा के अधिक संतुलित मिश्रण पर प्रशिक्षित किया गया था, या शायद इसे इन विशेष मुद्दों पर कड़ा पक्ष लेने से बचने के लिए अपडेट किया गया था। अध्ययन ने यह भी जांचा कि क्या अमेरिकी मॉडल के मेमोरी फीचर ने उसके उत्तरों को बदला, लेकिन पाया कि इसे चालू या बंद करने से अंतिम स्कोर पर बहुत कम अंतर पड़ा।
निष्कर्ष बताते हैं कि जबकि ये आर्टिफिशियल इंटेलिजेंस उपकरण शक्तिशाली हैं, वे तटस्थ पर्यवेक्षक नहीं हैं। वे उस डेटा को दर्शाते हैं जिससे उन्हें बनाया गया है और उन नियमों को भी जिनका उनके निर्माता द्वारा निर्धारण किया गया है। जब संयुक्त राज्य अमेरिका के बारे में पूछा जाता है, तो वे आम तौर पर सहमत होते हैं, हालांकि कुछ विशिष्ट अपवादों के साथ। जब चीन के बारे में पूछा जाता है, तो वे तीन अलग-अलग कहानियाँ सुनाते हैं। यह महत्वपूर्ण है क्योंकि लाखों लोग, जिनमें कई किशोर भी शामिल हैं, दुनिया के बारे में सीखने के लिए इन उपकरणों का उपयोग करते हैं। यदि कोई युवा विभिन्न देशों में मानवाधिकारों के बारे में कंप्यूटर से पूछता है, तो उसे मिलने वाला उत्तर पूरी तरह से इस बात पर निर्भर करता है कि वह किस कंप्यूटर से पूछ रहा है। अध्ययन निष्कर्ष निकालता है कि उपयोगकर्ताओं को यह जानने की आवश्यकता है कि इन मशीनों के अपने दृष्टिकोण हैं, और जो जानकारी वे प्रदान करती हैं वह हमेशा एक वस्तुनिष्ठ सत्य नहीं है, बल्कि उनके कोड में निर्मित पूर्वाग्रहों का एक प्रतिबिंब है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।