Same question, different history: language, national identity, and credit in large language models
यह अध्ययन प्रदर्शित करता है कि बड़े भाषा मॉडल सांस्कृतिक स्मृति की वितरित प्रणालियों के रूप में कार्य करते हैं जहाँ क्वेरी भाषा व्यवस्थित रूप से विभिन्न राष्ट्रीय आख्यानों को सक्रिय करने वाले एक स्विच के रूप में कार्य करती है, जिससे जब उनकी संबंधित भाषाओं में प्रश्न पूछे जाते हैं तो कम-स्तर के ऐतिहासिक दावेदार अधिक बार सामने आते हैं जबकि प्रमुख एंग्लोफोन (अंग्रेजी भाषी) व्यक्तित्व सभी भाषाओं में स्थिर रहते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक जादुई, अत्यंत बुद्धिमान पुस्तकालयाध्यक्ष (लाइब्रेरियन) है जिसने अब तक लिखी गई लगभग हर किताब, लेख और वेबसाइट को पढ़ा है। आप उससे एक सरल प्रश्न पूछते हैं: "रेडियो का आविष्कार किसने किया?"
यदि आप अंग्रेजी में पूछते हैं, तो लाइब्रेरियन कहता है, "गुग्लिएल्मो मार्कोनी।"
यदि आप रूसी में पूछते हैं, तो वह कहता है, "अलेक्जेंडर पोपोव।"
यदि आप चीनी में पूछते हैं, तो वह कहता है, "बी शेंग" (प्रिंटिंग के लिए)।
आपको लग सकता है कि लाइब्रेरियन भ्रमित है या झूठ बोल रहा है। लेकिन इस शोध पत्र के अनुसार, लाइब्रेरियन भ्रमित नहीं है। लाइब्रेरियन वास्तव में एक गिरगिट (चैमेलियन) की तरह व्यवहार कर रहा है। उत्तर इसलिए नहीं बदलता क्योंकि लाइब्रेरियन अपना विचार बदल रहा है, बल्कि इसलिए क्योंकि आप जिस भाषा का उपयोग प्रश्न पूछने के लिए करते हैं वह एक स्विच की तरह काम करती है जो मशीन के भीतर एक विशिष्ट "राष्ट्रीय स्मृति" को सक्रिय कर देती है।
यहाँ शोधकर्ताओं द्वारा की गई खोजों का सरल उपमाओं (analogies) के माध्यम से विवरण दिया गया है:
1. "गिरगिट" प्रभाव (The "Chameleon" Effect)
शोधकर्ताओं ने 11 अलग-अलग AI चैटबॉट्स (जैसे कि ChatGPT के पीछे के बॉट्स) का 21 विभिन्न ऐतिहासिक विवादों (जैसे "टेलीफोन का आविष्कार किसने किया?") के साथ परीक्षण किया। उन्होंने 12 अलग-अलग भाषाओं में एक ही प्रश्न पूछे।
उन्होंने पाया कि AI केवल तथ्यों को प्राप्त नहीं करता; यह कहानियों को प्राप्त करता है।
- स्विच: जब आप एक विशिष्ट भाषा (जैसे रूसी) में प्रश्न पूछते हैं, तो AI अपने प्रशिक्षण डेटा (training data) में संग्रहीत "रूसी संस्करण" के इतिहास को निकाल लेता है। उस संस्करण में, पोपोव एक नायक है।
- परिणाम: यदि आप रूसी में पूछते हैं, तो उत्तर में पोपोव 85% बार दिखाई देता है। यदि आप किसी अन्य भाषा में पूछते हैं, तो वह केवल लगभग 48% बार दिखाई देता है।
- अपवाद: बहुत प्रसिद्ध, शक्तिशाली हस्तियों (जैसे अलेक्जेंडर ग्राहम बेल या राइट ब्रदर्स) के लिए, AI एक ही उत्तर देता है चाहे आप कोई भी भाषा बोलें। वे इतिहास के "ग्लोबल सेलिब्रिटी" हैं जो हर जगह दिखाई देते हैं। लेकिन अन्य राष्ट्रों के "स्थानीय नायकों" के लिए, AI उन्हें केवल तभी दिखाता है जब आप उनकी भाषा बोलते हैं।
2. "बनाल" राष्ट्रवाद (The "Banal" Nationalism)
लेखक इसे "बनाल राष्ट्रवाद" कहते हैं।
एक इमारत पर लटके झंडे के बारे में सोचें। आप इसे हर दिन नहीं देखते; यह बस पृष्ठभूमि का हिस्सा है। लेकिन यह लगातार आपको याद दिलाता है, "यह हमारा देश है।"
AI भी ऐसा ही करता है, लेकिन अदृश्य रूप से। यह झंडा नहीं लहराता या राष्ट्रगान नहीं गाता। यह बस आपके प्रश्न का उत्तर देता है। लेकिन रूसी में उत्तर देकर और एक रूसी नायक का नाम लेकर, यह चुपचाप इस विचार को पुख्ता करता है कि "यह रूसी कहानी है।" यह सूक्ष्म रूप से कहने का एक रोजमर्रा का तरीका है, "हम अपने स्वयं के को याद रखते हैं।"
3. "इरेज़र" बनाम "हाइलाइटर" (The "Eraser" vs. The "Highlighter")
शोधकर्ताओं ने इस बात की जांच की कि AI कितनी बार कहानी के दूसरे पक्ष को पूरी तरह से अनदेखा कर देता है (जिसे "मिटा देना" या erasure कहा जाता है)।
- इरेज़र (मिटाने वाला): कभी-कभी, AI कहेगा, "बेल ने टेलीफोन का आविष्कार किया," और मेउची (Meucci) के बारे में कुछ नहीं कहेगा। ऐसा अक्सर तब होता है जब एक शक्तिशाली अंग्रेजी बोलने वाला दावेदार (जैसे बेल) और एक कमजोर प्रतिद्वंद्वी मौजूद हो।
- हाइलाइटर (हाइलाइट करने वाला): हालाँकि, यदि आप AI से दोनों लोगों के बारे में पूछते हैं ("बेल या मेउची, किसने आविष्कार किया?"), तो AI दूसरे व्यक्ति को मिटाने की संभावना बहुत कम हो जाती है। प्रश्न में नाम डालना एक सुरक्षा जाल की तरह कार्य करता है, जो AI को उस व्यक्ति के अस्तित्व को स्वीकार करने के लिए मजबूर करता है।
4. "मेमोरियल" संबंध (The "Memorial" Connection)
अध्ययन ने इस बात के बीच एक मजबूत संबंध पाया कि एक देश किसी आविष्कारक का कितना "उत्सव मनाता है" (मूर्तियाँ, छुट्टियाँ या स्कूली पाठों के माध्यम से) और AI कितनी बार उनका उल्लेख करता है।
- उपमा: एक शहर के चौक की कल्पना करें। यदि कोई देश किसी आविष्कारक की एक बड़ी मूर्ति बनाता है, तो वह आविष्कारक AI के प्रशिक्षण डेटा में "मुखर" (loud) होता है। जब आप उस देश की भाषा में पूछते हैं, तो AI उस मुखर आवाज को स्पष्ट रूप से सुनता है।
- आश्चर्य: उन आविष्कारकों के लिए भी जिनके पास कोई मूर्ति या छुट्टी नहीं है, AI अभी भी उनकी मातृभाषा में पूछने पर उनका अधिक उल्लेख करता है। इससे पता चलता है कि AI उस भाषा के सामान्य "शोर"—समाचार, कहानियों और रोजमर्रा की बातचीत—को पकड़ रहा है, न कि केवल आधिकारिक स्मारकों को।
5. "सार्वभौमिक" भ्रम (The "Universal" Illusion)
यह शोध पत्र तर्क देता है कि हम अक्सर इन AI उपकरणों को तटस्थ, सार्वभौमिक पुस्तकालयों के रूप में देखते हैं। हम सोचते हैं, "यदि मैं एक ही प्रश्न पूछता हूँ, तो मुझे एक ही सत्य मिलना चाहिए।"
अध्ययन दिखाता है कि यह सच नहीं है। AI एक ट्रैवल गाइड की तरह है जो विभिन्न बोलियाँ बोलता है।
- यदि आप अंग्रेजी बोलते हैं, तो गाइड आपको इतिहास का "ग्लोबल/इंग्लिश" संस्करण दिखाता है।
- यदि आप पुर्तगाली बोलते हैं, तो वह आपको "ब्राज़ीलियाई/पुर्तगाली" संस्करण दिखाता है।
खतरा यह नहीं है कि AI झूठ बोल रहा है; खतरा यह है कि यह इन विभिन्न संस्करणों को ऐसे प्रस्तुत करता है जैसे कि वे एकमात्र संस्करण हों। यदि आप अंग्रेजी में पूछते हैं, तो आपको कभी पता नहीं चल पाएगा कि किसी अन्य देश के पास हवाई जहाज का आविष्कार करने वाले के बारे में पूरी तरह से अलग कहानी है, क्योंकि AI ने उसका उल्लेख नहीं किया।
सारांश
शोध पत्र निष्कर्ष निकालता है कि ये AI मॉडल केवल "तथ्य मशीनें" नहीं हैं। ये स्मृति मशीनें हैं जो सूक्ष्म रूप से हमारे इतिहास को याद रखने के तरीके को आकार देती हैं। वे एक डिजिटल दर्पण की तरह कार्य करते हैं: यदि आप अपनी भाषा में उन्हें देखते हैं, तो आप अपने स्वयं के राष्ट्रीय नायकों को देखते हैं। यदि आप दूसरी भाषा में देखते हैं, तो आप नायकों का एक अलग सेट देख सकते हैं, या आप अपने स्थानीय इतिहास के बारे में कुछ भी नहीं देख सकते हैं।
आप जिस भाषा का उपयोग प्रश्न पूछने के लिए करते हैं, वह केवल उत्तर में शब्दों को नहीं बदलती; वह यह बदल देती है कि AI अतीत के किस संस्करण को आपको दिखाने का निर्णय लेता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।