Do Chinese models speak Chinese languages?
यह अध्ययन प्रकट करता है कि चीन के विविध भाषाई परिदृश्य के बावजूद, इसके प्रमुख ओपन-वेट एलएलएम (LLMs) पश्चिमी मॉडलों के समान ही बहुभाषी प्रदर्शन प्रोफाइल प्रदर्शित करते हैं—जो मंदारिन, फ्रेंच और जर्मन जैसी प्रमुख वैश्विक भाषाओं में उत्कृष्ट हैं जबकि कज़ाख और उइघुर जैसी अल्पसंख्यक भाषाओं का समर्थन करने में अक्सर विफल रहते हैं—जो यह सुझाव देता है कि वैश्विक बेंचमार्किंग अभ्यास और साझा प्रशिक्षण संसाधन स्थानीय प्राथमिकता के बजाय भाषाई क्षमताओं के एक समरूपीकरण को प्रेरित कर रहे हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया की कल्पना एक विशाल, वैश्विक कुकिंग कॉम्पिटिशन (खाना पकाने की प्रतियोगिता) के रूप में करें। विभिन्न देशों के शेफ (मॉडल डेवलपर्स) एक अंतिम "यूनिवर्सल लैंग्वेज पॉट" (सार्वकी भाषा का बर्तन) बनाने की कोशिश कर रहे हैं, जो दुनिया की हर भाषा को समझ सके और बोल सके।
यह पेपर एक विशिष्ट प्रश्न पूछता है: क्या चीन के शेफ, जिनके पास विविध स्थानीय सामग्रियों से भरी एक रसोई है, वास्तव में उन सामग्रियों के साथ खाना पकाते हैं? या वे बस अमेरिका और यूरोप के शेफ द्वारा दिए गए एक ही रेसिपी का पालन करते हैं?
यहाँ उनके निष्कर्षों का विवरण दिया गया, जिसमें सरल उपमाओं (analogies) का उपयोग किया गया है:
1. सेटअप: एक विविध रसोई बनाम एक वैश्विक मेनू
चीन एक विशाल रसोई की तरह है जिसमें 1.4 अरब लोग मंदारिन (Mandarin) बोलते हैं, साथ ही सैकड़ों अन्य स्थानीय बोलियाँ और अल्पसंख्यक भाषाएँ (जैसे उइगर, तिब्बती और कज़ाख) भी हैं। आप उम्मीद करेंगे कि चीनी शेफ के पास एक विशेष लाभ होगा: उनके पास इन स्थानीय सामग्रियों तक आसान पहुँच है।
हालाँकि, यहाँ एक पेच है। प्रतियोगिता जीतने और वैश्विक स्तर पर प्रसिद्ध होने के लिए, उन्हें एक पैनल द्वारा परखा जाता है जो मुख्य रूप से अंग्रेजी बोलता है और अंग्रेजी-आधारित स्कोरकार्ड (बेंचमार्क्स) का उपयोग करता है। यदि आप एक शीर्ष शेफ के रूप में पहचाना जाना चाहते हैं, तो आपको अपने व्यंजन को इन अंग्रेजी बोलने वाले जजों के लिए स्वादिष्ट बनाना होगा।
2. प्रयोग: व्यंजनों का स्वाद चखना
शोधकर्ताओं ने 6 चीनी शेफों (जैसे Qwen, Yi, और DeepSeek) और 4 पश्चिमी शेफों (जैसे Llama और Mistral) के व्यंजनों का स्वाद चखा। उन्होंने 21 अलग-अलग "भाषाओं" पर इनका परीक्षण किया, जिनमें फ्रांसीसी और जर्मन जैसी प्रमुख भाषाओं से लेकर स्थानीय चीनी अल्पसंख्यक भाषाएँ भी शामिल थीं।
उन्होंने भोजन का स्वाद चखने के लिए तीन अलग-अलग तरीकों का उपयोग किया:
- अनुवाद परीक्षण (The Translation Test): क्या मॉडल बिना स्वाद (अर्थ) खोए एक भाषा से दूसरी भाषा में अनुवाद कर सकता है?
- पठन परीक्षण (The Reading Test): क्या मॉडल किसी विदेशी भाषा में कहानी पढ़ सकता है और उस पर सही ढंग से उत्तर दे सकता है?
- नाम का खेल (The Name Game): क्या मॉडल किसी टेक्स्ट को देखकर सही ढंग से कह सकता है कि "यह कज़ाख में लिखा गया है" या "यह तिब्बती में लिखा गया है"?
3. परिणाम: "मंदारिन अपवाद" (The Mandarin Exception)
परिणाम आश्चर्यजनक रूप से समान थे, जिसमें एक बड़ा अपवाद था।
- "क्लोन" प्रभाव (The "Clone" Effect): लगभग हर परीक्षित भाषा (फ्रांसीसी, जर्मन, जापानी, कोरियाई, आदि) के लिए, चीनी मॉडल और पश्चिमी मॉडल लगभग एक जैसा प्रदर्शन करते हैं। ऐसा लगता है जैसे दोनों समूहों के शेफ बिल्कुल एक ही वैश्विक रेसिपी बुक का पालन कर रहे हैं। शोध में पाया गया कि उनके बीच 93% सहसंबंध (correlation) है। यदि कोई पश्चिमी मॉडल फ्रांसीसी में अच्छा था, तो चीनी मॉडल भी उसमें अच्छा था। यदि कोई पश्चिमी मॉडल किसी अल्पसंख्यक भाषा में संघर्ष कर रहा था, तो चीनी मॉडल भी उतना ही संघर्ष कर रहा था।
- मंदारिन की महाशक्ति (The Mandarin Superpower): एकमात्र समय जब चीनी शेफ पश्चिमी लोगों से बेहतर प्रदर्शन कर पाए, वह मंदारिन चीनी के साथ था। क्योंकि उनके पास मंदारिन डेटा तक अधिक पहुँच थी और उन्होंने इस पर ध्यान केंद्रित किया, इसलिए उनका "मंदारिन व्यंजन" पश्चिमी शेफों के संस्करण की तुलना में काफी अधिक स्वादिष्ट था।
- अल्पसंख्यक भाषा की अंध बिंदु (The Minority Language Blind Spot): यह दुखद हिस्सा है। स्थानीय सामग्रियों तक पहुँच होने के बावजूद, चीनी मॉडल चीनी अल्पसंख्यक भाषाओं (जैसे उइगर और कज़ाख) को संभालने में उतने ही खराब थे जितने कि पश्चिमी मॉडल थे। वास्तव में, कई चीनी मॉडल यह भी पहचान नहीं सके कि कोई टेक्स्ट उइगर या कज़ाख में लिखा गया है। उन्होंने इन स्थानीय भाषाओं के साथ ऐसा व्यवहार किया जैसे कि वे अस्तित्व में ही न हों, ठीक वैसे ही जैसे पश्चिमी मॉडलों ने किया।
4. यह क्यों हुआ?
पेपर दो कारणों का सुझाव देता है:
- "ग्लोबल स्कोरकार्ड" का दबाव: प्रसिद्ध होने और फंडिंग पाने के लिए, चीनी डेवलपर्स वैश्विक बेंचमार्क्स जीतने के लिए जुनूनी हैं। ये बेंचमार्क्स मुख्य रूप रूप से अंग्रेजी या प्रमुख यूरोपीय भाषाओं में हैं। इसलिए, अपने अनूठे स्थानीय चीनी डेटा का उपयोग करके एक वास्तव में विविध मॉडल बनाने के बजाय, वे अपने मॉडल को वैश्विक स्कोरबोर्ड पर अच्छा दिखने के लिए अनुकूलित (optimize) करते हैं।
- "मंदारिन-प्रथम" नीति: जबकि चीन का कई भाषाओं को संरक्षित करने का इतिहास रहा है, हालिया नीतियों ने पूरे देश के लिए एक एकल, एकीकृत भाषा बनाने पर ध्यान केंद्रित किया है। AI डेवलपर्स इसी प्रवृत्ति का पालन कर रहे हैं: वे मंदारिन (सुपर लैंग्वेज) को प्राथमिकता देते हैं और बाकी को अनदेखा करते हैं।
निचोड़ (The Bottom Line)
पेपर निष्कर्ष निकालता है कि चीन के पास एक अद्वितीय भाषाई परिदृश्य और अपनी विविध आबादी से जुड़ने के लिए एक मॉडल बनाने की क्षमता होने के बावजूद, चीनी मॉडल "समरूप" (homogenized) हो गए हैं।
वे अनिवार्य रूप रूप से पश्चिमी मॉडलों की कार्बन कॉपी हैं, जिसमें केवल एक छोटा सा अपग्रेड है: वे मंदारिन थोड़ा बेहतर बोलते हैं। उन्होंने अपनी अनूठी स्थिति का उपयोग अपने भीतर बोली जाने वाली सैकड़ों अन्य भाषाओं को बचाने या ऊपर उठाने के लिए नहीं किया है। इसके बजाय, वे सभी एक ही वैश्विक व्यंजन बना रहे हैं, जिससे स्थानीय, अल्पसंख्यक स्वाद शेल्फ पर ही पड़े रह गए हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।