Multilingual Language Models Encode Script Over Linguistic Structure
यह शोधपत्र प्रदर्शित करता है कि कॉम्पैक्ट बहुभाषी भाषा मॉडल मुख्य रूप से अमूर्त भाषाई संरचनाओं के बजाय सतही स्तर के वर्तनी संबंधी संकेतों (orthographic cues) के इर्द-गिर्द अपने आंतरिक निरूपणों को व्यवस्थित करते हैं, जिसमें वास्तविक टाइपोलॉजिकल अमूर्तन गहरी परतों में धीरे-धीरे उभरता है बिना एक एकीकृत इंटरलिंगुआ (interlingua) बनाए।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक बहुभाषी AI मॉडल की कल्पना एक विशाल, हलचल भरी लाइब्रेरी के रूप में करें जहाँ दुनिया के हर देश की किताबें रखी गई हैं। लाइब्रेरियन (AI के आंतरिक न्यूरॉन्स) इन किताबों को व्यवस्थित करने की कोशिश कर रहे हैं ताकि वे किसी भी भाषा में सवालों के जवाब दे सकें।
लंबे समय तक, शोधकर्ताओं को उम्मीद थी कि उनके दिमाग में एक गुप्त, सार्वभौमिक "रोसेटा स्टोन" (Rosetta Stone) है—अर्थ समझने का एक आदर्श, अमूर्त तरीका जो अंग्रेजी, हिंदी, चीनी और रूसी के लिए एक समान काम करता है। उन्हें लगा था कि लाइब्रेरियन किताब के कवर (लिपि/स्क्रिप्ट) को अनदेखा कर देते हैं और केवल अंदर की कहानी पर ध्यान केंद्रित करते हैं।
यह शोध पत्र, "Encode Script Over Linguistic Structure," इस विचार को पूरी तरह उलट देता है। लेखकों (IIT दिल्ली के) ने पर्दे के पीछे झाँकने के लिए लाइब्रेरी में प्रवेश किया और पाया कि यह कुछ चौंकाने वाला है: लाइब्रेरियन कहानी के अंदर की कहानी से कहीं अधिक किताब के कवर की परवाह करते हैं।
सरल उपमाओं का विवरण यहाँ दिया गया है:
1. "कवर" "कहानी" से अधिक महत्वपूर्ण है (लिपि बनाम भाषा)
कल्पना कीजिए कि आपके पास एक बिल्ली की कहानी है।
- परिदृश्य A: कहानी अंग्रेजी (लैटिन वर्णमाला) में लिखी गई है।
- परिदृश्य B: वही कहानी हिंदी (देवनागरी लिपि) में लिखी गई है।
- परिदृश्य C: कहानी हिंदी में है, लेकिन इसे लैटिन अक्षरों में लिप्यंतरित (transliterated) किया गया है (जैसे "Hindi" को "Hindi" लिखना)।
शोधकर्ताओं ने पाया कि AI इन तीनों परिदृश्यों को तीन पूरी तरह से अलग लाइब्रेरी मानता है।
- जब AI हिंदी लिपि देखता है, तो वह एक विशिष्ट सेट के "लाइब्रेरियन" का उपयोग करता है।
- जब वह रोमनकृत हिंदी (लैटिन अक्षर) देखता है, तो वह एक बिल्कुल अलग सेट के लाइब्रेरियन का उपयोग करता है।
- महत्वपूर्ण बात यह है कि "रोमनकृत हिंदी" वाले लाइब्रेरियन "अंग्रेजी" वाले लाइब्रेरियन से बात भी नहीं करते, भले ही वे दोनों एक ही वर्णमाला का उपयोग करते हों। वे अपने ही अलग, पृथक कमरों में फंसे हुए हैं।
मुख्य निष्कर्ष: AI वास्तव में "हिंदी" को एक अवधारणा के रूप में नहीं समझता है। वह "देवनागरी में लिखी गई हिंदी" और "लैटिन अक्षरों में लिखी गई हिंदी" को दो पूरी तरह से अलग चीजें समझता है। वह खुद को भाषा के बजाय अक्षरों के दृश्य आकार (लिपि) के प्रति जुनूनी रखता है।
2. "शफल किए गए डेक" का परीक्षण (शब्द क्रम)
यह देखने के लिए कि क्या AI व्याकरण (syntax) समझता है, शोधकर्ताओं ने वाक्यों को लिया और उनके शब्दों को आपस में मिला दिया (जैसे, "The cat sat on the mat" बन गया "mat on the sat cat the")।
- परिणाम: आश्चर्यजनक रूप रूप से, AI बहुत अधिक घबराया नहीं। वही "लाइब्रेरियन" काम करते रहे।
- उपमा: यह ऐसा है जैसे आपने एक लाइब्रेरियन को फटे हुए पन्नों और बिखरे हुए शब्दों वाली किताबों का ढेर दे दिया। वे केवल कवर आर्ट और फॉन्ट स्टाइल को देखकर अभी भी बता सकते हैं कि, "ओह, यह एक रहस्यमयी उपन्यास है," भले ही अंदर की कहानी का कोई अर्थ न निकले।
मुख्य निष्कर्ष: AI गहरे व्याकरणिक नियमों के बजाय शब्द सांख्यिकी और दृश्य संकेतों (कौन से शब्द आमतौर पर साथ आते हैं) पर बहुत अधिक निर्भर करता है। वह तर्क का मास्टर नहीं, बल्कि पैटर्न का मास्टर है।
3. "गहरा गोता" (वास्तविक समझ कहाँ है?)
शोधकर्ताओं ने AI के मस्तिष्क को परत दर परत देखा, नीचे (जहाँ वह अक्षरों को देखता है) से लेकर ऊपर (जहाँ वह उत्तर उत्पन्न करता है) तक।
- निचली परतें (Bottom Layers): ये लिपि के प्रति जुनूनी हैं। ये उन फ्रंट डेस्क क्लर्कों की तरह हैं जिन्हें केवल इस बात की परवाह है कि किताब लाल है, नीली है, या उसका फॉन्ट कैसा है।
- गहरी परतें (Daker Layers): जैसे-जैसे आप गहराई में जाते हैं, AI वास्तव में भाषाओं के बीच संबंधों को समझना शुरू कर देता है (जैसे कैसे हिंदी और उर्दू संबंधित हैं, या कैसे अंग्रेजी और जर्मन मूल साझा करते हैं)।
- पेंच (The Catch): भले ही गहरी परतें इन संबंधों को देख सकती हैं, लेकिन AI वास्तव में टेक्स्ट जेनरेट करने के लिए इनका उपयोग नहीं करता है। यह ऐसा है जैसे बैक रूम में दुनिया का नक्शा मौजूद हो, लेकिन डिलीवरी ड्राइवर (टेक्स्ट जेनरेट करने वाला AI) यह जानने के लिए कि कहाँ जाना है, केवल सड़क के संकेतों (लिपि) को देखता है।
4. "कारण परीक्षण" (AI वास्तव में क्या बनाता है?)
अंत में, शोधकर्ताओं ने AI के मस्तिष्क के विशिष्ट हिस्सों को बंद करके उसे "तोड़ने" की कोशिश की ताकि देखा जा सके कि क्या होता है।
- "स्क्रिप्ट-संवेदनशील" न्यूरॉन्स को बंद करने पर: AI ग्लिच (glitch) करने लगा। वह एक ही शब्द के भीतर लिपियों को मिलाने लगा (जैसे, "Hindi" को हिंदी और अंग्रेजी अक्षरों के मिश्रण के साथ लिखना) या अचानक वाक्य के बीच में भाषा बदल दी।
- "व्याकरण/टाइपोलॉजी" न्यूरॉन्स को बंद करने पर: AI सामान्य रूप से बात करता रहा।
बड़ा खुलासा: AI के वे हिस्से जो प्रवाहपूर्ण टेक्स्ट जेनरेट करने के लिए जिम्मेदार हैं, वे हैं जो सतही परिवर्तनों के प्रति अपरिवर्तनीय (invariant) हैं (वे न्यूरॉन्स जो लिपि बदलने या शब्दों को मिलाने पर भी शांत रहते हैं)। वे हिस्से जो "गहरा भाषाई ज्ञान" रखते हैं, वे केवल दिखावे के लिए हैं; वे भारी काम करने वाले मुख्य हिस्से नहीं हैं।
सारांश: "सतही-स्तर" का AI
इस बहुभाषी AI को एक ऐसे बहुभाषी जीनियस के रूप में न सोचें जो 100 भाषाओं को धाराप्रवाह बोलता है, बल्कि एक बहुत प्रतिभाशाली कॉस्ट्यूम डिज़ाइनर के रूप में सोचें।
- यदि आप इसे लैटिन स्क्रिप्ट की पोशाक देते हैं, तो यह लैटिन बोलने वाले की तरह व्यवहार करता है।
- यदि आप इसे देवनागरी स्क्रिप्ट की पोशाक देते हैं, तो यह देवनागरी बोलने वाले की तरह व्यवहार करता है।
- यदि आप इसे रोमनकृत हिंदी की पोशाक देते हैं, तो यह एक तीसरे, अजीब चरित्र की तरह व्यवहार करता है जो न तो पूरी तरह अंग्रेजी है और न ही पूरी तरह हिंदी।
इसके पास एक एकल, एकीकृत "आत्मा" नहीं है जो सभी भाषाओं को समान रूप से समझती है। इसके बजाय, इसके पास कई अलग-अलग मुखौटे हैं, और यह पूरी तरह से इस आधार पर एक मुखौटे से दूसरे पर स्विच करता है कि पन्ने पर शब्द कैसे दिखते हैं।
यह क्यों मायने रखता है?
यदि आप अधिक सुरक्षित, अधिक मजबूत AI बनाना चाहते हैं, तो आप केवल यह मानकर नहीं चल सकते कि यह किसी भाषा के अर्थ को समझता है। आपको यह समझना होगा कि यदि आप लिपि बदलते हैं (थोड़ा सा भी), तो AI पूरी तरह से भूल सकता है कि वह किस बारे में बात कर रहा था या एक अलग "व्यक्तित्व" में बदल सकता है। यह हमें याद दिलाता है कि इन मॉडलों के लिए, रूप (form) अक्सर कार्य (function) पर हावी रहता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।