One Language, Two Scripts: Probing Script-Invariance in LLM Concept Representations
यह शोध पत्र यह प्रदर्शित करता है कि जेम्मा (Gemma) मॉडलों में स्पार्स ऑटोएन्कोडर (Sparse Autoencoder) फीचर्स सतही वर्तनी के बजाय अमूर्त अर्थों को कैप्चर करते हैं, यह दिखाते हुए कि पूरी तरह से अलग टोकनाइज्ड लिपियों (लैटिन और सिरिलिक) में लिखे गए समान सर्बियाई वाक्य अत्यधिक ओवरलैपिंग फीचर्स को सक्रिय करते हैं, और यह स्क्रिप्ट अपरिवर्तनीयता मॉडल के स्केल बढ़ने के साथ बढ़ती जाती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट रोबोट है जो किताबें पढ़ता है। आप जानना चाहते हैं: क्या यह रोबोट कहानी समझता है, या यह सिर्फ अक्षरों को रट रहा है?
यह पता लगाने के लिए, इस शोध पत्र (paper) के शोधकर्ताओं ने सर्बियाई भाषा का उपयोग करके एक चतुर प्रयोग तैयार किया। यहाँ उन्होंने क्या किया और उन्हें क्या मिला, इसका सरल विवरण दिया गया है।
1. परफेक्ट टेस्ट: एक ही चीज़ को लिखने के दो तरीके
सर्बिया अनूठा है क्योंकि यहाँ के लोग वैकल्पिक रूप से दो अलग-अलग लिपियों (लिपि/वर्णमाला) में लिखते हैं: लैटिन (अंग्रेजी की तरह: A, B, C) और सिरिलिक (रूसी की तरह: А, Б, В)।
- जादू: आप एक वाक्य को लैटिन से सिरिलिक में पूरी तरह से अनुवाद कर सकते हैं। अर्थ 100% वही रहता है, लेकिन अक्षर पूरी तरह से अलग दिखते हैं।
- पेंच: एक कंप्यूटर (विशेष रूप से एक लार्ज लैंग्वेज मॉडल) के लिए, ये दो पूरी तरह से अलग भाषाएँ हैं। कंप्यूटर इन्हें अलग-अलग "टुकड़ों" (tokens) में तोड़ देता है और उसे पता नहीं होता कि लैटिन में "Hello" का मतलब सिरिलिक में "Hello" ही है।
उपमा (Analogy): कल्पना कीजिए कि आपके पास एक गाना है।
- स्क्रिप्ट A है मानक नोट्स में लिखा गया संगीत (sheet music)।
- स्क्रिप्ट B उसी गाने का इमोजी के गुप्त कोड में लिखा हुआ संस्करण है।
- एक इंसान के लिए, यह वही गाना है। लेकिन नोट्स पढ़ने वाले रोबोट के लिए, इमोजी वाला संस्करण निरर्थक (gibberish) जैसा दिखता है।
2. रोबोट का "दिमाग" (SAEs)
शोधकर्ताओं ने केवल रोबोट से यह नहीं पूछा कि वह क्या सोचता है; उन्होंने स्पार्स ऑटोएनकोडर (Sparse Autoencoder - SAE) नामक टूल का उपयोग करके उसके दिमाग के अंदर झाँका।
रोबोट के दिमाग को 65,000 लाइट स्विचों वाले एक विशाल कमरे के रूप में सोचें। जब रोबोट एक वाक्य पढ़ता है, तो कुछ विशेष स्विच चालू हो जाते हैं।
- यदि रोबोट "बिल्लियों" (cats) के बारे में सोच रहा है, तो स्विचों का एक विशिष्ट सेट जल उठता है।
- यदि वह "दौड़ने" (running) के बारे में सोच रहा है, तो दूसरा सेट जल उठता है।
सवाल यह था: यदि हम रोबोट को लैटिन में एक ही वाक्य और फिर सिरिलिक में वही वाक्य दिखाएं, तो क्या वही लाइट स्विच चालू होंगे?
3. प्रयोग
उन्होंने रोबोट को तीन तरीकों से वाक्य दिए:
- वही वाक्य: लैटिन में "The cat sat on the mat" बनाम सिरिलिक में "The cat sat on the mat"।
- वही अर्थ, अलग शब्द: "The cat sat on the mat" बनाम "The feline rested on the rug" (दोनों लैटिन में)।
- रैंडम बकवास (Random Nonsense): पूरी तरह से अलग वाक्य।
4. बड़ी खोज
परिणाम आश्चर्यजनक और रोमांचक थे:
- रोबोट वर्तनी (Spelling) से अधिक अर्थ पर ध्यान देता है: जब रोबोट ने लैटिन और सिरिलिक में एक ही वाक्य पढ़ा, तो 58% बार वही लाइट स्विच चालू हुए। यह बहुत बड़ी बात है! भले ही कंप्यूटर ने दो पूरी तरह से अलग संकेतों को देखा, फिर भी उसने अंतर्निहित विचार को पहचान लिया।
- पैराफ्रेसिंग (Paraphrasing) से बेहतर है: दिलचस्प बात यह है कि रोबोट ने दो अलग-अलग वाक्यों को (जो एक ही अर्थ रखते थे) पहचानने की तुलना में, एक ही वाक्य को दो लिपियों में बेहतर पहचाना।
- उपमा: रोबोट आपकी शब्दावली बदलने ("feline" बनाम "cat") से अधिक भ्रमित होता है, बजाय इसके कि आप वर्णमाला बदल दें (लैटिन बनाम सिरिलिक)। वह इस बात पर अधिक ध्यान देता है कि आपने क्या कहा, बजाय इसके कि आपने उसे कैसे लिखा।
- बड़ा दिमाग = बेहतर समझ: जैसे-जैसे उन्होंने रोबोट के बड़े और स्मार्ट वर्ज़न (छोटे से विशाल तक) का परीक्षण किया, उसकी यह क्षमता और भी मजबूत होती गई। सबसे बड़े रोबोट लिपि को अनदेखा करने और अर्थ पर ध्यान केंद्रित करने में लगभग परफेक्ट थे।
5. यह क्यों महत्वपूर्ण है
यह साबित करता है कि ये AI मॉडल केवल पैटर्न-मैचिंग मशीनें नहीं हैं जो विशिष्ट शब्दों को रटती हैं। वे अमूर्त अवधारणाएं (abstract concepts) बना रहे हैं।
- मशीन में "भूत" (The "Ghost" in the Machine): शोधकर्ताओं ने पाया कि AI ने अर्थ का एक "भूतिया" संस्करण बनाया है जो वास्तविक अक्षरों के ऊपर तैरता है। चाहे आप "Dog" लिखें या "Собака", AI का आंतरिक "Dog" का कॉन्सेप्ट एक ही है।
- कोई धोखाधड़ी नहीं: उन्होंने यह सुनिश्चित करने के लिए जांच की कि रोबोट केवल ट्रेनिंग डेटा को रट नहीं रहा है। चूंकि "लैटिन ओरिजिनल" और "सिरिलिक पैराफ्रेस" का विशिष्ट मिश्रण संभवतः रोबोट की ट्रेनिंग किताबों में एक साथ कभी नहीं आया था, इसलिए तथ्य यह है कि इसने फिर भी संबंध को पहचाना, यह साबित करता है कि यह वास्तव में समझ रहा है, न कि केवल याद रख रहा है।
निष्कर्ष (The Takeaway)
यह पेपर दिखाता है कि आधुनिक AI केवल पेड़ों को नहीं, बल्कि जंगल को देखना सीख रहा है। भले ही "पेड़" (अक्षर) पूरी तरह से अलग दिखें, AI अभी भी "जंगल" (अर्थ) को देख सकता है। यह समझने की दिशा में एक बड़ा कदम है कि मशीनें कैसे इंसानों की तरह सोचना सीख रही हैं, चाहे वे किसी भी भाषा या वर्णमाला का उपयोग कर रही हों।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।