Model Internal Sleuthing: Finding Lexical Identity and Inflectional Features in Modern Language Models
यह शोध पत्र छह भाषाओं में 25 आधुनिक भाषा मॉडलों का व्यवस्थित रूप से परीक्षण करता है ताकि यह प्रकट किया जा सके कि जबकि विभक्ति संबंधी विशेषताएं नेटवर्क के माध्यम से रैखिक रूप से डिकोड करने योग्य बनी रहती हैं, मॉडल विशिष्ट शब्द पहचान को संक्षिप्त, भविष्य कहने वाले संरचनाओं के साथ बदलने के कारण गहराई के साथ शाब्दिक पहचान (lexical identity) के प्रतिनिधित्व को कमजोर कर देते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक आधुनिक लार्ज लैंग्वेज मॉडल (LLM) कोई विशाल, डरावना रोबोटिक दिमाग नहीं है, बल्कि एक बहुमंजिला गगनचुंबी इमारत (skyscraper) है जहाँ जानकारी ज़मीनी मंज़िल से पेंटहाउस तक यात्रा करती है।
यह शोध पत्र, जिसका शीर्षक "मॉडल इंटरनल स्लीथिंग" (Model Internal Sleuthing) है, उन जासूसों (शोधकर्ताओं) की एक टीम की तरह है जो उस इमारत के भीतर जाकर यह देखने जा रहे हैं कि वह अपने विचारों को कैसे व्यवस्थित करती है। वे दो विशिष्ट प्रश्नों का उत्तर देना चाहते थे:
- लेक्सिकल आइडेंटिटी (Lexical Identity): क्या इमारत को याद रहता है कि एक शब्द क्या है (जैसे, "walk")?
- इन्फ्लेक्शनल फीचर्स (Inflectional Features): क्या इमारत को शब्द का व्याकरण याद रहता है (जैसे, "walked" = भूतकाल, "walking" = निरंतर)?
उन्होंने 25 अलग-अलग "इमारतों" (BERT जैसे पुराने मॉडलों से लेकर Llama-3 और Qwen जैसे नए दिग्गजों तक) का परीक्षण छह अलग-अलग भाषाओं (अंग्रेजी, चीनी, जर्मन, फ्रेंच, रूसी और तुर्की) में किया।
यहाँ उनके निष्कर्ष दिए गए हैं, जिन्हें रोजमर्रा के उदाहरणों के माध्यम से समझाया गया है:
1. "नाम का टैग" बनाम "वर्दी"
सोचिए कि लेक्सिकल आइडेंटिटी (शब्द "walk") एक व्यक्ति के नाम के टैग (Name Tag) की तरह है, और इन्फ्लेक्शन (जैसे "walked" में "-ed") उनकी वर्दी (Uniform) की तरह है।
- निष्कर्ष: जब कोई शब्द इमारत में प्रवेश करता है (शुरुआती कुछ मंजिलों पर), तो नाम का टैग बहुत चमकीला और स्पष्ट होता है। मॉडल को ठीक से पता होता है कि वह कौन सा शब्द है।
- ट्विस्ट: जैसे-जैसे जानकारी ऊपर की मंजिलों (गहरी परतों) तक जाती है, नाम का टैग धुंधला होने लगता है। जब तक यह शीर्ष तक पहुँचता है, मॉडल विशिष्ट शब्द "walk" के बारे में कम परवाह करता है और वाक्य के संदर्भ (context) के बारे में अधिक पर ध्यान देता है। यह बिल्कुल वैसा ही है जैसे कोई व्यक्ति भीड़ में घुलने-मिलने के लिए अपना नाम का टैग उतार दे।
- हालाँकि, वर्दी कभी फीकी नहीं पड़ती। व्याकरण (भूतकाल, बहुवचन, आदि) हर मंजिल पर—लॉबी से लेकर पेंटहाउस तक—दृश्यमान और पढ़ने में आसान बना रहता है। मॉडल "वर्दी" की जानकारी को पूरी यात्रा के दौरान एक बहुत ही स्थिर, आसानी से सुलभ जेब में सुरक्षित रखता है।
2. "लीनियर एलीवेटर" बनाम "भूलभुलैया"
शोधकर्ताओं ने दो उपकरणों का उपयोग करके मॉडल के विचारों को "पढ़ने" की कोशिश की: एक सरल लीनियर एलीवेटर (Linear Elevator) (एक सीधा रास्ता) और एक जटिल भूलभुलैया (Maze) (एक गैर-रेखीय पथ)।
- व्याकरण (वर्दी): आप किसी भी मंजिल पर व्याकरण की जानकारी खोजने के लिए लीनियर एलीवेटर का उपयोग कर सकते हैं। यह एक सीधा रास्ता है। मॉडल व्याकरण को एक व्यवस्थित, सीधी रेखा में रखता है।
- शब्द का अर्थ (नाम का टैग): निचली मंजिलों पर, एलीवेटर ठीक से काम करता है। लेकिन ऊपरी मंजिलों पर, एलीवेटर काम करना बंद कर देता है। ऊपर विशिष्ट शब्द के अर्थ को खोजने के लिए, आपको एक भूलभुलैया से होकर गुजरना होगा। जानकारी अभी भी वहीं है, लेकिन यह अन्य संदर्भों के साथ उलझी हुई और घुली-मिली हुई है।
3. "कंप्रेशन रूम" (Compression Room)
कुछ नए, तेज़ मॉडलों (जैसे Qwen और Pythia) में बीच की मंजिल पर एक अजीब विशेषता है: एक कंप्रेशन रूम।
- कल्पना कीजिए कि एक गलियारा अचानक एक छोटे से सुरंग में सिमट जाता है और फिर से फैलता है।
- इन मॉडलों में, मध्य परतें डेटा को इतनी ज़ोर से दबा देती हैं कि उसके "डायमेंशन" (dimensions) ढह जाते हैं। यह एक पूरी लाइब्रेरी को जूते के डिब्बे में फिट करने और फिर उसे वापस बाहर निकालने जैसा है।
- परिणाम: भले ही मॉडल इस कमरे में व्याकरण का सही अनुमान लगा सकता है, लेकिन वहां मॉडल के व्यवहार को नियंत्रित करना या उसे दिशा देना बहुत कठिन हो जाता है। यह एक ऐसी कार को मोड़ने की कोशिश करने जैसा है जिसके पहिए कीचड़ में फंसे हुए हैं; इंजन तो चलता है, लेकिन स्टीयरिंग ठीक से काम नहीं करता।
4. "निर्माण स्थल" (Pre-training)
शोधकर्ताओं ने इमारत के निर्माण (प्रशिक्षण चरण के दौरान) को भी देखा।
- व्याकरण पहले बनाया जाता है। "वर्दी" (व्याकरण के नियम) इस प्रक्रिया के बहुत शुरुआती चरण में निर्मित होते हैं। एक बार नींव रखी जाने के बाद, व्याकरण ठोस रहता है और इसमें ज्यादा बदलाव नहीं आता।
- शब्द का अर्थ अंत में बनाया जाता है। जैसे-जैसे इमारत ऊंची होती जाती है, "नाम के टैग" बदलते और विकसित होते रहते हैं। मॉडल शब्दों के अर्थ को विभिन्न संदर्भों में बेहतर बनाने के लिए बहुत समय बिताता है, और अक्सर बेहतर भविष्यवाणियां करने के लिए शब्द की मूल पहचान का त्याग कर देता है।
5. "भाषा की कठिनाई" का कारक
उन्होंने छह भाषाओं में इसका परीक्षण किया।
- अंग्रेजी, जर्मन, फ्रेंच, रूसी: मॉडल ने इन्हें अच्छी तरह से संभाला।
- तुर्की: यह भाषा अनंत टुकड़ों वाले लेगो (Lego) सेट की तरह है (यह अत्यधिक "एग्लूटिनेटिव" है, जिसका अर्थ है कि आप एक शब्द पर कई व्याकरणिक टुकड़े जोड़ सकते हैं)। मॉडल को यहाँ सबसे अधिक संघर्ष करना पड़ा। "नाम का टैग" बहुत तेज़ी से फीका पड़ गया, और "वर्दी" को व्यवस्थित रखना कठिन था। यह लेगो के बिखरे हुए ढेर को व्यवस्थित करने जैसा है; जितने जटिल टुकड़े होंगे, मॉडल के लिए उन्हें व्यवस्थित रखना उतना ही कठिन होगा।
मुख्य निष्कर्ष (The Big Takeaway)
आधुनिक AI मॉडल अविश्वसनीय रूप से स्मार्ट हैं, लेकिन उनमें एक विशिष्ट ट्रेड-ऑफ (समझौता) है:
- वे व्याकरण (इन्फ्लेक्शन) को कठोर और सुलभ रखते हैं क्योंकि यह भाषा का कंकाल है।
- वे विशिष्ट शब्द पहचान (लेक्सिकल) को छोड़ देते हैं जैसे-जैसे वे गहराई में जाते हैं, क्योंकि उन्हें बड़े चित्र (संदर्भ और भविष्यवाणी) पर ध्यान केंद्रित करने की आवश्यकता होती है।
संक्षेप में: यदि आप एक आधुनिक AI से पूछते हैं, "'run' का भूतकाल क्या है?" तो वह आपको तुरंत बता देगा, चाहे आप कितनी भी गहराई में क्यों न देखें। लेकिन यदि आप पूछते हैं, "अभी हम किस विशिष्ट शब्द 'run' की बात कर रहे हैं?" तो जैसे-जैसे आप गहराई में जाएंगे, उत्तर धुंधला होता जाएगा, क्योंकि मॉडल केवल शब्द के बारे में नहीं, बल्कि कहानी के बारे में सोचने में व्यस्त है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।