How Large Language Models Get Stuck: Early structure with persistent errors
यह शोध पत्र इस बात की जांच करता है कि कैसे बेबीएलएम (BabyLM) डेटासेट पर प्रशिक्षित लार्ज लैंग्वेज मॉडल्स अक्सर विशिष्ट व्याकरणिक नियमों को सीखने में विफल रहते हैं क्योंकि भ्रामक बिग्राम सांख्यिकी (bigram statistics) द्वारा संचालित प्रारंभिक त्रुटिपूर्ण पूर्वाग्रह स्थापित हो जाते हैं और प्रशिक्षण के दौरान बने रहते हैं, जिससे कुशल शिक्षण में बाधा उत्पन्न होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, लेकिन अविश्वसनीय रूप से छोटे बच्चे को बोलना सिखा रहे हैं। आप चाहते हैं कि वह केवल शब्दों को याद न करे, बल्कि वाक्यों की गहरी संरचना को समझकर व्याकरण के जटिल नियमों को सीखे।
यह शोध पत्र उस शिक्षण प्रक्रिया की एक विस्तृत डायरी की तरह है। शोधकर्ताओं ने एक लार्ज लैंग्वेज मॉडल (LLM)—जो एक प्रकार का AI है जो वाक्य में अगले शब्द की भविष्यवाणी करता है—को "बेबीLM" (BabyLM) डेटासेट (100 मिलियन शब्दों का एक छोटा, अधिक प्रबंधनीय संग्रह, जिसे बड़े एआई द्वारा उपयोग किए जाने वाले विशाल पुस्तकालयों के बजाय एक बच्चे के शुरुआती भाषाई अनुभव की तरह डिज़ाइन किया गया है) से सीखते हुए देखा।
यहाँ जो उन्होंने पाया, उसकी कहानी सरल रूप में दी गई है:
1. सीखने की "महत्वपूर्ण खिड़की" (The "Critical Window" of Learning)
AI के प्रशिक्षण को एक गगनचुंबी इमारत बनाने वाले निर्माण दल (construction crew) की तरह समझें।
- शुरुआती दिन: बिल्कुल शुरुआत में, दल नींव रख रहा है। वे इमारत के बुनियादी आकार को समझ रहे हैं।
- खोज: शोधकर्ताओं ने पाया कि AI प्रशिक्षण के बहुत शुरुआती चरण में (लगभग 5,000वें चरण के आसपास) एक महत्वपूर्ण निर्णय लेता है। इस क्षण में, वह तय करता है कि व्याकरण के विशिष्ट प्रकार के नियमों को कैसे संभालना है।
- समस्या: लगभग एक-तिहाई व्याकरण के नियमों के लिए, AI शुरुआत से ही गलत निर्णय लेता है। वह एक "गलत नींव" बनाता है। एक बार जब यह नींव बन जाती है, तो AI इन विशिष्ट नियमों के लिए इस गलती को पूरे प्रशिक्षण के दौरान पुख्ता करता रहता है। वह एक त्रुटि में "फँस" जाता है।
2. "बिगराम ट्रैप" (The "Bigram Trap") (स्थानीय बनाम वैश्विक)
AI क्यों फँस जाता है? लेखक एक सिद्धांत प्रस्तावित करते हैं जिसे "बिगराम परिकल्पना" (Bigram Hypothesis) कहा जाता है।
कल्पना कीजिए कि AI एक विदेशी शहर में एक पर्यटक है।
- "बिगराम" की आदत: शुरू में, पर्यटक केवल अपने ठीक बगल के दो शब्दों पर ध्यान देता है। वे सोचते हैं, "ओह, 'go' के बाद आमतौर पर 'to' आता है, इसलिए 'go to' एक अच्छा वाक्यांश होना चाहिए।"
- जाल (The Trap): कभी-कभी, बगल के दो शब्द बहुत अच्छे लगते हैं, लेकिन पूरा वाक्य निरर्थक होता है।
- उदाहरण: "Patrick is about to talk to." (यह स्थानीय स्तर पर सुचारू लगता है क्योंकि "about" और "to" अक्सर साथ आते हैं)।
- वास्तविकता: वाक्य वास्तव में टूटा हुआ है। सही संस्करण है "Patrick is irritating to talk to."
- गलती: क्योंकि "about" एक बहुत ही सामान्य शब्द है जो अक्सर "to" से पहले दिखाई देता है, AI का "स्थानीय मानचित्र" (बिगराम) उसे बताता है कि टूटा हुआ वाक्य ही सही है। क्योंकि AI इसे जल्दी सीख लेता है, वह एक ऐसी आदत बना लेता है जो "स्थानीय रूप से सुचारू" लेकिन "वैश्विक रूप से गलत" वाक्य को चुनती है। यह उस छात्र की तरह है जिसने याद कर लिया है कि अनौपचारिक बातचीत में "I seen" कहना "I saw" से बेहतर लगता है, और वह इसे कभी नहीं छोड़ पाता।
3. सीखने वालों के दो प्रकार
शोधकर्ताओं ने 67 अलग-अलग व्याकरण परीक्षणों को इस आधार पर तीन समूहों में वर्गीकृत किया कि AI ने उन्हें कैसे सीखा:
- "सही शुरुआत" वाला समूह (The "Correct Early" Group - तेज़ सीखने वाले): लगभग आधे परीक्षणों के लिए, AI ने नियम को तुरंत समझ लिया। उसने पैटर्न देखा, सही नींव बनाई, और फिर पीछे मुड़कर नहीं देखा। ये आमतौर पर सरल नियम थे जहाँ स्थानीय शब्द वैश्विक नियम से मेल खाते थे (जैसे, "The cat" बनाम "The cats")।
- "जल्दी फँसने" वाला समूह (The "Stuck Early" Group - भटका हुआ समूह): लगभग एक-तिहाई परीक्षणों के लिए, AI ने "स्थानीय जाल" (बिगराम) को देखा और उसे ही नियम मान लिया। उसने एक गलत नींव बनाई और हजारों उदाहरण देखने के बाद भी वही गलती करता रहा। इसमें "आइलैंड कंस्ट्रेंट्स" (वाक्य में शब्दों को इधर-उधर ले जाने के नियम) जैसे कठिन नियम शामिल हैं।
- "देर से खिलने वाले" (The "Late Bloomers" - धीमे सीखने वाले): परीक्षणों का एक छोटा समूह जहाँ AI पहले भ्रमित था, लेकिन अंततः प्रशिक्षण के दौरान उसने इसे समझ लिया।
4. यह क्यों महत्वपूर्ण है
यह शोध पत्र तर्क देता है कि हमें केवल इन एआई को लंबे समय तक प्रशिक्षित करते रहना नहीं चाहिए, इस उम्मीद में कि वे अंततः इसे "समझ" जाएंगे। यदि वे अपने प्रशिक्षण के पहले 15% में एक गलत नियम पर अटक जाते हैं, तो वे इसे कभी नहीं छोड़ पाएंगे, चाहे आप उन्हें कितना भी डेटा क्यों न खिला दें।
समाधान क्या है?
लेखक सुझाव देते हैं कि हमें उस महत्वपूर्ण शुरुआती खिड़की के दौरान उन्हें कैसे सिखाया जाए, इसे बदलने की आवश्यकता है। केवल कच्चे डेटा (जहाँ "बिगराम ट्रैप" हर जगह हैं) से उन्हें सीखने देने के बजाय, हमें उन्हें उन स्थानीय जालों से दूर ले जाने और गहरे, वैश्विक नियमों की ओर मोड़ने के लिए हस्तक्षेप करने की आवश्यकता हो सकती है।
निष्कर्ष (The Takeaway)
लार्ज लैंग्वेज मॉडल्स केवल विफल होने पर "मूर्ख" नहीं होते; वे कुशल शिक्षार्थी हैं जो शुरुआत में ही धोखा खा गए। उन्होंने एक शॉर्टकट सीखा (केवल दो शब्दों को देखना) जो सरल चीजों के लिए तो काम आया लेकिन जटिल चीजों के लिए उन्हें गुमराह कर दिया। उन्हें स्मार्ट बनाने के लिए, हमें उन्हें यह सिखाने के बाद नहीं, बल्कि उससे पहले पकड़ना होगा जब वे वे गलत शॉर्टकट बनाना शुरू करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।