A Pre-Training Analogue of Grokking in Language Models: Tracing Delayed Grammatical Generalization
यह शोध पत्र BLiMP मिनिमल पेयर्स का उपयोग करके LLM प्री-ट्रेनिंग के दौरान ग्रौकिंग-जैसे (grokking-like) गतिकी का अध्ययन करने के लिए एक एक्सपोज़र-आधारित ढांचे का प्रस्ताव करता है, जो यह प्रकट करता है कि मॉडल विलंबित व्याकरणिक सामान्यीकरण (delayed grammatical generalization) प्रदर्शित करते हैं, जिसके साथ अधिक भविष्य कहने योग्य, उच्च-आयामी व्याकरणिक अवधारणा वैक्टर्स और केंद्रित अटेंशन पैटर्न का उदय होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बच्चे को किताबों के एक विशाल पुस्तकालय को पढ़कर बोलना सिखा रहे हैं, लेकिन आप उन्हें कभी भी क्विज़ या टेस्ट के लिए नहीं रोकते। आप बस पढ़ते जाते हैं। मुख्य सवाल जो यह पेपर पूछता है वह यह है: क्या बच्चा अचानक से "समझ जाता है" (get it) काफी समय बाद, जब उसने उन विशिष्ट वाक्यों को रट लिया होता है जिन्हें उसने सुना था?
AI अनुसंधान की दुनिया में, इस अचानक आने वाले "अहा!" (aha!) पल को ग्रोकिंग (Grokking) कहा जाता है। आमतौर पर, वैज्ञानिक इसे एक कंप्यूटर को एक विशिष्ट गणितीय पहेली पर प्रशिक्षित करके, उसे उत्तर याद करने देकर, और फिर यह देखने के लिए प्रतीक्षा करके अध्ययन करते हैं कि क्या वह बाद में नई पहेलियों को हल कर सकता है। लेकिन आधुनिक AI (लार्ज लैंग्वेज मॉडल्स) इस तरह से काम नहीं करते हैं। उन्हें केवल एक वाक्य में अगले शब्द की भविष्यवाणी करने के माध्यम से पूरे इंटरनेट (या इंटरनेट के एक बड़े हिस्से) पर प्रशिक्षित किया जाता है। प्रशिक्षण प्रक्रिया में कोई "टेस्ट" या "क्विज़" शामिल नहीं होता है।
तो, जब आप AI को कोई टेस्ट नहीं दे रहे हों, तो आप "ग्रोकिंग" के क्षण को कैसे पहचान सकते हैं? इस पेपर के लेखकों ने एक चतुर तरकीब निकाली है।
द "फ्लैशकार्ड" सादृश्य (The "Flashcard" Analogy)
कल्पना कीजिए कि AI एक छात्र है जो एक पुस्तकालय पढ़ रहा है। यह देखने के लिए कि क्या वे वास्तव में व्याकरण सीख रहे हैं या केवल रट रहे हैं, शोधकर्ताओं ने "फ्लैशकार्ड्स" का एक विशेष सेट बनाया (जिसे पेपर में BLiMP कहा गया है)। प्रत्येक फ्लैशकार्ड में दो वाक्य हैं:
- एक सही वाक्य: "The cat sleeps." (बिल्ली सोती है।)
- एक गलत वाक्य: "The cat sleep." (बिल्ली सो...)
अंतर बहुत सूक्ष्म है (केवल एक शब्द का), लेकिन यह एक विशिष्ट व्याकरण नियम (जैसे कर्ता-क्रिया समझौता/subject-verb agreement) का परीक्षण करता है।
तरकीब:
शोधकर्ताओं ने AI द्वारा पढ़े जा रहे टेक्स्ट के विशाल पुस्तकालय को देखा। उन्होंने पूछा: "क्या AI ने पहले कभी ठीक यही वाक्यांश 'The cat sleeps' पढ़ा है?"
- "देखा गया" समूह (Proxy-Train): यदि AI ने अपने पुस्तकालय में ठीक यही वाक्यांश पढ़ा था, तो उन्होंने इसे "देखे गए" (Seen) ढेर में डाल दिया।
- "अनदेखा" समूह (Proxy-Validation): यदि AI ने पहले कभी यह सटीक वाक्यांश नहीं पढ़ा था, तो उन्होंने इसे "अनदेखे" (Unseen) ढेर में डाल दिया।
महत्वपूर्ण बात यह है कि AI ने व्याकरण का नियम सीख लिया होगा, लेकिन उसने अभी तक इस विशिष्ट वाक्य को नहीं देखा होगा।
क्या वे पाया: "विलंबित" क्षण (The "Delayed" Moment)
शोधकर्ताओं ने AI के प्रदर्शन को समय के साथ देखा (जैसे कि एक छात्र को हर दिन टेस्ट देते हुए देखना)। यहाँ क्या हुआ:
- पहले, "देखा गया" समूह अच्छा हुआ। AI उन वाक्यों पर उच्च स्कोर प्राप्त करने में तेज़ी से सफल रहा जिन्हें उसने पुस्तकालय में वास्तव में पढ़ा था। यह केवल वही याद कर रहा था जो उसने देखा था।
- फिर, एक ठहराव आया। AI "देखे गए" वाक्यों में बेहतर होता गया, लेकिन वह "अनदेखे" वाक्यों के लिए अभी भी बहुत खराब प्रदर्शन कर रहा था। ऐसा लगा जैसे वह फंस गया हो।
- अंततः, "ग्रोकिंग" का क्षण आया। अचानक, "अनदेखे" वाक्यों पर AI का स्कोर उछल गया। उसने वाक्यों के पीछे के नियम को समझ लिया, न कि केवल विशिष्ट शब्दों को।
"देखे गए" वाक्यों में अच्छा होने और "अनदेखे" वाक्यों में अच्छा होने के बीच का यह अंतर विलंबित सामान्यीकरण (Delayed Generalization) है। यह एक ऐसे छात्र की तरह है जो उस कविता को पूरी तरह से सुना सकता है जिसे उसने रटा है, लेकिन वह तब तक एक नई कविता नहीं लिख सकता जिसमें वही तुकबंदी हो, जब तक कि कुछ हफ्तों बाद, अवधारणा अंततः स्पष्ट न हो जाए।
AI के मस्तिष्क के अंदर क्या होता है?
पेपर ने केवल स्कोर को नहीं देखा; उन्होंने उस "अहा!" क्षण के दौरान AI के "मस्तिष्क" (इसके आंतरिक गणित) के अंदर झाँका कि क्या बदला। उन्होंने दो दिलचस्प चीजें पाईं:
1. "व्याकरण मानचित्र" (Grammar Map) अधिक जटिल हो गया।
कल्पना कीजिए कि AI की व्याकरण की समझ एक मानचित्र के रूप में है। "अहा!" क्षण से पहले, मानचित्र सरल और सपाट था, जैसे एक एकल रेखा। "अहा!" क्षण के बाद, मानचित्र एक 3D संरचना बन गया जिसमें कई अधिक आयाम (dimensions) थे। AI केवल एक साधारण ट्रिक का उपयोग नहीं कर रहा था; वह व्याकरण को समझने के लिए कनेक्शन का एक समृद्ध, जटिल जाल उपयोग कर रहा था।
2. "स्पॉटलाइट" केंद्रित हो गया।
AI "अटेंशन" (attention) नामक एक तंत्र का उपयोग करता है ताकि यह तय किया जा सके कि वाक्य में कौन से शब्द महत्वपूर्ण हैं। "अहा!" क्षण से पहले, AI का ध्यान थोड़ा बिखरा हुआ था, जैसे कि एक टॉर्च की बीम जो बहुत चौड़ी हो। "अहा!" क्षण के बाद, AI की टॉर्च की बीम बहुत तेज और केंद्रित हो गई और विशेष रूप से उन शब्दों पर केंद्रित हो गई जो महत्वपूर्ण थे (जैसे "The cat" को "sleeps" से जोड़ना)। यह फोकस AI के मस्तिष्क के कुछ विशिष्ट हिस्सों में हुआ, न कि एक साथ हर जगह।
निष्कर्ष (The Bottom Line)
यह पेपर सिद्ध करता है कि भले ही आप एक AI को बिना किसी टेस्ट के टेक्स्ट के एक विशाल, अव्यवस्थित ढेर पर प्रशिक्षित करें, फिर भी यह एक ऐसे चरण से गुजरता है जहाँ यह पहले रटता है और बाद में समझता है।
उन्होंने इसे मापने का एक नया तरीका बनाया है यह जाँचकर कि क्या AI ने पहले सटीक शब्द देखे थे। उन्होंने पाया कि AI "देखे गए" शब्दों में जल्दी अच्छा हो जाता है, लेकिन "समझने" के लिए थोड़ा समय लगता है और "अनदेखी" पहेलियों को हल करने में समय लगता है। जब यह सुधार होता है, तो AI का व्याकरण के बारे में आंतरिक सोचने का तरीका अधिक जटिल और केंद्रित हो जाता है।
संक्षेप में: AI केवल रटने से नहीं सीखता; इसमें स्पष्टता का एक विलंबित क्षण होता है जहाँ यह अंततः बिंदुओं को जोड़ देता है, और अब हम देख सकते हैं कि यह बिल्कुल कब और कैसे होता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।