Children, but not language models, show accelerating returns in word learning
यह शोध पत्र यह प्रकट करता है कि जहाँ बच्चे भाषाई अनुभव की प्रत्येक नई इकाई के साथ अधिक कुशल होकर शब्द सीखने में त्वरित प्रतिफल (accelerating returns) प्रदर्शित करते हैं, वहीं भाषा मॉडल—यहाँ तक कि बाल-केंद्रित भाषण (child-directed speech) पर प्रशिक्षित होने के बावजूद—केवल स्केलिंग लॉज़ (scaling laws) के अनुरूप निरंतर आनुपातिक प्रतिफल (constant proportional returns) दिखाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मानव भाषा एक धीमी, लड़खड़ाती शुरुआत के साथ शुरू होती है। जीवन के पहले वर्ष में, एक बच्चा केवल कुछ ही शब्द सीख सकता है, जो अक्सर परिचित लोगों या वस्तुओं के नाम होते हैं। फिर, कुछ उल्लेखनीय होता है। सीखने की गति नाटकीय रूप से बदल जाती है। कुछ ही वर्षों के भीतर, वही बच्चा सैकड़ों शब्द सीख जाता है, और सरल लेबल से जटिल वाक्यों की ओर बढ़ने की उसकी गति लगभग जादुई लगती है। दशकों से, वैज्ञानिक इस विस्फोट के पीछे के तंत्र को समझने का प्रयास कर रहे हैं। वे लंबे समय से संदेह करते रहे हैं कि इसका रहस्य इस बात में निहित है कि बच्चे उन शब्दों के प्रवाह को कैसे संसाधित करते हैं जिन्हें वे हर दिन सुनते हैं। प्रचलित विचार यह था कि सीखना एक स्थिर, रैखिक प्रक्रिया है: बच्चा जितना अधिक सुनता है, वह उतना ही अधिक सीखता है, एक निरंतर दर पर। यदि यह सच होता, तो एक बच्चे की शब्दावली एक बाल्टी में पानी भरने की तरह एक स्थिर बूंद की दर से बढ़ती।
हाल के वर्षों में, शक्तिशाली कंप्यूटर प्रोग्राम, जिन्हें भाषा मॉडल (language models) कहा जाता है, इस प्रक्रिया का अध्ययन करने का एक नया तरीका बनकर उभरे हैं। इन प्रणालियों को विशाल मात्रा में टेक्स्ट पर प्रशिक्षित किया जाता है, जिससे वे वाक्य में अगले शब्द की भविष्यवाणी करना सीखते हैं। क्योंकि उन्हें विशिष्ट मात्रा में डेटा पर प्रशिक्षित किया जा सकता है, इसलिए शोधकर्ता इनका उपयोग यह परीक्षण करने के लिए कर सकते हैं कि सीखने की प्रक्रिया कैसे काम करती है। हालाँकि, एक पहेली जैसा अंतर सामने आया है। भाषा के बुनियादी स्तर तक पहुँचने के लिए भी, इन कंप्यूटर मॉडलों को प्रशिक्षण डेटा के खरबों शब्दों की आवश्यकता होती है। इसके विपरीत, एक मानव बच्चा केवल कुछ मिलियन शब्द सुनने के बाद अपने पहले हजारों शब्द सीख लेता है। डेटा की आवश्यकताओं में यह विशाल अंतर बताता है कि बच्चे और मशीनें मौलिक रूप से अलग तरीकों से सीख रहे हैं, लेकिन अब तक, किसी के पास इस बात का स्पष्ट गणितीय विवरण नहीं था कि वह अंतर समय के साथ ठीक कैसे प्रकट होता है।
एक शोधकर्ता ने इस अंतर को सीधे मापने का लक्ष्य रखा। उन्होंने शब्दावली वृद्धि पर ध्यान केंद्रित किया, यह ट्रैक किया कि बच्चे समय के साथ विशिष्ट शब्द कैसे सीखते हैं और उस पैटर्न की तुलना की कि कंप्यूटर मॉडल उन्हीं शब्दों को कैसे सीखते हैं। शोधकर्ता ने हजारों बच्चों से डेटा एकत्र किया, जिसमें विस्तृत रिकॉर्ड थे जहाँ माता-पिता ने बताया कि उनके बच्चों ने विभिन्न उम्र में कौन से शब्द बोले। उन्होंने कंप्यूटर मॉडलों को विशेष रूप से बच्चों की ओर निर्देशित भाषण की रिकॉर्डिंग पर भी प्रशिक्षित किया, जिससे यह सुनिश्चित हुआ कि कंप्यूटर को उसी प्रकार का इनपुट मिले जो एक छोटे बच्चे को मिलता है। इन दोनों समूहों का साथ-साथ विश्लेषण करके, शोधकर्ता ने पाया कि मनुष्यों के लिए सीखने का मानक दृष्टिकोण—एक स्थिर संचय के रूप में—गलत था।
अध्ययन से पता चला कि बच्चे एक स्थिर दर से नहीं सीखते हैं। इसके बजाय, उनकी सीखने की क्षमता त्वरित होती है। शुरुआत में, एक बच्चे को एक शब्द बोलने के लिए उसे सैकड़ों बार सुनने की आवश्यकता हो सकती है। लेकिन जैसे-जैसे वे बड़े होते हैं और उनकी शब्दावली बढ़ती है, उन्हें एक नया शब्द सीखने के लिए बहुत कम एक्सपोजर की आवश्यकता होती है। एक छोटा बच्चा "बुक" (किताब) शब्द को बोलने से पहले हजारों बार सुन सकता है, फिर भी एक पूर्व-स्कूली बच्चा चिड़ियाघर में "आइबेक्स" (एक प्रकार की जंगली बकरी) शब्द को केवल कुछ ही बार सुनकर अगले दिन उसे दोहरा सकता है। शोधकर्ता ने पाया कि यह त्वरण एक वास्तविक, मापने योग्य घटना है। जैसे-जैसे बच्चे बड़े होते हैं, प्रत्येक नया भाषाई अनुभव अधिक मूल्यवान होता जाता है। वे पहले के घंटे की तुलना में बाद के प्रत्येक अतिरिक्त बातचीत के घंटे से अधिक सीखते हैं। कंप्यूटर मॉडल, यहाँ तक कि जो बाल-केंद्रित भाषण पर प्रशिक्षित थे, उनमें ऐसा कोई त्वरण नहीं दिखा। वे एक स्थिर, अपरिवर्तित गति से सीख रहे थे, और एक नया शब्द सीखने के लिए उन्हें उतने ही डेटा की आवश्यकता थी जितने उन्हें पहले से पता था।
यह अंतर समझाता है कि बच्चे मशीनों की तुलना में इतने कम डेटा के साथ भी धाराप्रवाह वक्ता कैसे बन जाते हैं। कंप्यूटर मॉडल 'निरंतर प्रतिफल' (constant returns) के सिद्धांत पर कार्य करते हैं: उनके द्वारा सीखा गया प्रत्येक नया शब्द प्रशिक्षण डेटा की समान मात्रा की लागत रखता है। हालाँकि, बच्चों को उनके निवेश पर 'बढ़ते प्रतिफल' (increasing returns) मिलते हैं। शोधकर्ता ने यह परीक्षण किया कि क्या यह त्वरण केवल इस कारण से था कि माता-पिता बच्चों के बड़े होने के साथ उनके बोलने का तरीका बदल रहे थे, या क्या यह बच्चे की सीखने की क्षमता में एक आंतरिक परिवर्तन था। डेटा ने सुझाव दिया कि यह दूसरा मामला था। बच्चों का मस्तिष्क जो सुने गए ध्वनियों से अर्थ निकालने में बेहतर होता दिख रहा था, शायद इसलिए क्योंकि वे नए शब्दों को समझने के लिए पहले से ज्ञात शब्दों का उपयोग करना सीख रहे थे।
ये निष्कर्ष इस विचार को चुनौती देते हैं कि भाषा सीखना केवल समय के साथ साक्ष्य एकत्र करने का मामला है। इसके बजाय, यह प्रक्रिया गतिशील है। शोधकर्ता ने दिखाया कि एक मॉडल जहाँ प्रत्येक नए शब्द का "मूल्य" उम्र के साथ बढ़ता है, वह बच्चों के वास्तविक दुनिया के डेटा पर पूरी तरह फिट बैठता है, जबकि एक मॉडल जहाँ मूल्य स्थिर रहता है, वह नहीं बैठता। यह त्वरण केवल एक छोटी सी बारीकी नहीं है; यह मानव और मशीन लर्निंग के बीच एक मौलिक अंतर है। हालांकि कंप्यूटर मॉडल अंततः शब्द सीख गए, लेकिन उन्होंने इसे उस कठोरता के साथ किया जो मानव बच्चों में नहीं होती। अध्ययन सुझाव देता है कि मानव भाषा का रहस्य केवल उस डेटा की मात्रा में नहीं है जो हमें प्राप्त होता है, बल्कि इस बात में है कि हम बढ़ते हुए उस डेटा का उपयोग करने की अपनी क्षमता को कैसे सुधारते हैं। यह अंतर्दृष्टि मानव संज्ञान को समझने और ऐसे कृत्रिम सिस्टम बनाने के लिए एक नया दिशा प्रदान करती है जो एक दिन एक बच्चे की तरह कुशलता से सीख सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।