Neural Neural Scaling Laws
यह शोधपत्र न्यूरल न्यूरल स्केलिंग लॉज़ (NeuNeu) को प्रस्तुत करता है, जो एक न्यूरल नेटवर्क-आधारित दृष्टिकोण है जो डाउनस्ट्रीम टास्क परफॉरमेंस प्रेडिक्शन को टाइम-सीरीज एक्सट्रपलेशन समस्या के रूप में फ्रेम करके पारंपरिक पैरामीट्रिक मॉडलों से बेहतर प्रदर्शन करता है, जिससे विविध मॉडल परिवारों और कार्यों में काफी कम त्रुटि दर और ज़ीरो-शॉट जनरलाइजेशन हासिल होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप यह अनुमान लगाने की कोशिश कर रहे हैं कि एक छात्र अपने दैनिक होमवर्क के आधार पर अपनी अंतिम परीक्षा में कैसा प्रदर्शन करेगा।
लंबे समय से, शोधकर्ता इस भविष्यवाणी को करने के लिए एक सरल नियम (जिसे "स्केलिंग लॉज़" कहा जाता है) का उपयोग करते आए हैं। उन्होंने माना कि यदि आप केवल छात्र के औसत होमवर्क स्कोर को देखते हैं, तो आप उनके अंतिम ग्रेड का अनुमान लगाने के लिए एक सुचारू, अनुमानित वक्र (curve) बना सकते हैं। उन्होंने सोचा, "यदि औसत स्कोर बढ़ता है, तो अंतिम ग्रेड एक सीधी रेखा में ऊपर जाएगा।"
लेकिन इस पेपर के लेखक, माइकल वाई. हू और उनकी टीम का कहना है कि यह सरल नियम टूट चुका है। यहाँ बताया गया है कि ऐसा क्यों है, और उन्होंने इसे ठीक करने के लिए क्या किया।
समस्या: "औसत" झूठ बोलता है
पेपर का तर्क है कि औसत स्कोर देखना सच्चाई को छिपा देता है।
- उपमा: कल्पना कीजिए कि दो छात्रों का औसत स्कोर 80% है।
- छात्र A ने हर सवाल का सही जवाब दिया सिवाय एक के। उनका प्रदर्शन स्थिर और विश्वसनीय है।
- छात्र B ने आधे सवालों में 100% और आधे में 60% अंक प्राप्त किए। उनका प्रदर्शन अराजक और अप्रत्याशित है।
- यदि आप केवल "80% औसत" देखते हैं, तो आप अंतर नहीं बता पाएंगे। लेकिन यदि आप प्रत्येक व्यक्तिगत प्रश्न (यानी "टोकन-लेवल" डेटा) को देखते हैं, तो आप देख सकते हैं कि छात्र A के अंतिम परीक्षा में बेहतर करने की संभावना अधिक है।
पुराने तरीके (जिन्हें "लॉजिस्टिक्स स्केलिंग लॉज़" कहा जाता है) उस विस्तृत जानकारी को फेंक देते थे। वे बस औसत लेते थे, उसे सुचारू बनाते थे, और एक सरल गणितीय वक्र फिट करने की कोशिश करते थे। लेखकों ने पाया कि जब छात्र (या AI मॉडल) अजीब व्यवहार करने लगता है—कभी बेहतर होता है, कभी खराब होता है, या एक पठार (plateau) पर पहुँच जाता है—तो यह तरीका विफल हो जाता है।
समाधान: NEUNEU (द "न्यूरल" प्रेडिक्टर)
टीम ने NEUNEU (न्यूरल न्यूरल स्केलिंग लॉज़) नामक एक नया टूल बनाया। NEUNEU को केवल एक साधारण कैलकुलेटर के रूप में नहीं, बल्कि एक अति-अवलोकन करने वाले ट्यूटर के रूप में समझें।
केवल औसत स्कोर देखने के बजाय, NEUNEU निम्नलिखित को देखता है:
- इतिहास: समय के साथ छात्र के ग्रेड कैसे बदले हैं।
- विवरण: प्रत्येक प्रश्न पर विशिष्ट प्रदर्शन, न कि केवल औसत।
यह कैसे काम करता है (रूपक):
कल्पना कीजिए कि आप अनुमान लगाने की कोशिश कर रहे हैं कि एक कार लंबी सड़क यात्रा पर कैसा प्रदर्शन करेगी।
- पुराना तरीका: आप कार की अब तक की औसत गति देखते हैं और मान लेते हैं कि वह इसी गति से चलती रहेगी।
- NEUNU का तरीका: आप इंजन के कंपन, ईंधन के मिश्रण, ड्राइवर की प्रतिक्रिया समय और सड़क के उन विशिष्ट झटकों को देखते हैं जिनसे कार अभी टकराई है। आप एक स्मार्ट कंप्यूटर (न्यूरल नेटवर्क) का उपयोग करते हैं ताकि हजारों अन्य कारों से सीखकर यह सटीक अनुमान लगा सकें कि यह विशिष्ट कार शेष यात्रा को कैसे संभालेगी।
उन्होंने क्या पाया
टीम ने कई ओपन-सोर्स AI मॉडलों (जैसे अलग-अलग स्कूलों के छात्रों) के डेटा पर NEUNEU को प्रशिक्षित किया। उन्होंने इसे 66 विभिन्न कार्यों (जैसे विज्ञान के सवालों के जवाब देना, कहानियाँ लिखना, या तर्क पहेलियाँ सुलझाना) पर परखा।
यहाँ उनकी मुख्य खोजें हैं:
- यह बहुत अधिक सटीक है: NEUNEU पुराने "औसत-आधारित" तरीकों की तुलना में 44% अधिक सटीक था। इसने AI भविष्य में कैसा प्रदर्शन करेगा, इसका अनुमान लगाने में कम गलतियाँ कीं।
- यह अजीब चीजों को संभालता है: कभी-कभी, AI को बड़ा बनाने या उसे अधिक प्रशिक्षित करने से वह कुछ कार्यों में खराब हो जाता है (एक घटना जिसे "इनवर्स स्केलिंग" कहा जाता है)। पुराने तरीके इसका अनुमान नहीं लगा सकते थे; वे बस यही मान लेते थे कि चीजें हमेशा बेहतर होती जाएंगी। NEUNEU ने इन पैटर्न को पहचानने और उन्हें सही ढंग से अनुमान लगाने में महारत हासिल की।
- यह एक "जीरो-शॉट" जीनियस है: NENEU को मॉडलों और कार्यों के एक विशिष्ट सेट पर प्रशिक्षित किया गया था। लेकिन जब उन्होंने इसे एक नए प्रकार का मॉडल या एक नया कार्य दिखाया जिसे इसने पहले कभी नहीं देखा था, तब भी यह पुराने तरीकों से बेहतर काम करता रहा। यह एक ऐसे ट्यूटर की तरह है जो छात्र की अध्ययन आदतों को देखकर एक नए विषय को भी सिखा सकता है जिसे उसने पहले कभी नहीं पढ़ा।
- इसे पता है कि यह कब अनुमान लगा रहा है: NEUNEU केवल एक उत्तर नहीं देता; यह संभावनाओं की एक सीमा देता है (जैसे यह कहना कि "90% संभावना है कि स्कोर 75 और 85 के बीच है")। इससे शोधकर्ताओं को यह जानने में मदद मिलती है कि वे भविष्यवाणी पर कब भरोसा कर सकते हैं और कब उन्हें सावधान रहने की आवश्यकता है।
निष्कर्ष
पेपर का दावा है कि सरल, पूर्व-लिखित सूत्रों (जैसे पुराना "औसत स्कोर" तरीका) का उपयोग करके AI मॉडल के भविष्य के प्रदर्शन की भविष्यवाणी करने की कोशिश करना एक बंद गली (dead end) है। इसके बजाय, हमें एक स्मार्ट, लचीली कंप्यूटर प्रणाली (NEUNEU) का उपयोग करना चाहिए जो सीधे इस विस्तृत डेटा से सीखती है कि मॉडल वास्तव में कैसे व्यवहार करते हैं।
ऐसा करके, वे भविष्य के AI प्रदर्शन की बहुत उच्च सटीकता के साथ भविष्यवाणी कर सकते हैं, जिससे शोधकर्ताओं को यह तय करने में मदद मिलती है कि कौन से AI मॉडल बनाने के लिए समय और पैसा लगाने लायक हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।