Explorative Modeling: Unlocking a Third Pretraining Axis and End-to-End Generation
यह शोध पत्र "एक्सप्लोरेटिव मॉडलिंग" (Explorative Modeling) का परिचय देता है, जो एक नया प्रतिमान (paradigm) है जो कई जनरेशन उम्मीदवारों की खोज करने और सर्वश्रेष्ठ का चयन करने के लिए ट्रेनिंग लूप को फैक्टर करता है, जिससे अन्वेषण (exploration) को एक स्केलेबल तीसरे प्रीट्रेनिंग अक्ष के रूप में स्थापित किया जाता है जो विभिन्न डोमेन में दक्षता और प्रदर्शन में सुधार करता है और वास्तविक एंड-टू-एंड जनरेटिव मॉडलिंग को सक्षम बनाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को चित्र बनाना सिखाने की कोशिश कर रहे हैं। पुराने दिनों में, इंजीनियर एक फैक्ट्री लाइन बनाते थे: एक मशीन रूपरेखा (outline) बनाती थी, दूसरी रंग भरती थी, और तीसरी आँखें जोड़ती थी। यह काम तो करता था, लेकिन यह अव्यवस्थित और धीमा था। फिर, एक क्रांति हुई (जिसकी शुरुआत एलेक्सनेट नामक एक प्रसिद्ध मॉडल से हुई) जिसने हमें एक बेहतर तरीका सिखाया: बस रोबोट को पूरी तस्वीर दे दें और उसे शुरू से अंत तक सब कुछ एक साथ सीखने दें। यह "एंड-टू-एंड" (end-to-end) दृष्टिकोण लगभग हर चीज़ के लिए स्वर्ण मानक बन गया, चेहरे पहचानने से लेकर भाषाओं का अनुवाद करने तक।
लेकिन एक जिद्दी समस्या थी जिसने इन नए नियमों को मानने से इनकार कर दिया: जनरेटिव एआई (generative AI), वह तकनीक जो नई छवियां, वीडियो या कहानियाँ बनाती है। हालांकि ये मॉडल अविश्वसनीय रूप से प्रतिभाशाली हैं, फिर भी वे उसी पुराने जमाने की फैक्ट्री लाइन पर निर्भर करते हैं। वे रचनात्मक प्रक्रिया को बहुत छोटे-छोटे चरणों में तोड़ देते हैं। उदाहरण के लिए, एक कुत्ता बनाने के लिए, वे पहले एक धुंधली आकृति का अनुमान लगा सकते हैं, फिर उसे परिष्कृत कर सकते हैं, फिर फर जोड़ सकते हैं, फिर आँखें जोड़ सकते हैं, और यह प्रक्रिया सैकड़ों बार दोहरा सकते हैं। समस्या यह है कि हर बार जब वे एक कदम उठाते हैं, तो वे एक छोटी सी गलती कर सकते हैं। जब तक वे सौवां कदम पूरा करते हैं, वे छोटी-छोटी गलतियाँ जमा हो जाती हैं, और कुत्ता थोड़ा अजीब या धुंधला दिखाई दे सकता है। वैज्ञानिक सालों से इसे ठीक करने की कोशिश कर रहे हैं, यह पूछते हुए: "हम रोबोट को चरणों में तोड़ने के बजाय एक ही बार में पूरा कुत्ता बनाना क्यों नहीं सिखा सकते?"
एलेक्सी ग्लैडस्टोन, हेंग जी और यिलुन डू के एक नए शोध पत्र के अनुसार, इसका उत्तर यह है कि "क्या बनाना है" की दुनिया बहुत उलझी हुई है। "एक कुत्ता बनाओ" जैसी रिक्वेस्ट का केवल एक सही उत्तर नहीं होता; कुत्तों के अरबों अलग-अलग रूप हो सकते हैं। यदि आप रोबोट को बिना किसी रणनीति के एक साथ उन सभी को बनाना सिखाने की कोशिश करेंगे, तो वह भ्रमित हो जाएगा और केवल एक धुंधला, औसत दिखने वाला कुत्ता बनाएगा जो वास्तव में कुछ भी नहीं लगता। मौजूदा मॉडल इसे चरणों में तोड़कर हल करते हैं, लेकिन यह "एंड-टू-एंड" नियम को तोड़ देता है। यह शोध पत्र एक चतुर नया तरीका पेश करता है जिसे एक्सप्लोरेटिव मॉडलिंग (Explorative Modeling) कहा जाता है, जो मॉडल्स को चरणों में तोड़े बिना इस उलझन को संभालने की अनुमति देता है।
नई रणनीति: "कोशिश करो, कोशिश करो और फिर से कोशिश करो"
लेखक एक सरल लेकिन शक्तिशाली विचार प्रस्तावित करते हैं: मॉडल को पहली बार में ही सही उत्तर का अनुमान लगाने के लिए मजबूर करने के बजाय, उसे कई बार प्रयास करने दें और सबसे अच्छा वाला चुनें। वे इसे एक्सप्लोरेटिव मॉडलिंग कहते हैं।
कल्पना कीजिए कि आप एक खेल खेल रहे हैं जहाँ आपको 1 से 100 के बीच एक गुप्त संख्या का अनुमान लगाना है।
- पुराना तरीका (मानक मॉडल्स): आप एक संख्या का अनुमान लगाते हैं। यदि आप गलत हैं, तो आपको एक संकेत मिलता है और आप फिर से प्रयास करते हैं। आप सैकड़ों बार ऐसा करते हैं, और धीरे-धीरे करीब पहुँचते जाते हैं। लेकिन हर बार जब आप अनुमान लगाते हैं, तो संकेत को समझने में आपसे एक छोटी सी गलती हो सकती है, और अंत तक, आप थोड़ा सा भटक सकते हैं।
- नया तरीका (एक्सप्लोरेटिव मॉडलिंग): आपको एक साथ 50 अलग-अलग संख्याएँ चिल्लाकर बोलने की अनुमति है। फिर, आप गुप्त संख्या को देखते हैं और कहते हैं, "ठीक है, मेरे 50 अनुमानों में से, संख्या 42 सबसे करीब थी!" आप केवल उस एक विजेता से सीखते हैं। आप बाकी 49 गलत अनुमानों को अनदेखा कर देते हैं।
शोध पत्र की भाषा में, इसे K उम्मीदवारों (K candidates) की खोज करना कहा जाता है। मॉडल K अलग-अलग संभावनाएँ (जैसे 50 अलग-अलग कुत्ते) उत्पन्न करता है और केवल उसी पर प्रशिक्षण लेता है जो वास्तविक डेटा के सबसे करीब दिखता है। ऐसा करके, मॉडल विशिष्ट, स्पष्ट विवरणों (जैसे कुत्ते की एक विशिष्ट नस्ल) के प्रति प्रतिबद्ध होना सीखता है, न कि उन सबको मिलाकर एक सामान्य, धुंधला सा आकार बनाना।
यह सब कुछ कैसे बदल देता है
शोध पत्र पाता है कि यह "कई बार प्रयास करें, सबसे अच्छा चुनें" वाला दृष्टिकोण तीन प्रमुख तरीकों से गेम-चेंजर है:
1. यह स्केलिंग के लिए एक नई महाशक्ति है
आमतौर पर, AI को बेहतर बनाने के लिए, आप बस उसके दिमाग को बड़ा (अधिक पैरामीटर्स) करते हैं या उसे अधिक डेटा खिलाते हैं। लेखकों ने एक तीसरा तरीका खोजा है: आप बस मॉडल को "अधिक मेहनत" करने के लिए कहकर इसे बेहतर बना सकते हैं, यानी अनुमानों की संख्या बढ़ाकर। वे इसे एक्सप्लोरेशन (exploration) कहते हैं।
- जब उन्होंने इमेज, वीडियो और लैंग्वेज मॉडल्स पर इसका परीक्षण किया, तो केवल अनुमानों की संख्या बढ़ाने से मॉडल्स काफी बेहतर हो गए।
- जैसे-जैसे उन्होंने डेटा और मॉडल के आकार को बढ़ाया, इस ट्रिक ने और भी अधिक मदद की। उदाहरण के लिए, जैसे-जैसे उन्होंने अधिक डेटा जोड़ा, एक्सप्लोरेशन से होने वाले प्रदर्शन लाभ 7% से बढ़कर 36% तक पहुँच गए। जैसे-जैसे मॉडल बड़े हुए, लाभ 13% से बढ़कर 23% हो गए।
- इसने मॉडल्स को बहुत अधिक कुशल भी बनाया। उन्होंने पाया कि एक्सप्लोरेशन ने कंप्यूटर के काम की दक्षता (FLOPs) को 4.1 गुना, उपयोग किए गए डेटा की दक्षता को 6.2 गुना, और मॉडल के आकार की दक्षता को 47% तक सुधारा।
2. यह मॉडल्स को फिर से "एंड-टू-एंड" बनाता है
चूंकि मॉडल अपने ही अनुमानों में से सबसे अच्छे मिलान को चुनकर सीखता है, इसलिए इसे अब कार्य को छोटे चरणों में तोड़ने की आवश्यकता नहीं है। यह पूरी प्रक्रिया को एक साथ सीख सकता है।
- शोध पत्र दिखाता है कि पर्याप्त एक्सप्लोरेशन के साथ, मॉडल एक ही चरण में पूरी छवि या वीडियो बना सकता है, जैसा कि उसे प्रशिक्षित किया गया था।
- रोबोटिक्स कार्यों (रोबोटिक हाथ को चलाने के लिए सिखाने) पर परीक्षणों में, इस नए तरीके ने मौजूदा सर्वोत्तम तरीकों के प्रदर्शन की बराबरी की, लेकिन इसे करने के लिए 16 से 256 गुना कम कंप्यूटर स्टेप्स का उपयोग किया। रोबोटिक हाथ को चलाने के लिए 100 स्टेप्स लेने के बजाय, नए मॉडल ने इसे केवल 1 स्टेप में कर दिया।
3. यह मॉडल्स को बेहतर सीखने में मदद करता है
लेखक सुझाव देते हैं कि यह तरीका मॉडल्स को बेहतर ढंग से सामान्यीकरण (generalize) करने में मदद करता है, जिसका अर्थ है कि वे केवल ट्रेनिंग डेटा को रटते नहीं हैं बल्कि वास्तव में नियमों को सीखते हैं। जब उन्होंने वीडियो जनरेशन पर इसका परीक्षण किया, तो अधिक एक्सप्लोरेशन वाले मॉडल्स ने ओवरफिट (रटने) कम किया और नए, अनदेखे डेटा पर बेहतर प्रदर्शन किया। ऐसा लगता है कि सबसे अच्छे मिलान को चुनने का "विकल्प" होने से सीखने की प्रक्रिया अधिक सहज और कम भ्रमित करने वाली हो जाती है।
निष्कर्ष
यह शोध पत्र सुझाव देता है कि एक दशक से अधिक समय से, हम AI को बड़ा बनाकर या उसे अधिक किताबें खिलाकर स्मार्ट बनाने की कोशिश कर रहे हैं। लेकिन यह शोध बताता है कि हम एक तीसरा घटक भूल रहे थे: एक्सप्लोरेशन (exploration)। AI को कई संभावनाओं को उत्पन्न करने और सबसे अच्छे से सीखने की अनुमति देकर, हम प्रदर्शन के एक नए स्तर को अनलॉक कर सकते हैं।
लेखक सावधानीपूर्वक नोट करते हैं कि यह एक नया प्रतिमान (paradigm) है जिसकी अभी भी खोज की जा रही है। उन्होंने पाया कि जबकि यह इमेज, वीडियो और कुछ भाषाई कार्यों के लिए अविश्वसनीय रूप से अच्छा काम करता है, इसके लिए अन्य प्रकार के मॉडल्स के लिए और अधिक सुधार की आवश्यकता हो सकती है। हालाँकि, परिणाम आशाजनक हैं: वे एक इमेज जनरेटर को (ImageNet पर 1.43 FID स्कोर के साथ) लगभग सटीक परिणाम देने में सफल रहे, और उन्होंने यह सब बिना किसी विशेष "गाइडेंस" ट्रिक्स के किया, और उन्होंने इसे और भी अधिक कुशल बनाया।
संक्षेप में, यह शोध पत्र तर्क देता है कि AI का भविष्य केवल बड़े दिमागों के बारे में नहीं है, बल्कि अनुमान लगाने के स्मार्ट तरीकों के बारे में है। AI को कई रास्तों को आज़माने और विजेता को चुनने का मौका देकर, हम अंततः इसे एक ही बार में पूरी तस्वीर बनाना सिखा सकते हैं, ठीक वैसे ही जैसे बाकी डीप लर्निंग पिछले कई वर्षों से कर रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।