LEMUR 2: Unlocking Neural Network Diversity for AI
LEMUR 2 एक बड़े पैमाने के, विस्तार योग्य ढांचे को पेश करता है जो 14,000 से अधिक विविध न्यूरल आर्किटेक्चर को व्यापक प्रदर्शन मेटाडेटा के साथ उत्पन्न करने के लिए जनरेटिव, इवैलुएटिव और डिप्लॉयमेंट पाइपलाइनों को एकीकृत करता है, जिससे मल्टीमॉडल कार्यों और हेटेरोजेनियस हार्डवेयर में पुनरुत्पादक, डेटा-संचालित एआई डिज़ाइन और एलएलएम-संचालित ऑटोएमएल के लिए एक नया आधार स्थापित होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक आदर्श घर बनाने की कोशिश कर रहे हैं। वर्षों से, आर्किटेक्ट्स (AI शोधकर्ता) इन घरों को हाथ से, एक बार में एक ईंट जोड़कर डिजाइन करते रहे हैं। उनके पास कुछ मानक ब्लूप्रिंट (नक्शे) हैं जिन्हें वे पसंद करते हैं, लेकिन उन्होंने वास्तव में यह नहीं खोजा है कि क्या होता है यदि आप विभिन्न युगों की ईंटों को आपस में मिलाते हैं, या यदि आप एक ऐसा घर बनाने की कोशिश करते हैं जो रेगिस्तान, वर्षावन या बर्फीले पहाड़ में समान रूप से काम कर सके।
LEMUR 2 एक विशाल नई परियोजना है जो खेल बदल देती है। केवल कुछ पसंदीदा ब्लूप्रिंट देखने के बजाय, शोधकर्ताओं ने एक विशाल, स्वचालित "निर्माण कारखाना" बनाया है जो 14,000 से अधिक अद्वितीय न्यूरल नेटवर्क डिजाइन ("घर") बनाता है और उन सभी का परीक्षण करता है।
उन्होंने इसे कैसे किया, यहाँ सरल उपमाओं का उपयोग करके बताया गया है:
1. निर्माण दल (उन्होंने मॉडल कैसे बनाए)
टीम ने केवल एक ब्लूप्रिंट नहीं बनाया और उसकी नकल नहीं की। उन्होंने इन 14,000 डिजाइनों को उत्पन्न करने के लिए छह अलग-अलग "क्रू" (दल) का उपयोग किया, जिससे यह संग्रह अविश्वसनीय रूप से विविध बन गया:
- जेनेटिक इंजीनियर्स (विकास/Evolution): डिजिटल जीवों की एक आबादी की कल्पना करें। कंप्यूटर उन्हें कई पीढ़ियों तक "प्रजनन" और "उत्परिवर्तन" (mutate) करने देता है, सबसे मजबूत डिजाइनों को रखता है और कमजोर डिजाइनों को हटा देता है। इसने लगभग 2,000 नए, मजबूत आर्किटेक्चर खोजे।
- कोड म्यूटेटर्स (AST एडिटिंग): इसे एक रोबोट के रूप में सोचें जो एक मौजूदा घर के ब्लूप्रिंट को लेता है और गलियारों की चौड़ाई या खिड़कियों के आकार को बदल देता है। यह कोड में थोड़ा बदलाव करता है यह देखने के लिए कि क्या घर अभी भी खड़ा रह सकता है।
- फ्रैक्टरल बिल्डर्स: ये निर्माता एक गणितीय पैटर्न का उपयोग करते हैं जहाँ एक छोटा डिज़ाइन बार-बार खुद को दोहराता है ताकि एक जटिल, स्व-समान संरचना बनाई जा सके (जैसे कि एक फर्न का पत्ता या स्नोफ्लेक)।
- स्कैवेंजर्स (NN-RAG): यह एक रोबोट की तरह है जो सार्वजनिक कोड (जैसे एक विशाल ऑनलाइन हार्डवेयर स्टोर) के माध्यम से जाता है, उपयोगी पूर्व-निर्मित भाग ढूंढता है (जैसे कि एक विशिष्ट प्रकार का दरवाजा या खिड़की), और अपने टूलबॉक्स में जोड़ने से पहले यह जाँचता है कि क्या वे काम करते हैं। उन्होंने इस तरह से 900 से अधिक पुन: प्रयोज्य भाग खोजे।
- AI आर्किटेक्ट्स (LLM और रिइन्फोर्समेंट लर्निंग): उन्होंने एक सुपर-स्मार्ट AI (एक लार्ज लैंग्वेज मॉडल) से शुरुआत से नए ब्लूप्रिंट लिखने के लिए कहा। कभी-कभी उन्होंने इसे अच्छे घरों के कुछ उदाहरण दिए ताकि यह उनकी नकल कर सके (Few-Shot), और अन्य समय में उन्होंने AI को एक घर बनाने की कोशिश करने दी, असफल होने पर उसे "डाँट" (negative reward) मिली, और उसने तब तक प्रयास किया जब तक कि वह सही नहीं हो गया (Reinforcement Learning)।
- डेटा मिक्सर्स: उन्होंने यह भी परीक्षण किया कि भोजन पकाने से पहले "सामग्री तैयार करने" (डेटा ऑग्मेंटेशन) के 6,000 अलग-अलग तरीके क्या हैं, यह देखने के लिए कि कौन सी रेसिपी भोजन का स्वाद सबसे अच्छा बनाती है।
2. परीक्षण स्थल (उन्होंने क्या परीक्षण किया)
अतीत में, अधिकांश परीक्षण केवल यह देखते थे कि एक मॉडल फोटो में बिल्ली या कुत्ते की पहचान कितनी अच्छी तरह कर सकता है। LEMUR 2 बहुत व्यापक है। उन्होंने इन 14,000 मॉडलों का परीक्षण किया:
- चित्रों का वर्णन करना: AI को एक फोटो के बारे में एक वाक्य लिखने के लिए कहना।
- चित्र बनाना: AI को टेक्स्ट विवरण से एक छवि बनाने के लिए कहना।
- टेक्स्ट लिखना: AI को कहानी में अगले शब्द की भविष्यवाणी करने के लिए कहना।
- विशेषज्ञों को मिलाना: केवल एक बड़े मॉडल पर भरोसा करने के बजाय, अलग-अलग छोटे मॉडलों की एक "टीम" बनाना जो उत्तर पर मतदान करती है।
3. वास्तविक दुनिया का स्ट्रेस टेस्ट (डिप्लॉयमेंट)
यह इस पेपर का सबसे बड़ा नवाचार है। आमतौर पर, शोधकर्ता लैब में विशाल, सुपर-फास्ट कंप्यूटरों पर मॉडलों का परीक्षण करते हैं। LEMUR 2 पूछता है: "क्या यह मॉडल वास्तव में एक फोन या वर्चुअल रियलिटी (VR) हेडसेट पर काम करता है?"
- NN-Lite (फोन टेस्ट): उन्होंने हजारों मॉडलों को लिया और उन्हें एक एंड्रॉइड फोन पर चलाने के लिए छोटा करने की कोशिश की। उन्होंने यह मापा कि इन मॉडलों का उपयोग करके फोन कितनी तेजी से "सोच" सकता है।
- NN-VR (VR टेस्ट): उन्होंने इन मॉडलों को एक वर्चुअल रियलिटी गेम इंजन (Unity) के भीतर चलाने की कोशिश की। उन्होंने यह जांचा कि क्या मॉडल एक 90Hz VR हेडसेट के साथ तालमेल बिठाने के लिए पर्याप्त तेज़ है (जिसका अर्थ है कि मॉडल को प्रति सेकंड 90 बार सोचना होगा, अन्यथा उपयोगकर्ता को मोशन सिकनेस हो सकती है)।
4. परिणाम: एक विशाल लाइब्रेरी
अंतिम आउटपुट एक विशाल डेटाबेस है जिसमें शामिल हैं:
- 14,000+ विशिष्ट मॉडल डिजाइन।
- 750,000+ प्रशिक्षण रिकॉर्ड (प्रत्येक एकल परीक्षण रन के लिए एक लॉगबुक की तरह)।
- फोन और VR हेडसेट से वास्तविक दुनिया का गति डेटा।
यह क्यों मायने रखता है?
पिछले AI अनुसंधान को लेगो (Lego) ब्रिक्स के एक छोटे बॉक्स के रूप में सोचें। आप कुछ शानदार चीजें बना सकते थे, लेकिन आप उन ब्रिक्स तक सीमित थे जो आपके पास थे।
LEMUR 2 अलग-अलग लेगो ब्रिक्स, अलग-अलग निर्माण निर्देशों का एक गोदाम और यहाँ तक कि एक छोटा लेगो महल (मोबाइल फोन) या हेलमेट (VR) के अंदर फिट होने वाला लेगो बनाने के निर्देश भी डाल देता है।
इस विशाल, विविध लाइब्रेरी के होने से, शोधकर्ता अब बेहतर AI डिजाइन करने के लिए AI का उपयोग कर सकते हैं। मानव द्वारा यह अनुमान लगाने के बजाय कि कौन सा ब्लूप्रिंट सबसे अच्छा है, वे इस डेटा का उपयोग एक "मास्टर आर्किटेक्ट" (एक लार्ज लैंग्वेज मॉडल) को प्रशिक्षित करने के लिए कर सकते हैं कि एक न्यूरल नेटवर्क को क्या चीज़ सफल बनाती है, जिससे भविष्य में स्मार्ट, तेज़ और अधिक कुशल AI का मार्ग प्रशस्त होगा।
संक्षेप में: उन्होंने हजारों अलग-अलग AI दिमागों को बनाने और परीक्षण करने के लिए एक विशाल, स्वचालित कारखाना बनाया है, न केवल यह देखने के लिए कि वे कितने स्मार्ट हैं, बल्कि यह देखने के लिए भी कि क्या वे वास्तव में हमारे द्वारा उपयोग किए जाने वाले उपकरणों पर चल सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।