Nucleus-Image: Sparse MoE for Image Generation
न्यूक्लियस-इमेज (Nucleus-Image) एक पूर्णतः ओपन-सोर्स, 17B-पैरामीटर वाला स्पार्स मिक्स्चर-ऑफ-एक्सपर्ट्स डिफ्यूजन ट्रांसफॉर्मर है जो एक्सपर्ट-चॉइस रूटिंग और डिकपल्ड टाइमस्टेप मॉड्यूलेशन जैसे आर्किटेक्चरल नवाचारों के माध्यम से, बिना किसी पोस्ट-ट्रेनिंग ऑप्टिमाइजेशन के, प्रति फॉरवर्ड पास केवल 2B एक्टिव पैरामीटर्स के साथ स्टेट-ऑफ-द-आर्ट इमेज जनरेशन क्वालिटी प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक सुपर-स्मार्ट कलाकार बनाना चाहते हैं जो आपके द्वारा बताए गए कुछ भी को चित्रित कर सके। आमतौर पर, इस कलाकार को इतना कुशल बनाने के लिए, आपको एक विशाल स्टूडियो की आवश्यकता होगी जहाँ हजारों चित्रकार हर एक छवि के हर विवरण पर काम कर रहे हों। यह महंगा, धीमा और बिजली की भारी खपत वाला काम है।
Nucleus-Image एक क्रांतिकारी नए आर्ट स्टूडियो की तरह है जो नियमों को बदल देता है। इस मॉडल में, हजारों चित्रकारों को एक साथ काम पर लगाने के बजाय, उन्होंने 64 विशिष्ट विशेषज्ञों की एक टीम बनाई है (जैसे कि लैंडस्स्केप का उस्ताद, चेहरों का जादूगर, टेक्स्ट का गुरु, आदि)। लेकिन असली जादू यहाँ है: प्रत्येक छवि के लिए, केवल लगभग 2 या 3 विशेषज्ञ ही जागते हैं और काम करते हैं। बाकी सब सोए रहते हैं।
यह तकनीक उन्हें एक 17-बिलियन-पैरामीटर वाले विशालकाय (एक बहुत बड़ी टीम) का ज्ञान प्रदान करती है, लेकिन उन्हें केवल एक छोटे 2-बिलियन-पैरामीटर वाली टीम के बिजली बिल का भुगतान करना पड़ता है।
यहाँ इसका विवरण दिया गया है कि उन्होंने इसे कैसे किया, सरल उपमाओं का उपयोग करते हुए:
1. "सोते हुए दिग्गजों" की रणनीति (Sparse MoE)
मॉडल को 17 अरब किताबों वाले एक विशाल पुस्तकालय के रूप में सोचें। पुराने मॉडलों में, किसी प्रश्न का उत्तर देने के लिए, आपको सही पृष्ठ खोजने के लिए हर एक किताब पढ़नी पड़ती थी। यह धीमा था।
Nucleus-Image में, वे एक स्मार्ट लाइब्रेरियन (द राउटर) का उपयोग करते हैं। जब आप "बिल्ली" की तस्वीर के लिए पूछते हैं, तो लाइब्रेरियन तुरंत जान जाता है, "ओह, हमें केवल 'एनिमल एक्सपर्ट्स' और 'फर टेक्सचर एक्सपर्ट्स' की आवश्यकता है।" वह बस उन्हीं कुछ विशेषज्ञों को जगाता है और बाकी को अनदेखा कर देता है।
- परिणाम: आपको पूरे पुस्तकालय का ज्ञान मिलता है, लेकिन आप केवल उन्हीं कुछ किताबों के लिए भुगतान करते हैं जिनकी आपको वास्तव में आवश्यकता थी।
2. "डिकपल्ड" मस्तिष्क (रूटिंग बनाम कंप्यूटिंग)
इस तकनीक के पिछले संस्करणों में, लाइब्रेरियन भ्रमित हो जाता था। "दिन का समय" (छवि में शोर का स्तर) इतना तेज था कि लाइब्रेरियन बस कहता, "सुबह 9 बजे सभी जाग जाओ, शाम 5 बजे सभी सो जाओ," चाहे तस्वीर को वास्तव में क्या चाहिए था।
- समाधान: Nucleus-Image ने लाइब्रेरियन के मस्तिष्क को चित्रकारों के हाथों से अलग कर दिया।
- लाइब्रेरियन कंटेंट (क्या यह एक बिल्ली है?) और समय (ड्राइंग प्रक्रिया के दौरान समय क्या है?) को देखता है ताकि यह तय किया जा सके कि कौन काम करेगा।
- चित्रकार (Painters) अपना काम करने के लिए पूर्ण निर्देश प्राप्त करते हैं।
- यह लाइब्रेरियन को "समय" के संकेत से अभिभूत होने से रोकता है और सुनिश्चित करता है कि सही काम के लिए सही विशेषज्ञों का चुनाव किया जाए।
3. "टेक्स्ट घोस्ट" (Text Ghost) का कमाल
आमतौर पर, जब कोई AI टेक्स्ट के आधार पर चित्र बनाता है, तो उसे ड्राइंग प्रक्रिया के हर चरण में टेक्स्ट निर्देशों को एक भारी बैकपैक की तरह ढोना पड़ता है।
- समाधान: Nucleus-Image टेक्स्ट निर्देशों को एक भूत (Ghost) की तरह मानता है। यह निर्देशों को शुरुआत में ही एक बार पढ़ लेता है, "की" (Key) और "वैल्यू" (Value) यानी अनुरोध के सार को याद कर लेता है, और फिर टेक्स्ट के "भूत" को उड़ जाने देता है। वास्तविक ड्राइंग प्रक्रिया केवल इमेज पिक्सल के साथ काम करती है।
- परिणाम: ड्राइंग प्रक्रिया अविश्वसनीय रूप से तेज और कुशल हो जाती है क्योंकि यह अब उस भारी बैकपैक को नहीं ढो रही है।
4. "प्रोग्रेसिव" स्कूल करिकुलम (क्रमिक पाठ्यक्रम)
आप एक बच्चे को पहले ही दिन मैराथन दौड़ना नहीं सिखा सकते। आप चलने से शुरू करते हैं, फिर जॉगिंग, और फिर दौड़ना।
- समाधान: मॉडल को तीन चरणों में प्रशिक्षित किया गया था:
- 256 पिक्सेल: बुनियादी आकार बनाना सीखना (जैसे स्केचिंग)।
- 512 पिक्सेल: विवरण और बनावट (textures) सीखना।
- 1024 पिक्सेल: सूक्ष्म बारीकियों तक पूर्णता सीखना।
- महत्वपूर्ण बात यह है कि जैसे-जैसे मॉडल स्मार्ट होता गया, उन्होंने "एक्सपर्ट कैपेसिटी" (कितने विशेषज्ञ जागते हैं) को भी समायोजित किया। शुरुआत में, बुनियादी बातें सीखने के लिए उन्होंने अधिक विशेषज्ञों को जगाया। बाद में, विवरणों को निखारने के लिए उन्होंने कम, विशिष्ट विशेषज्ञों को जगाया।
5. "नो-शैडो" (No-Shadow) प्रशिक्षण विधि
अधिकांश AI मॉडल अपने स्वयं के एक "शैडो कॉपी" (बैकअप संस्करण) को रखते हैं जो अंतिम परिणाम को स्मूथ बनाने के लिए धीरे-धीरे अपडेट होता है। यह मेमोरी लागत को दोगुना कर देता है।
- समाधान: Nucleus-Image ने कोई शैडो नहीं रखा। इसके बजाय, उन्होंने प्रशिक्षण के दौरान मॉडल के कई "स्नैपशॉट्स" सहेजे। अंत में, उन्होंने इन स्नैपशॉट्स को गणितीय रूप से एक साथ विलय (merge) कर दिया ताकि एक अंतिम, अत्यंत स्मूथ मॉडल बनाया जा सके।
- परिणाम: उन्होंने गुणवत्ता खोए बिना प्रशिक्षण के दौरान भारी मात्रा में कंप्यूटर मेमोरी बचाई।
6. "परफेक्ट रेसिपी" (डेटा और ऑप्टिमाइजेशन)
उन्होंने केवल रैंडम इंटरनेट इमेज का उपयोग नहीं किया। उन्होंने एक 700-मिलियन-इमेज लाइब्रेरी बनाई जो थी:
- साफ-सुथरी (Cleaned): धुंधली, खराब या डुप्लिकेट तस्वीरों को हटा दिया गया।
- ग्रेड की हुई (Graded): "A1" (मास्टरपीस) से "A5" (ठीक-ठाक) श्रेणियों में वर्गीकृत किया गया।
- कैप्शन की हुई (Captioned): विभिन्न विवरणों (छोटे, मध्यम और विस्तृत) के साथ दी गई ताकि मॉडल चीजों को अलग-अलग तरीकों से समझा सके।
- सिंथेटिक टेक्स्ट (Synthetic Text): उन्होंने छवियों के साथ सटीक टेक्स्ट भी जनरेट किया ताकि मॉडल चित्रों के अंदर शब्द लिखना सीख सके (जो AI के लिए एक आम संघर्ष है)।
निचोड़ (The Bottom Line)
Nucleus-Image यह साबित करता है कि आपको सर्वश्रेष्ठ AI बनने के लिए केवल ताकत (brute-force) के प्रयोग की आवश्यकता नहीं है। कौन काम करेगा (Sparse MoE), वे कैसे काम करेंगे (Decoupled routing, Text Ghosts), और वे क्या सीखेंगे (Curriculum and Data) के बारे में स्मार्ट होकर, उन्होंने एक ऐसा मॉडल बनाया है जो दुनिया के सबसे बड़े, सबसे महंगे AI को टक्कर देता है, लेकिन बहुत कम बिजली पर चलता है।
और सबसे अच्छी बात? उन्होंने रेसिपी, सामग्री और अंतिम व्यंजन को जनता के लिए मुफ्त में उपलब्ध करा दिया है। कोई गुप्त सॉस नहीं, कोई छिपी हुई ट्रिक नहीं—बस ओपन साइंस।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।