Model Fusion via Retrofitting
यह शोध पत्र एक न्यूरॉन-केंद्रित मॉडल फ्यूजन फ्रेमवर्क प्रस्तुत करता है जो फ्यूजन को एक रिप्रेजेंटेशन-मैचिंग समस्या के रूप में मानता है, जिसमें मध्यवर्ती न्यूरॉन्स को समूहित किया जाता है और प्रमुख विशेषताओं को संरेखित करने के लिए एट्रिब्यूशन स्कोर का उपयोग किया जाता है, जिससे बिना पुन: प्रशिक्षण के VGGs, ResNets और ViTs जैसे विविध आर्किटेक्चर में—विशेष रूप से ज़ीरो-शॉट और नॉन-IID परिदृश्यों में—मौजूदा विधियों की तुलना में बेहतर प्रदर्शन प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास दो विशेषज्ञ शेफ हैं जिन्होंने वर्षों तक अपने अनूठे व्यंजनों को निखारा है। शेफ A इतालवी (Italian) व्यंजनों में विशेषज्ञता रखते हैं, और शेफ B जापानी (Japanese) व्यंजनों में विशेषज्ञता रखते हैं। उन्होंने कभी एक साथ काम नहीं किया है, वे अलग-अलग उपकरणों का उपयोग करते हैं, और वे सामग्री को अलग-अलग इकाइयों में माप भी सकते हैं।
अब, कल्पना कीजिए कि आप एक एकल "मास्टर शेफ" बनाना चाहते हैं जो दोनों इतालवी और जापानी व्यंजन पूरी तरह से बना सके, लेकिन आप उन्हें सब कुछ फिर से सीखने के लिए वापस कुकरी स्कूल जाने के लिए नहीं कह सकते। आप बस उनके मौजूदा ज्ञान को तुरंत एक व्यक्ति में जोड़ना चाहते हैं।
यह मॉडल फ्यूजन (Model Fusion) की समस्या है। आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में, हमारे पास अक्सर अलग-अलग न्यूरल नेटवर्क (जो "शेफ" की तरह हैं) होते हैं जिन्हें अलग-अलग प्रशिक्षित किया गया होता है। हम एक शक्तिशाली मॉडल बनाने के लिए उन्हें नए डेटा पर फिर से प्रशिक्षित करने की महंगी और समय लेने वाली प्रक्रिया के बिना जोड़ना चाहते हैं।
समस्या: "भाषा की बाधा" (The Language Barrier)
यह पेपर बताता है कि इन दोनों मॉडलों के वेट्स (weights) को सीधे औसत निकालना (जैसे कि उनकी रेसिपी बुक्स के पन्ने-दर-पन्ना मिश्रण करना) आमतौर पर विफल हो जाता है। क्यों? क्योंकि भले ही वे समान डेटा पर प्रशिक्षित हों, वे चीजें अलग-अलग तरीकों से सीखते हैं।
- "परम्यूटेशन" (Permutation) का मुद्दा: शेफ A के "स्पाइस रैक" (मसाले के डिब्बे) के बारे में सोचें जहाँ "जीरा" ऊपर वाले दराज में है, जबकि शेफ B का "जीरा" नीचे वाले दराज में है। यदि आप केवल उनके दराजों का औसत निकालते हैं, तो आपको एक अस्त-व्यस्त मिश्रण मिलेगा जो समझ में नहीं आता। AI न्यूरॉन्स (जो "सामग्री" की तरह हैं) अलग-अलग क्रम और स्थानों में होते हैं।
- "ज़ीरो-शॉट" (Zero-Shot) चुनौती: मौजूदा तरीके तब ठीक काम करते हैं जब शेफ की पृष्ठभूमि समान हो। लेकिन अगर उन्होंने बिल्कुल अलग पृष्ठभूमि से प्रशिक्षण लिया है (जैसे एक इतालवी भोजन पर और दूसरा जापानी भोजन पर), तो मौजूदा तरीके बुरी तरह विफल हो जाते हैं। संयुक्त मॉडल भ्रमित हो जाता है और व्यक्तिगत शेफ की तुलना में खराब प्रदर्शन करता है।
समाधान: एक "टारगेट" के साथ "रिट्रोफिटिंग" (Retrofitting)
लेखक एक नया तरीका प्रस्तावित करते हैं जिसे "रिट्रोफिटिंग विद अ टारगेट" (Retrofitting with a Target) कहा जाता है। केवल शेफ को औसत निकालने के बजाय, वे एक चतुर दो-चरणीय प्रक्रिया का उपयोग करते हैं जो एक अनुवादक और एक कोच के रूप में कार्य करती है।
चरण 1: "ग्रुपिंग" (जुड़वाओं को खोजना)
सबसे पहले, एल्गोरिदम यह देखता है कि डेटा देखते समय न्यूरॉन्स (न्यूरॉन्स मानव मस्तिष्क के व्यक्तिगत न्यूरॉन्स या शेफ के विशिष्ट "कौशल" की तरह हैं) वास्तव में क्या कर रहे हैं।
- यह शेफ A और शेफ B के समान न्यूरॉन्स को एक साथ समूहबद्ध करता है।
- क्रिएटिव ट्विस्ट: पेपर "न्यूरॉन एट्रिब्यूशन स्कोर" (Neuron Attribution Scores) पेश करता है। कल्पना करें कि सभी सामग्रियां समान रूप से महत्वपूर्ण नहीं होती हैं। कुछ मसाले स्वाद के लिए महत्वपूर्ण होते हैं; अन्य केवल सजावट के लिए होते हैं। एल्गोरिदम पहचानता है कि कौन से न्यूरॉन्स "स्टार खिलाड़ी" (उच्च महत्व) हैं और कौन से "बेंच वार्मर" (कम महत्व) हैं।
- इसके बाद यह प्रत्येक समूह के लिए एक "टारगेट" (Target) बनाता है। इसे एक "गोल्ड स्टैंडर्ड" रेसिपी कार्ड के रूप में सोचें जो समूहबद्ध न्यूरॉन्स के आदर्श औसत का प्रतिनिधित्व करता है, जिसे महत्व के आधार पर भारित (weighted) किया गया है।
चरण 2: "रिट्रोफिट" (कोच)
अब, एल्गोरिदम नया "मास्टर शेफ" (फ्यूज्ड मॉडल) बनाता है। यह केवल पुराने शेफ की नकल नहीं करता; यह नए मॉडल की परतों को अभी से बनाए गए उन "गोल्ड स्टैंडर्ड" लक्ष्यों से मेल खाने के लिए प्रशिक्षित करता है।
- यह एक नए प्रशिक्षु (apprentice) को लेने जैसा है और उससे कहना है, "केवल शेफ A या शेफ़ B की नकल मत करो। इस विशिष्ट टारगेट डिश को देखो जिसे हमने डिजाइन किया है। अपने खाना पकाने को तब तक एडजस्ट करो जब तक कि तुम्हारा आउटपुट इस टारगेट से पूरी तरह मेल न खा जाए।"
- यह नेटवर्क की निचली परत से लेकर ऊपरी परत तक, परत दर परत होता है।
यह बेहतर क्यों है (परिणाम)
पेपर ने विभिन्न AI आर्किटेक्चर (जैसे VGG, ResNet, और Vision Transformers) पर इसका परीक्षण किया और पाया:
- यह वहां काम करता है जहां दूसरे विफल हो जाते हैं: "ज़ीरो-शॉट" परिदृश्यों में (जहाँ मॉडलों को नए डेटा पर अतिरिक्त प्रशिक्षण दिए बिना मर्ज किया जाता है), मौजूदा तरीके अक्सर रैंडम अनुमान लगाने में बदल जाते हैं। लेखकों का तरीका उच्च सटीकता बनाए रखता है, भले ही मॉडल पूरी तरह से अलग, गैर-ओवरलैपिंग डेटा (जैसे "शार्डेड" सेटअप जहाँ एक मॉडल केवल लाल कारों को देखता है और दूसरा केवल नीली कारों को देखता है) पर प्रशिक्षित किए गए हों।
- यह महत्व का सम्मान करता है: उन "न्यूरॉन एट्रिब्यूशन स्कोर" का उपयोग करके, यह तरीका सुनिश्चित करता है कि मूल मॉडलों की सबसे महत्वपूर्ण विशेषताएं संरक्षित रहें, न कि कम महत्वपूर्ण विशेषताओं के शोर में खो जाएं।
- यह लचीला है: यह केवल एक विशेष प्रकार के AI आर्किटेक्चर पर ही नहीं, बल्कि विभिन्न प्रकार के AI आर्किटेक्चर पर भी काम करता है।
ट्रेड-ऑफ (Trade-off)
पेपर स्वीकार करता है कि यह तरीका "क्विक एंड डर्टी" औसत निकालने वाले तरीकों की तुलना में थोड़ा धीमा और कम्प्यूटेशनल रूप से भारी है। हालांकि, वे तर्क देते हैं कि यह सार्थक है क्योंकि:
- यह तुरंत एक उपयोगी मॉडल (Zero-Shot) प्रदान करता है, जबकि अन्य तरीकों को काम करने के लिए घंटों या दिनों के अतिरिक्त फाइन-ट्यूनिंग की आवश्यकता होती है।
- लंबे समय में, टूटे हुए मॉडलों को ठीक करने में लगने वाला समय, शुरुआती फ्यूजन में लगने वाले अतिरिक्त समय से अधिक बचता है।
सारांश उपमा
- पुराना तरीका: आप दो अलग-अलग भाषाओं को लेते हैं, उन्हें शब्द-दर-शब्द तीसरी भाषा में अनुवाद करते हैं, और उम्मीद करते हैं कि अर्थ बना रहेगा। यह आमतौर पर बड़बड़ाहट (gibberish) में बदल जाता है।
- नया तरीका (रिट्रोफिटिंग): आप उन मूल अवधारणाओं ( "टारगेट्स") की पहचान करते हैं जिन्हें दोनों शेफ समझते हैं, उन्हें महत्व के आधार पर एक मूल्य देते हैं, और फिर एक नए शेफ को उस विशिष्ट, एकीकृत भाषा को पूरी तरह से बोलने के लिए प्रशिक्षित करते हैं।
पेपर निष्कर्ष निकालता है कि यह दृष्टिकोण हमें स्वतंत्र AI मॉडलों को प्रभावी ढंग से संयोजित करने की अनुमति देता है, भले ही वे बहुत भिन्न हों, और इसके लिए उन्हें शून्य से फिर से प्रशिक्षित करने की आवश्यकता नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।