Escaping Low-Dimensional Overlap: Multi-Task Model Merging via High-Dimensional Sparse Disentanglement

आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, शोधकर्ता लगातार ऐसी मशीनें बनाने की कोशिश कर रहे हैं जो एक साथ कई काम कर सकें। कल्पना कीजिए कि एक छात्र है जिसने वर्षों तक गणित में महारत हासिल की है, दूसरा जो कोडिंग का जादूगर बन गया है, और तीसरा जो जटिल निर्देशों का पालन करने में विशेषज्ञ है। अतीत में, इन सभी कौशलों का उपयोग करने के लिए, एक कंप्यूटर को तीन अलग-अलग प्रोग्राम चलाने की आवश्यकता होती, जिनमें से प्रत्येक एक विषय के लिए समर्पित होता। यह अक्षम है, क्योंकि इसमें भारी मात्रा में कंप्यूटर मेमोरी और ऊर्जा की आवश्यकता होती है। एक अधिक सुरुचिपूर्ण समाधान विभिन्न विशेषज्ञ प्रोग्रामों को एक एकल, बहुमुखी मॉडल में संयोजित करना है। मॉडल मर्जिंग (model merging) के रूप में जानी जाने वाली यह प्रक्रिया, विभिन्न विशिष्ट प्रोग्रामों के "ज्ञान" को बिना उसे फिर से प्रशिक्षित किए, एक एकीकृत मस्तिष्क में मिलाने का प्रयास करती है। हालाँकि, यह मिश्रण करना बेहद कठिन है। जब आप दो अलग-अलग निर्देशों के सेट को मिलाते हैं, तो वे अक्सर आपस में टकरा जाते हैं। कंप्यूटर भ्रमित हो जाता है, और परिणामी मॉडल सभी कार्यों पर खराब प्रदर्शन करता है, जैसे कि विभिन्न कौशल मशीन की मेमोरी में एक ही स्थान के लिए लड़ रहे हों।

इस समस्या का मूल यह है कि ये कृत्रिम मस्तिष्क जानकारी को कैसे संग्रहीत करते हैं। एक न्यूरल नेटवर्क के भीतर, विभिन्न कौशल अक्सर एक ही भौतिक पथ साझा करते हैं, जिसे शोधकर्ता 'सुपरपोजिशन' (superposition) कहते हैं। यह ऐसा है जैसे कई अलग-अलग विचार एक ही संकीले गलियारे में एक ही समय में कब्जा करने की कोशिश कर रहे हों। जब शोधकर्ता दो मॉडलों के भार (weights) को बस एक साथ जोड़ने का प्रयास करते हैं, तो ये ओवरलैपिंग विचार एक-दूसरे के साथ हस्तक्षेप करते हैं, जिससे एक उलझा हुआ जाल बन जाता है जहाँ उपयोगी जानकारी खो जाती है। इसे ठीक करने के पिछले प्रयासों में मूल, भीड़भाड़ वाले स्थान के भीतर इस उलझन को सुलझाने की कोशिश शामिल थी, जो अक्सर मॉडल के कुछ हिस्सों को काटने या संख्याओं को पुन: स्केल करने द्वारा किया जाता था। लेकिन जब हस्तक्षेप गंभीर होता है, तो ये विधियाँ केवल गांठों को देखकर उलझे हुए तारों के ढेर को सुलझाने की कोशिश करने जैसी होती हैं; वे सर्किट को नुकसान पहुँचाए बिना व्यक्तिगत धागों को पूरी तरह से अलग नहीं कर सकतीं।

शोधकर्ताओं की एक टीम ने दृष्टिकोण को पूरी तरह से बदलकर इसे हल करने का एक नया तरीका प्रस्तावित किया है। तारों के भीड़भाड़ वाले गलियारे में उन्हें सुलझाने के बजाय, वे सुझाव देते हैं कि उन तारों को एक बहुत बड़े, खाली कमरे में ले जाया जाए जहाँ उन्हें अलग-अलग बिछाने के लिए पर्याप्त जगह हो। वे इस दृष्टिकोण को 'हाई-डायमेंशनल स्पार्स डिसेंटैंगलमेंट मर्जिंग' (High-Dimensional Sparse Disentanglement Merging) कहते हैं। शोधकर्ताओं ने 'स्पार्स ऑटोएनकोडर' (Sparse Autoencoder) नामक एक उपकरण का उपयोग किया, जो एक अनुवादक की तरह कार्य करता है। यह किसी विशिष्ट कार्य के उलझे हुए निर्देशों को लेता है और उन्हें सरल, विशिष्ट विशेषताओं की एक लंबी सूची में परिवर्तित करता है। क्योंकि यह नई सूची मूल निर्देशों के सेट की तुलना में बहुत लंबी है, इसलिए प्रत्येक विशेषता को अपना समर्पित स्थान मिल जाता है, जिससे कंप्यूटर देख सकता है कि कौन सा ज्ञान गणित का है, कौन सा कोडिंग का है, और कौन सा निर्देशों का पालन करने का है। एक बार जब जानकारी इस विशाल, उच्च-आयामी कमरे में अलग हो जाती है, तो शोधकर्ता सावधानीपूर्वक प्रासंगिक भागों को जोड़ सकते हैं ताकि विभिन्न कौशल एक-दूसरे के रास्ते में न आएँ। संयोजन पूरा होने के बाद, अनुवादक उस साफ, अलग की गई सूची को मूल प्रारूप में वापस बदल देता है ताकि मॉडल इसका उपयोग कर सके।

हालाँकि, एक विशाल मॉडल की प्रत्येक परत को इस नए प्रारूप में अनुवादित करना अविश्वसनीय रूप से धीमा और महंगा होगा। इसे हल करने के लिए, शोधकर्ताओं ने 'ग्रुप-रैंक्ड ज़ीरोथ-ऑर्डर ऑप्टिमाइज़र' (Group-Ranked Zeroth-Order Optimizer) नामक एक स्मार्ट चयन विधि पेश की। यह उपकरण एक स्काउट की तरह कार्य करता है, जो तेजी से परीक्षण करता है कि मॉडल का कौन सा हिस्सा किसी विशिष्ट कार्य के लिए सबसे महत्वपूर्ण है। यह मॉडल के विभिन्न अनुभागों में छोटे, यादृच्छिक समायोजन करके और यह देखकर कि प्रदर्शन में कितना परिवर्तन आता है, यह कार्य करता है, बिना जटिल ग्रेडिएंट्स की गणना किए। केवल सबसे महत्वपूर्ण परतों की पहचान करके, सिस्टम उस महंगी अनुवाद और पृथक्करण प्रक्रिया को केवल वहीं लागू करता है जहाँ इसकी वास्तव में आवश्यकता होती है, बाकी मॉडल को सरल, तेज़ तरीकों से मर्ज करने के लिए छोड़ देता है। यह सुनिश्चित करता है कि गहरा पृथक्करण प्राप्त करने के लाभों के साथ-साथ सिस्टम कुशल बना रहे।

शोधकर्ताओं ने इस नए ढांचे का परीक्षण Qwen2.5 श्रृंखला के भाषा मॉडलों का उपयोग करके किया, जो शक्तिशाली आर्टिफिशियल इंटेलिजेंस सिस्टम हैं। उन्होंने गणितीय तर्क, कोड जनरेशन और जटिल निर्देशों का पालन करने जैसे कार्यों के लिए विशेषज्ञ मॉडल बनाए। जब उन्होंने पारंपरिक तरीकों का उपयोग करके इन विशेषज्ञों को मर्ज किया, तो परिणाम अक्सर निराशाजनक रहे, जिससे कठिन कार्यों पर प्रदर्शन काफी गिर गया। इसके विपरीत, उनकी नई विधि ने मौजूदा तकनीकों को लगातार पछाड़ दिया। एक बड़े 7-बिलियन पैरामीटर वाले मॉडल पर, उनके दृष्टिकोण ने गणित, कोडिंग और निर्देश-अनुसरण कार्यों में औसतन 68.49 का स्कोर प्राप्त किया, जो पिछले सर्वश्रेष्ठ तरीके से स्पष्ट अंतर से बेहतर था। अत्यधिक संघर्ष वाले परिदृश्यों में सुधार और भी नाटकीय था। जब उन्होंने सुरक्षा संरेखण (safety alignment) सहित चार अलग-अलग कार्यों को मर्ज करने की कोशिश की, तो एक छोटे 1.5-बिलियन पैरामीटर वाले मॉडल पर पारंपरिक तरीकों के औसत स्कोर गिरकर 15.45 रह गए। नया तरीका 36.48 का स्कोर बनाए रखने में सफल रहा, जिसने गणित और कोड करने की क्षमता को बनाए रखते हुए सख्त सुरक्षा दिशानिर्देशों का पालन करने की मॉडल की क्षमता को प्रभावी ढंग से संरक्षित किया।

अध्ययन बताता है कि सफल मॉडल मर्जिंग की कुंजी केवल इस बात में नहीं है कि हम संख्याओं को कैसे मिलाते हैं, बल्कि इसमें है कि हम उन्हें कहाँ मिलाते हैं। विशेषताओं को स्पष्ट रूप से अलग किया जा सके, इसके लिए कार्य की जानकारी को उच्च-आयामी स्थान में प्रोजेक्ट करके, शोधकर्ता उस हस्तक्षेप को कम करने में सफल रहे जो आमतौर पर इन प्रणालियों को प्रभावित करता है। उन्होंने पाया कि उनका बेहतर ऑटोएनकोडर, जो सबसे महत्वपूर्ण विशेषताओं को सक्रिय रखने और बाकी को अनदेखा करने के लिए एक विशिष्ट तकनीक का उपयोग करता है, उनकी इस सफलता के लिए महत्वपूर्ण था। इसके अलावा, उनके लेयर-सिलेक्शन टूल ने सिद्ध किया कि यह आवश्यक नहीं है कि इस जटिल पृथक्करण को मॉडल के हर हिस्से पर लागू किया जाए; महत्वपूर्ण परतों पर ध्यान केंद्रित करना ही लाभ प्राप्त करने के लिए पर्याप्त था। परिणाम संकेत देते हैं कि यह दृष्टिकोण एक सामान्यज्ञ मॉडल बनाने का एक मजबूत तरीका है जो अतिरिक्त प्रशिक्षण डेटा या महंगे पुन: प्रशिक्षण की आवश्यकता के बिना कई, परस्पर विरोधी कार्यों को संभाल सकता है। हालाँकि इस पद्धति को सेटअप करने के लिए शुरुआती कम्प्यूटेशनल प्रयास की आवश्यकता होती है, लेकिन इसका प्रतिफल एक ऐसा मॉडल है जो पुरानी तकनीकों द्वारा बनाए गए मॉडलों की तुलना में अपने विशिष्ट कौशलों को बहुत बेहतर तरीके से बनाए रखता है। यह कार्य अधिक सक्षम और बहुमुखी आर्टिफिशियल इंटेलिजेंस सिस्टम बनाने के लिए एक ठोस मार्ग प्रदान करता है जो कई मानवीय कार्यों के जटिल परिदृश्य में अपना रास्ता खोए बिना आगे बढ़ सकें।