🤖 machine learning

Unlocking the Potential of Continual Model Merging: An ODE Perspective

यह शोध पत्र ODE-M का प्रस्ताव करता है, जो एक नवीन निरंतर मॉडल विलय (continual model merging) ढांचा है जो पैरामीटर स्पेस में लो-लॉस पथों को ट्रैक करने के लिए एक साधारण अवकल समीकरण (Ordinary Differential Equation) परिप्रेक्ष्य का लाभ उठाता है, जिससे कैटास्ट्रोफिक फॉरगेटिंग को प्रभावी ढंग से कम किया जा सके और विषम कार्य बेंचमार्क पर मौजूदा विधियों से बेहतर प्रदर्शन किया जा सके।

मूल लेखक: Lihong Lin, Haidong Kang

प्रकाशित 2026-05-20

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Lihong Lin, Haidong Kang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक मास्टर शेफ है जिसने एक परफेक्ट इटालियन पास्ता बनाना सीख लिया है। फिर, आप एक दूसरे शेफ को काम पर रखते हैं जो जापानी सुशी का मास्टर है। अंत में, आप एक तीसरे शेफ को नियुक्त करते हैं जो मैक्सिकन टैकोस में विशेषज्ञ है।

समस्या:
AI की दुनिया में, हमारे पास अक्सर "फाउंडेशन मॉडल्स" (जैसे हमारे मास्टर शेफ) होते हैं जो कई चीजों में अच्छे होते हैं। जब कोई नया काम आता है (जैसे सुशी बनाना सीखना), तो हमें आमतौर पर पूरे शेफ को फिर से शुरू से प्रशिक्षित करना पड़ता है या पुराने ज्ञान पर नया ज्ञान थोपना पड़ता है।

यह पेपर कंटीन्यूअल मॉडल मर्जिंग (Continual Model Merging) के बारे में बात करता है। यह इटालियन शेफ, सुशी शेफ और टैको शेफ के कौशल को एक "सुपर शेफ" में मिलाने जैसा है जो तीनों को पूरी तरह से कर सके, और वह भी बिना उन्हें फिर से शुरू से प्रशिक्षित किए।

पुराना तरीका (द "जंप" मेथड):
पिछले तरीकों में इन शेफों को मिलाने की कोशिश की जाती थी जहाँ वे इटालियन शेफ के दिमाग और सुशी शेफ के दिमाग का एक स्नैपशॉट लेते थे और उन्हें बस आपस में औसत (average) निकाल देते थे।

खामी: कल्पना कीजिए कि इटालियन शेफ का दिमाग एक घाटी (कम लॉस/अच्छा प्रदर्शन) में है और सुशी शेफ का दिमाग दूसरी घाटी में है। यदि आप बस उनके बीच एक सीधी रेखा खींचते हैं, तो आपको बीच में एक खड़ी, पथरीली पहाड़ी पर चढ़ना पड़ सकता है।
परिणाम: जब AI उस सीधी रेखा पर चलने की कोशिश करता है, तो वह एक "लॉस बैरियर" (पहाड़ी) से टकरा जाता है (जो प्रदर्शन को खराब करता है)। वह पास्ता बनाना भूल जाता है क्योंकि वह सुशी सीखने की कोशिश में उस पहाड़ पर फंस गया था। इसे कैटास्ट्रॉफिक फॉरगेटिंग (catastrophic forgetting) कहा जाता है। जैसे-जैसे अधिक शेफ जोड़े जाते हैं, सुपर शेफ मूल कौशल को भूलता जाता है।

नया विचार (द "ODE" मेथड):
लेखक एक नया तरीका प्रस्तावित करते हैं जिसे ODE-M (Ordinary Differential Equation-driven Merging) कहा जाता है। दो दिमागों के बीच सीधे कूदने के बजाय, यह एक निरंतर पथ (continuous path) या दोनों दिमागों को जोड़ने वाली एक चिकनी सड़क की कल्पना करता है।

यहाँ बताया गया है कि वे इसे कैसे करते हैं, सरल रूपकों (metapoles) का उपयोग करके:

चिकनी सड़क (मोड कनेक्टिविटी):
पेपर यह मानता है कि भले ही शेफ अलग दिखते हों, लेकिन उनके दिमागों को जोड़ने वाला एक छिपा हुआ, चिकना, कम ऊंचाई वाला रास्ता है जहाँ वे दोनों अच्छी तरह से खाना बना सकते हैं। लक्ष्य इस रास्ते को खोजना है, न कि पहाड़ के ऊपर से जाने वाली सीधी रेखा को।
स्पीड लिमिट के साथ जीपीएस (द वेलोसिटी फील्ड):
लेखक एक "वेलोसिटी फील्ड" बनाते हैं, जो एक GPS की तरह है जो सुपर शेफ को इटालियन स्टाइल से सुशी स्टाइल की ओर मार्गदर्शन करता है।

समस्या: कभी-कभी, GPS कार को एक खड़ी पहाड़ी पर चलाने की कोशिश करता है (जिससे "लॉस" बढ़ जाता है या खाना बनाना खराब हो जाता है)।
समाधान: सिस्टम वास्तविक समय में इलाके की जांच करता है। यदि सामने का रास्ता ऊपर की ओर (लॉस बढ़ाते हुए) जाने लगता है, तो सिस्टम उस विशिष्ट दिशा में एक "ब्रेक" या "डैम्पनर" लगा देता है। यह उस मूवमेंट को धीमा कर देता है जो भूलने (forgetting) का कारण बनता है, जबकि कार को नए कौशल की ओर आगे बढ़ने भी देता है।

"स्टॉप साइन" (ऑपरेटिंग पॉइंट):
आपको हमेशा मंजिल (नए शेफ के दिमाग) तक पूरी तरह नहीं जाना होता है। कभी-कभी, आप केवल कुछ सुशी कौशल सीखना चाहते हैं बिना अपने पास्ता कौशल को खोए।

सिस्टम आपको उस चिकनी सड़क पर किसी भी बिंदु पर कार रोकने की अनुमति देता है।
यदि नया कार्य बहुत महत्वपूर्ण है, तो आप और आगे चलते हैं (नए शेफ के करीब)।
यदि पुराने कार्य अधिक महत्वपूर्ण हैं, तो आप पहले रुक जाते हैं (पुराने ज्ञान को बनाए रखते हुए)।
यह एक "टाइम शेड्यूल" द्वारा नियंत्रित होता है, जो एक डायल की तरह काम करता है जो यह तय करता है कि नए कौशल को कितना सोखना है और पुराने कौशल को कितना रखना है।

यह बेहतर क्यों है?

पहाड़ चढ़ना नहीं: चिकने, कम-लॉस वाले पथ का पालन करके, AI को उस "पहाड़" पर नहीं चढ़ना पड़ता है जो उसके पुराने कौशल को भुला देता है।
नियंत्रण: यह उपयोगकर्ता को यह तय करने के लिए एक डायल देता है कि पुराने ज्ञान को तोड़े बिना कितना नया ज्ञान जोड़ना है।
परिणाम: अपने परीक्षणों में (कार, फूल और ट्रैफिक साइन जैसी छवियों को पहचानने वाले AI मॉडल का उपयोग करते हुए), इस पद्धति ने एक ऐसा "सुपर शेफ" बनाया जो पिछले किसी भी तरीके की तुलना में सभी कार्यों को याद रखने में बेहतर था। इसने नए व्यंजनों को एक-एक करके जोड़ते समय भी पास्ता कौशल को बनाए रखा।

सारांश में:
दो अलग-अलग AI दिमागों को एक भारी औजार के साथ जबरदस्ती जोड़ने के बजाय (जो चीजों को तोड़ देता है), यह पेपर उन्हें मिलाने के लिए एक चिकने, निर्देशित पथ का उपयोग करता है। यह एक सावधानीपूर्वक नेविगेटर की तरह काम करता है जो AI को "खतरे वाले क्षेत्रों" (जहाँ वह चीजें भूल जाएगा) के चारों ओर मोड़ता है और आपको पुराने और नए कौशल के बीच संतुलन बनाने के लिए उस पथ पर कितनी दूर तक यात्रा करनी है, यह तय करने की अनुमति देता है।

यहाँ शोध पत्र "Unlocking the Potential of Continual Model Merging: An ODE Perspective" का विस्तृत तकनीकी सारांश दिया गया है।

समस्या का निरूपण (Problem Formulation)

यह शोध पत्र कंटीन्यूअल मॉडल मर्जिंग (CMM) को संबोधित करता है, जो एक ऐसी स्थिति है जहाँ कार्य-अनुकूलित (task-adapted) मॉडल क्रमिक रूप से आते हैं, और एक एकल तैनात मॉडल को मूल प्रशिक्षण डेटा तक पहुँच के बिना नई क्षमताओं को शामिल करने के लिए पुनरावृत्ति (iteratively) के माध्यम से अपडेट किया जाना चाहिए। जबकि मानक मॉडल मर्जिंग कई मॉडलों को एक साथ जोड़ती है, CMM कैटास्ट्रॉफिक फॉरगेटिंग (विस्मृति) और असंगत प्रदर्शन आवंटन की चुनौती का सामना करता है।

मौजूदा CMM विधियाँ आमतौर पर प्रत्येक मर्ज को एक निश्चित बीजगणितीय ऑपरेशन (जैसे, वेट एवरेजिंग या टास्क वेक्टर अरिथमेटिक) के रूप में मानती हैं, जो वर्तमान मॉडल $\Psi_k$ और आने वाले मॉडल $\psi_{k+1}$ को सीधे एक नए एंडपॉइंट $\Psi_{k+1}$ पर मैप करता है। लेखक तर्क देते हैं कि यह "केवल-एंडपॉइंट" दृष्टिकोण दो महत्वपूर्ण कमियों से ग्रस्त है:

पथ नियंत्रण का अभाव (Lack of Path Control): यह पैरामीटर स्पेस में लिए गए प्रक्षेपवक्र (trajectory) की अनदेखी करता है। यदि अपडेट उच्च-लॉस क्षेत्रों (loss barriers) से होकर गुजरता है, तो परिणामी मॉडल कार्यात्मक गिरावट या पूर्व में सीखे गए व्यवहारों के साथ हस्तक्षेप का शिकार हो सकता है।
अमूर्त स्थिरता-प्लास्टिसिटी ट्रेड-ऑफ (Inflexible Stability-Plasticity Trade-off): यह इस बात पर सीमित नियंत्रण प्रदान करता है कि ऐतिहासिक ज्ञान को कितना संरक्षित किया जाए बनाम कितनी नई कार्य विशेषज्ञता को अपनाया जाए। यह विशेष रूप से विषम उपयोगिता परिदृश्यों (heterogeneous utility scenarios) में समस्याग्रस्त है, जहाँ कार्यों की आवृत्ति या महत्व भार भिन्न होते हैं; निश्चित नियम अक्सर क्षमता को उचित रूप से आवंटित करने में विफल रहते हैं, जिससे उप-इष्टतम सिस्टम-स्तरीय प्रदर्शन होता है।

कार्यप्रणाली: ODE-संचालित मर्जिंग (ODE-M)

मोड कनेक्टिविटी (mode connectivity)—यह अवलोकन कि स्वतंत्र रूप से प्रशिक्षित मॉडलों को अक्सर निम्न-लॉस पथों द्वारा जोड़ा जा सकता है—से प्रेरित होकर, लेखक निरंतर मर्जिंग को एक असतत छलांग (discrete jump) के बजाय, पैरामीटर स्पेस में एक नियंत्रित निरंतर संक्रमण (controlled continuous transition) के रूप में देखने का प्रस्ताव करते हैं। वे ODE-M पेश करते हैं, जो एक समय-निर्भर वेग क्षेत्र (time-dependent velocity field) के माध्यम से एक जोड़ने वाला पथ उत्पन्न करता है।

1. प्रक्षेपवक्र परिप्रेक्ष्य और लॉस बैरियर्स (Trajectory Perspective and Loss Barriers)

रैखिक इंटरपोलेशन के बजाय, ODE-M वर्तमान मॉडल $\theta_0$ से आने वाले मॉडल $\theta_1$ तक एक निरंतर पथ $\theta(t)$ का निर्माण करता है। लक्ष्य इस पथ के साथ लॉस बैरियर को कम करना है, जिसे एंडपॉइंट लॉस के रैखिक इंटरपोलेशन के सापेक्ष अनुभव किए गए अधिकतम अतिरिक्त लॉस के रूप में परिभाषित किया गया है।

2. रेक्टिफाइड वेलोसिटी फील्ड (Rectified Velocity Field)

मुख्य तंत्र एक बैरियर-अवेयर वेलोसिटी फील्ड का निर्माण है।

बेस फील्ड: एक बेस वेक्टर फील्ड $u_t(\theta) = \alpha(t)(\theta_1 - \theta)$ को मॉडल को लक्ष्य की ओर ले जाने के लिए परिभाषित किया गया है।
ग्रेडिएंट डिकम्पोजिशन: प्रत्येक चरण में, वेग को लॉस ग्रेडिएंट के साथ संरेखित घटक ( $u_\parallel$ ) और उसके लंबवत घटक ( $u_\perp$ ) में विभाजित किया जाता है।
एडाप्टिव रेक्टिफिकेशन: एक एडाप्टिव फैक्टर $\gamma(\theta, t) \in [0, 1]$ $γ (θ, t) \in [0, 1]$ ग्रेडिएंट-संरेखित घटक को नियंत्रित करता है:
- यदि लक्ष्य की ओर गति लॉस को कम करती है या बनाए रखती है ( $\langle g_t, u_t \rangle \le 0$ ), तो पूर्ण वेग लागू किया जाता है ( $\gamma=1$ )।
- यदि गति लॉस को बढ़ाती है ( $\langle g_t, u_t \rangle > 0$ ), तो लॉस वृद्धि को एक निर्धारित बजट ( $\Delta L = L(\theta_1) - L(\theta_0)$ ) के भीतर रखने के लिए घटक को कम (damp) किया जाता है। विशेष रूप से, $\gamma = \text{clip}(\frac{\Delta L}{\langle g_t, u_t \rangle}, 0, 1)$ ।
इंटीग्रेशन: प्रक्षेपवपथ को एक छोटे कैलिब्रेशन सेट पर यूलर इंटीग्रेशन (Euler integration) का उपयोग करके रेक्टिफाइड वेलोसिटी फील्ड $v_t(\theta) = u_\perp + \gamma u_\parallel$ को एकीकृत करके उत्पन्न किया जाता है।

3. उपयोगिता-जागरूक समय शेड्यूलिंग (Utility-Aware Time Scheduling)

स्थिरता-प्लास्टिसिटी ट्रेड-ऑफ को नियंत्रित करने के लिए, विधि पूर्ण एंडपॉइंट ( $t=1$ ) तक इंटीग्रेशन करने के बजाय प्रक्षेपवक्र के साथ एक ऑपरेटिंग टाइम $t_k$ चुनती है। समय $t_k$ आने वाले कार्य की सापेक्ष उपयोगिता द्वारा निर्धारित होता है:
$t_k = \frac{w_k}{\sum_{i=1}^k w_i}$
जहाँ $w_k$ $k$ -वें कार्य का उपयोगिता भार है। एक समान (uniform) सेटिंग में, यह $t_k = 1/k$ में बदल जाता है, जो स्वाभाविक रूप से जैसे-जैसे स्ट्रीम बढ़ती है, नए कार्यों के योगदान को कम करता है, जिससे अधिक ऐतिहासिक ज्ञान सुरक्षित रहता है।

प्रमुख योगदान (Key Contributions)

प्रक्षेपवक्र सूत्रीकरण (Trajectory Formulation): यह शोध पत्र CMM को एक पथ-खोज समस्या के रूप में पुनर्गठित करता है, जो रैखिक इंटरपोलेशन से सामान्य कनेक्टिंग पाथ तक 'लॉस बैरियर्स' की अवधारणा का विस्तार करता है।
बैरियर-अवेयर डायनेमिक्स (Barrier-Aware Dynamics): यह एक रेक्टिफाइड वेलोसिटी फील्ड का उपयोग करके एक नवीन ODE-संचालित मर्जिंग रणनीति प्रस्तावित करता है जो हल्के फर्स्ट-ऑर्डर फीडबैक के माध्यम से लॉस-बढ़ाने वाली गति को नियंत्रित करता है, जिससे पूर्ण रिट्रेनिंग की आवश्यकता के बिना उच्च-लॉस क्षेत्रों से बचा जा सकता है।
स्पष्ट नियंत्रण (Explicit Control): उपयोगिता भार के आधार पर प्रक्षेपवक्र के साथ ऑपरेटिंग पॉइंट्स का चयन करके, यह विधि रिटेन किए गए ऐतिहासिक ज्ञान और आने वाली कार्य विशेषज्ञता के बीच संतुलन बनाने के लिए एक स्पष्ट तंत्र प्रदान करती है।

प्रायोगिक परिणाम (Experimental Results)

लेखकों ने FusionBench सुइट के डेटासेट का उपयोग करते हुए, 8, 14 और 20 की टास्क स्ट्रीम लंबाई में CLIP ViT बैकबोन (ViT-B/32, ViT-B/16, ViT-L/14) पर ODE-M का मूल्यांकन किया।

प्रदर्शन: ODE-M ने औसत सटीकता (ACC) और बैकवर्ड ट्रांसफर (BWT) के संदर्भ में मजबूत बेसलाइन्स (जिसमें कॉन्टिनुअल टास्क अरिथमेटिक, कॉन्टिनुअल टाइज़-मर्जिंग और OPCM शामिल हैं) की तुलना में स्टेट-ऑफ-द-आर्ट प्रदर्शन प्राप्त किया। उदाहरण के लिए, 8 कार्यों के साथ ViT-B/32 पर, ODE-M ने ACC को 75.5 (OPCM) से बढ़ाकर 79.6 कर दिया।
विषम उपयोगिता (Heterogeneous Utility): गैर-समान कार्य महत्व के तहत, ODE-M ने लगातार उच्चतम उपयोगिता-भारित सटीकता ( $ACC_w$ ) प्राप्त की, जो यूनिफॉर्म मैक्रो-एवरेजेस के लिए अनुकूलित विधियों की तुलना में विशिष्ट कार्य प्राथमिकताओं के लिए अनुकूलित होने की इसकी क्षमता को प्रदर्शित करता है।
मजबूती (Robustness): एब्लेशन अध्ययनों ने दिखाया कि विधि कैलिब्रेशन सेट के आकार के प्रति मजबूत है (512 नमूनों के साथ भी अच्छा प्रदर्शन करती है) और संख्यात्मक एकीकरण स्टेप साइज के प्रति भी।
दक्षता (Efficiency): प्रति मर्ज कम्प्यूटेशनल ओवरहेड व्यावहारिक है (जैसे, ViT-B/32 के लिए ~124s), जो कैलिब्रेशन सेट पर संख्यात्मक एकीकरण और ग्रेडिएंट गणनाओं द्वारा संचालित है, जो पूर्ण रिट्रेनिंग की तुलना में नगण्य है।

महत्व और दावे (Significance and Claims)

शोध पत्र का दावा है कि ODE-M निश्चित बीजगणितीय अपडेट से नियंत्रित निरंतर संक्रमण की ओर बदलाव करके कंटिन्युअल मॉडल मर्जिंग की क्षमता को अनलॉक करता है। लॉस लैंडस्केप का सम्मान करने वाले पथों का स्पष्ट रूप से निर्माण करके और कार्य उपयोगिता के आधार पर एकीकरण की गति को विनियमित करके, ODE-M प्रभावी रूप से विस्मृति (forgetting) को कम करता है और विषम कार्य महत्व को संभालता है।

लेखक इस कार्य को अधिक स्केलेबल और नियंत्रणीय मॉडल अनुकूलन (model customization) की दिशा में एक कदम के रूप में प्रस्तुत करते हैं, जो मल्टी-टास्क सिस्टम को बनाए रखने के इंजीनियरिंग और कम्प्यूटेशनल ओवरहेड को कम करता है। वे सीमाओं को स्वीकार करते हैं, जैसे कि ग्रेडिएंट गणना के लिए कैलिब्रेशन सेट की आवश्यकता और वर्तमान में विजन क्लासिफिकेशन कार्यों पर ध्यान केंद्रित करना, यह नोट करते हुए कि भविष्य के कार्य बड़े लैंग्वेज मॉडल्स और अधिक कुशल एकीकरण रणनीतियों की खोज करेंगे।