🤖 machine learning

Revitalizing the Beginning: Avoiding Storage Dependency for Model Merging in Continual Learning

यह शोध पत्र ट्रजेक्टरी रेगुलराइज्ड मर्जिंग (TRM) का प्रस्ताव करता है, जो एक नवीन ढांचा है जो एक संवर्धित ट्रजेक्टरी उप-स्थान (augmented trajectory subspace) के भीतर मॉडल मर्जिंग को एक अनुकूलन प्रक्रिया के रूप में पुनर्गठित करके निरंतर शिक्षण (continual learning) में भंडारण सीमाओं और अनुकूलन ठहराव (optimization stagnation) को संबोधित करता है ताकि अत्याधुनिक प्रदर्शन प्राप्त किया जा सके।

मूल लेखक: Xi Wang, Cheng Deng

प्रकाशित 2026-05-12

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xi Wang, Cheng Deng

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ एक शोध पत्र "Revitalizing the Beginning: Avoiding Storage Dependency for Model Merging in Continual Learning" का सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करके किया गया स्पष्टीकरण दिया गया है।

बड़ी समस्या: "भुलक्कड़ शेफ" और "भारी फ्रिज"

कल्पना कीजिए कि आप एक शेफ हैं जो हर दिन एक नई रेसिपी सीखने की कोशिश कर रहे हैं।

लक्ष्य: आप सभी रेसिपीज़ में माहिर बनना चाहते हैं (कंटीन्यूअल लर्निंग)।
समस्या: यदि आप आज के नए व्यंजन पर बहुत अधिक ध्यान केंद्रित करते हैं, तो आप कल के व्यंजन को बनाना भूल सकते हैं। इसे "कैटास्ट्रोफिक फॉरगेटिंग" (विनाशकारी विस्मृति) कहा जाता है।
पुराना समाधान: आमतौर पर, शेफ्स के पास एक विशाल फ्रिज होता है जिसमें उनके द्वारा उपयोग किए गए हर सामग्री और रेसिपी का भंडार होता है ताकि वे पीछे मुड़कर देख सकें और याद रख सकें।
प्रतिबंध: इस शोध पत्र में, लेखक कहते हैं, "कोई बड़ा फ्रिज नहीं चलेगा!" आप केवल वही रेसिपी रख सकते हैं जो आपने अभी सीखी है और वह जो आपने उससे ठीक पहले सीखी थी। आप पुराना डेटा या पुराने मॉडल स्टोर नहीं कर सकते। यह एक सख्त गोपनीयता और स्टोरेज नियम है।

वर्तमान दोष: "खराब हैंडऑफ" (Bad Handoff)

मौजूदा तरीके आपके "पुरानी रेसिपी" और "नई रेसिपी" को एक "मास्टर रेसिपी" में मिलाने (मॉडल मर्जिंग) की कोशिश करते हैं। हालाँकि, लेखकों ने पाया कि जब वे इतिहास को नहीं देख पाते, तो मौजूदा तरीके यह काम बहुत खराब तरीके से करते हैं।

उन्होंने तीन विशिष्ट तरीकों की पहचान की जिनसे यह "हैंडऑफ" गलत हो जाता है:

"औसत स्वाद फीका है" वाली समस्या (Suboptimal Local Convergence):
कल्पना कीजिए कि आपके पास एक बेहतरीन लाज़ानिया रेसिपी है और एक बेहतरीन सुशी रेसिपी है। यदि आप उन्हें बस आधा-आधा मिला देते हैं, तो आपको एक अजीब, औसत दर्जे का व्यंजन मिलेगा जिसका स्वाद न तो वैसा होगा और न ही वैसा। मौजूदा तरीके एक "ग्लोबल एवरेज" खोजने की कोशिश करते हैं, लेकिन यह प्रत्येक कार्य के लिए आवश्यक विशिष्ट विवरणों को नष्ट कर देता है। परिणाम एक ऐसा मॉडल होता है जो हर चीज़ में ठीक-ठाक है, लेकिन किसी भी चीज़ में महान नहीं है।
"टूटी हुई संरचना" वाली समस्या (Disruption of Semantic Representation):
एक इमारत के बारे में सोचें। नींव (निचली परतें) भार को थामे रखती है, लेकिन विशिष्ट कमरे (ऊपरी परतें) ही विशिष्ट कार्यों के लिए होते हैं। जब मौजूदा तरीके दो मॉडलों को आपस में मिलाते हैं, तो वे अनजाने में आंतरिक वायरिंग को तोड़ देते हैं। यह दो घरों को जोड़ने के लिए उनकी दीवारों को आपस में टकराने जैसा है; कमरे गलत जगहों पर चले जाते हैं, और घर समझ से बाहर हो जाता है।
"कीचड़ में फँसा हुआ" वाली समस्या (Loss of Optimization Plasticity):
कल्पना कीजिए कि आप कार चला रहे हैं। यदि आप एक गहरे, सपाट घाटी में पार्क कर देते हैं, तो कार को फिर से चलाना मुश्किल हो जाता है क्योंकि वहाँ कोई ढलान नहीं है जिस पर वह लुढ़क सके। मौजूदा मर्जिंग तरीके अक्सर मॉडल को गणित की एक "सपाट घाटी" में खड़ा कर देते हैं। जब अगला नया कार्य आता है, तो मॉडल इतना "कठोर" और फँसा हुआ होता है कि वह कुछ भी नया नहीं सीख पाता। इसने अनुकूलन करने की अपनी क्षमता खो दी है।

समाधान: TRM (ट्रैजेक्टरी रेगुलराइज्ड मर्जिंग)

लेखक TRM नामक एक नई विधि प्रस्तावित करते हैं। दो रेसिपीज़ को आँख बंद करके मिलाने के बजाय, वे मर्जिंग प्रक्रिया को एक मानचित्र पर सबसे सटीक स्थान खोजने वाली एक निर्देशित खोज (guided search) की तरह मानते हैं।

TRM कैसे काम करता है, इसे तीन "नियमों" का उपयोग करके समझा जा सकता है:

नियम 1: नए कार्य के प्रति वफादार रहें (Task Alignment)
- उपमा: रसोई छोड़ने से पहले, सुनिश्चित करें कि नया व्यंजन वास्तव में स्वादिष्ट है।
- यह क्या करता है: यह मर्ज किए गए मॉडल को वर्तमान कार्य पर तुरंत अच्छा प्रदर्शन करने के लिए मजबूर करता है, जिससे यह सुनिश्चित होता है कि हम नई रेसिपी के विशिष्ट विवरणों को नहीं खोते हैं।
नियम 2: घर को सुरक्षित रखें (Prediction Consistency)
- उपमा: सुनिश्चित करें कि नए घर के कमरे अभी भी पुराने घर के कमरों के साथ मेल खाते हैं। किचन को बाथरूम में न जाने दें।
- यह क्या करता है: यह जाँचता है कि मॉडल की आंतरिक "वायरिंग" को बिखेरा तो नहीं गया है। यह सुनिश्चित करता है कि दुनिया के प्रति मॉडल की आंतरिक समझ स्थिर और तार्किक बनी रहे।
नियम 3: इंजन चालू रखें (Gradient Responsiveness)
- उपमा: कार को एक सपाट घाटी में पार्क न करें। कार को एक हल्की ढलान पर पार्क करें ताकि इंजन आसानी से चालू हो सके और आगे बढ़ सके।
- यह क्या करता है: यह सुनिश्चित करता है कि मॉडल "फँसा" हुआ न हो। यह गणितीय "ढलान" को पर्याप्त रूप से तीव्र रखता है ताकि जब अगला नया कार्य आए, तो मॉडल तेजी से और आसानी से सीख सके।

गुप्त सामग्री: "जादुई धब्बा" (Magic Nudge)

चूँकि लेखकों को पुराना डेटा देखने की अनुमति नहीं है, इसलिए वे बहुत सीमित जानकारी के साथ काम कर रहे हैं (केवल पुराने और नए मॉडल के बीच एक सीधी रेखा)। इसे ठीक करने के लिए, वे एक "पर्टरबेशन वेक्टर" (एक नियंत्रित रैंडम धब्बा/नज) पेश करते हैं।

उपमा: कल्पना कीजिए कि आप एक सीधी रेखा में चल रहे हैं, लेकिन आपको महसूस होता है कि आप एक दीवार से टकरा रहे हैं। आप एक बेहतर रास्ता खोजने के लिए थोड़ा सा, गणना किया गया कदम बगल में लेते हैं (यह कोई रैंडम लड़खड़ाहट नहीं है, बल्कि एक जानबूझकर उठाया गया कदम है)।
क्यों: यह मॉडल को पूरी हिस्ट्री को याद रखे बिना, एक बेहतर स्थान खोजने के लिए थोड़ी सी "हिलने-डुलने की जगह" (wiggle room) देता है।

परिणाम

लेखकों ने इस "शेफ" (मॉडल) का परीक्षण कई कठिन कुकिंग चुनौतियों (CIFAR100, ImageNet-R, और Stanford Cars जैसे डेटासेट) पर किया।

परिणाम: TRM ने अन्य तरीकों को लगातार मात दी।
स्कोर: सबसे कठिन टेस्ट (20 कार्यों के साथ ImageNet-R) पर, TRM ने 82.7% सटीकता प्राप्त की, जबकि अगली सर्वश्रेष्ठ विधि केवल 79.3% ही प्राप्त कर सकी।
दक्षता: इसने यह सब बिना किसी विशाल फ्रिज (कोई संग्रहीत डेटा नहीं) के किया और इसे पकाने (ट्रेन करने) में अन्य तरीकों की तुलना में बहुत अधिक समय भी नहीं लगा।

सारांश

यह शोध पत्र तर्क देता है कि दो AI मॉडलों को बस एक साथ मिलाने से बाद में नई चीजें सीखने की उनकी क्षमता नष्ट हो जाती है। स्वाद, संरचना और मॉडल के "इंजन" की जाँच करने के लिए तीन विशिष्ट नियमों का उपयोग करके, और एक छोटा, गणना किया गया कदम उठाकर, लेखकों ने एक ऐसा तरीका बनाया है जो मॉडलों को तेज, स्थिर और भविष्य के लिए तैयार रखता है—और वह भी बिना पुराने डेटा को जमा किए।

तकनीकी सारांश: पुनरुद्धार: मॉडल मर्जिंग के लिए स्टोरेज निर्भरता से बचना (Revitalizing the Beginning: Avoiding Storage Dependency for Model Merging in Continual Learning)

1. समस्या विवरण (Problem Statement)

कंटीन्यूअल लर्निंग (CL) का लक्ष्य मॉडलों को बिना 'कैटास्ट्रोफिक फॉरगेटिंग' (catastrophic forgetting) के नए ज्ञान को क्रमिक रूप से प्राप्त करने में सक्षम बनाना है। जबकि मॉडल मर्जिंग (Model Merging) विशिष्ट विशेषज्ञता को एक एकीकृत मल्टी-टास्क मॉडल में एकीकृत करने के लिए एक ट्रेनिंग-मुक्त प्रतिमान (paradigm) के रूप में उभरा है, मौजूदा विधियाँ CL की सख्त मेमोरी सीमाओं के साथ एक गंभीर संघर्ष का सामना करती हैं। अधिकांश वर्तमान मर्जिंग तकनीकें (जैसे, Model Stock, TIES, MagMax) मर्जिंग चरण के दौरान सभी पिछले टास्क वेक्टर्स और प्रारंभिक मॉडल तक पहुंच की आवश्यकता रखती हैं। यह कार्यात्मक रूप से पूर्व विशेषज्ञों के पूरे समूह को संग्रहीत करने के समान है, जो CL के उस सिद्धांत का उल्लंघन करता है जिसमें ऐतिहासिक डेटा या मॉडलों को रखने की मनाही होती है।

लेखक यह प्रदर्शित करते हैं कि सख्त CL बाधाओं के तहत—जहाँ केवल वर्तमान विशेषज्ञ और तुरंत मर्ज किया गया मॉडल ही उपलब्ध है—मौजूदा विधियाँ गंभीर प्रदर्शन गिरावट (6% तक) का शिकार होती हैं। नैदानिक प्रयोगों (diagnostic experiments) के माध्यम से, पेपर इस विफलता के तीन मूल कारणों की पहचान करता है:

इष्टतम स्थानीय अभिसरण की कमी (Suboptimal Local Convergence): मौजूदा विधियाँ वैश्विक संरेखण (global alignment) को प्राथमिकता देती हैं, जिससे मर्ज किए गए मॉडल व्यक्तिगत कार्यों के इष्टतम बेसिन (optimal basins) से दूर उच्च-हानि वाले क्षेत्रों (high-loss regimes) में चले जाते हैं, जिससे कार्य-विशिष्ट त्रुटियों का संचय होता है।
संरचनात्मक अर्थ संबंधी प्रतिनिधित्व का व्यवधान (Disruption of Structural Semantic Representation): लीनियर मर्जिंग परतों के बीच नाजुक कार्यात्मक निर्भरताओं को खंडित कर देती है, जिससे महत्वपूर्ण सिमेंटिक ड्रिफ्ट (semantic drift) होता है, विशेष रूप से गहरी परतों में जहाँ कार्य-विशिष्ट अर्थ (semantics) एनकोडेड होते हैं।
अनुकूलन प्लास्टिसिटी का नुकसान (Loss of Optimization Plasticity): मर्ज किए गए मॉडल अक्सर "दिशात्मक कठोरता" (directional stiffening) प्रदर्शित करते हैं, जहाँ ग्रेडिएंट कोणीय विचलन (gradient angular deviation) को न्यूनतम कर दिया जाता है। यह इंगित करता है कि मॉडल लॉस लैंडस्स्केप के रोगजनक रूप से सपाट क्षेत्रों (pathologically flat regions) में फंसा हुआ है, जिसके परिणामस्वरूप ग्रेडिएंट लुप्त (vanishing gradients) हो जाते हैं और आगामी कार्यों के लिए अनुकूलन करने की क्षमता समाप्त हो जाती है।

2. कार्यप्रणाली: ट्रेजेक्टरी रेगुलराइज्ड मर्जिंग (TRM)

इन सीमाओं को ऐतिहासिक डेटा संग्रहीत किए बिना संबोधित करने के लिए, लेखक ट्रेजेक्टरी रेगुलराइज्ड मर्जिंग (TRM) का प्रस्ताव करते हैं। यह फ्रेमवर्क मर्जिंग चरण को एक ऑगमेंटेड ट्रेजेक्टरी सबस्पेस (augmented trajectory subspace) के भीतर एक निर्देशित अनुकूलन समस्या के रूप में पुनर्गठित करता है।

ऑगमेंटेड सबस्पेस निर्माण (Augmented Subspace Construction):
केवल वर्तमान टास्क वेक्टर ( $\tau_t$ ) और पिछले टास्क वेक्टर ( $\tau_{t-1}$ ) के 1D लीनियर स्पैन के भीतर समाधान खोजने के बजाय, TRM इन वेक्टर्स के स्पैन के लंबवत (orthogonal) एक परटर्बेशन वेक्टर $P$ पेश करता है। यह विस्तार स्टोरेज बाधाओं के कारण खोई गई जानकारी की भरपाई करता है, जिससे खोज को नॉन-कॉन्वेक्स पैरामीटर स्पेस के अधिक लचीले क्षेत्रों को खोजने की अनुमति मिलती है। मर्ज किया गया टास्क वेक्टर इस प्रकार है:
$\tau_{mrg}^t(\alpha, \beta) = \alpha \cdot \tau_t + (1-\alpha) \cdot \tau_{t-1} + \beta \cdot P$
जहाँ $\alpha$ और $\beta$ क्रमशः इंटरपोलेशन और एक्सपेंशन गुणांक (coefficients) हैं।

बहु-उद्देश्यीय पर्यवेक्षी संकेत (Multi-Objective Supervisory Signal):
इष्टतम गुणांकों $\{\alpha, \beta\}$ की पहचान करने के लिए, TRM एक एकीकृत ऑब्जेक्टिव फंक्शन को ऑप्टिमाइज़ करता है जो तीन सहक्रियात्मक बाधाओं (synergistic constraints) से बना है:

टास्क अलाइनमेंट ( $L_{align}$ ): वर्तमान कार्य पर एम्पिरिकल रिस्क (क्रॉस-एन्ट्रॉपी लॉस) को कम करता है। यह सुनिश्चित करता है कि मर्ज किया गया मॉडल नवीनतम विशेषज्ञता से जुड़ा रहे, जिससे उच्च-परिशुद्धता वाले स्थानीय बेसिनों से विस्थापन को रोका जा सके।
प्रेडिक्शन कंसिस्टेंसी ( $L_{pre}$ ): मर्ज किए गए मॉडल के हिडन रिप्रेजेंटेशन और वर्तमान फाइन-ट्यून्ड मॉडल एवं पिछले समेकित मॉडल के कार्यात्मक सेंट्रॉइड (functional centroid) के बीच लेयर-वार L2 दूरी को कम करता है। एक प्रोग्रेसिव वेटिंग स्कीम लागू की जाती है, जो उच्च परतों को प्राथमिकता देती है जहाँ कार्य-विशिष्ट सिमेंटिक्स निवास करते हैं, ताकि स्ट्रक्चरल सिमेंटिक ड्रिफ्ट को रोका जा सके।
ग्रेडिएंट रिस्पॉन्सिवनेस ( $L_{res}$ ): वर्तमान कार्य पर ग्रेडिएंट के स्क्वेर्ड नॉर्म को अधिकतम करता है। इस अवलोकन के आधार पर कि अनुक्रमिक कार्यों के बीच लो-लेवल फीचर ओवरलैप मौजूद होते हैं, वर्तमान कार्य पर ग्रेडिएंट नॉर्म को अधिकतम करना मॉडल की काइनेटिक रिस्पॉन्सिवनेस को पुनः सक्रिय करता है, यह सुनिश्चित करता है कि वह सपाट क्षेत्रों में न फंसे और भविष्य के कार्यों के लिए प्लास्टिसिटी बनाए रखे।

कुल लॉस को $L_{total} = L_{align} + \lambda_1 L_{pre} + \lambda_2 L_{res}$ के रूप में परिभाषित किया गया है। इसके अतिरिक्त, खोज के दौरान लोकल ऑप्टिमा की ओर जल्दी अभिसरण को रोकने के लिए, इसमें पिछले और वर्तमान मॉडलों के मापदंडों के स्टोकेस्टिक क्रॉसओवर (stochastic crossover) को शामिल किया गया है।

3. मुख्य योगदान (Key Contributions)

पेपर चार प्राथमिक योगदानों को रेखांकित करता है:

सीमाओं की पहचान: यह उजागर करता है कि मौजूदा मॉडल मर्जिंग विधियाँ CL सिद्धांतों का पूरी तरह से पालन नहीं करती हैं और जब नॉलेज स्टोरेज की अनुमति नहीं होती है, तो महत्वपूर्ण प्रदर्शन गिरावट का सामना करती हैं।
सैद्धांतिक विश्लेषण: यह इस अंतर के कारणों का विश्लेषण करता है (लोकल ऑप्टिमलिटी लॉस, सिमेंटिक ड्रिफ्ट, और प्लास्टिसिटी लॉस) और मर्जिंग को एक ऑर्थोगोनली ऑगमेंटेड ट्रेजेक्टरी सबस्पेस के भीतर एक ऑप्टिमल पॉइंट सर्च समस्या के रूप में पुनर्गठित करता है।
नया फ्रेमवर्क: यह TRM का प्रस्ताव करता है, जो तीन बाधाओं (टास्क अलाइनमेंट, प्रेडिक्शन कंसिस्टेंसी, और ग्रेडिएंट रिस्पॉन्सिवनेस) द्वारा निर्देशित है, जो ऐतिहासिक स्थिरता और भविष्य की प्लास्टिसिटी के बीच सामंजस्य बिठाता है, बिना किसी संग्रहीत मॉडल या डेटा रिप्ले पर निर्भर हुए।
अनुभवजन्य सत्यापन (Empirical Validation): यह सख्त CL बाधाओं के तहत कई बेंचमार्क पर स्टेट-ऑफ-द-आर्ट प्रदर्शन प्रदर्शित करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने तीन डेटासेट्स: CIFAR100, ImageNet-R, और Stanford Cars पर, अलग-अलग कार्यों की संख्या (5, 10, और 20) के साथ क्लास-इन्क्रीमेंटल लर्निंग (CIL) का उपयोग करके TRM का मूल्यांकन किया। बैकबोन के रूप में CLIP ViT-B/16 का उपयोग किया गया था।

प्रदर्शन: TRM ने अधिकांश सेटिंग्स में स्टेट-ऑफ-द-आर्ट परिणाम प्राप्त किए। ImageNet-R पर, इसने 5, 10, और 20 कार्यों के लिए पिछले SOTA तरीकों से 1.4% से 3.4% के अंतर से बेहतर प्रदर्शन किया। CIFAR100 पर, इसने 5 कार्यों के लिए पिछले SOTA से 3.1% और 10 कार्यों के लिए 1.5% सुधार किया।
एब्लेशन स्टडीज (Ablation Studies): तीनों बाधाओं में से किसी एक को हटाने से प्रदर्शन में गिरावट आई, जो पुष्टि करता है कि स्थिरता (अलाइनमेंट/कंसिस्टेंसी) और प्लास्टिसिटी (रिस्पॉन्सिवनेस) एक-दूसरे के पूरक हैं।
स्केलेबिलिटी: बड़े पैमाने के ImageNet1K (100 कार्य) और विभिन्न बैकबोन (ViT-L/14, LAION-pretrained ViT-B/16) पर प्रयोगों ने विधि की मजबूती और स्केलेबिलिटी की पुष्टि की।
दक्षता: हालांकि TRM कुछ बेसलाइन्स (जैसे, ImageNet-R पर 30 मिनट के मुकाबले 33 मिनट) की तुलना में प्रशिक्षण समय में मामूली वृद्धि लाता है, लेकिन यह न्यूनतम ओवरहेड के साथ महत्वपूर्ण प्रदर्शन लाभ प्राप्त करता है।
ऑप्टिमाइज़ेशन स्टेबिलिटी: हेसियन स्पेक्ट्रल नॉर्म (Hessian spectral norm) के विश्लेषण ने दिखाया कि TRM एक मध्यम और स्थिर लॉस लैंडस्केप कर्वेचर बनाए रखता है, जो खराब सामान्यीकरण (generalization) से जुड़ी रोगजनक शार्पनेस से बचता है।

5. महत्व और दावे (Significance and Claims)

पेपर का दावा है कि TRM सफलतापूर्वक मॉडल मर्जिंग के सैद्धांतिक लाभों और कंटीन्यूअल लर्निंग की व्यावहारिक बाधाओं के बीच के अंतर को पाटता है। ऐतिहासिक टास्क वेक्टर्स या डेटा रिप्ले को स्टोर करने की आवश्यकता को समाप्त करके, TRM विशिष्ट विशेषज्ञता को एकीकृत करने के लिए एक स्केलेबल और गोपनीयता-संरक्षित समाधान प्रदान करता है। लेखक दावा करते हैं कि उनका तरीका अगले प्रशिक्षण चरण के "शुरुआत" को पुनर्जीवित करके कैटास्ट्रोफिक फॉरगेटिंग को प्रभावी ढंग से कम करता है—यह सुनिश्चित करता है कि मर्ज किया गया मॉडल ऐसी स्थिति से शुरू हो जो स्थिर (पूर्व ज्ञान बनाए रखना) और प्लास्टिक (नए अनुकूलन के लिए तैयार) दोनों हो। यह कार्य सुझाव देता है कि मर्जिंग को एक ऑगमेंटेड सबस्पेस के भीतर एक कंस्ट्रेंड ऑप्टिमाइज़ेशन के रूप में पुनर्गठित करना CL के लिए एक व्यवहार्य मार्ग है, जो सरल लीनियर इंटरपोलेशन ह्यूरिस्टिक्स से आगे बढ़ता है।