💬 NLP

When Shared Knowledge Hurts: Spectral Over-Accumulation in Model Merging

यह शोधपत्र सिंगुलर वैल्यू कैलिब्रेशन (SVC) को प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त विधि है जो साझा स्पेक्ट्रल ज्ञान के अत्यधिक संचय के कारण मॉडल मर्जिंग में होने वाले प्रदर्शन ह्रास को कम करती है, जो सबस्पेस ओवरलैप को मात्रात्मक रूप से मापकर और फूले हुए सिंगुलर मानों को पुन: स्केल करके किया जाता है, जिससे विजन और लैंग्वेज बेंचमार्क पर अत्याधुनिक परिणाम प्राप्त होते हैं।

मूल लेखक: Yayuan Li, Ze Peng, Jian Zhang, Jintao Guo, Yue Duan, Yinghuan Shi

प्रकाशित 2026-05-22

📖 4 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें

CC BY 4.0

मूल लेखक: Yayuan Li, Ze Peng, Jian Zhang, Jintao Guo, Yue Duan, Yinghuan Shi

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "When Shared Knowledge Hurts: Spectral Over-Accumulation in Model Merging" शोध पत्र का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ स्पष्टीकरण दिया गया है।

मुख्य विचार: रेसिपी को मिलाना

कल्पना कीजिए कि आपके पास तीन विशेषज्ञ शेफ (Chefs) हैं।

शेफ A इतालवी पास्ता बनाने में अद्भुत है।
शेफ B फ्रेंच पेस्ट्री बनाने में माहिर है।
शेफ C जापानी सुशी बनाने में जीनियस है।

आप एक "सुपर शेफ" बनाना चाहते हैं जो ये तीनों काम कर सके। इसे करने का सबसे आसान तरीका यह है कि उनकी रेसिपी बुक्स (उनके "weights") को लें और उन्हें बस एक साथ औसत (average) कर दें। आप पास्ता सॉस, पेस्ट्री डो और सुशी चावल को एक बड़े कटोरे में मिला देते हैं।

आमतौर पर, यह ठीक काम करता है। लेकिन इस शोध पत्र ने एक छिपी हुई समस्या का पता लगाया है: कभी-कभी, रेसिपी को मिलाने से सुपर शेफ हर चीज़ में और भी खराब हो जाता है।

समस्या: "इको चैंबर" (Echo Chamber) प्रभाव

लेखकों ने पाया कि जब ये शेफ कुछ साझा कौशल (जैसे प्याज काटना या पानी उबालना जानना) साझा करते हैं, तो साधारण मिश्रण से एक गड़बड़ी होती है जिसे "स्पेक्ट्रल ओवर-एक्यूमुलेशन" (Spectral Over-Accumulation) कहा जाता है।

यहाँ उदाहरण है:
कल्पना कीजिए कि शेफ एक गायक मंडली (choir) में गा रहे हैं।

कार्य A (पास्ता) के लिए एक ऊँचे स्वर (high note) की आवश्यकता है।
कार्य B (पेस्ट्री) के लिए एक ऊँचे स्वर की आवश्यकता है।
कार्य C (सुशी) को भी एक ऊँचे स्वर की आवश्यकता है।

जब आप उनकी आवाज़ों को बस एक साथ जोड़ देते हैं, तो वह विशिष्ट ऊँचा स्वर उम्मीद से तीन गुना अधिक तेज़ हो जाता है। यह एक कान फोड़ने वाली चीख बन जाता है। इस बीच, शांत और अनूठे स्वर (जैसे सुशी के लिए विशिष्ट मसाले) शोर में दब जाते हैं।

शोध पत्र के तकनीकी शब्दों में:

इन "ऊँचे स्वरों" को स्पेक्ट्रल डायरेक्शंस (Spectral Directions) (या सिंगुलर वेक्टर्स) कहा जाता है।
"वॉल्यूम" (आवाज़ का स्तर) सिंगुलर वैल्यू (Singular Value) है।
जब कई कार्य एक ही दिशा पर सहमत होते हैं, तो उन्हें जोड़ने का साधारण गणित उस दिशा के वॉल्यूम को बहुत अधिक बढ़ा (inflate) देता है।
इससे एक असंतुलन पैदा होता है: मॉडल "साझा" चीज़ों (तेज़ नोट्स) के प्रति जुनूनी हो जाता है और "विशिष्ट" चीज़ों (शांत नोट्स) को भूल जाता है।

समाधान: "वॉल्यूम नॉब" (SVC)

लेखक एक समाधान प्रस्तावित करते हैं जिसे सिंगुलर वैल्यू कैलिब्रेशन (SVC) कहा जाता है।

मिश्रित मॉडल को 50 अलग-अलग वॉल्यूम स्लाइडर्स वाले साउंडबोर्ड के रूप में सोचें (प्रत्येक "दिशा" या "स्वर" के लिए एक)।

निदान (Diagnosis): पेपर दिखाता है कि जब आप मॉडलों को मिलाते हैं, तो "साझा" दिशाओं वाले स्लाइडर्स अधिकतम (100%) तक ऊपर चले जाते हैं, जबकि अनूठे कार्यों वाले स्लाइडर बहुत नीचे चले जाते हैं।
समाधान: SVC एक स्मार्ट वॉल्यूम नॉब की तरह काम करता है। यह साउंडबोर्ड को देखता है, और समझ जाता है कि, "हे, यह 'साझा' दिशा बहुत तेज़ है क्योंकि तीन शेफ इसे गा रहे थे," और यह संतुलन बनाने के लिए वॉल्यूम को बस इतना कम कर देता है जितना ज़रूरी है।
परिणाम: यह यह नहीं बदलता कि शेफ क्या गा रहे हैं (दिशा), यह बस यह ठीक करता है कि वे कितनी ज़ोर से गा रहे हैं (परिमाण/magnitude)।

यह क्यों महत्वपूर्ण है

कोई अतिरिक्त प्रशिक्षण नहीं: आपको मॉडल को नया डेटा देने या उसे फिर से प्रशिक्षित करने की आवश्यकता नहीं है। यह एक "पोस्ट-प्रोसेसिंग" चरण है, जैसे फोटो खींचने के बाद उसे एडिट करना।
हर जगह काम करता है: लेखकों ने इसका परीक्षण विज़न (कंप्यूटर को कार, फूल और ट्रैफिक साइन जैसी छवियां दिखाना) और लैंग्वेज (कंप्यूटर को लिखना या सवालों के जवाब देना सिखाना) दोनों पर किया है।
बड़ी बढ़त: केवल "तेज़" साझा नोट्स को कम करके, उन्होंने एक बुनियादी मिश्रण विधि (जिसे टास्क अरिथमेटिक कहा जाता है) के प्रदर्शन में 13% का सुधार किया। दुनिया के AI क्षेत्र में यह एक बहुत बड़ी छलांग है।

एक वाक्य में सारांश

जब आप कई AI मॉडल्स को मिलाते हैं, तो उनका साझा ज्ञान अनजाने में बहुत अधिक "एम्प्लीफाई" (बढ़) सकता है, जिससे उनके अनूठे कौशल दब जाते हैं; यह शोध पत्र एक सरल "वॉल्यूम कंट्रोल" पेश करता है जो आवाज़ को संतुलित करता है, जिससे संयुक्त AI बिना किसी अतिरिक्त प्रशिक्षण के अधिक स्मार्ट बनता है।

तकनीकी सारांश: जब साझा ज्ञान हानिकारक हो जाए: मॉडल मर्जिंग में स्पेक्ट्रल ओवर-एक्युमुलेशन (Spectral Over-Accumulation)

1. समस्या विवरण (Problem Statement)

मॉडल मर्जिंग कई फाइन-ट्यून्ड मॉडल्स को एक एकल एकीकृत मॉडल में संयोजित करती है, जो सीधे वेट स्पेस (weight space) में कार्य करके एक हल्का विकल्प प्रदान करती है। जबकि मौजूदा विधियाँ मुख्य रूप से टास्क अपडेट के बीच संघर्षों को हल करने पर ध्यान केंद्रित करती हैं (जैसे कि मास्किंग या प्रूनिंग के माध्यम से), वे अक्सर एक विशिष्ट विफलता मोड की अनदेखी करती हैं: स्पेक्ट्रल ओवर-एक्युमुलेशन (Spectral Over-Accumulation)।

लेखक पहचानते हैं कि जब कई कार्य संरेखित स्पेक्ट्रल दिशाओं (अर्थात, ओवरलैपिंग सिंगुलर वेक्टर्स) को साझा करते हैं, तो एक सरल लीनियर कॉम्बिनेशन इन साझा घटकों को बार-बार एकत्रित करता है। यह घटना निम्नलिखित कारणों से होती है:

सिंगुलर-वैल्यू इन्फ्लेशन (Singular-value inflation): साझा सबस्पेस से संबंधित सिंगुलर वैल्यूज असमान रूप से बड़ी हो जाती हैं।
स्पेक्ट्रल असंतुलन (Spectral imbalance): मर्ज किया गया मॉडल कुछ प्रमुख स्पेक्ट्रल सबस्पेस द्वारा हावी हो जाता है जिनमें साझा ज्ञान होता है, जबकि शेष सबस्पेस में टास्क-विशिष्ट घटक दब जाते हैं।
प्रदर्शन में गिरावट (Performance degradation): इस अंतर्ज्ञान के विपरीत कि साझा ज्ञान फायदेमंद होता है, इसका अत्यधिक गणना (over-counting) मॉडल को पक्षपाती बनाता है और विजन और लैंग्वेज बेंचमार्क्स में डाउनस्ट्रीम प्रदर्शन को कम करता है।

2. कार्यप्रणाली: सिंगुलर वैल्यू कैलिब्रेशन (Singular Value Calibration - SVC)

अतिरिक्त डेटा, प्रशिक्षण या अनुकूलन (optimization) की आवश्यकता के बिना स्पेक्ट्रल ओवर-एक्युमुलेशन को संबोधित करने के लिए, लेखक सिंगुलर वैल्यू कैलिब्रेशन (SVC) का प्रस्ताव करते हैं, जो एक पोस्ट-प्रोसेसिंग विधि है।

सैद्धांतिक आधार (Theoretical Foundation)

यह विधि आउटपुट-स्पेस प्रोजेक्शन विश्लेषण पर आधारित है। मर्ज किए गए टास्क मैट्रिक्स $\Delta W_{merge}$ को सिंगुलर वैल्यू डीकंपोजिशन (SVD) के माध्यम से विघटित करके, लेखक एक साझा आउटपुट-स्पेस बेसिस $\{u_r\}$ को परिभाषित करते हैं। वे विशिष्ट स्पेक्ट्रल सबस्पेस में प्रत्येक टास्क के योगदान को मापने के लिए व्यक्तिगत टास्क मैट्रिक्स को इस बेसिस पर प्रोजेक्ट करते हैं।

प्रोजेक्शन कोएफिशिएंट ( $s_i^r$ ): यह मीट्रिक मर्जिंग के बाद सबस्पेस $r$ में टास्क $i$ के रिस्पॉन्स के स्केलिंग को मात्रात्मक रूप से मापता है। यदि $s_i^r > 1$ है, तो यह इंगित करता कि मर्ज किए गए अपडेट ने अन्य कार्यों के रचनात्मक संचय (constructive accumulation) के कारण टास्क $i$ की दिशा को बढ़ा दिया है (स्पेक्ट्रल ओवर-काउंटिंग)।
इन्फ्लेशन मैकेनिज्म (Inflation Mechanism): पेपर प्रदर्शित करता है कि आउटपुट स्पेस में सकारात्मक क्रॉस-टास्क इनर प्रोडक्ट्स के कारण $s_i^r > 1$ होता है, जिससे मर्ज की गई सिंगुलर वैल्यू $\sigma_r$ , व्यक्तिगत टास्क क्षमताओं को बनाए रखने के लिए आवश्यक प्रोजेक्शन-ऑप्टिमल मैग्नीट्यूड से अधिक हो जाती है।

एल्गोरिदम के चरण (Algorithm Steps)

बेसिस निर्माण (Basis Construction): साझा कोआर्डिनेट सिस्टम के रूप में लेफ्ट सिंगुलर वेक्टर्स $\{u_r\}$ प्राप्त करने के लिए मर्ज किए गए टास्क मैट्रिक्स $\Delta W_{merge} = U\Sigma V^\top$ का SVD कंप्यूट करें।
ओवरलैप क्वांटिफिकेशन (Overlap Quantification): प्रत्येक सबस्पेस $r$ और टास्क $i$ के लिए, प्रोजेक्शन कोएफिशिएंट $s_i^r = \frac{\langle a_{merge}^r, a_i^r \rangle}{\|a_i^r\|_2^2}$ की गणना करें, जहाँ $a^r$ $u_r$ के साथ रिस्पॉन्स को दर्शाता है।
कैलिब्रेशन फैक्टर (Calibration Factor): प्रत्येक सबस्पेस के लिए एक कैलिब्रेशन फैक्टर $\gamma_r$ $γ_{r}$ प्राप्त करने के लिए इन कोएफिशिएंट्स को टास्क के माध्यम से एकत्रित करें। यह फैक्टर उन सबस्पेस को कम भार देने के लिए डिज़ाइन किया गया है जो मजबूत ओवर-काउंटिंग प्रदर्शित करते हैं (जहाँ कई $s_i^r$ $s_{i}^{r}$ बड़े हैं)।
- $\gamma_r = K / \sum_{i=1}^K \max(\alpha, s_i^r)$ , जहाँ $\alpha$ एक हाइपरपैरामीटर (डिफ़ॉल्ट $1/K$ ) है जो अस्थिरता को रोकता है।
रीस्केलिंग (Rescaling): सिंगुलर वेक्टर्स (दिशाओं) को स्थिर रखते हुए सिंगुलर वैल्यूज को एडजस्ट करें: $\tilde{\sigma}_r = \gamma_r \sigma_r$ ।
रिकंस्ट्रक्शन (Reconstruction): कैलिब्रेटेड मर्ज मैट्रिक्स $\tilde{\Delta W}_{merge} = \sum \tilde{\sigma}_r u_r v_r^\top$ को पुनर्गठित करें और प्री-ट्रेन्ड वेट्स को अपडेट करें।

3. मुख्य योगदान (Key Contributions)

स्पेक्ट्रल ओवर-काउंटिंग की पहचान: पेपर मॉडल मर्जिंग में एक विशिष्ट विफलता मोड को अलग करता है जहाँ साझा ज्ञान का रेडंडेंट एकत्रीकरण प्रमुख सबस्पेस में सिंगुलर वैल्यूज को फुला देता है, जो पारंपरिक वेट कॉन्फ्लिक्ट्स से अलग है।
SVC विधि: एक ट्रेनिंग-फ्री और डेटा-फ्री पोस्ट-प्रोसेसिंग तकनीक जो आउटपुट-स्पेस ओवरलैप को मात्रात्मक रूप से मापती है और स्पेक्ट्रल बैलेंस बहाल करने के लिए सिंगुलर वैल्यूज को रीस्केल करती है। यह एक प्लग-इन मॉड्यूल के रूप में मौजूदा मर्जिंग बेसलाइन्स के साथ संगत है।
सैद्धांतिक और अनुभवजन्य सत्यापन (Theoretical and Empirical Validation): लेखक प्रोजेक्शन मिसमैच को सिंगुलर-वैल्यू इन्फ्लेशन से जोड़ने वाला एक सैद्धांतिक विश्लेषण प्रदान करते हैं और प्रदर्शित करते हैं कि यह घटना विभिन्न मर्जिंग रणनीतियों (जैसे Task Arithmetic, TIES, DARE) में बनी रहती है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने विविध विजन (ViT-B/32, ViT-B/16, ViT-L/14) और लैंग्वेज (BERT, T5, LLaMA2-7B, T0) मॉडल्स का उपयोग करके विभिन्न बेंचमार्क्स पर SVC का मूल्यांकन किया।

कंप्यूटर विजन (CV): एक 8-टास्क क्लासिफिकेशन बेंचमार्क पर, SVC ने बेसलाइन Task Arithmetic (TA) में 13.0% का सुधार किया (औसत सटीकता 68.9% से बढ़कर 81.9% हो गई)। इसने TIES, DARE, और TSV-M जैसे अन्य मजबूत बेसलाइन्स पर भी निरंतर लाभ दिया।
नेचुरल लैंग्वेज प्रोसेसिंग (NLP): SVC ने क्लासिफिकेशन और जेनेरेटिव टास्क में प्रदर्शन में सुधार किया। उदाहरण के लिए, IA3 फाइन-ट्यूनिंग के साथ T0 मॉडल पर, SVC ने TA में 12.3% का सुधार किया। LLaMA2-7B पर, इसने AlpacaEval और GSM8K बेंचमार्क्स में महत्वपूर्ण लाभ दिखाया।
सामान्यीकरण (Generality): विधि विभिन्न मॉडल साइज और आर्किटेक्चर पर प्रभावी साबित हुई। यह एक "प्रेफरेंस ऑप्टिमाइजेशन" टूल के रूप में भी कार्य कर सकती है, जिससे एक टारगेट टास्क के आधार पर कैलिब्रेशन को एडजस्ट करके मर्ज किए गए मॉडल को विशिष्ट कार्यों को प्राथमिकता देने की अनुमति मिलती है।
दक्षता (Efficiency): SVC न्यूनतम ओवरहेड पेश करता है, जिसमें केवल एक ऑफलाइन SVD और रिकंस्ट्रक्शन स्टेप की आवश्यकता होती है, जिसमें ग्रेडिएंट कंप्यूटेशन या सहायक डेटा की आवश्यकता नहीं होती है।

5. महत्व और दावे (Significance and Claims)

पेपर का दावा है कि मॉडल मर्जिंग की विफलताएं न केवल संघर्षपूर्ण अपडेट के कारण होती हैं, बल्कि संरेखित घटकों के रेडंडेंट एकत्रीकरण से भी उत्पन्न होती हैं। संघर्ष समाधान (conflict resolution) से हटकर स्पेक्ट्रल बैलेंस पर ध्यान केंद्रित करके, SVC स्पेक्ट्रल बैलेंस बहाल करने के लिए एक सरल लेकिन प्रभावी तंत्र प्रदान करता है।

लेखक SVC को एक पूरक उपकरण के रूप में देखते हैं जिसे मौजूदा मर्जिंग विधियों (Iso-CTS जैसे स्पेक्ट्रल-स्पेस विधियों सहित) के ऊपर लागू किया जा सकता है ताकि प्रदर्शन को और बेहतर बनाया जा सके। वे इस बात पर जोर देते हैं कि जबकि अन्य विधियाँ संघर्षों या रैंक कोलैप्स को संबोधित कर सकती हैं, SVC विशेष रूप से रचनात्मक हस्तक्षेप (constructive interference) के कारण होने वाले डोमिनेंट सबस्पेस के इन्फ्लेशन को लक्षित करता है, जिससे एक अधिक संतुलित स्पेक्ट्रम बहाल होता है और कई कार्यों में सामान्यीकरण में सुधार होता है।