Navigating the Accuracy-Size Trade-Off with Flexible Model Merging

यहाँ शोध पत्र "Navigating the Accuracy-Size Trade-off with Flexible Model Merging" (FLEXMERGE), जो ICLR 2026 के लिए एक कॉन्फ्रेंस पेपर के रूप में प्रकाशित हुआ है, का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र मल्टी-टास्क परिदृश्यों के लिए लार्ज लैंग्वेज मॉडल्स (LLMs) और विजन ट्रांसफॉर्मर्स (ViTs) को तैनात करने में आने वाले मौलिक तनाव को संबोधित करता है:

• स्टोरेज बनाम सटीकता का द्वंद्व (The Storage vs. Accuracy Dilemma):
  • व्यक्तिगत फाइन-ट्यूनिंग (Individual Fine-Tuning): प्रत्येक कार्य के लिए एक अलग फाइन-ट्यून्ड मॉडल तैनात करने से उच्चतम सटीकता प्राप्त होती है, लेकिन इसमें अत्यधिक स्टोरेज और परिनियोजन (deployment) लागत आती है (जो कार्यों की संख्या $M$ के साथ रैखिक रूप से बढ़ती है)।
  • सिंगल-मॉडल मर्जिंग (Single-Model Merging): पारंपरिक मॉडल मर्जिंग सभी $M$ कार्यों को एक एकल मॉडल (आकार $1\times$) में संयोजित करती है। हालांकि यह स्टोरेज के मामले में कुशल है, लेकिन यह अक्सर पैरामीटर इंटरफेरेंस (कार्य-विशिष्ट वेट्स के बीच संघर्ष) के कारण सटीकता में महत्वपूर्ण कमी का कारण बनती है।
• मौजूदा समाधानों की सीमाएँ (Limitations of Existing Solutions):
  • डेटा-फ्री मर्जिंग (Data-Free Merging): अधिकांश वर्तमान डेटा-फ्री विधियाँ (जैसे Task Arithmetic, TIES-Merging) एक एकल मर्ज किए गए मॉडल ($1\times$ आकार) को बनाने तक ही सीमित हैं। उनमें मध्यवर्ती मॉडल (intermediate models) उत्पन्न करने की क्षमता का अभाव है जो स्टोरेज और सटीकता के बीच संतुलन बना सकें।
  • डेटा-डिपेंडेंट मर्जिंग (Data-Dependent Merging): सत्यापन डेटा (validation data) का उपयोग करके मर्जिंग को बेहतर बनाने वाली विधियाँ अक्सर गोपनीयता प्रतिबंधों या मालिकाना डेटा प्रतिबंधों के कारण अव्यावहारिक होती हैं।
  • कठोर ग्रैनुलैरिटी (Rigid Granularity): बड़े आकार में मर्ज करने के मौजूदा प्रयास (जैसे Channel Merging) अक्सर निश्चित क्लस्टरिंग (जैसे K-Means) पर निर्भर करते हैं जो भिन्नात्मक मॉडल आकार (जैसे $1.75\times$) उत्पन्न नहीं कर सकते या प्रति लेयर अनुकूलतम ग्रुपिंग को निर्धारित नहीं कर सकते।

मुख्य शोध प्रश्न:

1. हम डेटा-फ्री तरीके से पूर्ण आकार स्पेक्ट्रम (1$\times$ से $M\times$ तक, भिन्नात्मक आकार सहित) के माध्यम से मर्ज किए गए मॉडल कैसे प्राप्त कर सकते हैं?
2. विभिन्न डेटा-फ्री मर्जिंग एल्गोरिदम द्वारा प्रदर्शित सटीकता-आकार ट्रेड-ऑफ की प्रकृति क्या है?

---

2. कार्यप्रणाली: FLEXMERGE

लेखक FLEXMERGE प्रस्तावित करते हैं, जो एक नया, डेटा-फ्री फ्रेमवर्क है जो मॉडल्स को ब्लॉक्स के अनुक्रम (sequences of blocks) के रूप में मानकर और 'बॉटम-अप मर्जिंग' (bottom-up merging) करके लचीली मॉडल मर्जिंग को सक्षम बनाता है।

A. मुख्य अवधारणा: ब्लॉक-लेवल ग्रैनुलैरिटी (Block-Level Granularity)

पूरे मॉडल को एक साथ मर्ज करने के बजाय, FLEXMERGE एक मॉडल को $B$ क्रमिक ब्लॉक्स (जैसे, व्यक्तिगत ट्रांसफार्मर लेयर्स, अटेंशन हेड्स, या MLP लेयर्स) में विभाजित करता है।

• इनपुट: $M$ फाइन-ट्यून्ड टास्क वेक्टर्स $\{\tau_1, \dots, \tau_M\}$, जहाँ प्रत्येक $\tau_i$ को ब्लॉक-लेवल वेक्टर्स $\{\tau_i^b\}_{b=1}^B$ में विभाजित किया गया है।
• लक्ष्य: कुल तैनात आकार को $M \times$ (सभी मॉडल) से घटाकर एक लक्षित आकार $S_{target}$ (जहाँ $1 \le S_{target} \le M$) तक लाना, जबकि सटीकता को अधिकतम करना।

B. ग्रीडी मर्जिंग एल्गोरिदम (The Greedy Merging Algorithm)

FLEXMERGE एक बॉटम-अप, ग्रीडी दृष्टिकोण (एल्गोरिदम 1) का उपयोग करता है:

1. आरंभीकरण (Initialization): प्रत्येक ब्लॉक के लिए $M$ विशिष्ट टास्क समूहों के साथ शुरुआत करें।
2. समानता मेट्रिक (Similarity Metric): प्रत्येक चरण में, एल्गोरिदम प्रत्येक ब्लॉक के भीतर सभी टास्क समूहों के जोड़ों के बीच समानता की गणना करता है। दो समूहों $g_i$ और $g_j$ के बीच समानता को दोनों समूहों के बीच किसी भी मूल टास्क वेक्टर्स के जोड़े के बीच न्यूनतम कोसाइन समानता (minimum cosine similarity) के रूप में परिभाषित किया जाता है:
   $$\text{SIMILARITY}(g_i, g_j) = \min_{k_1 \in g_i, k_2 \in g_j} \cos(\tau_{k_1}^b, \tau_{k_2}^b)$$
   तर्क (Rationale): "Min" रणनीति यह सुनिश्चित करती है कि मर्जिंग तभी हो जब समूहों के बीच सबसे असंगत कार्य भी पर्याप्त रूप से सुसंगत हों, जिससे उच्च-इंटरफेरेंस संघर्षों के प्रवेश को रोका जा सके।
3. चयन (Selection): वह ब्लॉक $b^*$ और समूहों का जोड़ा $(g_{i^*}, g_{j^*})$ पहचानें जिसकी समानता स्कोर उच्चतम हो।
4. मर्ज (Merge):
   • टास्क सेट का यूनियन बनाएँ: $T_{uni} = g_{i^*} \cup g_{j^*}$।
   • इन कार्यों के ब्लॉक वेक्टर्स पर एक चुना हुआ डेटा-फ्री मर्जिंग एल्गोरिदम $F$ (जैसे, Task Arithmetic, TIES-Merging, Consensus) लागू करें: $\tau_{uni}^b = F(\{\tau_k^b \mid k \in T_{uni}\})$।
   • दो समूहों को नए मर्ज किए गए समूह से बदल दें।
5. समाप्ति (Termination): जब तक कुल पैरामीटर काउंट लक्षित आकार $S_{target}$ तक न पहुँच जाए, तब तक दोहराएं।

C. मौजूदा एल्गोरिदम के साथ अनुकूलता (Compatibility with Existing Algorithms)

FLEXMERGE एक एकीकृत फ्रेमवर्क है जो किसी भी मौजूदा डेटा-फ्री मर्जिंग एल्गोरिदम को ब्लॉक स्तर पर रैप कर सकता है:

• मानक विधियाँ (TA, TIES, PCB, TSV-M): ये एक एकल एकीकृत वेक्टर $\tau_{uni}^b$ उत्पन्न करती हैं। अंतिम ब्लॉक वेट्स $\theta_{uni}^b = \theta_{pre}^b + \tau_{uni}^b$ होते हैं।
• मास्क-आधारित विधियाँ (Consensus, EMR-Merging): ये एक एकीकृत वेक्टर के साथ कार्य-विशिष्ट मास्क उत्पन्न करती हैं। FLEXMERGE मर्ज किए गए समूह के लिए एकीकृत वेक्टर और मास्क को स्टोर करता है, और इन्फरेंस के समय कार्य-विशिष्ट वेट्स को पुनर्गठित करता है। यह FLEXMERCLE को इन उच्च-सटीकता विधियों का समर्थन करने के साथ-साथ आकार लचीलापन प्रदान करने की अनुमति देता है।

D. जटिलता (Complexity)

• समय जटिलता (Time Complexity): $O(B M^2 d_{max})$, जो पेयरवाइज समानता (pairwise similarities) की प्री-कंप्यूटेशन द्वारा नियंत्रित होती है।
• दक्षता (Efficiency): मर्जिंग प्रक्रिया अत्यंत तेज़ है (उदाहरण के लिए, ViT-L/14 पर 30 कार्यों के लिए लगभग ~20 सेकंड), जो इसे मांग पर विभिन्न आकारों के मॉडल उत्पन्न करने के लिए व्यावहारिक बनाती है।

---

3. प्रमुख योगदान (Key Contributions)

1. प्रथम फ्लेक्सिबल साइज फ्रेमवर्क: FLEXMERGE पूर्ण आकार स्पेक्ट्रम (भिन्नात्मक आकार जैसे $1.75\times$ सहित, $1\times$ से $M\times$ तक) में मर्ज किए गए मॉडल उत्पन्न करने वाला पहला तरीका है, जो सिंगल-मॉडल मर्जिंग और फुल एन्सेम्बल परिनियोजन के बीच के अंतर को पाटता है।
2. एकीकृत एल्गोरिदम समर्थन: यह ब्लॉक स्तर पर विविध डेटा-फ्री मर्जिंग एल्गोरिदम (सरल औसत से लेकर जटिल मास्क-आधारित विधियों तक) को लागू करने के लिए एक एकल फ्रेमवर्क प्रदान करता है।
3. ट्रेड-ऑफ का व्यवस्थित लक्षण वर्णन: यह पेपर व्यवस्थित रूप से सटीकता-आकार वक्र (accuracy-size curve) को मैप करता है, जिससे पता चलता है कि:
   • तीव्र प्रारंभिक लाभ: मॉडल के आकार में मामूली वृद्धि (जैसे, $1\times$ से $2\times$ तक दोगुना करना) से भारी सुधार (जैसे, 13.5%) होता है।
   • घटता हुआ प्रतिफल (Diminishing Returns): सटीकता अधिकतम आकार ($M\times$) से बहुत पहले ही फुल फाइन-ट्यूनिंग सीमा के करीब पहुँच जाती है।
   • रैंकिंग अस्थिरता (Ranking Instability): विभिन्न आकारों में एल्गोरिदम की सापेक्ष प्रदर्शन रैंकिंग सुसंगत नहीं है। एक विधि जो $1\times$ पर कमतर (जैसे, साधारण औसत) है, वह बड़े आकारों ($>2\times$) पर परिष्कृत विधियों (जैसे, TIES-Merging) से बेहतर प्रदर्शन कर सकती है।
4. दक्षता: यह फ्रेमवर्क कुशल टेंसर शेयरिंग और कार्य-विशिष्ट ब्लॉक रूटिंग का उपयोग करके इन्फरेंस-टाइम ओवरहेड को नगण्य रखता है।

---

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने व्यापक बेंचमार्क पर FLEXMERGE का मूल्यांकन किया:

• विजन: ViT-B/32 और ViT-L/14 (CLIP) का उपयोग करके 8-टास्क और 30-टास्क बेंचमार्क।
• NLP: T0-3B पर (IA)3 का उपयोग करके 11-टास्क PEFT बेंचमार्क, और T5-Base/Large पर 7-टास्क फुल-पैरामीटर फाइन-ट्यूनिंग (FFT)।
• मल्टी-मोडल: COCO, ImageNet, आदि पर BEiT-3-base।

मुख्य निष्कर्ष:

• सटीकता लाभ (Accuracy Gains):
  • 8 विजन कार्यों (ViT-B/32) पर, FLEXMERGE + Task Arithmetic (TA) ने सटीकता को 67.5% ($1\times$) से बढ़ाकर >80% ($2\times$) कर दिया, जो 13.5% का लाभ है।
  • 30 कार्यों पर, Consensus के साथ आकार को $\approx 3\times$ से $6\times$ तक दोगुना करने से 8.5% का लाभ हुआ।
  • $M$ से काफी छोटे आकारों (जैसे, 8 कार्यों के लिए $\approx 6\times$, 30 कार्यों के लिए $\approx 23.5\times$) पर लगभग-पूर्ण फाइन-ट्यूनिंग सटीकता प्राप्त की गई।
• एल्गोरिदम रैंकिंग में बदलाव:
  • $1\times$ पर, TIES-Merging या PCB-Merging जैसी उन्नत विधियाँ अक्सर साधारण औसत से बेहतर प्रदर्शन करती हैं।
  • $>2\times$ पर, प्रदर्शन का अंतर काफी कम हो जाता है, और सरल विधियाँ (जैसे Averaging या TA) अक्सर जटिल विधियों की बराबरी करती हैं या उनसे आगे निकल जाती हैं। यह सुझाव देता है कि मॉडल का आकार बढ़ाने से पैरामीटर इंटरफेरेंस स्वाभाविक रूप से कम हो जाता है, जिससे जटिल इंटरफेरेंस-रिडक्शन तंत्र की आवश्यकता कम हो जाती है।
• Channel Merging के साथ तुलना: FLEXMERGE ने Channel Merging (एक हालिया $>1\times$ विधि) को लगातार पछाड़ दिया क्योंकि FLEXMERGE का ग्रीडी, पेयरवाइज़ दृष्टिकोण प्रति ब्लॉक परिवर्तनीय क्लस्टर आकार (variable cluster sizes) की अनुमति देता है, जबकि Channel Merging निश्चित क्लस्टरिंग लागू करता है।
• OOD प्रदर्शन: $>1\times$ आकार वाले FLEXMERGE मॉडल लगातार सर्वश्रेष्ठ इन-डोमेन एक्सपर्ट से बेहतर प्रदर्शन करते रहे, जो बेहतर सामान्यीकरण (generalization) का संकेत देता है।

---

5. महत्व और निहितार्थ (Significance and Implications)

• नया डिज़ाइन आयाम: यह पेपर तर्क देता है कि क्षेत्र को "सिंगल-मॉडल लिमिट" ($1\times$) से आगे बढ़ना चाहिए। पेशेवरों को पूरे आकार स्पेक्ट्रम में मर्जिंग एल्गोरिदम का मूल्यांकन और विकास करना चाहिए, क्योंकि एल्गोरिदम रैंकिंग आकार-निर्भर होती है।
• व्यावहारिक परिनियोजन रणनीति: FLEXMERGE परिनियोजन के लिए एक "स्वीट स्पॉट" (sweet spot) प्रदान करता है। संगठन लगभग-पूर्ण सटीकता प्राप्त कर सकते हैं, जिसके लिए केवल एक आंशिक वृद्धि (जैसे, $M\times$ के बजाय $2\times$ या $3\times$) की आवश्यकता होती है, जिससे $M$ अलग-अलग मॉडल संग्रहीत करने की भारी लागत से बचा जा सकता है और सिंगल मर्ज किए गए मॉडल की सटीकता दंड (accuracy penalty) से भी बचा जा सकता है।
• मास्क-आधारित विधियों के लिए लचीलापन: बड़ा आकार प्रदान करके, FLEXMERGE मास्क-आधारित विधियों (जैसे Consensus) के लिए पुनर्गठन विलंबता (reconstruction latency) ओवरहेड को कम करता है, क्योंकि इन्फरेंस के समय कम ब्लॉक्स को पुनर्गठित करने की आवश्यकता होती है।
• स्केलेबिलिटी: यह पेपर दर्शाता है कि जैसे-जैसे कार्यों की संख्या ($M$) बढ़ती है, सटीकता बनाए रखने के लिए मॉडल के आकार को कार्यों के अनुपात में स्केल करना महत्वपूर्ण है, जो एक ऐसा स्केलिंग लॉ है जिसे फिक्स्ड-साइज़ मॉडल पूरा नहीं कर पाते।

निष्कर्षतः, FLEXMERGE मॉडल मर्जिंग को केवल "एक मॉडल" और "कई मॉडलों" के बीच एक बाइनरी विकल्प के रूप में नहीं, बल्कि एक निरंतर ट्रेड-ऑफ स्पेस के रूप में पुनर्परिभाषित करता है जहाँ सटीकता को तैनात किए गए मॉडल के आकार को समायोजित करके सटीक रूप से ट्यून किया जा सकता है, जो संसाधन-बाधित वातावरण में मल्टी-टास्क परिनियोजन के लिए एक अत्यधिक व्यावहारिक समाधान प्रदान करता है।