🤖 machine learning

Model soups need only one ingredient

यह शोध पत्र MonoSoup को प्रस्तुत करता है, जो एक सरल, डेटा-मुक्त और हाइपरपैरामीटर-मुक्त पोस्ट-हॉक विधि है, जो सिंगुलर वैल्यू डिकम्पोजिशन (Singular Value Decomposition) और एंट्रॉपी-आधारित प्रभावी रैंक (entropy-based effective rank) का उपयोग करके एक एकल फाइन-ट्यून किए गए चेकपॉइंट को पुन: भारित (re-weight) करके इन-डिस्ट्रीब्यूशन सटीकता और आउट-ऑफ-डिस्ट्रीब्यूशन मजबूती के बीच संतुलन बनाती है, जो मॉडल सूप्स (Model Soups) जैसी मल्टी-चेकपॉइंट एंसेम्बलिंग तकनीकों के लिए एक गणनात्मक रूप से कुशल विकल्प प्रदान करती है।

मूल लेखक: Alireza Abdollahpoorrostam, Nikolaos Dimitriadis, Adam Hazimeh, Pascal Frossard

प्रकाशित 2026-06-19

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Alireza Abdollahpoorrostam, Nikolaos Dimitriadis, Adam Hazimeh, Pascal Frossard

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Model soups need only one ingredient" पेपर का सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करते हुए स्पष्टीकरण दिया गया है।

समस्या: "विशेषज्ञ" का जाल (The "Specialist" Trap)

कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, सामान्यज्ञ छात्र (एक प्री-ट्रेन्ड AI मॉडल) को किसी विशिष्ट विषय, जैसे "इमेज रिकग्निशन" (छवि पहचान) में विशेषज्ञ बनाने के लिए प्रशिक्षित करते हैं। ऐसा करने के लिए, आप उसे छवियों की एक विशाल पाठ्यपुस्तक (फाइन-ट्यूनिंग) पढ़वाते हैं।

अच्छी बात: वे तस्वीरों में बिल्लियों, कुत्तों और कारों को पहचानने में अद्भुत हो जाते हैं।
बुरी बात: क्योंकि उन्होंने उस विशिष्ट पाठ्यपुस्तक पर बहुत ज़्यादा मेहनत की है, इसलिए वे अजीब रोशनी, हाथ से बने रेखाचित्रों (sketches), या अजीब कोणों से ली गई तस्वीरों में चीजों को पहचानना भूल जाते हैं। वे बहुत अधिक विशिष्ट (specialized) हो गए हैं और अपना सामान्य ज्ञान खो दिया है।

AI की दुनिया में, इसे ओवर-स्पेशियलाइजेशन (Over-specialization) कहा जाता है। मॉडल उस डेटा पर बहुत अच्छा काम करता है जिसे उसने प्रशिक्षण के दौरान देखा था (In-Distribution), लेकिन वास्तविक दुनिया के नए बदलावों (Out-of-Distribution) में बुरी तरह विफल हो जाता है।

पुराना समाधान: "मॉडल सूप" (The "Model Soup")

पहले, शोधकर्ताओं ने दर्जनों ऐसे छात्रों को थोड़े अलग अध्ययन तरीकों के साथ प्रशिक्षित करके इसे ठीक करने की कोशिश की। फिर, वे उनके सभी अंतिम परिणामों को लेते थे, उत्तरों का औसत निकालते थे, और एक "सुपर स्टूडेंट" बनाते थे।

उपमा (Analogy): कल्पना कीजिए कि 50 अलग-अलग शेफ को लिया जाता है जिन्होंने पास्ता बनाना सीखा है, लेकिन प्रत्येक ने थोड़ा अलग नुस्खा (recipe) इस्तेमाल किया है। आप उन सभी के सॉस को एक बड़े बर्तन में मिला देते हैं (एक "मॉडल सूप")। परिणाम एक ऐसा सॉस होता है जो लगभग हर किसी को पसंद आता है, न कि केवल उन लोगों को जो शेफ #1 की विशिष्ट रेसिपी पसंद करते हैं।
चुनौती: यह अविश्वसनीय रूप से महंगा है। आपको 50 अलग-अलग विशाल मॉडलों को प्रशिक्षित करना, स्टोर करना और प्रबंधित करना पड़ता है। यह एक बर्तन सूप बनाने के लिए 50 अलग-अलग रसोईयों की आवश्यकता होने जैसा है।

नया समाधान: मोनोसूप (एक सामग्री) (MonoSoup - One Ingredient)

इस पेपर के लेखकों ने पूछा: "क्या हम केवल एक शेफ का उपयोग करके उस बड़े सूप का लाभ उठा सकते हैं?"

उन्होंने कहा—हाँ। उन्होंने MonoSoup नामक एक विधि विकसित की। दर्जनों मॉडल की आवश्यकता होने के बजाय, वे केवल एक प्रशिक्षित मॉडल लेते हैं और उसके मस्तिष्क पर एक "सर्जिकल एडिट" (शल्य चिकित्सा जैसा संपादन) करते हैं।

MonoSoup कैसे काम करता है (उपमा)

कल्पना कीजिए कि मॉडल का मस्तिष्क किताबों का एक पुस्तकालय है। जब मॉडल एक नया कार्य सीखता है (जैसे बिल्लियों को पहचानना), तो वह इन किताबों के हाशिए (margins) में नई टिप्पणियाँ लिखता है।

"हाई-एनर्जी" नोट्स (The "High-Energy" Notes): ये ऊँची, स्पष्ट और आत्मविश्वासी टिप्पणियाँ हैं। ये कहती हैं जैसे, "एक बिल्ली के कान नुकीले होते हैं!" ये वे विशिष्ट नियम हैं जो मॉडल ने परीक्षण में अच्छा करने के लिए सीखे हैं।
"लो-एनर्जी" नोट्स (The "Low-Energy" Notes): ये पृष्ठभूमि में लिखी गई हल्की, धुंधली टिप्पणियाँ हैं। ये कह सकती हैं, "बिल्लियों के बाल आमतौर पर होते हैं," या "बिल्लियाँ एक निश्चित तरीके से चलती हैं।" ये नोट्स शांत हैं और विशिष्ट परीक्षण के लिए कम महत्वपूर्ण लगते हैं, लेकिन वास्तव में इनमें मॉडल का सामान्य ज्ञान (common sense) छिपा होता है।

अतीत की गलती:
पहले जब लोग मॉडलों को सरल बनाने की कोशिश करते थे, तो वे अक्सर इन "धुंधली टिप्पणियों" (low-energy parts) को शोर समझकर फेंक देते थे। यह पेपर तर्क देता है कि ये धुंधली टिप्पणियाँ ही मजबूती (robustness) का असली रहस्य हैं। यदि आप उन्हें फेंक देते हैं, तो मॉडल एक ऐसा रोबोट बन जाता है जो केवल परीक्षा के प्रश्नों को जानता है और वास्तविक दुनिया में विफल हो जाता है।

MonoSoup का जादू:
MonoSoup एक गणितीय उपकरण (जिसे SVD कहा जाता है) का उपयोग करता है ताकि "ऊँची नोट्स" को "धुंधली नोट्स" से अलग किया जा सके।

यह ऊँची नोट्स को रखता है (ताकि मॉडल विशिष्ट कार्य में अच्छा बना रहे)।
यह धुंधली नोट्स को फेंकता नहीं है। इसके बजाय, यह उन्हें सावधानीपूर्वक री-वेट (re-weight) करता है। यह धुंधली नोट्स की आवाज़ को बस इतना बढ़ा देता है कि मॉडल को उसके सामान्य ज्ञान की याद दिलाई जा सके, बिना विशिष्ट कार्य के कौशल को दबाए।

यह एक ऐसे छात्र को लेने जैसा है जिसने बहुत अधिक पढ़ाई की है और उसे धीरे से कहना, "हे, वह बुनियादी बातें मत भूलना जो तुमने वर्षों पहले सीखी थीं," बिना उसे नया पदार्थ भुलाए।

यह एक बड़ी बात क्यों है?

कोई अतिरिक्त प्रशिक्षण नहीं: आपको 50 मॉडल प्रशिक्षित करने की आवश्यकता नहीं है। आप बस अपने पास मौजूद एक सबसे अच्छे मॉडल को लेते हैं और इस "एडिट" को चलाते हैं।
कोई डेटा आवश्यक नहीं: इस विधि को काम करने के लिए किसी भी नई तस्वीर या प्रश्न को देखने की आवश्यकता नहीं है। यह केवल मॉडल की अपनी मस्तिष्क संरचना का विश्लेषण करता है।
बेहतर परिणाम: अपने परीक्षणों में, इस सिंगल-मॉडल एडिट ने उस महंगे तरीके की तुलना में समान रूप से (और कभी-कभी बेहतर) काम किया जिसमें 50 मॉडलों को मिलाया जाता है।
- विज़न (Vision): इमेज मॉडल्स (CLIP) पर, इसने मॉडल को रेखाचित्रों (sketches) और अजीब तस्वीरों में वस्तुओं को पहचानने में बहुत बेहतर बनाया।
- भाषा (Language): गणित मॉडल्स (Qwen) पर, इसने उन्हें कठिन गणितीय समस्याओं को हल करने और उन सवालों पर भी बेहतर तर्क करने में मदद की जो उन्होंने पहले नहीं देखे थे।

निष्कर्ष (The Bottom Line)

यह पेपर साबित करता है कि एक मजबूत AI प्राप्त करने के लिए आपको कई मॉडलों के विशाल "सूप" की आवश्यकता नहीं है। आपको बस एक एकल मॉडल के मस्तिष्क के शांत, भुला दिए गए हिस्सों को सुनना आना चाहिए। उन "लो-एनर्जी" संकेतों की आवाज़ बढ़ाकर, आपको एक ऐसा मॉडल मिलता है जो एक विशेषज्ञ (कार्य में अच्छा) और एक सामान्यज्ञ (वास्तविक दुनिया को संभालने में अच्छा) दोनों है, और वह भी दर्जनों मॉडलों को प्रशिक्षित करने की भारी लागत के बिना।

तकनीकी सारांश: MonoSoup

समस्या विवरण

फाउंडेशन मॉडल्स के लिए प्रचलित "प्री-ट्रेन-देन-फाइन-ट्यून" (pre-train-then-finetune) प्रतिमान अक्सर इन-डिस्ट्रीब्यूशन (ID) सटीकता और आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) मजबूती के बीच एक समझौता (trade-off) पैदा करता है। जबकि फाइन-ट्यूनिंग लक्षित कार्यों पर प्रदर्शन में सुधार करती है, यह अक्सर "रिप्रेजेंटेशन कोलैप्स" (representation collapse) का कारण बनती है, जहाँ मॉडल विशिष्ट डेटा के लिए अत्यधिक विशेषज्ञ बन जाता है, जिससे इसकी सामान्य-उद्देश्यीय जानकारी और OOD प्रदर्शन में गिरावट आती है।

मौजूदा समाधान, जैसे कि मॉडल सूप्स (Model Soups), इसे कई फाइन-ट्यून किए गए चेकपॉइंट्स के वेट्स को औसत निकालकर कम करते हैं। हालाँकि, यह दृष्टिकोण कम्प्यूटेशनल और स्टोरेज की दृष्टि से अत्यधिक खर्चीला है, क्योंकि इसके लिए दर्जनों मॉडल्स को प्रशिक्षित करने और रखने की आवश्यकता होती है। अन्य विधियाँ जैसे कि मॉडल स्टॉक (Model Stock) इसे दो मॉडल्स तक सीमित कर देती हैं, लेकिन वे अभी भी कई चेकपॉइंट्स तक पहुँच की धारणा पर आधारित हैं, जो व्यवहार में अक्सर अवास्तविक होता है क्योंकि रिपॉजिटरी आमतौर पर केवल एक ही सर्वश्रेष्ठ प्रदर्शन करने वाले संस्करण को संग्रहीत करती हैं। इसके अतिरिक्त, सिंगल-मॉडल विधियाँ जैसे कि वाइज-एफटी (Wise-FT) (प्री-ट्रेंड और फाइन-ट्यून किए गए वेट्स का इंटरपोलेशन) यूनिफॉर्म इंटरपोलेशन लागू करती हैं, जो विभिन्न परतों और दिशाओं में वेट अपडेट की सूक्ष्म, एनिसोट्रोपिक (anisotropic) प्रकृति को संबोधित करने में विफल रहती हैं।

मूल प्रश्न जिसका समाधान किया गया है वह है: क्या हम उन लाभों को बनाए रख सकते हैं जो मॉडल सूप्स प्रदान करते हैं, जब केवल एक ही फाइन-ट्यून किया गया मॉडल उपलब्ध हो?

कार्यप्रणाली: MonoSoup

पेपर MonoSoup को पेश करता है, जो एक डेटा-मुक्त, हाइपरपैरामीटर-मुक्त, पोस्ट-हॉक विधि है जो एक एकल चेकपॉइंट का उपयोग करके एक मजबूत ID-OOD संतुलन प्राप्त करती है। यह विधि इस परिकल्पना पर कार्य करती है कि एक एकल फाइन-ट्यून किए गए मॉडल का वेट अपडेट दोनों प्रकार के घटकों को समाहित करता है: प्रमुख, कार्य-विशिष्ट दिशाएँ और कमजोर घटक जो, हालांकि संभावित रूप से शोर (noise) हो सकते हैं, OOD मजबूती के लिए महत्वपूर्ण अवशेष संकेतों (residual signals) को एनकोड करते हैं।

1. SVD के माध्यम से स्पेक्ट्रल डिकंपोजिशन (Spectral Decomposition via SVD)

प्रत्येक परत $\ell$ के लिए, MonoSoup सिंगुलर वैल्यू डीकंपोजिशन (SVD) का उपयोग करके वेट अपडेट मैट्रिक्स $\Delta W^{(\ell)} = W^{(\ell)}_{FT} - W^{(\ell)}_{0}$ का विश्लेषण करता है:
$\Delta W^{(\ell)} = U^{(\ell)} \Sigma^{(\ell)} V^{(\ell)\top}$
सिंगुलर वैल्यूज के स्पेक्ट्रम को दो पूरक घटकों में विभाजित किया गया है:

हाई-एनर्जी कंपोनेंट ( $W^{(\ell)}_{High}$ ): कार्य-विशिष्ट अनुकूलन से जुड़े मुख्य सबस्पेस को कैप्चर करता है।
लो-एनर्जी कंपोनेंट ( $W^{(\ell)}_{Low}$ ): ऑर्थोगोनल कॉम्प्लीमेंट को कैप्चर करता है। हालांकि इसमें अक्सर शोर होता है, पेपर का तर्क है कि ये दिशाएँ OOD सामान्यीकरण के लिए महत्वपूर्ण जानकारी को संरक्षित करती हैं।

2. स्वचालित विभाजन (Automatic Partitioning)

एक निश्चित थ्रेशोल्ड की आवश्यकता वाली विधियों के विपरीत, MonoSoup एंट्रॉपी-आधारित प्रभावी रैंक (entropy-based effective rank) (Roy & Vetterli, 2007) का उपयोग करके विभाजन इंडेक्स $k$ को स्वचालित रूप से निर्धारित करता है:
$k^{(\ell)} = \left\lfloor \exp\left( - \sum_i p^{(\ell)}_i \ln p^{(\ell)}_i \right) \right\rfloor$
जहाँ $p^{(\ell)}_i$ सामान्यीकृत सिंगुलर वैल्यू वितरण है। यह विधि को मैन्युअल ट्यूनिंग के बिना विभिन्न परतों और आर्किटेक्चर के विषम स्पेक्ट्रल गुणों के अनुकूल होने की अनुमति देता है।

3. एडेप्टिव रीवेटिंग (Adaptive Reweighting)

लो-एनर्जी कंपोनेंट को हटाने के बजाय, MonoSoup लेयर-वाइज़ गुणांकों $\lambda^{(\ell)}_{High}$ और $\lambda^{(\ell)}_{Low}$ का उपयोग करके दोनों घटकों को पुन: भारित (reweight) करता है:
$W^{(\ell)}_{MonoSoup} = \lambda^{(\ell)}_{High} W^{(\ell)}_{High} + \lambda^{(\ell)}_{Low} W^{(\ell)}_{Low}$
लो-एनर्जी कंपोनेंट के लिए गुणांक, $\lambda^{(\ell)}_{Low}$ , दो संकेतों से प्राप्त होता है:

स्पेक्ट्रल डिके ( $\rho^{(\ell)}$ ): सिंगुलर वैल्यू स्पेक्ट्रम की तीव्रता को मापता है।
जियोमेट्रिक एलाइनमेंट ( $\cos \alpha^{(\ell)}$ ): लो-एनर्जी दिशाओं द्वारा वहन की जाने वाली अपडेट ऊर्जा के अंश को मापता है।

वेटिंग नियम को इस प्रकार परिभाषित किया गया है:
$\lambda^{(\ell)}_{Low} = \rho^{(\ell)} + (1 - \rho^{(\ell)}) \cos \alpha^{(\ell)}$
$\lambda^{(\ell)}_{High} = 1 - \lambda^{(\ell)}_{Low}$
यह फॉर्मूलेशन सुनिश्चित करता है कि लो-एनर्जी घटकों को केवल तभी रिटेन किया जाए जब स्पेक्ट्रम फ्लैट हो या अपडेट अच्छी तरह से संरेखित (aligned) हो, जो शोर को दबाते हुए मजबूत संकेतों को प्रभावी ढंग से संरक्षित करता है।

मुख्य योगदान

मर्जिंग का ज्यामितीय विश्लेषण: लेखक स्थापित करते हैं कि सफल मल्टी-मॉडल मर्जिंग, फाइन-ट्यूनिंग अपडेट के संरेखण (alignment) पर निर्भर करती है। वे इसे सिमिलैरिटी-फिल्टर्ड ग्रीडी सूप (SFGS) के माध्यम से मान्य करते हैं, जो एक डेटा-मुक्त वेरिएंट है जो वैलिडेशन मेट्रिक्स के बजाय ज्यामितीय संरेखण के आधार पर मॉडल्स का चयन करता है, जिससे यह पुष्टि होती है कि संरेखण मर्जिंग प्रभावशीलता के लिए एक विश्वसनीय प्रॉक्सी है।
MonoSoup एल्गोरिदम: एक अभिनव, सिंगल-चेकपॉइंट विधि जो वेट अपडेट को हाई- और लो-एनर्जी सबस्पेस में विभाजित करती है और उन्हें एडेप्टिवली रीवेट करती है। यह कई चेकपॉइंट्स की आवश्यकता को समाप्त करता है और उन अनिसोट्रोपिक प्रभावों को संबोधित करता है जिन्हें यूनिफॉर्म इंटरपोलेशन विधियाँ अनदेखा कर देती हैं।
अनुभवजन्य सत्यापन (Empirical Validation): विजन (CLIP, ConvNeXt) और लैंग्वेज (Qwen) मॉडल्स पर व्यापक प्रयोगों से पता चलता है कि MonoSoup ID सटीकता को बनाए रखते हुए या उसे बढ़ाते हुए, लगातार OOD सामान्यीकरण में सुधार करता है।

परिणाम

विजन (CLIP ViT-B/32): MonoSoup सबसे मजबूत बेसलाइन की औसत OOD सटीकता में $\sim 1\%$ का सुधार करता है और कमजोर, रिप्रेजेंटेशन-कोलैप्स्ड चेकपॉइंट्स पर 8% तक रिकवरी करता है, जबकि मजबूत ID सटीकता बनाए रखता है। यह केवल एक चेकपॉइंट का उपयोग करके मल्टी-मॉडल विधियों (Model Soups, Model Stock) के प्रदर्शन के बराबर या उससे बेहतर प्रदर्शन करता है।
लैंग्वेज (Qwen3-0.6B): गणितीय तर्क और QA बेंचमार्क पर, MonoSoup फाइन-ट्यून किए गए बेसलाइन और LiNeS विधि से बेहतर प्रदर्शन करता है। यह चुनौतीपूर्ण OOD कार्यों जैसे GSMPlus और GSM8KPlatinum पर महत्वपूर्ण लाभ दिखाता है (उपकरंत +9.2 पॉइंट्स)।
एकीकरण (Integration): जब Wise-FT के साथ जोड़ा जाता है, तो MonoSoup इंटरपोलेशन के लिए एक मजबूत शुरुआती बिंदु प्रदान करता है, जिसके परिणामस्वरूप ऐसे पारेटो फ्रंट्स (Pareto fronts) मिलते हैं जो अकेले Wise-FT और LiNeS की तुलना में बेहतर होते हैं।
दक्षता (Efficiency): MonoSoup एक वन-शॉट, डेटा-मुक्त ऑपरेशन है। 14B-पैरामीटर वाले मॉडल के लिए, यह Model Soups के लिए कई चेकपॉइंट्स को प्रशिक्षित करने की तुलना में वॉल-क्लॉक कॉस्ट को $\sim 10^3$ – $10^4\times$ कम कर देता है और स्टोरेज को एक क्रम (order of magnitude) कम कर देता है।

महत्व और दावे

पेपर दावा करता है कि MonoSoup मल्टी-चेकपॉइंट एन्सेम्बलिंग के लिए एक व्यावहारिक, "प्लग-एंड-प्ले" विकल्प प्रदान करता है। मल्टी-मॉडल सूप के लाभों को सिंगल-मॉडल प्रक्रिया में संकुचित करके, यह मजबूत मॉडल परिनियोजन (deployment) के लिए कम्प्यूटेशनल और स्टोरेज बाधाओं को दूर करता है। लेखक जोर देते हैं कि उनका दृष्टिकोण विशेष रूप से उन अभ्यासकर्ताओं (practitioners) के लिए मूल्यवान है जिनके पास बड़े हाइपरपैरामीटर स्वीप को दोहराने या कई चेकपॉइंट्स बनाए रखने के संसाधन नहीं हैं।

महत्वपूर्ण रूप से, पेपर नोट करता है कि जबकि MonoSoup नेचुरल डिस्ट्रीब्यूशन शिफ्ट्स के खिलाफ मजबूती में महत्वपूर्ण सुधार करता है, यह एडवरसैरियल परटर्बेशन के विरुद्ध एप्लिकेशन-विशिष्ट सुरक्षा मूल्यांकन का विकल्प नहीं है। इस पद्धति का प्राथमिक सामाजिक योगदान कंप्यूट और स्टोरेज लागत में भारी कमी लाना है, जिससे उच्च-प्रदर्शन, सामान्यीकरण योग्य AI अधिक सुलभ हो जाता है।