← नवीनतम पेपर
🤖 machine learning

When Model Merging Breaks Routing: Training-Free Calibration for MoE

यह शोध पत्र हेसियन-अवेयर राउटर कैलिब्रेशन (HARC) को प्रस्तुत करता है, जो एक ट्रेनिंग-फ्री फ्रेमवर्क है जो मर्ज किए गए राउटरों को पुनर्गठित करने के लिए सेकंड-ऑर्डर कर्वेचर जानकारी का उपयोग करता है और 'राउटिंग ब्रेकडाउन' की घटना को प्रभावी ढंग से कम करता है जो मिक्सचर-ऑफ-एक्सपर्ट्स (MoE) मॉडल मर्जिंग में प्रदर्शन में गिरावट का कारण बनती है।

मूल लेखक: Canbin Huang, Tianyuan Shi, Xiaojun Quan, Jingang Wang, Jianfei Zhang, Qifan Wang

प्रकाशित 2026-06-03
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Canbin Huang, Tianyuan Shi, Xiaojun Quan, Jingang Wang, Jianfei Zhang, Qifan Wang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास दो प्रतिभाशाली शेफ हैं। एक गणित (math) का उस्ताद है, और दूसरा कोडिंग (coding) का जादूगर। आप उन्हें एक एकल "सुपर शेफ" में बदलना चाहते हैं जो दोनों काम पूरी तरह से कर सके, बिना किसी नई टीम को काम पर रखे या उन्हें शून्य से फिर से प्रशिक्षित किए।

AI की दुनिया में, इसे मॉडल मर्जिंग (Model Merging) कहा जाता है। आमतौर पर, वैज्ञानिक दोनों शेफ की "रेसिपी बुक्स" (गणितीय वेट्स/weights) को लेते हैं और उनका औसत निकाल देते हैं। सरल कार्यों के लिए, यह बहुत अच्छा काम करता है। लेकिन मिक्सचर-ऑफ-एक्सपर्ट्स (Mixture-of-Experts - MoE) मॉडल्स के लिए, यह साधारण औसत एक आपदा का कारण बनता है।

समस्या: भ्रमित डिस्पैचर (The Confused Dispatcher)

एक MoE मॉडल को केवल एक शेफ के रूप में नहीं, बल्कि एक डिस्पैचर और कई विशेषज्ञ शेफों वाली एक रसोई के रूप में सोचें।

  • डिस्पैचर (रिएटर/Router): जब कोई ग्राहक किसी व्यंजन का ऑर्डर देता है, तो डिस्पैचर अनुरोध को देखता है और तय करता है कि किस विशिष्ट शेफ को खाना बनाना चाहिए।
  • शेफ (विशेषज्ञ/Experts): कई शेफ हैं, लेकिन प्रत्येक व्यंजन को केवल कुछ ही (मान लीजिए, शीर्ष 2) पकाते हैं।

"रूटिंग ब्रेकडाउन" (Routing Breakdown):
जब आप मानक तरीकों का उपयोग करके दो मॉडल्स को मर्ज करने की कोशिश करते हैं, तो आप अनिवार्य रूप से डिस्पैचर के मस्तिष्क का औसत निकाल रहे होते हैं। क्योंकि डिस्पैचर एक जटिल, नॉन-लीनियर सिस्टम के आधार पर निर्णय लेता है (जैसे एक ट्रैफिक लाइट जो यातायात में मामूली बदलाव के आधार पर तुरंत बदल जाती है), डिस्पैचर के "मस्तिष्क" में एक छोटा सा बदलाव भी भारी त्रुटि का कारण बनता है।

गणित की समस्या को गणित वाले शेफ के पास भेजने के बजाय, नया, मर्ज किया गया डिस्पैचर गलती से उसे कोडिंग वाले शेफ के पास भेज सकता है। या इससे भी बुरा, यह उसे ऐसे शेफ के पास भेज सकता है जिसे खाना बनाना बिल्कुल नहीं आता। पेपर इसे "रूटिंग ब्रेकडाउन" कहता है। विशेषज्ञ (शेफ) अभी भी प्रतिभाशाली हैं, लेकिन डिस्पैचर इतना भ्रमित है कि वह गलत ऑर्डर गलत लोगों के पास भेज देता है, जिससे भोजन खराब हो जाता है।

समाधान: HARC (स्मार्ट ट्रैफिक पुलिस)

लेखक एक नई विधि प्रस्तावित करते हैं जिसे HARC (Hessian-Aware Router Calibration) कहा जाता है। HARC को एक ट्रेनिंग-फ्री ट्रैफिक पुलिस के रूप में सोचें जो पूरी रसोई को फिर से प्रशिक्षित किए बिना डिस्पैचर को ठीक करती है।

यह यहाँ कैसे काम करता है, सरल उपमाओं का उपयोग करते हुए:

  1. "कर्वेचर" (Curvature) मैप:
    मानक मर्जिंग केवल डिस्पैचर के बटनों की औसत स्थिति को देखती है। HARC उन बटनों के आसपास के इलाके के आकार (terrain) को देखती है। यह पूछती है: "यदि मैं इस बटन को थोड़ा सा हिला दूँ, तो क्या निर्णय थोड़ा बदलेगा, या यह पूरी तरह से पलट जाएगा?"
  • यह जानने जैसा है कि एक सपाट मेज पर रखी गेंद स्थिर होती है, लेकिन एक नुकीली चोटी पर रखी गेंद जरा से स्पर्श से लुढ़क जाएगी। HARC जानती है कि डिस्पैचर के निर्णय लेने के "शिखर" (peaks) और "घाटियाँ" (valleys) कहाँ हैं।

  1. "सेकंड-ऑर्डर" फिक्स:
    बटनों का औसत निकालने के बजाय, HARC डिस्पैचर के लिए परफेक्ट नई स्थिति की गणना करने के लिए एक गणितीय शॉर्टकट (जिसे हेसियन/Hessian कहा जाता है) का उपयोग करती है। यह सुनिश्चित करती है कि डिस्पैचर अभी भी गणित की समस्याओं को गणित वाले शेफ को और कोडिंग की समस्याओं को कोडिंग वाले शेफ को भेजे, भले ही मर्ज होने के बाद भी।

  2. री-ट्रेनिंग की आवश्यकता नहीं:
    आमतौर पर, एक टूटे हुए डिस्पैचर को ठीक करने के लिए उसे हजारों नए उदाहरण खिलाने की आवश्यकता होती है ताकि वह फिर से सीख सके। HARC ट्रेनिंग-फ्री है। यह एक पहेली को तुरंत हल करने के लिए एक चतुर गणितीय ट्रिक ("मैट्रिक्स-फ्री कंजुगेट ग्रेडिएंट") का उपयोग करती है, जो मॉडल के पास पहले से मौजूद डेटा का उपयोग करती है। यह डिस्पैचर को दोबारा कुकरी स्कूल भेजने के बजाय, उसे एक त्वरित, सटीक समायोजन देने जैसा है।

उन्होंने क्या पाया

शोधकर्ताओं ने परीक्षण किया कि उन्होंने गणित (Math) और कोड (Code) पर प्रशिक्षित मॉडल्स को मर्ज किया।

  • HARC के बिना: मर्ज किया गया मॉडल भ्रमित हो गया। इसने गणित की समस्याओं को कोडिंग विशेषज्ञों के पास भेज दिया, और प्रदर्शन में काफी गिरावट आई।
  • HARC के साथ: डिस्पैचर को पुनर्गठित (recalibrated) किया गया। मॉडल ने दोनों मूल शेफ की ताकत को बनाए रखा। इसने गणित और कोड की समस्याओं को लगभग मूल अलग-अलग मॉडल्स जितना ही अच्छा हल किया, लेकिन एक ही पैकेज में।

मुख्य बातें

  • डिस्पैचर नाजुक होता है: इन जटिल AI मॉडल्स में, वह हिस्सा जो "कौन काम करेगा" यह तय करता है, अत्यंत संवेदनशील होता है। आप इसका केवल औसत नहीं निकाल सकते।
  • कर्वेचर (Curvature) मायने रखता है: डिस्पैचर को ठीक करने के लिए, आपको उसके निर्णय लेने की प्रक्रिया के "आकार" (कर्वेचर) को समझने की आवश्यकता है, न कि केवल औसत स्थिति को।
  • यह तेजी से काम करता है: HARC समस्या को जल्दी से ठीक करता है और इसे बड़ी मात्रा में नए डेटा की आवश्यकता नहीं होती है। यह एक हल्का "पैच" है जो इन शक्तिशाली मॉडल्स को फिर से मर्ज करना संभव बनाता है।

संक्षेप में, पेपर कहता है: "आप दो स्मार्ट AI दिमागों को बस आपस में मिला नहीं सकते; आपको उस हिस्से को सावधानीपूर्वक संरेखित (realign) करना होगा जो यह तय करता है कि कौन काम करेगा, अन्यथा पूरा सिस्टम टूट जाएगा। हमने उस संरेखण को ठीक करने का एक तेज़, मुफ्त तरीका खोज लिया है।"

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 🤖 cs.LG →