Spend Experts Where You Are Unsure: Confidence-Adaptive Routing for Mixture-of-Experts LoRA
यह शोध पत्र CARE को पेश करता है, जो कि Mixture-of-Experts LoRA के लिए एक पैरामीटर-मुक्त, ड्रॉप-इन रूटिंग तंत्र है, जो कंप्यूट दक्षता को अनुकूलित करने के लिए राउटर कॉन्फिडेंस और डिसएग्रीमेंट सिग्नल्स के आधार पर प्रति टोकन सक्रिय विशेषज्ञों की संख्या को गतिशील रूप से समायोजित करता है ताकि फिक्स्ड-k बेसलाइन्स के प्रदर्शन के बराबर या उससे बेहतर प्रदर्शन किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप हजारों छोटे संगीतकारों से बने एक विशाल, अत्यंत बुद्धिमान ऑर्केस्ट्रा के कंडक्टर हैं। यह ऑर्केस्ट्रा एक "लार्ज लैंग्वेज मॉडल" (LLM) है, जो एक प्रकार का कंप्यूटर मस्तिष्क है जो इंसानों की तरह पढ़ता और लिखता है। इस मस्तिष्क को विशिष्ट कार्यों में कुशल बनाने के लिए—जैसे गणित की समस्याओं को हल करना या कोड लिखना—हम पूरे ऑर्केस्ट्रा को नए गाने नहीं सिखाते; इसके बजाय, हम इसमें विशेषज्ञों का एक छोटा, विशेष खंड जोड़ देते हैं जो ठीक जानते हैं कि क्या करना है। इसे LoRA (लो-रैंक अडैप्टेशन) कहा जाता है। यह एक विशाल गायक मंडली में कुछ विशेषज्ञ एकल वादकों (soloists) को शामिल करने जैसा है ताकि पूरे संगीत स्कोर को दोबारा लिखे बिना एक विशिष्ट गीत को सुधारा जा सके।
अब, कल्पना कीजिए कि ये एकल वादक एक Mixture-of-Experts (MoE) प्रणाली में व्यवस्थित हैं। जब आपका ऑर्केस्ट्रा एक स्वर या शब्द बजाता है, तो एक "राउटर" तय करता है कि किन एकल वादकों को बजाना चाहिए। पुराना तरीका बहुत कठोर था: राउटर हमेशा विशेषज्ञों की एक निश्चित संख्या (मान लीजिए, चार) चुनता था, चाहे शब्द कितना भी आसान या कठिन क्यों न हो। यह एक साधारण कटोरा सीरियल बनाने के लिए भी चार विश्व-स्तरीय शेफ को काम पर रखने जैसा है, लेकिन एक जटिल, पांच-कोर्स भोज के लिए केवल दो शेफ को काम पर लगाना जैसा है। यह आसान चीजों पर ऊर्जा बर्बाद करता है और कठिन चीजों को कम सेवा देता है। बड़ा सवाल यह है कि क्या हम राउटर को अधिक स्मार्ट बना सकते हैं? क्या वह एक स्वर को देख सकता है, समझ सकता है कि यह कठिन है, और कह सकता है, "हे, हमें इसके लिए अधिक शेफ की आवश्यकता है!" बिना पूरे ऑर्केस्ट्रा की गति धीमी किए?
यह शोध पत्र ठीक इसी समस्या को हल करने के लिए CARE (कॉन्फिडेंस-एडैप्टिव रूटिंग ऑफ एक्सपर्ट्स) नामक एक चतुर नया नियम पेश करता है। लेखकों ने पाया कि राउटर के निर्णय लेने की प्रक्रिया में पहले से ही एक गुप्त संकेत छिपा हुआ है। जब राउटर किसी शब्द के बारे में बहुत आश्वस्त होता है, तो वह एक या दो विशेषज्ञों को बहुत अधिक आत्मविश्वास के साथ चुनता है। जब वह भ्रमित होता है, तो वह अपने वोट कई विशेषज्ञों के बीच फैला देता है। CARE इस "आत्मविश्वास संकेत" (confidence signal) का उपयोग यह तय करने के लिए करता है कि प्रत्येक शब्द के लिए कितने विशेषज्ञों को काम पर रखा जाए। यदि राउटर आश्वस्त है, तो CARE केवल कुछ ही विशेषज्ञों को काम पर रखता है। यदि राउटर अनिश्चित है, या यदि नियुक्त विशेषज्ञ एक-दूसरे से बहस करने लगते हैं, तो CARE अधिक विशेषज्ञों को काम पर रखता है।
शोधकर्ताओं ने दो शक्तिशाली कंप्यूटर मस्तिष्क (LLaMA-3.1-8B और Qwen2.5-7B) पर आठ विभिन्न प्रकार की चुनौतियों, जिनमें सामान्य ज्ञान, गणित, कोडिंग और सामान्य जानकारी शामिल हैं, पर इसका परीक्षण किया। उन्होंने पाया कि CARE दक्षता के लिए एक जादू है। जहाँ इसकी आवश्यकता है, केवल वहीं अधिक "मस्तिष्क शक्ति" खर्च करके, CARE ने कठिन कार्यों पर सटीकता में सुधार किया, जबकि इसने पुराने, कठोर तरीके के समान ही कुल कंप्यूटिंग शक्ति का उपयोग किया। वास्तव में, पुराने तरीके के समान सटीकता प्राप्त करने के लिए, CARE ने औसतन 12% कम विशेषज्ञों का उपयोग किया। यह बिल्कुल वैसा ही है जैसे कि वही स्वादिष्ट भोजन प्राप्त करना लेकिन कम भोजन बर्बाद करना।
इसके अलावा, CARE केवल पैसा ही नहीं बचाता; यह एक अंतर्निहित झूठ पकड़ने वाले यंत्र (lie detector) के रूप में भी कार्य करता है। क्योंकि यह जानता है कि राउटर कब भ्रमित है या विशेषज्ञ आपस में कब असहमत हैं, यह फ्लैग कर सकता है कि कंप्यूटर एक ऐसे प्रश्न का सामना कर रहा है जिसे वह नहीं समझता (एक "आउट-ऑफ-डिस्ट्रीब्यूशन" घटना)। शोध पत्र दिखाता है कि CARE इन भ्रमित करने वाले क्षणों को अन्य तरीकों की तुलना में बेहतर तरीके से पहचानता है, जिन्हें अपने काम की जांच करने के लिए कंप्यूटर को एक ही प्रश्न को अपने मस्तिष्क के माध्यम से कई बार चलाना पड़ता है। CARE यह सब एक ही बार में (single pass में) करता है, जिसमें किसी अतिरिक्त प्रशिक्षण की आवश्यकता नहीं होती, केवल विशेषज्ञों को काम पर रखने के नियम को बदलकर। यह एक कठोर, एक-समान प्रणाली को एक लचीली, स्मार्ट प्रणाली में बदल देता है जो जानती है कि उसे अपनी ऊर्जा कब खर्च करनी है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।