Doing More with Less: A Survey on Routing Strategies for Resource Optimisation in Large Language Model-Based Systems
यह सर्वेक्षण लार्ज लैंग्वेज मॉडल-आधारित प्रणालियों में रूटिंग रणनीतियों का एक व्यापक अवलोकन प्रदान करता है, जो यह विश्लेषण करता है कि कैसे प्रश्नों को उपयुक्त मॉडलों की ओर गतिशील रूप से निर्देशित करना मोनोलिथिक आर्किटेक्चर की अक्षमताओं को दूर करके संसाधन खपत को अनुकूलित कर सकता है, लागत कम कर सकता है और प्रदर्शन को बढ़ा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ हर बार जब आप कोई सवाल पूछते हैं, तो विशेषज्ञों की एक टीम उसका उत्तर देने के लिए दौड़ पड़ती है। कुछ बहुत बुद्धिमान लेकिन धीमे और महंगे हैं, जैसे कि एक नोबेल पुरस्कार विजेता प्रोफेसर जो प्रति घंटे के हिसाब से शुल्क लेते हैं। अन्य त्वरित और सस्ते हैं, जैसे कि एक जानकार दोस्त जो अधिकांश चीजें संभाल सकता है लेकिन किसी बहुत कठिन पहेली पर लड़खड़ा सकता है। आर्टिफिशियल इंटेलिजेंस की दुनिया में, ये "विशेषज्ञ" लार्ज लैंग्वेज मॉडल्स (LLMs) हैं। अभी, अधिकांश कंप्यूटर सिस्टम एक जिद्दी रेस्टोरेंट की तरह बने हुए हैं जो हर एक ऑर्डर, चाहे वह पानी का एक साधारण गिलास हो या एक जटिल पांच-कोर्स का भोजन, रसोई के सबसे महंगे शेफ के पास भेज देता है। यह काम तो करता है, लेकिन यह बर्बादी भरा, धीमा और बहुत अधिक ऊर्जा खर्च करने वाला है। वैज्ञानिक एक बड़ा सवाल पूछ रहे हैं: हम एक स्मार्ट "मेट्र डी'" (maitre d') कैसे बना सकते हैं जो आपके ऑर्डर को देखे और तुरंत तय कर सके कि उसे त्वरित, सस्ते सहायक के पास भेजना है या महंगे जीनियस के पास? यह "रूटिंग" (routing) नामक एक नए क्षेत्र का केंद्र है, और यह कम में अधिक करने के बारे में है।
यह शोध पत्र, जिसका शीर्षक "कम में अधिक करना" (Doing More with Less) है, उन विभिन्न तरीकों का एक व्यापक दौरा है जिन्हें शोधकर्ता उस स्मार्ट "मेट्र डी'" को बनाने के लिए आजमा रहे हैं। लेखक, जो फ्रांस की एक टीम है, ने केवल एक नया तरीका नहीं खोजा; उन्होंने वर्तमान में परीक्षण किए जा रहे रणनीतियों के पूरे परिदृश्य को इकट्ठा और व्यवस्थित किया है। उन्होंने पाया कि पैसा और ऊर्जा बचाने का सबसे अच्छा तरीका एक ही विशाल मस्तिष्क का उपयोग करना नहीं है, बल्कि एक ऐसा सिस्टम बनाना है जो सवाल की कठिनाई के आधार पर उसे सही टूल तक पहुँचाए (रूट करे)। उन्होंने पाया कि आप अक्सर सरल अभिवादन के लिए एक छोटे, सस्ते मॉडल का उपयोग कर सकते हैं और वास्तव में कठिन तर्क पलों के लिए बड़े, महंगे मॉडल्स को बचाकर रख सकते हैं। हालाँकि, वे चेतावनी भी देते हैं कि यह अभी कोई जादू की छड़ी नहीं है। कुछ तरीके पैसे बचाने में बेहतरीन हैं लेकिन सटीकता में चूक कर सकते हैं, जबकि अन्य वास्तविक दुनिया में चलाने के लिए बहुत जटिल हैं। पेपर सुझाव देता है कि भविष्य "अनुकूली" (adaptive) सिस्टम में निहित है जो नए टूल्स उपलब्ध होने पर अपने विचार बदल सकते हैं और सीख सकते हैं, न कि कठोर नियमों के सेट में फंसे रह सकते हैं।
बड़ी समस्या: "एक ही आकार के लिए उपयुक्त" (One-Size-Fits-All) शेफ
एक लार्ज लैंग्वेज मॉडल (LLM) को एक सुपर-स्मार्ट शेफ की तरह समझें। कुछ शेफ सामान्य विशेषज्ञ (generalists) होते हैं; वे सैंडविच से लेकर सूफ़ले (soufflé) तक लगभग कुछ भी बना सकते हैं। लेकिन उन्हें काम पर रखना महंगा है और उन्हें काम करने में समय लगता है। अन्य विशेषज्ञ (specialists) होते हैं; शायद वे पिज्जा बनाने में अद्भुत हैं लेकिन केक बनाने में बहुत खराब हैं।
अभी, अधिकांश AI सिस्टम एक ऐसे रेस्टोरेंट की तरह हैं जो मेनू को अनदेखा करता है। यदि आप पानी के एक गिलास के लिए पूछते हैं, तो सिस्टम सबसे महंगे, शक्तिशाली शेफ (जैसे GPT-4 या Claude) को बुलाता है। यह एक बड़ी बर्बादी है। इसमें बहुत पैसा खर्च होता है, बहुत अधिक बिजली का उपयोग होता है और इसमें अनावश्यक रूप से अधिक समय लगता है। पेपर का तर्क है कि हमें एक "रूटर" (router)—एक स्मार्ट वेटर—की आवश्यकता है जो आपके अनुरोध को देखे और तय करे: "हे, यह बस एक साधारण पिज्जा का ऑर्डर है। चलिए इसे सस्ते शेफ के पास भेजते हैं।" लेकिन यदि आप एक जटिल गणितीय प्रश्न पूछते हैं, तो वेटर कहेगा, "ठीक है, इसकी आवश्यकता हेड शेफ को है।"
तीन बड़े प्रश्न जिनका उत्तर यह पेपर देता है
लेखक इस समस्या को तीन सरल प्रश्नों में विभाजित करते हैं: हमें क्या अनुकूलित (optimize) करना चाहिए? हमें निर्णय कब लेना चाहिए? और हम वास्तव में रूटर का निर्माण कैसे करें?
1. हम क्या बचाना चाह रहे हैं?
अधिकांश लोग सोचते हैं कि केवल पैसा ही एकमात्र महत्वपूर्ण चीज़ है। लेकिन पेपर बताता है कि हमें समय (लैटेंसी) और पर्यावरण (ऊर्जा) की भी परवाह करनी चाहिए।
- पैसा: हर बार जब एक AI सवाल का जवाब देता है, तो इसमें प्रति शब्द (टोकन) थोड़ा सा पैसा खर्च होता है।
- समय: एक साधारण "नमस्ते" के लिए धीमे, शक्तिशाली AI के जवाब का इंतज़ार करना कष्टप्रद है।
- ग्रह: बड़े AI मॉडल बहुत अधिक बिजली का उपयोग करते हैं। यदि हम अपने 80% सवालों के लिए एक छोटे मॉडल का उपयोग कर सकते हैं, तो हम भारी मात्रा में ऊर्जा बचा सकते हैं और कार्बन फुटप्रिंट को कम कर सकते हैं।
2. हम निर्णय कब लेते हैं?
पेपर दो मुख्य क्षणों की पहचान करता है जब "वेटर" एक विकल्प चुन सकता है:
- उत्तर दिए जाने से पहले (Pre-generation): वेटर खाना बनाना शुरू करने से पहले आपके सवाल को देखता है। वह अनुमान लगाता है, "यह एक साधारण पिज्जा ऑर्डर लग रहा है," और इसे तुरंत सस्ते शेफ के पास भेज देता है। यह तेज़ है और पैसा बचाता है क्योंकि बड़ा शेफ इसमें शामिल ही नहीं होता।
- उत्तर दिए जाने के बाद (Post-generation/Cascade): वेटर पहले सस्ते शेफ को कोशिश करने देता है। यदि उत्तर बुरा दिखता है या शेफ अनिश्चित लगता है, तब वेटर प्रश्न को महंगे शेफ के पास भेज देता है। यह एक पिज्जा ऑर्डर करने, एक स्लाइस चखने और यदि वह जला हुआ है, तो नया बनाने के लिए हेड शेफ को बुलाने जैसा है। यह सुरक्षित है लेकिन धीमा हो सकता है और यदि सस्ता शेफ अक्सर विफल होता है तो अधिक महंगा हो सकता है।
3. हम वेटर को कैसे बनाते हैं?
यही सबसे दिलचस्प हिस्सा है। पेपर दर्जनों अलग-अलग "वेटर" रणनीतियों की समीक्षा करता है, जिन्हें वे चार मुख्य परिवारों में वर्गीकृत करते हैं:
- "समान दिखने वाला" वेटर (Similarity-based): यह वेटर पिछले सवालों की एक स्क्रैपबुक रखता है। यदि आप एक ऐसा सवाल पूछते हैं जो पिछले हफ्ते पूछे गए सवाल जैसा ही लगता है, तो वेटर उसे उसी शेफ के पास भेज देता है जिसने उस सवाल का जवाब दिया था। यह कहने जैसा है, "पिछली बार जब आपने बिल्लियों के बारे में पूछा था, तो बिल्ली-विशेषज्ञ बहुत अच्छा था, इसलिए मैं इस बिल्ली वाले सवाल को भी उन्हीं के पास भेजूँगा।"
- "शिक्षक" वेटर (Supervised): इस वेटर को एक छात्र की तरह प्रशिक्षित किया जाता है। यह पैटर्न को पहचानना सीखता है। उदाहरण के लिए, यह सीखता है कि "गणित" के बारे में सवाल आमतौर पर गणित-विशेषज्ञ की आवश्यकता होती है, और "मजाक" के बारे में सवाल के लिए एक रचनात्मक मॉडल की आवश्यकता होती है। यह एक ऐसे छात्र की तरह है जिसने "कौन सा शेफ कौन सा व्यंजन संभालता है" पर एक पाठ्यपुस्तक रट ली है।
- "जुआरी" वेटर (Reinforcement Learning): यह वेटर ट्रायल और एरर (trial and error) से सीखता है, जैसे कि एक वीडियो गेम का पात्र। यह अलग-अलग शेफ को आजमाता है, देखता है कि क्या उत्तर अच्छा था, और यदि इसने पैसा बचाया और एक अच्छा उत्तर प्राप्त किया तो इसे एक "इनाम" (reward) मिलता है। समय के साथ, यह बिना किसी पाठ्यपुस्तक के सबसे अच्छी रणनीति सीख जाता है।
- "स्वयं-चिंतनशील" वेटर (Generative): यहाँ AI खुद से बात करता है। वेटर सस्ते शेफ से पूछता है, "क्या तुम सुनिश्चित हो कि तुम इसका उत्तर दे सकते हो?" यदि शेफ कहता है, "मैं सुनिश्चित नहीं हूँ," तो वेटर तुरंत इसे बड़े शेफ के पास भेज देता है। यह एक दोस्त से पूछने जैसा है, "क्या तुम्हें यह पता है?" और यदि वह हिचकिचाता है, तो आप विशेषज्ञ को बुला लेते हैं।
जो पेपर खारिज करता है (The "Don't Bother" List)
लेखक इस बारे में बहुत स्पष्ट हैं कि कौन सी रणनीति एक अच्छी रूटिंग रणनीति नहीं मानी जाती है। वे स्पष्ट रूप से कहते हैं कि केवल पाँच अलग-अलग शेफ से उत्तर एकत्र करना और उनमें से सर्वश्रेष्ठ को चुनना (जिसे "एन्सेम्बल मेथड्स" कहा जाता है) रूटिंग के समान नहीं है। यह पाँच पिज्जा ऑर्डर करने और खराब वाले को फेंक देने जैसा है; यह बहुत महंगा है। लक्ष्य खाना शुरू करने से पहले सही शेफ को चुनना है, न कि सब कुछ पकाकर फिर चुनना।
वे यह भी नोट करते हैं कि कुछ तरीके, जैसे कि AI को अपनी स्वयं की आत्मविश्वास (confidence) का अनुमान लगाने के लिए कहना, थोड़े पेचीदा हो सकते हैं। कभी-कभी AI बहुत अधिक आत्मविश्वासी होता है और कहता है, "मुझे यह पता है!" जबकि वास्तव में उसे नहीं पता होता। इससे गलत उत्तर मिल सकते हैं यदि सिस्टम गलत शेफ पर भरोसा करता है।
निष्कर्ष: यह आशाजनक है, लेकिन पूर्ण नहीं है
पेपर निष्कर्ष निकालता है कि रूटिंग एक शक्तिशाली उपकरण है, लेकिन यह अभी तक कोई सुलझी हुई पहेली नहीं है।
- यह काम करता है: कई परीक्षणों में, स्मार्ट रूटिंग लागत को आधा या उससे अधिक कम कर सकती है जबकि उत्तर उतने ही अच्छे रहते हैं जितने बड़े मॉडल्स के होते।
- यह पेचीदा है: सबसे अच्छी रणनीति स्थिति पर निर्भर करती है। कभी-कभी "समान दिखने वाला" दृष्टिकोण सबसे अच्छा काम करता है; अन्य समय में, "शिक्षक" दृष्टिकोण बेहतर होता है।
- भविष्य: लेखक सुझाव देते हैं कि अगला बड़ा कदम इन रूटर्स को "अनुकूली" (adaptive) बनाना है। अभी, यदि आप रसोई में एक नया शेफ जोड़ते हैं, तो आपको अक्सर पूरे वेटर सिस्टम को फिर से प्रशिक्षित करना पड़ता है। भविष्य का लक्ष्य एक ऐसा वेटर बनाना है जो तुरंत एक नए शेफ के कौशल को समझ सके और बिना किसी लंबे प्रशिक्षण अवधि के उनका उपयोग करना शुरू कर सके।
संक्षेप में, यह पेपर स्मार्ट, सस्ते और हरित (greener) AI सिस्टम बनाने के लिए एक मार्गदर्शिका है। यह हमें बताता है कि हमें अखरोट तोड़ने के लिए हथौड़े की आवश्यकता नहीं है। एक स्मार्ट सिस्टम बनाकर जो जानता है कि कब छोटे हथौड़े का उपयोग करना है और कब बड़े हथौड़े का, हम AI को तेज़, सस्ता और ग्रह के लिए बेहतर बना सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।