Scalable Prompt Routing via Fine-Grained Latent Task Discovery
यह शोध पत्र एक स्केलेबल टू-स्टेज प्रॉम्प्ट रूटिंग आर्किटेक्चर प्रस्तावित करता है जो सूक्ष्म-स्तरीय लेटेंट टास्क डिस्कवरी के लिए ग्राफ-आधारित क्लस्टरिंग और टास्क-अवेयर क्वालिटी एस्टीमेशन के लिए अ मिक्स्चर-ऑफ-एक्सपर्ट्स मॉडल का लाभ उठाता है, जो मौजूदा बेसलाइनों की तुलना में विविध फ्रंटियर मॉडल्स में बेहतर प्रदर्शन और लागत दक्षता प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, हाई-टेक रेस्तरां चलाते हैं जिसमें 11 अलग-अलग सेलिब्रिटी शेफ (लार्ज लैंग्वेज मॉडल्स) का मेनू है। कुछ गणित के उस्ताद हैं, कुछ कवि हैं, कुछ कोडिंग के जादूगर हैं, और कुछ सामान्य बातचीत में माहिर हैं।
आपका लक्ष्य हर ग्राहक को परफेक्ट डिश (सबसे अच्छा उत्तर) परोसना है, बिना हर ऑर्डर के लिए सबसे महंगे शेफ पर पैसा बर्बाद किए।
समस्या: "एक ही आकार सबके लिए" वाली गलती (The "One-Size-Fits-All" Mistake)
अतीत में, रेस्तरां मैनेजर (रूटिंग सिस्टम) ने यह अनुमान लगाने की कोशिश की कि किस शेफ का उपयोग किया जाए, जिसके दो तरीके थे:
- मैनुअल मेनू: उन्होंने हर ऑर्डर को "गणित" या "लेखन" जैसे व्यापक बकेटों (श्रेणियों) में वर्गीकृत करने की कोशिश की। लेकिन यह बहुत अस्पष्ट है। एक "गणित" का ऑर्डर साधारण अंकगणित भी हो सकता है और जटिल क्वांटम भौतिकी भी। एक अकेला "गणित" वर्ग यह नहीं बता सकता कि उस विशिष्ट समस्या के लिए कौन सा विशेष शेफ सबसे अच्छा है।
- जनरल मैनेजर: उन्होंने एक सुपर-मैनेजर को काम पर रखा जो हर ऑर्डर को देखता और सबसे अच्छे शेफ का अनुमान लगाता। लेकिन 11 शेफ के साथ, जो सभी अविश्वसनीय रूप से प्रतिभाशाली और एक जैसे हैं, यह मैनेजर भ्रमित हो जाता है। वे उन सूक्ष्म अंतरों को नहीं पहचान पाते जो यह बताते हैं कि शेफ A इस विशिष्ट पहेली के लिए शेफ B की तुलना में बेहतर क्यों है।
परिणामस्वरूप? या तो आप गलत शेफ चुन लेते हैं (खराब खाना) या फिर आप हर चीज़ के लिए सबसे महंगे शेफ को चुन लेते हैं (पैसा बर्बाद करना)।
समाधान: FineRouter (स्मार्ट किचन)
लेखकों ने इस पेपर में FineRouter नामक एक नया सिस्टम बनाया है। इसे एक दो-चरणीय, सुपर-स्मार्ट किचन मैनेजमेंट सिस्टम के रूप में समझें जो किसी निश्चित मेनू या एकल अनुमान पर निर्भर नहीं करता है।
चरण 1: "सीक्रेट मेनू" की खोज (छिपे हुए पैटर्न खोजना)
एक पूर्व-लिखित मेनू के बजाय, सिस्टम हजारों पिछले ऑर्डर्स को देखता है और अपने स्वयं के वर्ग खोजता है।
- यह कैसे काम करता है: यह दो चीजों के आधार पर समान ऑर्डर्स को एक साथ समूहबद्ध करता है: जो ऑर्डर कह रहा है (शब्द) और ऐतिहासिक रूप से किन शेफों ने समान ऑर्डर्स पर सबसे अच्छा काम किया है।
- जादू: यह ऐसे "माइक्रो-कैटेगरी" (सूक्ष्म-श्रेणियां) ढूंढ निकालता है जिन्हें इंसान शायद मिस कर दें। उदाहरण के लिए, यह महसूस कर सकता है कि "टेलीफोन एरिया कोड प्रश्न" पूछना "बीजगणित समीकरण हल करने" से पूरी तरह से अलग कौशल सेट है, भले ही दोनों तकनीकी रूप से "गणित" या "तथ्य" के अंतर्गत आते हों।
- परिणाम: यह 300 से अधिक छोटे, विशिष्ट कार्य प्रकारों का एक "सीक्रेट मेनू" बनाता है। प्रत्येक प्रकार के लिए, यह जानता है कि कौन से 2 या 3 शेफ सबसे उपयुक्त फिट हैं।
चरण 2: "स्पेशलिस्ट टीम" (मिक्सचर ऑफ एक्सपर्ट्स)
अब जब सिस्टम को "सीक्रेट मेनू" का पता चल गया है, तो यह एक विशेष टीम स्थापित करता है।
- सेटअप: कल्पना करें कि एक केंद्रीय हब है। जब एक नया ग्राहक ऑर्डर आता है:
- ट्राइएज नर्स (चरण 1): जल्दी से ऑर्डर को देखती है और कहती है, "आह, यह एक 'टेलीफोन एरिया कोड' का अनुरोध है! यह 'जियोग्राफी/टेलीकॉम' टीम के पास जाएगा।"
- स्पेशलिस्ट शेफ (चरण 2): सभी 11 शेफों को खाना पकाने के लिए बुलाने के बजाय, सिस्टम केवल उन विशिष्ट शेफों को जगाता है जो उस छोटी श्रेणी के विशेषज्ञ हैं। वह उनसे पूछता है, "आप इस विशिष्ट कार्य के लिए कितने अच्छे होंगे?"
- हाइब्रिड दृष्टिकोण: यदि सिस्टम सुनिश्चित नहीं है कि ऑर्डर किस श्रेणी का है, तो यह एक सामान्य "सभी-शेफ" अनुमान पर निर्भर रहता है। लेकिन आमतौर पर, यह विशेषज्ञ टीम का उपयोग करता है।
अंतिम निर्णय: "दोनों दुनियाओं का सर्वश्रेष्ठ" वोट
सिस्टम अंतिम निर्णय लेने के लिए दो सूचनाओं को जोड़ता है:
- ग्रुप एवरेज: "ऐतिहासिक रूप से, इस प्रकार के कार्य के लिए, शेफ X आमतौर पर सबसे अच्छा होता है।"
- विशिष्ट बारीकी: "लेकिन इस विशिष्ट शब्दावली को देखते हुए, शेफ Y का थोड़ा बढ़त हो सकती है।"
यह चुनने के लिए कि विजेता कौन है, यह दोनों संकेतों को मिला देता है।
यह क्यों मायने रखता है (परिणाम)
इस पेपर में परीक्षण किया गया कि इस सिस्टम ने 10 अलग-अलग चुनौतियों (कोडिंग से लेकर ट्रिविया और गणित तक) में दुनिया के 11 सबसे उन्नत AI मॉडल्स का परीक्षण किया।
- बेहतर खाना: सिस्टम ने अकेले किसी भी एक शेफ की तुलना में सही शेफ को अधिक बार चुना। इसने वास्तव में पूल के एकल "सर्वश्रेष्ठ" मॉडल से भी बेहतर प्रदर्शन किया।
- कम बिल: क्योंकि इसने हर काम के लिए आँख बंद करके सबसे महंगे शेफ को नहीं चुना, इसने इन परिणामों को आधे से भी कम लागत में प्राप्त किया।
- स्केलेबिलिटी (स्केलेबिलिटी): जैसे-जैसे किचन में अधिक शेफ (अधिक AI मॉडल्स) शामिल होते हैं, यह सिस्टम उनके बीच के सूक्ष्म अंतर खोजने में और भी स्मार्ट होता जाता है, जबकि पुराने सिस्टम बस भ्रमित हो जाते।
संक्षेप में एनालॉजी (उपमा)
- पुराना तरीका: यह अनुमान लगाने के लिए एक व्यक्ति को पूछना कि किसी विशिष्ट खेल के लिए 11 ओलंपिक एथलीटों में से कौन सा सबसे अच्छा है, या बस सबसे प्रसिद्ध व्यक्ति को चुन लेना।
- FineRouter तरीका: पहले हजारों पिछले खेलों का विश्लेषण करना ताकि यह पता चल सके कि 300+ विशिष्ट "खेल के क्षेत्र" (niches) मौजूद हैं। फिर, ऐसे स्काउट्स की एक टीम बनाना जो जानते हैं कि प्रत्येक "नीश" में कौन सा एथलीट उत्कृष्ट है, और फिर जब भी कोई नया खेल शुरू होता है, तो केवल उन्हीं विशिष्ट एथलीटों को बुलाना।
यह दृष्टिकोण यह सुनिश्चित करता है कि आपको हर बार एक उत्तर के लिए पूरी ओलंपिक टीम के लिए भुगतान किए बिना गोल्ड मेडल वाला प्रदर्शन मिले।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।