💬 NLP

Learning Agent Routing From Early Experience

यह शोध पत्र BoundaryRouter प्रस्तुत करता है, जो एक प्रशिक्षण-मुक्त ढांचा (training-free framework) है जो प्रारंभिक व्यवहारिक अनुभव और रूब्रिक-निर्देशित तर्क के आधार पर क्वेरीज़ को या तो हल्के LLM इन्फरेंस या पूर्ण एजेंट निष्पादन में गतिशील रूप से रूट करके विलंबता (latency) और प्रदर्शन के बीच के संतुलन को अनुकूलित करता है, जिससे मौजूदा विधियों की तुलना में गति और सटीकता दोनों में महत्वपूर्ण सुधार प्राप्त होता है।

मूल लेखक: Yimin Wang, Jiahao Qiu, Xuan Qi, Xinzhe Juan, Jingzhe Shi, Zelin Zhao, Hongru Wang, Shilong Liu, Mengdi Wang

प्रकाशित 2026-05-11

📖 4 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें

CC BY 4.0

मूल लेखक: Yimin Wang, Jiahao Qiu, Xuan Qi, Xinzhe Juan, Jingzhe Shi, Zelin Zhao, Hongru Wang, Shilong Liu, Mengdi Wang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही स्मार्ट, तेज़, लेकिन कभी-कभी अति-आत्मविश्वासी सहायक (LLM) और एक अत्यधिक कुशल, गहन, लेकिन धीमा और महंगा विशेषज्ञ सलाहकार (Agent) है।

सहायक (Assistant) सरल प्रश्नों जैसे "फ्रांस की राजधानी क्या है?" का उत्तर तुरंत और मुफ्त में दे सकता है। लेकिन यदि आप इसे कोई जटिल भौतिकी (physics) की समस्या हल करने या लंबा, बहु-चरणीय कोड लिखने के लिए कहते हैं, तो यह गलत उत्तर दे सकता है या भ्रमित (hallucinate) हो सकता है।
विशेषज्ञ (Expert) उन कठिन समस्याओं को टूल्स का उपयोग करके, शोध करके और चरण-दर-चरण सोचकर पूरी तरह से हल कर सकता है। लेकिन इसमें बहुत समय लगता है और यह काफी महंगा भी है।

समस्या:
अभी, यदि आपके पास आसान और कठिन प्रश्नों का मिश्रण है, तो आपको यह अनुमान लगाना पड़ता है कि किसे किसके पास भेजना है। यदि आप सब कुछ विशेषज्ञ को भेजते हैं, तो आप आसान सवालों पर समय और पैसा बर्बाद करते हैं। यदि आप सब कुछ सहायक को भेजते हैं, तो कठिन सवालों पर आपको गलत उत्तर मिलते हैं।

समाधान: "BoundaryRouter"
यह पेपर एक नया सिस्टम पेश करता है जिसे BoundaryRouter कहा जाता है। इसे सहायक और विशेषज्ञ के बीच एक स्मार्ट ट्रैफिक पुलिस (traffic cop) के रूप में समझें। इसका काम हर आने वाले प्रश्न को देखना और यह तय करना है: "क्या यह इतना आसान है कि सहायक इसे संभाल ले, या इसके लिए विशेषज्ञ की आवश्यकता है?"

कठिन बात यह है कि इस ट्रैफिक पुलिस को बिना किसी पूर्व प्रशिक्षण डेटा या सही उत्तरों की "चीट शीट" के, तुरंत काम शुरू करना होता है। यह एक "कोल्ड स्टार्ट" (cold start) है।

यह कैसे काम करता है (रचनात्मक उपमा):
परीक्षा की तैयारी करने के बजाय, ट्रैफिक पुलिस "प्रारंभिक अनुभव से सीखने" (Learning from Early Experience) नामक एक ट्रिक का उपयोग करती है।

"सीड" (Seed) टेस्ट: सिस्टम लाइव होने से पहले, शोधकर्ता प्रश्नों के एक छोटे बैच को सहायक और विशेषज्ञ दोनों के माध्यम से चलाते हैं। उन्हें अभी सही उत्तरों की परवाह नहीं है; वे बस यह देखते हैं कि दोनों का व्यवहार कैसा रहता है।
- उदाहरण: वे देखते हैं कि जब प्रश्न गणित के एक विशिष्ट प्रकार के बारे में होता है, तो सहायक 2 सेकंड में एक छोटा, आत्मविश्वासी उत्तर देता है, जबकि विशेषज्ञ को कैलकुलेटर निकालने और दोबारा जांच करने में 300 सेकंड लगते हैं।
- वे इन अवलोकनों को एक छोटी "मेमोरी बुक" (स्मृति पुस्तिका) में सहेज लेते हैं।
"एक जैसा दिखने वाला" (Look-Alike) खोज: जब कोई नया प्रश्न आता है, तो ट्रैफिक पुलिस अपनी मेमोरी बुक के पन्ने पलटती है। वह पूछती है: "क्या यह नया प्रश्न हमारे पिछले देखे गए प्रश्नों जैसा दिखता है?"
- यदि उसे एक ऐसा मिलान मिलता है जहाँ सहायक तेज़ था और विशेषज्ञ धीमा था, तो वह नए प्रश्न को सहायक के पास भेज देता है।
- यदि उसे एक ऐसा मिलान मिलता है जहाँ सहायक भ्रमित या धीमा था, तो वह प्रश्न को विशेषज्ञ के पास भेज देता है।
"नियम पुस्तिका" तर्क (Rulebook Reasoning): यह सुनिश्चित करने के लिए कि ट्रैफिक पुलिस केवल अनुमान न लगाए, यह एक सख्त नियम पुस्तिका (जिसे "रूब्रिक-गाइडेड रीजनिंग" कहा जाता है) का पालन करती है। वह केवल यह "महसूस" नहीं करती कि विशेषज्ञ की आवश्यकता है; वह विशिष्ट मानदंडों की जाँच करती है: "क्या पिछले समान प्रश्न को हल करने में विशेषज्ञ ने 10 गुना अधिक समय लिया? क्या सहायक का उत्तर अस्पष्ट था?" यह निर्णय को तार्किक और सुसंगत बनाए रखता है।

परिणाम:
शोधकर्ताओं ने इस सिस्टम का परीक्षण एक नए बेंचमार्क RouteBench (कठिन प्रश्नों का एक संग्रह) पर किया।

गति (Speed): सब कुछ विशेषज्ञ के माध्यम से करने की तुलना में, यह सिस्टम 60% तेज़ था क्योंकि इसने आसान सवालों पर समय बर्बाद करना बंद कर दिया।
सटीकता (Accuracy): सब कुछ सहायक के माध्यम से करने की तुलना में, यह 28% अधिक सटीक था क्योंकि इसने सहायक को कठिन समस्याओं पर अनुमान लगाने नहीं दिया।
तुलना: यह अन्य तरीकों की तुलना में बहुत बेहतर काम करता है जो केवल सरल प्रॉम्प्ट या बुनियादी खोज उपकरणों का उपयोग करते हैं।

संक्षेप में:
यह पेपर दिखाता है कि आपको यह जानने के लिए कि कब तेज़ होना है और कब गहन होना है, एक विशाल प्रशिक्षण डेटासेट की आवश्यकता नहीं है। केवल दो अलग-अलग सिस्टम के व्यवहार को कुछ नमूना प्रश्नों पर देखकर, आप एक "ट्रैफिक पुलिस" को भविष्य के प्रश्नों को सही ढंग से रूट करने के लिए सिखा सकते हैं, जिससे गुणवत्ता से समझौता किए बिना समय और पैसा बचाया जा सकता है।

तकनीकी सारांश: प्रारंभिक अनुभव से लर्निंग एजेंट रूटिंग (Learning Agent Routing from Early Experience)

समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल (LLM) एजेंट जटिल तर्क (reasoning), योजना बनाने और टूल के उपयोग में मजबूत क्षमताएं प्रदर्शित करते हैं, लेकिन वे उच्च विलंबता (latency) और कम्प्यूटेशनल लागत का कारण बनते हैं। इसके विपरीत, प्रत्यक्ष LLM इन्फरेंस तेज़ और लागत प्रभावी है, लेकिन अक्सर उन कार्यों के लिए अविश्वसनीय होता है जो इसकी क्षमता की सीमा से बाहर होते हैं। इस कार्य में संबोधित मुख्य चुनौती वास्तविक कोल्ड-स्टार्ट सेटिंग्स (cold-start settings) के तहत लाइटवेट LLM इन्फरेंस और फुल एजेंट निष्पादन (full agent execution) के बीच प्रश्नों को रूट करना है। इन परिदृश्यों में, आने वाले प्रश्नों के पास पूर्व प्रदर्शन डेटा या ग्राउंड-ट्रुथ लेबल नहीं होते हैं, जिससे राउटर का मानक सुपरवाइज्ड ट्रेनिंग (supervised training) करना अव्यावहारिक हो जाता है। मौजूदा शोध मुख्य रूप से होमोजेनियस स्पेस (जैसे, विभिन्न LLMs या विभिन्न एजेंटों के बीच) के भीतर रूटिंग पर केंद्रित है, जिससे LLMs और एजेंटों के बीच हाइब्रिड रूटिंग की समस्या काफी हद तक अनछुए क्षेत्र में है।

कार्यप्रणाली: बाउंड्री राउटर (Methodology: BoundaryRouter)

लेखक BoundaryRouter का प्रस्ताव करते हैं, जो एक ट्रेनिंग-फ्री रूटिंग फ्रेमवर्क है जिसे बिना ग्राउंड-ट्रुथ सुपरविजन के रूटिंग निर्णय लेने के लिए डिज़ाइन किया गया है। यह सिस्टम तीन मुख्य तंत्रों के माध्यम से संचालित होता है:

1. प्रारंभिक अनुभव से सीखना (Learning from Early Experience)

कोल्ड-स्टार्ट समस्या को दूर करने के लिए, BoundaryRouter एक संक्षिप्त अर्ली-एक्सपीरियंस मेमोरी (early-experience memory) ( $M$ ) का निर्माण करता है।

निर्माण: प्रश्नों के एक छोटे सीड सेट ( $D_{seed}$ ) को लाइटवेट LLM और फुल एजेंट दोनों पर निष्पादित किया जाता है।
रिकॉर्ड किया गया डेटा: प्रत्येक क्वेरी के लिए, सिस्टम इनपुट प्रश्न, दोनों सॉल्वर ( $y_{LLM}, y_{Agent}$ ) से आउटपुट, और उनकी संबंधित विलंबता ( $t_{LLM}, t_{Agent}$ ) को रिकॉर्ड करता है।
प्रतिबंध: महत्वपूर्ण रूप से, कोई ग्राउंड-ट्रुथ उत्तर, शुद्धता लेबल (correctness labels), या रिवार्ड्स स्टोर नहीं किए जाते हैं। मेमोरी दोनों प्रणालियों के बीच व्यवस्थित व्यवहार संबंधी अंतर (जैसे, रिस्पॉन्स पैटर्न और रनटाइम) को कैप्चर करती है।

2. रिट्रीवल-ऑगमेंटेड रूटिंग (Retrieval-Augmented Routing)

इन्फरेंस के समय, एक नई क्वेरी $x$ के लिए:

सिस्टम एक हाइब्रिड रिट्रीवर (स्पार्स लेक्सिकल मैचिंग और डेंस सिमेंटिक सिमिलैरिटी को मिलाकर) का उपयोग करके अर्ली-एक्सपीरियंस मेमोरी से शीर्ष- $K$ सबसे समान रिकॉर्ड प्राप्त करता है।
ये रिट्रीव किए गए मामले साक्ष्य (evidence) के रूप में कार्य करते हैं, जिससे राउटर को वर्तमान क्वेरी की तुलना ऐतिहासिक व्यवहारों के साथ करने और नियमितताओं (जैसे, क्या समान वाक्यांश पहले एजेंट-विशिष्ट मल्टी-स्टेप रीजनिंग या विलंबता स्पाइक्स की ओर ले गया था) का अनुमान लगाने की अनुमति मिलती है।

3. रूब्रिक-गाइडेड चेन-ऑफ-थॉट (CoT) (Rubric-Guided Chain-of-Thought)

यह सुनिश्चित करने के लिए कि निर्णय ओपन-एंडेड रीजनिंग के बजाय विशिष्ट व्यवहार संबंधी मानदंडों के अनुरूप हों, रूटिंग LLM रूब्रिक-गाइडेड CoT का उपयोग करता है।

मुक्त-रूप तर्क (free-form reasoning) के बजाय, राउटर प्रॉम्प्ट में एनकोडेड एक निश्चित निर्णय रूब्रिक का पालन करता है।
यह रूब्रिक मॉडल को अपेक्षित उत्तर की गुणवत्ता और विलंबता के बीच संतुलन बनाने के लिए अवलोकन योग्य आयामों (उत्तर की विशेषताएं और प्रतिक्रिया समय) के आधार पर रिट्रीव किए गए मामलों का स्पष्ट रूप से मूल्यांकन करने का निर्देश देता है।
आउटपुट एक बाइनरी रूटिंग निर्णय है: $Route(x) \in \{LLM, Agent\}$ ।

मुख्य योगदान (Key Contributions)

1. BoundaryRouter फ्रेमवर्क

यह पेपर एक नवीन, ट्रेनिंग-फ्री रूटिंग पद्धति पेश करता है जो प्रारंभिक व्यवहार संबंधी अनुभव और संरचित तर्क का लाभ उठाती है। यह कोल्ड-स्टार्ट सेटिंग्स में विश्वसनीय रूटिंग को सक्षम बनाता है जहाँ ग्राउंड-ट्रुथ लेबल उपलब्ध नहीं होते हैं, जिससे फास्ट, लो-कॉस्ट LLM इन्फरेंस और रोबस्ट, हाई-कॉस्ट एजेंट निष्पादन के बीच के अंतर को पाटा जा सके।

2. RouteBench बेंचमार्क

इस समस्या का व्यवस्थित मूल्यांकन करने के लिए, लेखक RouteBench पेश करते हैं, जो विशेष रूप से LLM-एजेंट रूटिंग के लिए डिज़ाइन किया गया एक बेंचमार्क है।

संरचना: GAIA और MMLU डेटासेट्स से व्युत्पन्न, इसमें पेयर्ड सॉल्वर आउटपुट, विलंबता डेटा और एक नियतात्मक नियम (करेक्टनेस प्रायोरिटी, एफिशिएंसी टाई-ब्रेक, और फेल्योर फॉलबैक) के आधार पर मानव-एनोटेटेड रूटिंग लेबल शामिल हैं।
मूल्यांकन सेट: यह तीन आयामों में सामान्यीकरण (generalization) का आकलन करता है:
- बेस सेट: इन-डोमेन कार्य।
- रीफ्रेज़ सेट: भाषाई रूप से परिवर्तित क्वेरीज़, जो मजबूती (robustness) का परीक्षण करती हैं।
- एडवांस्ड सेट: आउट-ऑफ-डोमेन कार्य, जो डिस्ट्रीब्यूशन शिफ्ट का परीक्षण करते हैं।
मेट्रिक्स: यह समग्र रूटिंग प्रभावशीलता को मापने के लिए इंस्टेंस-लेवल एक्यूरेसी, सॉल्वर-लेवल F1 स्कोर और एक कंपोजिट RouteBenchScore का उपयोग करता है।

प्रयोगात्मक परिणाम (Experimental Results)

रूटिंग बैकबोन के रूप में 14 समकालीन मॉडलों (GPT-5, Gemini-3-Pro, और Claude Sonnet 4 सहित) का उपयोग करके RouteBench पर प्रयोग किए गए।

प्रदर्शन बनाम लागत ट्रेड-ऑफ: BoundaryRouter ने केवल एजेंट का उपयोग करने की तुलना में औसत इन्फरेंस समय को 60.6% कम कर दिया, जबकि प्रत्यक्ष LLM इन्फरेंस की तुलना में प्रदर्शन में 28.6% का सुधार किया।
बेसलाइन के साथ तुलना:
- प्रॉम्प्ट-आधारित रूटिंग (अनुभव के बिना) की तुलना में, BoundaryRouter ने रूटिंग गुणवत्ता में 37.9% का सुधार किया।
- रिट्रीवल-ओनली रूटिंग (रूब्रिक-गाइडेड रीजनिंग के बिना) की तुलना में, इसने प्रदर्शन में 8.2% का सुधार किया।
सामान्यीकरण (Generalization): विधि ने एडवांस्ड (आउट-ऑफ-डोमेन) सेट पर मजबूत प्रदर्शन बनाए रखा, जो यह दर्शाता है कि प्रारंभिक व्यवहार संबंधी संकेतों को रूब्रिक-कंस्ट्रेंड रीजनिंग के साथ जोड़ने से डिस्ट्रीब्यूशन शिफ्ट के बावजूद सामान्यीकरण किया जा सकता है।
मॉडल स्ट्रैटिफिकेशन: फ्रंटियर मॉडलों में, GPT-5, Gemini-3-Pro-Preview, और Gemini-2.5-Pro ने सबसे मजबूत रूटिंग प्रदर्शन हासिल किया, विशेष रूप से आउट-ऑफ-डोमेन शिफ्ट को संभालने में।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि प्रारंभिक व्यवहार संबंधी संकेत (early behavioral signals), जब रूब्रिक-गाइडेड रीजनिंग के साथ जोड़े जाते हैं, तो ग्राउंड-ट्रुथ लेबल या रूटिंग सुपरविजन की अनुपस्थिति में भी LLMs और एजेंटों के बीच विश्वसनीय रूटिंग को सक्षम कर सकते हैं।

व्यावहारिकता: यह फ्रेमवर्क महंगे सुपरवाइज्ड ट्रेनिंग डेटा की आवश्यकता के बिना विषम रीजनिंग सिस्टम में स्केलेबल समन्वय की ओर एक व्यावहारिक मार्ग प्रदान करता है।
रूटिंग की कठिनाई पर अंतर्दृष्टि: परिणाम इस बात पर प्रकाश डालते कि इन-डोमेन सेटिंग्स में भी रूटिंग एक चुनौतीपूर्ण समस्या बनी हुई है, जहाँ कमजोर मॉडलों के लिए डिस्ट्रीब्यूशन शिफ्ट के तहत प्रदर्शन काफी कम हो जाता है।
भविष्य की दिशा: हालांकि वर्तमान कार्य एक एकल LLM और एक एकल एजेंट पाइपलाइन के बीच बाइनरी रूटिंग पर केंद्रित है, लेखक सुझाव देते हैं कि यह दृष्टिकोण कई एजेंटों या विषम टूल्स वाले अधिक जटिल परिदृश्यों के लिए आधार तैयार करता है।

लेखक इस बात पर जोर देते हैं कि उनके निष्कर्ष यह प्रदर्शित करते हैं कि स्व-जनित प्रारंभिक अनुभव (self-generated early experience) का उपयोग एक लाइटवेट संदर्भ के रूप में किया जा सकता है ताकि सिस्टम-लेवल निर्णयों को निर्देशित किया जा सके, जो स्टेटिक मॉडल चयन से डायनेमिक, एक्सपीरियंस-ड्रिवन कोऑर्डिनेशन की ओर बदलाव का संकेत देता है।