Symphony-Coord: Adaptive Routing for Multi-Agent LLM Systems
Symphony-Coord मल्टी-एजेंट LLM सिस्टम के लिए एक विकेंद्रीकृत समन्वय ढांचा (decentralized coordination framework) है जो एजेंट चयन को एक दो-चरणीय बीकन प्रोटोकॉल (two-stage beacon protocol) और LinUCB सेलेक्टर का उपयोग करके, टास्क रूटिंग और फॉल्ट रिकवरी को वास्तविक समय की प्रतिक्रिया के आधार पर गतिशील रूप से अनुकूलित करने के लिए एक अनुकूलन योग्य ऑनलाइन मल्टी-आर्म्ड बैंडिट समस्या में बदलकर स्थिर रूटिंग की सीमाओं को संबोधित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास विशेषज्ञों की एक विशाल टीम है, लेकिन वे सभी अलग हैं। कुछ गणित में माहिर हैं, कुछ कोडिंग में, कुछ तेज़ हैं लेकिन गलतियाँ करते हैं, और कुछ धीमे हैं लेकिन बहुत सटीक हैं। और आपके पास हर सेकंड जटिल कार्यों की एक बाढ़ आ रही है।
अधिकांश वर्तमान प्रणालियों के साथ समस्या यह है कि वे एक कठोर प्रबंधक की तरह काम करती हैं जो एक निश्चित नियम पुस्तिका के आधार पर काम सौंपती है: "गणित के काम व्यक्ति A को दिए जाएंगे, कोडिंग के काम व्यक्ति B को दिए जाएंगे।" यह तब तक ठीक काम करता है जब तक व्यक्ति A थक नहीं जाता, गणित का काम थोड़ा बदल नहीं जाता, या व्यक्ति B वास्तव में इस विशिष्ट प्रकार के गणित के लिए व्यक्ति A से बेहतर नहीं हो जाता। सिस्टम फंस जाता है, अक्षम हो जाता है और टूट जाता है।
Symphony-Coord इस टीम को चलाने का एक नया तरीका है। एक कठोर प्रबंधक के बजाय, यह एक स्मार्ट, अनुकूलन योग्य "ट्रैफिक कंट्रोलर" का उपयोग करता है जो वास्तविक समय में सीखता है कि अभी के लिए काम के लिए कौन सबसे अच्छा है।
यह कैसे काम करता है, सरल उपमाओं का उपयोग करते हुए यहाँ दिया गया है:
1. समस्या: कठोर ऑर्केस्ट्रा (The Rigid Orchestra)
पारंपरिक प्रणालियों में, प्रत्येक संगीतकार (एजेंट) को संगीत कार्यक्रम शुरू होने से पहले एक निश्चित वाद्य यंत्र (भूमिका) सौंपा जाता है। यदि कंडक्टर को वॉयलिन सोलो की आवश्यकता होती है, तो वह वॉयलिन वादक को बुलाता है। लेकिन क्या होगा यदि वॉयलिन वादक बीमार है? या क्या होगा यदि संगीत के उस विशिष्ट नोट के लिए वास्तव में एक सेलो (cello) की आवश्यकता है? सिस्टम अनुकूलित नहीं हो पाता, जिससे खराब प्रदर्शन होता है या यह तय करने में देरी होती है कि अगला किसे बुलाना है।
2. समाधान: स्मार्ट ट्रैफिक कंट्रोलर (The Smart Traffic Controller)
Symphony-Coord टीम को प्रतिभा के एक गतिशील पूल के रूप में मानता है। जब एक नया कार्य आता है, तो यह केवल नाम के टैग को नहीं देखता; यह पूछता है, "कौन उपलब्ध है, कौन तेज़ है, और किसने पहले इस तरह के कार्यों को सफलतापूर्वक किया है?"
यह इसे दो चरणों वाली प्रक्रिया का उपयोग करके हल करता है, जिसे लेखक "डायनेमिक बीकन प्रोटोकॉल" (Dynamic Beacon Protocol) कहते हैं।
चरण 1: "लाइटनिंग राउंड" (Top-L फ़िल्टरिंग)
कल्पना कीजिए कि एक कमरे में 100 विशेषज्ञ हैं। उन सभी 100 को यह पूछने के लिए बुलाना कि, "क्या आप यह कर सकते हैं?" बहुत समय लेगा और समय बर्बाद करेगा।
- Symphony-Coord क्या करता है: यह तुरंत सभी पर एक "बीकन" (एक त्वरित जांच) चमकाता है। यह उनके बायोडाटा (क्षमताएं) और वर्तमान स्थिति (क्या वे व्यस्त हैं? क्या वे क्रैश हो रहे हैं?) को देखता है।
- परिणाम: यह तुरंत 100 लोगों को शीर्ष 3 या 5 सर्वश्रेष्ठ उम्मीदवारों तक सीमित कर देता है। यह बहुत सारा समय और पैसा (कंप्यूटिंग पावर) बचाता है।
चरण 2: "जुआरी का चुनाव" (LinUCB Selection)
अब, आपके पास 3 बेहतरीन उम्मीदवारों की एक शॉर्टलिस्ट है। आप उनमें से एक को कैसे चुनते हैं?
- पुराना तरीका: उसे चुनें जिसने अतीत में सबसे अधिक जीत हासिल की है। (यह जोखिम भरा है क्योंकि हो सकता है कि वह आज खराब दौर से गुजर रहा हो)।
- Symphony-Coord का तरीका: यह LinUCB नामक एक रणनीति का उपयोग करता है, जो एक स्मार्ट जुआरी की तरह दो चीजों के बीच संतुलन बनाता है:
- एक्सप्लोइटेशन (Exploitation): "इस व्यक्ति का ट्रैक रिकॉर्ड शानदार है; चलिए इन्हें चुनते हैं।"
- एक्सप्लोरेशन (Exploration): "मैंने काफी समय से इस व्यक्ति को आज़माया नहीं है; हो सकता है कि वे इस विशिष्ट कठिन प्रश्न के लिए सबसे अच्छे हों। चलिए उन्हें एक मौका देते हैं ताकि हम सीख सकें।"
- सीखना: कार्य पूरा होने के बाद, सिस्टम फीडबैक प्राप्त करता है। क्या उत्तर काम आया? क्या यह तेज़ था? यदि हाँ, तो यह उस एजेंट को एक "हाई फाइव" (स्कोर में वृद्धि) देता है। यदि नहीं, तो यह अगली बार अधिक सावधान रहने के लिए सीखता है।
3. यह क्यों बेहतर है: एक "जीवित" प्रणाली (The "Living" System)
लेखक का दावा है कि यह प्रणाली इसलिए बेहतर है क्योंकि यह स्थिर लेबल पर निर्भर नहीं करती है।
- अनुकूलन क्षमता (Adaptability): यदि कोई एजेंट गलतियाँ करने लगता है (जैसे कि एक थका हुआ कर्मचारी), तो सिस्टम फीडबैक को नोटिस करता है और उन्हें तुरंत कठिन काम भेजना बंद कर देता है।
- लचीलापन (Resilience): यदि कोई शीर्ष विशेषज्ञ अचानक ऑफलाइन हो जाता है, तो सिस्टम क्रैश नहीं होता है। यह जल्दी से सीख जाता है कि काम को अगले सबसे अच्छे उपलब्ध व्यक्ति को कैसे रूट किया जाए।
- दक्षता (Efficiency): "शायद" वाले उम्मीदवारों को जल्दी बाहर करके, यह संसाधनों को बचाता है, जिससे सिस्टम बिना अटके अधिक कार्यों को संभालने में सक्षम होता है।
4. प्रमाण: "मेडिकल क्विज़" टेस्ट (The "Medical Quiz" Test)
उन्होंने चिकित्सा संबंधी प्रश्नों और गणित की समस्याओं जैसे कठिन कार्यों पर इसका परीक्षण किया।
- उन्होंने इसकी तुलना एकल विशेषज्ञों और अन्य मल्टी-एजेंट टीमों से की।
- परिणाम: Symphony-Coord ने लगातार उच्च स्कोर प्राप्त किया। यह यह समझने में बेहतर था कि एक विशिष्ट "मैथ एजेंट" वास्तव में एक विशिष्ट "मेडिकल लॉजिक" प्रश्न के लिए सबसे अच्छा था, भले ही उस एजेंट को आधिकारिक तौर पर "मेडिकल एक्सपर्ट" के रूप में लेबल नहीं किया गया था।
- उन्होंने यह भी दिखाया कि जैसे-जैसे टीम बड़ी हुई (5 से 100 एजेंटों तक), Symphony-Coord तेज़ और सटीक बना रहा, जबकि अन्य प्रणालियाँ धीमी और भ्रमित हो गईं।
सारांश
Symphony-Coord को एक ऐसे कंडक्टर के रूप में समझें जो केवल संगीत की शीट नहीं पढ़ता। इसके बजाय, वह ऑर्केस्ट्रा को वास्तविक समय में सुनता है, वर्तमान नोट के लिए सर्वश्रेष्ठ खिलाड़ियों को जल्दी से पहचानता है, और लगातार इस आधार पर अपनी लाइनअप को समायोजित करता है कि कौन बेहतरीन प्रदर्शन कर रहा है और कौन बेसुरा हो रहा है। यह एक कठोर, टूटने वाली प्रणाली को एक लचीली, स्व-उपचार करने वाली टीम में बदल देता है जो हर कार्य के साथ और भी स्मार्ट होती जाती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।