Learning Latency-Aware Orchestration for Multi-Agent Systems
यह शोध पत्र LAMaS को पेश करता है, जो एक नवीन ढांचा (framework) है जो प्रशिक्षण के दौरान क्रिटिकल-पाथ क्रेडिट असाइनमेंट के साथ लेटेंसी-अवेयर एक्जीक्यूशन ग्राफ्स को सीखकर और अनुमान (inference) के दौरान अनावश्यक इंटरैक्शन को समाप्त करने के लिए एक हल्के अनुकूलन योग्य नियंत्रक (lightweight adaptive controller) का उपयोग करके मल्टी-एजेंट सिस्टम में एंड-टू-एंड लेटेंसी को कम करता है, जिससे कार्य सटीकता बनाए रखते हुए 50% से अधिक लेटेंसी में कमी आती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक जटिल पहेली को सुलझाने के लिए मिलकर काम करने वाले प्रतिभाशाली, विशिष्ट रोबोटों की एक टीम की कल्पना करें। यह मल्टी-एजेंट सिस्टम्स (MAS) की दुनिया है, जहाँ शक्तिशाली AI "मस्तिष्क" (जिन्हें लार्ज लैंग्वेज मॉडल कहा जाता है) को छोटे, केंद्रित सहायकों में विभाजित कर दिया जाता है। एक रोबोट गणित में बहुत अच्छा हो सकता है, दूसरा कोडिंग में, और तीसरा तथ्यों की जाँच करने में। नोट्स और विचारों को आपस में साझा करके, वे उन समस्याओं को हल कर सकते हैं जिन्हें एक अकेला रोबoret अकेले हल नहीं कर सकता था। हालाँकि, इसमें एक पेच है: हर बार जब ये रोबोट एक-दूसरे से बात करते हैं, तो इसमें समय लगता है। यदि उन्हें एक उत्तर पाने के लिए दस बार नोट पास करने पड़ते हैं, तो पूरी प्रक्रिया धीमी हो जाती है, जिसमें एक एकल कार्य को पूरा करने में कभी-कभी 10 से 60 मिनट तक लग जाते हैं। वास्तविक दुनिया में, इतना लंबा इंतजार करना एक बड़ी समस्या है।
कुछ समय के लिए, वैज्ञानिकों ने इन रोबोटों की टीमों को केवल लागत कम करके या रोबोटों को अधिक स्मार्ट बनाकर तेज़ बनाने की कोशिश की। लेकिन उन्होंने महसूस किया कि टीम को "सस्ता" बनाना हमेशा उसे "तेज़" नहीं बनाता है। इसे एक रिले रेस की तरह समझें: यदि आपके पास दस धावकों की एक टीम है, तो कुल समय केवल प्रत्येक के दौड़ने की गति का योग नहीं है; यह धावकों के सबसे धीमे, सबसे लंबे क्रम द्वारा निर्धारित होता है जो बैटन (बैटन) पास कर रहे हैं। यदि आप धावकों की संख्या कम कर देते हैं लेकिन सबसे धीमी श्रृंखला को अपरिवर्तित छोड़ देते हैं, तो रेस के समय में सुधार नहीं होता है। बड़ा सवाल यह बन गया कि: सटीकता के अंतिम उत्तर को खोए बिना समय को कम करने के लिए हम टीम के वर्कफ़्लो को कैसे फिर से डिज़ाइन करें?
यही वह चीज़ है जिसे यूनिवर्सिटी ऑफ सेंट्रल फ्लोरिडा के शोधकर्ताओं ने उनके नए पेपर में LAMaS (लेटेंसी-अवेयर मल्टी-एजेंट सिस्टम) नामक एक प्रणाली पेश करते हुए हल किया। उन्होंने पाया कि इन AI टीमों को अनुकूलित करने का पुराना तरीका इस बात जैसा था कि ट्रैफिक जाम को ठीक करने के लिए हर कार को तेज़ चलाने के लिए कहना, भले ही बाधा एक संकीकर पुल हो। इसके बजाय, LAMaS एक स्मार्ट ट्रैफिक कंट्रोलर की तरह काम करता है जो जानता है कि मार्ग का कौन सा हिस्सा "क्रिटिकल पाथ" (महत्वपूर्ण पथ) है—यानी चरणों की वह सबसे लंबी श्रृंखला जो कुल समय निर्धारित करती है।
पेपर इस गति की समस्या को ठीक करने के लिए दो-भागों वाली रणनीति प्रस्तावित करता है। पहला, "प्रशिक्षण" चरण (जहाँ सिस्टम काम करना सीखता है) के दौरान, LAMaS एक विशेष स्कोरिंग पद्धति का उपयोग करता है। हर रोबोट को बहुत अधिक समय लेने के लिए समान रूप से दंडित करने के बजाय, यह अपने "धिक्कार" (scolding) को केवल उन रोबोटों पर केंद्रित करता है जो क्रिटिकल पाथ का हिस्सा हैं—वे जो पूरी टीम को रोक रहे हैं। यह एक सख्त नियम भी निर्धारित करता है: वे चाहे कितनी भी तेज़ हो जाएं, वे एक निश्चित स्तर से नीचे नहीं गिर सकते। यह एक रेस टीम को यह बताने जैसा है, "आप जितनी तेज़ी से चाहें दौड़ सकते हैं, लेकिन आपको अभी भी दौड़ सही ढंग से पूरी करनी होगी।"
दूसना, और शायद अधिक चतुराई से, LAMaS एक "लाइटवेट कंट्रोलर" जोड़ता है जो वास्तविक समय में दौड़ पर नज़र रखता है। भले ही टीम ने दस चक्कर लगाने की योजना बनाई हो, यह कंट्रोलर तीसरे चक्कर के बाद देख सकता है कि टीम ने पहले ही उत्तर ढूंढ लिया है। फिर इसके पास यह कहने की शक्ति होती है, "रुको! हमें बाकी सात चक्करों की ज़रूरत नहीं है," और शेष काम को बीच में ही रोक देता है। यह कार्य के दौरान गतिशील रूप से होता है, न कि पहले से बनाई गई एक निश्चित योजना के रूप में।
जब शोधकर्ताओं ने चार अलग-अलग चुनौतीपूर्ण बेंचमार्क पर इसका परीक्षण किया—जिसमें ग्रेड-स्कूल गणित की समस्याओं को हल करने से लेकर कोडिंग लिखना और जटिल ज्ञान संबंधी प्रश्नों के उत्तर देना शामिल है—तो उन्होंने पाया कि LAMaS एक गेम-चेंजर साबित हुआ। अन्य उन्नत AI टीम सिस्टम की तुलना में, LAMaS ने सटीकता को उतना ही उच्च, या उससे भी बेहतर रखते हुए, कुल प्रतीक्षा समय को 50% से अधिक कम कर दिया (कुछ मामलों में इसे 75% तक कम कर दिया)। उदाहरण के लिए, GSM8K नामक एक गणितीय बेंचमार्क पर, उनके सिस्टम ने 93.65% सटीकता के साथ लगभग 11.73 सेकंड में काम पूरा किया, जबकि अन्य शीर्ष सिस्टमों ने समान सटीकता के लिए 48 सेकंड से अधिक का समय लिया।
पेपर सुझाव देता है कि यह दृष्टिकोण केवल एक विशिष्ट सिस्टम के लिए एक बार का समाधान नहीं है; जब उन्होंने अन्य मौजूदा AI टीम डिजाइनों में LAMaS पद्धति को लगाने की कोशिश की, तो इसने उन्हें बिना खराब किए लगातार तेज़ बनाया। लेखक दिखाते हैं कि "बॉटलनेक" (अवरोध) चरणों पर ध्यान केंद्रित करके और जब सिस्टम आश्वस्त हो जाए तो काम को जल्दी रोकने की अनुमति देकर, हम ऐसी AI टीमें बना सकते हैं जो न केवल स्मार्ट बल्कि बिजली की तरह तेज़ भी हों, जिससे वे वास्तविक दुनिया के उपयोग के लिए बहुत अधिक व्यावहारिक बन सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।