Enrich-Retrieve-Rank: Scaling Capability Discovery Beyond In-Context Routing
यह शोध पत्र "एनरिच-रिट्रीव-रैंक" (Enrich-Retrieve-Rank) का परिचय देता है, जो एक स्केलेबल क्षमता खोज पाइपलाइन है जो अक्षम इन-कॉन्टेक्स्ट रूटिंग को ऑफलाइन एनरिचमेंट और ऑनलाइन रिट्रीव-देन-रैंक दृष्टिकोण से बदल देता है, और यह प्रदर्शित करता है कि जैसे-जैसे एजेंट पारिस्थितिकी तंत्र सैकड़ों से हजारों घटकों तक बढ़ता है, यह बेसलाइन विधियों की तुलना में काफी अधिक सटीकता और कम लागत प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, प्रणालियों की एक नई पीढ़ी उभरी है जो न केवल सवालों के जवाब देती है बल्कि कार्यों को भी निष्पादित करती है। ये सिस्टम, जिन्हें अक्सर 'एजेंट्स' कहा जाता है, डिजिटल सहायकों के रूप में कार्य करते हैं जो वेब ब्राउज़ कर सकते हैं, कोड लिख सकते हैं, या जटिल वर्कफ़्लो प्रबंधित कर सकते हैं। ऐसा करने के लिए, वे डिजिटल उपकरणों, कौशलों और अन्य एजेंटों के एक विशाल पुस्तकालय पर निर्भर करते हैं, ठीक वैसे ही जैसे एक मानव कार्यकर्ता हथौड़े, पेचकश और विशेष सॉफ़्टवेयर से भरे टूलबॉक्स पर निर्भर करता है। जैसे-जैसे ये पारिस्थितिकी तंत्र बढ़ते हैं, इनमें अब हजारों विशिष्ट क्षमताएं शामिल हो जाती हैं। इन बुद्धिमान प्रणालियों के लिए केंद्रीय चुनौती 'डिस्कवरी' (खोज) है: जब किसी विशिष्ट कार्य का सामना किया जाता है, तो सिस्टम को कैसे पता चलता है कि हजारों विकल्पों वाले पुस्तकालय में से कौन सा उपकरण चुनना है? लंबे समय तक, मानक दृष्टिकोण केवल उपलब्ध उपकरणों की पूरी सूची आर्टिफिशियल इंटेलिजेंस को दिखाना और उससे चुनने के लिए कहना था। यह तरीका तब अच्छा काम करता था जब सूची छोटी होती थी, लेकिन जैसे-जैसे पुस्तकालयों का विस्तार हजारों में हुआ, सिस्टम संघर्ष करने लगे, और अक्सर सही उपकरण खोजने में विफल रहे या गलत विकल्पों को आज़माने में समय और संसाधन बर्बाद करने लगे।
अमेज़न एजीआई (Amazon AGI) के शोधकर्ताओं की एक टीम ने इन क्षमताओं को खोजने के तरीके को पुनर्कल्पित करके इस स्केलिंग समस्या को हल करने का प्रयास किया। उन्होंने इस समस्या को एक साधारण चुनाव के रूप में नहीं, बल्कि एक सर्च इंजन क्वेरी के रूप में देखा। आर्टिफिशियल इंटेलिजेंस को हर उपलब्ध टूल की एक विशाल, अव्यवस्थित सूची पढ़ने के लिए मजबूर करने के बजाय, उन्होंने एक ऐसा पाइपलाइन बनाया जो पहले जानकारी को व्यवस्थित करता है और फिर अंतिम निर्णय लेने से पहले सबसे प्रासंगिक विकल्पों को प्राप्त (retrieve) करता है। यह प्रक्रिया एक ऑफलाइन चरण के साथ शुरू होती है जहाँ सिस्टम प्रत्येक टूल के विरल और अक्सर संक्षिप्त विवरणों को समृद्ध, विस्तृत प्रोफाइल में फिर से लिखता है। यह तब एक बार किया जाता है जब कोई टूल लाइब्रेरी में जोड़ा जाता है, जिससे एक खोजने योग्य रिकॉर्ड बनता है जिसमें सारांश, विशिष्ट कीवर्ड और टूल के उपयोग के उदाहरण शामिल होते हैं। जब कोई उपयोगकर्ता प्रश्न पूछता है, तो सिस्टम आर्टिफिशियल इंटेलिजेंस से पूरी लाइब्रेरी में से अनुमान लगाने के लिए नहीं कहता। इसके बजाय, यह इस समृद्ध इंडेक्स को तेजी से खोजता है ताकि सबसे संभावित उम्मीदवारों की एक छोटी सूची (shortlist) निकाली जा सके, और फिर उन्हें रैंक करने के लिए एक अंतिम, केंद्रित जांच का उपयोग करता है।
शोधकर्ताओं ने इस दृष्टिकोण का परीक्षण पारंपरिक पद्धति के विरुद्ध किया, जिसमें आर्टिफिशियल इंटेलिजेंस को पूरी सूची दिखाना शामिल है, जिसे 'इन-कॉन्टेक्स्ट रूटिंग' (in-context routing) कहा जाता है। उन्होंने पाया कि जैसे-जैसे टूल की लाइब्रेरी बढ़ी, पारंपरिक पद्धति विफल हो गई। जब लाइब्रेरी में केवल दस टूल थे, तो सिस्टम अस्सी-पांच प्रतिशत समय सही था। हालांकि, जब टूल की संख्या बढ़कर लगभग सात हजार हो गई, तो पारंपरिक पद्धति की सटीकता गिरकर केवल बारह प्रतिशत रह गई। सिस्टम एक साथ बहुत सारी जानकारी को प्रोसेस करने के बोझ से दब गया। इसके विपरीत, नया 'सर्च-एंड-रैंक' पाइपलाइन विकास को बहुत अधिक सहजता से संभालता है। हालांकि इसकी सटीकता भी लाइब्रेरी बढ़ने के साथ कम हुई, लेकिन यह काफी उच्च बनी रही, जो सबसे बड़े पैमाने पर गिरकर उनतालीस प्रतिशत रह गई। महत्वपूर्ण रूप से, शोधकर्ताओं ने पांच सौ टूल के आसपास एक 'टिपिंग पॉइंट' (निर्णायक मोड़) की खोज की। इस संख्या से नीचे, पूरी सूची दिखाने वाली पुरानी पद्धति अभी भी अच्छी तरह काम करती थी। इससे ऊपर, नया खोज-आधारित दृष्टिकोण आवश्यक हो गया, जिसने पुराने तरीके को बड़े अंतर से पछाड़ दिया।
अध्ययन ने यह भी खुलासा किया कि नया सिस्टम कहीं अधिक कुशल था। पहले एक शॉर्टलिस्ट प्राप्त करके, इस सिस्टम ने एक ऐसे सिस्टम की तुलना में, जो एक-एक करके उम्मीदवारों की खोज करता है, आवश्यक कंप्यूटिंग संसाधनों का लगभग आधा हिस्सा उपयोग किया। उस पद्धति की तुलना में जो पूरी सूची दिखाती थी, नए दृष्टिकोण ने लागत को सत्तर गुना कम कर दिया। यह दक्षता महत्वपूर्ण है क्योंकि हर बार जब एक आर्टिफिशियल इंटेलिजेंस किसी टूल को आज़माता है और विफल होता है, तो वह कंप्यूटिंग पावर और समय का उपभोग करता है, और कुछ मामलों में, यह जानने के लिए कि वह क्या करता है, यह एक अविश्वसनीय सिस्टम पर कोई क्रिया भी ट्रिगर कर सकता है। नया पाइपलाइन किसी भी क्रिया को करने से पहले अप्रासंगिक विकल्पों को फ़िल्टर करके इन बर्बाद प्रयासों से बचता है।
इस शोध का एक प्रमुख निष्कर्ष यह था कि सुधार मुख्य रूप रूप से 'रिट्रीवल' (प्राप्ति) चरण से आया, न कि अंतिम रैंकिंग चरण से। प्रारंभिक खोज में सही टूल खोजने की प्रणाली की क्षमता मुख्य बाधा थी। भले ही सर्च इंजन ने सही टूल ढूंढ लिया हो, अंतिम रैंकिंग चरण अत्यधिक विश्वसनीय था, जो लाइब्रेरी कितनी भी बड़ी क्यों न हो, सत्तर से सत्तासी प्रतिशत के बीच सर्वोत्तम विकल्प को शीर्ष पर रखने में सफल रहा। यह सुझाव देता है कि इन प्रणालियों का भविष्य निर्णय लेने वाले को अधिक स्मार्ट बनाने पर कम और बेहतर सर्च इंजन बनाने पर अधिक निर्भर है जो टूल के विशाल पुस्तकालयों को संभाल सकें। शोधकर्ताओं ने यह भी नोट किया कि यह दृष्टिकोण तब सबसे अच्छा काम करता है जब टूल के प्रारंभिक विवरण विरल या अधूरे हों। उन लाइब्रेरी के लिए जिनके पास पहले से ही बहुत विस्तृत विवरण हैं, जानकारी को फिर से लिखने के अतिरिक्त चरण से बहुत कम लाभ हुआ। हालांकि, वास्तविक दुनिया के टूल की विशाल, बढ़ती लाइब्रेरी के लिए, जहाँ विवरण अक्सर संक्षिप्त होते हैं, यह संवर्धन (enrichment) चरण सफलता के लिए महत्वपूर्ण था।
टीम ने इस पाइपलाइन को उत्पादन (production) में एक बड़े पैमाने के मल्टी-एजेंट प्लेटफॉर्म के लिए डिफ़ॉल्ट डिस्कवरी लेयर के रूप में तैनात किया। इस वास्तविक वातावरण में, सिस्टम एक साथ हजारों एजेंटों, टूल और कौशलों का प्रबंधन करता है। परिणामों ने प्रयोगशाला के निष्कर्षों की पुष्टि की: खोज-आधारित दृष्टिकोण ने सिस्टम को वहां प्रभावी ढंग से स्केल करने की अनुमति दी जहां पुराने तरीके विफल रहे थे। शोधकर्ताओं ने इस बात पर जोर दिया कि यह कोई सैद्धांतिक अभ्यास नहीं है बल्कि एक व्यावहारिक समाधान है जो एक ऐसी समस्या से उत्पन्न होता है जो आर्टिफिशियल इंटेलिजेंस सिस्टम के अधिक जटिल और सक्षम होने के साथ आती है। क्षमता की खोज को चयन की समस्या के बजाय एक खोज (search) समस्या के रूप में मानकर, उन्होंने एक ब्लूप्रिंट प्रदान किया है कि कैसे ये सिस्टम काम के लिए सही उपकरण खोजने की अपनी क्षमता खोए बिना आगे बढ़ सकते हैं। यह कार्य प्रदर्शित करता है कि जैसे-जैसे आर्टिफिशियल इंटेलिजेंस पारिस्थितिकी तंत्र का विस्तार होता है, सूचना खोजने के उनके आर्किटेक्चर को विकसित होना चाहिए, जो सरल सूचियों से हटकर परिष्कृत, स्तरित खोज प्रक्रियाओं की ओर बढ़ना चाहिए जो आधुनिक डिजिटल दुनिया की जटिलता को संभाल सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।