AEGIS: Preventing Cross-Domain Resource Abuse in MCP
यह शोध पत्र AEGIS को प्रस्तुत करता है, जो एक नीति प्रवर्तन घटक है जो विविध MCP टूल इनवोकेशन्स (invocations) का विश्लेषण और उन्हें सामान्य करने के लिए लार्ज लैंग्वेज मॉडल्स का लाभ उठाता है, जिससे प्रशासकों को पारिस्थितिकी तंत्र के लचीलेपन को बनाए रखते हुए क्रॉस-डोमेन संसाधन दुरुपयोग के विरुद्ध सूक्ष्म-स्तरीय सुरक्षा उपाय (safeguards) परिभाषित करने में सक्षम बनाया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ आर्टिफिशियल इंटेलिजेंस (AI) एजेंट व्यक्तिगत सहायकों के रूप में कार्य करते हैं, जो डेटा प्राप्त करने, छवियों का विश्लेषण करने या जटिल कार्यों को प्रबंधित करने के लिए अन्य कंप्यूटर प्रोग्रामों तक पहुँचने में सक्षम होते हैं। इसे संभव बनाने के लिए, इंजीनियरों ने 'मॉडल कॉन्टेक्स्ट प्रोटोकॉल' नामक एक मानक भाषा बनाई है, जो इन AI एजेंटों को बाहरी उपकरणों (tools) के साथ एक संरचित तरीके से संवाद करने की अनुमति देती है। इसे सॉफ्टवेयर के लिए एक यूनिवर्सल रिमोट कंट्रोल की तरह समझें, जो एक AI को किसी डेटाबेस से फाइलों की सूची या मैप सर्विस से किसी स्थान के बारे में पूछने देता है। हालाँकि, जिस तरह एक रिमोट कंट्रोल का उपयोग चैनल बदलने या गलती से पूरे टेलीविजन को बंद करने के लिए किया जा जा सकता है, उसी तरह ये AI एजेंट कभी-कभी बहुत बड़े या बहुत अधिक मांग वाले अनुरोध कर सकते हैं। यदि कोई एजेंट बहुत लंबी वीडियो, बहुत विशाल परिणामों की सूची, या बहुत उच्च रिज़ॉल्यूशन वाली छवि मांगता है, तो यह पर्दे के पीछे चल रहे कंप्यूटर सिस्टम को अभिभूत कर सकता है, जिससे वे धीमे हो सकते हैं या पूरी तरह से काम करना बंद कर सकते हैं। यह AI के दुर्भावनापूर्ण होने की समस्या नहीं है, बल्कि इसकी कुछ भी मांगने की क्षमता और इस तथ्य का परिणाम है कि इनमें से कई टूल्स के पास सख्त सीमाएँ नहीं हैं कि वे क्या स्वीकार करेंगे।
IBM रिसर्च के शोधकर्ताओं ने संसाधन की कमी (resource exhaustion) की इस विशिष्ट समस्या को हल करने के लिए AEGIS नामक एक नया सिस्टम विकसित किया है। मुख्य चुनौती जो उनके सामने आई वह यह थी कि एक AI जिस भी टूल का उपयोग कर सकता है, वह हर बार अलग होता है। एक टूल खोज क्षेत्र को परिभाषित करने के लिए "त्रिज्या" (radius) मांग सकता है, जबकि दूसरा "दूरी" (distance) मांगता है, और एक अन्य "मील" या "किलोमीटर" का उपयोग करता है। इसके अलावा, ये टूल्स टेक्स्ट, वीडियो या लोकेशन जैसे विभिन्न प्रकार के डेटा को संभालते हैं, और प्रत्येक प्रकार का डेटा कंप्यूटर की शक्ति को एक अनूठे तरीके से उपभोग करता है। एक हजार टेक्स्ट संदेशों का अनुरोध कंप्यूटर के लिए संभालना आसान है, लेकिन एक हजार हाई-डेफिनिशन वीडियो का अनुरोध सिस्टम को क्रैश कर सकता है। क्योंकि इन अनुरोधों की भाषा और संरचना बहुत भिन्न होती है, इसलिए सुरक्षा टीमों के लिए सभी के लिए एक ही सेट नियम लिखना लगभग असंभव रहा है। सैकड़ों अलग-अलग टूल्स के लिए इन नियमों को मैन्युअल रूप से लिखना धीमा, त्रुटिपूर्ण और स्केल करने में कठिन है।
इस बाधा को दूर करने के लिए, टीम ने AEGIS बनाया, जो एक अनुवादक और द्वारपाल (gatekeeper) के रूप में कार्य करने के लिए लार्ज लैंग्वेज मॉडल्स की तर्क शक्ति का उपयोग करता है। प्रत्येक टूल को याद करने के बजाय, सिस्टम उस टूल के विवरण का विश्लेषण करता है जिसका एक AI उपयोग कर सकता है और स्वचालित रूप से यह पता लगाता है कि वह किस प्रकार के डेटा को संभालता है और किस प्रकार की क्रिया करता है। फिर यह पैरामीटर्स के भ्रमित करने वाले और विविध नामों को—जैसे "लिमिट", "काउंट" या "मैक्स_रिजल्ट्स"—एक एकल, मानक शब्दावली में अनुवादित करता है। उदाहरण के लिए, यह पहचानता है कि लोकेशन टूल में "पचास मील" मांगना और टेक्स्ट टूल में "एक सौ परिणाम" मांगना, दोनों ही डेटा के एक विशिष्ट वॉल्यूम के लिए अनुरोध हैं जो यदि अनियंत्रित छोड़ दिए गए तो खतरनाक हो सकते हैं। इन विविध अनुरोधों को एक सामान्य भाषा में बदलकर, सिस्टम पूरे इकोसिस्टम में सुरक्षा नियमों का एक सुसंगत सेट लागू कर सकता है।
एक बार जब सिस्टम टूल्स को समझ लेता है, तो वह केवल अनुमान नहीं लगाता कि सीमाएँ कहाँ तय करनी हैं; बल्कि वह उन्हें मापता है। शोधकर्ताओं ने परीक्षणों की एक श्रृंखला चलाई जहाँ उन्होंने सर्वर को भेजे जाने वाले अनुरोधों के आकार को धीरे-धीरे बढ़ाया, और बारीकी से देखते रहे कि सिस्टम कब संघर्ष करने लगता है या गलतियाँ करने लगता है। उन्होंने ठीक उस बिंदु को खोज निकाला जहाँ कंप्यूटर बिना विफल हुए भार को संभाल सकता था और उसे सुरक्षा सीमा के रूप में निर्धारित किया। यह प्रक्रिया, जिसे बेंचमार्किंग कहा जाता है, सिस्टम को प्रत्येक टूल के लिए एक कस्टम सुरक्षा सीमा बनाने की अनुमति देती है, जिससे यह सुनिश्चित होता है कि AI अपना काम कर सके बिना उस कंप्यूटर को गलती से तोड़ दिए जिससे वह बात कर रहा है।
टीम ने क्लाउड कंप्यूटिंग, डेटाबेस और सर्च इंजन सहित वास्तविक दुनिया की सेवाओं के लगभग एक हजार विभिन्न टूल्स के संग्रह पर इस दृष्टिकोण का परीक्षण किया। सिस्टम प्रत्येक टूल के कार्य को पहचानने और उसके डेटा प्रकार को वर्गीकृत करने में उल्लेखनीय रूप से सटीक साबित हुआ, जिसने नब्बे प्रतिशत से अधिक मामलों में डेटा के प्रकार और ऑपरेशन की प्रकृति को सही ढंग से वर्गीकृत किया। इसने सफलतापूर्वक यह भी पहचान लिया कि कौन से टूल्स संसाधन संबंधी समस्याएं पैदा करने की संभावना रखते हैं और उनके पैरामीटर्स को उच्च सटीकता के साथ सामान्यीकृत किया। जब शोधकर्ताओं ने एक परिदृश्य का अनुकरण किया जहाँ एक AI एजेंट अत्यधिक संख्या में छवियां मांगकर एक सर्वर को ओवरवेल करने की कोशिश कर रहा था, तो AEGIS युक्त सिस्टम ने हानिकारक अनुरोध को ब्लॉक कर दिया और सर्वर को सुचारू रूप से चालू रखा, जबकि बिना सुरक्षा वाला सर्वर लोड के कारण क्रैश हो गया।
यह कार्य प्रदर्शित करता है कि उनकी लचीलापन (flexibility) को त्याग बिना इन जटिल, परस्पर जुड़े AI सिस्टम को सुरक्षित करना संभव है। अनुरोध के पीछे के इरादे को समझने के लिए बुद्धिमान विश्लेषण का उपयोग करके और सिस्टम की वास्तविक क्षमता को मापकर, AEGIS उन टूल्स की विविधता के अनुकूल सुरक्षा प्रदान करता है जिनका उपयोग किया जा रहा है। शोधकर्ता बताते हैं कि हालांकि सिस्टम अत्यधिक प्रभावी है, फिर भी हर संभव पैरामीटर नाम को पूरी तरह से अनुवादित करने का कार्य चुनौतीपूर्ण बना हुआ है, और भविष्य का कार्य इस सुरक्षा को और अधिक जटिल परिदृश्यों तक विस्तारित करने पर केंद्रित होगा जहाँ कई टूल्स का क्रमवार उपयोग किया जाता है। फिलहाल, यह सिस्टम यह सुनिश्चित करने के लिए एक व्यावहारिक तरीका प्रदान करता है कि जैसे-जैसे AI एजेंट अधिक सक्षम और व्यापक होते जा रहे हैं, वे अनजाने में उन प्रणालियों को ठप न कर दें जिन पर वे निर्भर हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।