Securing the Agent: Vendor-Neutral, Multitenant Enterprise Retrieval and Tool Use
यह शोध पत्र ओपन-सोर्स OGX फ्रेमवर्क के भीतर एक सर्वर-साइड, लेयर्ड आइसोलेशन आर्किटेक्चर प्रस्तावित और मान्य करके मल्टीटेनेंट एंटरप्राइज एआई सिस्टम में उस महत्वपूर्ण सुरक्षा अंतराल को संबोधित करता है जहाँ रिट्रीवल रिलेवेंस (प्राप्ति प्रासंगिकता) ऑथोराइजेशन (प्राधिकरण) पर हावी हो जाती है, जो क्रॉस-टेनेंट डेटा लीकेज को रोकने के लिए पॉलिसी-अवेयर इनजेशन और रिट्रीवल गेटिंग को लागू करता है और इसमें प्रदर्शन का नगण्य ओवरहेड होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक विशाल, हाई-टेक लाइब्रेरी है जहाँ हजारों अलग-अलग कंपनियों (किरायेदारों) ने अपने गुप्त दस्तावेज़ों को रखने के लिए अलमारियाँ किराए पर ली हैं। इस लाइब्रेरी में, शक्तिशाली रोबोट (AI एजेंट) भी रखे गए हैं जिन्हें कंपनियों द्वारा पूछे गए विशिष्ट प्रश्नों के आधार पर जानकारी खोजने और कार्य करने के लिए काम पर रखा गया है।
Arceo और Narsing का शोध पत्र यह पहचानता है कि वर्तमान में ये लाइब्रेरी कैसे काम करती है इसमें एक खतरनाक खामी है और यह इस खामी को ठीक करने के लिए एक नया सुरक्षा तंत्र प्रस्तावित करता है।
समस्या: "प्रासंगिकता" का जाल (The "Relevance" Trap)
एक सामान्य लाइब्रेरी में, यदि आप "रेसिपी" मांगते हैं, तो लाइब्रेरियन आपको वे किताबें देता है जो उस शब्द के लिए सबसे अधिक प्रासंगिक (relevant) हैं। उन्हें इस बात की परवाह नहीं होती कि किताबें किसकी हैं; वे बस सबसे अच्छे मिलान वाली चीजें उठाते हैं।
लेखक बताते हैं कि AI की दुनिया में, यह सुरक्षा के लिए एक आपदा है।
- परिदृश्य: कंपनी A रोबोट से पूछती है, "हम अपना सर्वर कैसे ठीक करें?"
- गलती: रोबोट पूरी लाइब्रेरी में खोज करता है। उसे कंपनी B का एक दस्तावेज़ मिलता है जो प्रश्न के बहुत समान है (शायद वह भी सर्वर ठीक करने के बारे में है)।
- लीक: क्योंकि वह दस्तावेज़ प्रश्न के लिए एक "परफेक्ट मैच" है, रोबोट उसे सौंप देता है। कंपनी A ने अभी-अभी कंपनी B की गुप्त सर्वर मैनुअल पढ़ ली।
शोध पत्र इसे "रिलिवेंस-ऑथोराइजेशन गैप" (Relevance-Authorization Gap) कहता है। सिस्टम यह खोजने में तो बहुत अच्छा है कि क्या प्रासंगिक है, लेकिन यह जाँचने में बहुत बुरा है कि किसे देखने की अनुमति है।
समाधान: "लेयर्ड आइसोलेशन" बिल्डिंग (The "Layered Isolation" Building)
इसे ठीक करने के लिए, लेखक एक नए भवन डिजाइन का प्रस्ताव देते हैं जिसमें तीन विशिष्ट सुरक्षा परतें और इस बात के बारे में एक सख्त नियम है कि चाबियाँ किसके पास होनी चाहिए।
1. सुरक्षा की तीन परतें
डेटा की यात्रा को एक सुरक्षित सुविधा से गुजरते हुए पैकेज की तरह समझें:
परत 1: लेबलिंग स्टेशन (पॉलिसी-अवेयर इनजेशन - Policy-Aware Ingestion)
जब कोई कंपनी दस्तावेजों का एक बॉक्स रखती है, तो सिस्टम तुरंत हर एक पन्ने पर "कंपनी A" या "कंपनी B" का लेबल लगा देता है। आप बाद में उन्हें लेबल करना भूल नहीं सकते; यह उनके आते ही होता है। यह सुनिश्चित करता है कि हर कागज को पता हो कि वह किसका है।परत 2: सुरक्षा द्वार (रिट्रीवल गेटिंग - Retrieval Gating)
इससे पहले कि रोबोट को किताबें खोजने की अनुमति मिले, उसे एक सुरक्षा द्वार से गुजरना होगा। द्वार उपयोगकर्ता के आईडी कार्ड की जांच करता है।- यदि उपयोगकर्ता कंपनी A से है, तो द्वार भौतिक रूप से उस गलियारे को ब्लॉक कर देता है जिसमें कंपनी B की किताबें रखी हैं।
- रोबोट कभी भी वर्जित किताबों को नहीं देख पाता, इसलिए वह गलती से उन्हें सौंप नहीं सकता। इसे ABAC गेटिंग (एट्रिब्यूट-बेस्ड एक्सेस कंट्रोल) कहा जाता है।
परत 3: साझा मस्तिष्क (शेयर्ड इन्फरेंस - Shared Inference)
रोबोट का वास्तविक "सोचने" वाला हिस्सा (AI मॉडल) पैसे बचाने के लिए सभी के लिए साझा है। आमतौर पर, आप सोच सकते हैं कि हर कंपनी के लिए एक अलग रोबोट की आवश्यकता होगी ताकि उनके रहस्य सुरक्षित रहें। लेकिन क्योंकि परत 1 और 2 यह सुनिश्चित करती हैं कि केवल सही, लेबल किए गए दस्तावेज़ ही रोबोट को दिए जाएं, इसलिए रोबकेट को सुरक्षित रूप से साझा किया जा सकता है। यह एक शेफ की तरह है जो सभी के लिए खाना बनाता है, लेकिन सामग्री को पहले से छाँटा गया है ताकि शेफ गलती से एक ग्राहक की गुप्त रेसिपी दूसरे ग्राहक के व्यंजन में उपयोग न कर दे।
2. "सर्वर-साइड" का नियम
शोध पत्र तर्क देता है कि सुरक्षा जाँच इमारत के अंदर (सर्वर) होनी चाहिए, न कि ग्राहक के कार्यालय में (क्लाइंट)।
- पुराना तरीका (क्लाइंट-साइड): ग्राहक का कंप्यूटर खोज और जाँच करता है। एक चालाक ग्राहक अपने सुरक्षा सॉफ्टवेयर को बंद कर सकता है, नियमों को अनदेखा कर सकता है, और रोबोट से सब कुछ देखने के लिए कह सकता है।
- नया तरीका (सर्वर-साइड): ग्राहक एक अनुरोध भेजता है, लेकिन इमारत की आंतरिक सुरक्षा टीम ही खोज, टूल का उपयोग और जाँच करती है। ग्राहक "लाल कार" के लिए कह सकता है, लेकिन वह सुरक्षा टीम को नियमों को अनदेखा करने और किसी और की "नीली कार" दिखाने के लिए नहीं कह सकता। इमारत नियंत्रित करती है कि खोज कैसे होती है, यह सुनिश्चित करते हुए कि नियम कभी न टूटें।
परिणाम: उन्होंने क्या टेस्ट किया
लेखकों ने इस विचार का परीक्षण करने के लिए OGX (ओपन जेन एआई स्टैक) नामक एक प्रोटोटाइप सिस्टम बनाया। उन्होंने नकली कंपनियों और पेचीदा सवालों के साथ प्रयोग किए।
- सुरक्षा: नए सुरक्षा द्वार के बिना, 98-100% समय रोबोट अन्य कंपनियों के गुप्त दस्तावेज़ लीक कर देता था। नए गेट के साथ, 0% रहस्य लीक हुए। सुरक्षा द्वार ने लीकेज को पूरी तरह से रोक दिया।
- गति: सुरक्षा द्वार जोड़ने से चीजें थोड़ी धीमी हुईं (लग लगभग 19 मिलीसेकंड)। यह बातचीत में एक सेकंड के छोटे से ठहराव जैसा है—इंसानों के लिए ध्यान न देने योग्य लेकिन सुरक्षा के लिए महत्वपूर्ण।
- गुणवत्ता: क्योंकि रोबोट अन्य कंपनियों के अप्रासंगिक दस्तावेज़ों से भ्रमित नहीं हुआ, इसलिए उसने वास्तव में सही उत्तर तेजी से और अधिक सटीकता से खोजे।
निचोड़ (The Bottom Line)
शोध पत्र निष्कर्ष निकालता है कि आप कई अलग-अलग कंपनियों के लिए एक साझा, लागत प्रभावी AI सिस्टम रख सकते हैं बिना उन्हें एक-दूसरे के रहस्य चुराए। आपको बस खोज के परिणाम की "प्रासंगिकता" पर भरोसा करना बंद करना होगा और दरवाजे पर सख्त "अनुमति" जाँच लागू करनी होगी, जिसे सर्वर के भीतर केंद्रीय सुरक्षा टीम द्वारा प्रबंधित किया जाना चाहिए।
वे जोर देते हैं कि यह एक वेंडर-न्यूट्रल समाधान है, जिसका अर्थ है कि यह आपको किसी एक विशिष्ट AI कंपनी (जैसे OpenAI या Google) तक सीमित नहीं करता है; यह आपके द्वारा चुने गए किसी भी ओपन-सोर्स या कमर्शियल AI टूल्स के साथ काम करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।