ADR: An Agentic Detection System for Enterprise Agentic AI Security
यह शोध पत्र ADR को प्रस्तुत करता है, जो मॉडल कॉन्टेक्स्ट प्रोटोकॉल (MCP) एजेंटों को सुरक्षित करने के लिए एक उत्पादन-सिद्ध (production-proven) एंटरप्राइज फ्रेमवर्क है, जो ऑब्जर्वेबिलिटी (observability), मजबूती और लागत संबंधी चुनौतियों को दूर करने के लिए हाई-फिडेलिटी टेलीमेट्री, व्यवस्थित रेड टीमिंग और एक स्केलेबल टू-टियर डिटेक्शन सिस्टम को जोड़ता है, जिससे वास्तविक दुनिया के परिनियोजन (deployment) और बेंचमार्क मूल्यांकन में उत्कृष्ट प्रदर्शन प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक विशाल, हाई-टेक ऑफिस है जहाँ हज़ारों कर्मचारी एक नए प्रकार के "सुपर-असिस्टेंट" (AI एजेंट्स) का उपयोग कर रहे हैं। ये असिस्टेंट फाइलें पढ़ सकते हैं, कोड लिख सकते हैं, और काम पूरा करने के लिए अन्य सॉफ्टवेयर टूल्स से बात कर सकते हैं। वे इन टूल्स से बात करने के लिए एक मानक भाषा का उपयोग करते हैं जिसे MCP (मॉडल कॉन्टेक्स्ट प्रोटोकॉल) कहा जाता है।
समस्या यह है कि ये असिस्टेंट इतने स्मार्ट और स्वायत्त (autonomous) हैं कि इन्हें धोखा दिया जा सकता है। एक हैकर असिस्टेंट को एक गुप्त निर्देश देकर उसे बहला सकता है, जिससे वह पासवर्ड चुराने या महत्वपूर्ण फाइलों को डिलीट करने के लिए मजबूर हो जाए, जबकि असिस्टेंट को लगेगा कि वह बस अपना काम कर रहा है।
पारंपरिक सुरक्षा गार्ड (जैसे कि वे जो फाइल परिवर्तनों पर नज़र रखते हैं) यह तो देख सकते हैं कि एक फाइल बदली गई है, लेकिन वे यह नहीं सुन सकते कि असिस्टेंट ने उस बदलाव के पीछे क्यों किया। वे "सोचने की प्रक्रिया" (thought process) को मिस कर देते हैं।
यह पेपर ADR (एजेंटिक डिटेक्शन एंड रिस्पॉन्स) पेश करता है, जो इन AI असिस्टेंट्स की निगरानी के लिए डिज़ाइन किया गया एक नया सुरक्षा सिस्टम है। यह कैसे काम करता है, यहाँ सरल भाषा में समझाया गया है:
1. समस्या: "ब्लाइंड स्पॉट" (अंधा कोना)
पुराने सुरक्षा उपकरणों को एक फैक्ट्री फ्लोर की निगरानी करने वाले कैमरे की तरह समझें। वे देख सकते हैं कि एक कर्मचारी एक बॉक्स उठाकर बाहर जा रहा है। लेकिन वे कर्मचारी की बातचीत नहीं सुन सकते या उसके हाथ में मौजूद उस नोट को नहीं देख सकते जिस पर लिखा है, "यह बॉक्स वास्तव में एक बम है।"
- अंतराल (The Gap): पुराने टूल्स एक्शन (फाइल राइट) देखते हैं लेकिन इरादे (प्रॉम्प्ट और तर्क) को मिस कर देते हैं।
- जोखिम: हैकर्स AI को यह विश्वास दिलाने के लिए trick कर सकते हैं कि डेटा चुराना एक सामान्य कार्य है।
2. समाधान: ADR सिस्टम
लेखकों ने इसे ठीक करने के लिए तीन भागों वाला एक सिस्टम बनाया है, जो एक अत्यधिक प्रशिक्षित सुरक्षा टीम की तरह कार्य करता है।
भाग A: "ईगल-आई" सेंसर (ADR सेंसर)
केवल फैक्ट्री फ्लोर की निगरानी करने के बजाय, यह सेंसर सीधे AI के दिमाग के अंदर बैठता है।
- यह क्या करता है: यह सब कुछ रिकॉर्ड करता है: उपयोगकर्ता ने क्या पूछा, AI ने इसके बारे में कैसे सोचा, उसने किन टूल्स का उपयोग किया, और इसके बाद क्या हुआ।
- उपमा (Analogy): यह एक कोर्ट स्टैनोग्राफर की तरह है जो मीटिंग में लिए गए अंतिम निर्णय को ही नहीं, बल्कि बोली गई हर बात को रिकॉर्ड करता है। यह सुरक्षा टीमों को यह जानकारी देता है कि AI क्या कर रहा था, न कि केवल उसका परिणाम।
भाग B: "टू-टियर" डिटेक्टिव टीम (ADR डिटेक्टर)
हर एक एक्शन की जांच करने के लिए एक सुपर-स्मार्ट (लेकिन महंगे) AI डिटेक्टिव का उपयोग करना बहुत महंगा और समय लेने वाला होगा। इसलिए, ADR एक दो-चरणीय प्रक्रिया का उपयोग करता है:
- टियर 1 (त्वरित ट्राइएज): एक तेज़, हल्का स्कैनर प्रति सेकंड हजारों कार्यों को देखता है। यह एक क्लब के बाउंसर की तरह है जो जल्दी से आईडी चेक करता है। यदि कुछ स्पष्ट रूप से सुरक्षित दिखता है, तो यह उसे जाने देता है। यदि कुछ "संदिग्ध" (जैसे पासवर्ड मांगना) लगता है, तो यह उसे फ्लैग करता है।
- टियर 2 (गहन जांच): फ्लैग किए गए आइटम्स एक सीनियर डिटेक्टिव के पास जाते हैं। इस डिटेक्टिव के पास कंपनी की नियम पुस्तिका, कोड मैनुअल और ज्ञात आपराधिक तरीकों की सूची तक पहुंच होती है। यह (सेंसर से प्राप्त) पूरी कहानी को पढ़ता है और तय करता है: "क्या यह एक वास्तविक हमला है या केवल एक गलतफहमी?"
- यह क्यों काम करता है: यह बोरिंग और सुरक्षित कार्यों के लिए महंगे डिटेक्टिव का उपयोग न करके पैसे बचाता है, लेकिन यह सुनिश्चित करता है कि संदिग्ध कार्यों की गहरी और सावधानीपूर्वक जांच की जाए।
भाग C: "रेड टीम" सिम्युलेटर (ADR एक्सप्लोरर)
सिस्टम लाइव होने से पहले, इसे टेस्ट करने की आवश्यकता है।
- यह क्या करता है: एक विशेष AI "रेड टीम" सिस्टम को तोड़ने की कोशिश करती है। यह AI असिस्टेंट्स को चकमा देने के नए, चालाकी भरे तरीके गढ़ती है।
- उपमा: कल्पना करें कि एक फायर ड्रिल में, एक टीम यह देखने के लिए कि अलार्म काम करते हैं या नहीं, इमारत में आग की एक नकली घटना को चुपके से डालने की कोशिश करती है। जब रेड टीम कोई नया तरीका खोज लेती है, तो सिस्टम इससे सीखता है और वास्तविक हैकर्स द्वारा इसका उपयोग किए जाने से पहले ही खुद को स्मार्ट बनाता है।
3. परिणाम: वास्तविक दुनिया का प्रमाण
टीम ने इसे दस महीने से अधिक समय तक Uber में 7,200 से अधिक कंप्यूटरों पर टेस्ट किया।
- सफलता: सिस्टम ने सैकड़ों ऐसे मामलों को खोज निकाला जहाँ कर्मचारियों ने अनजाने में (या दुर्भावनापूर्ण रूप से) पासवर्ड और गुप्त जानकारी बाहरी दुनिया के साथ साझा की थी।
- सटीकता: यह अविश्वसनीय रूप से सटीक था। परीक्षणों में, इसकी सटीकता एक विशिष्ट बेंचमार्क पर शून्य गलत अलार्म (zero false alarms) रही (अर्थात इसने तब कभी "भेड़िया आया" नहीं चिल्लाया जब वास्तव में भेड़िया नहीं था), जबकि इसने 67% वास्तविक हमलों को पकड़ा।
- तुलना: इसने वर्तमान में उपलब्ध अन्य शीर्ष सुरक्षा उपकरणों की तुलना में 2 से 4 गुना बेहतर प्रदर्शन किया।
4. "शिफ्ट-लेफ्ट" रोकथाम
चूंकि सिस्टम गुप्त जानकारी साझा करने को पकड़ने में इतना अच्छा था, इसलिए टीम ने केवल उन्हें पकड़ने पर ही नहीं रोका; उन्होंने उन्हें होने से पहले ही रोक दिया।
- उन्होंने एक "प्री-प्रॉम्प्ट" चेक (हुक) जोड़ा जो उस चीज़ को स्कैन करता है जो उपयोगकर्ता टाइप करने वाला है। यदि यह कोई पासवर्ड देखता है, तो यह इसे तुरंत ब्लॉक कर देता है।
- इसने 97.2% सटीकता के साथ काम किया, जिससे लीक्स शुरू होने से पहले ही रुक गए।
सारांश
यह पेपर ADR को AI असिस्टेंट्स के नए युग के लिए पहले बड़े पैमाने पर, सिद्ध सुरक्षा प्रणाली के रूप में प्रस्तुत करता है। यह "हम नहीं देख सकते कि AI क्या सोच रहा है" की समस्या को पूरी बातचीत को रिकॉर्ड करके, पैसे बचाने के लिए एक स्मार्ट दो-चरणीय डिटेक्टिव प्रक्रिया का उपयोग करके, और अपने ही सिस्टम को हैक करने की कोशिश करके खुद को लगातार प्रशिक्षित करके हल करता है। इसने एक वास्तविक कॉर्पोरेट वातावरण में सफलता सिद्ध की, जिसमें उन वास्तविक सुरक्षा जोखिमों को पकड़ा जिन्हें पुराने टूल्स मिस कर देते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।