An Organization-Scoped LLM Agent Runtime Architecture for Regulated Cybersecurity Operations
यह शोध पत्र विनियमित वित्तीय साइबर सुरक्षा के लिए एक संगठन-स्तरीय, स्थानीय रूप से तैनात करने योग्य LLM एजेंट रनटाइम आर्किटेक्चर प्रस्तावित करता है जो सभी घटकों में एक टाइप किया गया (typed) सुरक्षा संदर्भ (Security Context) लागू करता है, SIEM/XDR सिस्टम को प्राथमिक ट्रिगर्स के रूप में एकीकृत करता है, और गवर्नड टूल एडेप्टर, संरचित निष्कर्षों और टियर्ड ह्यूमन-इन-द-लूप गेट्स के माध्यम से ऑडिटेबिलिटी सुनिश्चित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक अत्यधिक कुशल, सुपर-फास्ट जासूस (AI एजेंट) एक बैंक के सुरक्षा कक्ष के भीतर काम कर रहा है। यह जासूस सुराग खोजने, सेकंडों में हजारों दस्तावेजों को पढ़ने और आगे क्या करना है, इसके सुझाव देने में अद्भुत है।
हालाँकि, एक वास्तविक बैंक में, आप इस जासूस को बेतहाशा दौड़ने की अनुमति नहीं दे सकते। यदि जासूस कोई गलती करता है, या यदि वह गलती से किसी गलत ग्राहक की निजी फाइलों को देख लेता है, या यदि वह पुलिस को एक फर्जी अलर्ट भेज देता है, तो पूरे बैंक को गंभीर कानूनी मुसीबत का सामना करना पड़ सकता है।
यह पेपर इस जासूस के लिए एक नया "वर्कबेंच" (कार्यस्थल) बनाने का तरीका प्रस्तावित करता है ताकि वह बैंक जैसे विनियमित वातावरण में सुरक्षित रूप से काम कर सके। यहाँ सरल उपमाओं (analogies) का उपयोग करके इसका विवरण दिया गया है:
1. समस्या: "पर्सनल असिस्टेंट" बनाम "बैंक गार्ड"
वर्तमान में, अधिकांश AI उपकरण पर्सनल असिस्टेंट (व्यक्तिगत सहायक) की तरह होते हैं। वे व्यक्तिगत रूप से आपके लिए काम करते हैं। यदि आप उन्हें कोई फ़ाइल हटाने के लिए कहते हैं, तो वे ऐसा ही करते हैं। यदि वे भ्रमित हो जाते हैं, तो वे गलत चीज़ हटा सकते हैं, लेकिन यह मुख्य रूप से आपकी समस्या होती है।
लेकिन बैंक के सुरक्षा केंद्र में, AI केवल एक व्यक्ति की मदद नहीं कर रहा है; यह संपूर्ण संगठन की ओर से कार्य कर रहा है। यदि AI एक अलार्म बजाता है या किसी लेनदेन को फ्रीज कर देता है, तो यह बैंक की प्रतिष्ठा और कानूनी स्थिति को प्रभावित करता है। यह पेपर तर्क देता है कि हमें AI को एक व्यक्तिगत सहायक के रूप में नहीं, बल्कि एक वर्दीधारी गार्ड के रूप में देखने की आवश्यकता है जिसे कुछ भी करने से पहले सख्त नियमों का पालन करना चाहिए।
2. मुख्य विचार: "सिक्योरिटी आईडी बैच" (सुरक्षा संदर्भ/Security Context)
इस नए सिस्टम का केंद्र एक चीज़ है जिसे सिक्योरिटी कॉन्टेक्स्ट कहा जाता है। इसे एक डिजिटल आईडी बैच के रूप में सोचें जिसे AI को हर समय पहनना होगा।
- यह कैसे काम करता है: हर बार जब AI कुछ करने की कोशिश करता है—जैसे ईमेल पढ़ना, डेटाबेस खोजना, या रिपोर्ट लिखना—तो उसे अपना बैच दिखाना होगा।
- जांच: सिस्टम बैच की जांच करता है और पूछता है: "क्या आपके पास इस विशिष्ट फ़ाइल को देखने की अनुमति है? क्या आप इस विशिष्ट टूल का उपयोग करने के हकदार हैं? क्या यह कार्य आपकी वर्तमान भूमिका के लिए अनुमत है?"
- नियम: यदि बैच कार्य से मेल नहीं खाता है, तो सिस्टम तुरंत "नहीं" कहता है और रुक जाता है। इससे कोई फर्क नहीं पड़ता कि AI कितना स्मार्ट है; यदि उस विशिष्ट क्षण के लिए उसके पास सही बैच नहीं है, तो वह आगे नहीं बढ़ सकता।
3. "सेंट्रल हब" (रनटाइम कोर)
अलग-अलग AI प्रोग्रामों को अलग-अलग चलाने के बजाय (जो प्रबंधित करने में अराजक होगा), यह पेपर एक सेंट्रल हब का सुझाव देता है।
- एक हवाई अड्डे के कंट्रोल टॉवर की कल्पना करें। सभी विमान (AI कार्य) यहीं उतरते हैं।
- कंट्रोल टॉवर ही नियमों, मेमोरी और लॉग्स का स्वामी है।
- AI "एजेंट्स" केवल उस टॉवर के भीतर काम करने वाले पायलट हैं। उनके विशिष्ट कार्य हैं (जैसे "थ्रेट डिटेक्टिव" या "कंप्लायंस चेकर"), लेकिन वे सभी एक ही सुरक्षित इमारत के भीतर काम करते हैं। उनके पास अपने निजी हैंगर नहीं हैं जहाँ वे चीजें छिपा सकें।
4. "ह्यूमन इन द लूप" (सुरक्षा द्वार/Safety Gates)
सिस्टम जानता है कि AI पूर्ण नहीं है। इसलिए, यह जोखिम के आधार पर सेफ्टी गेट्स का उपयोग करता है:
- गेट 1 (कम जोखिम): AI अपने आप छोटी, प्रतिवर्ती (reversible) चीजें कर सकता है, जैसे ईमेल का सारांश बनाना या किसी ज्ञात संदिग्ध फोन नंबर को खोजना।
- गेट 2 (मध्यम जोखिम): यदि AI कुछ संदिग्ध पाता है या रिपोर्ट का मसौदा तैयार करना चाहता है, तो उसे रुकना होगा और एक मानव विश्लेषक से अनुमति (sign off) लेनी होगी।
- गेट 3 (उच्च जोखिम): यदि AI कुछ खतरनाक करना चाहता है (जैसे किसी ग्राहक का अकाउंट ब्लॉक करना), तो उसे एक वरिष्ठ मानव से स्पष्ट, नामित अनुमोदन प्राप्त करना होगा। AI यह अकेले नहीं कर सकता।
5. "ब्लैक बॉक्स" (ऑडिट लॉग)
AI जो कुछ भी करता है, वह एक अमिट डायरी (एक append-only ऑडिट लॉग) में लिखा जाता है।
- यह रिकॉर्ड करता है: AI से क्या पूछा गया था, उसने क्या देखा, उसने किन टूल्स का उपयोग किया, उसने क्या निर्णय लिया, और किसने (मानव या AI) इसे मंजूरी दी।
- यदि नियामक (जैसे पुलिस या सरकारी ऑडिटर) जांच करने आते हैं, तो वे इस डायरी को देख सकते हैं और समझ सकते हैं कि AI ने हर निर्णय क्यों लिया। इसमें कुछ भी हटाया या बदला नहीं जा सकता।
6. "टूलबेल्ट" (गवर्नड एडैप्टर)
AI को अन्य सिस्टम (जैसे बैंक का अलार्म सिस्टम या ईमेल सर्वर) से बात करने के लिए टूल्स की आवश्यकता होती है।
- इस सिस्टम में, AI अपनी मर्जी से कोई भी टूल नहीं उठा सकता।
- प्रत्येक टूल टूलबेल्ट में एक लॉक किया हुआ दराज है। AI केवल तभी एक दराज खोल सकता है जब उसका "सिक्योरिटी आईडी बैच" यह कहे कि उसके पास उस विशिष्ट दराज की चाबी है।
- यह AI को अनजाने में ऐसा टूल उपयोग करने से रोकता है जिसे उसे नहीं उपयोग करना चाहिए, या इसे ऐसे तरीके से उपयोग करने से रोकता है जो नियमों का उल्लंघन करता हो।
लेखक क्या दावा कर रहे हैं (सारांश)
लेखक यह नहीं कह रहे हैं कि उन्होंने एक पूर्ण, तैयार उत्पाद बनाया है जो वर्तमान में किसी बैंक में चल रहा है। इसके बजाय, वे एक ब्लूप्रिंट (आर्किटेक्चर) प्रस्तुत कर रहे हैं कि इस तरह के सिस्टम को सुरक्षित रूप से कैसे बनाया जाए।
उनका दावा है कि इस "सिक्योरिटी आईडी बैच" सिस्टम, एक सेंट्रल हब और सख्त 'ह्यूमन सेफ्टी गेट्स' का उपयोग करके, संगठन साइबर सुरक्षा के लिए शक्तिशाली AI एजेंटों का उपयोग बिना कानून तोड़े या नियंत्रण खोए कर सकते हैं। उन्होंने इस ब्लूप्रिंट का एक "टेस्ट वर्जन" डिज़ाइन किया है और इसे विशिष्ट नियमों के विरुद्ध परीक्षण करके और उन्हें कितनी अच्छी तरह से पालन किया जाता है, इसे मापकर सिद्ध करने की योजना प्रस्तावित की है।
संक्षेप में: यह एक जंगली, सुपर-स्मार्ट AI जासूस को एक अनुशासित, नियम मानने वाले सुरक्षा गार्ड में बदलने की योजना है जिसे उच्च-जोखिम वाले वातावरण में भरोसा किया जा सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।