AgenticOS: An Intent-Oriented Secure Operating System Architecture for Autonomous AI Agents
एजेंटिकओएस (AgenticOS) एक नवीन सुरक्षित ऑपरेटिंग सिस्टम आर्किटेक्चर प्रस्तावित करता है जो पारंपरिक संसाधन प्रबंधक के बजाय ओएस को एक "इन्टेंट फ़िल्टर" (intent filter) के रूप में पुनर्गठित करता है, जो चार-स्तरीय डिज़ाइन और संरचित इरादा घोषणाओं (intent declarations) का उपयोग करके न्यूनतम-विशेषाधिकार वाले वातावरणों को संश्लेषित करता है ताकि एलएलएम-संचालित स्वायत्त एजेंटों को उनके अधिकृत कार्यों से आगे बढ़ने से रोका जा सके, भले ही वे समझौताग्रस्त (compromised) क्यों न हों।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ AgenticOS पेपर का सरल, रोज़मर्रा की भाषा में अनुवाद दिया गया है, जिसमें उपमाओं (analogies) का उपयोग किया गया है।
बड़ी समस्या: "अति-उदार बटलर" (The Over-Generous Butler)
कल्पना कीजिए कि आपने अपने बिखरे हुए अध्ययन कक्ष (study) को व्यवस्थित करने के लिए एक अत्यंत बुद्धिमान बटलर (एक AI Agent) को काम पर रखा है। आप उसे बताते हैं, "कृपया डेस्क से प्रयोगात्मक परिणाम (experimental results) इकट्ठा करें, उनका सारांश तैयार करें, और सारांश मेरे बॉस को ईमेल कर दें।"
आज की कंप्यूटर दुनिया में (पारंपरिक OS - Traditional OS), जब आप इस बटलर को काम पर रखते हैं, तो आप उसे केवल पेन और कागज ही नहीं देते। आप उसे पूरे घर की चाबियाँ दे देते हैं। उन्हें मिलता है:
- मुख्य दरवाजे की चाबियाँ (नेटवर्क एक्सेस)।
- तिजोरी की चाबियाँ (फाइल सिस्टम एक्सेस)।
- दूसरे कमरों में घुसने के लिए ताला तोड़ने वाले को बुलाने की क्षमता (प्रोसेस निष्पादन/Process execution)।
- अपने स्वयं के सहायक नियुक्त करने की क्षमता (डायनेमिक कोड लोडिंग)।
खतरा: यदि बटलर आपके द्वारा लिखे गए किसी पेचीदा नोट (एक "प्रॉम्प्ट इंजेक्शन") से भ्रमित हो जाता है या यदि उनके द्वारा खरीदा गया कोई टूल गुप्त रूप से खराब (एक "पॉइजनड सप्लाई चेन") निकलता है, तो वे उन चाबियों का उपयोग करके आपके गहरे चोरी कर सकते हैं, पड़ोसी के घर में घुस सकते हैं, या बाहर की दुनिया के लिए एक गुप्त सुरंग बना सकते हैं। उनके पास वे काम करने की शक्ति होती है जो आपने उनसे कभी नहीं करने को कहा था।
समाधान: AgenticOS (द "इंटेंट फिल्टर")
AgenticOS इन AI एजेंटों को चलाने का एक नया तरीका प्रस्तावित करता है। एजेंट को चाबियों से भरा की-रिंग देने के बजाय, यह सिस्टम एक सख्त सुरक्षा गार्ड की तरह कार्य करता है जो एजेंट को केवल वही करने देता है जिसका उन्होंने वादा किया है, उससे अधिक कुछ नहीं।
पेपर इसे "रिसोर्स मैनेजर" (चाबियाँ देना) से बदलकर "इंटेंट फिल्टर" (योजना की जाँच करना) के रूप में वर्णित करता है।
मुख्य उपमा: "मेनिफेस्ट" बनाम "की-रिंग"
AgenticOS में, एजेंट के काम शुरू करने से पहले, उन्हें एक मेनिफेस्ट (Manifest) जमा करना होता है। इसे एक सख्त शॉपिंग लिस्ट या फ्लाइट प्लान के रूप में समझें।
- पुराना तरीका: "यह पूरी इमारत की चाबी है। जाओ और जो चाहिए ढूंढ लो।"
- AgenticOS का तरीका: "यहाँ एक सूची है: 'मुझे Project_Report.txt फ़ाइल को पढ़ने और boss@company.com को एक ईमेल भेजने की आवश्यकता है। मुझे तिजोरी, गैरेज या पड़ोसी के घर की चाबी की आवश्यकता नहीं है।' यदि आप कुछ भी और करने की कोशिश करते हैं, तो सिस्टम आपको रोक देगा।"
सुरक्षा के चार स्तर (The "Ghost Kitchen")
पेपर इसे लागू करने के लिए एक चार-स्तरीय आर्किटेक्चर डिज़ाइन करता है। एक उच्च-सुरक्षा वाले रेस्तरां किचन की कल्पना करें जहाँ शेफ (एजेंट) एक कांच के बॉक्स के अंदर है, और भोजन (डेटा) मशीनों द्वारा तैयार किया जाता है।
द घोस्ट कर्नल (The Invisible Foundation - अदृश्य आधार)
- यह क्या है: सबसे गहरा, सबसे सुरक्षित स्तर। यह इमारत के कंक्रीट फर्श और स्टील के बीम की तरह है।
- यह क्या करता है: यह एजेंट के लिए एक सीलबंद, अदृश्य कमरा बनाता है। यह सीधे एजेंट से बात नहीं करता है। यह बस यह सुनिश्चित करता है कि एजेंट का कमरा बाकी सभी से भौतिक रूप से अलग है। इसे "घोस्ट" इसलिए कहा जाता है क्योंकि यह वहाँ है, लेकिन आप इसे सीधे छू या इससे बात नहीं कर सकते।
द लॉजिक शटर (The Smart Gatekeeper - स्मार्ट गेटकीपर)
- यह क्या है: सुरक्षा प्रणाली का मस्तिष्क।
- यह क्या करता है: जब एजेंट कहता है, "मैं यह फ़ाइल पढ़ना चाहता हूँ," तो शटर मेनिफेस्ट की जाँच करता है।
- एजेंट: "मैं फ़ाइल पढ़ना चाहता हूँ।"
- शटर: "ठीक है, यह आपकी सूची में है। आगे बढ़ें।"
- एजेंट: "मैं अपने दोस्त को फोन करना चाहता हूँ।"
- शटर: "नहीं। यह आपकी सूची में नहीं है। अस्वीकृत।"
- यह एजेंट द्वारा किए जाने वाले हर एक कार्य का विस्तृत लॉग भी रखता है, जैसे कि एक सुरक्षा कैमरा जो लिखता है कि वास्तव में क्या हुआ।
द एजेंट कैप्सूल (The Glass Box - कांच का बॉक्स)
- यह क्या है: वह वास्तविक कमरा जहाँ एजेंट रहता है और काम करता है।
- यह क्या करता है: यह एक विशेष वातावरण है जहाँ एजेंट चलता है। महत्वपूर्ण रूप से, बाहरी दुनिया के दरवाजे बंद हैं जब तक कि लॉजिक शटर उन्हें न खोले। एजेंट बस "बाहर नहीं निकल" सकता या छिपे हुए टूल्स का उपयोग नहीं कर सकता क्योंकि वे टूल्स केवल तभी बनाए जाते हैं जब शटर मेनिफेस्ट की जाँच कर लेता है। यदि मेनिफेस्ट में "नेटवर्क" नहीं लिखा है, तो एजेंट के कमरे में नेटवर्क केबल ही नहीं होगी।
द सिमेंटिक बाउंड्री गेटवे (The Translator - अनुवादक)
- यह क्या है: कांच के बॉक्स और बाहरी दुनिया के बीच का इंटरफेस।
- यह क्या करता है: एजेंट "रॉ इंटरनेट कोड" (जैसे TCP/IP पैकेट) नहीं बोलता है। वे "इंटेंट" (इरादा) बोलते हैं।
- एजेंट: "बॉस को संदेश भेजें।"
- गेटवे: "ठीक है, मैं उस संदेश को लूँगा, वायरस के लिए उसकी जाँच करूँगा, उसे ठीक से फॉर्मेट करूँगा, और उसे भेज दूँगा।"
- एजेंट कभी भी रॉ इंटरनेट को नहीं देखता; वे केवल अपनी रिक्वेस्ट का परिणाम देखते हैं। यह उन्हें सामान्य दिखने वाले डेटा के अंदर गुप्त संदेश छिपाने से रोकता है।
यह हमलों को कैसे रोकता है
पेपर बताता है कि यह विशिष्ट प्रकार के बुरे व्यवहार को कैसे रोकता है:
- सप्लाई चेन पॉइजनिंग (Supply Chain Poisoning): यदि एजेंट उस टूल का उपयोग करने की कोशिश करता है जो गुप्त रूप से वायरस से संक्रमित था, तो वीवर (Weaver) (एक बिल्डर टूल) एजेंट को मिलने से पहले ही टूल की जाँच करता है। यदि टूल मेनिफेस्ट में दी गई चीज़ों के अलावा कुछ करने की कोशिश करता है, तो उसे खारिज कर दिया जाता है।
- कैपेबिलिटी कंपोजिशन (Capability Composition): कभी-कभी, बुरे लोग दो "सुरक्षित" चीजों को मिलाकर कुछ बुरा बनाते हैं (जैसे, "फ़ाइल पढ़ें" + "ईमेल भेजें" = "डेटा चोरी करें")। AgenticOS पूरे क्रम (chain) को देखता है। यह पूछता है, "क्या यह संयोजन मेनिफेस्ट द्वारा अनुमत है?" यदि मेनिफेस्ट में केवल "पढ़ना" कहा गया था, लेकिन एजेंट "पढ़कर ईमेल भेजने" की कोशिश करता है, तो सिस्टम इसे ब्लॉक कर देता है।
- कोवर्ट चैनल्स (Covert Channels): बुरे एजेंट काम करने की गति या अपनी फ़ाइलों के आकार के माध्यम से गुप्त संदेश भेजने की कोशिश करते हैं। AgenticOS "पैडिंग" (फिलर नॉइज़) जोड़ता है और यह सुनिश्चित करता है कि सब कुछ एक सख्त शेड्यूल पर हो, जिससे समय या संदेश के आकार में गुप्त कोड छिपाना असंभव हो जाता है।
"ह्यूमन इन द लूप" (The Human in the Loop)
पेपर इस बात पर ज़ोर देता है कि उच्च-जोखिम वाले कार्यों (जैसे पैसा ट्रांसफर करना या डेटाबेस डिलीट करना) के लिए, सिस्टम को रुकना चाहिए और मानव से अनुमति लेनी चाहिए।
- इसे एक सेफ्टी ब्रेक के रूप में सोचें। भले ही एजेंट को कार्य करने की अनुमति हो, सिस्टम किसी भी खतरनाक चीज़ के लिए "मानव पुष्टि" (Human Confirmation) चरण को अनिवार्य बनाता है। यह सुनिश्चित करता है कि एक भ्रमित AI गलती से कंपनी को क्रैश न कर दे।
बड़ी तस्वीर: AgenticOS क्या नहीं है
पेपर सावधानीपूर्वक कहता है कि यह सिस्टम क्या करने की कोशिश नहीं कर रहा है:
- यह सभी सॉफ़्टवेयर को बदलने की कोशिश नहीं कर रहा है। आप वेब ब्राउज़ करने या गेम खेलने के लिए अभी भी अपने सामान्य ऐप्स का उपयोग कर सकते हैं।
- यह AI को अपने आप "स्मार्टर" या "अधिक भरोसेमंद" बनाने की कोशिश नहीं कर रहा है। यह मान लेता है कि AI को धोखा दिया जा सकता है या वह भ्रमित हो सकता है।
- इसका लक्ष्य: एक ऐसा सिस्टम बनाना है जहाँ, भले ही AI को धोखा दिया गया हो, वह भौतिक रूप से उस संकीर्ण बॉक्स (narrow box) के बाहर कुछ भी करने में असमर्थ हो जो आपने उससे करने को कहा है।
सारांश
AgenticOS AI एजेंटों के लिए एक सुरक्षित, स्वचालित कारखाने के निर्माण जैसा है।
- पुराना OS: एजेंट को पूरे शहर की मास्टर चाबी दे देता है। यदि एजेंट अनियंत्रित हो जाता है, तो पूरा शहर खतरे में पड़ जाता है।
- AgenticOS: एजेंट को एक विशिष्ट, पूर्व-अनुमोदित कार्य सूची देता है। एजेंट एक सीलबंद कांच के बॉक्स के भीतर काम करता है। एक स्मार्ट गेटकीपर हर अनुरोध की सूची के विरुद्ध जाँच करता है। यदि एजेंट सूची में दी गई चीज़ के अलावा कुछ करने की कोशिश करता है, तो गेटकीपर दरवाज़ा बंद कर देता है।
यह सुरक्षा के प्रश्न को "क्या आपके पास इस फ़ाइल को छूने की अनुमति है?" से बदलकर "क्या यह क्रिया उस कार्य का हिस्सा है जिसका आपने वादा किया था?" में बदल देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।