Drift-Aware Governance-as-Code for Agentic Cloud Operations: Formalizing State Certifiability and Testing Dynamic Authority Control in an AWS Testbed
यह शोध पत्र ड्रिफ्ट-अवेयर गवर्नेंस-एज़-कोड (DAGA) को प्रस्तुत और मान्य करता है, जो एक रनटाइम अथॉरिटी-कंट्रोल मॉडल है जो परिभाषित कॉन्फिडेंस लिमिट से अधिक देखे गए विचलन (divergence) होने पर इंफ्रास्ट्रक्चर स्टेट को गतिशील रूप से प्रमाणित करके और लॉकआउट थ्रेशोल्ड को लागू करके, आवश्यक रिकवरी कार्यों में अनावश्यक बाधा डाले बिना, एजेंटिक क्लाउड ऑपरेशंस में पॉलिसी उल्लंघनों को काफी कम करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक डिजिटल दुनिया में, कंपनियाँ अपने व्यवसायों को चलाने के लिए कंप्यूटर सर्वरों और सॉफ़्टवेयर टूल्स के विशाल नेटवर्क पर निर्भर करती हैं। इन प्रणालियों को सुचारू रूप से चलाने के लिए, संगठन अक्सर स्वचालित कार्यक्रमों का उपयोग करते हैं, जो अक्सर आर्टिफिशियल इंटेलिजेंस द्वारा संचालित होते हैं, ताकि वे बिना मानवीय सहायता के निर्णय ले सकें और समस्याओं को ठीक कर सकें। ये प्रोग्राम एक सेकंड के अंश में सेवाओं को बढ़ा सकते हैं, सुरक्षा सेटिंग्स बदल सकते हैं, या टूटे हुए घटकों को फिर से शुरू कर सकते हैं। हालाँकि, ये स्वचालित एजेंट उस मानचित्र (map) के आधार पर काम करते हैं जिसका उपयोग उन्हें प्रबंधित करने के लिए किया जाना है। यह मानचित्र नियमों और कॉन्फ़िगरेशन की एक सूची है जो यह बताती है कि सिस्टम कैसा दिखना चाहिए। समस्या तब उत्पन्न होती है जब वास्तविक सिस्टम उन तरीकों से बदल जाता है जिनके बारे में मानचित्र को पता नहीं होता। वह अंतर जो सिस्टम वास्तव में कैसा होना चाहिए और किसी भी दिए गए क्षण में वह वास्तव में कैसा है, के बीच के अंतर को "ड्रिफ्ट" (drift) कहा जाता है। यदि एक स्वचालित एजेंट एक पुराने मानचित्र का उपयोग करके किसी समस्या को ठीक करने की कोशिश करता है, तो वह एक ऐसा परिवर्तन कर सकता है जो मानचित्र के अनुसार तो सुरक्षित है लेकिन वास्तविकता में खतरनाक है। इंजीनियरों के लिए मुख्य चुनौती यह पता लगाना है कि कब मानचित्र इतना अविश्वसनीय हो जाता है कि एजेंट को बदलाव करना बंद कर देना चाहिए और स्थिति को सत्यापित करने के लिए मानव की प्रतीक्षा करनी चाहिए।
शोधकर्ताओं की एक टीम ने इन स्वचालित एजेंटों को नियंत्रित करने का एक नया तरीका विकसित करके इस विशिष्ट समस्या को हल करने के उद्देश्य से काम किया। उन्होंने एक ऐसा सिस्टम बनाया जो लगातार यह जाँचता है कि वास्तविक सिस्टम अपने इच्छित डिज़ाइन से कितना विचलित (drifted) हुआ है। केवल यह देखने के बजाय कि क्या किसी नियम का पालन किया गया है, उनका सिस्टम उस जानकारी की गुणवत्ता को मापता है जिसका एजेंट उपयोग कर रहा है। वे इस अवधारणा को "स्टेट सर्टिफिएबिलिटी" (state certifiability) कहते हैं, जिसका सीधा अर्थ है यह पूछना: क्या हमारे पास पर्याप्त विश्वसनीय साक्ष्य हैं जिससे यह कहा जा सके कि एजेंट की सिस्टम की समझ इतनी सटीक है कि उसे कार्य करने दिया जाए? यदि साक्ष्य कमजोर हैं क्योंकि सिस्टम बहुत अधिक बदल गया है या डेटा बहुत पुराना है, तो सिस्टम स्वचालित रूप से एजेंट की शक्ति को कम कर देता है। यह एजेंट को पूरी तरह से बंद नहीं करता है; इसके बजाय, यह एजेंट को बड़े, जोखिम भरे बदलाव करने से रोकता है, जबकि इसे समस्याओं को ठीक करने और व्यवस्था बहाल करने के लिए डिज़ाइन किए गए छोटे, सुरक्षित कार्यों को करने की अनुमति देता है।
इस विचार का परीक्षण करने के लिए, शोधकर्ताओं ने अमेज़न वेब सर्विसेज (AWS), जो एक लोकप्रिय क्लाउड कंप्यूटिंग प्लेटफॉर्म है, का उपयोग करके एक नियंत्रित वातावरण बनाया। उन्होंने एक ऐसा टेस्टबेड बनाया जहाँ वे ड्रिफ्ट के विभिन्न स्तरों का अनुकरण (simulate) कर सकते थे, जिसमें कोई बदलाव न होने से लेकर योजना और वास्तविकता के बीच गंभीर, अराजक बेमेल तक शामिल थे। उन्होंने हजारों प्रयोग चलाए जहाँ स्वचालित एजेंटों ने सुरक्षा पासवर्ड बदलने, कंप्यूटर वर्कलोड को बढ़ाने, या समझौता किए गए संसाधनों को अलग करने जैसे कार्य करने की कोशिश की। उन्होंने तीन अलग-अलग दृष्टिकोणों की तुलना की: एजेंटों को बिना किसी प्रतिबंध के कार्य करने देना, एक मानक सेट का उपयोग करना जो सिस्टम की स्थिति के आधार पर नहीं बदलता है, और उनके नए "ड्रिफ्ट-अवेयर" (drift-aware) सिस्टम का उपयोग करना जो वास्तविक समय में एजेंट के अधिकार को समायोजित करता है। परिणाम चौंकाने वाले थे। जब सिस्टम गंभीर ड्रिफ्ट की स्थिति में था, तो अनियंत्रित एजेंटों ने 92.3% बार नियमों को तोड़ा। निश्चित नियमों वाले एजेंटों ने 55.2% बार नियमों को तोड़ा। लेकिन नए ड्रिफ्ट-अवेयर सिस्टम द्वारा शासित एजेंटों ने केवल 25% बार नियमों को तोड़ा। इससे यह सिद्ध हुआ कि एजेंट की शक्ति को इस बात पर निर्भर बनाकर कि वह वर्तमान स्थिति को कितनी अच्छी तरह समझता है, शोधकर्ता खतरनाक गलतियों के जोखिम को काफी कम कर सकते हैं।
अध्ययन यह भी पता लगाता है कि क्या होता है जब सिस्टम एक एजेंट को बाहर (lockout) करने का निर्णय लेता है। एक सामान्य डर यह है कि एजेंट को बाहर करने से वह किसी महत्वपूर्ण समस्या को ठीक करने से भी रोक सकता है, जिससे सिस्टम टूटा हुआ रह जाता है। शोधकर्ताओं ने एक विशिष्ट डिज़ाइन का परीक्षण किया जहाँ, लॉकआउट होने के बावजूद, एजेंट को "रिकवरी-ओनली" (केवल सुधार हेतु) कार्यों का एक सीमित सेट करने की अनुमति दी गई थी, जैसे कि किसी समझौता किए गए सर्वर को अलग करना या किसी गलत बदलाव को वापस लेना (rollback)। उन्होंने पाया कि यह दृष्टिकोण एक स्मार्ट मध्य मार्ग है। एक सख्त लॉकआउट जो सभी कार्यों को रोक देता था, ने असुरक्षित गतिविधियों के जोखिम को 80% से अधिक कम कर दिया, लेकिन इसने अधिकांश मामलों में एजेंट को समस्या को ठीक करने से भी रोक दिया। हालाँकि, रिकवरी-ओनली दृष्टिकोण ने असुरक्षित गतिविधियों के जोखिम को लगभग 55% कम कर दिया, जबकि एजेंट को लगभग 84% मामलों में समस्या को सफलतापूर्वक ठीक करने की अनुमति भी दी। इसने प्रदर्शित किया कि यह एक सिस्टम को पंगु बनाए बिना सुरक्षित रखने का एक तरीका है, बशर्ते एजेंट को केवल विशिष्ट, पूर्व-अनुमोदित कदम उठाने की अनुमति दी जाए।
शोध की सबसे महत्वपूर्ण खोजों में से एक "लॉकआउट" बिंदु की प्रकृति के बारे में थी। टीम ने एक विशिष्ट थ्रेशोल्ड (सीमा) निर्धारित की थी जहाँ वे एजेंट के सामान्य संचालन को रोक देंगे, इस उम्मीद में कि यह एक प्राकृतिक ब्रेकिंग पॉइंट होगा जहाँ सिस्टम बहुत खतरनाक हो जाता है। हालाँकि, उनके डेटा ने दिखाया कि जोखिम उस विशिष्ट संख्या पर अचानक नहीं बढ़ा। इसके बजाय, जैसे-जैसे सिस्टम अपनी योजना से दूर होता गया, जोखिम धीरे-धीरे बढ़ता गया। इसका मतलब है कि एजेंट को लॉक आउट करने का निर्णय किसी प्राकृतिक नियम की खोज नहीं है, बल्कि एक संगठनात्मक नीतिगत निर्णय है। यह एक नीतिगत निर्णय है कि "हम कुछ जोखिम स्वीकार करने के लिए तैयार हैं, लेकिन एक बार जब अनिश्चितता इस बिंदु से आगे निकल जाती है, तो हम एजेंट के मानचित्र पर भरोसा नहीं करेंगे।" शोधकर्ताओं ने निष्कर्ष निकाला कि हर स्थिति के लिए कोई एक जादुई नंबर नहीं है; इसके बजाय, संगठनों को अपनी विशिष्ट आवश्यकताओं और जोखिम सहनशीलता के आधार पर अपने स्वयं के सीमाएँ सावधानीपूर्वक चुननी चाहिए।
अध्ययन ने यह भी पुष्टि की कि नया सिस्टम तब भी काम करता है जब वह डेटा जिस पर वह निर्भर है, त्रुटिपूर्ण हो। उन्होंने परीक्षण किया कि जब ड्रिफ्ट के माप थोड़े गलत थे या डेटा थोड़ा पुराना था, तो सिस्टम कैसा प्रदर्शन करता है। सिस्टम मजबूत बना रहा, खतरनाक स्थितियों की सही पहचान की और लगभग सभी मामलों में एजेंट की शक्ति को प्रतिबंधित किया। इसके अलावा, उन्होंने यह सुनिश्चित करने के लिए क्लाउड प्लेटफॉर्म पर वास्तविक, लाइव कमांड का उपयोग करके एक अलग सत्यापन चलाया कि सिस्टम सिमुलेशन के बाहर भी काम करता है। इन वास्तविक दुनिया के परीक्षणों में, नए सिस्टम ने अनधिकृत कार्यों को लगभग 9% से घटाकर केवल 1% से थोड़ा अधिक कर दिया, जिससे यह सिद्ध हुआ कि यह अवधारणा केवल सिद्धांत में ही नहीं, बल्कि व्यवहार में भी काम करती है। शोध सुझाव देता है कि सुरक्षित, स्वचालित क्लाउड संचालन का भविष्य एजेंट के अधिकार को एक लचीले चर (variable) के रूप में मानने में निहित है। यह लगातार यह पूछकर कि क्या एजेंट का ज्ञान किसी विशिष्ट कार्य को उचित ठहराने के लिए पर्याप्त विश्वसनीय है, संगठन अपने स्वचालित सिस्टम को तेजी से और अधिक स्वतंत्र रूप से काम करने दे सकते हैं और साथ ही सुरक्षा पर भी कड़ी पकड़ रख सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।