Concepts for Securing Agentic AI Coding and the Terok Environment
यह शोधपत्र सॉफ्टवेयर विकास में एजेंटिक एआई (Agentic AI) द्वारा उत्पन्न महत्वपूर्ण आईटी सुरक्षा जोखिमों को संबोधित करते हुए इन खतरों का एक व्यापक मूल्यांकन प्रस्तुत करता है, एक ऐसी शमन रणनीति प्रस्तावित करता है जो इस तकनीक के लाभों को सुरक्षित रखती है, और सुरक्षित एवं जिम्मेदार अपनाने को सक्षम करने के लिए इस अवधारणा के कार्यान्वयन का विवरण देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक नए प्रकार के सॉफ़्टवेयर सहायक की कल्पना करें जो केवल निर्देशों की प्रतीक्षा नहीं करता है, बल्कि उन पर कार्य भी करता है। कंप्यूटर प्रोग्रामिंग की दुनिया में, यह बदलाव एक ऐसे उपकरण से एक साथी की ओर बढ़ने का प्रतिनिधित्व करता है जो न केवल कोड का सुझाव देता है, बल्कि उसे लिख सकता है, उसका परीक्षण कर सकता है और निरंतर मानवीय पर्यवेक्षण के बिना अपनी गलतियों को सुधार सकता है। इसे एजेंटिक आर्टिफिशियल इंटेलिजेंस (agentic artificial intelligence) के रूप में जाना जाता है। जबकि यह तकनीक सॉफ़्टवेयर विकास को तेज़ और अधिक कुशल बनाने का वादा करती है, यह एक अनूठी और गंभीर समस्या पेश करती है: सहायक होने के लिए, एजेंट के पास आपके कंप्यूटर पर फ़ाइलों को बदलने, कमांड चलाने और इंटरनेट तक पहुँचने की शक्ति होनी चाहिए। यही शक्ति, यदि एजेंट कोई गलती करता है या उसे धोखा दिया जाता है, तो उसे आपका निजी डेटा चुराने, हानिकारक सॉफ़्टवेयर इंस्टॉल करने या आपके सिस्टम को नुकसान पहुँचाने की अनुमति दे सकती है। डेवलपर्स के सामने सवाल यह है कि इस शक्तिशाली नए उपकरण का उपयोग कैसे किया जाए बिना इसे बेकाबू हुए।
जर्मनी में सेंटर फॉर एडवांस्ड सिस्टम्स अंडरस्टैंडिंग और हेल्म्सहोल्ट्ज़-ज़ेंट्रम ड्रेसडेन-रोसेनडॉर्फ के शोधकर्ताओं की एक टीम ने इन स्वायत्त कोडिंग एजेंटों के लिए विशेष रूप से एक सुरक्षित वातावरण डिजाइन करके इस चुनौती का समाधान किया है। उनका तर्क है कि एजेंट को स्वतंत्र रूप से काम करने देने के लाभ—जैसे कि कोड को स्वचालित रूप से संकलित करने, परीक्षण करने और त्रुटियों को सुधारने की इसकी क्षमता—इतने मूल्यवान हैं कि उन्हें अनदेखा नहीं किया जा सकता, लेकिन वे गंभीर जोखिमों के साथ आते जिन्हें केवल एजेंट को व्यवहार करने के लिए कहने से हल नहीं किया जा सकता। एजेंट के दिमाग को नियंत्रित करने के बजाय, शोधकर्ताओं ने इसके चारों ओर एक भौतिक और डिजिटल बाधा बनाई। उन्होंने टेरोक (Terok) नामक एक प्रणाली बनाई, जो एक सुरक्षित सैंडबॉक्स के रूप में कार्य करती है जहाँ एजेंट स्वतंत्र रूप से काम कर सकता है, लेकिन केवल सख्त सीमाओं के भीतर जो कंप्यूटर और व्यापक इंटरनेट की रक्षा करती है।
उनके समाधान का मूल आधार पृथक्करण (separation) की अवधारणा है। शोधकर्ता कोडिंग एजेंट को 'अविश्वसनीय' (untrusted) मानते हैं, जिसका अर्थ है कि वे मानकर चलते हैं कि वह अनजाने में या जानबूझकर नुकसान पहुँचा सकता है। इसे प्रबंधित करने के लिए, वे एजेंट को एक कंटेनर में अलग करते हैं, जो कंप्यूटर पर एक हल्का, स्व-निहित स्थान है जहाँ एजेंट अपनी इच्छानुसार कोई भी कमांड चला सकता है बिना आपकी व्यक्तिगत फ़ाइलों या मुख्य ऑपरेटिंग सिस्टम को प्रभावित किए। यदि एजेंट कोई वायरस इंस्टॉल करने या फ़ाइल हटाने की कोशिश करता है, तो यह केवल इसी अलग किए गए स्थान को प्रभावित करेगा, जिससे बाकी कंप्यूटर अछूता रहेगा। यह अलगाव सुरक्षा की पहली पंक्ति है, जो यह सुनिश्चित करती है कि भले ही एजेंट किसी वायरस की तरह व्यवहार करे, वह अपने पिंजरे से बाहर नहीं निकल सकता।
हालाँकि, अलगाव अकेले पर्याप्त नहीं है क्योंकि एजेंट को कोड लाइब्रेरी डाउनलोड करने या उसे संचालित करने वाली आर्टिफिशियल इंटेलिजेंस सेवा से बात करने के लिए बाहरी दुनिया के साथ संवाद करने की आवश्यकता होती है। इसे संभालने के लिए, शोधकर्ताओं ने दूसरा सुरक्षा स्तर जोड़ा है: एक सख्त फायरवॉल जो हर बाहरी कनेक्शन को नियंत्रित करता है। डिफ़ॉल्ट रूप से, एजेंट को किसी भी बाहरी सर्वर से संपर्क करने से रोका जाता है। यदि एजेंट को अपना काम करने के लिए किसी विशिष्ट वेबसाइट तक पहुँचने की आवश्यकता होती है, तो सिस्टम मानव उपयोगकर्ता से अनुमति मांगता है। यह एजेंट को गलती से निजी डेटा गलत जगह भेजने या किसी समझौता किए गए स्रोत से दुर्भावनापूर्ण सॉफ़्टवेयर डाउनलोड करने से रोकता है।
तीसरा और शायद सबसे चतुर सुरक्षा उपाय यह है कि एजेंट प्रोजेक्ट के कोड रिपॉजिटरी (जो सॉफ़्टवेयर कोड का केंद्रीय स्थान है जहाँ कोड संग्रहीत और साझा किया जाता है) के साथ कैसे इंटरैक्ट करता है। मुख्य प्रोजेक्ट में सीधे लिखने देने के बजाय, सिस्टम उस रिपॉजिटरी की एक अस्थायी, स्थानीय प्रति (mirror) बनाता है। एजेंट उस प्रति पर काम करता है, बदलाव करता है और उसे वास्तविक चीज़ की तरह कमिट करता है। एक बार जब एजेंट अपना कार्य पूरा कर लेता है, तो मानव उपयोगकर्ता उस स्थानीय प्रति में परिवर्तनों की समीक्षा करता है। केवल उपयोगकर्ता द्वारा कार्य को अनुमोदित करने के बाद ही इसे मुख्य प्रोजेक्ट में भेजा जाता है। यह सुनिश्चित करता है कि एजेंट द्वारा डाले गए किसी भी छिपे हुए त्रुटि या दुर्भावनापूर्ण कोड को सार्वजनिक या टीम के साझा कोडबेस तक पहुँचने से पहले ही पकड़ लिया जाए।
अंत में, सिस्टम उन गुप्त कुंजियों (secret keys) और पासवर्ड की रक्षा करता है जिनकी एजेंट को कार्य करने के लिए आवश्यकता होती है। ये क्रेडेंशियल्स, जैसे कि आर्टिफिशियल इंटेलिजेंस सेवा से बात करने के लिए पासवर्ड या कोड रिपॉजिटरी तक पहुँचने की कुंजी, एजेंट के अलग किए गए स्थान के बाहर सुरक्षित रूप से संग्रहीत हैं। जब एजेंट को उनकी आवश्यकता होती है, तो सिस्टम जानकारी को अंतिम क्षण में इंजेक्ट करता है बिना एजेंट को वास्तविक गुप्त जानकारी देखने या कॉपी करने दिए। यह एक समझौता किए गए एजेंट को इन कुंजियों को चुराने और इनका उपयोग अन्य सिस्टमों पर हमला करने या उपयोगकर्ता के रूप में छद्म रूप धारण करने के लिए करने से रोकता है।
शोधकर्ता टेरोक को एक ओपन-सोर्स सॉफ़्टवेयर वातावरण के रूप में प्रस्तुत करते हैं जो इन सुरक्षा अवधारणाओं को लागू करता है। वे प्रस्तावित करते हैं कि यह तरीका डेवलपर्स को एजेंटिक आर्टिफिशियल इंटेलिजेंस की पूरी शक्ति का उपयोग करने की अनुमति देता है—इसे जटिल कार्य करने, अपनी त्रुटियों को ठीक करने और इंटरनेट से प्रश्न पूछने देने के लिए—जबकि जोखिमों को सीमित रखा जाता है। यह प्रणाली एजेंट के गलती करने या धोखा खाने की संभावना को समाप्त नहीं करती है, लेकिन यह सुनिश्चित करती है कि ऐसी घटनाओं के परिणाम केवल अलग किए गए वातावरण तक सीमित रहें और आपके व्यक्तिगत डेटा या व्यापक नेटवर्क तक न फैलें।
यह कार्य यह दावा नहीं करता है कि यह एक स्थायी या पूर्ण समाधान है, क्योंकि आर्टिफिशियल इंटेलिजेंस का क्षेत्र बहुत तेज़ी से आगे बढ़ रहा है। शोधकर्ता स्वीकार करते हैं कि नए प्रकार के जोखिम उभर सकते हैं और सिस्टम को विकसित होने की आवश्यकता होगी। वे यह भी नोट करते हैं कि कुछ जोखिम, जैसे कि यदि मनुष्य इन उपकरणों पर बहुत अधिक निर्भर हो जाते हैं तो वे कोडिंग करना भूल सकते हैं, उन्हें केवल तकनीक से हल नहीं किया जा सकता। हालाँकि, उनका दृष्टिकोण एजेंटिक कोडिंग के लिए एक व्यावहारिक और सुरक्षित तरीका प्रदान करता है। एक सुरक्षित स्थान बनाकर जहाँ इन शक्तिशाली उपकरणों का परीक्षण और जिम्मेदारी से उपयोग किया जा सके, शोधकर्ता कोडिंग समुदाय को उन गंभीर सुरक्षा जोखिमों के बिना इस तकनीक को अपनाने के लिए प्रोत्साहित करने की आशा करते हैं जो वर्तमान में इसे रोक कर रखे हुए हैं। परिणाम एक ऐसा सिस्टम है जो नई क्षमताओं के उत्साह और सुरक्षा की आवश्यकता के बीच संतुलन बनाता है, जिससे मनुष्य नियंत्रण में रहते हुए मशीनें भारी काम कर सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।