From obligation to enforcement: mapping EU AI Act and CRA cybersecurity requirements to technical controls for LLM-based autonomous agents
यह शोधपत्र ईयू एआई एक्ट (EU AI Act) और साइबर रेजिलिएंस एक्ट (Cyber Resilience Act) के परिणाम-उन्मुख साइबर सुरक्षा दायित्वों और एलएलएम-आधारित स्वायत्त एजेंटों (LLM-based autonomous agents) के लिए विशेष रूप से तैयार किए गए ठोस तकनीकी नियंत्रणों और सत्यापन साक्ष्यों के साथ उनके प्रावधानों को मैप करके, उनके बीच के अंतर को पाटता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक नए प्रकार के कंप्यूटर प्रोग्राम की कल्पना करें जो केवल प्रश्नों के उत्तर ही नहीं देता बल्कि कार्य भी करता है। इन्हें स्वायत्त एजेंट (autonomous agents) कहा जाता है। ये लार्ज लैंग्वेज मॉडल्स पर आधारित हैं, वही तकनीक जो चैटबॉट्स को शक्ति प्रदान करती है, लेकिन इसमें एक महत्वपूर्ण जुड़ाव है: वे अन्य सॉफ़्टवेयर से जुड़ सकते हैं, ईमेल पढ़ सकते हैं, कोड निष्पादित कर सकते हैं, और बहुत कम मानवीय सहायता के साथ एक लक्ष्य तक पहुँचने के लिए निर्णय ले सकते हैं। इन्हें डिजिटल कर्मचारियों के रूप में सोचें जो अपने काम की योजना स्वयं बना सकते हैं। यह क्षमता शक्तिशाली है, लेकिन यह एक अनूठा खतरा भी पैदा करती है। क्योंकि ये एजेंट निर्देशों और डेटा को एक ही चीज़ मानते हैं, इसलिए किसी संदेश में किया गया एक चतुर छल उन्हें अपने सुरक्षा नियमों को अनदेखा करने और ऐसे कार्य करने के लिए मजबूर कर सकता है जो उन्हें कभी नहीं करने चाहिए, जैसे कि फ़ाइलें हटाना या पासवर्ड चुराना। जैसे-जैसे ये सिस्टम अनुसंधान प्रयोगशालाओं से वास्तविक व्यवसायों में जा रहे हैं, सरकारें यह सुनिश्चित करने के लिए कदम उठा रही हैं कि वे सुरक्षित हों। यूरोपीय संघ के दो प्रमुख कानून, आर्टिफिशियल इंटेलिजेंस एक्ट और साइबर रेजिलिएंस एक्ट, अब इन सिस्टमों को सुरक्षित होने के लिए बाध्य करते हैं। हालाँकि, कानून उन परिणामों का वर्णन करते हैं जिन्हें वे चाहते हैं—जैसे कि "लचीलापन" (resilience) या "सुरक्षा"—बिना यह समझाए कि उन्हें ठीक से कैसे बनाया जाए। यह इंजीनियरों और नियामकों को बिना एक साझा मानचित्र के छोड़ देता है कि सुरक्षित सॉफ़्टवेयर वास्तव में कैसा दिखता है।
अबा्योमी ओगायेमी नामक एक शोधकर्ता ने इस अंतर को भर दिया है और एक विस्तृत मार्गदर्शिका तैयार की है जो इन कानूनी आवश्यकताओं को विशिष्ट तकनीकी चरणों में अनुवादित करती है। "ऑब्लिगेशन टू एनफोर्समेंट" (दायित्व से प्रवर्तन तक) शीर्षक वाला यह शोध पत्र, कानून के अमूर्त नियमों और डेवलपर्स द्वारा लिखे गए ठोस कोड के बीच एक सेतु के रूप में कार्य करता है। लेखक ने दोनों यूरोपीय संघ के नियमों के जटिल कानूनी पाठ को छोटे, प्रबंधनीय कर्तव्यों के टुकड़ों में विभाजित किया। प्रत्येक टुकड़े के लिए, उन्होंने उन विशिष्ट खतरों की पहचान की जो एक स्वायत्त एजेंट को नुकसान पहुँचा सकते हैं और उसे रोकने के लिए एक सिद्ध तकनीकी नियंत्रण के साथ मिलान किया। परिणाम एक स्पष्ट चेकलिस्ट है जो एक कंपनी को बताती है कि उसे क्या बनाना है, इसका परीक्षण कैसे करना है, और कानून का पालन करने का प्रमाण देने के लिए क्या सबूत रखने हैं।
यह अध्ययन इन एजेंटों पर होने वाले दस विशिष्ट हमलों पर केंद्रित है। कुछ हमलों में एजेंट को उसके निर्देशों को अनदेखा करने के लिए बहकाना शामिल है, जबकि अन्य में उस डेटा को विषाक्त करना शामिल है जिसका उपयोग एजेंट सीखने के लिए करता है या उन उपकरणों को जिनका वह काम करने के लिए उपयोग करता है। शोधकर्ता ने पाया कि कानून इन खतरों को कवर करते हैं, लेकिन केवल तभी जब कंपनी को उनकी व्याख्या करना आता हो। उदाहरण के लिए, कानून की मांग है कि सिस्टम "मजबूत" (robust) होना चाहिए, जिसे यह पेपर "निर्देश पदानुक्रम" (instruction hierarchy) की आवश्यकता में अनुवादित करता है। इसका अर्थ है कि सॉफ़्टवेयर के पास सख्त नियमों का एक सेट होना चाहिए जो एजेंट को उपयोगकर्ता के उस आदेश को मानने से रोकता है यदि वह कमांड इसके मूल सुरक्षा सेटिंग्स को ओवरराइड करने की कोशिश करता है। इसी तरह, कानून की "लॉगिंग" (logging) की मांग एक ऐसे अपरिवर्तनीय रिकॉर्ड रखने की आवश्यकता बन जाती है जिसमें एजेंट द्वारा लिए गए प्रत्येक निर्णय का विवरण हो, जिसमें वह डेटा भी शामिल है जिसे उसने देखा और जो कार्य उसने किए, ताकि यदि कुछ गलत हो जाता है, तो जांचकर्ता देख सकें कि वास्तव में क्या हुआ था।
सबसे महत्वपूर्ण निष्कर्षों में से एक यह है कि दो अलग-अलग कानून एक साथ कैसे काम करते हैं। साइबर रेजिलिएंस एक्ट सॉफ़्टवेयर को एक ऐसे उत्पाद के रूप में देखता है जिसे डिफ़ॉल्ट रूप से सुरक्षित होना चाहिए, जबकि आर्टिफिशियल इंटेलिजेंस एक्ट उन जोखिमों पर ध्यान केंद्रित करता है जो सिस्टम लोगों को पहुँचा सकता है। यह पेपर दिखाता है कि यदि कोई कंपनी अपने एजेंट को साइबर रेजिलिएंस एक्ट के सख्त सुरक्षा मानकों को पूरा करने के लिए बनाती है—जैसे कि सभी सॉफ़्टवेयर भागों की एक सूची रखना, एजेंट की पहुंच को सीमित करना, और इसे तुरंत बंद करने का तरीका रखना—तो वे स्वचालित रूप से आर्टिफिशियल इंटेलिजेंस एक्ट की साइबर सुरक्षा आवश्यकताओं को भी पूरा कर लेते हैं। यह कंपनियों के अनुसरण के लिए एक एकल, एकीकृत पथ बनाता है। शोधकर्ता ने यह भी नोट किया कि कानून समस्याओं की रिपोर्ट करने के लिए सख्त समय सीमा निर्धारित करते हैं। यदि कोई ऐसी भेद्यता (vulnerability) पाई जाती है जिसका हैकर्स द्वारा सक्रिय रूप से शोषण किया जा रहा है, तो कंपनी को 24 घंटे के भीतर अधिकारियों को इसकी रिपोर्ट करनी होगी। इसे पूरा करने के लिए, पेपर संदिग्ध गतिविधि का तुरंत पता लगाने और बिना देरी के सही लोगों को सतर्क करने वाले सिस्टम बनाने का सुझाव देता है।
यह पेपर यह दावा नहीं करता है कि इसने हर समस्या को हल कर दिया है। यह बताता है कि कानून अभी भी विस्तृत तकनीकी मानकों के लिखे जाने की प्रतीक्षा कर रहे हैं, जो आने वाले वर्षों में होगा। तब तक, इस शोध द्वारा प्रदान की गई मार्गदर्शिका कंपनियों के लिए यह साबित करने का सबसे अच्छा उपलब्ध तरीका है कि वे सुरक्षित हैं। यह एक कठिन वास्तविकता को भी उजागर करता है: यदि कोई कंपनी अपने एजेंट के "मस्तिष्क" को ओपन सॉफ़्टवेयर के रूप में जारी करती है जिसे कोई भी कॉपी और बदल सकता है, तो वह इस बात पर पूर्ण नियंत्रण नहीं रख सकती कि उस सॉफ़्टवेयर का बाद में कैसे उपयोग किया जाएगा, जिससे कुछ कानूनी कर्तव्यों को लागू करना असंभव हो जाता है। इन चुनौतियों के बावजूद, यह कार्य एक ठोस आधार प्रदान करता है। यह अस्पष्ट कानूनी वादों को एक मूर्त इंजीनियरिंग योजना में बदल देता है, यह सुनिश्चित करता है कि जैसे-जैसे ये शक्तिशाली डिजिटल एजेंट हमारी दुनिया में प्रवेश कर रहे हैं, वे सुरक्षा तंत्रों के साथ बनाए गए हैं जो हमें उनकी संभावित विफलताओं से बचाने के लिए आवश्यक हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।