Agentic Security: A Systematization of Tools, Failure Modes, and Design Laws for LLM-Driven Penetration Testing
यह शोध पत्र एक व्यावहारिक मूल्यांकन के माध्यम से LLM-संचालित पेनिट्रेशन टेस्टिंग टूल्स की परिचालन विफलताओं को व्यवस्थित करता है, जिससे रोबस्ट एजेंटिक सुरक्षा प्रणालियों के निर्माण के मार्गदर्शन हेतु मात्रात्मक डिज़ाइन नियम और एक चार-आयामी घर्षण सूचकांक (friction index) प्राप्त होता है, जैसा कि इंस्पेक्ट्रा (Inspectra) प्लेटफॉर्म द्वारा उदाहरण स्वरूप प्रस्तुत किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कंप्यूटर सुरक्षा की दुनिया में, बुरे लोगों के आने से पहले सिस्टम में घुसपैठ करने के लिए कुशल मनुष्यों को काम पर रखने की एक लंबे समय से चली आ रही परंपरा है। ये विशेषज्ञ, जिन्हें पेनिट्रेशन टेस्टर (penetration testers) कहा जाता है, अपना दिन सॉफ्टवेयर, नेटवर्क और क्लाउड इंफ्रास्ट्रक्चर में छिपे हुए दोषों को खोजने में बिताते हैं। वे कमजोर पासवर्ड, अनपैच्ड छेद और लॉजिक एरर (logic errors) की तलाश करते हैं जो किसी अपराधी को डेटा चुराने या नियंत्रण लेने की अनुमति दे सकते हैं। दशकों तक, यह काम एक मैनुअल, मानव-संचालित शिल्प रहा है। हालाँकि, एक नई शक्ति इस क्षेत्र में प्रवेश कर चुकी है: आर्टिफिशियल इंटेलिजेंस। विशेष रूप से, लार्ज लैंग्वेज मॉडल्स (large language models)—विशाल मात्रा में टेक्स्ट पर प्रशिक्षित सिस्टम जो मानव भाषा को समझ और उत्पन्न कर सकते हैं—अब इन सुरक्षा विशेषज्ञों का काम करने के लिए कहे जा रहे हैं। विचार "एजेंटिक" (agentic) सिस्टम बनाने का है: ऐसा सॉफ्टवेयर जो न केवल कोड पढ़ सके और नेटवर्क को स्कैन कर सके, बल्कि हमलों की योजना बना सके, उन्हें निष्पादित कर सके और रिपोर्ट भी लिख सके, वह भी बिना किसी इंसान के मार्गदर्शन के। यह बदलाव सुरक्षा परीक्षण को तेज़ और सस्ता बनाने का वादा करता है, लेकिन यह समस्याओं का एक नया सेट भी पेश करता है। जब आप एक जटिल, खतरनाक काम को ऐसी मशीन को सौंप देते हैं जो निश्चितताओं के बजाय संभावनाओं में सोचती है, तो मशीन ऐसी गलतियाँ कर सकती है जो एक इंसान कभी नहीं करेगा, या इससे भी बुरा, वह जो उसने पाया है उसके बारेв में आत्मविश्वास के साथ झूठ बोल सकती है।
शोधकर्ताओं की एक टीम ने यह समझने के लिए हाथ डाला कि जब इन AI सुरक्षा एजेंटों को अकेले काम करने के लिए छोड़ दिया जाता है, तो वे वास्तव में कैसे व्यवहार करते हैं। उन्होंने केवल एक सैद्धांतिक मॉडल नहीं बनाया; उन्होंने 'इंस्पेक्ट्रा' (Inspectra) नामक एक वास्तविक, कामकाजी प्लेटफॉर्म बनाया और इसे विभिन्न सुरक्षा उपकरणों के विरुद्ध परखा। उनका लक्ष्य इस बात के हाइप (hype) से आगे बढ़ना था कि ये एजेंट क्या कर सकते हैं, और उन कठिन इंजीनियरिंग वास्तविकताओं का दस्तावेजीकरण करना था कि वे वास्तव में क्या करते हैं जब चीजें गलत होती हैं। उन्होंने पाया कि सबसे बड़ी बाधाएं AI की बुद्धिमत्ता की कमी नहीं थीं, बल्कि उस संरचना की कमी थी जिसमें सिस्टम को बनाया गया था। उन्होंने विशिष्ट, अनुमानित विफलता के पैटर्न की पहचान की जो तब होते हैं जब एक AI बहुत अधिक याद रखने की कोशिश करता है, जब वह अपने स्वयं के काम का निर्णय लेने की कोशिश करता है, और जब उसे एक ऐसा बजट दिया जाता है जिसे वह नियंत्रित नहीं कर सकता।
टीम को सामना की गई सबसे तात्कालिक समस्याओं में से एक स्मृति (memory) का मुद्दा था। कल्पना कीजिए कि एक AI एजेंट एक लंबी जांच शुरू करता है, हजारों लाइनों का कोड पढ़ता है और दर्जनों परीक्षण चलाता है। जैसे-जैसे जांच आगे बढ़ती है, उस जानकारी की मात्रा जिसे उसे अपने "मन" में रखना है, बढ़ती जाती है। अंततः, सिस्टम के पास उस सारी जानकारी को रखने के लिए जगह खत्म हो जाती है। मानवीय शब्दों में, यह एक लंबी बातचीत के हर विवरण को याद रखने की कोशिश करने जैसा है जबकि बोलने वाला व्यक्ति बोलना जारी रखता है; शुरुआती विवरण बस धुंधले पड़ जाते हैं। शोधकर्ताओं ने पाया कि जब एक AI एजेंट एक लंबे, निरंतर सत्र में काम करता है, तो वह अनिवार्य रूप से स्कैन की शुरुआत में एकत्र किए गए साक्ष्यों को भूल जाता है। अपनी रिपोर्ट लिखने के अंत तक पहुँचते-पहुँचते, वह आत्मविश्वास के साथ उन फाइलों का वर्णन कर सकता है जिन्हें उसने वास्तव में कभी खोला ही नहीं, या उन कमजोरियों को खोजने का दावा कर सकता है जो घंटों पहले दर्ज की गई थीं लेकिन अब उसकी स्मृति से मिट चुकी हैं। उन्होंने जो समाधान प्रस्तावित किया वह काम को छोटे, विशिष्ट चरणों में तोड़ना था। एक लंबी बातचीत के बजाय, सिस्टम अल्पकालिक एजेंटों की एक श्रृंखला का उपयोग करता है। प्रत्येक एजेंट काम का एक छोटा हिस्सा करता है, अपने निष्कर्षों को एक स्थायी, व्यवस्थित फ़ाइल में लिखता है, और फिर रुक जाता है। अगला एजेंट उस फ़ाइल के केवल एक संक्षिप्त सारांश को पढ़ता है, न कि कच्चे डेटा (raw data) को। यह दृष्टिकोण सिस्टम को बहुत बड़े कार्यों को संभालने की अनुमति देता है, जिससे वह अपनी जगह नहीं खोता, प्रभावी रूप से उस क्षितिज का विस्तार करता है जिसे AI याद रख सकता है।
एक अन्य महत्वपूर्ण विफलता मोड इसमें शामिल था कि सिस्टम अपनी सफलता का निर्णय कैसे लेता है। जब एक AI रेड-टीमिंग टूल किसी सिस्टम को तोड़ने की कोशिश करता है, तो उसे यह तय करने के लिए एक तरीके की आवश्यकता होती है कि क्या हमला वास्तव में सफल रहा। शोधकर्ताओं ने पाया कि कई स्वचालित उपकरण कुछ कीवर्ड्स देखते ही "हाँ, यह काम कर गया" कहने के लिए बहुत उत्सुक थे, भले ही हमला विफल हो गया हो। इससे झूठी चेतावनियों (false alarms) की बाढ़ आ गई। इसे ठीक करने के लिए, टीम ने एक दो-चरणीय सत्यापन प्रक्रिया डिजाइन की। पहले, एक त्वरित, सस्ता चेक स्पष्ट विफलताओं को फ़िल्टर करेगा। फिर, दूसरा, अधिक सावधानीपूर्वक जज केवल उन मामलों की समीक्षा करेगा जो पहले चेक में पास हो गए। महत्वपूर्ण रूप से, यह दूसरा जज पहले वाले से अलग प्रकार का सिस्टम होना चाहिए; यदि दोनों जज एक ही प्रकार के AI होंगे, तो वे एक ही तरह की गलतियाँ करेंगे और दूसरा चेक बेकार हो जाएगा। दो अलग-अलग सिस्टमों का उपयोग करके परिणामों को सत्यापित करके, टीम ने झूठी चेतावनियों की संख्या को नाटकीय रूप से कम कर दिया, जिससे अंतिम रिपोर्ट बहुत अधिक विश्वसनीय हो गई। उन्होंने एक सूक्ष्म लेकिन खतरनाक पूर्वाग्रह (bias) भी पाया: यदि कोई हमला उस तरह से विफल हुआ जिसे सिस्टम समझ नहीं सका, तो सॉफ्टवेयर अक्सर उसे सफलता के रूप में रिकॉर्ड करता था। इसका मतलब था कि सबसे खतरनाक, मायावी हमले वे थे जिनके छिपने या गलत लेबल होने की संभावना सबसे अधिक थी, जिससे सुरक्षा की झूठी भावना पैदा होती थी।
शोधकर्ताओं ने लागत और नियंत्रण की समस्या पर भी काम किया। सुरक्षा उपकरण अप्रत्याशित हो सकते हैं; कुछ सेकंडों में चलते हैं, जबकि अन्य घंटों तक चलते रह सकते हैं, जिससे भारी मात्रा में पैसा और कंप्यूटिंग शक्ति खर्च होती है। टीम ने दिखाया कि केवल एक टेक्स्ट निर्देश में AI को "बहुत अधिक समय खर्च न करें" कहना पर्याप्त नहीं है। AI निर्देश को अनदेखा कर सकता है, या वह जो कुछ पढ़ रहा है उससे विचलित होकर नियम को भूल सकता है। इसके बजाय, सिस्टम को एक कठोर, बाहरी गेटकीपर (gatekeeper) की आवश्यकता होती है—कोड का एक टुकड़ा जो AI की निर्णय लेने की प्रक्रिया के बाहर बैठता है। यह गेटकीपर एक टूल कितनी देर तक चल सकता है और कितना खर्च कर सकता है, इस पर सख्त सीमाएं लागू करता है, और सीमा पर पहुँचते ही उसे काट देता है। यह सुनिश्चित करता है कि AI गलती से किसी प्रोजेक्ट को दिवालिया न कर दे या उस सर्वर को स्कैन न करे जिसे छूने के लिए वह अधिकृत नहीं है। शोधकर्ताओं ने इस बात पर जोर दिया कि AI को कभी भी अपनी सुरक्षा या बजट पर अंतिम अधिकार नहीं होना चाहिए; वह भूमिका हमेशा एक अलग, अपरिवर्तनीय कोड की परत की होनी चाहिए।
अंत में, टीम ने स्वयं टूल्स (tools) को देखा। उन्होंने दस अलग-अलग सुरक्षा स्कैनर का परीक्षण किया और पाया कि जो टूल्स हाथ से चलाना सबसे आसान थे, वे अक्सर स्वचालित प्रणाली में उपयोग करने के लिए सबसे कठिन थे। कई टूल्स को एक इंसान के लिए डिज़ाइन किया गया था जो लॉगिन स्क्रीन पर क्लिक करे और फिर सत्र (session) को स्कैनर को सौंप दे। जब एक AI ने ऐसा करने की कोशिश की, तो वह अक्सर विफल रहा क्योंकि लॉगिन प्रक्रिया बहुत जटिल थी या टूल यह नहीं समझ पाया कि लॉग इन कैसे बने रहें। शोधकर्ताओं ने एक पैटर्न विकसित किया जहाँ एक अलग ब्राउज़र ऑटोमेशन टूल लॉगिन को संभालता है, और फिर स्कैनर को एक साफ, प्रमाणित लिंक की सूची सौंपता है। कर्तव्यों के इस सरल अलगाव ने कई एकीकरण (integration) की समस्याओं को हल कर दिया। उन्होंने यह भी नोट किया कि AI सुरक्षा नीतियों का परिदृश्य अस्थिर है; एक मॉडल जो आज एक सुरक्षा परीक्षण की अनुमति देता है, वह प्रदाता के नियमों में बदलाव के कारण कल उसे ब्लॉक कर सकता है। इसका मतलब है कि इन टूल्स पर निर्मित किसी भी सिस्टम को इन अंडरलाइंग AI मॉडल्स को बदले बिना पूरे वर्कफ़्लो को तोड़े बिना बदलने के लिए पर्याप्त लचीला होना चाहिए।
पेपर इस निष्कर्ष पर निकलता है कि स्वचालित सुरक्षा का भविष्य AI को अधिक स्मार्ट बनाने में नहीं, बल्कि इसके चारों ओर एक बेहतर संरचना बनाने में है। सबसे प्रभावी सिस्टम वे हैं जो AI को एक शक्तिशाली लेकिन त्रुटिपूर्ण कार्यकर्ता के रूप में देखते हैं, जो नियमों, छोटी मेमोरी साइकिलों और स्वतंत्र जाँचों के एक कठोर ढांचे से घिरा हुआ है। यह स्वीकार करके कि AI भूल जाएगा, गलतियाँ करेगा, और कभी-कभी निर्देशों को अनदेखा भी करेगा, इंजीनियर ऐसे सिस्टम बना सकते हैं जो वास्तविक दुनिया को संभालने के लिए पर्याप्त मजबूत हों। शोधकर्ताओं का कार्य प्रायोगिक प्रदर्शनों से लेकर विश्वसनीय, तैनात उत्पादों तक जाने के लिए एक ब्लूप्रिंट प्रदान करता है, यह सुनिश्चित करता है कि जब एक AI सुरक्षा एजेंट कहता है कि उसने एक खामी ढूंढ ली है, तो उसने वास्तव में उसे पाया है, और उसने ऐसा बिना बजट या नियमों को तोड़े किया है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।