Redefining AI Red Teaming in the Agentic Era: From Weeks to Hours
यह शोध पत्र ओपन-सोर्स ड्रेडनोड (Dreadnode) SDK पर निर्मित एक एआई रेड टीमिंग एजेंट को प्रस्तुत करता है जो प्राकृतिक भाषा के माध्यम से जटिल सुरक्षा वर्कफ़्लो के निर्माण को स्वचालित करता है, जिससे महत्वपूर्ण एआई प्रणालियों की जांच के लिए आवश्यक समय हफ्तों से घटकर घंटों रह जाता है और पारंपरिक एवं जनरेटिव मॉडलों के परीक्षण को एकीकृत किया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक अत्यधिक उन्नत, नए डिजिटल वॉल्ट (एक AI सिस्टम) की सुरक्षा का परीक्षण करने की कोशिश कर रहे हैं। अतीत में, यह करने के लिए, आपको एक मास्टर लॉकस्मिथ होना पड़ता था जो हफ्तों तक सैकड़ों अद्वितीय चाबियाँ मैन्युअल रूप से बनाने में बिता देता, उन्हें एक-एक करके आज़माता, और फिर इस पर रिपोर्ट लिखता कि कौन सी काम कर गईं। यदि कोई चाबी फिट नहीं बैठती थी, तो आपको शून्य से शुरुआत करनी पड़ती थी। यह वह है जिसे पेपर "लाइब्रेरी-केंद्रित" (library-centered) दृष्टिकोण कहता है: मानव ऑपरेटर सभी भारी काम करने में फंसा रहता है।
यह पेपर एक नया तरीका पेश करता है: "एजेंटिक" (Agentic) दृष्टिकोण।
इस नए सिस्टम को एक सुपर-स्मार्ट, स्वचालित सुरक्षा टीम के रूप में सोचें जिससे आप एक इंसान की तरह बात कर सकते हैं। खुद चाबियाँ बनाने के बजाय, आप बस टीम को बताते हैं, "मैं देखना चाहता हूँ कि क्या इस वॉल्ट को उसके रहस्य बताने के लिए बहकाया जा सकता है," और टीम बाकी सब कुछ खुद संभाल लेती है।
यह कैसे काम करता है, इसका विवरण सरल उपमाओं का उपयोग करते हुए यहाँ दिया गया है:
1. समस्या: "डू-इट-योरसेल्फ" (खुद करने वाला) दुःस्वप्न
वर्तमान में, AI सुरक्षा का परीक्षण करना एक जटिल केक बनाने की कोशिश करने जैसा है जहाँ आपको अपना आटा खुद बनाना पड़ता है, अपने अंडे खुद फेंटने पड़ते हैं, और अपना ओवन खुद बनाना पड़ता है।
- पुराना तरीका: सुरक्षा विशेषज्ञ (ऑपरेटर) "हमले" (बुरे प्रॉम्प्ट्स), "ट्रांसफॉर्म्स" (बुरे इरादे को छिपाने के लिए शब्दों को मोड़ना), और "स्कोअर्स" (यह ग्रेड करने वाले उपकरण कि क्या AI विफल हुआ) को असेंबल करने के लिए कोड लिखने में हफ्तों बिता देते हैं।
- परिणाम: वे AI का परीक्षण करने के बजाय परीक्षण उपकरण बनाने में अधिक समय बिताते हैं। यदि वे एक नए प्रकार के AI का परीक्षण करना चाहते हैं, तो उन्हें अक्सर उपकरणों का एक पूरा नया सेट सीखना पड़ता है।
2. समाधान: "कन्वर्सेशनल सिक्योरिटी चीफ" (संवादात्मक सुरक्षा प्रमुख)
लेखकों ने एक सिस्टम बनाया है (Dreadnode SDK पर आधारित) जो एक बुद्धिमान सहायक के रूप में कार्य करता है।
- प्राकृतिक भाषा (Natural Language): आप कोड नहीं लिखते। आप बस टर्मिनल में एक वाक्य टाइप करते हैं, जैसे: "इस AI को वायरस बनाने के लिए गाइड लिखने के लिए बहकाने की कोशिश करो।"
- एजेंट का काम: AI एजेंट उस वाक्य को लेता है और स्वचालित रूप से:
- सबसे अच्छा "अटैक स्ट्रैटेजी" (जैसे AI को चकमा देने का एक विशिष्ट तरीका) चुनता है।
- "ट्रांसफॉर्म्स" लागू करता है (जैसे अनुरोध को दूसरी भाषा में अनुवाद करना या इसे एक गुप्त कोड में एनकोड करना यह देखने के लिए कि क्या AI के फिल्टर टूट जाते हैं)।
- परीक्षण को हजारों बार चलाता है।
- परिणामों को ग्रेड करता है।
- गति: जिसे करने में पहले हफ्तों का मैन्युअल काम लगता था, अब वह घंटों में हो जाता है।
3. "स्विस आर्मी नाइफ" फ्रेमवर्क
इससे पहले, यदि आप एक साधारण इमेज क्लासिफायर (एक पारंपरिक AI) का परीक्षण करना चाहते थे, तो आपको उपकरणों का एक सेट चाहिए था। यदि आप एक चैटबॉट (एक जनरेटिव AI) का परीक्षण करना चाहते थे, तो आपको पूरी तरह से अलग उपकरणों की आवश्यकता होती थी।
- नया तरीका: यह सिस्टम एक यूनिवर्सल ट्रांसलेटर है। यह सब कुछ टेस्ट करने के लिए एक ही सिंगल इंटरफेस का उपयोग करता है। चाहे लक्ष्य एक चैटबॉट हो, विजन सिस्टम हो, या अन्य टूल्स का उपयोग करने वाला एक जटिल AI एजेंट हो, वही "चीफ" परीक्षण को संभालता है। यह एक ऐसे रिमोट कंट्रोल की तरह है जो आपके टीवी, आपके एसी और आपके साउंड सिस्टम तीनों पर काम करता है, बजाय इसके कि आपको तीन अलग-अलग रिमोट की आवश्यकता हो।
4. "लामा स्काउट" (Llama Scout) टेस्ट ड्राइव
यह काम कैसे करता है, इसे साबित करने के लिए, लेखकों ने मेटा के लामा स्काउट (Meta's Llama Scout) नामक एक वास्तविक AI मॉडल का परीक्षण किया।
- मिशन: उन्होंने एजेंट को AI के हानिकारक कंटेंट (जैसे मैलवेयर बनाना, पासवर्ड चुराना, या आत्म-नुकसान की सलाह देना) से संबंधित सुरक्षा नियमों को तोड़ने की कोशिश करने के लिए कहा।
- परिणाम: एजेंट ने यह सब अपने आप किया। उसने केवल 3 घंटों में 674 अलग-अलग हमले और 7,727 ट्रायल चलाए।
- स्कोर: वह 85% समय में AI के सुरक्षा नियमों को तोड़ने में सफल रहा।
- "जीरो कोड" चमत्कार: मानव ऑपरेटर ने कोड की एक भी पंक्ति नहीं लिखी। उन्होंने बस लक्ष्य का वर्णन किया, और एजेंट ने बाकी सब कुछ कर दिया।
5. "ऑटो-रिपोर्टर"
जब परीक्षण समाप्त हो जाता है, तो सिस्टम केवल कच्चे डेटा का ढेर आप पर नहीं फेंकता है।
- पुराना तरीका: आपको हजारों नंबरों वाली एक स्प्रेडशीट मिलती है और आपको समझना पड़ता है कि उनका क्या अर्थ है।
- नया तरीका: सिस्टम एक स्मार्ट पत्रकार की तरह कार्य करता है। यह सभी परिणामों को पढ़ता है, एक स्पष्ट रिपोर्ट लिखता है, सबसे खतरनाक विफलताओं (जैसे "क्रिटिकल" या "हाई" गंभीरता) को उजागर करता है, और स्वचालित रूप से उन्हें आधिकारिक अनुपालन लेबल (जैसे "OWASP" या "NIST" मानक) के साथ टैग करता है। यह आपको बताता है कि वास्तव में क्या गलत हुआ और इसे कैसे ठीक किया जाए।
सारांश
पेपर का तर्क है कि हम उस युग से निकल रहे हैं जहाँ मनुष्यों को मैकेनिक (स्वयं परीक्षण उपकरण बनाना) होना पड़ता था और उस युग में प्रवेश कर रहे हैं जहाँ मनुष्य पायलट (मशीन को बताना कि कहाँ उड़ना है) होते हैं।
एक "एजेंटिक" सिस्टम का उपयोग करके, सुरक्षा टीमें परीक्षण उपकरण जोड़ने में समय बर्बाद करना बंद कर सकती हैं और वास्तव में मिशन पर ध्यान केंद्रित कर सकती हैं: बुरे तत्वों द्वारा खामियां खोजने से पहले AI सुरक्षा में मौजूद छेदों को ढूंढना और उन्हें ठीक करना। पेपर का दावा है कि यह प्रक्रिया जो पहले हफ्तों में चलती थी, उसे यह घंटों में बदल देता है, और वह भी बिना एक भी लाइन कोड लिखे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।