Co-RedTeam: Orchestrated Security Discovery and Exploitation with LLM Agents
Co-RedTeam एक सुरक्षा-जागरूक मल्टी-एजेंट फ्रेमवर्क है जो वास्तविक दुनिया के रेड-टीमिंग वर्कफ़्लो को प्रतिबिंबित करते हुए, निष्पादन-आधारित तर्क (execution-grounded reasoning), संरचित अंतःक्रिया और दीर्घकालिक स्मृति के साथ LLMs का लाभ उठाकर स्वचालित भेद्यता खोज और शोषण में मौजूदा बेसलाइन से काफी बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक विशाल, जटिल घर (एक सॉफ्टवेयर कोडबेस) है और आप हर उस तरीके को खोजना चाहते हैं जिससे कोई चोर अंदर घुस सकता है। पारंपरिक रूप से, आप सुरक्षा विशेषज्ञों की एक टीम को काम पर रखेंगे जो हर कमरे में जाएगी, हर खिड़की की जांच करेगी और हर ताले को खोलने की कोशिश करेगी। इसमें बहुत समय लगता है, बहुत पैसा खर्च होता है, और इसे बड़े पैमाने पर लागू करना कठिन है।
यह शोध पत्र Co-RedTeam का परिचय देता है, जो एक नया सिस्टम है जो आर्टिफिशियल इंटेलिजेंस (विशेष रूप से लार्ज लैंग्वेज मॉडल्स या "LLMs") का उपयोग एक स्वचालित, सुपर-स्मार्ट सुरक्षा विशेषज्ञों की टीम के रूप में करने के लिए करता है। केवल एक AI के अनुमान लगाने के बजाय, Co-RedTeam विशेष रूप से प्रशिक्षित AI एजेंटों के एक समूह को व्यवस्थित करता है जो मिलकर काम करते हैं, ठीक वैसे ही जैसे एक वास्तविक मानव रेड-टीमिंग टीम करती है।
यह कैसे काम करता है, यहाँ सरल उपमाओं के साथ समझाया गया है:
पुराने AI सुरक्षा उपकरणों के साथ समस्या
AI का उपयोग करके की गई पिछली कोशिशें ऐसी थीं जैसे किसी एक रोबोट को एक नक्शा देना और कहना, "कमजोरी ढूंढो।"
- समस्या: रोबोट अक्सर गलत अनुमान लगाता था, अटक जाता था, या बिना यह जांचे कि उसकी योजना वास्तव में काम कर रही है या नहीं, घुसने की कोशिश करता था। इसमें "ग्राउंडिंग" (grounding) की कमी थी—वह वास्तव में यह नहीं देख पाता था कि उसके विचार वास्तविक दुनिया में काम कर रहे हैं या नहीं। वह पिछली कोशिशों से सीखी गई बातों को भी भूल जाता था।
Co-RedTeam समाधान: एक विशेष SWAT टीम
Co-RedTeam एक अकेले भेड़िये के बजाय एक समन्वित SWAT टीम की तरह काम करके इस समस्या को हल करता है। यह काम को दो मुख्य चरणों में विभाजित करता है, जिसका प्रबंधन एक "टीम लीडर" (Orchestrator) द्वारा किया जाता है।
चरण 1: जासूसी कार्य (Vulnerability Discovery)
अंदर घुसने की कोशिश करने से पहले, टीम को यह जानने की जरूरत है कि कहाँ देखना है।
- एनालिस्ट एजेंट (Analyst Agent): यह एजेंट आवर्धक लेंस (magnifying glass) के साथ एक जासूस की तरह है। यह केवल कोड को पढ़ता नहीं है; यह पूरे "घर" (कोडबेस) को ब्राउज़ करने के लिए विशेष उपकरणों का उपयोग करता है, ब्लूप्रिंट (फाइल स्ट्रक्चर) को देखता है और नियमों (CWE और OWASP जैसी सुरक्षा दस्तावेज़ों) की जाँच करता है। यह उन सुरागों की तलाश करता है जो संकेत देते हैं कि कोई ताला कमजोर हो सकता है।
- क्रिटिक एजेंट (Critic Agent): यह एजेंट एक संदेही संपादक की तरह है। जब एनालिस्ट एक संभावित कमजोरी पाता है, तो क्रिटिक कहता है, "क्या तुम सुनिश्चित हो? मुझे सबूत दिखाओ।" यदि सबूत कमजोर हैं, तो क्रिटिक एनालिस्ट को और अधिक गहराई से देखने के लिए वापस भेज देता है। यह आपसी संवाद सुनिश्चित करता है कि वे गलत चेतावनियों (false alarms) पर समय बर्बाद न करें।
चरण 2: घुसपैठ (Iterative Exploitation)
एक बार जब एक संभावित कमजोरी मिल जाती है, तो टीम यह साबित करने के लिए कि वह मौजूद है, वास्तव में अंदर घुसने की कोशिश करती है।
- प्लानर एजेंट (Planner Agent): यह एजेंट एक रणनीतिकार है। दीवार पर अंधाधुंध पत्थर फेंकने के बजाय, यह एक चरण-दर-चरण योजना लिखता है: "चरण 1: खिड़की खोलें। चरण 2: सीढ़ी चढ़ें।"
- एक्जीक्यूशन एजेंट (Execution Agent): यह वह "शक्ति" है जो एक सुरक्षित, अलग परिवेश (sandbox - लक्ष्य का एक डिजिटल सिमुलेशन) के भीतर योजना को वास्तव में आज़माती है। यह कोड या कमांड चलाता है ताकि यह देखा जा सके कि घुसपैठ सफल हुई या नहीं।
- इवैल्यूएशन एजेंट (Evaluation Agent): यह एजेंट परिणाम पर नज़र रखता है। क्या खिड़की खुली? क्या अलार्म बजा? यह प्लानर को फीडबैक देता है, "यह काम नहीं किया क्योंकि खिड़की अंदर से बंद थी।"
- लूप (The Loop): प्लानर इस फीडबैक को सुनता है, योजना को अपडेट करता है ("ठीक है, पिछले दरवाजे को आजमाएं"), और टीम फिर से प्रयास करती है। वे अपनी योजना को तब तक परिष्कृत करते रहते हैं जब तक कि वे सफलतापूर्वक अंदर नहीं घुस जाते या यह साबित नहीं कर देते कि यह असंभव है।
गुप्त हथियार: "एक्सपीरियंस नोटबुक" (दीर्घकालिक स्मृति)
Co-RedTeam के सबसे बड़े नवाचारों में से एक इसकी दीर्घकालिक स्मृति (Long-Term Memory) है।
- उपमा: कल्पना कीजिए कि एक मानव विशेषज्ञ, किसी मामले को सुलझाने के बाद, अपनी डायरी में एक नोट लिखता है: "याद रखें, जब दरवाजा लॉक हो, तो हैंडल के बजाय मेल स्लॉट के कीहोल (keyhole) को आजमाएं।"
- यह कैसे काम करता है: Co-RedTeam तीन प्रकार के नोट्स सुरक्षित करता है:
- पैटर्न (Patterns): "इस प्रकार का कोड आमतौर पर इस विशिष्ट कमजोरी को दर्शाता है।"
- रणनीतियाँ (Strategies): "इस तरह के सिस्टम का सामना करते समय, कॉन्फ़िगरेशन फ़ाइलों की जाँच से शुरुआत करें।"
- तकनीकी तरकीबें (Technical Tricks): "इस विशिष्ट कमांड ने उस फायरवॉल को बायपास करने में मदद की।"
- परिणाम: जैसे-जैसे सिस्टम अधिक कार्यों पर काम करता है, यह स्मार्ट होता जाता है। यह हर बार शून्य से शुरुआत नहीं करता है; यह अपने पिछले सफलताओं और विफलताओं से सीखता है, जिससे यह तेज़ और अधिक प्रभावी हो जाता है।
उन्होंने क्या पाया (परिणाम)
शोधकर्ताओं ने कई कठिन साइबर सुरक्षा चुनौतियों (जैसे CyBench और BountyBench) पर Co-RedTeam का परीक्षण किया।
- सफलता दर: सिस्टम ने उन मामलों में से 60% से अधिक में कमजोरियों को सफलतापूर्वक खोजा और उनका फायदा उठाया जहाँ इसका परीक्षण किया गया था।
- सुधार: यह अन्य AI विधियों की तुलना में काफी बेहतर था (जिनमें से कुछ की सफलता दर 10% से भी कम थी)।
- यह क्यों काम कर रहा था: शोध पत्र ने दिखाया कि यदि आप टीम के किसी भी हिस्से (जैसे क्रिटिक, प्लानर, या मेमोरी) को हटा देते हैं, तो सिस्टम बहुत खराब हो जाता है। जादू इसलिए होता है क्योंकि ये सभी हिस्से योजना बनाने, परीक्षण करने और सीखने के एक लूप में मिलकर काम करते हैं।
सारांश
Co-RedTeam एक भ्रमित रोबोट से अपग्रेड होकर, जो किसी सिस्टम को हैक करने की कोशिश कर रहा है, एक अत्यधिक संगठित, स्व-सुधार करने वाली सुरक्षा टीम की तरह है। यह विशेषज्ञों के समन्वय के लिए एक टीम लीडर का उपयोग करता है, अपने काम की जाँच करता है, प्रत्येक प्रयास से सीखता है, और अपने निष्कर्षों को साबित करने के लिए वास्तविक दुनिया के परीक्षण का उपयोग करता है, जिससे यह पिछले AI उपकरणों की तुलना में सॉफ्टवेयर की कमजोरियों को खोजने में बहुत अधिक प्रभावी बन जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।