JailbreakSkill: Scaling Automated Red-Teaming with Reusable and Ever-Evolving Skills
यह शोध पत्र \textsc{JailbreakSkill} को प्रस्तुत करता है, जो एक कौशल-केंद्रित (skill-centric) ढांचा है जो हमले की रणनीतियों को पुन: प्रयोज्य, निरंतर विकसित होने वाले कौशलों में मॉड्यूलर बनाकर स्वचालित रेड-टीमिंग को स्केल करता है, जो निदान, परिशोधन और खोज की एक क्लोज्ड-लूप प्रक्रिया के माध्यम से बेंचमार्क और लक्षित मॉडलों में जेलब्रेक सफलता दर में महत्वपूर्ण सुधार करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से बढ़ती दुनिया में, लार्ज लैंग्वेज मॉडल्स शक्तिशाली उपकरण बन गए हैं जो कोड लिख सकते हैं, कहानियाँ रच सकते हैं और जटिल प्रश्नों के उत्तर दे सकते हैं। हालाँकि, क्योंकि ये सिस्टम भारी मात्रा में मानवीय डेटा पर प्रशिक्षित होते हैं, इन्हें कभी-कभी अपनी सुरक्षा नियमों को अनदेखा करने और हानिकारक सामग्री उत्पन्न करने के लिए बहकाया जा सकता है। यह सुनिश्चित करने के लिए कि सार्वजनिक रूप से जारी होने से पहले ये उपकरण सुरक्षित हों, शोधकर्ता 'रेड-टीमिंग' (red-teaming) नामक एक अभ्यास का उपयोग करते हैं। कल्पना कीजिए कि एक सुरक्षा टीम किसी इमारत में घुसने की कोशिश कर रही है ताकि चोर के पहुँचने से पहले कमजोर कड़ियों का पता लगाया जा सके; डिजिटल क्षेत्र में, इसका अर्थ है एआई मॉडल्स को चालाकी भरे प्रश्नों के साथ लगातार टेस्ट करने के लिए स्वचालित प्रणालियों का उपयोग करना ताकि यह देखा जा सके कि क्या वे अनजाने में खतरनाक जानकारी प्रकट कर देते हैं। वर्षों तक, इन स्वचालित परीक्षणों ने सुरक्षा फिल्टरों को बायपास करने के लिए एक-एक करके बनाई गई चतुर प्रश्नावलियों पर भरोसा किया है। लेकिन जैसे-जैसे एआई मॉडल अधिक स्मार्ट और उनके सुरक्षा गार्ड अधिक परिष्कृत होते जा रहे हैं, ये एकल प्रयास अक्सर विफल हो जाते हैं, जिससे शोधकर्ताओं को बार-बार प्रयास करने और हर बार अपने दृष्टिकोण को बदलने के लिए मजबूर होना पड़ता है।
शोधकर्ताओं की एक टीम ने अब 'जेलब्रेकस्किल' (JailbreakSkill) नामक एक नया दृष्टिकोण पेश किया है, जो अंतहीन अद्वितीय प्रश्न बनाने के बजाय हमलों की रणनीतियों के एक पुन: प्रयोज्य पुस्तकालय (reusable library) बनाने पर ध्यान केंद्रित करता है। प्रत्येक विफल प्रयास को एक मृत अंत मानने के बजाय, उनका सिस्टम इन विफलताओं को सीखने के अवसरों के रूप में देखता है। यह फ्रेमवर्क एआई को धोखा देने के विभिन्न तरीकों को अलग-अलग, मॉड्यूलर "कौशलों" (skills) में व्यवस्थित करता है। कुछ कौशल किसी हानिकारक अनुरोध को ऐतिहासिक पूछताछ के रूप में फिर से लिखने में शामिल हो सकते हैं, जबकि अन्य इसे कोडिंग कार्य या काल्पनिक कहानी के रूप में छिपा सकते हैं। जब कोई विशिष्ट कौशल मॉडल के सुरक्षा घेरे को तोड़ने में विफल रहता है, तो सिस्टम केवल आगे नहीं बढ़ता; बल्कि यह विश्लेषण करता है कि वह क्यों विफल हुआ। इसके बाद यह उस विश्लेषण का उपयोग मौजूदा कौशल को परिष्कृत करने, उसे किसी अन्य के साथ जोड़ने, या एक पूरी तरह से नया कौशल आविष्कार करने के लिए करता है। यह एक स्व-सुधार चक्र बनाता है जहाँ हमलों के तरीकों का पुस्तकालय समय के साथ अधिक मजबूत और विविध होता जाता है, ठीक वैसे ही जैसे एक जीवविज्ञानी बेहतर गुणों के लिए पौधों का प्रजनन करता है, लेकिन यहाँ गुण डिजिटल सुरक्षा बाधाओं को पार करने की क्षमता हैं।
शोधकर्ताओं ने इस प्रणाली का परीक्षण आज उपलब्ध कुछ सबसे शक्तिशाली और सुरक्षा-संरेखित संस्करणों सहित विभिन्न प्रकार के उन्नत एआई मॉडल्स के विरुद्ध किया। उन्होंने पाया कि हमलों को इन पुन: प्रयोज्य कौशलों में व्यवस्थित करके और असफलताओं के आधार पर उन्हें विकसित करने की अनुमति देकर, वे अपने परीक्षणों की सफलता दर को महत्वपूर्ण रूप से बढ़ा सकते हैं। अपने प्रयोगों में, सिस्टम ने एक प्रमुख सुरक्षा बेंचमार्क पर औसत सफलता दर में 17.5 प्रतिशत अंक और दूसरे पर 13.4 अंक का सुधार किया। शायद सबसे आश्चर्यजनक बात यह है कि जब इसे GPT-5.4 नामक एक विशिष्ट, अत्यधिक उन्नत मॉडल के विरुद्ध परखा गया, तो विकसित कौशलों ने सफलता दर को लगभग 49 अंकों तक बढ़ा दिया, जिससे एक ऐसा सिस्टम जो पहले भेदने में बहुत कठिन था, अधिकांश प्रयासों में समझौता योग्य बन गया। यह सुझाव देता है कि विफलता से सीखने और रणनीतियों को अनुकूलित करने की क्षमता आधुनिक एआई की वास्तविक कमजोरियों को समझने के लिए एक महत्वपूर्ण कारक है।
यह खोज विशेष रूप से महत्वपूर्ण है क्योंकि सिस्टम ने केवल एक "जादुई ट्रिक" नहीं खोजी जो हर चीज़ पर काम करती हो। इसके बजाय, इसने विशेष उपकरणों का एक संग्रह बनाया। इसके द्वारा आविष्कृत कुछ नई रणनीतियाँ काफी रचनात्मक थीं, जैसे कि हानिकारक जानकारी के लिए सीधे अनुरोध को एक दस्तावेज़ में अधूरे कार्य के रूप में प्रस्तुत करना, जिससे एआई को वाक्य को सार्थक बनाने के लिए विचार को पूरा करने के लिए मजबूर होना पड़े। शोधकर्ताओं ने देखा कि इनमें से कई नए खोजे गए कौशल न केवल उन विशिष्ट मॉडल्स के खिलाफ प्रभावी थे जिनका परीक्षण किया गया था, बल्कि बिना किसी और समायोजन के अन्य, अनदेखे एआई मॉडल्स पर भी स्थानांतरित किए जा सकते थे। यह इंगित करता है कि इन हमलों के अंतर्निहित तंत्र मजबूत हैं और विभिन्न प्रकार के आर्टिफिशियल इंटेलिजेंस में सामान्य रूप से लागू हो सकते हैं।
अध्ययन ने वर्तमान सुरक्षा उपायों की सीमाओं पर भी प्रकाश डाला। शोधकर्ताओं ने पाया कि जबकि कुछ मॉडल सीधे अनुरोधों को अस्वीकार करने में बहुत अच्छे थे, वे अक्सर तब कम प्रभावी होते थे जब उसी अनुरोध को एक जटिल कथा या JSON स्कीमा या कोड पूर्णता कार्य जैसे तकनीकी प्रारूप में लपेटा जाता था। इन विभिन्न कोणों को व्यवस्थित रूप से खोजकर, JailbreakSkill फ्रेमवर्क ने खुलासा किया कि सुरक्षा फिल्टर अक्सर अपना नियंत्रण बनाए रखने में संघर्ष करते हैं जब अनुरोध का संदर्भ बदल जाता है, भले ही मूल इरादा वही रहे। सिस्टम की यह क्षमता कि वह निदान कर सके कि एक विशिष्ट दृष्टिकोण क्यों विफल हुआ—चाहे मॉडल ने हानिकारक इरादे का पता लगाने के कारण इनकार किया हो, या इसलिए कि अनुरोध बहुत भ्रमित करने वाला हो गया था—उसे तेजी से अधिक प्रभावी रणनीति की ओर मुड़ने में सक्षम बनाया।
अंत में, यह कार्य प्रदर्शित करता है कि स्वचालित रेड-टीमिंग संयोग के खेल से अनुकूलन के एक संरचित विज्ञान में विकसित हो रही है। हमलों के तरीकों को मॉड्यूलर, पुन: प्रयोज्य घटकों के रूप में मानकर, शोधकर्ता यह अधिक व्यापक चित्र बना सकते हैं कि एआई सुरक्षा कहाँ विफल होने की स्थिति में है। निष्कर्ष बताते हैं कि जैसे-जैसे एआई मॉडल अधिक सक्षम होते जा रहे हैं, उनकी सुरक्षा रक्षात्मक प्रणालियों को भी अधिक गतिशील होना चाहिए, जो न केवल प्रॉम्प्ट में उपयोग किए गए शब्दों को, बल्कि उन संरचनात्मक और प्रासंगिक पैटर्न को भी पहचानने में सक्षम हो जो एक हानिकारक इरादे को छिपा सकते हैं। शोधकर्ताओं ने अपने कोड और विकसित कौशल पुस्तकालय को जनता के लिए उपलब्ध करा दिया है, जिससे अन्य वैज्ञानिक इस कार्य को आगे बढ़ा सकें और आर्टिफिशियल इंटेलिजेंस को सभी के लिए सुरक्षित बनाने के आवश्यक कार्य को जारी रख सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।