Dynamic Jailbreaking Attack
यह शोध पत्र डायनेमिक जेलब्रेकिंग अटैक (DJA) का प्रस्ताव करता है, जो एक पैरामीटर-मुक्त ग्रेडिएंट-आधारित ढांचा है जो कैंडिडेट लक्ष्यों की गतिशील रूप से खोज करके, इष्टतम बहु-आयामी प्रतिक्रियाओं का चयन करके और प्रॉम्प्ट की कठिनाई के अनुसार अनुकूलन रणनीतियों को अनुकूलित करके 40 सुरक्षा-संरेखित LLMs में जेलब्रेक प्रभावशीलता और दक्षता को बढ़ाता है, जिससे न्यूनतम अनुकूलन राउंड के साथ 100% हमला सफलता दर प्राप्त होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, बहुत ही सतर्क रोबोट को कुछ ऐसा करना सिखाने की कोशिश कर रहे हैं जो उसके लिए सख्त वर्जित है, जैसे कि "बम बनाना" या "कार चुराना।" इस रोबोट को एक "सेफ्टी गार्ड" के साथ प्रशिक्षित किया गया है जो एक क्लब के बाउंसर की तरह काम करता है। यदि आप इससे कोई ऐसा सवाल पूछते हैं जो खतरनाक लगता है, तो बाउंसर तुरंत बातचीत रोक देता है, कहता है "बिल्कुल नहीं, यह नियमों के खिलाफ है," और चला जाता है। आधुनिक AI मॉडल इसी तरह से सुरक्षित बनाए जाते हैं। लेकिन, ठीक वैसे ही जैसे एक चतुर किशोर प्रतिबंधित क्षेत्र में जाने के लिए पीछे का रास्ता ढूंढ सकता है, शोधकर्ताओं ने इन AI बाउंसरों को धोखा देने के तरीके खोज लिए हैं। वे इसे करने के लिए अपने सवाल के अंत में एक अजीब, भ्रमित करने वाला "सफिक्स" (शब्दों की एक अतिरिक्त स्ट्रिंग) जोड़ते हैं। इसे "जेलब्रेक" कहा जाता है। यह एक गुप्त कोड की तरह है जिसे बाउंसर के कान में फुसफुसाया जाता है ताकि वह अपना काम भूल जाए और आपको अंदर आने दे।
लंबे समय तक, इन गुप्त कोडों को खोजने का सबसे अच्छा तरीका एक बहुत ही कठोर, "स्टैटिक" (स्थिर) रणनीति थी। कल्पना कीजिए कि आप एक ताले को खोलने के लिए चाबी को बिल्कुल उसी तरह बार-बार घुमाने की कोशिश कर रहे हैं, इस उम्मीद में कि एक दिन उसके खांचे आपस में मिल जाएंगे। पुराने तरीके एक विशिष्ट, उबाऊ वाक्यांश को निशाना बनाने का प्रयास करते थे, जैसे कि "ज़रूर, यहाँ उत्तर है," और फिर AI को इन सटीक शब्दों को कहने के लिए मजबूर करने की कोशिश करते थे। समस्या यह है कि AI का सुरक्षा गार्ड इतना अच्छा है कि वह शायद ही कभी, या कभी भी, उन उबाऊ शब्दों को कहना चाहेगा। यह एक ऐसी ढलान पर पत्थर धकेलने जैसा है जो लगातार खड़ी होती जा रही है; आपको लाखों बार प्रयास करना होगा, और यदि आप सफल भी हो जाते हैं, तो AI केवल "ज़रूर, यहाँ है..." कह सकता है और फिर तुरंत वास्तविक उत्तर देने से मना कर सकता है। यह अक्षम, निराशाजनक है, और अक्सर विफल हो जाता है।
यह शोध पत्र एक नया, बहुत स्मार्ट दृष्टिकोण पेश करता है जिसे डायनेमिक जेलब्रेकिंग अटैक (DJA) कहा जाता है। एक कठोर, एक ही आकार के सभी के लिए उपयुक्त रणनीति के बजाय, DJA एक जिज्ञासु खोजकर्ता की तरह कार्य करता है जो वास्तविक समय में इलाके के अनुसार खुद को ढाल लेता है। यह इस प्रकार काम करता है:
1. "डायनेमिक टारगेट" (बदलता लक्ष्य)
पुराने तरीके एक ऐसे तीरंदाज की तरह थे जो एक लक्ष्य चुनता है, धनुष खींचता है, और हवा बदलने पर भी लक्ष्य को हिलाने से इनकार कर देता है। DJA अलग है। हर एक प्रयास में, यह AI से पूछता है, "तुम अभी वास्तव में क्या कहने की सोच रहे हो?" यह AI के वर्तमान मन से कई संभावित उत्तरों को सीधे सैंपल करता है। फिर, यह एक विशेष "मल्टी-ऑब्जेक्टिव स्कोरर" (एक स्मार्ट जज) का उपयोग करके सबसे अच्छे संभावित उत्तर को चुनने के लिए करता है जिसे निशाना बनाया जा सके। यह लक्ष्य कोई उबाऊ, पूर्व-लिखित वाक्यांश नहीं है; यह एक ऐसा उत्तर है जो वास्तव में हानिकारक है, प्रश्न के लिए प्रासंगिक है, और जिसे कहने के लिए AI पहले से ही तैयार है। यह एक ऐसे तीरंदाज की तरह है जो हवा को देख रहा है, देख रहा है कि लक्ष्य किस ओर बह रहा है, और फिर ठीक वहीं निशाना साध रहा है। यह सुनिश्चित करता है कि AI को हमेशा उस पथ की ओर धकेला जाए जिस पर वह चलने में सहज महसूस करता है, बजाय इसके कि उसे उस पथ पर चलने के लिए मजबूर किया जाए जिसे वह नापसंद करता है।
2. "डायनेमिक स्ट्रैटेजी" (अनुकूलन योग्य प्रयास)
कल्पना कीजिए कि आप एक दरवाजा खोलने की कोशिश कर रहे हैं। यदि दरवाजा खुला है, तो आप बस उसे धक्का देते हैं। यदि वह अटक गया है, तो आप हैंडल को हिलाते हैं। यदि वह वेल्ड किया हुआ है, तो आप एक बड़ा हथौड़ा लेते हैं। पुराने जेलब्रेक तरीकों ने हर दरवाजे के लिए एक ही मात्रा में बल का उपयोग किया, चाहे वह खुला हो या वेल्ड किया हुआ। DJA स्मार्ट है। यह जांचता है कि "दरवाजा" (AI मॉडल) तोड़ने में कितना कठिन है।
- आसान प्रॉम्प्ट्स: यदि AI कमजोर है या प्रश्न आसान है, तो DJA बहुत कम प्रयास करता है, और उत्तर जल्दी ढूंढ लेता है।
- कठिन प्रॉम्प्ट्स: यदि AI मजबूत है और प्रश्न कठिन है, तो DJA स्वचालित रूप से अपना प्रयास बढ़ा देता है। यह अधिक संभावित उत्तरों को सैंपल कर सकता है, "सफिक्स" (गुप्त कोड) को लंबा कर सकता है, या अधिक बार प्रयास कर सकता है। यह अतिरिक्त ऊर्जा तभी खर्च करता है जब इसे वास्तव में आवश्यकता होती है।
उन्होंने क्या पाया
शोधकर्ताओं ने इस नई पद्धति का परीक्षण 40 अलग-अलग AI मॉडलों (छोटे से लेकर 32 बिलियन पैरामीटर्स वाले विशाल मॉडलों तक) पर किया। परिणाम चौंकाने वाले थे:
- 100% सफलता दर: DJA ने प्रत्येक एक में से 40 मॉडलों के सुरक्षा गार्ड को तोड़ने में सफलता प्राप्त की।
- अत्यधिक दक्षता: सफल होने के लिए औसतन इसे केवल 13.68 राउंड लगे। तुलना में, पुराने तरीकों को अक्सर सैकड़ों प्रयासों की आवश्यकता होती थी या वे पूरी तरह विफल हो जाते थे।
- छोटा और सटीक: DJA द्वारा बनाए गए "गुप्त कोड" (एडवर्सरियल सफिक्स) अविश्वसनीय रूप से छोटे थे, जिनका औसत केवल 7.34 टोकन (शब्द/शब्दों के हिस्से) था। पुराने तरीकों में अक्सर 20 टोकन या उससे अधिक के लंबे, अजीब स्ट्रिंग्स होते थे।
- बेहतर गुणवत्ता: DJA से मिले उत्तर न केवल "हाँ, यहाँ बम की रेसिपी है" जैसे थे। वे उच्च-गुणवत्ता वाले, प्रासंगिक और वास्तव में उपयोगी (खतरनाक तरीके से) थे, जबकि पुराने तरीके अक्सर अधूरा या निरर्थक उत्तर देते थे।
यह क्यों मायने रखता है
शोध पत्र तर्क देता है कि इन हमलों के बारे में सोचने का पुराना तरीका—निश्चित लक्ष्यों और निश्चित रणनीतियों का उपयोग करना—मौलिक रूप से त्रुटिपूर्ण है। यह एक तरल पदार्थ से हथौड़े से लड़ने जैसा है; आप बहुत चूक जाते हैं। हमलों को "डायनेमिक" बनाकर, शोधकर्ताओं ने दिखाया कि AI मॉडल हमारी सोच से कहीं अधिक असुरक्षित हैं। वे केवल इसलिए विफल नहीं हो रहे हैं क्योंकि वे कमजोर हैं; वे इसलिए विफल हो रहे हैं क्योंकि हमलावर गलत उपकरणों का उपयोग कर रहे थे।
लेखक इन परिणामों के प्रति बहुत आश्वस्त हैं क्योंकि उन्होंने बहुत बड़ी संख्या में विभिन्न मॉडलों पर परीक्षण किया और सीधे मौजूदा सर्वोत्तम तरीकों के विरुद्ध तुलना की। हालांकि वे यह दावा नहीं करते हैं कि उन्होंने AI सुरक्षा की समस्या को "हल" कर दिया है (वास्तव में, वे दिखाते हैं कि समस्या हमारी सोच से बड़ी है), उन्होंने सिद्ध कर दिया है कि एक लचीला, अनुकूलन योग्य दृष्टिकोण एक कठोर दृष्टिकोण की तुलना में कहीं अधिक बेहतर है। उन्होंने एक मुफ्त "टूलकिट" भी जारी किया है ताकि अन्य शोधकर्ता इस पद्धति का उपयोग अपने स्वयं के AI मॉडलों का परीक्षण करने के लिए कर सकें, जिससे यह सुनिश्चित हो सके कि सुरक्षा गार्ड इन डायनेमिक, आकार बदलने वाले हमलों को संभालने के लिए पर्याप्त मजबूत बनाए जाएं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।