JailBreakGuard: Defeating Jailbreak Attacks via Dynamic Prompt Perturbation
JailBreakGuard एक लागत प्रभावी, गतिशील रक्षा ढांचा है जो एक परप्लेक्सिटी-आधारित तंत्र का उपयोग करके वर्ण या वाक्य-स्तर के प्रॉम्प्ट व्यवधानों को चुनिंदा रूप से लागू करता है, जिससे बड़े भाषा मॉडलों पर विविध जेलब्रेक हमलों को कम किया जाता है, और बेंign (सौम्य) क्वेरी प्रदर्शन पर न्यूनतम प्रभाव के साथ हमले की सफलता दर में महत्वपूर्ण कमी प्राप्त की जाती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
डिजिटल युग में, लार्ज लैंग्वेज मॉडल्स (LLMs) अनगिनत अनुप्रयोगों के पीछे शांत इंजन बन गए हैं, ईमेल ड्राफ्ट करने से लेकर जटिल प्रश्नों के उत्तर देने तक। ये सिस्टम मानव टेक्स्ट की विशाल मात्रा पर प्रशिक्षित होते हैं, जिससे वे यह अनुमान लगाना सीखते हैं कि एक वाक्य में आगे कौन से शब्द आने चाहिए। हालाँकि, भाषा को समझने और उत्पन्न करने की यही क्षमता उन्हें "जेलब्रेक" (jailbreak) नामक एक विशिष्ट प्रकार की चालाकी के प्रति संवेदनशील बनाती है। जेलब्रेक हमले में, एक उपयोगकर्ता एक प्रॉम्प्ट तैयार करता है—एक सावधानीपूर्वक शब्दों से बनाया गया अनुरोध जिसे मॉडल के अंतर्निहित सुरक्षा नियमों को बायपास करने के लिए डिज़ाइन किया गया है। रोल-प्लेइंग परिदृश्यों, छिपे हुए निर्देशों या अजीब फॉर्मेटिंग का उपयोग करके, एक हमलावर मॉडल को उसके नैतिक दिशानिर्देशों को अनदेखा करने और हानिकारक सामग्री, जैसे कि खतरनाक गतिविधियों के निर्देश या घृणास्पद भाषण (hate speech) उत्पन्न करने के लिए छल सकता है। जबकि डेवलपर्स ने इन ट्रिक्स के खिलाफ इन मॉडल्स को मजबूत करने की कोशिश की है, हमलावर लगातार अपनी विधियों को विकसित करते रहते हैं, जिससे यह एक ऐसा चलता-फिरता लक्ष्य बन जाता है जिसे एक एकल, स्थिर ढाल से रोकना कठिन है।
"जेलब्रेकगार्ड" (JailBreakGuard) नामक एक नया दृष्टिकोण इस समस्या को संभालने का एक अलग तरीका प्रदान करता है, जो ध्यान को मॉडल को बदलने से हटाकर, प्रोसेस होने से पहले आने वाले अनुरोधों को सावधानीपूर्वक बदलने पर केंद्रित करता है। सिचुआन यूनिवर्सिटी और गुइलिन यूनिवर्सिटी ऑफ इलेक्ट्रॉनिक टेक्नोलॉजी के शोधकर्ताओं ने पाया कि सभी दुर्भावनापूर्ण प्रॉम्प्ट एक जैसे नहीं दिखते। कुछ जटिल, कहानी जैसे परिदृश्यों पर निर्भर करते हैं जो सहजता से पढ़े जाते हैं, जबकि अन्य भ्रमित करने के लिए निरर्थक पात्रों से भरे अजीब, विकृत टेक्स्ट का उपयोग करते हैं। टीम ने पाया कि जब मॉडल के लिए टेक्स्ट कितना "आश्चर्यजनक" (surprising) है, इसके आधार पर मापा जाता है, तो ये दो प्रकार के हमले बहुत अलग व्यवहार करते हैं। सहज, कहानी-आधारित हमले बहुत सामान्य और अनुमानित दिखते हैं, जबकि विकृत, एडवरसेरियल (adversarial) हमले अराजक और अत्यधिक अप्रत्याशित दिखते हैं।
इस अंतर का लाभ उठाने के लिए, शोधकर्ताओं ने एक रक्षा प्रणाली बनाई है जो एप्लिकेशन के प्रवेश द्वार पर एक स्मार्ट गेटकीपर की तरह कार्य करती है। प्रत्येक अनुरोध पर एक ही सुधार लागू करने के बजाय, सिस्टम पहले आने वाले टेक्स्ट के "आश्चर्य स्तर" (surprise level) को मापता है। यदि टेक्स्ट अत्यधिक अराजक और अप्रत्याशित है, तो सिस्टम यह मान लेता है कि यह एक विकृत हमला है और एक ऐसी तकनीक लागू करता है जो कुछ पात्रों को बेतरतीब ढंग से हटाती है, बदलती है या सम्मिलित करती है। शोर (noise) की यह सूक्ष्म मात्रा किसी सामान्य प्रश्न के अर्थ को बदले बिना, दुर्भावनापूर्ण कोड की विशिष्ट संरचना को तोड़ने के लिए पर्याप्त है। यदि टेक्स्ट सहज और अनुमानित है, तो सिस्टम यह मान लेता है कि यह एक चतुर कहानी-आधारित हमला हो सकता है और इसके बजाय एक सहायक मॉडल का उपयोग करके वाक्य को फिर से लिखता है। यह पुनलेखन प्रक्रिया मूल अर्थ को बरकरार रखती है लेकिन सुरक्षा फिल्टर को धोखा देने के लिए डिज़ाइन किए गए छिपे हुए निर्देशों को हटा देती है।
इस गतिशील दृष्टिकोण के परिणामों का परीक्षण सात श्रेणियों में नौ अलग-अलग प्रकार के जेलब्रेक हमलों के विरुद्ध किया गया था। यह प्रणाली उल्लेखनीय रूप से प्रभावी साबित हुई, जिसने परीक्षण किए गए मॉडल्स पर इन हमलों की औसत सफलता दर को 70 प्रतिशत से अधिक कम कर दिया। महत्वपूर्ण रूप से, इस रक्षा प्रणाली ने नियमित उपयोगकर्ताओं की मदद करने की मॉडल की क्षमता की कीमत पर काम नहीं किया। जब शोधकर्ताओं ने सिस्टम का परीक्षण सामान्य, हानिरहित प्रश्नों पर किया, तो मॉडल्स के प्रदर्शन में नगण्य गिरावट आई, जिसमें सटीकता में अधिकतम कमी केवल 3.19 प्रतिशत थी। वास्तव में, कुछ मॉडल्स के लिए, पुनलेखन प्रक्रिया ने प्रश्नों को समझने में थोड़ा आसान बना दिया, जिससे सटीकता में मामूली सुधार हुआ।
यह विधि इसलिए विशिष्ट है क्योंकि इसमें अंतर्निहित मॉडल या उसकी आंतरिक सेटिंग्स को बदलने की आवश्यकता नहीं होती है, जिससे इसे उस सर्विस लेवल पर स्थापित करना आसान हो जाता है जहाँ अनुरोध सबसे पहले पहुँचते हैं। यह कुशल भी है, जो मौजूदा रक्षा विधियों की तुलना में कम समय लेती है और कम कंप्यूटिंग संसाधनों का उपयोग करती है। यह पहचानकर कि विभिन्न हमलों के लिए विभिन्न जवाबी उपायों की आवश्यकता होती है, और यह तय करने के लिए कि किस जवाबी उपाय का उपयोग किया जाए, टेक्स्ट की प्राकृतिक संरचना का उपयोग करके, जेलब्रेकगार्ड एक लचीला और मजबूत कवच प्रदान करता है। यह प्रदर्शित करता है कि एक रक्षा प्रणाली को भारी, अडिग दीवार होने की आवश्यकता नहीं है; कभी-कभी, सबसे प्रभावी सुरक्षा एक हल्का, बुद्धिमान स्पर्श है जो खतरे के आकार के अनुकूल होता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।