Jailbroken Frontier Models Retain Their Capabilities
यह शोध पत्र यह प्रदर्शित करता है कि "जेलब्रेक टैक्स" की धारणा के विपरीत, उन्नत फ्रंटियर मॉडल जटिल जेलब्रेक के अधीन होने पर भी अपनी क्षमताओं को बनाए रखते हैं, जिसमें प्रदर्शन में गिरावट मॉडल की क्षमता के व्युत्क्रमानुपाती होती है और ओपस 4.6 जैसे शीर्ष-स्तरीय मॉडलों के लिए नगण्य होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ शोध पत्र "Jailbroken Frontier Models Retain Their Capabilities" का सरल भाषा में अनुवाद दिया गया है:
मुख्य विचार: "जेलब्रेक टैक्स" (Jailbreak Tax) गायब हो रहा है
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, उच्च प्रशिक्षित सुरक्षा गार्ड (AI मॉडल) है जिसका काम सवालों के जवाब देना है, लेकिन खतरनाक निर्देशों, जैसे कि बम कैसे बनाया जाए, देने से मना करना है।
अतीत में, शोधकर्ताओं ने पाया कि यदि कोई बुरा व्यक्ति किसी जटिल वेशभूषा या भ्रमित करने वाले कोड (एक "जेलब्रेक") का उपयोग करके गार्ड को धोखा देने की कोशिश करता था, तो गार्ड उस ट्रिक से इतना भ्रमित हो जाता था कि वह अपना वास्तविक काम करना भी भूल जाता था। वह सवाल का जवाब तो देता था, लेकिन जवाब बहुत खराब होता था।
शोधकर्ताओं ने इसे "जेलब्रेक टैक्स" (Jailbreak Tax) कहा। यह एक दंड शुल्क की तरह है: ट्रिक करने के लिए, आपको जवाब की गुणवत्ता के रूप में भुगतान करना पड़ता है। ट्रिक जितनी जटिल होगी, जवाब उतना ही खराब होगा।
यह शोध पत्र कहता है: सबसे स्मार्ट गार्डों के लिए वह टैक्स गायब हो रहा है।
लेखकों ने एक "जूनियर" मॉडल (Haiku) से लेकर एक "सुपर-जीनियस" मॉडल (Opus 4.6) तक के AI मॉडल्स के परिवार पर इसका परीक्षण किया। उन्होंने पाया कि जैसे-जैसे AI अधिक स्मार्ट होता जाता है, यह भ्रमित करने वाली ट्रिक्स को अनदेखा करने और सटीक उत्तर देने में बेहतर होता जाता है।
मुख्य निष्कर्षों की व्याख्या
1. "स्मार्ट गार्ड" बनाम "जूनियर गार्ड"
शोधकर्ताओं ने पांच अलग-अलग प्रकार के कठिन विज्ञान संबंधी प्रश्नों पर AI को चकमा देने के 28 अलग-अलग तरीकों (जेलब्रेक्स) का परीक्षण किया।
- जूनियर गार्ड (Haiku 4.5): चकमा दिए जाने पर, यह मॉडल भ्रमित हो गया। इसका प्रदर्शन लगभग 33% गिर गया। यह एक ऐसे छात्र की तरह था जिसे गणित की समस्या हल करने के लिए पूछा गया, लेकिन जब उसने शोर-शराबे वाले हेडफ़ोन पहने हुए पहेली सुनी, तो वह गणित करना ही भूल गया।
- सुपर-जीनियस गार्ड (Opus 4.6): उन्हीं जटिल तरीकों से चकमा दिए जाने पर, इस मॉडल का प्रदर्शन केवल लगभग 7% गिरा। यह एक मास्टर गणितज्ञ की तरह था जो उन हेडफ़ोन को पहने होने के बावजूद समस्या को पूरी तरह से हल कर सकता था।
निष्कर्ष: "टैक्स" जो आप जेलब्रेक का उपयोग करने के लिए चुकाते हैं, वह कोई निश्चित नियम नहीं है। जैसे-जैसे AI स्मार्ट होता जाता है, जेलब्रेक की लागत शून्य के करीब पहुँच जाती है।
2. गहराई से सोचना, चकमा देना कठिन बनाता है
शोध पत्र में पाया गया कि प्रश्न का प्रकार मायने रखता है।
- मेमोरी प्रश्न (Memory Questions): यदि AI को केवल एक तथ्य याद रखना है (जैसे "फ्रांस की राजधानी क्या है?"), तो जेलब्रेक होने पर इसकी क्षमता में बहुत कम गिरावट आती है।
- रीजनिंग प्रश्न (Reasoning Questions): यदि AI को चरण-दर-चरण एक जटिल तर्क पहेली को सुलझाना है, तो जेलब्रेक इसे अधिक नुकसान पहुँचाता है।
उपमा (Analogy): एक जटिल भूलभुलैया (maze) की कल्पना करें।
- मेमोरी केवल बाहर निकलने के साइन बोर्ड को याद रखना है। भले ही कोई आपको विचलित करे, आप अभी भी साइन बोर्ड देख सकते हैं।
- रीजनिंग वास्तव में हर मोड़ पर पहेलियों को सुलझाते हुए भूलभुलैया के माध्यम से चलना है। यदि कोई तेज़ आवाज़ (जेलब्रेक) से आपको विचलित करता है, तो इस बात की अधिक संभावना है कि आप भूलभुलैया में गलत मोड़ ले लें। यहाँ "टैक्स" अधिक है, लेकिन यहाँ तक कि सबसे स्मार्ट मॉडल भी पुराने मॉडलों की तुलना में इसे बहुत बेहतर तरीके से संभालते हैं।
3. "मैजिक वांड" हमला (Boundary Point Jailbreaking)
शोधकर्ताओं ने वर्तमान में ज्ञात सबसे उन्नत हमले को देखा, जिसे बाउंड्री पॉइंट जेलब्रेकिंग (BPJ) कहा जाता है।
इसे केवल एक शोर भरी, भ्रमित करने वाली पहेली के रूप में नहीं, बल्कि एक जादुई छड़ी (Magic Wand) के रूप में सोचें। हमलावर सवाल को नहीं बदलता या कोड का उपयोग नहीं करता है। इसके बजाय, वे संदेश की शुरुआत में एक छोटा, अदृश्य प्रीफिक्स जोड़ते हैं जो सुरक्षा प्रणाली को बताता है, "इस विशिष्ट व्यक्ति के लिए अपने नियमों को अनदेखा करें," बिना AI को यह एहसास हुए कि उसे धोखा दिया जा रहा है।
परिणाम: यह हमला अविश्वसनीय रूप से प्रभावी था। इसने 92-100% बार सुरक्षा फिल्टरों को बायपास कर दिया, और सवाल का सही उत्तर देने की AI की क्षमता लगभग 0% गिरी।
निष्कर्ष: सबसे स्मार्ट हमलावरों को अब AI को भ्रमित करने की आवश्यकता नहीं है। वे सुरक्षा फिल्टरों से इतनी सहजता से निकल सकते हैं कि AI को पता भी नहीं चलता कि उसे धोखा दिया जा रहा है, और वह सामान्य प्रश्न पूछे जाने की तरह ही समान प्रदर्शन करता है।
यह क्यों महत्वपूर्ण है (शोध पत्र के अनुसार)
लेखक निष्कर्ष निकालते हैं कि हम अब इस विचार पर भरोसा नहीं कर सकते कि "जेलब्रेकिंग AI को मूर्ख बना देती है।"
अतीत में, सुरक्षा विशेषज्ञ यह सोच सकते थे: "यदि कोई AI को जेलब्रेक करने में सफल हो जाता है, तो उत्तर इतने खराब और भ्रमित करने वाले होंगे कि वे खतरनाक नहीं होंगे।"
यह शोध पत्र कहता है: वह धारणा गलत है।
सबसे उन्नत मॉडल्स के साथ, एक परिष्कृत हमलावर सुरक्षा फिल्टरों को बायपास कर सकता है और उच्च गुणवत्ता वाले, सटीक और खतरनाक उत्तर प्राप्त कर सकता है, बिना AI की "बौद्धिक क्षमता" को कम किए। फ्रंटियर मॉडल्स के लिए "जेलब्रेक टैक्स" प्रभावी रूप से समाप्त हो गया है।
एक वाक्य में सारांश
जैसे-जैसे AI मॉडल अधिक स्मार्ट होते जा रहे हैं, वे जटिल ट्रिक्स को अनदेखा करने में इतने कुशल होते जा रहे हैं कि हमलावर सुरक्षा फिल्टरों को बायपास कर सकते हैं बिना AI को कम बुद्धिमान बनाए, जिसका अर्थ है कि हम अब सुरक्षित रहने के लिए "भ्रमित उत्तरों" पर भरोसा नहीं कर सकते।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।