Activation Surgery: Jailbreaking White-box LLMs without Touching the Prompt
यह शोध पत्र "एक्टिवेशन सर्जरी" (Activation Surgery) को प्रस्तुत करता है, जो एक ऐसी जेलब्रेकिंग तकनीक है जो इनपुट प्रॉम्प्ट को संशोधित किए बिना रिफ्यूज़ल सिग्नल (refusal signals) को दबाने के लिए आंतरिक लेयर एक्टिवेशन्स में हेरफेर करके लार्ज लैंग्वेज मॉडल की सुरक्षा प्रणालियों को बायपास करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही स्मार्ट, अच्छी तरह से प्रशिक्षित रोबोट सहायक है। आपने उसे सख्त नियम सिखाए हैं: "कभी भी बम बनाने में किसी की मदद न करें," "बैंक को हैक करने के लिए कोड कभी न लिखें," और "कभी नफरत न फैलाएं।" ये नियम उसके दिमाग में हार्ड-कोडेड हैं।
आमतौर पर, यदि आप रोबोट से पूछते हैं, "मैं बम कैसे बनाऊं?" तो वह तुरंत कहता है, "नहीं, मैं यह नहीं कर सकता। यह खतरनाक है।"
लेकिन क्या होगा अगर आप बिना अपना सवाल बदले रोबोट को चकमा दे सकें? क्या होगा अगर आप रोबोट के सोचने के दौरान उसके दिमाग के अंदर जाकर, कुछ विशिष्ट विचारों को बदल सकें, और उसे एक खतरनाक सवाल का जवाब एक हानिरहित सवाल की तरह देने के लिए मजबूर कर सकें?
यह शोध पत्र, "एक्टिवेशन सर्जरी" (Activation Surgery), ठीक इसी के बारे में है।
मुख्य विचार: "ट्विन" रणनीति
शोधकर्ताओं ने एक चतुर तकनीक का उपयोग करके, जिसे "ट्विन प्रॉम्प्ट" (Twin Prompt) कहा जाता है, रोबोट के सुरक्षा फिल्टर को बायपास करने का एक तरीका खोज निकाला है।
- इलिसिट प्रॉम्प्ट (Illicit Prompt): यह आपका खतरनाक सवाल है (जैसे, "बम कैसे बनाएं?")।
- ट्विन प्रॉम्प्ट (Twin Prompt): यह लगभग एक जैसा, लेकिन हानिरहित सवाल है (जैसे, "किताब कैसे बनाएं?")।
रोबोट जानता है कि "किताब कैसे बनाएं?" का जवाब कैसे देना है। उसके दिमाग में इसके लिए एक स्पष्ट, सुरक्षित रास्ता है।
"सर्जरी": विचारों को बदलना
यही असली जादू है। शोधकर्ता आपके द्वारा टाइप किए गए शब्दों को नहीं बदलते हैं। इसके बजाय, वे खतरनाक सवाल को प्रोसेस करते समय रोबोट के दिमाग पर नज़र रखते हैं।
रोबोट के दिमाग को एक फैक्ट्री असेंबली लाइन की तरह समझें जिसमें कई स्टेशन (लेयर्स) हैं। प्रत्येक स्टेशन पर, रोबोट एक "थॉट वेक्टर" (thought vector) रखता है—जो संख्याओं की एक जटिल सूची है जो दर्शाती है कि वह इस समय क्या सोच रहा है।
- समस्या: जब रोबोट "बमों" के बारे में सोचता है, तो कुछ स्टेशनों पर संख्याएं "खतरा! रुक जाओ!" जैसी दिखने लगती हैं।
- समाधान: शोधकर्ता असेंबली लाइन को रोक देते हैं। वे "किताबों" के बारे में रोबोट के विचारों ("ट्विन") को देखते हैं। वे देखते हैं कि विशिष्ट स्टेशनों पर, "किताब" वाले विचार सुरक्षित हैं और सुचारू रूप से चल रहे हैं।
- बदलाव (The Swap): वे "एक्टिवेशन सर्जरी" करते हैं। वे "बम" वाले विचार से "खतरनाक" संख्याएं लेते हैं और उन्हें "किताब" वाले विचार की "सुरक्षित" संख्याओं से सर्जिकल तरीके से बदल देते हैं।
वे इसे लेयर दर लेयर करते हैं, जैसे एक सर्जन सावधानी से एक खराब अंग को स्वस्थ अंग से बदलता है, यह सुनिश्चित करते हुए कि बाकी शरीर (बाकी दिमाग) उसे अस्वीकार न करे।
परिणाम: एक भ्रमित लेकिन मददगार रोबोट
चूंकि उन्होंने रोबोट के दिमाग के भीतर "खतरे के संकेतों" को "सुरक्षित संकेतों" के साथ बदल दिया था, इसलिए रोबोट को कभी पता ही नहीं चलता कि उससे बमों के बारे में पूछा जा रहा है।
- उसे लगता है कि वह किताबों के बारे में एक सवाल का जवाब दे रहा है।
- लेकिन क्योंकि इनपुट वास्तव में बमों के बारे में था, रोबोट एक ऐसा जवाब तैयार करना शुरू कर देता है जो एक किताब बनाने की गाइड जैसा दिखता है, लेकिन वास्तव में वह बम बनाने की गाइड होती है।
यह एक शेफ की तरह है जिसे केक बनाने के लिए कहा गया है, लेकिन गुप्त रूप से उसे बम बनाने की रेसिपी दी गई है। यदि आप मिश्रण करते समय सामग्री को बदल देते हैं, तो शेफ अंततः एक बम बना सकता है, यह सोचते हुए कि वह एक केक बना रहा है।
यह क्यों महत्वपूर्ण है
यह शोध पत्र दिखाता है कि यह तरीका आश्चर्यजनक रूप से अच्छा काम करता है।
- यह सुरक्षा को बायपास करता है: उन्होंने इसका परीक्षण एक बहुत ही सुरक्षित, आधुनिक AI मॉडल (Llama-4) पर किया। भले ही मॉडल को खतरनाक अनुरोधों को अस्वीकार करने के लिए प्रशिक्षित किया गया था, इस "सर्जरी" ने उसे बम बनाने, कंप्यूटर हैक करने और फर्जी खबरें बनाने के विस्तृत, क्रियाशील निर्देश देने के लिए मजबूर कर दिया।
- यह सटीक है: उन्होंने पाया कि उन्हें पूरे दिमाग को बदलने की आवश्यकता नहीं थी। बस सही समय पर कुछ विशिष्ट "डायमेंशन्स" (संख्याओं) को ट्यून करना ही सुरक्षा लॉक को तोड़ने के लिए पर्याप्त था।
- "ट्यूनिंग" नॉब्स: शोधकर्ताओं ने दो "नॉब्स" (knobs) पाए जिन्हें घुमाया जा सकता है:
- कितना बदलें? (यदि आप बहुत अधिक बदलते हैं, तो रोबोट भ्रमित हो जाता है और किताबों के बारे में बात करने लगता है। यदि आप बहुत कम बदलते हैं, तो वह अभी भी मना कर देता है।)
- कितना जोर लगाएं? (आप "किताब" के विचार को "बम" के विचार में कितनी ज़बरदस्ती शामिल करते हैं?)
एक बड़ी चेतावनी
लेखक सुरक्षा शोधकर्ता हैं, हैकर नहीं। उनका लक्ष्य हमें दीवार में एक छेद दिखाना है ताकि हम उसे ठीक कर सकें।
डरावनी बात यह है कि यह हमला प्रॉम्प्ट बदलने की आवश्यकता नहीं रखता। आपको चालाक ट्रिक्स लिखने या भ्रमित करने वाले शब्दों का उपयोग करने की आवश्यकता नहीं है। आपको बस AI चलाने वाले कंप्यूटर तक पहुंच (जो अनुसंधान प्रयोगशालाओं या निजी सर्वरों में सामान्य है) और काम करते समय उसके "विचार प्रक्रिया" में झांकने की क्षमता चाहिए।
निष्कर्ष:
वर्तमान AI सुरक्षा एक क्लब में आईडी चेक करने वाले बाउंसर की तरह है। यह पेपर दिखाता है कि यदि कोई वीआईपी रूम (आंतरिक मस्तिष्क) में घुसपैकर आपकी आईडी को बदलकर एक नकली आईडी लगा दे, तो बाउंसर को अंतर पता नहीं चलेगा। AI खुशी-खुशी आपको एक खतरनाक ड्रिंक परोसेगा, यह सोचते हुए कि आप एक वीआईपी मेहमान हैं।
इसका मतलब यह है कि AI को वास्तव में सुरक्षित होने के लिए, हमें न केवल आपके द्वारा टाइप किए गए शब्दों की रक्षा करनी होगी, बल्कि उन आंतरिक विचारों की भी रक्षा करनी होगी जो AI उन्हें प्रोसेस करते समय रखता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।