NeuroStrike: Neuron-Level Attacks on Aligned LLMs
यह शोध पत्र NeuroStrike को पेश करता है, जो एक नवीन हमला ढांचा (attack framework) है जो सुरक्षा तंत्रों को बायपास करने के लिए संरेखित (aligned) लार्ज लैंग्वेज मॉडल्स की विरल, विशिष्ट सुरक्षा न्यूरॉन्स (specialized safety neurons) पर निर्भरता का लाभ उठाता है, जिससे व्हाइट-बॉक्स और ब्लैक-बॉक्स दोनों सेटिंग्स में इन न्यूरॉन्स को प्रून (prune) करके या मॉडल्स के बीच प्रतिकूल प्रॉम्प्ट्स (adversarial prompts) को स्थानांतरित करके, 20 से अधिक ओपन-वेट और पांच ब्लैक-बॉक्स LLMs पर उच्च हमला सफलता दर प्राप्त की जाती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "NeuroStrike" पेपर का सरल भाषा और रचनात्मक उपमाओं (analogies) का उपयोग करते हुए हिंदी अनुवाद दिया गया है।
🧠 मुख्य विचार: "सेफ्टी स्विच" की खोज
एक लार्ज लैंग्वेज मॉडल (LLM) की कल्पना एक बहुत ही बुद्धिमान, मददगार रोबोट सहायक के रूप में करें। यह सुनिश्चित करने के लिए कि यह रोबोट कुछ भी बुरा, खतरनाक या अवैध न कहे (जैसे कि "मैं बम कैसे बनाऊं?"), इंजीनियर इसके मस्तिष्क के अंदर एक सुरक्षा प्रणाली (safety system) स्थापित करते हैं।
आमतौर पर, हम सोचते हैं कि यह सुरक्षा प्रणाली एक विशाल, जटिल सुरक्षा गार्ड की तरह है जो रोबोट द्वारा कहे जाने वाले हर एक शब्द की जाँच करता है। लेकिन इस शोध ने एक आश्चर्यजनक बात खोजी है: सुरक्षा प्रणाली कोई विशाल गार्ड नहीं है; यह वास्तव में केवल लाइट स्विचों का एक छोटा, विशिष्ट समूह है।
शोधकर्ता इन्हें "सेफ्टी न्यूरॉन्स" (Safety Neurons) कहते हैं।
🔍 खोज: यह मस्तिष्क का केवल 0.6% है
टीम ने पाया कि जब रोबोट को "सुरक्षित" रहने के लिए प्रशिक्षित किया जाता है, तो वह अपने पूरे मस्तिष्क को नहीं बदलता है। इसके बजाय, यह न्यूरॉन्स के एक बहुत छोटे, विशिष्ट समूह को सक्रिय करता है (कुल का लगभग 0.6%) जो एक समर्पित "खतरा डिटेक्टर" (Danger Detector) के रूप में कार्य करते हैं।
- उपमा: एक विशाल पुस्तकालय की कल्पना करें जिसमें लाखों किताबें हैं (मॉडल का ज्ञान)। लोगों को खतरनाक किताबें चेक आउट करने से रोकने के लिए, लाइब्रेरियन हजारों गार्ड नहीं रखता। इसके बजाय, वे "खतरनाक अनुभाग" के दरवाजे पर एक छोटा सा लाल रंग का लाइट लगा देते हैं। यदि वह लाइट चालू है, तो कोई प्रवेश नहीं कर सकता।
- समस्या: क्योंकि यह लाइट इतनी छोटी और विशिष्ट है, यदि आप यह पता लगा लें कि कौन सा तार है और उसे काट दें, तो पूरी सुरक्षा प्रणाली ढह जाती है। रोबोट को सब कुछ पता होता है, लेकिन वह यह भूल जाता है कि बुरी चीजें नहीं कहनी हैं।
⚔️ हमला: "NeuroStrike"
शोधकर्ताओं ने इस कमजोरी का फायदा उठाने के लिए NeuroStrike नामक एक टूल बनाया। उन्होंने इसे दो तरीकों से परखा:
1. व्हाइट-बॉक्स अटैक (द इनसाइडर - अंदरूनी व्यक्ति)
- परिदृश्य: आपके पास रोबोट के ब्लूप्रिंट हैं और आप उसके मस्तिष्क के अंदर देख सकते हैं।
- चाल: शोधकर्ताओं ने एक सरल परीक्षण का उपयोग करके ठीक उन्हीं "लाइट स्विचों" (न्यूरॉन्स) को खोज निकाला जो "ना" कहने के लिए जिम्मेदार थे। एक बार मिल जाने के बाद, उन्होंने बस उन स्विचों को बंद कर दिया (प्रूनिंग/काट दिया)।
- परिणाम: रोबोट "अन-अलाइन्ड" (un-aligned) हो गया। वह अभी भी चैट कर सकता था, कोड लिख सकता था और चुटकुले सुना सकता था, लेकिन यदि आपने उससे बम बनाने की रेसिपी मांगी, तो वह खुशी-खुशी आपको दे देगा।
- सफलता दर: उन्होंने यह 20 से अधिक अलग-अलग रोबोटों के साथ किया। मस्तिष्क के 1% से भी कम हिस्से को बंद करके, उन्होंने रोबोटों को 77% समय खतरनाक बातें कहने के लिए मजबूर कर दिया।
2. ब्लैक-बॉक्स अटैक (द स्पाय - जासूस)
- परिदृश्य: आपके पास ब्लूप्रिंट नहीं हैं। आप केवल एक वेबसाइट के माध्यम से रोबोट से बात कर सकते हैं (जैसे Google के Gemini या किसी प्रोप्राइटरी AI से बात करना)। आप उसके मस्तिष्क को नहीं देख सकते।
- चाल: यह सबसे चतुर हिस्सा है। शोधकर्ताओं ने महसूस किया कि एक ही परिवार के रोबोटों (जैसे Google का Gemini और Google का ओपन-सोर्स Gemma) के सुरक्षा स्विच एक ही स्थानों पर समान होते हैं।
- उन्होंने एक ओपन-सोर्स रोबोट लिया जिसे वे अंदर से देख सकते थे।
- उन्होंने वहां सुरक्षा स्विचों को खोजा।
- उन्होंने एक "प्रॉम्ट जनरेटर" (एक स्मार्ट स्क्रिप्ट) को ऐसे प्रश्न लिखने के लिए प्रशिक्षित किया जो उन विशिष्ट स्विचों को ट्रिप करने से बचते हों।
- उन्होंने वे प्रश्न गुप्त, ब्लैक-बॉक्स रोबोट को भेजे।
- परिणाम: भले ही वे गुप्त रोबोट के मस्तिष्क को नहीं देख सके, लेकिन वे प्रश्न पूरी तरह से काम कर गए क्योंकि "सेफ्टी स्विच" उसी स्थान पर थे।
- सफलता दर: उन्होंने Google के Gemini परिवार और अन्य क्लोज्ड मॉडल्स की सुरक्षा को सफलतापूर्वक बायपास किया, जिससे उन्हें 64% समय खतरनाक उत्तर मिले।
🌐 यह क्यों महत्वपूर्ण है (रूपक)
AI सुरक्षा को एक किले के निर्माण की तरह समझें।
- पुरानी धारणा: हमें लगा कि किले की दीवारें हर जगह मोटी हैं। अंदर घुसने के लिए, आपको एक विशाल बैटरिंग रैम (जटिल, कठिन-से-बनाने वाले प्रॉम्ट्स) की आवश्यकता होगी।
- नई वास्तविकता: किले में पीछे की ओर एक एकल, कमजोर दरवाजा है। यदि आप जानते हैं कि वह दरवाजा कहाँ है, तो आपको बैटरिंग रैम की आवश्यकता नहीं है; आपको बस उस दरवाजे को खोलने के लिए एक छोटी चाबी (NeuroStrike) की आवश्यकता है।
🛡️ निहितार्थ (Implications)
- सुरक्षा नाजुक है: वर्तमान सुरक्षा विधियां AI के बहुत छोटे हिस्से पर केंद्रित हैं। यदि वह हिस्सा टूट जाता है, तो पूरी सुरक्षा प्रणाली विफल हो जाती है।
- यह फैलता है: यदि आप एक संस्करण को हैक करते हैं, तो आप संभवतः उसके "कजिन्स" (फाइन-ट्यून्ड या डिस्टिल्ड वर्जन) को भी हैक कर सकते हैं क्योंकि वे एक ही सुरक्षा स्विच साझा करते हैं।
- मल्टीमॉडल खतरा: यह उन रोबोटों पर भी काम करता है जो चित्र देख सकते हैं। यदि आप सुरक्षा स्विचों को बंद कर देते हैं, तो रोबोट खतरनाक टेक्स्ट की तरह ही आसानी से खतरनाक चित्र भी उत्पन्न करेगा।
🚀 आगे क्या?
लेखक लोगों को बम बनाना नहीं सिखा रहे हैं; वे अलार्म बजा रहे हैं। वे कह रहे हैं: "हमें AI सुरक्षा बनाने के तरीके को फिर से डिजाइन करने की आवश्यकता है।"
केवल कुछ छोटे स्विचों पर निर्भर रहने के बजाय, हमें सुरक्षा को पूरे मस्तिष्क में फैलाना होगा, जैसे कि केवल एक दरवाजे पर नहीं, बल्कि हर दरवाजे पर गार्ड रखना। यदि हम ऐसा करते हैं, तो हैकर्स एक सिंगल तार काटने से सिस्टम को तोड़ नहीं पाएंगे।
संक्षेप में: शोध पत्र ने पाया कि AI सुरक्षा वर्तमान में एक बहुत ही छोटे, नाजुक धागे से बंधी हुई है। यदि आप उस धागे को खींचते हैं, तो पूरा सुरक्षा जाल गिर जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।