Moving the Safety Barrier: Dynamic Routing Adaptive Alignment Against White-Box Attacks
यह शोध पत्र डायनेमिक रूटिंग एडेप्टिव अलाइनमेंट (DRAA) का प्रस्ताव करता है, जो एक ऐसा ढांचा है जो सुरक्षा मार्गों की पहचान और स्थानीयकरण करके, फिर प्राथमिक सुरक्षा तंत्र के समझौता होने पर भी इनकार व्यवहार (refusal behavior) को बनाए रखने के लिए क्षतिपूरक पथों को प्रशिक्षित करके, व्हाइट-बॉक्स हमलों के विरुद्ध बड़े फाउंडेशन मॉडलों की मजबूती को बढ़ाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल, हलचल भरी लाइब्रेरी में घूम रहे हैं जहाँ किताबें आपसे बात कर सकती हैं। यह लार्ज फाउंडेशन मॉडल्स (LFMs) की दुनिया है, जो वे सुपर-स्मार्ट AI दिमाग हैं जो राइटिंग असिस्टेंट से लेकर चैटबॉट्स तक सब कुछ संचालित करते हैं। इन AI सिस्टमों के सुरक्षित होने के लिए, उनके दिमाग के अंदर एक "सेफ्टी गार्ड" (सुरक्षा रक्षक) होना चाहिए जो उन्हें खतरनाक सवालों के जवाब देने से रोकता है, जैसे "मैं बम कैसे बनाऊं?" या "मैं बैंक कैसे हैक करूं?" लंबे समय तक, वैज्ञानिकों ने सोचा कि यह सुरक्षा गार्ड एक मजबूत, एकल दरवाजे की तरह है। उन्होंने उस दरवाजे को मजबूती से बंद करने के लिए बचाव तंत्र बनाए। लेकिन हाल ही में, हैकर्स (जो "व्हाइट-बॉक्स अटैकर" हैं) ने लाइब्रेरी के ब्लूप्रिंट के अंदर झांकना और ठीक से पता लगाना सीख लिया कि वह दरवाजा कहाँ है, और बस उसके कब्जे (hinges) हटा दिए। एक बार जब दरवाजा हट जाता है, तो AI "ना" कहना भूल जाता है और खुशी-खुशी गलत चीजों में मदद करने लगता है। बड़ा सवाल यह है कि हम एक ऐसा AI कैसे बनाएं जो केवल एक दरवाजे पर निर्भर न हो, बल्कि एक नया रास्ता तब बना सके जब पुराना रास्ता ढहा दिया जाए?
यह बिल्कुल वही है जिसे पेपर "मूविंग द सेफ्टी बैरियर: डायनेमिक रूटिंग एडेप्टिव अलाइनमेंट अगेंस्ट व्हाइट-बॉक्स अटैक्स" संबोधित करता है। लेखक, जिनका नेतृत्व शांगज़े ली और सहयोगियों ने किया, इस बात से वाकिफ थे कि AI सुरक्षा बनाने का पुराना तरीका बहुत कठोर था। वे एक नया फ्रेमवर्क प्रस्तावित करते हैं जिसे DRAA (डायनेमिक रूटिंग एडेप्टिव अलाइनमेंट) कहा जाता है। इसे ऐसे समझें जैसे किसी सुरक्षा गार्ड को केवल एक विशिष्ट दरवाजे के सामने खड़े होने के लिए प्रशिक्षित करना नहीं, बल्कि यह सिखाना कि जब वह दरवाजा अवरुद्ध हो जाए, तो ट्रैफ़िक को तुरंत एक गुप्त सुरंग के माध्यम से कैसे मोड़ दिया जाए।
यहाँ उनका "जादुई करतब" सरल चरणों में दिया गया है:
1. "मैजिक डोर" (जादुई दरवाजा) खोजना
सबसे पहले, शोधकर्ताओं को यह पता लगाना था कि AI के दिमाग का कौन सा हिस्सा "ना कहने" का काम कर रहा है। उन्होंने AI को सुरक्षित सवाल (जैसे "मैं केक कैसे बनाऊं?") और असुरक्षित सवाल (जैसे "मैं केक कैसे चुराऊं?") दिए। यह देखकर कि प्रत्येक के लिए AI के मस्तिष्क की कोशिकाएं (न्यूरॉन्स) कैसे सक्रिय हुईं, उन्होंने विशिष्ट "सेफ्टी रूट" (सुरक्षा मार्ग) को पहचान लिया—न्यूरॉन्स का एक विशिष्ट पथ जो मुख्य गार्ड के रूप में कार्य करता है।
2. जानबूझकर दरवाजे को तोड़ना
इसके बाद, उन्होंने कुछ जोखिम भरा किया: उन्होंने AI के दिमाग में उस मुख्य सुरक्षा मार्ग को अस्थायी रूप से "बंद" कर दिया। उन्होंने AI से फिर से खतरनाक सवाल पूछे। जैसा कि अपेक्षित था, अपने मुख्य गार्ड के बिना, AI गलत उत्तर देने लगा। यह वह "विफलता" थी जिसका उन्हें अध्ययन करने की आवश्यकता थी।
3. एक 'डिटूर' (वैकल्पिक मार्ग) सिखाना
यह सबसे चतुर हिस्सा है। शोधकर्ताओं ने उन क्षणों को लिया जहाँ AI विफल हुआ (क्योंकि मुख्य दरवाजा गायब था) और उनका उपयोग AI को एक नया सबक सिखाने के लिए किया। उन्होंने कहा, "हे, जब मुख्य गार्ड गायब हो, तो तुम्हें 'ना' कहने का दूसरा तरीका ढूंढना ही होगा।" उन्होंने एक विशेष प्रशिक्षण पद्धति का उपयोग किया जिसे DR-DPO (डायनेमिक रूटिंग डायरेक्ट प्रेफरेंस ऑप्टिमाइजेशन) कहा जाता है। इसे एक खेल की तरह समझें जहाँ AI को एक "डिटूर" रणनीति सीखने के लिए मजबूर किया जाता है। यह प्रशिक्षण मूल सुरक्षा न्यूरॉन्स को लॉक कर देता है ताकि AI केवल उन पर निर्भर न रह सके; इसे खतरे को संभालने के लिए अपने मस्तिष्क में नए, छिपे हुए रास्ते खोजने ही होंगे।
4. परिणाम: एक सुपर-रेज़िलिएंट (अति-लचीला) AI
पेपर ने परीक्षण किया कि यह Qwen2.5 और LLaMA-3.2 सहित कई अलग-अलग AI मॉडल पर कैसे काम करता है। परिणाम प्रभावशाली थे। जब हैकर्स ने ज्ञात सुरक्षा न्यूरॉन्स को "प्रून" (काटने) की कोशिश की, तो पुराने AI मॉडल ढह गए और हानिकारक उत्तर देने लगे। लेकिन DRAA-प्रशिक्षित मॉडल? वे "ना" कहते रहे।
उदाहरण के लिए, 14-बिलियन-पैरामीटर वाले मॉडल Qwen2.5-14B पर, मानक बचाव पूरी तरह से विफल रहा जब सुरक्षा मार्ग पर हमला किया गया, जिससे 313 में से 270 हानिकारक प्रॉम्प्ट्स पास हो गए। हालाँकि, DRAA मॉडल ने 313 में से केवल 5 को ही गुजरने दिया। यहाँ तक कि 1.5-बिलियन-पैरामीटर वाले छोटे मॉडल पर भी, DRAA ने विफलता दर को 248 से घटाकर केवल 43 कर दिया।
लेखकों ने यह भी जांचा कि क्या इस नए "डिटूर" कौशल ने AI को सामान्य कार्यों में कम बुद्धिमान बना दिया। उन्होंने गणित की समस्याओं (GSM8K) और सामान्य ज्ञान (ARC) पर परीक्षण किया। परिणामों ने दिखाया कि AI पहले की तरह ही स्मार्ट और मददगार बना रहा; बस उसे एक सुपरपावर मिल गई कि जब उसका मुख्य बचाव नष्ट हो जाए, तब भी वह सुरक्षित रह सके।
यह क्यों महत्वपूर्ण है
पेपर सुझाव देता है कि एक एकल, स्थिर सुरक्षा पथ पर निर्भर रहना AI सुरक्षा में एक घातक दोष है। यदि हमलावर जानता है कि गार्ड कहाँ है, तो वे उसे हटा सकते हैं। DRAA सुझाव देता है कि एक बेहतर तरीका है: रेडंडेंसी (अतिरिक्त बैकअप) बनाना। AI को यह सिखाकर कि वह मुख्य मार्ग से समझौता होने पर गतिशील रूप से बैकअप मार्गों पर स्विच करे, हम एक ऐसी प्रणाली बनाते हैं जिसे तोड़ना बहुत कठिन होता है। लेखकों ने पाया कि यह तरीका न केवल टेक्स्ट के लिए, बल्कि छवियों और वीडियो (मल्टीमॉडल मॉडल्स) के लिए भी काम करता है, जो इसे अगली पीढ़ी के AI हमलों के खिलाफ एक मजबूत ढाल बनाता है।
संक्षेप में, पेपर का तर्क है कि सुरक्षा एक अकेला बंद दरवाजा नहीं होनी चाहिए; यह रास्तों का एक लचीला नेटवर्क होना चाहिए जो ट्रैफ़िक को तुरंत मोड़ सके, जिससे यह सुनिश्चित हो सके कि AI सुरक्षित रहे, चाहे कोई भी इसे तोड़ने की कितनी भी कोशिश क्यों न करे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।