TamperBench: Systematically Stress-Testing LLM Safety Under Fine-Tuning and Tampering
यह शोध पत्र TamperBench प्रस्तुत करता है, जो विविध हमलों और सुरक्षा उपायों को क्यूरेट करके, कठोर हाइपरपैरामीटर स्वीप आयोजित करके, और 21 ओपन-वेट मॉडलों का बेंचमार्किंग करके बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) की टेंपर रेजिस्टेंस (छेड़छाड़ के प्रति प्रतिरोधक क्षमता) का व्यवस्थित रूप से मूल्यांकन करने के लिए पहला एकीकृत ढांचा है, जो वर्तमान सुरक्षा संरेखण विधियों में महत्वपूर्ण कमजोरियों को उजागर करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "TamperBench: Systematically Stress-Testing LLM Safety Under Fine-Tuning and Tampering" का सरल भाषा और रचनात्मक उपमाओं (analogies) के साथ विवरण दिया गया है।
बड़ी तस्वीर: "अनलॉक्ड कार" की समस्या
कल्पना कीजिए कि आपने एक बिल्कुल नई, हाई-टेक कार खरीदी है (एक लार्ज लैंग्वेज मॉडल, या LLM) जो एक परिष्कृत सुरक्षा प्रणाली के साथ आती है। इसमें अलार्म, लॉक और एक ड्राइवर-असिस्ट सिस्टम है जो आपको खतरनाक जगहों पर जाने या चोरी करने से रोकता है। यह वह "सेफ्टी अलाइनमेंट" है जिसे कंपनियाँ AI मॉडल्स पर लगाती हैं।
अब, कल्पना कीजिए कि इस कार के साथ एक मास्टर की (master key) भी आती है जिसे कोई भी इस्तेमाल कर सकता है। आप बोनट खोल सकते हैं, इंजन बदल सकते हैं, ब्रेक की वायरिंग बदल सकते हैं, या यहाँ तक कि GPS को भी रीप्रोग्राम कर सकते हैं। यही "ओपन-वेट" (open-weight) मॉडल्स हैं: शक्तिशाली AI उपकरण जहाँ उनका आंतरिक कोड (weights) सार्वजनिक होता है, जिससे कोई भी उन्हें संशोधित कर सकता है।
समस्या क्या है? यदि कोई इस सुरक्षित कार को एक भागने वाली गाड़ी (getaway vehicle) में बदलना चाहता है, तो वे बस इसकी सेटिंग्स को थोड़ा बदल सकते हैं। वे कार को तेज़ बनाने की कोशिश में अनजाने में ब्रेक खराब कर सकते हैं (बेनाइन टैम्परिंग/benign tampering), या वे जानबूझकर सुरक्षा प्रणाली को सभी कानूनों को अनदेखा करने के लिए रीवायर कर सकते हैं (मैलेशियस टैम्परिंग/malicious tampering)।
TamperBench एक नया, मानकीकृत "क्रैश टेस्ट" सुविधा केंद्र है जिसे यह देखने के लिए डिज़ाइन किया गया है कि ये AI कारें कितनी आसानी से हाईजैक की जा सकती हैं और जब कोई इनमें घुसपैट करने की कोशिश करता है, तो उनकी सुरक्षा प्रणालियाँ कितनी अच्छी तरह काम करती हैं।
समस्या: परीक्षणों का एक अस्त-व्यस्त गैरेज
इस शोध पत्र से पहले, AI सुरक्षा का परीक्षण करने वाले शोधकर्ता एक अराजक गैरेज के मैकेनिकों की तरह थे:
- एक व्यक्ति दरवाजे का परीक्षण करने के लिए हथौड़ा इस्तेमाल कर रहा था।
- दूसरा लेजर कटर का उपयोग कर रहा था।
- एक ने मापा कि दरवाजा कितना मुड़ा; दूसरे ने मापा कि अलार्म कितना तेज़ था।
- कुछ ने सेडान पर परीक्षण किया, तो कुछ ने ट्रक पर।
क्योंकि हर कोई अलग-अलग उपकरणों और नियमों का उपयोग कर रहा था, इसलिए यह कहना असंभव था कि "मॉडल A, मॉडल B से अधिक सुरक्षित है।" वे सेब की तुलना संतरे से कर रहे थे।
TamperBench इसे एक एकल, मानकीकृत परीक्षण प्रयोगशाला बनाकर ठीक करता है। यह कहता है: "हम हर कार का परीक्षण करने के लिए एक ही हथौड़ा, एक ही लेजर कटर और एक ही मापने वाला टेप का उपयोग करेंगे।"
TamperBench कैसे काम करता है: तीन-चरणीय स्ट्रेस टेस्ट
शोधकर्ताओं ने एक टूलकिट बनाया जो तीन मुख्य चीजें करता है:
- हमलावर (The "Hackers"): उन्होंने AI मॉडल्स में घुसपैठ करने के सबसे प्रसिद्ध तरीकों का एक पुस्तकालय (library) इकट्ठा किया।
- द "जेलब्रेक ट्यूनिंग" (The Jailbreak Tuning): कल्पना कीजिए कि कार के कंप्यूटर को यह सिखाना कि "चोरी करना वास्तव में एक अच्छा शैक्षिक अभ्यास है।"
- द "बैकडोर" (The Backdoor): एक गुप्त वाक्यांश छिपाना जिसे बोलने पर सभी अलार्म बंद हो जाते हैं।
- द "एक्सीडेंटल स्लिप" (The Accidental Slip): कार को तेज़ चलाने की कोशिश करना, लेकिन अनजाने में ब्रेक को अक्षम कर देना।
- रक्षक (The "Defenders"): उन्होंने अन्य वैज्ञानिकों द्वारा प्रस्तावित विभिन्न सुरक्षा विधियों (जैसे "वैक्सीन" या "सर्किट ब्रेकर") को कारों में स्थापित किया ताकि देखा जा सके कि वे काम करते हैं या नहीं।
- निर्णायक (The "Judges"): उन्होंने केवल यह नहीं पूछा, "क्या कार टूट गई?" बल्कि उन्होंने दो प्रश्न पूछे:
- सुरक्षा (Safety): क्या कार खतरनाक जगहों पर जाने लगी?
- उपयोगिता (Utility): क्या कार अभी भी सामान्य ड्राइविंग के लिए ठीक से काम कर रही थी? (यदि आप कार को तेज़ चलाने के लिए ब्रेक तोड़ देते हैं, लेकिन अब कार हिल भी नहीं पा रही है, तो यह वास्तविक दुनिया में एक सफल "हमला" नहीं है। एक वास्तविक हमलावर को ऐसी कार चाहिए जो खतरनाक भी हो और चालू भी।)
चौंकाने वाले परिणाम: सुरक्षा प्रणालियाँ विफल रहीं
शोधकर्ताओं ने 21 अलग-अलग AI मॉडल्स (Llama, Mistral और Qwen जैसे लोकप्रिय मॉडल्स सहित) का परीक्षण किया और कुछ कड़वे सच सामने आए:
1. हर एक कार को हाईजैक किया जा सकता है
मूल सुरक्षा प्रणाली कितनी भी मजबूत क्यों न हो, या कार कितनी भी बड़ी क्यों न हो, हर एक मॉडल को खतरनाक बनाने के लिए बदला जा सकता था। यदि हमलावर के पास पर्याप्त समय और कंप्यूटिंग पावर है, तो वे सुरक्षा घेरों (guardrails) को हटा सकते हैं।
2. "जेलब्रेक ट्यूनिंग" सबसे बड़ा अपराधी है
घुसपैठ करने के सभी तरीकों में, "जेलब्रेक ट्यूनिंग" सबसे प्रभावी तरीका था।
- उपमा: यह कार के कंप्यूटर को यह समझाने जैसा है कि भौतिकी के नियम लागू नहीं होते हैं। यह तरीका सुरक्षा नियमों को अनदेखा करने के लिए AI को मनाने में सबसे सफल रहा, जबकि उसे बुरा काम करने के लिए पर्याप्त स्मार्ट बनाए रखा।
3. बड़ा होना जरूरी नहीं कि सुरक्षित हो
आप सोच सकते हैं कि एक बड़ी, महंगी कार (70-बिलियन पैरामीटर मॉडल) को तोड़ना एक छोटी कार (8-बिलियन पैरामीटर मॉडल) की तुलना में कठिन होगा। अध्ययन में पाया गया कि आकार से ज्यादा फर्क नहीं पड़ता। बड़ी मॉडल्स को भी उतनी ही आसानी से हाईजैक किया जा सकता था जितनी छोटी मॉडल्स को।
4. "सुरक्षा गार्ड" (बचाव के तरीके) ज्यादातर विफल रहे
शोधकर्ताओं ने सात अलग-अलग "डिफेंस" विधियों का परीक्षण किया जो AI को छेड़छाड़ के प्रति प्रतिरोधी बनाने के लिए डिज़ाइन की गई थीं।
- परिणाम: गंभीर और व्यवस्थित हमले के सामने लगभग सभी विफल रहे।
- समझौता (Trade-off): कुछ सुरक्षा उपायों ने AI को तोड़ने में कठिन तो बनाया, लेकिन उन्होंने AI को "मूर्ख" भी बना दिया। यह कार के दरवाजे पर स्टील की प्लेट लगाने जैसा था: यह चोर को तो रोकता है, लेकिन अब दरवाजा इतना भारी है कि कार चल ही नहीं सकती। जिन सुरक्षा उपायों ने कार को चलाने योग्य बनाए रखा, वे चोर को रोकने में विफल रहे।
5. अनजाने नुकसान (Accidental Damage) भी वास्तविक हैं
भले ही आप केवल कार का रेडियो अपडेट करने जैसे अच्छे काम कर रहे हों (बेनाइन फाइन-ट्यूनिंग), आप अनजाने में सुरक्षा लॉक को तोड़ सकते हैं। अध्ययन ने दिखाया कि "अच्छे" अपडेट भी सुरक्षा को कमजोर कर सकते हैं।
निष्कर्ष (The Takeaway)
यह पेपर निष्कर्ष निकालता है कि वर्तमान में, हमारे पास वास्तव में भरोसेमंद तरीका नहीं है जिससे ओपन AI मॉडल्स को पूरी तरह से छेड़छाड़-मुक्त (tamper-proof) बनाया जा सके।
इसे ऐसे समझें: हमने अविश्वसनीय रूप से स्मार्ट कारें तो बनाई हैं, लेकिन हम सबको मास्टर की बांट रहे हैं। हमने "अभेद्य ताले" बनाने का आविष्कार करने की कोशिश की है, लेकिन अब तक, हमने जितने भी ताले टेस्ट किए हैं, उन्हें एक कुशल मैकेनिक द्वारा खोला जा सकता है, और अक्सर कार उतनी ही चालू स्थिति में रहती है जितनी पहले थी।
TamperBench अब एक ओपन-सोर्स टूल के रूप में उपलब्ध है। यह दुनिया के हर मैकेनिक को एक ही मानकीकृत क्रैश-टेस्ट उपकरण देने जैसा है ताकि वे अंततः इस बात पर सहमत हो सकें कि कौन सी कारें वास्तव में सुरक्षित हैं और कौन सी केवल दिखावा कर रही हैं। लेखक समुदाय से इस टूल का उपयोग करने का आह्वान कर रहे हैं ताकि इन शक्तिशाली मॉडल्स को वास्तविक दुनिया में नुकसान पहुँचाने से पहले बेहतर सुरक्षा के तरीके खोजे जा सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।