Same Model, Different Weakness: How Language and Modality Reshape the Jailbreak Attack Surface in Frontier MLLMs
यह अध्ययन प्रकट करता है कि फ्रंटियर मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स में जेलब्रेक कमजोरियां भाषाओं के बीच समान नहीं हैं, जो यह दर्शाता है कि अंग्रेजी से स्पेनिश में स्विच करने से हमला सतह (अटैक सरफेस) मौलिक रूप से बदल जाती है, जिससे भाषाई फ्रेमिंग हमलों को कमजोर करते हुए विजुअल हमलों को मजबूत किया जाता है, और इस प्रकार एकल-भाषा मूल्यांकन से प्राप्त सुरक्षा रैंकिंग को अमान्य कर दिया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक डिजिटल इमारत के लिए एक बहुत ही बुद्धिमान, उच्च प्रशिक्षित सुरक्षा गार्ड है। इस गार्ड का काम लोगों को खतरनाक चीजें मांगने से रोकना है, जैसे कि बम कैसे बनाया जाए या झूठ कैसे फैलाया जाए। लंबे समय तक, हमने सोचा कि यह गार्ड अंग्रेजी या स्पेनिश में की गई बुरी मांगों को रोकने में समान रूप से सक्षम है।
यह शोध पत्र इस धारणा को गलत साबित करने वाला एक जासूसी कहानी जैसा है। शोधकर्ताओं ने पाया कि गार्ड के "कान" विशेष रूप से अंग्रेजी के लिए ट्यून किए गए हैं, लेकिन उसकी "आंखें" अलग तरह से काम करती हैं।
यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. "भाषा फ़िल्टर" बनाम "दृश्य लेंस" (The "Language Filter" vs. The "Visual Lens")
AI मॉडल को एक ऐसे सुरक्षा गार्ड के रूप में सोचें जिसने हजारों अंग्रेजी फिल्मों को देखकर और अंग्रेजी किताबें पढ़कर अपने नियम सीखे हैं।
- भाषाई कमजोरी: यदि कोई बुरा व्यक्ति एक चतुर अंग्रेजी कहानी का उपयोग करके गार्ड को धोखा देने की कोशिश करता है (जैसे कि किसी नाटक के पात्र होने का नाटक करना या प्रेरक तर्क देना), तो गार्ड उस पैटर्न को तुरंत पहचान लेता है और कहता है, "नहीं, मैंने यह चाल पहले देखी है।"
- स्पेनिश ट्विस्ट: जब शोधकर्ताओं ने भाषा बदलकर मैक्सिकन स्पेनिश कर दी, तो गार्ड का "भाषा फ़िल्टर" भ्रमित हो गया। अंग्रेजी शैली की चतुर चालें (जैसे भूमिका निभाना) काम करना बंद कर गईं क्योंकि गार्ड उन विशिष्ट अलंकारिक पैटर्न को पहचानने के लिए प्रशिक्षित नहीं था जो स्पेनिश में होते हैं। यह एक अलग दरवाजे के लिए फिट होने वाली चाबी से ताला खोलने की कोशिश करने जैसा है; वह चाल अब काम नहीं करती।
- दृश्य आश्चर्य: हालांकि, जब बुरे लोगों ने गार्ड को धोखा देने के लिए छवियों (images) का उपयोग किया, तो इसके विपरीत हुआ। स्पेनिश में, दृश्य चालें वास्तव में अधिक प्रभावी हो गईं। ऐसा है जैसे गार्ड की आंखें उसके भाषा प्रशिक्षण से कम जुड़ी हुई हैं। जब वह एक तस्वीर देखता है, तो वह उसे एक अलग मार्ग के माध्यम से प्रोसेस करता है जो इस बात की परवाह नहीं करता कि टेक्स्ट अंग्रेजी में है या स्पेनिश में।
2. "रैंक रिवर्सल" (The "Rank Reversal" - बड़ा आश्चर्य)
आमतौर पर, जब आप सुरक्षा प्रणालियों का परीक्षण करते हैं, तो आप उम्मीद करते हैं कि "सबसे अच्छा" गार्ड सबसे अच्छा ही रहेगा, और "सबसे खराब" गार्ड सबसे खराब ही रहेगा, चाहे आप कोई भी भाषा बोलें।
- अंग्रेजी में: एक मॉडल (मान लीजिए कि "Pixtral") सबसे खराब गार्ड था, जिसे आसानी से धोखा दिया जा सका। दूसरा मॉडल ("Qwen") बीच में था।
- स्पेनिश में: रैंकिंग उलट गई! "Qwen" अचानक सबसे खराब गार्ड बन गया, जबकि "Pixtral" को धोखा देना बहुत कठिन हो गया।
- निष्कर्ष: आप केवल अंग्रेजी सुरक्षा स्कोर लेकर थोड़ा सा गणित लगाकर यह अनुमान नहीं लगा सकते कि कोई मॉडल स्पेनिश में कितना सुरक्षित है। कौन सुरक्षित है और कौन खतरनाक, इसका क्रम भाषा के आधार पर वास्तव में बदल जाता है।
3. यह क्यों होता है ("प्रशिक्षण आहार" की उपमा - The "Training Diet" Analogy)
शोध पत्र सुझाव देता है कि यह इन AI मॉडलों के प्रशिक्षण के तरीके के कारण होता है।
- कल्पना कीजिए कि मॉडल एक छात्र है जिसने केवल अंग्रेजी में सुरक्षा कक्षाएं ली हैं। उन्होंने अंग्रेजी शब्दों और वाक्य संरचनाओं के आधार पर "बुरे व्यवहार" को पहचानना सीखा है।
- जब उनसे स्पेनिश में प्रश्न पूछा जाता है, तो वे शब्दों का विश्लेषण करने के लिए अभी भी अपने अंग्रेजी-प्रशिक्षित मस्तिष्क का उपयोग कर रहे होते हैं। वे चालों को मिस कर देते हैं क्योंकि "चाल की शब्दावली" अलग होती है।
- हालांकि, छवियां सार्वभौमिक होती हैं। बम की तस्वीर किसी भी भाषा में बम जैसी ही दिखती है। चूंकि मॉडल का विजुअल प्रोसेसिंग (दृश्य प्रसंस्करण) उसके अंग्रेजी सुरक्षा प्रशिक्षण से उतना मजबूती से बंधा हुआ नहीं है, इसलिए वह कभी-कभी छवि को खतरे से जोड़ने में विफल रहता है, खासकर जब उसके आसपास का टेक्स्ट ऐसी भाषा में हो जिसे मॉडल उतना "सुरक्षित-प्रशिक्षित" नहीं मानता।
4. निचोड़ (The Bottom Line)
शोधकर्ताओं ने चार अलग-अलग शीर्ष-स्तरीय AI मॉडलों का 363 विभिन्न "जेलब्रेक" प्रयासों (सुरक्षा नियमों को दरकिनार करने की चालें) के साथ अंग्रेजी और स्पेनिश दोनों में परीक्षण किया। उन्होंने पाया:
- सुरक्षा एक निश्चित संख्या नहीं है। एक मॉडल केवल "सुरक्षित" या "असुरक्षित" नहीं होता। वह कुछ भाषाओं में सुरक्षित और अन्य भाषाओं में असुरक्षित हो सकता है।
- "एक-आकार-सभी-के-लिए-फिट" (One-Size-Fits-All) परीक्षण टूट गया है। यदि आप इन मॉडलों का केवल अंग्रेजी में परीक्षण करते हैं, तो आप दुनिया के बाकी हिस्सों के लिए वे कितने सुरक्षित हैं, इसकी एक गलत तस्वीर प्राप्त कर रहे हैं।
- पीढ़ियां बेहतर हो रही हैं, लेकिन अंतराल बने हुए हैं। नए मॉडल पुराने मॉडलों की तुलना में धोखा देना थोड़ा कठिन है, लेकिन अंग्रेजी और स्पेनिश सुरक्षा स्तरों के बीच अजीब अंतर अभी भी मौजूद है।
संक्षेप में: यदि आप जानना चाहते हैं कि क्या कोई AI स्पेनिश भाषी उपयोगकर्ता के लिए सुरक्षित है, तो आप केवल उसकी अंग्रेजी सुरक्षा रिपोर्ट को देखकर यह नहीं जान सकते। आपको स्पेनिश में इसका परीक्षण करना होगा, क्योंकि भाषा के आधार पर कवच के "कमजोर बिंदु" पूरी तरह से अलग स्थानों पर होते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।