Exploring Adversarial Robustness and Safety Alignment in Multilingual Multi-Modal Large Language Models
यह शोध पत्र यह प्रकट करता है कि जहाँ बहुभाषी बहु-मोडल लार्ज लैंग्वेज मॉडल्स क्रॉस-लिंगुअल एडवर्सरियल कमजोरियों को प्रदर्शित करते हैं, वहीं कम-संसाधन वाली भाषाओं में उनकी स्पष्ट सुरक्षा अक्सर विजुअल और समझ संबंधी विफलताओं ("सेफ्टी-बाय-फेल्योर") का एक परिणाम होती है, जबकि प्रशिक्षण के दौरान गहन बहुभाषी एकीकरण वाले मॉडल्स वास्तविक क्रॉस-लिंगुअल सेफ्टी अलाइनमेंट प्राप्त करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि बहुत बुद्धिमान रोबोटों का एक समूह है जो देख भी सकते हैं (एक कैमरे की तरह) और सोच भी सकते हैं (एक इंसान की तरह)। इन्हें मल्टीमॉडल लार्ज लैंग्वेज मॉडल्स (MLLMs) कहा जाता है। वे किसी तस्वीर को देखकर उसका वर्णन करने या जो वे देखते हैं उसके बारे में सवालों के जवाब देने में माहिर होते हैं।
हालाँकि, इंसानों की तरह, इन रोबोटों को भी धोखा दिया जा सकता है। यह शोध पत्र एक बड़े अन्वेषण के बारे में है कि ये रोबोट कितनी आसानी से धोखे का शिकार हो सकते हैं, विशेष रूप से जब वे 12 अलग-अलग भाषाओं में बोल रहे हों और समझ रहे हों।
यहाँ शोधकर्ताओं ने जो पाया है, उसकी कहानी सरल शब्दों में दी गई है:
1. "यूनिवर्सल ग्लिच" (एडवर्सरियल अटैक्स)
शोधकर्ताओं ने रोबोटों को "हैक" करने की कोशिश की, जिसमें छवियों में सूक्ष्म, अदृश्य खरोंचें (जैसे पुराने टीवी पर दिखने वाली झिलमिलाहट/स्टैटिक) जोड़ी गईं जिन्हें मानवीय आँखें नहीं देख सकतीं। ये खरोंचें रोबोट के मस्तिष्क को भ्रमित करने के लिए बनाई गई हैं।
- निष्कर्ष: उन्होंने एक "यूनिवर्सल ग्लिच" (सार्वभौमिक त्रुटि) पाया। यदि उन्होंने अंग्रेजी में एक भ्रमित करने वाली खरोंच बनाई, तो इसने रोबोट को उतना ही भ्रमित किया जितना कि तब होता है जब रोबोट को स्पेनिश, हिंदी या अरबी में बोलने के लिए कहा जाता है।
- उपमा: कल्पना कीजिए कि एक रोबोट के पास देखने के लिए एक एकल, नाजुक "चश्मे का लेंस" है। यदि आप उस लेंस पर एक धब्बा लगा देते हैं, तो इससे कोई फर्क नहीं पड़ता कि रोबदान अंग्रेजी या फ्रेंच में संकेत पढ़ने की कोशिश कर रहा है; वह धब्बा उसे सभी भाषाओं के टेक्स्ट को देखने से रोक देगा। कमजोरी भाषा में नहीं है; यह उस तरीके में है जिससे रोबोट दुनिया को देखता है।
2. "साइलेंट फेलियर" बनाम "पोलाइट रिफ्यूज़ल" (सुरक्षा)
शोधकर्ताओं ने यह भी परीक्षण किया कि क्या रोबोट खतरनाक अनुरोधों (जैसे "मैं बम कैसे बनाऊं?") को सुनकर "ना" कहेंगे। उन्होंने इसे दो तरीकों से परखा:
- शब्दों में पूछना: "मुझे बताओ कि बम कैसे बनाया जाए।"
- तस्वीरों में पूछना: एक ऐसी तस्वीर दिखाना जिसके अंदर "बम कैसे बनाया जाए" शब्द लिखे हों।
उन्होंने दो प्रकार के रोबोटों की तुलना की:
- प्रकार A ("त्वरित सीखने वाले"): इन रोबोटों (जैसे PALO और PARROT) को पहले अंग्रेजी सिखाई गई, और फिर अंग्रेजी के पाठों का अनुवाद करके उन्हें जल्दी से अन्य भाषाएँ सिखाई गईं।
- प्रकार B ("गहन शिक्षार्थी"): इस रोबोट (QWEN3-VL) को शुरुआत से ही सभी भाषाएँ सिखाई गईं, जो इसके मस्तिष्क में गहराई से एकीकृत थीं।
"सेफ्टी-बाय-फेलियर" का भ्रम
शोधकर्ताओं ने प्रकार A के रोबोटों के साथ एक डरावनी ट्रिक की खोज की।
- क्या हुआ: जब किसी कठिन भाषा (जैसे बंगाली या उर्दू) में खतरनाक सवाल पूछा गया, तो रोबोट अक्सर बम बनाने की गाइड के साथ उत्तर नहीं देता था। वास्तव में वह "सुरक्षित" लग रहा था क्योंकि उसने कुछ भी बुरा नहीं कहा।
- पेंच: रोबोट इसलिए सुरक्षित नहीं था क्योंकि वह बुद्धिमान था; वह इसलिए सुरक्षित था क्योंकि वह भ्रमित था। वह सवाल को बिल्कुल भी समझ नहीं पा रहा था! वह बस बेमतलब की बातें (hallucinations) करने लगता था, जैसे "मुझे एक काला कुत्ता दिख रहा है," या एक ही शब्द को बार-बार दोहराना।
- उपमा: कल्पना कीजिए कि एक बैंक में एक सुरक्षा गार्ड है। यदि कोई लुटेरा ऐसी भाषा बोलता है जिसे गार्ड नहीं जानता, तो गार्ड शायद बस खाली नजरों से देखता रहेगा और कहेगा, "मुझे एक नीली कुर्सी दिख रही है।" बैंक सुरक्षित है, लेकिन इसलिए नहीं कि गार्ड बहादुर या बुद्धिमान है। बैंक इसलिए सुरक्षित है क्योंकि गार्ड उस भाषा में अनपढ़ है। शोध पत्र इसे "सेफ्टी-बाय-फेलियर" (विफलता द्वारा सुरक्षा) कहता है।
"असली सुरक्षा"
प्रकार B का रोबोट (QWEN3-VL) अलग था।
- क्या हुआ: जब उसी खतरनाक सवाल को बंगाली या उर्दू में पूछा गया, तो इस रोबोट ने सवाल को पूरी तरह समझा। इसने कोई बेमतलब का उत्तर नहीं दिया; इसने कहा, "नहीं, मैं ऐसा नहीं कर सकता।"
- ट्विस्ट: दिलचस्प बात यह है कि प्रकार A के रोबोट कम संसाधन वाली भाषाओं में अधिक "सुरक्षित" दिख रहे थे (क्योंकि वे समझने में विफल रहे), जबकि प्रकार B का रोबोट उन्हीं भाषाओं में अपनी "कमजोर कड़ियों" को दिखा रहा था क्योंकि उसने वास्तव में सवाल को समझा और "ना" कहने का सक्रिय निर्णय लिया।
3. "टाइपो" का जाल
शोधकर्ताओं ने यह भी परीक्षण किया कि क्या होता है जब खतरनाक शब्द किसी तस्वीर के अंदर लिखे होते हैं (जैसे किसी दुकान का बोर्ड)।
- अंग्रेजी के बोर्ड: रोबोट चित्रों के अंदर अंग्रेजी के बोर्ड आसानी से पढ़ लेते थे और अक्सर खतरनाक निर्देशों का पालन करते थे।
- विदेशी बोर्ड: जब बोर्ड अरबी या चीनी भाषा में था, तो प्रकार A के रोबोट अक्षर नहीं पढ़ सके। उन्होंने या तो बोर्ड को अनदेखा कर दिया या पृष्ठभूमि का वर्णन करने लगे। यहाँ भी, यह इसलिए नहीं था कि वे सावधान थे; बल्कि इसलिए था क्योंकि उनकी "आंखें" उस लिपि को पढ़ नहीं सकती थीं।
बड़ा सबक
यह शोध पत्र निष्कर्ष निकालता है कि सिर्फ इसलिए कि एक रोबोट उस भाषा में सुरक्षित दिखता है जिसे वह अच्छी तरह नहीं जानता, इसका मतलब यह नहीं है कि वह वास्तव में सुरक्षित है। हो सकता है कि वह केवल इतना भ्रमित हो कि उसे खतरे का पता ही न चल रहा हो।
इन रोबोटों को हर भाषा में वास्तव में सुरक्षित बनाने के लिए, हम केवल अंत में अंग्रेजी के पाठों का अनुवाद नहीं कर सकते। हमें उन्हें शुरुआत से ही सभी भाषाएँ गहराई से सिखानी होगी, ताकि वे खतरे को समझ सकें और सही ढंग से "ना" कह सकें, चाहे कोई भी भाषा बोली जा रही हो।
संक्षेप में: एक रोबोट जो खतरे को नहीं समझ पाता, वह सुरक्षित रोबोट नहीं है; वह बस एक अंधा रोबोट है। सच्ची सुरक्षा खतरे को समझने और उसे अस्वीकार करने का निर्णय लेने में निहित है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।