Unveiling Privacy Risks in Multi-modal Large Language Models: Task-specific Vulnerabilities and Mitigation Challenges
यह शोध पत्र मल्टी-मोडल लार्ज लैंग्वेज मॉडल्स (MLLMs) में अद्वितीय गोपनीयता जोखिमों का व्यवस्थित रूप से मूल्यांकन करने और उन्हें उजागर करने के लिए MM-Privacy डेटासेट प्रस्तुत करता है, जो विभिन्न कार्यों में छवियों या मेमोरी में अंतर्निहित संवेदनशील जानकारी को लीक करने के प्रति उनकी संवेदनशीलता को प्रदर्शित करता है और लक्षित शमन रणनीतियों की तत्काल आवश्यकता पर प्रकाश डालता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट असिस्टेंट है जो टेक्स्ट पढ़ सकता है और चित्रों को भी देख सकता है। यह एक मल्टी-मोडल लार्ज लैंग्वेज मॉडल (MLLM) है। हालांकि हम पहले से ही जानते हैं कि ये असिस्टेंट कभी-कभी पढ़े गए टेक्स्ट से अनजाने में राज उगल सकते हैं, लेकिन यह शोध एक डरावने नए सवाल की जांच करता है: क्या होता है जब वे किसी ऐसी तस्वीर को देखते हैं जिसमें रहस्य छिपे हों?
शोधकर्ताओं ने, जिनका नेतृत्व टीजेइन चेन (Tiejin Chen) और उनके सहयोगियों ने किया, पाया कि ये चित्र-पढ़ने वाले असिस्टेंट एक लीकी बकेट (छेद वाले बाल्टी) की तरह हैं। भले ही आप उन्हें कहें "यह मत बताओ," फिर भी अगर रहस्य किसी छवि के अंदर छिपा हो, तो वे अक्सर राज उगल देते हैं।
यहाँ सरल उपमाओं (analogies) का उपयोग करके उनके निष्कर्षों का विवरण दिया गया है:
1. राज उगलने के दो तरीके
टीम ने परिभाषित किया कि ये मॉडल राज रखने में किन दो विशिष्ट तरीकों से विफल होते हैं:
- डिस्क्लोजर रिस्क (Disclosure Risk - "ओह, अभी के अभी" वाला लीक):
कल्पना कीजिए कि आप असिस्टेंट को नौकरी के आवेदन की एक फोटो देते हैं जिस पर सोशल सिक्योरिटी नंबर (SSN) लिखा है और पूछते हैं, "वह नंबर क्या है?"- समस्या: टेक्स्ट-ओनली मॉडल्स के विपरीत जो शायद कह सकें, "मैं यह नहीं कर सकता," कई इमेज-कैपेबल मॉडल्स बस वह नंबर ज़ोर से बोल देते हैं। वे छवि को देखते हैं, उसके अंदर के टेक्स्ट को समझते हैं, और खुशी-खुशी वह गुप्त जानकारी दोहरा देते हैं।
- रिटेंशन रिस्क (Retention Risk - "मुझे सब कुछ याद है" वाला लीक):
कल्पना कीजिए कि आप असिस्टेंट को निजी जानकारी (जैसे नकली SSN) वाले कई नकली दस्तावेज़ों पर प्रशिक्षित (train) करते हैं ताकि वह उन्हें "सीख" सके। बाद में, आप पूछते हैं, "मुझे वह नंबर बताएं जो आपने उन दस्तावेजों से याद किया है जिनका आपने अध्ययन किया था।"- समस्या: मॉडल एक ऐसे तोते की तरह व्यवहार करता है जिसने पूरी किताब रट ली है। भले ही आप उसे अब वह चित्र न दिखा रहे हों, फिर भी वह उस गुप्त जानकारी को याद कर सकता है जिस पर उसे प्रशिक्षित किया गया था।
2. "एमएम-प्राइवेसी" (MM-Privacy) टेस्ट किचन
इसकी जांच करने के लिए, शोधकर्ताओं ने एक विशाल टेस्ट सेट बनाया जिसे MM-Privacy कहा जाता है। इसे एक AI के लिए विशाल बाधा दौड़ (obstacle course) के रूप में समझें।
- उन्होंने 13,000+ टेस्ट केस बनाए।
- उन्होंने नकली लेकिन वास्तविक दिखने वाले दस्तावेजों (जैसे लोन फॉर्म, हायरिंग एप्लिकेशन और आईडी कार्ड) का उपयोग किया जिनमें नकली फोन नंबर और SSN भरे थे।
- उन्होंने AI को चार अलग-अलग "कमरों" (परिदृश्यों) में परखा: हायरिंग (Hiring), फाइनेंस (Finance), वेरिफिकेशन (Verification), और ओपन कॉन्टेक्स्ट (Open Context)।
- उन्होंने AI को अलग-अलग तरीकों से चकमा देने की कोशिश की: सीधे पूछकर, फोटो का कैप्शन लिखने के लिए कहकर, या किसी वाक्य को फिर से लिखने के लिए कहकर।
3. परिणाम: कौन फेल हुआ?
शोधकर्ताओं ने क्लोज्ड-सोर्स मॉडल्स (जैसे GPT-4, जो सुरक्षित तिजोरियों की तरह हैं) और ओपन-सोर्स मॉडल्स (जैसे Llava, जो खुले शेड की तरह हैं) दोनों का परीक्षण किया।
- ओपन-सोर्स मॉडल्स (खुले शेड): ये मॉडल राज रखने में बहुत खराब थे। वे एक ऐसे बच्चे की तरह थे जो राज नहीं रख पाता; यदि आप उन्हें फोन नंबर वाली तस्वीर दिखाते, तो वे उसे चिल्लाकर बता देते। यहाँ तक कि जब उनसे केवल "चित्र का वर्णन करने" के लिए कहा गया (एक ऐसा कार्य जो उनका ध्यान भटका देता है), तब भी वे नंबर उगल देते थे।
- क्लोज्ड-सोर्स मॉडल्स (सुरक्षित तिजोरियाँ): ये "ना" कहने में बेहतर थे, लेकिन ये भी पूर्ण नहीं थे। आश्चर्यजनक रूप से, सबसे शक्तिशाली मॉडल्स (जैसे GPT-4V) भी उम्मीद के मुताबिक राज सुरक्षित रखने में विफल रहे, खासकर जब यूजर ने उन्हें इमेज को "रीराइट" (दोबारा लिखने) या "कैप्शन" देने के लिए कहा। इमेज का वर्णन करने की क्रिया ने AI के सुरक्षा गार्डों को विचलित कर दिया।
4. "मैजिक ट्रिक" - ध्यान भटकाना
सबसे दिलचस्प खोजों में से एक यह है कि AI को कैसे चकमा दिया जाता है।
- यदि आप सीधे पूछते हैं, "SSN क्या है?", तो AI कह सकता है, "मैं इसमें मदद नहीं कर सकता।"
- लेकिन यदि आप कहते हैं, "कृपया इस दस्तावेज़ के बारे में एक कहानी लिखें और इसमें SSN शामिल करें," तो AI अक्सर अपने सुरक्षा नियमों को भूल जाता है और राज उगल देता है।
- उपमा: यह एक सुरक्षा गार्ड की तरह है जो हथियार के बारे में पूछने पर सख्त होता है, लेकिन यदि आप उनसे "दृश्य का विस्तार से वर्णन करने" के लिए कहते हैं, तो वे गलती से कहानी के बीच में हथियार का वर्णन कर देते हैं।
5. क्या हम इसे ठीक कर सकते हैं?
शोधकर्ताओं ने AI को सावधान रहने के लिए "साइन" (जिन्हें डिफेंस प्रॉम्प्ट्स कहा जाता है) लगाने की कोशिश की।
- परिणाम: यह कुछ मॉडल्स (जैसे Llava-1.6) के लिए अच्छा काम कर गया, जिससे वे लगभग 100% सुरक्षित हो गए। लेकिन अन्य मॉडल्स (जैसे Idefics2) के लिए, ये साइन बिल्कुल काम नहीं आए। यह एक दरवाजे पर "प्रवेश निषेध" का साइन लगाने जैसा है; कुछ लोग (मॉडेल्स) इसका सम्मान करते हैं, जबकि अन्य सीधे अंदर चले जाते हैं।
मुख्य निष्कर्ष (The Bottom Line)
शोध पत्र निष्कर्ष निकालता है कि मल्टी-मोडल AI मॉडल्स वर्तमान में गोपनीयता के मामले में बहुत जोखिम भरे हैं। वे टेक्स्ट-ओनली मॉडल्स की तुलना में छवियों में छिपे रहस्यों को लीक करने की बहुत अधिक संभावना रखते हैं। शोधकर्ता चेतावनी देते हैं कि हमें बेहतर सुरक्षा उपायों की आवश्यकता है, विशेष रूप से ओपन-सोर्स मॉडल्स के लिए जो मुफ्त में उपलब्ध हैं, क्योंकि अभी वे तस्वीरों में देखे गए रहस्यों को साझा करने के लिए बहुत अधिक उत्सुक हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।