Membership Inference Attacks Against Video Large Language Models
यह शोध पत्र एक नवीन ब्लैक-बॉक्स मेंबरशिप इन्फरेंस अटैक को प्रस्तुत करता है जो वीडियो लार्ज लैंग्वेज मॉडल्स के विरुद्ध है, जो प्रशिक्षण डेटा की सदस्यता का पता लगाने के लिए टेम्परेचर-पर्टर्बड जनरेशन और वीडियो-अवेयर डिफिकल्टी फीचर्स का लाभ उठाता है, यह प्रदर्शित करते हुए कि ये मॉडल 0.68 के AUC के साथ गोपनीयता उल्लंघन के प्रति संवेदनशील हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य सवाल: क्या यह वीडियो "याद" किया गया था?
कल्पना कीजिए कि एक बहुत ही बुद्धिमान छात्र है (VideoLLM) जिसने वीडियो और उनके विवरणों की एक विशाल लाइब्रेरी का अध्ययन किया है। यह छात्र इतना कुशल है कि वे एक नया वीडियो देखकर उसके बारे में एक विस्तृत कहानी लिख सकते हैं।
शोधकर्ताओं ने एक पेचीदा सवाल पूछा: यदि आप इस छात्र को एक वीडियो दिखाते हैं, तो क्या आप बता सकते हैं कि उन्होंने वास्तव में कक्षा में उस विशिष्ट वीडियो का अध्ययन किया था, या वे केवल अपने सामान्य ज्ञान के आधार पर अनुमान लगा रहे हैं?
इसे मेंबरशिप इन्फरेंस अटैक (Membership Inference Attack) कहा जाता है। यह एक जासूस की तरह है जो यह पता लगाने की कोशिश कर रहा है कि क्या कोई विशिष्ट व्यक्ति भीड़ की फोटो में मौजूद था, भले ही जासूस मूल फोटो एल्बम (ट्रेनिंग डेटा) को नहीं देख सकता। उन्हें केवल छात्र से बात करने का मौका मिलता है।
चुनौती: वीडियो, टेक्स्ट से अधिक कठिन क्यों है?
पिछले अध्ययनों ने टेक्स्ट या इमेज पर ध्यान केंद्रित किया। लेकिन वीडियो अलग हैं। वे चलते हैं, अलग-अलग समय तक चलते हैं, और अराजक हो सकते हैं।
शोधकर्ताओं ने महसूस किया कि यदि आप छात्र को एक वीडियो का वर्णन करने के लिए कहते हैं, तो उत्तर दो कारणों से बदल सकता है:
- क्योंकि उन्होंने इसे याद किया है: उनके दिमाग में एक "परफेक्ट" उत्तर है।
- क्योंकि वीडियो कठिन है: शायद वीडियो 10 मिनट लंबा है जिसमें लोग हर तरफ भाग रहे हैं। एक बुद्धिमान छात्र भी इसे लगातार वर्णित करने में संघर्ष कर सकता है।
शोधकर्ताओं को यह बताने का एक तरीका चाहिए था कि यह "मुझे यह पता है!" है या "यह बस एक कठिन वीडियो है।"
समाधान: "टेम्परेचर" टेस्ट
शोधकर्ताओं ने एक टूल बनाया जिसे TempVideo-MIA कहा जाता है। इसे छात्र के मस्तिष्क के लिए "तापमान परीक्षण" (Temperature Test) के रूप में सोचें।
AI में, "तापमान" (Temperature) यह नियंत्रित करता है कि उत्तर कितने रचनात्मक या रैंडम हैं।
- लो टेम्परेचर (0°C): छात्र बहुत गंभीर, केंद्रित है, और सबसे स्पष्ट, रटे हुए उत्तर पर टिका रहता है।
- हाई टेम्परेचर (0.8°C): छात्र थोड़ा "ढीला", रचनात्मक हो जाता है, और चीजों को कहने के अलग-अलग तरीके आज़मा सकता है।
प्रयोग:
शोधकर्ताओं ने छात्र को एक ही वीडियो का दो बार वर्णन करने के लिए कहा: एक बार जब वे "ठंडे और गंभीर" थे और एक बार जब वे "गर्म और रचनात्मक" थे।
- यदि छात्र ने वीडियो को याद किया है: तो उनका "ठंडा" उत्तर और "गर्म" उत्तर बहुत अलग होगा। क्यों? क्योंकि जब वे ठंडे होते हैं, तो वे अपने द्वारा याद किए गए सटीक विवरण पर मजबूती से टिके रहते हैं। जब वे गर्म होते हैं, तो वे उस कठोर स्मृति से हट जाते हैं और भटक जाते हैं। दोनों उत्तरों के बीच का अंतर बहुत बड़ा होता है।
- यदि छात्र ने वीडियो को याद नहीं किया है: तो सामान्य ज्ञान के आधार पर अनुमान लगाते समय उनके उत्तर दोनों स्थितियों में थोड़े अस्थिर होंगे। दोनों उत्तरों के बीच का अंतर इतना नाटकीय नहीं होगा।
सीक्रेट सॉस: "वीडियो की कठिनाई" को ध्यान में रखना
यहाँ चतुराई वाला हिस्सा है। शोधकर्ता जानते थे कि एक लंबा, एक्शन से भरपूर वीडियो एक छोटे, स्थिर वीडियो की तुलना में स्वाभाविक रूप से वर्णित करना कठिन होता है। यदि छात्र एक लंबे वीडियो के लिए अस्थिर उत्तर देता है, तो यह सिर्फ इसलिए हो सकता है क्योंकि वीडियो कठिन है, न कि इसलिए कि उसने इसे याद किया है।
इसलिए, उन्होंने अपने परीक्षण में एक "डिफिकल्टी मीटर" (कठिनाई मीटर) जोड़ा। उन्होंने मापा:
- चीजें कितनी चल रही हैं (मोशन कॉम्प्लेक्सिटी/गति की जटिलता)।
- वीडियो कितना लंबा है (ड्यूरेशन/अवधि)।
उन्होंने अपने "टेम्परेचर टेस्ट" के परिणामों को इस "डिफिकल्टी मीटर" के साथ जोड़ा। इसने उन्हें यह कहने की अनुमति दी: "ठीक है, उत्तर काफी बदल गया, लेकिन यह अपेक्षित है क्योंकि वीडियो लंबा और अराजक था। हालांकि, इस विशिष्ट छोटे वीडियो के लिए, उत्तर बहुत अधिक बदल गया। इसका मतलब है कि छात्र ने इसे शायद याद किया है।"
उन्होंने क्या पाया
उन्होंने इसका परीक्षण एक लोकप्रिय वीडियो AI मॉडल LLaVA-Video पर किया।
- उन्होंने उन वीडियो की एक सूची बनाई जिन्हें मॉडल ने देखा था (Members) और जिन्हें उसने नहीं देखा था (Non-Members)।
- उन्होंने सुनिश्चित करने के लिए अपने परीक्षण को 100 बार चलाया।
- परिणाम: उनकी विधि सही ढंग से पहचान सकी कि कोई वीडियो ट्रेनिंग सेट में था या नहीं, लगभग 68% बार (AUC of 0.68)।
सुरक्षा की दुनिया में, एक रैंडम गेस (50%) को महत्वपूर्ण अंतर से हराना एक बड़ी बात है। यह साबित करता है कि भले ही आप AI के आंतरिक मस्तिष्क को नहीं देख सकते, फिर भी आप अलग-अलग तरीकों से सवाल पूछकर यह पता लगा सकते हैं कि उसने विशिष्ट निजी वीडियो को "याद" किया है या नहीं।
निष्कर्ष
यह पेपर दिखाता है कि वीडियो AI मॉडल में प्राइवेसी लीक (Privacy Leak) है। भले ही आपको केवल उनके द्वारा लिखे गए टेक्स्ट को देखने को मिले (और उनके आंतरिक कोड को नहीं), आप एक "टेम्परेचर टेस्ट" और वीडियो विश्लेषण का उपयोग करके यह पता लगा सकते हैं कि क्या उन्हें विशिष्ट, संभावित रूप से निजी वीडियो पर प्रशिक्षित किया गया था। यह एक चेतावनी है कि हमें भविष्य में वीडियो डेटा को सुरक्षित रखने के लिए बेहतर तरीकों की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।