Membership Inference Attacks Against Video Large Language Models
تقدم هذه الورقة هجوماً جديداً من نوع "الصندوق الأسود" للاستدلال على العضوية ضد نماذج اللغات الكبيرة للفيديو، يستفيد من التوليد المضطرب حرارياً وميزات الصعوبة المدركة للفيديو للكشف عن عضوية بيانات التدريب، مما يثبت أن هذه النماذج معرضة لانتهاكات الخصوصية بمساحة تحت المنحنى (AUC) تبلغ 0.68.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
السؤال الكبير: هل تم "حفظ" هذا الفيديو؟
تخيل طالباً ذكياً جداً (VideoLLM) درس مكتبة ضخمة من الفيديوهات وأوصافها. هذا الطالب بارع لدرجة أنه يمكنه مشاهدة فيديو جديد وكتابة قصة مفصلة عنه.
سأل الباحثون سؤالاً مخادعاً: إذا عرضت على هذا الطالب فيديو، هل يمكنك معرفة ما إذا كان قد درس هذا الفيديو تحديداً في الفصل، أم أنه مجرد يخمن بناءً على ما يعرفه بشكل عام؟
يُسمى هذا هجوم استنتاج العضوية (Membership Inference Attack). الأمر يشبه محققاً يحاول معرفة ما إذا كان شخص معين موجوداً في صورة ضمن حشد، رغم أن المحقق لا يستطيع رؤية ألبوم الصور الأصلي (بيانات التدريب). هو فقط يستطيع التحدث إلى الطالب.
التحدي: لماذا الفيديو أصعب من النص؟
بحثت الدراسات السابقة في النصوص أو الصور. لكن الفيديوهات مختلفة؛ فهي تتحرك، وتستمر لفترات زمنية متفاوتة، ويمكن أن تكون فوضوية.
أدرك الباحثون أنك إذا طلبت من الطالب وصف فيديو ما، فقد تتغير الإجابة لسببين:
- لأنه حفظه: لديه إجابة "مثالية" في ذهنه.
- لأن الفيديو صعب: رب الفيديو مدته 10 دقائق مع أشخاص يركضون في كل مكان. حتى الطالب الذكي قد يجد صعوبة في وصفه باستمرار.
احتاج الباحثون إلى طريقة للتمييز بين "أنا أعرف هذا!" وبين "هذا مجرد فيديو صعب".
الحل: اختبار "درجة الحرارة"
ابتكر الباحثون أداة تسمى TempVideo-MIA. فكر فيها كـ "اختبار درجة حرارة" لعقل الطالب.
في عالم الذكاء الاصطناعي، تتحكم "درجة الحرارة" (Temperature) في مدى إبداع أو عشوائية الإجابات.
- درجة حرارة منخفضة (0 درجة مئوية): يكون الطالب جاداً جداً، ومركزاً، ويلتزم بالإجابة الأكثر وضوحاً والتي حفظها.
- درجة حرارة مرتفة (0.8 درجة مئوية): يصبح الطالب "متسيباً" قليلاً، مبدعاً، وقد يجرب طرقاً مختلفة لقول الأشياء.
التجربة:
طلب الباحثون من الطالب وصف نفس الفيديو مرتين: مرة عندما يكون "بارداً وجاداً"، ومرة عندما يكون "دافئاً ومبدعاً".
- إذا كان الطالب قد حفظ الفيديو: ستكون إجابته "الباردة" وإجابته "الدافئة" مختلفتين تماماً. لماذا؟ لأنه عندما يكون بارداً، يلتزم بصرامة بالوصف الدقيق الذي حفظه. وعندما يصبح دافئاً، يبتعد عن تلك الذاكرة الجامدة وينطلق بعيداً. الفجوة بين الإجابتين تكون ضخمة.
- إذا لم يكن الطالب قد حفظ الفيديو: ستكون إجاباته متذبذبة في كلتا الحالتين لأنه يعتمد فقط على معرفته العامة. الفجوة بين الإجابتين لن تكون دراماتيكية.
السر الخفي: مراعاة "صعوبة الفيديو"
هذا هو الجزء الذكي. أدرك الباحثون أن فيديو طويل مليء بالحركة هو بطبيعته أصعب في الوصف من فيديو قصير وثابت. إذا قدم الطالب إجابة متذبذبة لفيديو طويل، فقد يكون ذلك ببساطة لأن الفيديو صعب، وليس لأنه حفظه.
لذلك، أضافوا "مقياس صعوبة" إلى اختبارهم. قاموا بقياس:
- مدى حركة الأشياء (تعقيد الحركة - Motion Complexity).
- مدة الفيديو (المدة الزمنية - Duration).
قاموا بدمج نتائج "اختبار درجة الحرارة" مع "مقياس الصعوبة" هذا. سمح لهم ذلك بالقول: "حسناً، الإجابة تغيرت كثيراً، لكن هذا متوقع لأن الفيديو كان طويلاً وفوضوياً. ومع ذلك، بالنسبة لهذا الفيديو القصير تحديداً، تغيرت الإجابة بشكل مبالغ فيه. هذا يعني أن الطالب غالباً قد حفظه."
ماذا وجدوا؟
اختبروا هذا على نموذج ذكاء اصطناعي شهير للفيديو يسمى LLaVA-Video.
- أنشأوا قائمة بالفيديوهات التي رآها النموذج (الأعضاء - Members) والفيديوهات التي لم يرها (غير الأعضاء - Non-Members).
- أجرو اختبارهم 100 مرة للتأكد.
- النتيجة: استطاعت طريقتهم تحديد ما إذا كان الفيديو موجوداً في مجموعة التدريب بنسبة 68% من الوقت (AUC قدره 0.68).
في عالم الأمن، التفوق على التخمين العشوائي (50%) بفارق كبير هو أمر ضخم. هذا يثبت أنه حتى لو لم تستطع رؤية عقل الذكاء الاصطناعي الداخلي، يمكنك معرفة ما إذا كان قد "حفظ" فيديوهات محددة خاصة بمجرد سؤاله بطرق مختلفة.
الخلاصة
تظهر هذه الورقة البحثية أن نماذج ذكاء الفيديو الاصطناعية لديها تسريب للخصوصية. حتى لو كنت ترى فقط النصوص التي تكتبها (وليس الكود الداخلي الخاص بها)، يمكنك استخدام "اختبار درجة الحرارة" مع تحليل الفيديو لمعرفة ما إذا كانت قد تدربت على فيديوهات محددة قد تكون خاصة. إنه تحذير بأننا بحاجة إلى طرق أفضل لحماية بيانات الفيديو في المستقبل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.