💻 computer science

Adversarial Video Promotion Against Text-to-Video Retrieval

تقدم هذه الورقة البحثية ViPro، وهو أول إطار عمل للهجوم الخصومي المصمم لتعزيز ترتيب الفيديوهات في أنظمة استرجاع النص إلى الفيديو من خلال الاستفادة من استراتيجية صقل النمط (Modal Refinement) لتعزيز التفاعلات بين الأنماط المختلفة وقابلية النقل في الصندوق الأسود، مما يكشف عن ثغرة أمنية حرجة يمكن استغلالها لتحقيق مكاسب مالية أو نشر المعلومات المضللة.

المؤلفون الأصليون: Qiwei Tian, Chenhao Lin, Zhengyu Zhao, Qian Li, Shuai Liu, Chao Shen

نُشر 2026-04-15

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Qiwei Tian, Chenhao Lin, Zhengyu Zhao, Qian Li, Shuai Liu, Chao Shen

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحثية بعنوان "الترويج العدائي للفيديو ضد استرجاع النص إلى الفيديو" (ViPro)، مترجمة إلى لغة بسيطة مع تشبيهات إبداعية.

الصورة الكبيرة: خداع الخوارزمية

تخيل أنك تدير مكتبة فيديو ضخمة، مثل يوتيوب أو تيك توك. لديك شريط بحث حيث يكتب الناس ما يريدون رؤيته (على سبيل المثال: "فيديوهات قطط مضحكة"). خلف الكواليس، يقوم ذكاء اصطناعي فائق الذكاء (نموذج استرجاع النص إلى الفيديو) بقراءة نصك ويمسح ملايين الفيديوهات للعثور على أفضل المطابقات. وهو يضع أفضل النتائج في أعلى القائمة.

المشكلة:
تركز معظم الأبحاث الأمنية على كيفية إخفاء فيديو ما. تخيل شخصًا يحاول جعل فيديو يختفي من نتائج البحث حتى لا يراه أحد. هذا يشبه محاولة إدخال جاسوس إلى مبنى عن طريق جعله غير مرئي.

التهديد الجديد (ViPro):
تقدم هذه الورقة البحثية خدعة أكثر دهاءً وخطورة بكثير: الترويج للفيديو (Video Promotion). بدلاً من إخفاء الفيديو، يريد المهاجم إجبار فيديو معين على الوصول إلى قمة نتائج البحث، حتى لو لم يكن له أي علاقة بكلمة البحث.

التشبيه: تخيل أمين مكتبة (الذكاء الاصطناعي) يضع عادةً الكتب الأكثر صلة على المكتب الأمامي. المهاجم لا يحاول فقط إخفاء كتاب؛ بل يحاول لصق كتاب غير ذي صلة (ربما عملية احتيال أو فيلم سيء) في أعلى رف "الأكثر مبيعًا"، بجانب الكتب التي يريدها الناس بالفعل. إذا نجح، سيحصل هذا الفيديو على ملايين المشاهدات والنقرات والأموال.

كيف فعلوا ذلك: "هجوم ترويج الفيديو" (ViPro)

ابتكر الباحثون أداة تسمى ViPro (ترويج الفيديو). إليك كيفية عملها، مقسمة إلى خطوات بسيطة:

1. الهدف: "النقطة المثالية"

فكر في عقل الذكاء الاصطناعي كخريطة عملاقة.

استعلامات البحث هي مثل "المدن" على الخريطة.
الفيديوهات هي مثل "المنازل".
في الحالة الطبيعية، يضع الذكاء الاصطناعي المنازل بالقرب من المدينة التي تطابقها.
الهجوم: يريد المهاجم أخذ فيديو (منزل) وسحبه فعليًا إلى داخل "مدينة" استعلام بحث معين، حتى لو كان غير مناسب تمامًا.
التحدي: من الصعب دفع فيديو إلى داخل مدينة معينة (الترويج) أكثر من دفعه خارج مدينة ما (الحجب). يجب عليك إصابة هدف صغير ومحدد للغاية.

2. السر الخفي: "صقل الأنماط" (Modality Refinement - MoRe)

لجعل هذا يعمل، ابتكر الباحثون تقنية خاصة تسمى MoRe. فكر في هذا كـ "غراء ذكي" يساعد الفيديو على الالتصاق بكلمة البحث دون أن يسقط.

التقطيع الزمني (قاطع "المشهد"):
تتكون الفيديوهات من العديد من الإطارات (الصور) التي تُعرض بسرعة. أحيانًا، يحتوي الفيديو على قفزة غريبة أو قطع مفاجئ يربك الذكاء الاصطناعي.
- التشبيه: تخيل أنك تحاول دفع أريكة ثقيلة عبر باب. إذا دفعت الأريكة بأكملها دفعة واحدة، فستعلق. تقوم تقنية MoRe بتقطيع الأريكة إلى قطع أصغر يمكن التحكم بها، وتدفع كل قطعة عبر الباب بشكل مثالي، ثم تعيد تجميعها. هذا يضمن تدفق الفيديو بسلاسة إلى "المدينة المستهدفة".
الوزن الدلالي (فلتر "التركيز"):
أحيانًا، تحتوي أجزاء من الفيديو على عناصر لا تتطابق مع كلمة البحث على الإطلاق. إذا حاول الذكاء الاصطناعي دفع الفيديو بالكامل، فإن "الأجزاء السيئة" ستتصارع مع "الأجزاء الجيدة"، ويفشل الهجوم.
- التشبيه: تخيل أنك تحاول إقناع قاضٍ (الذكاء الاصطناعي) بأن فيديو ما يدور حول "الخبز". إذا أظهر الفيديو كلبًا يأكل كعكة، فسوف يرتبك القاضي. تخبر تقنية MoRe الذكاء الاصطناعي: "تجاهل جزء الكلب؛ ركز فقط على جزء الخبز". إنها تقمع الأجزاء المربكة وتضخم الأجزاء التي تطابق البحث، مما يجعل الفيديو يبدو كمطابقة مثالية.

النتائج: ما مدى نجاح ذلك؟

اختبر الباحثون ViPro ضد أفضل 3 نماذج بحث فيديو في العالم. جربوا ثلاثة مستويات مختلفة من الصعوبة:

الصندوق الأبيض (White-Box): المهاجم يعرف بالضبط كيف يعمل الذكاء الاصطناعي (مثل امتلاك المخططات الهندسية).
الصندوق الرمادي (Grey-Box): المهاجم يعرف بعض الأشياء ولكن ليس كل شيء.
الصندوق الأسود (Black-Box): المهاجم لا يعرف شيئًا عن الكود الداخلي للذكاء الاصطناعي (مثل غريب يحاول اختراق باب مغلق).

النتيجة:

سحق ViPro المنافسة. كان أفضل بكثير من الطرق السابقة في إجبار الفيديوهات على الوصول إلى أعلى القائمة.
يعمل حتى عندما لا يعرف المهاجم شيئًا. حتى في سيناريو "الصندوق الأسود"، كان ViPro أكثر فعالية بنسبة 4% إلى 30% من الطرق الأخرى.
إنه غير مرئي. التغييرات التي أُجريت على الفيديو صغيرة جدًا بحيث لا يمكن للعين البشرية رؤيتها. يبدو كفيديو طبيعي، لكن الذكاء الاصطناعي يعتقد أنه مطابقة مثالية لكلمة البحث.

لماذا يجب أن نهتم؟

هذا ليس مجرد لغز رياضي؛ إنه خطر حقيقي في العالم الواقعي.

المال: إذا تمكن محتال من جعل فيديو "كيف تصبح غنيًا بسرعة" يظهر في أعلى عمليات البحث عن "كيفية الاستثمار"، فيمكنه سرقة الملايين.
المعلومات المضللة: إذا تم الترويج لفيديو أخبار مزيفة في أعلى عمليات البحث عن "نتائج الانتخابات"، فيمكنه نشر الأكاذيب بشكل أسر أسرع من الحقيقة.
تأثير كرة الثلج: بمجرد وصول الفيديو إلى الأعلى، ترى خوارزمية التوصية في المنصة أن الفيديو يحصل على نقرات، فتقوم بدفعه أكثر فأكثر، مما يخلق حلقة انتشار فيروسي للمحتوى السيئ.

الخلاصة

وجد الباحثون ثغرة في أمن محركات البحث عن الفيديو. لقد أظهروا أنه من السهل بشكل مفاجئ خداع أنظمة البحث القوية هذه لترويج الفيديوهات الخاطئة إلى أعلى القائمة.

الحل؟
تقترح الورقة البحثية أن محركات البحث عن الفيديو في المستقبل يجب أن تكون أكثر ذكاءً. لا ينبغي لها فقط النظر إلى صورة الفيديو؛ بل يجب أن تستمع أيضًا إلى الصوت، وتقرأ النص، وتتحقق من سجل المستخدم. من خلال النظر إلى المزيد من الأدلة (الأنماط)، سيكون من الصعب خداع الذكاء الاصطناعي، تمامًا مثل المحقق الذي يتحقق من مصادر متعددة للأدلة بدلاً من مصدر واحد فقط.

باخت-اختصار: تحذرنا الورقة البحثية من أنه في عالم البحث عن الفيديو بالذكاء الاصطناعي، فإن استراتيجية "تظاهر بالأمر حتى تحققه" (Fake it till you make it) أصبحت الآن استراتيجية قابلة للتطبيق من قبل المتسللين، ونحن بحاجة إلى بناء دفاعات أفضل قبل أن تصبح مشكلة كبيرة.

إليك ملخص تقني مفصل لورقة البحث بعنوان "الترويج العدائي للفيديو ضد استرجاع النص إلى الفيديو":

1. بيان المشكلة

تعد أنظمة استرجاع النص إلى الفيديو (T2VR)، المدعومة بنماذج الرؤية واللغة (VLMs)، بالغة الأهمية للبحث عن محتوى الفيديو وتوصيته. وبينما ركزت الأبحاث الحالية على الهجمات العدائية التي تثبط رتب الفيديو (دفع الفيديوهات ذات الصلة إلى أسفل نتائج البحث)، فإن تهديد الترويج العدائي للفيديو لا يزال غير مستكشف إلى حد كبير.

التهديد: يمكن للمهاجمين التلاعب بمحتوى الفيديو لرفع ترتيبهم بشكل مصطنع لاستعلامات (queries) معينة. يسمح هذا للجهات الخبيثة بتحقيق فوائد مالية (عبر المشاهدات/النقرات) أو نشر المعلومات المضللة من خلال ضمان ظهور محتواهم في أعلى نتائج البحث.
التحدي: بخلاف هجمات التثبيط (التي تكتفي بدفع الفيديو خارج حدود الاسترجاع)، تتطلب هجمات التويج دفع الفيديو إلى تقاطع حدود الاسترجاء لعدة استعلامات مستهدفة في آن واحد. هذه عملية تحسين أصعب بكثير، خاصة في سيناريوهات الصندوق الأسود (black-box) حيث يفتقر المهاجم إلى المعرفة الكاملة بنموذج الضحية.

2. المنهجية

يقترح المؤلفون ViPro (ترويج الفيديو)، وهو أول إطار عمل للهجوم العدائي المصمم خصيصًا لترويج رتب الفيديو في أنظمة T2VR. يتكون الإطار من مكونين رئيسيين:

أ. هدف الهجوم ودالة الخسارة

الهدف: تشويه فيديو مرشح $X$ ليصبح $X'$ بحيث يظهر في أفضل $L$ نتيجة لمجموعة من الاستعلامات المستهدفة $Q$ .
فرضية حدود الاسترجاع: يعرّف المؤلفون "حد الاسترجاع" ككرة فائقة (hypersphere) حول الاستعلام. وللنجاح، يجب أن يدخل الفيديو المشوه في تقاطع هذه الحدود لجميع الاستعلامات المستهدفة.
الخسارة الأسية ( $L_{exp}$ ): بدلاً من استخدام خسارة تشابه سلبية بسيطة (تعامل جميع الأهداف بالتساوي)، يستخدم ViPro دالة خسارة أسية: $L_{exp}(S) = \exp(-S)$ . توفر هذه الدالة تدرجات تكيفية، حيث تطبق تدرجات أقوى على الاستعلامات التي يكون الفيديو بعيدًا عنها حاليًا (تشابه منخفض) وتدرجات أضعف على تلك القريبة بالفعل، مما يسهل عملية التحسين متعدد الأهداف.

ب. صقل الوسائط (MoRe)

لتعزيز قابلية النقل في الصندوق الأسود (القدرة على نقل هجوم تم إنشاؤه على نموذج واحد ليعمل على نموذج آخر)، قدم المؤلفون MoRe، الذي يعمل على صقل التفاعل بين الوسائط المرئية والنصية من خلال خطوتين:

التقطيع الزمني (Temporal Clipping): لا تُعامل الفيديوهات كسلسلة مسطحة؛ بل يتم تجميع الإطارات في مقاطع بناءً على التشابه الزمني. يعالج هذا "الاضطراب الزمني" حيث يمكن أن يؤدي متوسط التدرجات عبر جميع الإطارات إلى تقارب دون المستوى الأمثل.
الوزن الدلالي (Semantic Weighting):
- بين الوسائط (Inter-modality): يحسب التشابه بين الإطار والاستعلام. يتم تقليل وزن الإطارات ذات التشابه المنخفض مع استعلام معين لتثبيط الاستعلامات "الشاذة" التي تسبب صراعات في التدرجات.
- داخل الوسائط (Intra-modality): يستخدم التشابه بين الإطار والآخر لتوجيه التحسين داخل المقطع، مما يحل الصراعات بين الإطارات المختلفة.
- النتيجة: يتم "إحكام" عملية التحسين نحو المنطقة المستهدفة، وتجنب النهايات الصغرى المحلية الناتجة عن تدرجات متضاربة.

3. المساهمات الرئيسية

نموذج هجوم جديد: تقديم ViPro، وهو أول هجوم مستهدف ضد T2VR مصمم لـ ترويج رتب الفيديو بدلاً من تثبيطها.
صقل الوسائط (MoRe): تقنية مبتكرة تجمع بين التقطيع الزمني والوزن الدلالي للتعامل مع التفاعلات دقيقة التفاصيل، مما يحسن بشكل كبير من قابلية النقل في الصندوق الأسود.
تقييم شامل: تجارب مكثفة عبر 3 نماذج رائدة لـ T2VR (Singularity, DRL, Cap4Video)، و3 مجموعات بيانات (MSR-VTT, DiDeMo, ActivityNet)، و3 نماذج تهديد (الصندوق الأبيض، الصندوق الرمادي، الصندوق الأسود).
التحليل النظري: تحليل نوعي للحدود العليا والدنيا لهجمات ترويج الفيديو، وربط الأداء بتوزيع تضمينات النموذج وخصائص مجموعة البيانات.

4. النتائج التجريبية

قيم المؤلفون ViPro مقابل النماذج المرجعية المعدلة من استرجاع الصورة إلى النص (Co-Attack, SGA) عبر إعدادات مختلفة:

أداء الصندوق الأبيض (White-Box): يتفوق ViPro بشكل كبير على النماذج المرجعية، محققًا تحسنًا متوسطًا قدره 30% في R@1 (الاستدعاء عند 1) مقارنة بالطرق الأخرى.
أداء الصندوق الرمادي (Grey-Box): في ظل معرفة مقيدة (الوصول إلى المشفرات ولكن ليس التفاعل عبر الوسائط)، يحافظ ViPro على تقدم بنسبة 10% عن النماذج المرجعية.
أداء الصندوق الأسود (Black-Box): في السيناريو الأكثر واقعية (توفر معرفة الفئة فقط)، لا يزال ViPro يتفوق على النماذج المرجعية بنسبة 4% في المتوسط. ومن الجدير بالذكر أنه الطريقة الوحيدة التي نجحت في ترويج الفيديوهات في نموذج Singularity في إعداد الصندوق الأسود، حيث تفشل الطرق الأخرى أو يتدهور أداؤها.
المتانة: يظل ViPro فعالاً حتى تحت دفاعات مثل ضغط JPEG والخلط الزمني (Temporal Shuffling)، متفوقًا على النماذج المرجعية بفوارق كبيرة (على سبيل المثال، +10% على Co-Attack في سيناريوهات دفاع الصندوق الأبيض).
عدم القدرة على الإدراك (Imperceptibility): أكدت الدراسات المستخدمة مع 17 خبيرًا والمقاييس (SSIM, PSNR, LPIPS) أن تشوهات ViPro أكثر تخفيًا من SGA ومماثلة لـ Co-Attack، مع عدم وجود عيوب بصرية واضحة.

5. الأهمية والآثار المترتبة

كشف ثغرة حرجة: تسلط الورقة الضوء على أن أنظمة T2VR معرضة لهجمات "ترويج الرتب"، وهو ناقل تهديد تم تجاهله سابقًا لصالح هجمات التثبيط.
التأثير في العالم الحقيقي: القدرة على التلاعب بترتيب البحث لها آثار خطيرة على تحقيق الربح من المحتوى، ونشر المعلومات المضللة، وسلامة المنصات.
رؤى دفاعية: تشير الدراسة إلى أن الدفاعات الحالية غير كافية. وتقترح أن نماذج T2VR المستقبلية القوية يجب أن تدمج الدمج متعدد الوسائط (مثل الصوت، والبيانات الوصفية) لتقليل الاعتماد على الميزات المرئية وحدها، وبالتالي زيادة صعوبة الهجمات العدائية التي تعتمد على الرؤية فقط.
الحدود النظرية: يكشف التحليل أن نجاح هجمات الترويج محدود أساسًا بكثافة "حد الاسترجاع" لمجموعة البيانات وضغط تضمين النموذج، مما يوفر إطارًا نظريًا لفهم حدود الهجوم.

في الختام، يثبت ViPro أن ترويج الفيديوهات بشكل عدائي ليس ممكنًا فحسب، بل هو فعال للغاية، مما يستدعي اهتمامًا فوريًا باستراتيجيات الدفاع في أنظمة الاسترجاع عبر الوسائط.