CLARA: Clip-Level Multimodal Alignment with VLM-Derived Rationales for Hateful Video Detection
تقترح هذه الورقة CLARA، وهو إطار عمل متعدد الوسائط جديد على مستوى المقطع (clip-level) يعزز الكشف عن الفيديوهات التي تحتوي على خطاب كراهية من خلال نمذجة الفيديوهات كسلاسل دقيقة التفاصيل مع محاذاة تكيفية، وتعلم تبايني للاعتمادات الزمنية، ومبررات مستمدة من نماذج اللغة والرؤية (VLM)، محققاً أداءً هو الأفضل في فئته عبر مجموعات بيانات متعددة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
على شاشات مليارات البشر، يجري نوع جديد من المحادثات. يحدث هذا في تدفقات مقاطع الفيديو السريعة على المنصات، حيث يمكن لنكتة، أو مقطع إخباري، أو مدونة فيديو شخصية أن تتحول في لحظة من كونها غير ضارة إلى ضارة. وخلافاً للمنشور المكتوب، حيث يكون المعنى ثابتاً في الكلمات، يحمل الفيديو طبقات معقدة من الصوت، والصور المتحركة، واللغة المنطوقة. وتكمن الخطورة في كيفية تفاعل هذه العناصر مع بعضها البعض. فقد لا تُقال الرسالة الكريهة في جملة واحدة صريحة؛ بل يمكن أن تظهر ببطء، من خلال التراكم عبر سلسلة من الإطارات، أو تغير في نبرة الصوت، أو إشارة بصرية لا تكتسب معناها إلا عند مشاهدتها في سياق ما سبقها. إن اكتشاف هذا النوع من المحتوى يمثل تحدياً هائلاً للإنترنت، لأن الإشارات الأكثر خطورة غالباً ما تكون وجيزة، ومخفية، ومعتمدة على اللحظة المحددة التي تظهر فيها.
لسنوات، حاول علماء الكمبيوتر تعليم الآلات كيفية رصد هذا النوع من الأذى. ركزت الجهود المبكرة على النصوص، بالبحث عن كلمات غاضبة محددة. ولاحقاً، انتقلوا إلى الصور و"الميمز"، محاولين فهم كيفية عمل الصور والتعليقات معاً. لكن مقاطع الفيديو تطرح مشكلة فريدة؛ فهي ليست مجرد مجموعة من الصور أو نص مفرغ من الكلام؛ بل هي جدول زمني متدفق يتغير فيه المعنى بمرور الوقت. إذا نظرت الحواسيب إلى الفيديو ككتلة واحدة، فإنها غالباً ما تفقد اللحظات الصغيرة والحاسمة التي يحدث فيها الكره فعلياً. الأمر يشبه محاولة فهم قصة عبر قراءة الجملة الأولى والأخيرة فقط؛ حيث تضيع نقاط الحبكة الجوهرية في المنتصف داخل الملخص.
اقترح فريق من الباحثين في جامعة إيسيكس وجامعة إكستر طريقة جديدة لحل هذه المعضلة، وأطلقوا على نظامهم اسم "CLARA". فبدلاً من التعامل مع الفيديو كشيء واحد كبير وثابت، يقوم CLARA بتفكيكه إلى قطع أصغر ذات معنى. تخيل الفيديو كجملة طويلة؛ CLARA لا يقرأ الجملة بأكملها دفعة واحدة، بل يتوقف عند كل فاصل طبيعي في الكلام، لينشئ سلسلة من المقاطع القصيرة التي تتوافق مع ما يقال. ومن خلال التركيز على هذه الأجزاء الصغيرة، يمكن للنظام رصد اللحظات العابرة التي يتم فيها تقديم فكرة كراهية، حتى لو كانت تلك الفكرة مدفونة داخل دقيقة من المحتوى المحايد.
وجد الباحثون أن مقاطع الفيديو التي تنشر الكراهية غالباً ما تعتمد على مزيج من القرائن. فقد يستخدم المتحدث صوتاً هادئاً بينما يعرض صورة مزعجة، أو يستخدم عبارة محايدة بينما تتحول الموسيقى الخلفية إلى موسيقى عدوانية. وللتعامل مع ذلك، يستخدم CLARA نظاماً مرناً يقرر، لكل مقطع قصير، أي القرائن هي الأكثر أهمية. أحياناً يكون النص هو المفتاح؛ وفي أحيان أخرى، يكون الصوت أو المشهد البصري. النظام لا يفرض قاعدة واحدة على الفيديو بأكمله، بل يتكيف، ويقوم بوزن أنواع المعلومات المختلفة بشكل مختلف مع تقدم الفيديو. وهذا يسمح له برؤية كيف تتطور رسالة الكراهية، بدلاً من مجرد البحث عن نمط ثابت.
ولضمان فهم النظام للصورة الأكبر، أضاف الباحثون طبقة ثانية من الذكاء. فقد استخدموا أداة ذكاء اصطناعي قوية، مدربة على وصف وتفسير الصور والنصوص، لإنشاء ملخص رفيع المستوى لنية الفيديو. يعمل هذا الملخص كدليل، يساعد النظام على فهم كيفية ترابط المقاطع الصغيرة لتشكيل سردية أكبر قد تكون ضارة. ثم يجمع النظام بين هذه الملاحظات التفصيلية على مستوى المقطع وبين الملخص رفيع المستوى، مما يخلق صورة كاملة لمحتوى الفيديو. يضمن هذا النهج أن النظام لا يرى مجرد لحظات معزولة، بل يفهم تدفق الحجة أو القصة التي يتم سردها.
اختبر الفريق هذه الطريقة الجديدة على ثلاث مجموعات مختلفة من فيديوهات الكراهية، استُمدت من منصات تواصل اجتماعي متنوعة حول العالم. وكانت النتائج واضحة: تفوق النظام الجديد باستمرار على أفضل الأساليب الموجودة. لقد كان أفضل في تحديد مقاطع الفيديو التي تنشر الكراهية دون تصنيف المقاطع غير الضارة عن طريق الخطأ. كما أجرى الباحثون اختبارات لمعرفة ما سيحدث إذا أزالوا أجزاءً من النظام؛ فعندما نزعوا القدرة على تقسيم الفيديوهات إلى مقاطع، أو عندما أزالوا التوجيه رفيع المستوى، انخفض أداء النظام. وقد أكد ذلك أن كل جزء من تصميمهم كان ضرورياً؛ إذ كانت القدرة على التركيز على لحظات صغيرة ومحددة مع الحفاظ على مراقبة السياق العام هي مفتاح النجاح.
تشير الدراسة إلى أن مستقبل اكتشاف المحتوى الضار يكمن في هذا النوع من التحليل التفصيلي الواعي بالزمن. فمن خلال احترام الطريقة التي يختبر بها البشر الفيديو بالفعل — قطعة قطعة، ولحظة بلحظة — يمكن للآلات أخيراً أن تتعلم رؤية الطبيعة الخفية والمتطورة لخطاب الكراهية. لم يدّعِ الباحثون أنهم حلوا مشكلة الكراهية عبر الإنترنت للأبد، لكنهم قدموا أداة أكثر حدة لهذه المهمة. إن عملهم يظهر أنه لفهم الخطر في مقطع فيديو، لا يمكنك مجرد النظر إلى الصورة الكاملة؛ بل يجب عليك مشاهدة القصة وهي تتكشف، مقطعاً صغيراً تلو الآخر.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.