Towards Unified Multimodal Misinformation Detection in Social Media: A Benchmark Dataset and Baseline
تقدم هذه الورقة البحثية OmniFake، وهو مجموعة بيانات مرجعية واسعة النطاق تجمع بين المعلومات المضللة المصنوعة بشرياً والمحتوى المُنشأ بواسطة الذكاء الاصطناعي، إلى جانب إطار عمل UMFDet الذي يستخدم بنية "خليط الخبراء" المدركة للفئات لتوحيد وتفوق النماذج المتخصصة في كشف الأنواع المتنوعة من التضليل متعدد الوسائط على وسائل التواصل الاجتماعي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل الإنترنت كأنه ساحة مدينة صاخبة ومزدحمة، حيث يصرخ الجميع بقصصهم، ويشاركون صورهم، وينشرون الأخبار. في هذه الساحة، يوجد نوعان رئيسيان من المثيرين للمشاكل. النوع الأول هو "المحتال البشري" (Human Trickster)—وهو شخص يكتب قصة مزيفة أو يعدل صورة فقط لجذب الانتباه، أو نشر إشاعة، أو إثارة غضب الناس. والنوع الثاني هو "الفنان الآلي" (Robot Artist)—وهو برنامج كمبيوتر قوي يمكنه رسم صورة لكلب طائر أو كتابة عنوان إخباري مقنع عن حدث لم يحدث قط. لفترة طويلة، كان الأشخاص الذين يحاولون الحفاظ على سلامة ساحة المدينة (الباحثون) يبنون حارسين أمنيين مختلفين؛ أحدهما خبير في كشف الأكاذيب البشرية، والآخر خبير في كشف التزييف الآلي. ولكن في العالم الحقيقي، قد يكون المنشور المخادع من صنع بشري، أو آلي، أو مزيج من كليهما، ولم تكن الحراس الأمنية تعرف أي واحد منهما تستدعي. لقد كانوا مثل امتلاك إدارة إطفاء تعرف فقط كيف تطفئ حرائق الخشب وقوة شرطة تعرف فقط كيف تمسك لصوص البنوك؛ فعندما ينشب حريق في بنك، لا يعرف أي من الفريقين ماذا يفعل. هذا البحث يخطو داخل هذه الفوضى لبناء محقق واحد فائق الذكاء يمكنه التعامل مع أي نوع من الأخبار المزيفة، بغض النظر عمن صنعها.
أدرك مؤلفو هذا البحث، وهم فريق من جامعات وشركات تقنية في الصين، أن الطريقة القديمة المتمثلة في فصل "الأكاذيب البشرية" عن "التزييفات الاصطناعية" كانت بطيئة وغير مرنة بالنسبة للعالم الحقيقي. لذا، أنشأوا ميدان تدريب جديد وضخم يسمى OmniFake. فكر في مجموعة البيانات هذه كأنها مكتبة ضخمة تضم 98,592 مثالاً—أي ما يقرب من 100,000 منشور!—تتضمن أخباراً حقيقية، وإشاعات كتبها بشر، وخدعاً أنشأها الذكاء الاصطناعي. لم يكتفوا بجمع هذه المواد فحسب، بل صنعوها؛ فقد أخذوا صوراً حقيقية واستخدموا الذكاء الاصطنا-لتبديل الوجوه، أو تغيير الخلفيات، أو حتى توليد صور جديدة تماماً لأشياء غير موجودة. كما أخذوا عناوين حقيقية واستخدموا الذكاء الاصطناعي لإعادة كتابتها في شكل قصص مضللة. حتى أنهم مزجوا هذه التقنيات معاً لإنشاء "التلاعب المختلط" (Mixed Manipulation)، حيث يكون المنشور عبارة عن صورة حقيقية مع قصة مزيفة، أو صورة مزيفة مع قصة حقيقية. ولاختبار مدى صعوبة هذا الأمر، طلبوا من ثمانية خبراء بشريين فحص 600 عينة من هذه العينات، ولم ينجح البشر إلا في إصابة حوالي 40% منها بشكل صحيح، مما يثبت أن هذه التزييفات يصعب كشفها للغاية.
ولحل هذه المشكلة، بنى الفريق نظام تحقيق جديداً يسمى UMFDet. وبدلاً من توظيف حارسين منفصلين، بنوا عقلاً ذكياً واحداً يحتوي بداخله على "فريق من الخبراء". تخيل مركزاً محورياً يستقبل منشوراً (صورة ونص) ثم يسأل: "من هو الخبير الأفضل للنظر في هذا؟". يمتلك النظام ثلاثة خبراء متخصصين: خبير للأخبار "الحقيقية"، وخبير لـ "الأكاذيب المصنوعة بشرياً"، وخبير لـ "التزييفات المصنعة آلياً". وهذا ما يسمى "خليط الخبراء المدرك للفئات" (Category-aware Mixture-of-Experts). عندما يصل منشور، يقوم النظام بتوجيهه إلى الخبير المناسب. ولكن الجزء الذكي هنا هو أنهم حرصوا على ألا يرتبك هؤلاء الخبراء؛ فقد استخدموا قاعدة تدريب خاصة (تسمى "التنظيم التمييزي لكل خبير" - Expert-wise Discriminative Regularization) لإجبار "الخبير البشري" على البقاء قريباً جداً من الأكاذيب البشرية الأخرى وبعيداً جداً عن التزييفات الآلية، والعكس صحيح. كما أضافوا فحص "الاتساق عبر الوسائط" (Cross-modal Consistency)، والذي يعمل كمدقق للحقائق يسأل: "هل الصورة تتطابق بالفعل مع القصة؟". إذا كان النص يقول "كلب طائر" بينما تظهر الصورة قطة، فإن هذا الفحص سيصنف الأمر كأمر مشبوه.
تظهر النتائج أن هذا المحقق الجديد أفضل بكثير من المتخصصين القدامى. فعند اختباره على مكتبة البيانات الجديدة المكونة من 98,000 عينة، حدد UMFDet نوع التضليل بدقة تبلغ حوالي 82% في المتوسط. ويمثل هذا قفزة كبيرة مقارنة بالأساليب الأخرى؛ فعلى سبيل المثال، عند النظر في "التلاعب بالنصوص" (القصص المزيفة)، حسن النظام الجديد أفضل طريقة سابقة بنسبة تزيد عن 13%. كما أثبت قدرته على التعامل مع "التلاعب المختلط" (مزيج من الحقيقي والمزيف) بشكل أفضل من أي شخص آخر. حتى أن الفريق اختبر نظامهم على مجموعات بيانات موجودة بالفعل، مثل DGM4 وMMFakeBench، ولا يزال يتفوق عليها، متفوقاً على النماذج المتخصصة التي صُممت لنوع واحد فقط من التزييف.
يشير البحث إلى أنه من خلال توحيد هذه المهام، يمكننا بناء أداة أكثر عملية وقوة لسلامة وسائل التواصل الاجتماعي. لا يدعي المؤلفون أنهم حلوا مشكلة الأخبار المزيفة إلى الأبد، لكنهم أظهروا أن التعامل مع الأكاذيب البشرية والتزييفات الاصطناعية كتحدٍ واحد موحد يعمل بشكل أفضل بكثير من إبقائهما منفصلين. إن نظامهم، جنباً إلى جنب مع مجموعة البيانات الضخمة الجديدة، متاح الآن للآخرين لاستخدامه وتحسينه، مما يقدم خطوة واعدة نحو ساحة مدينة يكون فيها الوصول إلى الحقيقة أسهل، بغض النظر عمن يحاول إخفاءها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.