Beyond Seeing Is Believing: On Crowdsourced Detection of Audiovisual Deepfakes
تقيم هذه الورقة البحثية الكشف القائم على التعهيد الجماعي للتزييف العميق السمعي البصري، وتجد أنه في حين أن تجميع أحكام العديد من العاملين يمكن أن يفحص موثوقية الفيديو بشكل موثوق، إلا أن التعهيد الجماعي يعاني في تحديد أنواع التلاعب المحددة والطوابع الزمنية باستمرار، لا سيما في حالات الصوت والفيديو المعقدة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك رئيس تحرير غرفة أخبار ضخمة. فجأة، تنهال عليك مجموعة من الفيديوهات، بعضها حقيقي والبعض الآخر "تزييف عميق" (deepfakes) — وهي فيديوهات تبدو حقيقية وصوتها واقعي لكن تم التلاعب بها سراً بواسطة الذكاء الاصطناوي. مهمتك هي فرزها. ولكن بما أنك لا تستطيع مشاهدة كل فيديو بمفردك، فقد استعنت بفريق من 240 شخصاً عادياً (جمهور/مجموعة من الناس) لمساعدتك في كشف الفيديوهات المزيفة.
هذه الورقة البحثية هي بمثابة "تقرير درجات" لمدى جودة أداء هذا الفريق. وإليك ما وجدوه، مشروحاً ببساطة:
الإعداد: معسكران تدريبيان مختلفان
لم يختبر الباحثون الجمهور لمرة واحدة فقط؛ بل أجروا تجربتين منفصلتين باستخدام مجموعتين مختلفتين من الفيديوهات:
- المعسكر "الصعب" (AV-Deepfake1M): كانت هذه الفيديوهات قصيرة، مخادعة، وواقعية للغاية.
- المعسكر "الأسهل" (TMC): كانت هذه الفيديوهات أطول وأسهل قليلاً في كشف التزييف.
في كلا المعسكرين، كان على الجمهور القيام بثلاثة أشياء لكل فيديو:
- كشف التزييف: هل هذا الفيديو حقيقي أم تم التلاعب به؟
- تحديد نوع الخداع: هل تم التلاعب بـ الصوت (النقاش)، أم الفيديو (الوجه)، أم كليهما؟
- تحديد الوقت: متى بدأ التلاعب بالضبط؟
النتائج: ما أصاب فيه الجمهور (وما أخطأ فيه)
1. تأثير "شبكة الأمان" (RQ1)
كان الجمهور ممتازاً في عدم إطلاق إنذارات كاذبة. إذا كان الفيديو حقيقياً بالفعل، فمن النادر جداً أن يتهم العمال الفيديو بأنه مزيف. لقد كانوا حذرين للغاية من اتهام الفيديوهات البريئة.
- المشكلة: كانوا سيئين جداً في كشف عمليات التزييف الفعلية. الأمر يشبه حارس أمن بارع جداً في السماح للأشخاص الحقيقيين بالدخول، ولكنه يفشل في كشف معظم اللصوص الذين يحاولون التسلل.
- الفرق: كشف الجمهور حوالي ضعف عدد الفيديوهات المزيفة في المعسكر "الأسهل" (TMC) مقارنة بالمعسكر "الصعب". وهذا يثبت أن نوع الفيديو يلعب دوراً كبيراً.
2. "عقلية القطيع" (RQ2)
عندما سأل الباحثون: "هل اتفق الجميع؟"، كانت الإجابة: "ليس تماماً".
- بالنسبة لأي فيديو واحد، غالباً ما اختلف العمال فيما بينهم. قد يعتقد شخص ما أنه حقيقي، بينما يراه آخر مزيفاً.
- ومع ذلك، عندما نأخذ تصويت الأغلبية (ما قاله معظم الناس)، تصبح الإشارة أكثر وضوحاً. الأمر يشبه سؤال غرفة مليئة من الناس لتخمين وزن بقرة؛ قد يخطئ شخص واحد تماماً، لكن متوسط رأي 10 أشخاص عادة ما يكون قريباً جداً من الواقع.
- العقبة: حتى مع تصويت الأغلبية، إذا كان الفيديو مزيفاً بطريقة مخادعة حقاً، فإن الجمهور سيظل يخطئ في كشفه. لا يمكنك إصلاح نقطة الضعف بمجرد سؤال المزيد من الناس.
3. "النقطة العمياء" في التفاصيل (RQ3)
كان هذا الجزء الأصعب. فحتى عندما نجح الجمهور في كشف التزييف، كانوا سيئين جداً في تخمين كيفية التزييف.
- الخلط: إذا كان الفيديو يحتوي على صوت مزيف ووجه مزيف، فإن الجمهور عادة ما يخمن "صوت مزيف" أو "وجه مزيف"، ونادراً ما يصيب في إجابة "كلاهما".
- الجانب المشرق (الطوابع الزمنية): بينما لم يستطيعوا الاتفاق على ما الذي تم تزييفه، فقد كانوا جيدين بشكل مفاجئ في الاتفاق على متى حدث ذلك. إذا اعتقدوا أن الفيديو مزيف، فيمكنهم عادةً الإشارة إلى نفس الجزء (لمدة 5 ثوانٍ مثلاً) حيث بدأ الشيء الغريب.
الخلاصة: استراتيجية من خطوتين
تقترح الورقة طريقة عملية لاستخدام نظام "الجمهور" هذا، باستخدام تشبيه بسيط:
فكر في الجمهور كـ جهاز كشف المعادن في المطار.
- الخطوة 1 (الفحص): جهاز كشف المعادن (الجمهور) رائع في مسح آلاف الحقائب بسرعة. فهو نادراً ما يطلق إنذاراً لحقيبة لا تحتوي على شيء (إنذارات كاذبة منخفضة)، ولكنه قد يغفل عن بعض الأشياء الصغيرة والمخبأة (تزييف مفقود).
- الخطوة 2 (مراجعة الخبراء): إذا أصدر الجهاز صوتاً، فأنت لا تسأل الجهاز عن ماهية الشيء أو أين هو بالضبط داخل الحقيبة؛ بل ترسل تلك الحقيبة إلى خبير بشري (أو ذكاء اصطناعي ذكي) ليفتحها ويفحصها بدقة.
باختصار: الجمهور هو "فلتر أول" جيد لكشف التزييف الواضح ولتحديد الفيديوهات المشبوهة ليقوم الخبراء بفحصها. ولكن لا تطلب منهم أن يكونوا الحكم النهائي على كيفية تزييف الفيديو، لأنهم سيخطئون في ذلك على الأرجح.
تحذير صغير
لاحظ الباحثون أن بعض العمال ربما بدأوا الاختبار مع خفض مستوى الصوت لديهم. وبما أنهم لم يتمكنوا من سماع الصوت، فقد فاتهم كشف التزييفات التي تعتمد على "الصوت فقط". وهذا تذكير بأنه حتى في المهام البسيطة، يمكن للتفاصيل الصغيرة (مثل مستوى الصوت) أن تغير النتائج.
الخلاصة النهائية: التعهيد الجماعي (Crowdsourcing) هو أداة مفيدة لرصد "وجود خطأ ما" في الفيديوهات، ولكنه يحتاج إلى مساعدة لمعرفة "ماهية الخطأ" بالضبط.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.