Detecting Deception, Not Deepfakes: Why Media Forensics Needs Social Theories
تجادل هذه الورقة بأن الاعتماد حصرياً على كشف التزييف العميق القائم على الآثار (artifact-based) يزداد عدم فاعلية بسبب "وهم التعميم"، وتقترح إطاراً تكميلياً يرتكز على نظريات اجتماعية مثل نظرية أفعال الكلام ومبدأ غرايس للتعاون لكشف الخداع من خلال تحليل التفاعلات التواصلية بدلاً من مجرد تحليل الإشارات الإعلامية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة بحثية بعنوان "كشف الخداع، لا التزييف العميق" باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.
المشكلة الكبرى: فخ "المرآة السحرية"
تخيل أن لديك مرآة سحرية يمكنها معرفة ما إذا كانت اللوحة حقيقية أم مزيفة. لسنوات طويلة، عملت هذه المرآة بشكل رائع لأن المزورين كانوا يتركون أدلة واضحة: لطخة طلاء هنا، أو ضربة فرشاة غريبة هناك.
لكن الآن، قام المزورون بتطوير أدواتهم. لقد استخدموا "سحر الذكاء الاصطناعي" لإنشاء لوحات مثالية للغاية لدرجة أن المرآة لا تستطيع العثور على لطخة واحدة. لا تزال المرآة تقول: "هذا يبدو حقيقياً بنسبة 99%!" ولكن في العالم الحقيقي، لا يزال الناس يتعرضون للخداع. لماذا؟
تجادل الورقة البحثية بأننا نطرح السؤال الخطأ.
- السؤال القديم: "هل هذه الصورة أو الفيديو مزيف؟" (البحث عن اللطخات).
- السؤال الصحيح: "هل يحاول هذا الشخص خداعي؟" (البحث عن النية).
يقول المؤلفون إنه حتى لو صنعنا "كاشف تزييف" مثالياً، فلن يوقف أكثر عمليات الاحتيال خطورة. لماذا؟ لأن المحتالين لا يصنعون فيديوهات مزيفة فحسب؛ بل يديرون محادثات مزيفة.
"وهم التعميم"
يطلق المؤلفون على الوضع الحالي اسم "وهم التعميم".
فكر في الأمر كأنه حارس أمن حفظ وجوه 1,000 مجرم محدد. إذا دخل مجرم يرتدي قناعاً سبق للحارس رؤيته، فسيمسك به الحارس. لكن إذا دخل المجرم بقناع جديد لم يره الحارس من قبل، فسيسمح له بالمرور.
أجهزة كشف الذكاء الاصطناعي الحالية تشبه ذلك الحارس. لقد تم تدريبها على أنواع قديمة ومحددة من الفيديوهات المزيفة. وبمجرد أن يستخدم المحتالون أداة ذكاء اصطناعي جديدة لصنع فيديو، يفشل الكاشف. تزعم الورقة أن الاعتماد على هذه الكواشف يشبه محاولة إيقاف فيضان عن طريق سد ثقب صغير واحد بينما ينهار السد في كل مكان آخر.
الحل الجديد: "استجواب المحقق"
بدلاً من النظر فقط إلى الصورة (الوسائط)، يقترح المؤلفون أن نبدأ في النظر إلى المحادثة (التفاعل). هم يقترحون استخدام ثلاثة "أدوات تحقيق" من علم النفس واللغة لكشف الكذب، حتى لو بدا الفيديو مثالياً.
إليك الطبقات الثلاث لإطار عملهم الجديد:
الطبقة الأولى: فحص "من وماذا؟" (نظرية الأفعال الكلامية)
التشبيه: تخيل أن شخصاً غريباً اقترب منك وقال: "أنا مديرك، وأحتاج منك تحويل 50,000 دولار لي الآن".
- الطريقة القديمة: التحقق مما إذا كان وجه الغريب يبدو حقيقياً.
- الطريقة الجديدة: اسأل، "هل يمتلك هذا الشخص السلطة لتقديم هذا الطلب؟"
- كيف تعمل: في العالم الحقيقي، لا يطلب المدير عادةً المال عبر رسالة عشوائية على واتساب. إذا كان "الفعل الكلامي" (الطلب) لا يتناسب مع دور الشخص أو الموقف، فهذا مؤشر خطر، حتى لو بدا وجهه حقيقياً بنسبة 100%.
الطبقة الثانية: فحص "تدفق المحادثة" (قواعد غرايس)
التشبيه: تخيل أنك تتحدث مع صديق بدأ فجأة يتحدث بنص غريب وآلي. يعطيك تفاصيل غير ضرورية كثيرة، أو ينتقل بين المواضيع بشكل مفاجئ.
- القاعدة: البشر يتبعون قواعد غير مكتوبة ليكونوا متعاونين، صادقين، وذوي صلة بالموضوع.
- الطريقة الجديدة: غالباً ما يكسر المحتالون هذه القواعد لاستعجالك. قد يكونون مفرطين في الاستعجال، أو غامضين بشأن التفاصيل، أو يرفضون الإجابة على أسئلة بسيطة. إذا شعرت أن المحادثة "غريبة" أو "مكتوبة مسبقاً"، فإن النظام يطلق إنذاراً، حتى لو كان الصوت يبدو مثالياً.
الطبقة الثالثة: فحص "قدر الضغط" (تأثير سيالديني)
التشبيه: بائع يحاول بيعك سيارة. إذا قال: "هذه هي الأخيرة، والمدير يراقبني، وجارك اشترى واحدة للتو"، فهو يمارس عليك ضغطاً متزايداً.
- القاعدة: يستخدم المحتالون حِيلاً نفسية مثل السلطة ("أنا الرئيس التنفيذي")، والندرة ("افعل ذلك في 5 دقائق!")، والدليل الاجتماعي ("الجميع يفعل ذلك").
- الطريقة الجديدة: يبحث النظام عن "تراكم" هذه الحيل. إذا كانت مكالمة الفيديو تستخدم كل تكتيكات الضغط هذه في وقت واحد لتجعلك تتصرف دون تفكير، فمن المرجح أنها عملية احتيال.
كيف يترابط كل ذلك معاً
تقترح الورقة نظاماً ذا مسارين:
- المسار (أ) (الطريقة القديمة): النظر في البكسلات والأصوات لمعرفة ما إذا كانت الوسائط اصطناعية.
- المسار (ب) (الطريقة الجديدة): الاستماع إلى المحادثة لمعرفة ما إذا كان السلوك مخادعاً.
إذا قال المسار (أ) "ربما مزيف" أو قال المسار (ب) "سلوك مشبوه بالتأكيد"، فإن النظام يطلق إنذاراً. وإذا اتفق الاثنان، فهذا تنبيه عالي الثقة.
لماذا هذا مهم الآن؟
تشير الورقة إلى أن الاحتيال في العالم الحقيقي (مثل حالة "أروب" حيث سُرقت 25 مليون دولار) لم يتم اكتشافه بواسطة كاشف فيديو، بل تم اكتشافه لأن بشراً لاحظوا أن الطلب كان غريباً أو لأن الضحية طرح سؤالاً شخصياً لم يستطع المدير التنفيذي المزيف الإجابة عليه.
الخلاصة:
لا يمكننا الفوز بمجرد بناء "كواشف تزييف" أفضل لأن التزييف أصبح جيداً جداً. نحن بحاجة إلى بناء "كواشف خداع" أفضل تفهم السلوك البشري، والسلطة، والمحادثة. نحن بحاجة للتوقف عن البحث عن "اللطخات على اللوحة" والبدء في الاستماع إلى "قصة الرسام".
ما التالي؟
يعترف المؤلفون أن هذا أمر صعب. فهو يتطلب طرقاً جديدة لاختبار الذكاء الاصطناعي (ليس فقط على مقاطع الفيديو، بل على المحادثات الكاملة) وأدوات جديدة لتحليل اللغة وعلم النفس في الوقت الفعلي. هم يقترحون أجندة بحثية لبناء هؤلاء "المحققين في المحادثات" حتى نتمكن من البقاء آمنين في عالم لم تعد فيه الرؤية تعني التصديق.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.