The Deepfakes We Missed: We Built Detectors for a Threat That Didn't Arrive
تجادل هذه الورقة الموقفية بأن تركيز مجتمع تعلم الآلة لمدة عقد من الزمن على كشف التزييف العميق للشخصيات العامة قد انحرف عن الواقع، حيث تحولت التهديدات المهيمنة الفعلية إلى الصور الحميمة غير الرضائية، وعمليات الاحتيال عبر استنساخ الصوت، والاحتيال العاطفي، مما خلق عنق زجاجة حرجاً في الدفاع الواقعي يتطلب إعادة توازن فورية لأجندات البحث.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة بحثية بعنوان "التزييف العميق الذي فاتنا"، باستخدام لغة بسيطة وتشبيهات لجعل الحجج الجوهرية واضحة.
الصورة الكبيرة: بناء الدرع الخطأ
تخيل مجموعة من المهندسين قضوا عشر سنوات في تصميم أفضل طفاية حريق على الإطلاق. لقد أمضوا كل وقتهم وأموالهم في اختبارها ضد حرائق غابات هائلة ومستعرة يعتقدون أنها ستحدث. بنوا خزانات ضخمة، وابتكروا أنماط رش معقدة، وكتبوا أدلة حول كيفية مكافحة حريق قد يحرق مدينة بأكملة.
ولكن عندما جاء "موسم الحرائق" أخيراً، لم تحدث حرائق الغابات الهائلة تلك. بدلاً من ذلك، تبين أن الخطر الحقيقي يتمثل في آلاف حرائق المطابخ الصغيرة والمخفية التي تندلع في منازل الناس، وتسريبات الغاز في أقبية بيوتهم.
لا يزال المهندسون واقفين هناك مع طفايات حريق الغابات العملاقة الخاصة بهم، مستعدين لإنقاذ المدينة، بينما الضرر الحقيقي يحدث في المطابخ والأقبية. تجادل الورقة البحثية بأن مجال اكتشاف التزييف العميق بالذكاء الاصطناعي يمر بالضبط بهذا الموقف.
"حريق الغابة" الذي لم يحدث (T1)
على مدار العقد الماضي، كان الباحثون مهووسين بنوع واحد محدد من التزييف العميق: الفيديوهات المزيفة للمشاهير (مثل السياسيين أو نجوم السينما) وهم يقولون أشياء لم يقولوها أبداً.
- المخاوف: كان الجميع مرعوبين من أن فيديو مزيف لرئيس يعلن الحرب أو لمشهور يروج لعملية احتيال قد يسبب فوضى في الانتخابات ويدمر الثقة في الأدلة المرئية.
- الواقع: في الانتخابات العالمية لعام 2024، لم تحدث هذه الكارثة المحددة. وبينما ظهرت بعض الفيديوهات المزيفة للسياسيين، استطاع الناس العاديون والصحفيون ومدققو الحقائق رصدها؛ لم يحتاجوا إلى جهاز كشف ذكاء اصطناعي فائق القدرة للعثور عليها، بل قامت العيون البشرية بالمهمة.
- البحث: رغم ذلك، لا تزال 71% من جميع الأوراق البحثية وقواعد البيانات تركز بالكامل على كشف فيديوهات "المشاهبين" هذه. الأمر يشبه استمرار المهندسين في تلميع طفايات حريق الغابات.
"حرائق المطابخ" التي حدثت بالفعل (T2, T3, T5)
بينما كان الباحثون ينظرون إلى السماء بحثاً عن الحريق الكبير، كان الضرر الحقيقي يحدث في ثلاثة مجالات لم تحظَ إلا بالقليل من الاهتمام:
"حريق المطبخ" (المحتوى الجنسي غير الرضائي الناتج عن أفراد - NCII):
- ما هو: أشخاص عاديون (غالباً طلاب أو معارف) يستخدمون الذكاء الاصطناعي لإنشاء صور حميمية مزيفة لأشخاص عاديين آخرين دون إذنهم.
- النطاق: هذا النوع ينفجر انتشاراً. في عام 2025، أظهرت التقار تقارداً بمقدار 260 ضعفاً في المواد الإباحية للأطفال الناتجة عن الذكاء الاصطناعي والمحتوى الحميم غير الرضائي.
- الفجوة: يكاد الباحثون يفتقرون تماماً لأجهزة كشف لهذا النوع. الأمر يشبه امتلاك طفاية حريق للغابات ولكن بدون أجهزة كشف دخان للمنازل.
"تسرب الغاز" (احتيال استنساخ الصوت):
- ما هو: محتالون يستخدمون الذكاء الاصطناعي لاستنساخ أصوات أفراد العائلة أو المديرين لخداع الناس ودفعهم لإرسال الأموال.
- النطاق: في عام 2025، تسببت هذه الاحتيالات في خسائر تقارب 900 مليون دولار. تضمنت إحدى الحالات الشهيرة موظف تمويل أرسل 25 مليون دولار لأنه اعتقد أنه في مكالمة فيديو مع رئيسه (الذي كان في الواقع صورة رمزية "Avatar" تعمل بالذكاء الاصطناعي).
- الفجوة: معظم الأبحاث تركز على التسجيلات الصوتية المسجلة مسبقاً في الاستوديوهات. لكن هذه الاحتيالات تحدث في مكالمات هاتفية فورية (في الوقت الفعلي) بجودة اتصال سيئة. أجهزة الكشف الحالية بطيئة جداً ولا تعمل على خطوط الهاتف.
"الأنابيب المخفية" (تطبيقات المراسلة):
- ما هو: المحتوى المزيف الذي ينتشر عبر مجموعات الدردشة الخاصة (مثل واتساب أو تيليجرام) حيث يحجب التشفيد المحتوى عن الأنظ نظر العام.
- النطاق: هذه هي الطريقة التي تنتشر بها "حرائق المطابخ" (عمليات احتيال الصور الحميمية).
- الفجوة: أجهزة الكشف الحالية مصممة لـ "الويب المفتوح" (مثل يوتيوب أو تويتر). لا يمكنها رؤية ما بداخل الرسائل الخاصة المشفرة.
لماذا لا نزال ننظر إلى الشيء الخطأ؟
تسأل الورقة البحثية: إذا لم تحدث حرائق الغابات الكبيرة، فلماذا لا نزال نصنع طفايات حريق الغابات؟
وتحدد ثلاثة أسباب تجعل المجتمع البحثي عالقاً في مكانه:
- فخ "درجة الاختبار": يحتاج الباحثون لنشر أوراق بحثية للحصول على وظائف وتمويل. وللقيام بذلك، يستخدمون "مجموعات اختبار" قياسية (مثل FaceForensics++). هذه الاختبارات تحتوي فقط على مشاهبين. إذا حاولت اختبار جهاز كشف للاحتيال الصوتي أو الصور الخاصة، فلن تجد اختباراً معيارياً لاستخدامه. الأمر يشبه محاولة الحصول على رخصة قيادة، لكن الاختبار الوحيد المتاح هو قيادة سيارة سباق على مضمار، في حين أنك تحتاج لقيادة سيارة عائلية في المدينة.
- "جدار الخصوصية": من السهل جداً الحصول على صور المشاهير لتدريب الذكاء الاصطناعي. لكن من غير القانوني وغير الأخلاقي جمع صور خاصة للضحايا أو تسجيلات لمكالمات الاحتيال. ولأن الحصول على البيانات صعب، يتجنب الباحثون العمل عليها.
- "تأثير العناوين الإخبارية": الفيديو المزيف لرئيس ما يتصدر الأخبار الليلية. أما الفيديو المزيف لمراهق يتعرض للتنمر في دردشة جماعية فلا يفعل ذلك. الباحثون والممولون يتبعون العناوين الإخبارية، وليس الإحصائيات الفعلية لمن يتضررون حقاً.
الحل: تغيير الخريطة
لا تقول الورقة البحثية إن علينا التوقف عن دراسة التزييف العميق للمشاهبين تماماً. بدلاً من ذلك، تجادل بأننا بحاجة إلى إعادة توازن جهودنا.
وهي تقترح ثلاثة أجندات بحثية جديدة:
- أجهزة كشف المكالمات الهاتفية في الوقت الفعلي: بناء ذكاء اصطناعي يمكنه الاستماع إلى مكالمة هاتفية مباشرة والقول "انتظر، هذا الصوت يبدو مزيفاً" في أقل من ثانية، حتى مع سوء اتصال الهاتف.
- أجهزة كشف "المنزل" الخاصة: إنشاء أدوات تعمل على هاتفك الخاص للتحقق مما إذا كانت الصورة مزيفة قبل مشاركتها، دون إرسال صورك الخاصة إلى خادم مركزي (لحماية الخصوصية).
- دفاعات تطبيقات الدردشة: تطوير طرق للكشف عن المحتوى المزيف داخل مجموعات الدردشة الخاصة دون كسر التشفير.
الخلاصة
تخلص الورقة إلى أن أكبر مشكلة في محاربة التزييف العميق ليست أن ذكاءنا الاصطناعي ليس ذكياً بما يكفي. المشكلة هي أننا نستخدم خريطة من عام 2017 للإبحار في عالم عام 2026. لقد بنينا أجهزة كشف لتهديد لم يصل، بينما التهديدات التي وصلت بالفعل تنمو دون رقيب. لقد حان الوقت لوضع طفاية حريق الغابات والبدال في بناء أجهزة كشف الدخان للمنازل حيث يكمن الخطر الحقيقي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.