Explainable Deepfake Detection with Feature-robust Augmentation and Evidence-grounded Explanation Optimization
تقترح هذه الورقة إطار عمل مبتكر للكشف القابل للتفسير عن التزييف العميق يجمع بين التعزيز القوي للميزات والتعلم التبايني الخاضع للإشراف لتعزيز المرونة ضد تدهور الصور، ويستخدم تحسين التفضيل القائم على الأدلة لتوليد تفسيرات دقيقة واقعياً، محققاً المركز الأول في تحدي ACM Multimedia 2026 للكشف عن التزييف العميق القابل للتفسير.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في العصر الرقمي، أصبح الخط الفاصل بين ما هو حقيقي وما هو مُصنّع ضبابياً بشكل متزايد. لقد تقدم الذكاء الاصطناٍعي التوليدي إلى حد أصبح بمقدوره معه إنشاء صور لا يمكن تمييزها تقريباً عن الصور الفوتوغرافية التي تلتقطها الكاميرا. هذه الصور المفبركة، والتي تُسمى غالباً "التزييف العميق" (deepfakes)، تشكل تهديداً خطيراً لنزاهة الأخبار، والأدلة القانونية، والثقة الشخصية. لسنوات عديدة، ركز الباحثون على بناء برامج حاسوبية يمكنها ببساطة قول "نعم" أو "لا" عند عرض صورة عليها، لتحدد ما إذا كانت أصلية أم مزيفة. ومع ذلك، في العالم الحقيقي، نادراً ما يكون الحكم البسيط كافياً؛ إذ يحتاج خبير الأدلة الجنائية أو مدقق الحقائق إلى معرفة لماذا تعتبر الصورة مشبوهة. إنهم بحاجة لرؤية القرائن البصرية المحددة — كالظلال غير الطبيعية، أو الأنسجة المشوهة، أو الهندسة المستحيلة — التي تكشف الخداع. وقد أدت هذه الحاجة إلى ظهور مجال دراسي جديد: "الكشف القابل للتفسير"، حيث لا يقتصر الهدف على إيجاد التزييف فحسب، بل على شرح الأدلة بوضوح لمراقب بشري.
وعلى الرغم من التقدم في هذا المجال، عانت الأنظمة الحالية من مشكلتين رئيسيتين تحدّان من فائدتها. أولاً، غالباً ما تكون هذه الأنظمة هشة؛ فإذا كانت الصورة ضبابية قليلاً، أو مضغوطة، أو ذات جودة منخفضة، يمكن لدقة الكاشف أن تنهار. ثانياً، عندما تحاول هذه الأنظمة شرح منطقها، فإنها غالباً ما تفشل في قول الحقيقة؛ فقد تغفل عن الأدلة الفعلية للتلاعب، أو والأسوأ من ذلك، قد تخترع تفاصيل غير موجودة، وهو سلوك يُعرف باسم "الهلوسة". لقد عالج فريق من الباحثين من جامعة بكين هاتين المشكلتين بإطار عمل جديد فاز بالمركز الأول في تحدي ACM للمتعدد الوسائط للكشف عن التزييف العميق لعام 2026. لا يعمل نهجهم على تحسين القدرة على رصد التزييف فحسب، بل يضمن بقاء النظام موثوقاً حتى عندما تكون جودة الصورة سيئة، ويجبر التفسير على الالتزام الصارم بالأدلة الواقعية الموجودة في الصورة.
بدأ الباحثون بمعالجة مشكلة جودة الصورة. في العالم الحقيقي، نادراً ما تكون الصور مثالية؛ فهي غالباً ما يتم تغيير حجمها، أو ضغطها، أو إضعافها بسبب الضجيج. وجد الفريق أن الطرق القياسية لتدريب الحواسيب على التعرف على التزييف غالباً ما تأتي بنتائج عكسية عند تعرضها لأنواع مختلفة من تشوهات الصور. فبدلاً من تعلم التعرف على التزييف، يرتبك الحاسوب بسبب تنوع التغييرات، وهي ظاهرة يصفها المؤلفون بـ "انحراف الميزات" (feature drift). ولإصلاح ذلك، طوروا طريقة تدريب تعرض النموذج لمجموعة واسعة من الصور المتدهورة مع تعليمه في الوقت نفسه التمسك بفهم مستقر لما تبدو عليه الصورة الحقيقية أو المزيفة. لقد استخدموا تقنية حيث يقوم نموذج "معلم"، وهو نسخة مستقرة وسلسة من نموذج التعلم، بتوجيه "الطالب". يضمن هذا أنه بغض النظر عن مدى تشوه الصورة، يظل التمثيل الداخلي للحاسوب للصورة متسقاً. وهذا يسمح للنظام باكتشاف التزييف العميق بدقة حتى عندما تكون جودة الصورة سيئة، وهي قدرة كانت تفتقر إليها النماذج السابقة.
بمج-دم يتمكن النظام من اكتشاف التزييف بشكل موثوق، يصبح التحدي التالي هو شرح السبب. لاحظ الباحثون أن نماذج التفسير القياسية غالباً ما تقدم إجابات تبدو معقولة ولكنها خاطئة واقعياً. فقد تركز على تفاصيل غير ذات صلة، مثل لون قميص، بينما تتجاهل التلاعب الفعلي، مثل يد مشوهة. ولحل ذلك، أنشأ الفريق عملية تدريب جديدة تعلم النموذج تقدير الحقيقة فوق الأسلوب. لقد بنوا مجموعة بيانات حيث عُرض على الحاسوب أزواج من التفسيرات: أحدهما كامل ودقيق، والآخر معيب. صُممت الأمثلة المعيبة خصيصاً لمحاكاة الأخطاء الشائعة، مثل إغفال الأدلة الحاسمة أو إضافة تفاصيل مختلقة. ومن خلال تدريب النموذج على تفضيل التفسيرات الدقيقة ورفض التفسيرات المعيبة، تعلم النظام إعطاء الأولوية لآثار التلاعب الحقيقية. هذه العملية، المعروفة باسم "تحسين التفضيل" (preference optimization)، قامت فعلياً بتصفية الهلوسات وأجبرت النموذج على ربط استنتاجاته بالأدلة البصرية الفعلية الموجودة في الصورة.
والنتي نتيجة لذلك هي نظام يتسم بالمتانة والأمانة في آن واحد. في الاختبارات باستخدام مجموعة بيانات ضخمة تضم مليون صورة، تفوق إطار العمل الجديد على جميع المنافسين، بما في ذلك النماذج الأساسية من شركات التكنولوجيا الكبرى. لقد حقق أعلى الدرجات في كل من اكتشاف التزييف العميق وتوليد تفسيرات وفية دلالياً للأدلة. كما طور الباحثون نسخة ثانية مبسطة من النموذج للحالات التي تكون فيها السرعة والإيجاز أكثر أهمية من التحليل التفصيلي. تم تدريب هذه النسخة على تقديم ملخصات موجزة لأهم القرائن، موازنةً بين الحاجة إلى الدقة والحاجة إلى سهولة القراءة السريعة. إن نجاح هذا العمل يثبت أنه من الممكن بناء ذكاء اصطناعي لا يرى الحقيقة فحسب، بل يمكنه أيضاً شرحها بوضوح، دون أن يضلله ضعف جودة الصورة أو ميله الخاص لابتكار الحقائق. يقدم هذا التقدم أداة أكثر موثوقية لمحللي الأدلة الجنائية وللجمهور على حد سواء، مما يساعد في استعادة الثقة في الوسائط الرقمية من خلال جعل عملية الكشف شفافة وقائمة على الأدلة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.