Trustworthy Deepfake Detection Through Explainable AI: Evaluating the Consistency of Visual Explanations Across Deepfake Datasets
تقدم هذه الدراسة "درجة اتساق التفسير" (ECS) لإثبات أن كواشف التزييف العميق ذات الدقة التنبؤية العالية غالبًا ما تعتمد على استدلال غير مستقر ومحدد بمجموعات بيانات معينة يفشل في التعميم، محاججةً بأن النماذج الجنائية يجب تقييمها بناءً على اتساق التفسير بالإضافة إلى مقاييس الأداء التقليدية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في العصر الرقمي، أصبح الخط الفاصل بين الصورة الفوتوغرافية الحقيقية والصورة التي أنشأها الكمبيوتر صعب التحديد بشكل متزايد. إذ يمكن للبرامج المتقدمة الآن إنشاء مقاطع فيديو لأشخاص يقولون أشياء لم يقولوها قط أو يفعلون أشياء لم يفعلوها أبداً، بمستوى من الواقعية يخدع العين البشرية. ولمكافحة ذلك، بنى العلماء برامج حاسوبية صُممت لتعمل كأجهزة كشف كذب رقمية؛ حيث تقوم هذه البرامج بتحليل الصور ومقاطع الفيديو لرصد عيوب دقيقة وغير مرئية تكشف التزييف. لسنوات طويلة، كان نجاح هذه البرامج يُقاس ببساطة بمدى تكرار حصولها على الإجابة الصحيحة. فإذا استطاع برنامج تحديد فيديو مزيف تسع مرات من أصل عشر، كان يُعتبر ناجحاً. ومع ذلك، فإن الإجابة الصحيحة لا تعني دائماً أن البرنامج يفكر بشكل صحيح. تماماً كما قد يخمن طالب الإجابة الصحيحة في اختبار ما عن طريق حفظ نمط معين بدلاً من فهم الدرس، قد يكتشف برنامج الحاسوب التزييف لأسباب خاطئة. وهذا يخلق مشكلة خطيرة لمجالات مثل إنفاذ القانون والصحافة، حيث يكون معرفة "لماذا" اتُخذ القرار بنفس أهمية القرار نفسه.
لقد عزم فريق من الباحثين على التحقيق فيما إذا كانت أجهزة كشف الكذب الرقمية عالية الأداء هذه موثوقة حقاً أم أنها مجرد "مخمن محظوظ". وركزوا على نموذجين حاسوبيين محددين، يُعرفان باسم XceptionNet وEfficientNet-B0، وهما حالياً من بين الأفضل في كشف التزييف العميق (deepfakes). أراد الباحثون معرفة ما إذا كانت هذه النماذج تنظر إلى الأجزاء الصحيحة من الوجه عندما تصدر أحكامها. وللقيام بذلك، استخدموا تقنية تسلط الضوء على المناطق المحددة في الصورة التي يولي الحاسوب اهتماماً لها، مما ينشئ خريطة بصرية لعملية تفكيره. وقارنوا بين طريقتين مختلفتين لإنشاء هذه الخرائط لمعرفة ما إذا كان الحاسوب متسقاً. فإذا كان الحاسوب موثوقاً حقاً، يجب أن تشير كلتا الطريقتين إلى نفس الملامح، مثل الفم أو العينين، حيث تترك عمليات التزييف غالباً آثاراً دقيقة. وإذا أشارت الطريقتان إلى أماكن مختلفة، فهذا يشير إلى أن منطق الحاسوب غير مستقر.
بدأت الدراسة بتدريب هذه النماذج على مجموعة كبيرة من الفيديوهات الحقيقية والمزيفة المعروفة. وعند اختبارها على هذه المواد المألوفة، قدمت النماذج أداءً استثنائياً، حيث حددت الفيديوهات المزيفة بشكل صحيح بنسبة تزيد عن 94 في المائة. وفي هذه البيئة المنضبطة، كانت الخرائط البصرية متسقة للغاية؛ حيث اتفقت كلتا الطريقتين في فحص انتباه الحاسوب على مكان النظر، مع التركيز على ملامح الوجه حيث تحدث عمليات التلاعب عادةً. وقد أعطى هذا انطباعاً بوجود نظام قوي وموثوق. ومع ذلك، وضع الباحثون هذه النماذج في اختبار أصعب بكثير؛ حيث طلبوا من الحواسيب تحليل مجموعة مختلفة تماماً من مقاطع الفيديو، تضم تزييفات عالية الجودة لشخصيات مشهورة لم ترها هذه النماذج من قبل. ويُعرف هذا التحول في نوع البيانات بـ "انزياح النطاق" (domain shift)، وهو مصمم لمحاكاة الواقع الفوضوي وغير المتوقع للإنترنت.
كشفت نتائج هذا الاختبار الثاني عن انفصال صادم. فبينما نجحت النماذج في تحديد العديد من التزييفات الجديدة بشكل صحيح، إلا أن منطقها الداخلي انهار. فالخرائط البصرية، التي كانت واضحة ومركزة من قبل، أصبحت مشتتة ومربكة. وبدلاً من التركيز على ملامح الوجه، انجذب انتباه الحاسوب إلى مناطق غير ذات صلة مثل الشعر، أو الخلفية، أو حواف الإطار. وعندما قاس الباحثون الاتفاق بين الطريقتين في فحص انتباه الحاسوب، انخفضت الدرجة بنسبة تقارب النصف. وهذا يعني أنه حتى عندما يحصل الحاسوب على الإجابة الصحيحة، فإنه لم يعد ينظر إلى نفس الأدلة للوصول إليها. ففي لحظة ما قد يركز على الفم، وفي اللحظة التالية على الخلفية، دون أي اتساق منطقي. وتوضح هذه الظاهرة، التي يسميها الباحثون "عدم استقرار الإسناد" (attribution instability)، أن النماذج كانت تعتمد على الأرجح على طرق مختصرة خاصة بمجموعة الفيديوهات الأولى، مثل أنماط ضغط معينة، بدلاً من تعلم العلامات العالمية للوجه المزيف.
تخلص الدراسة إلى أن الدقة العالية وحدها لا تكفي للوثوق بكاشف التزييف العميق. يمكن للنظام أن يكون مصيباً لأسباب خاطئة، وفي المواقف الحساسة مثل قضايا المحاكم أو التحقق من الأخبار، يعد ذلك فشلاً حرجاً. ويجادل الباحثون بأننا بحاجة إلى معيار جديد لتقييم هذه الأدوات، معيار يتحقق ليس فقط مما إذا كانت صحيحة، بل مما إذا كان منطقها مستقراً ومتسقاً عبر أنواع مختلفة من البيانات. وهم يقترحون مقياساً جديداً، يسمى "درجة اتساق التفسير" (Explanation Consistency Score)، لقياس هذا الاستقرار. ومن خلال ضمان بقاء الأدلة البصرية للكاشف مركزة وموثوقة حتى عند مواجهة تزييفات جديدة وصعبة، يمكننا بناء أنظمة ليست دقيقة فحسب، بل موثوقة حقاً. وتشير النتائج إلى أن الجيل الحالي من كاشفات التزييف العميق، رغم كونه مثيراً للإعجاب، قد يكون أكثر هشاشة مما اعتقدنا، وأن الموثوقية الحقيقية تتطلب النظر تحت الغطاء لرؤية كيف يفكر الآلة، وليس فقط ما تقوله.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.