Ivy-Fake: A Unified Explainable Framework and Benchmark for Image and Video AIGC Detection
يقدم هذا العمل Ivy-Fake، وهو معيار متعدد الوسائط واسع النطاق يضم أكثر من 106,000 عينة غنية بالتعليقات التوضيحية، بالإضافة إلى Ivy-xDetector، وهو نموذج قائم على التعلم التعزيزي يحقق كشفاً قابلاً للتفسير وحالياً لأحدث ما توصلت إليه التقنيات للصور ومقاطع الفيديو المُنشأة بواسطة الذكاء الاصطناعي من خلال معالجة أوجه القصور في مجموعات البيانات الحالية وقابلية التفسير.
تخيل أن الإنترنت قد غُمر فجأة بصور ومقاطع فيديو واقعية للغاية تم إنشاؤها بواسطة أجهزة الكمبيوتر؛ بعضها يصور أشخاصًا لا وجود لهم، والبعض الآخر يعرض أحداثًا لم تقع أبدًا. إنه يشبه لعبة ضخمة من نوع "ابحث عن التزييف"، ولكن التزوير أصبح متطورًا للغاية لدرجة أن أعيننا لم تعد قادرة على تمييز الفرق.
يقدم هذا المقال حلاً جديداً يسمى Ivy-Fake، وهو في الأساس نظام محقق فائق الذكاء مصمم لحل هذه اللعبة. إليك كيفية عمله، مقسماً إلى أجزاء بسيطة:
1. المشكلة: المحقق "الثنائي"
قبل Ivy-Fake، كانت معظم برامج الكمبيوتر التي تحاول كشف التزييف تشبه حراس الأمن الذين لا يملكون سوى زرين فقط: "حقيقي" أو "مزيف".
عندما يرى الحارس تزويرًا، فإنه ببساطة يضغط على "مزيف".
لكنه لا يستطيع شرح لماذا. هل كان بسبب الإضاءة الغريبة؟ أم الإصبع الزائد؟ أم الخلفية المعيبة؟
ولأنهم لم يستطيعوا شرح استنتاجاتهم، كان من الصعب الوثوق بهم، وكثيراً ما ارتبكوا أمام أنواع جديدة من التزوير.
علاوة على ذلك، كانت بيانات التدريب التي استخدموها تشبه كتاباً مدرسياً يحتوي فقط على إجابات "صواب/خطأ". لقد افتقروا إلى الأمثلة الكافية حول لماذا يكون الشيء مزيفاً، خاصة فيما يتعلق بمقاطع الفيديو حيث تتحرك الأشياء وتتغير بمرور الوقت.
2. الحل: مكتبة "Ivy-Fake"
بنى المؤلفون مكتبة جديدة ضخمة من مواد التدريب تسمى Ivy-Fake.
الحجم: إنها ضخمة وتحتوي على أكثر من 106,000 مثال من الصور ومقاطع الفيديو.
التفاصيل: بدلاً من مجرد تصنيف صورة على أنها "مزيفة"، قام الفريق (بمساعدة الذكاء الاصطناعي والمراجعين البشريين) بكتابة تقارير مفصلة لكل مدخل على حدة.
تشبيه: بدلاً من مجرد قول "هذه السيارة معطلة"، توضح المكتبة: "هذه السيارة معطلة لأن العجلات تدور للخلف، والمصاب الأمامية تذوب، والسائق لديه ستة أصابع".
الفئات: قاموا بتنظيم هذه الأدلة "المعيبة" في فئتين رئيسيتين:
المكانية (الصورة الثابتة): الأشياء التي تبدو خاطئة في صورة واحدة، مثل الظلال المستحيلة، أو الأيدي الضبابية، أو النصوص التي تظهر كرموز غير مفهومة.
الزمانية (الصورة المتحركة): الأشياء التي تبدو خاطئة عند تحرك الأشياء، مثل تجمد الوجه بينما يتحرك الجسم، أو وميض الضوء بشكل غريب بين الإطارات.
3. المحقق: Ivy-xDetector
باستخدام هذه المكتبة الجديدة، درب المؤلفون نموذج ذكاء اصطناعي جديد يسمى Ivy-xDetector.
كيف يتعلم: لم يكتفوا بتغذيته بالصور فحسب؛ بل علموه كيف "يفكر بصوت عالٍ". يجب على النموذج كتابة سلسلة من الاستدلالات خطوة بخطوة (مثل دفتر ملاحظات المحقق) قبل تقديم حكمه النهائي.
طريقة التدريب: استخدموا تقنية خاصة تسمى التعلم التعزيزي (Reinforcement Learning). تخيل طالباً يجري امتحاناً:
إذا حصل الطالب على الإجابة الصحيحة وكتب شرحاً جيداً، فإنه يحصل على نجمة ذهبية.
إذا حصل على الإجابة الصحيحة ولكن الشرح كان بلا معنى، فإنه لا يحصل على نجمة.
إذا أخطأ، فإنه لا يحصل على نجمة.
هذا أجبر النموذج على تعلم ليس فقط ما هو المزيف، بل وأيضاً كيفية إثبات ذلك.
4. النتائج: أذكى وأسرع
يدعي المقال أن Ivy-xDetector يمثل ترقية كبرى:
إنه يرى المزيد: يمكنه كشف التزوير في كل من الصور ومقاطع الفيديو، في حين أن الأدوات القديمة كانت غالباً متخصصة في نوع واحد فقط.
إنه يشرح بشكل أفضل: هو لا يكتفي بالقول "مزيف"؛ بل يشير إلى "عيوب" (artifacts) محددة، مثل "تعبيرات الوجه الغريبة" أو "الإضاءة غير المنطقية".
إنه فعال: عادةً، يتطلب الأمر ملايين الأمثلة لتدريب محقق جيد كهذا. حقق Ivy-xDetector أداءً عالياً باستخدام أقل من 200,000 مثال. إنه يشبه المحقق الذي يمكنه تعلم لغة جديدة تماماً من خلال قراءة عدد قليل من الكتب الرئيسية، بدلاً من البحث في مكتبة بأكملها.
الملخص
باختصار، يذكر المقال: "لقد أنشأنا موسوعة ضخمة ومفصلة من الأدلة المتعلقة بالوسائط المزيفة (Ivy-Fake) واستخدمناها لتدريب محقق ذكاء اصطناعي جديد (Ivy-xDetector). هذا المحقق أفضل في رصد التزوير في الصور ومقاطع الفيديو، والأهم من ذلك، يمكنه شرح سبب اعتقاده بأن شيئاً ما مزيف بالضبط، مما يجعله أكثر موثوقية بكثير من الأدوات السابقة".
ملخص تقني: Ivy-Fake و Ivy-xDetector
بيان المشكلة
أدى التطور السريع للمحتوى المولد بواسطة الذكاء الاصطنا-عي (AIGC)، مدفوعًا بنماذج الانتشار مثل Sora وDALL-E وStable Diffusion، إلى إنتاج وسائط اصطناعية عالية الجودة تذيب الخط الفاصل بين المحتوى الأصيل والمزيف. وهذا يفرض مخاطر أمنية كبيرة، بما في في ذلك انتشار المعلومات المضللة، والتلاعب بالوثائق، وتسميم مجموعات البيانات.
تواجه مناهج الكشف الحالية عائقين رئيسيين:
الافتقار إلى مجموعات بيانات متعددة الأبعاد وقابلة للتفسير: تعتمد مجموعات البيانات مفتوحة المصدر الحالية (مثل WildFake وGenVideo) بشكل أساسي على تصنيفات ثنائية مبسطة للغاية (حقيقي/مزيف). وهذا يحد من القدرة على التفسير والموثوقية للكواشف المدربة، حيث لا يمكنها تقديم مبررات مفصلة لتنبؤاتها. علاوة على ذلك، فإن الموارد الموجودة مجزأة؛ فبعضها يركز حصريًا على الصور (مثل FakeClue)، والبعض الآخر على الفيديوهات، مع عدم وجود معيار موحد للكشف متعدد الوسائط.
عدم كفاية القابلية للتفسير في الكواشف القائمة على نماذج اللغات الكبيرة متعددة الوسائط (MLLMs): غالبًا ما تظهر الكواشف السابقة القائمة على نماذج اللغات الكبيرة متعددة الوسائط (مثل FakeVLM) قدرة تفسيرية خشنة (غير دقيقة). إذ يفتقر تسلسل استدلالها خطوة بخطوة إلى العمق اللازم لتحديد موقع الآثار (artifacts) بدقة وتوفير تفسير شامل للبصمات الاصطناعية.
المنهجية
1. Ivy-Fake: معيار موحد
قدم المؤلفون Ivy-Fake، وهو أول معيار واسع النطاق متعدد الوسائط مصمم للكشف القابل للتفسير عن المحتوى المولد بواسطة الذكاء الاصطناعي (AIGC) لكل من الصور والفيديوهات.
حجم وتكوين البيانات: تتكون مجموعة البيانات من أكثر من 106,000 عينة تدريب (61,107 صورة و45,272 فيديو) و5,000 مثال تقييم تم التحقق منها يدويًا.
مصادر البيانات: تم تجميع البيانات من مجموعات بيانات عامة متنوعة (GenVideo، LOKI، FakeClue، WildFake، Kinetics-400، MMFakeBench، GenImage، DiffusionForensics) وتم إنشاؤها باستخدام نماذج متطورة (FLUX.1، Lora Flux، Qwen-Image).
استراتيجية التوسيم (Annotation): على عكس الملصقات الثنائية، يوفر Ivy-Fake توسيمات غنية ودقيقة مقسمة إلى بُعدين رئيسيين:
الميزات المكانية (Spatial Features): تنطبق على كل من الصور والفيديوهات، وتغطي ثمانية أبعاد فرعية: الإضاءة غير الواقعية، الضبابية الموضعية، الحروف غير المقروءة، المكونات المحذوفة، العلاقات المكانية، المكونات المشوهة، عدم انتظام الألوان، والأنسجة غير الطبيعية.
الميزات الزمنية (Temporal Features): حصرية للفيديوهات، وتغطي أربعة أبعاد فرعية: تباين السطوع، التعبيرات الوجهية غير الطبيعية، المكونات المكررة، والعلاقات غير المكانية.
ضمان الجودة: تضمن عملية صارمة تتضمن التصفية الآلية (الملفات التالفة، قيود الدقة، إزالة النسخ المتكررة تقريبًا) والتحقق البشري (10 مستخدمين، حوالي 1,000 ساعة) سلامة البيانات. تحتوي مجموعة الاختبار النهائية على 2,500 صورة و2,500 فيديو، متوازنة بين الحالات الحقيقية والمزيفة.
2. Ivy-xDetector: نموذج MLLM مُحسن بالتعلم التعزيزي
لاستغلال مجموعة بيانات Ivy-Fake، اقترح المؤلفون Ivy-xDetector، وهو نموذج لغة كبير متعدد الوسائط تم تطويره للكشف القوي والاستدلال القابل للتفسير.
خط أنابيب التدريب: يخضع النموذج لعملية تدريب من مرحلتين:
البداية الباردة الموجهة بالتعليمات (SFT): يتم تهيئة النموذج باستخدام بيانات الكشف والاستدلال (Chain-of-Thought - CoT) التفسيرية التي تم إنشاؤها بواسطة Gemini 2.5 Pro. تهدف هذه المرحلة إلى حقن قدرات الإدراك والاستدلال الدقيق للآثار في النموذج الأساسي (Qwen2.5-VL-3B).
التعلم التعزيزي مع مكافآت قابلة للتحقق (RLVR): يتم تحسين النموذج بشكل أكبر عبر تحسين السياسة النسبي الجماعي (GRPO). تستخدم هذه المرحلة نظام مكافأة قائم على القواعد يتكون من:
مكافأة الدقة: تمنح نقطة واحدة إذا تطابق وسم <conclusion> مع الحقيقة الأرضية (حقيقي/مزيف).
مكافأة التنسيق: تمنح نقطة واحدة إذا اتبع المخرج المتطلات الهيكلية بصرامة (الاستدلال في <thought>، والقرار في <conclusion>).
الكفاءة: يحقق Ivy-xDetector أداءً رائدًا (SOTA) باستخدام أقل من 200,000 عينة، وهو انخفاض كبير مقارنة بالكواشف الحالية التي تعتمد غالبًا على ملايين نقاط البيانات.
المساهمات الرئيسية
مجموعة بيانات Ivy-Fake: أول مجموعة بيانات واسعة النطلة وموحدة للكشف القابل للتفسير عن AIGC تغطي الصور والفيديوهات، وتوفر أكثر من 106,000 عينة تدريب مع توسيمات بصرية واستدلالات نصية دقيقة.
نموذج Ivy-xDetector: نموذج MLLM قائم على التعلم التعزيزي يتميز بقدرته على كشف الآثار التوليدية (مكانية للصور؛ ومكانية وزمنية للفيديوهات) وتوليد سلاسل استدلال مفهومة بشريًا.
التقييم الشامل: تجارب مكثفة تثبت فعالية مجموعة البيانات والنموذج، مما يوضح تأثيرهما في تحسين قدرات النماذج الكبيرة متعددة الوسائط في كشف المحتوى الاصطناعي.
النتائج التجريبية
أجرى المؤلفون تقييمات واسعة النطاق عبر عدة معايير، بما في ذلك GenImage وGenVideo وChameleon ومجموعة اختبار Ivy-Fake الداخلية.
الأداء على Ivy-Fake: حقق Ivy-xDetector دقة إجمالية بلغت 86.4% ودرجة F1 بلغت 86.4%، متفوقًا على النماذج مفتوحة المصدر الأخرى (مثل InternVL3.5 وQwen2.5-VL) ومقتربًا من أداء النماذج المغلقة مثل Gemini-2.5-Flash (دقة 77.9%). ومن الجدير بالذكر أن Ivy-xDetector أظهر قدرة تفسيرية فائقة، حيث حقق متوسط درجة تفسير بلغ 3.85 (على مقي scale من 1-5) مقارنة بـ 3.54 لأفضل نموذج أساس مفتوح المصدر، مع تفوق ملحوظ في دقة الكشف.
القدرة على التعميم:
GenImage (الصور): حقق Ivy-xDetector متوسط دقة قدره 96.32% عبر مختلف المولدات (Midjourney، Stable Diffusion، إلخ)، متفوقًا على طرق SOTA السابقة مثل AIDE (86.88%) وDRCT (89.50%).
GenVideo (الفيديوهات): حقق النموذج متوسط F1 بلغ 95.26% ومعدل استدعاء (recall) بلغ 95.28%، متجاوزًا SOTA السابق DeMamba (F1 = 90.20%).
Chameleon (نطاق غير مرئي): في معيار Chameleon، حقق Ivy-xDetector دقة إجمالية بلغت 73.17% وأظهر أداءً أكثر توازنًا بين الفئات الحقيقية والمزيفة مقارنة بـ AIDE، الذي مال نحو الإفراط في التخصيص (overfit) للفئة الحقيقية.
كفاءة البيانات: حقق النموذج هذه النتائج باستخدام عينات تدريب أقل بكثير (حوالي 130,000 صورة و64,000 فيديو) مقارنة بالمنافسين الذين يتطلبون غالبًا ملايين العينات (على سبيل المثال، استخدم DeMamba نحو 2.295 مليون فيديو).
الأهمية والادعاءات
يزعم العمل أن Ivy-Fake وIvy-xDetector يعالجان الفجوات الحرجة في مشهد الكشف عن AIGC من خلال توحيد كشف الصور والفيديو تحت إطار عمل واحد قابل للتفسير. ويؤكد المؤلفون أن:
القابلية للتفسير أمر بالغ الأهمية: الانتقال من التصنيف الثنائي إلى الاستدلال التفصيلي متعدد الأبعاد يعزز الثقة ويسمح بتحديد أفضل لمواقع الآثار الاصطناعية.
الكفاءة: يمكن تحقيق أداء عالٍ باستخدام مجموعات بيانات أصغر، عالية الجودة، وغنية بالتوسيمات بدلاً من مجموعات ضخمة غير مصنفة، بشرما توفر البيانات استدلالات دقيقة.
النهج الموحد: يمكن لنموذج واحد التعامل بفعالية مع الشذوذ المكاني (الصور) والزماني المكاني (الفيديوهات)، متجاوزًا التجزئة في الحلول السابقة التي كانت تركز فقط على الصور أو الفيديوهات.
يخلص المؤلفون إلى أن عملهم يوفر أساسًا قويًا للتحليل متعدد الوسائط الشفاف والموثوق، ويشيرون إلى أن مثل هذه البيانات المرتبطة بالقابلية للتفسير الدقيقة يمكن أن تحفز اتجاهات بحثية جديدة لمجتمع الكشف عن AIGC. كما يقرون بالقيود ويشيرون إلى أن العمل المستقبلي يمكن أن يوسع هذه المعايير لتشمل سيناريوهات متخصصة مثل DeepFakes والتلاعب بالوثائق، وأن هذا النهج يظهر إمكانات للتوسع لنماذج أكبر (مثل 32B أو 72B بارامتر).