تخيل الإنترنت كساحة مدينة صاخبة ومزدحمة حيث يتشارك الجميع الصور. لسنوات، كانت هذه الساحة مليئة باللقطات الحقيقية للحياة. ولكن مؤخرًا، ظهر نوع جديد من السحر: مولدات الذكاء الاصطناعي التي يمكنها رسم صور مثالية لدرجة أنها تبدو تمامًا مثل الصور الحقيقية. الأمر يشبه امتلاك فنان آلي يمكنه رسم قطة، أو سيارة، أو شخص بطريقة مقنعة للغاية تجعلك لا تستطيع التمييز ما إذا كان قد وُجد بالفعل أم لا. هذا يخلق مشكلة صعبة للبلدة: كيف نعرف ما هو حقيقي وما هو تزييف ذكي؟ لقد كان العلماء يبنون "أجهزة كشف الكذب" للصور، لكن العديد من هذه الأجهزة تشبه حراس الأمن القديم الذين لا يعرفون سوى كيفية اكتشاف التزييف من مدرسة فنية محددة وقديمة. غالبًا ما يرتبكون عندما تأتي التزييفات من استوديوهات تقنية عالية جديدة، أو عندما يتم تعديل الصور قليلًا، مثل تغيير لون قميص أو تبديل وجه. كما أنهم يواجهون صعوبة في شرح لماذا يعتقدون أن شيئًا ما مزيف، حيث يقدمون فقط إجابة غامضة مثل "يبدو خطأً" دون الإشارة إلى الأدلة المحددة.

يقدم هذا البحث فريق تحقيق خارق الجديد يسمى So-Fake واستراتيجية ذكية جديدة تسمى So-Fake-R1 لحل هذا الغموض. بنى الباحثون ساحة تدريب ضخمة تضم حوالي مليوني صورة تغطي 12 نوعًا مختلفًا من المشاهد (مثل الأشخاص، والحيوانات، والطعام، والمباني) وعلموا نظامهم كيفية رصد ثلاثة أنواع من الصور: الصور الحقيقية، والصور المصنوعة بالكامل بواسطة الذكاء الاصطناعي، والصور الحقيقية التي تم التلاعب بها. لكن الاختبار الحقيقي كان "امتحانًا مفاجئًا" يسمى So-Fake-OOD، والذي يضم 100,000 صورة من مواقع التواصل الاجتماعي الحقيقية وأدوات ذكاء اصطناي جديدة تمامًا لم يسبق للنظام رؤيتها من قبل. وبدلاً من مجرد التخمين، تستخدم طريقتهم الجديدة فريقًا من ثلاثة أشخاص: مراقب بصري ينظر إلى الصورة الكلية، ومزود أدلة جنائية يقوم بالتقريب للعثور على خلل ضئيل وغير مرئي (مثل الأنسجة الغريبة أو الحواف المكسورة)، وصانع قرار يعمل كقاضٍ. إذا اتفق الأول والثاني، تُغلق القضية. وإذا اختلفا، يتدخل القاضي لإعادة فحص الصورة والأدلة لاتخاذ القرار النهائي. والنتيجة؟ هذا الفريق الجديد أفضل بكثير في كشف التزييف على الإنترنت، حتى عندما تكون التزييفات مصنوعة بأدوات لم يلتقوا بها من قبل، ويمكنهم أيضًا الإشارة بدقة إلى مكان الجزء المزيف وشرح السبب.

الصورة الكبيرة: لماذا نحتاج إلى أجهزة كشف كذب أفضل

فكر في الإنترنت كمكتبة ضخمة. لفترة طويلة، كانت الكتب (الصور) من تأليف البشر. ولكن الآن، هناك روبوتات يمكنها كتابة كتب تبدو تمامًا مثل الكتب البشرية. المشكلة هي أن بعض كتب الروبوتات هذه مليئة بالأكاذيب، ونحن بحاجة لمعرفة أي منها حقيقي.

حاول العلماء بناء "ماسحات جنائية" للإمساك بكتب الروبوتات هذه. ومع ذلك، فإن معظم الماسحات تعاني من نقطتي ضعف كبيرتين:

1. إنها ضيقة للغاية: العديد من الماسحات تنظر فقط إلى الوجوه. إذا رسم الروبوت منظرًا طبيعيًا مزيفًا أو سيارة مزيفة، فقد تفشل الماسحة في اكتشافها تمامًا.
2. من السهل خداعها: إذا استخدم الروبوت خدعة جديدة لصنع تزييف، فإن الماسحات القديمة ترتبك. الأمر يشبه حارس أمن يعرف كيفية اكتشاف بطاقة هوية مزيفة من عام 2010، لكن ليس لدة أدنى فكرة عما تبدو عليه بطاقة هوية مزيفة من عام 2025.

علاوة على ذلك، عندما تقول هذه الماسحات "هذا مزيف"، فإنها غالبًا لا تستطيع شرح لماذا. إنها تقدم فقط إجابة بنعم أو لا، وهو أمر غير مفيد إذا كنت بحاجة لمعرفة ما الذي تم تغييره.

فريق التحقيق الجديد: So-Fake و So-Fake-R1

قرر مؤلفو هذا البحث بناء نظام أفضل. لم يبنوا مجرد ماسح جديد؛ بل بنوا ساحة تدريب كاملة وطريقة تفكير جديدة للقيام بالمهمة.

1. ساحة التدريب: So-Fake

تخيل أنك تدرب كلبًا على الإمساك بالأشرار. إذا دربت كلبًا على نوع واحد فقط من الأشرار (مثل رجل يرتدي قبعة حمراء)، فسيفشل عندما يرى رجلًا يرتدي قبعة زرقاء. أدرك الباحثون أنهم بحاجة لتدريب ذكائهم الاصطناعي على كل شيء.

لقد أنشأوا So-Fake، والذي يتكون من جزأين:

• So-Fake-Set (ساحة التدريب): وهي مجموعة ضخمة تضم مليوني صورة. تتضمن صورًا حقيقية، وصورًا مصنوعة بالكامل بواسطة الذكاء الاصطناعي، وصورًا حقيقية تم تعديلها (مثل تبديل رأس شخص أو تغيير الخلفية). لقد غطوا 12 فئة مختلفة، من الوجوه والحيوانات إلى الطعام والمركبات والفنون. واستخدموا 30 أداة ذكاء اصطناعي مختلفة لصنع التزييفات، مما ضمن أن النظام تعلم كيفية رصد العديد من أساليب التزوير المختلفة.
• So-Fake-OOD (الامتحان المفاجئ): هذا هو الاختبار الحقيقي. يحتوي على 100,000 صورة مأخوذة من مواقع التواصل الاجتماعي الحقيقية (مثل Reddit وInstagram وX) وتزييفات مصنوعة بواسطة 15 أداة ذكاء اصطناعي تجارية جديدة لم يرها النظام من قبل. هذا يحاكي العالم الحقيقي، حيث تظهر تزييفات جديدة كل يوم.

الهدف هو معرفة ما إذا كان بإمكان النظام التعامل مع "المجهول". معظم الأنظمة القديمة تفشل هنا لأنها حفظت أنماطًا محددة من بيانات التدريب الخاصة بها. كان على هذا النظام الجديد أن يتعلم مفهوم التزييف، وليس فقط المظهر المحدد لتزييف ما.

2. الاستراتيجية: So-Fake-R1

بدلاً من استخدام عقل واحد ضخم للقيام بكل شيء، أنشأ الباحثون فريقًا من ثلاثة متخصصين يعملون معًا. هذا هو جوهر طريقتهم الجديدة، So-Fake-R1.

• المراقب البصري (رجل الصورة الكبيرة): ينظر هذا الجزء إلى الصورة بأكملها ويتساءل: "هل هذا المشهد منطقي؟". إنه يتحقق من القصة التي ترويها الصورة. على سبيل المثال، إذا أظهرت صورة شخصًا يقف على سحابة، فقد يقول المراقب: "هذا يبدو مريبًا". إنه يعطي رأيًا رفيع المستوى.
• مزود الأدلة الجنائية (رجل المجهر): هذا الجزء لا يهتم بالقصة؛ بل يهتم بالبكسلات. إنه يقتر مجهريًا للبحث عن ثغرات ضئيلة وغير مرئية لا يمكن للبشر رؤيتها. ربما يبدو نسيج الجدار ناعمًا جدًا، أو الظلال لا تتناسب مع الضوء. إنه يقدم أدلة مادية ملموسة.
• صانع القرار (القاضي): هذا هو المدير. يستمع إلى كل من المراقب والمزود.
  • بوابة الأدلة: قبل أن يتدخل القاضي، يتحقق قاعدة بسيطة مما إذا كان المراقب والمزود متفقين. إذا قال كلاهما "حقيقي" وكانت الأدلة قوية، تقول البوابة: "انتهت القضية، إنه حقيقي". وإذا قال كلاهما "مزيف" وكانت الأدلة قوية، فالأمر هو "مزيف".
  • التحكيم: إذا اختلفا (على سبيل المثال، يقول المراقب "حقيقي" ولكن المزود يجد خللًا)، أو إذا كانت الأدلة ضعيفة، ترسل البوابة القضية إلى صانع القرار. يقوم القاضي بعد ذلك بفحص الصورة الأصلية مرة أخرى، جنبًا إلى جنب مع التقارير من الاثنين الآخرين، ويتخذ القرار النهائي.

هذا "النهج القائم على الفريق" أمر بالغ الأهمية. فهو يمنع النظام من ارتكاب الأخطاء عبر الاعتماد على نوع واحد فقط من الأدلة.

ما وجدوه

اختبر الباحثون فريقهم الجديد ضد العديد من الأساليب الموجودة حاليًا. وإليكم ما حدث:

• أفضل في كشف المجهول: عند اختباره في "الامتحان المفاجئ" (So-Fake-OOD) مع أدوات ذكاء اصطناعي جديدة وصور حقيقية من وسائل التواصل الاجتماعي، سجل الفريق الجديد دقة متوازنة بلغت 72.0%. وهذا أعلى بكثير من أفضل طريقة تالية، والتي كانت أقل بنحو 6.4 نقطة. هذا يشير إلى أن النظر في كل من الصورة الكبيرة والتفاصيل الدقيقة يساعد النظام على التعامل مع أنواع التزييف الجديدة بشكل أفضل.
• أفضل في تحديد الجزء المزيف: عندما كان يتعين على النظام تحديد مكان تعديل الصورة بالضبط (التوطين/Localization)، حصل على درجة 47.8 IoU (وهي مقياس لمدى مطابقة المنطقة المحددة للمنطقة المزيفة الحقيقية). كانت الطريقة التالية الأفضل أقل بنحو 6.3 نقطة. وهذا يعني أن الفريق الجديد لا يكتفي بالقول "إنه مزيف" فحسب، بل يمكنه الإشارة إلى الموقع المحدد، مثل وجه تم تغييره أو جسم تم تبديله.
• أفضل في الشرح: قام النظام أيضًا بتوليد تفسيرات لقراراته. فضل المقيمون البشريون تفسيرات الفريق الجديد بنسبة 55% من الوقت، مقارنة بمعدلات أقل بكates للطرق الأخرى. كانت التفسيرات أكثر استنادًا إلى أدلة بصرية فعلية بدلاً من مجرد التخمين.
• القدرة على الصمود أمام حيل وسائل التواصل الاجتماعي: غالبًا ما يتم ضغط الصور الحقيقية على الإنترنت، أو تغيير حجمها، أو إعادة رفعها، مما قد يؤدي إلى طمس الأدلة. صمد الفريق الجديد بشكل أفضل بكثير تحت هذه الظروف مقارنة بالطرق القديمة، حيث أظهر انخفاضًا طفيفًا فقط في الأداء، بينما انخفضت أداء الطرق الأخرى بشكل كبير.

ما ينفيه البحث

يجادل البحث صراحةً ضد بعض الأفكار الشائعة:

• أجهزة الكشف "النموذجية الموحدة": يوضحون أن نموذجًا واحدًا يحاول القيام بكل شيء في وقت واحد (الكشف، التحديد، والشرح دفعة واحدة) غالبًا ما يقدم أسبابًا "تبدو معقولة ولكنها ضعيفة الاستناد". الأمر يشبه طالبًا يخمن الإجابة الصحيحة ولكنه لا يستطيع إظهار خطوات الحل. النهج القائم على الفريق ضروري لفصل المهام.
• التركيز على الوجه فقط: يثبتون أن الكواشف التي يتم تدريبها فقط على الوجوه تفشل فشلًا ذريعًا عند اختبارها على المناظر الطبيعية أو الحيوانات أو الأشياء. يجب أن يتم تدريب الكاشف الجيد على مجموعة متنوعة من المحتويات، وليس الوجوه فقط.
• التدريب الخاص بمولد محدد: وجدوا أنه إذا تم تدريب كاشف فقط على التزييفات المصنوعة بواسطة أداة ذكاء اصطناعي معينة (مثل نسخة محددة من Stable Diffusion)، فإنه يفشل عند اختباره على تزييفات مصنوعة بواسطة أداة مختلفة. يحتاج النظام إلى رؤية مجموعة واسعة من المولدات لتعلم القواعد العامة للتزوير.

ما مدى ثقتنا؟

المؤلفون واثقون جدًا من نتائجهم لأنهم اختبروها بصرامة. لم يكتفوا بمحاكاة بعض الأمثلة فحسب، بل اختبروا على 2 مليون صورة تدريب و 100,000 صورة اختبار. وقارنوا طريقتهم مع العديد من الأساليب الموجودة (أكثر من 20 نموذجًا مرجعيًا). تظهر النتائج تحسنًا ثابتًا في الكشف، والتوطين، والتفسير.

ومع ذلك، فهم حذرون في ملاحظة أن هذا هو معيار مرجعي و منهج للبحث. هم لا يدعون أنهم "حلوا" مشكلة الصور المزيفة للأبد. فالذكاء الاصطناعي يتطور بسرعة، وستظهر دائمًا أدوات جديدة. لكن عملهم يشير إلى أن النهج القائم على الفريق والمستند إلى الأدلة هو طريقة أقوى بكثير لمحاربة التزييف من طرق "العقل الواحد" القديمة.

باخت مختصر، يقول هذا البحث: "لكشف أمهر المزورين، تحتاج إلى فريق ينظر إلى القصة الكاملة، ويفحص التفاصيل الدقيقة، ولديه قاضٍ ذكي لفض النزاعات. وتحتاج لتدريبهم على كل شيء، وليس الوجوه فقط".