AI-Generated Image Detectors Overrely on Global Artifacts: Evidence from Inpainting Exchange
تكشف هذه الورقة أن كواشف الصور المولدة بواسطة الذكاء الاصطناعي الحالية تفشل عندما تعتمد على الآثار العالمية الناتجة عن إعادة بناء المشفر التلقائي المتغير (VAE) بدلاً من المحتوى المحلي، وهو عيب تم إثباته من خلال طريقة "تبادل الملء الداخلي" (INP-X) المقترحة التي تكشف عدم قدرة الكواشف على التعميم بما يتجاوز التحولات الطيفية التي تؤثر على الصورة بأكملها.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الفكرة الكبرى: "اللطخة العالمية" مقابل "الإصلاح المحلي"
تخيل أن لديك صورة لمنظر طبيعي جميل، واستخدمت أداة ذكاء اصطناعي لمسح سلة مهملات من الصورة وتعويض مكانها بالعشب الموجود خلفها. يسمى هذا "الترميم" (Inpainting).
في الوقت الحالي، لدينا "محققون" (كواشف الذكاء الاصطناعي) يحاولون رصد ما إذا كانت الصورة مزيفة أم لا. وقد اكتشف مؤلفو هذه الورقة البحثية سرًا صادمًا حول هؤلاء المحققين: إنهم لا ينظرون في الواقع إلى سلة المهملات المزيفة التي يُفترض بهم العثور عليها.
بدلاً من ذلك، هم ينظرون إلى "لطخة" خفية وغير مرئية يتركها الذكاء الاصطناعي على الصورة بأكملها، حتى في الأجزاء التي لم يتم لمسها مطلقًا.
التشبيه: تأثير آلة التصوير (النسخ الضوئي)
تخيل عملية ترميم الصور بالذكاء الاصطناعي مثل آلة تصوير عالية التقنية بها عيب محدد:
- تُدخل إليها صورة.
- تقوم بمسح بقعة صغيرة (سلة المهملات) وتعيد رسمها بشكل مثالي.
- ولكن، أثناء عملية مسح وطباعة الصفحة بأكملها، تقوم الآلة بجعل حدة الصفحة بأكملها باهتة قليلاً، بما في ذلك الأشجار والسماء التي لم تلمسها.
المشكلة: هؤلاء "المحققون" الحاليون كسالى. فهم لا ينظرون بدقة إلى سلة المهملات ليروا ما إذا كانت تبدو حقيقية، بل يتحققون فقط من الصفحة بأكملها بحثًا عن ذلك "الخمول" أو البهتان. إذا بدت الصفحة بأكملها باهتة قليلاً، فإنهم يصرخون: "مزيفة!".
التجربة: "تبادل الترميم" (INP-X)
لإثبات أن المحققين يغشون، ابتكر الباحثون خدعة تسمى "تبادل الترميم" (Inpainting Exchange - INP-X).
إليك كيف تعمل:
- يقوم الذكاء الاصطناعي بإنشاء الصورة المزيفة (مع البهتان على الصفحة بأكملها).
- يأخذ الباحثون الصورة الأصلية المثالية.
- يقومون بقص الأجزاء "الباهتة" من صورة الذكاء الاصطناعي (الأشجار، السماء، والخلفية) جراحيًا، ويعيدون لصق البكسلات الأصلية الحادة في تلك المواضع.
- الشيء الوحيد المتبقي الذي تم "صنعه بواسطة الذكاء الاصطناعي" هو منطقة سلة المهملات. أما بقية الصورة فهي أصلية وحادة بنسبة 100%.
النتيجة: عندما عرض الباحثون هذه الصور "المتبادلة" على أفضل كواشف الذكاء الاصطناعي في العالم (بما في ذلك الكواشف التجارية باهظة الثمن)، فشلت الكواشف تمامًا.
- قبل الخدعة: كانت دقة الكواشف 91%.
- بعد الخدعة: انخفضت دقة الكواشف إلى حوالي 55% (وهو ما يعادل التخمين عبر رمي عملة معدنية).
أثبت هذا أن الكواشف لم تكن تنظر إلى المحتوى المزيف على الإطلاق؛ بل كانت تعتمد فقط على "البهتان" العالمي (الذي أزاله الباحثون).
لماذا يحدث هذا؟ (تشبيه "الضغط")
توضح الورقة البحثية لماذا يحدث هذا البهتان العالمي باستخدام مفهوم الـ VAE (نوع من بنية الذكاء الاصطناعي).
تخيل أن الذكاء الاصطناعي يضطر لضغط الصورة بأكملها في حقيبة صغيرة جدًا لمعالجتها، ثم تفريغها لإعادة إنشاء الصورة مرة أخرى.
- عنق الزجاجة: الحقيبة صغيرة جدًا بحيث لا يمكنها احتواء كل التفاصيل الدقيقة (مثل حبيبات الرمل أو الضجيج في السماء).
- الفقدان: عندما يقوم الذكاء الاصطناعي بتفريغ الصورة، يتعين عليه "تخمين" التفاصيل المفقودة عالية التردد. هو يخمن جيدًا بما يكفي لسلة المهملات الجديدة، لكنه بالخطأ يقوم بتنعيم التفاصيل في الخلفية أيضًا، رغم أنه لم يكن بحاجة لتغييرها.
- البصمة: هذا التنعيم يخلق نمطًا محددًا (إزاحة طيفية) عبر الصورة بأكملها. تعلمت الكواشف رصد هذا النمط بدلاً من تعلم رصد الشيء المزيف الفعلي.
ماذا فعلوا حيال ذلك؟
لم يكتف الباحثون بالإشارة إلى المشكلة، بل حاولوا إصلاح التدريب.
- أنشأوا مجموعة بيانات جديدة تضم 90,000 صورة استخدموا فيها خدعة "التبادل" الخاصة بهم.
- قاموا بتدريب كواشف جديدة باستخدام هذه الصور.
- النتيجة: تعلمت هذه الكواشف الجديدة تجاهل "البهتان" العالمي والتركيز فعليًا على المنطقة التي تم تغييرها. وأصبحت أفضل بكثير في تحديد مكان الجزء المزيف بدقة، بدلاً من مجرد التخمين بأن الصورة بأكملها مزيفة.
الملخص
تدعي الورقة البحثية أن كواشف الذكاء الاصطناعي الحالية تشبه حراس الأمن الذين يفحصون أحذية الجميع بحثًا عن الطين، بدلاً من التحقق مما إذا كان شخص ما يحمل غرضًا مسروقًا بالفعل. إذا مسحت الطين عن أحذيتهم (عن طريق استعادة بكسلات الخلفية الأصلية)، فلن يستطيع الحراس معرفة من هو السارق. يوضح المؤلفون أنه لبناء أمن أفضل، نحتاج إلى تدريب الحراس على النظر إلى الغرض المسروق نفسه، وليس إلى الأحذية الملطخة بالطين.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.