Robustness of AI-Art Detectors under Generator Shift
تُظهر هذه الورقة أن كواشف الفن المعتمدة على الذكاء الاصطناعي الحالية، رغم فعاليتها ضد المولدات التي تدربت عليها، تعاني من تدهور كبير في الأداء عند مواجهة بنيات أحدث مثل Stable Diffusion 3.5، مما يسلط الضوء على فجوة تعميم حرجة تستوجب استراتيجيات دفاع متعددة الطبقات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك محقق يحاول رصد لوحة مزيفة في متحف. لسنوات، كانت مهمتك سهلة لأن المزورين استخدموا نوعاً معيناً من الغراء القديم والتقليدي الذي يترك بقايا ذات رائحة مميزة. لقد بنيت أنفاً عالي التقنية يمكنه شم تلك الرائحة فوراً. ولكن الآن، انتقل المزورون إلى غراء جديد تماماً، عديم الرائحة، يبدو تماماً مثل الأصلي للعين المجردة. أصبح أنفك، الذي تدرب فقط على الرائحة القديمة، صامتاً فجأة؛ لم يعد بإمكانه التمييز بعد الآن. هذا هو جوهر المشكلة التي يواجهها عالمنا الرقمي اليوم. لدينا ذكاء اصطناعي يمكنه إنشاء أعمال فنية مذهلة، ولدينا "أجهزة كشف" مصممة لرصدها. ولكن تماماً مثل المحقق الخاص بنا، غالباً ما يتم تدريب أجهزة الكشف هذه على "الغراء القديم" الخاص بالذكاء الاصطناعي في الأمس. ومع ازدياد ذكاء الفنانين الذين يستخدمون الذكاء الاصطناعي واستخدامهم لأدوات جديدة، تخاطر أجهزة الكشف بأن تصبح عمياء، مما يسمح للصور المزيفة بالتسلل وكأنها حقيقية. هذا الأمر مهم لأنه إذا لم نتمكن من التمييز بين ما هو حقيقي وما هو مزيف، فلن نتمكن من الثقة في الصور أو الأخبار أو الفنون التي نراها عبر الإنترنت.
هذه الورقة البحثية تشبه اختبار جهد لتلك الأنوف الرقمية. أراد الباحثون معرفة ما يحدث عندما يُطلب من جهاز كشف ذكاء اصطناعي، تم تدريبه على رصد التزييفات المصنوعة بواسطة نماذج ذكاء اصطناعي قديمة، أن يرصد فجأة تزييفات مصنوعة بواسطة ذكاء اصطناعي جديد وفائق الذكاء يسمى Stable Diffusion 3.5 Medium. هم لم يتكهنوا فحسب؛ بل بنوا مجموعة بيانات ضخمة وجديدة. لقد أخذوا 10,000 لوحة بشرية حقيقية، واستخدموا حيلة ذكية تسمى "التحفيز العكسي" لوصفها بالكلمات، ثم غذوا تلك الأوصاف في الذكاء الاصطناعي الجديد لإنشاء نسخ رقمية مثالية منها. ثم اختبروا خمسة "أنوف" مختلفة للكشف (نماذج حاسوبية مثل ResNet و CLIP) لمعرفة ما إذا كان بإمكانها لا تزال التمييز بينهما.
كانت النتائج بمثابة جرس إنذار. عندما نظرت أجهزة الكشف إلى صور "الغراء القديم" التي تدربت عليها، كانت شبه مثالية، حيث رصدت كل التزييفات تقريباً. ولكن عندما واجهت صور الذكاء الاصطناعي الجديدة، تعثرت بشدة. لم تبدأ أجهزة الكشف في الصراخ "مزيف!" تجاه الفن البشري الحقيقي (ما كان سيكون مزعجاً)، لكنها توقفت عن الصراخ "مزيف!" تجاه فن الذكاء الاصطناعي الجديد. في الواقع، فاتها حوالي 43% إلى 58% من صور الذكاء الاصطناعي الجديدة، معتقدة أنها من صنع البشر. وأفضل جهاز كشف، وهو نموذج يسمى CLIP ViT-L/14، لا يزال يخطئ في رصد نصف التزييفات الجديدة تقريباً.
استخدم الباحثون أداة خاصة تسمى Grad-CAM لإلقاء نظرة داخل عقول أجهزة الكشف لمعرفة ما كانت تنظر إليه. وجدوا أنه عندما كانت أجهزة الكشف على صواب، كانت تركز على تفاصيل محددة مثل الوجوه أو الأنسجة. ولكن عندما فشلت أمام الذكاء الاصطناعي الجديد، أصبح انتباهها ضعيفاً ومشتتاً، حيث كانت تنظر إلى حواف عشوائية أو نقاط صغيرة بدلاً من الصورة بأكملها. الأمر كما لو أن جهاز الكشف قد نسي كيف يبدو "رائحة" التزييف لأن الغراء الجديد غير الرائحة تماماً.
تشير الدراسة إلى أن أجهزة الكشف الحالية لدينا هشة. فهي تعمل بشكل رائع في فصل دراسي محكوم، لكنها تفشل عندما يتغير العالم الحقيقي. ويرى المؤلفون أنه لا يمكننا الاعتماد على جهاز كشف واحد للحفاظ على سلامتنا. بدلاً من ذلك، نحتاج إلى "دفاع متعدد الطبقات"، مثل فريق أمني يستخدم كاشفاً للمعادن، وكلباً بوليسياً، ومفتشاً بشرياً في آن واحد. فإذا فشلت طبقة واحدة لأن المزور غير أدواته، فقد تنجح الطبقات الأخرى في رصده. وتخلص الورقة إلى أنه بينما يتحسن الكشف عن فن الذكاء الاصطناعي، إلا أنه ليس مشكلة محلولة، ويجب أن نكون حذرين من الثقة المفرطة فيه عند ظهور أدوات ذكاء اصطناي جديدة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.