Old Tricks, New Models: How Simple Image Transformations Break Modern AI-based Content Moderation
تثبت هذه الورقة أن تحويلات الصور البسيطة والمستقلة عن النموذج يمكنها تجاوز ثلاث خدمات تجارية كبرى للرقابة على المحتوى تعتمد على الذكاء الاصطناعي بفعالية، مما يثبت أن الانتقال إلى واجهات برمجة تطبيقات النماذج التأسيسية وحدها لا يضمن السلامة القوية ويستلزم نهجاً متعدد الطبقات للرقابة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل الإنترنت كمدينة رقمية ضخمة وصاخبة حيث يتشارك ملايين الأشخاص الصور ومقاطع الفيديو والقصص في كل ثانية. وللحفاظ على سلامة هذه المدينة من المحتوى الضار مثل العنف أو المواد الإباحية، يقوم "حراس المدينة" (أنظمة الذكاء الاصطناعي الآلية) بمسح كل صورة تمر عبر البوابات باستمرار. لفترة طويلة، كان هؤلاء الحراس بمثابة حراس أمن متخصصين لا يعرفون سوى رصد نوع واحد محدد من المشاكل. ولكن مؤخرًا، قامت شركات التكنولوجيا بترقية هؤلاء إلى "حراس خارقين" — نماذج ذكاء اصطناعي ضخمة وعالمة بكل شيء، تَعِد بفهم السياق ورصد مجموعة أوسع من الأخطار. السؤال الكبير هو: هل هؤلاء الحراس الخارقون أكثر صلابة في مواجهة الخداع، أم أنهم مجرد يرتدون زيًا جديدًا فاخرًا بينما لا يزال لديهم نفس نقاط الضعف القديمة؟
يتعمق هذا البحث في هذا السؤال من خلال اختبار ما إذا كان يمكن خداع حراس الذكاء الاصطناعي المتطورين والحديثين بهذه الحيل البسيطة ومنخفضة التقنية. فكر في الأمر كأنك تحاول تهريب شيء محظور عبر ماسح ضوئي أمني؛ لست بحاجة إلى ليزر معقد أو خطة بارعة، فأحيانًا يكون مجرد وضع نظارات شمسية على الشيء، أو قلبه رأساً على عقب، أو إضافة القليل من الضجيج (النمش الرقمي) كافيًا لجعل الماسح الضوئي يعتقد: "أوه، هذا غير ضار!". أراد الباحثون معرفة ما إذا كانت أنظمة الذكاء الاصطناعي الجديدة والمكلفة والقوية أفضل من الأنظمة القديمة في كشف هذه التنكرات البسيطة.
اختبار التنكر العظيم للذكاء الاصطناعي
قرر مؤلفو هذا البحث خوض لعبة "القط والفأر" مع ثلاث من أشهر خدمات مراقبة الصور التجارية المستخدمة من قبل شركات التكنولوجيا الكبرى اليوم: "omni-moderation" من OpenAI، و"Rekognition" من Amazon، و"SafeSearch" من Google. وبدلاً من محاولة اختراق هذه الأنظمة أو بناء ذكاء اصطناعي مزيف لخداعها، استخدموا نهجًا بسيطًا للغاية: أخذوا صورًا سبق وأن صنفها الذكاء الاصطناعي على أنها "غير آمنة" وطبقوا عليها سبعة تحويلات بصرية مختلفة وسهلة التنفيذ.
كانت هذه التحويلات تشبه خدع السحر الرقمية التي لا تتطلب أي معرفة خاصة بكيفية عمل الذكاء الاصطناعي، وشملت ما يلي:
- عكس الألوان: تحويل الصورة إلى صورة سالبة، مثل فيلم التصوير القديم.
- التدرج الرمادي: تجريد الصورة من كل الألوان لجعلها باللون الأبيض والأسود.
- التمويه (الضبابية): جعل الصورة مشوشة قليلاً، كما لو كنت تنظر من خلال نافذة ضبابية.
- الملح والفلفل: رش نقاط سوداء وبيضاء عشوائية فوق الصورة، مثل التشويش في التلفزيون القديم.
- التقسيم والتبديل: أخذ الأجزاء الحمراء والخضراء والزرقاء من الصورة وخلطها مع بعضها البعض.
بعد ذلك، قام الباحثون بتغذية هذه الصور "المتنكرة" في أنظمة الذكاء الاصطناعي لمعرفة ما إذا كان الذكاء الاصطناعي سيظل يصرخ "خطر!" أم أنه سيقول فجأة: "أوه، هذا جيد، يمكنك المرور".
النتائج الصادمة
كانت النتائج كاشفة للغاية. اكتشف البحث أن كافة خدمات الذكاء الاصطناعي التجارية عالية التقنية هذه يمكن تجاوزها باستخدام هذه الحيل البسيطة وغير المكلفة. لم تكن بحاجة لتكون عبقريًا في البرمجة أو تمتلك وصولاً إلى عقل الذكاء الاصطناعي الداخلي للقيام بذلك.
إليك ما أخبرت به الأرقام القصة:
- حيل "الضربة الواحدة": حتى التغيير الواحد الثابت مثل عكس الألوان كان كافيًا لخداع الأنظمة. بالنسبة لخدمة Amazon Rekognition، جعل قلب الألوان الصور غير الآمنة تبدو آمنة بنسبة 43.97%. أما نظام Google فقد خُدع بنسبة 6.29%، ونظام OpenAI بنسبة 8.11% بمجرد هذه الحيلة الواحدة.
- حيل "التمويه" و"الضجيج": عندما أضاف الباحثون ضجيجًا أو جعلوا الصور مموهة، ارتفعت معدلات النجاح بشكل أكبر، خاصة إذا سمحوا للصورة بأن تبدو أقل مثالية. على سبيل المثال، مع حيلة "الملح والفلفل"، خُدع نظام Amazon بنسبة 45.53%، بينما خُدع نظاما Google وOpenAI بنسبة تزيد عن 30%، حتى عندما كانت الصورة لا تزال تشبه الأصل كثيرًا.
- أنواع المشاكل المختلفة: لم يكن الذكاء الاصطناعي سيئًا بالتساوي في رصد جميع أنواع المحتوى السيئ. فقد كان من السهل بشكل مفاجئ خداع النظام عندما تتعلق الصورة بـ إيذاء النفس، وهي الفئة الأكثر عرضة للاختراق. أما الصور التي تتضمن العنف فكانت الأصعب في الخداع، ولكن حتى هي لم تكن آمنة.
- المحتوى متعدد الوسائط: اختبر الباحثون أيضًا "الميمز" (الصور التي تحتوي على نصوص داخلها). وعلى الرغم من أن هذه تتطلب من الذكاء الاصطناعي قراءة النص والنظر إلى الصورة معًا، إلا أن الحيل البصرية البسيطة لا تزال تعمل، مما يثبت أن "الرؤية الخارقة" للذكاء الاصطناعي بها شقوق.
ماذا يعني هذا للمدينة الرقمية؟
يخلص البحث إلى أن مجرد الترقية إلى نماذج الذكاء الاصطناعي الجديدة والقوية لا يخلق تلقائيًا جدارًا آمنًا ضد المحتوى الضار. "الحراس الخارقون" لا يزالون عرضة لنفس التنكرات القديمة والبسيطة التي استُخدمت لسنوات.
يقترح المؤلفون أن الاعتماد على خدمة واحدة فقط من خدمات الذكاء الاصطناعي هذه كخط دفاع وحيد هو أمر محفوف بالمخاطر. بدلاً من ذلك، يقترحون أن تكون هذه الأنظمة جزءًا من فريق أمني "متعدد الطبقات". تخيل قلعة: أنت لا تعتمد فقط على حارس البوابة الرئيسي، بل لديك خندق، وجسر متحرك، وحارس ثانٍ بالداخل. وبالمثل، يجب على المنصات عبر الإنترنت استخدام أدوات الذكاء الاصطناعي هذه كأداة مساعدة واحدة ضمن أدوات عديدة، ربما من خلال دمجها مع فحوصات أخرى أو مراجعين بشريين، بدلاً من الوثوق بها للإمساك بكل شيء بمفردها.
باختختصار، يظهر البحث أنه بينما قطع تنظيم المحتوى بالذكاء الاصطناعي شوطًا طويلاً، فإن "الحيل القديمة" للتلاعب بالصور لا تزال فعالة جدًا في التسلل عبر "النماذج الجديدة". إنه تذكير بأنه في العالم الرقمي، يمكن لبعض الإبداع من جانب طرف سيء أن يتفوق أحيانًا على كمبيوتر باهظ الثمن للغاية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.