Adversarial Wear and Tear: Exploiting Natural Damage for Generating Physical-World Adversarial Examples
تقدم هذه الورقة البحثية AdvWT، وهي طريقة مبتكرة تولد أمثلة عدائية واقعية في العالم الحقيقي عن طريق حقن اضطرابات استراتيجية في أكواد الأسلوب الكامنة لشبكة ترجمة الصور إلى صور قائمة على شبكات الخصومة التوليدية (GAN)، مما يحاكي بفعالية آثار "التآكل والتمزق" الطبيعية على أشياء مثل لافتات المرور لتضليل الشبكات العصبية العميقة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تقود سيارة ذاتية القيادة. أنت تعتمد على "عيون" السيارة (الذكاء الاصطناعي) لقراءة لافتات المرور. يحاول معظم المخترقين خداع هذه السيارات عن طريق لصق ملصقات زاهية وفاقعة على اللافتات أو تسليط أشعة الليزر عليها. هذه هجمات واضحة و"صاخبة" — مثل شخص يرتدي زي مهرج للتسلل إلى اجتماع رسمي.
تقدم هذه الورقة البحثية طريقة أكثر دهاءً وهدوءاً لخداع الذكاء الاصطناعي، أطلق عليها الباحثون اسم AdvWT (التآكل والتهالك العدائي).
الفكرة الجوهرية: خدعة "التقادم"
بدلاً من إضافة شيء جديد إلى اللافتة (مثل ملصق)، تحاكي هذه الطريقة كيف تنهار الأشياء بشكل طبيعي بمرور الوقت. فكر في سياج خشبي قديم وجميل؛ هو لا يصبح "غريباً" لأن شخصاً ما رسم شارباً عليه، بل يصبح غريباً لأن الطلاء يتقشر، والخشب يتشقق، والطحالب تنمو في الشقوق.
أدرك الباحثون أنه إذا استطاعوا محاكاة عملية "التقادم الطبيعي" هذه رياضياً، فيمكنهم إنشاء "ضرر" يبدو طبيعياً تماماً للعين البشرية، ولكنه يعمل كـ "جهاز إخفاء" أو "تنكر" للذكاء الاصطناعي.
كيف يفعلون ذلك: "آلة الزمن الرقمية"
للقيام بذلك، استخدموا ذكاءً اصطناعياً متخصصاً (يسمى GAN) يعمل بمثابة آلة زمن رقمية.
- تعلم "مظهر" التحلل: أولاً، عرضوا على الذكاء الاصطناعي آلاف الصور للافتات نظيفة وآلاف الصور للافتات قديمة أو صدئة أو باهتة. تعلم الذكاء الاصطناعي "لغة التحلل" — تعلم بالضبط كيف يبدو الشق أو كيف يؤثر بهتان الشمس على اللون.
- التخريب الدقيق: بمجرد أن عرف الذكاء الاصطناዊ كيفية جعل اللافتة تبدو قديمة، لم يكتفِ الباحثون بجعلها تبدو قديمة فحسب؛ بل قاموا بـ "ضربة جراحية" على الكود الرقمي. لقد عدلوا "نمط" الضرر بدقة شديدة بحيث تقع الشقوق والصدأ في المواضع المطلقة اللازمة لإرباك كمبيوتر السيارة.
النتي نتيجة ذلك؟ بالنسبة لك، كقائد بشري، تبدو اللافتة مجرد لافتة لم تتم صيانتها منذ عشر سنوات. ولكن بالنسبة للذكاء الاصطناعي في السيارة، فإن ذلك النمط المحدد من الصدأ يجعل لافتة "قف" (Stop) تبدو وكأنها لافتة "سرعة قصوى 50".
لماذا هذا الأمر مهم (مشكلة "اللص الخفي")
تسلط الورقة الضوء على أربعة أسباب تجعل هذا الأمر خطيراً:
- إنه مستمر: الظل يختفي عندما تتحرك الشمس. والليزر ينطفئ عندما يغادر المخترق. لكن اللافتة المتشققة أو الصدئة تبقى على حالها لسنوات. إنه "اختراق دائم".
- إنه متخفٍ: لا يبدو كأجوم؛ بل يبدو كـ "سوء صيانة". من الأصعب بك كثيراً على أي نظام أمني تصنيف "لافتة صدئة" على أنها "مخترق" مقارنة بتصنيف "ملصق نيون".
- إنه متنوع: الطبيعة لا تستخدم نفس النمط مرتين. قد تحمل لافتة ما طلاءً متقشراً، بينما تحمل أخرى تراكمات من الأوساخ. وهذا يجعل من الصعب جداً على المهندسين بناء "درع" واحد لصدها.
- إنه قابل للنقل: وجد الباحثون أنه إذا قاموا بـ "تعتيق" لافتة لخداع نوع واحد من الذكاء الاصطناعي، فمن المرجح أن تخدع أي نوع آخر من الذكاء الاصطناعي أيضاً.
بصيص الأمل: "جهاز مناعة" أفضل
الأمر ليس سيئاً تماماً! فقد وجد الباحثون أيضاً أنه إذا قمنا بـ "تطعيم" الذكاء الاصطناعي عبر إظهار أمثلة "التآكل والتهالك العدائي" هذه له أثناء تدريبه، فإن الذكاء الاصطناعي يصبح أقوى بكثير.
من خلال تعليم السيارة: "مهلاً، أحياناً تبدو اللافتات مهترئة وقديمة، لكنها لا تزال لافتات 'قف'"، فإننا في الواقع نجعل السيارات ذاتية القيادة أفضل في التعامل مع العالم الحقيقي الفوضوي وغير المصقول الذي نعيش فيه فعلياً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.