Towards Universal Physical Adversarial Attacks via a Joint Multi-Objective and Multi-Model Optimization Framework
تقترح هذه الورقة إطار العمل الأمثل المشترك متعدد الأهداف ومتعدد النماذج (JMOF)، والذي يستخدم محاذاة التدرج المتعامد وآلية كبح ثنائية المستوى لحل صراعات التدرج وتعزيز قابلية النقل عبر النماذح، مما يحقق هجمات فيزيائية تنافسية عالمية تخدع بفعالية مهام الرؤية متنوعة الصندوق الأسود.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الصورة الكبيرة: مشكلة "التمويه الشامل"
تخيل أنك تحاول طلاء سيارة بنمط "عباءة الإخفاء" خاص. الهدف هو خداع كاميرا أمنية (ذكاء اصطناعي) لإيهامها بأن السيارة ليست موجودة، أو أنها شيء آخر تماماً.
المشكلة التي يحلها المؤلفون هي أن معظم "عباءات الإخفاء" اليوم تشبه البدلات المصممة خصيصاً. فهي تناسب نموذج كاميرا واحد بدقة (مثل كاشف YOLO)، ولكن إذا عرضت نفس السيارة على علامة تجارية أخرى من الكاميرات (مثل Swin-T أو ViT)، ستبدو البدلة مضحكة، وستتمكن الكاميرا من رؤيتها بوضوح.
علاوة على ذلك، فإن محاولة صنع بدلة واحدة تناسب جميع الكاميرات في وقت واحد تشبه محاولة تصميم سترة تكون في آن واحد معطفاً للشتاء، وملابس سباحة، وبدلة رسمية (تكسيدو). إذا قمت بدمجهم معاً فحسب، فسينتهي بك الأمر بفوضى حارة وغير مريحة لا تصلح لأي منهم. وهذا ما يسمى بصراع التدرج (gradient conflict) — حيث تتعارض تعليمات معطف الشتاء مع تعليمات ملابس السباحة، وتكون النتيجة فشلاً.
يقدم هذا البحث إطار عمل جديد يسمى JMOF (إطار تحسين متعدد الأهداف ومتعدد النماذج المشترك) لإنشاء "تمويه شامل" يعمل ضد أي كاميرا تقريباً، وحتى يخادع الكاميرات التي تؤدي وظائف مختلفة (مثل عد السيارات مقابل رسم خرائط الطريق).
المشكلات الثلاث الرئيسية التي قاموا بإصلاحها
حدد المؤلفون ثلاثة أسباب محددة أدت إلى فشل المحاولات السابقة:
فخ "المقاس الواحد الذي لا يناسب أحداً":
- المشكلة: اعتمدت الطرق السابقة على اختيار "معلم" ذكاء اصطناعي واحد فقط للتعلم منه. أصبح التمويه مهووساً جداً بطريقة رؤية هذا المعلم الواحد للأشياء.
- الحل: قاموا ببناء لجنة من المعلمين المتنوعين. بدلاً من طلب النصيحة من خبير واحد، استشاروا لجنة من الخبراء الذين يفكرون بطرق مختلفة تماماً عن بعضهم البعض (بعضهم يشبه العدائين السريعين، والبعض الآخر يشبه المفكرين المتأنيين). استخدموا خدعة رياضية لضمان اختيار معلمين لا يتفقون كثيراً، ليتعلم التمويه كيف يكون مخادعاً للجميع، وليس لشخص واحد فقط.
صراع "السطح مقابل الروح":
- المشكلة: تحاول بعض الهجمات التلاعب بالنتيجة النهائية (السطح)، بينما تحاول هجمات أخرى التلاعب بكيفية فهم الذكاء الاصطناعي للصورة في عقله (الروح). القيام بواحد منهما فقط عادة ما يؤدي للفشل.
- الحل: ابتكروا هجوماً ثنائي المسار.
- المسار الأول (السطح): يخبرون الذكاء الاصطناعي: "توقف عن قول 'سيارة'!" (قمع المخرجات النهائية).
- المسار الثاني (الروح): يخبرون الذكاء الاصطناعي: "توقف عن التعرف على شكل السيارة في عقلك!" (تسطيح الميزات الداخلية).
- من خلال القيام بالاثنين معاً، يصبح الهجوم قوياً ويصعب الهروب منه.
"شد الحبل" (صراعات التدرج):
- المشكلة: عندما تطلب النصيحة من "لجنة المعلمين"، غالباً ما يسحبون في اتجاهات متعاكسة. المعلم (أ) يقول: "اجعل الطلاء أحمر هنا!" والمعلم (ب) يقول: "لا، اجعله أزرق هناك!". إذا قمت بمجرد متوسط نصائحهم، ستحصل على لون رمادي باهت لا يرضي أحداً.
- الحل: اخترعوا شرطي مرور يسمى OGA (محاذاة التدرج المتعامد).
- بدلاً من إجبار المعلمين على الاتفاق أو تجاهل أولئك الذين يختلفون، يقوم "شرطي المرور" بأخذ اتجاهاتهم المتعارضة وتدويرها لتعمل معاً.
- تخيل شخصين يسحبان حبلاً في اتجاهين متعاكسين. شرطي المرور لا يوقفهم، بل يخبرهم أن يسحبوا بزاوية 90 درجة لكي تعمل قوتهم المشتركة على تحريك الحبل للأمام بكفاءة. هذا يحول طاقة الصراع إلى طاقة عمل جماعي.
كيف يعمل في العالم الحقيقي (الجزء "المادي")
جعل صورة رقمية تبدو غير مرئية أمر سهل. لكن جعل سيارة حقيقية ثلاثية الأبعاد تبدو غير مرئية أمر صعب بسبب الإضاءة، والظلال، وحقيقة أن السيارة تتحرك.
- المحاكي: استخدموا محرك ألعاب فيديو (CARLA) لمحاكاة القيادة في المطر، والشمس، والليل. يساعد هذا التمويه على التعلم لكي يبدو جيداً من كل الزوايا، وليس فقط من صورة واحدة مثالية.
- خدعة "الإسقاط" (Dropout): لضمان عدم اعتماد التمويه على نقطة واحدة محظوظة (مثل المصد الأمامي)، قاموا بـ "مسح" أجزاء من السيارة عشوائياً أثناء التدريب. هذا أجبر الذكاء الاصطناعي على تعلم كيفية إخفاء السيارة بأكملها، وليس مجرد جزء منها.
- قاعدة النعومة: الكاميرات الحقيقية تكره "الضجيج" أو الحبيبات الرقمية. أضاف المؤلفون قاعدة لجعل نمط التمويه ناعماً ومستمراً، مثل طلاء حقيقي، حتى لا يبدو كضجيج رقمي عندما تتحرك السيارة.
"القوة الخارقة": كسر أنواع مختلفة من الكاميرات
الجزء الأكثر إثارة للإعجاب في هذا البحث هو أن تمويههم لا يخدع "عدادات السيارات" فحسب، بل يخدع أيضاً:
- صناع الخرائط: الذكاء الاصطناعي الذي يحاول رسم الطريق والرصيف (التقسيم الدلالي - Semantic Segmentation).
- مقاييس المسافة: الذكاء الاصطناعي الذي يحاول تخمين مدى بعد السيارة (تقدير العمق - Depth Estimation).
عادةً، الهجوم المصمم لإخفاء سيارة عن "عداد السيارات" قد يجعل "مقياس المسافة" يعتقد أن السيارة تطفو في السماء. ولكن لأن "شرطي مرور OGA" بارع جداً في موازنة التعليمات المتعارضة، نجح التمويه في خداع كلا النظامين في نفس الوقت. فهو يجعل السيارة غير مرئية للعداد، ويجعل مقياس المسافة يعتقد أن السيارة جزء من الخلفية.
الملخص
فكر في هذا البحث كأنه اختراع لـ حرباء عالمية.
- الحرباء القديمة كانت تستطيع فقط تغيير لونها لتناسب ورقة شجر واحدة محددة.
- هذه الحرباء الجديدة تنظر إلى غابة كاملة من أوراق الشجر المختلفة (نماذج ذكاء اصطناي مختلفة).
- إنها تستمع إليها جميعاً، وتستخدم حكماً ذكياً لمنعهم من الشجار، وترسم نمطاً يجعلها غير مرئية للجميع، سواء كانوا يبحثون عن أوراق الشجر، أو الحشرات، أو يقيسون حجم الغابة.
النتيجة هي تمويه مادي يصعب اكتشافه للغاية، ويعمل ضد أنواع مختلفة من الذكاء الاصطناعي، بل ويعمل حتى ضد أنظمة ذكاء اصطناعي تؤدي وظائف مختلفة تماماً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.