Stabilizing Multi-Attack Adversarial Training via Bandit Optimization
تقترح هذه الورقة البحثية "أخذ العينات الخصامية المعايرة" (CAS)، وهو إطار عمل يعتمد على "المتعدد الأذرع" (multi-armed bandit) يعمل بكفاءة على تثبيت التدريب الخصامي متعدد الهجمات من خلال اختيار هجمة واحدة ديناميكيًا في كل تكرار للموازنة بين الاستكشاف والاستغلال، مما يقلل التكاليف الحسابية ويمنع الانحراف المفرط في المعلمات ويعزز المتانة الإجمالية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تعلم روبوتاً التعرف على القطط والكلاب. تريد أن تجعله ذكياً للغاية، ولكن هناك عقبة: وجود مخادعين ماكرين يحاولون خداعه. يمكن لهؤلاء المخادعين إضافة خدوش صغيرة غير مرئية لصورة قطة (مما يجعل الروبوت يظن أنها كلب)، أو تغيير الإضاءة، أو جعل الصورة ضبابية، أو حتى تحويل الصورة إلى نمط مشكال (kaleidoscope) غريب. في عالم الذكاء الاصطناعي، تسمى هذه الحيل "الهجمات العدائية" (adversarial attacks). ولإيقاف هذه الحيل، يستخدم العلماء طريقة تدريب تسمى "التدريب العدائي"، حيث يعرضون على الروبوت هذه الصور الماكرة عن قصد ليتعلم تجاهلها.
المشكلة هي أن هناك أنواعاً كثيرة جداً من الحيل؛ فبعضها عبارة عن خدوش بكسلية صغيرة، وبعضها الآخر تأثيرات جوية كبيرة مثل الضباب أو المطر. إذا حاولت تعليم الروبوت التعامل مع جميعها في وقت واحد، فسيصاب بالارتباك. وإذا حاولت تعليمه التعامل معها واحدة تلو الأخرى، فقد ينسى كيفية التعامل مع الحيل التي تعلمها سابقاً. الأمر يشبه محاولة تعلم التلاعب بخمس كرات من النار والماء والرمل في آن واحد؛ فالتركيز الشديد على النار قد يجعلك تسقط الماء. تتناول هذه الورقة البحثية المنطقة الوسطى الفوضوية والمربكة حيث نحتاج أن يكون ذكاؤنا الاصطناعي قوياً ضد كل نوع من أنواع الحيل، دون استنزاف قدرة الكمبيوتر أو جعل الروبوت ينسى كل ما تعلمه.
أدرك الباحثون وراء هذه الدراسة، وهم روي وانغ، وزيمينغ وي، وزييو تشانغ، ومينغ سون، أن الطرق القديمة للتدريب كانت إما بطيئة جداً أو غير مستقرة. حاولت بعض الطرق محاربة كل نوع من أنواع الهجمات في اللحظة ذات نفسها، وهو أمر يشبه مطالبة طباخ بطهي عشرين وجبة معقدة مختلفة في وقت واحد على موقد واحد؛ مما يستغرق وقتاً طويلاً ويؤدي لاحتراق الطعام. أما الطرق الأخرى، فكانت تختار هجوماً عشوائياً للتدرب عليه، وهو ما كان أسرع، لكنه جعل الروبوت "يسكر" بنوع واحد من الحيل وينسى الأنواع الأخرى، متأرجحاً بجنون من عادة سيئة إلى أخرى.
ولحل هذه المشكلة، ابتكر الفريق استراتيجية ذكية تسمى "أخذ العينات العدائية المعايرة" (Calibrated Adversarial Sampling - CAS). لقد قرروا معاملة عملية التدريب كأنها لعبة "آلات القمار" (أو ما يسميه علماء الرياضيات "الروبوتات متعددة الأذرع" - multi-armed bandits). تخيل أن لديك صفاً من آلات القمار، وكل منها يمثل نوعاً مختلفاً من الهجمات (واحدة للضباب، وواحدة للخدوش البكسلية، وواحدة للضبابية، إلاً من ذلك). أنت لا تعرف أي آلة ستمنحك أفضل "مكافأة" (وهي جعل الروبوت أكثر ذكاءً) في الوقت الحالي.
بدلاً من سحب كل المقابض في وقت واحد (وهو أمر بطيء جداً) أو سحب مقبض واحد عشوائياً (وهو أمر فوضوي للغاية)، تعمل CAS كقامر ذكي. فهي تحتفظ بسجل لكل آلة. إذا كانت إحدى الآلات (نوع الهجوم) قد ساعدت الروبوت على التحسن مؤخراً، فإن المقامر يسحب ذلك المقبض بشكل متكرر. ولكن السحر يكمن هنا: المقامر يراقب أيضاً الآلات التي لم يزرها منذ فترة. إذا بدأ الروبوت يصبح بارعاً جداً في التعامل مع الضباب ولكنه نسي كيفية التعامل مع الثلج، فسيلاحظ النظام ذلك ويقول: "مهلاً، لنقم بسحب مقبض الثلج بضع مرات إضافية للحفاظ على التوازن".
تظهر الورقة البحثية أن نهج "القامر الذكي" هذا يعمل بشكل رائع. فمن خلال موازنة الوقت المستغرق في التدرب على أنواع مختلفة من الحيل بعناية، يتعلم الروبوت أن يكون قوياً ضد مجموعة واسعة من الهجمات دون الحاجة إلى حساب كل شيء في وقت واحد. وفي تجاربهم، اختبروا هذا على مجموعات بيانات قياسية مثل CIFAR-10 وCIFAR-100، باستخدام مزيج من 21 هجوماً مختلفاً، بما في ذلك هجمات البكسل القياسية وهجمات دلالية غريبة مثل "الخشب" (Wood)، و"المرونة" (Elastic)، و"السجن" (Prison) (نعم، هذه أسماء حقيقية لتشوهات الصور).
كانت النتائج واعدة. فقد تمكنت الطريقة الجديدة، CAS، من جعل الروبوت قوياً ضد الهجمات تماماً مثل الطرق البطيئة والثقيلة، لكنها فعلت ذلك بسرعة أكبر بكثير. كما حافظت على ارتفاع "دقة الصور النظيفة" (مدى جودة التعرف على الصور العادية)، وهي مشكلة شائعة عند محاولة جعل الذكاء الاصطناعي قوياً جداً. وجد الباحثون أنه باستخدام صيغة رياضية محددة لتحديد الهجوم الذي يجب التدرب عليه لاحقاً، يمكنهم منع الروبوت من "الانحراف" بعيداً عن كونه متعلماً جيداً. بل إنهم أثبتوا رياضياً أن هذه الطريقة مستقرة ولن تجعل الروبوت يفقد صوابه، بشرط عدم الضغط عليه بقوة مفرطة.
باختصار، تقترح هذه الورقة أننا لسنا بحاجة إلى استخدام القوة الغاشمة للوصول إلى ذكاء اصطناعي فائق الأمان. بدلاً من ذلك، من خلال استخدام استراتيجية تكيفية ذكية توازن بين الاستكشاف (تجربة أشياء جديدة) والاستغلال (التمسك بما ينجح)، يمكننا تدريب نماذج قوية ضد أي شيء تقريباً، دون الحاجة إلى سوبر كمبيوتر للقيام بذلك. الأمر يشبه تدريب مقاتل في الفنون القتالية: فأنت لا تكتفي بضرب نفس كيس الملاكمة كل يوم؛ بل تدمج بين النزال، وحركات القدمين، وتمارين الدفاع بطريقة تبقيك متوازناً ومستعداً لأي مفاجأة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.