A Comparative Study of Adversarial Robustness in CNN and CNN-ANFIS Architectures
تقارن هذه الدراسة بين المتانة التنافسية للشبكات العصبية الالتفافية (CNN) القياسية ونظيراتها المعززة بالأنظمة العصبية الضبابية (ANFIS) عبر مجموعات بيانات وأنواع هجمات مختلفة، وتجد أنه في حين يمكن لدمج نظام (ANFIS) أن يحسن المتانة في بنيات محددة مثل (ResNet18)، إلا أن فوائده غير متسقة وتعتمد على البنية المستخدمة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
حكاية "الصندوق الأسود" و"كتاب القواعد"
تخيل أن لديك حارس أمن فائق الذكاء في نادٍ فاخر. هذا الحارس هو شبكة عصبية تلافيفية (CNN). إنه سريع للغاية ويمكنه تمييز كبار الشخصيات (VIP) من على بُعد ميل، ولكن هناك مشكلة: إنه عبارة عن "صندوق أسود". إذا سألته: "لماذا سمحت لهذا الشخص بالدخول؟"، لا يمكنه إخبارك بالسبب؛ هو فقط يقول: "لأن عقلي أخبرني بذلك". إنه دقيق، لكنه لغز غامض.
الآن، تخيل مجموعة من المشاغبين (المهاجمون العدائيون) الذين يريدون التسلل إلى النادي. هم لا يرتدون أقنعة، بل يرتدون بدلاً من ذلك أنماطاً غريبة ومحددة جداً على قمصانهم — أنماط تبدو بلا معنى للبشر، ولكن بالنسبة للحارس، تبدو تماماً مثل بطاقة دخول لكبار الشخصيات. يُخدع الحارس فوراً.
الفكرة الجديدة: الحارس صاحب "كتاب القواعد"
أراد الباحثون في هذه الورقة البحثية معرفة ما إذا كان بإمكانهم جعل الحارس قابلاً للتفسير وأكثر صلابة في آن واحد.
قرروا منح الحارس كتاب قواعد (هذا هو جزء الـ ANFIS). فبدلاً من الاعتماد فقط على حدس غامض، أصبح يتعين على الحارس الآن اتباع قواعد منطقية ضبابية، مثل: "إذا كان الشخص يرتدي ربطة عنق لامعة وَ لديه طول معين، إذن هو من كبار الشخصيات".
هذا يجعل الحارس "قابلاً للتفسير". إذا ارتكب خطأً، يمكنك النظر في كتاب قواعده ومعرفة أي قاعدة فشلت بالضبط. هذا الحارس الهجين يسمى CNN-ANFIS.
التجربة: اختبار الحارس
وضع الباحثون أنواعاً مختلفة من هؤلاء الحراس (بنى معمارية مختلفة مثل VGG أو ResNet) في سلسلة من الاختبارات باستخدام أربعة "نوادٍ" مختلفة (مجموعات بيانات مثل MNIST للأشكال البسيطة و CIFAR للصور المعقدة).
لقرّبوا منهم نوعين من المشاغبين:
- العبقري الرياضي (هجوم PGD): مشاغب يستخدم رياضيات معقدة لحساب أي بكسل بالضبط يجب تغييره لخداع الحارس.
- المشاغب العشوائي (هجوم Square): مشاغب يجرب فقط أنماطاً عشوائية على ملابسه حتى ينجح الأمر.
النتائج: ليس عصا سحرية
قد تعتقد أن إضافة كتاب قواعد سيجعل كل حارس أفضل، لكن النتائج كانت مفاجئة. اتضح أن كتاب القواعد لا يساعد الجميع بالتساوي.
- حارس ResNet (المخضرم): كان هذا الحارس جيداً بالفعل لأن لديه ذاكرة رائعة (تسمى "الارتباطات المتبقية"). عندما أعطيته كتاب القواعد، أصبح أكثر صلابة بشكل ملحوظ. لقد صار من الصعب خداعه لأن خبرته العميقة تآلفت تماماً مع القواعد الجديدة.
- حارس VGG (التقليدي): هذا الحارس في الواقع أصبح أسوأ مع كتاب القواعد. بدا أن إضافة القواعد قد أربكته أو جعلته أكثر تيبساً، مما جعله أسهل في الخداع من قبل المشاغبين مما كان عليه من قبل.
- حارس ConvNet (المبتدئ): بالنسبة لحارس المبتدئ البسيط، لم يغير كتاب القواعد الكثير؛ فقد ظل كما هو تقريباً.
العبرة من القصة
اكتشف الباحثون أن الشفافية (كتاب القواعد) لا تعني تلقائياً الأمان (الصلابة).
مجرد قدرتك على تفسير لماذا اتخذت الآلة قراراً ما، لا يعني أن هذا القرار آمن من أن يتم خداعه. إذا كنت تريد بناء "ذكاء اصطناعي جدير بالثقة"، فلا يمكنك مجرد إضافة كتاب قواعد؛ بل يجب أن تتأكد من أن كتاب القواعد يتناسب فعلياً مع "عقل" الآلة التي تقوم ببنائها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.