TsallisPGD: Adaptive Gradient Weighting for Adversarial Attacks on Semantic Segmentation

ملخص تقني: TsallisPGD

بيان المشكلة
يعد مهاجمة نماذج التجزئة الدلالية (Semantic Segmentation) أكثر صعوبة بكثير من مهاجمة نماذج تصنيف الصور. فبينما تستهدف هجمات التصنيف تسمية واحدة، يجب على هجمات التجزئة قلب آلاف تنبؤات البكسلات في آن واحد. تعاني النهج القياسية، التي تطور طريقة "الاشتقاق المتدرج الموجه" (Projected Gradient Descent - PGD) باستخدام خسارة الإنتروبيا المتقاطعة (Cross-Entropy - CE) لكل بكسل، من ديناميكيات تحسين غير مثالية. وتحديداً، تميل خسارة CE القياسية إلى المبالغة في التركيز على البكسلات التي تم تصنيفها بشكل خاطئ بالفعل (حيث $p_y \to 0$). يتسبب هذا في تشبع التدرج (Gradient Saturation) عند هذه الأهداف "السهلة"، مما يؤدي إلى إبطاء التقارب ويؤدي إلى تقييم متفائل للغاية لمتانة النموذج لأن الهجوم يفشل في استهداف البكسلات ذات الثقة العالية والمصنفة بشكل صحيح بفعالية.

المنهجية
يقترح المؤلفون TsallisPGD، وهو إطار عمل لهجوم عدائي يستبدل خسارة الإنتروبيا المتقاطعة القياسية بـ إنتروبيا تساليس المتقاطعة (Tsallis cross-entropy)، وهي تعميم يتم ضبطه بواسطة مؤشر إنتروبي $q$.

• إعادة وزن التدرج: الرؤية النظرية الجوهرية هي أن إنتروبيا تساليس المتقاطعة تسبب إعادة وزن تعتمد على الثقة لتدرج الإنتروبيا المتقاطعة القياسي. حيث يتم قياس التدرج بالنسبة للاحتمال المتوقع $p$ بمعامل قدره $p^{1-q}$.
  • عندما يكون $q < 1$، يزدادة الوزن مع زيادة $p$، مما يركز على البكسلات ذات الثقة العالية والمصنفة بشكل صحيح (وهي الأصعب في القلب).
  • عندما يكون $q > 1$، يركز الوزن على البكسلات ذات الثقة المنخفضة.
• التحكم في ذروة التدرج: اشتق المؤلفون تعبيراً مغلق الصيغة لموقع ذروة التدرج ($p^*_y$) بدلالة $q$: $p^*_y = \frac{1-q}{2-q}$. يسمح هذا للمهاجم بالتحكم الصريح في نظام الثقة الذي يركز عليه التحسين. ومن خلال تغيير $q$، يمكن للهجوم استهداف مجموعات فرعية مختلفة من البكسلات.
• جدولة $q$ الديناميكية: يكشف التحليل التجريبي أنه لا توجد قيمة ثابتة واحدة لـ $q$ تكون مثالية عالمياً؛ إذ تختلف أفضل قيمة لـ $q$ اعتماداً على مجموعة البيانات، وبنية النموذج، وميزانية الاضطراب ($\epsilon$). ولمعالجة ذلك، يقترح المؤلفون جدولة $q$ ديناميكية تقوم بعمل مسح (Sweep) لقيمة $q$ أثناء عملية التحسين.
  • الجدول خطي، ويتم تحديده بواسطة قيمة بداية ($q_{start}$) وقيمة نهاية ($q_{end}$).
  • يتم اختيار الجدول الأمثل لمرة واحدة باستخدام تقسيم التحقق (Validation split) المستبعد (تحديداً، مسح من $q=-2$ إلى $q=1$) ثم يتم تطبيقه دون تغيير عبر جميع اختبارات المعايير (Benchmarks) دون ضبط إضافي.
  • يسمح هذا النهج لجولة هجوم واحدة بعبور أنظمة تركيز تدرج متعددة، والتركيز مبدئياً على البكسلات ذات الثقة العالية، ثم العودة تدريجياً إلى سلوك الإنتروبيا المتقاطعة القياسي.

المساهمات الرئيسية

1. TsallisPGD: هجوم عدائي جديد للتجزئة الدلالية يستفيد من إنتروبيا تساليس المتقاطعة للتحكم في تركيز الهجوم عبر المعلمة $q$.
2. التحليل النظري: إثبات يوضح أن إنتروبيا تساليس المتقاطعة تسبب إعادة وزن التدرج المعتمد على الثقة ($p^{1-q}$) واشتقاق موقع ذروة التدرج، مما يوفر آلية لاستهداف مستويات ثقة محددة.
3. الجدولة الديناميكية: اقتراح جدولة $q$ ديناميكية تكيف تركيز الهجوم بمرور الوقت، مدفوعة بالملاحظة القائلة بأن إعدادات $q$ الثابتة ليست مثالية عالمياً.
4. التحقق التجريبي: تجارب واسعة النطاق تثبت أن جدولاً ديناميكياً واحداً مختاراً عبر التحقق يتفوق على الخطوط المرجعية الثابتة عبر مختلف مجموعات البيانات والنماذج.

النتائج التجريبية
قيم المؤلفون TsallisPGD على مجموعات بيانات Cityscapes و Pascal VOC و ADE20K باستخدام بنيات متنوعة (PSPNet, UPerNet, Segmenter) ونماذج قياسية وعدائية مدربة (مثل DDCAT, PIR-AT). تمت مقارنة الهجوم مع أحدث الخطوط المرجعية: CEPGD، و SegPGD، و CosPGD، و JSPGD، و MaskedPGD.

• الأداء: حقق TsallisPGD أفضل متوسط رتبة عبر جميع 21 إعداداً تقييمياً (بالجمع بين مجموعات البيانات، والنماذج، وميزانيات الاضطراب).
  • بالنسبة لدقة البكسل المتوسطة (ACC)، حقق TsallisPGD متوسط رتبة قدره 1.38، متفوقاً على أقوى خط مرجعي، MaskedPGD (2.43).
  • بالنسبة لمتوسط تقاطع الاتحاد (mIoU)، حقق متوسط رتبة قدره 1.57، متفوقاً على CosPGD (2.57).
• المتانة: أظهرت الطريقة مكاسب قوية بشكل خاص على النماذج المدربة عدائياً، حيث يكون التحسين عادةً أكثر صعوبة. حققت أفضل أداء في 16/21 إعداداً لـ ACC وفي 13/21 لـ mIoU.
• تحليل $q$ الثابت: أكدت التجارب باستخدام قيم $q$ ثابتة أن $q$ المثلى تعتمد بشدة على الإعداد التجريبي المحدد، مما يؤكد الحاجة إلى جدولة ديناميكية.

الأهمية والادعاءات
يزعم البحث أن TsallisPGD يوفر طريقة بسيطة وعامة لبناء هجمات عدائية أقوى للتجزئة الدلالية من خلال التحكم في تركيز التدرج. تكمن الأهمية في إثبات ما يلي:

1. الإنتروبيا المتقاطعة القياسية غير مناسبة لهجمات التجزئة بسبب ميلها للمبالغة في التركيز على البكسلات التي تم تصنيفها بشكل خاطئ بالفعل.
2. المعلمة $q$ في إنتروبيا تساليس المتقاطعة توفر آلية دقيقة لتوجيه التحسين نحو البكسلات عند مستويات ثقة مختلفة.
3. يمكن لجدول ديناميكي واحد، مختار عبر التحقق، أن يعمل بفعالية عبر مختلف مجموعات البيانات والبنيات وميزانيات التهديد، مما يلغي الحاجة إلى ضبط المعلمات الفائقة لكل إعداد.

خلص المؤلفون إلى أنه بينما يستخدم نهجهم الحالي جدولة ثابتة مختارة عبر التحقق، فإن العمل المستقبلي يمكن أن يستكشف جعل اختيار $q$ تكيفياً بالكامل عند كل تكرار. كما يخططون لدمج TsallisPGD في التدريب العدائي لتحسين متانة النماذج.