Feature-level analysis and adversarial transfer in rotationally equivariant quantum machine learning

إليك ملخص تقني مفصل للورقة البحثية بعنوان "التحليل على مستوى الميزات ونقل الهجمات العدائية في التعلم الآلي الكمي المتماثل دورانياً".

1. بيان المشكلة

تُصمم نماذج التعلم الآلي الكمي (QML) المتوافقة مع المجموعات (Group-equivariant) لاستغلال التناظرات (مثل الدورات أو التبديلات) لتحسين القدرة على التدريب والتحيز الاستقرائي. ومع ذلك، لا تزال هناك فجوة حرجة في فهم كيفية تأثير قيود التناظر هذه على المتانة العدائية (adversarial robustness)، وتحديداً متانة النقل (transfer robustness) (أي القدرة على مقاومة الهجمات المصممة على نموذج بديل كلاسيكي مختلف).

بينما أشارت دراسات سابقة إلى أن النماذج الكمية قد تكون أكثر صموداً أمام هجمات النقل، إلا أنه من غير الواضح لماذا أو كيف يشكل التناظر ميزات المدخلات المحددة التي يعتمد عليها النموذج. السؤال المركزي هو: هل يضمن فرض التماثل الدوراني بطبيعته المتانة، أم يمكن لهذه النماذج أن تعتمد لا تزال على ميزات "هشة" (غير متينة) ضمن فضاء الميزات المقيد الخاص بها؟

2. المنهجية

يستخدم المؤلفون إطار عمل للتحليل على مستوى الميزات يتمحور حول بنية محددة: النموذج الكمي المتماثل دورانياً المقدم في المرجع [5].

أ. الإطار النظري: التدوير الجماعي (Group Twirling)

يستنتج المؤلفون توصيفاً للمعلومات التي يمكن للنموذج المتماثل الوصول إليها باستخدام التدوير الجماعي (group twirling).

• الفرضية: إذا كان النموذج متماثلاً مع المجموعة $G$ مع مخرجات ثابتة، فإن تنبؤه يعتمد فقط على الحالة المدورة للمدخلات ($T_G(\rho)$).
• الاستنتاج: لا يمكن للنموذج التمييز بين مدخل $\rho$ ونظيره المدور. أي اضطراب $\Delta$ يحقق $T_G(\Delta) = 0$ يقع في فضاء غير معلوماتي.
• التطبيق على الدوران: بالنسبة للنموذج المحدد (الذي يعمل على سجل شعاعي ومداري)، تعتمد الحالة المدورة حصرياً على الارتباطات الدائرية الثابتة دورانياً بين حلقات البكسلات.
  • تعتمد المعلومات المتاحة على الأنماط الفورية ($m$) للسجل المداري.
  • النمط $m=0$ يقابل متوسط شدة الحلقات (متوسط الشدة لكل حلقة مركزية).
  • الأنماط العليا ($m \neq 0$) تقابل التباينات الزاوية المهيكلة.

ب. تحويلات المدخلات التشخيصية

لفحص الإحصائيات الثابتة التي يعتمد عليها النموذج المدرب فعلياً، قدم المؤلفون ثلاثة تحويلات محكومة تُطبق على بيانات التدريب/الاختبار:

1. T1 (الخلط الدائري المتعامد - Orthogonal Circulant Scarcbling): يقوم بخلط الترتيب الزاوي للبكسلات عشوائياً داخل كل حلقة باستخدام مصفوفة دائرية متعامدة.
   • الأثر: يحافظ على جميع الارتباطات الثابتة دورانياً (وبالتالي الحالة المدورة) ولكنه يدمر البنية البصرية.
2. T2 (تبديل الحلقات - Ring-wise Permutation): يقوم بتبديل الترتيب الزاوي للبكسلات عشوائياً داخل كل حلقة.
   • الأثر: يحافظ على متوسطات الحلقات ($m=0$) ولكنه يدمر هياكل الارتباط العليا.
3. T3 (إزالة متوسط الحلقة - Ring-wise Mean Removal): يطرح متوسط الشدة من كل حلقة.
   • الأثر: يزيل مكون $m=0$ (متوسطات الحلقات) مع الحفاظ على هياكل الارتباط النسبية.

ج. الإعداد التجريبي

• مجموعات البيانات: STM، MNIST، RotMNIST، RotFMNIST، ومهمة ثنائية لـ CIFAR.
• إعداد الهجوم: هجمات النقل فقط (Transfer-only attacks). يتم إنشاء الأمثلة العدائية باستخدام طريقة (FGSM) و(PGD) على نماذج بديلة كلاسيكية (مصنف خطي، MLP، CNN، ResNet18). ثم تُنقل هذه الاضطرابات إلى النموذج الكمي المستهدف.
• التدخلات: يختبر المؤلفون تحسينات المتانة عبر:
  1. التدريب العدائي (Adversarial Training): التدريب على بيانات مضطربة بواسطة نموذج بديل (مصنف خطي LC).
  2. التدخل المعماري (Architectural Intervention): إسقاط النمط الفوري $m=0$ (متوسط شدة الحلقات) عند مرحلة القياس.

3. المساهمات الرئيسية

1. التوصيف على مستوى الميزة: توفر الورقة أول اشتقاق صريح للمعلومات المتاحة في نموذج تعلم آلي كمي متماثل دورانياً، موضحاً أنها تعتمد على الارتباطات الدائرية المفككة إلى قطاعات تناظر (أنماط فورية).
2. هشاشة الميزات الثابتة: تثبت الورقة أن التماثل وحده لا يضمن المتانة العدائية. فحتى ضمن الفضاء المقيد للميزات الثابتة دورانياً، يمكن للنماذج أن تعتمد على إحصائيات هشة.
3. تحديد ثغرة "متوسط الحلقة": حددت الدراسة أن شدة متوسط الحلقات ($m=0$ mode) هي المصدر الرئيسي للهشاشة. النماذج التي تعتمد بشدة على هذه الميزة تكون شديدة الضعف تجاه هجمات النقل من النماذج البديلة الخطية البسيطة.
4. استراتيجية المتانة المستهدفة: يقترح المؤلفون ويتحققون من طريقة لتحسين المتانة عن طريق كبح قطاع التناظر المحدد ($m=0$) المرتبط بالميزة الهشة، بدلاً من الاعتماد فقط على تعزيز البيانات أو التدريب العدائي.

4. النتائج الرئيسية

• الاعتماد على الميزات يختلف باختلاف مجموعة البيانات:
  • مجموعات البيانات مثل STM، RotFMNIST، وCIFAR تعتمد بشدة على متوسط شدة الحلقات (T2 يحافظ على الأداء؛ بينما T3 يؤدي إلى تدهوره بشكل كبير).
  • مجموعات البيانات مثل MNIST وRotMNIST تعتمد أكثر على الارتباطات الزاوية العليا (T3 يحافظ على فائدة أكبر من T2).
• الضعف تجاه هجمات النقل:
  • النماذج المدربة على بيانات نظيفة تظهر متانة نقل ضعيفة، خاصة في مجموعات البيانات التي تعتمد فيها على ميزات متوسط الحلقات.
  • ومن المثير للدهشة أن نموذجاً بديلاً بسيطاً مثل المصنف الخطي (LC) يمكنه توليد هجمات نقل فعالة للغاية ضد النموذج الكمي. وذلك لأن المصنف الخطي يتعلم طبيعياً الاعتماد على ميزات متوسط الحلقات (وهي ثابتة دورانياً)، مما يجعل حد الفصل لديه متوافقاً مع الميزات الهشة للنموذج الكمي.
• تحسينات المتانة:
  • التدريب العدائي: يحسن المتانة ولكنه يعاني من مقايضة المتانة والدقة التقليدية (تنخفض دقة الاختبار للنقاط النظيفة بشكل كبير).
  • إسقاط $m=0$ (التدخل المعماري): يؤدي كبح قناة متوسط شدة الحلقة عند مرحلة المخرجات إلى تحسينات متسقة في المتانة عبر جميع النماذج البديلة (LC, MLP, CNN, ResNet) مع الحفاظ على دقة الاختبار للنقاط النظيفة بشكل أفضل بكثير من التدريب العدائي.
  • يؤكد هذا أن الهشاشة كانت محلية في قطاع تناظر محدد يمكن إزالته جراحياً.

5. الأهمية والآثار المترتبة

• ما وراء "التناظر = المتانة": يتحدى هذا العمل الافتراض بأن فرض التناظر يؤدي تلقائياً إلى المتانة. فهو يوضح أن النماذج المقيدة بالتناظر يمكن أن تتعلم أيضاً ميزات "اختصار" (مثل متوسطات الحلقات) التي يسهل على المهاجم استغلالها.
• التفسير الآلي (Mechanistic Interpretability): تضع الورقة آلية منهجية لتحليل أي الميزات يستخدمها نموذج الـ QML. ومن خلال ربط قطاعات التناظر (الأنماط الفورية) بإحصائيات مدخلات محددة، يمكن للباحثين تشخيص وإصلاح مشكلات المتانة.
• إرشادات التصميم لمستقبل الـ QML: تشير الدراسة إلى أن النماذج الكمية المتماثلة المستقبلية لا ينبغي لها فقط فرض التناظر، بل يجب أيضاً تنسيق قنوات التناظر. إن الكبح الانتقائي للقطاعات المرتبطة بالميزات الهشة (مثل المتوسطات ذات التردد المنخفض) يمكن أن يعزز المتانة دون التضحية بالأداء.
• الخصوصية والتعمية (Obfuscation): يشير المؤلفون إلى أن التحويلات التي تحافظ على الحالة المدورة (مثل T1) يمكن استخدامها لتعمية البيانات. يمكن خلط البيانات الحساسة بطريقة غير مرئية للنموذج المتماثل (تحافظ على الفائدة) ولكنها غير قابلة للتمييز بصرياً للبشر، مما يوفر آلية محتملة للحفاظ على الخصوصية.

باخت-صار، تجسر هذه الورقة الفجوة بين نظرية الـ QML الهندسية والأمن العدائي، حيث تقدم تفسيراً دقيقاً على مستوى الميزات لثغرات النقل وحلاً معمارياً ملموساً للتخفيف منها.