ملخص تقني: فصل الارتباط بالتردد المكاني عن مزايا المتانة ضد الهجمات العدائية في الشبكات العصبية التلافيفية العميقة الموجهة عصبياً

بيان المشكلة

حققت الشبكات العصبية التلافيفية العميقة (DCNNs) أداءً يضاهي البشر في التعرف البصري، لكنها تظل عرضة بشكل صارخ للهجمات العدائية (Adversarial Attacks)—وهي اضطرابات غير محسوسة تقريباً تسبب أخطاء تصنيف كارثية. تشير الأبحاث الحديثة إلى أن محاذاة تمثيلات الشبكات العصبية التلافيفية العميقة مع نشاط القشرة البصرية البشرية (التوجيه العصبي) يحسن بشكل كبير من المتانة ضد الهجمات العدائية. ومع ذلك، فإن الآلية التي تقود هذا التحسن لا تزال غير واضحة.

لقد ظهرت فرضيتان متنافستان فيما يتعلق بالميزات الطيفية المسؤولة عن هذه المتانة:

1. التحيز للتردد المكاني المنخفض (LSF): قد يؤدي التوجيه العصبي إلى تحسين المتانة من خلال نقل الاعتماد من الأنسجة عالية التردد الهشة إلى هياكل التردد المنخفض (LSF) العالمية والخشنة، والتي تكون أكثر استقراراً تحت تأثير التحويلات.
2. تحيز القناة البشرية: تشير أعمال حديثة إلى أن التعرف البشري على الأشياء يعتمد على "قناة بشرية" ضيقة ذات تردد متوسط (حوالي 28-56 دورة لكل صورة). وبما أن طرق التحيز للتردد المنخفض السابقة (مثل التمويه الغاوسي/Gaussian blur) تحافظ دون قصد على هذه القناة، فإن مكاسب المتانة قد تنبع في الواقع من الحفاظ على هذا النطاق المحدد من التردد المتوسط بدلاً من كونه تحولاً عاماً نحو الترددات المنخفضة.

يستقصي هذا البحث ما إذا كانت المتانة العدائية الملحوظة في النماذج الموجهة عصبياً (NG) مدفوعة سببياً بزيادة الاعتماد على التردد المكاني المنخفض (LSF)، أو القناة البشرية، أو كليهما.

المنهجية

1. توصيف النماذج الموجهة عصبياً (NG)

قام المؤلفون أولاً بتحليل مجموعة من الشبكات العصبية التلافيفية العميقة (DCNNs) المدربة باستخدام "التوجيه العصبي" (NG)، حيث يتم محاذاة الطبقة قبل الأخيرة من الشبكة مع استجابات التصوير بالرنين المغناطيسي الوظيفي (fMRI) لسبعة مناطق على طول المجرى البصري البطني البشري (V1, V2, V4, VO, PHC, LO, TO).

• المقياس: تم قياس المتانة العدائية عبر حساب المساحة تحت المنحنى (AUC) لدقة التصنيف من الفئة الأولى (top-1 accuracy) تحت هجمات (Projected Gradient Descent - PGD) المقيدة بـ $\ell_\infty$ عبر مستويات مختلفة من شدة الاضطراب ($\epsilon$).
• التحليل الطيفي: لتحديد الاعتماد على التردد المكاني (SF)، قام المؤلفون بتوليد اضطرابات عدائية ناجحة لكل نموذج. ثم قاموا بحساب طيف القدرة فورييه لهذه الاضطرابات، وحساب متوسطها الشعاعي، وتطبيع توزيع الطاقة. يشير ارتفاع القدرة في نطاق معين إلى اعتماد النموذج الأكبر على ذلك النطاق الترددي.

2. التحيز الصريح للشبكات العرصبية التلافيفية العميقة عبر تشتيت الطور (Phase Scrambling)

لاختبار السببية، قام المؤلفون بتدريب شبكات (DCNNs) جديدة (ResNet-18 على ImageNet-50) باستخدام تحيزات صريحة للتردد المكاني (SF) عبر تعزيز البيانات بتشتيت الطور. هذه الطريقة تحافظ على طيف السعة (الطاقة) للصورة مع تشتيت طور نطاقات ترددية محددة، مما يؤدي فعلياً إلى إزالة المعلومات الهيكلية من تلك النطاقات مع الاحتفاظ بالنطاقات الأخرى.

• الحالات المختبرة:
  • القناة البشرية: الحفاظ فقط على نطاق 28–56 دورة لكل صورة؛ وتشتيت ما عدا ذلك.
  • التردد المنخفض الشديد (Extreme-LSF): الحفاظ على الترددات الأقل من 3.5 دورة لكل صورة؛ وتشتيت ما عدا ذلك.
  • التردد المنخفض ثابت الانحراف ($\sigma$-Fixed LSF): استخدام قناع تمويه غاوسي ($\sigma=1.5$) للحفاظ على الترددات المنخفضة (والتي تتداخل مع القناة البشرية).
  • التردد المنخفض المختلط ($\sigma$-Mixed LSF): استخدام خليط من نوى غاوس لمحاكاة تفضيل أوسع للترددات المنخفضة (يتداخل مع القناة البشرية).
  • التحيز المزدوج (Combined-Channel): توزيع تدريبي يمزج بين الحفاظ على القناة البشرية والتردد المنخفض الشديد.
  • فحوصات الضرورة: تم استخدام أقنعة عكسية لتشتيت (خلخلة) القناة البشرية أو التردد المنخفض الشديد بشكل انتقائي لاختبار ما إذا كان غيابها سيؤدي إلى ضرر فريد.

3. تحليل التشابه التمثيلي (RSA)

لتحديد ما إذا كان التحيز للتردد المكاني وحده كافياً لمحاكاة "الهندسة البشرية" للنماذج الموجهة عصبياً، قام المؤلفون بإجراء تحليل RSA. قارنوا مصفوفات عدم التشابه التمثيلية (RDMs) للنماذج المتحيزة للتردد المكاني مقابل بيانات fMRI من مناطق V1 وV4 وTO البشرية.

النتائج الرئيسية

1. الارتباط في النماذج الموجهة عصبياً

في نماذج (NG)، ارتبطت مكاسب المتانة بقوة مع زيادة الاعتماد على كل من القناة البشرية (معامل سبيرمان $\rho = 0.98$) والتردد المنخفض (LSF) ($\rho = 0.87$). وعلى العكس من ذلك، كان الاعتماد على الترددات المكانية العالية (HSF) مرتبط عكسياً مع المتانة. وقد أكد هذا أن نماذج (NG) تحول اعتمادها الطيفي نحو النطاقات ذات الصلة بالبشر.

2. الفصل السببي عبر التحيز الصريح

عندما فرض المؤلفون هذه التحيزات صراحةً أثناء التدريب، تباينت النتائج بشكل حاد عن سلوك نموذج (NG):

• تحيز القناة البشرية: أدى التحيز الصريح للنماذج نحو القناة البشرية إلى تدهور المتانة العدائية؛ حيث أدى التحيز الأقوى إلى أداء أسوأ.
• تحيز التردد المنخفض (LSF): أدى التحيز للتردد المنخفض (Extreme-LSF، Fixed-$\sigma$، Mixed-$\sigma$) إلى تحقيق تحسينات متواضعة فقط في المتانة. والأهم من ذلك، كانت هذه المكاسب ضئيلة جداً مقارنة بالتحولات الهائلة في الاعتماد على التردد المكاني الناتجة عن عملية التلاعب.
• التحيز المزدوج: حتى عند تحيز النماذج نحو كل من القناة البشرية والتردد المنخفض في آن واحد، كانت النتيجة في النهاية أسوأ من النموذج الأساسي، مما يشير إلى أن التأثير الضار لتحيز القناة البشرية لم يتم تعويضه بمكاسب التردد المنخفض.
• الضرورة: أدى تعطيل القناة البشرية إلى تقليل المتانة، لكن تعطيل التردد المنخفض الشديد (Extreme-LSF) تسبب في انخفاض أكبر، مما يشير إلى أن القناة البشرية ليست ضرورية بشكل فريد للمتانة.

3. الهندسة التمثيلية

فشلت النماذج المتحيزة للتردد المكاني في محاكاة الهندسة التمثيلية للدماغ البشري.

• بينما أظهرت نماذج (NG) زيادات كبيرة في التشابه مع التمثيلات العصبية البشرية (V1, V4, TO)، أظهرت النماذج المتحيزة للتردد (SF-biased) زيادة ضئيلة أو معدومة في التشابه مقارنة بالنموذج الأساسي.
• حتى حالة "التحيز المزدوج"، التي حاكت ملف الاعتماد الطيفي لنماذج (NG)، فشلت في تحسين التشابه التمثيلي.

المساهمات الرئيسية

1. الفصل بين الارتباط والسببية: يوضح البحث أنه بينما يرتبط زيادة الاعتماد على القناة البشرية والتردد المنخفض بالمتانة في النماذج الموجهة عصبياً، فإن فرض هذه التحيزات صراحةً هو أمر غير كافٍ لتوليد المتانة. في الواقع، فإن فرض تحيز القناة البشرية هو أمر ضار فعلياً.
2. دحض آلية "القناة البشرية": تفند الدراسة الفرضية القائلة بأن متانة نماذج (NG) مدفوعة بالحفاظ على قناة التردد المتوسط البشرية.
3. الدور المحدود للتردد المنخفض (LSF): رغم أن تحيز التردد المنخفض يقدم مكاسب طفيفة في المتانة، إلا أنه لا يمكنه تفسير حجم التحسينات الملحوظة في نماذج (NG)، كما أنه لا يستحث هندسة تمثيلية شبيهة بالبشر.
4. فرضية الخاصية الناشئة: يقترح المؤلفون أن تغير الاعتماد على التردد المكاني هو خاصية ناشئة (Emergent Property) لتعلم تمثيلات أكثر شبهاً بالبشر، وليس هو الآلية السببية الأساسية للمتانة.

الأهمية والادعاءات

خلص البحث إلى أن المتانة العدائية التي يوفرها التوجيه العصبي لا تنبع أساساً من مجرد تحول بسيط في الاعتماد على التردد المكاني (سواء كان تردداً منخفضاً أو القناة البشرية). بدلاً من ذلك، يجادل المؤلفون بأن المتانة تنبع على الأرجح من إعادة التشكيل الهندسي الأوسع للفضاء التمثيلي (مثل "فك تشابك" فضاءات الكائنات/manifolds) والتي تؤدي طبيعياً إلى التحيزات الطيفية الملحوظة كأثر ثانوي.

يتبنى المؤلفون موقفاً متواضعاً، مشيرين إلى أنه على الرغم من أن تحيز التردد المكاني هو خاصية جزئية للتمثيلات الشبيهة بالدماغ، إلا أنه ليس الآلية الحسابية الأساسية للمتانة. ويقترحون أن الأبحاث المستقبلية يجب أن تركز على توصيف التحولات الهندسية المحددة في الفضاء التمثيلي التي تمنح المتانة، بدلاً من التركيز فقط على السمات الطيفية. كما يقرون بالقيود المتعلقة باستخدام تعزيز البيانات على مستوى المجموعة مقابل ملفات الضبط المتنوعة للخلايا العصبية الفردية في الأنظمة البيولوجية.