Soft Equivariance Regularization for Invariant Self-Supervised Learning

إليك ملخص تقني مفصل لورقة البحث بعنوان "Soft Equivariance Regularization for Invariant Self-Supervised Learning" (ICLR 2026).

1. بيان المشكلة

يعتمد التعلم الذاتي الموجه (SSL) للرؤية الحاسوبية عادةً على الثبات (Invariance): أي تعلم تمثيلات تظل دون تغيير تحت تأثير عمليات التعزيز التي تحافظ على المعنى الدلالي (مثل القص العشوائي، وتغيير السطوع اللوني). وبينما يعد هذا فعالاً للتصنيف، إلا أن الثبات الصارم يثبط الهياكل المعتمدة على التحويل (مثل الاتجاه، والمقياس، والانعكاس) والتي تُعد حاسمة للمتانة الهندسية والمهام الحساسة مكانياً (مثل اكتشاف الأشياء).

تحاول الأعمال الحديثة دمج التكافؤ (Equivariance) (حيث تتغير التمثيلات بشكل يمكن التنبؤ به تحت تأثير التحويلات) في التعلم الذاتي الموجه. ومع ذلك، فإن الطرق الحالية غالباً ما تفرض أهداف الثبات والتكافؤ على نفس التمثيل النهائي (مثل رمز [CLS] المجمع مكانياً أو الميزات المجمعة). وقد حدد المؤلفون مقايضة (Trade-off) حرجة في هذا الإعداد المقترن:

• إن دفع تنظيم التكافؤ نحو الطبقات الأعمق يحسن درجات التكافؤ ولكنه يقلل من دقة تقييم الخط الخطي (linear evaluation) على مجموعة بيانات ImageNet-1k.
• فرض التكافؤ على التمثيلات المجمعة مكانياً يجعل من الصعب تطبيق عمليات المجموعات المكانية بشكل طبيعي.

تتمثل المشكلة الجوهرية في كيفية دمج التكافؤ الصريح في نماذج التعلم الذاتي الموجه القوية القائمة على الثبات (مثل MoCo-v3، DINO، Barlow Twins) دون التضحية بأداء التصنيف أو الحاجة إلى وحدات مساعدة معقدة.

2. المنهجية: تنظيم التكافؤ الناعم (Soft Equivariance Regularization - SER)

يقترح المؤلفون تنظيم التكافؤ الناعم (SER)، وهو منظم إضافي (plug-in) يعمل على فك الارتباط بين مكان فرض الثبات ومكان فرض التكافؤ داخل بنية الشبكة.

المبادئ التصميمية الرئيسية:

1. التصميم المفكك للطبقات (Layer-Decoupled Design):

   • الثبات: يتم تدريب التضمين النهائي (على سبيل المثال، رمز [CLS]) باستخدام هدف التعلم الذاتي الموجه الأساسي دون تغيير (مثل خسارة MoCo-v3).
   • التكافؤ: يتم فرض التكافؤ فقط على خريطة الرموز المكانية المتوسطة (قبل التجميع النهائي/إدراج رمز [CLS]). وهذا يحافظ على البنية الشبكية اللازمة للتحويلات المكانية.
   • تعديل البنية: يتم تفكيك المشفر إلى $f = f^{(2)} \circ f^{(1)}$. حيث ينتج $f^{(1)}$ خريطة رموز مكانية؛ بينما ينتج $f^{(2)}$ (الذي يتضمن إدراج رمز [CLS]) التضمين النهائي. يتم إدراج رمز [CLS] بعد طبقة تنظيم التكافؤ لتجنب تعطيل الشبكة المكانية.

2. أفعال فضاء الميزات التحليلية (Analytic Feature-Space Actions):

   • بدلاً من تعلم رأس تنبؤ بالتحويل أو شبكة إجراء كامنة، يستخدم SER أفعال مجموعات محددة تحليلياً ($\rho_g$) مباشرة في فضاء الميزات.
   • تشمل المجموعة الهندسية $G$ التحويلات القابلة للعكس: الدورات بزاوية 90 درجة، الانعكاس الأفقي، والتحجيم غير المتماثل (بدون قص).
   • بالنسبة للتحويل النسبي $g = g_2 g_1^{-1}$، تعمل الخسارة على تقليل المسافة بين خريطة الميزات المحولة $\rho_g(f^{(1)}(x_1))$ وخريطة الميزات للرؤية المحولة $f^{(1)}(x_2)$.

3. استراتيجية تقسيم الدفعة (Batch Partitioning Strategy):

   • بما أن عمليات التعزيز القياسية في التعلم الذاتي الموجه (مثل القص العشوائي) غير قابلة للعكس ولا تشكل مجموعة، يقوم SER بتقسيم الدفعة الصغيرة إلى دفعتين فرعيتين:
     • $b_1$ (الثابت): تستخدم سياسة تعزيز كاملة (بما في ذلك القص) لحساب خسارة الثبات القياسية.
     • $b_2$ (المتكافئ): تستخدم سياسة معدلة $T_{eq}$ التي تعطل القص ولكنها تحتفظ بالتغيير الضوئي وتأخذ عينات من المجموعة الهندسية القابلة للعكس $G$.
   • يتم حساب خسارة التكافؤ ($L_{equiv}$) فقط على $b_2$ باستخدام خسارة تباين جزئي (NT-Xent) على خرائط الرموز المتوسطة.

4. هدف التدريب:
   الخسارة الإجمالية هي مجموع موزون:
   $$L = L_{inv1} + L_{inv2} + \lambda L_{equiv}$$
   حيث تمثل $L_{inv}$ خسائر التعلم الذاتي الموجه القياسية على التضمينات النهائية، و $L_{equiv}$ هو منظم التكافاء الناعم على الميزات المتوسطة.

3. المساهمات الرئيسية

1. الاكتشاف التجريبي للمقايضة: توضح الورقة أن ربط الثبات والتكافؤ في التمثيل النهائي هو أمر غير مثالي. إن نقل التكافؤ إلى الطبقات المتوسطة يحسن المقايضة بين القدرة التمييزية والمتانة الهندسية.
2. إطار عمل SER: منظم بسيط وقابل للتوسع يعمل على فك الارتباط بين الثبات (الطبقة النهائية) والتكافؤ (الطبقة المتوسطة) دون الحاجة إلى رؤوس تنبؤ بالتحويل أو تسميات تحويل لكل عينة.
3. التنفيذ التحليلي: يستخدم أفعال المجموعات الهندسية المعروفة مباشرة على خرائط الميزات، مما يتجنب التكلفة الحسابية والتعقيد المرتبط بتعلم شبكات الأفعال.
4. مبدأ تصميم عام: يوضح المؤلفون أن تطبيق وصفة "فك الارتباط بين الطبقات" هذه على الطرق المتكافئة الموجودة يحسن أداءها، مما يشير إلى أنها استراتيجية قابلة للتعميم للجمع بين الثبات والتكافؤ.

4. النتائج التجريبية

أُجريت التجارب على تدريب مسبق لـ ImageNet-1k باستخدام ViT-S/16، متبوعاً بالتقييم الخطي، واختبار المتانة، ومهام النقل.

• التقييم الخطي (ImageNet-1k):

  • في ظل إعداد الرؤيتين (2-view) المتطابق تماماً، يحسن SER نموذج MoCo-v3 بنسبة +0.84% في دقة Top-1 (من 68.44% إلى 1.28%).
  • يتفوق SER باستمرار على الإضافات المتكافئة الأخرى (AugSelf, STL, EquiMod) عند مطابقة عدد الرؤى.
  • يحسن SER أيضاً من أداء DINO (+0.26%) وBarlow Twins (+0.68%).

• المتانة (ImageNet-C/P):

  • يحسن SER متوسط دقة Top-1 على ImageNet-C (الفساد/Corruptions) بمقدار +1.11% وعلى ImageNet-P (الاضطرابات/Perturbations) بمقدار +1.22%.
  • يشير هذا إلى متانة فائقة تجاه الفساد الهندسي والمظهري مقارنة بنماذج الثبات البحتة.

• النقل المكاني (COCO Detection):

  • في مهمة اكتشاف الأشياء COCO باستخدام هيكل ثابت (frozen-backbone)، يحقق SER تحسناً قدره +1.7 mAP عن MoCo-v3، مما يثبت الحفاظ الأفضل على البنية المكانية.

• الكفاءة:

  • يضيف SER عبئاً حسابياً ضئيلاً: 1.008 ضعف العمليات الحسابية (FLOPs) مقارنة بالنموذج الأساسي.
  • لا يتطلب تسميات تحويل إضافية أو رؤوس تنبؤ.

• دراسات الاستئصال (Ablation Studies):

  • وضع الطبقة: وضع التنظيم في كتلة Transformer الثالثة (المتوسطة) يعطي أفضل النتائج. نقلها إلى الطبقة النهائية (الطبقة 12) يزيد درجات التكافؤ ولكنه يخفض دقة التصنيف.
  • الضبط: إزالة خسارة التكافؤ ($\lambda=0$) مع الإبقاء على تقسيم الدفعة لا يؤدي إلا إلى تحسن طفيف، مما يؤكد أن الفائدة تأتي من المنظم نفسه.

5. الأهمية

تعالج هذه الورقة توتراً جوهرياً في التعلم الذاتي الموجه: الصراع بين تعلم ميزات ثابتة تجاه التعزيز (للتصنيف) وميزات متكافئة تجاه التحويل (للمتانة والمهام المكانية).

• تحول في النموذج: تتحدى الورقة الممارسة السائدة المتمثلة في فرض جميع الأهداف على التمثيل النهائي، وتقترح بدلاً من ذلك نهجاً مفكك الطبقات.
• العملية: يعد SER حلاً "إضافياً" (plug-in) يعمل مع نماذج التعلم الذاتي الموجه المتطورة الحالية (MoCo, DINO, Barlow Twins) دون الحاجة إلى تغيير جذري في البنية أو شبكات مساعدة مكلفة.
• القابلية للتعميم: يشير اكتشاف أن فك الارتباط بين الطبقات يحسن الطرق المتكافئة الموجودة إلى مبدأ تصميم جديد لأبحاث التعلم الذاتي المستقبلية، والذي يمكن تطبيقه على مجالات أخرى تتطلب توازناً بين الثبات والتكافؤ.

باخت-صار، يوفر SER طريقة فعالة حاسوبياً ومبنية على أسس نظرية لتعزيز المتانة الهندسية وقابلية نقل التمثيلات البصرية ذاتية التوجيه، مع الحفاظ على أداء التصنيف أو تحسينه.