ملخص تقني: التجزئة المستمرة تحت ظروف عدم الاستقرار المشترك

بيان المشكلة

تتناول الورقة فجوة حرجة في التعلم المستمر (CL) لمهام التنبؤ الكثيف، وتحديداً التجزئة الدلالية (Semantic Segmentation). بينما تعزل معظم الأبحاث الحالية في مجال التعلم المستمر عوامل مثل الزيادات في الفئات، أو تحولات النطاق (Domain Shifts)، أو ندرة البيانات، فإن أنظمة التنبؤ الهيكلي في العالم الحقيقي (مثل القيادة الذاتية أو التصوير الطبي) تواجه عدم استقرار مشترك (Joint Nonstationarity). في هذا الإعداد، تتطور الفئات الدلالية، وتوزيعات المدخلات، وتوافر الإشراف بشكل متزامن عبر الزمن.

صاغ المؤلفون ذلك كمتتالية من جلسات التعلم $\{S_t\}_{t=0}^T$ حيث تتميز كل جلسة $t$ بتوزيع مشترك $D_t(x, y)$، ومجموعة فئات $C_t$، وميزانية عينات موسومة محدودة للغاية $N_t \ll N_0$. والأهم من ذلك، أن $D_t \neq D_{t-1}$ و $C_t \neq C_{t-1}$، ولا تتكرر أزواج (الفئة-النطاق) التي لوحظت سابقاً. وتوضح الورقة أن أساليب التعلم المستمر الحالية، عندما تتعرض لهذه التحولات المزدوجة، تعاني من النسيان الكارثي، وعدم استقرار التكيف، والإفراط السريع في التخصيص (Overfitting) للتعلم القائم على عدد قليل من العينات (Few-shot supervision). كما يفشل الضبط الدقيق الساذج (Naive fine-tuning) في موازنة الحفاظ على المعرفة السابقة مع التكيف مع المفاهيم الجديدة، مما يؤدي إلى تدهور كبير في الأداء عبر بنيات متنوعة، بما في ذلك النماذج التأسيسية مثل SAM.

المنهجية: JASCL

لمعالجة هذه التحديات، يقترح المؤلفون إطار عمل JASCL (التعلم المستمر المثبت والمثبت بالمرتكزات المشتركة)، وهو إطار يجمع بين آليتين أساسيتين:

1. التثبيت المتكيف مع التدرج (GAS)

إن GAS هي آلية تنظيم على مستوى المعلمات (Parameter-wise regularization) مصممة للتخفيف من عدم الاستقرار والإفراط في التخصيص تحت تأثير انحراف التوزيع.

• الآلية: تقوم بتنفيذ اضطرابات عشوائية يتم قياسها بقلب مربع التدرجات. بالنسبة للمعلمة $\theta_i$، يتم اشتقاق مقياس الاضطراب من $G_i = (\partial L / \partial \theta_i)^2$. ويكون الاضطراب هو $\tilde{\theta}_i = \theta_i + \tilde{G}_i \xi_i$، حيث $\xi_i \sim \mathcal{N}(0, 1)$.
• المبرر: المعلمات ذات التدرجات الكبيرة (التي تساهم بنشاط في التعلم) تتلقى ضوضاء ضئيلة، مما يحافظ على الاستقرار. أما المعلمات ذات التدرجات الصغيرة (التي قد تعاني من الإفراط في التخصيص أو تقع في مناطق مسطحة) فتتلقى ضوضاء أعلى، مما يعزز القدرة على التغيير (Plasticity) والاستكشاف.
• الأساس النظري: يقدم المؤلفون تحليلاً لتقريب التوزيع البايزي اللاحق (Bayesian posterior approximation) يظهر أن GAS تحقق تباعد "كولباك - ليبلر" (KL divergence) أقل مع التوزيع اللاحق الحقيقي مقارنة بالضوضاء المتماثلة (Isotropic noise) أو طرق التنظيم الثابتة (مثل EWC أو تلاشي الوزن) عندما تكون معلومات فيشر (Fisher information) غير متجانسة. كما توفر حدود تعميم أكثر إحكاماً لـ PAC-Bayes وزيادة أقل في الخسارة المتوقعة مقارنة بطرق تسطح التدرج الخصامية (مثل SAM) تحت ظروف الانحناء غير المتجانس.

2. الإشراف المرتكز على النماذج الأولية (PAS)

يستفيد PAS من البيانات غير الموسومة الوفيرة ضمن إطار عمل "المعلم-التلميذ" (Mean-teacher) شبه الموجه للتحقق من صحة الملصقات الوهمية (Pseudo-labels) وكبح انتشار الخطأ.

• الآلية: يتم حساب النماذج الأولية للفئات (Class prototypes) من العينات الموسومة في فضاء الميزات. بالنسبة للمدخلات غير الموسومة، يتم توليد الملصقات الوهمية بواسطة شبكة "المعلم". لا يتم الاحتفاظ بالملصق الوهمي إلا إذا استوفى شرطين:
  1. الثقة (Confidence): يتجاوز الاحتمال المتوقع عتبة $\tau_{conf}$.
  2. الاتساق مع النموذج الأولي (Prototype Consistency): تتجاوز درجة تشابه جيب التمام (Cosine similarity) بين تمثيل الميزة والنموذج الأولي للفئة المقابلة عتبة $\tau_{sim}$.
• الأساس النظري: صاغ المؤلفون نموذجاً لديناميكيات خطأ الملصقات الوهمية، وأثبتوا أنه بدون هذا الترشيح، لا يقدم التعلم شبه الموجه أي تحسن تقاربي فوق التعلم الموجه. ومع وجود PAS، يكون الخطأ التقاربي متناقصاً بشكل صارم مع دقة الملصقات الوهمية المقبولة. يوضح التحليل النظري أن PAS تحقق دقة أعلى من الطرق المعتمدة على الثقة فقط، أو الاتساق، أو بنوك الذاكرة (Memory-bank methods)، لا سيية من خلال تجنب تراكم الأخطاء المتأصل في بنوك الذاكرة.

تجمع دالة الخسارة الإجمالية بين "الاعتراض المتقاطع المتدرج" (Cross-entropy) الموسوم للبيانات الموسومة، وخسارة الاتساق التي تُحسب فقط على الملصقات الوهمية التي تم التحقق منها بواسطة PAS.

المساهمات الرئيسية

تحدد الورقة أربع مساهمات رئيسية:

1. صياغة عدم الاستقرار المشترك: حدد المؤلفون إعداداً واقعياً للتجزئة المستمرة يتضمن تحولات مشتركة في الفئات، والنطاقات، والإشراف، مما كشف عن أوضاع الفشل الأساسية للطرق الحالية في ظل هذه الظروف.
2. التثبيت المتكيف مع التدرج (GAS): استراتيجية تنظيم مبتكرة توازن بين الاستقرار والقدرة على التغيير عبر اضطرابات عشوائية مدرجة بالتدرج، مما يسمح بالتكيف القوي تحت تأثير انحراف التوزيع.
3. الإشراف المرتكز على النماذج الأولية (PAS): آلية تعلم شبه موجهة تتحقق من صحة الملصقات الوهمية باستخدام الثقة المشتركة والاتساق مع النموذج الأولي في فضاء الميزات، مما يقلل بفعالية من انتشار الخطأ.
4. التقييم التجريبي الشامل: أظهرت التجارات المكثفة عبر أنظمة Class-incremental، و Domain-incremental، و Few-shot، و Semi-supervised تحسينات مستمرة على الأساليب السابقة.

النتائج

قيم المؤلفون JASCL على خمسة اختبارات مرجعية (Benchmarks) صعبة تشمل التصوير الطبي ثلاثي الأبعاد (Med JASCL-Disjoint, Med JASCL-Mixed, Med Semi-Supervised-JASCL) والمشاهد الطبيعية ثنائية الأبعاد (Natural-JASCL, Semi-Supervised Natural-JASCL).

• مكاسب الأداء: تفوق JASCL باستمرار على مجموعة واسعة من النماذج المرجعية، بما في ذلك أساليب زيادة الفئات (MiB, PIFS)، وأساليب زيادة النطاق (MDIL)، ومتعلمي Few-shot (NC-FSCIL, C-FSCIL)، وأساليب التعلم شبه الموجه (NNCSL, UaD-CE).
• القوة تجاه البنية (Architecture Robustness): أظهرت الطريقة قدرة عالية على التعميم عبر بنيات متنوعة، بما في ذلك U-Net, DeepLabv3+, MedFormer, SwinUNetr، ونموذج Segment Anything Model (SAM) المدرب بكثافة. ومن الجدير بالذكر أنه بينما عانى SAM والنماذج التأسيسية الأخرى من نسيان كبير في هذه الاختبارات، فقد نجح JASCL في تحسين أدائها.
• فعالية Few-Shot والتعلم شبه الموجه: في سيناريوهات الندرة القصوى للبيانات (مثل 5 عينات لكل فئة) وتحولات النطاق الشديدة (مثل الانتقال من CT إلى MRI)، حافظ JASCL على الأداء في حين انهارت النماذج المرجعية. وقد أدى تضمين البيانات غير الموسومة عبر PAS إلى تعزيز الأداء بشكل كبير، خاصة في الاختبارات المرجعية الطبية شبه الموجهة.
• الكفاءة الحسابية: يضيف الإطار عبئاً حسابياً ضئيلاً مقارنة بالتدريب التقليدي، حيث لا يتطلب مخازن ذاكرة (Memory buffers) أو عمليات تدريب إضافية معقدة.

الأهمية والادعاءات

تدعي الورقة أن JASCL يسد الفجوة بين سيناريوهات التعلم المستمر المثالية والواقع المعقد لأنظمة التنبؤ الهيكلي الديناميكية. ومن خلال صياغة عدم الاستقرار المشترك، يسلط المؤلفون الضوء على أن الأساليب الحالية تفشل في التعامل مع التطور المتزامن للفئات، والنطاقات، والإشراف.

تكمن أهمية هذا العمل في:

• كشف أوضاع الفشل: تكشف الاختبارات المرجعية أن حتى النماذج التأسيسية واسعة النطاق عرضة للنسيان الكارثي تحت التحولات المشتركة، مما يتحدى الافتراض بأن التدريب المسبق وحده يحل مشكلة التعلم المستمر.
• الحلول المبدئية: تقدم الآليات المقترحة (GAS و PAS) نهجاً قائماً على أسس نظرية لمعاللة معضلة (الاستقرار-القدرة على التغيير) وموثوقية الملصقات الوهمية، على التوالي.
• القابلية للتطبيق في العالم الحقيقي: تشير النتائج إلى أن البيانات غير الموسومة التي يتم التحقق منها يمكن أن تمكن التعلم المستمر في البيئات محدودة الموارد (مثل التصوير الطبي ذو التوسيم المحدود)، مما يقلل تكاليف إعادة التدريب ويحسن قابلية التوسع.

يخلص المؤلفون إلى أنه بينما يظهر JASCL قوة عبر سيناريوهات متنوعة، لا يزال هناك مجال كبير للتحسين، خاصة في التعامل مع تحولات النطاق الشديدة (مثل الانتقال المفاجئ من CT إلى MRI) والهياكل التشريحية الصغيرة في أنظمة Few-shot. وهم يضعون هذا العمل كخطوة نحو نشر أنظمة ذكية قوية ومتكيفة في البيئات الديناميكية مثل الروبوتات والتصوير الطبي.