From Isolation to Integration: Building an Adaptive Expert Forest for Pre-Trained Model-based Class-Incremental Learning

إليك ملخص تقني مفصل للورقة البحثية بعنوان "من العزلة إلى التكامل: بناء غابة خبراء تكيفية للتعلم المتزايد للفئات القائم على النماذج سابقة التدريب."

1. بيان المشكلة

يهدف التعلم المتزايد للفئات (Class-Incremental Learning - CIL) إلى تدريب النماذج على تعلم فئات جديدة بالتتابع دون نسيان الفئات التي تعلمتها سابقاً. وبينما أصبح استخدام النماذج سابقة التدريب (Pre-trained Model - PTM) في التعلم المتزايد للفئات باستخدام الضبط الدقيق كفء المعلمات (Parameter-Efficient Fine-Tuning - PEFT) (وتحديداً تدريب محولات خفيفة الوزن لكل مهمة) نهجاً رائداً لمنع النسيان الكارثي، إلا أن الأساليب الحالية تعاني من قصور حرج:

• المعرفة غير المهيكلة: تتعامل الطرق الحالية مع محولات المهام المحددة ككتلة مسطحة وغير مهيكلة. وأثناء الاستدلال، غالباً ما تعتمد هذه الطرق على تجميع (Ensembling) جميع المحولات أو استرجاع أفضل تطابق واحد.
• عدم الكفاءة والضجيج: يفشل هذا النهج "المسطح" في الاستفភាព من العلاقات الدلالية بين المهام (مثل التشابه بين "الكلب" و"القط"). فهو يجبر النموذج على اعتبار جميع المعارف السابقة متساوية، مما يؤدي إلى تنبؤات مشوشة واستدلال غير فعال (يتطلب تعقيداً قدره $O(N)$ حيث $N$ هو عدد المهام).
• النقل غير الأمثل: غالباً ما يكون مشاركة المعرفة العالمية عبر جميع المهام أمراً عكسياً؛ إذ يجب أن يكون نقل المعرفة الحقيقي انتقائياً، هرمياً، وسياقياً.

2. المنهجية: الغابة الخبيرة التكيفية الدلالية (SAEF)

يقترح المؤلفون إطار عمل SAEF، الذي يحول محولات المهام المعزولة إلى "غابة" مهيكلة وهرمية من الخبراء. تعمل الطريقة عبر ثلاث مراحل متميزة:

المرحلة الأولى: التجميع المفاهيمي (Conceptual Clustering)

بدلاً من معاملة جميع المهام كمجموعة واحدة، يقوم SAEF أولاً بتجميع المهام في مجموعات دلالية.

• النماذج الأولية (Prototypes): لكل مهمة $t$، يتم تحديد نموذجين أوليين:
  • النموذج الأولي الدلالي ($p^s_t$): مستمد من تضمينات النصوص لأسماء الفئات باستخدام مشفر نصي ثابت من نموذج CLIP.
  • النموذج الأولي البصري ($p^f_t$): متوسط متجه الميزات لعينات التدريب المستخرجة بواسطة هيكل الـ PTM وأول محول للمهمة (لسد الفجوات بين المجالات).
• التجميع (Clustering): تقوم خوارزمية K-Means بتقسيم المهام $T$ إلى $K$ من المجموعات المفاهيمية (مثل "حيوانات"، "مركبات") بناءً على النماذج الأولية الدلالية. ويتم تحديد القيمة المثلى لـ $K$ تلقائياً باستخدام مقياس Silhouette score.

المرحلة الثانية: البناء الهرمي (Hierarchical Construction)

داخل كل مجموعة مفاهيمية، يبني SAEF شجرة ثنائية متوازنة من الخبراء عبر عملية دمج من الأسفل إلى الأعلى.

• العقد الورقية (Leaf Nodes): يعمل كل محول مهمة أولي كعقدة ورقية.
• الدمج (Merging): تقوم الخوارزمية بشكل تكراري بإيجاد أكثر عقدتين تشابهاً بصرياً (بناءً على تشابه جيب التمام لنماذجهما الأولية البصرية) ودمجهما في عقدة أب جديدة.
• دمج المعلمات (Parameter Merging): يتم إنشاء معلمات المحول للأب ($\theta_p$) عن طريق دمج معلمات الأبناء ($\theta_i, \theta_j$) باستخدام عملية شعاعية تحافظ على الإشارات المهيمنة:
  $$\theta_p \leftarrow \text{sign}(\theta_i + \theta_j) \odot \max(|\theta_i|, | \theta_j|)$$
• الخبير العالمي (Global Expert): أخيراً، يتم دمج جذور جميع الأشجار $K$ في خبير عالمي واحد ليكون نقطة الدخول للاستدلال.

المرحلة الثالثة: الاستدلال التكيفي (Adaptive Inference)

يستخدم SAEF استراتيجية بحث ديناميكية موجهة بالاعتلاج (Entropy-guided) لتصنيف المدخلات الجديدة.

• البحث المتوازي: بالنسبة لمدخل معين، يقوم النموذج بعملية بحث متوازية عبر كل شجرة من الأشجار $K$.
• اختيار المسار الموجه بالاعتلاج: بدءاً من الجذر، يهبط البحث بشكل تكراري إلى العقدة الابنة التي تحقق أدنى اعتلاج تنبؤي (أعلى ثقة). وهذا يخلق مساراً مثالياً من الجذر إلى الورقة لكل شجرة.
• الدمج (Fusion): التنبؤ النهائي هو متوسط مرجح لمخرجات الخبير العالمي وجميع الخبراء على طول المسارات المحددة. يتم تحديد الأوزان بناءً على الاعتلاج السالب (الثقة) لكل خبير، مع تطبيعها باستخدام معامل درجة الحرارة $\tau$.

3. المساهمات الرئيسية

1. تنظيم المعرفة المهيكل: يعد SAEF أول طريقة تنظم محولات المهام المعزولة تلقائياً في تسلسل هرمي دلالي (غابة من الأشجار)، مما يسم يسمح بنقل معرفي مستهدف بين المهام ذات الصلة مع عزل المهام غير المرتبطة.
2. استراتيجية الاستدلال التكيفي: يقدم آلية بحث ديناميكية تقوم بتنشيط مجموعة فرعية فقط من الخبراء ذوي الصلة بناءً على اعتلاج المدخلات، مما يقلل بشكل كبير من زمن الاستدلال مقارنة بأساليب التجميع الكامل.
3. الأداء الرائد (SOTA): حقق النموذج أداءً فائقاً على عدة اختبارات معيارية، متفوقاً على الطرق الحالية القائمة على PTM دون الحاجة لتخزين نماذج (Exemplar-free setting).

4. النتائج التجريبية

قيم المؤلفون SAEF على أربعة اختبارات معيارية صعبة: CIFAR-100، وImageNet-R، وImageNet-A، وObjectNet، باستخدام هيكل ViT-B/16.

• الدقة: حقق SAEF أداءً رائداً (SOTA) عبر جميع مجموعات البيانات.
  • في ImageNet-R، حقق متوسط دقة بلغ 84.54%، متفوقاً على أفضل النتائج السابقة (SSIAT) بنسبة 1.34%.
  • في CIFAR-100، وصل إلى متوسط دقة بلغ 94.53%.
• المقارنة مع طرق الاستحضار (Rehearsal Methods): رغم أنه أسلوب خالٍ من النماذج (Exemplar-free) (لا يخزن أي بيانات سابقة)، إلا أن SAEF تفوق على طرق الاستحضار القوية (مثل FOSTER وMEMO) التي تخزن 20 نموذجاً لكل فئة. وهذا يبرز قابلية التوسع لاسترجاع المعرفة المهيكلة مقارنة بإعادة تشغيل العينات.
• الكفاءة:
  • سرعة الاستدلال: باستخدام البحث التكيفي، يقلل SAEF وقت الاستدلال بمقدار ~5.9 ضعف مقارنة بطرق التجميع الكامل (مثل EASE) مع الحفاظ على دقة عالية.
  • التعقيد: يقلل الهيكل الهرمي تعقيد الاستدلال من $O(N)$ إلى $O(\log N)$ داخل الأشجار.
• دراسات الاستئصال (Ablation Studies): أدى إزالة أي مكون (التجميع، البناء الهرمي، أو الاستدلال التكيفي) إلى انخفاض في الأداء، مما يؤكد أن التآزر بين التجميع الدلالي والبحث الموجه بالاعتلاج أمر بالغ الأهمية.

5. الأهمية

تعالج هذه الورقة عقبة أساسية في التعلم المستمر: المقايضة بين منع النسيان وكفاءة الاستدلال.

• تحول في النموذج الفكري: ينقل المجال من معاملة المحولات كـ "حقيبة من الحيل" إلى رؤيتها كقاعدة معرفية مهيكلة وهرمية.
• العملية: الطريقة مناسبة جداً للبيئات ذات الموارد المحدودة (مثل الأجهزة الطرفية، والروبوتات) لأنها تلغي الحاجة لتخزين البيانات القديمة (النماذج) بينما تسرع الاستدلال بشكل كبير مقارنة بأساليب التجميع الحالية.
• القدرة على التعميم: يوفر نهج تنظيم المعلمات بناءً على العلاقات الدلالية اتجاهاً جديداً لتحسين إعادة استخدام المعرفة في النماذج الضخمة سابقة التدريب.