Revitalizing the Beginning: Avoiding Storage Dependency for Model Merging in Continual Learning

ملخص تقني: إحياء البداية: تجنب الاعتماد على التخزين لدمج النماذج في التعلم المستمر

1. بيان المشكلة

يهدف التعلم المستمر (CL) إلى تمكين النماذج من اكتساب معرفة جديدة بشكل متسلسل دون حدوث نسيان كارثي. وبينما برز دمج النماذج (Model Merging) كنموذج لا يتطلب تدريباً لدمج الخبرات المتخصصة في نموذج موحد متعدد المهام، تواجه الأساليب الحالية صراعاً حرجاً مع قيود الذاكرة الصارمة للتعلم المستمر. تتطلب معظم تقنيات الدمج الحالية (مثل Model Stock و TIES و MagMax) الوصول إلى جميع ناقلات المهام السابقة والنموذج الأولي أثناء مرحلة الدمج. وهذا يكافئ وظيفياً تخزين المجموعة الكاملة من الخبراء السابقين، مما ينتهك مبدأ التعلم المستمر الذي يحظر الاحتفاظ بالبيانات أو النماذج التاريخية.

يوضح المؤلفون أنه في ظل قيود التعلم المستمر الصارمة — حيث يتوفر فقط الخبير الحالي والنموذج المدمج الأخير — تعاني الأساليب الحالية من تدهور حاد في الأداء (يصل إلى 6%). ومن خلال تجارب تشخيصية، حددت الورقة ثلاثة أسباب جذرية لهذا الفشل:

1. التقارب المحلي غير الأمثل: تعطي الأساليب الحالية الأولوية للمحاذاة العالمية، مما يتسبب في استقرار النماذج المدمجة في مناطق ذات خسارة عالية بعيداً عن الأحواض المثلى للمهام الفردية، مما يؤدي إلى تراكم الأخطاء الخاصة بكل مهمة.
2. اختلال التمثيل الدلالي الهيكلي: يؤدي الدمج الخطي إلى تدمير التبعيات الوظيفية الدقيقة بين الطبقات، مما يسبب انزياحاً دلالياً كبيراً، لا سيما في الطبقات العميقة حيث يتم ترميز الدلالات الخاصة بالمهمة.
3. فقدان اللدونة التحسينية: غالباً ما تظهر النماذج المدمجة "تصلباً اتجاهياً"، حيث يتم تقليل الانحراف الزاوي للتدرج. يشير هذا إلى أن النموذج عالق في مناطق مسطحة مرضية في مشهد الخسارة، مما يؤدي إلى تلاشي التدرجات وعدم القدرة على التكيف مع المهام اللاحقة.

2. المنهجية: الدمج المنظم بالمسار (TRM)

لمعالجة هذه القيود دون تخزين البيانات التاريخية، يقترح المؤلفون الدمج المنظم بالمسار (TRM). يعيد هذا الإطار صياغة مرحلة الدمج كمسألة تحسين موجهة ضمن فضاء فرعي مساري معزز.

بناء الفضاء الفرعي المعزز:
بدلاً من البحث عن حل ضمن الامتداد الخطي أحادي البعد لمتجه المهمة الحالية ($\tau_t$) ومتجه المهمة السابقة ($\tau_{t-1}$)، يقدم TRM متجه اضطراب $P$ يكون متعامداً مع امتداد هذه المتجهات. هذا التوسع يعوض المعلومات المفقودة بسبب قيود التخزين، مما يسمح للبحث باستكشاف مناطق أكثر مرونة في فضاء المعلمات غير المحدب. يتم صياغة متجه المهمة المدمج كما يلي:
$$\tau_{mrg}^t(\alpha, \beta) = \alpha \cdot \tau_t + (1-\alpha) \cdot \tau_{t-1} + \beta \cdot P$$
حيث $\alpha$ و $\beta$ هما معاملا الاستيفاء والتوسع، على التوالي.

إشارة الإشراف متعددة الأهداف:
لتحديد المعاملات المثلى $\{\alpha, \beta\}$، يقوم TRM بتحسين دالة هدف موحدة تتكون من ثلاثة قيود متآزرة:

1. محاذاة المهمة ($L_{align}$): تقلل من الخطر التجريبي (خسارة الإنتروبيا المتقاطعة) على المهمة الحالية. يضمن ذلك بقاء النموذج المدمج مرتبطاً بأحدث الخبرات، مما يمنع الإزاحة عن أحواض الدقة العالية.
2. اتساق التنبؤ ($L_{pre}$): يقلل من مسافة L2 على مستوى الطبقات بين التمثيلات الخفية للنموذج المدمج والمركز الوظيفي للنموذج الحالي المضبط والنموذج الموحد السابق. يتم تطبيق مخطط ترجيح تصاعدي، يعطي الأولوية للطبقات العليا حيث توجد الدلالات الخاصة بالمهمة، لمنع الانزياح الدلالي الهيكلي.
3. الاستجابة للتدرج ($L_{res}$): يعظم مربع معيار التدرج للمهمة الحالية. بناءً على ملاحظة وجود تداخلات في الميزات منخفضة المستوى بين المهام المتسلسلة، فإن تعظيم معيار التدرج للمهمة الحالية يعيد تنشيط الاستجابة الحركية للنموذج، مما يضمن عدم حصره في مناطق مسطحة ويحافظ على لدونته للمهام المستقبلية.

تُعرف الخسارة الإجمالية بـ $L_{total} = L_{align} + \lambda_1 L_{pre} + \lambda_2 L_{res}$. بالإضافة إلى ذلك، ولمنع التقارب المبكر إلى الحلول المحلية أثناء البحث، تتضمن عملية التهيئة تقاطعاً عشوائياً للمعلمات من النموذجين السابق والحالي.

3. المساهمات الرئيسية

تحدد الورقة أربع مساهمات رئيسية:

• تحديد القيود: تسلط الضوء على أن أساليب دمج النماذج الحالية لا تلتزم تماماً بمبادئ التعلم المستمر وتعاني من تدهور كبير في الأداء عند منع تخزين المعرفة.
• التحليل النظري: تحلل أسباب هذه الفجوة (فقدان الأمثلية المحلية، الانزياح الدلالي، وفقدان اللدونة) وتعيد صياغة الدمج كمسألة بحث عن نقطة مثلى ضمن فضاء فرعي مساري معزز متعامد.
• إطار عمل مبتكر: تقترح TRM، وهي طريقة موجهة بثلاثة قيود (محاذاة المهمة، اتساق التنبؤ، والاستجابة للتدرج) لتحقيق التناغم بين الاستقرار التاريخي واللدونة المستقبلية دون الاعتماد على النماذج المخزنة أو إعادة تشغيل البيانات.
• التحقق التجريبي: تثبت تحقيق أداء رائد (SOTA) عبر عدة معايير تحت قيود صارمة للتعلم المستمر.

4. النتائج التجريبية

قيم المؤلفون TRM على ثلاثة مجموعات بيانات: CIFAR100، و ImageNet-R، و Stanford Cars، باستخدام التعلم التزايدي للفئات (CIL) مع عدد متغير من المهام (5، 10، و 20). كان العمود الفقري المستخدم هو CLIP ViT-B/16.

• الأداء: حقق TRM نتائج رائدة في معظم الإعدادات. في ImageNet-R، تفوق على الأساليب الرائدة السابقة بهوامش تتراوح بين 1.4% إلى 3.4% عبر 5، 10، و 20 مهمة. وفي CIFAR100، تحسن عن السجل السابق بنسبة 3.1% (5 مهام) و 1.5% (10 مهام).
• دراسات الاستئصال (Ablation Studies): أدى حذف أي من القيود الثلاثة إلى انخفاض في الأداء، مما يؤكد أن الاستقرار (المحاذاة/الاتساق) واللدونة (الاستجابة) يعززان بعضهما البعض.
• القابلية للتوسع: أكدت التجار تجرى على مجموعة البيانات واسعة النطاق ImageNet1K (100 مهمة) ومعمارية عمود فقري مختلفة (ViT-L/14، و LAION-pretrained ViT-B/16) قوة الطريقة وقابليتها للتوسع.
• الكفاءة: بينما يضيف TRM زيادة طفيفة في وقت التدريب مقارنة ببعض النماذج المرجعية (على سبيل المثال، 33 دقيقة مقابل 30 دقيقة في ImageNet-R)، إلا أنه يحقق مكاسب كبيرة في الأداء مع حد أدنى من التكاليف الإضافية.
• استقرار التحسين: أظهر تحليل معيار هسيان الطيفي أن TRM يحافظ على انحناء مستقر ومعتدل لمشهد الخسارة، متجنباً الحدة المرضية المرتبطة بسوء التعميم.

5. الأهمية والادعاءات

تدعي الورقة أن TRM ينجح في سد الفجوة بين الفوائد النظرية لدمج النماذج والقيود العملية للتعلم المستمر. من خلال تجنب الحاجة إلى تخزين ناقلات المهام التاريخية أو إعادة تشغيل البيانات، يوفر TRM حلاً قابلاً للتوسع ويحافظ على الخصوصية لدمج الخبرات المتخصصة. يؤكد المؤلفون أن طريقتهم تخفف بفعالية من النسيان الكارثي في تدفقات البيانات المستمرة من خلال إحياء "بداية" مرحلة التدريب التالية — مما يضمن أن يبدأ النموذج المدمج من حالة مستقرة (تحتفظ بالمعرفة السابقة) ولدنة (جاهزة للتحسين الجديد). يشير العمل إلى أن إعادة صياغة الدمج كتحسين مقيد ضمن فضاء فرعي معزز هو مسار قابل للتطبيق للتعلم المستمر، متجاوزاً مجرد قواعد الاستيفاء الخطي البسيطة.