ملخص تقني: ضبط المعلمات المتناثرة والمتعامد للتعلم المستمر (SoTU)

بيان المشكلة

يهدف التعلم المستمر (CL) إلى تمكين النماذج من التعلم من سلسلة من المهام دون المعاناة من "النسيان الكارثي"، حيث يؤدي تعلم مهام جديدة إلى محو المعرفة المكتسبة سابقاً. وبينما تم تطوير استراتيجيات كلاسيكية للتعلم المستمر (مثل الاسترجاع، والتنظيم، والتوسع الديناميكي)، إلا أنها غالباً ما تعتمد على نماذج يتم تدريبها من الصفر. مؤخراً، ظهرت طرق تعتمد على النماذج سابقة التدريب (PTMs)، والتي تستفيد من قدرة التعميم القوية لنماذج مثل Vision Transformers (ViT) المدربة على مجموعات بيانات ضخمة (مثل ImageNet-21K). ومع ذلك، تواجه طرق التعلم المستمر القائمة على النماذج سابقة التدريب تحديات نموذجية، منها:

1. التصاميم الهيكلية المعقدة: تتطلب العديد من النهج وحدات مهايئة (adapters) معقدة، أو مجمعات محفزات (prompt pools)، أو استراتيجيات تجميع (ensemble) يصعب تنفيذها في التطبيقات الواقعية.
2. النسيان الكارثي: رغم تجميد الأوزان سابقة التدريب، لا تزال الطرق تعاني للحفاظ على الأداء عبر مهام متنوعة، خاصة تلك التي تظهر فجوات نطاق كبيرة (مثل ImageNet-R و ImageNet-A).
3. الاعتماد على المصنف: تعتمد العديد من الطرق على تصاميم مصنفات معقدة أو تخزين عينات مرجعية (exemplars) كثيفة الاستهلاك للذاكرة لتحقيق الأداء الأمثل.

يتحرى المؤلفون ما إذا كان دمج المعلمات من مهام متعددة تم ضبطها بدقة يمكن أن يخفف من حدة النسيان، مع استكشاف دور التناثر (Sparsity) والتعامد (Orthogonality) في تحديثات هذه المعلمات.

المنهجية: SoTU (ضبط المعلمات المتناثرة والمتعامدة)

تعد طريقة SoTU المقترحة نهجاً "جاهزاً للاستخدام" (Plug-and-Play) يحول المعرفة من مجالات متعددة إلى دمج لمعلمات دلتا (delta parameters) متعامدة ومتناثرة. وهي تعمل عبر ثلاث مراحل متميزة:

1. مرحلة الضبط الدقيق (Fine-Tuning Stage)

لكل مهمة واردة $k$ في تدفق المهام $\{D_1, ..., D_T\}$، تقوم الطريقة بتهيئة مستخرج ميزات باستخدام ViT سابق التدريب ($\theta_{pre}$). بعد ذلك، يتم ضبط النموذج بدقة لتعلم ميزات خاصة بالمهمة ($\theta_{ft}^k$) ورأس تصنيف ($W^k$). ومن الأهمية بمكان أن رأس التصنيف $W^k$ يُستخدم فقط للمساعدة في تعلم تمثيل الميزات ثم يتم التخلص منه؛ فهو لا يشارك في عملية الدمج النهائية.

2. مرحلة قناع الدلتا (Delta Masking Stage)

تقوم الطريقة بحساب معلمات الدلتا ($\Delta \theta^k = \theta_{ft}^k - \theta_{pre}$) التي تمثل المعرفة المتعلمة للمهمة $k$. ولتحفيز التناثر والتعامد، يتم حجب هذه الدلتا عشوائياً باستخدام مصفوفة قناع ثنائية $m$ ناتجة عن توزيع بيرنولي:
$$\Delta \hat{\theta}^k = \Delta \theta^k \odot m$$
حيث $m \sim \text{Bernoulli}(p)$. وقد وضع المؤلفون تجريبياً احتمال الحجب $p = 0.9$ (الاحتفاظ بـ 10% فقط من المعلمات) لضمان التناثر العالي. هذه الخطوة حاسمة: يفترض المؤلفون أن التناثر العالي يقلل من تصادم المعلمات بين المهام، مما يجعل تحديثات الدلتا متعامدة فعلياً.

3. مرحلة دمج الدلتا (Delta Merging Stage)

بدلاً من الاحتفاظ بنماذج منفصلة أو مجموعات معقدة، تقوم SoTU بدمج دلتا المتناثرة من جميع المهام المرئية في نموذج واحد متماسك:
$$\theta^k = \theta_{pre} + \sum_{i=1}^{k} \Delta \hat{\theta}^i$$
يعمل هذا النموذج المدمج كمستخرج للميزات لجميع المهام. وبالنسبة للتصنيف، تستخدم الطريقة آلية إسقاط عشوائي غير خطي (مشابهة لـ RanPAC) لتحويل الميزات المختلطة إلى مساحة قابلة للفصل خطياً، يتبعها مصنف "متوسط أقرب فئة" (Nearest Class Mean - NCM). ومن الجدير بالذكر أن الطريقة تحقق تمثيلاً مثالياً للميزات دون الحاجة إلى تصاميم مصنفات معقدة خاصة بعملية التعلم المستمر.

المساهمات الرئيسية

تحدد الورقة أربع مساهمات رئيسية:

1. اكتشاف الدمج عالي التناثر: وجد المؤلفون أن دمج معلمات دلتا متعددة عالية التناثر يمكن أن يحقق أداءً تنافسياً أو متفوقاً على المهام اللاحقة مقارنة بالنماذح المضبوطة بدقة بشكل فردي، مما يوفر اتجاهاً واعداً لمكافحة النسيان الكارثي.
2. رؤية التعامد: أثبتوا أن فعالية استراتيجية الدمج هذه تنبع من تعامد المعلمات عبر مهام متعددة. فالتناثر العالي يقلل من صراعات المعلمات (التصادمات)، مما يسمح للمعرفة الخاصة بكل مهمة بالتعايش.
3. إطار عمل SoTU: تم اقتراح طريقة جديدة للتعلم المستمر تحقق تمثيلاً مثالياً للميزات للبيانات المتدفقة دون تصميمات مصنف معقدة، وتعمل كحل جاهز للاستخدام (Plug-and-Play).
4. التحقق التجريبي: أظهرت التجارب المكثفة على ستة معايير قياسية أن SoTU يتفوق على الطرق الحالية (SoA) في الأداء، لا سيما في تمثيل الميزات وفي مجموعات البيانات ذات فجوات النطاق الكبيرة.

النتائج التجريبية

قيم المؤلفون SoTU على ستة معايير: CIFAR100، ImageNet-R، ImageNet-A، CUB200، VTAB، و Cars196. تم تقسيم كل مجموعة بيانات إلى 5 أو 10 مهام. تمت مقارنة الطريقة مع 12 نموذجاً أساسياً، بما في ذلك طرق الاسترجاع (iCaRL, DER)، والطرق القائمة على المحفزات (L2P, DualPrompt)، والطرق القائمة على التمثيل (SimpleCIL, ADAM, RanPAC)، وطرق خليط النماذج (ESN, HiDe-Prompt).

النتائج الرئيسية:

• الأداء المتفوق: حققت SoTU أعلى متوسط دقة ($\bar{A}$) ودقة نهائية ($A_T$) عبر جميع مجموعات البيانات. على سبيل المثال، في مجموعة بيانات Cars196 الصعبة، حسنت SoTU الدقة النهائية بمقدار +3.7% عن أفضل طريقة سابقة (RanPAC).
• المتانة تجاه فجوات النطاق: أظهرت الطريقة تفوقاً ملحوظاً في مجموعات البيانات ذات فجوات النطاق الكبيرة عن ImageNet (مثل ImageNet-R، ImageNet-A، Cars196)، حيث تعثرت الطرق الأخرى القائمة على النماذج سابقة التدريب.
• فعالية مساحة الميزات: عند التقييم بناءً على تمثيل الميزات فقط (باستخدام NCM دون مصنفات خاصة بالمهمة)، تفوقت SoTU بشكل كبير على RanPAC، مما أثبت قدرتها على تعلم ميزات قوية وغير منسية.
• تحليل التناثر: كشفت التجارب التي غيرت معدل الحجب أن:
  • التناثر العالي (حجب 80-90%) يحافظ على أداء تنافسي.
  • التناثر المنخفض يؤدي إلى تصادمات شديدة في المعلمات وتدهور في الأداء.
  • التناثر المفرط (حجب أكثر من 90%) يزيل المعرفة الضرورية الخاصة بالمهمة.
  • يبدو أن نسبة تناثر الدلتا المثلى هي تقريباً $1/T$ (حيث $T$ هو عدد المهام).
• تصوير الانتباه: أكدت عمليات تصوير خرائط الانتباه أن دمج دلتا عالية التناثر يحافظ على أنماط الانتباه للمهام الفردية، بينما يؤدي الدمج بدون حجب إلى تشوه شديد بسبب تصادم المعلمات.

الأهمية والادعاءات

تدعي الورقة أن SoTU تقدم حلاً بسيطاً وفعالاً لمشكلة النسيان الكارثي من خلال الاستفادة من الخصائص المتناثرة والمتعامدة للمعلمات سابقة التدريب.

• البساطة: على عكس الطرق التي تتطلب مجمعات محفزات معقدة أو توسعاً ديناميكياً في البنية، تعتمد SoLU على آلية حجب ودمج مباشرة.
• جاهزية الاستخدام (Plug-and-Play): لا تتطلب الط method تصميمات مصنفات معقدة، مما يجعلها قابلة للتكيف مع مختلف السيناريوهات الواقعية للبيانات المتدفقة.
• الأساس النظري: يقدم المؤلفون تحليلاً نظرياً يشير إلى أن الحجب العشوائي لمعلمات الدلتا يحافظ على هيكل خريطة الانتباه، مما يسمح للنموذج بالأداء بشكل جيد في المهام المقابلة حتى مع تقليل كبير في المعلمات.

يخلص المؤلفون إلى أن دمج معلمات الدلتا المتناثرة والمتعامدة هو آلية قوية للتعلم المستمر، حيث تحول تحدي التعلم المتسلسل إلى مشكلة إدارة تعامد المعلمات. وينوون توسيع هذا النهج ليشمل مجالات أخرى، مثل توليد اللغة الطبيعية، في أعمال مستقبلية.