ملخص تقني: الفضاءات الفرعية المشتركة لـ LoRA من أجل تعلم مستمر شبه صارم

بيان المشكلة

تواجه عملية تكييف النماذج الضخمة سابقة التدريب (مثل نماذج اللغات الكبيرة LLMs، والنماذج البصرية واللغوية VLMs، ونماذج الانتشار Diffusion models) مع مهام جديدة بشكل مستمر تحديين رئيسيين: النسيان الكارثي (catastrophic forgetting) والتكلفة الحسابية والذاكرة العالية لإعادة التدريب. وبينما تقلل طرق الضبط الدقيق كفؤة المعلمات مثل (Low-Rank Adaptation - LoRA) من عدد المعلمات القابلة للتدريب، فإن تطبيقات LoRA القياسية تتطلب عادةً محولات (adapters) منفصلة لكل مهمة. هذا النهج يعيق مشاركة المعرفة بين المهام، ويفشل في دعم التعلم المستمر الصارم (Strict Continual Learning) (التعلم دون إعادة تشغيل البيانات، أو إضافة نماذج، أو زيادة حجم النموذج)، ويؤدي إلى استخدام غير فعال للموارد مع توسع عدد المهام. تعتمد الطرق الحالية غالبًا على فضاءات فرعية متعامدة أو أنظمة خليط الخبراء (mixture-of-experts) التي لا تزال تنتهك قيود التعلم المستمر الصارم عبر اشتراط وجود نسخ متعددة من النموذج أو مجموعات معلمات متنامية.

المنهجية: Share

يقترح المؤلفون Share، وهو إطار عمل مبتكر للضبط الدقيق المستمر كفء المعلمات (PaCT)، والذي يعمل على تعلم وتحديث فضاء فرعي منخفض الرتبة مشترك وواحد لاستيعاب مهام وأنماط متعددة.

الفرضية الجوهرية

تستند Share إلى فرضية أن محولات LoRA للمهام والأنماط المتشابهة تشترك في فضاء فرعي منخفض الرتبة واحد. ومن خلال تحديد متجهات القاعدة الرئيسية لهذا الفضاء الفرعي، يمكن التعبير عن المحولات الجديدة كتركيبات خطية لهذه القواعد، مما يلغي الحاجة إلى محولات منفصلة خاصة بكل مهمة.

سير العمل الخوارزمي

تعمل الطريقة عبر ثلاث مراحل لكل طبقة من طبقات النموذج سابقة التدريب:

1. التهيئة (Initialization):

   • يتم تهيئة الفضاء الفرعي التأسيسي (متجهات القاعدة الرئيسية) باستخدام $t \ge 1$ من محولات LoRA الموجودة.
   • يتم تجميع مصفوفات LoRA ($A$ و $B$) من المهام السابقة، وتوسيطها، ثم إخضاعها لـ "تفكيك القيم المفردة" (SVD).
   • يتم اختيار أفضل $k$ من متجهات القاعدة الرئيسية ($\alpha, \beta$) لتشغل الفضاء الفرعي المشترك القابل لإعادة الاستخدام.
   • يتم تدريب المعاملات الخاصة بالمهمة ($\epsilon$) التي تم تهيئتها عشوائيًا فقط، بينما تظل متجهات القاعدة ثابتة. هذه التهيئة لا تعتمد على البيانات ولا على التدرج (data- and gradient-free).

2. التكيف المستمر (Continual Adaptation):

   • عند استقبال بيانات جديدة أو محول LoRA جديد، يقوم النظام بتوسيع الفضاء الفرعي مؤقتًا عبر إدخال $\phi$ من متجهات القاعدة المؤقتة ومعاملاتها.
   • يتم تحسين هذه المكونات المؤقتة لالتقاط المعلومات الجديدة مع الحفاظ على الفضاء الفرسي التأسيسي.

3. الدمج والضبط الدقيق (Merging & Fine-tuning):

   • يتم دمج متجهات القاعدة المؤقتة مع الفضاء الفرعي التأسيسي الموجود.
   • يتم حساب متجهات القاعدة المشتركة الجديدة عبر SVD للمحولات المعاد بناؤها والمجمعة.
   • يتم إعادة حساب المعاملات الخاصة بالمهمة تحليليًا باستخدام إسقاط المصفوفات ومقلوب "مور-بنروز" (Moore-Penrose pseudoinverse) لتقليل خطأ إعادة البناء.
   • تسمه هذه العملية بضغط مئات المحولات في مجموعة واحدة من العوامل دون الحاجة لإعادة تشغيل البيانات.

التحليل النظري

تقدم الورقة حدودًا نظرية لخطأ إعادة البناء وتقليل المخاطر التجريبية. وتوضح أنه إذا كانت المهمة الجديدة تقع إلى حد كبير ضمن الفضاء الفرعي الرئيسي المشترك، فإن حد الخطأ لتقريب Share يكون أدق من التكيف كامل الرتبة (full-rank adaptation). تقوم الطريقة بتقريب "فضاء أوزان النموذج العالمي" ديناميكيًا، بدلاً من استخراجه مسبقًا.

المساهمات الرئيسية

• تعلم مستمر خالٍ من إعادة التشغيل (Replay-Free): تقدم طريقة للنماذج الضخمة سابقة التدريب تتعلم باستمرار دون إعادة تشغيل البيانات، أو نماذج إضافية، أو نمو في المعلمات، مما يقترب من شروط "التعلم المستمر الصارم".
• تكامل التدفق الهجين: تتيح التعلم المستمر من تدفقات هجينة من كل من البيانات الخام ومحولات LoRA سابقة التدريب، ودمجها بسلاسة في نموذج واحد.
• كفاءة قصوى: تحقق خفضًا يصل إلى 100 ضعف في المعلمات القابلة للتدريب و281 ضعفًا في توفير الذاكرة مقارنة بطرق LoRA التقليدية.
• نشر قابل للتوسع: يمكن لمجموعة واحدة من عوامل Share الأساسية أن تحل محل مئات من محولات LoRA الخاصة بالمهام، مما يسهل عملية تقديم النماذج بشكل غير متزامن وقابل للتوسع.
• قابلية تطبيق واسعة: تم التحقق من صحتها عبر أنماط متنوعة تشمل تصنيف الصور، وتقدير وضعية الأجسام ثلاثية الأبعاد، وفهم اللغة الطبيعية، وتوليد الصور من النصوص.

النتائج التجريبية

قيم المؤلفون Share عبر عدة اختبارات مرجعية، مقارنة بـ LoRA غير المستمر (محولات منفصلة)، وJoint LoRA (الحد الأعلى)، وغيرها من خطوط الأساس للتعلم المستمر.

• فهم اللغة الطبيعية (اختبار GLUE):

  • حققت Share متوسط أداء قدره 83.44% باستخدام 0.012 مليون معلمة فقط (0.29 ميجابايت).
  • وهذا يطابق أداء LoRA غير المستمر (83.43%) الذي تطلب 7.2 مليون معلمة (81.6 ميجابايت) عبر ستة محولات.
  • أظهرت الطريقة نقل معرفة عكسي (backward knowledge transfer)، حيث أدى تعلم المهام اللاحقة إلى تحسين الأداء في المهام السابقة (على سبيل المثال، تحسنت درجات CoLA من 56.00 إلى 59.81).

• تصنيف الصور (CIFAR-100, Food-101، إلخ):

  • في CIFAR-100، حققت Share دقة بنسبة 94.20% بـ 0.10 مليون معلمة، مما يطابق الحد الأعلى ويتفوق على أفضل طريقة تالية (DAP) التي تطلبت تقريبًا ضعف عدد المعلمات.
  • أظهرت Share باستمرار أدنى معدلات النسيان بين جميع الطرق المختبرة.

• تقدير وضعية الأجسام ثلاثية الأبعاد:

  • باستخدام Pascal3D+، عملت Share بـ 1 مليون معلمة فقط (مقابل 25 مليونًا للنماذج المرجعية) تحت ظروف خالية تمامًا من إعادة التشغيل.
  • تفوقت على الطرق التي تعتمد على إعادة التشغيل (مثل iNeMO) عبر جميع مستويات الاحتجاب، محققة دقة بنسبة 81.80% في مهمة P3D.

• توليد الصور من النصوص:

  • عند تطبيقها على نموذج Flux، أدارت Share أربع مهام مستمرة لأنماط فنية باستخدام مجموعة واحدة من العوامل.
  • أظهرت النتలు النوعية أداءً مشابهًا لمحولات LoRA الفردية، مع تقليل حجم النموذج بمقدار 20 ضعفًا لأول أربع مهام.

• التعلم غير المتزامن واسع النطاق:

  • في تجربة شملت 500 محول LoG (مع وصول 50 منها بشكل تدريجي)، حافظت Share على 90-99% من الأداء الأصلي في المهام داخل التوزيع (in-distribution).
  • في المهام خارج التوزيع (OOD)، حققت Share متوسط درجة Rouge-L قدرها 55.89، متفوقة بشكل كبير على طرق دمج النماذج غير المستمرة (TIES) ومقتربة من أداء LoRA الفردي (73.75).

الأهمية والادعاءات

تزعم الورقة أن Share هي من أوائل الأعمال التي تقدم حلاً قابلاً للتطبيق لـ الضبط الدقيق المستمر كفء المعلمات القابل للتطبيق على نماذج متنوعة ومعقدة. تكمن أهميتها في:

1. ديمقراطية الوصول: من خلال تقليل متطلبات الذاكرة والحوسبة بشكل جذري، تتيح للأبحاث والمستخدمين العاديين ذوي الموارد المحدودة إجراء ضبط دقيق مستمر لأنظمة الذكاء الاصطناي الضخمة.
2. الأثر البيئي: يساهم تقليل استخدام الموارد في خفض البصمة البيئية لنشر النماذج.
3. القابلية للتوسع العملي: توفر حلاً عمليًا للتعلم مدى الحياة في الأنظمة واسعة النطاق، مما يسمح بإعادة استخدام موارد المجتمع (محولات LoRA) ويدعم نماذج التعلم غير المتزامنة والقابلة للتوسع دون العبء الحسابي لدمج النماذج التقليدي.

يشير المؤلفون إلى أنه بينما يركز العمل الحالي على الضبط الدقيق، فإن العمل المستقبلي يهدف إلى توسيع نطاق Share لدعم التعلم من الصفر.