🤖 machine learning

CRAFT: Forgetting-Aware Intervention-Based Adaptation for Continual Learning

يُعد CRAFT إطار عمل للتعلم المستمر لنماذج اللغات الكبيرة يعمل على التخفيف من النسيان الكارثي عبر تعلم تدخلات منخفضة الرتبة على التمثيلات الخفية من خلال عملية موحدة ثلاثية المراحل تشمل توجيه المهام، والضبط الدقيق القائم على تباين كولباك - ليبلر، ودمج التدخل، مما يجعله يتفوق على النهج القوية القائمة على LoRA عبر معايير متعددة.

المؤلفون الأصليون: Md Anwar Hossen, Fatema Siddika, Juan Pablo Munoz, Tanya Roosta, Ali Jannesari

نُشر 2026-05-08

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Md Anwar Hossen, Fatema Siddika, Juan Pablo Munoz, Tanya Roosta, Ali Jannesari

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك أمين مكتبة عبقرياً ومُدرباً تدريباً عالياً (النموذج اللغوي الكبير) يعرف الكثير عن التاريخ، والعلوم، والطهي. تريد تعليم هذا الأمين مهارات جديدة كل يوم: اليوم يتعلم البرمجة، وغداً تلخيص الوثائق القانونية، وفي اليوم التالي كتابة الشعر.

المشكلة في طرق التعليم التقليدية هي أنه لكي يتعلم شيئاً جديداً، يتعين على أمين المكتبة إعادة كتابة دماغه نفسه. وفي كل مرة يتعلم فيها مهارة جديدة، فإنه يمسح أو يبعثر ذكرياته القديمة بالخطأ. وهذا ما يسمى بـ "النسيان الكارثي" (Catastrophic Forgetting). إذا تعلم البرمجة، فقد ينسى كيفية كتابة الشعر.

إن تقنية CRAFT هي طريقة جديدة لتعليم أمين المكتبة هذا، وهي تحل هذه المشكلة دون الحاجة أبداً إلى إعادة كتابة دماغه. إليك كيف تعمل، باستخدام تشبيهات بسيطة:

1. "القصاصات اللاصقة" بدلاً من إعادة كتابة الدماغ

بدلاً من إجبار أمين المكتبة على تغيير ذاكرته الدائمة (أوزان النموذج)، تمنحه CRAFT مجموعة من القصاصات اللاصقة (التدخلات).

الدماغ: تظل معرفة أمين المكتبة الأصلية مجمدة وغير ملموسة؛ فهي لا تتغير أبداً.
القصاصات اللاصقة: عندما تأتي مهمة جديدة، تقوم CRAFT بكتابة "تعليمات" صغيرة ومنخفضة الرتبة (low-rank) على قصاصة لاصقة وتلصقها على عملية التفكير الحالية لأمين المكتبة.
النتيجة: يمكن لأمين المكتبة أداء المهمة الجديدة ببراعة باستخدام الملاحظة، لكن دماغه الأصلي يظل تماماً كما كان. لا تُمسح أي ذكريات قديمة لأن الدماغ نفسه لم يُلمس.

2. "المُصنف الذكي" (التوجيه - Routing)

لا يمكنك مجرد إعطاء أمين المكتبة قصاصة عشوائية لكل مهمة؛ لأن ذلك سيؤدي إلى الفوضى. تستخدم CRAFT مُصنفاً ذكياً لتنظيم هذه القصاصات.

الإحماء: عندما تصل مهمة جديدة (مثل "تلخيص اجتماع")، تقوم CRAFT بتجربتها لفترة وجيزة لترى نوع "الانطباع" أو المخرج الذي تنتجه.
المطابقة: تقوم بمقارنة هذا الانطباع مع مجموعات القصص اللاصقة الموجودة بالفعل.
- إذا شعرت المهمة الجديدة أنها تشبه "الأخبار المالية"، فسيتم دمجها مع قصاصات "التمويل" الموجودة حالياً.
- إذا كانت مختلفة تماماً، مثل "كتابة كود بايثون"، فستحصل على مجموعتها الخاصة الجديدة.
لا دماغ إضافي: من الناحية الجوهرية، لا يحتاج هذا المصنف لتعلم أي شيء جديد بنفسه؛ فهو فقط ينظر إلى المخرجات ويقول: "أوه، هذا يبدو مثل المجموعة (أ)"، أو "هذا جديد، فلنجعل منه المجموعة (ب)".

3. "الحارس" (التحكم في النسيان)

هذا هو الجزء الأكثر ذكاءً. عندما يتعلم أمين المكتبة مهمة جديدة باستخدام قصاصة لاصقة، هناك خطر من أن تؤثر الملاحظة الجديدة بالخطأ على الملاحظات القديمة في نفس المجموعة.

المرساة (The Anchor): تأخذ CRAFT "لقطة" لما كانت تعرفه المجموعة قبل وصول المهمة الجديدة. هذه هي المرساة.
فحص السلامة: بينما يتعلم أمين المكتبة المهمة الجديدة، تقوم CRAFT بالتحقق باستمرار: "هل تبتعد كثيراً عما كانت تعرفه المجموعة سابقاً؟"
إشارة KL: تستخدم مقياساً رياضياً يسمى تباعد KL (تخيله كـ "مقياس الانحراف") لقياس المسافة بين السلوك الجديد والسلوك القديم.
- إذا كان الانحراف صغيراً، فإن الملاحظة الجديدة آمنة للاحتفاظ بها.
- إذا كان الانحراف ضخماً (بمعنى أن المهمة الجديدة مختلفة جداً لدرجة أنها قد تفسد المهام القديمة)، فإن النظام يوقف التدريب أو ينقل المهمة إلى مجموعة جديدة.
الدمج: بمجرد تعلم المهمة بأمان، يتم دمج الملاحظة الجديدة مرة أخرى في المجموعة المشتركة، مما يحدث معرفة المجموعة دون كسر الأشياء القديمة.

لماذا هذا أفضل؟

الكفاءة: تستخدم عدداً أقل بكثير من "القصاصات اللاصقة" (المعلمات/Parameters) مقارنة بالطرق الأخرى لأنها تشارك الملاحظات بين المهام المتشابهة.
لا نسيان: نظرًا لأن دماغ الأصل يبقى مجمدًا ويتم إدارة الملاحظات بعناية، فإن أمين المكتبة يتذكر كل ما تعلمه بالأمس أثناء تعلمه لليوم.
البساطة: لا تحتاج إلى نظام "بوابات" معقد لتقرير ما يجب فعله؛ فهي فقط تنظر إلى المخرجات وتُنظم الأمور بشكل طبيعي.

الخلاصة

تعامل CRAFT التعلم المستمر ليس كعملية "إعادة كتابة الدماغ"، بل كعملية تنظيم مكتبة من القصصات اللاصقة. ومن خلال إبقاء الدماغ مجمدًا واستخدام "مقياس انحراف" واحد لضمان عدم إفساد الملاحظات الجديدة للملاحظات القديمة، فإنها تسمح للنماذج اللغوية الكبيرة بالتعلم للأبد دون أن تنسى هويتها.

ملخص تقني: CRAFT – التكيف القائم على التدخل الواعي بالنسيان للتعلم المستمر

1. بيان المشكلة

تعاني النماذج اللغوية الكبيرة (LLMs) من النسيان الكارثي عند تكييفها مع مهام جديدة عبر الضبط الدقيق (fine-tuning). يحدث هذا لأن الضبط الدقيق القياسي يقوم بتحديث نفس المعلمات التي تشفر المعرفة السابقة، مما يخلق مقايضة متأصلة بين المرونة (تعلم مهام جديدة) والاستقرار (الاحتفاظ بالمهام القديمة). الحلول الحالية — مثل التنظيم (مثل EWC)، أو آليات إعادة التشغيل (replay mechanisms)، أو القيود الهيكلية مثل مجموعات LoRA — تعمل ضمن فضاء المعلمات، حيث ينشأ الصراع. غالبًا ما تتطلب هذه الأساليب آليات بوابات (gating) متعلمة (وهي نفسها عرضة للنسيان) أو مراجع ثابتة تفشل في التقاط المعرفة المشتركة المتطورة.

تفترض الورقة أن التعلم المستمر يجب إعادة صياغته ليس كمشكلة تنافس في المعلمات، بل كعملية تنظيم وتحكم في التدخلات على مستوى التمثيل (representation-level interventions). ومن خلال إبقاء أوزان النموذج الأساسي مجمدة وتحرير التمثيلات الخفية في فضاء فرعي منخفض الرتبة، يتم إزالة مصدر التداخل على مستوى الوزن. ومع ذلك، تظل هناك تحديات في التعلم القائم على التمثيل: كيف يمكن مشاركة السعة عبر المهام المتشابهة دون إجبار المهام غير المرتبطة على التنافس، وكيف يتم توجيه المهام بدون بوابة متعلمة، وكيف يمكن التحكم في النسيان أثناء التكيف دون الحد من الكفاءة.

2. المنهجية: CRAF

CRAFT (التدريب الدقيق المستمر المرتبط بتمثيل مرساة) هو إطار عمل يقوم بالتوجيه، والتكيف، والدمج بالكامل في فضاء التمثيل دون تعديل أوزان النموذج. وهو يستفيد من LoReFT (الاستكمال الفرعي الخطي منخفض الرتبة - Low-rank Linear Subspace ReFT)، الذي يقوم بتحرير الحالات الخفية $h^{(l)}$ عند مواضع رموز (tokens) محددة باستخدام دالة تدخل منخفضة الرتبة $\Phi(h^{(l)}; \phi) = h^{(l)} + R^\top(W h^{(l)} + b - R h^{(l)})$ .

يعمل إطار العمل عبر ثلاث مراحل موحدة مدفوعة بإشارة تباعد كولباك - ليبلر (KL divergence) واحدة:

أ. بنية التدخل (Intervention Architecture)

يقسم CRAFT التدخلات عبر تدفقين من المطالبات (prompts) داخل تيار المتبقي (residual stream):

تدفق f (f-stream): يُطبق على أول $t_{pos}$ من الرموز (البادئة/prefix)، لترميز التعليمات.
تدفق l (l-stream): يُطبق على آخر $t_{pos}$ من الرموز (اللاحقة/suffix)، حيث يتم الالتزام بالمخرجات.
تتشارك المهام ضمن مجموعة مهام متشابهة $S_k$ حالة تدخل مشتركة $\phi_{S_k}$ ، بينما تظل المهام في المجموعات المختلفة معزولة.

ب. التوجيه الحتمي (بدون بوابة متعلمة)

بدلاً من الموجه (router) القابل للتدريب، يستخدم CRAFT تباعد توزيع المخرجات لتعيين المهام:

الإحماء (Warm-up): تخضع المهمة الجديدة $\tau_t$ لفترة إحماء قصيرة ( $S_{wu}$ خطوات) من بذرة عشوائية مشتركة لإنتاج تدخل مؤقت $\tilde{\phi}^{(t)}$ .
حساب المسافة: تتم مقارنة توزيع المخرجات $\pi_{\tilde{\phi}^{(t)}}$ مع التوزيعات المخزنة للمجموعات الحالية $S_k$ باستخدام مسافة KL متماثلة ومنظمة:
$d(t, k) = \frac{D_{KG_k}}{\max(\min(D_K, D_{G_k}), \epsilon)}$
حيث $D_K$ هي مسافة المهمة عن الخط المرجعي، و $D_{G_k}$ هي مسافة المجموعة عن الخط المرجعي، و $D_{KG_k}$ هي المسافة بين المهمة والمجموعة.
التعيين: إذا كان $d(t, k) \le \delta$ ، تنضم المهمة إلى المجموعة $S_k$ . خلاف ذلك، يتم إنشاء بذرة لمجموعة جديدة. هذا لا يتطلب أي معلمات توجيه قابلة للتدريب أو معرفات للمهام.

ج. التكيف والدمج المنظم بـ KL

بمجرد التعيين لمجموعة $S_k$ :

الترسيخ (Anchoring): يتم تجميد حالة المجموعة الحالية $\phi_{S_k}$ كمرساة $\phi_{anchor}$ .
التدريب: يتم تدريب تدخل المهمة $\phi^{(t)}$ $ϕ^{(t)}$ على المهمة الجديدة باستخدام دالة خسارة:
$L_{total} = L_{\tau}(\phi^{(t)}) + \beta \cdot KL(\pi_{\phi_{anchor}} \parallel \pi_{\phi^{(t)}})$
تعمل حد KL كإشارة موحدة تقوم بـ:
- تنظيم (Regularizes) التدريب لمنع الانحراف عن المعرفة السابقة للمجموعة.
- التنبؤ بالنسيان: بناءً على القوانين التجريبية (Shenfeld et et al., 2025)، يرتبط تباعد KL العالي بالنسيان. إذا تجاوز متوسط KL في الحقبة (epoch) الأولى العتبة $\eta$ ، يتم طرد المهمة إلى مجموعة جديدة.
الدمج (Merging): عند التقارب، يقوم $\phi^{(t)}$ المدرب باستبدال الحالة المشتركة $\phi_{S_k}$ .

3. المساهمات الرئيسية

التعلم المستمر على مستوى التدخل: يعد CRAFT أول إطار عمل يقوم بعمليات التوجيه، والتكيف، والدمج بالكامل في فضاء التمثيل دون تعديل أوزان النموذج.
التوجيه الحتمي بدون بوابات متعلمة: يلغي الحاجة إلى معلمات توجيه قابلة للتدريب باستخدام فترة إحماء قصيرة وتباعد KL لتوزيع المخرجات لتعيين المهام، مما يجعل الموجه قويًا ضد النسيان.
التحكم الموحد في النسيان: يقدم إشارة واحدة قائمة على KL تعمل في آن واحد على تنظيم انحراف التدريب، والتنبؤ بالنسيان، وحكم دمج المعرفة الجديدة، مستبدلةً بذلك الاستدلالات المنفصلة.
التحقق التجريبي: تم التحقق من نهج العمل عبر ثلاثة نماذج لغوية كبيرة مختلفة (Llama-3.2-1B, Gemma-2B, Llama-2-7B) ومعايير متنوعة (TRACE, Math-LLM, O-LoRA sequences).

4. النتائج التجريبية

تم تقييم CRAF مقابل نماذج مرجعية قوية تشمل SeqLoRA, GEM, EWC, L2P, DualPrompt, HiDeLoRA, O-LoRA, TreeLoRA, والأساليب الحديثة مثل SAPT و TASL.

مكاسب الأداء: يحسن CRAF الأداء الإجمالي (OP) بما يصل إلى 8.03% (على Llama-3.2-1B) مقارنة بأفضل الطرق الحالية.
تقليل النسيان: يقلل معدل نسيان النقل الخلفي (Backward Transfer - BWT) بمقدار يصل إلى 6.49%. في تدفق مكون من 15 مهمة باستخدام Llama-3.2-1B، حقق CRAF BWT بنسبة 2.60% مقارنة بـ 6.41% لـ TreeLoRA و 10.99% لـ O-LoRA.
كفاءة المعلمات: يستخدم CRAF معلمات تدخل أقل بـ 3.75 مرة من النماذج المرجعية القوية القائمة على LoRA. على سبيل المثال، في Llama-3.2-1B مع 15 مهمة، تطلب CRAF فقط 4.20 مليون معلمة مقابل 15.73 مليون لمعيار LoRA.
المتانة: يظل النهج قويًا عبر ترتيبات المهام المختلفة وغير حساس للتغيرات في عتبة التوجيه $\delta$ وطول الإحماء $S_{wu}$ ضمن نطاق واسع.
الثبات عبر المجموعات: يؤكد التحليل النظري والتجريبي أن تدريب مهمة في عنقود (cluster) واحد لا يؤثر على مخرجات الاستدلال للمهام في العناقيد الأخرى، حيث أن نطاق المُحسّن (optimizer) يمس فقط تدخل المجموعة المحددة.

5. الأهمية والادعاءات

تدعي الورقة أن التحكم في التكيف في فضاء التمثيل، بتوجيه من تباعد فضاء المخرجات، يوفر نهجًا قابلًا للتوسع ومبدئيًا للتعلم المستمر.

إعادة صياغة المقايضة: من خلال إزالة تحديثات الأوزان، ينقل CRAF مقايضة الاستقرار-المرونة من صراع في فضاء المعلمات إلى مشكلة تنظيم تعديلات التمثيل.
التحكم المبدئي في النسيان: يسم الله استخدام تباعد KL كإشارة موحدة يسمح للنظام بقياس والتحكم في النسيان مباشرة بدلاً من الاعتماد على مؤشرات بديلة.
القابلية للتوسع: يتوسع إطار العمل مع عدد مجموعات المهام المكتشفة ( $K$ ) بدلاً من إجمالي عدد المهام ( $T$ )، مما يوفر حلاً أكثر كفاءة لتدفقات المهام الطويلة.
القيود: يقر المؤلفون بأن آلية التوجيه قد تواجه صعوبة مع المهام القريبة من السقف أو التدفقات حيث تكون المهام شبه متطابقة ولكن تُقدم بشكل متتابع (مثل نصفين من نفس مجموعة البيانات)، حيث قد يتشبع مسافة KL المتماثلة. ويقترحون أن العمل المستقبلي قد يتضمن بدء الإحماء من العناقيد الموجودة للتعامل مع مثل هذه الحالات.

جوهر الأمر هو أن CRAF يثبت أنه يمكن التحكم في النسيان الكارثي بفعالية على مستوى مخرجات النموذج من خلال تحرير التمثيل المهيكل، دون الحاجة إلى تقييد أو تعديل الأوزان الأساسية.