Skill Neologisms: Towards Skill-based Continual Learning
تقترح هذه المقالة "نحت المهارات اللغوية" (skill neegisms)، وهي عبارة عن رموز ناعمة (soft-tokens) مُحسّنة يتم دمجها في مفردات النموذج اللغوي الكبير كحل قابل للتوسع للتعلم المستمر، مما يمكّن النموذج من اكتساب ودمج مهارات جديدة دون الحاجة إلى تحديث الأوزان أو التعرض للنسيان الكارثي.
المؤلفون الأصليون:Antonin Berthon, Nicolas Astorga, Mihaela van der Schaar
تخيل أن لديك أمينة مكتبة بارعة ومطلعة (النموذج اللغوي الكبير) تتقن مهاماً عديدة: فرز الكتب، وحساب الأرقام، وكتابة القصائد، وترجمة اللغات. ولكن ماذا لو أردت تعليم هذه الأمينة حيلة جديدة تماماً، مثل "فرز الكتب حسب اللون"، دون أن تنسى كيف تفرز الكتب حسب المؤلف أو تحسب الأرقام؟
هذا هو المشكل الذي يعالجه هذا العمل. عادةً، يتطلب تعليم الأمينة حيلة جديدة إعادة تدريب دماغها بالكامل، وهو ما يحمل خطر جعلها تنسى المهارات القديمة (وهي مشكلة تُعرف باسم "النسيان الكارثي") أو ببساطة جعلها تشعر بالارتباك.
يقترح المؤلفون حلاً ذكياً يسمى "النيولوجيزم المهاراتي" (Skill Neologisms) أو "المصطلحات المبتكرة للمهارات".
إليك كيف يعمل ذلك، مقسماً إلى مفاهيم بسيطة:
1. المشكلة: فخ "الكل أو لا شيء"
الطريقة القديمة (الضبط الدقيق - Fine-tuning): تخيل أنك تحاول تعليم الأمينة مهارة جديدة عن طريق إعادة كتابة موسوعتها بالكامل. هذا ينجح، لكنك قد تمحو بالخطأ الصفحة المتعلقة بـ "الفرز حسب المؤلف".
طريقة "الأمر" (Prompting): تخيل أنك تهمس بتعليمات للأمينة قبل أن تبدأ عملها ("يرجى الفرز حسب اللون"). هذا ينجح لمهمة محددة، لكن التعليمات مرتبطة بتلك الوظيفة تحديداً. لا يمكنك ببساطة دمج "الفرز حسب اللون" مع "حساب الأرقام" عبر الهمس بشيئين مختلفين في آن واحد.
يقترح المؤلفون منح الأمينة كلمة مفردة جديدة (نيولوجيزم) تعمل مثل مفتاح سحري.
المفهوم: بدلاً من إعادة كتابة دماغ الأمينة، أنت تضيف "رمزاً ناعماً" (soft token) جديداً غير مرئي (كلمة رقمية خاصة) إلى قاموسها.
كيف يتم تعلمه: تعرض على الأمينة آلاف الأمثلة حيث تظهر هذه الكلمة الجديدة جنباً إلى جنب مع المهمة التي تتعلمها (مثل "ColorSort"). أنت تقوم بتدريب هذه الكلمة الجديدة فقط لتفهم المهمة، تاركاً دماغ الأمينة الأصلي متجمداً تماماً دون أي تغيير.
النتيجة: عندما تستخدم كلمة "ColorSort" في أمر (prompt)، تعرف الأمينة فوراً كيفية تنفيذ هذه المهمة المحددة دون الحاجة لإعادة تعلم أي شيء آخر.
3. القوة الخارقة: الدمج والتجميع (Composition)
السحر الحقيقي يحدث عند دمج هذه الكلمات الجديدة.
التشبيه: تخيل أن لدى الأمينة مجموعة من قطع "الليغو" (Lego). بعض القطع قديمة (مهارات تعرفها بالفعل). يقوم المؤلفون بإنشاء قطع "ليغو" جديدة ومخصصة (النيولوجيزم) لمهارات جديدة.
الادعاء: يوضح العمل أنه إذا علمت الأمينة مهارتين جديدتين بشكل منفصل (مثل "ColorSort" و "SizeSort")، يمكنك لاحقاً إعطاؤها أمراً يحتوي على الكلمتين معاً ("ColorSort" + "SizeSort")، وتستطيع الأمينة استيعاب كيفية تنفيذ كلتا المهمتين في وقت واحد، رغم أنها لم تُدرب أبداً على هذا الجمع المحدد بينهما.
لماذا هذا مهم: هذا يعني أنه يمكنك بناء مكتبة من المهارات. يمكنك تعلم مهارة جديدة اليوم، وأخرى غداً، ودمجهما لاحقاً دون الحاجة أبداً لإعادة تدريب النظام بأكمله.
4. ما أثبتوه فعلياً
اختبر الباحثون هذه الفكرة في بيئة "شبه رياضية" محكومة (ليس بعد في المحادثات البشرية الحقيقية). لقد أنشأوا أمينة مكتبة رقمية وعلموها طرقاً جديدة للتلاعب بالأرقام.
وجدوا أن:
لا يوجد نسيان: لم تنسَ الأمينة المهارات القديمة عند تعلم مهارات جديدة.
الدمج يعمل: استطاعت الأمينة دمج مهارة جديدة مع مهارة قديمة لم ترَ هذا الجمع من قبل.
الدمج الصفري (Zero-Shot Combination): استطاعوا تعليم المهارة (أ) والمهارة (ب) بشكل منفصل، ثم دمجهما فوراً دون تدريب إضافي.
"النقطة المثالية": اكتشفوا أن "الكلمات السحرية" الجديدة يجب ألا تكون طويلة جداً أو معقدة للغاية. إذا كانت الكلمة كبيرة جداً، ستصاب الأمينة بالارتباك وتنسى كيفية دمجها مع المهارات الأخرى. الكلمة الصغيرة والمركزة هي الأفضل.
5. العقبة (القيود)
العمل صادق بشأن ما لا يحققه حالياً:
لا يزال نموذجاً أولياً: لقد اختبروا هذا على مهمة رياضية اصطناعية صغيرة، وليس على كتابة الروايات أو تشخيص الأمراض.
تحتاج إلى البيانات الصحيحة: لتعليم مهارة جديدة، تحتاج إلى مجموعة بيانات تتطلب فيها كل عينة تلك المهارة المحددة. إذا كانت البيانات غير منظمة، فلن تتعلم "الكلمة السحرية" الجديدة بشكل صحيح.
الأمر ليس مجانياً: على الرغم من أنه يوفر مساحة التخزين مقارنة بإعادة كتابة الدماغ بالكامل، إلا أن تدريب هذه الكلمات الجديدة لا يزال يتطلب قدرة حوسبية كبيرة.
الملخص
فكر في "النيولوجيزم المهاراتي" كإضافة "أزرار تحكم عن بعد" متخصிரة وجديدة لجهاز تلفاز. بدلاً من إعادة بناء التلفاز لإضافة قناة جديدة، أنت ببساطة تضيف زراً، والذي عند الضغط عليه، يقوم بتنشيط مجموعة محددة من الدوائر التي يمتلكها التلفاز بالفعل. والأفضل من ذلك؟ يمكنك الضغط على زرين في وقت واحد، وسيعرف التلفاز كيفية التعامل مع كلا القناتين في آن واحد. يوضح هذا العمل أن نهج "الزر" هذا يعمل مع الذكاء الاصطناعي، مما يسمح له بتعلم مهارات جديدة باستمرار دون نسيان المهارات القديمة.
ملخص تقني: النيولوجيزم المهاراتي: نحو تعلم مستمر قائم على المهارات
1. بيان المشكلة
تُظهر النماذج اللغوية الكبيرة (LLMs) الحديثة إتقانًا لمجموعة واسعة من المهارات، بالإضافة إلى القدرة على دمجها بمرونة. ومع ذلك، لا يزال توسيع هذه القدرات لتشمل مهارات جديدة بطريقة قابلة للتوسع مشكلة مفتوحة. تواجه الأساليب الحالية قيودًا كبيرة:
الضبط الدقيق (Fine-Tuning) والضبط الدقيق الفعال للمعلمات (PEFT): تحمل أساليب مثل LoRA خطر النسيان الكارثي للمهارات التي تم إتقانها سابقًا، ويمكن أن تؤدي إلى مخاطر تتعلق بالسلامة.
الأساليب القائمة على السياق: يُظهر التعلم داخل السياق (ICL) تعبيرًا محدودًا، ويتقيد بنطاق السياق الفعال للنموذج.
ضبط المطالبات (Prompt Tuning): على الرغم من فعاليته في تكييف المهام، إلا أن البادئات المتعلمة تكون عادةً خاصة بالمهمة وليس بالمهارة. ولا يمكن دمجها أو تكييفها مع سيناريوهات جديدة دون إعادة تدريب، مما يؤدي إلى الفشل في دعم الجمع الصفري (zero-shot) للمهارات المتعلمة بشكل مستقل.
يُعرف المقال التعلم المستمر القائم على المهارات بأنه الهدف المتمثل في تعلم مهارات جديدة وقابلة للدمج دون تعديل معاملات النموذج. ولتكون هذه الطريقة عملية وقابلة للتوسع، يجب أن تستوفي ثلاثة خصائص:
لا توجد تحديثات للأوزان: يتم تعلم المهارات الجديدة دون تغيير معاملات النموذج المجمدة.
القابلية للنقل التوليفي: يجب أن تكون المهارات المتعلمة قابلة للدمج مع المهارات الموجودة، بما في ذلك تلك التي تقع خارج توزيع (OOD) مجموعة بيانات التدريب.
الجمع بين مهارات متعددة: يجب أن تكون المهارات المتعددة المتعلمة بشكل مستقل قابلة للدمج بطريقة "الصفر-الخطوة" (zero-shot) دون تدريب مشترك لتركيباتها المحددة.
يقترح المؤلفون النيولوجيزم المهاراتي، وهي طريقة تدمج الرموز الناعمة (soft tokens) مباشرة في مفردات النموذج لتمثيل المعرفة الإجرائية المحددة.
المكونات الأساسية
التدريب المرتكز على المهارة: على عكس مجموعات البيانات المرتكزة على المهام، حيث تسحب العينات ضمنيًا من مهارات متنوعة، يتم تدريب النيولوجيزم المهاري على مجموعات بيانات تتطلب فيها كل عينة المهارة المستهدفة، ممزوجة مع مهارات أخرى يتقنها النموذج بالفعل. هذا يعزز تعلم تمثيلات قابلة للدمج بشكل عام.
التكامل على مستوى المفردات: يتكون النيولوجيزم المهاراتي من مجموعة من الرموز الناعمة القابلة للتعلم (رمز مهارة) تُضاف إلى مصفوفة التضمين والمفردات الخاصة بالنموذج. يتم تحسين هذه الرموز باستخدام مجموعة البيانات المرتكزة على المهارة بينما تظل معاملات النموذج الأخرى مجمدة.
دالة الإدراج: يتم إدراج رموز المهارة في المطالبة عبر دالة ϕS (على سبيل المثال، عن طريق استبدال كلمة مفتاحية أو إلحاق تعليمات) لتنشيط المهارة المحددة أثناء الاستدلال.
إجراء التدريب
التهيئة: يتم تهيئة مجموعة من الرموز الناعمة (على سبيل المثال، من متوسط تضمين رموز العمليات الموجودة) وتُضاف إلى المفردات.
التحسين: يتم تدريب الرموز باستخدام الانتشار العكسي (backpropagation) عبر النموذج المجمد على مجموعة بيانات مرتكزة على المهارة. يتم تقليل دالة الخسارة (مثل Cross-entropy) حصريًا فيما يتعلق بتضمينات الرموز.
التقييم: يتم قياس الأداء على تركيبات داخل التوزيع (ID) (المهارة المستهدفة + المهارات التدريبية) وتركيبات خارج التوزيع (OOD) (المهارة المستهدفة + المهارات المحجوزة).
3. المساهمات الرئيسية
تقديم النيولوجيزم المهاراتي: يقدم المقال النيولوجيزم المهاراتي كمسار للتعلم المستمر القائم على المهارات، مدفوعًا بأدلة تجريبية على أن النماذج اللغوية الكبيرة سابقة التدريب تمتلك طبيعيًا رموزًا مفرداتية مرتبطة بالمعرفة الإجرائية (على سبيل المثال، الرمز "XOR" يشفر عملية XOR بشكل أفضل من الوصف النصي).
إثبات الخصائص التوليفية: في بيئات خوارزمية محكومة، يوضح المؤلفون أن النيولوجيزم المهاراتي يستوفي الخصائص الثلاث المطلوبة:
يتعلم دون تحديثات للأوزان.
ينجح في الدمج مع مهارات خارج التوزيع (OOD) لم تشهدها عملية التدريب.
يمكن دمج النيولوجيزم المهاراتي المتعلم بشكل مستقل بطريقة "الصفر-الخطوة".
تحليل الاستئصال (Ablation Analysis): يحلل المقال الآليات الكامنة وراء نجاح النيولوجيزم المهاراتي، وبالتحديد استقصاء تأثير سعة الرمز (الطول) وتعقيد تركيبات المهارات في بيانات التدريب.
4. النتائج التجريبية
قيم المؤلفون الطريقة على مجموعة بيانات اصطناعية تتضمن مهامًا لتحويل تسلسلات الأرقام (مثل الفرز، الجمع، الإزاحة) باستخدام نموذج Qwen2.5-0.5B مضبوط دقيقًا.
المقارنة مع الخطوط المرجعية: تمت مقارنة النيولوجيزم المهاراتي مع كل من LoRA وضبط المطالبات (Prompt Tuning).
القابلية للنقل التوليفي (الخاصية 2): بينما حقق LoRA وضبط المطالبات دقة عالية في تركيبات داخل التوزيع (ID)، فشلا في التعميم على تركيبات خارج التوزيع (OOD). وحده النيولوجيزم المهاراتي نجح باستمرار في دمج المهارات الجديدة مع المهارات المحجوزة.
الجمع بين مهارات متعددة (الخاصة 3): تم دمج النيولوجيزم المهاراتي لـ "SHIFT" و "INV-POL" المستقلين بطريقة "الصفر-الخطوة". أدى النيولوجيزم المهاراتي أداءً أفضل بكثير من خطوط مرجعية للتعلم داخل السياق (ICL) عبر مختلف أطوال التسلسل، مما يثبت أن الرموز تلتقط معرفة إجرائية قابلة لإعادة الاستخدام بدلاً من الاعتماد على استخراج الأنماط من الأمثلة.
نتائج الاستئصال:
سعة الرمز: هناك مقايضة فيما يتعلق بطول الرمز. بينما تساعد السعة الأكبر على التعلم، فإن السعة المفرطة (مثل طول > 20) قللت من التعميم خارج التوزيع (OOD)، مما يشير إلى أن السعة المحدودة تعمل كتحيز استقرائي للتمثيلات القابلة للدمج.
تعقيد التدريب: أدى التدريب على تركيبات أكثر تعقيدًا (مثل تركيبات 3 مهارات) إلى تحسين التعميم لتركيبات 2-مهارة و 3-مهارة خارج التوزيع.
التهيئة: بينما قدمت التهيئة من تضمينات المهارات سابقة التدريب تحسينات طفيفة، فإن التهيئة العشوائية أدت أيضًا إلى قدرات قوية في الدمج خارج التوزيع.
5. الأهمية والادعاءات
يزعم المقال أن النيولوجيزم المهاراتي يوفر مسارًا قابلًا للتوسع للتعلم المستمر القائم على المهارات. من خلال الاستفادة من القدرات التوليفية الموجودة في النموذج ودمج الرموز الناعمة على مستوى المفردات، تتيح هذه الطريقة الإضافة التدريجية لمهارات جديدة دون نسيان كارثي أو الحاجة إلى إعادة تدريب مشتركة.
يضع المؤلفون هذا العمل كـ إثبات مفهوم ضمن إطار تجريبي محكوم. وهم يقرون بالقيود، بما في ذلك ضرورة بناء مجموعات بيانات متنوعة مرتكزة على المهارات، وعدم الاستقرار المتأصل في التحسين عند تدريب الرموز الناعمة، والتكاليف الحسابية للانتشار العكسي عبر النموذج بأكمله أثناء التدريب. ومع ذلك، تشير النتائج إلى أن التدخلات على مستوى المفردات يمكن أن تشفر المعرفة الإجرائية بفعالية وتمكن النماذج اللغوية الكبيرة من توسيع قدراتها بطريقة محكومة وقابلة للدمج.