Leveraging Routing Dynamics in Mixture-of-Experts Models for Efficient Language Adaptation
تتقصى هذه الورقة ديناميكيات التوجيه متعدد اللغات في نماذج "خليط الخبراء" (Mixture-of-Experts)، حيث تكشف أن التخصص اللغوي يبرز بشكل أساسي في الطبقات النهائية، وتستفيد من هذه الرؤية لاقتراح استراتيجية تكيف فعالة من حيث المعلمات تُحدّث أقل من 2% من المعلمات مع تحقيق أداء متعدد اللغات تنافسي.
تخيل مكتبة هائلة (نموذج لغوي كبير) تعرف كيف تقرأ وتكتب باللغة الإنجليزية بشكل مثالي. ولجعل هذه المكتبة أكثر ذكاءً دون جعل المبنى ضخمًا جدًا أو مكلفًا، أضاف المهندسون ميزة خاصة: خليط من الخبراء (Mixture-of-Experts - MoE).
فكر في المكتبة على أنها تحتوي على 64 فريقًا مختلفًا من أمناء المكتبة (يُطلق عليهم اسم "الخبراء") في كل طابق. وعندما يصل كتاب ما، يقرر مدير (وهو "الموجه" أو الـ "router") أي 8 فرق ستعمل عليه.
المشكلة: بُنيت المكتبة في الأصل للغة الإنجليزية. والآن، يريد المالكون إضافة كتب باللغة الإسبانية، والهندية، ولغات أخرى. ليس لديهم الميزانية لتوظيف موظفين جدد لكل كتاب أو لإعادة تدريب المبنى بأكمله. إنهم بحاجة إلى طريقة رخيصة وسريعة لتعليم المكتبة هذه اللغات الجديدة.
السؤال: كيف تتعامل المكتبة فعليًا مع اللغات المختلفة؟ هل لديها فرق محددة تتحدث الإسبانية فقط؟ أم أن جميع الفرق تعمل معًا بشكل عشوائي ومختلط؟
الجزء الأول: التحقيق (كيف تعمل المكتبة)
أخذ الباحثون المكتبة التي تركز على الإنجليزية وبدأوا في تغذيتها بمزيج متوازن من سبع لغات مختلفة (مثل الإنجليزية، والإسبانية، والهندية، والروسية، إلنت) ليروا كيف يغير "المدير" سلوكه.
اكتشفوا ثلاثة أشياء مفاجئة:
الطوابق الوسطى هي "بقعة انصهار": في منتصف المبنى (الطبقات الوسطى من النموذج)، لا يهتم المدير كثيرًا باللغة. فهو يرسل الكتب إلى مزيج عشوائي من الفرق. الأمر يشبه كافتيريا مزدحمة حيث يأكل الجميع معًا؛ لا أحد يجلس على "طاولة إسبانية" أو "طاولة هندية". التوجيه هنا "منتشر" وغير مرتبط بلغة محددة.
الطابق العلوي هو حيث يحدث السحر: التخصص يحدث فقط في الطابق العلوي (الطبقات النهائية). هنا، يبدأ المدير أخيرًا في قول: "حسنًا، هذا الكتاب باللغة الهندية، فلنرسله إلى فريق متخصص في اللغة الهندية".
النتيجة الرئيسية: المكتبة لا تطور فريقًا منفصلاً لكل لغة على الفور. بل تحافظ على الأمور مختلطة حتى النهاية تمامًا.
الأمر يتعلق بالكلمات، وليس بشجرة العائلة: قد تعتقد أن المدير يجمع اللغات حسب "عائلتها" (مثل الإسبانية والإيطالية لأنهما لغتان رومانسيتان). لكن الباحثين وجدوا شيئًا أكثر إثارة للاهتمام: المدير يجمع اللغات بناءً على عدد الكلمات التي تشترك فيها.
التشبيه: تخيل شخصين يتحدثان لغات مختلفة ولكنهما بالصدفة يعرفان 90% من نفس الكلمات (مثل الهندية والمراثية). المدير يعاملهما تقريبًا كأنه شخص واحد. ولكن إذا كانت لغتان "قريبتين" ولكن تشتركان في كلمات قليلة جدًا (مثل الإنجليزية والهولندية)، فإن المدير يعاملهما كغرباء تمامًا. تداخل المفردات هو السيد الحقيقي هنا.
الجزء الثاني: الحل (استراتيجية "الانتقائية والمشتركة")
الآن بعد أن عرفوا كيف تعمل المكتبة بهذا الشكل، أراد الباحثون تعليمها لغة جديدة ذات موارد منخفضة (مثل الكتالونية أو الإستونية) دون إنفاق ثروة.
جربوا عدة طرق:
نهج "العشوائية": مجرد اختيار بعض الفرق العشوائية لتدريبها. (فشل فشلاً ذريعًا).
النهج "الكامل": إعادة تدريب المبنى بأكمله. (هذا مكلف جدًا وبطيء).
نهج "المتخصص فقط": العثور على الفرق التي تعرف بالفعل "اللغة القريبة" (على سبيل المثال، الإسبانية بالنسبة للكتالونية) وتدريبها فقط. (كان هذا جيدًا، لكنه لم يكن مثاليًا).
الاستراتيجية الفائزة: SSFT (الضبط الدقيق للخبراء الانتقائي والمشترك) أدرك الباحثون أنه لتعليم لغة جديدة، تحتاج إلى شيئين:
المتخصصون: الفرق التي تعرف بالفعل "اللغة القريبة" (مثل خبراء الإسبانية للغة الكتالونية).
العامّون المشتركون: عدد قليل من الفرق التي تجيد كل شيء وتساعد في الحفاظ على استقرار النظام بأكمـله.
لقد ابتكروا طريقة تسمى SSFT. وهي تقوم بتحديث فرق "المتخصصين" في الطابق العلوي فقط، بالإضافة إلى حفنة صغيرة من الفرق "المشتركة".
النتائج: سريعة، رخيصة، وذكية
الكفاءة: قاموا بتحديث أقل من 2% فقط من القدرة الذهنية الإجمالية للمكتبة.
السرعة: استغرق الأمر وقت حاسوب أقل بـ 10 مرات وطاقة أقل بـ 100 مرة مقارنة بإعادة تدريب النموذج بأكمله.
الأداء: رغم تحديث جزء ضئيل جدًا، إلا أن المكتبة عملت بشكل يقارب أداء إعادة تدريبها بالكامل. لقد تعلمت اللغات الجديدة بفعالية دون أن تنسى اللغات القديمة (وهي مشكلة تُعرف باسم "النسيان الكارثي").
الملخص
يعلمنا هذا البحث أن التخصص اللغوي في هذه النماذج الذكية الضخمة هو ظاهرة "طابق علوي" مدفوعة بالمفردات المشتركة، وليس بالجذور العائلية العميقة. ومن خلال فهم ذلك، يمكننا تعليم هذه النماذج لغات جديدة عن طريق تعديل جزء ضئيل جدًا من فرقها الداخلية — وتحديدًا الفرق التي تعتبر بالفعل خبراء في لغات مشابهة وبعض المساعدين العامين. الأمر يشبه إصلاح تسرب في سفينة ضخمة عن طريق رقع لوحين محددين بدلاً من إعادة بناء الهيكل بأكمله.
ملخص تقني: الاستفادة من ديناميكيات التوجيه في نماذج خليط الخبراء لتعزيز كفاءة التكيف اللغوي
بيان المشكلة تُعد نماذج "خليط الخبراء" (Mixture-of-Experts - MoE) المعيار المتبع لتوسيع نطاق النماذج اللغوية الكبيرة (LLMs) نظرًا لقدرتها على الحفاظ على أعداد هائلة من المعلمات مع إبقاء تكاليف الاستدلال قابلة للإدارة عبر التنشيط المتفرق. ومع ذلك، لا يزال سلوك التوجيه الداخلي لنماذج (MoE) في البيئات متعددة اللغات غير مستكشف بشكل كافٍ. وبينما تُعرف النماذج متعددة اللغات الكثيفة باعتمادها على الإنجليزية كـ "محور" داخلي في الطبقات الوسطى مع وجود عصبونات خاصة بكل لغة في الطبقتين الأولى والأخيرة، فمن غير الواضح كيف تطور نماذج (MoE) استراتيجيات توجيه متخصصة للغات المختلفة. علاوة على ذلك، فإن تكييف نماذج (MoE) الضخمة مع لغات جديدة ذات موارد منخفضة يعد أمرًا مكلفًا حاسوبيًا. ورغم أن بنيتها التركيبية تسمح نظريًا بالتكيف الموفر للمعلمات عبر تحديث مجموعة فرعية فقط من الخبراء، إلا أنه من غير المعروف حاليًا أي الخبراء يجب تحديثهم دون فهم مسبق لديناميكيات التوجيه متعددة اللغات.
المنهجية يجري المؤلفون دراسة مضبوطة باستخدام نموذج OLMoE-Base (وهو محول بنمط "المفكك فقط" يحتوي على 64 خبيرًا لكل طبقة، ويختار أفضل 8 منها) للتحقيق في ديناميكيات التوجيه أثناء التدريب المسبق المستمر.
إعداد التدريب المسبق المستمر: تم إجراء تدريب مسبق مستمر لنموذج OLMoE-Base المتمحور حول الإنجليزية على مجموعة بيانات متوازنة مكونة من 35 مليار توكن تغطي سبع لغات عالية الموارد (الإنجليزية، العربية، التشيكية، الإسبانية، الفنلندية، الهندية، الروسية) مأخوذة من مجموعة بيانات CulturaX. يُطلق على النموذج الناتج اسم OLMoE-M7.
مقاييس تحليل التوجيه: لتوصيف كيفية توزيع كتلة التوجيه، يحلل المؤلفون ما يلي:
إنتروبيا الموجه (Router Entropy): تقيس مدى تركيز تنشيط الخبراء للغة معينة. تشير الإنتروبيا المنخفضة إلى توجيه التوكنات إلى مجموعة فرعية صغيرة من الخبراء.
تباعد التوجيه عبر اللغات (JSD): استخدام تباعد جينسن-شانون (Jensen–Shannon Divergence) بين توزيعات استخدام الخبراء على مستوى اللغة لقياس مدى تمايز أنماط التوجيه بين أزواج اللغات.
تداخل المفردات (Vocabulary Overlap): يتم تحليل تداخل المفردات على مستوى التوكن بين أزواج اللغات لمعرفة ما إذا كان هذا التداخل هو ما يقود تشابه التوجيه أكثر من التشابه النوعي أو العائلي.
استراتيجية التكيف (SSFT): مدفوعين بتحليل التوجيه، يقترح المؤلفون استراتيجية التدريب الدقيق للخبراء الانتقائي والمشترك (SSelfive and Shared Expert Finetuning - SSFT) لتكييف النماذج مع اللغات ذات الموارد المنخفضة.
اختيار الخبراء: يحدد المؤلفون "فجوة التنشيط" (الفرق في تكرار التنشيط بين أفضل لغتين للخبير) لتحديد الخبراء المتخصصين في لغة معينة.
التحديث الهجين: تقوم استراتيجية SSFT بتحديث آخر طبقتين من النموذج فقط. حيث تختار مجموعة صغيرة من الخبراء المتخصصين في لغة معينة (الذين لديهم فجوة تنشيط عالية للغة المستهدفة) وتدمجهم مع مجموعة صغيرة من الخبراء "المشتركين" (الأكثر نشاطًا عبر جميع اللغات).
النماذج المرجعية: تمت مقارنة هذه الطريقة مع التدريب الدقيق للخبراء الانتقائي (SEFT، المتخصص للغة فقط)، والتدريب الدقيق للخبراء العشوائي، والتدريب الدقيق لجميع الخبراء (AEFT)، والتدريب الدقيق للنموذج الكامل (Full-FT).
النتائج الرئيسية حول ديناميكيات التوجيه
التخصص على مستوى الطبقات: خلافًا للفرضية القائلة بأن التدريب المتوازن متعدد اللغات يؤدي إلى فصل اللغات عبر النموذج بأكه، تجد الدراسة أن التوجيه يظل منتشرًا وغير مرتبط بلغة محددة في الطبقات المبكرة والمتوسطة. بينما يظهر التخصص اللغوي المتميز بشكل أساسي في الطبقات النهائية.
تداخل المفردات مقابل عائلة اللغات: في الطبقات النهائية، يرتبط تشابه التوجيه بقوة أكبر بـ تداخل المفردات على مستوى التوكن منه بالتشابه العائلي أو النحوي أو الجغرافي. على سبيل المثال، تُظهر الهندية والماراثية (تداخل مفردات عالٍ) أنماط توجيه متشابهة، بينما تُظهر الإنجليزية والهولندية (عائلة مشتركة ولكن تداخل منخفض) أنماطًا متباعدة.
هيمنة الإنجليزية: يُظهر النموذج الأساسي أنماط توجيه تهيمن عليها الإنجليزية. ويقلل التدريب المسبق المستمر من هذه الهيمنة لكنه لا يلغيها؛ إذ لا تزال توكنات الإنجليزية تحافظ على أنماط توجيه متميزة مقارنة باللغات غير الإنجليزية في الطبقات النهائية.
النتائج على التكيف مع الموارد المنخفضة يختبر المؤلفون استراتيجية SSFT على ست لغات ذات موارد منخفضة (الكتالونية، الإستونية، الماراثية، السلوفاكية، الأوكرانية، الأردية) مقترنة بلغات مرجعية عالية الموارد.
الأداء: تحقق SSFT توازنًا قويًا بين الأداء والكفاءة. ففي اختبار MultiBLiMP، حققت SSFT متوسط دقة بلغ 83.6%، متفوقة على SEFT (78.7%) وRandom-SEFT (73.8%). وهي تقترب من أداء Full-FT (90.5%) مع تحديث عدد أقل بكثير من المعلمات.
الكفاءة: تُحدث SSFT أقل من 2% من معلمات النموذج (حوالي 75-138 مليون معلمة). ومن حيث التكلفة الحسابية، تتطلب SSFT حوالي 10 أضعاف أقل من ساعات وحدة معالجة الرسومات (GPU-hours) و100 ضعف أقل من العمليات الحسابية (FLOPs) مقارنة بـ Full-FT.
الخبراء المشتركون: يعد تضمين الخبراء المشتركين في SSFT أمرًا بالغ الأهمية؛ حيث إن تحديث الخبراء المتخصصين في اللغة فقط (SEFT) يؤدي إلى أداء أقل، كما أن مجرد زيادة عدد الخبراء المتخصصين (SEFT-Top20) لا يضاهي أداء نهج SSFT الهجين.
المتانة: يشير المؤلفون إلى أنه بينما يؤدي Full-FT إلى "النسيان الكارثي" للغات التي تم تعلمها سابقًا عند التدريب على مجموعات بيانات أكبر، فإن SSFT تُظهر نسيانًا كارثيًا أقل.
الأهمية والادعاءات تدعي الورقة البحثية أنها تقدم رؤى عملية لـ التكيف متعدد اللغات ذو الموارد المنخفضة في نماذج (MoE). ومن خلال إثبات أن التخصص اللغوي في نماذج (MoE) يتركز في الطبقات النهائية ويُحركه تداخل المفردات، يوضح المؤلفون أن التكيف الفعال لا يتطلب تدريبًا دقيقًا للنموذج بالكامل. وتستفيد استراتيجية SSFT المقترحة من هذه الديناميكيات لتحقيق أداء تنافسي مع حد أدنى من تحديث المعلمات. ويشير العمل إلى أن التكيف الفعال يعتمد على نهج هجين: استهداف الخبراء المتخصصين للغة الجديدة مع الحفاظ على الخبراء المشتركين للحفاظ على الاستقرار عبر اللغات. ويخلص المؤلفون إلى أن هذه النتائج تقدم مسارًا للتكيف اللغوي القابل للتوسع والفعال دون العبء الحسابي للتدريب الدقيق الكامل.
القيود يقر المؤلفون بأن تجاربهم محدودة بهيكل OLMoE-Base (1 مليار معلمة نشطة / 7 مليارات إجمالية) بسبب القيود الحسابية. كما يشيرون إلى أن استراتيجيتهم تعتمد على وجود لغة "مرجعية" عالية الموارد ذات تداخل كبير في المفردات، مما قد يحد من قابليتها للتطبيق على اللغات المعزولة أو اللغات ذات الموارد المنخفضة التي ليس لها أقارب وثيقين في بيانات التدريب المسبق. وأخيرًا، فإن هذه النتائج خاصة بالتدريب المسبق المستمر على مجموعات بيانات متوازنة وقد تختلف في ظل نظم تدريب أخرى.