💬 NLP

Routing-Aligned Fine-Tuning for Multilingual Downstream Tasks in Mixture-of-Experts Models

تقترح هذه الورقة RA-MoE، وهو إطار عمل للضبط الدقيق يتكون من ثلاث مراحل يستفيد من منطقة المحاذاة العالمية لغويًا في الطبقات الوسطى لنماذج خليط الخبراء (Mixture-of-Experts)، وذلك لمحاذاة أنماط التوجيه للغة المستهدفة مع تنشيطات خبير المهام باللغة الإنجليزية، مما يؤدي إلى تحسين الأداء في المهام المتعددة اللغات بشكل كبير.

المؤلفون الأصليون: Guanzhi Deng, Kuan Wu, Haibo Wang, Shing Yin Wong, Sichun Luo, Linqi Song

نُشر 2026-05-28

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Guanzhi Deng, Kuan Wu, Haibo Wang, Shing Yin Wong, Sichun Luo, Linqi Song

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك مكتبة ضخمة وذكية للغاية من المعرفة (نموذج لغوي كبير) تتحدث الإنجليزية بطلاقة. داخل هذه المكتبة، لا يوجد مجرد عقل واحد عملاق يقوم بكل العمل؛ بل هي منظمة مثل نظام "خليط من الخبراء" (Mixture-of-Experts - MoE): فكر في الأمر كفريق ضخم من المستشارين المتخصصين. عندما تطرح سؤالاً، يقوم "موجه" (مثل موظف الاستقبال) بتقرير أي مستشارين محددين يجب استدعاؤهم للمساعدة في الإجابة.

المشكلة هي أنه بينما تعد هذه المكتبة عبقرية في اللغة الإنجليزية، فإنها غالباً ما تتعثر عندما تُسأل عن نفس المهام بلغات أخرى (مثل الإسبانية أو الصينية أو العربية).

الاكتشاف: "المنتصف" هو منطقة السحر

لاحظ الباحثون شيئاً غريباً حول كيفية عمل هذه المكتبة. لقد وجدوا أن "موظف الاستقبال" يتصرف بشكل مختلف بناءً على الطابق الذي تتواجد فيه:

البهو (الطبقات المبكرة): موظف الاستقبال هنا دقيق جداً بشأن اللغة. إذا تحدثت بالإنجليزية، يستدعي مستشارين إنجليز. إذا تحدثت بالإسبانية، يستدعي مستشارين إسبان.
البنتهاوس/الطابق العلني (الطبقات المتأخرة): الأمر نفسه، حاجز اللغة هنا قوي.
الطوابق الوسطى: هنا، يتوقف موظف الاستقبال عن الاهتمام باللغة. سواء تحدثت بالإنجليزية أو الإسبانية، فإنه يستدعي نفس مجموعة الخبراء تماماً لحل مسألة رياضية أو اتباع تعليمات.

أدرك الباحثون أنه بالنسبة للعديد من المهام، فإن المكتبة تعرف بالفعل كيفية حل المشكلة في اللغة المستهدفة (لأن خبراء المنتصف هم أنفسهم)، لكن "موظف الاستقبال" يفشل في إرسال الطلب إلى الأشخاص المناسبين. الأمر يشبه وجود طباخ بارع في المطبخ يمكنه طهي طبق مثالي بأي لغة، لكن النادل يستمر في إرسال الطلبات الخاطئة إلى المحطة الخطأ.

الحل: RA-MoE (طريقة "توجيه موظف الاستقبال")

تقترح الورقة البحثية طريقة تدريب جديدة تسمى RA-MoE (خليط الخبراء المتوافق مع التوجيه - Routing-Aligned Mixture-of-Experts). بدلاً من مجرد تعليم المكتبة كلمات جديدة، هم يعلمون "موظف الاستقبال" كيف يتصرف بشكل أفضل.

إليك كيف يعمل ذلك في ثلاث خطوات بسيطة:

1. التدقيق بـ "التحقق المزدوج" (المرحلة 1)
يأخذون قائمة من الأسئلة ويسألون المكتبة نفس السؤال بالإنجليزية وباللغة المستهدفة (مثل الإسبانية). ثم يصنفون النتائج إلى أربع مجموعات:

CC: أجابت بشكل صحيح في كلتا اللغتين.
II: أخطأت في كلتا اللغتين (المكتبة ببساطة لا تعرف الإجابة).
IC: أخطأت في الإنجليزية وأصابت في الإسبانية (حالة نادرة).
CI (المنجم الذهبي): أصابت في الإنجليزية وأخطأت في الإسبانية.

يركز الباحثون فقط على مجموعة CI. هذه هي الحالات التي تمتلك فيها المكتبة المعرفة (لقد حلتها بالإنجليزية) لكنها فشلت في الإسبانية. هذا يثبت أن المشكلة ليست نقصاً في المعرفة، بل هي خطأ في التوجيه.

2. رسم خرائط الخبراء (المرحلة 2)
ينظرون إلى "الطوابق الوسطى" للمكتبة حيث لا تهم اللغة. يحددون بالضبط أي مستشارين محددين (خبراء) استدعاهم النسخة الإنجليزية لحل المشكلة. يقولون: "حسناً، بالنسبة لهذه المسألة الرياضية، استدعت النسخة الإنجليزية الخبراء رقم 4، و7، و12. هؤلاء هم 'خبراء المهمة'".

3. درس المحاذاة (المرحلة 3)
الآن، يقومون بضبط المكتبة بدقة (Fine-tuning) باستخدام الأسئلة الإسبانية. لكنهم يضيفون قاعدة خاصة:

عندما ترى المكتبة مثالاً من نوع CI (حيث فشلت في الإسبانية ولكنها كانت ستنجح في الإنجليزية)، يخبرون موظف الاستقبال: "مهلاً، انظر كيف تعاملت النسخة الإنجليزية مع هذا الأمر. لقد استدعت الخبراء رقم 4، و7، و12. عليك استدعاء نفس هؤلاء الخبراء للنسخة الإسبانية أيضاً".

هم لا يعلمون النموذج التحدث بالإسبانية فحسب، بل يعلمونه توجيه السؤال الإسباني إلى نفس الخبراء الذين حلوا النسخة الإنجليزية.

لماذا ينجح هذا؟

فكر في الأمر كالمدرسة. إذا كان الطالب يعرف كيفية حل مسألة رياضية بالإنجليزية ولكنه يفشل في الفرنسية، فأنت لا تحتاج لتعليمه الرياضيات من الصفر. أنت فقط بحاجة لتعليمه أن نفس معلم الرياضيات هو من يجب أن يساعده، بغض النظر عن اللغة التي يستخدمها للسؤال.

وجدت الورقة البحثية أن:

هذه الطريقة تعمل بشكل أفضل من التدريب القياسي (الذي يحاول فقط حفظ الإجابات في اللغة الجديدة).
تعمل بشكل أفضل من الطرق الأخرى التي تحاول "توجيه" النموذج دون تغيير أسلاكه الداخلية فعلياً.
كلما زادت أمثلة الـ "CI" لمهمة ما (أي أن النموذج يعرف الإجابة بالإنجليزية ويفشل في اللغة المستهدفة)، زاد نفع هذه الطريقة.
"خبراء المهمة" الذين وجدوهم في الطبقات الوسطى هم خبراء عالميون. بمجرد تحديد أي الخبراء يتعامل مع مسألة رياضية للإنجليزية، فإن هؤلاء الخبماء أنفسهم يعملون للإسبانية والفرنسية واليابانية دون الحاجة لإعادة تحديدهم.

الخلاصة

RA-MoE هي طريقة ذكية لإصلاح الذكاء الاصطürzt متعدد اللغات. بدلاً من محاولة بناء عقل جديد لكل لغة، هي تقوم بإصلاح "موظف الاستقبال" داخل العقل الموجود بالفعل، بحيث يرسل الأسئلة إلى الخبراء المناسبين، بغض النظر عن اللغة التي طُرح بها السؤال. إنها تحول حاجز اللغة إلى مجرد خطأ في التوج يمكن تصحيحه بسهولة.

ملخص تقني: الضبط الدقيق المتوافق مع التوجيه للمهام متعددة اللغات في نماذج خليط الخبراء (MoE)

بيان المشكلة

أصبحت نماذج خليط الخبراء (MoE) النموذج السائد لتوسيع نطاق النماذج اللغوية الكبيرة (LLMs) بكفاءة. ومع ذلك، فإن تكييف هذه النماذج مسبقة التدريب مع المهام الموجهة للغات غير الإنجليزية يظل تحديًا. عادةً ما تتعامل أساليب الضبط الدقيق الحالية مع نماذج MoE كمتعلمين متجانسين، حيث تطبق الضبط الدقيق الخاضع للإشراف (SFT) القياسي على بيانات اللغة المستهدفة. يتجاهل هذا النهج بنية التوجيه غير المتجانسة التي تطورت أثناء مرحلة ما قبل التدريب.

تشير الدراسات الحديثة إلى نمط "على شكل حرف U" في التباعد في التوجيه عبر اللغات: الطبقات المبكرة والمتأخرة تكون محددة للغاية بلغة معينة، بينما تظهر الطبقات الوسطى توافقًا قويًا عبر اللغات. ورغم هذا التوافق، غالبًا ما يتدهور الأداء في اللغات غير الإنجليزية لأن النموذج يفشل في إشراك الخبراء المعنيين بالمهمة والخاصين بالمدخلات غير الإنجليزية. المشكلة الجوهرية هي كيفية الاستفتد من بنية التوجيه عابرة اللغات هذه لتحسين الضبط الدقيق للمهام غير الإنجليزية دون إعادة تدريب النموذج بالكامل أو تجاهل ديناميكيات التوجيه المتفرقة.

المنهجية: RA-MoE

يقترح المؤلفون RA-MoE (الضبط الدقيق لخليط الخبراء المتوافق مع التوجيه)، وهو إطار عمل مكون من ثلاث مراحل مصمم لمواءمة أنماط توجيه اللغة المستهدفة مع أنماط تنشيط خبراء المهمة في اللغة الإنجليزية في الطبقات الوسطى من النموذج.

المرحلة 1: بناء وتصنيف البيانات المتوازية

تبدأ الطريقة ببناء مجموعة بيانات متوازية حيث يتم ترجمة أمثلة المهمة باللغة الإنجليزية $(x_{en}, y_{en})$ إلى لغة مستهدفة $(x_{tgt}, y_{tgt})$ . يقوم نموذج MoE بإجراء الاستدلال على كلتا النسختين، ويتم تصنيف الأمثلة إلى تصنيف رباعي الاتجاهات بناءً على الصحة:

cc: صحيح في كل من الإنجليزية واللغة المستهدفة.
ci: صحيح في الإنجليزية، وغير صحيح في اللغة المستهدفة.
ic: غير صحيح في الإنجليزية، وصحيح في اللغة المستهدفة.
ii: غير صحيح في كليهما.

يفترض المؤلفون أن فئة ci تمثل فجوة أداء "مدفوعة باللغة"، حيث يمتلك النموذج المعرفة المطلوبة للمهمة (كما هو موضح في الإنجليزية) ولكنه يفشل في تطبيقها في اللغة المستهدفة بسبب عدم توافق التوجيه.

المرحلة 2: تحديد الطبقة الوسطى وخبير المهمة

تحلل هذه المرحلة سلوك التوجيه في النموذج لتحديد الأهداف المثلى للمواءمة:

تحديد الطبقة الوسطى: يحسب المؤلفون تباعد جينسن-شانون (JS) بين توزيعات التوجيه للغة الإنجليزية واللغة المستهدفة عبر الطبقات. ويؤكدون وجود نمط "U-shaped"، مما يحدد نطاقًا متصلًا من الطبقات الوسطى ( $L_{mid}$ ) حيث يكون التباعد في حده الأدنى. تعمل هذه الطبقات كـ "منطقة مواءمة عالمية اللغة".
تحديد خبير المهمة: ضمن هذه الطبقات الوسطى، يحدد المؤلفون "خبراء المهمة" من خلال مقارنة أوزان التوجيه على بيانات المهمة باللغة الإنجليزية (المقتصرة على الأمثلة التي تمت الإجابة عليها بشكل صحيح) مقابل متن لغوي إنجليزي عام. يتم اختيار الخبراء الذين يتم تنشيطهم بشكل تفضيلي للمهمة (درجة نوعية عالية) كمجموعة مستهدفة ( $E_{task}$ ).

المرحلة 3: الضبط الدقيق المتوافق مع التوجيه (Routing-Aligned SFT)

تتضمن المرحلة النهائية ضبط النموذج بدقة على بيانات اللغة المستهدفة باستخدام دالة هدف معدلة:
$\mathcal{L} = \mathcal{L}_{CE} + \lambda \cdot \mathcal{L}_{align}$

$\mathcal{L}_{CE}$ : فقدان الإنتروبيا المتقاطعة القياسي المطبق على جميع الأمثلة.
$\mathcal{L}_{align}$ : فقدان مواءمة التوجيه الذي يُطبق بشكل انتقائي على أمثلة النوع ci. بالنسبة لهذه الأمثلة، يتم تشجيع النموذج على توجيه مدخلات اللغة المستهدفة عبر نفس خبراء المهمة في الطبقات الوسطى كما هو الحال في المرجع الإنجليزي. يتم حساب الفقدان كفرق KL بين توزيع التوجيه المعاد تطبيقه (المقيد بـ $E_{task}$ ) وتوزيع المرجع الإنجليزي.

يضمن هذا التطبيق الانتقائي أن إشارة المواءمة تستند إلى الحالات التي يكون فيها نمط التوجيه الإنجليزي مرجعًا صالحًا وموثوقًا للمهمة.

المساهمات الرئيسية

التحقق من التباعد على شكل حرف U في إعدادات المهام: يثبت البحث تجريبيًا أن نمط تباعد التوجيه عبر اللغات على شكل حرف U ينطبق في إعدادات المهام المحددة، مما يوضح أن تباعد التوجيه في الطبقات الوسطى يتنبأ بشكل موثوق بفجوات أداء المهمة لكل لغة.
التصنيف الرباعي والمؤشر: قدم المؤلفون تصنيف cc/ci/ic/ii لتشخيص الفجوات عبر اللغات. وقدموا أدلة تجريبية على أن نسبة أمثلة ci في زوج (المهمة-اللغة) هي مؤشر قوي (ارتباط $r=0.70$ ) على الفائدة المحتملة من مواءمة التوجيه.
تحديد خبير المهمة وهدف المواءمة: تم اقتراح إجراء لتحديد الخبراء ذوي الصلة بالمهمة في الطبقات الوسطى باستخدام البيانات الإنجليزية، مقترنًا بهدف ضبط دقيق يغلق فجوة تنشيط الخبراء عبر اللغات دون الحاجة لإعادة تحديد الخبراء الخاصين بكل لغة.
القابلية للنقل عبر اللغات: تظهر الدراسة أن خبراء المهمة الذين تم تحديدهم في لغة واحدة (مثل الصينية) يمكن نقلهم لضبط النموذج للغات بعيدة لغويًا (مثل العربية، البنغالية) دون إعادة تشغيل مرحلة التحديد، مما يشير إلى أن خبرة المهمة في الطبقات الوسطى مستقلة إلى حد كبير عن اللغة.

النتائج التجريبية

قيم المؤلفون منهجية RA-MoE عبر ثلاثة نماذج MoE (OLMoE-1B-7B، Qwen1.5-MoE، DeepSeek-V2-Lite)، وثلاث مهام (GSM8K، IFEval، MMLU)، وست لغات مستهدفة (العربية، البنغالية، الصينية، الفرنسية، اليابانية، الإسبانية).

مكاسب الأداء: تفوق RA-MoE باستمرار على SFT القياسي والأساليب القوية الأخرى، بما في ذلك Routing Steering (التدخل في وقت الاستدلال) و RISE (الضبط الدقيق الانتقائي للشبكات الفرعية الخاصة باللغة).
الارتباط مع نسبة CI: كانت مكاسب الأداء أكثر وضوحًا في أزواج (المهمة-اللغة) ذات النسبة الأعلى من أمثلة ci، مما يؤكد الفرضية القائلة بأن الطريقة تستهدف الفجوات المدفوعة باللغة وليس فجوات المعرفة.
التغييرات الآلية: أظهر التحليل أن RA-MoE قلل بشكل كبير من تباعد التوجيه في الطبقات الوسطى مقارنة بـ SFT القياسي، مما جعل توجيه اللغة المستهدفة أقرب إلى المرجع الإنجليزي. علاوة على ذلك، زاد معدل اختيار خبير المهمة للغات المستهدفة بشكل أكثر حدة واستقر عند مستوى أعلى تحت نظام RA-MoE.
الكفاءة: لا تسبب الطريقة عبئًا حسابيًا يُذكر. تضيف خسارة المواءمة أقل من $10^{-3}\%$ إلى إجمالي العمليات الحسابية (FLOPs)، وتضيف المراحل التحضيرية (توسيم البيانات وتوصيف التوجيه) 15% كحد أقصى إلى إجمالي وقت التنفيذ، وهي نسبة يمكن تقليلها إلى أقل من 10% إذا تمت مشاركة خبراء المهمة عبر اللغات.

الأهمية والقيود

يزعم البحث أن RA-MoE يسد الفجوة بين التوافق النظري عبر اللغات في طبقات MoE الوسطى وبين أداء المهام العملي. ومن خلال مواءمة أنماط التوجيه صراحةً بدلاً من مجرد احتمالات المخرجات، تستفيد الطريقة من البنية المتفرقة لنماذج MoE لتحسين القدرات متعددة اللغات.

لاحظ المؤلفون قيودًا محددة:

الاعتماد على الأداء الإنجليزي: تفترض الطريقة أن النموذج الأساسي يمتلك أداءً قويًا في المهمة باللغة الإنجليزية؛ فإذا كان نمط التوجيه الإنجليزي يفتقر إلى المعلومات ذات الصلة بالمهمة، فإن إشارة المواءمة ستكون غير موثوقة.
تغطية مرحلة ما قبل التدريب: بالنسبة للغات الممثلة بشكل ضعيف في متن ما قبل التدريب، تقدم RA-MoE مكاسب محدودة لأن العائق هو نقص القدرة اللغوية الأساسية، وليس عدم توافق التوجيه.
النماذج متعددة الوسائط: تقتقت التجارب على نماذج النصوص فقط؛ ويظل تعميم النتائج على النماذج اللغوية الكبيرة متعددة الوسائط سؤالًا مفتوحًا.

يشير العمل إلى أنه بالنسبة لنماذج MoE، تعمل الطبقات الوسطى كمنطقة مستقرة وعالمية اللغة حيث يمكن نقل خبرة المهمة بفعالية عبر اللغات من خلال مواءمة التوجيه.