🤖 machine learning

Preserving Long-Tailed Expert Information in Mixture-of-Experts Tuning

لمعالجة مشكلة هشاشة الموجه وفقدان المعلومات في الضبط الدقيق لخليط الخبراء (MoE)، تقترح هذه الورقة إطار عمل خالٍ من الخسارة المساعدة يستخدم التناثر المدفوع بالانحياز و"خبراء التكثيف" النشطين دائمًا للحفاظ على المعرفة القيمة من الخبراء الذين يتم تفعيلهم نادرًا مع تحسين الأداء العام.

المؤلفون الأصليون: Haoze He, Xingyuan Ding, Xuan Jiang, Xinkai Zou, Alex Cheng, Yibo Zhao, Juncheng Billy Li, Heather Miller

نُشر 2026-04-28

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Haoze He, Xingyuan Ding, Xuan Jiang, Xinkai Zou, Alex Cheng, Yibo Zhao, Juncheng Billy Li, Heather Miller

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تدير مركز استجابة للطوارئ عالمي وضخم. وللتعامل مع كل الأزمات المحتملة، قمت بتعيين 100 خبير متخصص: بعضهم جراحون عالميون، وبعضهم فنيو كهرباء بارعون، وبعضهم متخصصون في أمراض استوائية نادرة للغاية لا تظهر إلا مرة واحدة كل عقد من الزمان.

في نموذج الذكاء الاصطادي القياسي (مثل النموذج "الكثيف" - Dense model)، أنت تستدعي الجميع لكل مكالمة. وهذا أمر بطيء ومكلف. ولتوفير الوقت، يستخدم الذكاء الاصطناعي الحديث نهج "خليط الخبراء" (Mixture-of-Experts - MoE). هذا يشبه وجود مأمور اتصالات يستدعي فقط خبيرين أو ثلاثة من الأكثر صلة بحالة طوارئ معينة.

المشكلة: فخ "الخبير الفائق"
وجد الباحثون خللاً رئيسياً في كيفية "إعادة تدريب" مأموري الاتصالات في هذه النماذج. أثناء التدريب، يصبح مأمور الاتصالات كائناً يعتمد على العادة؛ حيث يبدأ في الاعتماد بشدة على عدد قليل من "الخبراء الفائقين" (الجراحين والكهربائيين) لأنهم مفيدون في كل شيء تقريباً.

ولأن مأمور الاتصالات يستدعي "خبير الأمراض النادرة" بشكل غير متكرر، فإن هذا المتخصص لا يحصل على أي ممارسة. إنه لا يتلقى أي تحديثات بالمعلومات الجديدة، وتبدأ مهاراته في التلاشي. والأسوأ من ذلك، إذا حاولت تقليص حجم النموذج لجعله أسرع عن طريق تسريح الخبراء "النادرين"، فإن النظام بأكمله ينهار لأنك فقدت تلك المعرفة المتخصصة.

الحل: "مكثف الخبراء" (الخبراء المتاحون دائماً)
اقترح مؤلفو هذه الورقة البحثية طريقة جديدة ذكية لتدريب هذه النماذج تسمى ExpertCondenser (مكثف الخبراء). بدلاً من مجرد امتلاك "خبراء فائقين" و"خبراء منسيين"، قدموا حلاً وسطاً: خبراء المكثف (Condenser Experts).

فكر في "خبراء المكثف" كـ "عامّين متعددي القدرات" متواجدين على الخط دائماً.

إليك كيف يعمل هذا التشبيه:

المأمور المتخصص (التناقص القائم على الانحياز): بدلاً من استخدام طريقة فوضوية وغير منظمة لموازنة الخبراء، استخدموا نظام "انحياز" (bias). الأمر يشبه إعطاء مأمور الاتصالات دفعة بسيطة لتجربة أشخاص مختلفين، مما يضمن بقاء "الخبراء الفائقين" ذوي صلة، مع ضمان عدم تجاهل "الخبراء النادرين".
شبكة الأمان المتاحة دائماً (خبراء المكثف): هم يخصصون مجموعة صغيرة من الخبراء (المكثفات) الذين يكونون دائماً جزءاً من كل مكالمة طوارئ. ومع ذلك، وخلافاً للمساعد "الثابت" الذي يفعل الشيء نفسه في كل مرة، فإن هؤلاء الخبراء "مُسيّرون" (gated)؛ أي أنهم يستمعون للمشكلة المحددة ويتكيفون معها لتقديم المساعدة.
إسفنجة المعرفة: نظرًا لأن خبراء المكثف يشاركون في كل مكالمة، فإنهم يعملون مثل الإسفنجة. فهم يمتصون المعرفة المتخصصة من الخبراء النادرين و"يكثفونها" في ذاكرة مشترة وموثوقة. إنهم يمنعون "تجويع التدرج" (gradient starvation)، وهو مجرد تعبير تقني يعني منع الخبراء من "الجوع" للمعلومات.

لماذا يهم هذا؟
باستخدام هذه الطريقة، يصبح الذكاء الاصطناعي أكثر ذكاءً في المهام الصعبة والمتخصصة مثل الرياضيات عالية المستوى والاستنتاج المعقد.

في اختباراتهم، لم تحافظ هذه الطريقة على استقرار ذكاء النموذج فحسب، بل عززت الأداء بشكل كبير (بنسبة تتراوح بين 2.5% إلى 4%+) مقارنة بالطرق القديمة. إنه الفرق بين مستشفى يعرف فقط كيفية علاج الكسور، ومستشفى لديه فريق متخصص ومدرب تدريباً عالياً ومستعد لأي شيء، حتى لو كانت الحالة الطارئة نادرة للغاية.

ملخص تقني: الحفاظ على معلومات الخبراء ذات الذيل الطويل في ضبط نماذج Mixture-of-Experts

1. بيان المشكلة

تعد عملية الضبط الدقيق الخاضع للإشراف (SFT) لبنى Mixture-of-Experts (MoE) أكثر صعوبة بكثير من النماذج الكثيفة (Dense Models) بسبب هشاشة موجه الـ Top-K (Top-K router). وتندرج الطرق الحالية لتثبيت تدريب MoE ضمن فئتين، كلتاهما تعاني من عيوب:

الطرق القائمة على الخسارة المساعدة (مثل GShard): تستخدم خسائر موازنة الحمل لمنع انهيار الموجه، لكنها تسبب تدرجات مشوشة يمكن أن تؤدي إلى تدهور أداء المهام اللاحقة.
طرق تقريب التدرج (مثل ESFT و DenseMixer): تحاول توجيه التدرجات إلى الخبراء النشطين أو تستخدم مقدرات المرور المباشر (Straight-Through Estimators - STE). ومع ذلك، تركز هذه الطرق غالباً بشكل حصري على "الخبراء الفائقين" (الخبراء الأكثر تفعيلاً) وتتجاهل "الذيل الطويل" للخبراء الذين يتم تفعيلهم نادراً.

حدد المؤلفون ظاهرة حرجة: بينما يهيمن عدد قليل من "الخبراء الفائقين" على التوجيه، فإن الخبراء الذين يتم تفعيلهم نادراً يشفّرون معرفة ضرورية وغير بديهية. يؤدي تقليم هؤلاء الخبراء ذوي الذيل الطويل إلى تدهور كبير في الأداء، ومع ذلك تفشل عملية الـ SFT القياسية غالباً في تحديثهم بفعالية بسبب "مجاعة التدرج" (الوهن متعدد الضرب للتدرجات الناتج عن التوجيه المتناثر).

2. المنهجية: ExpertCondenser

لمعالجة هذه المشكلات، يقترح المؤلفون ExpertCondenser، وهو إطار عمل لضبط MoE دون الحاجة لخسارة مساعدة. الابتكار الجوهري هو تقديم خبراء التكثيف (Condenser Experts).

المكونات الرئيسية:

خبراء التكثيف (Condenser Experts): على عكس "الخبراء المشتركين الثابتين" التقليديين (الذين يكونون نشطين دائماً ولكن بأوزان ثابتة)، فإن خبراء التكثيف يتم اختيارهم دائماً ولكن يظل توجيههم مرتبطاً بالمدخلات (gated per token). يخلق هذا مساراً مستمراً، قابلاً للتعلم، ومتكيفاً مع المدخلات. يسمح هذا التصميم للنموذج بتكثيف المعلومات المجزأة من الخبراء ذوي الذيل الطويل في مجموعة صغيرة من المكونات الموثوقة.
التناثر القائم على الانحياز (Bias-Driven Sparsification): بدلاً من استخدام خسائر مساعدة مشوشة، تستخدم الطريقة استراتيجية توجيه قائمة على الانحياز. تُضاف معاملات انحياز قابلة للتدريب ( $b_i$ ) إلى لوغاريتمات التوجيه (routing logits). يسمح هذا للنموذج بدفع الخبراء الأقل صلة نحو عدم النشاط (زيادة التناثر) مع إبقاء الخبراء ذوي الصلفة بالمهمة نشطين، مما يقلص الفجوة بين التوجيه أثناء التدريب وأثناء الاستدلال.
استراتيجية الاختيار: يتم اختيار خبراء التكثيف كأفضل $r$ من الخبراء الذين لديهم أدنى قيم انحياز (والتي تقابل أولئك الذين يتم تفعيلهم باستمرار تحت ديناميكيات التوجيه الجديدة).

الدافع النظري:
يقدم المؤلفون برهاناً رياضياً يوضح أن الخبراء الموجهين يعانون من عنق زجاجة ضربي في تدفق التدرج ( $\Theta(T p_i)$ تحديثات، حيث $p_i$ هو احتمال التفعيل). وبما أن خبراء التكثيف نشطون دائماً، فإنهم يتجاوزون عنق الزجاجة هذا، مما يضمن حصولهم على مقدار وتكرار كافٍ من التدرج للعمل كمستودعات للمعرفة الخاصة بالمجال.

3. المساهمات الرئيسية

تحليل قانون القياس (Scaling Law) لـ MoE: أظهروا أن الأداء لا يعتمد فقط على "الخبراء الفائقين" بل يتوسع مع الاحتفاظ بالخبراء ذوي الذيل الطويل، مما يثبت أن تقليم الذيل أمر ضار.
إطار عمل ExpertCondenser: طريقة مبتكرة لما بعد التدريب تجمع بين التوجيه القائم على الانحياز وخبراء التكثيف الموجهين لتخفيف مجاعة التدرج وتكثيف المعرفة.
كفاءة النظام: أظهروا أنه نظرًا لأن خبراء التكثيف نشطون دائمًا، فيمكنهم البقاء في ذاكرة وحدة معالجة الرسومات (GPU) أثناء عملية إزاحة المعلمات (parameter offloading)، مما يؤدي إلى تسريع كبير في التدريب (يصل إلى 2.87 ضعفاً مقارنة بـ DenseMixer).

4. النتائج التجريبية

قيم المؤلفون ExpertCondenser على نماذج MoE واسعة النطاق (DeepSeek-V2-Lite، Qwen1.5-MoE، OLMoE، و GPT-OSS) عبر اختبارات الاستدلال الرياضي والمنطق العام.

الاستدلال الرياضي: تفوق ExpertCondenser باستمرار على النماذج المرجعية (SoTA) مثل ESFT و DenseMixer. وفي اختبار Math7K، حقق متوسط زيادة قدرها ~2.5% إلى 3.3% عبر نماذج مختلفة. وأظهر قوة خاصة في مهام الاستدلال المعقدة مثل AIME و GPQA.
المنطق العام: في اختبار CommonSense-15K، تفوقت الطريقة على DenseMixer بنسبة تصل إلى 5.3% على نموذج OLMoE.
دراسات الاستئصال (Ablation Studies): أكدت النتائج أن كل مكون (الانحياز الخالي من المساعدات + خبراء التكثيف) ضروري. وتحديداً، وجدوا أن ضبط عدد خبراء التكثيف عند $r=2$ يوفر التوازن الأمثل بين قدرة التجميع وتركيز التدرج.
الاستقرار: أظهر ExpertCondender منحنيات خسارة أكثر سلاسة وتدرجات أكثر استقراراً مقارنة بالتدرجات "المتقلبة" التي شوهدت في DenseMixer و ESFT.

5. الأهمية

ينقل هذا البحث نموذج ضبط MoE من "التحسين من أجل الخبراء الأكثر نشاطاً" إلى "الحفاظ على معرفة توزيع الخبراء بأكمله". ومن خلال توفير آلية لتكثيف "الذيل الطويل" من المعرفة دون ضجيج الخسائر المساعدة، يقدم ExpertCondenser طريقة أكثر قوة وكفاءة لتكييف نماذج MoE الضخمة مع المهام المتخصصة. إنه يسد الفجوة بين السعة العالية لنماذج MoE والصعوبات العملية لتدريبها عبر الضبط الدقيق الخاضع للإشراف.