ملخص تقني: دمج الخبراء المتخصص في نماذج خليط الخبراء المتناثر باستخدام مفاوضات ناش

بيان المشكلة

أصبحت بنيات خليط الخبراء المتناثر (SMoE) حجر زاوية لتوسيع نطاق الشبكات العصبية بكفاءة من خلال تفعيل مجموعة فرعية فقط من وحدات الخبراء لكل مدخل. وبينما ركزت أبحاث كبيرة على تحسين آليات التوجيه (مثل موازنة الحمل، والاستقرار)، تظل مشكلة دمج الخبراء المكملة — أي دمج جميع معاملات الخبراء في نموذج موحد للنشر أو الاستدلال — غير مستكشفة بشكل كافٍ.

تعتمد استراتيجيات الدمج الحالية عادةً على مخططات وزن استدلالية، مثل المتوسط البسيط المستقل عن المدخلات أو تجميع أعلى $k$ من القيم. وتتجاهل هذه الطرق غالبًا الديناميكيات التعاونية والتنافسية المعقدة بين الخبراء. علاوة على ذلك، أظهرت النهج الحديثة مثل دمج الخبراء المراعي للانحناء (CAMEx) ومتغيره الديناميكي (EP-CAMEx)، والتي تستخدم تدرجات طبيعية لمحاذاة الخبراء، بعض القيود. وتحديدًا، غالبًا ما يكون أداء EP-CAMEx أقل من نظيره الساكن، ويرجع ذلك على الأرجح إلى عدم كفاية التنسيق بين مساهمات الخبراء وبطء التقارب في الانتشار. يكمن التحدي الجوهري في تفسير دمج الخبراء ليس مجرد متوسط خطي، بل كتفاعل مهيكل يوازن بين المساهمات الفريدة لمختلف الخبراء.

المنهجية: NAMEx

يقترح المؤلفون NAMEx (دمج الخبراء بنظام مفاوضات ناش)، وهو إطار عمل يعيد تفسير دمج الخبراء من منظور نظرية الألعاب، وتحديدًا باستخدام حل مفاوضات ناش (NBS).

1. دمج الخبراء كمفاوضة

يؤطر المؤلفون عملية الدمج كلعبة تعاونية-تنافسية بين الخبراء.

• اللاعبون: كل خبير $i$ في طبقة SMoE.
• دالة المنفعة: تُعرف بـ $u_i(\Delta E) = \tau_i^\top \Delta E$، حيث $\tau_i = E_i - E_m$ هو "متجه النطاق" الذي يمثل انحراف الخبير $i$ عن الخبير الأساسي $E_m$. يلتقط هذا المتجه المساهمة الفريدة للخبير.
• نقطة عدم الاتفاق: تم ضبطها عند 0، مما يعني عدم إجراء أي تحديث للخبير الأساسي.
• الهدف: إيجاد اتجاه التحديث $\Delta E$ ضمن كرة $B_\epsilon$ يعظم حاصل ضرب المكاسب الفردية فوق نقطة عدم الاتفاق:
  $$\Delta E^* = \arg\max_{\Delta E \in B_\epsilon} \prod_{i=1}^N (\Delta E^\top \tau_i)$$
  تحت افتراض استقلال متجهات النطاق خطيًا، يتم اشتقاق الحل كأنه مجموع مرجح لمتجهات النطاق:
  $$\Delta E = \sum_{i=1}^N \alpha_i \tau_i$$
  حيث تحقق الأوزان $\alpha$ معادلة مفاوضات ناش: $G^\top G \alpha = 1/\alpha$، حيث $G$ هي مصفوفة متجهات النطاق و $1/\alpha$ تمثل مقلوبات العناصر.

2. التكامل مع انتشار الخبير

يتم دمج NAMEx في إطار عمل EP-CAMEx. بدلاً من استخدام خطوة انحدار تدرجي ثابتة لانتشار الخبير الأساسي، يقوم NAMEx بحساب اتجاه التحديث الأمثل $\Delta E^{(l)}$ في كل طبقة $l$ باستخدام حل ناش. يتم تحديث الخبير الأساسي $E_m$ كالتالي:
$$E_m^{(l+1)} = E_m^{(l)} + \gamma \sum_{i=1}^N \alpha_i^{(l)} \tau_i^{(l)}$$
حيث $\gamma$ هو حجم الخطوة.

3. الزخم المعقد

لمعالجة البطء في التقارب الملاحظ في EP-CAMEx، يدمج المؤلفون الزخم المعقد في إطار عمل NAMEx (المسمى NAMEx-Momentum).

• يقوم مخزن زخم معقد $\mu^{(j)} \in \mathbb{C}^d$ بتراكم التحديثات الاتجاهية.
• تتضمن قاعدة التحديث معامل زخم معقد $\beta \in \mathbb{C}$:
  $$\mu^{(j+1)} = \beta \mu^{(j)} + \Delta E^{(j)}$$
  $$E_m^{(j+1)} = E_m^{(j)} + \Re(\gamma \mu^{(j+1)})$$
  توفر التحليلات النظرية (الخاصة بـ Proposition 3.5 و Theorem C.3) ضمانات للتقارب، حيث توضح أنه تحت ظروف معينة، يمكن إبقاء نصف قطر الطيف لمصفوفة النظام أقل من 1، مما يضمن التقارب الخطي.

المساهمات الرئيسية

1. إطار عمل NAMEx: طريقة مبتكرة لدمج الخبراء تدمج إطار تحسين مفاوضات ناش في انتشار الخبير، حيث تعامل متجهات نطاق الخبراء كدوال منفعة لاشتقاق معاملات دمج عادلة وفعالة.
2. تكامل الزخم المعقد: دمج الزخم المعقد في NAMEx لتسريع التقارب وتعزيز الاستقرار، خاصة في السيناريوهات التي تتسم بديناميكيات الخبراء المعادية أو المتضاربة. يقدم المؤلفون براهين نظرية لمعدل تقارب NAMEx-Momentum.
3. القابلية للتوسع والتحقق التجريبي: إثبات فعالية NAMEx عبر مهام متنوعة (نمذجة اللغة، تصنيف النصوص، تصنيف الصور) وقابليتها للتوسع في الأنظمة واسعة النطاق (Qwen1.5-MoE 14B, DeepSeek-MoE 16B).

النتائج التجريبية

قيم المؤلفون NAMEx مقابل النماذج المرجعية (SMoE, CAMEx, EP-CAMEx) عبر عدة اختبارات معيارية:

• نمذجة اللغة (WikiText-103): حقق NAMEx-Full-Mom أدنى مستويات الارتياب (perplexity) في التحقق والاختبار لكل من التدريب المسبق صغير ومتوسط النطاق، متفوقًا على جميع النماذج المرجعية.
• تصنيف النصوص (GLUE): في اختبار GLUE باستخدام T5-Base، حقق NAMEx-Full-Mom أفضل النتائج عبر جميع المهام (SST-2, MRPC, CoLA, إلخ)، مما أظهر تحسينات مستمرة مقارنة بـ SMoE والأساليب المعتمدة على الانحناء.
• تصنيف الصور (ImageNet-1k & Robustness): في Swin-MoE، تفوق NAMEx-Mom على جميع النماذج المرجعية في دقة Top-1. والأهم من ذلك، أظهر متانة فائقة في مجموعات البيانات التالفة (ImageNet-A, ImageNet-O, ImageNet-R)، حيث أظهرت متغيرات الزخم أقوى المكاسب.
• النماذج واسعة النطاق: عند تطبيقه على DeepSeek-MoE (16B) و Qwen1.5-MoE (14B)، تفوق NAMEx-Full باستمرار على النماذج المرجعية و EP-CAMEx في كل من إعدادات Zero-shot و Fine-tuned (SmolTalk) على اختبارات MMLU, GSM8K, و ARC.
• دراسات الاستئصال (Ablation Studies):
  • الزخم: حسن الزخم المعقد سرعة التقارب والأداء بشكل كبير مقارنة بالزخم الحقيقي.
  • التكرارات: وُجد أن حل نظام ناش بتكرارين لكل طبقة كان فعالاً وناجحاً، مع تناقص العوائد عند زيادة عدد التكرارات.
  • نقطة عدم الاتفاق: وُجد أن استخدام 0 كنقطة عدم اتفاق كان أكثر متانة واستقرارًا مقارلة باستخدام المتوسط.

الأهمية والادعاءات

يزعم البحث أن NAMEx يقدم بديلًا مبنيًا على أسس سليمة للدمج الاستدلالي للخبراء. ومن خلال نمذجة تفاعلات الخبراء كلعبة مفاوضة، يضمن NAMEx عملية دمج ذات كفاءة باريتو (Pareto-efficient) تأخذ في الاعتبار كلاً من التعاون والتنافس بين الخبراء. كما يعالج دمج الزخم المعقد اختناقات التقارب في سيناريوهات الدمج الديناميكية.

يؤكد المؤلفون أن NAMEx:

• يحسن الأداء: يتفوق باستمرار على استراتيجيات الدمج الحالية عبر مهام الرؤية واللغة.
• يعزز المتانة: يظهر قدرة فائقة على التعميم تحت ظروف تلف البيانات وتحولات التوزيع.
• يتوسع بفعالية: يثبت جدواه في بنيات MoE واسعة النطاق (تصل إلى 16 مليار معلمة) دون المساس بتكلفة الاستدلال بشكل كبير، حيث تظل تكاليف الاستدلال دون تغيير وتظل الأعباء التدريبية تحت السيطرة.
• الأساس النظري: يوفر ضمانات تقارب لنسخة الزخم المعزز، متجاوزًا مجرد الاستدلالات التجريبية البحتة.

يشير العمل إلى أن النظر إلى دمج الخبماء من خلال نظرية الألعاب يفتح آفاقًا جديدة لتحسين أنظمة التعلم النمطي، مع تطبيقات محتملة في التعلم الاتحادي (Federated Learning) والتعلم بنقل المعرفة (Transfer Learning) حيث يكون الجمع العادل للخبراء أمرًا بالغ الأهمية.