💬 NLP

MoDES: Accelerating Mixture-of-Experts Multimodal Large Language Models via Dynamic Expert Skipping

تقدم هذه الورقة البحثية إطار عمل MoDES، وهو إطار عمل لا يتطلب تدريباً يعمل على تسريع نماذج اللغات الكبيرة متعددة الوسائط ذات خليط الخبراء (Mixture-of-Experts) عبر توظيف آلية بوابة محلية معدلة عالمياً وعتبات ثنائية الوسائط لتخطي الخبراء الزائدين عن الحاجة بشكل تكيفي، مما يؤدي إلى تحسين كل من سرعة الاستدلال والدقة بشكل كبير مقارنة بالطرق الحالية.

المؤلفون الأصليون: Yushi Huang, Zining Wang, Zhihang Yuan, Yifu Ding, Ruihao Gong, Jinyang Guo, Xianglong Liu, Jun Zhang

نُشر 2026-02-24

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Yushi Huang, Zining Wang, Zhihang Yuan, Yifu Ding, Ruihao Gong, Jinyang Guo, Xianglong Liu, Jun Zhang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحث MoDES، مترجم إلى لغة بسيطة مع تشبيهات إبداعية.

المشكلة الكبرى: المطبخ المكتظ بالموظفين

تخيل مطعماً ضخماً وفخماً (نموذج اللغة الكبير متعدد الوسائط MLLM) يمكنه طهي أي شيء: كتابة قصائد، تحليل صور الأشعة السينية، أو وصف مقطع فيديو. للتعامل مع هذا، يستخدم المطبخ نظام "خليط من الخبراء" (Mixture of Experts - MoE).

بدلاً من وجود شيف واحد ضخم يقوم بكل شيء، يمتلك المطبخ مئات الطهاة المتخصصين (يُطلق عليهم اسم الخبراء).

أحد الطهاة بارع في تقطيع الخضروات (النصوص).
آخر بارع في تزيين الحلويات (الصور).
وآخر بارع في قراءة الوصفات (الفيديوهات).

العقبة: في الإعداد الحالي، وبالنسب من أجل كل طلب (كل كلمة أو بكسل)، يجبر مدير المطبخ جميع الطهاة على الحضور وتذوق الطبق، حتى لو كان اثنان منهم فقط يعرفان ما يجب فعله حقاً. هذا الأمر بطيء للغاية، ومكلف، ومبذر. إنه يشبه استدعاء الأوركسترا بأكملها لعزف نوتة موسيقية واحدة.

الحل الفاشل: قاعدة "المقاس الواحد للجميع"

حاول العلماء إصلاح ذلك عبر وضع قاعدة: "إذا بدا أن الشيف غير مهتم بالطلب، أرسله إلى المنزل". يُسمى هذا تخطي الخبراء (Expert Skipping).

ومع ذلك، عندما طبقوا هذه القاعدة على المطبخ متعدد الوسائط، جاءت النتيجة عكسية. فقد انخفض الأداء لأن القاعدة كانت غبية للغاية؛ فقد عاملت "طلب النص" و"طلب الفيديو" بنفس الطốt، وعاملت "الطهاة المبتدئين" (الطبقات الأولى) مثل "رؤساء الطهاة" (الطبقات العميقة) تماماً.

الحل: MoDES (مدير المطبخ الذكي)

ابتكر المؤلفون MoDES (التخطي الديناميكي للخبراء متعدد الوسائط). فكر في MoDES كمدير مطبخ فائق الذكاء ومتكيف، يلاحظ أمرين حاسمين:

1. ليس كل الطهاة متساوين (رؤية "الطبقات")

الرؤية: في المراحل الأولى من الطهي (الطبقات الضحلة/الأولى)، يقوم الطهاة بالأعمال الشاقة المتعلقة بالتحضير. إذا تخطيتهم، سيفشل الطبق بالكامل. أما في المراحل المتأخرة (الطبقات العميقة)، فيقوم الطهاة فقط بإضافة اللمسات النهائية.
التشبيه: تخيل بناء منزل. إذا تخطيت فريق التأسيس (الطبقات الأولى)، سينهار المنزل. أما إذا تخطيت بعض الأشخاص الذين يدهنون الحواف (الطبقات العميقة)، فسيظل المنزل قائماً.
إصلاح MoDES: يستخدم نظام "البوابة المحلية المعدلة عالمياً" (Global-Modulated Local Gating). هو يعلم أن "طهاة التأسيس" أكثر أهمية من "طهاة الزينة"، ويقوم بحماية المهمين منهم بينما يسمح للأقل أهمية بالذهاب.

2. النصوص والصور تحتاج لقواعد مختلفة (رؤية "الوسائط")

الرؤية: تعمل رموز النصوص (Tokens) ورموز الصور بشكل مختلف. النص يشبه "السوفليه" الرقيق؛ يحتاج إلى تعامل دقيق وحذر من قبل العديد من الخبراء. أما الصور فهي تشبه قدرًا كبيرًا من الحساء؛ فهي أكثر متانة، والعديد من الخبراء فيها هم مجرد "فائض عن الحاجة" (يقومون بنفس العمل).
التشبيه: إذا كنت تقوم بتحرير عقد قانوني (نص)، فأنت بحاجة إلى مراجعة صارمة ودقيقة. أما إذا كنت تنظم كومة من الصخور (صور)، فيمكنك أن تكون أكثر تساهلاً.
إصلاح MoDES: يستخدم "تحديد العتبة مزدوج الوسائط" (Dual-Modality Thresholding). لديه قاعدتان مختلفتان:
- القاعدة (أ) للنصوص: "كن صارماً. لا ترسل للمنزل إلا الطهاة المتأكدين بنسبة 90% أنهم غير مطلوبين".
- القاعدة (ب) للصور: "كن متساهلاً. أرسل للمنزل أي شخص ليس متأكداً بنسبة 50% من أنه مطلوب".
- هذا يسمح للنظام بتخطي عدد أكبر بكثير من الخبراء في الصور دون إفساد النتيجة.

السلاح السري: "البحث الحدودي" (Frontier Search)

لتحديد مدى صرامة أو تساهل هذه القواعد بدقة، كان على الفريق إيجاد منطقة "الاعتدال المثالية": تخطي ما يكفي لتكون سريعاً، ولكن ليس كثيراً بحيث يصبح طعم الطعام سيئاً.

عادةً، يستغرق العثور على هذا التوازن المثالي أياماً من التجربة والخطأ. لكن MoDES يستخدم خوارزمية البحث الحدودي.

التشبيه: تخيل أنك تبحث عن درجة الحرارة المثالية للاستحمام. الشخص العادي يدير مقابض الماء الساخن والبارد عشوائياً حتى يجدها (وهذا يستغرق وقتاً طويلاً). أما MoDES فهو مثل روبوت يعرف أن الماء يصبح ساخناً كلما أدرت المقبض في اتجاه معين وبارداً في الاتجاه الآخر. إنه ينزلق على طول "حافة" المنطقة المثالية فوراً.
النتيجة: ما كان يستغرق يومين لحسابه، يستغرق الآن ساعتين فقط.

النتائج: سريع، رخيص، ولذيذ

عندما اختبروا MoDES على نماذج حقيقية (مثل Qwen3-VL و Kimi-VL):

السرعة: جعل النماذج أسرع بمعدل ضعفين (2x) في قراءة المدخلات، وأسرع بمعدل 1.2x في كتابة الإجابات.
الكفاءة: نجح في تخطي 88% من الخبراء (أرسل 88% من الطهاة إلى منازلهم!) بينما قام في الواقع بتحسين الدقة في بعض الحالات.
لماذا؟ لأنه من خلال إزالة الطهاة "المشتتين" أو "الفائضين عن الحاجة"، تمكن الخبماء المتبقون من التركيز بشكل أفضل، ولم تستهلك الحواسيب طاقة في عمل غير ضروري.

الملخص

MoDES هو نظام ذكي يمنع نماذج الذكاء الاصطناعي متعددة الوسائط من هدر الطاقة. فبدلاً من معاملة كل مهمة بنفس الطريقة، يدرك أن:

الخطوات الأولى أكثر أهمية من الخطوات الأخيرة.
الصور أسهل في التخطي من النصوص.
إيجاد التوازن الصحيح يمكن القيام به فوراً.

إنه يشبه الانتقال من مطبخ فوضوي حيث يصرخ الجميع في وقت واحد، إلى مطبخ منظم وعالي السرعة حيث يحضر الطهاه المناسبون للوظيفة المناسبة فقط، مما يجعل الطعام أسرع وألذ.

إليك ملخص تقني مفصل لورقة البحث بعنوان: "MoDES: تسريع نماذج اللغات الكبيرة متعددة الوسائط القائمة على خليط الخبراء عبر التخطي الديناميكي للخبراء".

1. بيان المشكلة

حققت نماذج اللغات الكبيرة متعددة الوسائط (MLLMs) القائمة على تقنية "خليط الخبراء" (Mixture-of-Experts - MoE) أداءً رائدًا في مهام الرؤية واللغة من خلال فصل حجم النموذج عن التكلفة الحسابية عبر التنشيط المتفرق (Sparse Activation). ومع ذلك، لا تزال هذه النماذج تعاني من عدم كفاءة كبيرة في الاستنتاج لأن عددًا ثابتًا من الخبراء يتم تنشيطه لكل رمز (Token)، بغض النظر عن الضرورة.

تحاول أساليب تخطي الخبراء (Expert Skipping) الحالية (المصممة أساسًا لنماذج LLM أحادية الوسيط) إلغاء تنشيط الخبراء الزائد بناءً على احتمالات التوجيه المحلية. وعند تطبيق هذه الأساليب مباشرة على نماذج MLLM، فإنها تسبب تدهورًا حادًا في الأداء (على سبيل المثال، انخفاض في الدقة بنسبة >10% عند نسب تخطي عالية). وتحدد الورقة سببين حرجين لهذا الفشل:

تجاهل المساهمة العالمية (Global Contribution Disregard): تعتمد الأساليب الحالية فقط على احتمالات التوجيه المحلية داخل طبقة واحدة. وهي تتجاهل حقيقة أن الخبراء في الطبقات الضحلة (Shallow Layers) لهم تأثير أكبر بشكل غير متناسب على المخرجات النهائية مقارنة بالخبراء في الطبقات العميقة. لذا، فإن تخطي الخبراء في الطبقات الضحلة بشكل عدواني يؤدي إلى انفجار الأخطاء.
الفجوة بين الوسائط (Modality Gap): تُظهر رموز النصوص ورموز الرؤية سلوكيات متباينة عند مرورها عبر شبكات التغذية الأمامية (FFNs). حيث تسبب رموز الرؤية تحديثات أصغر (تشابه جيب التمام قبل وبعد FFN أعلى) وتكون أكثر تعامدًا مع الأوزان، مما يعني وجود فائض أكبر. بينما تخضع رموز النصوص لتحديثات أكبر. إن معاملة كلا الوسيطين باستراتيجية تخطي موحدة يفشل في مراعاة هذه الاختلافات.

2. المنهجية: MoDES

يقترح المؤلفون إطار عمل MoDES (التخطي الديناميكي للخبراء متعدد الوسائط)، وهو إطار عمل لا يتطلب إعادة تدريب (Training-free) يعمل على تخطي الخبراء بشكل تكيفي مع الحفاظ على الدقة. ويتكون من ثلاثة مكونات أساسية:

أ. التوجيه المحلي المعدل عالميًا (Globally-Modulated Local Gating - GMLG)

لمعالجة عدم التوازن في المساهمة بين الطبقات، يقدم MoDES آلية تجمع بين أهمية الطبقة العالمية واحتمالات التوجيه المحلية.

المعايرة غير المتصلة (Offline Calibration): يحسب النظام وزن أهمية عالمي $\alpha^{(l)}$ لكل طبقة $l$ من خلال قياس تباعد كولباك - ليبلر (KL divergence) بين مخرجات النموذج الأصلي ونسخة يتم فيها تخطي الخبراء في تلك الطبقة المحددة.
تسجيل الأهمية (Importance Scoring): يتم حساب درجة الأهمية النهائية $s^{(l)}_i$ للخبير $i$ في الطبقة $l$ كالتالي:
$s^{(l)}_i = \alpha^{(l)} \cdot \pi^{(l)}_i$
حيث $\pi^{(l)}_i$ هو احتمال التوجيه المحلي. يضمن هذا الحفاظ على الخبراء في الطبقات الضحلة الحرجة حتى لو كانت احتمالية توجيههم متوسطة، بينما يمكن تخطي الطبقات العميقة بشكل أكثر عدوانية.

ب. عتبة الوسائط المزدوجة (Dual-Modality Thresholding - DMT)

لمعالجة الفجوة بين الوسائط، يستخدم MoDES عتبات منفصلة لرموز النصوص ورموز الرؤية.

الآلية: بدلاً من استخدام عتبة عالمية واحدة، يحدد النظام عتبتين: $\tau_t$ لرموز النصوص و $\tau_v$ لرموز الرؤية.
قاعدة القرار: يتم تخطي الخبير إذا كانت درجة أهميته أقل من العتبة المقابلة لوسيط الرمز:
$\text{Skip if } s^{(l)}_i < (\tau_t \cdot I_t + \tau_v \cdot I_v)$
حيث $I_t$ و $I_v$ هما دالتان مؤشرتان. يسمح هذا للنظام بتخطي المزيد من خبراء الرؤية (الأكثر فضلًا/تكرارًا) مع الاحتفاظ بمزيد من خبراء النصوص.

ج. خوارزمية البحث عن الحدود (Frontier Search Algorithm)

يعد تحديد الزوج الأمثل من العتبات $(\tau_t, \tau_v)$ مشكلة تحسين مقيدة.

الهدف: تقليل فقدان الأداء (تباعد KL) مع استيفاء نسبة تخطي الخبراء المستهدفة $\rho$ .
الكفاءة: يستغل المؤلفون الرتابة (Monotonicity) في فقدان الأداء والكفاءة بالنسبة للعتبات. وبدلاً من البحث الشامل ( $O(N D^2)$ )، يستخدمون خوارزمية البحث عن الحدود (Frontier Search) ( $O(N D)$ ).
النتيجة: أدى ذلك إلى تقليل وقت البحث عن العتبة من عدة أيام إلى بضع ساعات (تسريع بنحو 45 ضعفًا في وقت البحث) دون المساس بـ مثالية الحل.

3. المساهمات الرئيسية

أول إطار عمل لا يتطلب تدريبًا لـ MoE MLLM: يعد MoDES أول طريقة تمكن تخطي الخبراء بكفاءة خصيصًا للنماذج متعددة الوسائط دون الحاجة لإعادة التدريب.
رؤى جديدة: تقدم الورقة أدلة تجريبية على أن مساهمات الخبراء تعتمد على الطبقة (الضحلة > العميقة) وعلى الوسيط (الرؤية > تكرار النص)، وهي رؤى تم التغاضي عنها سابقًا في أدبيات التخطي أحادية الوسيط.
ابتكار خوارزمي: قدمت خوارزمية البحث عن الحدود (Frontier Search) تسريعًا كبيرًا لعملية ضبط المعلمات الفائقة لاختيار العتبة.
كفاءة التنفيذ: تم دمج الطريقة مباشرة في نواة التوجيه (Router Kernel) باستخدام مقارنات مقنعة خالية من التفرع (Branch-free masked comparisons) و Grouped GEMM، مما يضمن حدًا أدنى من العبء الإضافي أثناء الاستنتاج.

4. النتائج التجريبية

قيم المؤلفون MoDES على 3 سلاسل نماذج (Kimi-VL, Qwen3-VL-MoE, InternVL-3.5) عبر 13 اختبارًا مرجعيًا (بما في ذلك مهام فهم الصور والفيديو مثل MMBench و VideoMME و ChartQA).

الحفاظ على الدقة:
- عند نسبة تخطي خبراء بلغت 88% في نموذج Qwen3-VL-MoE-30B-A3B-Instruct، حافظ MoDES على 97.33% من أداء النموذج الأصلي، بينما انخفضت الأساليب السابقة (NAEE, MC-MoE, DiEP) إلى حوالي 86.66%.
- حقق MoDES زيادة في الأداء تصل إلى 10.67% مقارنة بالنماذج المرجعية عند نسب التخطي العالية.
سرعة الاستنتاج:
- مرحلة التعبئة (Prefill Phase): حقق تسريعًا بمقدار 2.16×.
- مرحلة فك التشفير (Decoding Phase): حقق تسريعًا بمقدار 1.26×.
التوافق مع التكميم (Quantization Compatibility): يتوافق MoDES بفعالية مع التكميم (مثل 1.5-bit و 2.5-bit)، متفوقًا على النماذج المرجعية مثل MC-MoE في الحفاظ على الدقة تحت الضغط الشديد.
كفاءة البحث: قللت عملية البحث عن الحدود وقت تحسين العتبة من ~يومين إلى أقل من ساعتين لنماذج بـ 30 مليار معلمة.

5. الأهمية

يعالج MoDES عقبة حرجة في نشر نماذج MoE MLLM واسعة النطاق. ومن خلال تجاوز استراتيجيات التخطي التي تعتمد مبدأ "مقاس واحد يناسب الجميع"، يثبت MoDES أن التخطي المرتبط بالسياق (الخاص بالطبقة) والمرتبط بالوسيط ضروري للحفاظ على الأداء العالي في البيئات متعددة الوسائط. يوفر الإطار مسارًا عمليًا لا يتطلب تدريبًا لتقليل تكاليف الاستنتاج (زمن الوصول والحوسبة) بشكل كبير، مما يجعل هذه النماذج أكثر قابلية للتطبيق في التطبيقات التي تعمل بالوقت الفعلي والبيئات محدودة الموارد.