💬 NLP

GEM: GPU-Variability-Aware Expert to GPU Mapping for MoE Systems

إن GEM هو إطار عمل يعمل على تحسين زمن انتقال الاستدلال لنماذج خليط الخبراء (MoE) من خلال تعيين الخبراء إلى وحدات معالجة الرسومات بناءً على تباين الأجهزة وأنماط تحميل الرموز، مما يقلل من آثار التأخر ويحسن الأداء النهائي بنسبة تصل إلى 16.5%.

المؤلفون الأصليون: Sourish Wawdhane, Avinash Kumar, Poulami Das

نُشر 2026-05-20

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Sourish Wawdhane, Avinash Kumar, Poulami Das

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك تدير مطبخ مطعم فاخر (مجموعة وحدات معالجة الرسومات - GPU cluster) حيث لديك فريق من الطهاة المتخصصين (الخبراء) الذين يجهزون طلبيات ضخمة من الأطباق للعديد من الزبائن في وقت واحد.

في نموذج ذكاء اصطناعي حديث من نوع "خليط الخبراء" (Mixture-of-Experts)، لا يمتلك المطبخ طباخاً واحداً عملاقاً يقوم بكل شيء، بل لديه العديد من الطهاة الأصغر حجماً والمتخصصين. لكل كلمة ينتجها الذكاء الاصطناعي (الرمز - "token")، يقرر مدير (الموجه - Router) أي اثنين من الطهاة مطلوبان لطهي هذه الكلمة تحديداً.

المشكلة: قاعدة "أبطأ طباخ"

في هذا المطبخ، هناك قاعدة صارمة: يجب على الفريق بأكمله الانتظار حتى ينتهي أبطأ شخص قبل الانتقال إلى الخطوة التالية.

إذا كان لديك 8 طهاة، وأنهى 7 منهم مهامهم في 10 ثوانٍ، لكن طباخاً واحداً استغرق 12 ثانية لأنه أبطأ أو لديه عمل أكثر، فإن المطبخ بأكمله سيتوقف بانتظار هاتين الثانيتين الإضافيتين. في عالم الذكاء الاصطناعي، يُسمى وقت الانتظار هذا بـ "الطرف المتخلف/المتأخر" (straggler)، وهو ما يدمر سرعة النظام بأكمله.

تحدد الورقة البحثية سببين رئيسيين لجعل الطباخ يصبح طرفاً متأخراً:

التوزيع السيئ: قام المدير بالخطأ بإعطاء الوصفات الأكثر شعبية وازدحاماً لطباخ واحد فقط، بينما ظل الآخرون بلا عمل.
تباين الأجهزة: حتى لو تم تقسيم العمل بشكل مثالي، فإن بعض الطهاة أبطأ بطبيعتهم بسبب أجهزتهم الخاصة (مثل فرن قديم أو ذراع متعبة). وجدت الورقة أنه في مجموعة من وحدات معالجة الرسومات (GPUs) التي تبدو متطابقة، يمكن لأسرع وحدة أن تكون أسرع بنسبة 28% تقريباً من أبطأ وحدة.

الطريقة القديمة: "عمل متساوٍ، وقت متساوٍ"

حاولت الحلول السابقة إصلاح ذلك عبر إعطاء كل طباخ نفس العدد بالضبط من الأطببات ليطهوها. ظنوا: "إذا كان لدى الجميع نفس القدر من العمل، فسينتهي الجميع في نفس الوقت".

لكن هذا يفشل لأن:

السرعات المختلفة: يمكن للطباخ السريع طهي عدد أطباق أكثر بنسبة 14% في نفس الوقت الذي يطهي فيه الطباخ البطيء. إذا أعطيتهم نفس كمية العمل، سينتهي الطباخ السريع مبكراً وينتظر، بينما لا يزال الطباخ البطيء يعاني.
الأنماط الخفية: بعض الطهاة يكونون مشغولين معظم الوقت (الخبراء المستمرون)، بينما آخرون يزداد نشاطهم فقط في نوبات قصيرة ومكثفة (الخبراء الزمنيون). الطرق القديمة أغفلت هذه الأنماط "المتقطعة". إذا تم تعيين اثنين من الطهاة الذين ينشطون دائماً في نفس الوقت تماماً، على نفس الآلة البطيئة، فإن المطبخ بأكمله سيتعطل.

الحل الجديد: GEM (رسم خرائط الخبراء المدرك لتباين وحدات معالجة الرسومات)

يقترح المؤلفون GEM، وهو نظام ذكي يعمل كمدير مطبخ عبقري يعرف تماماً مدى سرعة كل طباخ وكيف تأتي الطلبات.

يستخدم GEM حيلتين ذكيتين:

1. استراتيجية "الحمل النسبي"
بدلاً من إعطاء الجميع نفس عدد الأطباق، يعطي GEM الطهاة السريعين مزيداً من الأطباق والطهاة الأبطأ أقل منها.

تشبيه: تخيل سباقاً. إذا كان أحد العدائين أسرع بنسبة 14%، فلا تعطه نفس المسافة التي يعطيها للعداء الأبطأ. بل تعطه مساراً أطول بحيث يعبر كلاهما خط النهاية في اللحظة نفسها تماماً.
يحسب GEM بدقة مقدار العمل الإضافي الذي يمكن لوحدات معالجة الرسومات السريعة التعامل معه بحيث ينتهي الجميع من الطبقة في نفس الوقت.

2. استراتيجية "المحقق من الأنماط"
يراقب GEM المطبخ لفترة قصيرة (16 خطوة فقط) ليتعلم شيئين:

من هو مشغول دائماً؟ (الخبراء المستمرون).
من هم الذين ينشطون معاً؟ (الخبراء الزمنيون).
تشبيه: إذا كان الطباخ (أ) والطباخ (ب) يتلقيان دائماً موجة كبيرة من الطلبات في نفس الوقت، فإن GEM يحرص على عدم تعيينهما على نفس الفرن البطيء. بل يوزعهما على محطات مختلفة حتى لا يعيق أحدهما الآخر.

كيف يعمل GEM (العملية المكونة من 4 خطوات)

المراقبة والتعلم: يراقب GEM الذكاء الاصطناعي للحظة وجيزة ليرى أي الخبراء يتم استخدامهم ومتى.
اختبار الأجهزة: يجري اختباراً سريعاً ليرى مدى سرعة كل وحدة معالجة رسومات (GPU) محددة تحت أحمال مختلفة. يقوم بذلك بذكاء عبر الاختبار فقط عند "علامات رئيسية" محددة (مثل فحص سرعة السيارة كل 32 ميلاً بدلاً من كل ميل) لتوفير الوقت.
البحث: يجري محاكاة للعثور على الترتيب المثالي للطهاة والأفران. يقوم بتبديل الطهاة حول بعضهم البعض حتى يجد إعداداً يكون فيه "أبطأ" طباخ قد أنهى عمله في أسرع وقت ممكن.
النشر: يقوم بتثبيت هذا الترتيب الجديد. يبدأ الذكاء الاصطناعي بالعمل، ولأن العمل متوازن بالنسبة للسرعة الفعلية للآلات، يعمل النظام بأكمله بسلاسة أكبر.

النتائج

عندما اختبر المؤلفون هذا على خمسة نماذج مختلفة من الذكاء الاصطناي القوي:

تعزيز السرعة: أنهى الذكاء الاصطناعي المهام أسرع بنسبة 7.9% في المتوسط.
أفضل حالة: في بعض المواقف، كان أسرع بنسبة 16.5%.
تجربة أكثر سلاسة: تحسن "زمن الاستج𝓱 المتأخر" (tail latency) - وهو أسوأ حالات التأخير التي تجعل المستخدم يشعر بأن الذكاء الاصطناعي يتلعثم - بشكل أكبر، بنسبة تصل إلى 16.9%.

باختصار، يمنع GEM الذكاء الاصطناعي من الانتظار لأبطأ جزء في النظام عن طريق إعطاء الأجزاء السريعة المزيد من العمل والأجزاء البطيئة أقل، مع التأكد من عدم حشر اثنين من الخبراء "المشغولين" في نفس الآلة البطيئة. إنه يحول فروق الأجهزة من نقطة ضعف إلى أداة لتحقيق أداء أفضل.

ملخص تقني: GEM – رسم خرائط الخبراء إلى وحدات معالجة الرسومات الواعي بتباين أداء الـ GPU لنماذج Mixture-of-Experts

1. بيان المشكلة

تعمل نماذج Mixture-of-Experts (MoE) على تحسين كفاءة الاستدلال من خلال تفعيل مجموعة فرعية فقط من الشبكات الفرعية "الخبراء" (experts) لكل رمز (token). ومع ذلك، فإن أداءها في بيئات الخدمة الواقعية يعاني بشدة من مشكلة وحدات معالجة الرسومات المتأخرة (straggler GPUs). ففي التنفيذ المتزامن (lock-step execution)، يجب أن تنتظر الدفعة (batch) أبطأ وحدة معالجة رسومات لإنهاء معالجة طبقة معينة قبل المتابعة.

يحدد البحث سببين رئيسيين للمتأخرين (stragglers) تفشل الحلول الحالية في معالجتهما في آن واحد:

عدم توازن الخبراء (Expert Imbalance): يتم استخدام خبراء معينين بشكل أكبر بكثير من غيرهم. إذا تم وضع هؤلاء الخبراء "الأكثر استخداماً" في وحدة معالجة رسومات واحدة، فستصبح تلك الوحدة هي عنق الزجاجة.
التباين في الأجهزة (Hardware Variability): تُظهر وحدات معالجة الرسومات الحديثة تبايناً متأصلاً في الأداء بسبب اختلافات التصنيع، والعوامل البيئية، وإدارة الطاقة. حتى مع وجود أحمال رموز متوازنة تماماً، ستعمل وحدة معالجة الرسومات الأبطأ مادياً كمتأخر (straggler).

تحاول الأعمال السابقة حل ذلك إما عن طريق إدخال تجانس اصطناعي في استخدام الخبراء (مما يقلل من دقة النموذج) أو إعادة توزيع الخبراء ديناميكياً (مما يسبب أعباء ذاكرة إضافية). ومن الأهمية بمكان أن هذه النهج تتجاهل تباين الأجهزة، حيث تضع غالباً الخبراء الأكثر استخداماً على أبطأ وحدات معالجة الرسومات المتاحة، مما يكرس مشكلة المتأخرين.

2. المنهجية: إطار عمل GEM

يقترح المؤلفون GEM (رسم خرائط الخبراء الواعي بتباين الـ GPU)، وهو إطار عمل مصمم لربط الخبراء بوحدات معالجة الرسومات من خلال مراعاة كل من أحمال الرموز الخاصة بالمهمة وخصائص أداء الأجهزة بشكل صريح. يعمل GEM عبر خط إنتاج مكون من أربع خطوات:

الخطوة 1: تتبع استهلاك الخبراء (Expert Utilization Trace)

يقوم GEM بالتقاط أنماط توجيه الرموز لمهمة محددة أثناء الاستدلال عبر الإنترنت. يقوم بحساب عدد الرموز التي تم توجيهها إلى كل خبير لبناء تتبع للاستهلاك.

الرؤية: يميز البحث بين الخبراء المستمرين (الذين يُستخدمون بشكل متكرر عبر معظم الخطوات الزمنية) والخبراء المؤقتين (الذين يُستخدمون بشكل غير متكرر ولكن بكثافة في دفعات مترابطة محددة).
التحسين: تُظهر التجارب أن طول التتبع البالغ 16 خطوة زمنية كافٍ لالتقاط الأنماط المستمرة والمؤقتة دون تأخير النشر.

الخطوة 2: توصيف تباين الأداء (Performance Variability Profiling)

يقوم GEM بتوصيف زمن انتقال (latency) طبقات MoE عبر وحدات معالجة رسومات مختلفة كدالة لحمل الرموز.

التحدي: التوصيف الدقيق (لكل عدد من الرموز) بطيء جداً (ساعات)، بينما التوزيع العشوائي الخشن يفقد طبيعة "الدرج" (staircase) في زمن انتقال MoE (حيث يقفز زمن الانتقال عند أحجام دفعات محددة).
الحل: يقوم GEM بأخذ عينات من أعداد الرموز فقط عند حدود البلاطات (tile boundaries) (مضاعفات 32 أو 64 رمزاً، حيث تحدث قفزات زمن الانتقال). هذا يقلل وقت التوصيف من ساعات إلى دقائق (على سبيل المثال، 3 دقائق لنموذج Llama-4-Scout) مع الحفاظ على الدقة.

الخطوة 3: رسم خرائط الخبراء الواعي بالتباين (Variability-Aware Expert Mapping)

يستخدم GEM بحثاً استدلالياً تكرارياً لإيجاد الرسم الأمثل للخبراء إلى وحدات معالجة الرسومات.

دالة التسجيل (Scoring Function): بدلاً من موازنة أعداد الرموز، يقلل GEM من مجموع زمن انتقال المتأخرين (straggler latencies) عبر جميع الخطوات الزمنية. تُحسب الدرجة $S(M)$ كالتالي:
$S(M) = \sum_{t \in T} \max_{g} (C_g(n_g(M, t)))$
حيث $C_g$ هو تكلفة زمن الانتقال لوحدة معالجة الرسومات $g$ بناءً على عدد الرموز $n_g$ ، والمستمدة من ملفات تعريف التباين.
الرؤיות الرئيسية المطبقة:
1. توازن الحمل غير المنتظم: يتم تعيين عدد أكبر من الرموز لوحدات معالجة الرسومات الأسرع مقارنة بالوحدات الأبطأ، بحيث تنتهي جميع الوحدات من معالجة الطبقة في نفس الوقت تقريباً.
2. التعامل مع الارتباط: يكتشف GEM الخبراء المؤقتين المترابطين (الخبراء الذين يُستخدمون في وقت واحد أثناء الدفعات) ويضمن وضعهم في وحدات معالجة رسومات مختلفة. علاوة على ذلك، يتجنب وضع هؤلاء الخبراء ذوي الحمل العالي على أبطأ وحدات معالجة الرسومات.
خوارزمية البحث: يبدأ النظام بعدة عمليات تعيين أولية (بإضافة ضجيج إلى مقاييس الاستخدام لضمان التنوع) ويقوم بتبديل أزواج الخبراء بشكل تكراري لتقليل إجمالي درجة زمن انتقال المتأخرين حتى الوصول إلى التقارب.

الخطوة 4: النشر (Deployment)

بمجرد تحديد الرسم الأمثل، يقوم GEM بتحميل أوزان الخبراء على وحدات معالجة الرسومات المخصصة لها عند تحميل النموذج. يستمر موجه (router) الـ MoE في توزيع الرموز كالمعتاد، ولكن الموقع الفيزيائي للخبراء الآن أصبح محسناً لمجموعة الأجهزة المحددة.

3. المساهمات الرئيسية

تحديد الثغرات المزدوجة: يسلط البحث الضوء على أن المتأخرين ينشأون من الجمع بين عدم انتظام استخدام الخبراء والتباين المتأصل في أداء أجهزة الـ GPU، وهي مشكلة أغفلتها طرق الموازنة الساكنة أو الديناميكية السابقة.
إطار عمل GEM: أول إطار عمل يقوم برسم خرائط الخبراء الواعية بتباين الأجهزة لنماذج MoE.
استراتيجية رسم خرائط مبتكرة:
- الموازنة القائمة على زمن الانتقال: الانتقال من التوزيع المتساوي للرموز إلى التوزيع النسبي للرموز بناءً على سرعة الـ GPU.
- كشف الخبراء المؤقتين: تحديد وفصل الخبراء المؤقتين المترابطين لمنع حدوث طفرات حمل متزامنة على وحدة معالجة رسومات واحدة.
توصيف فعال: استراتيجية أخذ عينات عند حدود البلاطات تلتقط ملفات تعريف تباين الأجهزة في دقائق بدلاً من الساعات.

4. النتائج التجريبية

قام المؤلفون بتقييم GEM على خمسة من نماذج MoE الحديثة (Mixtral-8x7B, Mixtral-8x22B, Llama-4-Scout, Hunyuan-A13B, Qwen3-30B-A3B) باستخدام مجموعات بيانات ShareGPT وCodeContests. قاموا بمحاكاة ثلاثة مستويات من تباين الـ GPU (منخفض، متوسط، مرتفع) على عقدة مكونة من 4 وحدات معالجة رسومات.

زمن الانتقال من البداية للنهاية (End-to-End Latency): حسن GEM زمن الانتقال بمتوسط 7.9% وما يصل إلى 16.5% مقارنة بالنموذج الأساسي (الرسم الخطي الافتراضي لـ vLLM).
- حققت إعدادات التباين العالي أكبر المكاسب (حتى 16.5%).
- حتى في إعدادات التباين المنخفض، قدم GEM تحسينات (تصل إلى 4.5%) من خلال التحسين الموجه للخبراء المؤقتين المترابطين.
زمن انتقال الذيل (p90 TPOT): قلل GEM زمن الانتقال لكل رمز ناتج في المئوية التسعين بمتوسط 9.1% (يصل إلى 16.9%)، مما يحسن الاستجابة المدركة بشكل كبير.
تكلفة التوصيف (Profiling Overhead): تستغرق عملية توصيف التباين ورسم الخرائط أقل من 4 دقائق إجمالاً، وهو أمر لا يذكر مقارنة بساعات أو أيام من الاستدلال الذي يتم تقديمه في الإنتاج.

5. الأهمية والادعاءات

يدعي البحث أن GEM هو أول إطار عمل لرسم خرائط الخبراء الواعي بتباين الأجهزة لاستدلال نماذج MoE. تكمن أهميته في تحويل تباين الأجهزة من عبء إلى قيد في رسم الخرائط يمكن استغلاله لتحسين الأداء.

يؤكد المؤلفون على ما يلي:

مجرد موازنة أعداد الرموز ليس كافياً لأن ذلك يتجاهل عدم تجانس الأجهزة.
تجاهل الخبراء المؤقتين (الذين غالباً ما يكونون مترابطين) يؤدي إلى عمليات تعيين غير مثالية حتى لو كانت الأحمال المتوسطة متوازنة.
مع زيادة حجم الأنظمة (على سبيل المثال، من 4 إلى 64 وحدة معالجة رسومات)، تتسع الفجوة بين أسرع وأبطأ وحدات معالجة الرسومات بشكل رتيب، مما يجعل رسم الخرائط الواعي بالتباين أمراً بالغ الأهمية للنشر واسع النط scale.

يُظهر العمل أنه من خلال مواءمة وضع الخبراء مع الطبيعة الإحصائية لتوجيه الرموز والواقع الفيزيائي لأداء الـ GPU، يمكن تحقيق تخفيضات كبيرة في زمن الانتقال دون الحاجة لإعادة تدريب النماذج أو تحمل أعباء ذاكرة كبيرة.