Expert-Choice Routing Enables Adaptive Computation in Diffusion Language Models
تقترح هذه الورقة البحثية توجيه "اختيار الخبير" (EC) كبديل متفوق لتوجيه "اختيار الرمز" (TC) لنماذج اللغة الانتشارية، حيث تُثبت أن موازنة الحمل الحتمية لـ (EC)، مقترنة بالسعة التكيفية المعتمدة على الخطوة الزمنية، تُحسن بشكل كبير من معدل الإنتاجية، وسرعة التقارب، ودقة المهام اللاحقة، مع تمكين تحديث النماذج الحالية.
المؤلفون الأصليون:Shuibai Zhang, Caspian Zhuang, Chihan Cui, Zhihan Yang, Fred Zhangzhi Peng, Yanxin Zhang, Haoyue Bai, Zack Jia, Yang Zhou, Guanhua Chen, Ming Liu
تخيل أنك تدير مطبخ مطعم فاخر وضخم. هدفك هو طهي وجبة معقدة متعددة الأصناف (توليد نص طويل) لمجموعة من الضيوف.
في عالم الذكاء الاصطناعي، هناك طريقتان رئيسيتان لإدارة هذا المطبخ: الطريقة القديمة (التوليد الذاتي - Autoregressive) والطريقة الجديدة (الانتشار - Diffusion).
الطريقة القديمة: تطهو طبقاً تلو الآخر، من المقبلات إلى الحلوى. لا يمكنك البدء في الطبق الرئيسي حتى ينتهي طبق المقبلات. إنها بطيئة ولكنها ثابتة.
الطريقة الجديدة (الانتشار): تضع جميع المكونات على الطاولة دفعة واحدة، لكنها جميعاً مغطاة بضباب كثيف (أقنعة/Masks). مهمتك هي إزالة الضباب وكشف الطبق خطوة بخوة. في كل خطوة، تنظر إلى الطاولة بأكملها وتصلح بعض البقع الضبابية حتى تصبح الوجبة بأكملها واضحة. هذا أسرع بكثير لأنك تستطيع العمل على الطاولة بأكملها في وقت واحد.
هذه الورقة البحثية تتحدث عن كيفية تنظيم الطهاة ("الخبراء") في مطبخ "الانتشار" هذا لجعل العمل يسير بشكل أسرع وأفضل.
المشكلة: فوضى "اختر طاهيك بنفسك"
حالياً، تستخدم معظم مطابخ "الانتشار" نظاماً يسمى اختيار الرمز (Token-Choice - TC). تخيل أن كل مكون (رمز) على الطاولة يحصل على فرصة لاختيار الطاهي الذي يريد العمل معه.
الفوضى: بعض المكونات تكون مشهورة جداً (مثل "الـ" أو "قطة") وجميعها تندفع نحو نفس الطهاة النجوم (اثنين أو ثلاثة). هؤلاء الطهاة يصبحون مثقلين بالأعباء، يتصببون عرقاً ويسقطون الطلبات. في حين أن طهاة آخرين يقفون بلا عمل، يعبثون بأيديهم.
الحل (الذي لا يعمل جيداً): يحاول مدير المطبخ الصراخ: "مهلاً، توقفوا عن اختيار نفس الطاهي!" أو يضع عقوبة لمن يختار الطهاة المشهورين. لكن الأمر فوضوي. المطبخ يزدحم، والخط يتحرك ببطء، وعلى الفريق بأكمله الانتظار حتى ينتهي أبطأ وأكثر طاهٍ مشغول قبل الانتقال إلى الخطوة التالية.
الحل: نظام "اختيار الطاهي"
يقترح المؤلفون التحول إلى نظام توجيه "اختيار الخبير" (Expert-Choice - EC). بدلاً من أن تختار المكونات الطهاة، الطهاة هم من يختارون المكونات.
كيف يعمل: كل طاهٍ يقول: "يمكنني التعامل مع 5 مكونات بالضبط". يقوم بمسح الطاولة ويأخذ الـ 5 مكونات التي تحتاج إليه أكثر من غيرها.
النتيجة: كل طاهٍ لديه 5 مكونات بالضبط. لا أحد مثقل بالأعباء؛ ولا أحد يقف عاطلاً. المطبخ يعمل مثل رقصة متناغمة ومثالية.
الفائدة: بما أن الجميع يعملون بنفس السرعة، فإن المطبخ بأكمله يتحرك أسرع بمرتين (2x). لا يوجد انتظار للطاهي "المتلكئ".
السر الخاص: جدولة "وقت اليوم"
وجد المؤلفون خدعة ثانية، وهي أكثر روعة. أدركوا أن ليست كل الخطوات في عملية الطهي متساوية في الصعوبة.
الخطوات المبكرة (ضباب عالٍ): عندما تكون الطاولة مغطاة بضباب كثيف، يكون الطهاة مجرد يخمنون. ليس لديهم الكثير من السياق. تقديم مساعدة إضافية لهم لا يفيد كثيراً لأنهم يعملون في الظلام.
الخطوات المتأخرة (ضباب منخفض): مع انقشاع الضباب، يستطيع الطهاة رؤية الطبق بوضوح. إنهم يقومون بصقل التفاصيل. هنا يحدث السحر. إذا أعطيت أفضل طهاتك أيدٍ إضافية الآن، فسيصبح الطبق مثالياً بشكل أسرع بكثير.
لذا، قدموا ما يسمى "السعة المرتبطة بالخطوة الزمنية" (Timestep-Dependent Capacity).
الاستراتيجية: مع انقشاع الضباب (انخفاض نسبة القناع/mask ratio)، يعطون الطهاة مزيداً من المكونات للتعامل معها.
التشبيه: تخيل طاقم بناء. عندما يكون المبنى مجرد كومة من الطوب (المرحلة المبكرة)، لا تحتاج إلى 100 مهندس معماري؛ بل تحتاج إلى عدد قليل من العمال. ولكن عندما يقتر reach المبنى إلى نهايته وأنت تقوم بتلميع النوافذ (المرحلة المتأخرة)، تريد أفضل مهندسي معماري لديك، الأكثر دقة واهتماماً بالتفاصيل، للعمل عليها.
النتيجة: من خلال تركيز طاقتهم على مرحلة "التلميع"، يتعلم النموذج أسرع بـ 10 مرات خلال تلك اللحظات الحرجة.
هل يمكننا إصلاح المطابخ القديمة؟
الأمر الأفضل؟ لست بحاجة لإعادة بناء المطعم بالكامل لاستخدام هذا. إذا كان لديك مطبخ حالي يستخدم نظام "اختر طاهيك بنفسك"، يمكنك ببساطة استبدال كتاب قواعد المدير.
تحتفظ بنفس الطهاة والمكونات.
تغير فقط القاعدة لتصبح الطهاة هم من يختارون المكونات بدلاً من ذلك.
النتيجة: المطبخ القديم يصبح فوراً أسرع، ويتعلم بشكل أفضل، وينتج وجبات ذات جودة أعلى دون أي عمليات تجديد مكلفة.
الملخص
توقف عن ترك المكونات تختار الطهاة. دع الطهاة يختارون المكونات (اختيار الخبير). هذا يوقف الاختناقات المرورية ويجعل المطبخ يعمل أسرع بمرتين.
لا تعامل كل لحظة بنفس الطريقة. أعطِ طهاتك أكبر قدر من العمل عندما ينقشع الضباب (خطوات القناع المنخفض)، لأن هذا هو الوقت الذي يتعلمون فيه أكثر.
إنه تحديث سريع. يمكنك أخذ أي نموذج ذكاء اصطناعي موجود واستبدال قاعدة "المدير" هذه لجعله أذكى وأسرع فوراً.
تقدم نماذج اللغة الانتشارية (DLMs) بديلاً واعداً للنماذج ذات التوليد التلقائي (Autoregressive) من خلال تمكين توليد النصوص بشكل متوازٍ وغير تلقائي. ومع ذلك، فإن نماذج DLM الحالية التي تستخدم بنيات خليط الخبراء (MoE) قد ورثت نظام توجيه "اختيار الرمز" (Token-Choice - TC) من الأنظمة التلقائية. وقد أدى هذا التوريث إلى مشكلتين حرجتين:
عدم توازن الأحمال: في توجيه TC، تختار الرموز (tokens) الخبراء المفضلين لديها بشكل مستقل. يؤدي هذا إلى عدم توازن حمل عشوائي حيث يتم تحميل بعض الخبراء فوق طاقتهم بينما يظل الآخرون خاملين. يتطلب التخفيف من ذلك خسائر مساعدة لموازنة الأحمال، والتي تستهلك قدرة الحوسبة وتدخل إشارات تدرج متنافسة، ومع ذلك تفشل في تقديم ضمانات قاطعة.
الحوسبة الجامدة: يعامل توجيه TC سعة الخبير كخاصية ناشئة عن اختيار الرموز، مما يجعل من المستحيل التحكم ديناميكياً في مقدار الحوسبة المخصصة لمراحل محددة من عملية إزالة الضجيج (denoising).
عدم الكفاءة: يتسبب عدم توازن الأحمال في تأثير "المتأخرين" (stragglers) في التدريب المتوازي (حيث تنتظر بعض وحدات معالجة الرسومات الوحدات المثقلة بالأحمال)، مما يقلل الإنتاجية بشكل كبير ويبطئ التقارب (convergence).
2. المنهجية
يقترح المؤلفون استبدال توجيه "اختيار الرمز" (TC) بتوجيه "اختيار الخبير" (Expert-Choice - EC) وتقديم "سعة خبير تعتمد على الخطوة الزمنية".
أ. توجيه اختيار الخبير (EC)
بدلاً من اختيار الرموز للخبراء، يقوم الخبراء باختيار عدد ثابت من الرموز (السعة c) بناءً على درجات البوابة (gating scores).
موازنة أحمال حتمية: من خلال التصميم، يعالج كل خبير بالضبط c من الرموز. هذا يلغي عدم توازن الأحمال دون الحاجة إلى دالات خسارة مساعدة.
التوافق مع الرؤية الشاملة: تعالج نماذج DLM التسلسل بأكمله بشكل غير سببي (non-causally) في كل خطوة إزالة ضجيج، مما يجعلها متوافقة طبيعياً مع EC، الذي يتطلب رؤية شاملة لجميع الرموز لإجراء الاختيار من جانب الخبير.
ب. جدولة السعة المعتمدة على الخطوة الزمنية
بما أن نماذج DLM تتكرر عبر خطوات إزالة الضجيج مع نسب قناع (masking ratios r) متغيرة، فقد عامل المؤلفون سعة الخبير (k) كمتغير ديناميكي k(r) بدلاً من كونه ثابتاً مستقراً.
الفرضية: تقدم نسب القناع المختلفة مهام تعلم متباينة نوعياً. استقصى المؤلفون ما إذا كان تخصيص المزيد من الحوسبة لنسب قناع معينة يحقق عوائد أعلى.
استراتيجيات الجدولة: اختبروا وظائف مختلفة s(r) تربط نسبة القناع بالسعة، بما في ذلك:
العكس الخطي (Linear-Reverse): يخصص سعة أكبر لنسب القناع المنخفضة (r→0).
الأمامي/المتوسط (Forward/Intermediate): يخصص سعة أكبر لنسب القناع العالية أو الخطوات المتوسطة.
القيد: تمت معايرة جميع الجداول الديناميكية لتتطابق مع العمليات الحسابية المتوقعة (expected FLOPs) لنموذج أساسي ثابت لضمان مقارنة عادلة.
3. المساهمات الرئيسية
تفوق توجيه EC: ثبت أن توجيه EC يتفوق تماماً على TC في نماذج DLM، حيث يوفر موازنة أحمال حتمية، وإنتاجية أعلى، وتقارباً أسرع.
سياسة الحوسبة التكيفية: قدم مفهوم جدولة سعة الخبير بناءً على خطوة إزالة الضجيج الزمنية.
الرؤية الآلية: حددت الدراسة أن خطوات نسبة القناع المنخفضة (حيث تكون معظم الرموز مرئية) تمتلك كفاءة تعلم أعلى بمراحل. وبالتالي، فإن تركيز الحوسبة على هذه الخطوات يحقق أكبر عائد هامشي.
القدرة على التحديث اللاحق (Retrofitting): أظهرت الدراسة أنه يمكن تحويل نماذج TC المدربة مسبقاً إلى نماذج EC عن طريق استبدال الموجه (router) فقط، مما يحقق تقارباً أسرع ودقة محسنة دون الحاجة لإعادة التدريب من الصفر.
4. النتائج التجريبية
كفاءة التدريب والإنتاجية
التسريع: حقق توجيه EC تسارعاً في تقارب وقت التنفيذ (wall-clock convergence) بمقدار 2.0 ضعف مقارنة بنماذج TC.
وصل نموذج EC إلى خسارة تدريب قدرها 3.75 في 10.6 ساعة.
استغرق نموذج TC (بدون إسقاط، متوازن الأحمال) 20.7 ساعة.
الإنتاجية: حقق EC إنتاجية بلغت 52.1 TFLOP/s/GPU، وهو ما يعادل 1.5–2.1 ضعف جميع تكوينات TC. ويعود ذلك إلى القضاء على تأثير "المتأخرين" (حيث تنتهي جميع وحدات معالجة الرسومات من معالجة الرموز في وقت واحد).
استقرار الذاكرة: حافظ EC على استخدام موحد تماماً لذاكرة وحدة معالجة الرسومات (الانحراف المعياري 0.0 جيجابايت)، بينما أظهر TC تبايناً عالياً (الانحراف المعياري 3.6 جيجابايت) بسبب عدم توازن الأحمال.
السعة التكيفية للخطوة الزمنية
أفضل استراتيجية: حققت جدولة العكس الخطي (Linear-Reverse) (تخصيص سعة أكبر لخطوات نسبة القناع المنخفضة) باستمرار أدنى درجة من "الارتباك" (perplexity) في التحقق تحت نفس عدد العمليات الحسابية (FLOPs).
PPL للعكس الخطي: 36.5
PPL للنموذج الأساسي الثابت: 37.1
PPL المفضل للقناع العالي: 37.5
الآلية: كشف تحليل معدلات التقارب (ηr) أن الرموز في سياقات نسبة القناع المنخفضة تتعلم أسرع بـ ~7–10 مرات من الرموز في سياقات نسبة القناع العالية. لذا، فإن تخصيص المزيد من الخبراء لهذه الخطوات عالية الكفاءة يعظم العائد الهامشي للحوسبة.
تحديث النماذج المدربة مسبقاً
قام المؤلفون بتحويل نموذج TC مدرب مسبقاً (LLaDA-MoE) إلى EC عن طريق استبدال الموجه.
النتائج: حقق نسخة EC تقارباً أسرع بكثير أثناء الضبط الدقيق (fine-tuning) وحققت سرعة فك تشفير (decoding) أسرع بمقدار 1.3–1.5 مرة في وقت الاستنتاج.
الدقة: حقق نظام EC الديناميكي (Linear-Reverse) أعلى متوسط دقة عبر أربعة اختبارات معيارية (HumanEval, GSM8K, MedQA, إلخ)، متفوقاً على كل من EC الثابت ونموذج TC الأصلي.
5. الأهمية والخاتمة
يغير هذا البحث بشكل جذري نموذج عمل خليط الخبراء (MoE) في نماذج اللغة الانتشارية:
من الثبات إلى التكيف: يثبت أن الحوسبة في نماذج DLM يجب أن تُعامل كـ سياسة تكيفية (تتغير حسب الخطوة الزمنية) بدلاً من كونها ثابتاً معمارياً.
الكفاءة الهيكلية: يثبت أن توجيه اختيار الخبير (EC) هو الأنسب للتوليد المتوازي وغير التلقائي، مما يحل مشكلة عدم توازن الأحمال هيكلياً بدلاً من الاعتماد على خسائر مساعدة.
الأثر العملي: توفر القدرة على تحديث نماذج TC الموجودة بأقل قدر من التغييرات (استبدال الموجه) مساراً منخفض التكلفة لتحقيق مكاسب فورية في الإنتاجية، سرعة التقارب، وزمن استجابة الاستنتاج لنماذج DLM المستخدمة.