💬 NLP

Dr.LLM: Dynamic Layer Routing in LLMs

إن Dr. LLM هو إطار عمل قابل للتعديل يزود النماذج اللغوية الكبيرة مسبقة التدريب بموجهات خفيفة الوزن تخضع لإشراف بحث شجرة مونت كارلو (MCTS) لتخطي أو تنفيذ أو تكرار طبقات المحولات ديناميكيًا، مما يحقق وفورات كبيرة في الحوسبة مع تحسين أو الحفاظ على الدقة عبر مهام متنوعة دون تغيير أوزان النموذج الأساسي.

المؤلفون الأصليون: Ahmed Heakl, Martin Gubri, Salman Khan, Sangdoo Yun, Seong Joon Oh

نُشر 2026-05-20

📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Ahmed Heakl, Martin Gubri, Salman Khan, Sangdoo Yun, Seong Joon Oh

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أن لديك أمين مكتبة عبقرياً ومثقلاً بالأعباء (وهو النموذج اللغوي الكبير، أو LLM) يجيب على أسئلتك. في الوقت الحالي، بغض النظر عن مدى بساطة سؤالك ("ما هو 2+2؟") أو مدى تعقيده ("حل هذه المسألة الفيزيائية المتقدمة")، يُجبر أمين المكتبة هذا على المرور عبر كل غرفة في مكتبته الضخمة، وفحص كل رف كتب، قبل إعطائك الإجابة.

هذا أمر غير فعال. فبالنسبة للأسئلة البسيطة، يضيع وقته في المشي عبر غرف لا يحتاجها. وبالنسب بالنسبة للأسئلة الصعبة، قد لا يملك الوقت الكافي للتعمق بعمق كافٍ لأنه عالق في جدول زمني صارم.

Dr.LLM يشبه منح أمين المكتبة هذا "مراقب حركة مرور" ذكياً وخفيف الوزن لكل غرفة.

كيف يعمل الأمر: تشبيه "مراقب حركة المرور"

بدلاً من أن يمشي أمين المكتبة بشكل أعمى عبر كل غرفة، يقوم Dr.LLM بتثبيت صانع قرار صغير وسريع (موجه - router) عند مدخل كل غرفة. عندما يصل أمين المكتبة إلى غرفة معينة، ينظر الموجه إلى الوضع الحالي ويتخذ أحد القرارات الثلاثة السريعة:

التخطي (Skip): "هذه الغرفة ليست مطلوبة لهذا السؤال. دعنا نمر بجانبها مباشرة لتوفታ الوقت."
التنفيذ (Execute): "نحن بحاجة للقيء بعملنا هنا. ادخل، اقرأ الكتب، ثم اخرج."
التكرار (Repeat): "هذا جزء صعب. نحتاج للدخول، والقيام بالعمل، ثم الدخول مرة أخرى للتدقيق أو تحسين الإجابة."

كيف دربوا مراقبي حركة المرور

الجزء الصعب هو تعليم هؤلاء الموجهين ما يجب عليهم فعله دون استئجار فريق جديد من الخبراء لإعادة كتابة المكتبة بأكملها (لأن ذلك سيكون مكلفاً وبطيئاً).

استخدم المؤلفون طريقة تسمى MCTS (بحث شجرة مونت كارلو). فكر في هذا كفريق محاكاة فائق الذكاء قام بتشغيل آلاف سيناريوهات "ماذا لو" خارجياً (offline). سألوا: "إذا تخطينا هذه الغرفة، هل ستسوء الإجابة؟ إذا كررنا هذه الغرفة، هل ستتحسن الإجابة؟"

لقد وجدوا "المسارات" المثالية عبر المكتبة لمختلف أنواع الأسئلة. ثم استخدموا هذه المسارات المثالية لتدريب الموجهين الصغار. وبمجرد تدريبهم، يعرف الموجهون بالضبط متى يتخطون، أو يذهبون، أو يكررون، دون الحاجة إلى تشغيل عمليات المحاكاة أثناء الإجابة على أسئلتك.

النتائج: أسرع وأذكى

يدعي البحث أن هذا النظام يحقق شيئين مذهلين في آن واحد:

إنه يوفر الطاقة (الحوسبة): في المتوسط، يتخطى أمين المكتبة حوالي 5 غرف لكل سؤال. وهذا يجعل النظام أسرع وأرخص في التشغيل.
إنه يصبح أذكى (الدقة): للمفاجأة، من خلال تخطي الأجزاء المملة وتكرار الأجزاء الصعبة، يعطي أمين المكتبة إجابات أفضل مما كان عليه من قبل.
- في الألغاز المنطقية (ARC)، ارتفدت الدقة بنحو 1%.
- في المسائل الرياضية (DART)، قفزت الدقة بما يصل إلى 3.4%.

هل يعمل على أسئلة جديدة؟

اختبر المؤلفون هؤلاء الموجهين على أسئلة لم يروها من قبل (مثل المعرفة العامة، فهم القراءة، أو أنواع مختلفة من الرياضيات). وعلى الرغم من أن الموجهين تم تدريبهم على ألغاز منطقية ورياضية محددة، إلا أنهم عمموا نتائجهم بشكل جيد. فقد انخفضت الدقة بنسبة ضئيلة جداً فقط (0.85%)، مما يثبت أن الموجهين تعلموا "أسلوب" تفكير عام بدلاً من مجرد حفظ إجابات محددة.

"السر الخفي"

يسلط البحث الضوء على بعض الميزات الرئيسية التي تجعل هذا العمل ممكناً:

لا إعادة بناء: ليس عليك هدم المكتبة أو إعادة بناء أمين المكتبة. أنت فقط تضيف هذه الموجهات الصغيرة فوق النظام الحالي.
التجميع النافذي (Windowed Pooling): الموجهون لا ينظرون إلى كل كلمة واحدة على حدة (مما سيكون بطيئاً). بدلاً من ذلك، ينظرون إلى "كتل" أو "نوافذ" من المحادثة لاتخاذ قرارات مستقرة.
تدريب ذكي: استخدموا خدعة رياضية خاصة (Focal Loss) للتأكد من أن الموجهين لم يختاروا دائماً "التنفيذ" (الخيار الآمن والكسول). لقد أجبروا الموجهين على تعلم متى يتخطون أو يكررون بالفعل.

باختختصار

Dr.LLM يشبه منح روبوت جامد وموحد القياس نظارات ذكية. الآن، يمكن للروبوت رؤية أي المهام سهلة وأيها صعبة، مما يسمح له بتخطي الخطوات السهلة والتدقيق في الخطوات الصعبة. النتيجة هي نظام أسرع، وأرخص، وأكثر دقة بشكل مفاجئ من النظام الأصلي، دون الحاجة إلى إعادة بنائه بالكامل.

ملخص تقني: Dr.LLM – التوجيه الديناميكي للطبقات في النماذج اللغوية الكبيرة (LLMs)

بيان المشكلة

تعمل النماذج اللغوية الكبيرة (LLMs) حالياً ضمن نظام ذي عمق ثابت، حيث تعالج كل رمز (token) عبر مكدس ثابت من طبقات المحولات (transformer layers) بغض النظر عن تعقيد المدخلات. يؤدي هذا النهج إلى عدم كفاءة أساسية مزدوجة:

هدر الحوسبة: تستهلك الاستعلامات البسيطة حوسبة غير ضرورية عبر المرور بجميع الطبقات.
عدم كفاية المرونة: غالباً ما تتطلب مهام الاستدلال المعقدة معالجة أعمق أو صقلاً تكرارياً، وهو ما لا تستطيع البنى الثابتة توفيره دون إعادة تدريب أو تغيير هيكلي شامل.

تواجه الأساليب الحالية ذات العمق التكيفي (مثل: الخروج المبكر، تقليم الطبقات، أو خليط الأعماق/mixture-of-depths) قيوداً كبيرة: فهي غالباً ما تضحي بالدقة مقابل السرعة، أو تتطلب إعادة تدريب واسعة النطاق أو تعديلات هيكلية، أو تعتمد على بحث مكلف أثناء الاستدلال مما يعيق القدرة على التوسع. علاوة على ذلك، فإن العديد من الأساليب السابقة تؤدي إلى تدهور دقة النموذج رغم تحقيق مكاسب في الكفاءة.

المنهجية: Dr.LLM

يقترح المؤلفون Dr.LLM (التوجيه الديناميكي للطبقات للنماذج اللغوية الكبيرة)، وهو إطار عمل قابل للإلحاق (retrofittable) يزود النماذج اللغوية الكبيرة المدربة مسبقاً والمجمدة بموجهات (routers) خفيفة الوزن لكل طبقة. تقرر هذه الموجهات ما إذا كان يجب تخطي (skip)، أو تنفيذ (execute)، أو تكرار (repeat) كتلة محول معينة لمدخلات معينة.

1. بنية الموجه (Router Architecture)

البنية: يتم إقران كل كتلة محول $B_\ell$ بـ MLP خفيف الوزن يتكون من طبقات (Linear-GELU-Linear).
المدخلات: يعمل الموجه على ملخص مضغوط للحالات الخفية (hidden states) من الطبقة السابقة. ولضمان الاستقرار في السياقات الطويلة، استخدم المؤلفون تجميع المتوسط النافذي (windowed mean pooling)، حيث يتم تقسيم التسلسل إلى نوافذ متتالية وحساب متوسط الحالات الخفية داخل كل نافذة.
المخرجات: يخرج الموجه قيم (logits) لثلاث فئات: $\{skip, execute, repeat\}$ .
الأعباء الإضافية: يتم تنفيذ الموجه مرة واحدة لكل تسلسل مدخل. الأعباء الإضافية ضئيلة (ثابتة بالنسبة لعدد الرموز) ومتوافقة تماماً مع ذاكرة التخزين المؤقت للمفاتيح والقيم (KV caching).

2. التدريب الخاضع للإشراف عبر MCTS

على عكس الأساليب التي تعتمد على التعلم التعزيزي أو البحث أثناء الاستدلال، يقوم Dr.LLM بتدريب الموجهات باستخدام إشراف صريح مستمد من بحث شجرة مونت كارلو (MCTS) في وضع عدم الاتصال (offline).

عملية البحث: يستكشف MCTS لكل مدخل مسارات تنفيذ معدلة (تخطي أو تكرار الطبقات) تحت ميزانية حوسبية محددة. ويحتفظ فقط بالمسارات التي تحافظ على دقة المهمة أو تحسنها مقارنة بالتنفيذ الافتراضي كامل العمق.
مجموعة البيانات: يولد البحث مجموعة بيانات مضغوطة تتكون من حوالي 4,000 مسار تنفيذ مُحسّن (أزواج من: السؤال، إجراءات الطبقة المثلى، والإجابة).
هدف التدريب: يتم تدريب الموجهات من البداية إلى النهاية (end-to-end) على هذه المجموعة باستخدام فقد التركيز (Focal Loss) مع أوزان موازنة الفئات للتعامل مع عدم التوازن الشديد بين فئة "التنفيذ" المهيمنة وفئات "التخطي" و"التكرار" الأقلية.
التجميد: من الضروري أن تظل أوزان النموذج اللغوي الكبير الأساسي مجمدة؛ حيث يتم تحديث معاملات الموجه فقط.

3. الاستدلال

في وقت الاستدلال، يتخذ الموجه المدرب قرارات جشعة ( $\hat{y}_\ell = \arg\max p_\ell$ ) لكل طبقة دون الحاجة لأي عملية بحث.

التخطي (Skip): يتجاوز الطبقة ( $H^{(\ell)} = H^{(\ell-1)}$ ).
التنفيذ (Execute): يطبق الطبقة مرة واحدة.
التكرار (Repeat): يطبق الطبقة مرتين متتاليتين.
التجميع (Batching): للتعامل مع التزامن في المعالجة المجمعة، يتم تجميع التسلسلات بناءً على قرارات التوجيه الخاصة بها عند كل طبقة. يشير المؤلفون إلى أن الإجماع العالي في التوجيه (اتفاق بنسبة 80-89% عبر التسلسلات) يقلل من أعباء التزامن.

المساهمات الرئيسية

التوجيه الديناميكي الخاضع للإشراف للنماذج المجمدة: تقديم موجهات لكل طبقة تقرر التخطي أو التنفيذ أو التكرار، وتُدرب من البداية إلى النهاية على 4 آلاف مسار فقط مستمدة من MCTS دون تعديل الأوزان الأساسية.
الإشراف الفعال للمسارات عبر MCTS: خوارزمية MHS مدركة للطول تكتشف تكوينات الطبقات التي تحافظ على الدقة أو تحسنها في وضع عدم الاتصال، مما يولد مجموعة بيانات إشراف مضغوطة دون الحاجة للبحث أثناء الاستدلال.
تدريب موجه خفيف الوزن: تصميم يتميز بتجميع المتوسط النافذي لاستقرار السياق الطويل، وفقد التركيز لمعالجة عدم توازن الفئات، وموجه خطي بسيط بطبقتين، مما يضمن أعباء حسابية ضئيلة.
مكاسب في الدقة والكفاءة: أظهر تحسينات في دقة الاستدلال جنباً إلى جنب مع تقليل تنفيذ الطبقات، متفوقاً على الأساليب السابقة في توجيه المسارات.
التعميم القوي: أظهر أن سياسات التوجيه المتعلمة تنتقل بفعالية إلى الاختبارات خارج النطاق (out-of-domain) مع حد أدنى من تدهور الدقة.

النتائج التجريبية

الأداء داخل النطاق (ARC و DART)

عند التقييم على ستة نماذج (متغيرات LLaMA-3.2 و Qwen-2.5)، حقق Dr.LLM تحسناً مستمراً في الدقة مع تقليل متوسط الطبقات المنفذة:

الدقة: تحسنت بما يصل إلى +3.4 نقطة مئوية (p.p.) في DART (رياضيات) و +1.0 نقطة مئوية في ARC (منطق). على سبيل المثال، شهد نموذج LLaMA-3B-Base قفزة من 11.8% إلى 15.8% في DART.
الكفاءة: وفر متوسط 5.0 طبقات لكل مثال عبر النماذج، مع حالات محددة وفرت حتى 11.0 طبقة.
زمن الاستجابة (Latency): حقق انخفاضاً بنسبة 15.3% في زمن التوليد الفعلي لتشغيل 1,000 رمز، مع مساهمة الأعباء الإضافية للموجه بأقل من 1% من إجمالي زمن الاستجابة.

التعميم خارج النطاق

عند تطبيقه على اختبارات متنوعة (MMLU, GSM8k, AIME, TruthfulQA, SQuADv2, GPQA, AGIEval, PIQA) دون إعادة تدريب:

حافظت الموجهات على الكفاءة مع معاناة من انخفاض متوسط في الدقة قدره 0.85 نقطة مئوية عبر ثمانية اختبارات.
في بعض الحالات (مثل GPQA Diamond مع LLaMA-3B)، تحسنت الدقة بالفعل (+2.5 نقطة مئوية).
يشير هذا إلى أن السياسات المتعلمة تلتقط التكرارات الهيكلية العامة في حسابات المحولات بدلاً من الإفراط في التخصيص لمهام محددة.

المقارنة مع أحدث التقنيات (SOTA)

تفوق Dr.LLM على طرق التوجيه السابقة (مثل FlexiDepth و MindSkip و ShortGPT) بما يصل إلى +7.7 نقطة مئوية في الدقة في اختبارات الاستدلال. وخلافاً لـ FlexiDepth، الذي يتطلب التدريب على مئات الآلاف من الأمثلة وغالباً ما يضحي بالدقة، يحقق Dr.LLM دقة أعلى مع أعباء تدريب أقل بكثير (4 آلاف مثال، GPU واحد) ودون تغييرات هيكلية.

تحليل نمط التوجيه

كشف تحليل قرارات التوجيه عن سلوكيات منظمة:

الطبقات المبكرة: يتم تنفيذها باستمرار (استخدام مستقر).
الطبقات الوسطى: يتم تخطيها بشكل متكرر (لتوفير الحوسبة).
الطبقات المتأخرة: غالباً ما يتم تكرارها، خاصة لمهام الاستدلال المعقدة، مما يشير إلى دور في الصقل التكراري.
تعلم الميزات: تفوقت الموجهات المدربة على الحالات الخفية للطبقة السابقة بشكل كبير على تلك المدربة على تضمينات المدخلات الثابتة، مما يؤكد أن Dr.LLM يتعلم رسم خرائط الحالات الداخلية للنموذج إلى قرارات التوجيه ديناميكياً.

الأهمية والادعاءات

يدعي البحث أن Dr.LLM يثبت أن الموجهات الخاضعة للإشراف الصريح يمكنها إلحاق القدرة (retrofit) بالنماذج اللغوية الكبيرة المجمدة لتحقيق استدلال موجه بالميزانية والدقة. تشمل النقاط الرئيسية ما يلي:

لا تتطلب إعادة تدريب: تظل أوزان النموذج الأساسي دون مساس، مما يحافظ على قدرات النموذج الأصلية.
كفاءة إيجابية للدقة: على عكس العديد من الأساليب التكيفية التي تضحي بالدقة مقابل السرعة، يحسن Dr.LLM كليهما في آن واحد في المهام كثيفة الاستدلال.
النشر العملي: من خلال إزالة الحاجة للبحث أثناء الاستد أو التعديلات الهيكلية، يقدم Dr.LLM حلاً عملياً وقابلاً للتوسع للاستدلال التكيفي.
القدرة على التعميم: تنتقل سياسات التوجيه المتعلمة بقوة عبر عائلات النماذج ومجالات المهام، مما يشير إلى أن تخصيص الحوسبة التكيفية هو خاصية أساسية قابلة للتعلم في بنى المحولات.

يخلص المؤلفون إلى أن Dr.LLM يوفر خطوة عملية نحو استدلال تكيفي قابل للتوسع، يوفق بين الكفاءة والدقة والمتانة دون التكاليف الباهظة المرتبطة بإعادة التدريب أو إعادة التصميم الهيكلي.