← أحدث الأبحاث
💬 NLP

RequestRouter: Request-Boundary Routing for Efficient Single-GPU LLM Inference

يُعد RequestRouter متحكماً خفيف الوزن عند حدود الطلبات، يقوم باختيار أوضاع الاستدلال المثلى ديناميكياً (مثل التكميم، أو فك التشفيد التخميني، أو التخزين المؤقت للبادئة) لخدمة النماذج اللغوية الكبيرة على وحدة معالجة رسومات واحدة، محققاً تخفيضات كبيرة في زمن الاستجابة واستهلاك الطاقة مع عبء إضافي ضئيل للغاية مع الحفاظ على دقة شبه متطابقة مع الاستدلال بدقة كاملة.

المؤلفون الأصليون: Aman Sunesh, Ali Alshehhi, Hivansh Dhakne

نُشر 2026-08-21
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Aman Sunesh, Ali Alshehhi, Hivansh Dhakne

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

يعتمد الذكاء الاصطناعي الحديث على النماذج اللغوية الكبيرة لتوليد النصوص، والإجابة على الأسئلة، وحل المشكلات. هذه الأنظمة قوية، لكنها أيضاً نهمة للكهرباء. ففي كل مرة يطرح فيها مستخدم سؤالاً، يجب على الحاسوب إجراء مليارات العمليات الحسابية لإنتاج إجابة، وهي عملية تستهلك طاقة كبيرة وتستغرق وقتاً. وبالنسبة للأشخاص الذين يديرون هذه الأنظمة، فإن التحدي يكمل في جعل الحاسوب يعمل بأسرع ما يمكن دون إهدار الطاقة. حالياً، تستخدم معظم الأنظمة إعداداً واحداً ثابتاً لكل طلب، بغض النظر عما إذا كانت المهمة بسيطة أم معقدة. هذا يشبه قيادة شاحنة ثقيلة بسرعة الطرق السريعة سواء كنت تعبر مربع سكني أو تسافر عبر البلاد؛ الأمر يعمل، ولكنه غالباً ما يكون غير فعال. ويبحث الباحثون الآن عن طرق لمطابقة إعدادات الحاسوب مع الوظيفة المحددة المطلوبة، آملين في توفير الطاقة وتسريع الاستجابات دون تغيير الذكاء الأساسي للنموذج نفسه.

لقد طور فريق من الباحثين في جامعة نيويورك نهجاً جديداً يسمى "RequestRouter" لحل هذه المشكلة. فبدلاً من إجبار كل طلب على المرور عبر نفس العملية البطيئة والمستهلكة للطاقة، يعمل هذا النظام كمنظم مرور خفيف الوزن. قبل أن يبدأ الحاسوب في توليد الإجابة، ينظر هذا المنظم في بعض التفاصيل البسيطة حول الطلب، مثل طول سؤال المستخدم، وطول الإجابة المتوقعة، وما إذا كان السؤال يتشارك في عبارة بدائية مشتركة مع أسئلة أخيرة أخرى. وبناءً على هذه القرائن، يختار المنظم فوراً الطريقة الأكثر كفاءة لمعالجة ذلك الطلب المحدد من قائمة الخيارات المتاحة. وتشمل هذه الخيارات تشغيل النموذج بأرقام دقة أقل لتوفير الطاقة، أو استخدام تقنية تخمن الكلمات التالية لتسريع عملية التوليد، أو إعادة استخدام أجزاء من المحادثة التي تم حسابها بالفعل. لا يقوم النظام بإعادة تدريب النموذج أو تغيير بنيته؛ بل يختار ببساطة الأداة الأفضل للمهمة من الأدوات المتاحة بالفعل.

اختبر الباحثون هذه الفكرة على بطاقة رسومات قوية، وهي قطعة عتاد شائعة تُستخدم لتشغيل هذه النماذج، باستخدام نموذج لغوي قياسي يحتوي على ثمانية مليارات معلمة. وأجروا آلاف الاختبارات مع أنواع مختلفة من الطلبات، تراوحت بين التفاعلات القصيرة والسريعة والمحادثات الطويلة والمعقدة. وقارنوا أداء هذا المنظم الذكي بالطريقة القياسية التي تستخدم إعداداً واحداً غير مُحسّن لكل شيء. وكانت النتائج مذهلة؛ ففي المتوسط، جعل المنظم النظام أسرع بمرتين من الطريقة القياسية مع استخدام أقل من نصف الطاقة لكل كلمة يتم توليدها. وفي اختبار أكثر صرامة حيث كرروا نفس الطلبات عدة مرات للتأكد من أن النتائج ليست مجرد مصادفة، حافظ المنظم أيضاً على زيادة في السرعة تقارب الضعف وانخفاض كبير في استهلاك الطاقة. كما كان المنظم سريعاً للغاية في اتخاذ قراراته، حيث استغرق أقل من خمسة من ألف من الملي ثانية لاختيار المسار، وهو تأخير ضئيل جداً لدرجة أنه غير مرئي للمستخدم فعلياً.

ومن الأهمية بمكان أن الباحثين وجدوا أن مكاسب الكفاءة هذه لم تأتِ على حساب الجودة. فقد اختبروا النظام على مجموعة متنوعة من المعايير المصممة لقياس مدى فهم النموذج للأسئلة وإجابته عليها. وقد حافظ المنظم الذكي على معظم دقة الطريقة القياسية، محتفظاً بأكثر من تسعين بالمائة من الأداء. وهذا أمر مهم لأن بعض طرق توفير الطاقة الأسرع يمكن أن تجعل النموذج أقل دقة أحياناً. يستخدم المنظم سياسة قائمة على القواعد البسيطة لتجنب هذه العثرات، وذلك عن طريق توجيه الأسئلة الصعبة إلى الإعدادات الأكثر موثوقية بينما يرسل المهام الأبسط إلى الأنماط الأسرع والأكثر كفاءة. كما قارنت الدراسة بين هذا المنظم البسيط القائم على القواعد وبين الأنظمة الأكثر تعقيداً والتي تعتمد على التعلم، والتي تحاول التنبؤ بالإعداد الأفضل باستخدام الذكاء الاصطناعي. ووجدوا أن الأنظمة المعقدة كانت أبطأ بكmuch في اتخاذ القرارات، مما أدى إلى إضافة قدر من التأخير ألغى فوائد توفير الطاقة. وقد أثبت النهج البسيط القائم على القواعد أنه الحل الأكثر عملية، حيث قدم أفضل توازن بين السرعة والطاقة والجودة.

يشير هذا العمل إلى أن مستقبل الذكاء الاصطناعي الفعال قد لا يتطلب بناء نماذج جديدة أكثر ذكاءً أو اختراع عتاد جديد. بدلاً من ذلك، يمكن تحقيق تحسينات كبيرة بمجرد الانتباه إلى بنية الطلبات الواردة ومطابقتها مع وضع المعالجة المناسب. لقد أثبت الباحثون أنه من خلال التعامل مع تقنيات التحسين المختلفة ليس كإعدادات دائمة ولكن كخيارات قابلة للاختيار، استطاعوا استعادة كفاءة كبيرة. هذا النهج يحترم جودة المخرجات مع تقليل تكلفة الطاقة لتشغيل هذه الأنظمة بشكل جذري. إنه يقدم مساراً واضحاً لجعل النماذج اللغوية الكبيرة أكثر استدامة، موضحاً أن الطريقة الأكثر فعالية لتوفير الطاقة أحياناً ليست بالعمل بجهد أكبر، بل بالعمل بذكاء أكبر عبر اختيار الأداة المناسبة لكل مهمة محددة.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 💬 cs.CL →