← أحدث الأبحاث
🤖 AI

HeraSys: Collaborative Serving of Multiple LLM Workflows via Fine-Grained End-to-End Optimization

تُعد HeraSys نظاماً لخدمة النماذج اللغوية الكبيرة يعمل على تحسين الأداء الشامل لسير العمل المتزامن متعدد المستأجرين من خلال القضاء على التكرار الحسابي عبر تداخل سير العمل باستخدام دمج العقد الهيكلي، وتطبيق سياسة جدولة مشتركة مدركة للحمل لتقليل زمن الاستجابة في الحالات القصوى بشكل كبير مع زيادة الإنتاجية.

المؤلفون الأصليون: Size Li, Zhiqing Tang, Hongrui Liang, Jianxiong Guo, Jiong Lou, Tian Wang, Weijia Jia

نُشر 2026-07-28
📖 3 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Size Li, Zhiqing Tang, Hongrui Liang, Jianxiong Guo, Jiong Lou, Tian Wang, Weijia Jia

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل مطبخاً يعج بالحركة حيث يحاول فريق من الطهاة طهي مئات الوجبات المعقدة في آن واحد. في عالم الذكاء الاصطناعي، هذه "الوجبات" هي المهام التي تؤديها النماذج اللغوية الكبيرة (LLMs)—وهي عقول حاسوبية فائقة الذكاء تكتب القصص، وتجيب على الأسئلة، وتحل المشكلات. عادةً، عندما تطلب من الذكاء الاصطناعي القيام بشيء ما، يتم التعامل معه كطلب منفرد ومعزول. ولكن في العالم الحقيقي، أصبحت التطبيقات تشبه المآدب الفاخرة: قد يتضمن الطلب الواحد البحث عن معلومات، والتحقق من قاعدة بيانات، ثم كتابة ملخص، كل ذلك في خطوة واحدة. تُسمى هذه العمليات "سير العمل" (workflows).

المشكلة هي أنه عندما يطلب الكثير من الناس هذه المآدب المعقدة في نفس الوقت، تصبح المطبخ فوضوياً. إذا طلب زبونان نفس المكون لتقطيعه، فقد يقوم المطبخ بتقطيعه مرتين، مما يهدر الوقت والطاقة. والأسوأ من ذلك، إذا طلب أحد الزبائن حساءً ضخماً يستغرق وقتاً طويلاً في الطهي، فقد يعلق الطهاة عنده، مما يترك الجميع ينتظرون تقديم سلطاتهم السريعة. هذا هو تحدي "خدمة" الذكاء الاصطناعي: كيف تدير فيضاً من الطلبات المعقدة والمتداخلة دون أن يتوقف النظام عن العمل أو يترك بعض الناس ينتظرون للأبد؟

هنا يأتي دور نظام جديد يسمى HeraSys. فكر في HeraSys كمدير مطبخ ثوري لا ينظر فقط إلى طلب واحد في كل مرة، بل يراقب أرضية المطبخ بأكملها ليرى كيف يمكن للطلبات المختلفة أن تساعد بعضها البعض. بدلاً من معاملة كل طلب كجزيرة منعزلة، يبحث HeraSys عن التداخلات. إذا كان زبونان مختلفان يحتاجان إلى تحليل نفس المستند أو استخدام نفس الأداة، يقول HeraSys: "مهلاً، دعونا نفعل ذلك مرة واحدة ونشارك النتيجة!". كما يعمل مثل شرطي المرور، حيث يضمن عدم تعثر الطلبات السريعة والبسيطة خلف الطلبات الثقيلة والبطيئة، ويضمن عدم حرمان الطلبات البطيئة من الاهتمام.

قام الباحثون وراء HeraSys ببناء نظام يفكك مهام الذكاء الاصطناعي المعقدة هذه إلى قطع صغيرة دقيقة. وقد وجدوا أنه من خلال دمج الخطوات المكررة وجدولة ذكية لمن يحصل على موارد المطبخ (مثل الرقائق الحاسوبية القوية)، استطاعوا جعل النظام بأكمله أسرع بكثير. وفي اختباراتهم، أظهروا أن HeraSys يمكنه تقليل الوقت الذي تستغرقه أبطأ الطلبات للانتهاء بما يصل إلى 2.17 مرة (أي أنها كانت أسرع بأكثر من الضعف) وزاد إجمالي عدد المهام التي يمكن للنظام التعامل معها بما يصل إلى 1.85 مرة مقارنة بأفضل الأنظمة الموجودة.

تجادل الورقة البحثية ضد الطريقة القديمة في العمل، حيث تعامل الأنظمة كل طلب كوظيفة مستقلة ومعزولة. وهي توضح أن هذا "العزل" يخلق هدراً واختناقات غير ضرورية. بدلاً من ذلك، يقترحون نهجاً تعاونياً حيث يبحث النظام بنشاط عن العمل المشترك. كما يجادلون ضد قواعد الجدولة البسيطة مثل "من يأتي أولاً يُخدم أولاً"، والتي يمكن أن تتسبب في حجز المهام الطويلة للجميع، أو "أقصر وظيفة أولاً"، والتي قد تجعل المهام الطويلة تنتظر للأبد. يقترح HeraSys استراتيجية متوازنة "واعية بالحمل" تحجز بعض الموارد للمهام الثقيلة مع إعطاء الأولوية للطلبات السريعة، مما يضمن العدالة والسرعة للجميع.

تشير النتائج، التي تم قياسها من خلال تجارب مكثفة على أجهزة حقيقية، إلى أن هذا النهج التعاوني دقيق التفاصيل يمثل خطوة كبيرة للأمام. فمن خلال دمج الخطوات المتكررة وتعديل كيفية تجميع وتنفيذ المهام ديناميكياً، ينجح HeraSys في الحفاظ على انخفاض متوسط وقت الانتظار مع منع "ذيل" التأخيرات البطيئة والمحبطة التي غالباً ما تعاني منها أنظمة الذكاء الاصطناسي المعقدة. الأمر يشبه إدراك أنه إذا قمت بتنظيم مجموعة من الأصدقاء لتنظيف منزل، فلا ينبغي عليك فقط تعيين غرفة لكل شخص؛ بل يجب أن تلاحظ أن شخصين يقومان بكنس نفس الممر معاً وتجعلهما يعملان معاً، مع التأكد من أن الشخص الذي يغسل النوافذ لا يظل عالقاً في انتظار المكنسة الكهربائية.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 🤖 cs.AI →