Efficient LLM Serving for Agentic Workflows: A Data Systems Perspective
تقدم هذه الورقة Helium، وهو إطار عمل للخدمة مدرك لسير العمل يطبق مبادئ أنظمة البيانات مثل التخزين المؤقت الاستباقي والجدولة المدركة للتخزين المؤقت لنمذجة أعباء عمل نماذج اللغة الكبيرة الوكيلية كخطط استعلام، مما يؤدي إلى القضاء على التكرار وتحقيق تسريع يصل إلى 1.56 ضعفاً مقارنة بالأنظمة الحالية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك مدير لفريق من الروبوتات شديدة الذكاء ولكنها بطيئة جداً (هؤلاء هم وكلاء الذكاء الاصطناعي - AI Agents). هدفك هو حل مشكلة معقدة، مثل التخطيط لعطلة عالمية أو تحليل انهيار في سوق الأسهم.
للقيام بذلك، لا تطلب من روبوت واحد القيام بكل شيء فحسب، بل تقسم المهمة:
- الروبوت (أ) يبحث عن أسعار الرحلات الجوية.
- الروبوت (ب) يتحقق من توافر الفنادق.
- الروبوت (ج) يقرأ توقعات الطقس.
- الروبوت (د) يكتب خطة الرحلة النهائية.
أحياناً، ترسل حتى روبوتين في مسارين مختلفين في نفس الوقت لمعرفة أي فكرة هي الأفضل (وهذا ما يسمى الاستكشاف الاستباقي - speculative exploration).
المشكلة: "فقدان الذاكرة" في الأنظمة الحالية
في الوقت الحالي، الأنظمة التي تدير هذه الروبوتات (مثل vLLM أو LangGraph) تشبه مديراً يعاني من ضعف في الذاكرة قصيرة المدى.
- السيناريو: يحتاج كل من الروبوت (أ) والروبوت (ب) لقراءة دليل سفر مكون من 50 صفحة للبدء في عملهما.
- الطريقة الحالية: يجبر النظام الروبوت (أ) على قراءة الكتاب كاملاً من الصفحة الأولى. ثم عندما يبدأ الروبوت (ب)، يجبر النظام الروبوت على قراءة نفس الـ 50 صفحة مرة أخرى، رغم أنه نفس الكتاب تماماً.
- النتيجة: يقضي الروبوتات 80% من وقتهم في إعادة قراءة نفس المقدمة المملة، مما يترك وقتاً ضئيلاً جداً للتفكير الفعلي. الأمر يشبه طالباً يعيد قراءة الفصل الأول من الكتاب المدرسي قبل كل واجب منزلي.
يحدث هذا لأن الأنظمة الحالية تعامل كل طلب من الروبوت كحدث جديد ومنعزل. إنهم لا يدركون: "مهلاً، أنتما تقرآن نفس الكتاب! دعونا نتشارك الملاحظات".
الحل: هليوم (Helium) - "المنظم الخارق"
تقدم الورقة البحثية نظام Helium، وهو نظام يعمل كمدير مشروع بارع ومبادر. بدلاً من مجرد توزيع المهام، ينظر "هليوم" إلى سير العمل بأككامل قبل أن يبدأ أي شخص في العمل.
إليك كيف يعمل "هليوم"، باستخدام تشبيهات بسيطة:
1. "المخطط الهندسي" (تحسين الاستعلام - Query Optimization)
قبل أن يبدأ الروبوتات، يرسم "هليوم" مخططاً هندسياً للوظيفة بأكملها. يرى أن الروبوت (أ) والروبوت (ب) يحتاجان إلى نفس نص "مقدمة السفر".
- الطريقة القديمة: "الروبوت (أ)، اقرأ الصفحات 1-50. الروبوت (ب)، اقرأ الصفحات 1-50."
- طريقة هليوم: "الروبوت (أ)، اقرأ الصفحات 1-50. الروبوت (ب)، لست بحاجة لقراءتها مرة أخرى، فقط خذ الملاحظات التي كتبها الروبوت (أ) بالفعل."
يقوم "هليوم" بإلغاء كل العمل المكرر قبل أن يستيقظ الروبوتات حتى.
2. "الدفتر المشترك" (التخزين المؤقت الاستباقي - Proactive Caching)
في عالم الذكاء الاصطناعي، تُسمى هذه "الملاحظات" بـ KV Caches (وهي طريقة تقنية لقول "ذاكرة لما تمت قراءته للتو").
- الطريقة القديمة: ينتظر النظام حتى يطلب الروبوت ملاحظة ما ليرى ما إذا كانت موجودة. إذا تم التخلص من الملاحظة لإخلاء مساحة لشيء آخر، سيتعين على الروبوت إعادة قراءة الكتاب.
- طريقة هليوم: يعرف "هليوم" سير العمل مسبقاً. فيقول: "أنا أعلم أن الروبوت (أ) و(ب) سيحتاجان إلى مقدمة 'دليل السفر'. لنكتب تلك الملاحظات في دفتر خاص ودائم قبل أن يبدآ". هذا هو التخزين المؤقت الاستباقي. إنه يقوم بتحميل الذاكرة مسبقاً حتى لا يضطر الروبوتات لإعادة قراءة الأساسيات.
3. "مراقب حركة المرور" (الجدولة المدركة للتخزين المؤقت - Cache-Aware Scheduling)
تخديل مطبخ مزدحم بالعديد من الطهاة (وحدات معالجة الرسومات - GPUs).
- الطريقة القديمة: يصرخ رئيس الطهاة قائلاً: "من يكون متفرغاً، ليأخذ الطلب التالي!". قد يعني هذا أن الطاهي 1 يبدأ في تحضير حساء، ثم يبدأ الطاهي 2 في تحضير سلطة، ثم يضطر الطاهي 1 للعودة إلى الحساء. يستمرون في التبديل بين المهام، مما يضيع الوقت.
- طريقة هليوم: ينظر "هليوم" إلى قائمة الطعام ويقول: "يا طاهي 1، لديك ثلاثة طلبات تحتاج جميعها إلى نفس قاعدة الحساء. قم بتجهيز الثلاثة طلبات بالتتابع حتى لا تضطر لتنظيف القدر في كل مرة". ثم، بينما ينشغل الطاهي 1 بالحساء، يرسل "هليوم" طلبات السلطة إلى الطاهي 2.
يقوم "هليوم" بتجميع المهام التي تتشارك في "المكونات" (المطالبات/Prompts) معاً ليعمل الروبوتات في تدفق سلس ومستمر دون توقف للتنظيف.
النتائج: لماذا هذا مهم؟
اختبرت الورقة البحثية "هليوم" في مهام معقدة مثل التحليل المالي والمناظرات بين الوكلاء المتعددين.
- السرعة: كان "هليوم" أسرع بمقدار يصل إلى 1.56 مرة من أفضل الأنظمة الحالية. وفي بعض الحالات البسيطة، كان أسرع (بما يصل إلى 100 ضعف من الإعداد البدائي).
- الكفاءة: وفر كميات هائلة من قدرة الحوسبة من خلال عدم القيام بنفس العمليات الحسابية مرتين.
- القابلية للتوسع: مع نمو فريق الروبوتات وزيادة تعقيد المهام، أصبح "هليوم" أفضل في التنظيم، بينما أصبحت الأنظمة الأخرى أبطأ وأكثر ارتباكاً.
الصورة الكبيرة
فكر في عالم الذكاء الاصطناعي الحالي كمجموعة من العباقي الذين يجيدون حل المشكلات ولكنهم سيئون جداً في تنظيم مكاتبهم. إنهم يعيدون قراءة نفس رسائل البريد الإلكتروني ويقومون بإعادة حساب نفس الأرقام.
هليوم هو مدير المكتب الجديد الذي:
- يخطط مسبقاً (تحسين الاستعلام).
- يجهز الملفات (التخزين المؤقت الاستباقي).
- ينظم سير العمل ليعمل الجميع في انسجام (الجدولة المدركة للتخزين المؤقت).
من خلال معاملة وكلاء الذكاء الاصطناعي كخط أنابيب للبيانات (على غرار كيفية تعامل قواعد البيانات مع ملايين السجلات)، يحول "هليوم" الفوضى العارمة والمكررة إلى مصنع انسيابي عالي السرعة. وهذا يعني أنه يمكننا تشغيل فرق ذكاء اصطناعي أكبر وأذكى وأكثر تعقيداً دون الحاجة إلى شراء مليون حاسوب خارق جديد.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.