ملخص تقني: إطار نظري قائم على نظرية الطوابير لتحليل استقرار استنتاج النماذج اللغوية الكبيرة (LLM) مع قيود ذاكرة التخزين المؤقت لـ KV

بيان المشكلة

أدى الانتشار السريع للنماذج اللغوية الكبيرة (LLMs) إلى خلق تحديات كبيرة فيما يتعلق بكفاءة الاستنتاج على نطاق واسع. وخلافاً لأعباء العمل التقليدية، يعاني استنتاج النماذج اللغوية الكبيرة من عائق مزدوج: القدرة الحسابية ومتطلبات الذاكرة المدفوعة بالتخزين المؤقت لمفاتيح-القيم (KV-cache). وبينما يعمل التخزين المؤقت لـ KV على تسريع عملية فك التشفين (Decoding) عبر إعادة استخدام التمثيلات السابقة للرموز (Tokens)، فإنه يستهلك مساحة ضخمة من ذاكرة وحدة معالجة الرسومات (GPU)، وغالباً ما يصبح هو القيد الأساسي للسعة.

عادةً ما تركز نماذج الطوابير الحالية لاستنتاج النماذج اللغوية الكبيرة على الحدود الحسابية أو تتعامل مع الذاكرة كقيد ثابت، مما يؤدي إلى الفشل في رصد التفاعل الديناميكي بين الحوسبة ونمو الذاكرة أثناء عملية الاستنتاج. وتحديداً، يتطور متطلب الذاكرة لكل طلب خطياً مع تقدمه خلال مرحلة التمهيد (Prefill) ومرحلة فك التشفين (Decode). وعندما يتجاوز معدل وصول الطلبات معدل الخدمة الفعلي للنظام — والذي يتحدد مجتمعاً من خلال قدرة وحدة معالجة الرسومات الحسابية وذاكرة KV-cache المتاحة — تنمو الطوابير بشكل غير محدود، مما يؤدي إلى عدم استقرار النظام، وزمن انتقال غير مقبول، وتدهور تجربة المستخدم. وهناك نقص في الأطر النظرية الصارمة التي تدمج صراحةً هذه القيود الديناميكية للذاكرة لتحديد شروط الاستقرار وتوجيه توفير موارد وحدة معالجة الرسومات.

المنهجية

يقترح المؤلفون إطاراً جديداً قائماً على نظرية الطوابير، حيث يتم نمذجة استنتاج النماذج اللغوية الكبيرة كنظام طوابير يعمل بنظام الحفاظ على العمل (work-conserving) في زمن منفصل، ويخضع لقيد ذاكرة صارم لـ KV-cache يرمز له بـ ($M$).

1. نموذج النظام

• بنية الطلب: يتكون كل طلب $i$ من تمهيد (prompt) بحجم $s_i$ ومخرجات بطول $o_i$، مستمدة من توزيع مشترك $F_{in-out}$.
• مراحل المعالجة:
  • مرحلة التمهيد (Prompt Phase): تُعالج التمهيدات في كتل ذات حجم ثابت ($\hat{s}$). وينمو متطلب الذاكرة للكتلة رقم $j$ من التمهيد خطياً ($j \times \hat{s}$).
  • مرحلة فك التشفين (Decode Phase): مع توليد الرموز بالتتابع، يزدل متطلب الذاكرة بمقدار KV-cache لرمز واحد في كل خطوة. ويصل إجمالي متطلب الذاكرة للطلب إلى $s_i + o_i$ عند الاكتمال.
• قيد الذاكرة: يجب أن يحقق النظام الشرط $\sum_{i \in S(t)} (c_i^{(t)}\hat{s} + d_i^{(t)}) \le M$ في جميع الأوقات $t$، حيث $S(t)$ هي مجموعة الطلبات النشطة، و $c_i^{(t)}$ هو مؤشر كتلة التمهيد المعالجة، و $d_i^{(t)}$ هو مؤشر رمز المخرجات المعالج.
• الجدولة: يفترض الإطار استخدام الجدولة المستمرة (Continuous Batching) واستراتيجيات الحفاظ على العمل (مثل "الأول في الوصول، الأول في الخدمة" FCFS)، حيث يقوم الخادم بمعالجة التمهيد التالي ذي الأولوية بمجرد توفر السعة.

2. الاشتقاق النظري

يعرف المؤلفون متطلب الذاكرة التراكمي على مدى الحياة $g(s, o)$ لطلب واحد، والذي يمثل "المساحة" الكاملة للذاكرة المستهلكة عبر زمن الخدمة الكامل لطلب ما.
$$g(s, o) := \sum_{k=1}^{s/\hat{s}} k\hat{s} + \sum_{j=1}^{o} (s+j)$$
وبناءً على ذلك، يشتقون أقصى معدل خدمة مستقر $\mu$:
$$\mu = \frac{M}{\bar{b} \mathbb{E}_{s,o \sim p(s,o)}[g(s, o)]}$$
حيث $\bar{b}$ هو وقت معالجة الدفعات المعياري.

3. تحليل الاستقرار

باستخدام حجة "انحراف ليابونوف" (Lyapunov drift) المكيفة مع ديناميكيات الذاكرة الخطية الجزئية للنماذج اللغوية الكبيرة، يثبت العمل مبرهنتين مركزيتين:

• عدم الاستقرار: إذا كان معدل الوصول $\lambda > \mu$، فإن النظام يكون محملاً فوق طاقته، ويتزايد عدد الطلبات إلى ما لا نهاية.
• الاستقرار: إذا كان $\lambda < \mu(1 - \delta)$، حيث $\delta = \frac{\text{ess sup}(s+o)}{M} \ll 1$ يمثل ذاكرة التخزين المؤقت المطلوبة لاستيعاب أكبر طلب منفرد، فإن النظام يكون مستقراً (سلسلة ماركوف متكررة إيجابياً).

المساهمات الرئيسية

1. نمذجة مبتكرة: يقدم العمل أول نموذج طوابير لاستنتاج النماذج اللغوية الكبيرة يدمج صراحةً المتطلبات الحسابية وقيود ذاكرة وحدة معالجة الرسومات الديناميكية المحكومة بتخزين KV-cache. وهو يعمم النماذج السابقة عبر إدخال الوعي بالذاكرة وتحسين إعدادات الجدولة مع مراحل التمهيد المجزأة.
2. شروط استقرار صارمة: يشتق المؤلفون شروط استقرار وعدم استقرار في صيغة مغلقة. وتوفر هذه النتائج أساساً مبدئياً لتحديد أقصى إنتاجية مستدامة لنظام استنتاج النماذج اللغوية الكبيرة تحت أعباء عمل عشوائية.
3. التحقق التجريبي: تم التحقق من التنبؤات النظرية من خلال تجارب واسعة النطاق في بيئات إنتاج حقيقية لوحدات معالجة الرسومات (NVIDIA A100)، تغطي تكوينات وحدة معالجة الرسومات الواحدة ومتعددة الوحدات (التوازي في البيانات).

النتائج التجريبية

أجرى المؤلفون تجارب باستخدام نموذج Meta-Llama-3-8B على منصة اختبار مكونة من 8 وحدات معالجة رسومات باستخدام محرك الاستنتاج vLLM.

• الدقة: يتطابق معدل الخدمة النظري $\mu_{theory}$ بشكل وثيق مع المعدل المقاس تجريبياً $\mu_{gpu}$. وعبر مختلف نسب التمهيد إلى فك التشفين (P/D) (1:1، 2:1، 1:2) ومجموعة بيانات واقعية (LongBench v2)، ظل خطأ التنبؤ (نسبة الفجوة المطلقة) ضمن حدود 10% (تراوحت تحديداً بين 2.25% و8.38%).
• قابلية التوسع في تعدد وحدات معالجة الرسومات: في إعداد عنقود مكون من 8 وحدات معالجة رسومات، توسع النموذج النظري خطياً، محققاً انحرافاً بنسبة 3.38% فقط بين المعدلات المتوقدة والملاحظة.
• ديناميكيات الاستقرار: أكدت التجارب أنه عندما يكون $\lambda < \mu$، تظل أطوال الطوابير محدودة (على سبيل المثال، $\le 5$ لوحدة معالجة رسومات واحدة)، بينما تؤدي الحالة $\lambda > \mu$ إلى نمو خطي وغير محدود في طول الطابور.

الأهمية والادعاءات

يدعي هذا العمل أنه يوفر أداة قوية لنشر الأنظمة وتوفير الموارد. فمن خلال الجمع بين معدل وصول الطلبات المقدر ومعدل الخدمة المستقر المشتق، يمكن للمشغلين حساب حجم العنقود المطلوب لـ:

• تجنب التوفير الزائد المكلف للموارد (وحدات معالجة رسومات خاملة).
• منع التوفير الناقص المخل بالأداء (طوابير غير محدودة وقفزات في زمن الانتقال).

يؤكد المؤلفون أن إطارهم يوفر "أساساً مبدئياً" لتخطيط السعة، مما يمكن الممارسين من موازنة السعة والطلب كمياً. ويشيرون إلى أنه بينما ينصب تركيزهم الحالي على عمليات النشر المتوازية في البيانات، يمكن توسيع الإطار ليشمل التوازي في التنسور (Tensor Parallelism) عبر تعديل بارامترات الذاكرة الفعالة ووقت الدفعات، بينما تتطلب نماذج التوازي في خطوط الأنابيب (Pipeline Parallelism) والتجزئة (Disaggregation) مزيداً من البحث. وتؤكد النتائج أن دمج ديناميكيات الذاكرة في نماذج الطوابير أمر ضروري لإجراء تحليل دقيق للاستقرار في أنظمة استنتاج النماذج اللغوية الكبيرة الحديثة.