ملخص تقني: التدرج الجيني لتجزئة الموارد (GFGD)

1. بيان المشكلة

تواجه مجموعات وحدات معالجة الرسومات (GPU) الحديثة التي تدعم تعلم الآلة والذكاء الاصطناعي التوليدي توتراً حرجاً بين استغلال الموارد وقابلية التخصيص. وبينما يؤدي التقاسم الدقيق لوحدات معالجة الرسومات (السماح لعدة وظائف بشغل شرائح فرعية من وحدة معالجة الرسومات) إلى زيادة الاستغلال الإجمالي، فإنه يتسبب في حدوث تجزئة للموارد. تخلق هذه التجزئة فجوات متبقية غير متجانسة وغير قابلة للدمج عبر الأجهزة. وبناءً على ذلك، قد يتم رفض الوظيفة القادمة (باعتبارها غير قابلة للتنفيذ) حتى عندما تمتلك المجموعة قدرة إجمالية كافية، وذلك ببساطة لأن السعة الحرة مجزأة أو غير متوازنة عبر الأجهزة بحيث لا يمكن تشكيل تخصيص مناسب للوظيفة (فقدان قابلية التخصيص عبر الأجهزة).

تحاول الحلول الحالية مثل التدرج الجيني للتجزئة (FGD) التخفيف من ذلك باستخدام عمليات محاكاة "ماذا لو" (what-if) عبر الإنترنت لتقدير التأثير طويل المدى لقرارات التخصيص. ومع ذلك، يعاني FGD من مشكلتين رئيسيتين:

1. الأعباء الإضافية العالية عبر الإنترنت: يتطلب محاكاة مكلفة عبر الإنترنت وإعادة حساب مقاييس المجموعة بأكملها، مما يصبح عائقاً في حالات وصول المهام المتفجرة (bursty arrivals) وأحجام المجموعات الكبيرة.
2. نمذجة غير كافية للموثوقية: يعامل FGD التجزئة كبديل للموثوقية. ومع ذلك، فإن تقليل التجزئة غالباً ما يتطلب دمج الأحمال، مما قد يخلق بؤر استهلاك (hotspots) تزيد من الإخفاقات أثناء التشغيل الناتجة عن الإجهاد. وعلى العكس من ذلك، فإن توزيع الأحمال يقلل من بؤر الاستهلاك ولكنه يزيد من التجزئة. لذا، فإن التجزئة وحدها ليست إحصائية كافية للموثوقية تحت الضغط.

التحدي الأساسي هو تصميم مجدول يحسن قابلية التخصيص ويدير التجزئة مع ضبط حالات الفشل أثناء التشغيل صراحةً، وكل ذلك ضمن ميزانيات زمن اتخاذ القرار الصارمة المناسبة لبيئات الإنتاج.

2. المنهجية: إطار عمل GFGD

يقترح المؤلفون التدرج الجيني لتجزئة الموارد (GFGD)، وهو إطار عمل للجدولة يعمل بنظام (أوفلاين-أونلاين). المبدأ التصميمي المركزي هو نقل البحث المكلف عن السياسات ومعايرة الموثوقية إلى محاكي "أوفلاين"، ونشر عمليات خفيفة الوزن وثابتة الوقت فقط عبر الإنترنت.

أ. المرحلة غير المتصلة (Offline): تطور السياسات المقيدة بالفشل

في المرحلة غير المتصلة، يقوم GFGD بتطوير سياسات تخصيص مدمجة وقابلة للتفسير باستخدام خوارزمية جينية (GA).

• تمثيل السياسة: تمثل كل سياسة متجه أوزان ثلاثي الأبعاد $w = [w_{frag}, w_{pwr}, w_{fail}]$ يوازن بين ثلاثة أهداف:
  1. تغير التجزئة ($\Delta Frag$): وهو بديل لعدم التوازن عبر الأجهزة (الانحراف المعياري لاستخدام ذاكرة كل وحدة معالجة رسومات).
  2. بديل القدرة ($\Delta Pwr$): نموذج قدرة خطي يعتمد على الاستخدام.
  3. بديل خطر الفشل ($\Delta Fail$): مجمع حساس لبؤر الاستهلاك (hotspot-sensitive) يزداد بشكل رتيب مع الاستخدام، مع التركيز على وحدات معالجة الرسومات ذات الإجهاد العالي.
• هدف التحسين: تعمل الخوارزمية الجينية على تقليل دالة تكلفة مجمعة (مجموع أوزان لـ معدل الإكمال، زمن الوصول للذروة، الطاقة المهدورة، وقت التوقف، والسعة المهدرة) مع الالتزام بـ حاجز حماية صارم لمخاطر وقت التشغيل (RF).
• آلية حاجز الحماية: لضمان المتانة ضد ضوضاء المحاكاة العشوائية، يتم فرض قيد RF على الحد الأعلى لنطاق الثقة (UCB) لمعدل الفشل المقدر عبر تجارب محاكاة متعددة. السياسات التي تنتهك $RRF(w) \le RRF_{ref} + \epsilon$ يتم استبعادها.
• التعلم الخاص بالأنظمة: يتم تطوير السياسات بشكل منفصل لأنظمة تشغيل مختلفة (استخدام منخفض، متوسط، عالٍ) للتكيف مع حالات المجموعة المتغيرة.

ب. المرحلة المتصلة (Online): جدولة خفيفة الوزن واعية بالنظام

عند وقت اتخاذ القرار، يقوم المجدول عبر الإنترنت بعمليتين خفيفتين:

1. اختيار النظام: يصنف المجدول حالة المجموعة الحالية بناءً على متوسط استخدام الذاكرة ويختار متجه أوزان السياسة المطور مسبقاً والمناسب لهذا النظام.
2. تقييم المرشحين المحدود: بدلاً من تقييم جميع وحدات معالجة الرسومات أو محاكاة الحالات المستقبلية، يقوم المجدول بـ:
   • تحديد مجموعة من وحدات معالجة الرسومات المتاحة.
   • أخذ عينة من مجموعة فرعية صغيرة وثابتة الحجم من المرشحين (على سبيل المثال، $k_{cand}=8$) باستخدام استراتيجية "المرساة + العشوائية" (اختيار الأطراف مثل أقصى ذاكرة حرة، أدنى خطر، وعينات عشوائية).
   • ترتيب هؤلاء المرشحين باستخدام قاعدة تسجيل ثابتة الوقت بناءً على الأوزان $w$ المختارة والبدائل الثلاثة المذكورة أعلاه.
   • وضع الوظيفة بالتتابع على أفضل وحدات معالجة الرسومات تسجيلاً.

هذا النهج يلغي محاكاة "ماذا لو" عبر الإنترنت، مما يقلل من عبء الجدولة إلى مستويات تقترب من القواعد التجريبية (heuristics) مع الاحتفاظ بسلوك مراعٍ للتجزئة.

3. المساهمات الرئيسية

يدعي البحث المساهمات التالية:

1. تعلم السياسات عبر الإنترنت المقيدة بالفشل: صياغة جدولة وحدات معالجة الرسومات كمسألة تحسين تتحكم صراحة في حالات الفشل أثناء التشغيل عبر حاجز حماية، بدلاً من الاعتماد على التجزئة كبديل وحيد للموثوقية.
2. تطوير السياسات القابلة للتفسير عبر الخوارزمية الجينية: تطوير متجهات أوزان مدمجة وثلاثية الحدود، خاصة بكل نظام، تعمل على تحسين بدائل التجزئة والطاقة مع فرض قيد على مخاطر الفشل أثناء التشغيل مقارنة بالمرجع (FGD).
3. الجدولة الخفيفة عبر الإنترنت: تحقيق عبء عمل يقترب من القواعد التجريبية من خلال استبدال المحاكاة عبر الإنترنت باختيار السياسة المتوافقة مع النظام وتقييم المرشحين بميزانية ثابتة، مع الحفاظ على قدرة تنافسية في التخصيص والموثوقية.
4. متنبئ المخاطر الاختياري: توفير متنبئ بعدم إمكانية التخصيستند إلى حالة النظام (باستخدام Gradient Boosting Decision Trees) للاختيار الاختياري لمتعدد السياسات، رغم أنه ليس مطلوباً للمسار الأساسي عبر الإنترنت.

4. النتائج التجريبية

قام المؤلفون بتقييم GFGD باستخدام محاكي أحداث منفصل (discrete-event simulator) تمت معايرته مقابل آثار إنتاج (Alibaba GPU cluster) وأعباء عمل اصطناعية. تمت المقارنات مع FGD (المحدد بالمرشحين)، وMin-Power (PWR)، وقاعدة FA ذات الأوزان الثابتة.

• العبء الإضافي للجدولة: قلل GFGD من وقت قرار الجدولة بمقدار 5.1 إلى 136.9 ضعفاً مقارنة بـ FGD مع توسع حجم المجموعة من 32 إلى 1024 وحدة معالجة رسومات. ظل العبء منخفضاً ومستقراً بفضل تقييم المرشحين المحدود، حيث بلغ متوسط الوقت عند 1024 وحدة معالجة رسومات 1.14 مللي ثانية مع P95 قدره 1.82 مللي ثانية.
• الموثوقية والكفاءة:
  • الإخفاقات أثناء التشغيل: قلل GFGD من حالات الفشل أثناء التشغيل (NRF) بشكل كبير مقارنة بـ FGD والأساس FA ذي الوزن الثابت عبر مستويات الإجهاد المختلفة ($K_U$ sweeps).
  • معدل الإكمال: حافظ GFHD على معدلات إكمال شبه مثالية (غالباً 1.000) مع تقليل الطاقة المهدورة بنسبة تتراوح بين 74 إلى 82% تقريباً مقارنة بـ FGD.
  • استقرار SLO: قلل GFHD بشكل كبير من حالات تجاوز الموعد النهائي للبدء (SD) مقارنة بأساس Min-Power، الذي عانى من عدم الاستقرار تحت ضغط SLO.
• المتانة:
  • الحساسية للإجهاد: ظلت سياسات GFHD، التي تم تدريبها عند مستوى إجهاد اسمي، متينة عند اختبارها تحت معاملات حساسية للفشل متغيرة ($K_U \in \{0, 1, 2, 3\}$).
  • تحولات عبء العمل: أظهرت الطريقة مرونة تجاه تغيرات التوزيع في عدد الوظائف، ومددها، وتذبذب وصولها.
  • عدم تطابق النوع: حافظ GFHD على الاستقرار حتى عند تغيير التعيين بين أنواع وحدات معالجة الرسومات ومعدلات الفشل عشوائياً، متفوقاً على استراتيجيات الطاقة أولاً التي تعتمد على خرائط ثابتة بين النوع والموثوقية.

5. الأهمية والادعاءات

يضع البحث GFGD كحل عملي لعنق الزجاجة من الدرجة الأولى المتمثل في التجزئة في مجموعات وحدات معالجة الرسومات المشتركة. وتكمن أهميته في:

• فك الارتباط بين التعقيد والأداء: يثبت أن فوائد التخصيص المتطور المراعي للتجزلة (والذي كان يتطلب سابقاً محاكاة مكلفة عبر الإنترنت) يمكن تحقيقها من خلال التعلم "أوفلاين" والتقييم الخفيف "أونلاين".
• التحكم الصريح في الموثوقية: يتحدى الافتراض بأن مقاييس التجزئة كافية للموثوقية، حيث يقدم مصطلحاً صريحاً لخطر الفشل وحاجز حماية صارماً لمنع المقايضة بين قابلية التخصيص وبين الإفراط في حالات الفشل أثناء التشغيل.
• قابلية التطبيق في الإنتاج: من خلال إبقاء أوقات القرار عبر الإنترنت منخفضة ومستقرة، يعالج GFHD ميزانيات وقت القرار الصارمة المطلوبة للمجموعات الكبيرة والمتفجرة في بيئات الإنتاج، مما يجعله بديلاً قابلاً للنشر للمجدولات التي تعتمد بكثافة على المحاكاة.

يخلص المؤلفون إلى أن GFHD ينجح في موازنة قابلية التخصيص، وكفاءة الطاقة، والموثوقية دون العبء الحسابي لمحاكاة "ماذا لو" عبر الإنترنت، مما يجعله مرشحاً حيوياً لإدارة مجموعات وحدات معالجة الرسومات في العالم الحقيقي.