ملخص تقني: التنبؤ بالمدة مع مراعاة التكلفة لترقيات البرمجيات في مراكز البيانات

بيان المشكلة

تعد ترقيات البرمجيات ضرورية للحفاظ على موثوقية الخوادم في مراكز البيانات فائقة النطاق، ومع ذلك، فهي تفرض تحديات جدولة فريدة تختلف عن مهام الخدمة القياسية (مثل البحث أو البث). فخلافًا لمهام الخدمة، التي يتم توزيعها بمرونة عبر الخوادم لتحسين زمن الاستجابة والإنتاجية، ترتبط ترقيات البرمجيات بخوادم محددة ذات متطلبات ثابتة. الهدف الأساسي هو تلبية هدف مستوى الخدمة (SLO) الصارم: إكمال 95% على الأقل من الترقيات المجدولة ضمن "نافذة ترقية" محددة.

تعتمد المجدولات الإنتاجية الحالية (مثل تلك الموجودة في Meta) نهجًا متحفظًا، حيث تفترض مددًا ثابتة ونهائية لجميع الترقيات لضمان الامتثال لـ SLO. وتؤدي هذه الاستراتيجية إلى عدم كفاءة كبيرة، حيث يبلغ متوسط استغلال نافذة الترقية 20-40% فقط عبر مراكز البيانات. ويكمكم التحدي الجوهري في عدم التطابق بين أهداف تعلم الآلة القياسية (تعظيم دقة التنبؤ) وأهداف النظام (تلبية SLO مع تعظيم الإنتاجية). غالبًا ما تفشل المتنبئات القياسية في تقليل الخسارة المتماثلة، مما يؤدي إلى عدم مراعاة التكاليف غير المتماثلة لأخطاء التنبؤ: فالتنبؤ بأقل من المدة الفعلية (underprediction) يخاطر بالإخفاق في تحقيق SLO (مما يتسبب في عمليات إلغاء وإجراءات إصلاح)، بينما يعد التنبؤ بأكثر من المدة الفعلية (overprediction) أمرًا مقبولًا ومفضلًا في كثير من الأحيان لضمان السلامة.

المنهجية: إطار عمل Acela

يقترح المؤلفون Acela، وهو إطار عمل للتنبؤ بالمدة مع مراعاة التكلفة، مصمم للاندماج بسلاسة مع مجدولات الترقية الحالية. يعالج Acela هذه المشكلة من خلال ثلاثة ابتكارات تقنية رئيسية:

1. نمذجة التكلفة غير المتماثلة عبر انحدار الكميات (Quantile Regression)

إدراكًا بأن التنبؤ بأقل من المدة الفعلية أكثر تكلفة من التنبؤ بأكثر منها، يتجاوز Acela مرحلة التنبؤ بالمتوسط الشرطي (الذي يقلل خسارة L2 المتماثلة). وبدلاً من ذلك، يستخدم أشجار تعزيز التدرج للكميات (QGBT) لتقدير الكميات الشرطية.

• الآلية: من خلال اختيار معامل الكمية $\tau > 0.5$ (على سبيل المثال، 0.9)، يتم تدريب النموذج ليتنبأ بمدد تزيد قليلاً عن الواقع.
• دالة الخسارة: يقوم النظام بتقليل دالة خسارة الكمية، والتي تعاقب حالات التنبؤ بأقل من المدة ($\text{y} \ge \hat{\text{y}}$) بشكل أكبر من حالات التنبؤ بأكثر من المدة ($\text{y} < \hat{\text{y}}$) عندما تكون $\tau > 0.5$. وهذا يربط هدف التدريب مباشرة بمتطلبات SLO.

2. التقييم المخصص لاختيار النموذج

يقدم Acela دالة تقييم مخصصة لاختيار النموذج ومعامل الكمية الأمثل، مما يوازن بين دقة التنبؤ والامتثال لـ SLO. تُعرف الدالة كالتالي:
$$\text{score} = \begin{cases} \text{MAE} & \text{if } \text{OPR} \ge \text{SLO} \\ (\alpha \cdot (1 - \text{OPR}) + 1) \cdot \text{MAE} & \text{if } \text{OPR} < \text{SLO} \end{cases}$$
حيث أن:

• MAE: متوسط الخطأ المطلق (لقياس الدقة).
• OPR: معدل التنبؤ بأكثر من المدة (نسبة الترقيات التي يكون فيها المدة المتوقعة > المدة الفعلية).
• SLO: العتبة المستهدفة (95%).
• $\alpha$: معامل العقوبة لحالات التنبؤ بأقل من المدة.

تعطي هذه الدالة الأولوية للنماذج التي تحقق SLO (أي $\text{OPR} \ge 95\%$). إذا تم تحقيق SLO، يعمل النظام على تقليل MAE لتجنب الإفراط في التنبؤ بأكثر من المدة (مما يقلل الإنتاجية). أما إذا كان SLO في خطر، فإن العقوبة تزدادة بشكل حاد.

3. تنويع مجموعة التدريب (تخفيف حدة المتأخرين/الخوارزميين)

تحتوي بيانات التدريب غالبًا على "متأخرين" (stragglers)—وهم حالات شاذة ذات مدد مفرطة ناتجة عن أعطال الأجهزة أو مسارات العمل الخاصة بالإصلاح. إن تضمين هذه الحالات يمكن أن يحيز النماذج نحو التنبؤ المفرط بالمدة، مما يقلل الكفاءة.

• الاستراتيجية: يقوم Acela بتنويع مجموعة بيانات التدريب عبر إنشاء نسخ مقصوصة تستبعد الترقيات الموجودة في الشريحتين 99 و99.9 المئوية.
• الاختيار: يتم تدريب النماذج على هذه المجموعات المقصوصة عبر مختلف الكميات. ويتم اختيار النموذج الأفضل أداءً (الأقل في الدرجة) لضمان دقة التنبؤات لمعظم الحالات مع الحفاظ على هامش أمان دون التأثر بالحالات الشاذة.

التكامل

يتم تنفيذ Acela كطبقة تحسين فوق مجدول Meta الحالي. ويتضمن خط أنابيب لجمع البيانات (DCP)، ووحدة لتدريب واختيار النماذج (MTS)، وخدمة استعلام التنبؤ (PQS). يستخدم المجدول تنبؤات Acela للمدة لاتخاذ قرارات مدروسة حسب الأولوية؛ فعندما تتساوى الأولويات، يتم تفضيل المدد المتوقعة الأقصر لزيادة الإنتاجية؛ وعندما تتعارض الأولويات، يتم تنفيذ الترقية ذات الأولوية الأعلى أولاً.

المساهمات الرئيسية

يدعي البحث المساهمات التالية:

1. التوصيف واسع النطاق: أول تحليل معمق لترقيات البرمجيات في نطاق إنتاج مراكز بيانات Meta، وتحديد التحديات المتميزة مقارنة بمهام الخدمة.
2. صياغة المشكلة: صياغة جدولة ترقيات البرمجيات كمسألة تحسين مقيدة حيث تكون دقة التنبؤ ثانوية أمام الامتثال لـ SLO والإنتاجية.
3. تحديد التكلفة غير المتماثلة: تسليط الضوء على هيكل التكلفة الفريد لسيناريوهات الترقية حيث يكون التنبؤ بأقل من المدة أكثر ضررًا بكثير من التنبؤ بأكثر منها.
4. إطار عمل مبتكر (Acela): إطار عمل جديد للتنبؤ يستخدم انحدار الكميات، والتقييم المخصص، وإزالة المتأخرين لتحسين نتائج الجدولة.
5. النشر في بيئة حقيقية: أول حل تم نشره لتعزيز كفاءة الترقية من خلال التنبؤ بالمدة، وتم التحقق منه عبر ملايين الترقيات.

نتائج التقييم

قيم المؤلفون Acela باستخدام أكثر من 4 ملايين ترقية برمجية جُمعت على مدار ثلاثة أشهر للتدريب، وشهر واحد من العمليات الحقيقية اللاحقة (ما يقرب من مليون ترقية) للاختبار.

نتائج الإنتاج (مقابل النموذج المرجعي الاستدلالي):

• الاستغلال: حسن Acela استغلال نافذة الترقية بمقدار 1.25$\times$ مقارنة بالنموذج المرجعي الاستدلالي المتحفظ.
• الإنتاجية: زاد عدد ترقيات البرمجيات المجدولة بنسبة 33%، وزاد عدد الترقيات المكتملة بنسبة 41%.
• الامتثال لـ SLO: رغم التعامل مع عدد أكبر من الترقيات، قلل Acela معدل الإلغاء بمقدار 2.4$\times$، محققًا بنجاح امتثال الـ 95% المطلوب. وفي المقابل، فشل النموذج المرجعي في تحقيق SLO خلال الفترة التي تم تقييمها.

الدراسات المحاكاتية ودراسات الاستئصال (Ablation Studies):

• دوال الخسارة: حققت النماذج التي استخدمت دوال خسارة متماثلة (L2, L1, Huber) خطأً أقل في المتوسط المطلق (MAE) ولكنها فشلت في تحقيق SLO (حيث بلغ OPR حوالي 50%). حققت خسارة الكمية في Acela نسبة OPR المستهدفة (95%) مع MAE أعلى قليلاً، مما يثبت أن الدقة وحدها غير كافية في هذا المجال.
• إزالة المتأخرين: أدى استبعاد المتأخرين من مجموعة التدريب إلى تحسين دقة التنبؤ (MAE) بمقدار 1.2$\times$ دون التأثير سلبًا على OPR، مما يؤكد فعالية استراتيجية تنويع البيانات.
• حساسية الكمية: أظهر تحليل الحساسية أن ضبط معامل الكمية $\tau$ بين 0.9 و0.99 يوازن بشكل مثالي بين حجم الجدولة ومعدلات الإلغاء.

الأهمية والادعاءات

يضع هذا البحث عمله كأول دراسة لترقيات البرمجيات على نطاق مراكز البيانات، وأول حل تم نشره لتعزيز كفاءة الترقية من خلال التنبؤ بالمدة. ويؤكد المؤلفون أن نهجهم ينقل النموذج من "تعظيم دقة التنبؤ" إلى "التحسين من أجل أهداف النظام" (الامتثال لـ SLO والإنتاجية). ومن خلال الاعتراف بالتكاليف غير المتماثلة للأخطاء والقيود التشغيلية المحددة لترقيات مراكز البيانات (مثل النوافذ الثابتة وحدود المخزن المؤقت)، يثبت Acela أن التنبؤ المراعي للتكلفة يمكن أن يحسن الكفاءة التشغيلية بشكل كبير في البنية التحتية واسعة النطاق دون المساس بالموثوقية.