Strait: Perceiving Priority and Interference in ML Inference Serving
إن Strait هو نظام لخدمة استدلال تعلم الآلة يعمل على تحسين تلبية المواعيد النهائية للمهام ذات الأولوية العالية في ظل الاستخدام العالي لوحدات معالجة الرسومات من خلال توظيف نموذج تنبؤ تكيفي لمراعاة تنازع نقل البيانات وتداخل النواة، مما يتيح جدولة فعالة تراعي الأولويات.