Dooly: Configuration-Agnostic, Redundancy-Aware Profiling for LLM Inference Simulation
يُعد Dooly نظاماً لنمذجة أداء استدلال النماذج اللغوية الكبيرة (LLM) يتميز بكونه غير مقيد بتكوينات محددة ومدركاً لوجود التكرار، حيث يستفيد من انتشار التلوث والتحليل الهيكلي لإجراء عملية استدلال واحدة، مما يقلل تكاليف النمذجة بشكل كبير مع الحفاظ على دقة عالية عبر مختلف الأجهزة، والمحركات، وبنيات النماذج.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول بناء نظام توصيل مثالي لسلسلة بيتزا ضخمة. عليك أن تقرر نوع الشاحنات (الأجهزة/Hardware)، وبرنامج التوجيه (محركات الخدمة/Serving Engines)، وتخطيط المطبخ (بنية النموذج/Model Architecture)، ونوع الطلبات التي ستصلك (أعباء العمل/Workloads).
المشكلة هي أنه لا يوجد إعداد واحد "أفضل" من غيره. فالشاحنة المثالية لحي صغير قد تكون سيئة للغاية في رحلة على طريق سريع. ولتحديد المزيج الأفضل، يتعين عليك عادةً اختبار كل سيناريو عبر قيادة الشاحنات فعلياً. لكن اختبار كل مسار، مع كل شاحنة، وفي كل حالة طقس، يستغرق وقتاً طويلاً ويكلف ثروة من الوقود.
هذه هي المشكلة التي يواجهها علماء الكمبيوتر مع استنتاج النماذج اللغوية الكبيرة (LLM Inference) (تشغيل نماذج الذكاء الاصطناعي). فهم بحاجة إلى اختبار آلاف التوليفات من الأجهزة، والبرمجيات، والنماذج لإيجاد الأسرع منها. حالياً، يستخدمون "المحاكيات" (تجربة قيادة رقمية)، لكن هذه المحاكيات خرقاء. فهي تشبه سائقاً يضطر لتعلم كيفية قيادة السيارة من الصفر في كل مرة يغير فيها طراز السيارة، حتى لو كان المحرك متطابقاً. كما أنها تضيع الوقت في اختبار الشيء نفسه مراراً وتكرداً.
إليك Dooly، الأداة الجديدة التي تعمل كـ "سائق اختبار ذكي جداً ومعزز بالذاكرة".
المشكلة الجوهرية: فخ "إعادة اختراع العجلة"
يوضح البحث أن المحاكيات الحالية "مبنية بشكل جامد" (Hardcoded). إذا أردت اختبار نموذج ذكاء اصط@ئي جديد، فغالباً ما يحتاج المحاكي إلى إعادة كتابة يدوية لفهمه. والأسوأ من ذلك، إذا اختبرت النموذج (A) ثم النموذج (B)، وكان كلاهما يستخدم نفس "المحرك" الرياضي (مثل آلية الانتباه نفسها)، فإن الأدوات الحالية لا تدرك ذلك؛ بل تعاملهما كمهام جديدة تماماً وتقوم بقياسهما من البداية.
التمثيل التشبيهي: تخيل أنك طاهٍ يختبر وصفات الطعام.
- الطريقة القديمة: تقوم بخبز كعكة شوكولاتة. ثم تريد اختبار كعكة فانيلّا. الطريقة القديمة تجبرك على شراء مكونات جديدة، وتنظيف المطبخ، وخبز كعكة الفانيلّا من البداية، رغم أن الفرن، وعاء الخلط، ووقت الخبز هي نفسها تماماً. أنت تهدر الوقت والمال.
- الرؤية الثاقبة: أدرك البحث أن العديد من "المكونات" (مثل حجم وعاء الخلط أو درجة حرارة الفرن) ثابتة بفضل الوصفة (النموذج)، بينما تتغير عناصر أخرى (مثل عدد الكعكات التي تخبزها في وقت واحد) بناءً على طلب العميل.
كيف يعمل Dooly: محقق "التلوث" (Taint)
يعالج Dooly هذه المشكلة عبر حيلتين رئيسيتين:
1. انتشار "التلوث" (تسمية المكونات)
يقوم Dooly بتشغيل نموذج الذكاء الاصطناعي مرة واحدة فقط بطلب وهمي. وأثناء التشغيل، يضع "ملصقات ملاحظات" (تسمى التلوث/Taints) على كل رقم يستخدمه.
- إذا كان الرقم ناتجاً عن تصميم النموذج (مثل "هذا النموذج يحتوي على 32 رأساً")، فإنه يحصل على ملصق "نموذج".
- إذا كان الرقم ناتجاً عن طلب العميل (مثل "خبز 50 كعكة")، فإنه يحصل على ملصق "طلب".
لماذا هذا مهم؟ عندما ينظر Dooly إلى العمليات الحسابية لاحقاً، يمكنه القول: "مهلاً، هذه العملية الحسابية تعتمد فقط على ملصقات 'النموذج'. وبما أن النموذج (A) والنموذج (B) لديهما نفس ملصقات 'النموذج' هنا، فأنا لست بحاجة لاختبار هذا الجزء مرة أخرى. أنا أعرف الإجابة بالفعل!". إنه يكتشف فوراً متى تقوم النماذج المختلفة بنفس العمليات الحسابية بالضبط.
2. إعادة استخدام "السياق" (استخدام مفتاح المحرك الخاص به)
بعض أجزاء الذكاء الاصطناعي (مثل آلية "الانتباه/Attention") تشبه محرك السيارة الذي يحتاج إلى تسخين وتوصيل بخط الوقود قبل أن يبدأ في العمل. تحاول المحاكيات القديمة توصيل الأسلاك يدوياً لاختبار هذه الأجزاء بمفردها، وهو أمر صعب وعرضة للخطأ.
Dooly أكثر ذكاءً. يقول: "لماذا نبني محركاً جديداً؟ لنستخدم نظام الإشعال الخاص بالسيارة نفسه". فهو يعيد استخدام كود بدء التشغيل الخاص بمحرك الخدمة لتهيئة البيئة بشكل مثالي. وهذا يسمه اختبار الأجزاء المعقدة وحالة النظام (Stateful) في النموذج بشكل منعزل دون الحاجة إلى تدخل بشري لتوصيل الأسلاك يدوياً.
النتائج: السرعة والتوفير
اختبر البحث أداة Dooly على 12 نموذج ذكاء اصطناعي مختلف، باستخدام أجهزة مختلفة (رقائق NVIDIA A100 وH100) وخلفيات برمجية متنوعة.
- الدقة: توقعت الأداة سرعة الذكاء الاصطناعي بدقة عالية جداً (بنسبة خطأ تتراوح بين 5% إلى 8% فقط)، وهي نسبة ممتازة لأغراض التخطيط.
- الكفاءة: من خلال رصد الاختبارات "المكررة" وتخطيها، وفر Dely 56.4% من الوقت وقوة الحوسبة (ساعات الـ GPU) مقارنة بالطريقة القديمة.
- المرونة: عملت الأداة مباشرة مع نماذج وأجهزة مختلفة دون الحاجة إلى إعادة كتابتها يدوياً لكل حالة.
الخلاصة
Dooly هي أداة تمنع علماء الكمبيوتر من إضاعة الوقت في إعادة اختبار نفس الأشياء. من خلال وسم مصدر الأرقام وإعادة استخدام إعدادات البرامج الموجودة، تبني الأداة "مكتبة من الإجابات" يمكن استخدامها لمحاكاة أي تكوين فوراً. إنها تحول عملية تستغرق شهوراً من التجربة والخطأ إلى استكشاف أسرع وأذكى، مما يساعد المهندسين على إيجاد أفضل طريقة لتشغيل نماذج الذكاء الاصطناعي دون استنزاف وقت الحوسبة الباهظ الثمن.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.