MiCoPro: End-to-End Mixed Precision HW/SW Co-design with HW-aware Proxy Model
تقدم الورقة البحثية MiCoPro، وهو إطار عمل للتصميم المشترك بين الأجهزة والبرمجيات من طرف إلى طرف يستخدم نموذج وكيل مدرك للأجهزة وخوارزمية تحسين مبتكرة للبحث بكفاءة عن مخططات تكميم دقيقة مختلطة، مما يتيح النشر السريع لنماذج الذكاء الاصطناكنة الحافة مع تقليل كبير في زمن الاستجابة وفقدان ضئيل في الدقة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول وضع فيلم ضخم عالي الدقة في مشغل MP3 قديم وصغير الحجم. هذا الفيلم هو "الشبكة العصبية"، وهي نوع من أدمغة الكمبيوتر التي تتعلم التعرف على القطط، أو ترجمة اللغات، أو قيادة السيارات. المشكلة تكمن في أن هذه الأدمغة تُبنى عادةً باستخدام أرقام عشرية ثقيلة (مثل 32 بت أو 64 بت)، والتي تشغل مساحة كبيرة وتتطلب الكثير من الطاقة للمعالجة. ولجعلها تعمل على أجهزة صغيرة مثل الساعات الذكية أو الطائرات بدون طيار، يستخدم المهندسون "التكميم" (Quantization). فكر في هذا كعملية ضغط للفيلم: بدلاً من استخدام ملايين الألوان، تجبر الصورة على استخدام بضعة درجات من الرمادي فقط. هذا يجعل الملف أصغر وأسرع في التشغيل، ولكن إذا ضغطته أكثر من اللازم، تصبح الصورة ضبابية ويتوقف الذكاء الاصطناعي عن التعرف على القطة.
لفترة طويلة، حاول المهندسون ضغط الفيلم بأكلى إلى نفس الجودة المنخفضة، مثل تحويل كل إطار إلى رسم تخطيطي بدقة 4 بت؛ وهذا يشبه فرض نفس الدقة المنخفضة على مشهد حركة بطيء ومشهد حوار هادئ، مما يهدر المساحة في الأجزاء الهادئة ويفسد أجزاء الحركة. الفكرة الأكثر ذكاءً هي "التكميم متعدد الدقة" (Mixed Precision Quantization - MPQ). هذا يشبه خوارزمية ضغط ذكية تحافظ على مشاهد الحركة بدقة عالية (8 بت) ولكنها تصغر مشاهد الحوار المملة إلى رسومات تخطيطية صغيرة (2 بت). التحدي هنا هو معرفة بالضبط أي المشاهد يجب تقليصها وبأي مقدار. إذا أخطأت في التقدير، سيبدو الفيلم سيئاً للغاية. وإذا أصبت، ستحصل على ملف صغير لا يزال يبدو رائعاً. وهذا هو اللغز الذي سعى الباحثون في هذه الورقة البحثية لحله.
تقدم الورقة البحثية مجموعة أدوات جديدة تسمى MiCo (والنسخة المطورة منها MiCoPro) لحل هذا اللغز تلقائياً. فبدلاً من قيام إنسان بمحاولة تعديل كل طبقة من طبقات الشبكة العصبية يدوياً — وهو أمر يشبه محاولة تحرير فيلم مدته 100 ساعة إطاراً بإطار — يعمل نظام MiCo كأنه محرر ذكي وسريع. فهو يستخدم "نموذجاً وسيطاً" (proxy model)، وهو في الأساس بلورة سحرية مدربة للتنبؤ بمدى سرعة تشغيل مخطط ضغط معين على الأجهزة الحقيقية دون تشغيله فعلياً.
وجد الباحثون أن الطريقة القديمة لتخمين السرعة كانت تشبه عد عدد الكلمات في كتاب لتخمين الوقت الذي يستغرقه قراءته؛ إنه تقدير تقريبي، لكنه يتجاهل ما إذا كان الخط صغيراً، أو ما إذا كان القارئ متعباً، أو ما إذا كان الكتاب ثقيلاً. وتجادل الورقة بأن هذه الطريقة القديمة (التي تسمى "العمليات بت" أو BOPs) غالداً ما تؤدي إلى خيارات سيئة لأنها لا تفهم الخصائص الفريدة للأجهزة. أما MiCoPro، فيبني "عداد سرعة" مخصصاً لكل جهاز محدد؛ حيث يتعلم كيف تتعامل الأجهزة المختلفة مع أنواع مختلفة من العمليات الحسابية، مما يسم يسمح له بإيجاد المزيج المثالي من الدقة العالية والمنخفضة الذي يجعل الذكاء الاصطناعي يعمل بأقصى سرعة ممكنة دون فقدان دقته.
في تجاربهم، اختبر الفريق هذا النظام على نماذج ذكاء اصطناعي متنوعة، من متعرفات الصور البسيطة إلى نماذج اللغة الأكبر حجماً. ووجدوا أنه باستخدام "الوسيط المدرك للأجهزة" الجديد الخاص بهم، تمكنوا من تقليل الوقت الذي يستغرقه الذكاء الاصطناعي في التفكير (زمن الاستجابة/Latency) بنسبة تصل إلى 40% مع فقدان أقل من 3% فقط من دقته. الأمر يشبه العثور على طريقة لجعل بطارية هاتفك تدوم أطول بنسبة 40% دون جعل الشاشة أقل سطوعاً.
كما تسلط الورقة الضوء على أن هذا ليس مجرد نظرية؛ فقد قاموا بالفعل ببناء البرمجيات التي تأخذ نموذجاً مصمماً بلغة بايثون (لغة برمجة شهيرة) وتحوله إلى كود C خام يمكنه العمل مباشرة على الرقائق، بما في ذلك المسرعات المتخصصة ومعالجات RISC-V المعدلة. وقد أظهروا أن طريقتهم تعمل بشكل أفضل من خوارمازميات "البحث" السابقة، التي غالباً ما تضيع في العدد الهائل من الاحتمالات. ومن خلال استخدام تقنية تسمى "أخذ العينات بالقرب من القيود" (Near-Constraint Sampling)، يركز MiCo بحثه على "النقطة المثالية" القريبة من حد السرعة، بدلاً من إضاعة الوقت في فحص الخيارات البطيئة جداً أو السريعة جداً.
في النهاية، تقترح الورقة أنه للحصول على أقصى استفادة من الذكاء الاصطناعي على الأجهزة الصغيرة، يجب أن نتوقف عن معاملة جميع طبقات الشبكة العصبية بنفس الطريقة. فمن خلال استخدام دليل ذكي ومدرك للأجهزة لخلط ومطابقة مستويات الدقة، يمكننا جعل الذكاء الاصطناعي أسرع وأكثر كفاءة. يوضح المؤلفون أن هذا النهج قوي، حيث يعمل عبر أنواع مختلفة من الرقائق والنماذج، وهم يوفرون إطار عمل مفتوح المصدر للآخرين لاستخدامه. وبينما تعتمد النتائج على المحاكاة واختبارات أجهزة محددة، فإن النجاح المستمر عبر سيناريوهات مختلفة يشير إلى أن استراتيجية "الضغط الذكي" هذه هي أداة قوية لمستقبل ذكاء الحافة (Edge AI).
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.