Meganeura: Portable GPU Training and Inference through Vulkan and Metal
تُظهر Meganeura أن مترجماً أصلياً مدمجاً يستخدم Vulkan وMetal يمكنه بفعالية تغطية مرحلتي التدريب والاستدلال عبر مختلف وحدات معالجة الرسومات الاستهلاكية، محققاً أداءً تنافسياً وأوقات تجميع أسرع بكثير مقارنة بـ PyTorch، مع تحديد تغطية النواة وجدولة المهام كعقبات رئيسية متبقية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك عقل روبوت فائق الذكاء يتعلم التعرف على القطط، أو قيادة سيارة، أو كتابة القصص. عادةً ما يكون هناك انقسام ضخم وفوضوي في كيفية عمل هذا العقل. أولاً، يذهب إلى مركز بيانات ضخم ومكيف بالهواء ليتعلم (التدريب)، باستخدام أدوات ثقيلة لا تملكها إلا الشركات الكبرى. ثم، لكي تستخدمه فعلياً على هاتفك أو في لعبة، عليك تصغير حجمه، وترجمته إلى لغة جديدة، والأمل في أن يستمر في العمل. الأمر يشبه خبز كعكة ضخمة في مطبخ احترافي، ثم محاولة وضع الوصفة في صندوق غداء صغير لرحلة تنزه، على أمل ألا تتفتت الكعكة.
تعيش هذه الورقة البحثية في عالم علوم الحاسوب، وتحديداً في "تعلم الآلة" (تعليم الحواسيب التعلم من البيانات) و"برمجة الرسوميات" (إخبار شرائح الحاسوب بكيفية رسم الصور). الفكرة الرئيسية هنا هي أن نفس شرائح الحاسوب التي تشغل ألعاب الفيديو وشاشات الهواتف قوية جداً في العمليات الحسابية. تسأل الورقة سؤالاً بسيطاً: هل يمكننا تخطي خطوة الترجمة الفوضوية هذه؟ هل يمكننا استخدام نفس "الوصفة" لتدريب عقل الروبوت ثم تشغيله على جهازك، دون الحاجة إلى مركز بيانات ضخم أو لغة حاسوب "بايثون" في المنتصف؟ إذا استطعنا فعل ذلك، فهذا يعني أن أجهزتك يمكنها تعلم حيل جديدة في مكان تواجدك مباشرة، دون الحاجة لإرسال البيانات إلى خادم.
قام الباحثون ببناء أداة جديدة تسمى Meganeura لاختبار ذلك. فكر في Meganeura كمترجم عالمي وطاهٍ ماهر في آن واحد. فبدلاً من استخدام الأدوات الثقيلة المعتادة (مثل PyTorch، وهو "المطبخ" القياسي للتدريب)، يستخدم Meganeura اللغات القياسية التي تفهمها محركات ألعاب الفيديو بالفعل: Vulkan و Metal. هذه هي اللغات التي تستخدمها بطاقات الرسوميات لعرض العوالم ثلاثية الأبعاد. أراد الفريق معرفة ما إذا كان بإمكانهم كتابة برنامج واحد يمكنه كل من التعلم (التدريب) والأداء (الاستنتاج) على أي شريحة حاسوب حديثة تقريباً، من بطاقات الألعاب المتطورة إلى الشرائح الصغيرة داخل هاتفك أو حاسوبك المحمول.
وضعوا Meganeura تحت الاختبار مقابل المعيار الصناعي، PyTorch، على خمسة أنواع مختلفة من الأجهزة: بطاقات رسوميات NVIDIA و AMD القوية، وشريحة AMD مدمجة في حاسوب محمول، وشريحة رسوميات Intel، وسيليكون Apple. وقاموا بتشغيل خمس مهام مختلفة للذكاء الاصطناعي، تتراوح من التعرف على الصور إلى فهم الكلام.
الأخبار الجيدة:
Meganeura يعمل! في كثير من الحالات، كان سريعاً بقدر الأدوات القياسية الثقيلة، وأحياناً أسرع منها. في أجهزة AMD، كان غالباً أسرع من المنافسين. على سبيل المثال، في بطاقة رسوميات AMD، قام Meganeura بتدريب بعض النماذج بسرعة أكبر بمقدار 1.3 مرة من الأداة القياسية. وعلى شريحة M3 من Apple، كان منافساً، وإن كان أبطأ قليلاً في بعض الأحيان. والأفضل من ذلك؟ Meganeura صغير جداً. البرنامج بأكمله يبلغ حجمه 13 ميجابايت فقط (حوالي حجم بضع صور عالية الجودة)، بينما تتطلب الأدوات القياسية جيجابايت من البرامج لتثبيتها. كما أنه يقوم بتجميع المهام الجديدة في ثوانٍ (0.1 إلى 2.4 ثانية) بدلاً من دقائق.
أخبار "يعتمد الأمر على الظروف":
إنه ليس فوزاً مثالياً في كل مكان. على بطاقات NVIDIA وشرائح Apple، كان Meganeura أبطأ أحياناً، خاصة في المهام المعقدة مثل تدريب نماذج التعلم العميق. وجد الباحثون أن فرق السرعة لم يكن بسبب ضعف لغات الرسوميات (Vulkan/Metal)، بل لأن "مطبخ" Meganeura لم يكن يمتلك كل الأدوات المتخصصة (kernels) التي بنيتها الشركات الكبرى على مر السنين. على سبيل المثال، في بطاقات NVIDIA، كانت الأجزاء الأبطأ هي عمليات حسابية محددة لعمليات الالتفاف (convolution - نوع من معالجة الصور)، حيث كان Meganeura أبطأ بنحو 4.6 مرة في بعض أوضاع التسريع.
اختبار "العالم الحقيقي":
لإثبات أن الأمر ليس مجرد خدعة مختبرية، قاموا ببناء تطبيق حقيقي يسمى DinoVision لنظارة الواقع الافتراضي (Meta Quest 3). قاموا بتدريب "مفكك شفرة" (decoder) على حاسوب، وحفظوا "الدماغ"، ثم قاموا بتشغيله مباشرة على سماعة الرأس باستخدام Meganeura. لقد عمل بشكل مثالي، حيث شارك نفس طابور الرسوميات الخاص بتشغيل اللعبة. أثبت هذا أنه يمكنك التدريب والنشر على نفس الجهاز دون الحاجة إلى خادم منفصل.
العقبة:
كان الباحثون حذرين للغاية. فقد وجدوا حالتين محددتين لم تتطابق فيهما النتائج مع الأداة القياسية تماماً. وهم يشتبهون في أن الأداة القياسية قد تكون هي التي تحتوي على الخطأ في هاتين الحالتين تحديداً، لكنهم لم يتمكنوا من التأكد بنسبة 100% دون رأي ثالث. كما أشاروا إلى أن Meganeura ليس جاهزاً لاستبدال أدوات مراكز البيانات الضخمة للتدريب الموزع الواسع؛ فهو مصمم للتطبيقات الأصغر والأكثر قابلية للنقل حيث تريد كل شيء في حزمة واحدة مرتبة.
الخلاصة:
يظهر Meganeura أنك لست بحاجة إلى مركز بيانات ضخم ومتخصص لتدريب وتشغيل الذكاء الاصطناعي على جهازك. من خلال استخدام لغات الرسوميات التي تشغل ألعابك بالفعل، يمكنك إنشاء نظام صغير ومحمول يمكنه التعلم والعمل على أي شريحة حديثة تقريباً. وبينما ليس هو الأسرع في كل سيناريو بعد، إلا أنه يثبت أن نظام "التدريب والنشر" (train-and-deploy) أمر ممكن، مما يفتح الباب للأجهزة التي يمكنها التعلم والتكيف مباشرة في جيبك.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.