Ariel-ML: Computing Parallelization with Embedded Rust for Neural Networks on Heterogeneous Multi-core Microcontrollers
تقدم هذه الورقة Ariel-ML، وهي مجموعة أدوات مفتوحة المصدر بلغة Rust مخصصة للأنظمة المدمجة تعمل على أتمتة الاستدلال المتوازي لنماذج TinyML على المتحكمات الدقيقة متعددة الأنوية غير المتجانسة، مما يظهر أداءً فائقاً في زمن الاستجعة مع الحفاظ على بصمات ذاكرة مماثلة للحلول التقليدية المكتوبة بلغتي C/C++.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك حاسوباً صغيراً يعمل بالبطارية (مثل النوع الموجود داخل منظم الحرارة الذكي أو جهاز تتبع اللياقة البدنية). لسنوات، كانت هذه الأجهزة تشبه الفنانين المنفردين: حيث تمتلك خلية دماغية واحدة فقط (نواة معالجة واحدة) للقيام بكل عمليات التفكير. كما أنها كُتبت بلغة برمجة قديمة وخطيرة نوعاً ما تسمى C/C++، وهي تشبه بناء منزل باستخدام عوارض خشبية يمكن أن تتعفن إذا لم تكن حذراً.
هناك تغييران كبيران يحدثان الآن:
- ترقية الأجهزة: تصل حالياً حواسيب صغيرة جديدة تحتوي على خلايا دماغية متعددة (معالجات متعددة النواة)، مثل "جوقة غنائية" بدلاً من "فنان منفرد".
- ترقية السلامة: ينتقل المطورون إلى لغة جديدة تسمى Rust، وهي تشبه استخدام العوارض الفولاذية التي يصعب كسرها أو إتلافها.
المشكلة هي؟ حتى الآن، لم تكن هناك طريقة سهلة لتعليم هذه الحواسيب "الجوقة" الجديدة كيف تعمل معاً لحل الألغاز المعقدة (مثل التعرف على صوت أو تحديد قطة في صورة) باستخدام لغة "الفولاذ" الجديدة. الأدوات الموجودة كانت إما عالقة في اللغة القديمة أو لا تستطيع إخبار الخلايا الدماغية المتعددة بكيفية تقاسم العمل.
إليك Ariel-ML.
اعتبر Ariel-ML بمثابة قائد أوركسترا فائق الكفاءة لهذه الجوقة الجديدة. إليك كيف يعمل، باستخدام تشبيهات بسيطة:
1. المترجم (خط أنابيب البناء)
تخيل أن لديك وصفة معقدة مكتوبة بلغة طهاة محترفين (مثل PyTorch أو TensorFlow). يأخذ Ariel-ML هذه الوصفة ويترجمها إلى مجموعة محددة من التعليمات التي يفهمها الحاسوب الصغير. يستخدم أداة تسمى IREE (تخيلها كآلة ترجمة عالية التقنية) لتفكيك الوصفة الكبيرة إلى مهام صغيرة وسهلة الإدارة.
2. قائد الأوركسترا (مجدول تعدد الأنوية)
هذا هو الابتكار الأكبر في الورقة البحثية. بمجرد تفكيك الوصفة، ينظر "قائد الأوركسترا" في Ariel-ML إلى الخلايا الدماغية المتعددة في الجهاز.
- الطريقة القديمة: تحاول خلية دماغية واحدة القيام بكل شيء بينما تظل الخلايا الأخرى خاملة، تنتظر دورها.
- طريقة Ariel-ML: يقوم القائد فوراً بتوزيع أجزاء مختلفة من الوصفة على خلايا دماغية مختلفة. إذا كان لديك خليتان دماغيتان، فسيقسمان العمل إلى نصفين وينهيان المهمة بسرعة الضعف تقريباً. تسمي الورقة البحثية هذا بـ "المجدول الجشع" (greedy scheduler)، وهو مجرد طريقة منمقة لقول إنه يمسك بأي خلية دماغية فارغة ويعطيها مهمة فوراً، مما يضمن عدم جلوس أي خلية دون عمل.
3. شبكة الأمان (Rust)
بما أن Ariel-ML مبني بالكامل بلغة Rust، فإنه يعمل كشبكة أمان. في الأيام الخوالي (C/C++)، إذا حاول برنامج استخدام ذاكرة لا يملكها، فقد ينهار النظام بأكمله. تمنع Rust حدوث ذلك من خلال التصميم. وتدعي الورقة البحثية أن هذا يجعل البرامج أكثر أماناً وموثوقية، وهو أمر بالغ الأهمية مع زيادة اتصال هذه الأجهزة بالإنترنت.
ماذا أثبتوا؟
اختبر المؤلفون Ariel-ML على عدة حواسيب صغيرة حقيقية (مثل Raspberry Pi Pico ورقائق Nordic). وقارنوه بالأدوات القديمة:
- السرعة: في الحواسيب التي تحتوي على خليتين دماغيتين، كان Ariel-ML أسرع بمقدار يصل إلى 1.6 مرة من الأدوات القديمة. لقد نجح في جعل الجوقة تغني في تناغم.
- الذاكرة: تعترف الورقة البحثية بأنه نظراً لأن لغة Rust وأدوات الترجمة الجديدة قوية جداً، فإن البرنامج النهائي يشغل مساحة أكبر قليلاً في ذاكرة الحاسوب (مثل حقيبة ظهر أثقل قليلاً). ومع ذلك، أظهروا أن مكاسب السرعة في الأجهزة متعددة الأنوية تجعل هذا الوزن الزائد يستحق العناء.
- الدقة: قاموا بمراجعة الحسابات وتأكدوا من أن Ariel-ML يعطي نفس الإجابات الدقيقة التي تعطيها الحواسيب الضخمة والقوية المستخدمة لتدريب النماذج.
الخلاصة
Ariel-ML هو أول مجموعة أدوات تتيح للمطورين أخذ نماذج الذكاء الاصطناዊ الحديثة والمعقدة، وترجمتها إلى لغة Rust الآمنة والحديثة، وتقسيم العمل تلقائياً عبر خلايا دماغية متعددة في الأجهزة الصغيرة ومنخفضة الطاقة. إنه يسد الفجوة بين الأجهزة "القديمة" أحادية النواة ومستقبل "الجيل الجديد" متعدد الأنوية، مما يسمح لهذه الأجهزة الصغيرة بالتفكير بشكل أسرع وأكثر أماناً دون الحاجة إلى ترقية ضخمة للبطارية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.