Split CNN Inference on Networked Microcontrollers
تقدم هذه الورقة نظام استنتاج مجزأ دقيق التفاصيل للمتحكمات الدقيقة الشبكية يتغلب على قيود الذاكرة من خلال تقسيم نماذج الشبكات العصبية الالتفافية (CNN) على مستوى النواة والعصبون عبر أجهزة متعددة، مما يتيح تنفيذ نماذج كانت غير ممكنة لولا ذلك مع الحفاظ على زمن استجابة عملي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك لغزاً صعباً للغاية لحله، ولكن ليس لديك سوى مكتب صغير جداً للعمل عليه. اللغز هو "شبكة عصبية عميقة" (دماغ اصطناعي معقد)، ومكتبك هو "متحكم دقيق" (MCU)—وهو شريحة كمبيوتر صغيرة ورخيصة توجد في كل شيء، من أجهزة التحميص إلى المستشعرات الذكية.
المشكلة هي أن اللغز أكبر من مكتبك الصغير هذا. وحتى لو كانت قطع اللغز (أوزان النموذج) تتسع في جيبك، فإن عملية حلها تتطلب منك نشر كمية هائلة من الملاحظات المؤقتة (تسمى التنشيطات الوسيطة) على المكتب. مكتبك صغير جداً؛ الملاحظات ستنسكب وتفيض، وتفشل المهمة.
تقترح هذه الورقة حلاً ذكياً: لا تحاول حل اللغز بأكر على مكتب واحد. بدلاً من ذلك، استعن بفريق من الأصدقاء، لكل منهم مكتبه الصغير الخاص، وحلوا اللغز معاً.
إليك كيف جعل المؤلفون هذا الأمر ممكناً، مشروحاً ببساة:
١. الطريقة القديمة مقابل الطريقة الجديدة
- الطريقة القديمة (التقسيم الخشن): تخيل أنك تحاول تقسيم اللغز عبر إعطاء صديق الجزء العلوي وصديق آخر الجزء السفلي. لكن حتى "الجزء العلوي" لا يزال كبيراً جداً على مكتب واحد صغير. تفشل هذه الطريقة لأن القطع لا تزال ضخمة.
- الطريقة الجديدة (التقسيم دقيق التفاصيل): أدرك المؤلفون أنهم بحاجة إلى تقطيع اللغز إلى قطع أصغر بك much أكثر، بحيث يمكن ابتلاعها بسهولة. فبدلاً من التقسيم حسب "الطبقات" (أجزاء كبيرة)، قاموا بالتقسيم حسب العصبونات الفردية (النقاط الصغيرة داخل الشبكة).
- تشبيه: تخيل جدارية ضخمة. بدلاً من إعطاء فنان جداراً كاملاً ليرسمه، أنت تعطيه مساحة بوصة مربعة واحدة فقط من الجدار. وتعطي فناناً آخر بوصة مربعة أخرى مختلفة. معاً، يرسمون الجدارية بأكملها، لكن لا يضطر أي فنان بمفرده أبداً إلى حمل اللوحة بأكملها في وقت واحد.
٢. "قائد الفريق" (المنسق)
بما أن الأصدقاء (المتحكمات الدقيقة) يعملون على أجزاء صغيرة جداً، فهم بحاجة إلى مدير للحفاظ على تنظيم الأمور.
- المنسق: هو جهاز مركزي (مثل كمبيوتر شخصي أو شريحة مخصدة) يعمل كقائد للفريق.
- ماذا يفعل: هو لا يقوم بالعمل الشاق. بدلاً من ذلك، هو يمتلك الخريطة. يخبر الصديق (أ): "أنت تعمل على هذه البكسلات المحددة"، ويقول له: "أرسل نتيجتك إلى الصديق (ب)". إنه يقوم بتوجيه الملاحظات المؤقتة بين الأصدقاء بحيث يمتلك كل فرد بالضبط ما يحتاجه للقيام بجزئه الصغير من المهمة.
٣. "التكليف الذكي" (المراعي للموارد)
ليس كل الأصدقاء متساوين. فبعضهم لديه مكاتب أسرع (معالجات أسرع)، وبعضهم لديه جيوب أكبر (ذاكرة أكثر)، وبعضهم أبطأ في تمرير الملاحظات (شبكة أبطأ).
- المشكلة: إذا أعطيت نفس مقدار العمل لصديق بطيء وصديق سريع، فإن الصديق السريع سيجلس هناك فقط منتظراً، مما يهدر الوقت.
- الحل: ابتكر المؤلفون "نظام تقييم". هم يقيسون مدى سرعة وقدرة كل متحكم دقيق.
- التشبيه: فكر في سباق تتابع. أنت لا تعطي نفس المسافة لعداء سريع ولشخص يمشي. أنت تعطي العداء السريع مسافة أطول في السباق والمشي مسافة أقتر قصيرة، لكي ينهي الجميع السباق في وقت متقارب تقريباً. يقوم النظام تلقائياً بحساب من يجب أن يقوم بمقدار كم من العمل للحفاظ على حركة الفريق بكفاءة.
٤. النتائج
اختبر الفريق هذا على إعداد حقيقي باستخدام ٨ حواسيب صغيرة (Teensys 4.1 MCUs) ونموذج ذكاء اصطناعي شهير يسمى MobileNetV2.
- النتيجة: لم يستطع كمبيوتر واحد تشغيل نموذج الذكاء الاصطناعي هذا على الإطلاق لأنه نفد من الذاكرة. ولكن عندما قسموا العمل على ٨ حواسيب، نجح النموذج في العمل.
- المقايضة: أصبح الوقت الإجمالي لحل اللغز أبطأ قليلاً لأن الأصدقاء اضطروا لقضاء وقت في تمرير الملاحظات ذهاباً وإياباً. ومع ذلك، انخفض استخدام الذاكرة في كل كمبيوتر فردي بشكل كبير، مما جعل المهمة المستحيلة ممكنة.
ملخص
تظهر هذه الورقة أنه من خلال تقسيم مهمة ذكاء اصطناعي معقدة إلى قطع مجهرية وتوزيعها عبر شبكة من الحواسيب الصغيرة والرخيصة، يمكننا تشغيل ذكاء اصطناعي قوي على أجهزة ضعيفة جداً لا تستطيع التعامل معه بمفردها. الأمر يشبه تحويل فيل واحد مثقل بالأعباء إلى فريق من النمل يمكنه حمل فتات الطعام معاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.