HYDRA: Hybrid Data Multiplexing and Run-time Layer Configurable DNN Accelerator
تقترح الورقة البحثية HYDRA، وهو مسرع للشبكات العصبية العميقة هجين لتعدد الإرسال للبيانات وقابل للتهيئة في وقت التشغيل عند طبقة البيانات، والذي يحقق انخفاضات تزيد عن 90% في استهلاك الطاقة والعبء الإضافي للمساحة مع تقديم أداء يصل إلى 35.21 TOPS للحوسبة الطرفية الفعالة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تدير مطبخ مطعم مزدحم. في الأيام الخوالي، إذا أردت تقديم وجبة مكونة من 5 أطباق معقدة (مثل الشبكة العصبية العميقة، أو DNN)، كنت ستوظف طباخاً منفصلاً، وموقداً منفصلاً، ومجموعة سكاكين منفصلة لكل طبق. سيكون هناك 50 طباخاً واقفين ينتظرون دورهم لطهي مكون واحد فقط.
هكذا تعمل معظم حواسيب الذكاء الاصطناعي اليوم. إنها قوية، لكنها ضخمة، ومكلفة، وتتطلب الكثير من الكهرباء. محاولة وضع هذا المطبخ الضخم داخل شاحنة طعام صغيرة (جهاز طرفي مثل كاميرا ذكية أو طائرة بدون طيار) أمر مستحيل لأن الشاحنة لا تملك المساحة أو البطارية الكافية.
إليك HYDRA، وهو اختراع جديد من فريق من الباحثين يعمل بمثابة مطبخ فائق الكفاءة ومتعدد الأشكال.
إليك كيف يعمل HYDRA، مقسماً إلى مفاهيم بسيطة:
1. استراتيجية "طباخ واحد، أطباق متعددة" (تعدد طبقات العمليات - Layer Multiplexing)
في رقاقة الذكاء الاصطناعي التقليدية، يكون لكل طبقة من الشبكة العصبية (كل خطوة من خطوات عملية التفكير) عتاد مخصص لها. الأمر يشبه امتلاك طباخ مخصص لتقطيع البصل فقط، وآخر للقلي، وآخر لتزيين الطبق، حتى لو كانوا يعملون لمدة 5 دقائق فقط في اليوم.
نهج HYDRA: تخيل أن لديك طباخاً واحداً موهوباً للغاية يمكنه القيام بكل شيء.
- أولاً، يقوم الطباخ بتقطيع كل البصل (الطبقة 1).
- ثم ينتقل الطباخ فوراً إلى الموقد لقلي الدجاج (الطبقة 2).
- ثم يقوم بتزيين الطبق (الطبقة 3).
بدلاً من بناء مطبخ جديد لكل خطوة، يقوم HYDRA بإعادة استخدام نفس العتاد مراراً وتكراراً. إنه يعالج البيانات خطوة بخطوة، مثل سباق التتابع حيث يمر نفس العداء بالعصا عبر محطات مختلفة، بدلاً من توظيف عداء جديد لكل محطة. هذا يوفر كمية هائلة من المساحة والمال.
2. "متذوق واحد" (إعادة استخدام دالة التنشيط - Activation Function Reuse)
في الشبكة العصبية، بعد إجراء العمليات الحسابية، يجب على الكمبيوتر اتخاذ قرار: "هل هذا قط أم كلب؟". تسمى خطوة اتخاذ القرار هذه دالة التنشيط (AF).
في التصميمات القديمة، كان لكل عصبون (كل خلية دماغية صغيرة في الذكاء الاصطناعي) متذوق خاص به. إذا كان لديك 100 عصبون، فسيكون لديك 100 متذوق واقفين دون فعل أي شيء معظم الوقت.
نهج HYDRA: يدرك HYDRA أن هؤلاء المتذوقين مكلفون. لذا، يقوم بتثبيت متذوق واحد فقط، فائق السرعة ويستخدم حزاماً ناقلاً خاصاً (يسمى آلية PISO) لجلب الطعام إليه واحداً تلو الآخر.
- بدلاً من وجود 100 شخص ينتظرون التذوق، تمر 100 طبقة أمام شخص واحد.
- هذا يوفر حوالي 90% من العتاد المطلوب لهذه الخطوة. إنه يشبه استبدال استاد كامل من الحكام بحكم واحد سريع للغاية.
3. "الحاسبة الذكية" (الضرب والجمع المدمج - Fused Multiply-Accumulate)
جوهر رياضيات الذكاء الاصطناعي يتضمن ضرب الأرقام وجمعها. يستخدم HYDRA حاسبة خاصة ومحسنة تسمى FMA (الضرب والجمع المدمج).
- فكر في هذا كآلة حاسبة لا تقوم بالرياضيات فحسب؛ بل تتذكر الإجابة السابقة حتى لا تضطر للبدء من الصفر في كل مرة.
- يجمع HYDRA هذه الحاسبة الذكية مع استراتيجية "الطباخ الواحد" لجعل العملية برمتها سريعة للغاية وموفرة للطاقة.
لماذا يهم هذا؟ (النتائج)
اختبر الباحثون HYDRA على رقاقة حقيقية (FPGA) وقارنوه بأفضل التصميمات الموجودة. كانت النتائج تشبه مقارنة سيارة ليموزين تستهلك الكثير من الوقود بسكوتر كهربائي رشيق:
- المساحة: يستخدم مساحة أقل بنسبة 90% (المساحة) على الرقاقة.
- الطاقة: يستخدم كهرباء أقل بنسبة 90%. هذا يعني أن كاميرتك الذكية أو طائرتك بدون طيار يمكنها تشغيل الذكاء الاصطناعي لفترة أطول بكثير ببطارية واحدة.
- السرعة: رغم صغر حجمه واستهلاكه الأقل للطاقة، إلا أنه لا يزال سريعاً جداً، حيث يحقق 35.21 TOPS/W (طريقة فنية للقول إنه يقوم بترليونات العمليات الحسابية لكل واط من الطاقة يستخدمه).
الخلاصة
HYDRA هو خدعة ذكية توقفنا عن بناء "مطابخ" لكل مهمة. بدلاً من ذلك، يبني مطبخاً واحداً فائق المرونة وقابلاً لإعادة الاستخدام يمكنه طهي أي وجبة، دورة تلو الأخرى.
هذا يسمح لنا بوضع أدمغة ذكاء اصطناعي قوية في أجهزة صغيرة تعمل بالبطارية (مثل السيارات ذاتية القيادة، أو المستشعرات الطبية، أو الهواتف الذكية) دون أن تسخن أو تنفد بطاريتها. إنه المفتاح لجلب ذكاء "السحابة" إلى "أطراف" عالمنا اليومي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.