CARMEN: CORDIC-Accelerated Resource-Efficient Multi-Precision Inference Engine for Deep Learning
تقدم هذه الورقة CARMEN، وهو محرك استدلال للتعلم العميق كفء في استهلاك الموارد يستفيد من بنية قائمة على خوارزمية CORDIC متكيفة وقت التشغيل لتعديل الدقة الحسابية ديناميكيًا، مما يحقق تخفيضات كبيرة في استهلاك الطاقة وعدد الدورات مع تقديم أداء عالٍ على كل من منصات ASIC وFPGA.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تدير مطبخاً مزدحماً حيث المهمة الرئيسية هي خلط المكونات (ضرب وجمع الأرقام) لصنع آلاف الأطباق. في عالم الذكاء الاصطناعي (AI)، تسمى عملية "الخلط" هذه عملية MAC، وهي تستغرق حوالي 90% من وقت الطاهي. أما الـ 10% المتبقية، فتتضمن إضافة لمسة من التزيين أو تعديل نكهة معينة (تسمى دوال التنشيط - Activation Functions)، مثل إضافة رشة ملح أو عصرة ليمون.
المشكلة في معظم "مطابخ" الذكاء الاصطناعي الحالية (الرقائق الإلكترونية) هي أنها مبنية كخط إنتاج مصنعي؛ حيث تمتلك آلة ضخمة ومكلفة مخصصة فقط للخلط، وآلة أخرى منفصلة ومكلفة بنفس القدر للتزيين. ولكن نظرًا لأن عملية التزيين تحدث نادرًا، فإن الآلة الثانية تظل خاملة 84% من الوقت، مما يهدر المساحة والكهرباء.
إليك CARMEN: مساعد المطبخ الذكي والقابل للتكيف
قام الباحثون في معهد IIT Indore وجامعة Bar-Ilan ببناء محرك جديد يسمى CARMEN. فكر فيه كأنه "سكين سويسري" لرقائق الذكاء الاصطناعي، يتغير وفقاً للأدوات المطلوبة للمهمة. وإليك كيف يعمل، باستخدام تشبيهات بسيطة:
1. آلة الخلط "قابلة لضبط العمق" (تقنية CORDIC MAC)
معظم الآلات تخلط المكونات بمستوى ثابت من الدقة. إذا كنت بحاجة إلى تقدير تقريبي، فإنها لا تزال تستخدم العملية الكاملة البطيئة وعالية الددق.
- الابتكار: يستخدم CARMEN تقنية تسمى CORDIC. تخيل طاهياً يمكنه اختيار عدد المرات التي يحرك فيها القدر.
- الوضع السريع: للمهام البسيطة (مثل التخمين التقريبي)، يحرك الطاهي القدر مرات قليلة فقط. هذا يجعل العملية سريعة وتستهلك طاقة قليلة جداً، لكنها قد تكون أقل دقة قليلاً.
- الوضع البطيء: للمهام الحرجة (حيث يجب أن يكون الطبق مثالياً)، يحرك الطاهي القدر مرات عديدة. يستغرق الأمر وقتاً أطول ولكنه عالي الدقة.
- الفائدة: لا يحتاج الطاهي إلى آلتين مختلفتين؛ بل يقوم فقط بتدوير قرص لتغيير "عمق التحريك" أثناء العمل. هذا يوفر ما يصل إلى 33% من الوقت و 21% من الطاقة لأن الآلة لا ترهق نفسها في المهام البسيطة.
2. محطة التزيين "ذات القدر الواحد" (كتلة التنشيط المتعددة - Multi-Activation Block)
بدلاً من امتلاك محطة منفصلة ومكلفة لكل نوع من أنواع التزيين (واحدة للملح، وأخرى لليمون، وثالثة للفلفل)، يمتلك CARMEN محطة واحدة متعددة الاستخدامات.
- الابتكار: يعتمد على تقنية تعدد الإرسال الزمني (Time-multiplexing). هذا يشبه طاهياً واحداً ينتقل بسرعة بين المهام؛ فهو يضيف الملح، ثم ينتقل فوراً لعصر الليمون، ثم الفلفل، مستخدماً نفس اليدين والأدوات.
- الفائدة: بما أن عملية التزيين نادرة (تمثل 2-5% فقط من العمل)، فإن هذا "التبديل" لا يبطئ حركة المطبخ. ومع ذلك، فإنه يوفر مساحة ومالاً هائلين لأنك لست بحاجة لبناء آلة منفصلة لكل نكهة. يدعم هذا التصميم سبع "نكهات" مختلفة (دوال مثل ReLU وSoftmax وغيرها) مع استهلاك مساحة إضافية تكاد تكون معدومة.
3. النتائج: مطبخ أذكى وأكثر رشاقة
اختبر الباحثون هذا المحرك الجديد بطريقتين:
- المخطط الهندسي (ASIC): صمموا الرقاقة باستخدام عملية تصنيع متقدمة جداً (28 نانومتر). وكانت النتيجة محركاً صغيراً فائق الكفاءة. النسخة التي تحتوي على 256 من "محطات الخلط" هذه والمدمجة في مساحة صغيرة قوية للغاية، حيث توفر سرعة عالية مع استهلاك ضئيل جداً لطاقة البطارية.
- النموذج الأولي (FPGA): بنوا نموذجاً يعمل على لوحة تطوير (Pynq-Z2). وعندما طلبوا منه التعرف على الأشياء في فيديو (مثل العثور على قطة أو سيارة في الوقت الفعلي)، قام بالمهمة في 154.6 مللي ثانية مع استهلاك 0.43 واط فقط من الطاقة.
لماذا يهم هذا الأمر؟
كانت رقائق الذكاء الاصطناعي السابقة تشبه بناء مصنع منفصل ومكلف لكل خطوة من خطوات العملية، حتى لو كانت تلك الخطوة نادرة الاستخدام. أما CARMAN فهو يشبه ورشة عمل ذكية وقابلة للتكيف، حيث تتغير الأدوات بناءً على الوظيفة.
- يوفر المساحة (Area) عبر مشاركة الموارد.
- يوفر البطارية (Power) عبر عدم الإفراط في العمل للمهام البسيطة.
- يحافظ على الجودة (Accuracy) عالية عبر السماح للنظام باختيار مدى الدقة المطلوبة لكل جزء من الحسابات.
باختصار، يجعل CARMAN رقائق الذكاء الاصطناعي أصغر، وأرخص، وتدوم لفترة أطول، وهو أمر مثالي لتشغيل التطبيقات الذكية على الأجهزة الصغيرة مثل الهواتف أو الطائر بدون طيار (الدرونز) دون الحاجة إلى محطة توليد طاقة ضخمة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.