Performance Analysis of Edge and In-Sensor AI Processors: A Comparative Review
تستعرض هذه الورقة مشهد معالجات الذكاء الاصطناعي عند الحافة وفي المستشعر ذات الطاقة فائقة الانخفاض، وتجري اختباراً معيارياً تجريبياً لنموذج تقسيم على منصات GAP9 وSTM32N6 وSony IMX500 لتوضيح أنه في حين توفر المعالجة داخل المستشعر أداءً متفوقاً من حيث الطاقة والتأخير، فإن البنيات المختلفة توفر مقايضات متميزة بين زمن الاستجابة وكفاءة الطاقة وميزانيات القدرة.
المؤلفون الأصليون:Luigi Capogrosso, Pietro Bonazzi, Michele Magno
تخيل أن لديك روبوتًا صغيرًا يعمل بالبطارية، يحتاج إلى "رؤية" وفهم العالم من حوله — مثل جرس باب ذكي يتعرف على الوجوه أو طائرة بدون طيار تتجنب الأشجار. في الأيام الخوالي، كان هذا الروبوت يلتقط صورة، ثم يرسلها عبر مسافة طويلة إلى كمبيوتر ضخم فائق السرعة في السحابة (مثل مركز بيانات هائل)، وينتظر الإجابة، ثم يتصرف.
لكن ذلك يستغرق وقتًا طويلاً، ويستهلك الكثير من البطارية، ولا يوفر الخصوصية الكافية. الذكاء الاصطناعي عند الحافة (Edge AI) هو التوجه الجديد: وضع "الدماغ" مباشرة داخل شريحة الروبوت الصغيرة لتمكينه من التفكير بنفسه فورًا.
هذه الورقة البحثية هي تقرير سباق يقارن بين ثلاثة أنواع مختلفة من "الأدمغة" المصممة لهذه الروبوتات الصغيرة. أراد المؤلفون معرفة أي منها هو الأفضل في حل لغز محدد ومعقد: التقطيع (Segmentation).
التحدي: "رسام البكسل"
لاختبار هذه الشرائح، لم يطلب الباحثون منها مجرد تخمين "هل هذا قط؟" (فهذا أمر سهل). بل طلبوا منها القيام بـ التقطيع.
فكر في الأمر كالتالي:
التصنيف (Classification) يشبه النظر إلى لوحة والقول: "هذا غروب شمس".
التقطيع (Segmentation) يشبه الإمساك بفرشاة تلوين وتلوين كل بكسل في اللوحة بدقة لتحديد أين تنتهي الشمس وتبدأ السحب تمامًا.
هذه مهمة أصعب بكثير. فهي تتطلب من الشريحة تذكر قدر هائل من التفاصيل أثناء عملها، وهو ما يشبه محاولة التلاعب بـ 100 كرة في وقت واحد أثناء الجري في ماراثون. هذا "اختبار الضغط" يكشف عن الشرائح الفعالة حقًا وتلك التي تتعب (تنفد بطاريتها) أو تفقد السيطرة (تصبح بطيئة).
المتنافسون الثلاثة
تضع الورقة ثلاثة رياضيين مختلفين تمامًا في الحلبة:
1. الـ GAP9: عداء الماراثون (العملاق متعدد الأنوية)
ما هو: شريحة تحتوي على العديد من الأنوية الصغيرة والبسيطة التي تعمل معًا (مثل فريق من 8 دراجين يسيرون في مجموعة واحدة).
التشبيه: تخيل فريقًا من 8 أشخاص في غرفة صغيرة، يتبادلون الملاحظات فيما بينهم لحل مشكلة ما. إنهم موفرون جدًا للطاقة ويمكنهم الاستمرار لفترة طويلة باستخدام بطارية AA واحدة.
النتيجة: هم بطيئون في إنهاء السباق (زمن استجابة مرتفع)، لكنهم يستهلكون طاقة قليلة جدًا للقيام بذلك. إنهم رائعون إذا كنت بحاجة لأن يستمر الروبوت الخاص بك لأسابد ببطارية صغيرة، حتى لو لم يكن الأسرع.
2. الـ STM32N6: عداء المسافات القصيرة (بطل الوزن الثقيل)
ما هو: شريحة قوية تحتوي على "محرك عصبي" متخصص مدمج بها، مصممة للسرعة.
التشبيه: فكر في سيارة فورمولا 1. لديها محرك ضخم وتتحرك بسرعة هائلة، لكنها تستهلك الوقود وكأن لا يوجد غد.
النتية: أنهى السباق الأسرع (أقل زمن استجابة). ومع ذلك، فقد استنزف بطاريته بسرعة كبيرة لدرجة أنه ليس عمليًا للأجهزة التي تحتاج للعمل لسنوات ببطارية قرص معدني. إنه خيار "السرعة فوق كل شيء".
3. الـ Sony IMX500: الساحر (المبدع داخل المستشعر)
ما هو: هذا هو الأكثر تميزًا بينهم. فبدلاً من وجود دماغ منفصل، يحدث "التفكير" داخل مستشعر الكاميرا نفسه.
التشبيه: تخيل مصورًا لا يكتفي بالتقاط صورة وإرسالها إلى مختبر، بل إن عدسة الكاميرا نفسها تمتلك دماغًا صغيرًا ينظر إلى الصورة، ويعرف ما فيها، ثم يرسل لك فقط رسالة نصية تقول "أرى كلبًا". إنه لا يرسل الصورة الكاملة أبدًا.
النتيجة: كان هذا هو الفائز. نظرًا لأنه لا يضطر لنقل البيانات ذهابًا وإيابًا (لا توجد عمليات رفع ثقيلة)، فقد كان سريعًا للغاية وفعالاً للغاية. لقد استهلك أقل قدر من الطاقة وأنهى السباق بسرعة تقارب سيارة الفورمولا 1 الثقيلة.
الخلاصة الكبرى
تخلص الورقة إلى أنه لا توجد شريحة واحدة "مثالية". الأمر يعتمد على ما تحتاجه:
هل تريده أن يستمر لمدة 5 سنوات ببطارية صغيرة؟ اختر GAP9 (عداء الماراثون).
هل تريده أن يستجيب فورًا ولا تهتم بعمر البطارية؟ اختر STM32N6 (عداء المسافات القصيرة).
هل تريد أفضل توازن بين السرعة وعمر البطارية؟ فإن Sony IMX500 (الساحر) هو المستقبل. فهو يوضح أن الطريقة الأذكى لبناء هذه الأجهزة هي التوقف عن نقل البيانات والبدء في التفكير في المكان الذي تولد فيه البيانات مباشرة.
باختًا: مستقبل الأجهزة الذكية لا يتعلق فقط بجعل الشرائح أسرع؛ بل بجعلها أكثر ذكاءً في تحديد أين تقوم بعمليات التفكير. لقد أثبتت شريحة سوني أن إجراء العمليات الحسابية داخل الكاميرا مباشرة هو الخدعة السحرية التي توفر أكبر قدر من الطاقة.
ملخص تقني لورقة بحثية بعنوان: "تحليل أداء معالجات الذكاء الاصطناसंगिक عند الحافة وفي المستشعر: مراجعة مقارنة"
1. بيان المشكلة
إن الهجرة السريعة لأعباء عمل الذكاء الاصطناعي (AI) من خوادم السحابة إلى أجهزة الحافة (إنترنت الأشياء، الأجهزة القابلة للارتداء، الروبوتات الدقيقة) مقيدة بميزانيات صارمة للطاقة والحرارة وزمن الاستجاستجابة (Latency). تعمل معظم أنظمة الحافة تحت سقف طاقة يبلغ 200 ميجاوات، مدفوعة بمحدودية البطارية وغياب التبريد النشط.
عنق الزجاجة: تفتقر وحدات التحكم الدقيقة التقليدية (MCUs) (مثل ARM Cortex-M4/M33) إلى القدرة الإنتاجية اللازمة لتشغيل استنتاج الشبكات العصبية العميقة (DNN) بشكل مستدام. وفي الوقت نفسه، تتجاوز المعالجات العامة والمسرعات عالية الطاقة الحدود الحرارية والطاقية للأجهزة التي تعمل بالبطارية.
التحدي: هناك نقص في البيانات التجريبية الموحدة التي تقارن بين البنى الهيكلية غير المتجانسة منخفضة الطاقة (المتحكمات الدقيقة المزودة بمسرعات مقابل المعالجات داخل المستشعرات) تحت أعباء عمل واقعية. يواجه المصممون صعوبة في الموازنة بين زمن الاستجابة (الاستجابة) وكفاءة الطاقة (العمليات لكل جول) وناتج الطاقة والتأخير (EDP).
2. المنهجية
اعتمد المؤلفون نهجاً ذا شقين: تصنيف هيكلي شامل واختبار قياسي تجريبي مضبوط.
أ. التصنيف الهيكلي
صنف البحث معالجات الحافة فائقة انخفاض الطاقة إلى نماذج متميزة:
المتحكمات الدقيقة مع توسعات تعلم الآلة (ML Extensions): نوى قياسية (ARM Cortex-M55/M85, RISC-V) مع توسعات معالجة الإشارات الرقمية (DSP) أو المتجهات (مثل Ambiq, STM32U5).
المتحكمات الدقيقة مع مسرعات مخصصة: متحكمات دقيقة مقترنة بوحدات معالجة عصبية (NPUs) أو محركات شبكات تلافيفية (مثل STM32N6, Max78000, GAP9).
المنطق القابل لإعادة التشكيل: مصفوفات البوابات المنطقية القابلة للبرمجة (FPGAs) التي توفر مسارات بيانات مخصصة (مثل Lattice iCE40).
المعالجات العصبية (Neuromorphic Processors): الشبكات العصبية النبضية (SNNs) القائمة على الأحداث (مثل Intel Loihi, IBM TrueNorth).
الحوسبة داخل الذاكرة/المعالجة داخل الذاكرة (PIM/CIM): إجراء عمليات الضرب والجمع (MAC) داخل مصفوفات الذاكرة لتقليل حركة البيانات (مثل Mythic, Analog CIM).
الحوسبة داخل المستشعر (In-Sensor Computing): دمج منطق الحوسبة مباشرة في خط معالجة بيانات المستشعر (مثل Sony IMX500).
ب. الاختبار القياسي التجريبي
للانتقال إلى ما وراء الأداء النظري الأقصى (TOPS)، اختبر المؤلفون عبء عمل واحداً ممثلاً عبر ثلاث منصات غير متجانسة:
عبء العمل:PicoSAM2، وهو نموذج تقسيم (Segmentation) يحتوي على 336 مليون عملية ضرب وجمع (MAC) مشتق من نموذج U-Net. تم اختيار "التقسيم" كاختبار "إجهاد" لأنه يحافظ على ت tensors تنشيط كبيرة ومتطلبات نطاق ترددي عالٍ للذاكرة، مما يكشف عن اختناقات تدفق البيانات بشكل أفضل من مهام التصنيف.
المنصات المختبرة:
GAP9: عنقرات متعددة من نوع RISC-V قابلة للتوسع مع مسرعات عتادية (فئة المتحكم الدقيق MCU).
STM32N6: نواة ARM Cortex-M55 مقترنة بمسرع بنية عصبية مخصص (NPU).
Sony IMX500: مستشعر CMOS مكدس مع معالجة إشارات رقمية (DSP) ووحدة معالجة عصبية (NPU) مدمجة.
المقاييس التي تم تقييمها:
زمن الاستجابة (Latency): وقت الاستنتاج من البداية للنهاية (ملي ثانية).
كفاءة الاستنتاج (Inference Efficiency): عمليات الضرب والجمع (MAC) لكل دورة (استغلال القدرة الإنتاجية النظرية).
كفاءة الطاقة (Energy Efficiency): عمليات الضرب والجمع لكل جول (MMAC/J).
ناتج الطاقة والتأخير (EDP): مقياس مركب يوازن بين السرعة وتكلفة الطاقة.
3. المساهمات الرئيسية
إطار مقارنة موحد: تقدم الورقة مقارنة نادرة وعادلة بين ثلاثة نماذج هيكلية متميزة (Manycore MCU، وMCU مزود بـ NPU، ومعالجة داخل المستشعر) تشغل نفس النموذج المعقد.
اختيار عبء العمل: من خلال استخدام نموذج تقسيم بدلاً من التصنيف البسيط، يختبر البحث بدقة هرميات الذاكرة وكفاءة حركة البيانات، وهي الاختناقات الحرجة في أنظمة الحافة منخفضة الطاقة.
التحليل الكمي للمقايضات: يتجاوز البحث مفهوم "TOPS" ليكشف عن مقاييس عملية مثل استغلال (MAC/cycle) وEDP، مما يوفر رؤى قابلة للتطبيق لمصممي الأنظمة.
4. النتائج الرئيسية
كشف الاختبار القياسي عن تباينات كبيرة في سلوك العتاد:
المقياس
GAP9 (RISC-V Manycore)
STM32N6 (ARM + NPU)
Sony IMX500 (In-Sensor)
زمن الاستجابة
42.13 ms (الأبطأ)
13.71 ms (الأسرع)
14.30 ms
تردد الساعة
370 MHz
800 MHz
262.5 MHz
كفاءة الاستنتاج
20.77 MAC/cycle
29.52 MAC/cycle
86.24 MAC/cycle
كفاءة الطاقة
182.15 MMAC/J
21.47 MMAC/J
1359.65 MMAC/J
ناتج الطاقة والتأخير (EDP)
74.88 mJ·s
206.76 mJ·s
3.40 mJ·s
النتائج التفصيلية:
هيمنة المعالجة داخل المستشعر (IMX500): على الرغم من امتلاكها لأقل تردد ساعة، حققت IMX500 أعلى معدل استغلال (86.24 MAC/cycle) وأدنى ناتج للطاقة والتأخير (3.4 mJ·s). تعمل بنية CMOS المكدسة لديها على تقليل عبء نقل البيانات بشكل جذري، مما يؤدي إلى كفاءة طاقة أفضل بـ 7.5 ضعفاً عن GAP9 وحوالي 63 ضعفاً عن STM32N6.
زمن الاستجابة مقابل الطاقة (STM32N6): قدمت STM32N6 أقل زمن استجابة خام (13.7 ms) بفضل سرعة ساعتها العالية والـ NPU المخصص. ومع ذلك، جاء هذا بتكلفة طاقة هائلة، مما أدى إلى أسوأ كفاءة طاقة وأعلى EDP.
كفاءة المتحكم الدقيق (GAP9): قدمت GAP9 أفضل كفاءة طاقة بين أجهزة فئة الـ MCU (182 MMAC/J) ولكنها عانت من زمن استجابة أعلى بسبب سرعات الساعة المنخفضة واختناقات الذاكرة المتأصلة في بنية الـ manycore لهذا العبء المحدد.
5. الأهمية والخاتمة
لا يوجد حل واحد يناسب الجميع: خلصت الورقة إلى أنه لا توجد بنية واحدة مثالية لجميع سيناريوهات ذكاء الحافة الاصطناعي.
المعالجة داخل المستشعر (IMX500) هي الأفضل للتطبيقات التي تعمل دائماً (always-on)، والمقيدة بالبطارية، والحساسة لزمن الاستجابة حيث يكون تقليل نقل البيانات أمراً بالغ الأهمية.
المتحكمات الدقيقة المزودة بـ NPU (مثل STM32N6) مناسبة للتطبيقات التي تكون فيها السرعة الخام هي الأولوية والطاقة أقل تقييداً.
المتحكمات الدقيقة متعددة الأنوية (GAP9) تظل تنافسية في عمليات النشر المرنة ومنخفضة الطاقة حيث تكون تكلفة الأجهزة المتخصصة داخل المستشعر باهظة.
الآثار التصميمية: تسلط النتائج الضوء على أن حركة البيانات هي المستهلك الرئيسي للطاقة في ذكاء الحافة. البنى التي تقلل من نقل البيانات (مثل المعالجة داخل المستشعر) تقدم تحسينات هائلة في الكفاءة مقارنة ببنى فون نيومان التقليدية، حتى لو كانت الأخيرة تمتلك سرعات ساعة أعلى.
الاتجاه المستقبلي: تثبت الدراسة النضج التكنولوجي للمعالجة داخل المستشعر كمسار حاسم للجيل القادم من الأنظمة الذكية منخفضة الطاقة وواعية السياق.