ملخص تقني: التقسيم والتفريغ التكيفي للشبكات العصبية العميقة في استمرارية الحافة والسحابة غير المتجانسة

بيان المشكلة

أدى انتشار أجهزة إنترنت الأشياء (IoT) إلى توليد أحجام هائلة من البيانات التي تتطلب معالجة متطورة عبر الشبكات العصبية العميقة (DNNs). وبينما توفر التنفيذ المركزي في السحابة قدرة حوسبية عالية، إلا أنها تفرض قيوداً في زمن الاستجابة (latency)، وعرض النطاق الترددي، ومخاطر الخصوصية للتطبيقات التي تتطلب استجابة فورية. ومن ناحية أخرى، فإن تنفيذ الشبكات العصبية العميقة بالكامل على أجهزة الحافة محدودة الموارد غالباً ما يؤدي إلى استهلاك عالٍ للطاقة وبطء في وقت الاستنتاج.

تعتمد الحلول الحالية لتوزيع الاستنتاج عبر استمرارية الحافة والسحابة عادةً على استراتيجيات التقسيم الثابت (static partitioning). وتحدد هذه النهج نقاط تقسيم ثابتة لطبقات الشبكة العصبية قبل النشر، مما يجعلها عاجزة عن التكيف مع الديناميكيات أثناء التشغيل مثل تقلب عرض النطاق الترددي للشبكة، أو تنقل العقد، أو تغير الأحمال الحوسبية. علاوة على ذلك، توجد فجوة كبيرة في الأدبيات: حيث يتم تقييم معظم الأطر المقترحة في بيئات محاكاة تفترض ظروف شبكة مثالية، مع ندرة في التحقق منها على أجهزة مادية فعلية. بالإضافة إلى ذلك، تركز العديد من الدراسات الواقعية بشكل أساسي على زمن الاستجابة أو وقت إكمال المهام، وغالباً ما تهمل استهلاك الطاقة كهدف تحسين رئيسي.

المنهجية

يقترح المؤلفون إطار عمل للتقسيم والتفريغ التكيفي مصمم لتقسيم أحمال عمل استنتاج الشبكات العصبية العميقة ديناميكياً عبر مستويات ثلاثة غير متجانسة (الحافة، الضباب، والسحابة) لتقليل استهلاك الطاقة مع الالتزام بقيود زمن الاستجابة الصارمة.

بنية النظام

يعمل إطار العمل على منصة اختبار مادية تتكون من:

• الحافة (Edge): جهاز Raspberry Pi 4 (محدود الموارد).
• الضباب (Fog): حاسوب محمول (Intel Core i7).
• السحابة (Cloud): جهاز كمبيوتر مكتبي عالي الأداء (NVIDIA RTX 4070 Ti GPU).

تسمح البنية بمخططات تقسيم حيث تعمل $i$ من الطبقات على الحافة، والطبقات من $i+1$ إلى $j$ تعمل على الضباب، والطبقات من $j+1$ إلى $N-1$ تعمل على السحابة.

خط الأنابيب الخوارزمي

يتبع إطار العمل خط أنابيب مكوناً من خمس مراحل:

1. التوصيف في وضع عدم الاتصال (Offline Profiling): قبل وقت التشغيل، يقوم النظام بتوصيف النموذج لإنشاء جدولين للبحث:

   • جدول حجم التنشيط (Activation Size Table): يسجل أحجام التوترات الوسيطة عند كل حد للميزات لتقدير تكاليف الاتصال.
   • جدول وزن الحوسبة النسبي (Relative Compute Weight Table): يخصص كسوراً معيارية من إجمالي عمل الاستنتاج لكل طبقة بناءً على تنفيذ واحد، ليكون مرجعاً مستقراً لعمليات القياس أثناء التشغيل.

2. جس نبض الرابط ثنائي النقاط (Two-Point Link Probing): لتقدير ظروف الشبكة دون عبء كبير، يقوم النظام بإرسال حمولتين متباينتي الحجم ($s_1, s_2$) عبر قفزات الشبكة. ومن خلال حساب متوسط أوقات الذهاب والإياب، يقوم بنمذجة الرابط كـ $rtt(s) = \omega + s/\beta$، مستنتجاً التكاليف الثابتة ($\omega$) والإنتاجية الفعلية ($\beta$).

3. تقدير التقسيم المرشح (Candidate Split Estimation): لأي تقسيم مرشح $(i, j)$، يتنبأ النظام بزمن الاستجابة النهائي واستهلاك الطاقة. يتم حساب زمن الاستجابة كمجموع أوقات الحوسبة (المشتقة من الأوزان الموصوفة وسرعات العقد) وأوقات النقل (المشتقة من نماذج الرابط). ويتم تقدير الطاقة بضرب أوقات الحوسبة الخاصة بكل عقدة في معدلات القدرة التجريبية.

4. البحث عن أفضل مرشح: يقيم النظام جميع أزواج التقسيم الصالحة. يتم تصفية المرشحين لضمان استيفائهم للموعد النهائي لزمن الاستجابة ($L_{max}$) وعدم أدائهم بشكل أسوأ من خط الأساس الثابت. يقلل التقسيم الأمثل من درجة الهدف الموزونة:
   $$S(i, j) = w_{end}\frac{\hat{E}_{end}}{n_{end}} + w_{tot}\frac{\hat{E}_{tot}}{n_{tot}} + w_{lat}\frac{\hat{L}}{n_{lat}}$$
   حيث تعطي الأوزان الأولوية لطاقة الحافة (0.6–0.9) على طاقة النظام الإجمالية وزمن الاستجابة.

5. الجدولة التكيفية لاستنتاج الموزع:

   • التهيئة: يقوم النظام بتشغيل تقسيم أساسي وثلاثة تقسيمات "جس نبض" (ثقيلة على الحافة، متوازنة، وثقيلة على السحابة) لملاءمة معدلات الحوسبة لكل عقدة ونماذج الروابط.
   • حالة الاستقرار: ينفذ النظام التقسيم الحالي لنافذة من عمليات الاستنتاج. وبشكل دوري، يعيد النظام تقييم البيئة من خلال إعادة جس نبض الروابط وإعادة ملاءمة المعدلات. إذا كان هناك مرشح جديد يحسن درجة الهدف بنسبة 3% على الأقل (أو إذا تم انتهاك موعد الاستجهاء النهائي)، يقوم النظام بالتبديل إلى التقسيم الجديد. وإذا لم يوجد مرشح أفضل أثناء انتهاك الموعد النهائي، فإنه يعود إلى خط الأساس الثابت.

المساهمات الرئيسية

يحدد البحث ثلاث مساهمات رئيسية:

1. إطار عمل تكيفي: إطار عمل مبتكر لاستنتاج الشبكات العصبية العميقة يقوم بتقسيم أحمال العمل ديناميكياً عبر استمرارية حافة-سحابة غير متجانسة، مع إعطاء الأولوية لكفاءة الطاقة دون انتهاك قيود زمن الاستجابة.
2. منصة اختبار مادية: بناء واستخدام منصة اختبار ثلاثية المستويات تعمل بالكامل (Raspberry Pi، حاسوب محمول، حاسوب مكتبي) لتقييم استراتيجيات التفريغ الرأسي على أجهزة حقيقية، لمعالجة الاعتماد على المحاكاة في الأعمال السابقة.
3. التقييم التجريبي: تجارب واقعية شاملة باستخدام ثلاث شبكات عصبية تلافيفية (CNN) واسعة الانتشار (VGG16، AlexNet، MobileNetV2)، مع جمع مقاييس الطاقة وزمن الاستجونة المقاسة بالأجهزة عبر تكوينات الجهاز الواحد، والتقسيم الثابت، والتقسيم التكيفي.

النتائج

تم تقييم إطار العمل مقابل نموذجين أساسيين: التنفيذ على جهاز واحد والتقسيم الثابت (توزيع متساوٍ ثابت للحمل).

• تقليل الطاقة: حقق إطار العمل التكيفي وفورات كبيرة في الطاقة مقارنة بالنموذج الثابت:
  • VGG16: تقليل بنسبة 35.82% (من 5.69 جول إلى 3.65 جول).
  • AlexNet: تقليل بنسبة 35.70% (من 0.68 جول إلى 0.43 جول).
  • MobileNetV2: تقليل بنسبة 27.09% (من 0.92 جول إلى 0.67 جول).
• تقليل زمن الاستجابة: تم أيضاً تقليل زمن الاستجابة النهائي:
  • VGG16: تقليل بنسبة 6.34%.
  • AlexNet: تقليل بنسبة 22.92%.
  • MobileNetV2: تقليل بنسبة 14.20%.
• الملاحظات: بالنسبة لـ MobileNetV2، أدى التقسيم الثابت في الواقع إلى زيادة زمن الاستجابة مقارة بالتنفيذ على جهاز واحد بسبب عبء الشبكة؛ وقد نجح إطار العمل التكيفي في تخفيف ذلك عبر تغيير نقطة التقسيم. تظهر النتائج باستمرار أن تقليل الطاقة يتجاوز تقليل زمن الاستجابة، مما يعكس وزن الهدف في إطار العمل.

الأهمية والادعاءات

يدعي البحث أن نتائجه تؤكد تفوق التقسيم التكيفي على الطرق الثابتة في البيئات الديناميكية وغير المتجانسة. ومن خلال التحقق من النهج على أجهزة حقيقية بدلاً من المحاكاة، يعالج هذا العمل فجوة حرجة في الأدبيات المتعلقة بالأداء العملي لاستراتيجيات التفريغ.

يؤكد المؤلفون أن إطار عملهم ينجح في تقليل استهلاك الطاقة على أجهزة الحافة محدودة الموارد دون انتهاك قيود زمن الاستجابة في الوقت الفعلي. وخلافاً للنهج القائمة على التعلم التعزيزي (RL) أو بنيات الاستنتاج المتوازية المعقدة، يعتمد هذا الإطار على تقييم دوري خفيف لوظيفة هدف موزونة واحدة، مما يجعله قابلاً للتكيف باستمرار مع التغيرات البيئية مثل تقلبات عرض نطاق الشبكة وتغيرات حمل العقد. تُقدم النتائج كأعمال قابلة للمقارنة مع أحدث الأعمال في تقليل زمن الاستجابة، ولكن مع تركيز متميز على كفاءة الطاقة، وهو مقياس غالباً ما يتم تجاهله في دراسات الحافة والسحابة غير المتجانسة الحالية.