A Comparative Analysis on the Performance of Upper Confidence Bound Algorithms in Adaptive Deep Neural Networks

إليك ملخص تقني مفصل للورقة البحثية بعنوان "تحليل مقارن لأداء خوارزميات حدود الثقة العليا في الشبكات العصبية العميقة التكيفية."

1. بيان المشكلة

تواجه بيئات الحوسبة الطرفية (Edge Computing) قيودًا صارمة فيما يتعلق باستهلاك الطاقة، وزمن الاستجابة (Latency)، والموارد الحسابية. وبينما تُعد الشبكات العصبية العميقة (DNNs) قوية، فإن عمليات الاستدلال الثابتة الخاصة بها غالبًا ما تهدر الموارد من خلال معالجة جميع المدخلات عبر كامل عمق الشبكة، بغض النظر عن درجة صعوبة المدخل.

تعالج الشبكات العصبية العميقة التكيفية (ADNNs)، وتحديدًا الشبكات العصبية العميقة ذات الخروج المبكر (EEDNNs)، هذه المشكلة من خلال السماح للنموذج بـ "الخروج" مبكرًا إذا تم إجراء التنبؤ بثقة عالية عند طبقة ضحلة. ومع ذلك، يظل تحديد عتبة الثقة (Confidence Threshold) المثلى للخروج تحديًا حرجًا:

• العتبات الثابتة غير فعالة لأنها لا تتكيف مع تباين صعوبة المدخلات أو قيود الموارد.
• النهج الديناميكية الحالية تعتمد بشكل أساسي على خوارزمية UCB1 (حد الثقة العلوي 1) ضمن إطار عمل "المتعدد الأذرع" (Multi-Armed Bandit - MAB). ورغم بساطة UCB1، إلا أنها تتجاهل تباين المكافأة، والوعي بالتكلفة، وعدم اليقين البايزي (Bayesian uncertainty)، مما قد يؤدي إلى مقايضات دون المستوى الأمثل بين الدقة والطاقة وزمن الاستجابة.

تفترض الورقة أن متغيرات UCB المختلفة تمتلك استراتيجيات استكشاف-استغلال (Exploration-Exploitation) متميزة يمكن أن تحقق أداءً فائقًا في سيناريوهات طرفية محددة، ومع ذلك لم يتم مقارنتها بشكل منهجي حتى الآن.

2. المنهجية

يقترح المؤلفون إطار عمل مقارن حيث يقوم وكيل MAB باختيار عتبة الثقة المثلى للخروج المبكر ديناميكيًا.

أ. إطار عمل MAB

• الأذرع (Arms): يمثل كل "ذراع" عتبة ثقة منفصلة.
• دالة المكافأة (Reward Function): تُحسب المكافأة بناءً على المقايضة بين ثقة التنبؤ، والموثوقية، والتكلفة الحسابية:
  $$\text{reward} = C_{\text{EEDNN}} \times (1 - C_{\text{Gating}}) - \lambda \times \text{cost}$$
  • $C_{\text{EEDNN}}$: الثقة المستمدة من EEDNN.
  • $C_{\text{Gating}}$: درجة الموثوقية من شبكة بوابة (Gating Network) خفيفة الوزن (كلما قلّت كان أفضل).
  • $\text{cost}$: مؤشر نقطة الخروج (المؤشر الأعلى = طبقات أكثر = تكلفة أعلى).
  • $\lambda$: عامل موازنة للتحكم في المخاطر.

ب. متغيرات UCB المقترحة

تقدم الدراسة أربعة متغيرات من UCB في سياق EEDNN، لتحل محل UCB1 القياسية:

1. UCB-V: تدمج التباين التجريبي ($\sigma^2$) في حد الاستكشاف. وهي "واعية بالتباين"، حيث تستكشف الأذرع ذات التباين العالي بشكل أكثر عدوانية بينما تلتزم بشكل أسرع بالأذرع المستقرة ومنخفضة التباين.
2. UCB-Tuned: تشبه UCB-V ولكنها تستخدم تباينًا مقيدًا ($\tilde{V}$) لمنع الثقة المفرطة في المراحل المبكرة. وهي تتبع استراتيجية محافظة إذا تجاوز التباين 0.25.
3. UCB-Bayes: تستخدم عدم اليقين البايزي (توزيعات Normal-Inverse-Gamma المسبقة) بدلاً من الإحصاء المتكرر (Frequentist statistics). فهي تحافظ على توزيع خلفي (Posterior distribution) على المتوسط والتباين، وتحدث معتقداتها مع وصول البيانات.
4. UCB-BwK (Bandits with Knapsacks/Cost): تأخذ في الاعتبار صراحةً التكلفة (Cost) المرتبطة بسحب الذراع أثناء عملية الاختيار. وهي تعمل على تحسين نسبة متوسط المكافأة إلى متوسط التكلفة ($\mu/c$)، بدلاً من مجرد تعظيم المكافأة.

3. المساهمات الرئيسية

1. التكامل المبتكر: أول تطبيق لـ UCB-V و UCB-Tuned و UCB-Bayes و UCB-BwK ضمن الشبكات العصبية العميقة ذات الخروج المبكر (EEDNNs) لاختيار العتبة الديناميكية.
2. دراسة مقارنة شاملة: تقييم منهجي لهذه الخوارزميات مقابل UCB1 القياسية، مع تحليل المقايضات بين الدقة، واستهلاك الطاقة، وزمن الاستجابة.
3. رؤى تجريبية: إثبات أن الخوارزمية "الأفضل" تعتمد على القيود المحددة (على سبيل المثال، الخوارزميات الواعية بالتباين تتفوق في كفاءة الطاقة/زمن الاستجابة، بينما تتفوق الطرق البايزية في سرعة التقارب).
4. إثبات الندم دون الخطي (Sub-linear Regret): التحقق التجريبي من أن جميع الاستراتيجيات المقترحة تحقق ندمًا تراكميًا دون خطي، وهو متطلب نظري لأداء MAB الفعال.

4. الإعداد التجريبي والنتائج

• البنى المعمارية (Architectures): ResNet18، ResNet34، ResNet50، و MobileViT (هجين CNN-Transformer).
• مجموعات البيانات: CIFAR-10، CIFAR-100، و CIFAR-10.1 (لاختبار انزياح التوزيع).
• المقاييس: الدقة (%)، الطاقة (kWh عبر CodeCarbon)، زمن الاستجابة (Inference Time)، والندم التراكمي (Cumulative Regret).

النتائج الرئيسية:

• هيمنة باريتو (الدقة مقابل الطاقة/زمن الاستجلة):
  • تتفوق UCB-V و UCB-Tuned باستمرار في حدود باريتو (Pareto frontiers). فقدرتهما على الاستفادة من تباين المكافأة تسمح لهما بهدر عينات أقل على العتبات غير المثلى، مما يؤدي إلى كفاءة أفضل في الطاقة وزمن الاستجابة.
  • تؤدي UCB-BwK أداءً جيدًا في بنى MobileViT حيث يكون تباين المكافأة أقل وضوحًا، لأنها تحسن صراحةً نسبة المكافأة إلى التكلفة.
• سرعة التقارب (الندم):
  • تحقق UCB-Bayes أسرع تقارب فيما يتعلق بالندم التراكمي (الوصول إلى العتبات المثلى في خطوات أقل).
  • ومع ذلك، تتحمل UCB-Bayes عبئًا حسابيًا أعلى بسبب حسابات التوزيع الخلفي، مما يجعلها أقل جاذبية لقيود زمن الاستجلة الصارمة مقارنة بـ UCB-V/Tuned.
• تأثير بنية النموذج:
  • تستفيد النماذج الأكبر (ResNet34/50) بشكل كبير من تحديد العتبة الديناميكي مقارنة بالنهج الثابت.
  • يُظهر MobileViT خصائص تباين مختلفة، مما ينقل تفضيل الخوارزمية المثلى نحو UCB-BwK في بعض الحالات.
• سلوك الندم: تظهر جميع الاستراتيجيات ندمًا تراكميًا دون خطي، مما يؤكد صلاحيتها النظرية للتعلم عبر الإنترنت (Online Learning) أثناء الاستدلال. أظهرت UCB1 و UCB-BwK عمومًا متوسط ندم أعلى وتقاربًا أبطأ من المتغيرات الواعية بالتباين والبايزية.

5. الأهمية والخاتمة

تتحدى هذه الورقة الوضع الراهن المتمثل في استخدام UCB1 فقط من أجل الاستدلال التكيفي في الذكاء الاصطناعي الطرفي. وهي تثبت أن استراتيجيات الوعي بالتباين (UCB-V, UCB-Tuned) و البايزية (UCB-Bayes) تقدم مزايا متميزة:

• لكفاءة الحافة (Edge Efficiency): تعد UCB-V و UCB-Tuned متفوقتين في تقليل الطاقة وزمن الاستجلة مع الحفاظ على الدقة.
• للتكيف السريع: تعد UCB-Bayes مثالية للسيناريوهات التي تتطلب تقاربًا سريعًا نحو السياسات المثلى، بشرط قبول العبء الحسابي الإضافي.

العمل المستقبلي: يخطط المؤلفون لاستكشاف متغيرات "Bandit الخطي" (مثل LinUCB) التي تستخدم الشبكات العصبية للسياق (Context)، رغم أن هذا قد يزيد من تكاليف الاستدلال.

التمويل: تم دعم البحث من قبل الاتحاد الأوروبي من خلال إجراءات البحث والابتكار في برنامج Horizon Europe (رقم المنحة 101215032).