Enhancing Deep Neural Network Resilience Through Integrated Reliability-Aware Design and Fault-Aware Training

تُعد الشبكات العصبية العميقة المحركات الخفية التي تدعم بعض القرارات الأكثر أهمية في الحياة المعاصرة، بدءاً من مساعدة الطائرات على تجنب الاصطدامات وصولاً إلى مساعدة الأطباء في تشخيص الأمراض. صُممت هذه الأنظمة للتعرف على الأنماط وتقديم التنبؤات بمستوى من الدقة يضاهي الخبراء البشريين. ومع ذلك، فإن الأجهزة (Hardware) التي تشغل هذه الحسابات المعقدة ليست مثالية. فالرقائق الصغيرة داخل أجهزة الكمبيوتر، والتي تعمل بمقايسات متناهية الصغر تُقاس بأجزاء من المليار من المتر، عرضة لتهديدات غير مرئية. إذ يمكن للأشعة الكونية وغيرها من الإشعاعات الطبيعية أن تضرب أحياناً خلية ذاكرة أو وحدة معالجة، مما يتسبب في خلل لحظي. وفي جهاز كمبيوتر قياسي، قد يؤدي مثل هذا الخلل إلى قلب رقم واحد فقط، ولكن في الشبكة العصبية العميقة، يمكن لهذا الخطأ الواحد أن يمتد عبر النظام، مما يؤدي إلى إفساد النتيجة النهائية دون أن يتسبب في إطلاق أي إنذار. وتُعرف هذه الظاهرة باسم "فساد البيانات الصامت"، وهي خطيرة بشكل خاص لأن النظام يستمر في العمل، مقدماً إجابة خاطئة تبدو صحيحة تماماً للمستخدم.

لسنوات طويلة، كانت الحلول لهذه المشكلة تمثل مقايضات صعبة. فقد كان بإمكان المهندسين بناء أجهزة خاصة ومكلفة تكون محصنة ضد هذه الأعطال، لكن هذا يتطلب شرائح سيليكون مصنعة خصيصاً وغير متوفرة في أجهزة الكمبيوتر القياسية. وبدلاً من ذلك، كان بإمكانهم إضافة فحوصات برمجية تكتشف الأخطاء، لكن هذه الفحوصات تبطئ النظام بشكل كبير، مما يجعله بطيئاً جداً للمهام التي تتطلب وقتاً حقيقياً مثل توجيه مركبة أو إدارة حركة المرجوية الجوية. والآن، اقترح باحثون في جامعة بودوتشيري التكنولوجية مساراً مختلفاً؛ حيث طوروا إطار عمل جديداً يسمى "ResilientNet"، والذي يعزز الشبكة العصبية نفسها ضد أعطال الأجهزة دون الحاجة إلى رقائق خاصة أو إبطاء عملية المعالجة. يجمع نهجهم بين أربعة تغييرات تصميمية محددة تعمل معاً لوقف انتشار الأخطاء، مما يعلم الشبكة فعلياً كيفية تجاهل الضجيج الناتج عن الإشعاع.

يتضمن جوهر هذه الطريقة الجديدة تغيير كيفية تعامل الشبكة مع الأرقام التي تعالجها. في الشبكة العصبية النموذجية، إذا تسببت ضربة إشعاعية في جعل رقم ما كبيراً بشكل مستحيل، فإن النظام يمرر هذا الرقم الضخم إلى المرحلة التالية، حيث يمكنه أن يطغى على الحساب بأكمله. وقد استبدل الباحثون الطريقة القياسية للتعامل مع هذه الأرقام بطريقة تضع حداً أقصى صارماً؛ فإذا حاول أي قيمة تجاوز هذا الحد، يتم تقييدها ببساطة، مما يمنعها من النمو خارج السيطرة. ومع ذلك، لم يكن هذا وحده كافياً، فقد وجد الباحثون أن الترتيب الذي تؤدي به الشبكة عملياتها يهم بقدر أهمية الحدود نفسها. ومن خلال إعادة ترتيب تسلسل العمليات بحيث يتم التقييد قبل تطبيع البيانات (Normalization)، منعوا النظام من تضخيم الأخطاء. هذا الإعادة في الترتيب، جنباً إلى جنب مع مرشح (Filter) يستبدل فوراً القيم الرياضية المستحيلة بالأصفار، يخلق حاجزاً يمنع فساد البيانات من الانتشار.

ولضمان نجاح هذه التغييرات فعلياً، لم يعتمد الفريق على محاكاة الكمبيوتر أو النماذج النظرية، بل أجروا سلسلة ضخمة من الاختبارات الواقعية. لقد أخذوا ست نسخ مختلفة من شبكة عصبية، تتراوح من إعداد أساسي إلى نسخة "ResilientNet" المحصنة بالكامل، وأخضعوها لما يقرب من خمسة عشر ألف عملية حقن للأخطاء بشكل منفصل. وفي كل اختبار، قاموا بتعمد إفساد البيانات لمحاكاة الأنماط الدقيقة للأخطاء المشاهدة في تجارب الإشعاع الحقيقية، بما في ذلك قلب البت الواحد (Single-bit flip)، وصفوف من البيانات الفاسدة، وكتل من المعلومات التالفة. وقاسوا عدد المرات التي أدت فيها هذه الأخطاء إلى تنبؤ خاطئ، وهو مقياس يُعرف بمعدل فساد البيانات الصامت. وكانت النتائج مذهلة؛ ففي الشبكة غير المعدلة، تسبب نوع معين من الأخطاء الناجمة عن الأرقام غير الصالحة في معدل فساد بلغ اثنين وتسعين بالمائة. ومع وجود عمليات الترشيح والتغييرات التصميمية الجديدة، انخفض هذا المعدل إلى سبعة عشر بالمائة فقط. علاوة على ذلك، فإن الشبكة التي تم تدريبها لتوقع هذه الأخطاء قد أدت بالفعل عملاً أفضل في مهمتها الأساسية، حيث حققت دقة تصنيف بلغت ستة وتسعين فاصلة سبعة وستين بالمائة مقارنة بالأساس الذي بلغ اثنين وتسعين فاصلة خمسة بالمائة.

كما كشفت الدراسة أن ليس كل أجزاء الشبكة معرضة للخطر بنفس القدر. فقد رسم الباحثون خريطة للأماكن التي من المرجح أن تسبب فيها الأخطاء فشلاً، ووجدوا أن الطبقات الأولى من الشبكة كانت الأكثر حساسية، بمعدل ضعف في الهشاشة يزيد بنحو مرة ونصف عن الطبقات اللاحقة. وهذا يشير إلى أنه في البيئات محدودة الموارد، يمكن تركيز جهود الحماية على بداية سلسلة المعالجة. والأهم من ذلك، أن كل هذه التحسينات جاءت بتكلفة زمنية صفرية أثناء التشغيل؛ إذ لم تتطلب التغييرات في الكود خطوات إضافية تؤخر النتائج، وكان التغيير الطفيف الوحيد هو في عدد السجلات الداخلية (Registers) التي يستخدمها المعالج، وهو تغيير لم يكن له أي تأثير ملموس على السرعة. وبينما أُجريت الاختبارات على مجموعة بيانات صغيرة نسبياً من الأرقام المكتوبة بخط اليد، فقد تم التحقق من المبادئ باستخدام تنفيذ الكود الحقيقي بدلاً من التقريبات، مما يقدم مخططاً واعداً لجعل الأنظمة الحساسة للسلامة أكثر موثوقية دون الحاجة إلى ترقيات مكلفة للأجهزة.