Faults That Fortify: CNN Adversarial Robustness via GPU Undervolting
تُثبت هذه الورقة أن خفض جهد وحدة معالجة الرسومات (GPU undervolting) أثناء تدريب الشبكات العصبية الالتفافية (CNN) يُدخل أخطاءً عشوائية مفيدة تعمل كمنظم ضمني، مما يعزز في الوقت ذاته من المتانة ضد الهجمات العدائية ويقلل من استهلاك الطاقة دون الحاجة إلى تغييرات خوارزمية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
لقد أصبحت الحواسيب الحديثة بارعة للغاية في الرؤية؛ إذ يمكنها تحديد ورم في فحص طبي، أو التعرف على مشاة في شارع مزدحم، أو البحث عبر ملايين الصور للعثور على وجه محدد. وتأتي هذه القدرة من نوع من البرمجيات يسمى الشبكة العصبية، والتي صُممت لمحاكاة الطريقة التي يعالج بها الدماغ البشري المعلومات. تتعلم هذه الأنظمة من خلال النظر في كميات هائلة من البيانات، وتعديل إعداداتها الداخلية حتى تتمكن من تقديم تنبؤات دقيقة. ومع ذلك، فإن عملية التعلم هذه متطلبة للغاية؛ فهي تتطلب رقائق حاسوبية قوية تستهلك الكثير من الطاقة وتولد حرارة كبيرة وتستهلك كميات ضخمة من الكهرباء. علاوة على ذلك، فإن هذه الأنظمة هشة؛ إذ يمكن لشخص ما أن يُجري تغييراً طفيفاً، غير مرئي تقريباً، على صورة ما — وهو أمر لن يلاحظه البشر أبداً — وقد يصبح الحاسوب فجأة مقتنعاً بأن علامة "قف" هي علامة تحديد سرعة. هذا الضعف، المعروف باسم الهجوم العدائي، يشكل خطراً جسيماً على التطبيقات الحرجة للسلامة مثل السيارات ذاتية القيادة. وقد سعى الباحثون منذ فترة طويلة لإيجاد طرق لجعل هذه الأنظمة أكثر أماناً ضد مثل هذه الخدع وأكثر كفاءة في استخدام الطاقة، وغالباً ما كانوا يعاملون هذين الهدفين كتحديين منفصلين.
اكتشف فريق من الباحثين في جامعة جورج ميسون ومؤسسات أخرى طريقة لمعالجة كلا المشكلتين في آن واحد من خلال القيام بشيء يبدو منافياً للمنطق: لقد تعمدوا إضعاف شريحة الحاسوب أثناء عملية التعلم. فبدلاً من تشغيل معالج الرسوميات بقدرته القياسية الكاملة، قاموا بخفض الجهد الكهربائي المورد إليه. وفي عالم الإلكترونيات، الجهد هو الضغط الذي يدفع الكهرباء عبر الدائرة. وعندما تقلل هذا الضغط، تصبح الترانزستورات داخل الشريحة، والتي تعمل كمفاتيح صغيرة، أقل موثوقية؛ فقد تعمل (تفتح أو تغلق) في وقت مبكر جداً أو متأخر قليلاً، مما يتسبب في أخطاء حسابية صغيرة وعشوائية. وعادة ما يبذل المهندسون جهوداً حثيثة لمنع هذه الأخطاء، لأنها قد تؤدي إلى تعطل النظام أو إنتاج بيانات غير صالحة. لكن في هذه الدراسة المحددة، عامل الباحثون هذه الأعطال ليس كإخفاقات، بل كميزة.
أقام الفريق سلسلة من التجارب باستخدام ثلاثة أنواع مختلفة من نماذج التعرف على الصور، تتراوح من تصميم كلاسيكي بسيط إلى نموذج أكثر تعقيداً وحداثة. وقاموا بتدريب هذه النماذج على مجموعتين قياسيتين من الصور: إحداهما تحتوي على أرقام مكتوبة بخط اليد، والأخرى تحتوي على صور صغيرة وملونة لأشياء يومية مثل القطط والكلاب والطائرات. ولكل نموذج، أجروا نسختين من عملية التدريب؛ في النسخة الأولى، عملت شريحة الحاسوب بجهدها الطبيعي والمستقر. وفي النسخة الثانية، قام الباحثون بخفض الجهد بعناية شديدة بما يكفي لإدخال تدفق مستمر من الأخطاء الحسابية الصغيرة والعشوائية، ولكن ليس لدرجة تجعل التدريب يفشل تماماً. ووجدوا أن الشريحة يمكنها العمل بجهد يبلغ حوالي 0.8 فولت، انخفاضاً من المستوى القياسي البالغ 1.03 فولت، دون أن تتعطل. أدى هذا الانخفاض في ضغط الطاقة إلى انخفاض كبير في استهلاك الطاقة، حيث استخدمت النماذج الأكثر كفاءة طاقة أقل بنسبة 39 بالمئة تقريباً من نظيراتها القياسية.
كانت نتائج هذا النهج مفاجئة. فعندما اختبر الباحثون النماذج ضد هجمات متطورة مصممة لخداعها، أدت النماذج التي تم تدريبها باستخدام الجهد "المشوش" والضعيف أداءً أفضل باستمرار من تلك التي تم تدريبها في الظروف العادية. لقد عملت الأخطاء العشوائية التي أُدخلت أثناء مرحلة التعلم كنوع من "وزن التدريب" غير المرئي. تماماً كما أن لاعب رفع الأثقال الذي يتدرب بأوزان غير متساوية قليلاً قد يطور توازناً وقوة أفضل، تعلمت الشبكة العصبية تجاهل الاضطرابات الصغيرة والتركيز على الميزات الأساسية للصور. جعل هذا النموذج النهائي أصعب في الخداع؛ واختبر الباحثون ذلك عبر تغذية النماذج بآلاف الصور المعدلة قليلاً، والمصممة لإرباك الحاسوب، فحافظت النماذج التي تدربت بالجهد المنخفض على دقتها لفترة أطول بكثير من النماذج القياسية.
وظل هذا التحسن قائماً حتى عندما كانت النماذج تخضع بالفعل للتدريب باستخدام تقنيات أمنية متقدمة مصممة خصيصاً لصد الهجمات. وعادة ما يؤدي إضافة تدابير أمنية إضافية إلى جعل النظام أبطأ وأكثر تكلفة في التشغيل. هنا، وجد الباحثون أن فعل خفض الجهد البسيط جعل التدريب الأمني أكثر فعالية. فالنماذج التي تدربت تحت الجهد المنخفض لم تكن فقط أكثر صموداً ضد الهجمات، بل تطلبت أيضاً طاقة أقل لإنشائها. لاحظ الباحثون أن الأخطاء الناجمة عن الجهد المنخفض كانت محددة للغاية؛ فقد أثرت في الغالب على الأجزاء الأقل أهمية من الأرقام التي يحسبها الحاسوب، مما خلق ضوضاء عشوائية لطيفة بدلاً من الفشل الكارثي. كانت هذه الضوضاء صغيرة بما يكفي بحيث يمكن للحاسوب الاستمرار في تعلم الإجابات الصحيحة، ولكنها كانت متكررة بما يكفي لإجبار النظام على إيجاد طريقة أكثر استقراراً في التفكير في البيانات.
تشير الدراسة إلى وجود "نقطة مثالية" في تشغيل الأجهزة حيث يمكن لبعض عدم الاستقرار أن يؤدي في الواقع إلى موثوقية أكبر. ومن خلال قبول قدر محسوب من الخطأ خلال مرحلة التدريب، تمكن الباحثون من بناء أنظمة أكثر قوة وصداقة للبيئة في آن واحد. لا يتطلب هذا النهج تغيير كود البرمجيات أو الخوارزميات المستخدمة لتعليم الحاسوب؛ بل يتطلب ببساطة تدوير قرص على الأجهزة لخفض الطاقة. وبينما لاحظ الباحثون أن الفوائد كانت أقل وضوحاً قليلاً في النماذج الأكبر والأكثر تعقيداً، ويرجع ذلك على الأرجح إلى امتلاك تلك النماذج المزيد من الطبقات لامتصاص الأخطاء الصغيرة، إلا أن الاتجاه العام كان واضحاً. يفتح هذا العمل مساراً جديداً لجعل الذكاء الاصطناعي أكثر مرونة واستدامة، موضحاً أنه في بعض الأحيان، لكي تجعل النظام أقوى، عليك أن تسمح له بالتعثر قليلاً أثناء تعلمه.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.