Voltage and Electromagnetic Fault Injectioin in TinyML: Attacks and Countermeasures
تُثبت هذه الورقة أن نماذج تعلم الآلة المصغرة (TinyML) على أجهزة إنترنت الأشياء ذات الموارد المحدودة عرضة لهجمات حقن الخطأ في الجهد والتردد الكهرومغناطيسي المتخفية التي يمكن أن تؤدي إلى تدهور الدقة أو فرض مخرجات يمكن التنبؤ بها، وتقترح تقنيات "التقليص الذاتي العشوائي" والتصويت بالأغلبية كتدابير مضادة فعالة لتعزيز متانتها.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالماً حيث تُدمج حواسيب صغيرة، لا يتجاوز حجمها حجم العملة المعدنية، في كل شيء من أجراس الأبواب الذكية إلى المستشعرات الطبية. هذه الأجهزة، المعروفة باسم المتحكمات الدقيقة (microcontrollers)، هي المحركات الصامتة لإنترنت الأشياء. لقد صُممت لتكون صغيرة، رخيصة، وموفرة للطاقة، وغالباً ما تشغل برمجيات متطورة تسمح لها بالتعرف على أمر صوتي، أو اكتشاف سقوط شخص، أو تحديد صوت معين في غرفة صاخبة. وتأتي هذه القدرة من مجال يسمى "تعلم الآلة المصغر" (Tiny Machine Learning)، حيث يتم تقليص النماذج الرياضية المعقدة لتناسب هذه الأجهزة المحدودة. ولأن هذه الحواسيب غالباً ما توضع في أماكن عامة أو مواقع نائية، فهي متاحة مادياً لأي شخص يمر بجانبها. وهذا الوصول يخلق ثغرة فريدة: لا يحتاج المهاجم إلى اختراق الكود البرمجي عن بُ काढ، بل يمكنه ببساطة لمس الجهاز واستخدام دفقة كهربائية أو نبضة مغناطيسية مركزة لإرباك عقل الكمبيوتر، مما يجعله يرتكب خطأً.
لقد شرع فريق من الباحثين في فهم مدى سهولة خداع هذه الأجهزة الصغيرة والذكية. وركزوا على طريقتين محددتين لإزعاج تفكير الكمبيوتر: "تذبذب الجهد" (voltage glitching) و"الحقن الخطئي الكهرومغناطيسي" (electromagnetic fault injection). تذبذب الجهد يشبه إعطاء الجهاز صدمة صغيرة مفاجئة لإمدادات الطاقة الخاصة به، مما يجعله يتعثر لجزء من الثانية. أما الحقن الخطئي الكهرومغناطيسي فهو مشابه ولكن يستخدم نبضة مغناطيسية لهز الدوائر الداخلية دون لمس أسلاك الطاقة. أراد الباحثون معرفة ما إذا كانت هذه الهزات الفيزيائية يمكن أن تجبر نموذج تعلم الآلة على الخطأ في تحديد ما يراه أو يسمعه، وإذا كان بإمكان المهاجم التحكم في الخطأ لجعله يحدث بطريقة معينة. وقد اختبروا ذلك على أربعة أنواع مختلفة من النماذج تعمل على نوعين مختلفين من المتحكمات الدقيقة، محاكيين سيناريوهات من العالم الحقيقي حيث قد يُترك الجهاز دون رقابة.
كشفت التجارب أن هذه الحواسيب الصغيرة هشة بشكل مثير للدهشة. فعندما طبق الباحثون تذبذبات جهد مدروسة التوقيت، وجدوا أنهم يستطيعون إحداث أخطاء لم تؤدِ إلى تعطل الجهاز، بل جعلته يعطي إجابة خاطئة بدلاً من ذلك. وفي كثير من الحالات، لم يكن الجهاز يخمن عشوائياً؛ بل كان يتم توجيهه نحو خطأ محدد ومتوقع. على سبيل المثال، يمكن إجبار نموذج مصمم للتعرف على الأرقام المكتوبة بخط اليد على أن يقول دائماً "صفر" أو "سبعة"، بغض النظر عما هو مكتوب بالفعل. حدث هذا لأن الاضطراب الكهربائي قلب بتّاً واحداً (bit) من البيانات داخل ذاكرة الكمبيوتر في اللحظة ذاتها التي كان يجري فيها عملية حسابية. وبما أن النماذج صغيرة جداً وتعمل بسرعة كبيرة، فإن بتّاً واحداً مقلوباً في منتصف عملية حسابية يمكن أن يمتد أثره عبر بقية العملية، مما يؤدي إلى قرار نهائي خاطئ تماماً. ووجد الباحثون أنه من خلال ضبط توقيت التذبذب بدقة النانو ثانية، يمكنهم اختيار الخطأ الذي سيرتكبه الجهاز.
أثبتت الهجمات الكهرومغناطيسية أنها أكثر حساسية للإعداد الفيزيائي. استخدم الباحثون مسباراً لإرسال نبضات مغناطيسية في نقاط مختلفة من شريحة الكمبيوتر. واكتشفوا أن تحريك المسبار بضعة مليمترات فقط يغير النتيجة تماماً. ففي بعض المواضع، ستؤدي النبضة إلى إعادة ضبط الجهاز وتشغيله من جديد، وفي مواضع أخرى، ستجعله يتجمد في حالة يستمر فيها في إعطاء نفس الإجابة الخاطئة مراراً وتكراراً، حتى بعد توقف الهجوم. كان هذا "الفساد المستمر" خطيراً بشكل خاص لأنه لا يمكن للجهاز التعافي منه تلقائياً؛ بل سيحتاج إلى إعادة تشغيل يدوية. أظهرت الدراسة أنه بينما كان تذبذب الجهد أسهل في التكرار، إلا أن النبضات الكهرومغناطيسية يمكن أن تسبب أضراراً أكثر شدة وطويلة الأمد إذا عرف المهاجم أين يوجه ضربته بالضبط.
نظر الباحثون أيضاً في كيفية تأثير هذه الهجمات على أنواع مختلفة من النماذج. ووجدوا أن نموذج التعرف على الصور المدمج كان الأكثر عرضة للخطر، حيث انخفضت دقته بشكل حاد عند تعرضه للهجوم. كما كان النموذج المصمم لاكتشاف كلمات التنبيه، مثل "Hey Siri"، عرضة للاختراق أيضاً، حيث يتم خداعه غالباً ليعتقد أن ضوضاء عشوائية هي كلمة التنبيه. ومع ذلك، لم يكتفِ الباحثون بتحديد المشكلة فحسب، بل اقترحوا حلاً أيضاً. فقد طوروا طريقة تسمى "الاختزال الذاتي العشوائي" (Randomized Self-Reduction)، والتي تطلب من الكمبيوتر أساساً حل المشكلة نفسها عدة مرات بطرق مختلفة قليلاً ثم مقارنة الإجابات. فإذا تعرضت إحدى الحسابات للفساد بسبب خطأ ما، فإن الحسابات الصحيحة الأخرى ستتغلب عليها في التصويت، مما يسمح للجهاز باستعادة الإجابة الصحيحة. وبينما تتطلب هذه الحماية من الجهاز القيام بمزيد من العمل، فقد أظهر الباحثون أنه يمكن تنفيذها دون إبطاء الجهاز كثيراً، مما يوفر طريقة عملية لجعل هذه الحواسيب الصغيرة أكثر صموداً ضد التلاعب الفيزيائي.
يسلط هذا العمل الضوء على فجوة حرجة في أمن التكنولوجيا الحديثة. فبينما نضع ذكاءً اصطناعياً أكثر قوة في أجهزة أصغر وأرخص، يجب علينا أيضاً مراعاة أن هذه الأجهزة يمكن التلاعب بها فيزيائياً. وتوضح الدراسة أن المهاجم الذي يمتلك وصولاً فيزيائياً يمكنه إجبار نموذج تعلم الآلة على الفشل بشكل موثوق، وفي بعض الحالات، إجباره على الفشل بطريقة تخدم مصلحة المهاجم. وتشير النتيات إلى أن جعل البرمجيات أكثر ذكاءً ليس كافياً وحده؛ بل يحتاج العتاد (Hardware) نفسه إلى طبقات جديدة من الحماية لضمان إمكانية الوثوق بهذه الأجهزة الذكية في العالم الحقيقي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.