🤖 AI

The Weight of a Bit: EMFI Sensitivity Analysis of Embedded Deep Learning Models

تقيم هذه الورقة تأثير أربعة تمثيلات عددية (الفاصلة العائمة بـ 32 بت و16 بت، والأعداد الصحيحة بـ 8 بت و4 بت) على مرونة نماذج التعلم العميق المدمجة ضد هجمات حقن الأخطاء الكهرومغناطيسية (EMFI)، كاشفةً أن تنسيقات الأعداد الصحيحة، ولا سيما تنسيق 8 بت، توفر مقاومة أفضل بكثير واحتفاظاً بالدقة مقارنة بتنسيقات الفاصلة العائمة التي تعاني من تدهور شبه كامل بعد خطأ واحد.

المؤلفون الأصليون: Jakub Breier, Štefan Kučerák, Xiaolu Hou

نُشر 2026-04-14

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Jakub Breier, Štefan Kučerák, Xiaolu Hou

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

الصورة الكبيرة: اختراق دماغ باستخدام مغناطيس

تخيل أن لديك روبوتًا صغيرًا فائق الذكاء (شبكة عصبية) يعمل على جهاز صغير، مثل كاميرا ذكية أو طائرة بدون طيار. هذا "الدماغ" يتكون من ملايين "الأوزان" الصغيرة (أرقام) التي تخبره بكيفية التعرف على الأشياء، مثل القطة أو السيارة.

سأل الباحثون في هذه الورقة سؤالًا مخيفًا: ماذا يحدث إذا صدمنا هذا الجهاز بنبضة مغناطيسية قوية؟

استخدموا أداة خاصة (مولد نبضات كهرومغناطيسية) لإطلاق دفعة سريعة وحادة من الطاقة نحو ذاكرة الجهاز. هذا يشبه إعطاء الجهاز "صدمة" صغيرة غير مرئية تقلب بعض الأرقام داخل دماغه. كان الهدف هو معرفة ما إذا كانت هذه الصدمة ستجعل دماغ الروبوت يجن ويصبح غير قادر على تحديد الأشياء بشكل صحيح.

التجربة: اختبار "لغات" مختلفة

لا يخزن الدماغ الأرقام فحسب، بل يخزنها بـ "لغات" أو تنسيقات مختلفة. اختبر الباحثون أربع طرق لكتابة هذه الأرقام لمعرفة أي منها الأكثر "مقاومة للصدمات":

FP32 و FP16 (لغة عالية الدقة): هذه تشبه كتابة الأرقام بتفاصيل هائلة (الفاصلة العائمة). هي دقيقة جدًا ولكنها معقدة.
- التشبيه: تخيل كتابة وصفة باستخدام الكسور مثل "1/3 كوب" أو "0.0004 جرام". إنها دقيقة للغاية، ولكن إذا أخطأت في مكان الفاصلة العشرية، ستفسد الطبخة بالكامل.
INT8 و INT4 (اللغة البسيطة): هذه هي تنسيقات الأعداد الصحيحة، حيث تُقرب الأرقام إلى أعداد كاملة (مثل 1، 2، 3).
- التشبيه: هذا يشبه كتابة وصفة باستخدام أكواب كاملة فقط: "كوب واحد"، "كبان". هي أقل دقة، ولكن من الصعب جدًا إفسادها.

اختبروا هذه اللغات على أربعة "أدمغة" مشهورة (ResNet-18، ResNet-34، ResNet-50، و VGG-11) لمعرفة رد فعلها تجاه الصدمة المغناطيسية.

النتائج: "العائم" مقابل "الصحيح"

كانت النتائج دراماتيكية وكشفت عن فرق شاسع في كيفية تعامل هذه اللغات مع "الصدمة".

1. كارثة الفاصلة العائمة (FP32/FP16)

عندما صدم الباحثون النماذج عالية الدقة (الفاصلة العائمة)، كانت النتائج كارثية.

ما حدث: انخفضت الدقة إلى ما يقرب من الصفر. لقد نسي دماغ الروبوت كيفية التعرف على أي شيء!
التشبيه: فكر في أرقام الفاصلة العائمة كأنها "بيت من الورق" (بيت الكاريدز). جزء "الأس" في الرقم يشبه الأساس؛ إذا قلبت النبضة المغناطيسية بتًا واحدًا فقط في ذلك الأساس، سينهار البيت بالكامل.
- في نظام الفاصلة العائمة، يمكن لخلل بسيط أن يحول رقمًا عاديًا (مثل 0.5) إلى "ليس رقمًا" (NaN) أو رقمًا ضخمًا جدًا لدرجة أنه يكسر العمليات الحسابية (مثل 10 مرفوعة للقوة 38).
- بمجرد أن ينفجر رقم واحد، فإنه يسمم الطبقة التالية من الدماغ، والتي تسمم الطبقة التي تليها، حتى ينهار النظام بأكمله. إنه يشبه سقوط قطعة دومينو واحدة تؤدي إلى إسقاط ناطحة سحاب.

2. صمود الأعداد الصحيحة (INT8/INT4)

عندما صدموا نماذج الأعداد الصحيحة، كانت النتائج جيدة بشكل مفاجئ.

ما حدث: انخفضت الدقة، لكن الدماغ استمر في العمل! على سبيل المثال، نموذج VGG-11 الذي يستخدم أعدادًا صحيحة مكونة من 8 بت ظل يعطي حوالي 70% من الإجابات الصحيحة، حتى بعد تعرضه للصدمة.
التشبيه: فكر في الأعداد الصحيحة كأنها دلو له غطاء. إذا سكبت الكثير من الماء (خلل ما)، فإن الماء سيصطدم بالغطاء ويتوقف. لا يمكنه أن يفيض.
- إذا انقلب "بت" في عدد صحيح، فقد يتغير الرقم من "5" إلى "127" (الحد الأقصى)، لكنه يظل ضمن حدود "الدلو". لا ينفجر إلى مالا نهاية.
- ولأن الأرقام "مقيدة" أو محددة، فإن خللًا واحدًا لا يدمر النظام بأكتها. يمتلك الدماغ ما يكفي من "التكرار" (قوة دماغ إضافية) لتجاهل الرقم الغريب والاستمرار في التخمين بشكل صحيح.

"سحر" تنسيق الـ 8 بت

وجدت الورقة أن الأعداد الصحيحة 8-بت (INT8) هي الحل المثالي (الذي يجمع بين المزايا).

هي صغيرة بما يكفي لتناسب الأجهزة الصغيرة (توفير المساحة والبطارية).
وهي بسيطة بما يكفي لتنجو من الصدمات المغناطيسية.
وهي ذكية بما يكفي للتعرف على القطط والسيارات بدقة.

لماذا يهم هذا؟

نحن نتجه نحو عالم يعمل فيه الذكاء الاصطناعي على أجهزة صغيرة في منازلنا، وسياراتنا، ومستشفياتنا (ذكاء الحافة - Edge AI). هذه الأجهزة يمكن الوصول إليها ماديًا، مما يعني أن شخصًا سيئ النية قد يستخدم مغناطيسًا لاختراقها.

تخبرنا هذه الورقة سرًا أمنيًا حاسمًا: إذا كنت تريد أن يكون الذكاء الاصطناعي الخاص بك آمنًا من الهجمات المادية، فلا تستخدم الرياضيات المعقدة وعالية الدقة. استخدم رياضيات الأعداد الصحيحة البسيطة.

الملخص

الهجوم: نبضة مغناطيسية تقلب "البتات" في الذاكرة.
نقطة الضعف: الرياضيات عالية الدقة (الفاصلة العائمة) تشبه بيت الورق؛ قلب بت واحد يدمر كل شيء.
نقطة القوة: الرياضيات البسيطة (الأعداد الصحيحة) تشبه الدلو المتين؛ تمتص الصدمة دون أن تنكسر.
الفائز: توفر الأعداد الصحيحة 8-بت أفضل توازن بين السرعة، والحجم، والأمان.

باختصار: عندما يتعلق الأمر بالاختراق، البساطة هي الأقوى.

إليك ملخص تقني مفصل لورقة البحث بعنوان: "وزن البت: تحليل الحساسية للنبضات الكهرومغناطيسية (EMFI) في نماذج التعلم العميق المدمجة."

1. بيان المشكلة

مع تزايد نشر نماذج التعلم العميق (DL) على الأجهزة الطرفية محدودة الموارد (TinyML)، أصبحت هذه النماذج عرضة لهجمات حقن الأخطاء الفيزيائية. وتحديداً، يسمح حقن الخطأ الكهرومغناطيسي (EMFI) للمهاجمين بإحداث تغييرات مؤقتة في البتات (bit-flips) داخل الذاكرة دون الحاجة إلى تعديل مادي في الأجهزة.

بينما درست الأبحاث السابقة القدرة على تحمل الأخطاء في الشبكات العصبية، إلا أن هناك نقصاً في الدراسات المقارنة الشاملة التي تقيم كيف تؤثر التمثيلات العددية المختلفة للأوزان (الفاصلة العائمة مقابل الأعداد الصحيحة المكممة) على قدرة النموذج على الصمود أمام هجمات EMFI. السؤال البحثي الجوهري هو: إلى أي مدى يحدد اختيار تنسيق الوزن (FP32, FP16, INT8, INT4) قدرة الشبكة العصبية على مقاومة هجمات EMFI؟

2. المنهجية

الإعداد التجريبي

الأجهزة: استخدم المؤلفون منصة NewAE ChipSHOUTER لتوليد نبضات كهرومغناطيسية عالية الجهد (300 فولت، 160 نانو ثانية). كان الهدف هو رقاقة SRAM بسعة 4 ميجابايت (AS6C3216A-55TIN) مثبتة على لوحة من الجل البالستي (Ballistic Gel)، والتي عملت كجهاز تحت الاختبار (DUT).
النماذج: تم تقييم أربعة هياكل للشبكات العصبية التلافيفية (CNN): ResNet-18، وResNet-34، وResNet-50، وVGG-11.
التمثيلات: تم إنشاء كل هيكل بأربعة تنسيقات للأوزان:
- FP32: فاصلة عائمة بدقة أحادية 32 بت.
- FP16: فاصلة عائمة بنصف الدقة 16 بت.
- INT8: عدد صحيح مُوقع 8 بت.
- INT4: عدد صحيح مُوقع 4 بت.
ناقل الهجوم: اتبع الهجوم نموذج تهديد "داخل التخزين" (in-storage). تم رفع الأوزان إلى ذاكرة SRAM، ثم حُقنت نبضة EM واحدة أثناء عملية الاستدلال (أو تحميل الأوزان)، ثم أُعيدت قراءة الأوزان الفاسدة. بعد ذلك، تم إجراء الاستدلال على وحدة معالجة رسومات منفصلة (NVIDIA RTX 4080) لعزل التأثير الرياضي للأخطاء عن أخطاء التنفيذ في الأجهزة.
المقاييس:
- الدقة: دقة Top-1 وTop-5 على مجموعة بيانات ImageNet-1K للتحقق.
- توصيف الخطأ: معدل خطأ البت (BER)، التوزيع المكاني للبايتات الفاسدة، انتشار قيم بايتات محددة (0xFE/0xFF)، وتحليل توزيع الأوزان (توليد NaN، وتوسع النطاق).

إعداد التكميم (Quantization Configuration)

تم تكميم النماذج الصحيحة باستخدام Brevitas (التكميم بعد التدريب) مع تكميم متماثل لكل قناة. استخدمت نماذج INT4 تحسينات من نوع GPTQ للتخفيف من فقدان الدقة أثناء عملية التكميم.

3. المساهمات الرئيسية

أول دراسة مقارنة: يعد هذا العمل أول دراسة تقارن بشكل منهجي بين مرونة EMFI لكل من تمثيلات FP32 وFP16 وINT8 وINT4 عبر هياكل CNN متعددة تحت ظروف تجريبية متطابقة.
توصيف نمط الخطأ: أثبت المؤلفون أن معدل خطأ البت (BER) مستقل إلى حد كبير عن تنسيق البيانات (حوالي 6-8% لجميع التنسيقات). وهذا يثبت أن الاختلافات الجذرية في دقة النموذج تعود إلى التفسير الرياضي للأخطاء، وليس إلى وتيرة وقوع الأخطاء نفسها.
تحديد الآلية: تحدد الورقة أن ترميز أس (exponent) معيار IEEE 754 هو آلية الفشل الأساسية لنماذج الفاصلة العائمة. حيث يمكن لقلب بت واحد في الأس أن يتسبب في تحول الوزن إلى NaN (ليس رقماً) أو قيمة قصوى (مثل $10^{38}$ )، مما يؤدي إلى تشبع كارثي للشبكة.
مرونة التنسيقات الصحيحة: تسلط الدراسة الضوء على أن التمثيلات الصحيحة (خاصة INT8) توفر "قناعاً عددياً" (numerical masking) متأصلاً. فبسبب النطاقات المحدودة (مثل [-128, 127])، يؤدي قلب البت إلى قيمة مقيدة بدلاً من الانفجار الأسي، مما يحافظ على وظيفة النموذج.

4. النتائج الرئيسية

تدهور الدقة

الفاصلة العائمة (FP32/FP16): عانت من فشل كارثي. أدى حقن خطأ واحد إلى خفض دقة Top-1 إلى مستويات تقترب من التخمين العشوائي (<0.2%).
- FP32: أصبح حوالي 1.27% من الأوزان NaN لكل كتلة؛ وتوسع نطاق الأوزان بمعامل قدره $\sim 10^{39}$ .
- FP16: معدل NaN بلغ ~0.10%؛ وتوسع النطاق بمقدار $\sim 10^6$ .
الأعداد الصحيحة (INT8/INT4): أظهرت مرونة أعلى بكثير.
- INT8: احتفظت بدقة جوهرية. على سبيل المثال، حافظ نموذج VGG-11 (INT8) على ~70% من دقة Top-1 و**~90% من دقة Top-5** حتى بعد الأخطاء.
- INT4: أظهرت مرونة أفضل من تنسيقات الفاصلة العائمة، لكنها كانت عموماً أكثر حساسية من INT8 بسبب النطاق الديناميكي الأصغر (عدد أقل من القيم الممثلة).

الحساسية المكانية

الحساسية المتركزة في البداية: تسببت الأخطاء المحقونة في الطبقات الأولية (التلافيف المبكرة) في أخطر حالات انخفاض الدقة عبر جميع التنسيقات.
وفرة الطبقات: أظهرت النماذج الأكبر (ResNet-50، VGG-11) مرونة أفضل من النماذج الأصغر (ResNet-18) بسبب وفرة المعلمات (parameter redundancy).
خصوصيات VGG-11: أظهر نموذج VGG-11 مع INT8 ملف حساسية "ثنائي المنوال" (bimodal). الهجمات على الطبقات الوسطى (تحديداً طبقة FC6 الكبيرة) كان لها تأثير ضئيل لأن نافذة الخطأ بـ 4 ميجابايت أفسدت جزءاً صغيراً جداً (~0.6%) من أوزان تلك الطبقة الضخمة. في المقابل، تسببت الهجمات على الطبقات الأولى أو الأخيرة في تدهور كبير.

تحليل نمط الخطأ

شيوع 0xFE/0xFF: تلقت التنسيقات الصحيحة نسبة أعلى من البايتات ذات القيم 0xFE أو 0xFF (القيم القصوى) مقارنة بالفاصلة العائمة.
المفارقة: رغم حصولها على المزيد من البايتات "القصوى"، إلا أن النماذج الصحيحة قدمت أداءً أفضل. في FP32، يجبر البايت 0xFF حقل الأس على أن يكون NaN/Infinity. أما في INT8، فإن 0xFF ببساطة يقيد الوزن عند 127، وهو خطأ محدود وغير كارثي.

5. الأهمية والآثار المترتبة

الآثار الأمنية: تكشف الدراسة أن التكميم ليس مجرد تقنية لضغط البيانات بل هو ميزة أمنية. فالانتقال من تمثيل الفاصلة العائمة إلى التمثيل الصحيح (تحديداً INT8) يوفر دفاعاً سلبياً ومتأصلاً ضد هجمات EMFI دون الحاجة إلى تدابير إضافية في الأجهزة.
إرشادات التصميم: بالنسبة لنشر الذكاء الاصطناعي الطرفي حيث تكون السلامة الفيزيائية أمراً مهماً، فإن تكميم INT8 يوفر المقايضة المثالية بين دقة النموذج، وبصمة الذاكرة، والمرونة تجاه الأخطاء.
العمل المستقبلي: يقترح المؤلفون أن تركز الأبحاث المستقبلية على تحسينات مرحلة التدريب (مثل التدريب الواعي بالتكميم - quantization-aware training) لزيادة تحصين بتات معينة من الأوزان ضد الأخطاء، وتوسيع هذه النتائج لتشمل الاستدلال في الموقع (in-situ) على المتحكمات الدقيقة ذات الهياكل الذاكرية المعقدة.

الخاتمة

تخلص الورقة إلى أن اختيار التمثيل العددي هو عامل حاسم في أمن الذكاء الاصطناعي المدمج. نماذج الفاصلة العائمة هشة للغاية تجاه EMFI بسبب الطبيعة غير الخطية لترميز IEEE 754، بينما توفر النماذج الصحيحة تأثير "ممتص للصدمات" (shock absorber) قوي، مما يحافظ على الوظائف حتى تحت ظروف فساد كبيرة في الذاكرة.