Temporal Poisoning: Clean-Label Backdoors via Event Redistribution in SNNs
تقدم هذه الورقة أول هجوم باب خلفي نظيف الملصق على الشبكات العصبية النبضية (SNNs) يحقق معدلات نجاح مثالية للهجوم من خلال تطبيق تحويلات الطابع الزمني الثابتة على تدفقات الأحداث للفئة المستهدفة، مما يكشف عن حدود الدفاعات الحالية القائمة على تقليص المعدل مع إثبات تخفي الهجوم من خلال الحفاظ على أعداد الأحداث.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالم الذكاء الاصطناعي كمدينة صاخبة حيث تتعلم الحواسيب التعرف على الأشياء، مثل الوجوه أو إشارات المرور. لفترة طويلة، كانت هذه الحواسيب تعمل مثل الكاميرات القياسية، حيث تلتقط صورة كاملة كل جزء من الثانية وتحلل المشهد بأكمله دفعة واحدة. ولكن هناك نوع أحدث وأكثر روعة من الأدمغة الحاسوبية يسمى الشبكة العصبية النبضية (SNN). فبدلاً من النظر إلى صور كاملة، تعمل هذه الشبكات مثل حراس أمن شديدي اليقظة، لا يتفاعلون إلا عندما يتحرك شيء ما أو يتغير. هم لا يرون صورة ثابتة؛ بل يرون تدفقاً من "النبضات" أو "الومضات" الصغيرة والسريعة التي تحدث في لحظات محددة. وهذا يجعلها سريعة للغاية وموفرة للطاقة، مما يجعلها مثالية لأشياء مثل السيارات ذاتية القيادة أو الروبوتات التي تحتاج إلى الاستجابة فوراً دون استنزاف بطارياتها.
ومع ذلك، تماماً مثل أي نظام ذكي، يمكن خداع هذه الشبكات. في عالم أمن الذكاء الاصطناعي، يُعد "هجوم الباب الخلفي" (backdoor attack) بمثابة مصافحة سرية. إذا علم المخترق الحاسوب أن إشارة سرية معينة تعني "افتح الباب"، فإن الحاسوب سيطيع تلك الإشارة بغض النظر عما يحدث في مكان آخر. عادةً، يتعين على المخترقين القيام بشيء واضح لتعليم هذه الخدعة، مثل تغيير الملصق الموجود على صورة لعلامة "قف" ليصبح "حد السرعة" حتى يتعلم الحاسوب الشيء الخطأ. ولكن ماذا لو استطاع المخترق تعليم هذه المصافحة السرية دون تغيير الملصق على الإطلاق؟ ماذا لو استطاع فقط الهمس بسرٍ ما في "توقيت" الأحداث، تاركاً الصورة تبدو كما هي تماماً؟ هذا هو اللغز الذي تسعى هذه الورقة البحثية لحله.
اكتشف الباحثون، الذين عملوا باستخدام بيانات من كاميرات خاصة لا ترى سوى تغيرات الضوء، طريقة جديدة وذكية لاختراق هذه الأدمغة النابضة. فقد وجدوا أنك لست بحاجة لتغيير "ماذا" يراه الحاسوب لخداعه؛ بل تحتاج فقط لتغيير "متى" يراه. تخيل إيقاع الطبل. إذا عزفت إيقاعاً من "بوم، تات، تات، بوم"، فإنه يبدو كأغنية. ولكن إذا ضغطت كل تلك الضربات في دفعة صغيرة جداً في البداية، أو مددتها، فإن إجمالي عدد الضربات على الطبل يظل هو نفسه تماماً. بالنسبة لشخص يعد إجمالي الضربات فقط، فالأمر متطابق. ولكن بالنسبة لموسيقي يستمع إلى الإيقاع، فإنها أغنية مختلفة تماماً.
تظهر الورقة البحثية أنه من خلال إعادة ترتيب الطوابع الزمنية لهذه الأحداث الناتذلة من تغير الضوء -عن طريق تحريكها قليلاً للأمام، أو التأخير، أو حشرها جميعاً معاً- استطاع المهاجمون تعليم الذكاء الاصطناعي أن إيقاعاً معيناً يعني فئة مستهدفة محددة (مثل "قطة" أو "علامة قف"). والجزء المخيف؟ أن النسخة "النظيفة" من البيانات والنسخة "المسمومة" تبدوان متطابقتين تماماً إذا قمت فقط بعدّ الأحداث الإجمالية. الأمر يشبه وجود أغنيتين لهما نفس عدد النوتات بالضبط، لكن إحداهما تبدو كمارش عسكري والأخرى كرقصة فالس. إذا كنت تعد النوتات فقط، فلن تستطيع التمييز بينهما. ولكن الذكاء الاصطناعي، الذي يستمع إلى الإيقاع، يصاب بالارتباك ويبدأ في طاعة أمر المخترق السري.
اختبر الفريق هذه الطريقة على ثلاثة مجموعات مختلفة من البيانات ونوعين من أدمغة الذكاء الاصطناعي (أحدهما مبني مثل معالج الصور التقليدي والآخر مثل "المحول" -Transformer- الحديث). ووجدوا أنه في كثير من الحالات، نجحت هذه "خدعة التوقيت" بشكل مثالي. وفي أقوى الإعدادات، نجح الهجوم بنسبة 100% من الوقت. كان الذكاء الاصطناعي ينظر إلى جسم عشوائي، ويرى نمط التوقيت السري، ويصنفه فوراً كأي فئة يريدها المخترق، كل ذلك مع استمرار أدائه الجيد في المدخلات العادية غير المخترقة.
كما تحقق الباحثون مما إذا كان بإمكان حراس الأمن الحاليين كشف هذه الخدعة. لقد جربوا عدة دفاعات قياسية، لكن معظمها كان أعمى تجاه هذا الهجوم. لماذا؟ لأن معظم الفحوصات الأمنية لهذه الأدمغة تعمل عن طريق سحق البعد الزمني أولاً -أي تحويل الإيقاع بأكمله إلى عدد واحد من الضربات الإجمالية-. وبما أن المخترق لم يغير العدد الإجمالي، لم ترَ الدفاعات أي شيء مريب. لقد كان الأمر ممكناً فقط عندما بنى الباحثون كاشفاً جديداً يستمع بالفعل إلى الإيقاع خطوة بخطوة، حيث استطاعوا حينها رصد السم.
تثبت هذه الدراسة أنه بالنسبة لعقول الذكاء الاصطناعي الحساسة للوقت، فإن "متى" لا تقل أهمية عن "ماذا". وهي تشير إلى أن تدابير الأمن الحالية، التي تتجاهل غالباً توقيت الأحداث، قد تكون غافلة عن ثغرة أمنية ضخمة. لا تدعي الورقة أن هذه مشكلة تم حلها أو أن كل الذكاء الاصطناعي معطل، لكنها تظهر وجود باب خلفي خفي وصعب الاكتشاف للغاية. إنها بمثابة جرس إنذار: إذا أردتم حماية هذه الأدمغة الذكية والسريعة والموفرة للطاقة، فلا يمكنك الاكتفاء بالنظر إلى الصورة؛ بل يجب عليك الاستماع إلى الإيقاع أيضاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.