← أحدث الأبحاث
🤖 machine learning

Neither Adversarial Training Nor Purification: Emergent Adversarial Robustness from Oscillatory Predictive Learning

تقدم هذه الورقة إطار عمل التعلم التنبؤي التذبذبي (OPL)، الذي يجمع بين عصبونات كوراموتو التذبذبية الاصطناعية والتدريب المسبق ذاتي الإشراف التنبؤي، والذي يحقق متانة تنافسية ضد الهجمات العدائية على مجموعتي بيانات CIFAR-10 وCIFAR-100 دون الاعتماد على التدريب العدائي المكلف حاسوبياً أو التطهير في وقت الاختبار.

المؤلفون الأصليون: Mohammed-Yassine Habibi, Klea Ziu, Martin Takáč, Makoto Yamada

نُشر 2026-09-09✓ Author reviewed ⓘ
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Mohammed-Yassine Habibi, Klea Ziu, Martin Takáč, Makoto Yamada

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في عالم الذكاء الاصطناعي، تتميز أنظمة الرؤية الحاسوبية بقدرة فائقة على التعرف على الأشياء، من قطة في شجرة إلى لوحة "قف" في شارع. ومع ذلك، تمتلك هذه الأنظمة هشاشة خفية؛ فبإمكان الإنسان أن ينظر إلى صورة باندا ويرى باندا، ولكن إذا أضاف مهاجم نمطاً ضئيلاً وغير مرئي تقريباً من الضجيج (static) إلى الصورة، فقد يحدد الكمبيوتر فجأة وبثقة كاملة أنها "غيبون". تُعرف هذه الثغرة باسم "الضعف الخصمي" (adversarial weakness). لسنوات، كانت الطريقة القياسية لإصلاح ذلك هي تدريب الكمبيوتر عبر إظهار الملايين من هذه الصور المخدوعة له، لإجباره على تعلم كيفية تجاهل الضجيج. هذه العملية مكلفة للغاية، إذ تتطلب كميات هائلة من القدرة الحوسبية والوقت، وغالباً ما تبطئ النظام أثناء استخدامه الفعلي. وقد تساءل الباحثون طويلاً عما إذا كانت هناك طريقة أذكى لبناء هذه الأنظمة منذ البداية، ربما من خلال تصميم هيكلها الداخلي ليكون مقاوماً طبيعياً لمثل هذه الحيل، بدلاً من مجرد فرض الحل بالقوة الغاشمة عبر التدريب اللامتناهي.

اقترح فريق من الباحثين نهجاً جديداً يتجاوز الحاجة إلى جلسات التدريب المكلفة هذه بالكامل. فبدلاً من تغذية النموذج بملايين الصور التالفة، قاموا ببناء نظام يتعلم التنبؤ بما سيأتي لاحقاً في تسلسل الصور، مدمجاً مع آلية داخلية فريدة تحاكي التزامن الإيقاعي الموجود في الطبيعة. أطلقوا على هذه الطريقة اسم "التعلم التنبئي التذبذبي" (Oscillatory Predictive Learning). الفكرة الجوهرية هي منح الكمبيوتر نوعاً معيناً من "الساعة" الداخلية أو الإيقاع الذي يحافظ على حركة أجزائه المختلفة في تزامن، مما يجعل من الصعب على أي تغيير ضئيل وخبيث أن يخل بتوازن النظام بأكمله. وعندما اختبروا هذه الطريقة، وجدوا أن النظام أصبح قوياً بشكل مفاجئ ضد الهجمات، محققاً مستويات عالية من الأمان دون أن يرى مثالاً خصمياً واحداً خلال تدريبه.

اختبر الباحثون نظامهم على مجموعتين قياسيتين من الصور المستخدمة لتدريب الحواسيب: إحداهما تحتوي على عشر فئات مختلفة مثل الطائرات والسيارات، والأخرى تحتوي على مئة فئة. وقد تحدوا النظام بمجموعة صارمة من الاختبارات المصممة لإيجاد نقاط الضعف في النموذج. في الاختبار الأول، الذي تضمن مجموعة الفئات العشر، نجحت طريقتهم الجديدة في تحديد الصور بشكل صحيح بنسبة 76.63% حتى عندما كانت الصور تحت الهجوم. ويمثل هذا تحسناً كبيراً مقارنة بالطرق الأخرى التي تعتمد على العشوائية للدفاع ضد الهجمات، والتي تسجل عادةً حوالي 71%. وعندما انتقلوا إلى مجموعة المئة فئة الأكثر صعوبة، تمكن النظام من الصمود بنسبة نجاح بلغت 50.44%. وتعد هذه النتائج لافتة للنظر لأن النظام حقق هذا المستوى من الأمان دون التكلفة الحوسبية العالية المطلوبة عادةً لجعل النموذج متيناً.

ولفهم سبب نجاح ذلك، قام الفريق بتفكيك ابتكارهم إلى جزأين رئيسيين. الجزء الأول هو نوع خاص من طبقات الشبكة العصبية يستخدم وحدات تذبذبية، وهي تشبه البندولات الصغيرة المقترنة التي تؤثر في بعضها البعض. والجزء الثاني هو طريقة تعلم تعلم النظام التنبؤ بالمشاهد المستقبلية للصورة بناءً على المشاهد الحالية. وعندما اختبروا هذه الأجزاء بشكل منفصل، وجدوا أن الهيكل التذبذبي وحده وفر أساساً صلباً للدفاع، لكنه لم يكن كافياً بمفرده. أما جزء التعلم التنبئي، فعند تطبيقه على نموذج رؤية حاسوبية قياسي، لم يفعل شيئاً تقريباً لوقف الهجمات. ومع ذلك، عندما دمجوا الهيكل التذبذبي مع التعلم التنبئي، أصبح الدفاع أقوى بكثير. بدا أن التدريب التنبئي يعمل على تضخيم الاستقرار الطبيعي للأجزاء التذبذبية، مما خلق نظاماً أكثر صموداً بكثير من مجموع أجزائه.

كما اكتشف الباحثون أن هذه المتانة هي أمر دقيق، ولا توجد إلا في ظل ظروف محددة للغاية. فقد وجدوا أن حجم وحدات "الساعة" الداخلية كان مهماً للغاية؛ فعندما تم ضبط الوحدات على بُعد (dimension) محدد وصغير، كان النظام مقاوماً للهجمات بشكل كبير. ولكن عندما زادوا حجم هذه الوحدات لجعل النظام أكثر مرونة وأفضل في التعرف على الصور في الظروف العادية، انهار الدفاع فجأة، وأصبح النظام عرضة للهجمات بشكل شبه كامل، رغم أنه أصبح أفضل في تحديد الصور "النظيفة". يشير هذا إلى أن أمن النظام لا يأتي من مجرد جعل النموذج أكبر أو أكثر قوة، بل يعتمد على مجموعة ضيقة وصارمة من القواعد التي تحافظ على تزامن الإيقاعات الداخلية. فإذا مُح النظام حرية كبيرة، فإنه يفقد قدرته على مقاومة التلاعب.

يشير هذا العمل إلى مسار جديد نحو بناء ذكاء اصطناعي آمن. فهو يتحدى الاعتقاد السائد منذ فترة طويلة بأن الطريقة الوحيدة لجعل النموذج متيناً هي تدريبه على ملايين الأمثلة الخصمية. ومن خلال الجمع بين تصميم هيكلي محدد وطريقة تعلم ذاتي، أظهر الباحثون أن المتانة يمكن أن تنبثق طبيعياً من الطريقة التي يُبنى بها النظام وكيفية تعلمه. وبينما لا يزال النظام بحاجة إلى صقل للعمل على مجموعات بيانات صور أكبر وأكثر تعقيداً، فإن النتائج تقدم بديلاً واعداً للطرق الحالية المكلفة حوسبياً. إنها تشير إلى أنه من خلال التصميم الدقيق للديناميكيات الداخلية للنموذج، قد نتمكن من إنشاء ذكاء اصطناعي ليس ذكياً فحسب، بل يصعب خداعه بطبيعته أيضاً.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 🤖 cs.LG →