KAN-Robust-Bench: A Benchmark for Evaluating the Robustness of Kolmogorov-Arnold Networks
تقدم هذه الورقة KAN-Robust-Bench، وهو معيار يقيم المتانة المعتمدة والتجريبية لشبكات كولموغوروف-أرنولد (Kolmogorov-Arnold Networks) ضد هجمات التهرب القوية لتحديد استراتيجيات الدفاع والبنى المثلى.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالمنا المعاصر، أصبح الذكاء الاصطناعي شريكاً هادئاً في حياتنا اليومية، حيث يقوم بفرز رسائل البريد الإلكتروني، وتوجيه سياراتنا، وتشخيص الأمراض. تتعلم هذه الأنظمة من خلال إيجاد الأنماط في كميات هائلة من البيانات، تماماً كما يتعلم الطفل التعرف على القطة من خلال رؤية العديد من صور القطط. ومع ذلك، فإن عملية التعلم هذه تنطوي على نقطة ضعف خفية. فتماماً كما يمكن خداع الإنسان بواسطة خدعة بصرية بارعة، يمكن لهذه النماذج الحاسوبية أن تُخدع بتغييرات طفيفة وغير مرئية تقريباً في الصور التي تراها. قد يضيف باحث بعض النقاط الرقمية الصغيرة إلى صورة لعلامة "قف" — وهي تغييرات صغيرة جداً لدرجة أن العين البشرية لن تلاحظها أبداً — وقد يرى الكمبيوتر فجأة أنها علامة تحديد سرعة. تُعرف هذه الثغرة باسم "هجوم التهرب"، وهي تشكل خطراً أمنياً خطيراً على أي نظام يعتمد على الذكاء الاصطناعي لاتخاذ قرارات آمنة.
لفهم كيفية حماية هذه الأنظمة، يعمل العلماء باستمرار على اختبار أنواع جديدة من "الأدمغة الحاسوبية". لعقود من الزمن، كان التصميم القياسي عبارة عن نوع محدد من الشبكات التي تعالج المعلومات في طبقات. ومؤخراً، ظهر تصميم مختلف يسمى "شبكة كولموغوروف-أرنولد" (Kolmogorov-Arnold Network أو KAN) كبديل واعد. وبينما يقوم التصميم القد مكدساً طبقات من الدوال الثابتة، تستخدم شبكة KAN منحنيات مرنة وقابلة للتعلم يمكنها التكيف بشكل طبيعي مع الأشكال المعقدة في البيانات. وكان السؤال الكبير الذي يواجه الباحثين هو ما إذا كان هذا التصميم الجديد الأكثر مرونة سيكون أيضاً أكثر هشاشة. فإذا كان النموذج أفضل في التعلم، فهل يكون أيضاً أسهل في الخداع؟ وضع فريق من الباحثين من جامعة نيو برونزويك (University of New Brunswick) نصب أعينهم الإجابة على هذا السؤال من خلال إخضاع عدة تصميمات جديدة لشبكات KAN لسلسلة صارمة من اختبارات الضغط، ووضعها في مواجهة أقوى الأساليب المعروفة لخداع الذكاء الاصطناعي.
ركز الباحثون على ثلاث نسخ محددة من بنية KAN، كل منها مصمم للتعامل مع المهام البصرية مثل التعرف على الأشياء في الصور. واختبروا هذه النماذج على مجموعتين من الصور القياسية: إحداهما تحتوي على أشياء شائعة مثل السيارات والحيوانات، والأخرى تحتوي على أرقام موجودة في لافتات الشوارع. ولمعرفة مدى صمود هذه النماذج، أخضع الفريق هذه النماذج لثلاثة أنواع مختلفة من الهجمات الرقمية. النوع الأول كان خدعة سريعة من خطوة واحدة تدفع الصورة نحو الاتجاه الذي من المرجح أن يرتكب فيه النموذج خطأً. النوع الثاني كان هجوماً أكثر صبراً ومتعدد الخطوات، يقوم بصقل الخدعة مراراً وتكراراً حتى يجد الطريقة المثالية لإرباك النموذج. أما النوع الثالث فكان هجوماً استمثالياً عالي التطور يبحث عن أصغر تغيير ممكن لإحداث فشل.
وللدفاع ضد هذه الحيل، جرب الفريق ثلاث استراتيجيات مختلفة. تمثلت الأولى في تدريب النماذج عبر عرض الصور العادية والصور المخادعة والمعدلة عليها، مما يجبر الكمبيوتر على تعلم كيفية تجاهل الضجيج. وتضمنت الاستراتيجية الثانية إضافة طبقة من التشويش العشوائي، أو "الضوضاء"، إلى الصور قبل أن ينظر إليها النموذج، مما يؤدي فعلياً إلى طمس الحواف الحادة التي يعتمد عليها المهاجمون. أما الطريقة الثالثة فقد تضمنت إثباتاً رياضياً بأن قرار النموذج لن يتغير حتى لو تم تعديل الصورة ضمن حد معين، مما يخلق شبكة أمان تضمن الاستقرار.
رسمت النتائج صورة واضحة لكيفية سلوك هذه الشبكات الجديدة تحت الضغط. فعندما تُترك النماذج دون أي حماية خاصة، كانت هشة بشكل مفاجئ. فحتى أكثر تصميمات KAN تقدماً يمكن خداعها بأبسط الهجمات، حيث تنخفض دقتها بشكل كبير مع زيادة الضجيج. ومع ذلك، عندما طبق الباحثون استراتيجية تدريب النماذج باستخدام الصور المخادعة، تغيرت النتائج تماماً. أثبتت هذه الطريقة، المعروفة باسم "التدريب الخصمي" (adversarial training)، أنها الدرع الأقوى؛ حيث حافظت النماذج التي خضعت لهذا التدريب على دقة عالية حتى عند مواجهة أقوى الهجمات متعددة الخطوات. على سبيل المثال، في مجموعة بيانات لافتات الشوارع، حافظ نموذج تم تدريبه بهذه الطة على دقة تزيد عن 67 بالمائة حتى عندما كان الهجوم في أقصى قوته، بينما انهارت النسخة غير المدربة إلى ما يقرب من الصفر.
قدمت الاستراتيجيتان الدفاعيتان الأخريان أنواعاً مختلفة من الحماية. فالطريقة التي أضافت ضوضاء عشوائية إلى الصور لم تمنع النماذج من التعرض للخداع بنفس فعالية طريقة التدريب، لكنها وفرت نوعاً مختلفاً من الأمان؛ فقد قدمت ضماناً رياضياً بأن إجابة النموذج لن تتغير إذا تم تعديل الصورة بمقدار معين وصغير. وهذا أمر قيم لأنه يوفر حدوداً معروفة للأمان، حتى لو لم يكن الأداء العام للنموذو ضد أقوى الهجمات عالياً مثل النماذج المدربة. كما أن الاستراتيجية الثالثة، التي استخدمت الحدود الرياضية للتحقق من الاستقرار، حسنت أيضاً من قدرة النماذج على الصمود، لكنها لم تصل عموماً إلى مستوى الحماية التي يوفرها تدريب النماذج بالهجمات مباشرة.
كان أحد أكثر الاكتشافات إثارة للاهتمام هو أن اختيار البنية الداخلية للنموذج كان لا يقل أهمية عن استراتيجية الدفاع. فمن بين ثلاثة تصميمات مختلفة لـ KAN تم اختبارها، تفوق تصميم واحد محدد باستمرار على الآخرين. هذا التصميم المحدد، الذي يجمع طرقاً مختلفة لخلط ميزات الصور، أثبت أنه الأكثر متانة عبر جميع الاختبارات. لقد صمد بشكل أفضل أمام الخدع السريعة، والهجمات متعددة الخطوات الصبورة، وهجمات الاستمثال المتطورة. وهذا يشير إلى أن مجرد الانتقال إلى نوع جديد من الشبكات ليس كافياً؛ فالطريقة المحددة التي تُبنى بها تلك الشبكة هي التي تحدد مدى قدرتها على الصمود أمام الهجوم.
كما كشفت الدراسة أن صعوبة المهمة تغيرت النتيجة. فقد أدت النماذج أداءً أفضل بكثير في مجموعة بيانات لافتات الشوارع مقارنة بمجموعة البيانات الخاصة بالأشياء الشائعة. ففي حالة لافتات الشوارع، كانت النماذج غير المدربة قادرة بشكل مدهش على مقاومة الهجمات، ووصلت النماذج المحمية إلى مستويات دقة تتجاوز 90 بالمائة. وهذا يشير إلى أن بعض أنواع البيانات البصرية أسهل بطبيعتها للتعامل معها بأمان من غيرها.
في النهاية، يظهر البحث أنه على الرغم من أن شبكات كولموغوروف-أرنولد هذه هي أدوات قوية، إلا أنها ليست محصنة ضد الخداع. إن الطريقة الأكثر موثوقية لحمايتها هي تعليمها كيف يبدو الهجوم أثناء مرحلة التعلم الخاصة بها. وبينما يمكن للطرق الأخرى توفير ضمانات رياضية للأمان، إلا أنها لا تترجم دائماً إلى نفس المستوى من الأداء في العالم الحقيقي ضد أقوى الحيل. يوفر هذا العمل خارطة طريق واضحة للمطورين: إذا أرادوا أن تكون هذه الشبكات المرنة والقابلة للتعلم آمنة، فعليهم بناء دفاعاتهم مباشرة داخل عملية التدريب، لضمان أن تتعلم النماذج الرؤية من خلال الضجيج بدلاً من مجرد تجاهله.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.