← أحدث الأبحاث
🤖 machine learning

Rethinking the Transferable Adversarial Attacks and Robust Defense in Federated Learning

تحلل هذه الورقة مدى قابلية انتقال الأمثلة العدائية عبر نماذج العملاء في التعلم الاتحادي للكشف عن ثغرات النظام، وتقترح آلية دفاع قوية قائمة على التدريب العدائي تتفوق على الأساليب الحالية المتطورة.

المؤلفون الأصليون: Zuobin Xiong, Deval Mukherjee, Homook Cho, Wei Li

نُشر 2026-08-27
📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة
CC BY 4.0

المؤلفون الأصليون: Zuobin Xiong, Deval Mukherjee, Homook Cho, Wei Li

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في عالمنا الرقمي الحديث، تتعلم هواتفنا الذكية وأجهزتنا منا باستمرار، فتتوقع الكلمة التالية التي نكتبها أو تتعرف على صوتنا، وكل ذلك دون إرسال صورنا أو رسائلنا الخاصة إلى خادم مركزي. ويتحقق هذا بفضل طريقة تسمى "التعلم الاتحادي" (Federated Learning)، حيث تعمل العديد من الأجهزة معاً لتدريب نموذج ذكي واحد مع إبقاء بياناتها الخاصة مغلقة داخل أجهزتها المحلية. إنها طريقة قوية لبناء أنظمة ذكية تحترم الخصوصية، لكنها تعتمد على ثقة دقيقة: وهي أن كل جهاز يشارك في التدريب صادق ويتبع القواعد. ومع ذلك، تماماً كما يمكن لمشروع جماعي أن يتعرض للتخريب من قبل عضو واحد غير مخلص، فإن هذا النظام الموزع عرضة للمهاجمين الذين قد يحاولون خداع النموذج لارتكاب الأخطاء. وبينما ظل الباحثون لفترة طويلة قلقين بشأن المهاجمين الذين يفسدون بيانات التدريب نفسها، فقد ظهر تهديد أكثر دهاءً: القدرة على صياغة مدخل واحد معدل بعناية يمكنه خداع نسخ مختلفة من النموذج، حتى لو تم تدريب تلك النماذج على مجموعات مختلفة من البيانات.

لقد وضع فريق من الباحثين هدفاً لفهم هذا الخطر المحدد ضمن البيئة المعقدة للتعلم الاتحادي. وركزوا على سيناريو يعمل فيه مهاجم، بصفته أحد الأجهزة المشاركة العديدة، على إنشاء مدخل مخادع مصمم للتسبب في خطأ محدد. وكان جوهر تحقيقهم هو تحديد ما إذا كان الهجوم المصاغ على جهاز واحد يمكن أن ينتقل بنجاح عبر الشبكة لخداع أجهزة أخرى لم تشهد الهجوم من قبل. هذه الظاهرة، المعروفة باسم "القابلية للانتقال" (Transferability)، كانت قد لوحظت في التجارب، لكن الباحثين أرادوا فهم السبب الرياضي وراءها. واكتشفوا أن نجاح مثل هذا الهجوم ليس عشوائياً؛ بل يرتبط ارتباطاً مباشراً بمدى تشابه توزيعات البيانات بين المهاجم والضحية. فإذا بدا محتوى بيانات المهاجم محلياً مشابهاً إحصائياً لبيانات الضحية، فمن المرجح جداً أن يعبر المدخل المخادع الفجوة ويتسبب في خطأ في التصنيف. وعلى العكس من ذلك، إذا كانت آفاق البيانات مختلفة جداً، يفقد الهجوم قوته. وقد تحدى هذا الاكتشاف الافتراض القائل بأن هذه الهجمات ستعمل بنفس الكفاءة ضد أي هدف، كاشفاً بدلاً من ذلك أن التكوين المحدد للبيانات في كل جهاز يعمل كدرع طبيعي أو كنقطة ضعف.

ولإثبات هذا الارتباط، حلل الباحثون العلاقة بين معاملات النموذج وتوزيعات البيانات للمهاجمين والضحايا. ووجدوا أن الاختلاف في كيفية توزيع البيانات عبر الشبكة يخلق مسافة قابلة للقياس بين النماذج. وعندما تكون هذه المسافة صغيرة، أي عندما تكون البيانات متشابهة، ينتقل الهجوم بسهءولة. وعندما تكون المسافة كبيرة، يفشل الهجوم. سمحت لهم هذه الرؤية بالانتقال من مجرد الملاحظة البسيطة إلى فهم نظري لسبب كون بعض الأجهزة أكثر عرضة للاختراق من غيرها. وقد أثبتوا أنه في بيئة واقعية حيث تمتلك الأجهزة أنواعاً مختلفة من البيانات، فإن فعالية الهجوم تكون محدودة بهذه الاختلافات. وهذا يعني أنه في شبكة متنوعة، لا يمكن للمهاجم أن يفترض ببساطة أن حيلته المصاغة ستنجح مع الجميع؛ إذ إن الطبيعة المحددة لبيانات الضحية هي التي تحدد النتيجة.

وبعد تحديد السبب الجذري لثغرة الضعف، صمم الفريق آلية دفاع جديدة لحماية النظام. وبدلاً من محاولة اكتشاف المهاجم أو تصفية التحديثات السيئة، ركزوا على جعل النماذج نفسها أكثر متانة. فقد قدموا طريقة تعمل بمثابة مرشح (فلتر) في بداية معالجة النموذج، حيث تقوم بتجريد الميزات المحددة التي يسهل التلاعب بها بواسطة هذه المدخلات المخادعة مع الحفاظ على المعلومات الأساسية والمفيدة سليمة. وتترافق هذه العملية مع تقنية تدريب حيث تتعرض النماذج لهذه المدخلات المخادعة أثناء مرحلة التعلم، مما يعلمها التعرف على الخداع وتجاهله. ومن خلال القيام بذلك، تتعلم النماذج الاعتماد على أنماط أكثر استقراراً بدلاً من التفاصيل الهشة التي يستغلها المهاجمون. والنتيجة هي نظام يمكنه الصمود أمام هذه الهجمات القابلة للانتقال دون التضحية بقدرته على أداء المهام العادية واليومية.

اختبر الباحثون أفكارهم باستخدام مجموعات بيانات صور من العالم الحقيقي، محاكيين شبكة من الأجهزة ذات مستويات متفاوتة من تنوع البيانات. وفي السيناريوهات التي كانت فيها البيانات موحدة عبر جميع الأجهزة، انهارت النماذج القياسية تماماً عند مواجهة هذه الهجمات، وغالباً ما فشلت في التعرف على الصور بشكل صحيح في كل مرة تقريباً. ومع ذلك، حافظت طريقة الدفاع الجديدة على دقة عالية، حيث قاومت الهجمات بنجاح وحافظت على عمل النظام. وحتى في السيناريوهات الأكثر تعقيداً وواقعية حيث كانت البيانات غير متوازنة ومائلة بشدة، صمدت طريقة الدفاع، متفوقة على الأساليب الحالية التي كانت تعتبر الأفضل المتاحة سابقاً. وقد أكدت التجارب أنه من خلال فهم الرابط بين توزيع البيانات وقابلية انتقال الهجوم، من الممكن بناء أنظمة تعلم اتحادي ليست خاصة فحسب، بل أيضاً مرنة ضد التلاعب المتطور. ويشير هذا العمل إلى أن طريق الذكاء الاصطناعي الآمن لا يكمن فقط في صد المهاجمين، بل في فهم البنية الأساسية للبيانات التي تغذي هذه الأنظمة.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 🤖 cs.LG →