Model-Consistent Byzantine-Resilient Decentralized Federated Learning for Collaborative Missions
تقدم هذه الورقة البحثية DFL-C، وهي بنية تعلم اتحادي لا مركزي جديدة مقاومة لهجمات بيزنط، تضمن اتساق النموذج العالمي والمتانة ضد هجمات التسميم من خلال دمج بروتوكول إجماع المجموعة الفرعية المشتركة غير المتزامن مع آلية تسجيل ثقة ثنائية النطاق.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل مجموعة من الروبوتات المستقلة، أو الطائرات بدون طيار، أو المستشعرات التي تعمل معاً في بيئة نائية أو خطرة أو معزولة. يتعين عليها تعلم مهارة مشتركة، مثل التعرف على نوع معين من الأعداء أو تحديد مسار آمن، لكن لا يمكنها الاعتماد على كمبيوتر مركزي ليخبرها بما يجب فعله. هذا هو عالم التعلم اللامركزي، حيث تُعلم الآلات بعضها البعض مباشرة. في عالم مثالي، ستتعلم كل آلة الدرس نفسه في نفس الوقت، لتنتهي بامتلاك دماغ متطابق. ولكن في واقع الشبكات اللاسلكية الفوضوي، قد تتأخر الرسائل، وتنقطع الاتصالات، وقد تكون إحدى الآلات معطلة أو حتى خبيثة، ترسل معلومات متضاربة إلى جيران مختلفين لتضليل المجموعة. عندما يحدث هذا، يتوقف التوافق بين الآلات حول ما يعرفونه، ويمكن أن تفشل مهمتهم الجماعية.
لطالما سعى الباحثون لإيجاد طريقة لإبقاء هذه المجموعات اللامركزية على نفس الصفحة، حتى عندما يكون بعض أعضائها غير موثوقين أو كانت الشبكة فوضوية. يقدم بحث جديد نظاماً يسمى DFL-C، صُمم لحل هذه المشكلة تحديداً. فقد بنى الباحثون طريقة تسمح لشبكة من الآلات المستقلة بتدريب نموذج ذكاء اصطناعي مشترك مع ضمان أن تنتهي كل آلة صادقة بامتلاك النسخة ذاتها من ذلك النموذج. والأهم من ذلك، أن هذا النظام يعمل حتى عندما تحاول بعض الآلات خداع المجموعة عبر إرسال أكاذيب مختلفة لجيران مختلفين، أو عندما تكون الشبكة بطيئة وغير متوقعة لدرجة تجعل الآلات تنهي عملها في أوقات متفاوتة.
التحدي الجوهري الذي واجهه الباحثون هو ظاهرة تُعرف باسم "التضليل" (equivocation). في أي شبكة لامركزية قياسية، يمكن لآلة غير صادقة أن ترسل نسخة من الدرس إلى جارها على اليسار ونسخة مختلفة تماماً إلى جارها على اليمين. ولأن كل آلة تتواصل فقط مع جيرانها المباشرين، فمن الصعب جداً اكتشاف أن الآلة تكذب. يؤدي هذا إلى حالة من التشرذم داخل المجموعة، حيث تؤمن آلات مختلفة بأشياء مختلفة. ولإصلاح ذلك، قام الفريق بدمج بروتوكول توافق (consensus protocol) — وهو عملية اتفاق رسمي — في سير عمل التعلم. فقبل أن تدمج الآلات معرفتها الجديدة، تقوم بإجراء فحص للتأكد من أن الجميع يتفقون تماماً على أي من المعلومات هي الصحيحة. هذه العملية تعمل على تصفية الرسائل المتضاربة من الآلات غير الصادقة، مما يضمن أن تتحرك المجموعة للأمام باستخدام مجموعة واحدة وموحدة من التحديثات.
وبعيداً عن مجرد الاتفاق على ما يجب تعلمه، يحتاج النظام أيضاً إلى تقرير مدى الثقة في مساهمة كل آلة. فقد طور الباحثون طريقة تسجيل في مجال مزدوج تعمل كنظام سمعة؛ فهي تراقب أمرين: كيف تتصرف الآلة أثناء عملية الاتفاق، وجودة البيانات التي تقدمها. إذا حاولت آلة ممارسة التضليل، فإن النظام يكشفها فوراً ويخفض درجة ثقتها. وإذا أرسلت آلة بيانات تبدو غريبة أو غير مستقرة مقارنة ببقية المجموعة، تنخفض درجتها أيضاً. وتحدد هذه الدرجة الوزن الذي تحمله دروس تلك الآلة في النموذج النهائي. ومن خلال الجمع بين تسجيل الثقة هذا وبروتوكول الاتفاق، يمكن للنظام تجاهل الجهات السيئة تلقائياً والتركيز على البيانات الموثوقة، وكل ذلك دون الحاجة إلى قائد مركزي لاتخاذ القرار.
اختبر الفريق هذه البنية الجديدة في عمليات محاكاة شملت شبكات مكونة من ثلاث عشرة آلة كحد أقصى، باستخدام مهام معيارية للتعرف على الصور. وقد وضعوا نظامهم في مواجهة الأساليب الحالية التي لا تضمن نموذجاً مشتركاً. وأظهرت النتائج أنه بينما أنتجت الأساليب القديمة غالباً نماذج مختلفة للآلات المختلفة عند تعرضها للهجوم، حافظ النظام الجديد على تزامن مثالي لكل آلة صادقة. وفي السيناريوهات التي يتم فيها تغذية الآلات بأنواع مختلفة من البيانات، وهي مشكلة شائعة في عمليات النشر الواقعية، حافظ النظام الجديد على دقة أعلى من منافسيه. كما أثبت مرونة ضد أنواع معينة من الهجمات، مثل حيل "الباب الخلفي" (backdoor) حيث تحاول آلة خبيثة إجبار المجموعة على التعرف على محفز معين، مثل ملصق مخفي، كشيء مختلف. وقد نجح النظام في قمع هذه الهجمات، مما حافظ على سلامة وتوحيد قرارات المجموعة.
أحد الجوانب الأكثر عملية في التصميم هو كيفية تعامله مع التأخيرات الحتمية في الشبكة الحقيقية. ففي العديد من الأنظمة، تضطر الآلات السريعة إلى الانتظار دون عمل حتى تنتهي أبطأ آلة، مما يهدر الوقت والطاقة. وقد أضاف الباحثون سياسة انتظار ذكية تسم تسمح للمجموعة بالاتفاق على وقت بدء بناءً على سرعة الأغلبية، بدلاً من أبطأ عنصر خارجي. وهذا يعني أن الآلات الأسرع يمكنها قضاء وقت أقل في الانتظة ووقت أكثر في العمل أو توفير الطاقة. أظهرت الاختبارات أن هذا النهج وفر كميات كبيرة من وقت الخمول، خاصة عندما كانت الآلات ذات سرعات متفاوتة جداً. ورغم أن عملية الاتفاق تضيف وقتاً طفيفاً إلى كل جولة تعلم، فقد وجد الباحثون أن هذه التكلفة ضئيلة مقارنة بالوقت المستغرق في تدريب النماذج فعلياً، مما يجعل المقايضة تستحق العناء من أجل السلامة والاتساق اللذين توفرهما.
تثبت هذه الدراسة أنه من الممكن الحصول على شبكة تعلم لامركزية تكون قوية ضد الجهات الخبيثة ومتسقة تماماً في مخرجاتها. وهذه خطوة هامة نحو تطبيقات تكون فيها السلامة أمراً بالغ الأهمية، مثل أسراب الطائرات بدون طيار التي تبحث عن ناجين، أو المركبات ذاتية القيادة التي تنسق في مناطق الكوارث. في مثل هذه المواقف، قد يكون اتخاذ روبوتين لقرارين مختلفين بشأن نفس التهديد أمراً كارثياً. ومن خلال ضمان أن كل آلة في الشبكة ترى نفس الواقع، قدم الباحثون أساساً لذكاء اصطناعي تعاوني أكثر موثوقية يمكنه العمل دون قيادة مركزية، حتى في مواجهة الخداع والفوضى.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.