Native Byzantine-Robust Aggregation for Trustworthy Federated Learning: A C++20 Evaluation of Krum, Multi-Krum, Trimmed Mean, and Coordinate-wise Median

تخيل مجموعة من الغرباء يحاولون حل لغز معقد معاً، لكنهم جميعاً في غرف مختلفة ولا يمكنهم رؤية قطع بعضهم البعض. يمكنهم فقط إرسال أوصاف لتقدمهم إلى قائد مركزي. هذا هو جوهر طريقة حوسبة حديثة تسمى "التعلم الاتحادي" (Federated Learning)، حيث تقوم العديد من الأجهزة بتدريب ذكاء اصطنا-عي مشترك دون مشاركة بياناتها الخاصة أبداً. يعمل النظام بشكل رائع عندما يلعب الجميع بنزاهة، ولكنه يواجه نقطة ضعف حرجة: ماذا لو كان أحد هؤلاء الغرباء يكذب؟ يمكن لجهاز مخترق أن يرسل وصفاً خاطئاً تماماً، ليس لأنه معطل، بل لأنه خبيث، ويهدف إلى إفساد الإجابة النهائية. في هذا السيناريو، لا يكفي مجرد الثقة في الأغلبية، لأن عدداً قليلاً من الفاعلين السيئين يمكن أن يجر المجموعة بأكملها بعيداً عن المسار الصحيح. التحدي الذي يواجه العلماء هو بناء نظام يمكنه كشف هؤلاء الكاذبين وتجاهل نصائحهم السيئة، لضمان بقاء النتيجة النهائية جديرة بالثقة حتى عندما يحاول بعض المشاركين تخريب العملية بنشاط.

لقد عرف الباحثون منذ فترة طويلة كيفية تصفية هؤلاء الفاعلين السيئين رياضياً باستخدام قواعد محددة، لكن تحويل تلك القواعد إلى برمجيات سريعة وموثوقة كان أمراً صعباً. تتناول دراسة جديدة أجراها "مد شانوير إسلام شاغور" في جامعة فورونيش الحكومية للغابات والتكنولوجيا هذه المشكلة من خلال بناء محرك عالي السرعة لتشغيل فحوصات السلامة هذه. لم يخترع الفريق طريقة جديدة لتصفية البيانات السيئة؛ بل أخذوا أربع طرق معروفة وموجودة بالفعل لرصد الكاذبين وأعادوا بناءها من الصأس باستخدام لغة برمجة حديثة مصممة للسرعة والأمان. كان هدفهم هو إثبات أن آليات السلامة هذه يمكن أن تعمل بسرعة كافية لتكون مفيدة في التطبيقات الواقعية، مع ضمان عدم قبول مدخلات تالفة أو خطيرة عن طريق الخطأ.

ركز الباحثون على أربع استراتيجيات محددة للتعامل مع البيانات السيئة. الاستراتيجيتان الأوليان، والمعروفتان باسم "كرام" (Krum) و"مالتي كرام" (Multi-Krum)، تعملان من خلال قياس مدى بعد تحديث كل شخص عن الآخرين. إذا كان تحديث شخص ما مختلفاً بشكل صارخ عن المجموعة، فإن النظام يحدد أنه قيمة متطرفة ويختار إما الشخص الأكثر اتساقاً أو يحسب متوسط الأشخاص الأكثر اتساقاً. أما الاستراتيجيتان الأخريان، وهما "المتوسط المقطوع" (Trimmed Mean) و"الوسيط لكل إحداثي" (Coordinate-wise Median)، فتعملان من خلال النظر إلى كل جزء من قطعة اللغز بشكل فردي. فهما تستبعدان أعلى وأدنى الأرقام لكل جزء قبل حساب المتوسط، أو تختاران ببساطة القيمة الوسطى، مما يؤدي فعلياً إلى تجاهل القيم المتطرفة التي قد تحاول حرف النتيجة. وبينما هذه الأفكار الرياضية مفهومة جيداً، أراد الباحثون معرفة كيفية أدائها عندما يتم تنفيذها كبرنامج حاسوبي أصيل يمكنه العمل جنباً إلى جنب مع الأنظمة البرمجية الضخمة المستخدمة في الذكاء الاصطناعي اليوم.

لاختبار عملهم، أنشأ الفريق محاكاة محكومة حيث حاول عشرة عملاء افتراضيين تدريب نموذج عبر خمس وعشرين جولة. في هذه المحاكاة، تمت برمجة اثنين من العملاء للتصرف كمهاجمين خبيثين. حاول أحد المهاجمين قلب اتجاه التقدم تماماً، بينما أغرق الآخر النظام بضجيج عشوائي عالي التباين مصمم لإرباك الحسابات. وبالرغم من هذه المحاولات العدوانية لتعطيل العملية، نجح النظام في توجيه النموذج نحو الهدف الصحيح. بعد خمس وعشرين جولة، تقلصت المسافة بين موقع النموذج الحالي والهدف الحقيقي إلى أقل من خمسة بالمائة مما كانت عليه في البداية. وقد ظل هذا التحقق صحيحاً بالنسبة لطريقة "مالتي كرام"، والمتوسط المقطوع، والوسيط، مما أثبت أن هذه القواعد الراسخة يمكنها بالفعل الصمود أمام معدل هجوم بنسبة عشرين بالمائة في بيئة محكومة.

ومع ذلك، فإن الجزء الأكثر إثارة للدهشة في الدراسة لم يكن فقط أن قواعد السلامة قد نجحت، بل في مدى سرعة تشغيلها مقارنة بأدوات البرمجيات القياسية. قاس الباحثون الوقت المستغرق لمعالجة التحديثات التي تحتوي على ألف معلمة (Parameter) ومرة أخرى مع مائة ألف معلمة. بالنسبة للطرق القائمة على المسافة مثل "كرام" و"مالتي كرام"، كان الكود الأصيل الجديد أسرع بشكل كبير. عند معالجة ألف معلمة، كان الكود الجديد أسرع بأكثر من مرتين من الأدوات القياسية، وعندما زاد الحجم إلى مائة ألف معلمة، أصبح أسرع بأكثر من ثلاث مرات. حدثت هذه السرعة لأن الكود الجديد يمكنه استخدام معالج الكمبيوتر للتعامل مع العديد من الحسابات في وقت واحد وإجراء فحوصات المسافة المعقدة بكفاءة قصوى.

ومع ذلك، كانت القصة مختلفة بالنسبة للطرق الأخرى. فالطريقة التي تعتمد على "المتوسط المقطوع"، والتي تتضمن فرز الأرقام لإيجاد المنتصف، لم تصبح أسرع مع الكود الجديد. في الواقع، في الأحجام الصغيرة، كانت في الواقع أبطأ من الأدوات القياسية، وفي الأحجام الكبيرة، بالكاد تساوت معها. هذا الاكتشاف أمر بالغ الأهمية لأنه يوضح أن إعادة كتابة الكود بلغة أسرع لا يجعل كل شيء أسرع تلقائياً. فالأدوات القياسية لفرز الأرقام هي بالفعل محسنة للغاية لدرجة أن البرنامج المخصص يكافح للتفوق عليها. وجد الباحثون أن ميزة السرعة تعتمد كلياً على الرياضيات التي يتم القيام بها؛ فبالنسبة لبعض المهام، يعد المحرك الجديد قفزة هائلة للأمام، بينما للآخرين، لا يقدم أي فائدة على الإطلاق.

كما أكدت الدراسة أن السرعة لا يمكن أن تأتي على حساب السلامة. تم تصميم النظام الجديد بمنهج "الإغلاق عند الفشل" (Fail-closed)، مما يعني أنه إذا كانت المدخلات غير منظمة، أو كانت الأرقام مفقودة، أو كان التكوين مستحيلاً، فإن النظام ببساطة يرفض التشغيل بدلاً من إنتاج نتيجة قد تكون خطيرة. إنه يتحقق من السيناريوهات المستحيلة، مثل وجود مهاجمين أكثر من عدد الأشخاص الموجودين، ويرفضها فوراً. كما يضمن عدم تسلل أي أرقام غريبة أو غير محددة يمكن أن تفسد النموذج النهائي. تضمن هذه الصرامة بقاء النظام جديراً بالثقة، حتى لو كان ذلك يعني رفض طلب قد يكون نظام أقل حذراً قد حاول معالجته.

في نهاية المطاف، يوضح هذا العمل أن بناء نظام ذكاء اصطناعي جدير بالثقة يتطلب توازناً دقيقاً بين الأمن والأداء. لقد أظهر الباحثون أنه من الممكن إنشاء دفاع قوي ضد الفاعلين الخبثاء يكون سليماً رياضياً وفعالاً حوسبياً، ولكن فقط إذا تم تصميم الأمر ليتناسب مع الطريقة المستخدمة. خلصت الدراسة إلى أنه لا يوجد حل واحد "سريع" لجميع مشكلات السلامة. بدلاً من ذلك، يجب على المهندسين اختيار الأداة المناسبة للمهمة، مع فهم أن بعض قواعد السلامة ستعمل بشكل أسرع من غيرها اعتماداً على حجم البيانات وطبيعة الحساب. ومن خلال الجمع بين فحوصات السلامة الصارمة والحوسبة عالية الأداء، يمكن بناء أنظمة تعلم اتحادي ليست ذكية فحقة فحسب، بل أيضاً مرنة بما يكفي لتكون جديرة بالثقة في العالم الحقيقي.