Sovereign-Mohawk: Machine-Checked Hierarchical Byzantine Resilience and Probabilistic Composition for Federated Learning

في العالم الحديث، غالبًا ما تكون نماذج تعلم الآلة ضخمة جدًا والبيانات حساسة للغاية بحيث لا يمكن جمعها في مكان مركزي واحد. بدلاً من ذلك، تتيح تقنية تُسمى "التعلم الاتحادي" (Federated Learning) لآلاف الأجهزة، من الهواتف الذكية إلى المستشعرات الصناعية، تدريب ذكاء مشترك دون إرسال بياناتها الخاصة أبدًا إلى خادم مركزي. يتعلم كل جهاز من معلوماته المحلية الخاصة ويرسل فقط قطعة صغيرة ومحدثة من النموذج ليتم دمجها. يعد هذا النهج بمستقبل يتحسن فيه الذكاء الاصطناائي دون المساس بالخصوصية الشخصية. ومع ذلك، يواجه هذا النظام اللامركزي ثغرة حرجة: مشكلة "بيزنطة" (Byzantine). في هذا السياق، يحدث الفشل البيزنطي عندما يتصرف بعض المشاركين في الشبكة بشكل خبيث أو يتعطلون، مما يؤدي إلى إرسال تحديثات فاسدة تهدف إلى تسميم النموذج بأك entier. إذا تمكن حتى عدد قليل من هؤلاء الفاعلين السيئين من تمرير بياناتهم الفاسدة في الحساب النهائي، فإن النظام بأكمله يمكن أن ينهار.

لإدارة النطاق الهائل لملايين الأجهزة، غالبًا ما ينظم المهندسون هؤلاء المشاركين في تسلسل هرمي، مثل شجرة ذات أغصان وأوراق. الفكرة هي أنه إذا قام كل مجموعة محلية من الأجهزة بفحص أعضائها بحثًا عن الفاعلين السيئين قبل إرسال البيانات إلى أعلى السلسلة، فإن الشبكة بأكملها ستظل آمنة. إنه افتراض مطمئن: إذا قام كل مشرف محلي بعمله، فسيكون القائد العالمي بخير. لكن هذا الافتراض، الذي طالما اعتبر من المسلمات في تصميم هذه الأنظمة، تبين أنه معيب بشكل خطير. تكشف دراسة جديدة لرايان ويليامز، بعنوان "سوفيرين-موهوك" (Sovereign-Mohawk)، عن هذه النقطة الضعيفة الخفية وتقدم حلاً مثبتًا رياضيًا يستبدل التخمين باليقين.

بدأ الباحثون باختبار الاعتقاد الشائع بأن الضمانات الأمنية المحلية تضمن السلامة العالمية. لقد بنوا نموذجًا رياضيًا رسميًا لتسلسل هرمي مكون من مستويين، حيث ترسل مجموعات من الأجهزة تحديثاتها إلى مشرفين إقليميين، الذين يرسلون بعد ذلك ملخصًا إلى قائد عالمي. في نموذجهم، أنشأوا سيناريو يتبع فيه كل مشرف إقليمي القواعد بدقة. كان لكل مجموعة محلية أغلبية من الأجهزة الصادقة، ونجحت المرشحات المحلية في حظر الفاعلين السيئين الواضحين داخل دوائرهم الصغيرة. ومع ذلك، عندما نظر الباحثون إلى الصورة الكبيرة، وجدوا أن الشبكة العالمية كانت في الواقع يهيمن عليها فاعلون سيئون. من خلال وضع الأجهزة الخبيثة بعناية بحيث تكون تحت عتبة الكشف مباشرة في كل مجموعة محلية، تمكنوا من خلق موقف تسيطر فيه الأطراف المعادية على ستين بالمائة من إجمالي الشبكة. كان الحراس المحليون يقومون بعملهم، لكن النظام ككل قد انهار. لم يكن هذا محاكاة لفشل محتمل؛ بل كان برهانًا تم التحقق منه آليًا بأن الطريقة القديمة في التفكير ببساطة لا تعمل.

بعد دحض الطريقة القديمة، احتاج الفريق إلى وسيلة لإصلاح التسلسل الهرمي دون التخلي عن كفاءة المعالجة المحلية. أدركوا أن المشكلة نشأت لأن توزيع الأجهزة كان قابلًا للتنبؤ به. إذا عرف المهاجم بالضبط أي الأجهزة سيتم تجميعها معًا، فيمكنه ترتيب عقد مخرّبة لتتسلل عبر الثغرات. ولحل هذه المشكلة، قدم الباحثون طريقة للتعيين العشوائي. بدلاً من ترك الأجهزة في مجموعات ثابتة، اقترحوا خلطها في لجان باستخدام عملية تشبه سحب الأسماء من قبعة، ولكن مع ضمانات رياضية صارمة. أثبتوا أنه إذا تم تعيين الأجهزة لهذه اللجان عشوائيًا، فإن احتمال تركيز مجموعة خبيثة لعدد كافٍ من العناصر السيئة لكسر مرشح محلي يصبح صغيرًا جدًا لدرجة أنه يكاد يكون معدومًا. تحققوا من ذلك باستخدام نظام حاسوبي مصمم للتحقق من البراهين الرياضية، مما أظهر أنه حتى مع وجود خمسين ألف جهاز في لجنة وعدد كبير من الفاعلين السيئين في إجمالي السكان، فإن احتمال الفشل هو أقل من واحد في رقم ضخم جدًا يحتوي على أصفار أكثر من عدد الذرات في الكون.

لم يُترك هذا الاختراق النظري كفكرة مجردة. فقد بنى الباحثون نظام برمجيات فعالًا لإثبات أن طريقتهم الجديدة يمكن أن تعمل في العالم الحقيقي. أنشأوا محركًا عالي السرعة مكتوبًا بلغة تُسمى "غو" (Go)، والذي يدير تدفق البيانات بين آلاف الأجهزة المحاكية. تضمن هذا النظام عدة طبقات من الحماية لضمان الخصوصية والأمن. فقد أضاف نوعًا محددًا من الضجيج الرياضي إلى تحديثات البيانات لمنع أي شخص من الهندسة العكسية للمعلومات الخاصة بالمستخدمين الأفراد. كما استخدم أدوات تشفير متقدمة لإثبات أن البيانات المرسلة كانت صالحة دون الكشف عن البيانات نفسها، واستخدم طرق تشفير جديدة مصممة لمقاومة الهجمات من أجهزة الكمبيوتر الكمومية المستقبلية.

اختبر الفريق هذا النظام في بيئة محكومة تحاكي شبكة ضخمة، حيث شغّل ما يصل إلى ألف وخمسمائة جهاز افتراضي على جهاز كمبيوتر فيزيائي واحد. أخضعوا النظام لهجمات شرسة، حيث كانت نسبة تصل إلى خمسة وثلاثين بالمائة من الأجهزة تحاول بنشاط تخريب عملية التعلم. رغم هذا الضغط المكثف، صمد النظام. استمر النموذج في التعلم والتحسن، حيث وصل إلى دقة 86.4 بالمائة بعد مائة جولة من التدريب. كان هذا انخفاضًا طفيفًا جدًا مقارنة بنظام مثالي غير معرض للهجوم، والذي وصل إلى 88.2 بالمائة. كانت تكلفة هذا الأمن منخفضة بشكل مفاجئ؛ إذ لم تضف عملية التحقق من البراهين وخلط الأجهزة سوى حوالي خمسة وثلاثين مللي ثانية إلى إجمالي وقت كل جولة تدريب، وهو تأخير قصير جدًا يُقاس بالميكروثانية.

يمثل هذا العمل تحولًا كبيرًا في كيفية تفكيرنا في تأمين الذكاء الاصطناعي واسع النطاق. إنه ينقل المجال بعيدًا عن الاعتماد على الافتراضات المتفائلة حول كيفية توسع الفحوصات المحلية، ونحو أساس من الضمانات الصارمة التي يتم التحقق منها آليًا. ومن خلال إثبات أن النموذج الهرمي القديم كان مكسورًا وتوفير طريقة احتمالية جديدة لتنظيم الشبكة، أظهر الباحثون أنه من الممكن بناء أنظمة تتسم بالكفاءة والأمان ضد المهاجمين المصممين. يقف نظام "سوفيرين-موهوك" كنموذج لمستقبل يمكن فيه لملايين الأجهزة التعاون بأمان، مع معرفة أن ذكاءها الجماعي محمي ليس بالأمل، بل بالرياضيات التي تم التحقق منها حتى أدق تفاصيلها.