How Much Regularization Survives Averaging? Update Masking in Federated Learning

في عالم الذكاء الاصطناعي، هناك تحدٍ مستمر يُعرف باسم مشكلة "الاتحاد" (federated). تخيل مجموعة من الأشخاص، يحمل كل منهم قطعة فريدة من لغز، ويرغبون في بناء صورة واحدة كاملة معاً دون أن يظهروا قطعهم الفردية لأي شخص آخر. هكذا يعمل التعلم الآلي الحديث غالباً: حيث يقوم حاسوب مركزي بتنسيق العديد من الأجهزة المختلفة، مثل الهواتف أو المستشعرات، لتعلم مهارة مشتركة. تكمن العقبة في أن البيانات الموجودة على كل جهاز نادراً ما تكون متماثلة؛ فقد يحتوي أحد الهواتف على معظم صور القطط، بينما يحتوي هاتف آخر فقط على صور للسيارات. وعندما يحاول الحاسوب المركزي دمج ما تعلمه الجميع، فإن النموذج الناتج غالباً ما يكافح لفهم الصورة الكاملة، ويفشل في التعميم بشكل جيد على المواقف الجديدة. ولحل هذه المشكلة، سعى الباحثون منذ فترة طويلة لإيجاد طرق للوصول إلى حلول "مسطحة" في المشهد الرياضي للتعلم. فكر في قمة حادة مقابل هضبة واسعة ومسطحة. النموذج الذي يستقر في قمة حادة قد يعمل بشكل مثالي مع البيانات التي رآها تحديداً، لكنه سيتعثر فوراً إذا تغيرت البيانات ولو قليلاً. أما النموذج الذي يستقر على هضبة واسعة ومسطحة فهو أكثر متانة؛ إذ يمكنه التعامل مع الاختلافات الطفنية في البيانات دون أن ينهار.

لسنوات، حاول العلماء إجبار هذه النماذج على إيجاد تلك الهضاب المسطحة عن طريق إضافة ضجيج أو ارتكاب أخطاء صغيرة متعمدة أثناء عملية التعلم. يعمل هذا الضجيج مثل "هزاز" لطيف، يمنع النموذج من العلوق في بقعة ضيقة وهشة. مؤخراً، أصبحت تقنية محددة تسمى "قناع التحديث" (update masking) شائعة في التدريب المركزي، حيث يقوم حاسوب واحد بكل العمل. تقوم هذه الطريقة بإسقاط أجزاء عشوائية من تعليمات التعلم وإعادة تحجيم الباقي، مما يضيف نوعاً مفيداً من الضجيج يدفع النموذج نحو تلك المناطق المستقرة والمسطحة. ومع ذلك، عندما حاول الباحثون نقل هذه التقنية إلى بيئة التعلم الاتحادي، حيث تتعلم أجهزة عديدة بشكل منفصل ثم تدمج نتائجها، بدا وكأنها تتلاشى. والسؤال الذي سعى فريق من الباحثين من جامعة "سوفيا" وشركة "شينديان إنرجي" للإجابة عليه كان بسيطاً: أين ذهب ذلك الضجيج المفيد، وهل يمكن استعادته؟

اكتشف الباحثون أن الضجيج لم يختفِ، بل تم تخفيفه ببساطة بفعل عملية دمج النتائج. في إعدادهم التجريبي، كان لديهم مائة جهاز مختلف، أو "عميل"، يتعلم كل منها على شريحة خاصة من البيانات. في النهج القياسي، يقرر كل جهاز عشوائياً الأجزاء التي سيحتفظ بها من تعليمات التعلم الخاصة به والأجزاء التي سيتخلص منها، باستخدام نمط فريد من الاختيارات. وعندما يجمع الخادم المركزي هذه التحديثات ويقوم بمتوسطها معاً، فإن الاختيارات العشوائية للأجهزة الفردية تلغي بعضها البعض. كان الأمر كما لو أن عشرة أشخاص يحاولون دفع جسم ثقيل في اتجاهات عشوائية مختلفة قليلاً؛ والنتيجة الصافية هي أن الجسم بالكاد تحرك. لقد ضعفت العقوبة الرياضية التي تجبر النموذج عادةً على أن يكون متيناً بعامل يساوي عدد الأجهزة في المجموعة. فمع وجود عشرة أجهزة، انخفض التأثير المفيد إلى عُشر قوته الأصلية، مما ترك النموذج بلا حماية تقريباً ضد "الفرط في التخصيص" (overfitting).

اختبر الفريق استراتيجية مختلفة: ماذا لو استخدم كل جهاز نفس نمط الاختيارات؟ إذا دفع عشرة أشخاص الجسم في نفس الاتجاه العشوائي، فسيتم الحفاظ على التأثير. وجد الباحثون أن مزامنة هذه الاختيارات قد استعادت بالفعل الضجيج الواقي، ولكن مع تحفظ رئيسي. تعتمد قوة الضجيج المستعاد كلياً على مدى اتفاق الأجهزة مع بعضها البعض. إذا كانت الأجهزة تتعلم من بيانات مختلفة جداً وكانت تحديثاتها تشير إلى اتجاهات متضاربة، فإن الضجيج المتزامن يصبح غير فعال أو حتى ضاراً. مقياس هذا الاتفاق يسمى "تنوع التدرج" (gradient diversity)، وهو مفهوم يحسب جوهرياً مدى تداخل الجهود الفردية للأجهزة. عندما تكون الأجهزة في تناغم، يعود الضجيج بكامل قوته. وعندما تكون في صراع، يتضاءل الضجيج أو يضيع تماماً.

لفهم سبب حدوث ذلك في الممارسة العملية، أجرى الباحثون تجارب مكثفة باستخدام مجموعة بيانات صور قياسية تسمى CIFAR-10، موزعة عبر مائة عميل محاكى. وقاسوا بدقة مقدار الضجيج الواقي الذي نجا من عملية المتوسط تحت ظروف مختلفة. ووجدوا أنه في الإعداد الأكثر شيوعاً، حيث تتعلم الأجهزة في مجموعات صغيرة (batches) من البيانات، كانت معدل النجاة منخفضاً بشكل صادم. فمن أصل قوة قصوى ممكنة قدرها عشرة، كان الضเศษ من الضجيج الذي وصل إلى النموذج النهائي حوالي 1.19 فقط. هذا الجزء الضئيل يعني أن النموذج لم يكن أكثر متانة من النموذج الذي لم يتم إضافة أي ضجيج إليه على الإطلاق. وتتبع الباحثون هذا الفشل إلى عملية أخذ العينات العشوائية للبيانات التي تحدث في كل خطوة من خطوات التعلم القياسية. فالضجيج الناتج عن اختيار مجموعات صغيرة من الصور طغى على الضجيج المحدد والمفيد الناتج عن تقنية القناع، مما أدى إلى إغراقه.

كما بحث الفريق فيما إذا كان الاختلاف في البيانات نفسها - حقيقة أن بعض الأجهزة لديها المزيد من القطط والبعض الآخر لديه المزيد من السيارات - هو المسبب. قاموا بتغيير توزيع البيانات لجعله غير متوازن للغاية، بحيث تمتلك بعض الأجهزة مائة ضعف بيانات الأجهزة الأخرى. ومن المثير للدهشة أن هذا الاختلاف الشديد لم يكن له تأثير كبير على معدل نجاة الضجيج. وسواء كانت البيانات متطابقة تقريباً أو مختلفة تماماً، ظل معدل نجاة الضجيج عالقاً بين 1.17 و1.50. كان العائق الحقيقي ليس تنوع البيانات، بل طريقة التعلم. فعندما أوقف الباحثون أخذ العينات بالمجموعات الصغيرة وسمحوا لكل جهاز بالتعلم من كامل مجموعته من البيانات دفعة واحدة، قفز معدل النجاة بشكل كبير إلى 8.96. أثبت هذا أن العينات العشوائية للمجموعات الصغيرة كانت السبب الرئيسي لفشل التقنية في بيئات التعلم الاتحادي.

ومع ذلك، اختتمت الدراسة بواقع صادم. فبينما من الممكن رياضياً استعادة القوة الكاملة للضجيج الواقي باستخدام مجموعات بيانات كبيرة وكاملة واختيارات متزامنة، إلا أن القيام بذلك يأتي بتكلفة باهظة على الأداء الفعلي للنموذج. فالإعدادات التي سمحت للضجيج بالبقاء كانت هي نفسها التي أنتجت أسوأ نتائج للتعلم، حيث انخفضت دقة الاختبار بشكل كبير. في التجارب، كانت النماذج الأفضل أداءً، والتي استخدمت مجموعات صغيرة، تفتقر تقريباً إلى أي ضجيج واقٍ، بينما كانت النماذج التي تحتوي على أكبر قدر من الضجيج غير دقيقة لدرجة لا يمكن الاستفادة منها. لم يجد الباحثون حلاً وسطاً حيث يمكن الحفاظ على الضجيج دون التضحية بقدرة النموذج على التعلم.

في النهاية، تكشف الورقة البحثية أن فشل "قناع التحديث" في التعلم الاتحادي ليس سهواً أو خطأً برمجياً، بل هو نتيجة أساسية لكيفية عمل النظام. إن الآلية ذاتها التي تسم تسمح للعديد من الأجهزة بالتعلم معاً - وهي حساب متوسط تحديثاتها - هي أيضاً التي تغسل وتزيل النوع المحدد من الضجيج الذي تعتمد عليه تقنية قناع التحديث. وقد أظهر الباحثون أنه بينما يمكن إجبار الضجيج على البقاء من خلال مزامنة الأجهزة، فإن الشروط المطلوبة للقيام بذلك تتعارض مع الاحتياجات العملية لتدريب نموذج مفيد. إن التأثير الواقي الذي يعمل جيداً في حاسوب واحد ببساطة لا ينتقل إلى شبكة من الأجهزة العديدة، ما لم يكن المرء مستعداً لقبول نموذج يتعلم بشكل سيء للغاية. تترك الدراسة المجال أمام فهم واضح لحدود هذه التقنية، مما يشير إلى أن الحلول المستقبلية يجب أن تبحث في مكان آخر لإيجاد طرق لمساعدة نماذج التعلم الاتحادي في العثور على تلك الهضاب المستقرة والمسطحة.