Influence-Oriented Personalized Federated Learning
تقترح هذه الورقة FedC^2I، وهو إطار عمل للتعلم الاتحادي الشخصي الموجه بالتأثير، والذي يعمل على قياس التأثيرات على مستوى العميل ومستوى الفئة عبر ناقلات ومصفوفات مخصصة لتمكين التجميع التكيفي والشخصي للمعلمات وتحسين الأداء في ظل ظروف البيانات غير المتماثلة (non-IID).
البحث الأصلي مُهدى إلى الملك العام بموجب CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي، تتعلم الآلات من خلال إيجال الأنماط في كميات هائلة من البيانات. ولعقود من الزمن، كان هذا التعلم يحدث في مكان واحد: مركز حاسوبي ضخم حيث تُجمع كل المعلومات. ولكن مع تحول حياتنا الرقمية لتصبح أكثر خصوصية وبياناتنا أكثر حساسية، ظهر نهج جديد يسمى "التعلم الاتحادي" (Federated Learning). تخيل مجموعة من الأشخاص يريدون حل لغز معاً ولكن لا يمكنهم إظهار قطعهم الفردية لأي شخص آخر. بد instead من جلب القطع إلى طاولة مركزية، يحتفظون بها في أيديهم. إنهم يمررون فقط القواعد التي تعلموها من قطعهم إلى منسق، الذي يمزج هذه القواعد معاً ويعيد إرسالها. وهذا يسمح للمجموعة ببناء فهم مشترك وأكثر ذكاءً دون الكشف أباً عن معلوماتهم الخاصة. ومع ذلك، تبرز مشكلة عندما تكون القطع مختلفة جداً. فإذا كان أحد الأشخاص ينظر إلى أرقام مكتوبة بخط اليد على سبورة بيضاء، بينما ينظر آخر إلى نص رقمي على شاشة، فقد تتعارض القواعد التي تعلموها، مما يجعل النموذج المشترك النهائي مربكاً وأقل فعالية للجميع.
لقد حاول الباحثون طويلاً إصلاح ذلك من خلال حساب متوسط القواعد من جميع المشاركين، بافتراض أن الحل الوسط هو الأفضل للجميع. لكن هذا النهج غالباً ما يفشل عندما تكون البيانات متنوعة للغاية، مما يترك بعض المشاركين مع نموذج لا يناسب احتياجاتهم الخاصة. وقد اقترح فريق من العلماء الآن طريقة مختلفة للتعامل مع هذا التعاون، وهي طريقة تدرك أن ليس كل الشركاء مفيدين بنفس القدر لكل شريك آخر. لقد طوروا نظاماً يسمى "FedC2I"، والذي يسمح لكل مشارك بتقرير، بناءً على وضعه الخاص، أي المشاركين الآخرين هم الأكثر استحقاقاً للاستماع إليهم. وبدلاً من إجبار الجميع على اتباع مجموعة واحدة من التعليمات، يسمح هذا الأسلوب الجديد لكل عميل ببناء نسخة مخصصة من النموذج المشترك عبر الاستعارة الانتقائية لأكثر الرؤى فائدة من الآخرين.
يكمن جوهر هذا النهج الجديد في قياس "التأثير". في الإعداد القياسي، يساهم كل مشارك في النموذج النهائي بوزن ثابت، يعتمد غالباً ببساطة على حجم بياناته. ويرى الباحثون أن هذا يشبه مطالبة الجميع في غرفة بالتحدث بنفس مستوى الصوت، بغض النظر عما إذا كان صوت أحدهم مفيداً للشخص الذي يحاول الاستماع أم لا. في نظامهم، يقوم كل عميل بإجراء تجربة صغيرة قبل قبول القواعد الجديدة. يقومون مؤقتاً بإزالة مساهمة مشارك آخر ويرون مدى انخفاض أدائهم الخاص. إذا أدت إزالة شريك معين إلى انخفاض كبير في الدقة، فسيُعتبر هذا الشريك ذا تأثير عالٍ ويُمنح وزناً أكبر في جولة التعلم التالية. أما إذا لم تؤدِ إزالة شريك ما إلى فرق كبير، فيتم تقليل تأثيره. وتحدث هذه العملية لكل مشارك، مما يخلق خريطة فريدة لمن يساعد من.
ولجعل هذا الأمر أكثر دقة، أدرك الباحثون أن التأثير لا يتعلق بالشخص بأكل، بل يتعلق أيضاً بمواضيع محددة. ففي مهمة مثل التعرف على الأرقام، قد يكون أحد المشاركين بارعاً في تحديد الرقم سبعة ولكنه سيئ في الرقم ثلاثة، بينما يكون الآخر العكس تماماً. يفصل النظام الجديد التعلم إلى جزأين: القدرة العامة على رؤية الأشكال والميزات، والقواعد المحددة لتسميتها. وهو يقيس التأثير بشكل منفصل لهذين الطبقتين. بالنسبة للميزات العامة، فإنه ينظر إلى مقدار مساعدة أحد العملاء للآخر في فهم النمط العام للبيانات. وبالنسبة للتسميات المحددة، فإنه يتحقق من مقدار المساعدة التي يقدمها العميل لكل فئة فردية. وهذا يسمح للعميل بتعلم الشكل العام للرقم "7" من جار له، والطريقة المحددة لرسم الرقم "7" من جار آخر، مما يجمع بين أفضل ما في العالمين دون ارتباك القواعد المتضاربة.
اختبر الفريق هذه الطريقة على مجموعتين مختلفتين من البيانات تتضمن أرقاماً مكتوبة بخط اليد وصوراً لأشياء يومية من مجالات متنوعة. وفي هذه الاختبارات، تم جعل البيانات صعبة عمداً، مع خطوط وخلفيات وظروف إضاءة مختلفة لمحاكاة الواقع الفوضوي. وأظهرت النتائج أن هذا النهج الموجه نحو التأثير تفوق باستمرار على الأساليب الحالية. وفي مهمة التعرف على الأرقام، حسن النظام الجديد متوسط الدقة بهامش ملحوظ مقارنة بأفضل التقنيات السابقة. وفي مهمة التعرف على الأشياء، حقق أيضاً درجات أعلى في جميع المجالات. ووجد الباحثون أن النظام كان جيداً بشكل خاص في تحديد العملاء الذين يتشاركون خصائص متشابهة، مثل نفس أسلوب الكتابة اليدوية أو لون الخلفية، ومنح الأولوية لتلك الروابط.
وكان أحد النتائج الرئيسية هو أن التأثير بين العملاء ليس ثابتاً؛ فهو يتغير مع تقدم عملية التعلم. في المراحل الأولى، تكون الروابط مرنة نوعاً ما، ولكن مع تعلم النماذج المزيد، يستقر النظام بشكل طبيعي في نمط مستقر حيث يعتمد العملاء باستمرار على الشركاء الأكثر صلة. كما اختبر الباحثون مدى حساسية النظام للإعدادات المستخدمة في هذه القياسات، ووجدوا أن إعداداً معيناً كان يعمل بشكل أفضل لكلا مجموعتي البيانات، مما سمح للنظام بأن يكون انتقائياً بما يكفي لتجاهل الضجيج غير المفيد مع البقاء منفتحاً بما يكفي للتعلم من مصادر متنوعة. وأكدت التجارب أنه من خلال قياس التأثير على مستوى العميل وعلى مستوى الفئة، يمكن للنظام إنشاء بيئة تعلم أكثر قوة وتخصيصاً.
يشير هذا العمل إلى أن مستقبل التعلم الآلي التعاوني قد لا يتعلق بإيجاد نموذج واحد مثالي للجميع، بل بإنشاء أنظمة مرنة تتكيف مع الاحتياجات الفردية. فمن خلال قياس مدى مساعدة مشارك واحد لآخر، وبالتمييز بين المعرفة العامة والخبرة المحددة، أظهر الباحثون أن الآلات يمكنها التعلم معاً بشكل أكثر فعالية دون المساس بخصوصيتها. ولا يتطلب هذا الأسلوب مشاركة البيانات الخام أو الإحصاءات المعقدة؛ بل يعتمد كلياً على كيفية أداء النماذج عند اختبارها ضد بعضها البعض. وهذا يجعل منه حلاً عملياً للسيناريوهات التي تكون فيها البيانات متنوعة والخصوصية ذات أهمية قصوى، مما يوفر وسيلة للذكاء الاصطناي ليزداد ذكاءً من خلال التعاون الذي يحترم السياق الفريد لكل مشارك.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.