← أحدث الأبحاث
💻 علوم الحاسوب

FedEAGD: Trajectory-Guided Drift-Aware Distillation for Personalized Federated Learning

يُعد FedEAGD إطار عمل للتعلم الاتحادي المخصص الذي يعالج عدم تجانس البيانات والمشاركة الجزئية للعملاء من خلال توظيف آلية تقطير موجهة بالمسار ومدركة للانجراف مع نقل معرفي تاريخي تكيفي ودمج متبقي بوابي تدريجي لتحسين دقة النموذج بشكل كبير في ظل ظروف التوزيع غير المتماثل (non-IID).

المؤلفون الأصليون: Mengjia Lu, Ping Zhang, An Bao, Keyi Xu, Jiechang Wang

نُشر 2026-11-10
📖 5 دقيقة قراءة🧠 قراءة متعمّقة

المؤلفون الأصليون: Mengjia Lu, Ping Zhang, An Bao, Keyi Xu, Jiechang Wang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

في عالمنا الرقمي الحديث، غالبًا ما يتعلم الذكاء الاصطناعي من خلال تجميع البيانات من ملايين الأجهزة، من الهواتف الذكية إلى مستشعرات المستشفيات. هذا النهج، المعروف باسم التعلم الاتحادي (Federated Learning)، يسمح للحواسيب ببناء نماذج قوية دون نقل البيانات الخام نفسها، مما يحافظ على الخصوصية مع تسخير الذكاء الجماعي. ومع ذلك، تبرز مشكلة مستمرة لأن البيانات الموجودة على كل جهاز نادرًا ما تكون متطابقة. فقد يلتقط مستخدم واحد آلاف الصور للقطط، بينما يلتقط آخر صورًا للمناظر الطبيعية فقط؛ وقد يعالج مستشفى واحد معظم المرضى كبار السن، بينما يرى مستشفى آخر معظم الأطفال. وعندما تحاول هذه المصادر المتنوعة للبيانات التعلم من نموذج مشترك واحد، تكون النتيجة غالبًا نظامًا مرتبكًا يؤدي أداءً ضعيفًا للجميع. ولحل هذه المشكلة، توجه الباحثون نحو التعلم الاتحادي المخصص، وهو أسلوب يحاول الموازنة بين أساس مشترك وتعديلات خاصة بكل مستخدم على حدة. ومع ذلك، حتى مع هذه اللمسات الشخصية، يمكن أن تصبح عملية التعلم غير مستقرة. فمع تحديث النموذج بمرور الوقت، يمكن لطريقة فهمه لقطع معينة من المعلومات أن تتغير بشكل غير متوقع، مما يتسبب في نسيان النظام لما تعلمه في الخطوات السابقة أو تطبيق الدروس الخاطئة على البيانات الخاطئة.

قام فريق من الباحثين من جامعة هنان للعلوم والتكنولوجيا وجامعة هنان للرياضة بتطوير إطار عمل جديد يسمى FedEAGD لمعالجة عدم الاستقرار هذا. يركز عملهم على قضية دقيقة ولكنها بالغة الأهمية: كيف يتغير فهم نقطة بيانات واحدة، مثل صورة معينة، مع تعلم النموذج عبر جولات عديدة من التواصل. وبدلاً من معاملة كل قطعة من البيانات بنفس الطريقة، يتتبع أسلوبهم تاريخ كيفية رؤية النموذج لكل عينة فردية. وقد وجدوا أن بعض الصور تجعل النموذج يغير رأيه بشكل جذري من جولة إلى أخرى، بينما تظل صور أخرى مستقرة. ومن خلال قياس هذا "الانحراف" (drift)، يمكن للنظام تحديد مدى الاعتماد على الدروس الماضية لكل عنصر. فإذا كانت قطعة من البيانات تسبب تذبذبًا للنموذج، يقوم النظام بتطبيق توجيه أقوى من الماضي لتهدئته. أما إذا كانت البيانات مستقرة، فإن النظام يخفف قبضته، مما يسمح للنموذج بالتكيف بحرية أكبر مع الاحتياجات الفريدة لذلك الجهاز.

بنى الباحثون هذا النظام حول مفهوم يسمونه "المعلم التاريخي" (historical teacher). تخيل طالبًا يحتفظ بمذكرات عن تقدمه الخاص. في هذه النسخة الرقمية، يحتفظ كل جهاز بسجل مبسط ومتوسط لكيفية ظهور نموذجه المشترك بمرور الوقت. وعندما يتدرب الجهاز على دفعة جديدة من البيانات، فإنه يقارن فهمه الحالي لكل صورة مقابل هذا السجل التاريخي. وإذا اختلف المنظور الحالي لصورة ما بشكل كبير عن السجل التاريخي، فإن النظام يدرك أنها لحظة عدم استقرار. حينها، يقوم تلقائيًا بزيادة وزن الدرس التاريخي لتلك الصورة المحددة، وكأنه يقول: "هذه حالة صعبة؛ دعونا نلتزم بما عرفناه من قبل". يحدث هذا على أساس العينة الواحدة، مما يعني أن صورة واحدة قد تتلقى توجيهًا مكثفًا بينما تتلقى جارتها القليل جدًا، اعتمادًا كليًا على مدى تغير رؤية النموذج لها.

ولضمان عدم تحول النموذج إلى نظام جامد للغاية، قدم الباحثون أيضًا طريقة لإدخال المعلومات المخصصة تدريجيًا. في المراحل الأولى من التدريب، يركز النظام على بناء أساس مشترك قوي يعمل للجميع. ومع تقدم التدريب، يبدأ ببطء في نسج الميزات الفريدة الخاصة بكل جهاز. ويتم ذلك من خلال آلية "بوابة" (gated mechanism) تعمل مثل مفتاح خافت للإضاءة (dimmer switch)، حيث ترفع مستوى صوت التفاصيل المخصصة ببطء فقط بعد تأمين الأساس المشترك. وهذا يمنع النظام من الارتباك بسبب محاولة تعلم الكثير من التفاصيل المحددة في وقت مبكر جدًا. كما أضاف الباحثون ضوابك سلامة لضمان أن هذه الإضافات المخصصة لا تؤدي بالخطأ إلى تدهور أداء النموذج المشترك، ويستخدمون تقنية تنعيم في نهاية العملية لتنسيق التحديثات النهائية بين الخادم المركزي والأجهزة الفردية.

اختبر الفريق هذا النهج على عدة مجموعات بيانات صور معروفة، بما في ذلك مجموعات من الأرقام المكتوبة بخط اليد، والأشياء اليومية، والمشاهد المعقدة التي تحتوي على مئات الفئات. كما قاموا بمحاكاة بيئات كانت فيها البيانات غير متساوية للغاية، حيث تمتلك بعض الأجهزة أنواعًا مختلفة تمامًا من الصور مقارنة بالأجهزة الأخرى. وفي ظل هذه الظروف الصعبة، تفوق الأسلوب الجديد باستمرار على الأساليب الحالية. وفي مجموعة بيانات تضم 100 فئة مختلفة من الأشياء مع توزيع غير متساوٍ للغاية للبيانات، حقق إطار العمل الجديد دقة بلغت 63.05 بالمائة. وكانت هذه النتيجة أعلى بنحو ست نقاط مئوية من أفضل طريقة أخرى تم اختبارها، وهي فجوة كبيرة في مجال تعلم الآلة. كما أثبت النظام متانته عندما شاركت أجهزة أقل في التدريب أو عندما زاد عدد الأجهزة، محافظًا على ميزته مقارنة بالأساليب الأخرى بغض النظر عن النطاق أو مستوى المشاركة.

والأهم من ذلك، أن هذا التحسن لم يأتِ على حساب زيادة التواصل. ففي العديد من الأنظمة المخصصة، يؤدي إرسال بيانات فريدة ذهابًا وإيابًا بين الأجهزة والخادم المركزي إلى عبء ثقيل على حركة المرور. في إطار العمل الجديد هذا، يتم إرسال الجزء المشترك من النموذج فقط عبر الشبكة. أما المكونات المخصصة، والسجلات التاريخية، والتعديلات المحددة، فتظل مخزنة محليًا على كل جهاز. وهذا يعني أن النظام يمكنه التعلم من الخصائص الفريدة لكل جهاز دون سد الشبكة ببيانات إضافية. وقد قاس الباحثون الوقت ونقل البيانات المطلوب ووجدوا أن الطريقة الجديدة فعالة، حيث تستغرق حوالي 16.84 ثانية لكل جولة تدريب على الأجهزة القياسية، وهو أمر يضاهي الطرق الأخرى خفيفة الوزن ولكنه أكثر فعالية بكثير.

تشير الدراسة إلى أن مفتاح التعلم المخصص الأفضل لا يكمكم فقط في امتلاك نماذج مختلفة لمستخدمين مختلفين، بل في فهم كيفية تطور تلك النماذح بمرور الوقت. فمن خلال الانتباه إلى مسار كيفية رؤية النموذج لقطع فردية من البيانات، يمكن للنظام تطبيق القدر المناسب من التوجيه في المكان الذي تشتد الحاجة إليه بالضبط. ويسمح هذا النهج للذكاء الجماعي للشبكة بأن يظل مستقرًا مع الاستمرار في تلبية الاحتياجات الفريدة لكل مشارك. ويخلص الباحثون إلى أن هذه الطريقة توفر وسيلة عملية لبناء أنظمة أكثر موثوقية ودقة للبيئات الحساسة للخصوصية، من الرعاية الصحية إلى الأجهزة الشخصية، حيث تكون البيانات بطبيعتها متنوعة وتكلفة الخطأ عالية. إن عملهم يثبت أنه من خلال الاستماع بعمق أكبر إلى تاريخ كيفية تعلم النموذج، يمكننا مساعدته على التعلم بشكل أفضل في الحاضر.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →