🤖 machine learning

Federated Client Selection under Partial Visibility: A POMDP Approach with Spatio-Temporal Attention

تتناول هذه الورقة تحدي اختيار العملاء في التعلم الاتحادي في ظل الرؤية الجزئية من خلال صياغة المشكلة كعملية ماركوف لاتخاذ القرار خاضعة للملاحظة الجزئية (POMDP)، واقتراح إطار عمل جديد للتعلم المعزز قائم على الانتباه المكاني-الزماني يستفيد من النماذج العالمية التاريخية وتضمينات العملاء لتحقيق أداء فائق في البيئات غير المتجانسة.

المؤلفون الأصليون: Qijun Hou, Yuchen Shi, Pingyi Fan, Khaled B. Letaief

نُشر 2026-05-13

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Qijun Hou, Yuchen Shi, Pingyi Fan, Khaled B. Letaief

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك قائد أوركسترا ضخمة، ولكن مع لمسة غريبة: لا يمكنك رؤية جميع الموسيقيين في وقت واحد. أحياناً، لا ترى سوى عازفي الكمان في الصف الأمامي؛ وأحياناً أخرى، لا ترى سوى عازفي الطبول في الخلف. مهمتك هي اختيار أفضل مجموعة من الموسيقيين لعزف مقطع محدد من الأغنية الآن، لكي تبدو الأوركسترا بأكملها أفضل بمرور الوقت.

هذا هو بالضبط ما تعالجه الورقة البحثية، ولكن بدلاً من الأوركسترا، لدينا التعلم الاتحادي (Federated Learning) (وهي طريقة لتعلم أجهزة الكمبيوتر معاً دون مشاركة بياناتها الخاصة)، وبدلاً من الموسيقيين، لدينا عملاء (Clients) (مثل هاتفك أو مستشعر ذكي).

إليك قصة حلهم، مقسمة ببساطة:

المشكلة: القائد "الأعمى"

في العالم المثالي، سيتمكن الكمبيوتر المركزي (الخادم/Server) من رؤية كل عميل في كل مرة يحتاج فيها لاتخاذ قرار. يمكنه اختيار الأفضل على الإطلاق للمساعدة في تدريب النموذج.

لكن في العالم الحقيقي، الأمور فوضوية:

الخادم المتنقل: تخيل أن الخادم عبارة عن طائرة بدون طيار (درون) تحلق فوق مدينة. يمكنها فقط "سماع" الأجهزة الموجودة في الحي الذي تحوم فوقه حالياً. لا يمكنها رؤية الأجهزة الموجود في البلدة المجاورة.
التوافر العشوائي: تخيل أن الأجهزة هي أشخاص مشغولون. أحياناً يغلقون شبكة الـ Wi-Fi، أو يذهبون للنوم، أو ببساطة لا يرغبون في المشاركة. الخرجم يرى فقط شريحة عشوائية من الحشد.

يُسمى هذا الرؤية الجزئية (Partial Visibility). الخادم يتخذ قراراته وهو معصوب العينين، لا يعرف ماذا يفعل العملاء "غير المرئيين". إذا اختار العملاء المرئيين الخطأ، فإن عملية التعلم بأكملها تتباطأ أو تصاب بالارتباك.

الحل: المحقق المسافر عبر الزمن

أدرك المؤلفون أنه لكي تتخذ قرارات جيدة عندما لا تستطيع رؤية كل شيء، فأنت بحاجة لتكون محققاً يستخدم التاريخ. لقد عاملوا هذه المشكلة كأنها لعبة حيث يتعين على الخادم تخمين الحركة الأفضل بناءً على:

من هو مرئي الآن؟ (الأدلة الحالية).
ماذا حدث في الجولات القليلة الماضية؟ (أدلة الماضي).

أطلقوا على هذا اسم POMDP (عملية ماركوف لاتخاذ القرار تحت الرؤية الجزئية). فكر في الأمر كطريقة متطورة لقول: "ليس لدي الصورة الكاملة، لكن لدي ذاكرة عن التحركات القليلة الماضية، لذا يمكنني تقديم تخمين ذكي".

السلاح السري: العقل "المكاني-الزماني"

لحل هذه المشكلة، بنوا عقلاً اصطناعياً خاصاً باستخدام التعلم التعزيزي (Reinforcement Learning) (التعلم من خلال التجربة والخطأ). لكن هذا العقل يمتلك قوة خارقة: الانتباه المكاني-الزماني (Spatio-Temporal Attention).

دعنا نفكك ذلك باستخدام التشبيه:

الانتباه المكاني (عين "من هو موجود هنا؟"): عندما ينظر الخادم إلى مجموعة العملاء المرئيين، فإنه لا يعاملهم جميعاً بنفس الطريقة. بل يتساءل: "من بين الأشخاص الذين أراهم الآن، من هو الأنسب مع الآخرين؟" إنه يزن أهميتهم بالنسبة لبعضهم البعض.
الانتباه الزماني (عين "الذاكرة"): ينظر الخادم إلى الجولات القليلة الماضية من التدريب. ويتساءل: "كيف تغير النموذج العالمي؟ ماذا تعلمنا في المرة الماضية؟" إنه يستخدم هذا التاريخ لفهم الوضع الحالي بشكل أفضل.

لقد دمجوا هاتين "العينين" في شبكة Q (Q-Network). فكر في هذه الشبكة كمدرب يعطي لكل عميل مرئي "درجة" (قيمة Q). ينظر المدرب إلى أداء العميل الحالي و يتذكر سلوكه السابق ليقرر: "هل هذا العميل لاعب نجم الآن، أم مجرد لاعب عادي؟"

خدعة "بطاقة الهوية"

جزء صعب في الرؤية الجزئية هو أن العميل قد يختفي لفترة ثم يعود. وبدون وسيلة للتعرف عليه، قد يعامله الخادم كغريب.

لذلك، منح المؤلفون كل عميل تضميناً للهوية (Identity Embedding) (مثل بطاقة هوية دائمة). حتى لو كان العميل غير مرئي لمدة 10 جولات، فعندما يعود، يتذكر الذكاء الاصطناعي الخاص بالخادم: "آه، هذا هو العميل رقم 42. أنا أعرف أسلوبه من قبل". هذا يساعد النظام على البقاء مستقراً حتى عندما يتغير الحشد باستمرار.

النتائج: موسيقى أفضل، ضجيج أقل

اختبر الفريق طريقتهم على ثلاث "أوركسترات" مختلفة (مجموعات بيانات: صور ملابس، صور أشياء، وبيانات حركة). وقارنوا "المحقق المسافر عبر الزمن" الخاص بهم بطرق أخرى إما تجاهلت مشكلة الرؤية أو لم تستخدم التاريخ.

كانت النتائج واضحة:

دقة أعلى: تعلمت طريقتهم بشكل أسرع وانتهت بنموذج أذكى من الطرق الأخرى.
اهتزاز أقل: كانت عملية التدريب أكثر سلاسة. الطرق الأخرى كانت تقفز صعوداً وهبوطاً في الأداء (مثل يد ترتجف)، لكن طريقتهم ظلت ثابتة.
التاريخ مهم: اختبروا إلى أي مدى يجب أن ينظر الخادم إلى الوراء. النظر إلى الوراء خطوة واحدة فقط (تجاهل التاريخ) كان الأسوأ. أما النظر إلى الوراء حوالي 5 خطوات فكان هو النقطة المثالية. والنظر إلى الوراء لمسافة أبعد من ذلك لم يضف الكثير.

باختูน الكلمات

تقول الورقة البحثية: عندما لا تستطيع رؤية الجميع في مجموعة تتعلم معاً، فلا تكتفِ بالاختيار العشوائي. استخدم ذكاءً اصطناعياً ينظر إلى من هو مرئي حالياً، ويتذكر ما حدث مؤخراً، ويتعرف على هوية كل شخص بمرور الوقت. هذا النهج "المكاني-الزماني" يجعل عملية التعلم أكثر ذكاءً واستقراراً، حتى عندما يطير الخادم وهو مغطى بالغموض.

ملخص تقني: اختيار العملاء الموحد في ظل الرؤية الجزئية

صياغة المشكلة

يعتمد التعلم الموحد (Federated Learning) عادةً على اختيار فعال للعملاء للتخفيف من تدهور الأداء الناتج عن عدم تجانس البيانات (البيانات غير المتماثلة - non-IID). ومع ذلك، تفترض معظم طرق اختيار العملاء الحالية وجود رؤية كاملة، حيث يمتلك الخادم إمكانية الوصول إلى معلومات تتعلق بمجتمع العملاء بأكم، في كل جولة اتصالات.

تتناول هذه الورقة تحدي الرؤية الجزئية، وهو سيناريو ينشأ في عمليات النشر واسعة النطاق أو القائمة على الحواف (edge-based)، حيث لا يمكن للخادم الوصول إلا إلى مجموعة فرعية من العملاء بسبب قيود مثل:

التنقل (Mobility): الخادم المتنقل الذي يتحرك عبر مناطق الشبكة يمكنه فقط التفاعل مع العملاء ضمن نطاق تغطيته الحالي (مثل سيناريوهات EdgeFlow).
التوافر (Availability): قد يكون العملاء غير متاحين بسبب جدولة المهام، أو مشكلات الاتصال، أو تفضيلات الخصوصية.

في هذا الإعداد، يلاحظ الخادم فقط مجموعة فرعية من العملاء ( $C_t$ ) في الجولة $t$ ، مما يجعل حالة التدريب العالمية قابلة للملاحظة بشكل جزئي. إن مناهج التعلم التعزيزي (RL) الحالية، والتي تصنف عادةً اختيار العملاء كعملية قرار ماركوف (MDP) بافتراض رؤية كاملة للحالة، غير كافية لهذه المشكلة.

المنهجية

1. صياغة عملية ماركوف لاتخاذ القرار الملحوظ جزئياً (POMDP)

صاغ المؤلفون مشكلة اختيار العملاء تحت الرؤية الجزئية كـ عملية ماركوف لاتخاذ القرار الملحوظ جزئياً (POMDP).

الحالة ( $s_t$ ): مُعرفة مفاهيمياً بأنها المعلمات المحدثة المحتملة لجميع العملاء الـ $N$ . ومن الأهمية بمكان أن الخادم لا يملك حق الوصول إلى التدرجات (gradients) أو التحديثات الخاصة بالعملاء غير المرئيين.
الإجراء ( $a_t$ ): اختيار مجموعة فرعية مكونة من $K$ من العملاء من المجموعة المرئية الحالية $C_t$ .
الملاحظة ( $o_t$ ): مجموعة فرعية مقنعة من الحالة تحتوي على المعلمات المحدثة والمعرفات (IDs) للعملاء المرئيين فقط ( $j \in C_t$ ).
المكافأة ( $r_t$ ): تُحدد بناءً على مقياس F1-score للنموذج العالمي بعد التجميع، مع تنعيمها عبر الزمن للتحكم في التباين.

2. حل التعلم العميق لـ Q (DQL)

لحل مشكلة الـ POMDP، تقترح الورقة وكيلًا يعتمد على التعلم العميق لـ Q (DQL). وبما أن الحفاظ على تاريخ تفاعل كامل أمر غير عملي حوسبياً، فإن الطريقة تقرب دالة Q المثلى باستخدام سياق زمني مقطوع لأحدث $H$ جولات.

تفكيك قيمة Q لكل عميل: للتعامل مع أحجام المجموعات المتغيرة وفضاءات الإجراءات التوافقية، يتم تفكيك دالة Q العالمية إلى مساهمات فردية لكل عميل. يقوم الوكيل بتقييم كل عمل مرئي بشكل مستقل واختيار أفضل $K$ من العملاء الذين لديهم أعلى قيم Q مقدرة.

التحسين متعدد الخطوات: يستخدم الوكيل تعلم الفرق الزمني متعدد الخطوات مع عامل خصم $\gamma$ ، مما يحسن شبكة Q للتنبؤ بالعوائد عبر أفق زمني قدره $H$ خطوة.

3. بنية الانتباه المكاني-الزماني (Spatio-Temporal Attention)

الابتكار الجوهري هو شبكة Q القائمة على الانتباه المكاني-الزماني الجديدة المصممة لمعالجة المدخلات متغيرة الطول والتقاط التبعيات المعقدة.

تقليل الأبعاد: يتم رسم خرائط للمعلمات عالية الأبعاد إلى فضاء ميزات منخفض الأبعاد باستخدام الإسقاط العشوائي (Random Projection - RP). وخلافاً لـ PCA، لا يتطلب RP عينات مجمعة مسبقاً، مما يجعله مناسباً للرؤية الديناميكية.
السياق الزمني: تستقبل الشبكة تسلسلاً من المعلمات العالمية التاريخية ( $W_{glob}^{t-H} \dots W_{glob}^t$ ) لالتقاط مسار التدريب.
الانتباه المكاني: تعالج وحدة ما الرموز (tokens) الخاصة بالعملاء المرئيين حالياً للاستدلال على مساهماتهم النسبية داخل المجموعة المحددة.
الانتباه الزمني: تعالج وحدة أخرى رموز المعلمات العالمية التاريخية باستخدام الترميز الموضعي (positional encoding) والقناع السببي (causal masking) لتعلم التبعيات الزمنية.
الانتباه المتقاطع (Cross-Attention): يتم دمج الرموز المكانية والزمانية عبر الانتباه المتقاطع، مما يسمح لتمثيلات العملاء بالانتباه إلى السياقات العالمية التاريخية.
التضمين الواعي للهوية (Identity-Aware Embedding): لمعالجة التشتت الزمني الناتج عن المشاركة المتقطعة، تتضمن الطريقة ناقلات هوية قابلة للتدريب (identity vectors/embeddings) لكل عميل. تعمل هذه الناقلات كـ "ذاكرة" لالتقاط الخصائص المستمرة الخاصة بكل عميل عبر الجولات، حتى عندما لا يكون العملاء مرئيين.
بنية التنازع (Dueling Architecture): تفصل شبكة Q بين تقدير قيمة الحالة العالمية والميزة النسبية لاختيار عملاء محددين لتحسين استقرار التعلم.

المساهمات الرئيسية

إطار عمل POMDP: أول صياغة لاختيار العميل الموحد تحت الرؤية الجزئية كعملية POMDP، مما يعالج صراحة الفجوة بين افتراضات الرؤية الكاملة والقيود الواقعية.
شبكة الانتباه المكاني-الزماني: بنية مبتكرة تدمج النماذج العالمية التاريخية مع ملاحظات العملاء الحالية، مما يمكن الوكيل من الاستدلال على الحالة العالمية رغم الملاحظات غير المكتملة.
ذاكرة واعية للهوية: آلية لتتبع الخصائص المحددة للعميل عبر المشاركات المنقطعة، مما يخفف من تأثير ندرة الملاحظات.
استراتيجية DQL قوية: نهج تفكيك لكل عميل وتحسين متعدد الخطوات مصمم خصيصاً للطبيعة المنفصلة وغير القابلة للعكس لاختيار العملاء في التعلم الموحد.

النتائج التجريبية

تم تقييم الطريقة المقترحة على ثلاثة مجموعات بيانات (CIFAR-10, Fashion-MNIST, UCI-HAR) تحت إعدادين للرؤية الجزئية (خادم متنقل وتوافر عشوائي) ومستويين من عدم التجانس (توزيع Dirichlet وLabel Skew).

الأداء: حققت الطريقة المقترحة دقة متفوقة مقارنة بالنماذج المرجعية (FedProx, HA-EdgeFlow, FedAWAC) في جميع السيناريوهات تقريباً. وقد حسنت متوسط الدقة بنسبة 3.6% إلى 7.9% مقارنة بالطرق الموجودة.
الاستقرار: أظهرت الطريقة تقلبات أقل في الأداء (انحراف معياري أقل) بعد التقارب، مما يشير إلى تعزيز استقرار التدريب.
دراسات الاستئصال (Ablation Studies):
- طول السياق ( $H$ ): تحسن الأداء مع زيادة $H$ من 1 (MDP) إلى 5، مما يؤكد ضرورة السياق التاريخي. ومع ذلك، فإن الزيادة الإضافية ( $H=8, 10$ ) أعطت عوائد متناقصة، مما يشير إلى أن التاريخ القريب كافٍ.
- تضمينات الهوية: أدى إزالة وحدة "الوعي بالهوية" إلى انخفاض كبير في الدقة تحت ظروف Label Skew الشديدة وزيادة التقلبات تحت توزيعات Dirichlet، مما يؤكد دورها في ذاكرة العميل واستقراره.

الأهمية والادعاءات

تدعي الورقة أن نهجها يوفر حلاً مبدئياً لمشكلة اختيار العملاء تحت الرؤية الجزئية التي لم تحظَ بدراسة كافية. ومن خلال نمذجة المشكلة كـ POMDP والاستفادة من الانتباه المكاني-الزماني، تنجح الطريقة بفعالية في سد فجوة المعلومات الناتجة عن الملاحظات غير المكتملة. ويؤكد المؤلفون أن إطار عملهم فعال بشكل خاص في البيئات غير المتجانسة وذات الرؤية الجزئية، مما يقدم بديلاً قوياً لاستراتيجيات الاختيار القائمة على MDP أو الاستراتيجيات التجريبية التي تفشل عندما لا يستطيع الخادم مراقبة مجتمع العملاء بأكمله. وتؤكد الدراسة أن دمج السياق التاريخي وذاكرة هوية العميل أمر بالغ الأهمية للحفاظ على أداء النموذج في بيئات الحافة الديناميكية والواقعية.