🤖 machine learning

Every Client Is an Environment: Federated De-confounding for Spatio-Temporal Forecasting

تقترح هذه الورقة \method، وهو إطار عمل جديد للتعلم الاتحادي لإزالة الارتباط (de-confounding) للتنبؤ المكاني الزماني، يعامل العملاء كبيئات سببية متميزة للاستفمادة من تباينهم كأدلة تكميلية، مما يؤدي إلى تعلم رمز مرجعي نموذجي عالمي (global prototype codebook) يتفوق على الأساليب الحالية في القدرة على التعميم، وقابلية التفسير، وكفاءة الاتصال.

المؤلفون الأصليون: Qingxiang Liu, Anqi Liang, Heng Wang, Yuxuan Liang

نُشر 2026-07-28

📖 6 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Qingxiang Liu, Anqi Liang, Heng Wang, Yuxuan Liang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

الحياة السرية للبيانات: لماذا لا تشبه حركة المرور في مدينة ما حركة المرور في مدينة أخرى

تخनीّل أنك تحاول التنبؤ بالمستقبل، ولكن بدلاً من استخدام كرة بلورية، لديك دفتر ملاحظات ضخم وفوضوي مليء بتقارير الطقس، واختناقات المرور، وقراءات جودة الهواء من آلاف الأماكن المختلفة. هذا هو عالم التنبؤ المكاني الزماني (Spatio-temporal forecasting)، وهو فرع من العلوم المكرس للتنبؤ بكيفية تغير الأشياء عبر الزمان والمكان. فكر في الأمر كأنك تحاول تخمين متى سيحدث ازدحام مروري تالٍ أو متى سيصبح الهواء ملوثاً بالضباب الدخاني، باستخدام البيانات الماضية فقط.

عادةً، يحاول العلماء حل هذه المعضلة عن طريق جمع كل البيانات في حاسوب فائق واحد ضخم. لكن في العالم الحقيقي، غالباً ما يكون ذلك مستحيلاً. فقد تكون بيانات المرور في مدينتك مملوكة لشركة خاصة، أو قد تكون محطة الطقس المنزلية لديك صغيرة جداً بحيث لا يمكنها مشاركة أرقامها الخام مع خادم مركزي بسبب قواعد الخصوصية. هنا يأتي دور التعلم الاتحادي (Federated Learning). إنه يشبه مجموعة من الأصدقاء يحاولون حل لغز معاً دون أن يظهر أي منهم قطع اللغز الفردية للآخرين؛ فهم يشاركون فقط "أفكارهم" حول كيفية تركيب القطع، وليس القطع نفسها.

ومع ذلك، هناك عقبة. إذا كان صديقك يعيش في مدينة ممطرة وأنت تعيش في واحدة مشمسة، فإن "أفكارك" حول كيفية عمل الطوع ستكون مختلفة تماماً. في الماضي، اعتبر الباحثون هذه الاختلافات مصدر إزعاج، وحاولوا فرض طريقة تفكير موحدة ومتوسطة على الجميع. ولكن ماذا لو لم تكن هذه الاختلافات خللاً، بل كانت ميزة؟ ماذا لو كان حقيقة أن كل شخص يرى شريحة مختلفة من العالم هي المفتاح لرؤية الصورة الكاملة؟ تسأل هذه الورقة سؤالاً جريئاً: هل يمكننا استخدام هذه "الشرائح" المختلفة من الواقع لإلغاء الضجيج وإيجاد القواعد العالمية الحقيقية لكيفية عمل العالم؟

الورقة البحثية: تحويل الجيران إلى فريق خارق

تقترح الورقة البحثية، التي تحمل عنوان "كل عميل هو بيئة: إزالة الارتباك الاتحادي للتنبؤ المكاني الزماني" (Every Client Is an Environment: Federated De-confounding for Spatio-Temporal Forecasting)، طريقة جديدة لحل هذا اللغز. يقدم المؤلفون، بقيادة "تشينغ شيانغ ليو" وزملائه، إطار عمل يطلقون عليه اسم Atlas. بدلاً من محاولة تنعيم الاختلافات بين المدن أو المستشعرات، يعامل Atlas كل مصدر بيانات (أو "عميل") كـ بيئة فريدة.

إليك الفكرة الجوريّة، مشروحة باستعارة: تخيل أنك تحاول فهم كيفية عمل محرك السيارة. إذا نظرت فقط إلى سيارة تسير في عاصفة ثلجية، فقد تعتقد أن المحرك يحتاج إلى وقود إضافي ليبقى دافئاً. وإذا نظرت فقط إلى سيارة في صحراء، فقد تعتقد أنه يحتاج إلى تبريد إضافي. إذا حاولت حساب متوسط هاتين الملاحظتين، فستحصل على إجابة خاطئة ومربكة. ولكن، إذا كان لديك فريق من الميكانيكيين، يراقب كل منهم المحرك في بيئة مختلفة (ثلج، رمال، مطر، حركة مرور في المدينة)، وقاموا بمقارنة ملاحظاتهم، فيمكنهم إدراك ما يلي: "آه! المحرك لا يحتاج فعلياً إلى وقود إضافي أو تبريد؛ لقد كان الطقس يخدعنا فقط!"

في عالم البيانات، يُسمى هذا "الخداع" بـ الارتباط المربك (Confounding). يحدث هذا عندما يؤثر عامل خارجي (مثل الطف أو حدث خاص) على العلاقة بين ما تراه الآن وما سيحدث بعد ذلك. على سبيل المثال، قد يظهر مستشعر حركة المرور بالقرب من ملعب رياضي دائماً ارتفاعاً في عدد السيارات في أيام المباريات. إذا رأى المستشعر أيام المباريات فقط، فقد يعتقد أن "السيارات تزداد دائماً"، مغفلاً حقيقة أن الحدث في الملعب هو الذي يسبب ذلك.

ماذا يفعل Atlas:
تجادل الورقة بأنه بدلاً من إخفاء هذه الاختلافات البيئية، يجب علينا استخدامها. يعمل Atlas مثل "مترجم عالمي" لهذه البيئات المختلفة:

كتاب الرموز (The Codebook): ينشئ النظام "قاموساً" مشتركاً (يسمى مجموعة الرموز النموذجية) يسرد جميع "الحالات" أو "الأنظمة" التي يمكن أن تكون البيئة فيها (مثل: "ساعة الذروة"، "يوم ممطر"، "حدث في ملعب").
الترجمة: ينظر كل مستشعر محلي إلى بياناته الخاصة ويقول: "أعتقد أنني في حالة 'يوم ممطر'". ثم يرسل هذا التصنيف إلى الخادم المركزي.
التجميع السحري: لا يقوم الخادم بمجرد حساب متوسط توقعات المستشعرات. بدلاً من ذلك، يمزج تسميات "اليوم الممطر" من المستشعر الممطر مع تسميات "اليوم المشمس" من المستشعر المشمس. ومن خلال رؤية كيف يتصرف المحرك في كل هذه الحالات المختلفة، يمكن للنظام معرفة القواعد الأساسية الحقيقية للمحرك، وتجريده من الارتباك الناتج عن الطقس.

ماذا وجدوا:
اختبر المؤلفون Atlas على خمس مجموعات بيانات من العالم الحقيقي، بما في ذلك سرعات حركة المرور في لوس أنجلوسات وجودة الهواء في الصين.

توقعات أفضل: تفوق Atlas باستمرار على الطرق الأخرى. في مجموعة بيانات حركة المرور METR-LA، قلل Atlas خطأ التنبؤ (MAE) إلى 3.30، وهو أفضل من جميع الطرق الاتحادية الأخرى (التي تراوحت بين 3.54 و 4.86) وهو قريب جداً من الطرق المركزية التي تملك الوصول إلى جميع البيانات.
ليس مجرد حساب متوسط: تنفي الورقة صراحةً فكرة أن مجرد حساب متوسط معاملات النموذج (الطريقة القياسية للتعلم الاتحادي) يعمل بشكل جيد هنا. فقد أظهروا أن إجبار البيئات المختلفة على الاتفاق على مجموعة واحدة من الأرقام يجعل التوقعات أسوأ في الواقع لأنه يطمس الأنماط الفريدة.
إثبات "إزالة الارتباك": من خلال عمليات المحاكاة، أثبتوا أن الخطأ في نظامهم مرتبط مباشرة بـ متوسط قوة الارتباك عبر جميع العملاء، وليس بارتباك أي عميل بمفرده. وهذا يشير إلى أنه حتى لو كان أحد العملاء مرتبكاً للغاية، يمكن للمجموعة أن تدرك الحقيقة إذا كان الآخرون واضحين.

مدى ثقتهم:
الورقة واثقة جداً في نتائجها، مدعومة بكل من النظرية الرياضية والبيانات الواقعية.

النظرية: استنتجوا حداً رياضياً (حداً لمدى خطأ النظام) يوضح أن الخطأ يتم التحكم فيه خطياً من خلال متوسط الارتباك. هذا ضمان نظري قوي.
المحاكاة: أنشأوا تجربة "شبه اصطناعية" حيث حقنوا الارتباك اصطناعياً في بيانات حركة مرور حقيقية. في هذه الاختبارات، حافظت طريقتهم (Atlas) على الخطأ قريباً من الصفر، بينما فشلت الطرق المحلية تماماً، مما يثبت أن النظام نجح في إلغاء "خدع" البيئة.
العالم الحقيقي: في مجموعات البيانات الفعلية مثل METR-LA و PEMS-BAY، كانت النتائج متسقة. على سبيل المثال، في مجموعة بيانات KnowAir (جودة الهواء)، أظهروا أن "قاموس" النظام تعلم بالفعل أنماط الطقس ذات المعنى؛ فعندما كان الهواء نظيفاً، تم استخدام "كلمة" معينة في القاموس، وعندما كان ملوثاً، تولت "كلمة" أخرى زمام الأمور. وهذا يثبت أن النظام لا يحفظ الأرقام فحسب، بل يفهم السياق البيئي فعلياً.

العقبات (القيود):
كان المؤلفون صادقين بشأن الأمور التي لم يحلوها بعد.

المنفصل مقابل المستمر: يستخدم "قاموسهم" عدداً ثابتاً من الكلمات (النماذج الأولية). ويعترفون بأن هذا قد يواجه صعوبة إذا تغيرت البيئة بطريقة سلسة ومستمرة بدلاً من القفز بين "حالات" متميزة.
التكلفة الحسابية: تتطلب عملية مطابقة "الكلمات" من العملاء المختلفين لضمان أنها تعني الشيء نفسه قدرة حوسبية. إذا أصبح القاموس ضخماً جداً، فقد تصبح خطوة المطابقة هذه بطيئة.

لماذا يهم هذا الأمر:
تشير هذه الورقة إلى تحول في كيفية تفكيرنا في الخصوصية والبيانات. بدلاً من رؤية مصادر البيانات المختلفة كمشكلة يجب حلها، يمكننا رؤيتها كقوة خارقة. من خلال معاملة كل مستشعر كنافذة فريدة على نسخة مختلفة من الواقع، يمكننا بناء نماذج أكثر ذكاءً وقوة تفهم العالم ليس فقط كما هو، بل كما يمكن أن يكون تحت ظروف مختلفة. إنها خطوة نحو مستقبل يمكننا فيه التنبؤ بحركة المرور، والطقس، والتلوث بدقة دون الحاجة أبداً إلى انتهاك خصوصية أي شخص أو سرقة بياناتهم الخام.

ملخص تقني: كل عميل هو بيئة: إزالة الارتباط الموجه في التعلم الاتحادي للتنبؤ المكاني الزماني

1. بيان المشكلة

يعد التنبؤ المكاني الزماني (STF) أمراً بالغ الأهمية لتطبيقات الحوسبة الحضرية مثل التنبؤ بحركة المرور ومراقبة جودة الهواء. وبينما حققت نماذج التعلم العميق أداءً عالياً، إلا أنها تتطلب عادةً جمع بيانات مركزية، وهو أمر غير ممكن غالباً بسبب لوائح الخصوصية، وقيود الاتصال، وقضايات ملكية البيانات. يقدم التعلم الاتحادي (FL) حلاً من خلال تدريب النماذج عبر عملاء موزعین دون مشاركة البيانات الخام.

ومع ذلك، فإن طرق التنبؤ المكاني الزماني الاتحادية الحالية تعامل التباين بين العملاء بشكل أساسي كعقبة تحسين يجب التخفيف منها من خلال النماذج المخصصة. يجادل المؤلفون بأن هذا المنظور معيب لأن التباين ينبع جوهرياً من الظروف البيئية المتنوعة (مثل الطقس، الأحداث الخاصة، أنماط ساعات الذروة) الخاصة بكل عميل. وبناءً على ذلك، تلتقط النماذج المحلية أنماط التنبؤ الخاصة بالبيئة والمتشابكة مع تأثيرات الارتباط الموجه الخاصة بالعميل. وتفشل هذه النماذج في التعميم عندما تتغير الظروف البيئية عبر المواقع أو الزمن. علاوة على التوضيح، فإن طرق الاستدلال السببي لـ STF الحالية تواجه صعوبة في البيئات الاتحادية لأنها تفتقر إلى الوصول إلى البيانات الخام المركزية المطلوبة لفصل المربكات البيئية.

2. المنهجية: إطار عمل "أطلس" (Atlas)

يقترح البحث إطار عمل Atlas، وهو إطار عمل جديد لإزالة الارتباط الموجه في التعلم الاتحادي. الجوهر يكمن في معاملة كل عميل اتحادي ليس كعائق، بل كـ بيئة سببية متميزة توفر ملاحظات تكميلية لنفس النظام المكاني الزماني الأساسي.

2.1 الصياغة السببية

صاغ المؤلفون نموذجاً سببياً هيكلياً (SCM) للتنبؤ المكاني الزماني الاتحادي:

المتغيرات: الملاحظات التاريخية ( $X_k$ )، الآفاق المستقبلية ( $Y_k$ )، والظروف البيئية الخاصة بالعميل ( $E_k$ ).
الارتباط الموجه (Confounding): تُدخل $E_k$ ارتباطات زائفة عبر مسار الباب الخلفي $X_k \leftarrow E_k \rightarrow Y_k$ .
قصور التعديل المحلي: لإزالة الارتباط الموجه عبر تعديل الباب الخلفي، يجب تقدير $P(Y|do(X)) = \sum P(Y|X, E=e)P(E=e)$ $P (Y ∣ d o (X)) = \sum P (Y ∣ X, E = e) P (E = e)$ . في الإعداد الاتحادي، يلاحظ كل عميل فقط مجموعة فرعية منحازة من الطبقات البيئية ( $P_k(E)$ $P_{k} (E)$ ) ويفتقر إلى التوزيع الهامشي العالمي $P(E)$ $P (E)$ . يؤدي هذا إلى انحيازين محددين:
1. الطبقات المفقودة: يفتقد العملاء للأنظمة البيئية غير الموجودة في بياناتهم المحلية.
2. الأوزان المنحرفة: تُوزن التقديرات المحلية بالتوزيعات المحلية بدلاً من التوزيع العالمي.

2.2 آلية أطلس (Atlas)

يعالج "أطلس" هذه المشكلات من خلال الاستفادة من التجميع الاتحادي كـ تعديل باب خلفي ضمني.

كودبوك النماذج الأولية (Prototype Codebook): يتعلم الإطار كودبوك نماذج أولية عالمي مشترك $Q = [q_1, \dots, q_I]$ ، حيث يتوافق كل نموذج أولي $q_i$ مع طبقة بيئية كامنة.
الترميز المحلي: يقوم كل عميل $k$ بترميز مدخلاته $X_k$ إلى تمثيل كامن $z_k$ باستخدام هيكل أساسي مخصص. ثم يقوم بخرائط $z_k$ إلى الكودبوك عبر آلية تخصيص ناعمة (المعادلة 5)، مما ينتج تمثيلاً مشروطاً بالبيئة $\hat{z}_k$ . يعمل هذا كتقريب على مستوى المعلمات لتعديل الباب الخلفي المحلي.
المحاذاة والتجميع: بما أن فئات النماذج الأولية قابلة للتبادل (على سبيل المثال، الفئة $i$ $i$ في العميل (أ) قد تقابل نظاماً مختلفاً عن الفئة $i$ $i$ في العميل (ب))، يقوم الخادم بإجراء محاذاة النماذج الأولية قبل التجميع.
- يحسب الخادم مصفوفة تكلفة بناءً على مسافات جيب التمام (cosine distances) بين النماذج الأولية للعملاء والنماذج الأولية المرجعية العالمية.
- يحل مشكلة التعيين الخطي (باستخدام خوارزمية هنجاري) لإيجاد التبديل الأمثل $\Pi_k$ الذي يحاذي فئات العملاء مع الفئات المرجعية العالمية.
- يقوم الخادم بتجميع الكودبوكات المحاذية: $Q \leftarrow \sum w_k \Pi_k Q_k$ .
الضمان النظري: اشتق المؤلفون حداً لإزالة الارتباط الموجه الاتحادي، مما يثبت أن الخطأ يتم التحكم فيه خطياً من خلال متوسط قوة الارتباط الموجه عبر العملاء، وليس قوة أي عميل بمفرده. وهذا يعني أن البيئات المتنوعة للعملاء تلغي بعضها البعض فيما يتعلق بالانحيازات المحددة عند التجميع.

2.3 التنفيذ

البنية: يستخدم العملاء مشفراً محلياً (convolution نافذة المستوى + ResMLP) وفك تشفير. يتم تبادل كودبوك النماذج الأولية خفيف الوزن فقط ( $I \times D$ من المعلمات)، وليس أوزان النموذج الكاملة.
التدريب: في كل جولة، يقوم العملاء بتحديث المشفرات المحلية، وفك التشفير، والكودبوكات المحلية. يقومون برفع الكودبوك المحدث إلى الخادم، الذي يقوم بمحاذاته وتجميعه لتشكيل الكودبوك العالمي الجديد.

3. المساهمات الرئيسية

إطار عمل لإزالة الارتباط الموجه اتحادياً: يقدم البحث منظوراً سببياً يعامل العملاء كبيئات سببية موزعة. يتعلم "أطلس" تأثيرات الارتباط الموجه البيئية المشتركة عبر العملاء المتباينين لتحسين القدرة على التعميم.
الاتحاد كتعديل باب خلفي ضمني: نظرياً، يكشف البحث أن تجميع كودبوكات النماذج الأولية يضع الشروط اللازمة للتخفيف من الارتباط الموجه البيئي. كما يشتق حداً يوضح أن خطأ إزالة الارتباط يعتمد على متوسط قوة الارتباط الموجه، وليس الانحياز الفردي للعميل.
التحقق التجريبي: أظهرت التجارب المكثفة على خمس مجموعات بيانات من العالم الحقيقي (METR-LA, PEMS-BAY, PEMS03, PEMS04, KnowAir) أن "أطلس" يتفوق على جميع النماذج الاتحادية والمركزية المرجعية. وقد ثبت أن الإطار قابل للنقل، وقابل للتفسير، وفعال من حيث الاتصال.

4. النتائج التجريبية

4.1 أداء التنبؤ

يتفوق "أطلس" باستمرار على جميع النماذج الاتحادية المرجعية (بما في ذلك FedAvg, FedProx, FedPer, FedGRU, FedGTP، والأساليب المتخصصة مثل Fuels و FedDis) عبر جميع مجموعات البيانات الخمس.

في METR-LA، يقلل "أطلس" متوسط الخطأ المطلق (MAE) إلى 3.30 مقارنة بأفضل نموذج اتحادي مرجعي (FedGTP عند 3.54) ويقترب من الطرق المركزية (DCRNN عند 3.05) بفارق يتراوح بين 4.9% و6.7%.
في PEMS-BAY، يحقق "أطلس" MAE قدره 1.68، متفوقاً على أفضل نموذج اتحادي مرجعي (FedGTP عند 1.73).

4.2 دراسات الاستئصال (Ablation Studies)

التجميع الاتحادي: يؤدي إزالة التجميع (التدريب محلياً فقط) إلى انخفاض هائل في الأداء (يزداد MAE بنسبة 77% في METR-LA)، مما يؤكد أن العملاء المنفردين لا يمكنهم التقاط أنظمة بيئية مستقرة.
البنية المشتركة: فرض مشفر/فك تشفير موحد عبر العملاء (A.2, A.3) يقلل من الأداء، مما يشير إلى ضرب ضرورة الحفاظ على النمذجة الزمنية الخاصة بكل عميل.
المحاذاة: إزالة خطوة محاذاة النماذج الأولية (A.4) تؤدي إلى انخفاض مستمر في الأداء، مما يثبت ضرورة محاذاة الدلالات البيئية قبل التجميع.
التخصيص الناعم: استبدال التخصيص الناعم بالتخصيص الصلب (A.5) يقلل من الأداء، مما يسلط الض الضوء على الحاجة لنمذجة الانتقالات السلسة بين الأنظمة.

4.3 القابلية للنقل والكفاءة

القابلية للنقل: ينتقل الكودبوك المتعلم بفعالية إلى العملاء غير المرئيين. عند التدريب المسبق على 5% فقط من العملاء، يؤدي الكودبوك المجمد أداءً يضاهي نموذجاً تم تدريبه من البداية على نفس المجموعة الفرعية، وهو أفضل بكثير من التهيئة العشوائية.
الكفاءة: يحقق "أطلس" توازناً ممتازاً بين الحوسبة والاتصال. يرفع العملاء فقط الكودبوك (مثلاً 640 معلمة)، وهو ما يقل بمقدار رتبتين عشريتين عن الطرق مثل FedAvg أو FedGRU التي ترفع أوزان النموذج الكاملة.
المتانة: الكودبوك متين تجاه ضجيج Gaussian و Rademacher، مع حد أدنى من التدهور في الأداء، مما يشير إلى أنه يلتقط دلالات بيئية مستقرة.

4.4 القابلية للتفسير

تظهر الرؤية البصرية على مجموعة بيانات KnowAir أن تخصيصات النماذج الأولية ترتبط بأنظمة بيئية متميزة (مثل فترات النقاء مقابل التلوث) والظروف الجوية (درجة الحرارة، الضغط، الرطوبة)، وليس فقط المتغير المستهدف (PM2.5). وهذا يؤكد أن الكودبوك يلتقط السياقات البيئية الكامنة.

5. الأهمية والادعاءات

يدعي البحث أن Atlas يمثل تحولاً جذرياً في التنبؤ المكاني الزماني الاتحادي:

من عائق إلى مورد: بدلاً من قمع التباين بين العملاء كعقبة تحسين، يستغل "أطلس" هذا التباين كدليل موزع على الأنظمة البيئية.
التعميم السببي: من خلال صياغة الاتحاد نظرياً كآلية لتعديل الباب الخلفي، تمكن الطريقة من جعل النماذج قادرة على التعميم تحت التحولات البيئية حيث تفشل طرق التعلم الاتحادي المخصصة التقليدية.
الجدوى العملية: يوفر الإطار حلاً عملياً للتنبؤ المكاني الزماني الحساس للخصوصية، مما يوفر أداءً عالياً مع حد أدنى من عبء الاتصال وتمثيلات بيئية قابلة للتفسير.

يقر المؤلفون بوجود قيود، مشيرين إلى أن النماذج الأولية المنفصلة قد تواجه صعوبة في التعامل مع التحولات المستمرة أو عالية الأبعاد للغاية، وأن تعقيد المحاذاة $O(I^3)$ قد يكون عائقاً أمام مقاييس النماذج الأولية الكبيرة جداً. يهدف العمل المستقبلي إلى استكشاف استراتيجيات محاذاة قابلة للتوسع وكودبوكات ديناميكية.