Federated Causal Representation Learning in State-Space Systems for Decentralized Counterfactual Reasoning

إليك ملخص تقني مفصل لورقة البحث بعنوان: "تعلم التمثيل السببي الاتحادي في أنظمة فضاء الحالة من أجل الاستدلال المضاد للواقع في الأنظمة اللامركزية."

1. بيان المشكلة

تتناول الورقة تحديًا حرجًا في الأنظمة الصناعية المعقدة والموزعة جغرافيًا (مثل مصافي النفط، وشبكات معالجة المياه، وشبكات الطاقة) حيث تكون الأصول (العملاء) مترابطة بقوة من خلال العمليات الفيزيائية ومدخلات التحكم.

• السؤال الجوهري: كيف سيتغير مخرج أحد العملاء إذا قام عميل آخر بتغيير مدخل التحكم الخاص به؟ يتطلب هذا استدلالًا مضادًا للواقع (على سبيل المثال: "ماذا سيحدث لاستقراري إذا خفضت المضخة في المنبع تدفقها؟").
• القيود:
  1. خصوصية البيانات وعرض النطاق الترددي: بيانات العملاء عالية الأبعاد، وخاصة، ومكلفة النقل. مركزية البيانات الخام أمر غير ممكن بسبب لوائح الخصوصية وقيود عرض النطاق الترددي.
  2. النماذج المملوكة: يمتلك العملاء نماذج محلية مملوكة (مثل مرشحات كالمان) تم تدريبها على بياناتهم الخاصة ولا يمكن تعديلها أو مشاركتها.
  3. قصور الطرق الحالية: أدوات مثل "السببية لجرانجر" (Granger Causality) هي أدوات تنبؤية وليست تدخلية، ولا يمكنها الإجابة على أسئلة "ماذا لو". كما أن طرق اكتشاف السببية الموجودة غالبًا ما تفترض الوصول إلى البيانات المركزية أو تفشل في الفصل بين الديناميكيات الجوهرية والتأثيرات المدفوعة بالتحكم.

2. المنهجية

يقترح المؤلفون إطار عمل للتعلم الاتحادي (Federated Learning) مصمم خصيصًا لأنظمة فضاء الحالة الخطية الثابتة زمنياً (LTI). الهدف هو تعلم البنية السببية العالمية (تحديدًا التبعيات بين العملاء) دون مشاركة البيانات الخام أو تعديل النماذج المحلية المملوكة.

نموذج النظام

يتم نمذجة النظام كنظام فضاء حالة (LTI) متعدد العملاء:
$$h_t = A h_{t-1} + B u_{t-1} + w_{t-1}$$
$$y_t = C h_t + v_t$$
حيث $h$ هو الحالة الكامنة، و $u$ هو مدخل التحكم، و $y$ هو الملاحظة. تحتوي المصفوفات $A$ (انتقال الحالة) و $B$ (المدخلات) على كتل قطرية (ديناميكيات محلية) و كتل خارج القطر (تبعيات سببية عبر العملاء).

البنية الاتحادية

يتضمن إطار العمل كيانين: العملاء (يمتلكون البيانات والنماذج المملوكة المحلية) و الخادم المركزي (الذي ينسق عملية التعلم).

1. جانب العميل (النموذج المعزز):

   • يحتفظ العملاء بـ نموذجهم المملوك (مرشح كالمان محلي باستخدام مصفوفاتهم المحلية $A_{mm}, B_{mm}, C_{mm}$) والذي يولد تقديرًا محسنًا للحالة $\hat{h}_{m,c}$.
   • يتم إدخال نموذج معزز بمعلمات قابلة للتعلم $\theta_m$ و $\phi_m$.
     • تقوم $\theta_m$ بتعديل تقدير الحالة بناءً على القياسات المحلية.
     • تعمل $\phi_m$ كحد انحياز (bias term) لالتقاط التأثير المتجمع لمدخلات العملاء الآخرين.
   • يرسل العملاء فقط الحالات الكامنة منخفضة الأبعاد والمدخلات إلى الخادم، وليس بيانات المستشعرات عالية الأبعاد.

2. جانب الخادم (التقدير العالمي):

   • يقوم الخادم بتجميع الحالات منخفضة الأبعاد من جميع العملاء.
   • يقوم صراحةً بتقدير الكتل خارج القطر للمصفوفات العالمية ($A_{mn}$ و $B_{mn}$ حيث $m \neq n$)، والتي تمثل الروابط السببية بين العملاء.
   • يحسب الخادم دالة خسارة تتضمن عقوبة فك الارتباط (disentanglement penalty). تجبر هذه العقوبة النظام على فصل آثار انتشار الحالة الداخلية (endogenous) عن تأثيرات التحكم الخارجية (exogenous).

3. حلقة التدريب:

   • يرسل الخادم تدرجات الخسارة العالمية عائدًا إلى العملاء.
   • يقوم العملاء بتحديث معلماتهم المحلية ($\theta_m, \phi_m$) باستخدام مزيج من خسارة إعادة البناء المحلية وتدرجات الخادم.
   • تسمح هذه العملية التكرارية للعملاء بتعلم التبعيات عبر العملاء بشكل ضمني بينما يتعلم الخادم صراحةً المصفوفات الهيكلية.

الاستدلال المضاد للواقع

باستخدام إطار عمل الاستنباط-الإجراء-التنبؤ (Abduction-Action-Prediction - AAP) الخاص ببيرل:

• الخادم: يمكنه التنبؤ بتغير الحالة المضاد للواقع $h_m$ بالنظر إلى تدخل $do(u_n = u')$ باستخدام $B_{mn}$ المتعلمة.
• العميل: يمكنه التنبؤ بتغير المخرج المضاد للواقع $y_m$ من خلال الاستفادة من $\phi_m$ المتعلمة، والتي تشفر التأثيرات السببية المتجمعة للعملاء الآخرين.

3. المساهمات الرئيسية

1. أول إطار عمل لامركزي للمضاد للواقع: هذا هو العمل الأول الذي يمكّن الاستدلال المضاد للواقع اللامركزي في أنظمة فضاء الحالة دون مركزية البيانات الخام أو تعديل النماذج المحلية المملوكة.
2. فك الارتباط السببي: صمم المؤلفون مخطط تحسين تكراري يفصل بشكل مثبت بين الديناميكيات ذاتية الانحدار (الداخلية) والتأثيرات المدفوعة بالتحكم (الخارجية)، وهو شرط أساسي للاستدلال السببي الصحيح.
3. التقارب نحو النموذج المثالي (Oracle): تثبت الورقة أن الإطار اللامركزي يتقارب نحو نموذج مثالي مركزي (نموذج لديه إمكانية الوصول إلى جميع البيانات الخام) حتى حد معين من الانحياز، مما يضمن السلامة النظرية.
4. ضمانات الخصوصية: يتضمن الإطار الخصوصية التفاضلية (Differential Privacy - DP). قدم المؤلفون حدودًا نظرية لحساسية الرسائل والتدرجات المتواصلة، موضحين كيف يمكن إضافة الضجيج لحماية بيانات العميل مع الحفاظ على الفائدة.
5. تحديد دالة النقل: يتعلم الإطار ضمنيًا دالة النقل للنظام (التي تشفر التأثيرات السببية)، وهي ثابتة تجاه إعادة تمثيل الحالة الكامنة، مما يضمن أن البنية السببية المتعلمة قوية.

4. النتائج

تحقق المؤلفون من نهجهم باستخدام مجموعات بيانات صناعية اصطناعية وحقيقية.

• البيانات الاصطناعية:

  • التقارب: انخفضت الخسارة العالمية وبقايا العميل عبر التكرارات، متفوقة على خط الأساس المعتمد على الملكية فقط.
  • فك الارتباط: نجحت عقوبة فك الارتباط في فصل آثار $A_{mn}$ و $B_{mn}$، كما ظهر من خلال تقارب معلمات العميل إلى التأثيرات السببية المتجمعة الحقيقية.
  • القابلية للتوسع: ظل الأسلوب مستقرًا مع زيادة عدد العملاء وأبعاد القياس، رغم انخفاض الأداء قليلاً مع زيادة الأبعاد (وهو أمر متوقع بسبب تباين التقدير).
  • دالة النقل: تطابقت الأقطاب والأصفار المقدرة بدقة مع الحقيقة الأرضية، مما يؤكد أن النموذج التقط الديناميكيات المستقرة الكامنة.

• مجموعات البيانات الواقعية (HAI و SWaT):

  • HAI (نظام التحكم الصناعي): نجح النموذج في نمذجة نظام توربين بخاري مكون من 4 عمليات. أظهر تقاربًا سريعًا وبقايا منخفضة، مما مكنه من التقاط التبعيات بين العمليات بفعالية.
  • SWaT (محطة معالجة المياه): طُبق على محطة معالجة مياه مكونة من 6 مراحل. أظهر النموذج استقرارًا في التقارب والقدرة على الاستدلال بشأن التدخلات عبر المراحل.
  • المتانة: أظهرت النماذج الاتحادية متانة أفضل تجاه التحولات غير المستقرة (تحولات المتوسط) مقارنة بالنماذج المحلية المملوكة.

5. الأهمية

تقدم هذه الورقة مساهمة كبيرة في تقاطع الاستدلال السببي، والتعلم الاتحادي، وأنظمة التحكم الصناعية (ICS):

• الإدارة الاستباقية للمخاطر: تمكّن المشغلين من إجراء تحليل "ماذا لو" (مثل تقييم مخاطر الفشل المتتالي) دون المساس بخصوصية البيانات أو الملكية الفكرية.
• القابلية للتوسع: من خلال تبادل الحالات الكامنة منخفضة الأبعاد بدلاً من تدفقات المستشعرات عالية الأبعاد، يعد إطار العمل قابلًا للتوسع في الشبكات الكبيرة من الأصول.
• الدقة النظرية: تسد الورقة الفجوة بين التعلم الاتحادي العملي ونظرية السببية الصارمة، من خلال تقديم براهين التقارب وضمانات الخصوصية التي غالبًا ما تفتقر إليها تطبيقات الذكاء الاصطناي الصناعي.
• القابلية للتطبيق العملي: يثبت التحقق باستخدام مجموعات بيانات صناعية حقيقية (HAI، SWaT) أن النهج ليس مجرد نظرية، بل هو قابل للتطبيق في البنى التحتية الحرجة حيث تكون السلامة والخصوصية أمورًا بالغة الأهمية.

باخت r، تقدم الورقة حلاً قويًا يحافظ على الخصوصية لفهم وتوقع سلوك الأنظمة الصناعية المترابطة، مما يتيح عمليات لامركزية أكثر أمانًا وكفاءة.