Maximum Likelihood Estimation for System Identification of Networks of Dynamical Systems

ملخص تقني: تقدير الاحتمال الأقصى لتحديد هوية الشبكات من الأنظمة الديناميكية

بيان المشكلة
يتناول البحث تحدي تحديد دالات النقل ذات الحلقة المفتوحة لشبكات من الأنظمة الديناميكية المترابطة. وبينما تُصنف الأبحاث الحالية في مجال تحديد هوية الشبكات الديناميكية إلى: تقدير الطوبولوجيا، وتحديد هوية الوحدة الواحدة، وتحديد هوية ديناميكيات الشبكة الكاملة، يركز هذا العمل على الفئة الثالثة: تحديد هوية ديناميكيات الشبكة الكاملة لطوبولوجيا معطاة.

يكمن القصور الرئيسي في طرق الاحتمال الأقصى (ML) الحالية في هذا المجال (مثل [33]، في أنها) تتطلب قياس جميع إشارات العقد في الشبكة. وفي كثير من السيناريوهات العملية، تتوفر القياسات فقط لمجموعة فرعية من العقد. علاوة على على ذلك، فإن صياغات الاحتمال الأقصى القياسية لمشكلات الملاحظة الجزئية هذه تعتمد غالباً على متنبئات تتضمن معادلات ريكاتي الجبرية، مما يؤدي إلى مشكلات تحسين غير محدبة يصعب حلها عددياً. يهدف المؤلفون إلى إنشاء إطار عمل للاحتمال الأقصى يكون متسقاً وفعالاً حتى عندما لا تتوفر قياسات لجميع عقد الشبكة، بشرط أن تستوفي الشبكة شروطاً محددة لقابلية التحديد.

المنهجية
يقترح المؤلفون نهج احتمال أقصى مباشراً لتحديد معاملات $(a, b, c, \lambda)$ لنماذج ARMAX التي تمثل الأنظمة الفردية داخل الشبكة. تمر المنهجية عبر خطوات نظرية وخوارزمية رئيسية:

1. صياغة النموذج: يتم نمذجة الشبكة كمجموعة من أنظمة SISO (مدخل واحد ومخرج واحد) من نوع ARMAX مترابطة عبر بنية تغذية راجعة استاتيكية خطية. ويتم وصف نظام الحلقة المغلقة في شكل فضاء الحالة، مع دمج الإشارات الخارجية والضجيج.
2. المتنبئ وصيغة الابتكار: يستنتج المؤلفون صيغة الابتكار لنظام الحلقة المغلقة، والتي تحدد متنبئ كالمان. ويضعون شروطاً (الافتراضات A2 و A3) تضمن أن يكون حل معادلة ريكاتي الجبرية المرتبطة بها فريداً وأن يكون المتنبئ مستقراً.
3. الاتساق والكفاءة: يثبت البحث أن تقديرات الاحتمال الأقصى متسقة (تتقارب إلى المعاملات الحقيقية مع اقتراب طول البيانات $N \to \infty$) وفعالة (تصل إلى حد كرامر-راو الأدنى). يعتمد هذا الإثبات على مفهوم "إعلامية" (informativity) الإشارات و"قابلية تحديد الشبكة العامة". ويوضح المؤلفون أنه بينما يمكن تحديد دالات النقل ذات الحلقة المفتوحة $(G)$ باتساق تحت ظروف قابلية التحديد العامة للشبكة، فإن ديناميكيات الضجيج $(H)$ لا يمكن تحديدها عموماً ما لم تتوفر شروط هيكلية محددة (مثل القياس الكامل لجميع العقد أو طوبولوجيات شبكية معينة).
4. صياغة التحسين المكافئة: تبرز مساهمة منهجية هامة تتمثل في إعادة صياغة مشكلة الاحتمال الأقصى. تتعامل الصياغات القياسية مع المشكلة كمسألة تحسين مقيدة تتضمن معادلة ريكاتي الجبرية. ويوضح المؤلفون أنه يمكن صياغة المشكلة بشكل مكافئ كمسألة تحسين غير مقيدة عبر التعامل مع الحالات غير المقاسة وتسلسلات الضجيج كمتغيرات كامنة (بيانات مفقودة). هذا النهج، المستوحى من [15] و [32]، يلغي الحاجة إلى قيود المتنبئ الصريحة أو حلالات معادلة ريكاتي أثناء عملية التحسين، مما يسهل الحلول العددية الأكثر كفاءة.

المساهمات الرئيسية
يلخص البحث مساهماته كما يلي:

1. الضمانات النظرية: يضع البحث الشروط اللازمة لاتساق وكفاءة تحديد هوية النظام بالاحتمال الأقصى للشبكات. وهذا يعمم العمل السابق على الأنظمة الفردية ليشمل الشبكات، ويقدم براهين بديلة للحالة الإرجودية (ergodic case).
2. التحسين غير المقيد: يصيغ مشكلة تحديد هوية الاحتمال الأقصى كمسألة تحسين غير مقيدة. وهذا يتجاوز الصعوبات العددية المرتبطة بالقيود غير المحدبة التي توجد عادة في صياغات الاحتمال الأقصى القائمة على المتنبئ.
3. القدرة على التعامل مع القياس الجزئي: المنهج قابل للتطبيق حتى عندما لا يتم قياس جميع عقد الشبكة، بشرط أن تحقق الشبكة قابلية التحديد العامة. وهذا يتناقض مع طرق الاحتمال الأقصى الحالية التي تتطلب قابلية ملاحظة كاملة للعقد.

النتائج
يتحقق المؤلفون من نهجهم باستخدام تجارب عددية تعتمد على شبكة من الأنظمة الديناميكية (طوبولوجيا محددة من [16]).

• المقارنة مع طريقة خطأ التنبؤ (PEM): تمت مقارنة منهج الاحتمال الأقصى المقترح مع مناهج طريقة خطأ التنبؤ (PEM). وفي الحالات التي يكون فيها كلا المنهجين قابلين للتطبيق (على سبيل المثال، عندما تسمح إشارات معينة بصياغة متنبئ خطي)، يحقق منهج الاحتمال الأقصى قيم مطابقة (fit values) مقاربة لـ PEM.
• المتانة تجاه البيانات الجزئية: نجح منهج الاحتمال الأقصى في تحديد ديناميكيات الشبكة عندما يتم قياس مجموعة فرعية فقط من الإشارات (مثل $u_3$)، وهو سيناريو تفشل فيه صياغات PEM الخطية في تحديد جميع دالات النقل دون الوقوع في مشكلة الإفراط في التخصيص (overfitting) أو الانحياز.
• مقاييس الأداء: بينما يظهر منهج الاحتمال الأقصى وقتاً حسابياً أعلى قليلاً ومعدل عدم تقارب طفيف (يُعزى إلى الطبيعة غير المحدبة للمشكلة) مقارنة بـ PEM، إلا أنه يظهر متوسط خطأ تربيعي (MSE) وانحيازاً أقل في تقديرات المعاملات، خاصة في السيناريوهات ذات البيانات المحدودة حيث يميل PEM إلى الإفراط في التخصيص.
• قابلية التحديد: تؤكد النتائج أن المنهج يمكنه استعادة دالات النقل ذات الحلقة المفتوحة $G$ باتساق، حتى عندما لا يمكن استعادة ديناميكيات الضجيج $H$ بالكامل بسبب نقص القياسات الكاملة للشبكة.

الأهمية
يزعم البحث أن أهميته الرئيسية تكمن في توفير إطار عمل للاحتمال الأقصى متسق نظرياً وسهل التطبيق عددياً لتحديد هوية الشبكات، مما يخفف من شرط الملاحظة الكاملة للعقد الصارم. ومن خلال إعادة صياغة المشكلة لتجنب قيود المتنبئ الصريحة، يمكّن المؤلفون من تطبيق الاحتمال الأقصى على فئة أوسع من مشكلات تحديد هوية الشبكات. ويسلط العمل الضوء على أنه بينما قد تكون طرق PEM الخطية أسرع حسابياً، إلا أنها قد تعاني من الانحياز والإفراط في التخصيص في سيناريوهات الشبكات المعقدة أو مع تسلسلات البيانات القصيرة، بينما يقدم نهج الاحتمال الأقصى المقترح حلاً أكثر متانة لتحقيق تقديرات متسقة وفعالة تحت شروط قابلية التحديد العامة. ويشير المؤلفون إلى أن نتائجهم تمتد بشكل بديهي إلى الحالات التي تكون فيها بعض دالات النقل معروفة.