Neural Luenberger state observer for nonautonomous nonlinear systems

إليك ملخص تقني مفصل لورقة البحث بعنوان "مراقب لويينبرجر العصبي للأنظمة غير المستقلة زمنياً وغير الخطية" من تأليف موريتز وولك، جارود موريس، وونتاو تانغ.

1. بيان المشكلة

تتناول الورقة تحدي مراقبة الحالة (state observation) للأنظمة غير الخطية غير المستقلة زمنياً (الأنظمة التي تحتوي على مدخلات خارجية يتم التحكم فيها) حيث تكون النماذج الرياضية الأساسية غير معروفة أو معقدة للغاية بحيث يصعب اشتقاقها تحليلياً.

• السياق: تعتمد المراقبات التقليدية (مثل مرشح كالمان الموسع، والمراقبين عاليي الكسب) بشكل كبير على نماذج دقيقة مستمدة من المبادئ الأولى. وعندما تكون هذه النماذج غير متوفرة، تُفضل الأساليب القائمة على البيانات.
• الفجوة: تركز المراقبات القائمة على البيانات الموجودة حالياً غالباً على الأنظمة المستقلة (غير الموجهة بمدخلات) أو تتطلب معرفة بديناميكيات النظام لتصميم هيكل المراقب. هناك نقص في الأطر الكاملة الخالية من النماذج (model-free) التي يمكنها في آن واحد تعلم تحويل الحالة غير الخطي والحدود المرتبطة بالمدخلات (input-affine terms) اللازمة للتعامل مع المدخلات الخارجية للأنظمة غير المستقلة زمنياً.
• الهدف: تطوير مراقب حالة خالٍ من النموذج يتعلم مباشرة من بيانات المدخلات والمخرجات والحالات التاريخية، ويكون قادراً على التعامل مع المدخلات التي يتم التحكم فيها دون الحاجة إلى معرفة صريحة بديناميكيات النظام ($f$ و $g$).

2. المنهجية: مراقب لويينبرجر العصبي (NLOX)

يقترح المؤلفون مراقب لويينبرجر العصبي للأنظمة غير الخطية ذات المدخلات الخارجية (NLOX). يوسع هذا النهج إطار عمل مراقب كازانتزيس-كرافاريس/لويينبرجر (KKL) باستخدام التعلم العميق.

الأساس النظري

• إطار عمل KKL: يقوم مراقب KKL برسم خريطة لحالات النظام غير الخطي الأصلي ($x$) إلى فضاء حالة المراقب ($z$) عبر تحويل غير خطي حقن (injective). في فضاء المراقب، تكون الديناميكيات خطية ثابتة زمنياً (LTI).
• التوسيع للأنظمة غير المستقلة زمنياً: بالنسبة للأنظمة التي تحتوي على مدخلات ($u \neq 0$)، يفشل هيكل KKL القياسي في التقارب. لذا اعتمد المؤلفون التوسيع الذي قدمه برنارد وأندريو (2018)، والذي يعزز ديناميكيات مراقب LTI بـ حد تابع للمدخلات (input-affine term) وهو $\omega(z)u$.
  • ديناميكيات المراقب: $\dot{z} = Az + By + \omega(z)u$
  • تقدير الحالة: $\hat{x} = T^\dagger(z)$، حيث $T^\dagger$ هو المعكوس اليساري للتحويل $T$.

بنية الشبكة العصبية

بدلاً من حل المعادلات التفاضلية الجزئية (PDEs) المعقدة المطلوبة لإيجاد $T$ و $\omega$ تحليلياً، استخدم المؤلفون شبكات عصبية متعددة الطبقات (MLPs) متصلة بالكامل لتعلم هذه الخرائط من البيانات.

1. شبكة الحد التابع للمدخلات ($\omega$): شبكة عصبية تأخذ حالة المراقب $z$ وتتعلم الدالة $\omega(z)$ لتعويض المدخل المتحكم فيه $u$.
2. شبكة الخريطة العكسية ($T^\dagger$): شبكة عصبية ثانية تقوم برسم خريطة من حالة المراقب $z$ للعودة إلى حالة النظام المقدرة $\hat{x}$.
3. عملية التدريب:
   • البيانات: جمع مسارات (trajectories) تحتوي على المدخلات ($u$)، المخرجات ($y$)، والحالات الحقيقية ($x$) خارجياً.
   • التقطيع (Discretization): يتم تقطيع ديناميكيات المراقب المستمرة (باستخدام طريقة أويلر الأمامية) لمحاكاة النظام.
   • دالة الخسارة (Loss Function): يتم تدريب الشبكات لتقليل متوسط مربع الخطأ بين الحالة الحقيقية $x$ والحالة المقدرة $\hat{x}$:
     $$\mathcal{L} = \frac{1}{MN} \sum_{i,k} \| x_k^{(i)} - T^\dagger(z_k^{(i)} | \psi) \|_2^2$$
   • التحسين (Optimization): يتم تحديث المعلمات عبر الانتشار العكسي (backpropagation) باستخدام مُحسن RMSprop.

الضمانات النظرية

تقدم الورقة تحليلاً نظرياً دقيقاً لـ خطأ التعميم (generalization error) للمراقب:

• افتراضات الاستقرار: يُفترض أن النظام هو مستقر تجاه المدخلات والحالة بشكل متزايد ($\delta$ISS).
• الاستمرارية ليبشيتز (Lipschitz Continuity): أثبت المؤلفون أن دالة الخسارة مستمرة ليبشيتز بالنسبة للظروف الأولية وتسلسلات المدخلات، بشرط أن تكون أوزان الشبكة العصبية محدودة.
• حد الخطأ: تم اشتقاق حد احتمالي علوي لخطأ التعميم باستخدام تعقيد رادماخر (Rademacher complexity). يتناسب هذا الحد مع $\mathcal{O}(1/\sqrt{MN})$، حيث $M$ هو عدد المسارات و $N$ هو طول المسار، مما يثبت الاتساق الإحصائي. كما يأخذ الحد في الاعتبار أخطاء التقطيع (discretization errors).

3. المساهمات الرئيسية

1. التخليق الخالي من النموذج: إطار عمل كامل قائم على البيانات لتخليق مراقبين للأنظمة غير المستقلة زمنياً وغير الخطية دون الحاجة إلى نموذج مبني على المبادئ الأولى.
2. التعلم المشترك للهيكل: التعلم المتزامن لكل من حد التصحيح التابع للمدخلات ($\omega$) و إعادة بناء الحالة غير الخطية ($T^\dagger$) ضمن هيكل KKL.
3. حدود الخطأ النظرية: اشتقاق حد خطأ تعميم ذي عينة محدودة يحدد المقايضة بين غنى البيانات (عدد العينات) والدقة العددية (زمن أخذ العينات).
4. القابلية للتطبيق في الأبعاد العالية: إثبات أن الطريقة تتوسع بفعالية لتشمل الأنظمة ذات الأبعاد الأعلى (مفاعل ويليامز-أوتو ذو 6 حالات)، مما يعالج قصوراً في الأدبيات الحالية القائمة على البيانات والتي غالباً ما تركز على الأنظمة منخفضة الأبعاد (حالتين).

4. النتائج العددية

تم التحقق من صحة الطريقة في دراستي حالة لعمليات كيميائية ومقارنتها بمعايير مرجعية قائمة على النماذج (KKL التحليلي، مرشح كالمان الموسع - EKF، ومراقب الحالة المنزلقة - SMO).

دراسة الحالة 1: المفاعل الحيوي (حالتان)

• الإعداد: مفاعل حيوي ثابت الحجم مع حركية نمو كونتويس (Contois).
• الأداء:
  • حقق NLOX خطأ جذر متوسط المربعات (RMSE) مقارباً لحل KKL التحليلي (الحقيقة الأرضية)، رغم كونه خالياً من النموذج.
  • تفوق NLOX على EKF و SMO من حيث الدقة الإجمالية والمتانة.
  • المتانة: في ظل وجود اضطرابات مدخلات عشوائية، حافظ NLOX على أداء تنافسي، مظهرًا خطأً أقل لتركيز الكائنات الحية الدقيقة ($x_1$) مقارنة بالمعايير الأخرى.

دراسة الحالة 2: مفاعل ويليامز-أوتو (6 حالات)

• الإعداد: مفاعل CSTR غير متساوي الحرارة مع 3 تفاعلات و6 متغيرات حالة (ديناميكيات غير خطية معقدة).
• تفاصيل التنفيذ: نظراً للأبعاد العالية وعدم التحدب في مشهد الخسارة، قام المؤلفون بتدريب ست شبكات منفصلة للخريطة العكسية $T^\dagger$ (واحدة لكل حالة) بدلاً من شبكة واحدة، لتجنب تنافس التدرج والوقوع في القيم الصغرى المحلية.
• الأداء:
  • حقق NLOX تحسناً في الدقة بمقدار 3.96 ضعفاً عن EKF و 1.37 ضعفاً عن SMO.
  • والأهم من ذلك، أظهر NLOX أداءً فائقاً خلال مرحلة التهيئة (الاستجابة العابرة) حيث عانى EKF بسبب افتراضات الخطية الضعيفة.
  • نجحت الطريقة في التعامل مع الضوضاء والاضطرابات، محافِظةً على استقرار التقدير عبر جميع متغيرات الحالة الستة.

5. الأهمية والعمل المستقبلي

• الأهمية: يجسد هذا العمل الفجوة بين تصميم المراقب النظري (KKL) وتقنيات التعلم العميق الحديثة. فهو يثبت أن الأنظمة المعقدة وعالية الأبعاد وغير المستقلة زمنياً يمكن مراقبتها بدقة دون نموذج صريح، وهو أمر حيوي للعمليات الصناعية حيث تكون النماذج غير مؤكدة أو غير متوفرة.
• القيود: تعتمد الطريقة الحالية على التعلم الخاضع للإشراف (supervised learning)، مما يتطلب الوصول إلى بيانات الحالة الحقيقية ($x$) للتدريب الخارجي.
• الاتجاهات المستقبلية: يخطط المؤلفون لاستكشاف طرق التعلم غير الخاضع للإشراف. الهدف هو صياغة مشكلة تحسين مشتركة حيث يتعلم المراقب تمثيلاً لـ "الحالة الكامنة" (latent state) يتوافق مع بيانات المدخلات والمخرجات، مما يلغي الحاجة إلى قياسات الحالة الحقيقية أثناء مرحلة التدريب.

باختصار، تقدم الورقة طريقة قوية، ذات أساس نظري، وفعالة عملياً لتقدير الحالة في العمليات الكيميائية المعقدة، مما يثبت أن الشبكات العصبية يمكنها بنجاح تعلم الهياكل الهندسية المعقدة المطلوبة لتصميم المراقب غير الخطي.