Deep Koopman Learning using Noisy Data

إليك ملخص تقني مفصل لورقة البحث بعنوان "تعلم كوبمان العميق باستخدام البيانات المشوشة" (DKND).

1. بيان المشكلة

تتناول الورقة تحدي تعلم ديناميكيات الأنظمة غير الخطية وثابتة الزمن من بيانات رصد مشوشة.

• نموذج النظام: يتم تعريف النظام كـ $x(t+1) = f(x(t), u(t))$، حيث $x$ هو الحالة و $u$ هو مدخل التحكم.
• نموذج الرصد: الحالة الحقيقية $x(t)$ غير قابلة للرصد مباشرة. بدلاً من ذلك، تتوفر قياسات مشوشة فقط $y(t) = x(t) + w(t)$، حيث $w(t)$ هو ضجيج قياس غير معروف ولكنه محدود ($\|w(t)\| \leq w_{max}$).
• التحدي الجوهري: تعمل طرق "مشغل كوبمان العميق" (DKO) القياسية على تقليل الخطأ بين الحالات المتوقعة والمرصودة. ومع ذلك، عندما تكون الملاحظات مشوشة، فإن التحويلات غير الخطية (دوال الرفع/lifting functions) التي تطبقها الشبكات العصبية العميقة (DNNs) تؤدي إلى تشويه خصائص الضجيج. يؤدي هذا إلى تقديرات متحيزة لمصفوفات المشغل الخطي ($A, B, C$) ويقلل من دقة الديناميكيات المتعلمة، مما يجعلها غير مناسبة لتصميم التحكم القوي. الطرق الموجودة مثل المربعات الصغرى الإجمالية (TLS) أو كوبمان القوي (min-max) غالباً ما تعاني من الارتباطات النوعية للضجيج التي تسببها عمليات الرفع القائمة على الشبكات العصبية العميقة.

2. المنهجية

يقترح المؤلفون إطار عمل قائم على البيانات يسمى "تعلم كوبمان العميق باستخدام البيانات المشوشة" (DKND). تقوم هذه الطريقة بتعديل صياغة DKO القياسية لمراعاة آثار ضجيج القياس المحدود والتخفيف من حدته بشكل صريح.

التطوير النظري الرئيسي

بدلاً من تقليل خطأ البواقي مباشرة بين الحالة الحقيقية (غير المعروفة) والتوقع، يشتق المؤلفون حداً علوياً لخطأ التقدير.

1. تفكيك الخطأ: يحددون نموذجين:
   • $\tilde{f}$: الديناميكيات المتعلمة من بيانات خالية من الضجيج (المثالية النظرية).
   • $\bar{f}$: الديناميكيات المتعلمة من بيانات مشوشة (التطبيق العملي).
2. صياغة دالة الخسارة: يتم حصر إجمالي الخطأ بمجموع:
   • خطأ التنبؤ القياسي على البيانات المشوشة ($\|y_{t+1} - \hat{f}(y_t, u_t, \theta)\|^2$).
   • التفاوت بين النموذج الخالي من الضجيج والنموذج المشوش ($\|\tilde{f} - \bar{f}\|^2$).
3. توصيف الضجيج: يثبت المؤلفون أن حد التفاوت يمكن حصره في دالة تعتمد على حد الضجيج $w_{max}$ وثابت ليبشيتز (Lipschitz constant) لدالة الرفع الخاصة بالشبكة العصبية $g(\cdot, \theta)$.
4. هدف الأمثلة (Optimization Objective): دالة الخسارة النهائية $\hat{L}_f$ المراد تقليلها هي:
   $$\hat{L}_f = \underbrace{\frac{1}{2T} \sum (\| \bar{G} - [A, B] \begin{bmatrix} G \\ U \end{bmatrix} \|^2_F + \| Y - CG \|^2_F)}_{\text{Standard DKO Error}} + \underbrace{\hat{L}_{f,2}(\theta)}_{\text{Noise Discrepancy Penalty}}$$
   حيث $\hat{L}_{f,2}(\theta)$ هو حد مشتق من النظرية 1 يعاقب حساسية بارامترات الشبكة العصبية تجاه الضجيج المحدود.

الخوارزمية (DKND)

الحل هو خوارزمية تكرارية (الخوارزمية 1):

1. التهيئة: تهيئة بارامترات الشبكة العصبية $\theta_0$.
2. تحديث المصفوفة: بناءً على $\theta_k$ الحالي، يتم حساب المصفوفات الخطية المثلى $A^*_k, B^*_k, C^*_k$ باستخدام الحل المباشر للمضروب الموجب مور-بنروز (Moore-Penrose pseudoinverse).
3. تحديث البارامترات: حساب تدرج دالة الخسارة الكلية $\hat{L}_f$ بالنسبة لـ $\theta_k$ (باستخدام قاعدة السلسلة وهويات مشتقات المصفوفات للحدود العكسية) وتحديث $\theta$ عبر التدرج النازل (gradient descent).
4. التقارب: التكرار حتى تنخفض الخسارة عن حد $\epsilon$.

3. المساهمات الرئيسية

1. إطار عمل قوي ضد الضجيج: تقدم الورقة أول إطار عمل لـ "كوبمان العميق" مصمم خصيصاً للتعامل مع ضجيج القياس غير المعروف ولكن المحدود من خلال توصيف انتشار الضجيج عبر دوال الرفع الخاصة بالشبكة العصبية.
2. ضمان نظري: توفر حداً علوياً نظرياً (النظرية 1) يربط حد الضجيج وبارامترات الشبكة العصبية بخطأ التقدير، مما يسمح لعملية الأمثلة بالتخفيف من آثار الضجيج عبر ضبط $\theta$.
3. تنفيذ عملي: تتطلب الطة فقط أن يكون الضجيج محدوداً (وهو افتراض شائع في التحكم)، مما يتجنب الحاجة إلى نمذجة معقدة لتوزيع الضجيج أو القياس المباشر للحالات الخالية من الضجيج.
4. أمثلة فعالة: تفصل الخوارزمية بين تقدير المصفوفة الخطية (حل مباشر) وبين ضبط بارامترات الشبكة العصبية غير الخطية، مما يجعلها قابلة للتنفيذ حوسبياً.

4. النتائج التجريبية

قيم المؤلفون طريقة DKND على أربعة اختبارات مرجعية: نظام خطي ثنائي الأبعاد، Cartpole، Lunar Lander، ومركبة سطحية غير مأهولة (USV). واختبروها مقابل ثلاثة نماذج أساسية:

• DK: "كوبمان العميق" القياسي (تقليل المعادلة 12 مباشرة).
• DMDTLS: تحليل الأنماط الديناميكية مع المربعات الصغرى الإجمالية.
• MLP: مدرك متعدد الطبقات (تعلم الديناميكيات كصندوق أسود).

أنواع الضجيج المختبرة: توزيعات غاوس (Gaussian)، بواسون (Poisson)، وتوزيع منتظم (Uniform) (مع القص لضمان المحدودية).

النتائج الرئيسية:

• دقة فائقة: حققت DKND باستمرار أدنى جذر متوسط مربع الانحراف (RMSD) في بيانات الاختبار عبر جميع أنواع الضجيج وتعقيدات الأنظمة.
• القوة تجاه مقدار الضجيج: مع زيادة شدة الضجيج (على سبيل المثال، الضجيج المنتظم مع $w_{max}$ يصل إلى 8.2)، اتسعت الفجوة في الأداء بين DKND والنماذج الأخرى بشكل كبير.
  • مثال: في مهمة Lunar Lander مع الضجيج المنتظم، كان RMSD لـ DKND هو 2.33، بينما كان لـ MLP هو 6.29، وفشل DMDTLS فشلاً ذريعاً (288.29).
• التعميم: على عكس DMDTLS، الذي عانى مع الأنظمة غير الخطية عالية الأبعاد (Cartpole, Lunar Lander)، حافظت DKND على الاستقرار والدقة.
• التدريب مقابل الاختبار: رغم تشابه أخطاء التدريب عبر طرق التدرج (بسبب معايير التوقف المبكر)، أظهرت DKND قدرة أفضل بكثير على التعميم في مجموعة الاختبار، مما يشير إلى أنها تعلمت الديناميكيات الحقيقية الكامنة بدلاً من الإفراط في ملاءمة (overfitting) الضجيج.

5. الأهمية والخاتمة

تكتسب هذه الورقة أهميتها لمجتمعي التحكم والتعلم الآلي لأنها تسد الفجوة بين نظرية مشغل كوبوبمان النظرية وبين البيانات الواقعية المشوشة والعملية.

• تطبيقات التحكم: من خلال توفير تمثيل خطي أكثر دقة وقوة للديناميكيات غير الخطية تحت تأثير الضجيج، تتيح DKND تطبيق تقنيات التحكم الخطي القوية (مثل LQR أو MPC) على الأنظمة غير الخطية المعقدة حيث يكون ضجيج المستشعرات أمراً لا مفر منه.
• القيود: يشير المؤلفون إلى أن الطريقة تفترض ضجيجاً محدوداً؛ كما أن التأثير الرسمي لحجم الحد على الأداء يظل سؤالاً مفتوحاً. بالإضافة إلى ذلك، وبسبب طبيعتها كطريقة تعتمد على الشبكات العصبية العميقة، فهي محدودة بالوصول إلى النهايات الصغرى المحلية بسبب الأمثلة غير المحدبة.
• العمل المستقبلي: يقترح المؤلفون استكشاف استراتيجيات التحكم الأمثل بناءً مباشرة على الديناميكيات المشوشة المتعلمة.

باختصار، تقدم DKND نهجاً متأسساً رياضياً، وفعالاً حوسبياً، ومتفوقاً تجريبياً لتعلم ديناميكيات النظام في وجود ضجيج القياس، متفوقة على الأساليب الحديثة الحالية في كل من الاختبارات الخطية وعالية غير الخطية.