Accelerating an ensemble of variational data assimilations with randomized preconditioning

ملخص تقني: تسريع تجميعات استيعاب البيانات التباينية باستخدام التكييف العشوائي المسبق

بيان المشكلة
تعد تجميعات استيعاب البيانات التباينية (EDA) بالغة الأهمية للتنبؤ العددي بالطقس في العمليات التشغيلية، حيث توفر حالات أولية متعددة لتوقعات التجميع وتُقدّر متباينات الخطأ المعتمدة على التدفق. تتضمن عملية الـ EDA حل مشكلات استيعاب بيانات تباينية مضطربة بالتوازي، وعادة ما يتم ذلك باستخدام نهج تكراري لتقليل دالة التكلفة التربيعية عبر الحل التكراري لأنظمة خطية. وهناك قيد تشغيلي شائع يتمثل في استخدام تكرار خارجي واحد للتحكم في التكلفة الحسابية.

يعتمد أداء الحلول التكرارية (مثل طريقة التدرج المترافق، CG) لهذه الأنظمة بشكل كبير على توزيع القيم الذاتية لمصفوفة هسيان (Hessian). وبينما تعد المكيّفات ذات الذاكرة المحدودة (LMPs)، وتحديداً المكيّفات الطيفية (spectral LMPs) المبنية من أزواج قيم ذاتية تقريبية، فعالة في تسريع التقارب، فإن طرق البناء التقليدية تعتمد على علاقات تكرارية من تكرارات خارجية سابقة. وهذا يجعلها غير قابلة للتطبيق في إعدادات الـ EDA التي تستخدم تكراراً خارجياً واحداً فقط. علاوة على ذلك، فإن الطرق العشوائية قد لا توفر تقريباً كافياً لإنتاج مكيّف فعال دون استخدام مصفوفات رسم (sketching matrices) عالية الجودة، حيث إن طرق الرسم القياسية (مثل المصفوفات الغاوسية) قد لا تعطي تقريبات دقيقة بما يكفي للتقارب الفعال دون عمليات ضرب مصفوفات متتالية مكلفة (مثل طرق القدرة/power methods)، والتي غالباً ما تكون محظورة في البيئات التشغيلية.

المنهجية
يقترح المؤلفون نهج "الرسم والتكييف المسبق" (sketch-and-precondition) المصمم خصيصاً لهيكل الـ EDA. وتتضمن المنهجية الأساسية ما يلي:

1. التفكيك الطيفي العشوائي (REVD): استخدام خوارزميات عشوائية لحساب تقريب منخفض الرتبة لمصفوفة هسيان $A$ (تحديداً الجزء منخفض الرتبة من مصفوفة هسيان المكيّفة). يتضمن ذلك رسم مصفوفة $A$ باستخدام مصفوفة عشوائية $\Omega$ لتكوين مصفوفة أصغر، يليه تفكيك طيفي حتمي.
2. بناء مصفوفة رسم مبتكرة: بدلاً من استخدام مصفوفة غاوسية عشوائية قياسية، يستغل المؤلفون هيكل الـ EDA لبناء مصفوفة رسم $\Omega$ باستخدام فروق متجهات الطرف الأيمن (RHS) للأنظمة الخطية المضطربة.
   • بالنسبة لعضو التجميع $j$، يُعرَّف فرق الطرف الأيمن بـ $\gamma_j = U_B^T G_j^T R_j^{-1} d_j - U_B^T G^T R^{-1} d$، حيث $d$ هو متجه الابتكار (innovation vector).
   • يشير التحليل النظري تحت فرضيات مبسطة (اختلافات ضئيلة في حالات الخطية، واضطرابات غاوسية) إلى أن تغاير هذه المتجهات الفرقية يقرب من $A + A^2$. وهذا يعني أن أعمدة مصفوفة الرسم $\Gamma = [\gamma_1, \dots, \gamma_\ell]$ هي في الواقع عينات مستمدة من توزيع يتضمن معلومات حول المتجهات الذاتية الرائدة لمصفوفة هسيان، بشكل مشابه لتكرار طريقة القدرة ولكن دون التكلفة المتتالية.
3. بناء LMP طيفي: يُستخدم التفكيك الطيفي العشوائي لهسيان لبناء مكيّف طيفي (spectral LMP) بمقياس $P_\theta$. يستهدف هذا المكيّف أكبر القيم الذاتية لهسيان، مما يؤدي إلى تجميعها لتحسين معدل تقارب حل الـ PCG.
4. التطبيق: يتم تطبيق الـ LMP المستمد حصرياً من تقريب هسيان عضو التحكم على كل من عضو التحكم وجميع أعضاء التجميع المضطربة.

المساهمات الرئيسية

• استقصاء الـ LMPs الطيفية في الـ EDA: يبحث البحث في مدى جدوى وفعالية الـ LMPs الطيفية العشوائية في إعدادات الـ EDA حيث يتم إجراء تكرار خارجي واحد فقط.
• مصفوفة رسم تستغل الهيكل: المساهمة الرئيسية هي اقتراح وتحليل استخدام فروق الطرف الأيمن لأنظمة التجميع كـ مصفوفة رسم. وقد أثبت المؤلفون أن هذا النهج غير مكلف حسابياً (لا يتطلب عمليات دمج نموذج إضافية تتجاوز إعداد التجميع القياسي) وأنه نظرياً يلتقط معلومات هسيان بشكل أفضل من الرسم الغاوسي القياسي ($\Omega = \Psi$).
• التنفيذ الخوارزمي: تنفذ الدراسة خوارزمية تقريب نستروم (Nyström) ذات $q$ من الممرات (الخوارزمية 3.1) لحساب المكيّف، مع تحليل تأثير معاملات الإفراط في الرسم (oversampling) ومعاملات القياس ($\theta$).

النتائج
أُجريت التجارب العددية باستخدام نموذج Lorenz-96 مع تنفيذ 4D-Var داخلي.

• تقريب القيم الذاتية: حققت مصفوفة الرسم المقترحة ($\Omega = \Gamma$) تقريبات للقيم الذاتية بجودة مماثلة للطريقة المكلفة حسابياً التي تستخدم خطوة واحدة من طريقة القدرة ($\Omega = A\Psi$)، وأفضل بكثير من الرسم الغاوسي القياسي ($\Omega = \Psi$) أو الرسم القائم على تغاير خطأ الخلفية ($\Omega = B\Psi$).
• تسريع التقارب: نجح الـ LMP الطيفي الذي تم بناؤه باستخدام $\Omega = \Gamma$ في تسريع تقليل دالة التكلفة التربيعية لعضو التحكم.
• أداء التجميع: من الناحية الحاسمة، كان الـ LMP المستمد من عضو التحكم وحده فعالاً في تسريع عملية الحل لجميع أعضاء التجميع المضطربة.
• الحساسية: سلطت النتائج الضوء على حساسية أداء المكيّف لمعامل القياس $\theta$ وعدد أزواج القيم الذاتية ($k$) المستخدمة. وجد المؤلفون أن استخدام الإفراط في الرسم (بمعنى استبعاد أصغر أزواج القيم الذاتية التقريبية، مثل استخدام $k=15$ بدلاً من $k=20$) يوفر أداءً أكثر أماناً ومتانة، خاصة في التكرارات الأولى لمحلل PCG.

الأهمية والادعاءات
يزعم البحث أن النهج المقترح يقدم استراتيجية قابلة للتنفيذ لتسريع الـ EDA في البيئات التشغيلية حيث تكون الموارد الحسابية محدودة وتكرار الدورة الخارجية الواحدة هو المعيار. ومن خلال استغلال العشوائية المتأصلة في اضطرابات التجميع (تحديداً متجهات الطرف الأيمن)، يقوم هذا الأسلوب ببناء مكيّف عالي الجودة دون التكلفة الباهظة لتكرارات القدرة المتتالية.

يؤكد المؤلفون أنه بينما يعتمد التحليل النظري على فرضيات مبسطة (مثل الاضطرابات الغاوسية واختلافات الخطية الضئيلة)، فإن النتائج العددية لنموذج Lorenz-96 تثبت الفائدة العملية لهذا النهج. ويشيرون إلى أن الفعالية قد تختلف اعتماداً على نظام استيعاب البيانات المحدد وتلاشي قيم هسيان الذاتية. يعمل هذا العمل كإثبات للمفهوم، حيث ذكر المؤلفون أن المرحلة التالية تتضمن التحقق من هذه النتائج في بيئة EDA واقعية وعالية الأبعاد، وتحديداً لنظام استيعاب البيانات العالمي التابع لـ Météo-France. ولا يدعي البحث التفوق العالمي على جميع الطرق الموجودة، بل يضع هذا النهج كبديل واعد ومنخفض التكلفة لتكييف المشكلات التجميعية.