Multivariate Gaussian process emulation for multifidelity computer models with high-dimensional spatial outputs

1. بيان المشكلة

تتناول الورقة البحثية تحدي تحديد كمية عدم اليقين (Uncertainty Quantification - UQ) للنماذج الحاسوبية الحتمية التي تنتج مخرجات مكانية عالية الأبعاد.

• السياق: التطبيق المحفز هو نمذجة عرام العواصف الناتج عن الأعاصير (باستخدام محاكيات ADCIRC و ADCIRC+SWAN). تقوم هذه النماذج بمحاكاة العمليات الفيزيائية عبر نطاقات مكانية واسعة (على سبيل المثال، آلاف النقاط الشبكية)، وهي مكلفة حاسوبياً لتشغيلها بدقة عالية.
• إعداد تعدد مستويات الدقة (Multifidelity Setting): توجد المحاكيات بمستويات متفاوتة من الدقة (الدقة مقابل التكلفة). النماذج منخفضة الدقة سريعة ولكنها أقل دقة؛ أما النمايات عالية الدقة فهي دقيقة ولكن تشغيلها على نطاق واسع لغرض تحديد كمية عدم اليقين أمر باهظ التكلفة.
• التحدي الجوهري:
  1. الأبعاد العالية: المخرجات عبارة عن متجهات بحجم $N$ (على سبيل المثال، $N \approx 9,000$ موقع مكاني)، مما يجعل عملية المحاكاة باستخدام العمليات الغاوسية (Gaussian Process) متعددة المتغيرات القياسية غير مجدية حاسوبياً بسبب تكلفة قلب مصفوفات التغاير التي تصل إلى $O(N^3)$.
  2. الاعتماد المكاني: المخرجات في المواقع المكانية المتقاربة تكون مرتبطة ببعضها البعض. إن تجاهل التغاير المشترك (cross-covariance) يؤدي إلى تقدير خاطئ لعدم اليقين، خاصة عند تجميع التنبؤات عبر منطقة ما (على سبيل المثال، حساب متوسط العرام في منطقة فيضانية).
  3. تكامل تعدد مستويات الدقة: يجب أن يستفيد المُمثل (emulator) من البيانات الوفيرة منخفضة الدقة للتنبؤ بمخرجات عالية الدقة بكفاءة مع الحفاظ على الترتيب الطبيعي للدقة.

2. المنهجية

يقترح المؤلفون إطار عمل نموذج عملية غاوسية متعددة المتغيرات بايزي (Bayesian Multivariate Gaussian Process) يعتمد على نموذج الكريجينج التغايري ذاتي الانحدار (Autoregressive Cokriging) (Kennedy & O'Hagan, 2000). وقد طوروا هيكلين مختلفين للتباين المشترك للتعامل مع فضاء المخرات عالي الأبعاد: SEP (القابل للفصل) و NONSEP (غير القابل للفصل).

2.1 إطار SEP ARCokrig (النهج القابل للفصل)

• الهيكل: يفترض أن الارتباط بين المدخلات والمخرجات قابل للفصل: $\text{Cov}(y) = R \otimes \Sigma$، حيث $R$ هي مصفوفة ارتباط المدخلات و $\Sigma$ هي مصفوفة التغاير المشترك للمخرجات بحجم $N \times N$.
• الابتكار: للتعامل مع $N$ المرتفعة، لا يقوم المؤلفون بتقدير $\Sigma$ مباشرة. بدلاً من ذلك، يقومون بنمذجة مصفوفة الدقة $\Omega = \Sigma^{-1}$ باستخدام تحلل تشوليسكي متفرق (sparse Cholesky decomposition): $\Omega = (I - A)^\top D^{-1} (I - A)$.
• حث التفرق (Sparsity Induction): من خلال ترتيب المواقع المكانية (على سبيل المثال، عبر مسافة الحد الأدنى-الأقصى)، يفترضون أن المخرج رقم $j$ يعتمد فقط على مجموعة صغيرة من أسلافه الـ $p$ الأقرب إليه ($j-1, \dots, j-p$). هذا يؤدي إلى إحداث تفرق في المصفوفة $A$.
• الاستدلال: يحول هذا عملية تقدير التغاير المشترك إلى سلسلة من الانحدارات ذاتية الانحدار المتفرقة لـ $N$ من المرات. يتم وضع توزيعات مسبقة (priors) على عوامل تشوليسكي (توزيع طبيعي متفرق وتوزيع عكسي-غاوسي)، مما يسمح بتقدير بايزي فعال حاسوبياً حتى عندما يكون $N \gg n$ (عدد عمليات النموذج).

2.2 إطار NONSEP ARCokrig (النهج غير القابل للفصل)

• الهيكل: يعتمد على النموذج الخطي للتعاون الإقليمي (LMC) والتمثيل بالأساس (Higdon et al., 2008).
• التمثيل بالأساس: يتم تقريب المخرات عبر تحليل المكونات الرئيسية (PCA):
  $$y_t(x) \approx \sum_{\ell=1}^{p_t} k_{t,\ell} w_{t,\ell}(x)$$
  حيث $k_{t,\ell}$ هي متجهات الأساس (المكونات الرئيسية) و $w_{t,\ell}(x)$ هي الأوزان العشوائية.
• أوزان الانحدار الذاتي: يتم نمذجة الأوزان العشوائية $w_{t,\ell}(x)$ باستخدام هيكل كريجينج ذاتي الانحدار عبر مستويات الدقة. هذا يحافظ على ترتيب الدقة مع السماح باعتماد غير قابل للفصل بين فضاء المدخلات والمخرات.
• الاستدلال: يقوم النموذج بملاءمة عمليات غاوسية ذاتية الانحدار مستقلة لكل وزن من أوزان المكونات الرئيسية. هذا يقلل من أبعاد المشكلة بشكل كبير.

2.3 الاستدلال البعدي (Posterior Inference)

• يسمح كلا النموذجين بـ التكامل التحليلي لمعاملات الانحدار ($\beta$) ومعلمات التباين ($\sigma^2$) بسبب خاصية الترافق (conjugacy).
• يتطلب أخذ العينات البعدي (posterior sampling) فقط لمعلمات ارتباط المدخلات ($\theta$).
• والأهم من ذلك، يسم أن الهيكل ذاتي الانحدار يسمح باستنتاج المعلمات في كل مستوى دقة بشكل منفصل، مما يتجنب الحاجة إلى أخذ عينات من توزيع بعدي مشترك ضخم، وبالتالي يضمن القابلية للتوسع حاسوبياً.

3. المساهمات الرئيسية

1. المحاكاة متعددة المتغيرات القابلة للتوسع: تجسر الورقة الفجوة بين المحاكاة متعددة مستويات الدقة والمخرات المكانية عالية الأبعاد من خلال تقديم توزيعات تشوليسكي المسبقة المتفرقة (SEP) والتمثيل بالأساس (NONSEP) ضمن إطار ذاتي الانحدار.
2. تحديد دقيق لكمية عدم اليقين (UQ): يوضح المؤلفون أن تجاهل التغاير المشترك (كما في النماذج المستقلة) يؤدي إلى تغطية ناقصة أو زائدة شديدة عند تجميع التنبؤات عبر المناطق المكانية. طرقهم تحدد بدقة عدم اليقين لكل من المواقع الفردية والمخرات المكانية المجمعة.
3. الكفاءة الحاسوبية: من خلال استغلال الاستقلال الشرطي والهياكل المتفرقة، تتجنب هذه الطرق اختناق $O(N^3)$، مما يجعلها قابلة للتطبيق مع مخرات تضم آلاف المواقع المكانية.
4. إطار عمل موحد: يعمم النهج الكريجينج التغايري أحادي المتغير القياسي إلى الإعداد متعدد المتغيرات، مستوعباً هياكل الاعتماد القابلة للفصل وغير القابلة للفصل.

4. النتائج

تم تقييم الطرق باستخدام مجموعتي بيانات: اختبار تسرب كيميائي اصطناعي، وتطبيق عرام العواصف الحقيقي.

• مثال منصة الاختبار (التسرب الكيميائي):

  • المقاييس: جذر متوسط مربع خطأ التنبؤ (RMSPE)، احتمالية التغطية (CVG)، ومتوسط طول الفترات الموثوقة (ALCI).
  • النتائج: حقق نموذج SEP أدنى قيمة لـ RMSPE. قدم كل من SEP و NONSEP عدم يقين مُعاير جيداً (CVG $\approx$ 95%) للمخرات المجمعة، بينما فشلت النماذج التي تتجاهل التغاير المشترك (PP, PP-ARCokrig) بشكل كبير في عدم اليقين المجمع (انخفض CVG إلى ~20-23%).

• تطبيق عرام العواصف (كيب كورال، فلوريدا):

  • البيانات: 9,284 موقعاً مكانياً، مستويان من الدقة (ADCIRC مقابل ADCIRC+SWAN).
  • النتائج:
    • تفوق NONSEP على SEP من حيث تحديد كمية عدم اليقين (CVG و ALCI) لكل من المخرات الفردية والمجمعة، ويرجع ذلك على الأرجح إلى الطبيعة المعقدة وغير المستقرة لبيانات عرام العواصف.
    • حقق SEP نتائج أفضل قليلاً في RMSP الهامشي، لكنه أظهر تغطية ناقصة طفيفة في المناطق المجمعة.
    • أظهرت النماذج التي تتجاهل التغاير المشترك (PP, PP-ARCokrig) فشلاً كارثياً في عدم اليقين المجمع (CVG < 5%)، مما يؤكد ضرورة نمذجة الاعتماد المكاني.
    • نجح نموذج NONSEP باستخدام 7 مكونات رئيسية في التقاط >99% من التباين وقلل خطأ التنبؤ بأكثر من 50% مقارنة بنموذج كريجينج قياسي (باستخدام بيانات عالية الدقة فقط).

5. الأهمية

• الأثر العملي: تمكن المُمثلات المقترحة من إجراء تقييم سريع ودقيق للمخاطر الساحلية. يمكن لصناع القرار الآن الحصول على تقديرات موثوقة لعدم اليقين للمقاييس المجمعة (مثل إجمالي مخاطر الفيضان لمقاطعة ما) دون الحاجة لتشغيل آلاف عمليات المحاكاة عالية الدقة المكلفة.
• التقدم النظري: تقدم الورقة حلاً قوياً لـ "لعنة الأبعاد" في محاكاة العمليات الغاوسية متعددة المتغيرات. وتثبت أن مصفوفات الدقة المتفرقة والتمثيل بالأساس هي استراتيجيات قابلة للتطبيق للمخرات عالية الأبعاد في إعدادات تعدد مستويات الدقة.
• الاتجاهات المستقبلية: الإطار قابل للتوسع ليشمل أكثر من مستويين من الدقة ويمكن تكييفه للمخرات ذات الدقات المكانية المختلفة (تغيير الدعم)، مما يوفر أداة متعددة الاستخدامات للمحاكاة الفيزيائية المعقدة.

في الختام، نجح McCrimmon و Ma في تطوير إطار عمل قابل للتوسع حاسوبياً ورصين إحصائياً لمحاكاة النماذج الحاسوبية عالية الأبعاد متعددة مستويات الدقة، مما يضمن بقاء تحديد كمية عدم اليقين صالحاً حتى عند تجميع التنبؤات عبر نطاقات مكانية كبيرة.