A numerical study into neural network surrogate model performance for uncertainty propagation

ملخص تقني: دراسة عددية حول أداء النماذج البديلة للشبكات العصبية في انتشار عدم اليقين

بيان المشكلة
برزت النماذج البديلة القائمة على الشبكات العصبية (NN) كأداة واعدة لحل المسائل الحدودية القيمية العشوائية (SBVPs)، حيث توفر إمكانية لتجاوز التقييمات المتكرة والمكلفة للمحللات العددية التقليدية المطلوبة لانتشار عدم اليقين. ومع ذلك، يركز الأدب الحالي بشكل أساسي على قدرة هذه النماذج على تمثيل العينات الحتمية أو حلول المجال المتوسط، وغالباً ما يتجاهل الأداء في ذيول التوزيع الاحتيالي. ويمثل هذا فجوة حرجة، حيث يعتمد تحليل الموثوقية وتقييم المخاطر بشكل كبير على التنبؤات الدقيقة للأحداث النادرة والمتطرفة. التحدي المحدد الذي تعالجه هذه الدراسة هو مشكلة "الذيل الطويل" (long tail): فالشبكات العصبية تتفوق عادةً في الاستيفاء (interpolation) ولكنها تعاني في الاستقراء (extrapolation). وفي المسائل الحدودية القيمية العشوائية، يؤدي ندرة عينات التدريب في المناطق ذات الاحتمالية المنخفضة (الذيول) إلى تضاؤل الدقة في حقول الحلول المتطرفة، حيث يمكن أن تكون الأخطاء أكبر بمقدار رتبة عشرية واحدة من أخطاء المجال المتوسط.

المنهجية
تقيم الدراسة أداء ثلاثة معماريات متميزة للشبكات العصبية في التنبؤ بحقل الحل لمعادلة توصيل حراري مستقرة ذات حد مصدر عشوائي عالٍ. وقد تم دمج الفيزياء الحاكمة عبر فقدان البواقي للصيغة الضعيفة. تم تعريف المشكلة على نطاق ثنائي الأبعاد حيث يتم توليد حد المصدر عبر تفكيك كارونين-لوفي (Karhunen–Loève decomposition) لحقل عشوائي، متبوعاً بتحويل غير خطي لاستحثاث توزيعات درجات حرارة ذات ذيول ثقيلة. تم إنشاء مجموعتي بيانات (المصدر 1 والمصدر 2)، حيث أظهر المصدر 2 نطاق درجات حرارة أكبر بكثير وقمماً أكثر تركيزاً.

النماذج الثلاثة التي تم تقييمها هي:

1. الشبكة المعتمدة على البيانات (DDN): شبكة عصبية أمامية كاملة الاتصال تتدرب حصرياً على بيانات العناصر المحدودة الموسومة.
2. الشبكة العصبية المستوحاة من الفيزياء (PINN): شبكة كاملة الاتصال تتدرب باستخدام دالة فقد مستمدة من الصيغة الضعيفة للمعادلة التفاضلية الجزئية (PDE)، دون استخدام بيانات موسومة.
3. الشبكة العميقة للمؤثرات (PCA-DeepONet): نموذج مستوحى من الفيزياء يستخدم بنية DeepONet، والتي تفصل تعلم دالة المدخلات (شبكة الفرع) عن الإحداثيات المكانية (شبكة الجذع).

تستخدم الدراسة بروتوكول تدريب موحداً باستخدام معاملات فائقة (hyperparameters) ونقاط تجميع وتقسيمات تدريب/اختبار متطابقة لضمان مقارنة عادلة. يتم تقييم الأداء باستخدام مقاييس قياسية (معيار $\ell_2$ النسبي) وأيضاً، وبشكل حاسم، معايير من رتب أعلى بما في ذلك الحد الأقصى للخطأ لكل عينة (MPSE) والخطأ الأقصى (ME) لالتقاط سلوك الذيل. كما تبحث الدراسة في استراتيجيات الوزن التكيفي القائم على الحالات (instance-based) بهدف توجيه التدريب نحو العينات الشاذة، وتحلل الارتباط بين أخطاء التنبؤ وأنواع محددة من القيم المتطرفة (استقراء بارامترات المدخلات مقابل استقراء كميات الحل).

النتائج الرئيسية

• التفاوت في أداء الذيل: وُجد أن أسوأ أخطاء التنبؤ لجميع النماذج كانت أكبر بنحو عشر مرات من خطأ المجال المتوسط. وهذا يؤكد أن مقاييس التدريب القياسية (مثل خطأ $\ell_2$ المتوسط) يمكن أن تحجب الإخفاقات الكبيرة في التنبؤ بالأحداث المتطرفة.
• مقارنة النماذج: من بين المعماريات المختبرة، تفوقت PINN (كاملة الاتصال مع فقد مستوحى من الفيزياء) باستمرار على كل من DDN و PCA-DeepONet على بيانات الاختبار، لا سيما فيما يتعلق بتقليل ME وتوزيع قيم MPSE. وبينما قدمت PCA-DeepONet أداءً جيداً على بيانات التدريب، إلا أنها أظهرت أخطاءً أعلى بكماً على بيانات الاختبار، مما يشير إلى ضعف التعميم لهذا النوع المحدد من الخرائط العشوائية.
• حدود الاستقراء: ارتبطت أكبر الأخطاء ارتباطاً وثيقاً بالعينات التي تتطلب استقراءً خارج حدود بيانات التدريب. وتحديداً، كانت الأخطاء في أعلى مستوياتها عندما تجاوزت درجة الحرارة القصوى المتنبأ بها لعينة اختبار درجة الحرارة القصوى الملاحظة في مجموعة التدريب. ومن المثير للاهتمام أن العينات ذات بارامترات المدخلات التي تقع خارج الغلاف المحدب لمجموعة التدريب لم تنتج بالضرورة أخطاء كبيرة؛ بل كان استقراء كمية الاستجابة محل الاهتمام (حقل الحل) هو المحرك الرئيسي للخطأ.
• استراتيجيات الوزن: نجحت استراتيجية الوزن التكيفي، المصممة لتخصيص أوزان أعلى للعينات ذات الخسائر الأكبر (عينات الذيل)، في تقليل خطأ التدريب. ومع ذلك، أدى هذا النهج إلى فرط التخصيص (overfitting)، مما نتج عنه زيادة في خطأ الاختبار. وهذا يشير إلى أن مجرد إعادة وزن البيانات الموجودة ليس كافياً لحل مشكلة الاستقراء وقد يؤدي إلى تدهور التعميم.
• الحساسية لحجم البيانات: أدى زيادة عدد عينات التدريب إلى تحسين خطأ التعميم إلى نقطة معينة، ولكن الأداء استقر عندما لم تعد مجموعة التدريب تحتوي على عينات تتجاوز درجات حرارتها القصوى تلك الموجودة في مجموعة الاختبار.

الأهمية والادعاءات
يزعم المؤلفون أن المساهمة الرئيسية لهذا العمل هي التحقيق العددي الصارم الذي يقيم معماريات وخوارزميات فقد الشبكات العصبية واسعة الانتشار، وتحديداً لانتشار عدم اليقين تحت حقول حلول شديدة التباين. وتبرز الدراسة أن:

1. تحديد القيم المتطرفة أمر بالغ الأهمية: المصدر الأكثر أهمية للخطأ هو عدم قدرة النموذج على الاستقراء إلى حقول الحل المتطرفة. تقترح الورقة طريقة لتحديد هذه العينات "الشاذة" عبر وسم حالات الاختبار التي تتجاوز فيها كميات الاستجابة المتنبأ بها تلك التي شوهدت أثناء التدريب.
2. محدودية الطرق الحالية: الطرق الحالية، سواء المستوحاة من الفيزياء أو المعتمدة على البيانات، رغم فعاليتها في المجالات المتوسطة، إلا أنها تعاني في الذيول. وتوضح الدراسة أن التوزين التكيفي وحده ليس حلاً سحرياً وقد يؤدي إلى فرط التخصيص.
3. الاتجاه المستقبلي: يقترح المؤلفون أن الجهود المستقبلية يجب أن تركز على استخدام تحديد القيم المتطرفة لتوجيه تعزيز البيانات التكيفي — وتحديداً محاكاة النماذج كاملة الرتبة للمناطق المتطرفة المحددة لبناء مجموعات بيانات تدريب مستهدفة — بدلاً من الاعتماد على أخذ العينات العشوائية البسيطة أو إعادة التوزين البسيط.

تخلص الورقة إلى أنه بينما تبدو النماذج البديلة للشبكات العصبية واعدة، فإن تطبيقها في مسائل الموثوقية يتطلب اهتماماً دقيقاً بقدرات الاستقراء ووضع حدود للخطأ في مناطق الاحتمالية المنخفضة.