Nonlinear GENERIC Informed Neural Networks (N-GINNs): learning GENERIC dynamics with non-quadratic dissipation potentials

ملخص تقني: الشبكات العصبية المستنيرة بـ GENERIC غير الخطية (N-GINNs)

بيان المشكلة
غالبًا ما تواجه عملية اكتشاف المعادلات الحاكمة القائمة على البيانات صعوبة في الحفاظ على التوافق مع المبادئ الفيزيائية الأساسية، لا سيما في الميكانيكا الحسابية حيث تتطلب التنبؤات طويلة الأمد الالتزام بقوانين الحفظ وقيود إنتاج الإنتروبيا. وبينما نجحت أساليب التعلم الآلي الحالية الحافظة للبنية في نمذجة الديناميكيات الهاملتونية العكوسة (مثل الشبكات العصبية الهاملتونية) وبعض الأنظمة المبددة، لا تزال هناك فجوة كبيرة في اكتشاف المجموعة الكاملة من اللبنات الأساسية لصيغة "المعادلة العامة للاقتران العكوس-غير العكوس في حالة عدم التوازن" (GENERIC). وتحديدًا، تعتمد الأطر الحالية غالبًا على مصفوفات احتكاك خطية أو عقوبات ذات قيود لينة، مما يفشل في التعامل بمتانة مع الأنظمة التي تحكمها جهود تبديد غير تربيعية عامة. وتعد هذه الجهود غير التربيعية ضرورية لنمذجة الآليات غير العكوسة المعقدة مثل التفاعلات الكيميائية، وعمليات القفز، واللدونة، حيث تفشل افتراضات التقلبات الغاوسية.

المنهجية
يقترح المؤلفون الشبكات العصبية المستنيرة بـ GENERIC غير الخطية (N-GINNs)، وهو إطار عمل للتعلم العميق مصمم لاكتشاف معادلات التطور للأنظمة التي تحكمها صيغة GENERIC غير الخطية. تُعطى معادلة التطور الجوهرية كالتالي:
$$\dot{x} = L(x)D_x E(x) + D_{x^*} \Xi(x, x^*)|_{x^*=D_x S(x)}$$
حيث $x$ هو متجه الحالة، و$L(x)$ هو ثنائي بويسون (Poisson bivector)، و$E(x)$ هو دالة الطاقة، و$S(x)$ هي دالة الإنتروبيا، و$\Xi(x, x^*)$ هو جهد التبديد.

تتميز المنهجية بفرض القيود الديناميكية الحرارية عن طريق البناء (قيود صلبة) بدلاً من الاعتماد على حدود العقوبة في دالة الخسارة. يدمج هيكل النموذج المكونات التالية:

1. الديناميكيات العكوسة (الجزء الهاملتوني): يتعلم الإطار الطاقة $E(x)$، والإنتروبيا $S(x)$، والثنائي $L(x)$. ولتحقيق شرط التدهور العكسي $L(x)D_x S(x) = 0$ وعدم التماثل الالتوائي لـ $L$، يستخدم المؤلفون استراتيجية إعادة بارامتريّة. يتم إسقاط مخرج شبكة عصبية خام $\tilde{L}(x)$ باستخدام مصفوفة $Q_S$ مبنية من تدرج الإنتروبيا، مما يضمن أن يكون $L(x) = Q_S^T \tilde{L} Q_S$ غير متماثل التوائي ويلاشي تدرج الإنتروبيا.
2. الديناميكيات غير العكوسة (الجزء المبدد): يتم نمذجة جهد التبديد $\Xi(x, x^*)$ باستخدام شبكة عصبية محدبة جزئيًا للمدخلات (PICNN). ولتحقيق شرط التدهور غير العكوسي $\Xi(x, x^* + \lambda D_x E(x)) = \Xi(x, x^*)$ وضمان أن $\Xi(x, 0)=0$ مع التحدب، يتم إعادة بارامتريّة مخرج الـ PICNN الخام عبر إسقاط متعامد $P(x)$ على الفضاء الجزئي العمودي على $D_x E(x)$. ويُعرف الجهد النهائي كالتالي: $\Xi(x, x^*) = \tilde{\Xi}(x, P(x)x^*) - \tilde{\Xi}(x, 0) - D_{x^*}\tilde{\Xi}(x, 0)P(x)x^*$.
3. الضمانات الديناميكية الحرارية: يضمن هذا البناء القانون الأول (حفظ الطاقة) والقانون الثاني (إنتاج إنتروبيا غير سالب) بدقة، دون الحاجة إلى أن تتعلم الشبكة هذه الخصائص من البيانات. ويشير المؤلفون إلى أنه بينما لا يتم فرض هوية جاكوبي (المطلوبة ليكون هيكل بويسون "bracket" صالحًا) صراحةً عن طريق البناء في الإعدادات عالية الأبعاد بسبب التعقيد، إلا أنها ليست ضرورية تمامًا للقبول الديناميكي الحراري.

المساهمات الرئيسية

• أول إطار عمل لـ GENERIC غير التربيعي: هذا هو أول إطار عمل قادر على اكتشاف المجموعة الكاملة من مكونات GENERIC (الثنائي، الطاقة، الإنتروبيا، وجهد التبديد) تحديدًا ضمن صيغة جهد التبديد، مما يستوعب كل من الحالات التربيعية وغير التربيعية.
• هيكل القيود الصلبة: يقدم البحث إعادة بارامتريّة محددة للثنائي وجهد التبديد تضمن رياضيًا الامتثال للقانونين الأول والثاني للديناميكا الحرارية، متجاوزةً بذلك أساليب القيود اللينة.
• الاتساق مع الميكانيكا الإحصائية: من خلال بارامتريّة جهد التبديد $\Xi$ بدلاً من مصفوفة الاحتكاك، يتوافق النهج مع نظرية الانحراف الكبير، حيث يرتبط $\Xi$ بدالة المعدل للتقلبات، مما يوفر تمثيلًا أكثر إيجازًا وقابلية للتفسير إحصائيًا.

النتائج
قام المؤلفون بالتحقق من صحة N-GINNs في ثلاثة أمثلة تزداد تعقيدًا:

1. المذبذب التوافقي في حمام حراري: نظام ذو تبديد تربيعي. استعاد النموذج بدقة الديناميكيات الكلاسيكية، مع الحفاظ على حفظ الطاقة وإنتاج إنتروبيا موجب حتى عند دمجه مع مخطط RK4 قياسي لا يحافظ على البنية.
2. محرك كيميائي مثالي: نظام يتضمن "bracket" بويسون غير معياري (حركة المكبس المقترنة بالغاز) وجهد تبديد غير تربيعي (حركية التفاعل الكيميائي). نجح النموذج في التقاط الاقتران غير الخطي بين الحركة الميكانيكية والتفاعلات الكيميائية، مع الحفاظ على الاتساق الديناميكي الحراري عبر مجموعة الاختبار.
3. نموذج لزوجة بلاستيكية أحادي البعد (نوع بيرزيا): نظام متصل محكوم بمعادلات تفاضلية جزئية (PDEs) مع جهد تبديد غير تربيعي مرتبط بالتدفق اللزوجي البلاستيكي. نجح إطار العمل في تعلم الحقول الموزعة مكانيًا (الإزاحة، الزخم، الانفعال، درجة الحرارة) والبنية الديناميكية الحرارية الكامنة، مما أظهر القدرة على التوسع في إعدادات تعتمد على المعادلات التفاضلية الجزئية.

في جميع الحالات، حققت النماذج المتعلمة أخطاء $L_2$ نسبية منخفضة في مسارات الاختبار، وحققت بدقة القيود الديناميكية الحرارية (طاقة إجمالية ثابتة للأنظمة المغلقة، وإنتاج إنتروبيا موجب تمامًا).

الأهمية والادعاءات
يزعم البحث أن N-GINNs توفر أداة قوية وحافظة للبنية لاكتشاف نماذج متسقة ديناميكيًا حراريًا من البيانات، خاصة للأنظمة التي يكون فيها التبديد غير التربيعي أمرًا حاسمًا. ويؤكد المؤلفون أن نهجهم يضمن الامتثال الدقيق للقانونين الأول والثاني للديناميكا الحرارية بالتصميم، مما يعالج قصورًا في الأساليب الحالية القائمة على البيانات والتي قد تنتهك المبادئ الفيزيائية.

يظل المؤلفون متواضعين فيما يتعلق بالنطاق الحالي، حيث يقرون بأن:

• الطريقة هي حاليًا إطار عمل حتمي يتم تدريبه على مسارات محددة، ويعيد تنبؤات لمرة واحدة (single rollout).
• يفترض النموذج أن متغيرات الحالة مرصودة بالكامل، بينما تتضمن العديد من التطبيقات الواقعية ملاحظات جزئية أو متغيرات داخلية.
• لا يزال فرض هوية جاكوبي بدقة في الإعدادات عالية الأبعاد تحديًا مفتوحًا ولم يتم تقييمه صراحةً في الأمثلة.
• هناك حاجة لعمل مستقبلي لمعالجة القابلية للتوسع، وتقدير عدم اليقين، ودمج التحديد التلقائي لمتغيرات الحالة.

يضع البحث N-GINNs كخطوة مهمة نحو سد الفجوة بين الديناميكا الحرارية المعقدة لعدم التوازن والتعلم العمما الحديث، مما يتيح اكتشاف نماذج قابلة للتفسير ومتسقة فيزيائيًا لمجموعة أوسع من العمليات غير العكوسة.