A PINNs approach for the computation of eigenvalues in elliptic problems

ملخص تقني لورقة بحثية بعنوان: "نهج الشبكات العصبية المعتمدة على الفيزياء (PINNs) لحساب القيم الذاتية في المسائل الإهليلجية"

1. بيان المسألة

تتناول الورقة التحدي الحسابي المتمثل في حل مسائل القيم الذاتية (Eigenvalue problems) للمعادلات التفاضلية الجزئية الإهليلجية، وتحديداً معادلة من نوع شرودنجر:
$$-\Delta u + V(x)u = Eu$$
حيث $u$ هي الدالة الذاتية (eigenfunction)، و $E$ هي القيمة الذاتية، و $V(x)$ هي دالة الجهد (potential function).

محددات الطرق الموجودة:

• التبعية التسلسلية: تعتمد مناهج الشبكات العصبية المعتمدة على الفيزياء (PINN) التقليدية لحل القيم الذاتية غالباً على تقليل "نسبة رايلي" (Rayleigh quotient). ولإيجاد القيم الذاتية ذات الرتب العليا ($E_k$)، تتطلب هذه الطرق حساب جميع القيم الذاتية الأقل رتبة أولاً ($E_1, \dots, E_{k-1}$) وفرض قيود التعامد، مما يجعلها غير فعالة حسابياً وعرضة لتراكم الأخطاء.
• اللاخطية: تواجه الطرق الموجودة صعوبة في التعامل مع مسائل القيم الذاتية اللاخطية (مثل مسألة $p$-Laplacian)، لأن هيكل التعامد بين الدوال الذاتية، وهو أمر بالغ الأهمية للمناهج التسلسلية، لا يوجد في السياقات اللاخطية.
• الأبعاد: العديد من طرق الشبكات العصبية أو الطرق المعتمدة على الشبكات (Mesh-based) تصبح صعبة التنفيذ في الفضاءات عالية الأبعاد.

2. المنهجية

يقترح المؤلفون نهجاً مبتكراً غير تسلسلي يفصل عملية حساب القيم الذاتية عن ترتيب الطيف (spectrum).

أ. دالة الخسارة (Loss Function)

بدلاً من تقليل نسبة رايلي، يعرّف المؤلفون دالة خسارة $\Lambda(u, E)$ بناءً على مربع البواقي (squared residual) للمعادلة، مقسوماً على معيار $L^2$ للحل:
$$\Lambda(u, E) = \frac{\int (\Delta u - V(x)u + Eu)^2 \, dx}{\int u^2 \, dx}$$
(ملاحظة: بالنسبة لشروط ديراكلي الحدودية، يكون البسط $(\Delta u + Eu)^2$ في حالة $V=0$.)

ب. الخوارزمية

1. اختيار الفترة: تحديد فترة مستهدفة $[E_{min}, E_{max}]$ حيث يُتوقع وجود القيم الذاتية.
2. التقطيع (Discretization): إنشاء شبكة منتظمة من القيم الذاتية التجريبية $E_i$ ضمن هذه الفترة.
3. حلقة التحسين: لكل $E_i$ ثابتة:
   • تدريب شبكة عصبية لتقليل $\Lambda(u, E_i)$ بالنسبة لمعلمات الشبكة (التي تقرب $u$).
   • البدء الدافئ (Warm-starting): لتحسين الكفاءة، تُستخدم الأوزان من التدريب عند $E_{i-1}$ كبداية للتدريب عند $E_i$.
4. تحليل منحنى الخسارة: رسم أقل قيمة للخسارة $\Lambda(E_i)$ مقابل $E_i$.
   • رؤية نظرية: منحنى الخسارة $\Lambda(E)$ محدود من الأعلى بـ $\min_k (E_k - E)^2$.
   • تحديد القيمة الذاتية: تمثل القيم الصغرى المحلية لمنحنى $\Lambda(E)$ القيم الذاتية $E_k$. وتُعد مخرجات الشبكة المرتبطة بهذه القيم الصغرى تقريباً للدوال الذاتية.

ج. تفاصيل التنفيذ

• البنية (Architecture): شبكة عصبية أمامية كاملة الاتصال (Multilayer Perceptron) مكونة من 3 طبقات مخفية (128 عصبون لكل منها) مع دالة تنشيط $\tanh$.
• الشروط الحدودية: لفرض شروط ديراكلي المتجانسة ($u=0$ على $\partial\Omega$)، يتم ضرب مخرج الشبكة الخام $\tilde{u}(x)$ في دالة مسافة حدودية $B(x)$ (على سبيل المثال $1-x^2$ للقرص الوحدة)، مما يضمن أن $u(x) = B(x)\tilde{u}(x)$ يتلاشى عند الحدود.
• التطبيع (Normalization): يتم إضافة حد عقوبة لفرض $\|u\|_2 = 1$ (أو $\|u\|_p=1$ في الحالات اللاخطية).
• التكامل: يتم تقريب جميع التكاملات باستخدام أخذ العينات بطريقة مونت كارلو (Monte Carlo sampling).

3. المساهمات الرئيسية

1. الحساب غير التسلسلي: يمكن لهذه الطريقة حساب أي قيم ذاتية (مثل $E_{10}$) مباشرة دون الحاجة لحساب $E_1$ وصولاً إلى $E_9$. وهذا يلغي الحاجة إلى التعامد التسلسلي.
2. الاستقلال عن الأبعاد: تتوسع هذه الطريقة بشكل طبيعي لتشمل المسائل عالية الأبعاد ($d=3, 4, \dots$) دون مواجهة مشاكل "لعنة الأبعاد" التي تعاني منها الطرق المعتمدة على الشبكات.
3. القابلية للتطبيق على المسائل اللاخطية: تم توسيع الطريقة بنجاح لتشمل مسألة $p$-Laplacian. وبما أنها لا تعتمد على التعامد الخطي، يمكنها إيجاد الأزواج الذاتية العليا في الإعدادات اللاخطية حيث تفشل الطرق التقليدية.
4. المرونة الهندسية: تعمل الطريقة على نطاقات معقدة (حلقات، مثلثات، مربعات) ببساطة عبر تكييف عامل الحدود $B(x)$، مما يتجنب الحاجة إلى إنشاء شبكات معقدة.

4. النتائج

تحقق المؤلفون من صحة الطريقة عبر سيناريوهات متنوعة:

• المسائل الخطية (معادلة هلمهولتز):

  • قرص ومربع ثنائي الأبعاد: تم حساب القيم الذاتية لتتطابق مع الحلول التحليلية الدقيقة بدقة عالية (أخطاء نسبية $< 10^{-3}$). وقد حدد منحنى الخسارة القيم الصغرى عند القيم الذاتية الدقيقة بوضوح.
  • أبعاد أعلى (كرات ثلاثية ورباعية الأبعاد): نجحت في حساب القيم الذاتية في كرات ثلاثية ورباعية الأبعاد، مع مقارنة جيدة مع أصفار دالة بسل (Bessel function) الدقيقة.
  • هندسات معقدة: أظهرت متانة في المناطق الحلقية والمجالات المثلثية.
  • القيم الذاتية العليا: نجحت في عزل القيم الذاتية في نطاقات الطاقة العالية (مثل $E \in [44, 55]$ في مربع الوحدة) دون معرفة مسبقة بالأنماط الأدنى.

• المسائل اللاخطية ($p$-Laplacian):

  • طُبقت على $p$-Laplacian مع $p=2.2$ و $p=2.5$ في 2D و 3D.
  • تمت مقارنة النتائج مع المراجع العددية من الأدبيات (باستخدام خوارزميات المنحدر الصاعد المقيد وقمة الجبل). حقق نهج PINN دقة تنافسية للزوجين الذاتيين الأول والثاني.
  • الأهمية: هذه هي أول نتائج عددية مسجلة لقيم $p$-Laplacian الذاتية في 3D باستخدام هذا الإطار المحدد.

• الجهود العامة (General Potentials):

  • تم اختبارها على جهود التوافقية (harmonic potentials)، وجهود غاوس مزدوجة البئر، وجهود متعددة الآبار ذات الدعم المدمج، مما أظهر القدرة على التكيف مع النماذج الفيزيائية التي تتجاوز مجرد الحصر البسيط.

5. الأهمية والخاتمة

تمثل هذه الورقة تحولاً في استخدام التعلم العميق للمسائل الطيفية. من خلال إعادة صياغة البحث عن القيمة الذاتية كعملية تقليل لمنحنى بقايا يعتمد على الخسارة عبر فضاء المعلمات ($E$)، استطاع المؤلفون التغلب على العقبات الرئيسية لمناهج PINN الحالية للقيم الذاتية:

• الكفاءة: لا حاجة لحساب الطيف بأكمله بشكل تسلسلي.
• المتانة: فعالة في الأبعاد العالية وعلى الهندسات غير المنتظمة.
• العمومية: تمتد بسلاسة إلى العمليات اللاخطية حيث يكون التعامد غير محدد.

بينما يقر المؤلفون بأن طرق العناصر المحدودة (Finite Element) أو الفروق المحدودة الكلاسيكية قد توفر دقة أعلى للمسائل الخطية البسيطة ثنائية الأبعاد، إلا أن طريقتهم تقدم بديلاً مرناً وخالياً من الشبكات (mesh-free) قادر بشكل فريد على معالجة مسائل القيم الذاتية عالية الأبعاد واللاخطية التي يصعب حلها بالطرق التسلسلية التقليدية.