Mechanism-oriented tendency-integration operator networks for PDE foundation models
تقدم هذه الورقة شبكات عاملة موجهة نحو الآليات تدمج الآليات الفيزيائية صراحةً عبر مسارات نزعة متعلمة، وتثبت من خلال اختبارات التدخل والتكافؤ أن هذا التنظيم يعزز تعميم ونموذج دقة وتفسير نماذج المعادلات التفاضلية الجزئية عبر أنظمة ونطاقات فيزيائية متنوعة.
تُكتب قوانين الفيزياء بلغة التغيير. فعندما يتدفق نهر، أو تنتشر الحرارة عبر جدار، أو تترقرق موجة صدمية عبر الهواء، فإن هذه الأحداث ليست عشوائية؛ بل تتبع قواعد صارمة تصف كيفية تحول حالة من المادة إلى الحالة التالية. لقرون، استخدم العلماء معادلات معقدة للتنبؤ بهذه التغييرات، لكن حلها لكل موقف جديد هو أمر بطيء وصعب. وفي السنوات الأخيرة، ظهر نهج جديد: تعليم الحواسيب تعلم هذه القواعد مباشرة من البيانات. هذه الأنظمة، التي تُسمى غالباً النماذج التأسيسية، يتم تدريبها على مكتبات ضخمة من عمليات المحاكاة الفيزيائية حتى تتمكن في النهاية من التنبؤ بسلوك أنظمة جديدة لم ترها من قبل. والأمل هو أن يتمكن "دماغ حاسوبي" واحد وقوي في النهاية من فهم فيزياء كل شيء، من أنماط الطقس إلى احتراق المحركات. ومع ذلك، ظل هناك سؤال عالق: عندما تقدم هذه النماذج تنبؤاً، هل تفهم حقاً القوى الفيزيائية الكامنة وراء العمل، أم أنها مجرد حفظ لأنماط كيفية ظهور الأشياء أثناء تغيرها بمرور الوقت؟
قام باحث في جامعة كيونغ هي (Kyung Hee) ببناء نوع جديد من النماذج الحاسوبية للإجابة على هذا السؤال. فقد أنشأ نظاماً مصمماً ليس فقط لتخمين الحالة المستقبلية لنظام فيزيائي، بل للقيام بذلك من خلال الفصل الصريح بين القوى الفيزيائية المختلفة التي تقود ذلك التغيير. وبدلاً من ترك الحاسوب يجد طريقة واحدة خفية للانتقال من لحظة إلى أخرى، فإن هذه البنية الجديدة تجبر النظام على تفكيك المشكلة إلى أجزاء محددة ومعروفة: القوى التي تدفع المادة، والقوى التي تنشرها، والقوى التي تربط الخصائص المختلفة ببعضها البعض. ويسمي الباحث هذا النهج "الشبكة الموجهة نحو الآليات". ومن خلال منح الحاسوب "أدوات" متميزة لكل نوع من التفاعلات الفيزيائية، أراد أن يرى ما إذا كان النموذج سيتعلم استخدام الأداة المناسبة للمهمة المناسبة، تماماً كما يختار الميكانيكي مفتاح ربط محدد لصامولة محددة.
اختبر الباحث هذه الفكرة عبر تسع عشرة عائلة مختلفة من المعادلات الفيزيائية، تغطي كل شيء من تدفق الماء والهواء إلى سلوك موجات الصدمة والتفاعلات الكيميائية. وقد درب النموذج على التنبؤ بكيفية تطور هذه الأنظمة بمرور الوقت. وأظهرت النتائج أن النموذج تعلم بالفعل التمييز بين القوى الفيزيائية المختلفة. فعندما قام الباحث بإيقاف الجزء المسؤول عن قوة معينة في النموذج عمداً، مثل القوة التي تدفع السائل على طول تيار، انهارت تنبؤات النموذج للأنظمة التي تهيمن عليها تلك القوة. وعلى العكس من ذلك، عندما أوقف جزءاً مسؤولاً عن قوة أخرى، مثل انتشار الحرارة، ظل النموذج دقيقاً للأنظمة التي كانت الحرارة هي المحرك الرئيسي فيها. وقد أثبت هذا أن النموذج لم يكن مجرد حفظ لنمط واحد ضبابي من التغيير؛ بل تعلم تحديد ووزن الآليات الفيزيائية المحددة التي تهم كل موقف.
وكشفت الدراسة أن اعتماد النموذج على هذه الآليات يتغير اعتماداً على النظام الفيزيائي. فعلى سبيل المثال، في السوائل بطيئة الحركة وغير القابلة للانضغاط، اعتمد النموذج بشدة على الآليات المتعلقة بالدفع والانتشار. ولكن عندما طُبق نفس النموذج على الغازات سريعة الحركة والقابلة للانضغاط حيث تتشكل موجات الصدمة، فإنه حول تركيزه إلى الآليات التي تتعامل مع تغيرات الكثافة والتدرجات الحادة. وتوحي هذه المرونة بأن النموذج ليس عالقاً بجمود في طريقة واحدة للتفكير؛ بل إنه يكيف منطقه الداخلي ليتناسب مع فيزياء المشكلة المطروحة. كما وجد الباحث أن نموذجه يمكنه التعامل مع الاضطراب ثلاثي الأبعاد وتفاعلات الموجات المعقدة، حيث يلتقط بدقة الطاقة والبنية لهذه الأنظمة الفوضوية حيث تفشل النماذج المماثلة غالباً في الحفاظ على الشكل الصحيح للموجات.
وبعيداً عن مجرد تقديم تنبؤات دقيقة، اختبر الباحث ما إذا كان النموذج يفهم التناظر الأساسي للعالم الفيزيائي. ففي الفيزياء، لا تتغير قوانين الطبيعة إذا قمت بتدوير نظام ما، أو قلبه كصورة مرآتية، أو حركته إلى مكان مختلف، بشرط أن تكون البيئة موحدة. يجب أن ينتج النموذج الفيزيائي الحقيقي نفس النتيجة بغض النظر عن كيفية توجيه المدخلات. ووجد الباحث أن نموذجه الجديد يحترم هذه القواعد. فعندما قام بتدوير أو قلب بيانات المدخلات، تغيرت تنبؤات النموذج بطريقة تطابق تماماً دوران أو قلب المدخلات. وفشلت النماذج الأخرى التي اختُبرت في نفس الدراسة في هذا الاختبار، حيث أنتجت أخطاءً نمت بشكل جامح عند تدوير المدخلات أو عكسها. وهذا يشير إلى أن النموذج الجديد قد تعلم تمثيلاً أعمق وأكثر اتساقاً للقوانين الفيزيائية، تمثيلاً غير مرتبط بوجهة نظر أو اتجاه معين.
وقد قدم احترام هذه التناظرات فائدة عملية. فبسبب كون أخطاء النموذج متسقة عبر الاتجاهات المختلفة، استطاع الباحث تشغيل نفس التنبؤ عدة مرات مع تدوير أو قلب المدخلات، ثم حساب متوسط النتائج. هذه الحيلة البسيطة، المعروفة باسم "متوسط التناظر"، قللت بشكل كبير من الخطأ في التنبؤ النهائي دون الحاجة إلى أي تدريب أو بيانات إضافية. لقد عمل الأمر كأخذ قياسات متعددة من زوايا مختلفة للحصول على قراءة أكثر دقة. حدث هذا التحسن تلقائياً، ببساطة لأن البنية الداخلية للنموذج كانت متوافقة مع الطبيعة الحقيقية للعالم الفيزيائي. وتخلص الدراسة إلى أنه من خلال تنظيم عملية تعلم الحاسوب حول آليات فيزيائية صريحة، بدلاً من تركها تكتشف الأنماط الخفية من تلقاء نفسها، يمكننا بناء أنظمة ليست أكثر دقة فحسب، بل أيضاً أكثر موثوقية وسهولة في الفهم. يوفر هذا النهج مساراً نحو ذكاء اصطناعي يستوعب حقاً ميكانيكا الكون، بدلاً من مجرد محاكاة مظهره.
بيان المشكلة تهدف نماذج التأسيس للمعادلات التفاضلية الجزئية (PDE) إلى التعميم عبر أنظمة فيزيائية متنوعة من خلال دمج عائلات متعددة من المعادلات في نموذج واحد مدرب مسبقاً. وبينما نجحت البنى الحديثة، لا سيما تلك القائمة على المحولات (Transformers)، في التوسع بفعالية، لا يزال من غير الواضح ما إذا كانت تنبؤاتها تشتق من تمثيلات للآليات الفيزيائية الكامنة أم أنها مجرد أنماط متعلمة لتطور الحالة. تدمج النهج الحالية عادةً هياكل مدركة للفيزياء (مثل قوانين الحفظ، أو التفكيك الزمني)، لكنها لا تخصص أدواراً حوسبية صريحة لآليات فيزيائية متميزة مثل النقل، أو الانتشار، أو التفاعل، أو انتشار الموجات. وبناءً على ذلك، عندما يتم تدريب شبكة واحدة عبر عائلات متعددة من المعادلات التفاضلية الجزئية، تظل الفروق المتعلقة بالآليات النشطة، وكيفية تفاعلها، وكيفية تباين أهميتها عبر الأنظمة المختلفة، ضمن تمثيل مشترك ضمني. هذا النقص في التنظيم الصريح يعيق القابلية للتفسير وقد يحد من الأساس الفيزيائي المطلوب للتعميم القوي.
المنهجية: بنية MOTION يقدم المؤلف MOTION (شبكة مشغل التكامل-النزعة الموجهة للآليات)، وهو نموذج تأسيسي للمعادلات التفاضلية الجزئية ينظم الحوسبة حول آليات فيزياوية صريحة بدلاً من عمود فقري مشترك ومجرد لانتقال الحالة. تتكون البنية من ثلاث مراحل متميزة:
الإدراك (Perception): يقوم مشفر محول (Transformer encoder) غير مرتبط بالأبعاد برسم خرائط للحالات الفيزيائية المرصودة (u0) من مختلف العائلات والأبعاد المكانية (2D/3D) على فضاء كامن مشترك z(x,0). ولتكييف سعة النموذج الثابتة مع الأبعاد المختلفة، يستخدم المشفر أخذ عينات نقطية عشوائية أثناء التدريب والتجميع على شبكة كامنة ثابتة.
ديناميكيات الآلية (Mechanism Dynamics): يتم تفكيك التطور الزمني للمتغير الكامن إلى مجموع من النزعات المحددة لكل آلية: ∂tz=W=k∑H(k)(z) هنا، تمثل H(k) "رأس آلية". تستخدم البنية عشرين رأساً: رأس حالة واحد (H(0)) نشط لجميع العائلات، وتسعة عشر رأساً إضافياً يتم التحكم فيها شرطياً بواسطة بيانات وصفية لعائلة المعادلة. تتوافق هذه الرؤوس مع مؤثرات أو سمات فيزيائية محددة، وتشمل:
الأشكال التفاضلية: الانتشار (∇2)، الحمل (−u⋅∇)، النقل في اتجاه الريح (upwind transport)، انحناء المتوسط، وويف-لابلاسيان (wave-Laplacian).
التفاعلات غير الموضعية: عدم الموضعية الطيفية (الترشيح في فضاء فورييه لفئة ∇−2) وبث متوسط المجال.
المكونات القابلة للتعلم: بالنسبة للآليات التي تتضمن كميات غير متوفرة مباشرة في الحالة الكامنة، يتم إدخال المعلمات المطلوبة كبارامترات قابلة للتعلم ضمن المعادلة الفيزيائية الثابتة.
تخليق الحل (Solution Synthesis): يتم تحويل لوحات المعدل الكامن W إلى مسار مستمر u^(x,t) باستخدام مؤثرات المسار العصبية. يتم إجراء التكامل في شكل مغلق باستخدام أساس مشتق عكسي ليجندر في الزمن ودوال أساس مكانية ثابتة. يقوم فك تشفير نقطي D برسم المعدل المتكامل إلى الفضاء الفيزيائي، مما يفرض الشرط الابتدائي بدقة من خلال البناء (D(0,x)=0).
المساهمات الرئيسية
التنظيم الصريح للآليات: تقترح الدراسة بنية حيث يتم تنظيم التنبؤ عبر المعادلات التفاضلية الجزئية من خلال تمثيلات صريحة للآليات الفيزيائية الكامنة. وتظهر الاعتمادية على هذه الآليات، الخاصة بكل معادلة ونظام، من خلال التدريب عبر البوابات والوزن المتعلم.
القابلية للتفسير على مستوى الآلية: يتيح النموذج إجراء تجارب "التعطيل" (knockout) حيث يتم كبح رؤوس آليات معينة لقياس مساهمتها في دقة التنبؤ. ويكشف هذا عن الأدوار المتميزة للآليات عبر عائلات المعادلات والأنظمة الفيزيائية.
اختبار التكافؤ الفيزيائي: يقدم المؤلف اختباراً للاتساق الفيزيائي، حيث يقيس "عيب التكافؤ" (انتهاك التماثل تحت التحويلات مثل الدوران أو الانعكاس) بالنسبة لخطأ التنبؤ. ويثبتون أن تنبؤات النموذج تظل متسقة عبر الأوصاف المتكافئة فيزيائياً لنفس الحالة.
متوسط التماثل: بالاستفادة من التكافؤ الفيزيائي، يوضح المؤلف أن المتوسط الجماعي للتمثيلات المتكافئة فيزيائياً (تعزيز وقت الاختبار) يمكن أن يقلل من الأخطاء المتبقية دون تدريب إضافي.
النتائج تم تقييم النموذج على تسع عشرة عائلة من المعادلات في تسعة أنظمة حاكمة (بما في ذلك نافيير-ستوكس، وأويلر القابلة للانضغاط، وآلن-كاهن، ومعادلات الموجة) في كل من 2D و3D.
تخصص الآلية: كشفت تجارب التعطيل عن اعتماد قوي على نوع العائلة. فعلى سبيل المثال، اعتمدت العائلات غير القابلة للانضغاط بشكل أساسي على الحمل والانتشار، بينما اعتمدت عائلات أويلر القابلة للانضغاط بشدة على اقتران الكثافة. وتغيرت أهمية الآليات مع الأنظمة الفيزيائية؛ فمثلاً، في الاضطراب القابل للانضغاط ثلاثي الأبعاد، تحول الاعتماد من انحناء المتوسط/الانتشار عند أرقام ماخ المنخفضة إلى التدرجات الاتجاهية عند أرقام ماخ العالية والقوى المضطربة.
البصمات الطيفية والمكانية: أدى كبح رؤوس معينة إلى فشل متميز. حيث أدى إزالة النقل في اتجاه الريح إلى تعطيل المحاذاة المكانية (تماسك الطور) مع الحفاظ على الطاقة الطيفية، بينما أدت إزالة التدرجات الاتجاهية إلى تقليل طاقة النطاق مع الحفاظ على الموضع. وهذا يؤكد أن الرؤوس المختلفة تلتقط جوانب فيزيائية متميزة للحل.
أداء التعميم: مقارنة بالنماذج المرجعية متعددة العائلات (BCAT وPROSE-FD) المدربة على نفس المجموعة مع مطابقة عدد المعلمات والميزانيات، حقق MOTION أخطاء أقل في خمس من أصل ست عائلات من نافيير-ستوكس. كما وصل إلى نفس مستوى الخطأ بعدد أقل بكماً من مشاهدات العينات، لا سيما في أنظمة التعرض المنخفض.
النقل إلى مسائل القيم الأولية: في مهام النقل اللاحقة (بما في ذلك ديناميكيات التفاعل خارج التوزيع ودوال إهليلجية مستقرة)، تفوق MOTION على Poseidon-B. ومن الجدير بالذكر أنه أعاد إنتاج سلوكيات تشبع التفاعل ثنائي الاستقرار بدقة أكبر وحافظ على اتجاه حقول الحل في مسائل بواسون.
التكافؤ الفيزيائي: أظهر MOTION عيوب تكافؤ أقل بكثير مقارنة بالنماذج المرجعية. وبينما أظهرت النماذج المرجعية مثل BCAT عيوباً أكبر بعدة مراتب من أخطاء التنبؤ الخاصة بها (مما يؤدي إلى فشل كارثي تحت متوسط التماثل)، ظلت عيوب MOTION ضمن نطاق خطأ التنبؤ الجوهري الخاص به. وبناءً على ذلك، أدى متوسط التماثل إلى تحسين دقة MOTION (على سبيل المثال، تقليل الخطأ بنسبة 37.3% في مهام تدفق السوائل غير القابلة للانضغاط)، في حين أدى غالباً إلى تدهور أداء النماذج المرجعية.
الأهمية والادعاءات يزعم البحث أن التنظيم الصريح على مستوى الآلية يعمل كتحيز استقرائي قوي لنماذج التأسيس للمعادلات التفاضلية الجزئية. ومن خلال فصل الهيكل الحوسبي المقرر (مفردات الآلية) عن المحتوى المتعلم (البوابات والأوزان)، تجعل هذه البنية الحوسبة عبر المعادلات التفاضلية الجزئية قابلة للفحص فيزيائياً. وتشير النتائج إلى أن الهيكل القابل للنقل يجب أن يُرمز من خلال عمليات محددة قائمة على المعرفة بالمجال، بينما يظهر السلوك الخاص بالمهمة من خلال تركيبها المتعلم. يوفر هذا النهج أساساً راسخاً فيزيائياً للتعميم، مما يضمن أن التنبؤات ليست دقيقة فحسب، بل متسقة أيضاً مع التماثلات والآليات التي تحكم الأنظمة الفيزيائية. ويضع المؤلف هذا كخطوة نحو تعلم آلي علمي قابل للتفسير، حيث يتم استبدال "الصندوق الأسود" للمؤثرات العصبية بإطار عمل شفاف ومحلل للآليات.