Pressure-transferable universal machine-learning potentials: the WBM-MatPES benchmark and Tuga-FF
تقدم هذه الورقة مجموعة بيانات WBM-MatPES لتقييم إمكانات تعلم الآلة تحت الضغط العالي بشكل منهجي، وتقدم Tuga-FF، وهو نموذج محول رسومي يتفوق بشكل كبير على الأساليب الحالية من خلال الحفاظ على دقة عالية في ظروف الضغط المحيط والمتطرف حتى 150 جيجا باسكال.
المؤلفون الأصليون:Pierre-Paul De Breuck, Thalis H. B. da Silva, Antoine Loew, Silvana Botti, Miguel A. L. Marques
في سعي تصميم مواد جديدة، من السبائك الأكثر قوة إلى البطاريات الأكثر كفاءة، يعتمد العلماء على أداة قوية تسمى نظرية الدالة الكثافية. تسمح هذه الطريقة للباحثين بمحاكاة سلوك الذرات والإلكترونات على جهاز الكمبيوتر، والتنبؤ بكيفية تماسك المادة، أو توصيلها للكهرباء، أو تفاعلها مع الحرارة. ومع ذلك، فإن عمليات المحاكاة هذه مكلفة للغاية في تشغيلها، حيث تتطلب غالبًا أيامًا من وقت الحوسبة الفائقة لإجراء عملية حسابية واحدة. ولتسريع هذه العملية، طور العلماء نماذج تعلم آلي تعمل كاختصارات؛ فهذه الأنظمة المعتمدة على الذكاء الاصطناعي يتم تدريبها على آلاف الحسابات الموجودة لتعلم قواعد التفاعل الذري، مما يسمح لها بالتنبؤ بخصائص المواد الجديدة في جزء من الثانية. لسنوات، عملت هذه الاختصارات بشكل جيد للمواد في الظروف العادية، ولكن ظل هناك سؤال جوهري: هل يمكن الوثوق بها عندما تتغير البيئة بشكل جذري، كما هو الحال تحت الضغط الساحق الموجود في أعماق الكواكب أو في المفاعلات الصناعية؟
لقد أجاب فريق من الباحثين في جامعة روهر بوخوم الآن على هذا السؤال من خلال بناء أرض اختبار صارمة وجديدة لهذه النماذج القائمة على التعلم الآلي. فقد أدركوا أن البيانات القياسية المستخدمة لتدريب هذه النماذج كانت غالبًا غير متسقة، مثل مكتبة حيث كُتبت بعض الكتب بلهجة معينة بينما كُتبت كتب أخرى بلهجة مختلفة، مما يؤدي إلى أخطاء طفيفة تتراكم عندما تُدفع هذه النماذج إلى أقصى حدودها. ولإصلاح ذلك، أنشأوا مجموعة بيانات ضخمة وموحدة تسمى WBM-MatPES. تضم هذه المجموعة 182,000 بنية بلورية، تمت إعادة حسابها جميعًا باستخدام مجموعة واحدة متسقة من القواعد التي تصحح الأخطاء المعروفة في كيفية وصف الذرات. وإلى جانب مجموعة البيانات هذه، بنوا "خريطتين" مختلفتين للاستقرار، تُعرفان باسم "أغلفة محدبة" (convex hulls)، واللتان تعملان كمرجع للحقيقة الأرضية. تعتمد إحدى الخريطتين على قاعدة بيانات واسعة الاستخدام، بينما تكون الأخرى أعمق وأكثر شمولاً، وهي مشتقة من مجموعة أكبر من الهياكل المعاد حسابها. يتيح هذا الإعداد لهم اختبار ما إذا كان بإمكان النموذج التنبؤ بشكل صحيح بما إذا كانت المادة ستظل مستقرة أم ستنهار، ليس فقط في درجة حرارة الغرفة، ولكن أيضًا تحت الضغط الشديد.
استخدم الباحثون هذا المعيار الجديد لاختبار خمسة نماذج تعلم آلي موجودة تم تدريبها على البيانات المصححة. عند الضغط العادي، أدت هذه النماذج أداءً جيدًا إلى حد ما، واتفقت مع بعضها البعض ضمن هامش خطأ صغير. ومع ذلك، مع زيادة الضغط إلى 150 جيجاباسكال — وهي قوة تعادل ما يوجد في أعماق وشاح الأرض — انهار أداء هذه النماذج الراسخة. أصبحت تنبؤاتها غير دقيقة بشكل كبير، حيث نمت الأخطاء بمقدار ثلاثة عشر ضعفًا. تنبأت بعض النماذج بأن الخلايا الذرية ستتقلص كثيرًا وتنهار، بينما فشلت نماذج أخرى في التقاط تغيرات الطاقة بشكل صحيح. أظهرت الدراسة أن هذه النماذج لم تكن تفشل بسبب تصميمها الداخلي، بل لأنها لم ترَ ما يكفي من الأمثلة على المواد تحت هذا الضغط الشديد أثناء تدريبها؛ فقد كانت في الأساس تخمن في منطقة لم تزرها من قبل.
ولحل هذه المشكلة، طور الفريق نموذجًا جديدًا يسمى Tuga-FF. وعلى عكس النماذج السابقة، تم تدريب Tuga-FF على مجموعة بيانات أكبر وأكثر تنوعًا لا تشمل فقط المواد القياسية، بل تشمل أيضًا الهياكل تحت الضغط العالي وفي أبعاد مختلفة. وعند اختباره، أثبت Tuga-FF أنه قوي للغاية؛ ففي الضغط العادي، كان النموذج الأكثر دقة، بمعدل خطأ قدره 13.6 مللي إلكترون فولت لكل ذرة. والأهم من ذلك، أنه عندما رُفع الضغط إلى 150 جيجاباسكال، حافظ Tuga-FF على دقته، حيث بلغ الخطأ 21 مللي إلكترون فولت لكل ذرة فقط. وبينما كانت النماذج الأخرى تكافح حتى لإيجاد الشكل الصحيح للخلية الذرية، استمر Tuga-FF في التنبؤ بالحجم والطاقة بدقة عالية. ووجد الباحثون أن مفتاح هذا النجاح لم يكن هيكلًا رياضيًا أكثر تعقيدًا، بل ببساطة كان تضمين أمثلة الضغط العالي في بيانات التدريب.
يبرهن هذا العمل على أن موثوقية نماذج التعلم الآلي تعتمد كليًا على تنوع البيانات التي تُغذى بها. فالنموذج الذي يعمل بشكل مثالي في بيئة هادئة يمكن أن يفشل بشكل كارثي عندما تتغير الظروف، لمجرد أنه لم يتعلم قواعد تلك البيئة الجديدة. ومن خلال توفير مجموعة بيانات متسقة ومعيار تحدٍ يمتد من الظروف العادية إلى الضغوط القصوى، قدم المؤلفون وسيلة واضحة للمجتمع العلمي لقياس وتحسين هذه الأدوات. وتشير النتائج إلى أنه لبناء نماذج عالمية حقًا قادرة على استكشاف النطاق الكامل لسلوك المواد، يجب على الباحثين ضمان أن تغطي بيانات التدريب كامل المشهد من الظروف التي ينوون محاكاتها. ويقف نموذج Tuga-FF الجديد كإثبات لمفهوم القدرة، مظهرًا أنه مع البيانات الصحيحة، يمكن للتعلم الآلي أن يظل دقيقًا حتى في أكثر البيئات تطرفًا.
ملخص تقني: إمكانات تعلم الآلة العالمية القابلة للنقل تحت الضغط: معيار WBM-MatPES وTuga-FF
بيان المشكلة تقدم إمكانات الذرات التفاعلية لتعلم الآلة العالمية (uMLIPs) القدرة على استبدال الحسابات المعتمدة على المبادئ الأولية (ab initio) المكلفة في علم المواد. ومع ذلك، فإن دقة ونقل هذه النماذج الحالية مقيدان بجودة واتساق بيانات التدريب الخاصة بها. تعتمد معظم مجموعات البيانات الموجودة على إعدادات حسابية (مثل إعدادات PAW، وتصحيحات Hubbard U، والحدود الدنيا للقطع/cutoffs) تم وضعها منذ أكثر من عقد من الزمن بواسطة مشروع المواد (Materials Project). تسبب هذه الإعدادات عدم اتساق، مثل الإلكترونات اللبية المجمدة للعناصر الأرضية النادرة، والانقطاعات في سطح طاقة الوضع بسبب تصحيحات Hubbard U المعتمدة على التركيب. علاوة على ذلك، تركز المعايسات القياسية مثل Matbench Discovery على التكوينات القريبة من حالة التوازن عند الضغط الجوي. يؤدي هذا أخذ العينات المنحاز إلى جعل النماذج تضعف سطح طاقة الوضع بشكل منهجي، مما يؤدي إلى أداء ضعيف تحت الضغط ونقص في قابلية النقل التي تم التحقق منها إلى أنظمة الضغط العالي.
المنهجية لمعالجة هذه القيود، قدم المؤلفون معيارًا جديدًا ونموذجًا جديدًا:
معيار WBM-MatPES: أعاد المؤلفون حساب مجموعة بيانات Wang-Botti-Marques (WBM) (197,000 بنية) باستخدام إعدادات حسابية متسقة ومحدثة وهي MatPES. بعد التصفية بحثًا عن التفرد واستبعاد المدخلات الموجودة بالفعل في المجموعات المرجعية، تم إنشاء مجموعة اختبار مكونة من 182,000 بنية. وفقًا لعرف Matbench Discovery، يتم الإبلاغ عن جميع المقاييس على المجموعة الفرعية من النماذج الأولية الفريدة، والتي تحتفظ بـ 179,000 بنية.
أغلفة المرجع (Reference Hulls): تم إنشاء غلفين مرجعيين محدبين باستخدام إعدادات MatPES: أحدهما مشتق من Materials Project (89,000 مدخل، مع 31,000 على الغلاف) والآخر أكثر عمقًا من قاعدة بيانات Alexandria (166,000 مدخل تغطي 89 عنصرًا).
توسيع الضغط: تم توسيع المعيار ليشمل ستة ضغوط (من 25 إلى 150 جيجا باسكال) لتقييم المحتوى الحراري (H=E+PV) بدلاً من الطاقة فقط، باستخدام هياكل من بحث ضغط عالٍ تم إجراؤه مسبقًا باستخدام GRACE.
نموذج Tuga-FF: تم تطوير نموذج محول رسم بياني ثابت (invariant graph transformer) جديد.
البنية: يستخدم المسافات بين الذرات وزوايا الروابط المرتبة في رسوم بيانية للذرات والخطوط، متجنبًا التوافقيات الكروية. ويستخدم هيكل محول الرسم البياني مع تعديل الميزات الخطي (FiLM) المشروط بخصائص الروابط.
القيود الفيزيائية: يضمن النموذج قوى محافظة وتكافؤًا (equivariance) عن طريق البناء، باستخدام حدود منفصلة تعتمد على العناصر وغلافًا متعدد الحدود سلسًا لتجنب انقطاعات الحدود.
استراتيجية التدريب: تم تدريب النموذج مسبلًا على قاعدة بيانات OMat24 ثم ضبطه بدقة (fine-tuning) على Alexandria-MatPES، وهي مجموعة بيانات تضم أكثر من 21 مليون تكوين تم حسابها بإعدادات MatPES. تتضمن هذه المجموعة هياكل حجمية ثلاثية الأبعاد، وأنظمة منخفضة الأبعاد، وهياكل تحت ضغط يصل إلى 150 جيجا باسكال. تم تدريب متغيرين: Tuga-FF-v1-3d (للأحجام الكبيرة فقط) و Tuga-FF-v1-all (للمجموعة الكاملة).
النتائج الرئيسية قيمت الدراسة سبعة نماذج (بما في ذلك خمسة من الإمكانات المنشورة سابقًا والمدرّبة على MatPES واثنين من متغيرات Tuga-FF) مقابل المعيار الجديد:
الأداء عند الضغط الجوي: عند الظروف الجوية، تفوقت نماذج Tuga-FF بشكل كبير على الإمكانات الموجودة. حقق Tuga-FF-v1-all درجة F1 بلغت 0.935 (مقابل غلاف Materials Project) ومتوسط خطأ مطلق (MAE) قدره 13.6 ملي إلكترون فولت لكل ذرة. ويمثل هذا تحسنًا بمقدار 2.7 ضعفًا عن أفضل نموذج تالٍ (MACE-MATPES-0). كان المتغيران لـ Tuga-FF غير قابلين للتمييز عند الضغط الجوي، مما يشير إلى أن إضافة البيانات منخفضة الأبعاد وعالية الضغط لم تؤدِ إلى تدهور الأداء للهياكل الحجمية.
قابلية النقل تحت الضغط: عند 25 جيجا باسكال، اتفقت النماذج الخمسة المنشورة سابقًا ضمن نطاق 12 ملي إلكترون فولت لكل ذرة. ومع ذلك، عند 150 جيجا باسكال، تباعدت أخطاؤها بشكل كبير، حيث تراوحت بين 0.4 إلى 5 إلكترون فولت لكل ذرة. فشلت معظم النماذج بسبب "الجدران الدافعة الناعمة" (soft repulsive walls)، مما تسبب في انهيار وحدة الخلية (أخطاء كبيرة في الحجم).
تفوق Tuga-FF: حافظ Tuga-FF-v1-all على دقة عالية عند 150 جيجا باسكال، بمتوسط خطأ مطلق قدره 21 ملي إلكترون فولت فقط وخطأ في الحجم قدره 0.29% (أفضل من المدخلات غير المسترخية). كان النموذج الوحيد الذي نجح باستمرار في إرخاء الهياكل للوصم إلى عتبة القوة عبر جميع الضغوط دون فشل كارثي.
تغطية البيانات: اتسعت الفجوة في الأداء بين Tuga-FF-v1-all و Tuga-FF-v1-3d مع زيادة الضغط، مما يثبت أن إدراج هياكل الضغط العالي في مجموعة التدريب كان العامل الحاسم في قابلية النقل، وليس التغييرات في البنية.
الأهمية والادعاءات يزعم البحث أن القيد الأساسي لإمكانات uMLIPs الحالية ليس بنية النموذج، بل تغطية واتساق بيانات التدريب.
الاتساق: النماذج المدربة على إعدادات غير متسقة (مثل إعدادات Materials Project مع Hubbard U) لا يمكن تقييمها بدقة مقابل نظرية متسقة (MatPES) دون قياس عدم التطابق في الإعدادات بدلاً من جودة النموذج.
قابلية النقل: الدقة عند الضغط الجوي لا تضمن الدقة تحت الضغط. يُعزى تدهور النماذج عند الضغط العالي إلى نقص تكوينات الضغط العالي في مجموعات التدريب الخاصة بها.
فائدة المعيار: يوفر معيار WBM-MatPES مقياسًا صارمًا ومتسقًا لتقييم الإمكانات المدربة على إعدادات حديثة ومتسقة داخليًا. وهو يكشف أنه بينما تكون النماذج الحالية كافية للاكتشاف عند الضغط الجوي، إلا أنها تفشل بشكل كبير في الظروف القصوى ما لم يتم تدريبها صراحةً على مثل هذه البيانات.
Tuga-FF: يقدم المؤلفون Tuga-FF كأكثر إمكانات الطاقة الأرضية لحالة PBE دقة وعالمية حتى الآن على مجموعة بيانات WBM (13.6 ملي إلكترون فولت لكل ذرة)، ويعزون هذا النجاح إلى الجمع بين بنية قوية ومجموعة بيانات ضخمة ومتسقة ومتنوعة.
يخلص المؤلفون إلى أن التقدم المستقبلي في uMLIPs يعتمد على توليد مجموعات بيانات أغنى ومتسقة تغطي المناطق ذات الصلة من فضاء التكوين، بدلاً من التركيز حصريًا على الابتكار في البنية.