Transferable 3D Convolutional Neural Networks for Elastic Constants Prediction in Nanoporous Metals

ملخص تقني: الشبكات العصبية التلافيفية ثلاثية الأبعاد القابلة للنقل للتنبؤ بالثوابت المرنة في المعادن نانوية المسامية

بيان المشكلة
ترتبط الاستجابة الميكانيكية للمعادن نانوية المسامية (مثل الذهب Au، والفضة Ag، والبالاديوم Pd، والبلاتين Pt) جوهرياً بتضاريسها المعقدة. وبينما تربط قوانين القياس التقليدية (مثل قانون جيبسون-آشباي) الخصائص الميكانيكية بحجم الجزء الصلب، إلا أنها غالباً ما تفشل في التنبؤ بدقة بالخصائص للمعادن نانوية المسامية، لا سيما عندما تكون ترابطية الشبكة، وسمك الأربطة، والتغيرات الطوبولوجية ذات أهمية كبيرة. وتعتمد الطرق الحالية لتحديد العلاقات بين البنية والخواص بشكل كبير على محاكاة الديناميكا الجزيئية (MD) المكلفة حاسوبياً أو تحليلات طريقة العناصر المحدودة (FEM). ويقدم التعلم العميق (DL) بديلاً محتملاً للتنبؤ المباشر بالخصائص من المدخلات الهيكلية، ومع ذلك، فإن تطبيقه على الهياكل نانوية المسامية العشوائية ثلاثية الأبعاد للتنبؤ بالثوابت المرنة لا يزال غير مستكشف بشكل كافٍ مقارنة بالمهام القائمة على الصور ثنائية الأبعاد.

المنهجية
قام المؤلفون بإنشاء مجموعة بيانات شاملة واستخدموا نهج تعلم عميق مقارن للتنبؤ بالثوابت المرنة ($C_{11}, C_{22}, C_{33}$).

• توليد البيانات:

  • الهياكل: تم توليد 6,422 هيكلاً دورياً متصلاً (bicontinuous) باستخدام تراكب لموجات جيبية واقفة. شمل ذلك 6,000 هيكل ذهب (Au) و422 هيكل فضة (Ag) مع نسب حجم صلب مستهدفة بلغت 0.25 و0.35.
  • العلامات (Labels): تم حساب الثوابت المرنة لجميع الهياكل باستخدام محاكاة الديناميكا الجزيئية (برنامج LAMPS) مع استخدام جهود طريقة الذرة المدمجة (EAM). نتج عن ذلك 19,263 نقطة بيانات (ثلاثة اتجاهات لكل هيكل).
  • الموصِفات (Descriptors): بالإضافة إلى التمثيلات الفوكسلية (voxelized) ثلاثية الأبعاد، تم حساب 30 موصِفاً كمياً لكل هيكل، تشمل 4 موصِفات مورفولوجية (مثل حجم الجزء الصلب، قطر الرباط) و26 موصِفاً طوبولوجياً (مثل "الجنس" Genus، والمقاومات الاتجاهية والحجمية).

• بنيات النماذج:

  • الشبكات العصبية التلافيفية ثلاثية الأبعاد (3D CNNs): تم تنفيذ عدة بنيات مقتبسة من الرؤية الحاسوبية، مع استبدال التلافيف ثنائية الأبعاد بتلافيف ثلاثية الأبعاد: MobileNet، وResNet (18, 50, 101)، وDenseNet (121, 169, 201, 264). تأخذ هذه النماذج شبكات فوكسلية ثنائية (binary) ثلاثية الأبعاد كمدخلات.
  • النموذج المرجعي (Baseline): شبكة عصبية متصلة بالكامل (FCNN) تم تدريبها حصرياً على الـ 30 موصِفاً الطوبولوجياً المحسوبة مسبقاً.
  • النموذج الهجين: بنية مخصصة تجمع بين فرع الـ 3D CNN وفرع متصل بالكامل يعالج بيانات الموصِفات، ويتم دمج النتائج للتنبؤ النهائي.

• استراتيجية التدريب:

  • التحقق المتقاطع (Cross-Validation): تم استخدام مخطط تحقق متقاطع بـ 8 طيات. ومن الأهمية بمكان أنه تم فرض التقسيم الطبقي للهياكل (structure stratification): حيث تم الإبقاء على جميع الثوابت المرنة للاتجاهات الثلاثة لهيكل واحد معاً إما في مجموعة التدريب، أو التحقق، أو الاختبار لمنع تسرب البيانات.
  • تعزيز البيانات (Data Augmentation): تم تطبيق الإزاحة الدائرية العشوائية (roll augmentation) للفوكسلات بشكل عمودي على اتجاه الإجهاد لضمان الثبات الانتقالي.
  • التعلم بنقل الخبرة (Transfer Learning): تم ضبط نماذج مدربة مسبقاً (تحديداً DenseNet-121) بدقة على مجموعات بيانات أصغر من هياكل الذهب الأكثر كثافة وهياكل الفضة لتقييم القدرة على التكيف.

النتائج الرئيسية

• أداء البنية: تفوقت الشبكات العصبية التلافيفية ثلاثية الأبعاد (3D CNNs) بشكل كبير على النموذج المرجعي FCNN القائم على الموصِفات ($R^2 = 0.704$). حققت بنية DenseNet-201 أعلى أداء بـ $R^2 = 0.955$، وMAE = 0.1003 GPa، وRMSE = 0.1328 GPa. أظهرت نماذج ResNet-18 وMobileNet أيضاً أداءً قوياً، بينما لم تؤدِ متغيرات ResNet الأكثر عمقاً (50, 101) إلى مكاسب إضافية في الدقة، مما يشير إلى تناقص العوائد.
• المتانة تجاه الدقة (Resolution Robustness): أظهرت النماذج متانة تجاه دقة الشبكة المدخلة. أدى تقليل دقة الفوكسل من $80^3$ إلى $30^3$ (تقليل بنسبة 19 ضعفاً في عدد الفوكسلات) إلى انخفاض طفيف فقط في $R^2$ (من 0.955 إلى 0.879)، ويُعزى ذلك إلى قدرة النموذج على تفسير الإشغال الجزئي للفوكسل عبر الاستيفاء الثنائي الخطي (bilinear interpolation).
• كفاءة البيانات: ظل الأداء مستقراً حتى عند تقليل حجم مجموعة بيانات التدريب. أدى التدريب على 50% من البيانات إلى انخفاض بنسبة ~3.6% فقط في R^^2.
• تكامل الموصِفات: وفر دمج بيانات الفوكسل ثلاثية الأبعاد مع الموصِفات الطوبولوجية تحسينات هامشية في مجموعات البيانات الكبيرة، لكنه قدم مكاسب ملحوظة في أنظمة البيانات الصغيرة (أقل من 100 هيكل).
• التعلم بنقل الخبرة:
  • نقل المواد: تم بنجاح ضبط نموذج مدرب مسبقاً على هياكل الذهب بدقة باستخدام مجموعة بيانات صغيرة من هياكل الفضة، محققاً $R^2 = 0.985$.
  • نقل المسامية: أدى الضبط الدقيق على مجموعة بيانات أصغر بكثير من هياكل الذهب الأكثر كثافة (نسبة صلب 0.35) باستخدام 5 هياكل فريدة فقط (15 نقطة بيانات) للتدريب إلى تحقيق $R^2 = 0.905$، مما أظهر قدرة النموذج على تعميم علاقات الصلابة والطوبولوجيا الأساسية.
• التعميم: عند اختبار النموذج على 110 تضاريس مصممة (مرتبة) من قاعدة بيانات RCSR (لم تُشاهد أثناء التدريب)، فشل النموذج في التنبؤ بالقيم المطلقة بدقة، لكنه حافظ على ارتباط رتب سبيرمان قوي ($\rho = 0.955$) مع نتائج الديناميكا الجزيئية (MD)، حيث قام بترتيب الهياكل حسب الصلابة بشكل صحيح.
• تطبيق الفرز (Screening): تم استخدام النموذج المدرب مسبقاً لفرز 100,000 هيكل ذهب عشوائي. وتم التحقق من التصاميم المثلى (Pareto optimal) التي تم تحديدها باستخدام محاكاة MD، حيث أظهرت توافقاً قوياً ($R^2 = 0.979$).

الأهمية والادعاءات
يزعم البحث أن الشبكات العصبية التلافيفية ثلاثية الأبعاد توفر بديلاً متفوقاً ومتيناً للنماذج القائمة على الموصِفات التقليدية للتنبؤ بالثوابت المرنة في المعادن نانوية المسامية. وتتمثل المساهمات الرئيسية فيما يلي:

1. التعلم المباشر من التضاريس: تتعلم النماذج التفاصيل المحلية للأربطة وأنماط الترابط العالمية مباشرة من بيانات الفوكسل ثلاثية الأبعاد، متجاوزة بذلك الحاجة إلى هندسة الميزات اليدوية والتقاط الأنماط التي تغفل عنها الموصِفات.
2. الكفاءة في البيانات والحوسبة: هذا النهج عالي الكفاءة في البيانات، وقادر على التعلم من مجموعات بيانات صغيرة عبر نقل الخبرة، كما أنه فعال حاسوبياً لعمليات الفرز واسعة النطاق (تقييم 100,000 هيكل بسرعة مقارنة بـ MD).
3. المتانة: تتميز النماذج بالمتانة تجاه الاختلافات في دقة الشبكة، وحجم مجموعة البيانات، وحتى المواد الأساسية المختلفة (من الذهب إلى الفضة) أو مستويات المسامية المختلفة.
4. القابلية للتفسير: تم استخدام تحليل SHAP لتحديد الزخارف الهيكلية (مثل الدعامات الضيقة) التي تساهم إيجاباً في الصلابة، و"نقاط الضعف" (الفراغات بالقرب من الحدود) حيث يمكن أن يؤدي إضافة المادة إلى تحسين الأداء الميكانيكي.

يخلص المؤلفون إلى أن هذا المسار يوفر نموذجاً بديلاً (surrogate model) قابلاً للضبط والسريع لتصميم وتحسين المواد المسامية، لا سيما في السيناريوهات التي يكون فيها توليد مجموعات بيانات ضخمة موسومة عبر المحاكاة أمراً باهظ التكلفة. ويشيرون إلى أنه بينما يعمل النموذج كدليل للتعديلات المستهدفة، فإن تحسين الطوبولوجيا المنهجي يتطلب دمج اقتراحات الشبكة مع تقييمات إضافية من الديناميكا الجزيئية.