A latent-space extrapolation grade built into graph atomic cluster expansion foundation potentials
تقدم هذه الورقة درجة الاستقراء "كاليم" (CALM) المعايرة، وهي مقياس لعدم اليقين لكل ذرة يتسم بالكفاءة الحسابية ومدمج في إمكانات "غريس" (GRACE) التأسيسية، والتي تكتشف بدقة الاستقراء الهيكلي والكيميائي من خلال ربط مسافات الفضاء الكامن بأخطاء القوة لتوجيه عملية جمع البيانات المستهدفة.
المؤلفون الأصليون:Yury Lysogorskiy, Anton Bochkarev, Ralf Drautz
في عالم علم المواد، يستخدم الباحثون برامج حاسوبية قوية للتنبؤ بكيفية سلوك الذرات. هذه البرامج، المعروفة باسم إمكانات التعلم الآلي، تعمل كجسر بين الحسابات الدقيقة والبطيئة للفيزياء الكمومية وبين المحاكاة واسعة النطاق والسريعة اللازمة لتصميم بطاريات جديدة، أو معادن أقوى، أو خلايا شمسية أكثر كفاءة. ومن خلال التعلم من مكتبات ضخمة من الترتيبات الذرية المعروفة، يمكن لهذه النماذج أن تخمن فوراً الطاقة والقوى المؤثرة على الذرات في موقف جديد. لقد أتاحت هذه السرعة القدرة على محاكاة بلورات كاملة وتفاعلات كيميائية معقدة كانت في السابق مكلفة للغاية من حيث الحوسبة. ومع ذلك، تظل هناك نقطة عمياء حرجة: فعندما تواجه هذه النماذج موقفاً لم تره من قبل، فإنها غالباً ما تفشل بصمت؛ إذ قد تعطي نتيجة تبدو منطقية تماماً ولكنها خاطئة تماماً، دون تقديم أي تحذير بأن التنبؤ قد انحرف بعيداً عن النطاق الذي تعرفه النماذج بالفعل.
ولحل هذه المشكلة، طور فريق من الباحثين في جامعة روهر بوش (Ruhr-University Bochum) طريقة جديدة لقياس الثقة في الوقت الفعلي. لقد قدموا نظاماً يسمى "درجة الماهالانوبيس للاستقراء المعايرة"، أو ببساطة "درجة الهدوء" (calm grade)، والتي تعمل كبوصلة داخلية لهذه النماذج الذرية. تخيل خريطة يعرف فيها النموذج كل شارع في مدينة معينة؛ إذا ظل السائق في تلك الشوارع، فإن الخريطة تكون موثوقة. ولكن إذا وجد السائق نفسه فجأة في صحراء أو بلد آخر، فإن الخريطة تصبح عديمة الفائدة. يمنح هذا النظام الجديد كل ذرة درجة تخبر الحاسوب بدقة مدى ابتعادها عن الشوارع المعروفة. فإذا كانت الدرجة منخفضة، تكون الذرة في منطقة مألوفة، وإذا كانت الدرجة مرتفعة، تكون الذرة في منطقة غير معروفة، ويعرف الحاسوب حينها ضرورة التعامل مع النتيجة بحذر شديد.
بنى الباحثون هذا النظام ضمن نموذج تأسيسي يسمى "غريس" (GRACE)، والمصمم للعمل عبر نطاق واسع من العناصر والبيئات الكيميائية. وبدلاً من تشغيل نسخ متعددة من النموذج للتحقق من الأخطاء — وهي طريقة دقيقة ولكنها مكلفة حاسوبياً وبطيئة — قاموا بهندسة فحص واحد خفيف الوزن يعمل جنباً إلى جنب مع الحساب الرئيسي. يبحث هذا الفحص في "البصمة" الرياضية لحيّز الذرة؛ حيث يقارن هذه البصمة بمكتبة من البصمات التي جُمعت من بيانات التدريب. وإذا كانت البصمة الجديدة مختلفة جداً عما رآه النموذج من قبل، يقوم النظام بوضع علامة عليها. ومن الأهمية بمكان أن هذا الفحص قد تمت معايرته بحيث تمثل درجة محددة، وهي الواحد، الحد الفاصل بين ما يعرفه النموذج وما يخمنه.
اختبر الفريق هذا النهج بصرامة باستخدام مجموعتين ضخمتين من البيانات تحتويان على ملايين التكوينات الذرية. ووجدوا أن الدرجة ترتبط ارتباطاً وثيقاً بالخطأ الفعلي في تنبؤات النموذج. فعندما كانت الدرجة منخفضة، كانت تخمينات النموذج حول كيفية دفع وسحب الذرات لبعضها البعض دقيقة. وعندما ارتفعت الدرجة فوق العتبة، زادت الأخطاء بشكل كبير، وأحياناً بعدة مراتب عشرية. أثبت النظام فعاليته في رصد نوعين متميزين من المخاطر: أولاً، رصد المفاجآت الهيكلية، مثل الذرات المضغوطة بشدة أو المسحوبة بعيداً جداً، أو الذرات الموجودة على سطح مادة حيث تفتقر إلى جيرانها. ثانياً، رصد المفاجآت الكيميائية، مثل مادة مكونة من مزيج من العناصر بنسب لم يرها النموذج خلال تدريبه. وفي اختبار تضمن مزيجاً من الموليبدينوم والتنجستن، حدد النظام بشكل صحيح أن النموذج يعاني عندما تجاوز تركيز التنجستن الحدود التي كانت موجودة في بيانات التدريب، على الرغم من أن الذرات نفسها كانت كيميائياً مشابهة لما عرفه النموذج.
وإلى جانب مجرد رصد الأخطاء، أظهر الباحثون أنه يمكن استخدام هذه الدرجة لتحسين النموذج بشكل نشط. فمن خلال استخدام الدرجة لتوجيه محاكاة حاسوبية، استطاعوا توجيه المحاكاة نحو المناطق الأكثر عدم يقين في المشهد الذري. فبدلاً من ترك المحاكاة تتجول عشوائياً، استخدموا الدرجة كعامل انحياز لدفع الذرات نحو التكوينات التي كان النموذج فيها الأقل ثقة. سمح لهم ذلك بجمع نقاط بيانات جديدة عالية القيمة في الأماكن التي هم في أمس الحاجة إليها. وعندما استخدموا نقاط البيانات الجديدة هذه لإعادة تدريب النموذج، كانت الإمكانات الناتجة أفضل بكثير في التعامل مع درجات الحرارة العالية والحالات السائلة مقارنة بنموذج تم تدريبه باستخدام نفس القدر من البيانات التي جُمعت دون هذا التوجيه. وهذا يشير إلى أن النظام لا يكتفي بتحديد المشكلات فحسب، بل يوفر أيضاً خارطة طريق لإصلاحها بكفاءة.
تتميز هذه الطريقة أيضاً بكفاءة ملحوظة؛ إذ إن إضافة فحص الثقة هذا إلى المحاكاة يزيد من وقت الحوسبة بنسبة ضئيلة جداً، وغالباً ما تكون أقل من واحد بالمائة للنماذج الأكبر والأكثر تعقيداً. وهذا يعني أنه يمكن استخدامه في كل خطوة من خطوات المحاكاة الطويلة دون إبطاء البحث. وقد أثبت الباحثون أن هذه التكلفة الضئيلة تشتري مكسباً هائلاً في الموثوقية، مما يسمح للعلماء بإجراء عمليات محاكاة مع الثقة في أنهم لن ينزلقوا دون علم إلى الخطأ. ومن خلال دمج درجة "الهدوء" هذه مباشرة في النماذج التأسيسية، قدم الفريق أداة تجعل هذه المحاكاة القوية أكثر أماناً وموثوقية، مما يضمن للعلماء أنه عندما ينظرون إلى العالم الذري، فإنهم يعرفون تماماً متى ينظرون إلى انعكاس للواقع ومتى ينظرون إلى مجرد تخمين.
بيان المشكلة تتيح نماذج جهود التفاعل بين الذرات القائمة على تعلم الآلة (MLIPs) الأساسية، مثل GRACE وMACE-MP وNequIP، عمليات محاكاة ذرية سريعة عبر نطاقات تكوينية وكيميائية واسعة (مثل OMat24 وSMAX). وبينما تقترب هذه النماذج من دقة نظرية الكثافة الوظيفية (DFT) ضمن نطاقات تدريبها، إلا أنها تفتقر إلى التقدير الطبيعي لعدم اليقين (UQ). وبناءً على ذلك، لا تستطيع عمليات المحاكاة التمييز بين الاستيفاء (Interpolation - داخل نطاق التوزيع التدريبي) والاستقراء الصامت (Silent Extrapolation - خارج نطاق التوزيع)، حيث يمكن أن تزداد أخطاء التنبؤ بعدة رتب مقدارية. وتعتبر طرق تقدير عدم اليقين الحالية، مثل المجموعات العميقة (Deep Ensembles)، مكلفة حاسوبياً لهذه النماذج الأساسية بسبب الحاجة إلى عمليات تدريب وتمريرات استدلال متعددة. أما الطرق الأخرى، مثل التقريبات البايزية (Bayesian approximations) أو الانحدار الدليل (Evidential regression)، فغالباً ما تتطلب تغييرات في البنية المعمارية، أو تدريباً إضافياً، أو تمريرات عشوائية متكررة. هناك حاجة إلى درجة استقراء مُعايرة وموزعة على مستوى الذرة، يمكن إضافتها بأقل قدر من التكاليف الحسابية وتقييمها جنباً إلى جنب مع الطاقات والقوى في تمريرة واحدة للنموذج.
المنهجية يقدم المؤلفون درجة الاستقراء المتوازنة (CALM)، ويُرمز لها بـ γ. تم دمج هذه الطريقة في نماذج GRACE الأساسية وتعمل كما يلي:
تمثيل الميزات: تستخدم هذه الطريقة فضاء ميزات كامن مشتق من أساس متعدد الأجسام ثابت (Invariant many-body basis) الخاص بـ MLIP. وللتعامل مع النطاق الواسع لمقادير الأساس وضمان المتانة تحت التشوه الهيكلي (الضغط والتمدد)، استخدم المؤلفون بناءً مخصصاً للميزات:
يتم تطبيع (Normalization) أساس المنتج متعدد الأجسام الكامل إلى معيار L2 الوحدة.
يقوم إسقاط عشوائي ثابت (تحويل Johnson-Lindenstrauss) بتقليل الأبعاد (على سبيل المثال، إلى 128 بعداً).
يتم إلحاق قنوات المعيار اللوغاريتمي للأساس الكامل وكتل الاختزال الفردية بالإسقاط للحفاظ على معلومات المقدار التي فُقدت أثناء عملية التطبيع.
التجميع ومسافة ماهالانوبيس (Mahalanobis Distance): لكل عنصر كيميائي، يتم تجميع بيانات التدريب في فضاء الميزات الكامن. وبالنسبة لذرة معينة ذات متجه ميزة كامن z، تحدد الطريقة أقرب مركز تجمع k∗ لها. ويتم حساب مسافة ماهالانوبيس σ كالتالي: σ=(z−μe,k∗)TΣe,k∗−1(z−μe,k∗) حيث μ و Σ هما المتوسط والتباين المشترك للمجموعة المخصصة.
المعايرة: يتم تطبيع المسافة σ بواسطة عتبة خاصة بكل مجموعة θe,k∗ لإنتاج الدرجة γ=σ/θe,k∗. تُعرف العتبة بأنها وسيط مسافات مجموعة بيانات التدريب مضافاً إليها ثلاثة انحرافات معيارية (يتم تقديرها عبر الانحراف المطلق للوسيط - MAD). وبالتالي، تمثل γ=1 الحدود المُعايرة لدعم التدريب؛ حيث تشير γ≤1 إلى الاستيفاء، بينما تشير γ>1 إلى الاستقراء.
القابلية للاشتقاق والتجميع: ضمن تعيين مجموعة ثابت، تكون γ قابلة للاشتقاق بالنسبة للمواضع الذرية. كما عرّف المؤلفون متوسط درجة الجوار الموزون (γnbr) لتحسين تحديد عدم اليقين في خطأ القوة محلياً.
الكفاءة الحسابية: يتم تقييم الدرجة في تمريرة واحدة للنموذج جنباً إلى جنب مع الطاقات والقوى. وهي تتطلب فقط حساب المسافات إلى إحصائيات المجموعات المخزنة، مما يضيف عبئاً حسابياً يقل عن 1% إلى 6% اعتماداً على عمق النموذج.
المساهمات الرئيسية
درجة CALM: درجة استقراء لكل ذرة، قابلة للاشتقاق جزئياً، ومدمجة مباشرة في نماذج GRACE الأساسية.
هندسة الميزات: إثبات أن الأساس الثابت المطور مع قنوات المعيار اللوغاريتمي يتفوق على القواعد الخام أو المسقطة خطياً في اكتشاف كل من الاستقراء الهيكلي (الضغط/التمدد) والاستقراء الكيميائي.
استراتيجية المعايرة: طريقة لضبط عتبة عالمية (γ=1) عبر مختلف العناصر والمجموعات بناءً على توزيعات مسافات مجموعة التدريب، مما يسمح بتفسير متسق لمخاطر الاستقراء.
أخذ العينات الموجه بعدم اليقين: استخدام التدرج المكاني لـ γ لتحيز محاكاة الديناميكا الجزيئية (MD) نحو المناطق غير المؤكدة، مما يسهل التعلم النشط وتوسيع مجموعة البيانات دون إعادة تدريب النموذج الأساسي أثناء عملية أخذ العينات.
النتائج
التحقق من الاختبارات الضابطة: نجحت درجة CALM في تحديد الاستقراء الهيكلي في النماذج الأولية العنصرية (Al, Cu, Fe, Si, Ti, W) تحت كل من الضغط والتمدد، متفوقة على القواعد المسقطة خطياً التي تفشل في اكتشاف التمدد عندما تغادر الجيران نطاق القطع (Cutoff).
الارتباط بالخطأ: في مجموعات بيانات OMat24-val (داخل النطاق) وSMAX (خارج النطاق)، ترتبط γ بأخطاء القوة الذرية. حيث وصل ارتباط سبيرمان إلى 0.497 في OMat24-val و0.617 في SMAX. وقد أدى متوسط الجوار (γnbr) إلى تحسين هذه الارتباطات بشكل أكبر.
المقارنة مع البدائل: تحقق CALM ارتباطات أعلى بخطأ القوة مقارنة بدرجات D-optimality (MaxVol) المبنية على نفس الميزات، وتؤدي أداءً مشابهاً للمجموعات العميقة (التي تتطلب تكلفة استدلال تبلغ 3 أضعاف) مع كونها أقل تكلفة بكثير. ما تم تطبيقه على معيار طاقة التكوين WBM، حيث أدى تصفية الهياكل التي تزيد فيها γ>1 إلى تقليل متوسط الخطأ المطلق (MAE) لطاقات التكوين من 17.7 إلى 16.3 ميلي إلكترون فولت/ذرة مع الاحتفاظ بـ 80% من الهياكل.
التعلم النشط: في محاكاة الديناميكا الجزيئية الموجهة بعدم اليقين (HAL) للألومنيوم والسيليكون، جمعت أخذ العينات على طول تدرج γ تكوينات ذات أخطاء قوة أكبر من الديناميكا الجزيئية غير المنحازة. وأظهرت الجهود (Potentials) التي تم تحسينها باستخدام هذه البيانات المتحيزة بعدم اليقين دقة أفضل عند درجات الحرارة العالية وفي الأطوار السائلة مقارنة بتلك المدربة على بيانات غير منحازة.
توسيع النموذج الأساسي: عند تطبيقها على نموذج أساسي مدرب على SMAX، نجحت الطريقة في تحديد التكوينات ذات أخطاء القوة الأعلى من مجموعة التدريب، مما وفر مرشحين لتوسيع نطاق تدريب النموذج.
الأهمية والادعاءات يزعم البحث أن درجة CALM توفر حلاً عملياً ومنخفض التكلفة لتقدير عدم اليقين في نماذج MLIP الأساسية. ومن خلال كونها قابلة للاشتقاق ويمكن حسابها في تمريرة واحدة، فإنها تتيح المراقبة في الوقت الفعلي لموثوقية المحاكاة وتوجه استراتيجيات الحصول على البيانات. ويؤكد المؤلفون أنه بينما يختلف الارتباط بين γ والخطأ باختلاف مجموعة البيانات والكيمياء، فإن الطريقة توفر حداً مُعايرًا وخاصاً بكل عنصر يفصل بين الاستيفاء والاستقراء. يوضح العمل أن مؤشرات عدم اليقين يمكن أن تكون متأصلة في عملية تقييم الجهد، حيث تضيف فقط نسبة ضئيلة من التكلفة الحسابية بينما تحسن بشكل كبير موثوقية المحاكاة وتسهل توسيع مجموعات البيانات التدريبية من خلال أخذ العينات المستهدف.