Trustworthy AI-based crack-tip segmentation using domain-guided explanations

ملخص تقني: تقسيم طرف الشق باستخدام الذكاء الاصطناعي الموثوق القائم على التفسيرات الموجهة بالمجال

بيان المشكلة
تواجه نماذج التعلم العميق (DL)، لا سيما في التطبيقات العلمية عالية المخاطر مثل ميكانيكا الكسر، تحدي "الصندوق الأسود" حيث تقوض افتقارها إلى القابلية للتفسير الثقة والموثوقية. وبينما توفر طرق الذكاء الاصطناعي القابل للتفسير (XAI) اللاحقة (post-hoc)، مثل خرائط تنشيط الفئات (CAM)، رؤى حول قرارات النموذج، إلا أنها غالبًا ما تنتج تفسيرات مضللة، أو غير أمينة للنموذج الأساسي، أو غير متسقة عبر الطرق المختلفة. علاوة على ذلك، فإن النهج الحالية لدمج التفسيرات في التدريب (مثل التعلم من خلال التفسير الذاتي) تعتمد غالبًا على نماذج ناقدة ثانوية أو تغذية راجعة بشرية، وهي عمليات قد تكون مرهقة ومستهلكة للوقت وتفشل في دمج المعرفة بالمجال بشكل صريح. وفي السياق المحدد لتقسيم طرف الشق في بيانات ارتباط الصور الرقمية (DIC)، قد تتعلم النماذج التركيز على عيوب غير ذات صلة فيزيائيًا (مثل الضجيج بالقرب من مسار الشق) بدلاً من حقول الإجهاد الأساسية، مما يؤدي إلى ضعف التعميم على البيانات الخارجة عن التوزيع (out-of-distribution).

المنهجية
يقترح المؤلفون التدريب الموجه بالانتباه (AGT)، وهو إطار عمل يدمج تقنيات XAI الأمينة، والمقاييس الكمية للتقييم، والبديهيات الخاصة بالمجال مباشرة في حلقة تدريب النموذج. تتقدم المنهجية عبر ثلاث مراحل رئيسية:

1. اختيار طريقة XAI والتقييم الكمي:
   قام المؤلفون أولاً بتكييف طرق CAM-based لمهام التقسيم الدلالي. وقد قاموا بتقييم منهجي لمختلف التقنيات القائمة على التدرج (مثل Grad-CAM و Grad-CAM++) والتقنيات غير القائمة على التدرج (مثل Score-CAM و Eigen-CAM) باستخدام أربعة معايير موضوعية اقترحها Nauta وآخرون [29]:

• الصحة (الأمانة): مدى عكس التفسير لسلوك النموذج الحقيقي.
• الاكتمال: مدى تغطية التفسير للميزات ذات الصلة.
• الاستمرارية: استقرار التفسيرات تحت الاضطرابات الصغيرة للمدخلات.
• التراص: حجم منطقة التفسير.
  ومن خلال هذا التقييم، تم تحديد Grad-CAM++ المطبق على طبقات الترميز (encoder layers) كأكثر طريقة مناسبة لمهمة تقسيم طرف الشق.

2. دمج المعرفة بالمجال:
   بدلاً من الاعتماد على التوسيم البشري أو النماذج الناقدة غير المتحقق منها، يستخدم AGT المعرفة التحليلية بالمجال كهدف لانتباه النموذج. وتحديداً، يستخدم المؤلفون توسيع سلسلة ويليامز (Williams' series expansion) [35]، وهو حل نظري لحقول الإجهاد والإزاحة بالقرب من طرف الشق في ميكانيكا الكسر المرنة خطيًا. ومن بيانات إزاحة DIC، يقومون بحساب حقل إجهاد "فون ميزس" المكافئ. يعمل حقل الإجهاد النظري هذا كـ "التفسير المستهدف" ($\hat{\Phi}$).

3. عملية تدريب AGT:
   يستخدم التدريب نهجًا يتكون من مرحلتين:

• المرحلة 1 (التدريب المسبق): نهج تعلم عميق قياسي باستخدام خسارة التنبؤ فقط (Dice loss) لضمان تعلم النموذج لمهمة التقسيم وإنتاج تفسيرات أولية ذات معنى.
• المرحلة 2 (الموجه بالانتباه): يتم إدخال دالة خسارة مشتركة لمحاذاة انتباه النموذج مع الهدف الموجه بالمجال. تُعرف إجمالي الخسارة ($L_{total}$) كالتالي:
  $$L_{total} = \text{Dice}(y, \hat{y}) + \lambda \cdot SC(\Phi, \hat{\Phi})$$
  حيث $y$ و $\hat{y}$ هما التنبؤات والحقيقة الأرضية، و $\Phi$ هو تفسير Grad-CAM++ الحالي، و $\hat{\Phi}$ هو تفسير حقل الإجهاد المستهدف، و $SC$ هي تشابه جيب التمام (cosine similarity). وتعمل المعلمة الفائقة $\lambda$ على موازنة الحدين.

المساهمات الرئيسية

• تطوير إطار العمل: تقديم AGT، وهو إطار عمل ينقل XAI من أداة تفسير لاحقة إلى مكون نشط في عملية التدريب، موجه بالقوانين الفيزيائية بدلاً من مجرد أنماط البيانات.
• التقييم الكمي لـ XAI: إثبات أن تفسيرات post-hoc لنماذج التقسيم تختلف بشكل كبير في الجودة، وأن المقاييس الموضوعية الصارمة ضرورية لاختيار الطريقة الأكثر أمانة (تحديد Grad-CAM++ كطريقة مثلى لهذه المهمة).
• الانتباه الموجه بالمجال: الصياغة الصريحة لحد خسارة يعاقب الانحرافات بين انتباه النموذج وحقول الإجهاد ذات الصلة فيزيائيًا (حل ويليامز)، مما يضمن تركيز النموذج على المناطق ذات الأهمية الميكانيكية العالية.
• التحليل المقارن: مقارنة منهجية لـ AGT باستخدام أهداف فيزيائية (Binary Williams و Gradual Williams) مقابل أهداف غير فيزيائية/مضللة (خرائط انتباه موضوعة عشوائيًا) والخط المرجعي غير الموجه القياسي.

النتائج
تم التحقق من الدراسة على تقسيم طرف الشق في بيانات DIC من تجارب نمو الشقوق بالإجهاد.

• الأداء التنبئي: حققت النماذج المدربة بأهداف الانتباه الفيزيائية (BW و GW) خسائر Dice أقل بكثير في التحقق (متوسط $\approx 0.67$) مقارنة بالأهداف غير الفيزيائية والمرجع غير الموجه (متوسط $\ge 0.70$).
• التعميم والموثوقية: في مجموعات البيانات الخارجة عن التوزيع (تحديدًا $S950,1.6$)، أظهرت استراتيجية Binary Williams (BW) موثوقية فائقة (94% تنبؤات صالحة) مقارنة بجميع الاستراتيجيات الأخرى (الحد الأقصى 86%). يشير هذا إلى أن محاذاة الانتباه مع حقول الإجهاد الفيزيائية تعزز المتانة ضد تغيرات التوزيع.
• أمانة التفسير: أظهرت المقاييس الكمية أن استراتيجيات AGT الفيزيائية حسنت صحة (أمانة) التفسيرات (قيم AUC أقل)، بينما أدت الاستراتيجيات غير الفيزيائية إلى تدهور جودة التفسير. لم يظهر الخط المرجعي غير الموجه أي تغيير في الصحة عبر دورات تدريب ممتدة، مما يؤكد أن التحسينات كانت بسبب توجيه الانتباه، وليس مجرد دورات تدريب إضافية.
• حساسية المعلمة الفائقة: حدد الاختبار التجريبي نطاقًا أمثل لـ $\lambda$ بين 0.5 و 3. القيم العالية جدًا تسببت في تصحيح مفرط وفقدان الميزات البارزة، بينما القيم المنخفضة جدًا لم يكن لها تأثير كافٍ.

الأهمية والادعاءات
يدعي البحث أن AGT يعالج بنجاح المقايضة بين دقة النموذج وقابليته للتفسير في التعلم الآلي العلمي. ومن خلال ربط عملية التدريب بالنظريات الفيزيائية الراسخة (سلسلة ويليامز)، يضمن إطار العمل أن نماذج التعلم العميق لا تتنبأ بدقة فحسب، بل "تفكر" أيضًا بطرق تتفق مع خبراء المجال. يؤدي هذا إلى نماذج أكثر متانة، وموثوقية، وقابلية للتعميم، خاصة في السيناريوهات التي تكون فيها البيانات صاخبة أو نادرة.

يؤكد المؤلفون أن هذا النهج ينقل XAI إلى ما وراء مجرد التصور؛ ليصبح آلية لضخ معرفة الخبراء في عملية التعلم. وهم يقرون بأن العثين على بديهيات مجال مناسبة يمكن صياغتها رياضيًا لتوجيه الانتباه يمثل تحديًا كبيرًا، ولكن حيثما أمكن التطبيق، يوفر AGT مسارًا مبدئيًا نحو ذكاء اصطعي موثوق في ميكانيكا الكسر والمجالات العلمية الأخرى المحتملة. لا يدعي العمل حل جميع مشكلات XAI، ولكنه يقدم مسارًا محددًا ومثبتًا لدمج القيود الفيزيائية في تدريب التعلم العميق لتعزيز كل من الأداء والقابلية للتفسير.