Interpretable Hybrid CNN Transformer Framework with Cross Attention Fusion and Uncertainty Quantification for Multi Mechanism Corrosion and Erosion Detection
تقدم هذه الورقة CorroSense-Net، وهو إطار عمل هجين وقابل للتفسير يجمع بين الشبكات العصبية الالتفافية (CNN) والمحولات (Transformer)، ويتميز بوحدة دمج انتباه متقاطع مبتكرة وتقدير لعدم اليقين، مما يحقق دقة هي الأفضل في فئتها في التمييز بين حالات الأنابيب الصناعية السليمة، والتآكل، والصدأ، وبالتالي يعالج أوجه القصور في النهج الحالية أحادية النموذج في عمليات الفحص الحرجة للسلامة.
تخيل الهيكل العظمي الخفي لعالمنا الحديث: أنابيب ضخمة تنقل النفط، والغاز، وحتى النفايات المشعة، مدفونة تحت الأرض أو ممتدة عبر المحيطات. بمرور الوقت، تصاب هذه العمالقة المعدنية بالمرض؛ فهي تعاني من علتين رئيستين: التآكل الكيميائي، وهو يشبه الصدأ الكيميائي البطيء الذي يأكل المعدن، والتآكل الميكانيكي، وهو يشبه ورق الصنفرة الذي يزيل السطح بسبب السوائل سريعة الحركة. إذا لم نكتشف هذه المشكلات مبكرًا، فقد تنفجر الأنابيب، مما يتسبب في كوارث تكلف الاقتصاد العالمي تريليونات الدولارات.
ولإيجاد هذه الأمراض الخفية، نحتاج عادةً إلى مفتشين بشريين يلتقطون الصور ويتفحصونها بدقة بحثًا عن ثقوب صغيرة أو بقع صدأ. لكن البشر يتعبون، وقد تخدعهم أعينهم. مؤخرًا، حاول العلماء تعليم الحواسيب القيام بهذه المهمة باستخدام "التعلم العميق". فكر في أدمغة الحواسيب هذه كنوعين مختلفين من المحققين: النوع الأول يُسمى CNN (الشبكة العصبية التلافيفية)، وهو بارع في رصد التفاصيل الدقيقة مثل ملمس الصدأ أو الخدش، لكنه قد يغفل أحيانًا عن الصورة الكبيرة. أما النوع الآخر فهو Transformer (أو ViT)، وهو مذهل في فهم المشهد بأكمله وكيفية ترابط أجزائه المختلفة، لكنه قد يفتقر أحيانًا إلى التفاصيل الدقيقة والحبيبية. لفترة طويلة، حاول الباحثون استخدام محقق واحد فقط أو مجرد دمج ملاحظاتهما معًا، لكن ذلك لم يكن كافيًا لحل اللغز بشكل مثالي.
وهنا يأتي دور فريق جديد من الباحثين بحل ذكي يسمى CorroSense-Net. فبدلاً من إجبار هذين المحققين على العمل بشكل منفصل أو مجرد قراءة ملاحظات بعضهما البعض، قاموا ببناء نظام يتحدث فيه المحققان مع بعضهما البعض في الوقت الفعلي. إنهم يستخدمون وحدة "الانتباه المتقاطع" (Cross-Attention)، والتي تعمل كمترجم فائق القدرة. فعندما يرى محقق الملمس بقعة غريبة، يمكنه أن يسأل محقق السياق: "هل يبدو هذا كخدش أم مجرد ظل؟"، فيجيبه محقق السياق: "لا، هذا بالتأكيد خدش بسبب النمط المحيط به".
اختبر الفريق هذا الدماغ الهجين الجديد على 487 صورة التُقطت بهاتف ذكي عادي في مختبر يحاكي مشاكل هذه الأنابيب. لم يكتفوا بطلب تحديد ما إذا كان الأنبوب "مريضًا" أو "سليمًا" من الحاسوب، بل علموه التمييز بين ثلاث حالات محددة: أنبوب سليم (مثالي وصحي)، وأنبوب تعرض لـ التآكل الميكانيكي (ضرر يشبه ورق الصنفرة)، وأنبوب يعاني من التآكل الكيميائي (الصدأ). كانت النتائج مبهرة؛ فقد حدد النظام الجديد حالة الأنابيب بدقة تصل إلى حوالي 96%، وهو أداء أفضل بكثير من استخدام أي من المحققين بمفرده أو المحاولات الهجينة السابقة.
لكن الفريق لم يتوقف عند مجرد الدقة؛ بل أرادوا أن يكون الحاسوب صادقًا بشأن مدى تأكده. فقد أضافوا ميزة تسمح للحاسوب بأن يقول: "أنا متأكد بنسبة 99% أن هذا صدأ"، أو "أنا متأكد بنسبة 50% فقط، لذا يجب على البشر التحقق من ذلك". وهذا أمر بالغ الأهمية لأن التخمين الخاطئ في الوظائف الحساسة للسلامة قد يكون خطيرًا. كما جعلوا الحاسوب "يشرح عمله" من خلال تسليط الضوء على الأجزاء المحددة من الصورة التي جعلته يعتقد أن الأنبوب مريض. وعندما قارنوا هذه التوضيحات الحاسوبية بتلك التي وضعها الخبراء البشريون، وجدوا أن النظام الجديد يطابق الخبراء بشكل أفضل بكثير من الطرق القديمة.
باخت-صر، تُظهر هذه الورقة البحثية أنه من خلال جعل نوعين مختلفين من محققي الذكاء الاصطناعي يعملان معًا كفريق واحد — بدلاً من مجرد الجلوس جنبًا إلى جنب — يمكننا بناء أداة أكثر ذكاءً وموثوقية للحفاظ على سلامة بنيتنا التحتية الصناعية. إنها خطوة نحو مستقبل يمكن فيه لصورة بسيطة من هاتف ذكي أن تخبرنا بالضبط ما هو الخطأ في الأنبوب، ومدى سوء الحالة، ومدى إمكانية الثقة في هذا التشخيص.
ملخص تقني: CorroSense-Net
بيان المشكلة
تفرض عمليات التآكل والتآكل الناجم عن التدفق على البنية التحتية المعدنية عبئاً عالمياً يُقدر بنحو 2.5 تريليون دولار سنوياً، وهي أسباب رئيسية للإخفاقات الكارثية في قطاعات مثل نقل النفايات النووية، والنفط والغاز، والبنية التحتية البحرية. وبينما تقدم الفحص البصري الآلي عبر الشبكات العصبية الالتفافية (CNNs) ومحولات الرؤية (ViTs)، تعاني النهج الحالية من قيود متميزة:
الشبكات العصبية الالتفافية (CNNs): تتفوق في التقاط الأنسجة المحلية (مثل حبيبات الصدأ) ولكنها تواجه صعوبة في فهم السياق العالمي والاعتمادات طويلة المدى.
محولات الرؤية (ViTs): تنمذج الاعتمادات المكانية طويلة المدى بفعالية ولكنها غالباً ما تكون غير حساسة للأنسجة وتتطلب كميات هائلة من البيانات، مما يؤدي إلى ضعف الأداء على مجموعات البيانات الصناعية المتخصصة والصغيرة دون تدريب مسبق ضخم.
النماذج الهجينة الحالية (مثل HCT-Net): تعتمد عادةً على دمج الميزات الثابت، مما يفشل في استغلال التفاعل التكيفي بين الأنماط (cross-modal) بين الميزات المحلية والعالمية.
قيود التصنيف: غالباً ما تتعامل الأعمال السابقة مع التدهور كمسألة ثنائية ("نظيف مقابل متآكل")، مما يخلط بين آليات متميزة فيزيائياً مثل التآكل الناتج عن اصطدام الجسيمات والتآكل الكيميائي، والتي تمتلك بصمات تشخيصية مختلفة.
الثقة والقابلية للتفسير: تفتقر معظم الأطر إلى تقدير عدم اليقين (UQ) والتفسير الكمي، حيث تعتمد على تصورات نوعية (Grad-CAM) نادراً ما يتم قياسها مقابل تعليقات الخبراء.
المنهجية: CorroSense-Net
يقترح المؤلفون CorroSense-Net، وهو إطار عمل هجين يجمع بين CNN وTransformer مصمم للكشف عن التآكل والتآكل متعدد الآليات في ظل ظروف صناعية واقعية ذات بيانات محدودة.
1. البنية
يستخدم الإطار شبكة ذات فرعين متوازيين:
فرع CNN: يعتمد على هيكل ResNet-50 (مدرب مسبقاً على ImageNet) لاستخراج الميزات المكانية المحلية.
فرع Transformer: يعتمد على هيكل ViT-B/16 (تدريب مسبق على ImageNet-21k، وضبط دقيق على ImageNet-1k) لاستخراج رموز السياق العالمي.
وحدة دمج الانتباه المتقاطع (CAF): وحدة مبتكرة تحل محل الدمج الثابت. تقوم بإجراء انتباه بوابي ثنائي الاتجاه:
المرحلة 1: ميزات CNN تنتبه إلى رموز ViT.
المرحلة 2: رموز ViT تنتبه إلى ميزات CNN.
المرحلة 3: معاملات البوابة القابلة للتعلم (α,β) تزن الواصفات المدمجة ديناميكياً بناءً على خصائص الصورة المدخلة (على سبيل المثال، إعطاء الأولوية لـ CNN للأنسجة الكثيفة المرتبطة بالتآكل، ولـ ViT للأسطح السليمة المنتظمة).
رأس التصنيف: يمر الواصف المدمج عبر طبقة GELU وعملية إسقاط (dropout) لإخراج توزيع احتمالي ثلاثي الفئات: سليم (Pristine)، تآكل ناتج عن اصطدام الجسيمات (Particle-Impingement Erosion)، وتآكل كيميائي (Chemical Corrosion).
2. عدم اليقين والقابلية للتفسير
تقدير عدم اليقين: يدمج الإطار تقنية إسقاط مونت كارلو (MC Dropout) عند الاستدلال (30 تمريرة عشوائية) لتوليد الإنتروبيا (entropy) وفترات الثقة، مما يسمح بعملية فرز قائمة على الإنتروبيا.
التفسير الكمي: يولد النظام خرائط حرارية من نوع Grad-CAM لفرع CNN، وفرع ViT، والمخرجات المدمجة. وخلافاً للدراسات النوعية السابقة، يقوم هذا العمل بقياس مدى توافق هذه الخرائط الحرارية مع أقنعة التدهور الموضحة من قبل الخبراء كمياً باستخدام نسبة التقاطع فوق الاتحاد (IoU).
3. مجموعة البيانات والإعداد التجريبي
مصدر البيانات: مجموعة بيانات متخصصة مكونة من 487 صورة ملتقطة بهواتف ذكية (Apple iPhone 13 Pro) من نظامين مخبريين مصممين لهذا الغرض:
نظام حلقة تدفق التآكل (EFLS): يحاكي تدفق الملاط المحمل بالجسيمات (بديل للنفايات النووية).
نظام حلقة التآكل الكيميائي (CCLS): يحاكي الهجوم الكلوريدي المتسارع.
التحقق من الملصقات: تم تعيين الملصقات بناءً على مصدر النظام مع التحقق منها من قبل مفتش ثانٍ "معمي"، مع تحقق فيزيائي مستقل عبر قياسات السماكة بالموجات فوق الصوتية.
تحت التحقق المتقاطع الطبقي خماسي الطيات، حقق Corroside-Net:
درجة Macro-F1:0.961±0.014
الدقة (Accuracy):0.964±0.012
منحنى ROC-AUC:0.991±0.006
خطأ المعايرة المتوقع (ECE): $0.029$ (مما يشير إلى تقديرات ثقة موثوقة للغاية).
الأداء المقارن: تفوق CorroSense-Net إحصائياً وبشكل ملحوظ على ResNet-50، وViT-B/16، وEfficientNet-B3، وSwin-Tiny، ونموذج HCT-Net القائم على الدمج (Macro-F1 $0.931$) بعد تصحيح Bonferroni.
النتائج الجوهرية:
التمييز بين الآليات: حقق النموذج استدعاء (recall) قدره 0.928 لفئة "السليم"، والأهم من ذلك، لم يخطئ في تصنيف أي صورة متآكلة كأنها سليمة، مما ألغى أخطر أنماط الخطأ في عمليات التفتيش الحرجة للسلامة.
فعالية الدمج: أدت وحدة CAF إلى تحسين توافق Grad-CAM مع أقنعة الخبراء بمقدار 7.5 نقطة مئوية في نسبة IoU مقارنة بالدمج القائم على التراكب (concatenation).
المتانة: تحت تأثير ضبابية غاوسية شديدة (σ=3.0)، حافظ CorroSense-Net على Macro-F1 قدره 0.872، متفوقاً بشكل كبير على ResNet-50 (0.681) وViT-B/16 (0.643). وقد قامت آلية البوابة بتعديل الوزن نحو فرع ViT مع تدهور النسيج المحلي.
التعميم: أكد الاستدلال صفري القدرة على مجموعات البيانات العامة الخارجية قدرة CorroSense-Net على التعميم عبر المجالات، حيث حافظ على أعلى درجات F1 مقارنة بالنماذج المرجعية.
الأهمية والادعاءات
يزعم البحث أن Cor-Sense-Net يضع نموذجاً لـ الذكاء الاصطناعي القابل للتفسير والمدرك لعدم اليقين في التفتيش الصناعي الحرج للسلامة. وتتمثل أهميته في أربع ابتكارات منسقة:
الصياغة القائمة على الفيزياء: الانتقال من التصنيف الثنائي إلى التمييز بين حالات السليم، والتآكل، والتآكل الكيميائي.
الدمج التكيفي: إثبات أن الانتباه المتقاطع ذو البوابة ثنائي الاتجاه يتفوق على الدمج الثابت في دمج النسيج المحلي والسياق العالمي.
الذكاء الاصطناعي الموثوق: توفير تقديرات عدم اليقين لكل تنبؤ، مما يدعم سير عمل الفرز الآلي ويتماشى مع أطر حوكمة الذكاء الاصطناعي الناشئة (مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي، وإطار عمل NIST AI RMF).
القابلية للتفسير الكمي: وضع معيار كمي للقابلية للتفسير من خلال تسجيل مخرجات Grad-CAM مقابل تعليقات الخبراء، وهو مقياس كان غائباً سابقاً في أدبيات اكتشاف التآكل.
يضع المؤلفون هذا الإطار كحل قابل للتوسع ومنخفض التكلفة يمكن نشره على الأجهزة العادية باستخدام صور الهواتف الذكية المتاحة تجارياً، بما يناسب قطاعات نقل النفايات النووية، والنفط والغاز، والبنية التحتية البحرية. كما يقرون بالقيود المتعلقة بحجم مجموعة البيانات المتواضع وأصلها من منشأة واحدة، مع تحديد العمل المستقبلي في التعلم الاتحادي (Federated Learning)، والتراجع المستمر للشدة (Continuous Severity Regression)، وتحسين النشر على الحافة (Edge Deployment Optimization).