Network Knowledge Prior Guided Learning for Data-Efficient Surface Defect Detection

तकनीकी सारांश: डेटा-कुशल सतह दोष पहचान के लिए नेटवर्क ज्ञान पूर्ववर्ती निर्देशित शिक्षण (Network Knowledge Prior Guided Learning)

1. समस्या विवरण

औद्योगिक सतह दोष पहचान वास्तविक दुनिया के विनिर्माण परिदृश्यों में महत्वपूर्ण चुनौतियों का सामना करती है, जो मुख्य रूप से डीप लर्निंग की "डेटा-भूखी" (data-hungry) प्रकृति और न्यूरल नेटवर्क की अंतर्निहित "ब्लैक-बॉक्स" विशेषताओं के कारण होती हैं। प्रमुख मुद्दों में शामिल हैं:

• डेटा की कमी और असंतुलन: दोषों के नमूने दुर्लभ, यादृच्छिक और एकत्र करने में कठिन होते हैं, जिससे गंभीर क्लास असंतुलन (class imbalance) होता है।
• उच्च एनोटेशन लागत: दोषों (जैसे, सूक्ष्म खरोंचें, कम-कंट्रास्ट वाले दोष) के लिए सटीक पिक्सेल-स्तरीय एनोटेशन के लिए डोमेन विशेषज्ञों की आवश्यकता होती है, जिससे पूर्णतः पर्यवेक्षित शिक्षण (fully supervised learning) महंगा और अक्षम हो जाता है।
• मॉडल विश्वसनीयता और व्याख्यात्मकता: डीप लर्निंग मॉडल अक्सर वास्तविक दोष विशेषताओं के बजाय स्प्यूरियस सहसंबंधों (जैसे, बैकग्राउंड टेक्सचर या लाइटिंग) पर निर्भर करते हैं, जिससे सामान्यीकरण (generalization) खराब हो जाता है। इसके अलावा, उनकी निर्णय लेने की प्रक्रिया में पारदर्शिता की कमी होती है, जिससे गुणवत्ता इंजीनियरों के बीच विश्वास कम हो जाता है।
• मौजूदा XAI की सीमाएं: वर्तमान व्याख्या योग्य AI (XAI) विधियाँ, जैसे कि सैलिएंसी मैप्स (जैसे, Grad-CAM), आमतौर पर पोस्ट-हॉक (post-hoc) नैदानिक उपकरणों के रूप में उपयोग की जाती हैं। वे प्रशिक्षण के बाद निर्णयों की व्याख्या करते हैं लेकिन फीचर लर्निंग या मजबूती को बेहतर बनाने के लिए प्रशिक्षण प्रक्रिया को सक्रिय रूप से निर्देशित नहीं करते हैं।

2. कार्यप्रणाली (Methodology)

यह शोध एक नेटवर्क नॉलेज प्रायर गाइडेड लर्निंग फ्रेमवर्क प्रस्तावित करता है जो मॉडल व्याख्यात्मकता को एक निष्क्रिय विश्लेषण उपकरण से एक सक्रिय प्रशिक्षण बाधा (training constraint) में बदल देता है। यह दृष्टिकोण बिना किसी अतिरिक्त मैनुअल एनोटेशन या अतिरिक्त अनुमान लागत (inference cost) के दो अलग-अलग चरणों में कार्य करता है।

चरण 1: ज्ञान सृजन (पूर्ववर्ती निष्कर्षण - Prior Extraction)

• एक प्राथमिक वर्गीकरण नेटवर्क (जैसे, VGG16 या ResNet) को उपलब्ध दोष डेटासेट पर प्रशिक्षित किया जाता है।
• एक बार प्रशिक्षित होने के बाद, मॉडल उन्नत व्याख्यात्मक तकनीकों, विशेष रूप से FullGrad और LayerCAM का उपयोग करके नमूना-स्तरीय सैलिएंसी मैप्स (attribution maps) उत्पन्न करता है।
  • FullGrad का उपयोग इसकी सैद्धांतिक पूर्णता के लिए किया जाता है, जो विश्वसनीय, वैश्विक ज्ञान सुनिश्चित करने के लिए नेटवर्क आउटपुट को इनपुट पिक्सेल और बायस टर्म योगदान में विभाजित करता है।
  • LayerCAM का उपयोग उच्च-रिज़ॉल्यूशन स्थानिक विवरणों को संरक्षित करने और ग्रेडिएंट्स को अनुकूल रूप से भारित करने की इसकी क्षमता के लिए किया जाता है, जो सूक्ष्म स्थानीयकरण (fine-grained localization) प्रदान करता है।
• ये सैलिएंसी मैप्स पूर्ववर्ती ज्ञान (prior knowledge) के रूप में संग्रहीत किए जाते हैं, जो इस बात का प्रतिनिधित्व करते हैं कि "विशेषज्ञ" मॉडल कहाँ दोष स्थित हैं, इसे समझता है।

चरण 2: ज्ञान-निर्देशित शिक्षण (बहु-कार्य शिक्षण - Multi-Task Training)
उसी आर्किटेक्चर वाला एक नया मॉडल एक बहु-कार्य शिक्षण ढांचे का उपयोग करके पुन: प्रशिक्षित किया जाता है जो पूर्ववर्ती ज्ञान को एकीकृत करता है:

• प्राथमिक कार्य: मानक दोष वर्गीकरण।
• सहायक कार्य: एक निरंतरता बाधा (consistency constraint) जो नए मॉडल के उत्पन्न सैलिएंसी मैप्स को संग्रहीत पूर्ववर्ती ज्ञान के साथ संरेखित करने के लिए मजबूर करती है।
• फीचर इंजेक्शन: पूर्ववर्ती सैलिएंसी मैप $H(x)$ को बैकबोन नेटवर्क के फीचर आउटपुट $F(x)$ के साथ संयोजित किया जाता है ताकि एक ज्ञान-संवर्धित फीचर मैप $P(x) = [F(x), H(x)]$ बनाया जा सके। इस मैप को एक सेगमेंटेशन सब-नेटवर्क के माध्यम से संसाधित किया जाता है और क्लासिफायर के निर्णय स्तर में स्थानिक पूर्व जानकारी इंजेक्ट करने के लिए पोलिंग (Global Max और Global Average Pooling का उपयोग करके) की जाती है।
• लॉस फंक्शन डिज़ाइन: कुल लॉस फंक्शन वर्गीकरण लॉस ($L_{cls}$) और एक सेगमेंटेशन-समान निरंतरता लॉस ($L_{seg}$) को जोड़ता है।
  • सेगमेंटेशन लॉस बाइनराइज्ड प्रायर सैलिएंसी मैप का उपयोग स्यूडो-लेबल (Otsu's thresholding के माध्यम से उत्पन्न) के रूप में करता है ताकि मॉडल के स्थानिक ध्यान (spatial attention) को सुपरवाइज किया जा सके।
  • एक गतिशील वेटिंग गुणांक $\lambda$ लागू किया जाता है, जो प्रशिक्षण के दौरान घटता जाता है ($\lambda = 1 - k/k_{epoch}$)। यह सुनिश्चित करता है कि मॉडल शुरू में स्थानिक पूर्वों (spatial priors) से सीखता है लेकिन संभावित रूप से अपूर्ण स्यूडो-लेबल्स पर ओवरफिटिंग से बचने के लिए धीरे-धीरे अपने स्वयं के सीखे गए डिस्क्रिमिनेटिव फीचर्स पर निर्भर होता है।

3. मुख्य योगदान

• ज्ञान-निर्देशित लॉस फंक्शन: यह शोध एक नवीन लॉस टर्म पेश करता है जो स्थानिक पूर्वों के रूप में मॉडल-जनित सैलिएंसी मैप्स का उपयोग करता है। यह प्रशिक्षण के दौरान मॉडल के फीचर अटेंशन को नियमित करता है, जिससे इसे बिना किसी अतिरिक्त मैनुअल मास्क के डिस्क्रिमिनेटिव दोष क्षेत्रों की ओर निर्देशित किया जाता है।
• दो-चरणीय बहु-कार्य ढांचा: एक प्रशिक्षण रणनीति जो ज्ञान सृजन को ज्ञान-निर्देशित प्रशिक्षण से अलग करती है। यह फ्रेमवर्क आर्किटेक्चर-अज्ञेय (architecture-agnostic) है, अनुमान के दौरान कोई अतिरिक्त पैरामीटर पेश नहीं करता है, और इसमें कोई अतिरिक्त एनोटेशन लागत नहीं लगती है।
• सक्रिय व्याख्यात्मकता इंजेक्शन: यह कार्य पोस्ट-हॉक नैदानिक उपकरणों (सैलिएंसी मैप्स) को सक्रिय मार्गदर्शन संकेतों में बदलने के लिए एक तंत्र का प्रस्ताव करता है। यह मॉडल की व्याख्यात्मकता और प्रदर्शन के बीच के अंतर को पाटता है, जिससे मॉडल अपनी व्याख्यात्मकता में सुधार करते हुए मजबूत फीचर्स सीख पाता है।

4. प्रयोगात्मक परिणाम

इस विधि का मूल्यांकन दो सार्वजनिक औद्योगिक दोष डेटासेट: KolektorSDD (KSDD) और KolektorSDD2 पर किया गया।

• KSDD पर प्रदर्शन: शून्य-मास्क सेटिंग ($N_a=0$, कोई पिक्सेल-स्तरीय लेबल नहीं) के तहत, प्रस्तावित विधि ने 100% औसत परिशुद्धता (Average Precision - AP) प्राप्त की। इसने MaMiNet (98.5%) और MixSup (93.4%) जैसे मजबूत सेमी-सुपरवाइज्ड प्रतिस्पर्धियों को पीछे छोड़ दिया।
• KSDD2 पर प्रदर्शन: सूक्ष्म दोषों वाले अधिक चुनौतीपूर्ण KSDD2 डेटासेट पर, विधि ने शून्य मास्क के साथ 93.94% AP प्राप्त किया, जो महत्वपूर्ण रूप से MaMiNet (80.0%) और MixSup (73.3%) से बेहतर है।
• मजबूती (Robustness): विधि उपलब्ध लेबल्स की संख्या बढ़ने पर भी उच्च प्रदर्शन बनाए रखती है, जो यह दर्शाता है कि सैलिएंसी-आधारित रेगुलराइज़र प्रदर्शन को संतृप्त करने के लिए पर्याप्त पूर्व ज्ञान प्रदान करता है।
• एब्लेशन अध्ययन (Ablation Studies): प्रयोगों ने ज्ञान स्रोतों के रूप में दोनों FullGrad और LayerCAM की प्रभावशीलता की पुष्टि की, जिनमें से दोनों प्रस्तावित ढांचे के साथ जुड़कर लगभग पूर्ण परिणाम देते हैं।

5. महत्व और दावे

यह शोध औद्योगिक निरीक्षण में डेटा की कमी और मॉडल की अपारदर्शिता (opacity) की दोहरी चुनौतियों को संबोधित करने के लिए एक सरल लेकिन प्रभावी प्रतिमान (paradigm) प्रस्तुत करने का दावा करता है।

• प्रदर्शन और व्याख्यात्मकता को जोड़ना: प्रशिक्षण लूप में व्याख्यात्मकता को सीधे एकीकृत करके, यह विधि मॉडल की सटीकता में सुधार करती है और यह सुनिश्चित करती है कि मॉडल मानव-बोधगम्य दोष क्षेत्रों पर ध्यान केंद्रित करे, जिससे विश्वास बढ़ता है।
• डेटा दक्षता: यह दृष्टिकोण उन परिदृश्यों के लिए एक व्यवहार्य समाधान प्रदान करता है जहाँ सटीक एनोटेशन उपलब्ध नहीं हैं या बहुत महंगे हैं, जो मॉडल के अपने "ज्ञान" का उपयोग करके स्वयं को सुधारने और अपने फीचर प्रतिनिधित्व को परिष्कृत करने के लिए करता है।
• औद्योगिक प्रयोज्यता: इस विधि के लिए बैकबोन आर्किटेक्चर या अनुमान पाइपलाइन में किसी बदलाव की आवश्यकता नहीं है, जो इसे उच्च-गति विनिर्माण वातावरण में विश्वसनीय विजन सिस्टम तैनात करने के लिए एक व्यावहारिक, कम-ओवरहेड समाधान बनाता है।

नोट: शोध निष्कर्ष के रूप में यह रेखांकित करता है कि दोष पहचान के लिए पारंपरिक सिमेंटिक सेगमेंटेशन की तुलना में कमजोर रूप से पर्यवेक्षित (weakly supervised) दृष्टिकोणों की श्रेष्ठता है, क्योंकि मानक सेगमेंटेशन एल्गोरिदम अत्यधिक क्लास असंतुलन और सूक्ष्म दोष आकारिकी (morphologies) वाले कार्यों के लिए अनुपयुक्त होते हैं।