तकनीकी सारांश: SETA – कंपाउंड AI सिस्टम्स के लिए सांख्यिकीय दोष एट्रिब्यूशन (Statistical Fault Attribution)

1. समस्या विवरण (Problem Statement)

आधुनिक AI सिस्टम तेजी से कंपाउंड AI सिस्टम्स (CAS) के रूप में विकसित हो रहे हैं: ये जटिल पाइपलाइन हैं जिनमें विशिष्ट मॉडल, रिट्रीवर्स और सॉफ्टवेयर घटक शामिल होते हैं, न कि केवल एक मोनोलिथिक नेटवर्क। जबकि यह मॉड्यूलरिटी विकास में सहायता करती है, यह परीक्षण, डिबगिंग और सुरक्षा सुनिश्चित करने में महत्वपूर्ण चुनौतियाँ भी पेश करती है। अपस्ट्रीम घटकों (जैसे, डेटा ड्रिफ्ट, मॉडल मिसकैलिब्रेशन) में छोटे, स्थानीयकृत दोष पाइपलाइन के माध्यम से प्रसारित होकर विनाशकारी सिस्टम-स्तरीय विफलताओं का कारण बन सकते हैं।

वर्तमान मजबूती परीक्षण (robustness testing) तकनीकें दो प्राथमिक सीमाओं का सामना करती हैं:

1. एंड-टू-एंड (E2E) टेस्टिंग: यह सिस्टम को एक 'ब्लैक बॉक्स' की तरह मानती है। हालांकि यह पहचान सकती है कि विफलता हुई है, लेकिन यह दोष को विशिष्ट आंतरिक घटकों तक एट्रिब्यूट (निर्धारित) नहीं कर सकती।
2. आइसोलेटेड कंपोनेंट टेस्टिंग (ICT): यह मॉड्यूल का अलग-अलग परीक्षण करती है लेकिन मॉड्यूल के बीच गतिशील इंटरैक्शन से उत्पन्न होने वाले इमर्जेंट (emergent) दोषों का पता लगाने या पाइपलाइन में त्रुटियों के प्रसार का विश्लेषण करने में विफल रहती है।

मौजूदा उपकरण (जैसे, FGSM जैसे एडवरसैरियल अटैक्स, Reluplex जैसे फॉर्मल वेरिफिकेशन टूल्स, या DeepXplore जैसे कवरेज-आधारित टूल्स) मुख्य रूप से सिंगल-नेटवर्क मॉडल के लिए डिज़ाइन किए गए हैं। उनमें कंपोज्ड पाइपलाइनों के भीतर सूक्ष्म दोषों के स्थानीयकरण (fine-grained fault localization) या निष्पादन संदर्भ (execution context) के भीतर विफलता क्यों हुई, इसे समझाने की क्षमता का अभाव है। इसके अलावा, "टेस्ट ऑरेकल समस्या"—अर्थात बिना ग्राउंड ट्रुथ के मध्यवर्ती घटकों के लिए सटीक सही आउटपुट को परिभाषित करने की कठिनाई—एक बाधा बनी हुई है।

2. कार्यप्रणाली: SETA फ्रेमवर्क (Methodology: The SETA Framework)

लेखक SETA (Statistical Fault Attribution) का प्रस्ताव करते हैं, जो मेटामॉर्फिक टेस्टिंग (MT) को एक्जीक्यूशन ट्रेस एनालिसिस के साथ जोड़ता है। SETA बिना किसी स्पष्ट ग्राउंड-ट्रुथ ऑरेकल की आवश्यकता के, मेटामॉर्फिक रिलेशंस के माध्यम से व्यवहार संबंधी विशिष्टताओं को परिभाषित करके कार्य करता है।

2.1 मेटामॉर्फिक रिलेशंस (MRs) बतौर स्यूडो-ऑरेकल (Pseudo-Oracles)

SETA ऑरेकल समस्या को हल करने के लिए एकल इनपुट-आउटपुट जोड़ों के बजाय इनपुट ट्रांसफॉर्मेशन के माध्यम से मेटामॉर्फिक रिलेशंस (MRs) के संरक्षण को सत्यापित करता है।

• परिभाषा: एक MR स्रोत इनपुट $x$ और एक विचलित (perturbed) इनपुट $\tilde{x} = g(x)$ के लिए सिस्टम के आउटपुट के बीच अपेक्षित संबंध को निर्दिष्ट करता है।
• जेनेरिक फॉर्मुलेशन: संबंध समानता बाधाओं के लिए क्रोनेकर डेल्टा ($\delta$) और असमानता बाधाओं के लिए हीविसाइड स्टेप फंक्शन ($H$) का उपयोग करके परिभाषित किए जाते हैं।
• टास्क-विशिष्ट MRs: फ्रेमवर्क चार प्रमुख विजन कार्यों के लिए MRs को परिभाषित करता है:
  • इमेज क्लासिफिकेशन: स्थानिक रूपांतरणों (spatial transformations) के तहत लेबल की अपरिवर्तनीयता या संभाव्यता वितरणों में $L_\infty$-नॉर्म अंतर।
  • ऑब्जेक्ट लोकलाइजेशन: प्रेडिक्टेड और ग्राउंड-ट्रुथ बाउंडिंग बॉक्स के बीच इंटरसेक्शन ओवर यूनियन (IoU) पर प्रतिबंध।
  • ऑब्जेक्ट डिटेक्शन: पता लगाए गए ऑब्जेक्ट्स के सेट पर लागू होने वाले क्लासिफिकेशन और लोकलाइजेशन बाधाओं का एक संयोजन।
  • इमेज सेगमेंटेशन: सिमेंटिक मास्क के लिए पिक्सेल-लेवल इक्विवेलेंस या रिलैक्स्ड IoU-आधारित ओवरलैप बाधाएं।
• कंपोजिट मेटामॉर्फिक रिलेशंस (CMRs): जटिल घटकों के लिए, कई व्यक्तिगत MRs को लॉजिकल कंजंक्शन (प्रोडक्ट ऑपरेटर) के माध्यम से एक एकल कंपोजिट स्कोर ($S_i$) बनाने के लिए जोड़ा जाता है। एक घटक तभी सही माना जाता है जब सभी घटक संबंध संतुष्ट हों।

2.2 स्टेट-बेस्ड एक्जीक्यूशन ट्रेस एनालिसिस

SETA कंपाउंड AI सिस्टम को एक स्टेट-ट्रांजिशन सिस्टम के रूप में मॉडल करता है जहाँ स्टेट्स कम्प्यूटेशनल मॉड्यूल का प्रतिनिधित्व करते हैं।

• एक्जीक्यूशन ट्रेस ट्री ($T(x)$): इन्फरेंस के दौरान, फ्रेमवर्क सिस्टम को एक डायनेमिक एक्जीक्यूशन ग्राफ रिकॉर्ड करने के लिए इंस्ट्रूमेंट करता है। प्रत्येक इनपुट $x$ और उसके विचलित संस्करण $\tilde{x}$ के लिए, यह एक ट्री बनाता है जो निम्नलिखित को कैप्चर करता है:
  • सक्रिय मॉड्यूल।
  • इनपुट/आउटपुट टेंसर।
  • रूटिंग निर्णय (कौन से डाउनस्ट्रीम मॉड्यूल कॉल किए गए)।
  • रेफरेंस और विचलित रन की तुलना करने वाले स्कोरिंग फंक्शन परिणाम ($S_q$)।
• ट्रेस अलाइनमेंट: फ्रेमवर्क एक्टिवेशन सेट्स (जैसे, एक में ट्रिगर किया गया मॉड्यूल जो दूसरे में नहीं हुआ) या आउटपुट विसंगतियों का पता लगाने के लिए विचलित इनपुट के ट्रेस को रेफरेंस ट्रेस के साथ अलाइन करता है।

2.3 सांख्यिकीय दोष एट्रिब्यूशन (Statistical Fault Attribution)

प्रथम बिंदु विफलता और मूल कारण (जो कि एक अपस्ट्रीम त्रुटि हो सकती है जो प्रसारित हुई है) के बीच अंतर करने के लिए, SETA एक सांख्यिकीय एट्रिब्यूशन तंत्र का उपयोग करता है।

• फेलियर कंट्रीब्यूशन (FC) स्कोर: फ्रेमवर्क एक रैंडम वेरिएबल $Z_i$ को परिभाषित करता है जो मॉड्यूल $i$ के विचलन का प्रतिनिधित्व करता है। मॉड्यूल $i$ के लिए FC स्कोर, सिस्टम-स्तरीय विफलता की स्थिति में अपेक्षित विचलन है:
  $$FC_i = E_{(x, \tilde{x}) \sim D} [Z_i \cdot \mathbb{I}(S(x, \tilde{x}) = 0)]$$
  यह मापता है कि कितनी बार एक घटक अपने स्पेसिफिकेशन का उल्लंघन करता है जब पूरी प्रणाली विफल होती है।
• एट्रिब्यूशन वेट्स: व्याख्या योग्य एट्रिब्यूशन वेट्स ($\alpha_i$) प्राप्त करने के लिए सभी मॉड्यूल में स्कोर को नॉर्मलाइज किया जाता है, जो प्रत्येक घटक के सिस्टम-स्तरीय अविश्वसनीयता में सापेक्ष योगदान को मात्रात्मक रूप से दर्शाता है।
• एल्गोरिदम: प्रक्रिया में एक डेटासेट और पर्सर्बेशन सेट के माध्यम से पुनरावृत्ति करना, ट्रेसेस रिकॉर्ड करना, सिस्टम-लेवल स्कोर की गणना करना और एक नॉर्मलाइज्ड एट्रिब्यूशन वेक्टर बनाने के लिए विचलनों को एग्रीगेट करना शामिल है।

3. मुख्य योगदान (Key Contributions)

1. मॉड्यूलर फ्रेमवर्क: SETA का प्रस्ताव करता है, जो जटिल AI पाइपलाइनों में दोषों के स्थानीयकरण के लिए मेटामॉर्फिक टेस्टिंग को एक्जीक्यूशन ट्रेस एनालिसिस के साथ एकीकृत करता है।
2. ऑरकल-मुक्त विशिष्टताएँ (Oracle-Free Specifications): मेटामॉर्फिक रिलेशंस के माध्यम से व्यवहार संबंधी विशिष्टताओं को परिभाषित करके ब्लैक-बॉक्स मॉडल के लिए स्केलेबल, टेस्ट करने योग्य एब्स्ट्रैक्शन का समर्थन करता है।
3. विस्तारणीयता (Extensibility): अपने मॉड्यूलर डिज़ाइन के कारण, उपयोगकर्ता विभिन्न प्रकार के मेटामॉर्फिक रिलेशंस को परिभाषित और प्लग-इन कर सकते हैं, जो ओपेक (opaque) सिस्टम में व्याख्यात्मकता का समर्थन करता है।
4. सूक्ष्म विश्लेषण (Fine-Grained Analysis): उन मल्टी-स्टेज पाइपलाइनों में विफलता के मूल को पिनपॉइंट करने और छिपी हुई कमजोरियों को उजागर करने की क्षमता प्रदर्शित करता है जहाँ पारंपरिक उपकरण विफल हो जाते हैं।

4. प्रयोगात्मक परिणाम (Experimental Results)

फ्रेमवर्क का मूल्यांकन दो अलग-अलग सिस्टमों पर किया गया:

1. ऑटोनॉमस रेल-इंस्पेक्शन विजन सिस्टम: एक वास्तविक दुनिया का सिस्टम जिसमें 6 मॉड्यूल (1 ऑब्जेक्ट डिटेक्टर, 5 क्लासिफायर) रेलवे इमेजरी को प्रोसेस करते हैं।
   • सेटअप: इसे imagecorruptions लाइब्रेरी से 15 इमेज करप्शन तकनीकों (जैसे, फॉग, स्नो, मोशन ब्लर) के विरुद्ध टेस्ट किया गया।
   • निष्कर्ष: SETA ने सफलतापूर्वक पहचाना कि ऑब्जेक्ट डिटेक्शन मॉड्यूल ($f_0$) फॉग और मोशन ब्लर के प्रति अत्यधिक संवेदनशील था, जबकि डाउनस्ट्रीम क्लासिफायर अलग-अलग मजबूती दिखाते थे। इसने एट्रिब्यूशन स्कोर ($\alpha_i$) की गणना की, जिसने विशिष्ट मॉड्यूल (जैसे, $f_1$ और $f_3$) को विशिष्ट पर्सर्बेशन के तहत सिस्टम विफलताओं में प्राथमिक योगदानकर्ता के रूप में हाइलाइट किया।
2. एन्सेम्बल क्लासिफिकेशन मॉडल (CIFAR-10): CNNs (ResNet18, VGG16, Custom CNN) के एक एन्सेम्बल का उपयोग करके एक सेनिटी चेक।
   • निष्कर्ष: SETA द्वारा अनुमानित व्यक्तिगत मॉडलों की सटीकता वास्तविक सटीकता के 2-3% के भीतर थी, जिसने "Custom CNN" को सबसे खराब प्रदर्शन करने वाले मॉडल के रूप में सही ढंग से पहचाना।
3. OCR सिस्टम: EasyOCR का उपयोग करने वाला एक टेक्स्ट-आधारित पाइपलाइन।
   • निष्कर्ष: फ्रेमवर्क को लेवेनश्टीन डिस्टेंस (Levenshtein distance) को मेटामॉर्फिक रिलेशन के रूप में उपयोग करके अनुकूलित किया गया। इसने सफलतापूर्वक टेक्स्ट सीक्वेंस विचलनों के आधार पर विफलता को मात्रात्मक बनाया और विशिष्ट मॉड्यूल को एट्रिब्यूट किया, जो विजन पाइपलाइनों से परे इसकी प्रयोज्यता को प्रदर्शित करता है।

5. महत्व और दावे (Significance and Claims)

यह पेपर SETA को कंपाउंड AI सिस्टमों में इमर्जेंट विफलताओं के निदान के लिए एक प्रूफ-ऑफ-कॉन्सेप्ट के रूप में स्थापित करता है। इसका महत्व एंड-टू-एंड टेस्टिंग और आइसोलेटेड कंपोनेंट टेस्टिंग के बीच के अंतर को पाटने में निहित है।

• डायग्नोस्टिक प्रिसिजन: उन उपकरणों के विपरीत जो केवल यह पता लगाते हैं कि विफलता हुई है, SETA यह बताता है कि कौन सा मॉड्यूल इसके लिए सबसे अधिक जिम्मेदार है, जिससे इंजीनियरों को कमजोर सब-मॉड्यूल्स की ओर निर्देशित करने में मदद मिलती है।
• स्केलेबिलिटी: मेटामॉर्फिक रिलेशंस का उपयोग करके, यह ग्राउंड-ट्रुथ ऑरकल की आवश्यकता को समाप्त करता है, जिससे यह जटिल, वास्तविक दुनिया की पाइपलाइनों के लिए लागू करने योग्य हो जाता है जहाँ मध्यवर्ती ग्राउंड ट्रुथ उपलब्ध नहीं होता है।
• सीमाएँ और भविष्य का कार्य: लेखक विनम्रतापूर्वक स्वीकार करते हैं कि वर्तमान एट्रिब्यूशन कोरिलेशनल (सहसंबंधी), न कि कॉज़ल (कारण संबंधी) है। उच्च स्कोर विफलता के साथ एक जुड़ाव दर्शाते हैं, लेकिन वे निश्चित रूप से कारण सिद्ध नहीं करते हैं। सटीकता हाथ से बनाए गए मेटामॉर्फिक रिलेशंस की पूर्णता पर निर्भर करती है। भविष्य के कार्य में कॉज़ल इन्फरेंस, ऑटोमैटिक MR जनरेशन के लिए प्रोग्राम सिंथेसिस को एकीकृत करना, और मल्टीमॉडल एवं रिइन्फोर्समेंट लर्निंग सिस्टम तक विस्तार करना शामिल है।

संक्षेप में, SETA कंपोजिशनल टेस्टिंग और व्याख्यात्मक दोष स्थानीयकरण (explainable fault localization) के लिए एक आधार स्थापित करता है, जो जटिल, बहु-घटक AI सिस्टम की विश्वसनीयता सुनिश्चित करने के लिए एक व्यवस्थित दृष्टिकोण प्रदान करता है।