IMFACT: Counterfactual Explanations for Time Series via Intrinsic Mode Function Substitution
यह शोध पत्र IMFACT को प्रस्तुत करता है, जो एक मॉडल-अज्ञेय (model-agnostic) ढांचा है जो एम्पेरिकल मोड डिकंपोजिशन (Empirical Mode Decomposition) के माध्यम से सिग्नलों को इंट्रिन्सिक मोड फंक्शन्स में विघटित करके और चयनित घटकों को 'नियरेस्ट अनलाइक नेबर्स' (Nearest Unlike Neighbors) से प्राप्त घटकों से प्रतिस्थापित करके टाइम सीरीज़ क्लासिफायर के लिए भौतिक रूप से प्रशंसनीय काउंटरफैक्टुअल स्पष्टीकरण उत्पन्न करता है, जो एक ऐसी विधि है जो बेंचमार्क डेटासेट्स पर विश्वसनीयता, प्रशंसनीयता और निकटता के मामले में मौजूदा बेसलाइनों से बेहतर प्रदर्शन करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को यह सिखाने की कोशिश कर रहे हैं कि एक स्वस्थ धड़कन और एक बीमार धड़कन के बीच अंतर कैसे किया जाए, या एक सुचारू इंजन की गूँज और एक रगड़ते हुए गियर के बीच अंतर कैसे किया जाए। आप रोबोट को हजारों रिकॉर्डिंग दिखाते हैं, और वह पैटर्न पहचानना सीख जाता है। लेकिन यहाँ पेचीदा बात यह है: यदि आप रोबोट से पूछते हैं, "आपको क्यों लगा कि यह इंजन खराब था?", तो वह शोर के किसी एक सेकंड की ओर इशारा नहीं कर सकता। उत्तर पूरे ध्वनि के ताल (rhythm) और कंपन (vibration) में छिपा होता है। यह टाइम सीरीज़ डेटा (time series data) की दुनिया है—ऐसी जानकारी जो समय के साथ बदलती रहती है, जैसे शेयर की कीमतें, मौसम के पैटर्न, या मशीनों का कंपन।
अब, कल्पना कीजिए कि आप जानना चाहते हैं कि किस सूक्ष्म बदलाव ने रोबोट को यह कहने पर मजबूर कर दिया कि, "वास्तव में, यह इंजन ठीक है।" इसे काउंटरफैक्चुअल एक्सप्लेनेशन (counterfactual explanation) कहा जाता है। यह कुछ ऐसा है जैसे यह पूछना कि, "अगर मैंने अलग रास्ता लिया होता तो क्या होता?" ताकि आप समझ सकें कि आप ट्रैफिक में क्यों फंस गए। संख्याओं की सरल सूचियों (जैसे आपकी ऊंचाई और वजन) के लिए, यह आसान है। लेकिन लहराते हुए, कंपन वाले संकेतों के लिए, यह एक बुरा सपना है। यदि आप केवल सिग्नल में संख्याओं को बेतरतीब ढंग से बदलते हैं, तो आप एक ऐसा सिग्नल बना सकते हैं जो गणितीय रूप से मूल सिग्नल के करीब तो होगा, लेकिन सुनने में किसी ग्लिच वाले रोबोट की चीख जैसा लगेगा—एक ऐसा परिणाम जिसका कोई भौतिक अर्थ नहीं निकलता। वैज्ञानिक एक ऐसा तरीका ढूंढने की कोशिश कर रहे हैं जो इन "क्या-होता-अगर" (what-if) परिदृश्यों को न केवल गणितीय रूप से सही बनाए, बल्कि ऐसा भी बनाए जो वास्तविक दुनिया में संभव हो।
यहीं IMFACT काम आता है। शोधकर्ताओं ने, उडो श्लेगल और उनकी टीम के नेतृत्व में, महसूस किया कि एक कंपन करते हुए सिग्नल को उसके भौतिक विज्ञान को तोड़े बिना ठीक करने के लिए, आपको सीधे कच्चे साउंड वेव्स (raw sound waves) के साथ छेड़छाड़ नहीं करनी चाहिए। इसके बजाय, आपको सिग्नल को उसके संगीत के सुरों (musical notes) में तोड़ना चाहिए। वे एम्पेरिकल मोड डिकंपोजिशन (Empirical Mode Decomposition - EMD) नामक तकनीक का उपयोग करते हैं, जो एक सुपर-स्मार्ट प्रिज्म की तरह कार्य करती है। यह एक जटिल, अस्त-व्यस्त कंपन को सरल, शुद्ध स्वरों में विभाजित करती है जिन्हें इंट्रिन्सिक मोड फंक्शन्स (Intrinsic Mode Functions - IMFs) कहा जाता है। एक जटिल पियानो कॉर्ड की कल्पना करें; EMD उसे व्यक्तिगत सुरों (उच्च तीखी आवाज़ों, मध्यम रेंज की गूँज और कम आवृत्ति वाली थपथपाहट) में अलग कर देता है।
टीम का बड़ा विचार यह है कि वे एक खराब सिग्नल के इन व्यक्तिगत "सुरों" (IMFs) को स्वस्थ सिग्नल के सुरों से तब तक बदलें जब तक कि रोबोट अपना निर्णय न बदल दे। वे इस प्रक्रिया को IMFACT (IMF-आधारित काउंटरफैक्टुअल्स) कहते हैं। कच्चे डेटा को बेतरतीब ढंग से घुमाने के बजाय, वे धीरे-धीरे "खराब" आवृत्तियों को "स्वस्थ" आवृत्तियों से एक-एक करके बदलते हैं, जब तक कि मशीन यह न कह दे, "आह, अब यह एक स्वस्थ इंजन जैसा लग रहा है!"
यह देखने के लिए कि क्या यह काम करता है, उन्होंने दो बहुत ही अलग चीजों पर परीक्षण किया: FaultDetectionA का एक डेटासेट, जो एक दोषपूर्ण बेयरिंग वाली मशीन के कंपन को रिकॉर्ड करता है, और FruitFlies, जो मक्खियों की विभिन्न प्रजातियों के पंखों के फड़फड़ाने की आवाज़ को रिकॉर्ड करता है। उन्होंने अपने तरीके की तुलना तीन अन्य लोकप्रिय तरीकों से की। परिणाम काफी स्पष्ट थे। जबकि अन्य तरीके कभी-कभी समाधान खोजने में विफल रहे, या ऐसे सिग्नल बनाए जो गणितीय रूप से तो करीब थे लेकिन भौतिक रूप से असंभव थे (जैसे एक मक्खी के पंखों का इतनी गति से फड़फड़ाना जिससे उसके पंख फट जाएं), IMFACT दोनों डेटासेट के लिए 100% समय एक वैध स्पष्टीकरण खोजने में सफल रहा।
शोध पत्र सुझाव देता है कि इस "डिकंपोजिशन स्पेस" (शोर के बजाय सुरों को बदलना) में काम करके, IMFACT ऐसे स्पष्टीकरण बनाता है जो न केवल सही हैं बल्कि तर्कसंगत (plausible) भी हैं। उदाहरण के लिए, मशीन डेटा पर, उनके तरीके ने सिग्नल को यथार्थवादी सीमाओं के भीतर 93.9% समय रखा, और मक्खियों के लिए, यह आंकड़ा और भी अधिक (98.4%) था। इसके अलावा, यह अविश्वसनीय रूप से तेज़ था, मशीन डेटा के लिए लगभग 0.388 सेकंड और मक्खियों के लिए 0.239 सेकंड में स्पष्टीकरण उत्पन्न करता है। इसके विपरीत, एक अन्य विधि को मक्खी के डेटा के लिए 111 सेकंड से अधिक समय लगा, और एक अन्य विधि केवल मक्खी के 30% मामलों में ही वैध उत्तर खोजने में सफल रही।
लेखकों ने पाया कि इसे करने का सबसे अच्छा तरीका यह है कि "दूरी" (distance) नामक रणनीति का उपयोग करके इन "सुरों" को बदला जाए, जो उनके फ्रीक्वेंसी कंटेंट के अंतर पर आधारित है, और सबसे अच्छा मिलान खोजने के लिए कुछ अलग-अलग "स्वस्थ" उदाहरणों (विशेष रूप से तीन पड़ोसियों) के चक्र का उपयोग किया जाए। उन्होंने पाया कि हालांकि कुछ रणनीतियाँ तेज़ थीं, वे कम यथार्थवादी परिणाम देती थीं, और जबकि कुछ बहुत सटीक थीं, वे बहुत धीमी थीं। वास्तव में, ऊर्जा अंतर (variance) पर आधारित रणनीति सबसे धीमी और कम प्रभावी साबित हुई। उन्होंने जो "स्वीट स्पॉट" खोजा, वह दूरी रणनीति और तीन पड़ोसियों का एक संतुलित दृष्टिकोण था, जो तेज़ भी था और विश्वसनीय भी।
हालाँकि, शोध पत्र सावधानीपूर्वक यह भी नोट करता है कि यह अभी हर समस्या के लिए जादुई समाधान नहीं है। वर्तमान में यह विधि केवल सिंगल-चैनल सिग्नल (एक माइक्रोफ़ोन, एक सेंसर) पर काम करती है और एक विशिष्ट तरीके पर निर्भर करती है जिससे सिग्नल को तोड़ने में भ्रम हो सकता है यदि सिग्नल बहुत अधिक अस्त-व्यस्त हो। वे यह भी स्वीकार करते हैं कि हालांकि उनका तरीका उनके द्वारा परीक्षण किए गए विशिष्ट मशीन और मक्खी डेटासेट पर बहुत अच्छा काम कर गया, लेकिन उन्होंने इसे हर प्रकार के डेटा या हर प्रकार के AI मॉडल पर आज़माया नहीं है। लेकिन, मुख्य निष्कर्ष मजबूत है: यदि आप यह समझाना चाहते हैं कि एक समय-आधारित AI ने कोई निर्णय क्यों लिया, तो सिग्नल के अंतिम स्वाद को बदलने के बजाय उसके अंतर्निहित "सामग्री" (ingredients) को बदलना अक्सर बेहतर होता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।