कल्पना कीजिए कि आप एक रोबोट को अलग-अलग ध्वनियों को पहचानना सिखाने की कोशिश कर रहे हैं, जैसे कि कुत्ते का भौंकना बनाम कार का हॉर्न। आप उसे हजारों ऑडियो क्लिप खिलाते हैं, और रोबोट, एक विशेष प्रकार के मस्तिष्क का उपयोग करके जिसे 'कन्वोल्यूशनल न्यूरल नेटवर्क' (CNN) कहा जाता है, सही उत्तर का अनुमान लगाने में बहुत माहिर हो जाता है। लेकिन यहाँ एक पेंच है: रोबोट एक "ब्लैक बॉक्स" है। वह आपको उत्तर तो देता है, लेकिन यह नहीं बताता कि क्यों। क्या उसने पिच (pitch) की वजह से भौंकने को पहचाना? लय (rhythm) की वजह से? या अचानक शुरू होने की वजह से? वास्तविक दुनिया में, जहाँ गलतियाँ खतरनाक हो सकती हैं—जैसे कि डॉक्टर द्वारा हृदय की स्थिति का निदान करना या कारखाने द्वारा मशीन की विफलता की भविष्यवाणी करना—हम केवल रोबोट के अनुमान पर भरोसा नहीं कर सकते। हमें उसके मस्तिष्क के अंदर झाँकने की आवश्यकता है ताकि हम देख सकें कि वह वास्तव में किन पैटर्न को खोज रहा है। यही "एक्सप्लेनेबल एआई" (Explainable AI - XAI) की दुनिया है। वैज्ञानिकों ने इन पैटर्नों को बाहर निकालने के लिए तरीके विकसित किए हैं, लेकिन अब तक, वे उन टॉर्च की तरह थे जो केवल एक दिशा में रोशनी करते थे। वे आपको दिखा सकते थे कि ध्वनि कब हुई (टाइम डोमेन), लेकिन वे ध्वनि की पिच या फ्रीक्वेंसी (आवृत्ति) के प्रति अंधे थे, जो अक्सर सबसे महत्वपूर्ण सुराग होता है।

यह शोध पत्र CENDRe (कॉन्सेप्ट एक्सट्रैक्शन विद नेचुरल डोमेन रिप्रेजेंटेशन्स) नामक एक नया टूल पेश करता है जो इन कमियों को दूर करता है। CENDRe को एक ऐसे जासूस के रूप में सोचें जो न केवल किसी घटना के टाइमलाइन को देखता है बल्कि बजाए जा रहे संगीत के सुरों को भी सुनता है। शोधकर्ताओं ने पाया कि पुराने तरीकों में तीन मुख्य समस्याएँ थीं: वे केवल समय को देखते थे, वे रोबोट को पैटर्न की एक विशिष्ट संख्या का अनुमान लगाने के लिए मजबूर करते थे (जैसे कि बिना देखे ही यह कह देना कि "वहाँ ठीक 3 सुराग हैं"), और वे कभी-कभी सिग्नल के गलत हिस्सों की ओर इशारा करते थे। CENDRe इसे हल करता है क्योंकि यह स्वचालित रूप से पता लगा लेता है कि कितने पैटर्न मौजूद हैं, उन्हें समय और फ्रीक्वेंसी दोनों में खोजता है, और बिल्कुल सटीक रूप से पहचानता है कि वे पैटर्न सिग्नल में कहाँ स्थित हैं। जब उन्होंने ज्ञात उत्तरों वाले नकली डेटा पर इसका परीक्षण किया, तो CENDRe ने पुराने तरीकों की तुलना में सही सुराग बहुत बेहतर तरीके से खोजे। जब उन्होंने टूटी हुई मशीनों के बेयरिंग से प्राप्त वास्तविक डेटा पर इसे आज़माया, तो इसने सफलतापूर्वक उन विशिष्ट "हमिंंग" (humming) फ्रीक्वेंसीज़ की पहचान की जिनका उपयोग विशेषज्ञ समस्या का निदान करने के लिए करते हैं, जिससे यह सिद्ध हुआ कि रोबोट केवल रैंडम अंदाज़ा नहीं लगा रहा है, बल्कि वह वास्तव में सही चीज़ों को सुन रहा है।

जासूस का नया टूलकिट

कल्पना कीजिए कि आप एक शोर भरी सड़क की रिकॉर्डिंग सुनकर रहस्य सुलझाने की कोशिश कर रहे हैं एक जासूस हैं। आपके पास एक सुपर-स्मार्ट एआई असिस्टेंट है जो कहता है, "मुझे पता है कि यह कार दुर्घटना है!" लेकिन आपको जानने की ज़रूरत है कि वह कैसे जानता है। क्या यह टायरों की चीख है? धातु के टकराने की आवाज़ है? या शायद सिर्फ अचानक छाई शांति है?

पुराने जासूसी उपकरण (पिछले एआई तरीके) थोड़े अनाड़ी थे। पहला, वे केवल ध्वनियों के समय (timing) को सुनते थे। यदि दुर्घटना दोपहर 2:03 बजे हुई, तो वे आपको यह बता सकते थे, लेकिन वे आपको यह नहीं बता सकते थे कि आवाज़ एक ऊँची पिच वाली चीख थी या एक धीमी गड़गड़ाहट। दूसरा, वे सुरागों की संख्या को लेकर जिद्दी थे। आपको उन्हें शुरू करने से पहले बताना पड़ता था, "ठीक 3 सुरागों को ढूँढो।" यदि वास्तविक रहस्य में 4 सुराग थे, तो वे एक को छोड़ देते या दो को आपस में मिला देते। तीसरा, वे इशारा करने में खराब थे। वे कह सकते थे, "सुराग इस पूरे मिनट में कहीं है," जबकि वास्तविक सुराग केवल एक सेकंड के बहुत छोटे हिस्से का साउंड था।

CENDRe एक ऐसे जासूस की तरह है जो एक नया चश्मा लेकर आता है। ये चश्मे उन्हें एक साथ दो तरह से ध्वनि देखने की अनुमति देते हैं: एक टाइमलाइन के रूप में (चीजें कब होती हैं) और एक स्पेक्ट्रम के रूप में (कौन सी पिच मौजूद है)।

1. "नेचुरल" चश्मे का जादू

यह शोध पत्र "नेचुरल डोमेन रिप्रेजेंटेशन्स" का विचार पेश करता है। कल्पना कीजिए कि आप एक पेंटिंग देख रहे हैं। आप इसे सामने से देख सकते हैं (समय), लेकिन आप इसे एक विशेष फिल्टर के माध्यम से भी देख सकते हैं जो आपको ब्रश के स्ट्रोक (फ्रीक्वेंसी) दिखाता है। CENDRe एक गणितीय ट्रिक का उपयोग करता है जिसे "वर्चुअल इंस्पेक्शन लेयर" कहा जाता है। यह एआई के मस्तिष्क में एक पारदर्शी, प्रतिवर्ती (reversible) फिल्टर डालने जैसा है। एआई को पता भी नहीं चलता कि फिल्टर वहाँ है; वह बस अपना काम करता रहता है। लेकिन C-ENDRe उस फिल्टर के ज़रिए एआई के विचारों को देख सकता है। यह जासूस को ध्वनि की "फ्रीक्वेंसी" देखने की अनुमति देता है—जैसे कि टूटे हुए बेयरिंग की विशिष्ट गूंज—बिना एआई के सोचने के तरीके को बदले।

2. सुरागों को खुद गिनने देना

पुराने जासूसों के लिए सबसे बड़ा सिरदर्द यह तय करना था कि कितने सुराग खोजने हैं। यदि आपने उन्हें 5 सुराग खोजने के लिए कहा, लेकिन वास्तव में केवल 3 थे, तो वे खाली जगह भरने के लिए नकली सुराग बना लेंगे। यदि 7 थे, तो वे आखिरी दो को मिस कर देंगे।

CENDRe एक चतुर तकनीक का उपयोग करता है जिसे सिलुएट-गाइडेड एग्रीगेशन (silhouette-guided aggregation) कहा जाता है। कल्पना कीजिए कि आपके पास मिश्रित पहेली के टुकड़ों का ढेर है। ढेर में कितनी तस्वीरें हैं, इसका अनुमान लगाने के बजाय, CENDRe पहले समान टुकड़ों को छोटे समूहों (clusters) में इकट्ठा करना शुरू करता है। फिर, यह एक सवाल पूछता है: "ये समूह एक साथ कितनी अच्छी तरह फिट बैठते हैं?" यह एक स्कोर का उपयोग करता है जिसे "सिलुएट स्कोर" कहा जाता है (समूहों के लिए एक "खुशी स्कोर" के रूप में सोचें) यह तय करने के लिए कि कब विलय (merge) करना बंद करना है। यदि समूह खुश और अलग हैं, तो यह रुक जाता है। इसका मतलब है कि CENDRe स्वचालित रूप से यह पता लगा लेता है कि, "आह, वास्तव में यहाँ 4 अलग पैटर्न हैं," बिना आपके अनुमान लगाने के। यह मानवीय अनुमान को गणित-आधारित खोज से बदल देता है।

3. सटीक क्षण की पहचान करना

एक बार जब CNDRe एक पैटर्न (एक "कॉन्सेप्ट") खोज लेता है, तो उसे आपको दिखाना होता है कि वह ध्वनि में वास्तव में कहाँ है। पुराने तरीके अक्सर पूरी ध्वनि के चारों ओर बड़े, धुंधले बॉक्स बना देते थे, यह कहते हुए, "सुराग यहाँ कहीं है!" CNDRe बहुत अधिक सटीक है। यह सुराग के स्रोत तक जाने के रास्ते को ट्रैक करने के लिए ग्रेडिएंट्स (gradients) नामक तकनीक का उपयोग करता है।

इसे एक हीट मैप की तरह समझें। यदि आप ध्वनि के एक विशिष्ट भाग की आवाज़ बढ़ाते हैं, तो क्या अपने उत्तर के प्रति एआई का आत्मविश्वास बढ़ता है? CNDRe यह हर एक पल और हर एक फ्रीक्वेंसी के लिए गणना करता है। यह एक मास्क बनाता है जो केवल उन हिस्सों को हाइलाइट करता है जो मायने रखते हैं। यदि एआई 2000 हर्ट्ज़ पर 0.5 सेकंड के लिए एक उच्च-पिच वाली चीख सुन रहा है, तो CENDRe ठीक उसी स्थान के चारों ओर एक तंग, चमकीला बॉक्स बनाता है, बाकी शोर को अनदेखा कर देता है।

उन्होंने क्या पाया

शोधकर्ताओं ने CENDRe का परीक्षण दो तरीकों से किया: कृत्रिम डेटा के साथ जहाँ वे उत्तर जानते थे, और टूटी हुई मशीनों के वास्तविक डेटा के साथ।

नकली डेटा टेस्ट:
उन्होंने सिंथेटिक ध्वनियाँ बनाईं जिनमें छिपे हुए "प्रिमिटिव्स" (जैसे एक स्क्वायर वेव या एक विशिष्ट फ्रीक्वेंसी बैंड) थे जिन्हें एआई को पहचानने के लिए प्रशिक्षित किया गया था।

• टाइम डोमेन: समय-आधारित आकृतियों (जैसे स्क्वायर पल्स) को खोजते समय, CNDRe ने मौजूदा सर्वोत्तम उपकरणों की तरह ही उन्हें खोजा।
• फ्रीक्वेंसी डोमेन: यहीं पर CNDRe चमक उठा। जब सुराग विशिष्ट फ्रीक्वेंसी बैंड्स (जैसे एक हाई-पिच टोन) में छिपे थे, तो पुराने उपकरण पूरी तरह से अंधे थे। वे फ्रीक्वेंसी वाले सुरागों को बिल्कुल नहीं देख सके। हालाँकि, CNDRe ने उन्हें पूरी तरह से खोज लिया। इसने उन सटीक फ्रीक्वेंसी बैंड्स को स्थानीयकृत किया जिनका उपयोग एआई कर रहा था, जो "ग्राउंड ट्रुथ" (वास्तविक उत्तर) से लगभग पूरी तरह मेल खाता था।
• महत्व: CNDRe ने केवल सुरागों को खोजा ही नहीं; इसने उन्हें सही ढंग से रैंक भी किया। इसे पता था कि एआई के निर्णय के लिए कौन से सुराग सबसे महत्वपूर्ण थे, जबकि अन्य तरीकों ने कभी-कभी यह समझने में गलती की कि कौन से सुराग मायने रखते हैं।

वास्तविक दुनिया का टेस्ट:
वे इस टूल को एक वास्तविक कारखाने के वातावरण में ले गए, जहाँ वे बेयरिंग फॉल्ट्स (मशीनों के टूटे हुए हिस्से) से संबंधित डेटा देख रहे थे।

• एआई को यह बताने के लिए प्रशिक्षित किया गया था कि एक स्वस्थ बेयरिंग और एक टूटे हुए (अंदरूनी या बाहरी दरार वाले) बेयरिंग के बीच क्या अंतर है।
• CNDRe ने ऐसे कॉन्सेप्ट्स निकाले जो मानव विशेषज्ञों द्वारा ज्ञात तथ्यों के अनुरूप थे। उदाहरण के लिए, इसने पाया कि एआई एक सेंसर पर 2000 हर्ट्ज़ के आसपास एक तीव्र शिखर (peak) और दूसरे सेंसर पर 800-1000 हर्ट्ज़ के आसपास विशिष्ट बैंड पर ध्यान केंद्रित कर रहा था।
• ये कोई रैंडम नंबर नहीं हैं; ये वे सटीक "सिग्नेचर" फ्रीक्वेंसी हैं जिनका उपयोग इंजीनियर टूटे हुए बेयरिंग का निदान करने के लिए करते हैं। यह साबित करता है कि CNDRe केवल पैटर्न नहीं बना रहा है; यह वास्तव में उस तर्क को प्रकट कर रहा है जिसका उपयोग एआई अपने भविष्यवाणियों के लिए कर रहा है।

यह क्यों मायने रखता है

यह शोध पत्र सुझाव देता है कि समय और फ्रीक्वेंसी दोनों दृश्यों को जोड़कर, और एआई को यह बताने देकर कि वह कितने पैटर्न देखता है, हम इन ब्लैक-बॉक्स मॉडलों पर अधिक भरोसा कर सकते हैं। स्वास्थ्य सेवा या औद्योगिक सुरक्षा जैसे महत्वपूर्ण क्षेत्रों में, हम यह जोखिम नहीं उठा सकते कि एआई गलत कारणों से सही अनुमान लगाए। CNDRe हमें यह सत्यापित करने का एक तरीका देता है कि एआई सही "सुरागों" को देख रहा है—चाहे वह दिल की धड़कन की लय हो या मशीन का कंपन—इससे पहले कि हम उसे जीवन-मरण के निर्णय लेने दें।

लेखक सावधानीपूर्वक नोट करते हैं कि हालांकि CNDRe उन प्रकार के एआई मॉडल पर बहुत अच्छा काम करता है जिनका उन्होंने परीक्षण किया है (1D CNNs), यह इस बात पर निर्भर करता है कि एआई में एक विशिष्ट संरचना (ट्रांसलेशन इक्विवेरिएंट) हो। वे सुझाव देते हैं कि भविष्य के कार्यों में इसे अन्य प्रकार के एआई, जैसे ट्रांसफॉर्मर्स (Transformers) के लिए अनुकूलित करने की आवश्यकता होगी, जो बहुत लोकप्रिय हो रहे हैं। लेकिन फिलहाल, CNDRe मशीन के दिमाग के अंदर देखने के लिए एक शक्तिशाली नया लेंस प्रदान करता है, जो एक रहस्यमय अनुमान को एक स्पष्ट, व्याख्या योग्य कहानी में बदल देता है।