Neural prediction decorrelation reveals that adversarial robustness substantially improves DNN prediction accuracy across the entire human auditory cortex
यह अध्ययन न्यूरल प्रेडिक्शन डिकोरिलेशन (NPD) को पेश करता है, जो उद्दीपनों (stimuli) को संश्लेषित करने वाली एक ऐसी विधि है जो यह प्रकट करती है कि एडवर्सियली रोबस्ट डीप न्यूरल नेटवर्क, सभी क्षेत्रों में मानव श्रवण प्रांतस्था (auditory cortex) की प्रतिक्रियाओं की भविष्यवाणी करने में मानक मॉडलों की तुलना में काफी बेहतर प्रदर्शन करते हैं, एक ऐसी श्रेष्ठता जो केवल प्राकृतिक ध्वनियों का उपयोग करने पर अदृश्य रहती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप केवल एक बिल्कुल सीधी, खाली हाईवे पर चलती हुई कार को सुनकर यह समझने की कोशिश कर रहे हैं कि उसका इंजन कैसे काम करता है। आप इंजन की गूँज, टायरों के लुढ़कने की आवाज़ और हवा की सीटी सुन सकते हैं, लेकिन आप जटिल गियर बदलने, ईंधन के मिश्रण और ब्रेक लगने की प्रक्रिया को नहीं समझ पाएंगे क्योंकि सड़क बहुत चिकनी और अनुमानित है। यह कुछ वैसा ही है जैसा वैज्ञानिक मानव मस्तिष्क को समझने की कोशिश करते समय सामना करते हैं। दशकों से, शोधकर्ताओं ने कंप्यूटर मॉडल बनाए हैं ताकि वे यह अनुमान लगा सकें कि हमारे मस्तिष्क ध्वनि, जैसे कि भाषण या संगीत, को कैसे संसाधित करते हैं। वे इन मॉडलों का परीक्षण प्राकृतिक ध्वनियाँ बजाकर करते हैं और देखते हैं कि क्या कंप्यूटर का "अनुमान" मस्तिष्क की वास्तविक विद्युत गतिविधि से मेल खाता है। समस्या यह है कि कई अलग-अलग कंप्यूटर मॉडल, जिन्हें बहुत अलग तरह से बनाया गया है, प्राकृतिक ध्वनियों को सुनते समय बिल्कुल एक जैसा उत्तर देते हैं। यह दो अलग-अलग जीपीएस ऐप्स की तरह है जो दोनों आपको मेन स्ट्रीट पर बाएं मुड़ने के लिए कहते हैं; आप यह नहीं बता सकते कि कौन सा वास्तव में अधिक स्मार्ट है क्योंकि वे उस विशिष्ट यात्रा के लिए दोनों ही सही हैं।
इसे हल करने के लिए, वैज्ञानिकों को मॉडलों को असहमत करने का एक तरीका खोजना होगा। उन्हें एक ऐसी ध्वनि बजानी होगी जो एक मॉडल को यह कहने पर मजबूर करे कि "यह कुत्ते के भौंकने की आवाज़ है," और दूसरे को यह कहने पर कि "यह कार के हॉर्न की आवाज़ है," जबकि मस्तिष्क उसे सुन रहा हो। यदि वे ऐसा कर सकते हैं, तो वे देख सकते हैं कि कौन सा मॉडल वास्तव में मानव मस्तिष्क के काम करने के तरीके के अधिक करीब है। यही संवेदी तंत्रिका विज्ञान (sensory neuroscience) की मुख्य चुनौती है: हम दो ऐसे मॉडलों के बीच अंतर कैसे करें जो उन चीजों पर परीक्षण करने पर समान दिखते हैं जिन्हें हम पहले से जानते हैं? यदि हम उन्हें अलग नहीं कर सकते, तो हम सुनिश्चित नहीं हो सकते कि कौन सा मॉडल वास्तव में मस्तिष्क के रहस्यों को पकड़ रहा है, और हम बेहतर वाले का उपयोग नए ध्वनियाँ डिजाइन करने या सुनने संबंधी विकारों को समझने के लिए नहीं कर सकते।
यह शोध पत्र "न्यूरल प्रेडिक्शन डिकोरिलेशन" (NPD) नामक एक चतुर तकनीक पेश करता है जो चीज़ों को बदलने का काम करती है। शोधकर्ताओं ने दो प्रकार के डीप न्यूरल नेटवर्क (DNNs) लिए—एक मानक और दूसरा जिसे "एडवर्सरियल रूप से सुदृढ़" (adversarially robust) होने के लिए प्रशिक्षित किया गया था (जिसका अर्थ है कि इसे अजीब शोर से धोखा देना कठिन है)—और उनसे यह अनुमान लगाने को कहा कि मानव श्रवण प्रांतस्था (auditory cortex) कई ध्वनियों के प्रति कैसे प्रतिक्रिया देगी। जब उन्होंने प्राकृतिक ध्वनियों का उपयोग किया, तो दोनों मॉडलों ने लगभग समान प्रदर्शन किया, ठीक वैसे ही जैसे दो जीपीएस ऐप्स सीधी हाईवे पर। उनके अनुमान इतने समान थे कि मस्तिष्क भी उनमें अंतर नहीं कर सका।
लेकिन फिर, वैज्ञानिकों ने 60 बिल्कुल नई ध्वनियाँ आविष्कार करने के लिए एक विशेष एल्गोरिदम का उपयोग किया। ये केवल यादृच्छिक शोर नहीं थे; इन्हें सावधानीपूर्वक इस तरह तैयार किया गया था कि वे दोनों मॉडलों को पूरी तरह से अलग भविष्यवाणियाँ करने के लिए मजबूर करें। इसे एक जादू के खेल की तरह समझें जहाँ वैज्ञानिक मॉडलों के कान में एक गुप्त कोड फुसफुसाता है जिससे वे आपस में बहस करने लगते हैं। जब उन्होंने इन नए "NPD ध्वनियों" को एमआरआई (MRI) मशीन में लोगों को सुनाया, तो परिणाम नाटकीय थे। मानक मॉडल, जो प्राकृतिक ध्वनियों के साथ बहुत अच्छा था, अचानक लगभग हर चीज़ में गलत साबित हुआ। इसकी भविष्यवाणियाँ गिरकर शून्य के करीब पहुँच गईं। हालाँकि, "एडवर्सरियल रूप से सुदृढ़" मॉडल ने न केवल खुद को बचाए रखा; बल्कि इसने इन अजीब नई ध्वनियों को सुने बिना भी, मस्तिष्क की प्रतिक्रियाओं की उच्च सटीकता के साथ भविष्यवाणी करना जारी रखा।
शोध पत्र सुझाव देता है कि यह अंतर तब पूरी तरह से छिपा हुआ था जब उन्होंने केवल प्राकृतिक ध्वनियों का उपयोग किया था। सुदृढ़ मॉडल ने ध्वनि को समझने का एक गहरा, अधिक लचीला तरीका सीखा था जिसे मानक मॉडल नहीं समझ पाया। यह ऐसा है जैसे मानक मॉडल ने केवल हाईवे को रट लिया था, जबकि सुदृढ़ मॉडल ने वास्तव में ड्राइविंग के नियमों को सीख लिया था। शोधकर्ताओं ने यह भी जाँच की कि क्या ये नई ध्वनियाँ मस्तिष्क को केवल अजीब तरीके से भ्रमित नहीं कर रही थीं। उन्होंने पाया कि इन कृत्रिम ध्वनियों के प्रति मस्तिष्क की प्रतिक्रिया अभी भी प्राकृतिक ध्वनियों के समान ही एक "मैप" में फिट बैठती थी, जो भाषण या बहते पानी जैसी चीज़ों के साथ क्लस्टर होती थी। इसका मतलब है कि सुदृढ़ मॉडल केवल भाग्यशाली नहीं था; इसने ध्वनि को समझने का एक बेहतर तरीका खोज लिया था, जो तब भी काम करता है जब ध्वनियाँ अजीब और अप्रत्याशित होती हैं।
अध्ययन स्पष्ट रूप से इस विचार के विरुद्ध तर्क देता है कि यह जानने के लिए प्राकृतिक ध्वनियाँ पर्याप्त हैं कि कौन सा कंप्यूटर मॉडल सबसे अच्छा है। वे दिखाते हैं कि केवल प्राकृतिक उद्दीपनों (stimuli) पर निर्भर रहने से मॉडलों के काम करने के तरीके में बड़े अंतर छिप सकते हैं। वे इस विचार को भी खारिज करते हैं कि सुदृढ़ मॉडल केवल प्रशिक्षण डेटा के प्रति ओवरफिटिंग कर रहा था, क्योंकि यह उन बिल्कुल नई, संश्लेषित ध्वनियों के प्रति पूरी तरह से सामान्यीकृत (generalized) हुआ जिन्हें उसने पहले कभी नहीं सुना था। लेखक अपने निष्कर्षों के प्रति काफी आश्वस्त हैं, क्योंकि उन्होंने इस प्रभाव को नए लोगों के समूहों में, जिन्होंने ये ध्वनियाँ पहले कभी नहीं सुनी थीं, श्रवण प्रांतस्था के कई क्षेत्रों में मापा है। वे सुझाव देते हैं कि यह "सुदृढ़ता" (robustness) उस प्रमुख तत्व के लिए एक महत्वपूर्ण घटक है जो ऐसे मॉडल बनाने में सक्षम है जो वास्तव में हमारे मस्तिष्क की ध्वनि के प्रति प्रतिक्रिया को नियंत्रित या अनुमानित कर सकते हैं, जो भविष्य में विशिष्ट भागों के मस्तिष्क को लक्षित करने वाली ध्वनियाँ डिजाइन करने के द्वार खोलता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।