← नवीनतम पेपर
🤖 machine learning

Beyond Activation Alignment: The Geometry of Neural Sensitivity

यह लेख स्पेक्ट्रल रीमानियन अलाइनमेंट स्कोर (S-RAS) का परिचय देता है, जो स्थानीय रूप से डिकोडेबल जानकारी और फिशर ज्योमेट्री पर आधारित एक नवीन ढांचा है, जो छोटे विक्षोभों (perturbations) के प्रति न्यूरोनल संवेदनशीलता को मापकर पारंपरिक एक्टिवेशन अलाइनमेंट विधियों का पूरक बनता है, जिससे विविध कार्यों और डेटासेट में जैविक और कृत्रिम न्यूरल रिप्रजेंटेशन्स की अधिक सुदृढ़ तुलना संभव हो पाती है।

मूल लेखक: Amirhossein Yavari, Farnaz Zamani Esfahlani

प्रकाशित 2026-05-06
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Amirhossein Yavari, Farnaz Zamani Esfahlani

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप दो अलग-अलग शेफ को समझने की कोशिश कर रहे हैं, जो एक जटिल व्यंजन, मान लीजिए लासग्ना (lasagna) तैयार कर रहे हैं।

पुराना तरीका: तैयार प्लेटों की तुलना करना
पारंपरिक रूप से, वैज्ञानिक दो न्यूरल नेटवर्क (या एक मानव मस्तिष्क और एक कंप्यूटर) के बीच यह तुलना करने के लिए देखते हैं कि वे कैसे "सोचते" हैं या किसी छवि को देखते समय वे कैसा गतिविधि पैटर्न उत्पन्न करते हैं। यह दो तैयार लासग्ना प्लेटों को देखने के समान है। यदि प्लेटें बिल्कुल एक जैसी दिखती हैं—वही आकार, पनीर का वही वितरण, सॉस के वही घुमाव—तो वैज्ञानिक कहते हैं: "बहुत बढ़िया! इन दोनों शेफ ने एक ही रेसिपी का उपयोग किया है।"

RSA, CCA और CKA जैसे उपकरण इन "प्लेटों" की समानता मापने के काम आते हैं।

समस्या: "छिपी हुई" रेसिपी
इस शोध पत्र के लेखक तर्क देते हैं कि केवल इसलिए कि अंतिम प्लेटें एक जैसी दिखती हैं, इसका मतलब यह नहीं है कि शेफ ने एक ही तरह की सामग्री या तकनीक का उपयोग किया है।

  • शेफ A ने शायद सब्जियों को बहुत बारीक काटा होगा और सॉस को धीरे से मिलाया होगा।
  • शेफ B ने शायद फूड प्रोसेसर और हाई-स्पीड ब्लेंडर का उपयोग किया होगा।

यदि आप केवल तैयार प्लेट को देखते हैं, तो आप इस तथ्य को मिस कर देते हैं कि शेफ A का व्यंजन सब्जी काटने की तकनीक में मामूली बदलाव के प्रति संवेदनशील है, जबकि शेफ B का व्यंजन वैसा नहीं है। यदि आप प्लेट पर धूल का एक छोटा सा कण रख दें, तो शेफ A का व्यंजन बिखर सकता है, जबकि शेफ B का व्यंजन अपरिवर्तित रहेगा। पुराने तरीके इस अंतर को नहीं पकड़ सकते क्योंकि वे केवल गतिविधि के "बड़े चित्र" (big picture) को देखते हैं, न कि इस बात को कि सिस्टम सूक्ष्म परिवर्तनों के प्रति कैसे प्रतिक्रिया करता है।

नया विचार: "संवेदनशीलता मानचित्र" (Sensitivity Map)
यह शोध पत्र इन प्रणालियों की तुलना करने के लिए एक नया तरीका पेश करता है। केवल तैयार प्लेट को देखने के बजाय, वे एक संवेदनशीलता मानचित्र देखना चाहते हैं।

कल्पना कीजिए कि आपके पास एक जादुई आवर्धक लेंस (magnifying glass) है जो आपको दिखाता है कि जब आप टूथपिक से लासग्ना के एक विशिष्ट स्थान पर चुभाते हैं, तो वह कितना डगमगाता है।

  • यदि आप पनीर को चुभाते हैं, तो क्या पूरा व्यंजन डगमगाता है?
  • यदि आप सॉस को चुभाते हैं, तो क्या वह शांत रहता है?

लेखक सुझाव देते हैं कि हमें इन "डगमगाहट मानचित्रों" (जिसे वे स्थानीय संवेदनशीलता/local sensitivity कहते हैं) की तुलना करनी चाहिए। वे पूछते हैं: "यदि हम इनपुट में एक सूक्ष्म, विशिष्ट परिवर्तन करते हैं (जैसे कि फोटो की लाइटिंग को एक प्रतिशत के अंश तक बदलना), तो सिस्टम का आंतरिक प्रतिनिधित्व कैसे बदल जाता है?"

वे इसे कैसे करते हैं (एक उपमा)

  1. उप-स्थान (The Subspace - "चुभाने का क्षेत्र"): आप लासग्ना को हर जगह एक साथ नहीं चुभा सकते। इसलिए, शोधकर्ता "चुभाने के पोंचों" (pokes) का एक विशिष्ट परिवार चुनते हैं। शायद उनकी रुचि केवल लासग्ना के किनारों को चुभाने में है या केवल केंद्र में। शोध पत्र में, इसे "उत्तेजना समन्वय उप-स्थान" (stimulus coordinate subspace) कहा गया है।
  2. मानचित्र (The Map - "फिशर मेट्रिक"): वे एक गणितीय मानचित्र की गणना करते है जो दिखाता है कि सिस्टम इन विशिष्ट चुभनों के प्रति कितना संवेदनशील है। यह मानचित्र बताता है कि कौन सी दिशाएं प्रवर्धित (amplified) होती हैं (सिस्टम मजबूती से प्रतिक्रिया करता है) और किन दिशाओं को दबा दिया जाता है (सिस्टम उन्हें अनदेखा करता है)।
  3. स्कोर (S-RAS): वे इन मानचित्रों को लेते हैं और उनकी तुलना करने के लिए एक विशेष रूलर का उपयोग करते हैं जिसे S-RAS (स्पेक्ट्रल रीमानियन अलाइनमेंट स्कोर) कहा जाता है। यह स्कोर बताता है कि दो प्रणालियों की संवेदनशीलता कितनी समान है, न कि केवल उनके अंतिम आउटपुट कितने समान हैं।

उन्होंने क्या पाया (परिणाम)
उन्होंने कंप्यूटर मस्तिष्क (कृत्रिम न्यूरल नेटवर्क) और वास्तविक चूहे के मस्तिष्क दोनों पर इसका परीक्षण किया।

  • परतों की खोज (Finding Layers): जब उन्होंने दो अलग-अलग कंप्यूटर नेटवर्क को देखा जिन्हें अलग-अलग प्रशिक्षित किया गया था, तो वे अपने नए "संवेदनशीलता मानचित्र" का उपयोग करके यह पता लगा सके कि नेटवर्क A की कौन सी परत नेटवर्क B की किस परत के अनुरूप है। यह पुराने तरीकों के लगभग समान रूप से प्रभावी रहा, जिससे सिद्ध हुआ कि उनका नया विचार मान्य है।
  • "मजबूती" का परीक्षण (The "Robustness" Test): उन्होंने कुछ नेटवर्क को "रोबस्ट" (धोखे के प्रति प्रतिरोधी) बनाया और कुछ को सामान्य रूप से प्रशिक्षित किया। पुराने तरीके हमेशा यह पता लगाने में सक्षम नहीं थे कि ये नेटवर्क सूचना को कैसे प्रोसेस कर रहे हैं। लेकिन उनके नए संवेदनशीलता मानचित्रों ने एक स्पष्ट अंतर दिखाया: रोबस्ट नेटवर्क सामान्य नेटवर्क की तुलना में बिल्कुल अलग तरीके से सूक्ष्म परिवर्तनों पर प्रतिक्रिया करते थे।
  • चूहे का मस्तिष्क: उन्होंने दृश्य वल्कुट (visual cortex) के रिकॉर्डिंग का परीक्षण किया (वह हिस्सा जो चूहे को देखने में मदद करता है)। उन्होंने पाया कि प्रकाश के पैटर्न (जैसे कि एक पट्टी का कोण) के प्रति चूहे के मस्तिष्क की संवेदनशीलता को मैप और तुलना किया जा सकता है, ठीक वैसे ही जैसे कंप्यूटर नेटवर्क के साथ किया जाता है। उन्होंने पाया कि मस्तिष्क का "संवेदनशीलता मानचित्र" इस बात पर निर्भर करता है कि कौन सा विशिष्ट प्रकाश पैटर्न देखा जा रहा है।

मुख्य संदेश
यह शोध पत्र कहता है: "केवल अंतिम उत्तर को न देखें। देखें कि सिस्टम सूक्ष्म चुभनों के प्रति कैसे प्रतिक्रिया करता है।"

यह मानचित्रण करके कि कोई सिस्टम विशिष्ट दिशाओं में छोटे परिवर्तनों के प्रति कितना संवेदनशील है, हमें यह समझने में गहरी समझ मिलती है कि वह कैसे काम करता है, न कि केवल यह कि वह क्या उत्पन्न करता है। यह एक कार को उसकी गति से आंकने (पुराना तरीका) और एक कार को सड़क के छोटे से झटके को संभालने के तरीके से आंकने (नया तरीका) के बीच का अंतर है। कभी-कभी दो कारें एक ही गति से चलती हैं, लेकिन एक झटका सहने में टैंक की तरह व्यवहार करती है, जबकि दूसरी गुब्बारे की तरह उछलती रहती है। यह नया तरीका उस अंतर को देखने में हमारी मदद करता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →