MeMark: Membrane-Space Watermarking for Spiking Neural Networks
MeMark स्पाइकिंग न्यूरल नेटवर्क्स के लिए एक सुदृढ़ वॉटरमार्किंग तकनीक पेश करता है जो न्यूरॉन्स की आंतरिक मेम्ब्रेन अवस्थाओं (membrane states) में सीधे मल्टी-बिट पहचानकर्ताओं को एम्बेड करता है, जिससे आउटपुट हेड रिप्लेसमेंट, फाइन-ट्यूनिंग, प्रूनिंग और क्वांटाइजेशन के बाद भी विश्वसनीय स्वामित्व सत्यापन सक्षम होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, एक महत्वपूर्ण बदलाव पारंपरिक मॉडलों की तुलना में मानव तंत्रिका तंत्र (नर्वस सिस्टम) की अधिक बारीकी से नकल करने वाले प्रकार के कंप्यूटर मस्तिष्क की ओर हो रहा है। ये प्रणालियाँ, जिन्हें स्पाइकिंग न्यूरल नेटवर्क (spiking neural networks) के रूप में जाना जाता है, सूचनाओं को संख्याओं की निरंतर धारा के रूप में संसाधित नहीं करती हैं। इसके बजाय, वे गतिविधि के संक्षिप्त, असतत विस्फोटों (discrete bursts) के माध्यम से संचार करती हैं, ठीक वैसे ही जैसे मस्तिष्क में न्यूरॉन्स सक्रिय होते हैं। वे तब तक शांत रहती हैं जब तक कि कोई विशिष्ट संकेत उन्हें सक्रिय नहीं करता, जो उन्हें ऊर्जा का उपयोग करने में अविश्वसनीय रूप से कुशल बनाता है। चूंकि इन उन्नत प्रणालियों को प्रशिक्षित करने के लिए विशाल डेटा, शक्तिशाली कंप्यूटर और महत्वपूर्ण समय की आवश्यकता होती है, इसलिए अंतिम प्रशिक्षित मॉडल मूल्यवान संपत्ति होते हैं। कंपनियाँ और शोधकर्ता अक्सर इन मॉडलों को नए कार्यों के लिए आधार के रूप में उपयोग करने हेतु 'प्री-ट्रेंड' शुरुआती बिंदुओं के रूप में जारी करते हैं। हालाँकि, यह अभ्यास एक भेद्यता (vulnerability) पैदा करता है: यदि कोई व्यक्ति जारी किए गए मॉडल को लेता है, उसमें थोड़ा बदलाव करता है, और उस हिस्से को बदल देता है जो अंतिम उत्तर उत्पन्न करता है, तो वे प्रभावी रूप से इस बात के किसी भी प्रमाण को मिटा सकते हैं कि मूल निर्माता ने सिस्टम का मुख्य हिस्सा बनाया था।
इस समस्या को हल करने के लिए, शोधकर्ताओं की एक टीम ने 'मेमार्क' (MeMark) नामक एक नई विधि विकसित की है, जो इन स्पाइकिंग नेटवर्क्स के आंतरिक कामकाज के भीतर गहराई से छिपे एक गुप्त हस्ताक्षर के रूप में कार्य करती है। आर्टिफिशियल इंटेलिजेंस मॉडलों को सुरक्षित करने के पिछले प्रयासों के विपरीत, जो अंतिम आउटपुट या दृश्य परिणामों की जाँच पर निर्भर थे, मेमार्क अपना प्रमाण न्यूरॉन्स के भीतर ही छिपा देता है। शोधकर्ताओं ने एक विशिष्ट प्रकार के न्यूरॉन पर ध्यान केंद्रित किया जो एक आंतरिक विद्युत आवेश बनाए रखता है, जिसे 'मेम्ब्रेन पोटेंशियल' (membrane potential) कहा जाता है। यह आवेश समय के साथ बढ़ता रहता है जब तक कि यह एक महत्वपूर्ण सीमा तक नहीं पहुँच जाता, जिससे न्यूरॉन एक संकेत भेजता है और फिर रीसेट हो जाता है। टीम ने महसूस किया कि वे इस प्राकृतिक फायरिंग थ्रेशोल्ड (firing threshold) को एक गुप्त ताले के रूप में उपयोग कर सकते हैं। प्रशिक्षण प्रक्रिया को सावधानीपूर्वक समायोजित करके, वे विशिष्ट न्यूरॉन्स को एक गुप्त, छिपे हुए इनपुट के प्रस्तुत होने पर इस फायरिंग सीमा के ठीक ऊपर या ठीक नीचे अपना आवेश बनाए रखने के लिए मजबूर कर सकते हैं। यह "फायर हुआ" और "फायर नहीं हुआ" की अवस्थाओं का एक पैटर्न बनाता है जो एक गुप्त कोड के अनुरूप होता है, जो प्रभावी रूप से नेटवर्क की विद्युत स्थिति में एक बहु-अंकीय पासवर्ड लिख देता है।
इस दृष्टिकोण की प्रतिभा इसे पढ़ने के तरीके और इसके परिवर्तन झेलने की क्षमता में निहित है। मॉडल के स्वामित्व को सत्यापित करने के लिए, मालिक को एक अलग डिकोडर प्रशिक्षित करने या डेटा की व्याख्या करने का नया तरीका सीखने की आवश्यकता नहीं होती है। वे बस गुप्त इनपुट प्रस्तुत करते हैं और चयनित न्यूरॉन्स के आंतरिक आवेश की जाँच करते हैं। यदि आवेश सीमा से ऊपर है, तो यह एक (one) गिना जाता है; यदि नीचे है, तो यह शून्य (zero) गिना जाता है। क्योंकि थ्रेशोल्ड न्यूरॉन के डिज़ाइन का एक अंतर्निहित हिस्सा है, इसलिए सत्यापन प्रक्रिया तत्काल होती है और इसमें किसी अतिरिक्त शिक्षण की आवश्यकता नहीं होती है। यह विधि उल्लेखनीय रूप से लचीली सिद्ध हुई। 200 मिलियन से अधिक पैरामीटर्स वाले एक विशाल लैंग्वेज मॉडल के परीक्षणों में, शोधकर्ताओं ने बीस अलग-अलग गुप्त कुंजियाँ (secret keys) समाहित कीं। यहाँ तक कि जब मॉडल को भारी रूप से संशोधित किया गया था—जैसे कि इसके कनेक्शनों का नब्बे प्रतिशत हटा दिया गया, इसके डेटा को कंप्रेस किया गया, या टेक्स्ट उत्पन्न करने वाले अंतिम स्तरों को पूरी तरह से बदल दिया गया—तब भी छिपा हुआ हस्ताक्षर बरकरार रहा। आंतरिक साक्ष्य इन भारी परिवर्तनों के बावजूद जीवित रहा, जबकि पुराने तरीकों में उपयोग किए जाने वाले दृश्य आउटपुट मार्कर आसानी से मिटा दिए गए थे।
शोधकर्ताओं ने एक चतुर चाल का भी समाधान किया जिसे एक बेईमान दावेदार आजमा सकता है: मॉडल का निरीक्षण करना और फिर एक नकली कुंजी तैयार करना जो मॉडल की मौजूदा आंतरिक स्थितियों से मेल खाती हो। इसे रोकने के लिए, प्रणाली को एक टाइमस्टैम्प्ड रिकॉर्ड की आवश्यकता होती है जो मॉडल के जारी होने से पहले बनाया गया हो। यह रिकॉर्ड गुप्त कुंजी को उस क्षण के विशिष्ट मॉडल संस्करण के साथ जोड़ देता है। यदि कोई व्यक्ति बाद में स्वामित्व का दावा करने के लिए कुंजी को रिवर्स-इंजीनियर करके प्रस्तुत करने की कोशिश करता है, तो वह इस पूर्व टाइमस्टैम्प्ड रिकॉर्ड को प्रस्तुत नहीं कर सकता, जो यह सिद्ध करता है कि उसका दावा गलत है। अध्ययन ने दिखाया कि यदि हमलावर को पहले अंदर देखने की अनुमति दी जाती है, तो वह वास्तव में एक ऐसी कुंजी बना सकता है जो मॉडल से मेल खाती हो, लेकिन वह मूल टाइमस्टैम्प्ड प्रतिबद्धता (commitment) की आवश्यकता को बायपास नहीं कर सकता। इसके अलावा, सिस्टम का परीक्षण हजारों रैंडम कुंजियों के विरुद्ध किया गया, और उनमें से कोई भी गलती से संरक्षित मॉडलों से मेल नहीं खाया, जिससे यह सुनिश्चित हुआ कि साक्ष्य विशिष्ट और विश्वसनीय है।
यह कार्य प्रदर्शित करता है कि जटिल आर्टिफिशियल इंटेलिजेंस के स्वामित्व को तब भी सुरक्षित किया जा सकता है जब मॉडल का पुनरुद्देश्य (repurpose) या परिवर्तन किया जाता है। प्रमाण को अंतिम आउटपुट में डालने के बजाय, न्यूरॉन्स के मौलिक विद्युत व्यवहार में सीधे समाहित करके, शोधकर्ताओं ने एक ऐसा हस्ताक्षर बनाया है जिसे मॉडल की कार्यक्षमता को नष्ट किए बिना हटाना कठिन है। यह विधि सरल दोहराव वाली संरचनाओं से लेकर भाषा के लिए उपयोग किए जाने वाले जटिल ट्रांसफार्मर-आधारित सिस्टम तक, विभिन्न प्रकार के नेटवर्क आर्किटेक्चर पर काम करती है। हालांकि यह प्रणाली मजबूत है, शोधकर्ताओं ने उल्लेख किया कि यदि किसी हमलावर को सटीक गुप्त इनपुट और छिपे हुए न्यूरॉन्स के विशिष्ट स्थानों का पता चल जाता है, तो वह संभावित रूप से उन्हें लक्षित कर हटा सकता है। हालांकि, उस गुप्त जानकारी के बिना, वॉटरमार्क एक निरंतर और विश्वसनीय साक्ष्य बना रहता है, जिससे यह सुनिश्चित होता है कि मूल निर्माता अपने काम को साबित कर सकें, भले ही मॉडल को कई हाथों से गुजरने और नए उपयोगों के लिए संशोधित होने के बाद भी।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।