Rethinking the Transferable Adversarial Attacks and Robust Defense in Federated Learning
यह शोध पत्र सिस्टम की कमजोरियों को उजागर करने के लिए फेडरेटेड लर्निंग में क्लाइंट मॉडल्स के बीच एडवरसैरियल एग्जांपल्स की ट्रांसफरैबिलिटी का विश्लेषण करता है और एक एडवरसैरियल ट्रेनिंग पर आधारित एक मजबूत रक्षा तंत्र प्रस्तावित करता है जो मौजूदा स्टेट-ऑफ-द-आर्ट विधियों से बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक डिजिटल दुनिया में, हमारे स्मार्टफोन और उपकरण लगातार हमसे सीख रहे हैं, हमारे द्वारा टाइप किए जाने वाले अगले शब्द का अनुमान लगा रहे हैं या हमारी आवाज़ को पहचान रहे हैं, और यह सब बिना हमारे निजी फोटो या संदेशों को किसी केंद्रीय सर्वर पर भेजे किया जा रहा है। यह 'फेडरेटेड लर्निंग' (federated learning) नामक एक विधि द्वारा संभव बनाया गया है, जहाँ कई उपकरण एक ही स्मार्ट मॉडल को प्रशिक्षित करने के लिए मिलकर काम करते हैं, जबकि उनका अपना डेटा उनके स्थानीय हार्डवेयर पर सुरक्षित रहता है। यह बुद्धिमान प्रणालियाँ बनाने का एक शक्तिशाली तरीका है जो गोपनीयता का सम्मान करती हैं, लेकिन यह एक नाजुक भरोसे पर निर्भर करता है: कि प्रशिक्षण में भाग लेने वाला प्रत्येक उपकरण ईमानदार है और नियमों का पालन कर रहा है। हालाँकि, जिस तरह एक समूह परियोजना (group project) को एक अकेले बेईमान सदस्य द्वारा बाधित किया जा सकता है, यह वितरित प्रणाली उन हमलावरों के प्रति भी संवेदनशील है जो मॉडल को गलतियाँ करने के लिए छलने की कोशिश कर सकते हैं। जबकि शोधकर्ता लंबे समय से उन हमलावरों के बारे में चिंतित रहे हैं जो स्वयं प्रशिक्षण डेटा को भ्रष्ट करते हैं, एक अधिक सूक्ष्म खतरा उभर कर आया है: एक सावधानीपूर्वक बदले गए एकल इनपुट को बनाने की क्षमता जो मॉडल के कई विभिन्न संस्करणों को मूर्ख बना सके, भले ही वे मॉडल अलग-अलग डेटा सेट पर प्रशिक्षित किए गए हों।
शोधकर्ताओं की एक टीम ने फेडरेटेड लर्निंग के इस जटिल वातावरण के भीतर इस विशिष्ट खतरे को समझने के लिए प्रयास किया। उन्होंने एक ऐसी स्थिति पर ध्यान केंद्रित किया जहाँ एक हमलावर, जो कई सहभागी उपकरणों में से एक के रूप में कार्य करता है, एक ऐसा भ्रामक इनपुट बनाता है जिसे एक विशिष्ट त्रुटि उत्पन्न करने के लिए डिज़ाइन किया गया हो। उनके अन्वेषण का मुख्य केंद्र यह निर्धारित करना था कि क्या एक उपकरण पर तैयार किया गया हमला नेटवर्क के पार सफलतापूर्वक जा सकता है ताकि उन अन्य उपकरणों को मूर्ख बना सके जिन्होंने पहले कभी उस हमले को नहीं देखा था। इस घटना को, जिसे 'ट्रांसफरेबिलिटी' (transferability) कहा जाता है, प्रयोगों में देखा गया था, लेकिन शोधकर्ता इसके गणितीय कारण को समझना चाहते थे। उन्होंने पाया कि ऐसे हमले की सफलता यादृच्छिक (random) नहीं है; यह सीधे तौर पर इस बात से जुड़ी है कि हमलावर और पीड़ित के बीच डेटा वितरण (data distributions) कितने समान हैं। यदि हमलावर का स्थानीय डेटा पीड़ित के डेटा के सांख्यिकीय रूप से समान दिखता है, तो भ्रामक इनपुट के सफल होने और गलत वर्गीकरण का कारण बनने की संभावना बहुत अधिक होती है। इसके विपरीत, यदि डेटा परिदृश्य बहुत भिन्न हैं, तो हमले की शक्ति कम हो जाती है। इस निष्कर्ष ने इस धारणा को चुनौती दी कि ये हमले किसी भी लक्ष्य के विरुद्ध समान रूप से काम करेंगे, और यह प्रकट किया कि प्रत्येक उपकरण पर डेटा की विशिष्ट संरचना एक प्राकृतिक ढाल या एक भेद्यता (vulnerability) के रूप में कार्य करती है।
इस संबंध को सिद्ध करने के लिए, शोधकर्ताओं ने मॉडल के मापदंडों (parameters) और हमलावरों एवं पीड़ितों के डेटा वितरण के बीच के संबंध का विश्लेषण किया। उन्होंने पाया कि नेटवर्क में डेटा कैसे वितरित होता है, इस अंतर से मॉडलों के बीच एक मापने योग्य दूरी बन जाती है। जब यह दूरी कम होती है, जिसका अर्थ है कि डेटा समान है, तो हमला आसानी से स्थानांतरित हो जाता है। जब यह दूरी अधिक होती है, तो हमला विफल हो जाता है। इस अंतर्दृष्टि ने उन्हें सरल अवलोकन से आगे बढ़कर एक सैद्धांतिक समझ की ओर बढ़ने की अनुमति दी कि क्यों कुछ उपकरण दूसरों की तुलना में अधिक संवेदनशील होते हैं। उन्होंने प्रदर्शित किया कि एक वास्तविक सेटिंग में जहाँ उपकरणों के पास विभिन्न प्रकार के डेटा होते हैं, एक हमले की प्रभावशीलता इन अंतरों द्वारा सीमित होती है। इसका अर्थ यह है कि एक विविध नेटवर्क में, एक हमलावर केवल यह मानकर नहीं चल सकता कि उसका तैयार किया गया छल सभी पर काम करेगा; पीड़ित के डेटा की विशिष्ट प्रकृति ही परिणाम निर्धारित करती है।
इस भेद्यता के मूल कारण की पहचान करने के बाद, टीम ने सिस्टम को सुरक्षित करने के लिए एक नया रक्षा तंत्र (defense mechanism) तैयार किया। हमलावर का पता लगाने या खराब अपडेट को फ़िल्टर करने के बजाय, उन्होंने मॉडलों को स्वयं अधिक सुदृढ़ बनाने पर ध्यान केंद्रित किया। उन्होंने एक ऐसी विधि पेश की जो मॉडल के प्रसंस्करण (processing) के बिल्कुल प्रारंभ में एक फ़िल्टर की तरह कार्य करती है, जो उन विशिष्ट विशेषताओं को हटा देती है जिन्हें इन भ्रामक इनपुट द्वारा आसानी से हेरफेर किया जा सकता है, जबकि मूल, उपयोगी जानकारी को बरकरार रखती है। यह प्रक्रिया एक प्रशिक्षण तकनीक के साथ जुड़ी हुई है जहाँ मॉडलों को उनके सीखने के चरण के दौरान इन ट्रिकी इनपुट्स के संपर्क में लाया जाता है, जिससे उन्हें धोखे को पहचानने और अनदेखा करने की शिक्षा मिलती है। ऐसा करके, मॉडल अधिक स्थिर पैटर्न पर भरोसा करना सीखते हैं, न कि उन नाजुक विवरणों पर जिनका हमलावर फायदा उठाते हैं। इसका परिणाम एक ऐसा सिस्टम है जो सामान्य, रोजमर्रा के कार्यों के लिए अपनी क्षमता से समझौता किए बिना, इन हस्तांतरणीय हमलों का सामना कर सकता है।
शोधकर्ताओं ने अपने विचारों का परीक्षण वास्तविक दुनिया के इमेज डेटासेट्स का उपयोग करके किया, जिसमें डेटा विविधता के विभिन्न स्तरों वाले उपकरणों के एक नेटवर्क का अनुकरण किया गया। उन परिदृश्यों में जहाँ डेटा सभी उपकरणों में समान था, मानक मॉडल इन हमलों के सामने पूरी तरह से ध्वस्त हो गए, और अक्सर लगभग हर बार छवियों को सही ढंग से पहचानने में विफल रहे। नई रक्षा विधि ने उच्च सटीकता बनाए रखी, हमलों का सफलतापूर्वक प्रतिरोध किया और सिस्टम को कार्यात्मक रखा। अत्यधिक विषम और असमान डेटा वाले अधिक जटिल, वास्तविक परिदृश्यों में भी, यह रक्षा प्रणाली मजबूत रही और उन मौजूदा विधियों से बेहतर प्रदर्शन किया जिन्हें पहले सर्वश्रेष्ठ उपलब्ध माना जाता था। प्रयोगों ने पुष्टि की कि डेटा वितरण और हमले की हस्तांतरणीयता के बीच के संबंध को समझकर, फेडरल लर्निंग सिस्टम बनाना संभव है जो न केवल निजी हैं बल्कि परिष्कृत हेरफेर के विरुद्ध लचीले (resilient) भी हैं। यह कार्य सुझाव देता है कि सुरक्षित आर्टिफिशियल इंटेलिजेंस का मार्ग केवल हमलावरों को रोकने में नहीं, बल्कि उन प्रणालियों को संचालित करने वाले डेटा की मौलिक संरचना को समझने में निहित है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।