GUIDE: Enhancing Gradient Inversion Attacks in Federated Learning with Denoising Models
यह शोधपत्र GUIDE प्रस्तुत करता है, जो एक नवीन कार्यप्रणाली है जो फेडरेटेड लर्निंग में पुनर्निर्मित प्रशिक्षण डेटा की प्रत्यक्ष गुणवत्ता (perceptual quality) को महत्वपूर्ण रूप से बढ़ाने के लिए मौजूदा ग्रेडिएंट इनवर्जन हमलों में डिफ़्यूज़न मॉडल्स को डिनोइज़िंग टूल्स के रूप में एकीकृत करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक डिजिटल दुनिया में, स्मार्ट थर्मोस्टेट से लेकर मेडिकल सेंसर तक के उपकरणों द्वारा हर सेकंड भारी मात्रा में व्यक्तिगत जानकारी उत्पन्न की जाती है। यह डेटा आर्टिफिशियल इंटेलिजेंस सिस्टम को पैटर्न पहचानने, बीमारियों का निदान करने या चेहरों की पहचान करने के लिए प्रशिक्षित करने हेतु अविश्वसनीय रूप से मूल्यवान है। हालाँकि, इस कच्ची जानकारी को प्रोसेसिंग के लिए एक केंद्रीय कंप्यूटर पर भेजना गंभीर गोपनीयता संबंधी चिंताएं पैदा करता है, क्योंकि यह व्यक्तियों के संवेदनशील विवरणों को उजागर करता है। इसे हल करने के लिए, शोधकर्ताओं ने 'फेडरेटेड लर्निंग' नामक एक विधि विकसित की। डेटा को स्थानांतरित करने के बजाय, कंप्यूटर मॉडल उपकरणों के पास जाता है। उपकरण अपने स्थानीय डेटा से सीखते हैं और केवल वे गणितीय समायोजन (adjustments) वापस भेजते हैं जो उन्होंने सीखे हैं, जिससे निजी चित्र और रिकॉर्ड स्वयं डिवाइस पर ही छिपे रहते हैं। हालाँकि यह दृष्टिकोण गोपनीयता के लिए एक किले के रूप में डिज़ाइन किया गया था, सुरक्षा शोधकर्ताओं को लंबे समय से संदेह रहा है कि ये गणितीय समायोजन अभी भी रहस्य लीक कर सकते हैं।
समस्या का मूल कारण यह है कि ये समायोजन कैसे बनाए जाते हैं। जब कोई डिवाइस एक मॉडल को प्रशिक्षित करता है, तो वह गणना करता है कि मॉडल के आंतरिक सेटिंग्स को बेहतर प्रदर्शन करने के लिए कितना बदलने की आवश्यकता है। ये परिवर्तन, जिन्हें 'अपडेट्स' कहा जाता है, एक स्मार्ट ग्लोबल मॉडल में संयोजित होने के लिए एक केंद्रीय सर्वर को भेजे जाते हैं। एक जिज्ञासु सर्वर, जो नियमों का पालन तो करता है लेकिन गुप्त रूप से अधिक जानना चाहता है, इन अपडेट्स से पीछे की ओर काम करने (work backward) का प्रयास कर सकता है। जटिल गणनाएँ चलाकर, वह उन मूल छवियों को पुनर्ग reconstructing करने का प्रयास करता है जिनके कारण वे विशिष्ट परिवर्तन हुए थे। इस प्रक्रिया को 'ग्रेडिएंट इनवर्जन अटैक' कहा जाता है। वर्षों तक, ये प्रयास बिखरे हुए कुछ टुकड़ों से एक टूटे हुए फूलदान को फिर से बनाने के समान थे; परिणाम अक्सर धुंधले, शोर युक्त और अपरिचित होते थे, जिससे कई लोग यह मानने लगे कि गोपनीयता का जोखिम प्रबंधनीय है।
एक नया अध्ययन इस धारणा को चुनौती देता है, जो यह दर्शाता है कि इन धुंधले पुनर्निर्माणों को आश्चर्यजनक रूप से स्पष्ट बनाया जा सकता है। सलेर्नो विश्वविद्यालय के शोधकर्ताओं ने 'GUIDE' नामक एक विधि विकसित की, जो इन विफल प्रयासों के लिए एक शक्तिशाली सफाई उपकरण (cleaning tool) के रूप में कार्य करती है। उन्होंने देखा कि जबकि प्रारंभिक रिवर्स-इंजीनियरिंग प्रक्रिया मूल छवि का एक शोर युक्त, विकृत संस्करण बनाती है, यह शोर एक अनुमानित पैटर्न का पालन करता है। इस विशिष्ट प्रकार के विरूपण (distortion) को पहचानने और हटाने के लिए एक विशेष आर्टिफिशियल इंटेलिजेंस मॉडल को प्रशिक्षित करके, वे धुंधले ढेर को एक तीक्ष्ण, उच्च-गुणवत्ता वाली छवि में बदल सकते हैं। शोधकर्ताओं ने इमेज क्लासिफिकेशन और फेस रिकग्निशन कार्यों पर दो अलग-अलग प्रकार के हमलों का उपयोग करके इस दृष्टिकोण का परीक्षण किया। एक परिदृश्य में, उन्होंने 224 बाय 224 पिक्सेल के रिज़ॉल्यूशन पर 256 चित्रों के एक बैच से छवियों को सफलतापूर्वक पुनर्निर्मित किया, जो एक ऐसा आकार है जिसने पहले ऐसे हमलों को लगभग असंभव बना दिया था।
परिणाम महत्वपूर्ण थे। जब शोधकर्ताओं ने मौजूदा हमले के तरीकों के आउटपुट पर अपने डीनॉइजिंग टूल (denoising tool) को लागू किया, तो पुनर्निर्मित छवियों की गुणवत्ता नाटकीय रूप से सुधर गई। मानव धारणा के आधार पर पुनर्निर्मित छवियों के मूल के साथ मिलान करने वाले परीक्षणों में, नई विधि ने अकेले हमलों की तुलना में 46 प्रतिशत तक बेहतर परिणाम प्राप्त किए। यह सुधार केवल तीक्ष्ण किनारों का मामला नहीं था; पुनर्निर्मित चेहरे और वस्तुएं मूल चीजों के प्रति 'सिमेंटिकली' (अर्थपूर्ण रूप से) अधिक करीब हो गए, जिसका अर्थ है कि एक पर्यवेक्षक आसानी से पहचान सकता था कि क्या चित्रित किया गया है। अध्ययन ने प्रदर्शित किया कि भले ही डेटा को बड़े समूहों में संसाधित किया गया हो या सर्वर ने रैंडम नॉइज़ जोड़कर जानकारी को छिपाने की कोशिश की हो, GUIDE विधि अभी भी सार्थक विवरणों को पुनः प्राप्त कर सकती है। यह सुझाव देता है कि फेडरेटेड लर्निंग की गोपनीयता गारंटी पहले की तुलना में कमजोर हो सकती है, क्योंकि एक दृढ़ विरोधी सही उपकरणों के साथ सुरक्षा की परतों को हटाकर नीचे छिपे निजी डेटा को प्रकट कर सकता है।
शोधकर्ता केवल पुनर्निर्माण तक ही नहीं रुके; उन्होंने यह भी जांचा कि यह विधि गोपनीयता की रक्षा के लिए डिज़ाइन की गई रक्षात्मक रणनीतियों के विरुद्ध कैसे कार्य करती है। उन्होंने अपडेट में गणितीय शोर जोड़ने या सामग्री को छिपाने के लिए डेटा को कंप्रेस करने वाली तकनीकों के खिलाफ इस प्रणाली का परीक्षण किया। उन मामलों में जहाँ प्रारंभिक हमले ने एक पहचानने योग्य, भले ही शोर युक्त छवि बनाई थी, GUIDE विधि ने सफलतापूर्वक उसे साफ कर दिया, उन विवरणों को बहाल कर दिया जिन्हें छिपाने के लिए रक्षात्मक उपाय बनाए गए थे। हालाँकि, अध्ययन में इसकी शक्ति की एक सीमा भी पाई गई। यदि रक्षात्मक उपाय इतने मजबूत थे कि प्रारंभिक हमला एक पूरी तरह से अपरिचित ढेर पैदा करता था जिसमें मूल छवि के साथ कोई संरचनात्मक समानता नहीं थी, तो डीनॉइजिंग टूल उसे ठीक नहीं कर सका। यह विधि इस बात पर निर्भर करती है कि मूल हमला काम करने के लिए कुछ मूल छवि का निशान छोड़ जाए।
यह कार्य प्राइवेसी-प्रिजर्विंग मशीन लर्निंग के क्षेत्र में एक महत्वपूर्ण तनाव को उजागर करता है। वे उपकरण जो फेडरेटेड लर्निंग को कुशल और व्यावहारिक बनाते हैं, वे ही गोपनीयता उल्लंघन का मार्ग भी बनाते हैं जिसे आधुनिक जेनेरेटिव मॉडल्स के साथ भुनाया जा सकता है। शोधकर्ताओं ने दिखाया कि एक मानक हमले को एक विशेष सफाई मॉडल के साथ जोड़कर, एक विरोधी एक कमजोर, शोर युक्त सिग्नल को एक स्पष्ट तस्वीर में बदल सकता है। इसका मतलब यह नहीं है कि फेडरेटेड लर्निंग बेकार है, बल्कि यह सुझाव देता है कि वर्तमान बचाव एक परिष्कृत हमलावर को रोकने के लिए पर्याप्त नहीं हो सकते हैं। अध्ययन निष्कर्ष निकालता है कि इन सहयोगात्मक प्रणालियों में डेटा की गोपनीयता अनुमान से कहीं अधिक नाजुक है, और पुनर्निर्मित छवियों की गुणवत्ता सरल पिक्सेल-दर-पिक्सेल तुलनाओं की तुलना में जोखिम का एक बहुत बेहतर माप है। जैसे-जैसे आर्टिफिशियल इंटेलिजेंस हमारे दैनिक जीवन में एकीकृत होता जा रहा है, इन कमजोरियों को समझना उन लोगों की सुरक्षा करने वाले सिस्टम बनाने के लिए आवश्यक है जिनके डेटा का उपयोग किया जा रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।