A Privacy Study of Sparse Collaborative Inference
यह शोध इस धारणा को चुनौती देता है कि सहयोगी अनुमान (collaborative inference) में सक्रियणों (activations) को विरल (sparsify) करने से गोपनीयता में सुधार होता है, यह प्रदर्शित करते हुए कि रिटेन किए गए मानों की स्थितियाँ स्वयं एक गंभीर गोपनीयता जोखिम बनाती हैं जो उच्च-सटीकता वाले इनपुट पुनर्निर्माण और पुन: पहचान को सक्षम करने में सक्षम है, भले ही ट्रांसमिशन लागत को काफी कम कर दिया गया हो।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ आपके स्मार्टफोन को चेहरे को पहचानने या बोले गए कमांड को समझने के लिए सारा भारी काम नहीं करना पड़ता। इसके बजाय, यह सोचने की प्रक्रिया के पहले कुछ चरणों को पूरा करता है और काम को पूरा करने के लिए एक शक्तिशाली क्लाउड सर्वर को एक छोटा, मध्यवर्ती परिणाम भेज देता है। यह व्यवस्था, जिसे 'कोलेबोरेटिव इन्फरेंस' (collaborative inference) कहा जाता है, हमारे उपकरणों पर बैटरी लाइफ और प्रोसेसिंग पावर बचाने का एक लोकप्रिय तरीका है। हालाँकि, यह एक नए प्रकार का जोखिम भी पैदा करता है। भले ही मूल फोटो या वॉयस रिकॉर्डिंग आपके फोन को कभी न छोड़े, लेकिन वह मध्यवर्ती परिणाम जो आपका फोन भेजता है, वह केवल संख्याओं का एक रैंडम समूह नहीं है; यह आपके निजी डेटा का एक संकुचित स्नैपशॉट (compressed snapshot) है। यदि कोई हैकर या जिज्ञासु सर्वर इस स्नैपशॉट को बीच में ही रोक लेता है, तो वे इसे फिर से इंजीनियर करके आपका चेहरा या आपकी आवाज़ को फिर से देख या सुन सकते हैं। इसे हल करने के लिए, इंजीनियरों ने हाल ही में 'स्पारसीफिकेशन' (sparsification) नामक एक तकनीक आज़माने की कोशिश की है। विचार सरल है: उस स्नैपशोट में मौजूद हर एक संख्या को भेजने के बजाय, फोन केवल सबसे महत्वपूर्ण संख्याओं को भेजता है, बाकी को हटा देता है ताकि बैंडविड्थ बचाई जा सके। उम्मीद यह थी कि कम संख्याएँ भेजने से आप कम निजी जानकारी भी भेजेंगे, जिससे डेटा स्वाभाविक रूप से सुरक्षित हो जाएगा।
फ्रौनहोफर हेनरिक हर्ट्ज़ इंस्टीट्यूट और टेक्निकल यूनिवर्सिटी ऑफ बर्लिन के शोधकर्ताओं की एक टीम ने यह परीक्षण करने का निर्णय लिया कि क्या यह उम्मीद वास्तव में सच है। उन्होंने यह देखने के लिए प्रयास किया कि क्या कम संख्याएँ भेजने का वास्तव में मतलब कम गोपनीयता जोखिम भेजना था, या क्या उन संख्याओं को चुनने की प्रक्रिया ने एक नया, छिपा हुआ खतरा पैदा कर दिया था। ऐसा करने के लिए, उन्होंने एक ऐसा सिस्टम बनाया जो भेजे जा रहे डेटा को दो अलग-अलग भागों में विभाजित कर सके: रखे गए नंबरों के वास्तविक मान (values) और वे विशिष्ट स्थान जहाँ वे नंबर बड़े सेट के भीतर पाए गए थे। अपने प्रयोगों में, उन्होंने इन दो भागों को अलग-अलग संदेशों के रूप में माना। एक परिदृश्य में, उन्होंने केवल उन स्थानों की सूची भेजी जहाँ महत्वपूर्ण नंबर पाए गए थे, जिससे खुद नंबरों को पूरी तरह से छिपा दिया गया। दूसरे परिदृश्य में, उन्होंने नंबर तो भेजे लेकिन उन्हें यादृच्छिक (random), अर्थहीन स्थानों पर रख दिया ताकि स्थान की जानकारी खो जाए। इसके बाद उन्होंने दो प्रकार के हमलावरों से मूल छवि को फिर से बनाने की कोशिश करने के लिए कहा: एक हमलावर एक मानक कंप्यूटर प्रोग्राम था जो सिस्टम के गणितीय नियमों का उपयोग करके छवि का अनुमान लगाने की कोशिश करता था, जबकि दूसरा एक स्मार्ट मशीन लर्निंग मॉडल था जिसे पैटर्न को डिकोड करने के लिए समान छवियों के एक बड़े संग्रह पर प्रशिक्षित किया गया था।
उनके अध्ययन के परिणाम आश्चर्यजनक थे और उन्होंने इस सामान्य धारणा को उलट दिया कि कम डेटा भेजने का अर्थ स्वतः ही सुरक्षित डेटा होता है। उन्होंने पाया कि नंबरों के विशिष्ट स्थान, जिन्हें अक्सर "पोजीशन" या "मास्क" कहा जाता है, लगभग सारी निजी जानकारी ले जाते थे। जब शोधकर्ताओं ने वास्तविक नंबरों के बिना केवल स्थानों की सूची भेजी, तब भी हमलावर मूल इनपुट की एक पहचानने योग्य छवि को पुनर्गलीकृत करने में सक्षम थे। प्राकृतिक छवियों का उपयोग करते हुए परीक्षणों में, केवल स्थान सूची से पुनर्गठित चित्र उन चित्रों के लगभग उतने ही स्पष्ट थे जो पूर्ण संख्या सेट से पुनर्गठित किए गए थे। इससे भी अधिक चिंताजनक बात यह थी कि जब उन्होंने चेहरों पर इसका परीक्षण किया, तो केवल स्थान सूची ही व्यक्ति की पहचान करने के लिए पर्याप्त थी। हमलावर पुनर्गठित चेहरे को सही व्यक्ति से उच्च सटीकता के साथ मिला सके, भले ही चेहरे के सूक्ष्म विवरण गायब थे और स्वयं नंबर हटा दिए गए थे। यह तब भी हुआ जब भेजा गया डेटा बहुत कम था, जो मूल आकार की तुलना में एक विशाल कमी को दर्शाता है। शोधकर्ताओं ने पाया कि किन नंबरों को रखना है, यह चुनने की क्रिया स्वयं एक गुप्त कोड थी जो इनपुट का वर्णन करती थी। सक्रिय स्थानों का विशिष्ट पैटर्न हमलावर को ठीक यही बताता था कि इनपुट कैसा दिखता था, चाहे वास्तविक मान मौजूद हों या नहीं।
अध्ययन ने यह भी खुलासा किया कि हम वर्तमान में सुरक्षा के लिए जिस तरह से परीक्षण करते हैं, वह अक्सर बहुत कमजोर होता है। मानक पद्धति, जो एक कंप्यूटर प्रोग्राम पर निर्भर करती है जो बिना किसी बाहरी मदद के प्रक्रिया को गणितीय रूप से उलटने की कोशिश करता है, खतरे को देखने में विफल रही। इस मानक परीक्षण ने स्थान-मात्र डेटा को सुरक्षित माना क्योंकि यह एक स्पष्ट चित्र को पुनर्गठित नहीं कर सका। हालाँकि, जब शोधकर्ताओं ने अतिरिक्त डेटा के साथ प्रशिक्षित स्मार्ट हमलावर का उपयोग किया, तो खतरा स्पष्ट हो गया। प्रशिक्षित हमलावर आसानी से स्थान सूची को एक ऐसे चेहरे में बदल सकता था जो व्यक्ति की पहचान करने के लिए पर्याप्त रूप से पहचानने योग्य था। इसका अर्थ है कि सिस्टम जो मानक परीक्षण पर भरोसा करते हैं, वे खुद को सुरक्षित मान सकते हैं जबकि वे वास्तव में हमले के लिए खुले होते हैं। शोधकर्ताओं ने पाया कि यह जोखिम तब भी बना रहा जब सिस्टम को ऐसे बिंदु पर सेट किया गया था जहाँ यह अपने इच्छित कार्य, जैसे कि किसी वस्तु को पहचानना, के लिए मुश्किल से उपयोगी था। डेटा इतना विरल (sparse) था कि सर्वर मुश्किल से बता पा रहा था कि क्या दिखाया जा रहा है, फिर भी स्थान सूची में एक मानव चेहरे की पहचान करने के लिए पर्याप्त जानकारी थी।
अंततः, पेपर यह निष्कर्ष निकालता है कि यह धारणा कि स्पारसीफिकेशन गोपनीयता में सुधार करता है, काफी हद तक गलत है। हालांकि यह भेजे जाने वाले डेटा की मात्रा को कम करने में सफल होता है, लेकिन यह निजी जानकारी को प्रकट करने के जोखिम को उसी अनुपात में कम नहीं करता है। खतरा केवल नंबरों के मानों से हटकर उन स्थानों के पैटर्न की ओर स्थानांतरित हो गया है जहाँ वे पाए जाते हैं। शोधकर्ता तर्क देते हैं कि स्थानों की सूची को अब केवल डिकोडिंग के लिए आवश्यक हानिरहित साइड सूचना के रूप में नहीं, बल्कि संवेदनशील डेटा के रूप में माना जाना चाहिए जिसे संरक्षित करने की आवश्यकता है। यदि कोई सिस्टम एक स्पारसे एक्टिवेशन भेजता है, तो वह प्रभावी रूप से निजी इनपुट का एक मानचित्र भेज रहा है, और वह मानचित्र उतना ही खतरनाक है जितना कि इनपुट स्वयं। इन प्रणालियों में गोपनीयता की रक्षा करने के लिए, इंजीनियरों को यह मानना बंद करना होगा कि कम संख्याएँ भेजना पर्याप्त है और उन्हें उन नंबरों के पैटर्न को उनके द्वारा दर्शाए गए डेटा के समान ही गोपनीयता के साथ लेना शुरू करना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।