DIST-FL: Enhancing Security for TEE-based Aggregation in Federated Learning
यह शोध पत्र DIST-FL को प्रस्तुत करता है, जो एक वितरित प्रणाली है जो कई TEEs का लाभ उठाकर एक अपेंड-ओनली (append-only) लेजर बनाती है जो फेडरेटेड लर्निंग में सर्वर-साइड स्टेट रोलबैक और I/O मैनिपुलेशन हमलों को प्रभावी ढंग से विफल करती है और मौजूदा समकक्षों की तुलना में 6 गुना थ्रूपुट वृद्धि प्राप्त करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि लोगों का एक समूह मिलकर एक विशाल पहेली को सुलझाने की कोशिश कर रहा है, लेकिन वे एक-दूसरे को अपने व्यक्तिगत पहेली के टुकड़े नहीं दिखाना चाहते। यह फेडरेटेड लर्निंग (Federated Learning) है। अपने निजी टुकड़ों को एक केंद्रीय बॉक्स में भेजने के बजाय, वे उन्हें अपने घर पर रखते हैं, उन पर कुछ काम करते हैं, और बस एक छोटा सा नोट वापस भेजते हैं कि, "मुझे लगता है कि यह टुकड़ा यहाँ होना चाहिए।"
आमतौर पर, एक केंद्रीय सर्वर (वह "बॉक्स") इन नोट्स को इकट्ठा करता है, उन्हें आपस में मिलाता है, और वापस पहेली के निर्देशों का एक नया, बेहतर संस्करण भेजता है। समस्या क्या है? हमें इस बात पर भरोसा करना पड़ता है कि बॉक्स नोट्स में झाँकेगा नहीं, उन्हें चुराएगा नहीं, या केवल उन लोगों के नोट्स नहीं चुनेगा जो बॉक्स के पूर्वाग्रह (bias) से सहमत हैं।
इसे ठीक करने के लिए, वैज्ञानिक बॉक्स को एक ट्रस्टेड एक्जीक्यूशन एनवायरनमेंट (TEE) के अंदर रखते हैं। एक TEE को एक जादुई, अटूट कांच की तिजोरी के रूप में समझें। एक बार जब बॉक्स तिजोरी के अंदर चला जाता है, तो कोई भी (तिजोरी के मालिक सहित) इसके अंदर नहीं झाँक सकता या इसमें हो रही गतिविधियों को बदल नहीं सकता। इसे परम विश्वास माना जाता है।
समस्या: "जादुई तिजोरी" में एक खराबी है
इस पेपर के लेखकों ने, DIST-FL, खोज निकाला कि भले ही ये "जादुई तिजोरियाँ" हों, एक चालाक सर्वर मालिक इनका फायदा उठाने के लिए दो छिपे हुए बैकडोर (backdoors) का उपयोग कर सकता है:
"रिवाइंड" बटन (स्टेट रोलबैक - State Rollback): कल्पना कीजिए कि बॉक्स तिजोरी के अंदर है। मालिक तिजोरी की घड़ी पर "रिवाइंड" बटन दबा सकता है। यदि बॉक्स लोगों का एक समूह चुनता है जिन्हें नोट्स भेजने हैं, और परिणाम वैसा नहीं होता जैसा मालिक चाहता है, तो मालिक समय को पीछे ले जा सकता है, फिर से कोशिश कर सकता है, और तब तक रिवाइंड करता रह सकता है जब तक कि बॉक्स ठीक उसी समूह को न चुन ले जिसे मालिक चाहता है।
- परिणाम: मालिक केवल उन्हीं नोट्स को चुन सकता है जो उसे पसंद हैं, बाकी को अनदेखा कर सकता है, जो अंतिम पहेली की गुणवत्ता को खराब कर देता है।
"मेलमैन" (डाकिया) वाला trick (I/O मैनिपुलेशन): तिजोरी सीलबंद है, लेकिन नोट्स लाने वाला डाकिया सुरक्षित नहीं है। मालिक डाकिये को बता सकता है, "इन विशिष्ट नोट्स को अंदर मत आने देना," या "इन्हें फेंक दो।"
- परिणाम: बॉक्स सोचता है कि उसे सभी से नोट्स मिल रहे हैं, लेकिन वास्तव में उसे केवल एक पक्षपाती, फिल्टर किया हुआ चयन मिल रहा है।
पेपर दिखाता है कि इन दो तरीकों के साथ, एक बुरा सर्वर चुपके से सीखने की प्रक्रिया को नियंत्रित कर सकता है और यहाँ तक कि यह भी पता लगा सकता है कि विशिष्ट लोगों का निजी डेटा कैसा दिखता है, जब वे समय को रिवाइंड करके परिणामों में बदलाव देखते हैं।
समाधान: DIST-FL (एक "ईमानदार जूरी" प्रणाली)
इसे ठीक करने के लिए, लेखकों ने DIST-L बनाया। एक एकल "जादुई तिजोरी" पर भरोसा करने के बजाय, उन्होंने "जादुगरिक तिजोरियों की एक वितरित टीम" बनाई जो एक ईमानदार जूरी की तरह काम करती है।
यह कैसे काम करता है, सरल उपमाओं का उपयोग करते हुए:
"अपेंड-ओनली लेजर" (सार्वजनिक डायरी):
कल्पना कीजिए कि टीम की तिजोरियाँ एक साझा, सार्वजनिक डायरी रखती है जो अपेंड-ओनली (केवल जोड़ने योग्य) है। एक बार जब डायरी में एक पेज लिख दिया जाता है, तो उसे मिटाया, दोबारा लिखा या फाड़ा नहीं जा सकता। यदि कोई तिजोरी पिछले एंट्री को बदलने के लिए समय को "रिवाइंड" करने की कोशिश करती है, तो अन्य तिजोरियाँ देख लेंगी कि डायरी मेल नहीं खा रही है और बदलाव को खारिज कर देंगी। यह "रिवाइंड" हमले को रोकता है।"प्रूफ-ऑफ-इनपुट" (हेडकाउंट चेक):
"मेलमैन" वाले ट्रिक को रोकने के लिए, सिस्टम एक चतुर जांच का उपयोग करता है। अंतिम मिश्रण होने से पहले, "लीडर" तिजोरी (जो उस दौर में प्रभारी है) को यह साबित करना होगा कि उसने अन्य तिजोरियों से नोट्स प्राप्त किए हैं।- लीडर एक "मिसिंग लिस्ट" (बिटमैप) भेजता है, जिसमें लिखा होता है, "मेरे पास एलिस और बॉब के नोट्स हैं, लेकिन मेरे पास चार्ली का नोट नहीं है।"
- अन्य तिजोरियाँ अपनी मेल की जाँच करती हैं। यदि उनके पास चार्ली का नोट है, तो वे उसे भेज देते हैं।
- लीडर तभी आगे बढ़ सकता है जब कम से कम अन्य तिजोरियों का बहुमत पुष्टि करे कि उनके पास नोट्स हैं। यदि लीडर किसी नोट को छिपाने की कोशिश करता है, तो अन्य तिजोरियाँ उसे पकड़ लेंगी क्योंकि वे जानती हैं कि उनके पास बहुमत से पुष्टि नहीं मिली है।
परिणाम: तेज़ और सुरक्षित
लेखकों ने इस प्रणाली का एक प्रोटोटाइप बनाया और इसे एक वास्तविक दुनिया के इंटरनेट सेटिंग (जैसे विभिन्न शहरों में कंप्यूटरों को जोड़ना) में टेस्ट किया।
- सुरक्षा: इसने बुरे तत्वों को समय को रिवाइंड करने या नोट्स छिपाने से सफलतापूर्वक रोका। मॉडल बिना किसी पक्षपात के सही ढंग से सीखा।
- गति: आश्चर्यजनक रूप से, यह जटिल प्रणाली (कई तिजोरियों वाली) भारी क्रिप्टोग्राफी का उपयोग करने वाले अन्य सुरक्षित तरीकों की तुलना में 6 गुना तेज़ थी। इसने लगभग एक असुरक्षित सर्वर के समान प्रदर्शन किया, लेकिन "ईमानदार जूरी" की सुरक्षा के साथ।
संक्षेप में: यह पेपर साबित करता है कि एक अकेला "जादुई सुरक्षित" एक चालाक धोखेबाज को रोकने के लिए पर्याप्त नहीं है। लेकिन यदि आप एक सार्वजनिक, अपरिवर्तनीय डायरी और सख्त हेडकाउंट चेक के साथ एक कमरे में तिजोरियों की एक टीम रखते हैं, तो आप धोखाधड़ी को रोक सकते हैं, गोपनीयता की रक्षा कर सकते हैं और काम को तेज़ी से पूरा कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।