TOFD: Target-Oriented Feature Decoupling against Poisoning Attacks in Split Federated Learning
यह शोध पत्र टार्गेट-ओरिएंटेड फीचर डिकपलिंग (TOFD) का प्रस्ताव करता है, जो स्प्लिट फेडेरेटेड लर्निंग के लिए एक एकीकृत ढांचा है जो लक्ष्य अनुमान (target inference), नमूना शुद्धिकरण (sample purification) और डिकपलिंग अनुकूलन को एकीकृत करता है ताकि कम कम्प्यूटेशनल ओवरहेड बनाए रखते हुए विविध पॉइजनिंग हमलों का सक्रिय रूप से पता लगाया जा सके और उन्हें मजबूती से कम किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ आपका स्मार्टफोन, आपकी स्मार्टवॉच और आपके पड़ोसी का लैपटॉप मिलकर एक नया कौशल सीखते हैं, जैसे कि दुर्लभ पक्षियों को पहचानना या त्वचा की स्थितियों का निदान करना, और वह भी बिना अपनी निजी तस्वीरों को साझा किए। यह फेडरेटेड लर्निंग (Federated Learning) का वादा है: एक ऐसा तरीका जिससे कंप्यूटर अपने डेटा को अपने स्वयं के उपकरणों पर सुरक्षित रखते हुए मिलकर सीख सकते हैं। लेकिन इसमें एक पेच है। सीमित बैटरी और शक्ति वाले फोन पर इसे काम करने के योग्य बनाने के लिए, वैज्ञानिकों ने स्प्लिट फेडरेटेड लर्निंग (Split Federated Learning) का आविष्कार किया। इसे एक रिले रेस की तरह समझें जहाँ पहला धावक (आपका फोन) ट्रैक का एक हिस्सा दौड़ता है, फिर बैटन (डेटा का एक संकुचित और कूटबद्ध संस्करण) को कोच (एक शक्तिशाली केंद्रीय सर्वर) को सौंप देता है, जो दौड़ पूरी करता है। यह आपके फोन की ऊर्जा बचाता है और आपकी तस्वीरों को निजी रखता है।
हालाँकि, किसी भी रिले रेस की तरह, इसमें एक तोड़-फोड़ करने वाले (saboteur) का जोखिम भी होता है। एक दुर्भावनापूर्ण खिलाड़ी बैटन को नकली बैटन से बदलने या गलत रास्ता चुनने की कोशिश कर सकता है, जिससे पूरे दल को गलत चीज़ सीखने के लिए बहकाया जा सके। इसे पॉइजनिंग अटैक (Poisoning Attack) कहा जाता है। अतीत में, इन हमलों के खिलाफ बचाव अक्सर सर्वर के लिए बहुत भारी या चेतेरों को खेल खराब करने से पहले पकड़ने के लिए बहुत धीमा होता था। बड़ा सवाल जिसका शोधकर्ता उत्तर खोजने की कोशिश कर रहे हैं, वह यह है: हम नकली बैटन और धोखेबाजों को तुरंत कैसे पहचानें, बिना दौड़ को धीमा किए या ईमानदार धावकों को बाहर निकाले?
यहीं पर TOFD (टारगेट-ओरिएंटेड फीचर डिकपलिंग) नामक एक नया ढांचा आता है। लेखक, युहान ज़ी, जिंगरोंग हुआंग और चेन लू, स्प्लिट फेडरेटेड लर्निंग को इन पॉइजनिंग हमलों से बचाने के लिए एक चतुर तीन-चरणीय प्रणाली का प्रस्ताव करते हैं। उनका तर्क है कि चूंकि "बैटन" (कुचला हुआ डेटा) सर्वर के माध्यम से गुजरता है, इसलिए यह गड़बड़ी करने वालों को पकड़ने के लिए सबसे उपयुक्त स्थान है।
सबसे पहले, TOFD एक जासूस की भूमिका निभाता है ताकि यह पता लगाया जा सके कि कौन धोखाधड़ी करने की कोशिश कर रहा है और वे किस चीज़ को निशाना बना रहे हैं। हर एक धावक की जाँच करने के बजाय, यह डेटा के प्रत्येक प्रकार (जैसे कि पक्षियों की एक विशिष्ट प्रजाति) के लिए "सुरक्षित क्षेत्रों" (safe zones) की तलाश करता है। यदि किसी धावक का बैटन समूह के सामान्य पैटर्न से अजीब तरह से अलग दिखता है, तो सिस्टम उसे चिह्नित कर देता है। लेकिन यहाँ एक तरकीब है: यह जानता है कि कभी-कभी ईमानदार धावक भी थोड़ा अलग तरह से दौड़ सकते हैं क्योंकि उनके पास अलग डेटा (जैसे कि एक अलग कैमरा) होता है। इसलिए, यह एक हानिरहित भिन्नता और एक दुर्भावनापूर्ण हमले के बीच अंतर करने के लिए एक विशेष "मार्जिन पर्टर्बेशन" (Margin Perturbation) परीक्षण का उपयोग करता है।
दूसरे, एक बार जब सिस्टम को डेटा की किस श्रेणी पर हमला किया गया है, इसका पता चल जाता है, तो यह केवल पूरे धावक को प्रतिबंधित नहीं करता है। इसके बजाय, यह सैंपल प्यूरिफिकेशन (Sample Purification) करता है। एक क्लब के बाउंसर की कल्पना करें जो पूरे समूह को बाहर नहीं निकालता, बल्कि सावधानीपूर्वक प्रत्येक व्यक्ति का आईडी चेक करता है। TOFD संदिग्ध धावकों से केवल विशिष्ट "विषैले" (poisoned) बैटनों को फ़िल्टर करता है और ईमानदार बैतनों को सुरक्षित रखता है। यह सुनिश्चित करता है कि टीम के पास सीखने के लिए पर्याप्त डेटा बना रहे और वे दूषित न हों।
अंत में, फ़िल्टरिंग के बाद भी, कुछ चालाक पैटर्न बच सकते हैं। इसे संभालने के लिए, TOFD एक डिकपलिंग ऑप्टिमाइजेशन (Decoupling Optimization) रणनीति का उपयोग करता है। यह एक विशेष "गाइडेंस मॉडल" प्रशिक्षित करता है जो यह सीखता है कि जहर कैसा दिखता है। फिर, मुख्य प्रशिक्षण के दौरान, यह सक्रिय रूप से सर्वर के मॉडल को उन बुरे पैटर्न से दूर धकेलता है, जिससे जहर के प्रभाव को प्रभावी रूप से निष्प्रभावी किया जा सके।
शोधकर्ताओं ने त्वचा के घावों और हस्तलिखित अंकों सहित पांच विभिन्न डेटासेट्स पर इस प्रणाली का परीक्षण किया। उनके परिणाम बताते हैं कि TOFD विभिन्न प्रकार के हमलों को पकड़ने में अत्यधिक प्रभावी है—चाहे धोखेबाज डेटा, लेबल या मॉडल वेट्स (weights) की नकल कर रहे हों—जबकि यह सिस्टम को तेज़ और कुशल बनाए रखता है। उन्होंने गणितीय प्रमाण भी प्रदान किए जो दिखाते हैं कि सिस्टम अंततः स्थिर हो जाएगा और सही ढंग से सीखेगा। संक्षेप में, TOFD एक मजबूत, हल्का कवच प्रदान करता है जो सहयोगात्मक AI को सुरक्षित रूप से सीखने देता है, भले ही कुछ प्रतिभागी गलत तरीके से खेलने की कोशिश करें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।