VerifiableFL: Verifiable Claims for Federated Learning using Exclaves
VerifiableFL एक ऐसा सिस्टम है जो अखंडता-मात्र (integrity-only) "एक्स्क्लेव" (exclaves) का उपयोग करके रनटाइम अटेस्टेशन प्रमाण उत्पन्न करता है, जिससे फेडरेटेड लर्निंग मॉडल्स के बारे में सत्यापन योग्य दावों को सुनिश्चित किया जाता है, और इस प्रकार ऑडिटर्स को पारंपरिक ट्रस्टेड एक्जीक्यूशन एनवायरनमेंट्स (TEEs) के असुरक्षित गोपनीयता आश्वासनों पर निर्भर हुए बिना डेटा सैनिटाइजेशन और सही प्रशिक्षण एल्गोरिदम को सत्यापित करने में सक्षम बनाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप और आपके दोस्तों का एक समूह मिलकर एक विशाल, विश्व-स्तरीय केक बनाना चाहते हैं। शर्त क्या है? आप सभी के पास अपने स्वयं के गुप्त पारिवारिक नुस्खे और सामग्रियां हैं, और आप उनमें से किसी के साथ भी उन्हें साझा नहीं करना चाहते। आप यह भी नहीं चाहते कि कोई यह विश्वास करे कि हर कोई वास्तव में रेसिपी का पालन कर रहा है या उन उच्च गुणवत्ता वाली सामग्रियों का उपयोग कर रहा है जिनका उन्होंने वादा किया था।
यह बिल्कुल वही समस्या है जिसे फेडरेटेड लर्निंग (FL) आर्टिफिशियल इंटेलिजेंस की दुनिया में हल करने की कोशिश करता है। सारा निजी डेटा (जैसे मेडिकल रिकॉर्ड या बैंक स्टेटमेंट) एक केंद्रीय सर्वर पर भेजने के बजाय, हर कोई अपने स्वयं के उपकरणों पर अपना डेटा रखता है। वे स्थानीय रूप से AI मॉडल का एक छोटा हिस्सा प्रशिक्षित करते हैं और केवल "सीखे गए सबक" (अपडेट्स) को एक केंद्रीय सर्वर पर भेजते हैं, जो एक स्मार्ट ग्लोबल मॉडल बनाने के लिए उन्हें जोड़ता है।
समस्या: "मुझ पर विश्वास करो, भाई" (Trust Me, Bro)
सवाल यह है: आपको कैसे पता चलेगा कि अंतिम केक वास्तव में अच्छा है?
- क्या आपके दोस्त ने वास्तव में उस जैविक (organic) आटे का उपयोग किया जिसका उसने वादा किया था, या उसने पैसे बचाने के लिए सस्ता, जहरीला आटा मिला दिया?
- क्या उन्होंने रेसिपी का पालन किया, या वे पार्टी में जाने के लिए बेकिंग का चरण छोड़ दिए?
- क्या केक मिलाने वाले व्यक्ति (मॉडल प्रदाता) ने अनजाने में (या जानबूझकर) आपके दोस्त के योगदान को छोड़ दिया?
अतीत में, हमें बस उन पर विश्वास करना पड़ता था। यदि AI कंपनी कहती थी, "हमने स्वच्छ डेटा पर प्रशिक्षण दिया है," तो हमें उनकी बात माननी पड़ती थी। यदि वे झूठ बोलते, तो पूरे केक को फिर से बनाने की कोशिश किए बिना इसे साबित करने का कोई तरीका नहीं था, जिसमें वर्षों लग जाते हैं और बहुत अधिक लागत आती है।
पुराना समाधान: "ग्लास बॉक्स" (TEEs)
वैज्ञानिकों ने पहले इसे ट्रस्टेड एक्जीक्यूशन एनवायरनमेंट (TEEs) का उपयोग करके हल करने की कोशिश की। इसे एक जादुई, पारदर्शी कांच के बक्से के रूप में सोचें जिसमें कोई भी छू नहीं सकता।
- वादा: बॉक्स गारंटी देता है कि कोई भी अंदर नहीं झांक सकता (गोपनीयता/confidentiality) और कोई भी केक बनने के दौरान उसमें छेड़छाड़ नहीं कर सकता (अखंडता/integrity)।
- खामी: हैकर्स ने साइड चैनल्स (जैसे गर्मी या बिजली के उपयोग) के माध्यम से बॉक्स को "सुनने" के तरीके खोज लिए हैं ताकि अंदर के रहस्यों को चुराया जा सके। यदि वे अंदर झांक सकते हैं, तो वे यह प्रमाण देने के लिए भी फर्जीवाड़ा कर सकते हैं कि बॉक्स ठीक से काम कर रहा है। यह एक कांच के बॉक्स की तरह है जो किसी विशेष रोशनी में अदृश्य हो जाता है।
नया समाधान: VerifiableFL और "एक्स्क्लेव" (Exclaves)
इस पेपर के लेखक, VerifiableFL, कहते हैं: "आइए सामग्रियों को छिपाने की कोशिश करना बंद करें। आइए बस यह साबित करें कि सामग्रियों का सही ढंग से उपयोग किया गया था।"
वे एक नया कॉन्सेप्ट पेश करते हैं जिसे एक्स्क्लेव (Exclave) कहा जाता है।
- उपमा: कल्पना कीजिए कि आपकी रसोई के अंदर एक टैम्पर-एविडेंट रसीद प्रिंटर (छेड़छाड़-रोधी रसीद प्रिंटर) है।
- ग्लास बॉक्स के विपरीत, इस प्रिंटर को इस बात की परवाह नहीं है कि आप सामग्री देखते हैं या नहीं। आप आटा, अंडे और चीनी देख सकते हैं।
- हालांकि, प्रिंटर एक सुरक्षित, अन-हैक करने योग्य चिप (एक सुपर-सुरक्षित नोटरी की तरह) से जुड़ा है जो आपके नियंत्रण के बाहर रहती है।
- हर बार जब आप कोई सामग्री जोड़ते हैं या बैटर मिलाते हैं, तो प्रिंटर एक डिजिटल रसीद (जिसे एक्स्क्लेव डेटा रिकॉर्ड या EDR कहा जाता है) पर स्टैम्प लगाता है।
- यह रसीद कहती है: "दोपहर 2:00 बजे, मैंने [सामग्री A का हैश] को [सामग्री B का हैश] के साथ [रेसिपी स्टेप C का हैश] का उपयोग करके मिलाया जिससे [परिणाम D का हैश] बना।"
- महत्वपूर्ण बात यह है कि प्रिंटर केवल अखंडता (integrity-only) के लिए है। यह डेटा को छिपाता नहीं है (इसलिए यह "झांकने" वाले हमलों से सुरक्षित है), लेकिन यह गारंटी देता है कि डेटा को बदला नहीं गया है या बिना नई रसीद स्टैम्प किए रेसिपी को नहीं बदला गया है।
यह व्यवहार में कैसे काम करता है
- रसीदें: AI प्रशिक्षण का हर चरण (डेटा की सफाई, मॉडल प्रशिक्षण, गोपनीयता शोर जोड़ना, परिणामों को मिलाना) एक एक्स्क्लेव के भीतर होता है। एक्स्क्लेव हर क्रिया के लिए एक रसीद उत्पन्न करता है।
- श्रृंखला (The Chain): ये रसीदें एक श्रृंखला की तरह आपस में जुड़ी हुई हैं। एक चरण का आउटपुट अगले चरण का इनपुट बन जाता है।
- ऑडिटर (लेखा परीक्षक): एक तीसरा पक्ष (जैसे एक नियामक या एक जिज्ञासु उपयोगकर्ता) रसीदों की श्रृंखला को देख सकता है। वे एक डेटाफ्लो ग्राफ (पूरी प्रक्रिया का एक मानचित्र) बना सकते हैं।
- यदि किसी दोस्त ने आटे को बुरादे (sawdust) से बदलने की कोशिश की, तो "मिश्रण" के चरण की रसीद "आटे" के चरण की रसीद से मेल नहीं खाएगी। श्रृंखला टूट जाएगी।
- यदि किसी ने "सफाई" (बुरे डेटा को हटाना) का चरण छोड़ दिया, तो ग्राफ में एक गायब कड़ी दिखाई देगी।
- यदि बेकर ने अलग रेसिपी का उपयोग करने की कोशिश की, तो रसीद पर "कोड हैश" गलत होगा।
परिणाम
यह पेपर दिखाता है कि यह प्रणाली अविश्वसनीय रूप से कुशल है।
- गति: यह प्रशिक्षण प्रक्रिया को केवल लगभग 12% धीमा करता है। यह 90 मिनट के बजाय 100 मिनट में केक बनाने जैसा है।
- सुरक्षा: यह इस बात पर निर्भर नहीं है कि "ग्लास बॉक्स" अदृश्य है। यह इस तथ्य पर निर्भर करता है कि आप सुरक्षित चिप की कुंजी के बिना रसीदें नहीं बना सकते। भले ही कोई हैकर रसोई में हो रही हर चीज़ को देख सके, वे रसीदों को फर्जी नहीं बना सकते।
संक्षेप में
VerifiableFL हर AI प्रशिक्षण प्रक्रिया को एक नोटरीकृत, अटूट रसीद देने जैसा है। आपको बेकर पर भरोसा करने की आवश्यकता नहीं है, और आपको सामग्रियों को छिपाने की भी आवश्यकता नहीं है। आपको बस रसीदों की जांच करने की आवश्यकता है ताकि यह साबित हो सके कि केक ठीक वैसे ही बनाया गया है जैसा वादा किया गया था। यदि रसीदें मेल नहीं खाती हैं, तो आप जानते हैं कि केक नकली है, और आप तुरंत इसका खुलासा कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।