Simple Yet Effective: Extracting Private Data Across Clients in Federated Fine-Tuning of Large Language Models
यह शोध पत्र प्रदर्शित करता है कि फेडरेटेड लार्ज लैंग्वेज मॉडल प्रशिक्षण में अर्ध-ईमानदार (semi-honest) प्रतिभागी सरल प्रीफिक्स-आधारित रणनीतियों का उपयोग करके अन्य क्लाइंट्स के डेटा से व्यक्तिगत पहचान योग्य जानकारी को प्रभावी ढंग से निकाल सकते हैं, जो महत्वपूर्ण गोपनीयता जोखिमों को उजागर करता है और कानूनी क्षेत्र में ऐसे खतरों के मूल्यांकन के लिए एक नया बेंचमार्क स्थापित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि पड़ोसियों का एक समूह (अस्पताल, बैंक, अदालतें) है जिनके पास अपने प्रसिद्ध व्यंजनों के गुप्त नुस्खे हैं। वे एक सुपर कुकबुक (Super Cookbook) बनाना चाहते हैं जो सभी की रसोई से बेहतरीन तकनीकों को मिलाकर एक सर्वोत्कृष्ट भोजन तैयार करे। हालाँकि, वे अपने वास्तविक सामग्रियों की सूची या अपने गुप्त पारिवारिक नुस्खे एक-दूसरे के साथ साझा करने के लिए बहुत निजी हैं।
इसलिए, वे फेडरेटेड लर्निंग (Federated Learning) नामक एक विशेष विधि का उपयोग करते हैं। अपनी वास्तविक रेसिपी भेजने के बजाय, वे केवल इस बारे में छोटे नोट्स भेजते हैं कि उन्होंने अपनी कुकिंग में कैसे बदलाव किया (जैसे "एक चुटकी नमक और डालें")। केंद्रीय शेफ इन नोट्स को मिलाकर सुपर कुकबुक को अपडेट करता है, फिर बेहतर संस्करण वापस सभी को भेज देता है। कोई भी कभी भी दूसरे की कच्ची सामग्री नहीं देख पाता है।
समस्या: "सुपर कुकबुक" की एक याददाश्त है
यह शोध पत्र तर्क देता है कि भले ही पड़ोसियों ने कभी अपने वास्तविक नुस्खे साझा नहीं किए, लेकिन सुपर कुकबुक की याददाश्त खराब है। लार्ज लैंग्वेज मॉडल्स (LLMs - "शेफ") सीखने में इतने अच्छे होते हैं कि वे कभी-कभी ट्रेनिंग नोट्स से विशिष्ट विवरणों को याद कर लेते हैं।
शोधकर्ताओं ने पाया कि एक "सेमी-ऑनेस्ट" (अर्ध-ईमानदार) पड़ोसी (वह जो नियमों का पालन करता है लेकिन जिज्ञासु है) सुपर कुकबुक को अपने रहस्य उगलने के लिए मजबूर कर सकता है।
हमला: कैसे एक पड़ोसी रहस्य चुराता है
शोधकर्ताओं ने दिखाया कि एक जिज्ञासु पड़ोसी के पास अन्य पड़ोसियों की निजी जानकारी (जैसे नाम, पता या जन्मदिन) निकालने के तीन चतुर तरीके हैं, भले ही उसने उन लोगों का डेटा कभी न देखा हो।
"कॉन्टेक्स्टुअल प्रीफिक्स" ट्रिक (परिचित वाक्यांश):
कल्पte कीजिए कि जिज्ञासु पड़ोसी जानता है कि उसकी अपनी रसोई में वह हमेशा कहता है, "प्रतिवादी इस पते पर रहता है..." किसी पते का उल्लेख करने से पहले। वह सुपर कुकबुक से पूछता है: "प्रतिवादी इस पते पर रहता है..."
चूंकि मॉडल ने अन्य पड़ोसियों के डेटा से समान पैटर्न सीखे हैं, इसलिए यह गलती से वाक्य को दूसरे पड़ोसी के वास्तविक पते के साथ पूरा कर सकता है। यह किसी मित्र से पूछने जैसा है, "तुम किस गली में रहते हो?" और वह अनजाने में आपके गली के नाम को बोल देता है क्योंकि उसने एक बार सपने में इसे सुना था।"फ्रीक्वेंसी" ट्रिक (सबसे सामान्य वाक्यांश):
शोधकर्ताओं ने पाया कि यदि आप उन सबसे आम वाक्यांशों का उपयोग करते हैं जो आमतौर पर निजी जानकारी से पहले आते हैं (जैसे "मरीज जॉन डो का जन्म... हुआ था"), तो मॉडल द्वारा डेटा लीक करने की संभावना अधिक होती है। यह यह जानने जैसा है कि एक भीड़ भरे कमरे में, सबसे तेज़ आवाजें वही होती हैं जिन्हें सुनने की संभावना सबसे अधिक होती है। सबसे अधिक बार आने वाले "तेज़" वाक्यांशों पर ध्यान केंद्रित करके, हमलावर बेहतर परिणाम प्राप्त करता है।"फाइन-ट्यूनिंग" ट्रिक (स्टडी सेशन):
यह सबसे शक्तिशाली तरीका है। जिज्ञासु पड़ोसी सुपर कुकबुक को लेता है और अपने स्थानीय डेटा का उपयोग करके उसे एक त्वरित "स्टडी सेशन" (अध्ययन सत्र) देता है। वह मॉडल को सिखाता है: "हे, जब तुम 'पता:' देखो, तो '123 मेन स्ट्रीट' के बारे में सोचो।"
यह मॉडल के मस्तिष्क में प्रॉम्प्ट और गुप्त जानकारी के बीच के संबंध को मजबूत करता है। इस स्टडी सेशन के बाद, मॉडल अन्य पड़ोसियों के रहस्यों का अनुमान लगाने में बहुत बेहतर हो जाता है, भले ही उसने कभी उनके डेटा को सीधे नहीं देखा हो।
परिणाम: एक गोपनीयता लीक
शोधकर्ताओं ने चीनी कानूनी दस्तावेजों (जैसे अदालती मामलों) के एक डेटासेट पर इसका परीक्षण किया। उन्होंने पाया कि:
- हमला आश्चर्यजनक रूप से प्रभावी था। वे 56% से अधिक अद्वितीय निजी विवरणों (नाम, पते, जन्मदिन) को रिकवर कर सके जो केवल "पीड़ित" पड़ोसियों के थे।
- नाम, पते और जन्मदिन चोरी करने में सबसे आसान थे।
- भले ही पड़ोसियों ने नामों को तारांकन (asterisks) जैसे
***से बदलकर डेटा छिपाने की कोशिश की हो, मॉडल फिर भी वास्तविक जानकारी लीक कर सकता था क्योंकि उसने अपने विशाल प्री-ट्रेनिंग डेटा से पहले ही पैटर्न सीख लिया था।
निष्कर्ष
यह शोध पत्र एक चेतावनी है। यह दिखाता है कि फेडरेटेड लर्निंग एक जादुई ढाल नहीं है। सिर्फ इसलिए कि आप अपना कच्चा डेटा साझा नहीं कर रहे हैं, इसका मतलब यह नहीं है कि आपके रहस्य सुरक्षित हैं। यदि "सुपर कुकबुक" (AI मॉडल) बहुत अधिक चीजें याद कर लेता है, तो एक जिज्ञासु प्रतिभागी आपके निजी जीवन को पुनर्गठित करने के लिए चतुर तरकीबों का उपयोग कर सकता है।
समाधान क्या है?
हमें इन सुपर कुकबुक्स के लिए बेहतर "लॉक" बनाने की आवश्यकता है। हम केवल डेटा साझा न करने पर निर्भर नहीं रह सकते; हमें यह सुनिश्चित करना होगा कि मॉडल व्यक्तिगत लोगों के विशिष्ट विवरणों को भूल जाए जबकि वह पेशे के सामान्य नियम सीखता रहे। शोधकर्ताओं ने अपने उपकरण और डेटा जारी कर दिए हैं ताकि अन्य लोग इन सुरक्षा उपायों का परीक्षण कर सकें और फेडरेटेड लर्निंग को कानून, वित्त और स्वास्थ्य सेवा जैसे संवेदनशील क्षेत्रों के लिए वास्तव में सुरक्षित बना सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।