FedLNS: Leverage LayerNorm Signature Modeling to Mitigate Adversarial Manipulation in Federated LLMs
FedLNS एक सर्वर-साइड फ्रेमवर्क है जो नॉर्मलाइजेशन-लेयर पैरामीटर परिवर्तनों के हल्के विश्लेषण के माध्यम से दुर्भावनापूर्ण क्लाइंट अपडेट की स्क्रीनिंग करके फेडरेटेड LLM प्रशिक्षण में एडवर्सरियल मैनिपुलेशन को कम करता है, जिससे अतिरिक्त डेटा एक्सचेंज या लेबल किए गए हमले के उदाहरणों की आवश्यकता के बिना विविध मॉडल आर्किटेक्चर में बेहतर मजबूती प्राप्त होती है।
मूल पेपर CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) के तहत सार्वजनिक डोमेन को समर्पित है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स (Large language models) उन स्मार्ट सहायकों, खोज उपकरणों और लेखन सहायता प्रणालियों के पीछे के इंजन हैं जिनका हम हर दिन उपयोग करते हैं। ये सिस्टम विशाल मात्रा में टेक्स्ट को पढ़कर सीखते हैं, लेकिन सबसे मूल्यवान जानकारी का बहुत सा हिस्सा निजी स्थानों में बंद है: व्यक्तिगत संदेश, मेडिकल रिकॉर्ड, या कंपनियों के मालिकाना दस्तावेज़। मॉडल को इस निजी डेटा का उपयोग करके सिखाने के लिए, बिना उस डेटा को देखे, शोधकर्ता 'फेडरेटेड लर्निंग' (federated learning) नामक एक विधि का उपयोग करते हैं। इस सेटअप में, मॉडल डेटा के पास जाता है, न कि डेटा मॉडल के पास। केंद्रीय कंप्यूटर वर्तमान मॉडल की एक प्रति कई अलग-अलग उपकरणों को भेजता है, प्रत्येक उपकरण अपने स्वयं के निजी डेटा पर प्रशिक्षण लेता है, और फिर केवल उन परिवर्तनों को वापस भेजता है जो उसने सीखे हैं। केंद्रीय कंप्यूटर फिर इन परिवर्तनों को मिलाकर एक स्मार्ट, अपडेटेड मॉडल बनाता है। यह प्रक्रिया गोपनीयता की रक्षा करती है, लेकिन यह एक नई भेद्यता (vulnerability) भी पैदा करती है: केंद्रीय कंप्यूटर यह नहीं देख सकता कि स्थानीय उपकरणों पर क्या हुआ। एक बेईमान उपकरण निजी डेटा से सीखने का ढोंग कर सकता है जबकि वास्तव में उसे गलत निर्देश दिए जा रहे हों, जिससे केंद्रीय कंप्यूटर को हानिकारक सबक अपनाने के लिए बहकाया जा सके जो मॉडल की सही ढंग से बोलने या लिखने की क्षमता को कम कर देते हैं।
शोधकर्ताओं की एक टीम ने इन बेईमान अपडेट्स को वैश्विक मॉडल को नुकसान पहुँचाने से पहले पहचानने का एक नया तरीका विकसित किया है। वे अपने सिस्टम को FEDLNS कहते हैं, एक ऐसी विधि जो केंद्रीय सर्वर की ओर बहने वाली जानकारी के लिए एक सुरक्षा चेकपॉइंट की तरह कार्य करती है। विशाल मॉडल अपडेट के हर एक हिस्से का निरीक्षण करने के बजाय—जिसमें अरबों संख्याएँ हो सकती हैं और जिन्हें पूरी तरह से जांचना बहुत जटिल है—शोधकर्ता मॉडल के भीतर संख्याओं के एक छोटे, विशिष्ट सेट पर ध्यान केंद्रित करते हैं। ये संख्याएँ यह नियंत्रित करती हैं कि मॉडल भाषा की अपनी आंतरिक समझ को कैसे स्केल और शिफ्ट करता है, जो कि मॉडल के समायोजन के एक प्रकार के सिग्नेचर (signature) के रूप में कार्य करती हैं। इन विशिष्ट संख्याओं को बदलते हुए देखकर, सर्वर यह प्रोफाइल बना सकता है कि सामान्य, ईमानदार लर्निंग कैसी दिखती है। जब कोई डिवाइस एक अपडेट भेजता है, तो सर्वर उसके सिग्नेचर की तुलना अन्य डिवाइसों के हस्ताक्षरों के इतिहास से करता है। यदि किसी डिवाइस के परिवर्तन भीड़ से बहुत अलग दिखते हैं, तो सिस्टम उसे संदिग्ध मानकर चिह्नित कर देता है और अलग रख देता है, जिससे उस खराब अपडेट को अंतिम मॉडल में मिलने से रोका जा सके।
शोधकर्ताओं ने इस दृष्टिकोण का परीक्षण तीन अलग-अलग प्रकार के लैंग्वेज मॉडल्स पर किया, जिनमें वाक्य में अगले शब्द की भविष्यवाणी करने वाले मॉडल से लेकर, खाली स्थानों को भरने वाले मॉडल, और अंत में आधुनिक चैटबॉट्स को शक्ति देने वाले बड़े मॉडल्स तक शामिल थे। उन्होंने एक ऐसा परिदृश्य सिम्युलेट किया जहाँ प्रतिभागियों में से चालीस प्रतिशत तक डिवाइस दुर्भावनापूर्ण (malicious) थे, जो जानबूझकर शब्दों के बीच गलत संबंध सिखाकर मॉडल को भ्रष्ट करने की कोशिश कर रहे थे। इन कठिन परिस्थितियों में, नए सिस्टम ने हानिकारक अपडेट्स को सफलतापूर्वक फ़िल्टर कर दिया। सुरक्षा के साथ प्रशिक्षित किए गए मॉडल्स ने मौजूदा सुरक्षा विधियों की तुलना में काफी बेहतर प्रदर्शन किया। विशेष रूप से, सुरक्षित मॉडल्स ने अगले शब्द की भविष्यवाणी करते समय कम गलतियाँ कीं, जिसमें अगले सर्वश्रेष्ठ तरीके की तुलना में भ्रम (confusion) में अठारह प्रतिशत तक की कमी देखी गई। उन्होंने अपने विकल्पों में कम अनिश्चितता भी दिखाई, जिसका अर्थ है कि उनके द्वारा भ्रमित या निरर्थक वाक्य बनाने की संभावना कम थी।
यह खोज विशेष रूप से उपयोगी है क्योंकि इसके लिए केंद्रीय सर्वर के पास ज्ञात बुरे अभिनेताओं (bad actors) की सूची होने की आवश्यकता नहीं है, और न ही इसे झूठ बोलने वालों को पकड़ने के लिए किसी अलग, प्री-ट्रेन्ड डिटेक्टर की आवश्यकता है। सिस्टम केवल उपकरणों के समूह को समय के साथ देखते हुए स्वाभाविक रूप से सीखता है। यह एक विश्वसनीय चित्र बनाने के लिए पर्याप्त विभिन्न डिवाइसों को देखने तक प्रतीक्षा करता है, और फिर स्क्रीनिंग शुरू करता है। शोधकर्ताओं ने पाया कि स्क्रीनिंग शुरू करने से पहले सिस्टम जितने अधिक डिवाइसों का अवलोकन करता है, उसका प्रदर्शन उतना ही बेहतर होता है, हालांकि यह समूह के आंशिक दृश्य के साथ भी प्रभावी ढंग से काम कर सकता है। महत्वपूर्ण बात यह है कि यह सुरक्षा पूरी तरह से सर्वर साइड पर होती है; अपडेट भेजने वाले उपकरणों को अपने सॉफ्टवेयर को बदलने या कोई अतिरिक्त जानकारी भेजने की आवश्यकता नहीं होती है, जिससे इस विधि को मौजूदा सिस्टम में बिना धीमा किए आसानी से जोड़ा जा सकता है।
यह अध्ययन पुष्टि करता है कि गोपनीयता से समझौता किए बिना या विश्वसनीय डेटा की आवश्यकता के बिना फेडरेटेड लर्निंग को सुरक्षित करना संभव है। पूरे मॉडल के बजाय एक संक्षिप्त, आर्किटेक्चर-अवेयर सिग्नेचर पर ध्यान केंद्रित करके, शोधकर्ताओं ने एक हल्का कवच बनाया है जो दुर्भावनापूर्ण हेरफेर को फैलने से रोकता है। अपने सिमुलेशन में, इस दृष्टिकोण ने विभिन्न डेटा वितरणों और मॉडल प्रकारों में छह अन्य सामान्य सुरक्षा तकनीकों को लगातार पछाड़ दिया। परिणाम बताते हैं कि मॉडल के सूक्ष्म आंतरिक बदलावों की निगरानी करके, हम सहयोगपूर्ण लर्निंग की अखंडता को बनाए रख सकते हैं, भले ही प्रतिभागियों का एक बड़ा हिस्सा सिस्टम को धोखा देने की कोशिश कर रहा हो। यह अधिक विश्वसनीय आर्टिफिशियल इंटेलिजेंस बनाने के लिए एक व्यावहारिक मार्ग प्रदान करता है जो निजी डेटा से सीख सकता है बिना आसानी से ठगे गए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।