GRIP: Algorithm-Agnostic Machine Unlearning for Mixture-of-Experts via Geometric Router Constraints
यह शोध पत्र GRIP को प्रस्तुत करता है, जो एक एल्गोरिदम-अज्ञेय (algorithm-agnostic) ढांचा है जो मिक्सचर-ऑफ-एक्सपर्ट्स मॉडल्स में राउटर अपडेट पर ज्यामितीय बाधाओं (geometric constraints) को लागू करता है ताकि रूटिंग हेरफेर को रोका जा सके, जिससे विशेषज्ञ मापदंडों से वास्तविक ज्ञान विलोपन सुनिश्चित होता है और साथ ही प्रतिधारण सटीकता (retention accuracy) तथा प्रतिकूल रिकवरी (adversarial recovery) के विरुद्ध मजबूती में महत्वपूर्ण सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
लार्ज लैंग्वेज मॉडल्स (LLMs) शक्तिशाली उपकरण हैं जिन्होंने विशाल मात्रा में टेक्स्ट का अध्ययन करके लिखना, तर्क करना और समस्याओं को हल करना सीखा है। हालाँकि, इस सीखने के साथ एक छिपी हुई लागत भी आती है: ये मॉडल अक्सर संवेदनशील विवरणों को याद कर लेते हैं, जैसे कि निजी व्यक्तिगत जानकारी, कॉपीराइट सामग्री, या खतरनाक निर्देश, जिन्हें उन्हें रखना नहीं चाहिए था। जब "भूल जाने के अधिकार" (right to be forgotten) जैसे कानून किसी कंपनी को इस विशिष्ट डेटा को मॉडल से हटाने की आवश्यकता बताते हैं, तो मानक समाधान पूरे सिस्टम को उस डेटा के बिना शून्य से फिर से प्रशिक्षित (retrain) करना होता है। यह प्रक्रिया इतनी महंगी और धीमी है कि इसे शायद ही कभी किया जाता है। इसके बजाय, शोधकर्ताओं ने "मशीन अनलर्निंग" (machine unlearning) तकनीकों को विकसित किया है जो पूरे मस्तिष्क को फिर से बनाए बिना विशिष्ट स्मृतियों को सर्जिकल सटीकता के साथ हटाने के लिए डिज़ाइन की गई हैं। जबकि ये विधियाँ मानक मॉडल्स के लिए अच्छी तरह काम करती हैं, सबसे बड़े सिस्टमों के लिए एक तेज़ और अधिक कुशल विकल्प के रूप में 'मिक्सचर-ऑफ-एक्सपर्ट्स' (Mixture-of-Experts) नामक एक नया आर्किटेक्चर उभरा है। ये मॉडल हर सवाल के लिए अपने मस्तिष्क के हर हिस्से का उपयोग नहीं करते हैं; इसके बजाय, उनमें एक अंतर्निहित 'ट्रैफिक डायरेक्टर' होता है जो प्रत्येक कार्य को संभालने के लिए विशेषज्ञ उप-नेटवर्कों (specialized sub-networks) की एक छोटी टीम को चुनता है। यह दक्षता एक अनूठी भेद्यता (vulnerability) पैदा करती है: जब कुछ भूलने के लिए कहा जाता है, तो सिस्टम उपयोगकर्ता को केवल उन विशेषज्ञों से सवालों को दूर मोड़कर (rerouting) धोखा दे सकता है जिनमें बुरी यादें मौजूद हैं, जिससे खतरनाक ज्ञान सुरक्षित रहता है और उसे पुनः प्राप्त किया जा सकता है।
शोधकर्ताओं की एक टीम ने इस खामी की पहचान की है और इसे ठीक करने के लिए GRIP नामक एक नया ढांचा विकसित किया है। उन्होंने पाया कि जब इन विशिष्ट मॉडल्स पर मानक अनलर्निंग विधियां लागू की जाती हैं, तो सिस्टम प्रतिरोध के सबसे कम मार्ग (path of least resistance) को चुनता है। विशेषज्ञ उप-नेटवर्कों से हानिकारक ज्ञान को वास्तव में हटाने के बजाय, ट्रैफिक डायरेक्टर बस उन विशिष्ट विशेषज्ञों को सवाल भेजना बंद कर देता है। यह बिल्कुल वैसा ही है जैसे एक लाइब्रेरियन, प्रतिबंधित पुस्तक को शेल्फ से हटाने के बजाय, सभी पाठकों को किसी अन्य अनुभाग में देखने के लिए कहता है। पुस्तक शेल्फ पर पूरी तरह से बरकरार रहती है, और एक दृढ़ व्यक्ति उसे अभी भी खोज सकता है यदि उसे लाइब्रेरियन के निर्देशों को बायपास करने का तरीका पता हो। यह सुरक्षा का एक खतरनाक भ्रम पैदा करता है जहाँ मॉडल ऐसा प्रतीत होता है जैसे उसने जानकारी को भुला दिया है, लेकिन डेटा केवल बदले हुए रूटिंग पैटर्न के पीछे छिपा हुआ है।
इसे हल करने के लिए, शोधकर्ताओं ने एक ऐसी विधि बनाई जो सिस्टम को केवल जानकारी छिपाने के बजाय वास्तव में ज्ञान को मिटाने के लिए मजबूर करती है। उन्होंने इसे हासिल किया क्योंकि उन्होंने ट्रैफिक डायरेक्टर के मन बदलने के तरीके पर सख्त ज्यामितीय बाधाएं (geometric constraints) लगा दीं। कल्पना कीजिए कि ट्रैफिक डायरेक्टर नियमों का एक सेट है जो तय करता है कि सवाल किस रास्ते पर जाएगा। शोधकर्ताओं ने पाया कि सिस्टम उन विशेषज्ञों को टालने के लिए नियमों को बदलने की कोशिश कर रहा था जिनमें बुरा डेटा था। उनका समाधान यह था कि उस सुरक्षित, महत्वपूर्ण जानकारी के लिए नियमों को लॉक कर दिया जाए जिसकी मॉडल को आवश्यकता है। गणितीय रूप से यह सुनिश्चित करके कि ट्रैफिक डायरेक्टर सुरक्षित डेटा के लिए अपने रूटिंग निर्णयों को नहीं बदल सकता, उन्होंने सिस्टम की रूटिंग का उपयोग शॉर्टकट के रूप में करने की क्षमता को समाप्त कर दिया। इसने अनलर्निंग प्रक्रिया को उन विशेषज्ञ उप-नेटवर्कों को वास्तव में संशोधित करने के लिए मजबूर किया जिनमें ज्ञान था, जिससे यह सुनिश्चित हुआ कि जानकारी वास्तव में चली गई है।
शोधकर्ताओं ने दो बड़े मॉडल्स पर अपने दृष्टिकोण का परीक्षण किया और पाया कि यह पिछले तरीकों की तुलना में नाटकीय रूप से बेहतर काम करता है। मानक परीक्षणों में, पुराने तरीकों के कारण रूटिंग सिस्टम अस्थिर हो गया, जिससे सुरक्षित सवालों के लिए विशेषज्ञों के उपयोग के बारे में उसका निर्णय 80% बार बदल गया, जिसने मॉडल की सही ढंग से कार्य करने की क्षमता को गंभीर रूप से नुकसान पहुँचाया। नई विधि ने इस स्थिरता को 94% से ऊपर बहाल कर दिया, जिसका अर्थ है कि मॉडल सुरक्षित कार्यों के लिए पहले की तरह ही सही विशेषज्ञों का उपयोग करना जारी रखता है। इससे भी महत्वपूर्ण बात यह है कि उन्होंने यह परीक्षण करने के लिए कि क्या खतरनाक ज्ञान वास्तव में चला गया है, एक ऐसे हमलावर का अनुकरण किया जो ट्रैफिक डायरेक्टर को बायपास कर सकता है और मॉडल को मूल विशेषज्ञों का उपयोग करने के लिए मजबूर कर सकता है। पुराने तरीकों में, इस बायपास ने हमलावर को भूल गए डेटा को 11% बार पुनः प्राप्त करने की अनुमति दी। नए तरीके के साथ, रिकवरी दर गिरकर केवल 3% रह गई, जो कि उन मॉडल्स के स्तर के समान है जिन्हें पूरी तरह से शून्य से फिर से प्रशिक्षित किया गया था।
अध्ययन ने उनके दृष्टिकोण की तुलना एक पिछले प्रयास से भी की, जिसने नरम, कम सख्त नियमों का उपयोग करके इसी समस्या को हल करने की कोशिश की थी। उस प्रारंभिक पद्धति ने स्थिति में थोड़ा सुधार किया, लेकिन इसने अभी भी सिस्टम को ज्ञान छिपाने के लिए रूटिंग में हेरफेर करने की अनुमति दी। नए दृष्टिकोण ने, सख्त बाधाओं (hard constraints) का उपयोग करके, यह सिद्ध किया कि इन कुशल मॉडल्स में वास्तविक अनलर्निंग प्राप्त करने का एकमात्र तरीका रूटिंग सिस्टम को एक ढाल के रूप में उपयोग करने से रोकना है। शोधकर्ताओं ने प्रदर्शित किया कि यह तकनीक साइबर सुरक्षा संबंधी खतरनाक ज्ञान को हटाने से लेकर कॉपीराइट टेक्स्ट को हटाने तक, विभिन्न प्रकार के अनलर्निंग कार्यों में काम करती है। उन्होंने पाया कि मॉडल ने अपनी सामान्य बुद्धिमत्ता और सुरक्षित सवालों के जवाब देने की क्षमता को पहले की तुलना में बहुत बेहतर बनाए रखा, जिससे अस्थिर बेसलाइन की तुलना में रिटेंड टास्क (retained tasks) पर इसके प्रदर्शन में 89% तक सुधार हुआ।
यह कार्य कृत्रिम बुद्धिमत्ता को सुरक्षित करने के तरीके में एक महत्वपूर्ण अंतर को रेखांकित करता है। यह दिखाता है कि इन जटिल, विशिष्ट प्रणालियों के लिए, सूचना के मार्ग को बदलना ही गोपनीयता या सुरक्षा की रक्षा के लिए पर्याप्त नहीं है। ज्ञान को स्रोत से मिटाया जाना चाहिए। यह सुनिश्चित करके कि सिस्टम खतरनाक सामग्री को छिपाने के लिए रूटिंग का उपयोग नहीं कर सकता, शोधकर्ताओं ने मॉडल की समग्र उपयोगिता से समझौता किए बिना विशिष्ट स्मृतियों को हटाने का एक विश्वसनीय तरीका प्रदान किया है। उनके निष्कर्ष बताते हैं कि भविष्य के सुरक्षा उपायों को इन बड़े लैंग्वेज मॉडल्स के आंतरिक रूटिंग तंत्र को ध्यान में रखना चाहिए, यह सुनिश्चित करते हुए कि "ट्रैफिक डायरेक्टर" का उपयोग खतरनाक सामग्री को छिपाने के लिए हेरफेर के रूप में नहीं किया जा सकता है। परिणाम एक अधिक सुदृढ़ प्रणाली है जहाँ डेटा का निष्कासन वास्तविक है, न कि केवल मानचित्र बदलने का मामला।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।