Deep Contrastive Unlearning for Language Models
यह शोध पत्र DeepCUT का प्रस्ताव करता है, जो एक मशीन अनलर्निंग फ्रेमवर्क है जो विशिष्ट प्रशिक्षण डेटा को प्रभावी ढंग से हटाने और भविष्य कहने की गुणवत्ता को बनाए रखने के लिए डीप कंट्रास्टिव लर्निंग का उपयोग करके लैंग्वेज मॉडल्स के लेटेंट स्पेस को अनुकूलित करता है, जो उन मौजूदा विधियों की सीमाओं को संबोधित करता है जो ज्यामितीय नमूना वितरणों (geometric sample distributions) की अनदेखी करती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
डिजिटल युग में, हमारा जीवन तेजी से टेक्स्ट के रूप में दर्ज किया जा रहा है: सोशल मीडिया पोस्ट, मेडिकल रिकॉर्ड, कानूनी दस्तावेज़ और निजी ईमेल। लार्ज लैंग्वेज मॉडल्स (LLMs), जो शक्तिशाली कंप्यूटर प्रोग्राम हैं जो लिख सकते हैं, अनुवाद कर सकते हैं और सवालों के जवाब दे सकते हैं, इस मानव-जनित डेटा के विशाल महासागरों पर प्रशिक्षित होते हैं। वे लाखों उदाहरणों को पढ़कर सीखते हैं, भाषा और ज्ञान के पैटर्न को आत्मसात करते हैं ताकि वे अविश्वसनीय रूप से उपयोगी उपकरण बन सकें। हालाँकि, वास्तविक दुनिया के डेटा पर यह निर्भरता एक बड़ी समस्या पैदा करती है। यदि कोई व्यक्ति यह निर्णय लेता है कि वह अब अपनी निजी जानकारी का उपयोग नहीं करना चाहता, या यदि डेटा का कोई हिस्सा गलत या संवेदनशील निकलता है, तो इसे हटाने का वर्तमान तरीका डेटा को हटाना और पूरी प्रशिक्षण प्रक्रिया को शुरू से फिर से शुरू करना है। उन मॉडल्स के लिए जिन्होंने अरबों शब्दों पर हफ्तों तक प्रशिक्षण लिया है, यह एक अकेली किताब को हटाने के लिए पूरी लाइब्रेरी को जला देने जैसा है। यह बहुत धीमा, बहुत महंगा और अक्सर लोगों द्वारा 'भूल जाने के अधिकार' (right to be forgotten) का प्रयोग करने पर तुरंत करना असंभव है।
इसे हल करने के लिए, शोधकर्ता 'मशीन अनलर्निंग' (machine unlearning) नामक एक क्षेत्र विकसित कर रहे हैं। इसका लक्ष्य मॉडल को विशिष्ट जानकारी भूलना सिखाना है बिना उसे पूरी तरह से पुन: प्रशिक्षित किए। कल्पना कीजिए कि एक छात्र जिसने एक पाठ्यपुस्तक याद कर ली है; मशीन अनलर्निंग का लक्ष्य उस छात्र को एक विशिष्ट अध्याय भूलने में मदद करना है, जबकि वह बाकी सब कुछ याद रखे, और वह भी उसे नए साल के लिए वापस स्कूल भेजे बिना। हालांकि छवियों या सरल डेटा के लिए ऐसा करने के कुछ तरीके मौजूद हैं, लेकिन भाषा की जटिल और सूक्ष्म दुनिया में इसे लागू करना कठिन साबित हुआ है। अधिकांश मौजूदा प्रयास केवल उन अंतिम उत्तरों पर ध्यान केंद्रित करते हैं जो मॉडल देता है, यह कोशिश करते हुए कि आउटपुट को इस तरह से बदला जाए कि वह विस्मृत विषय का उल्लेख न करे। लेकिन यह दृष्टिकोण अक्सर डेटा की अंतर्निहित स्मृति को बरकरार रखता है, जो मॉडल की आंतरिक गणनाओं के भीतर गहराई में छिपी रहती है, और फिर से सामने आने के लिए तैयार रहती है।
RMIT यूनिवर्सिटी के शोधकर्ताओं की एक टीम ने 'डीपकट' (DeepCUT) नामक एक नया तरीका प्रस्तावित किया है, जो एक अलग दृष्टिकोण अपनाता है और सीधे इस बात पर गौर करता है कि मॉडल अपने स्वयं के मस्तिष्क के भीतर जानकारी को कैसे व्यवस्थित करता है। केवल अंतिम उत्तरों को बदलने के बजाय, DeepCUT उस आंतरिक मानचित्र को पुनर्गठित करता है जहाँ मॉडल अपने ज्ञान को संग्रहीत करता है। शोधकर्ताओं ने एक भाषा मॉडल को चार अलग-अलग वास्तविक दुनिया के डेटासेट्स पर प्रशिक्षित किया, जिसमें शोर वाले सोशल मीडिया पोस्ट से लेकर सटीक बायोमेडिकल साहित्य तक शामिल थे। इसके बाद उन्होंने मॉडल से इस डेटा के विशिष्ट हिस्सों को भूलने के लिए कहा, जो कुल प्रशिक्षण सेट का एक प्रतिशत से दस प्रतिशत तक था। यह परीक्षण करने के लिए कि क्या भूलना सफल रहा, उन्होंने यह मापा कि मॉडल उस डेटा के बारे में प्रश्नों के उत्तर देने में कितना सक्षम रहा जिसे उसे भूल जाना था, और वह उस डेटा को संभालने की अपनी क्षमता को कितनी अच्छी तरह बनाए रख सका जिसे उसे याद रखना था।
परिणामों ने दिखाया कि पिछले तरीके अक्सर अक्षम या अधूरे थे। केवल मॉडल को शेष डेटा पर प्रशिक्षित करना जारी रखना, जिसे 'कैटास्ट्रोफिक फॉरगेटिंग' (catastrophic forgetting) नामक तकनीक कहा जाता है, हटाए गए टेक्स्ट की विशिष्ट यादों को मिटाने में विफल रहा; मॉडल अभी भी हटाए गए डेटा के बारे में उच्च सटीकता के साथ याद रखता था। एक अन्य सामान्य रणनीति, जिसमें डेटा को छोटे टुकड़ों में विभाजित करना और केवल प्रभावित हिस्सों को पुन: प्रशिक्षित करना शामिल है, डेटा को हटाने में तो अच्छा था लेकिन इसने मॉडल की समग्र बुद्धिमत्ता को काफी नुकसान पहुँचाया, जिससे वह सामान्य कार्यों पर कम सटीक हो गया। इसके विपरीत, DeepCUT पद्धति ने विशिष्ट यादों को सफलतापूर्वक मिटाया जबकि मॉडल के सामान्य प्रदर्शन को बरकरार रखा। उस डेटा पर परीक्षण करने पर जिसे उसे भूल जाना था, DeepCUT मॉडल की सटीकता नाटकीय रूप से गिर गई, जो दर्शाता है कि इसने जानकारी को वास्तव में भुला दिया था। साथ ही, इसने उस डेटा पर उच्च सटीकता बनाए रखी जिसे उसे याद रखना था, और यह बिल्कुल वैसा ही प्रदर्शन कर रहा था जैसा कि शून्य से पूरी तरह पुन: प्रशिक्षित किया गया मॉडल करता है।
इस सफलता का रहस्य इस बात में निहित है कि यह विधि मॉडल के आंतरिक स्थान (internal space) को कैसे नियंत्रित करती है। शोधकर्ताओं ने डेटा पॉइंट्स को एक मानचित्र पर स्थानों के रूप में माना। मॉडल को विशिष्ट जानकारी भूलने में मदद करने के लिए, उन्होंने उस डेटा के टुकड़े को उसके अपने समूह से दूर धकेला और उसे विभिन्न समूहों के करीब खींचा, जिससे मॉडल की स्मृति के भीतर उसकी विशिष्ट पहचान प्रभावी रूप से बिखर गई। यह प्रक्रिया सुनिश्चित करती है कि मॉडल उन विशिष्ट विशेषताओं को पहचान न सके जिन्होंने उस डेटा को विशिष्ट बनाया था, जबकि शेष मानचित्र को अप्रभावित छोड़ दिया गया। प्रयोगों ने प्रदर्शित किया कि यह दृष्टिकोण न केवल डेटा को हटाने में प्रभावी था बल्कि पूरे मॉडल को पुन: प्रशिक्षित करने की तुलना में बहुत तेज़ भी था। मॉडल के भीतर सूचना के ज्यामितीय विन्यास (geometric arrangement) पर ध्यान केंद्रित करके, शोधकर्ताओं ने एक तरीका खोजा जिससे अवांछित यादों को सर्जिकल सटीकता के साथ हटाया जा सके, जो आर्टिफिशियल इंटेलिजेंस के युग में गोपनीयता की रक्षा के लिए एक व्यावहारिक मार्ग प्रदान करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।