What to Forget in Unlearning? Forget Set Curation for Language Models
यह शोध पत्र क्लीनस्लेट (CleanSlate) का परिचय देता है, जो यह प्रदर्शित करता है कि फॉरगेट सेट्स (forget sets) का क्यूरेशन मशीन अनलर्निंग (machine unlearning) में एक महत्वपूर्ण अपस्ट्रीम चुनौती है, जहाँ सरल चयन विधियाँ लक्षित सामग्री को दबाने में विफल रहती हैं जबकि अत्यधिक आक्रामक रणनीतियाँ मॉडल की क्षमताओं को महत्वपूर्ण रूप से नुकसान पहुँचाती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ मानव ज्ञान के विशाल पुस्तकालयों को एक एकल, अविश्वसनीय रूप से स्मार्ट कंप्यूटर प्रोग्राम में संकुचित कर दिया गया है। यह प्रोग्राम, जिसे एक लैंग्वेज मॉडल (भाषा मॉडल) के रूप में जाना जाता है, पुस्तकों, वेबसाइटों और गीतों के खरबों शब्दों को पढ़कर सीखता है। यह इसमें इतना कुशल हो जाता है कि यह एक कवि की शैली की नकल कर सकता है या किसी प्रसिद्ध उपन्यास के वाक्य को पूरा कर सकता है। लेकिन कभी-कभी, इन प्रोग्रामों के मालिकों को विशिष्ट जानकारी को हटाना पड़ता है। शायद किसी गाने का उपयोग बिना अनुमति के किया गया था, या कोई निजी कहानी गलती से याद कर ली गई थी। लक्ष्य कंप्यूटर को उस विशिष्ट सामग्री को "भूलने" (unlearn) के लिए प्रशिक्षित करना है, बिना उसकी पूरी स्मृति को मिटाए और फिर से शुरू किए। इस प्रक्रिया को 'मशीन अनलर्निंग' (machine unlearning) कहा जाता है। वर्षों तक, शोधकर्ताओं ने इस बात पर ध्यान केंद्रित किया है कि जब वे जानते हैं कि किन शब्दों को लक्षित करना है, तो डेटा को कैसे हटाया जाए। उन्होंने भूलने के लिए शब्दों की सूची को एक सरल शुरुआती बिंदु माना है, यह मानते हुए कि यदि आप कंप्यूटर को एक विशिष्ट वाक्य भूलने के लिए कहते हैं, तो वह बस ऐसा ही करेगा।
हालाँकि, स्टैनफोर्ड यूनिवर्सिटी के एक नए अध्ययन से पता चलता है कि यह धारणा एक महत्वपूर्ण, कठिन चरण को अनदेखा करती है। शोधकर्ताओं ने महसूस किया कि वास्तविक दुनिया में, कुछ भूलने का अनुरोध शायद ही कभी शब्दों की सटीक सूची के साथ आता है। एक उपयोगकर्ता मॉडल से एक विशिष्ट गाना गाने से रुकने के लिए कह सकता है, लेकिन वह गाना कंप्यूटर की स्मृति में कई विभिन्न रूपों में मौजूद हो सकता है। यह आधिकारिक गीतों में दिखाई दे सकता है, लेकिन एक समाचार लेख में उद्धृत पंक्ति में भी, एक प्रशंसक मंच (fan forum) पर चर्चा की गई धुन में भी, टेक्स्ट को संग्रहीत करने वाली एक कोड फ़ाइल में भी, या उस समीक्षा में भी जिसका उल्लेख कोरस (chorus) में किया गया है। कंप्यूटर इसे केवल एक आदर्श प्रति से नहीं जानता; यह इन विभिन्न उल्लेखों के बिखरे हुए बादलों के रूप में इसे जानता है। नया शोध एक मौलिक प्रश्न पूछता है: आप एक गीत या पुस्तक के उन सभी बिखरे हुए टुकड़ों को एक विशाल टेक्स्ट लाइब्रेरी के भीतर कैसे खोज सकते हैं, ताकि आप कंप्यूटर को उन्हें भूलने के लिए कह सकें? टीम इस गायब चरण को "फॉरगेट सेट क्यूरेशन" (forget set curation) कहती है, और उन्होंने पाया कि इसमें गलती करने से कंप्यूटर केवल उस अवांछित गीत से कहीं अधिक खो सकता है।
इसकी जांच करने के लिए, शोधकर्ताओं ने CLEANSLATE नामक एक परीक्षण स्थल बनाया। उन्होंने 1970 से 2025 तक के बिलबोर्ड हॉट 100 चार्ट्स से हजारों गाने और पचास पुस्तकें एकत्र कीं। फिर उन्होंने परीक्षण किया कि विभिन्न तरीके उन विशिष्ट टेक्स्ट अंशों की पहचान करने में कितने सफल रहे जिन्हें हटाया जाना आवश्यक था। उन्होंने दो मुख्य दृष्टिकोणों की तुलना की। पहला दृष्टिकोण मानक खोज उपकरणों (standard search tools) पर निर्भर था, जो ठीक वैसे ही हैं जैसे कोई व्यक्ति पुस्तक खोजने के लिए सर्च इंजन का उपयोग करता है। इन उपकरणों ने शब्दों या वाक्यांशों के सटीक मिलान की तलाश की। दूसरा दृष्टिकोण अधिक आक्रामक था: इसने सीधे उन विशिष्ट टेक्स्ट भागों को देखा जिन्हें कंप्यूटर के पुनरुत्पादित (reproduce) करने की सबसे अधिक संभावना थी और उन्हें हटाने के लिए चुना, जो अनिवार्य रूप से खोज चरण को दरकिनार करते हुए सटीक समस्या वाले क्षेत्रों को लक्षित करता था।
परिणामों ने एक आश्चर्यजनक जटिलता का खुलासा किया। जब शोधकर्ताओं ने टेक्स्ट खोजने के लिए मानक खोज उपकरणों का उपयोग किया, तो परिणाम अक्सर कमजोर रहे। कंप्यूटर गाना गाने या पुस्तक सुनाने के कार्य को जारी रखता रहा, भले ही खोज उपकरणों ने स्पष्ट प्रतियों को हटा दिया था। ऐसा इसलिए हुआ क्योंकि कंप्यूटर ने गाने को कई छोटे, बिखरे हुए स्रोतों से सीखा था जिन्हें खोज उपकरणों ने मिस कर दिया था। किसी गाने का "फुटप्रिंट" (footprint) केवल आधिकारिक बोल नहीं है; यह इंटरनेट पर फैले उद्धरणों, संदर्भों और अंशों का एक विसरित नेटवर्क है। जब शोधकर्ताओं ने अधिक गहन होने की कोशिश की और उस सटीक टेक्स्ट विंडो को लक्षित किया जिसका उपयोग कंप्यूटर गाने को उत्पन्न करने के लिए करता था, तो उन्होंने एक अलग प्रकार की समस्या प्राप्त की। उन्होंने कंप्यूटर को गाना गाने से सफलतापूर्वक रोक दिया, लेकिन ऐसा करने में, उन्होंने कंप्यूटर की अन्य चीजों को याद रखने की क्षमता को नुकसान पहुँचाया। मॉडल गाने के तथ्यों के बारे में प्रश्न पूछने में खराब हो गया, और उसने अपने कुछ सामान्य कौशल भी खो दिए, जैसे कि तर्क करने या गणित संबंधी समस्याओं को हल करने की क्षमता।
अध्ययन ने दिखाया कि किस टेक्स्ट को हटाना है, इसका चुनाव केवल एक तकनीकी विवरण नहीं है; यह स्वयं समाधान का एक प्रमुख हिस्सा है। शोधकर्ताओं ने पाया कि भूलने के लिए टेक्स्ट की एक ही सूची अलग-अलग एल्गोरिदम का उपयोग करने के आधार पर बहुत अलग परिणाम दे सकती है। कुछ मामलों में, एक विधि जो एक कंप्यूटर मॉडल के लिए पूरी तरह से काम करती थी, उसने दूसरे के लिए महत्वपूर्ण क्षति पहुँचाई। इसका अर्थ यह है कि आप केवल शब्दों की एक सूची नहीं चुन सकते और यह मान नहीं सकते कि विलोपन (deletion) स्वच्छ होगा। डेटा का चयन करने की प्रक्रिया और उसे हटाने की प्रक्रिया गहराई से जुड़ी हुई है। यदि आप बहुत कम चुनते हैं, तो अवांछित व्यवहार बना रहता है। यदि आप बहुत अधिक, या गलत प्रकार का टेक्स्ट चुनते हैं, तो आप मूल्यवान ज्ञान को मिटाने और कंप्यूटर की सामान्य बुद्धिमत्ता को नुकसान पहुँचाने का जोखिम उठाते हैं।
अंततः, शोध यह सुझाव देता है कि भूलने वाली चीजों की एक सरल, पूर्ण सूची का विचार एक भ्रम है। इन मॉडलों के सीखने के अव्यवस्थित वास्तविकता में, एक गीत या एक पुस्तक टेक्स्ट के एक विशाल, अदृश्य जाल द्वारा समर्थित होती है। वास्तव में मॉडल के मस्तिष्क को नुकसान पहुँचाए बिना किसी सामग्री को 'अनलर्न' करने के लिए, डेटा का चयन अत्यंत सावधानी से किया जाना चाहिए, यह ध्यान में रखते हुए कि विशिष्ट कंप्यूटर मॉडल ने उस सामग्री को वास्तव में कैसे सीखा। अध्ययन का निष्कर्ष है कि व्यावहारिक अनलर्निंग को केवल हटाने के उपकरणों (deletion tools) में सुधार करके हल नहीं किया जा सकता है; इसके लिए डेटा को खोजने और चुनने के हमारे तरीके के बारे में सोचने के एक नए तरीके की आवश्यकता है। आगे का मार्ग एक ऐसी प्रणाली डिजाइन करने में निहित है जहाँ भूलने के चयन और भूलने की विधि को एक साथ नियोजित किया जाए, जिससे यह सुनिश्चित हो सके कि कंप्यूटर दुनिया को समझने की अपनी क्षमता खोए बिना एक विशिष्ट अनुरोध को छोड़ सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।