Unlearning at Scale: State-Exact Trace-Preserving Deletion in Billion-Parameter Language Models
यह शोध पत्र यह प्रदर्शित करता है कि अरबों-पैरामीटर वाले भाषा मॉडल, विशिष्ट उदाहरणों को छोड़कर एक टोकन स्टोर से प्रशिक्षण को पुन: चलाने के माध्यम से, स्टेट-एक्ट (state-exact) और ट्रेस-प्रिजर्विंग (trace-preserving) विलोपन प्राप्त कर सकते हैं, बशर्ते कि मूल निष्पादन प्रोवेनेंस (provenance) रिकॉर्ड करने के लिए इंस्ट्रुमेंटेड हो और एक अदूषित चेकपॉइंट सुरक्षित रखा गया हो, हालांकि यह विधि बिखरे हुए विलोपन अनुरोधों के लिए कम्प्यूटेशनल दक्षता की गारंटी नहीं देती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत बड़ी पार्टी के लिए एक विशाल, बहु-परत वाला केक बना रहे हैं। आर्टिफिशियल इंटेलिजेंस की दुनिया में, यह केक एक "लैंग्वेज मॉडल" है, एक कंप्यूटर प्रोग्राम जिसे टेराबाइट्स के टेक्स्ट को "खाकर" लिखने, चैट करने और समस्याओं को हल करने के लिए प्रशिक्षित किया गया है। आमतौर पर, एक बार केक बन जाने के बाद, आप आसानी से उसमें से एक विशिष्ट सामग्री—जैसे कि एक खास तरह की वेनिला बीन—निकाल नहीं सकते बिना पूरे केक को खराब किए। यदि आप इसे खुरच कर निकालने की कोशिश करते हैं, तो परतें ढह सकती हैं, या स्वाद अप्रत्याशित तरीकों से बदल सकता है। यही "मशीन अनलर्निंग" (machine unlearning) की समस्या है: आप एक AI को उस विशिष्ट डेटा को "भूलने" के लिए कैसे प्रेरित कर सकते हैं जिस पर उसे प्रशिक्षित किया गया था, विशेष रूप से तब जब कानून (जैसे कि GDPR) कहते हैं कि लोगों को अपना डेटा मिटाने का अधिकार है।
वैज्ञानिक इसे हल करने के लिए या तो पूरे केक को उस सामग्री के बिना फिर से बनाने (जो धीमा और महंगा है) या फिर स्वाद को सर्जिकल तरीके से निकालने (जो अक्सर अजीब रासायनिक निशान छोड़ देता है) की कोशिश कर रहे हैं। लेकिन इसमें एक पेंच है: कंप्यूटर न केवल इस बात से सीखते हैं कि वे क्या खाते हैं; वे यह भी सीखते हैं कि वे उसे किस क्रम में खाते हैं, ओवन का तापमान क्या है, और बैटर को मिलाते समय सटीक समय क्या था। यदि आप सामग्रियों का क्रम बदलते हैं, तो भले ही आप खराब सामग्री को हटा दें, अंतिम केक उस केक से अलग स्वाद वाला हो सकता है जिसे शुरू से ही उस सामग्री को अनदेखा करने की योजना के साथ बनाया गया था। यह शोध पत्र AI की इस जटिल, तकनीकी रसोई में गहराई से उतरता है और एक बहुत ही विशिष्ट प्रश्न पूछता है: क्या हम यह सिद्ध कर सकते हैं कि एक सामग्री हटाने के बाद बनाया गया केक, बिल्कुल वैसा ही है जैसा कि वह केक होता जिसने उस सामग्री को शुरू से ही अनदेखा करने की योजना बनाई थी?
"टाइम-ट्रैवल" केक रेसिपी
यह शोध पत्र, जिसका शीर्षक "अनलर्निंग एट स्केल" (Unlearning at Scale) है, सुपर-सटीक बेकर्स की एक टीम की तरह है जिन्होंने एक बहुत ही सख्त रेसिपी का परीक्षण करने का निर्णय लिया है। वे केवल इस बात की कोशिश नहीं कर रहे हैं कि केक ऐसा दिखे जैसे वह वेनिला को भूल गया है; वे यह साबित करना चाहते हैं कि केक गणितीय रूप से उस केक के समान है जिसमें वेनिला कभी होना ही नहीं था।
ऐसा करने के लिए, उन्होंने एक विशेष "टाइम-ट्रैवल" सिस्टम बनाया। कल्पना कीजिए कि आप एक केक बना रहे हैं, लेकिन शुरू करने से पहले, आप एक अत्यंत विस्तृत, अपरिवर्तनीय रेसिपी कार्ड लिखते हैं। यह कार्ड केवल सामग्री की सूची नहीं देता; यह रिकॉर्ड करता है कि आपने प्रत्येक अंडा ठीक किस सेकंड में फोड़ा, ओवन का तापमान हर मिनट में सटीक रूप से क्या था, और आपने आटा डालने का विशिष्ट क्रम क्या रखा। यह वही है जिसे शोध पत्र "ट्रेस-प्रिजर्विंग" (trace-preserving) निष्पादन कहता है।
अब, कल्पना कीजिए कि एक ग्राहक कॉल करता है और कहता है, "मैं अपने ऑर्डर से वेनिला बीन्स हटाना चाहता हूँ।" एक सामान्य रसोई में, आप शायद वेनिला को छोड़ देंगे और मिश्रण जारी रखेंगे। लेकिन इस शोध पत्र की रसोई में, बेकर्स के पास एक तरकीब है। वे रेसिपी कार्ड को बिल्कुल वैसा ही रखते हैं। जब रेसिपी कहती है "स्टेप 5 पर वेनिला डालें," तो बेकर्स स्टेप 5 पर जाते हैं, लेकिन वास्तविक वेनिला डालने के बजाय, वे एक "डमी" सामग्री डालते हैं जिसका कोई स्वाद नहीं होता और जिसका कोई वजन नहीं होता। वे अन्य चरणों के क्रम, ओवन के तापमान या मिलाने की गति को बदले बिना ऐसा करते हैं।
बड़ा टेस्ट: बिलियन-पैरामीटर केक
शोधकर्ताओं ने इस विचार का परीक्षण तीन अलग-अलग आकारों के "केक" (AI मॉडल) पर किया:
- एक छोटा केक जिसे Pythia 160M (16 करोड़ पैरामीटर्स) कहा जाता है।
- एक विशाल केक जिसे Pythia 2.8B (2.8 अरब पैरामीटर्स) कहा जाता है।
- एक अलग प्रकार का केक Llama 3.2 1B (1 अरब पैरामीटर्स) है।
उन्होंने एक बड़ा प्रयोग चलाया। पहले, उन्होंने एक "परफेक्ट" केक बनाया जहाँ उन्होंने रेसिपी का पालन किया लेकिन वर्जित सामग्री के लिए एक "जीरो-वेट" डमी जोड़ा। यह "ओरेकल" (Oracle) है—वह स्वर्ण मानक कि केक कैसा दिखना चाहिए। फिर, उन्होंने दूसरा केक बनाया जिसमें उनका "रिडैक्टेड" (redacted) तरीका इस्तेमाल किया गया: उन्होंने पेंट्री (डेटा स्टोर) से वर्जित सामग्री को भौतिक रूप से हटा दिया लेकिन उसी रेसिपी कार्ड का पालन किया, और जहाँ भी रेसिपी में गायब आइटम का उल्लेख था, वहाँ डमी का उपयोग किया।
परिणाम: एक सटीक मिलान
परिणाम आश्चर्यजनक सटीकता के साथ आया। जब उन्होंने दोनों केक की तुलना की, तो उन्होंने पाया कि "रिडैक्टेड" केक "ओरेकल" केक के साथ बिट-फॉर-बिट (bit-for-bit) समान था।
- Pythia 2.8B मॉडल के लिए, उन्होंने 2,775,208,960 व्यक्तिगत नंबरों (मॉडल स्टेट) की जाँच की और शून्य अंतर पाया।
- Llama 3.2 1B मॉडल के लिए, उन्होंने 1,498,482,688 नंबरों की जाँच की और शून्य अंतर पाया।
- यहाँ तक कि "ऑप्टिमाइज़र स्टेट" (जो कि बेकर द्वारा रेसिपी को कैसे समायोजित करने की स्मृति है) भी बिल्कुल समान था।
यह सिद्ध करता है कि यदि आपके पास सही "रेसिकी कार्ड" (निष्पादन योजना) है और आप एक साफ चेकपॉइंट (उस खराब सामग्री के जुड़ने से पहले के केक का स्नैपशॉट) से शुरू करते हैं, तो आप डेटा को हटा सकते हैं और एक ऐसा परिणाम प्राप्त कर सकते हैं जो गणितीय रूप से उस केक से अलग नहीं है जिसमें वह डेटा कभी होना ही नहीं था।
सावधानी: यह कोई जादुई छड़ी नहीं है
हालाँकि, शोध पत्र बहुत सावधानी से स्पष्ट करता है कि वे इसे डेटा को जल्दी से हटाने के लिए "जादुई छड़ी" नहीं कह रहे हैं। लेखक एक प्रमुख सीमा की ओर इशारा करते हैं: समय।
यदि वर्जित सामग्री को बेकिंग प्रक्रिया के शुरुआती चरण में जोड़ा गया था, या यदि सामग्रियाँ रेसिपी में बेतरतीब ढंग से बिखरी हुई थीं, तो बेकर्स को सटीक परिणाम प्राप्त करने के लिए लगभग पूरे केक को शुरुआत से फिर से बनाना होगा।
- उनके परीक्षणों में, यदि उन्होंने यादृच्छिक (random) 5% डेटा को हटाने के लिए कहा, तो उन्हें लगभग 100% ट्रेनिंग स्टेप्स को फिर से चलाना पड़ा।
- शोध पत्र स्पष्ट रूप से कहता है कि यह "सस्ता विलोपन" (cheap deletion) स्थापित नहीं करता है। यह कोई तेज़ समाधान नहीं है; यह एक धीमी, सटीक पुनर्निर्माण प्रक्रिया है।
इसका क्या अर्थ नहीं है
लेखक इस बारे में बहुत सख्त हैं कि उनके परिणाम क्या सिद्ध नहीं करते हैं:
- यह व्यवहार संबंधी गारंटी नहीं है: केवल इसलिए कि नंबर समान हैं, इसका मतलब यह नहीं है कि AI स्वचालित रूप से अलग तरीके से "व्यवहार" करेगा जो कानूनी विलोपन अनुरोध को संतुष्ट करे। शोध पत्र ने यह देखने के लिए कुछ मानक परीक्षण चलाए कि AI कैसे व्यवहार करता है, लेकिन वे इन्हें केवल "वर्णनात्मक" नोट्स मानते हैं, वास्तविक दुनिया के कानूनी विलोपन के लिए प्रमाण नहीं।
- यह एक सार्वभौमिक समाधान नहीं है: यह केवल तभी काम करता है जब आपने पहले से योजना बनाई हो। आप एक पुराने AI मॉडल को नहीं ले सकते जिसे इस विशेष "रेसिपी कार्ड" के साथ नहीं बनाया गया था और बाद में जादू से इसे इस तरह काम करने के लिए मजबूर नहीं कर सकते।
- यह गोपनीयता कवच नहीं है: शोध पत्र स्वीकार करता है कि हालांकि विशिष्ट 'रीप्ले स्टोर' से नंबर हटा दिए गए हैं, लेकिन यह साबित नहीं करता कि डेटा ब्रह्मांड के हर बैकअप, कैश या हार्ड ड्राइव से मिटा दिया गया है।
निष्कर्ष
सरल शब्दों में, यह शोध पत्र एक बहुत ही विशिष्ट, बहुत ही सख्त प्रकार के "भूलने" के लिए एक प्रूफ-ऑफ-कॉन्सेप्ट (proof-of-concept) है। यह दिखाता है कि यदि आप अपने AI प्रशिक्षण की प्रक्रिया को एक कठोर, अपरिवर्तनीय योजना और हर कदम को रिकॉर्ड करने के तरीके के साथ बनाते हैं, तो आप डेटा को सर्जिकल तरीके से हटा सकते हैं और एक ऐसा परिणाम प्राप्त कर सकते हैं जो गणितीय रूप से पूर्ण है। यह ऐसा ही है जैसे यह सिद्ध करना कि आप एक जटिल रेसिपी में असली वेनिला बीन को नकली बीन से बदल सकते हैं और अंत में एक ऐसा केक प्राप्त कर सकते हैं जो उस केक से अलग नहीं है जिसमें वेनिला कभी था ही नहीं।
लेकिन शोध पत्र हमें चेतावनी भी देता है: यह एक भारी, धीमी प्रक्रिया है। इसके लिए पहले से योजना बनाने की आवश्यकता होती है, और यदि वह डेटा जिसे आप हटाना चाहते हैं वह रेसिपी में हर जगह बिखरा हुआ है, तो आपको बस पूरा केक फिर से बनाना ही होगा। यह वैज्ञानिकों के लिए एक शक्तिशाली उपकरण है जिन्हें यह सिद्ध करने की आवश्यकता है कि कंप्यूटर प्रोग्राम में वास्तव में क्या हुआ था, लेकिन यह अभी वास्तविक दुनिया में डेटा को हटाने के लिए कोई त्वरित बटन नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।