🤖 machine learning

GROM: Gradient-Free Rapid One-Shot Machine Unlearning

GROM एक नवीन, ग्रेडिएंट-मुक्त, वन-शॉट मशीन अनलर्निंग विधि है जो बड़े भाषा मॉडलों से संवेदनशील ज्ञान को तेजी से और स्थायी रूप से मिटाने के लिए एक क्लोज्ड-फॉर्म एनालिटिकल वेट अपडेट व्युत्पन्न करती है, जबकि उपयोगिता को बनाए रखती है और क्वांटाइजेशन-आधारित रिकवरी हमलों का प्रतिरोध करती है।

मूल लेखक: Paweł Batorski, Przemysław Spurek, Paul Swoboda

प्रकाशित 2026-08-07

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Paweł Batorski, Przemysław Spurek, Paul Swoboda

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक विशाल, सुपर-स्मार्ट रोबोट है जिसने इंटरनेट की लगभग हर किताब पढ़ ली है। यह सवाल पूछने, कहानियाँ लिखने और होमवर्क में मदद करने में अद्भुत है। लेकिन कभी-कभी, यह रोबोट ऐसी चीजें याद रखता है जो उसे नहीं याद रखनी चाहिए—जैसे किसी सेलिब्रिटी का निजी जन्मदिन, कोई गुप्त रेसिपी, या किसी खतरनाक केमिकल का फॉर्मूला। आर्टिफिशियल इंटेलिजेंस की दुनिया में, यह एक बड़ी समस्या है। हमें इस रोबट को उन विशिष्ट तथ्यों को "भूलने" का तरीका ढूंढना होगा बिना उसके दिमाग को खराब किए या बाकी चीजों के बारे में उसे मूर्ख बनाए। इसे मशीन अनलर्निंग (machine unlearning) कहा जाता है।

रोबोट के दिमाग को कनेक्शनों के एक विशाल पुस्तकालय के रूप में सोचें। भूलने के पुराने तरीके ऐसे हैं जैसे किसी विशिष्ट पुस्तक को पुस्तकालय से मिटाने के लिए हर एक शेल्फ को धीरे-धीरे, दर्दनाक तरीके से एक-एक करके फिर से व्यवस्थित करना। इसमें बहुत समय लगता है, और कभी-कभी वह किताब केवल एक पर्दे के पीछे छिपी होती है, न कि वास्तव में फेंक दी गई होती है। यदि आप अपनी आँखें सिकोड़कर देखें (या इस मामले में, पुस्तकालय के आकार को छोटा कर दें), तो आप उस किताब को अभी भी पा सकते हैं। यह नया पेपर एक बहुत तेज़, साफ तरीका पेश करता है, जो एक धीमी, अस्त-व्यस्त सफाई को एक एकल, सटीक जादू के रूप में बदल देता है।

द पेपर: GROM (ग्रेडिएंट-फ्री रैपिड वन-शॉट मशीन अनलर्निंग)

इस पेपर के लेखक, पावेल बाटोर्स्की, प्रज़ेमिस्लाव स्पुरेक और पॉल स्वोबोडा ने GROM नामक एक टूल बनाया है। आप GROM को एक "भूलने वाले बटन" के रूप में देख सकते हैं जो तुरंत काम करता है, न कि एक "भूलने वाली प्रक्रिया" के रूप में जिसमें घंटों लगते हैं।

पुराना तरीका: धीमी हलचल (The Slow Shuffle)
आमतौर पर, जब हम चाहते हैं कि एक AI कुछ भूल जाए, तो हम "फाइन-ट्यूनिंग" नामक विधि का उपयोग करते हैं। कल्पना कीजिए कि आप एक कुत्ते को एक विशिष्ट गिलहरी का पीछा करने से रोकने के लिए सिखा रहे हैं। आपको मैदान में कुत्ते के साथ बार-बार दौड़ना होगा, हर बार उसके व्यवहार को सुधारना होगा जब वह गिलहरी की ओर देखता है। वर्तमान AI विधियाँ यही करती हैं: वे AI के दिमाग को अवांछित स्मृति से दूर धकेलने के लिए हजारों छोटे-छोटे गणनाओं (इटरेशन) को चलाती हैं। यह धीमा है, इसमें बहुत बिजली खर्च होती है, और पेपर सुझाव देता है कि कभी-कभी AI वास्तव में भूल नहीं रहा होता है; यह बस अपनी स्मृति को इस तरह छिपा रहा होता है कि यदि आप करीब से देखें तो उसे आसानी से वापस पाया जा सके।

नया तरीका: वन-शॉट एडिट (The One-Shot Edit)
GROM खेल को पूरी तरह से बदल देता है। घंटों तक मैदान में दौड़ने के बजाय, GROM उस विशिष्ट स्मृति को देखता है जिसे आप हटाना चाहते हैं और उसे एक बार में मिटाने के लिए आवश्यक सटीक गणितीय चाल की गणना करता है।

लेखक इसे एक "क्लोज्ड-फॉर्म सॉल्यूशन" (closed-form solution) के रूप में वर्णित करते हैं। सरल भाषा में, इसका अर्थ है कि उन्होंने समस्या को हल करने के लिए एक सीधा सूत्र खोजा है, जैसे अंदाज़ा लगाने और जांचने के बजाय तुरंत उत्तर प्राप्त करने के लिए कैलकुलेटर का उपयोग करना। वे AI के दिमाग को संख्याओं के एक विशाल स्प्रेडशीट के रूप में देखते हैं। वे उन विशिष्ट पंक्तियों (rows) और कॉलमों की पहचान करते हैं जिनमें "खराब" स्मृति मौजूद है और उन संख्याओं पर एक एकल, सटीक गणितीय संपादन (edit) लागू करते हैं।

यह कितना तेज़ है?
गति का अंतर आश्चर्यजनक है। पेपर ने कई बेंचमार्क (AI मेमोरी के लिए मानक परीक्षण) पर GROM का परीक्षण किया।

TOFU-10% नामक डेटासेट पर, GROM ने केवल 0.5 मिनट में काम पूरा कर लिया।
अगली सबसे तेज़ विधि, जिसे SimNPO कहा जाता है, ने 2.5 मिनट लिए।
अन्य विधियों में 6.9 से 53.8 मिनट तक का समय लगा।

इसका मतलब है कि GROM कुछ पुरानी विधियों की तुलना में 180 गुना तेज़ है। यह एक धीमी इंटरनेट डाउनलोड और तुरंत फाइल मिलने के बीच के अंतर जैसा है।

क्या यह वास्तव में काम करता है?
पेपर दिखाता है कि GROM न केवल तेज़ काम करता है; बल्कि यह AI को स्मार्ट बनाए रखने में भी बेहतर है।

ट्रेड-ऑफ (The Trade-off): आमतौर पर, जब आप किसी AI को कुछ भुलाने के लिए कहते हैं, तो वह अन्य चीजों के बारे में थोड़ा कम समझदार हो जाता है। पेपर दिखाता है कि GROM लक्षित जानकारी को लगभग पूरी तरह से भुला देता है जबकि AI के सामान्य ज्ञान (इसके "उपयोगिता" या utility) को उच्च बनाए रखता है।
"छिपाने" की समस्या: लेखकों ने परीक्षण किया कि क्या AI केवल स्मृति को छिपा रहा था। उन्होंने "क्वांटाइजेशन" (जो AI के दिमाग को बचाने के लिए उसे सिकोड़ने जैसा है) नामक एक ट्रिक का उपयोग किया। पुरानी विधियाँ अक्सर यहाँ विफल हो जाती हैं: जब मस्तिष्क को सिकोड़ा जाता है, तो छिपी हुई स्मृति वापस बाहर आ जाती है। हालाँकि, GROM वास्तव में स्मृति को हटा देता है। मस्तिष्क को सिकोड़ने के बाद भी, रहस्य गायब ही रहता है।

यह किसे एडिट करने के लिए चुनता है?
AI में कई परतें (न्यूरॉन्स) होती हैं (जैसे केक की परतें)। GROM केवल पूरे केक को एडिट नहीं करता है; यह "लॉगिट-लेंस" (logit-lens) नामक एक चतुर तकनीक का उपयोग करता है ताकि ठीक उसी परत को खोजा जा सके जहाँ विशिष्ट स्मृति स्थित है। यह समुद्र तट को खोदने के बजाय धातु का पता लगाने वाले यंत्र (metal detector) का उपयोग करके यह खोजने जैसा है कि सिक्का कहाँ दबा हुआ है। एक बार जब यह स्थान मिल जाता है, तो यह उस विशिष्ट परत पर एकल गणितीय संपादन लागू करता है।

निष्कर्ष (The Bottom Line)
GROM विशिष्ट चीजों को भुलाने का एक नया तरीका है जो है:

तत्काल: यह घंटों के बजाय सेकंड या मिनटों में काम करता है।
सटीक: यह स्मृति को केवल छिपाता नहीं बल्कि उसे हटा देता है।
सुरक्षित: यह अन्य प्रश्नों के उत्तर देने की AI की क्षमता को नहीं तोड़ता है।

लेखकों ने विभिन्न डेटासेट्स पर इसका परीक्षण किया, जिसमें नकली लेखक, खतरनाक जैविक तथ्य और कॉपीराइट वाली पुस्तकें शामिल थीं। लगभग हर मामले में, GROM सबसे तेज़ और सबसे प्रभावी विधि था, जिसने "बुरी चीजों को भूलने" और "अच्छी चीजों को याद रखने" के बीच सबसे अच्छा संतुलन हासिल किया। यह AI को सुरक्षित और अधिक नियंत्रणीय बनाने की दिशा में एक महत्वपूर्ण कदम है, जो यह साबित करता है कि कभी-कभी, समस्या को ठीक करने का सबसे अच्छा तरीका ताश के पत्तों को बार-बार फेंटना नहीं, बल्कि सही कार्ड खेलना है।

तकनीकी सारांश: GROM (ग्रेडिएंट-मुक्त तीव्र वन-शॉट मशीन अनलर्निंग)

समस्या विवरण

लार्ज लैंग्वेज मॉडल्स (LLMs) अक्सर अपने प्रशिक्षण डेटा से संवेदनशील, निजी या कॉपीराइट वाली जानकारी को याद कर लेते हैं। मशीन अनलर्निंग वह तंत्र है जिसकी आवश्यकता इस लक्षित ज्ञान को चुनिलेक्टिव रूप से मिटाने के लिए होती है। वर्तमान अत्याधुनिक दृष्टिकोण (state-of-the-art approaches) पुनरावृत्ति (iterative), प्रशिक्षण-समय अनलर्निंग जैसे कि फाइन-ट्यूनिंग (जैसे ग्रेडिएंट एसेंट, प्रेफरेंस ऑप्टिमाइज़ेशन, या डिस्टिलेशन) पर निर्भर करते हैं, जो तीन महत्वपूर्ण अक्षमताओं से ग्रस्त हैं:

गणना लागत (Computational Cost): यहाँ तक कि LoRA जैसी पैरामीटर-एफिशिएंट तकनीकों के साथ भी, ग्रेडिएंट-आधारित अनुकूलन (optimization) के लिए कई इपॉक्स और बैकप्रोपैगेशन की आवश्यकता होती है, जिससे यह महंगा और धीमा हो जाता है।
विश्लेषणात्मक सूत्रीकरण का अभाव (Lack of Analytical Formulation): इन विधियों में स्पष्ट क्लोज्ड-फॉर्म समाधानों का अभाव है, जिससे अभ्यासकर्ताओं को अनलर्न की गई स्थिति के करीब पहुँचने के लिए चरण-दर-चरण ग्रेडिएंट डिसेंट पर निर्भर रहना पड़ता है।
सतही विस्मरण (Superficial Forgetting): हालिया शोध संकेत देते हैं कि पुनरावृत्ति आधारित फाइन-ट्यूनिंग अक्सर लक्षित ज्ञान को केवल कम-परिमाण वाले वेट एडजस्टमेंट्स में छिपा देती है। परिणामस्वरूप, अनलर्न किए गए मॉडल को क्वांटाइज़ (जैसे 4-बिट में) करने से उस सामग्री को फिर से प्राप्त किया जा सकता है जिसे मिटाया जाना था।

कार्यप्रणाली (Methodology)

लेखक GROM का प्रस्ताव करते हैं, जो एक नया वन-शॉट अनलर्निंग दृष्टिकोण है जो पुनरावृत्ति अनुकूलन के बजाय एक प्रत्यक्ष, सटीक विश्लेषणात्मक समाधान को अपनाता है। यह विधि अनलर्निंग को एक रिज-रेगुलराइज्ड लीस्ट-स्क्वेयर्स ऑप्टिमाइज़ेशन समस्या के रूप में फ्रेम करती है।

मुख्य सूत्रीकरण (Core Formulation)

एक वेट मैट्रिक्स $W \in \mathbb{R}^{m \times n}$ (विशेष रूप से MLP डाउन-प्रोजेक्शन या LM हेड) के लिए, GROM एक एकल योगात्मक अपडेट (additive update) $P$ की खोज करता है ताकि $W \leftarrow W + P$ हो सके। इसका उद्देश्य एक साथ निम्नलिखित सुनिश्चित करना है:

रिटेन व्यवहार को बनाए रखना (Preserve Retain Behavior): यह सुनिश्चित करना कि रिटेन डेटा ( $X_r$ ) पर आउटपुट अपरिवर्तित रहे ( $PX_r \approx 0$ )।
फॉरगेट आउटपुट्स को निर्देशित करना (Steer Forget Outputs): फॉरगेट डेटा ( $X_f$ ) पर आउटपुट को एक लक्ष्य $D$ की ओर स्थानांतरित करना जो स्मरित (memorized) सामग्री को दबा देता है ( $(W+P)X_f \approx WX_f + D$ )।

इसे निम्नलिखित ऑब्जेक्टिव को मिनिमाइज़ करके औपचारिक रूप दिया गया है:
$\min_{P} \frac{w_r}{r} \|PX_r\|_F^2 + \frac{w_f}{s} \|PX_f - D\|_F^2 + \mu \|P\|_F^2$
जहाँ $w_r, w_f$ रिटेन प्रिजर्वेशन और फॉरगेट स्टीयरिंग को वेट देते हैं, और $\mu$ एक रिज रेगुलराइजेशन टर्म है।

क्लोज्ड-फॉर्म समाधान (Closed-Form Solution)

इस समस्या का ऑप्टिमाइज़र अद्वितीय है और क्लोज्ड फॉर्म में व्युत्पन्न है, जो पूरी तरह से पुनरावृत्ति अनुमान से बचता है:
$P^* = \frac{w_f}{s} D X_f^\top A^{-1}$
जहाँ $A = \frac{w_r}{r} X_r X_r^\top + \frac{w_f}{s} X_f X_f^\top + \mu I_n$ ।

मुख्य घटक

ग्रेडिएंट-मुक्त (Gradient-Free): अपडेट को केवल फॉरगेट और रिटेन डेटा पर फॉरवर्ड पास के माध्यम से कंप्यूट किया जाता है ताकि "कीज़" (W के इनपुट) एकत्र की जा सकें। इसके लिए बैकप्रोपैगेशन या कन्वर्जेंस इटरेशन की आवश्यकता नहीं है।
लक्ष्य डिज़ाइन ( $D$ ):
- टोकन दमन (Token Suppression): जनरेशन मापने वाले बेंचमार्क (TOFU, MUSE) के लिए, $D$ आउटपुट्स को विशिष्ट गोल्ड टोकन्स से दूर ले जाता है। साझा शब्दावली पर उपयोगिता बनाए रखने के लिए एक विशिष्टता भार (specificity weight) $\alpha_j$ लागू किया जाता है ताकि केवल फॉरगेट सेट के विशिष्ट टोकन्स को ही दबाया जा सके।
- रिप्रेजेंटेशन करप्शन (Representation Corruption): मल्टीपल-चॉइस सटीकता (WMDP) मापने वाले बेंचमार्क के लिए, $D$ रिप्रेजेंटेशन को करप्ट करता है क्योंकि टोकन लॉजिट्स कम प्रासंगिक होते हैं।
लेयर चयन (Layer Selection): GROM एक लॉगिट-लेंस एट्रिब्यूशन स्कोर ( $S_\ell = F_\ell - R_\ell$ ) का उपयोग यह पहचानने के लिए करता है कि कौन सी लेयर्स सीधे फॉरगेट-विशिष्ट टोकन लॉजिट्स में योगदान देती हैं। यह उन लेट लेयर्स के एक निरंतर बैंड का चयन करता है जिनका औसत स्कोर उच्चतम होता है।
सटीक ऑडिटेबिलिटी (Exact Auditability): क्योंकि $P^*$ डेटा का एक स्पष्ट फलन (function) है, पेपर अंतिम एडिट पर किसी एकल फॉरगेट उदाहरण के सटीक प्रभाव की गणना करने के लिए एक क्लोज्ड-फॉर्म विधि (शेरमैन-मोरिसन-वुडबर्ड पहचान का उपयोग करके) व्युत्पन्न करता है, जिससे डेटा डिलीशन अनुरोधों का सटीक ऑडिट संभव होता है।

मुख्य योगदान

क्लोज्ड-फॉर्म अनलर्निंग सूत्रीकरण: पेपर गणितीय रूप से मशीन अनलर्निंग को एक सटीक अनुकूलन समस्या के रूप में फ्रेम करता है जिसका क्लोज्ड-फॉर्म विश्लेषणात्मक समाधान है, जो पुनरावृत्ति फाइन-ट्यूनिंग के ओवरहेड और अस्थिरता को दरकिनार करता है।
ग्रेडिएंट-मुक्त दक्षता: GROM केवल फॉरगेट और रिटेन डेटा के ग्रेडिएंट-मुक्त फॉरवर्ड पास से इष्टतम योगात्मक अपडेट कंप्यूट करता है, जिससे यह ग्रेडिएंट-आधारित दृष्टिकोणों की तुलना में 100 गुना तक तेज़ हो जाता है (सेकंड बनाम मिनट)।
स्टेट-ऑफ-द-आर्ट ट्रेड-ऑफ़: यह विधि पांच बेंचमार्क (TOFU-5%, TOFU-10%, MUSE-Books, MUSE-News, WMDP) पर पारेटो-सर्वश्रेष्ठ (Pareto-best) फॉरगेटिंग-यूटिलिटी ट्रेड-ऑफ़ प्राप्त करती है।
क्वांटाइजेशन मजबूती (Quantization Robustness): ग्रेडिएंट-आधारित बेसलाइन्स के विपरीत, GROM का क्लोज्ड-फॉर्म एडिट लक्षित सामग्री को केवल छिपाता नहीं बल्कि वेट्स से हटा देता है। यह उन लो-बिट क्वांटाइजेशन हमलों का सामना करता है जो आमतौर पर अन्य विधियों द्वारा "भूल गई" सामग्री को पुनः प्राप्त कर लेते हैं।

प्रयोगात्मक परिणाम

लेखकों ने GROM का विभिन्न बेसलाइन्स के विरुद्ध मूल्यांकन किया, जिसमें ग्रेडिएंट-आधारित (GA, GradDiff, NPO, SimNPO), प्रेफरेंस-आधारित (IDKDPO, AltPO), और लोकेट-देन-एडिट एडिटर्स (ROME, MEMIT, AlphaEdit) शामिल हैं।

गति: GROM सेकंडों में अपडेट लागू करता है (उदाहरण के लिए, NVIDIA H100 पर 0.2–1.8 मिनट), जबकि ग्रेडिएंट-आधारित बेसलाइन्स 2.4 से 62.5 मिनट लेते हैं। बड़े कॉर्पोरा (MUSE Books) पर, GROM, SimNPO की तुलना में $\sim 180\times$ तेज़ है।
प्रदर्शन:
- TOFU: GROM दोनों 5% और 10% स्प्लिट्स पर उच्चतम फाइनल स्कोर और मॉडल यूटिलिटी (MU) प्राप्त करता है, जिससे अन्य विधियों के "ओवर-फॉरगेटिंग" या "अंडर-फॉरगेटिंग" विफलताओं से बचा जा सकता है।
- MUSE: GROM न्यूज़ और बुक्स दोनों डेटासेट पर सर्वश्रेष्ठ फाइनल स्कोर प्राप्त करता है। महत्वपूर्ण रूप से, MUSE Books पर, यह उच्चतम रिटेन यूटिलिटी को बनाए रखते हुए वर्बेट (verbatim) मेमोरियलाइजेशन को लगभग समाप्त कर देता है।
- WMDP: GROM सामान्य क्षमता (MMLU) को बनाए रखते हुए खतरनाक ज्ञान के दमन के बीच संतुलन बनाकर सर्वश्रेष्ठ फाइनल स्कोर प्राप्त करता है, जो उन बेसलाइन्स से बेहतर है जो दमन के लिए यूटिलिटी का त्याग करते हैं।
- ZsRE: जब इसे ZeroUnlearn के फैक्ट-एडिटिंग हार्नेस में मूल्यांकित किया गया, तो GROM ने प्रभावकारिता और सामान्यीकरण में ट्यून्ड लोकेट-देन-एडिट एडिटर्स से बेहतर प्रदर्शन किया और विशिष्टता बनाए रखी।
क्वांटाइजेशन मजबूती: 4-बिट क्वांटाइजेशन टेस्ट में, GROM गोल्ड रिट्रेन्ड मॉडल के समान निम्न फॉरगेट मेमोरियलाइजेशन स्तर बनाए रखता है। इसके विपरीत, SimNPO जैसे मजबूत ग्रेडिएंट-आधारित बेसलाइन्स में स्मरित सामग्री की तीव्र रिकवरी देखी जाती है (जैसे, वर्बेट रिगर्जिटेशन लगभग शून्य से मूल स्तर तक बढ़ जाता है)।

महत्व और दावे

पेपर का दावा है कि GROM पुनरावृत्ति अनुकूलन-आधारित विधियों के बजाय एक प्रत्यक्ष विश्लेषणात्मक समाधान के साथ मशीन अनलर्निंग में एक मौलिक बदलाव का प्रतिनिधित्व करता है। लेखक तर्क देते हैं कि यह दृष्टिकोण:

दक्षता बाधा को हल करता है: यह बड़े मॉडल्स (7–8B पैरामीटर्स) पर अनलर्निंग को सक्षम बनाता है जहाँ प्रशिक्षण-आधारित दृष्टिकोण सीमित हार्डवेयर पर अव्यावहारिक हैं।
वास्तविक विलोपन सुनिश्चित करता है: सामग्री को मास्क करने के बजाय वेट्स से हटाकर, GROM क्वांटाइजेशन के माध्यम से रिकवरी के विरुद्ध अधिक मजबूत गारंटी प्रदान करता है।
ऑडिटिंग सक्षम बनाता है: इसके क्लोज्ड-फॉर्म स्वभाव के कारण व्यक्तिगत डेटा पॉइंट के प्रभाव की सटीक गणना संभव है, जो डेटा डिलीशन अनुरोधों के लिए जवाबदेही की आवश्यकता को पूरा करता है।

लेखक GROM को पहले वन-शॉट मेथड के रूप में प्रस्तुत करते हैं जो पुनरावृत्ति, अनुकूलन-आधारित विधियों की अनलर्निंग प्रदर्शन को प्राप्त करने और उससे आगे निकलने में सक्षम है, जो यह सुझाव देता है कि यह उन परिदृश्यों में कुशल अनलर्निंग का मार्ग प्रशस्त करता है जहाँ पारंपरिक फाइन-ट्यूनिंग अव्यावहारिक है।