💻 computer science

PreUnlearn: Auditing Collateral Knowledge Damage Before Large Language Model Unlearning

यह शोध पत्र PreUnlearn को प्रस्तुत करता है, जो एक डेटा-केंद्रित ढांचा है जो अनलर्निंग (unlearning) होने से पहले ही भूलने वाले सेट (forget set) और मूल्यांकन सेट (evaluation set) के बीच इंटरैक्शन फीचर्स का विश्लेषण करके जोखिम भरे अनलर्निंग परिदृश्यों की पहचान करता है और बड़े भाषा मॉडलों (large language models) में कोलेटरल नॉलेज डैमेज (collateral knowledge damage) का पूर्वानुमान लगाता है और उसका ऑडिट करता है।

मूल लेखक: Bo Su, Ankit Shah, Thai Le

प्रकाशित 2026-06-19

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Bo Su, Ankit Shah, Thai Le

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक विशाल, अविश्वसनीय रूप से जानकार पुस्तकालय (एक लार्ज लैंग्वेज मॉडल, या LLM) है जो लगभग सब कुछ जानता है। कभी-कभी, आपको इस पुस्तकालय से विशिष्ट पुस्तकें हटाने की आवश्यकता होती है क्योंकि उनमें संवेदनशील, पुराना या हानिकारक डेटा होता है। इस प्रक्रिया को "अनलर्निंग" (unlearning) कहा जाता है।

समस्या यह है कि पुस्तकालय में पुस्तकें अक्सर आपस में जुड़ी होती हैं। यदि आप "केक कैसे बेक करें" के बारे में एक पुस्तक हटाने की कोशिश करते हैं, तो आप अनजाने में "सामग्री कैसे मिलाएं" या "ओवन का उपयोग कैसे करें" के बारे में ज्ञान को भी नुकसान पहुँचा सकते, भले ही वे वे विशिष्ट पुस्तकें न हों जिन्हें आप हटाना चाहते थे। यह आकस्मिक क्षति "कोलेटरल डैमेज" (collateral damage) कहलाती है।

इस शोध पत्र के लेखक, PREUNLEARN, ने किसी के द्वारा वास्तव में पुस्तकें हटाने से पहले दो बड़े सवालों के जवाब देने की कोशिश की:

नुकसान कितना बुरा होगा? क्या यह डिलीट की गई पुस्तक के करीब रहेगा, या यह दूर तक फैलेगा?
क्या हम पहले से ही नुकसान का अनुमान लगा सकते हैं? क्या हम उन पुस्तकों को देख सकते हैं जिन्हें हम हटाना चाहते हैं और उन पुस्तकों को जिन्हें हम रखना चाहते हैं, और वास्तविक विलोपन (deletion) करने से पहले यह अनुमान लगा सकते हैं कि कितना नुकसान होगा?

यहाँ उनके निष्कर्षों का रोजमर्रा के उदाहरणों का उपयोग करके एक सरल विवरण दिया गया है:

1. "रिपल इफेक्ट" (नुकसान की तीन परतें)

शोधकर्ताओं ने परीक्षण किया कि जब वे विशिष्ट विषयों को "अनलर्न" (डिलीट) करते हैं तो क्या होता है। उन्होंने पाया कि नुकसान तालाब में उठने वाली लहरों (ripples) की तरह फैलता है, लेकिन जैसे-जैसे यह दूर जाता है, यह कमजोर होता जाता है। उन्होंने इसे तीन परतों में मापा:

परत 1 (लक्ष्य - The Target): यह वह पुस्तक है जिसे आपने विशेष रूप से हटाने की कोशिश की है। जैसा कि अपेक्षित था, यहाँ का ज्ञान सबसे अधिक क्षतिग्रस्त होता है।
परत 2 (पड़ोसी - The Neighbors): ये एक ही शेल्फ पर या बहुत समान विषयों वाली पुस्तकें हैं (जैसे, "केक बेकिंग" को हटाने से "पेस्ट्री मेकिंग" को नुकसान पहुँचता है)। यहाँ का नुकसान महत्वपूर्ण है, लेकिन लक्ष्य की तुलना में कम है।
परत 3 (दूर के कमरे - The Distant Rooms): ये पूरी तरह से अलग सेक्शन की पुस्तकें हैं (जैसे, "केक बेकिंग" को हटाने से "क्वांटम फिजिक्स" को नुकसान पहुँचना)। यहाँ का नुकसान सबसे कमजोर है, लेकिन यह पूरी तरह से गायब नहीं होता है। दूर का ज्ञान भी थोड़ा अस्थिर हो जाता है।

मुख्य निष्कर्ष: आप केवल एक चीज़ को हटाकर उसके पड़ोसियों को प्रभावित किए बिना नहीं रह सकते, और कभी-कभी, यह पूरी इमारत को भी थोड़ा हिला देता है।

2. "क्रिस्टल बॉल" (पहले से नुकसान का अनुमान लगाना)

इस पेपर का सबसे रोमांचक हिस्सा उनका समाधान है दूसरे प्रश्न का: क्या हम वास्तव में शुरू करने से पहले इस नुकसान का अनुमान लगा सकते हैं?

आमतौर पर, यह जानने के लिए कि क्या कोई विलोपन (deletion) सुरक्षित है, आपको वास्तव में विलोपन करना पड़ता है, परिणामों की जांच करनी पड़ती है, और फिर उम्मीद करनी पड़ती है कि सब ठीक रहे। यह महंगा और धीमा है। लेखकों ने एक "प्री-अनलर्निंग ऑडिटर" (Pre-Unlearning Auditor) बनाया है—एक क्रिस्टल बॉल जो विलोपन होने से पहले डेटा को देखती है।

उन्होंने महसूस किया कि नुकसान का जोखिम केवल उस पुस्तक के बारे में नहीं है जिसे आप हटाना चाहते हैं; यह उस पुस्तक और उन पुस्तकों के बीच के संबंध के बारे में है जिन्हें आप रखना चाहते हैं।

उपमा (Analogy): कल्पना कीजिए कि आप फर्नीचर हटा रहे हैं। यदि आप एक भारी सोफे (जिसे "फॉरगेट सेट" कहा जाता है) को एक संकीर्ण गलियारे से गुजारने की कोशिश करते हैं, तो आप दीवारों को खरोंच सकते हैं (जिसे "रिटेन सेट" कहा जाता है)।
- यदि सोफा छोटा है और गलियारा चौड़ा है, तो आप ठीक रहेंगे।
- यदि सोफा बहुत बड़ा है और गलियारा तंग है, तो आप नुकसान पहुँचाएंगे।
- ऑडिटर आपके हाथ उठाने से पहले ही सोफे के "आकार" और गलियारे की "चौड़ाई" को देखता है।

3. क्रिस्टल बॉल क्या देखती है

शोधकर्ताओं ने पाया कि नुकसान का अनुमान लगाने का सबसे अच्छा तरीका केवल "डिलीट की जाने वाली पुस्तक" को देखना नहीं है, बल्कि दोनों डेटा सेट के बीच की ज्यामिति (geometry) (आकार और दूरी) को देखना है।

दूरी (Distance): यदि आप जो विषय हटाना चाहते हैं वह (अर्थ के संदर्भ में) उन विषयों से बहुत दूर है जिन्हें आप रखना चाहते हैं, तो नुकसान कम होता है।
समानता (Similarity): यदि वे बहुत समान हैं, तो नुकसान अधिक होता है।
लंबाई और जटिलता (Length and Complexity): लंबी, अधिक जटिल टेक्स्ट अधिक रिपल इफेक्ट (लहरें) पैदा करती हैं।

उन्होंने एक कंप्यूटर प्रोग्राम बनाया जो इन "दूरियों" और "आकारों" को मापता है और आपको बता सकता है, "हे, यदि आप यह विशिष्ट विषय हटाते हैं, तो यह संभवतः उस विशिष्ट विषय को नुकसान पहुँचाएगा।"

4. यह क्यों महत्वपूर्ण है

यह पेपर सुझाव देता है कि अंधे होकर चीजें हटाने और बेहतर की उम्मीद करने के बजाय, हमें इस ऑडिटर को एक चेतावनी प्रणाली के रूप में उपयोग करना चाहिए।

हटाने से पहले: ऑडिटर चलाएं।
परिणाम: यह एक "जोखिम स्कोर" (risk score) देता है।
कार्रवाई: यदि स्कोर अधिक है, तो आप जानते हैं कि आपको सावधान रहने की जरूरत है। आपको उन विषयों के आसपास अधिक "सेफ्टी बफ़र्स" (अतिरिक्त प्रशिक्षण डेटा) जोड़ने की आवश्यकता हो सकती है जिन्हें आप रखना चाहते हैं, या आप उस विशिष्ट विषय को बिल्कुल भी हटाने का निर्णय ले सकते हैं क्योंकि इसकी लागत बहुत अधिक है।

सारांश

इस पेपर को डिजिटल मेमोरी के लिए एक सुरक्षा निरीक्षक (safety inspector) के रूप में समझें।

समस्या: बुरी जानकारी को हटाने से अक्सर अच्छी जानकारी भी टूट जाती है।
खोज: नुकसान लहरों की तरह फैलता है, जो कमजोर होता जाता है लेकिन पूरी तरह से रुकता नहीं है।
समाधान: हम वास्तव में कुछ भी डिलीट किए बिना, केवल यह देखकर कि बुरी जानकारी अच्छी जानकारी के कितने "करीब" है, सटीक रूप से अनुमान लगा सकते हैं कि कितना नुकसान होगा। यह समय बचाता है और उपयोगी ज्ञान के आकस्मिक विनाश को रोकता है।

तकनीकी सारांश: PREUNLEARN: लार्ज लैंग्वेज मॉडल अनलर्निंग से पहले कोलेटरल नॉलेज डैमेज का ऑडिट करना

1. समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल्स (LLMs) के लिए मशीन अनलर्निंग का लक्ष्य विशिष्ट, संवेदनशील या हानिकारक ज्ञान (जिसे "फॉरगेट सेट" कहा जाता है) को हटाना है, जबकि मॉडल की सामान्य उपयोगिता को बनाए रखना है। हालांकि, भूलने योग्य और बनाए रखने योग्य ज्ञान के बीच की सीमा अक्सर मॉडल के पैरामीटर्स के भीतर संबंधित और दूरस्थ जानकारी के उलझाव (entanglement) के कारण धुंधली हो जाती है।

वर्तमान मूल्यांकन पद्धतियां अक्सर समग्र उपयोगिता मेट्रिक्स या सीमित पोस्ट-हॉक प्रोब्स पर निर्भर करती हैं, जो सूक्ष्म क्षति के प्रसार (granular propagation of damage) को पकड़ने में विफल रहती हैं। विशेष रूप से, मौजूदा बेंचमार्क अक्सर एक निश्चित फॉरगेट सेट को मानते हैं और यह पर्याप्त रूप से लक्षण वर्णन नहीं करते कि अनलर्निंग के प्रभाव कैसे लक्षित सेट से समान-डोमेन ज्ञान तक और फिर दूरस्थ-डोमेन ज्ञान तक फैलते हैं। फलस्वरूप, दो महत्वपूर्ण प्रश्न अनछुए रह जाते हैं:

RQ.1: अनलर्निंग का प्रभाव फॉरगेट सेट $X$ से समान-डोमेन और दूरस्थ-डोमेन ज्ञान $Y$ पर कैसे फैलता है?
RQ.2: क्या हम अनलर्निंग प्रक्रिया निष्पादित करने से पहले ज्ञान $Y$ पर होने वाले संभावित कोलेटरल डैमेज (collateral damage) की भविष्यवाणी कर सकते हैं?

2. कार्यप्रणाली (Methodology)

2.1 तीन-स्तरीय अनलर्निंग इम्पैक्ट फ्रेमवर्क

लेखक एक डेटा-केंद्रित मूल्यांकन ढांचे का प्रस्ताव करते हैं जो फॉरगेट सेट $D_f$ के सापेक्ष पोस्ट-अनलर्निंग ज्ञान क्षरण (degradation) को तीन सिमेंटिक लेयर्स में व्यवस्थित करता है:

L1 (इन्टेन्डेड डिग्रेडेशन): फॉरगेट सेट $D_f$ पर स्वयं का प्रदर्शन।
L2 (सेम-डोमेन डैमेज): फॉरगेट डोमेन के सिमेंटिक रूप से करीब रहे होल्ड-आउट पैसेज पर प्रदर्शन।
L3 (डिस्टेंट-डोमेन डैमेज): अन्य, असंबंधित सिमेंटिक डोमेन के पैसेज पर प्रदर्शन।

प्रभाव को परप्लेक्सिटी (PPL) रेश्यो का उपयोग करके मापा जाता है: $R(S) = \text{PPL}(M^*_\theta, x) / \text{PPL}(M_\theta, x)$ , जहाँ $M^*_\theta$ अनलर्न्ड मॉडल है और $M_\theta$ मूल मॉडल है। $1.0$ से अधिक का अनुपात प्रदर्शन में गिरावट को दर्शाता है।

2.2 प्रयोगात्मक सेटअप (Experimental Setup)

डेटासेट: WikiText-103, जिसे 10 अच्छी तरह से अलग किए गए सिमेंटिक क्लस्टर्स में संसाधित किया गया है। 100 अनलर्निंग डेटासेट्स बनाए गए, जिनमें से प्रत्येक में अलग-अलग (disjoint) फॉरगेट और रिटेन स्प्लिट्स शामिल हैं।
मॉडेल्स: Llama-3.1-8B-Instruct और Qwen2.5-7B-Instruct।
एल्गोरिदम: तीन अलग-अलग अनलर्निंग विधियों का मूल्यांकन किया गया:
- ग्रेडिएंट एसेंट (GA)
- नेगेटिव प्रेफरेंस ऑप्टिमाइजेशन (NPO)
- एडजस्टेड लॉजिट्स पर सेल्फ-डिस्टिलेशन के माध्यम से अनलर्निंग (UNDIAL)

2.3 प्री-अनलर्निंग ऑडिटिंग फॉर्मूलेशन

पेपर "फॉरगेट-सेट ऑडिटिंग" को एक सुपरवाइज्ड रिग्रेशन समस्या के रूप में तैयार करता है। लक्ष्य एक कैंडिडेट फॉरगेट सेट ( $D_f$ ) और एक इवैल्यूएशन सेट ( $D_e$ ) के जोड़े के लिए कोलेटरल डैमेज रेश्यो ( $\rho_{f,e}$ ) की भविष्यवाणी करना है, और वह भी किसी भी मॉडल अपडेट से पहले।

टारगेट वेरिएबल: $\rho_{f,e} = \frac{\log(\text{PPL}_{after, e} / \text{PPL}_{before, e})}{\log(\text{PPL}_{after, f} / \text{PPL}_{before, f})}$ । यह इवैल्यूएशन सेट पर हुई गिरावट को प्राप्त की गई फॉरगेटिंग स्ट्रेंथ द्वारा सामान्यीकृत (normalize) करता है।
इनपुट फीचर्स: ऑडिटर केवल प्री-अपडेट फीचर्स ( $\phi(D_f, D_e, M_\theta)$ $ϕ (D_{f}, D_{e}, M_{θ})$ ) का उपयोग करता है और इसके पास ग्रेडिएंट्स, चेकपॉइंट्स या पोस्ट-अनलर्निंग मेजरमेंट्स तक पहुंच नहीं होती है। फीचर्स को वर्गीकृत किया गया है:
1. इंट्रिंसिक फीचर्स: $D_f$ और $D_e$ के स्वतंत्र गुण (जैसे लंबाई, विविधता, डाइमेंशनलिटी)।
2. इंटरेक्शन फीचर्स: दोनों सेट्स के बीच ज्यामितीय संबंध (जैसे सेंट्रॉइड यूक्लिडियन डिस्टेंस, कोसाइन सिमिलैरिटी, लेक्सिकल रेशनोस)।
मॉडेल्स: रिज रिग्रेशन, रैंडम फॉरेस्ट और XGBoost को $\rho_{f,e}$ की भविष्यवाणी करने के लिए प्रशिक्षित किया गया।
मूल्यांकन: ऑडिटर का परीक्षण लीव-वन-डोमेन-आउट (LODO) क्रॉस-वैलिडेशन और एक पूरी तरह से होल्ड-आउट सिमेंटिक डोमेन टेस्ट का उपयोग करके किया गया ताकि विशिष्ट डोमेन पहचान से परे सामान्यीकरण सुनिश्चित किया जा सके।

3. मुख्य परिणाम (Key Results)

3.1 तीन-स्तरीय इम्पैक्ट पैटर्न (RQ.1)

डिके पैटर्न (Decay Pattern): सभी मॉडल और एल्गोरिदम संयोजनों में एक सुसंगत डिके पैटर्न देखा गया: $L1 > L2 > L3$ । अनलर्निंग का प्रभाव फॉरगेट सेट पर सबसे मजबूत, समान-डोमेन ज्ञान पर कमजोर, और दूरस्थ-डोमेन ज्ञान पर सबसे कम होता है।
एल्गोरिदम डिपेंडेंस: डैमेज का परिमाण एल्गोरिदम के आधार पर काफी भिन्न होता है। ग्रेडिएंट एसेंट (GA) ने सबसे आक्रामक प्रभाव (PPL रेश्यो में $12.85\times$ तक की वृद्धि) पैदा किया, जबकि NPO और UNDIAL $1.05\text{--}1.65\times$ के भीतर रहे।
फॉरगेट सेट वेरिएबिलिटी: फिक्स्ड हाइपरपैरामीटर्स और एल्गोरिदम के साथ भी, अलग-अलग फॉरगेट सेट्स काफी अलग इम्पैक्ट प्रोफाइल प्रेरित करते हैं। यह भिन्नता बताती है कि फॉरगेट सेट का चुनाव स्वयं एक महत्वपूर्ण डिजाइन निर्णय है।
डिस्ट्रीब्यूशनल सेपरेशन: L1, L2 और L3 के लिए डिग्रेडेशन डिस्ट्रीब्यूशन स्पष्ट रूप से अलग हैं, हालांकि L3 में एक "राइट टेल" (right tail) मौजूद है, जो इंगित करता है कि दूरस्थ डोमेन पर भी गंभीर कोलेटरल डैमेज हो सकता है।

3.2 प्री-अनलर्निंग ऑडिटिंग परफॉरमेंस (RQ.2)

प्रेडिक्टेबिलिटी (भविष्यवाणी क्षमता): ऑडिट कार्य व्यवहार्य है। बेस्ट रिग्रेसर्स ने LODO क्रॉस-वैलिडेशन के तहत 0.93 (GA) और 0.90 (UNDIAL) तक स्पियरमैन रैंक कोरिलेशन ( $\rho$ ) हासिल किया। प्रदर्शन अधिक कठिन NPO ऑब्जेक्टिव पर भी सूचनात्मक ( $\rho \geq 0.51$ ) बना रहा।
फीचर इम्पोर्टेंस: सबसे मजबूत प्रेडिक्टिव सिग्नल फॉरगेट और इवैल्यूएशन सेट्स के बीच के इंटरेक्शन फीचर्स हैं, विशेष रूप से:
- सेंट्रॉइड यूक्लिडियन डिस्टेंस (डैमेज के साथ नकारात्मक सहसंबंध)।
- सेंट्रॉइड कोसाइन सिमिलैरिटी (डैमेज के साथ सकारात्मक सहसंबंध)।
- क्रॉस-सेट लेक्सिकल और लेंथ रेशनोस।
- अकेले सेट्स के इंट्रिंसिक गुण, ज्यामितीय संबंध की तुलना में कम प्रेडिक्टिव थे।
स्टेबिलिटी: ऑडिटर की रैंकिंग क्वालिटी विभिन्न अनलर्निंग एल्गोरिदमों में स्थिर रही, जो यह सुझाव देती है कि कोलेटरल डैमेज काफी हद तक डेटा के बीच पूर्व-मौजूद ज्यामितीय कपलिंग (geometric coupling) से निर्धारित होता है।
सेंसिटिविटी: ऑडिटर ने इवैल्यूएशन सेट्स के रिस्क कंपोजिशन में बदलाव के प्रति सही प्रतिक्रिया दी, जो रैंडम नॉइज़ पर प्रतिक्रिया करने के बजाय हाई-रिस्क और लो-रिस्क ब्लॉक्स के बीच अंतर कर सका।

4. महत्व और दावे (Significance and Claims)

यह पेपर फॉरगेट-सेट ऑडिटिंग को पूर्ण मूल्यांकन के विकल्प के बजाय एक 'अर्ली वार्निंग टूल' के रूप में स्थापित करता है। इसके प्राथमिक योगदान और महत्व निम्नलिखित हैं:

ग्रैनुलर कैरेक्टराइजेशन: यह एक तीन-स्तरीय ढांचे को स्थापित करता है जो प्रदर्शित करता है कि अनलर्निंग डैमेज केवल लक्षित क्षेत्र तक सीमित नहीं है बल्कि सिमेंटिक दूरी के साथ घटता है, और डोमेन सीमाओं के पार भी बना रहता है।
प्री-एम्प्टिव रिस्क स्क्रीनिंग: यह प्रदर्शित करता है कि किसी भी महंगे अनलर्निंग ऑप्टिमाइजेशन को चलाने से पहले केवल डेटा ज्योमेट्री (इंटरेक्शन फीचर्स) का उपयोग करके कोलेटरल डैमेज की भविष्यवाणी की जा सकती है।
प्रैक्टिकल ट्राइएज (Practical Triage): ऑडिटर चिकित्सकों को जोखिम भरे अनलर्निंग रन को प्राथमिकता देने, असुरक्षित डोमेन के लिए रिटेन-डेटा बजट आवंटित करने, या पाइपलाइन में जल्दी उच्च-जोखिम वाले फॉरगेट-सेट उम्मीदवारों को अस्वीकार करने में सक्षम बनाता है।
डेटा-सेंट्रिक इनसाइट: निष्कर्ष बताते हैं कि कोलेटरल डैमेज केवल अनलर्निंग एल्गोरिदम के मैकेनिक्स का फंक्शन नहीं है, बल्कि यह भूलने के लिए दिए गए डेटा और बनाए रखने के लिए रखे गए डेटा के बीच ज्यामितीय संबंध से काफी प्रभावित होता है।

लेखक विनम्रतापूर्वक अपनी सीमाओं का उल्लेख करते हैं, जिसमें यह शामिल है कि अध्ययन में अनलर्निंग एल्गोरिदम और मॉडल्स का एक उपसमुच्चय (subset) शामिल है, और परप्लेक्सिटी व्यवहार संबंधी गिरावट (behavioral degradation) के लिए एक प्रॉक्सी के रूप में कार्य करती है। वे निष्कर्ष निकालते हैं कि हालांकि ऑडिटर पूर्ण मूल्यांकन की जगह नहीं लेता है, लेकिन यह प्रक्रिया को विशुद्ध रूप से पोस्ट-हॉक माप से बदलकर एक सस्ते, रिस्क-गाइडेड रैंकिंग समस्या में बदल देता है।