Unlearning Isn't Invisible: Detecting Unlearning Traces in LLMs from Model Outputs
यह शोध पत्र प्रकट करता है कि लार्ज लैंग्वेज मॉडल्स में मशीन अनलर्निंग (machine unlearning) मॉडल के आउटपुट और आंतरिक एक्टिवेशन्स दोनों में स्थायी, पता लगाने योग्य "फिंगरप्रिंट्स" छोड़ देती है, जिससे क्लासिफायर यह पहचानने में सक्षम होते हैं कि क्या किसी मॉडल में अनलर्निंग की प्रक्रिया हुई है, और यह सटीकता अप्रासंगिक इनपुट्स के साथ भी 90% से अधिक रहती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक विशाल, अत्यंत बुद्धिमान पुस्तकालय (एक लार्ज लैंग्वेज मॉडल) है जिसने लाखों किताबें पढ़ी हैं। कभी-कभी, आपको उस पुस्तकालय से विशिष्ट पुस्तकें हटानी पड़ती हैं क्योंकि उनमें रहस्य, कॉपीराइट सामग्री, या खतरनाक निर्देश होते हैं। इस प्रक्रिया को "मशीन अनलर्निंग" (Machine Unlearning) कहा जाता है।
लक्ष्य यह है कि पुस्तकालय ऐसा व्यवहार करे जैसे उसने वह विशिष्ट पुस्तकें कभी पढ़ी ही न हों, जबकि वह बाकी सब कुछ के बारे में सवालों के जवाब देने में पूरी तरह सक्षम रहे।
हालाँकि, ICLR 2026 का यह नया शोध एक आश्चर्यजनक समस्या की खोज करता है: आप वास्तव में यह छिपा नहीं सकते कि आपने कोई पुस्तक हटाई है।
यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. "मशीन में भूत" (अनलर्निंग के निशान)
जब आप किसी चीज़ को "अनलर्न" करने की कोशिश करते हैं, तो पुस्तकालय केवल उस पुस्तक को मिटाकर खाली जगह नहीं छोड़ देता। इसके बजाय, यह पीछे एक फिंगरप्रिंट (उंगलियों के निशान) छोड़ देता है।
इसे इस तरह सोचें: यदि आप एक सफेद शर्ट से दाग मिटाने की कोशिश करते हैं, तो आप रंग तो निकाल सकते हैं, लेकिन कपड़ा अभी भी थोड़ा खुरदरा महसूस हो सकता है या सूक्ष्मदर्शी (microscope) के नीचे अलग दिख सकता है। शोध पत्र इन निशानों को "अनलर्निंग ट्रेसेस" (unlearning traces) कहता है। भले ही पुस्तकालय असंबंधित विषयों (जैसे, "फ्रांस की राजधानी क्या है?") पर सवाल का जवाब दे रहा हो, फिर भी उसके सोचने और उत्तर देने का तरीका एक सूक्ष्म "निशान" या "घाव" को ढोता है जो इस तथ्य से जुड़ा है कि उसे संपादित (edit) किया गया था।
2. जासूस का टूलकिट
शोधकर्ताओं ने इन निशानों को पहचानने के लिए एक सरल "जासूस" (एक कंप्यूटर क्लासिफायर) बनाया। उन्होंने पुस्तकालय को देखने के दो तरीके आजमाए:
"यह क्या कहता है" परीक्षण (टेक्स्टुअल रिस्पॉन्स): उन्होंने पुस्तकालय द्वारा लिखे गए वास्तविक शब्दों को देखा।
- परिणाम: कभी-कभी यह काम करता है। यदि पुस्तकालय को NPO नामक विधि से संपादित किया गया था, तो "निशान" बहुत स्पष्ट है। पुस्तकालय सुरक्षित विषयों पर बात करते समय भी थोड़ा रोबोटिक या भ्रमित सुनाई देने लगता है। यह वैसा ही है जैसे कोई सामान्य दिखने की कोशिश कर रहा हो लेकिन बोलते समय लड़खड़ा रहा हो।
- परिणाम: यदि पुस्तकालय को RMU नामक विधि से संपादित किया गया था, तो टेक्स्ट लगभग एकदम सही दिखता है। "यह क्या कहता है" वाला परीक्षण अक्सर यहाँ विफल हो जाता है क्योंकि पुस्तकालय अंतिम शब्दों में अपने पदचिह्नों को छिपाने में बहुत कुशल होता है।
"यह कैसे सोचता है" परीक्षण (आंतरिक एक्टिवेशन): उन्होंने पुस्तकालय की आंतरिक "मस्तिष्क तरंगों" (कंप्यूटर के अंदर होने वाली गणितीय प्रक्रिया जो शब्द लिखने से पहले होती है) को देखा।
- परिणाम: यहीं असली जादू होता है। भले ही पुस्तकालय का सुनाई देने वाला टेक्स्ट एकदम सटीक हो, लेकिन उसकी आंतरिक "मस्तिष्क तरंगें" एक स्पष्ट पैटर्न दिखाती हैं। यह किसी व्यक्ति की धड़कन सुनने जैसा है; भले ही वह फुसफुसा रहा हो, लय थोड़ी अलग हो सकती है क्योंकि वह कुछ छिपा रहा है। शोधकर्ताओं ने पाया कि ये आंतरिक पैटर्न एक विशिष्ट, लो-डायमेंशनल आकार बनाते हैं जिसे एक कंप्यूटर आसानी से पहचान सकता है।
3. आकार मायने रखता है
शोध पत्र में एक मजेदार रुझान मिला: बड़े पुस्तकालयों को पकड़ना आसान होता है।
- एक छोटा पुस्तकालय (जैसे, 7-बिलियन पैरामीटर वाला मॉडल) पकड़ना कठिन होता है क्योंकि उसके "निशान" धुंधले और अस्पष्ट होते हैं।
- एक विशाल पुस्तकालय (जैसे, 34-बिलियन पैरामीटर वाला मॉडल) स्पष्ट फिंगरप्रिंट छोड़ता है। यह एक कमरे में एक विशाल हाथी को छिपाने की कोशिश करने जैसा है; हाथी जितना बड़ा होगा, यह दिखाना उतना ही कठिन होगा कि वह वहाँ नहीं है।
4. बड़ा जोखिम: रिवर्स इंजीनियरिंग
यह क्यों मायने रखता है? शोध पत्र चेतावनी देता है कि यह एक नया सुरक्षा जोखिम पैदा करता है।
कल्पना कीजिए कि एक बुरा व्यक्ति (एक एडवर्सरी) उस "वर्जित" जानकारी को वापस पाना चाहता है जिसे पुस्तकालय को भूलने के लिए कहा गया था।
- इस खोज से पहले: उन्हें यह अनुमान लगाना पड़ता था कि किस पुस्तकालय को संपादित किया गया है और अंधेरे में सभी को हैक करने की कोशिश करनी पड़ती थी।
- इस खोज के बाद: वे एक त्वरित "ट्रेस डिटेक्टर" चला सकते हैं। यदि डिटेक्टर कहता है, "हाँ, इस पुस्तकालय को संपादित किया गया है," तो बुरा व्यक्ति जानता है कि उसे अपनी ऊर्जा कहाँ केंद्रित करनी है। वे फिर विशिष्ट तरकीबों का उपयोग करके वर्जित जानकारी को "पुनः सीखने" (re-learn) की कोशिश कर सकते हैं, जिससे सुरक्षा उपायों को बायपास किया जा सके।
सारांश
शोध पत्र निष्कर्ष निकालता है कि अनलर्निंग अदृश्य नहीं है। भले ही किसी मॉडल को विशिष्ट डेटा को भूलने के लिए संपादित किया गया हो, फिर भी उसकी आंतरिक मस्तिष्क गतिविधि में स्थायी "फिंगरप्रिंट" रह जाते हैं। सरल कंप्यूटर प्रोग्राम इन फिंगरप्रिंटों को 90% से अधिक सटीकता के साथ पहचान सकते हैं, भले ही मॉडल पूरी तरह से असंबंधित प्रश्नों के उत्तर दे रहा हो। इसका मतलब है कि यह दावा करना कि किसी मॉडल ने कुछ "भूल" गया है, उतना सुरक्षित नहीं हो सकता जितना कि हम सोचते थे, क्योंकि भूलने की प्रक्रिया स्वयं एक पता लगाने योग्य संकेत छोड़ देती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।