Leak@: Unlearning Does Not Make LLMs Forget Under Probabilistic Decoding
यह शोध पत्र प्रकट करता है कि मौजूदा LLM अनलर्निंग विधियाँ प्रोबेबिलिस्टिक डिकोडिंग के तहत वास्तविक विस्मृति (forgetting) प्राप्त करने में विफल रहती हैं, इस भेद्यता को मापने के लिए \texttt{leak@} मीट्रिक पेश करती हैं और कई बेंचमार्क में ज्ञान रिसाव (knowledge leakage) को प्रभावी ढंग से कम करने के लिए \texttt{RULE} एल्गोरिदम का प्रस्ताव देती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र "Leak@k: Unlearning Does Not Make LLMs Forget Under Probabilistic Decoding" का सरल भाषा और रचनात्मक उपमाओं (analogies) के साथ हिंदी अनुवाद दिया गया है।
मुख्य विचार: "भूलने" का भ्रम (The "Amnesia" Illusion)
कल्पना कीजिए कि आपने एक लाइब्रेरियन (AI) को काम पर रखा है और उससे उनके संग्रह से एक विशिष्ट, शर्मनाक किताब हटाने के लिए कहा है। आप चाहते हैं कि वह उस कहानी को पूरी तरह से भूल जाए ताकि वह उसे फिर कभी न सुनाए।
शोधकर्ताओं ने इस पेपर में एक चौंकाने वाला सच खोजा है: लाइब्रेरियन वास्तव में कहानी को भूल नहीं रहा है।
जब आप लाइब्रेरियन से कोई सवाल पूछते हैं, तो वे आमतौर पर एक मानक, सुरक्षित उत्तर देते हैं (जैसे कोई रोबोट स्क्रिप्ट पढ़ रहा हो)। इसे Greedy Decoding कहा जाता है। इन परिस्थितियों में, लाइब्रेरियन ऐसा दिखता है जैसे उसने किताब को सफलतापूर्वक भुला दिया है।
हालाँकि, यदि आप लाइब्रेरियन को "इम्प्रोवाइज" करने या "रचनात्मक होने" के लिए कहते हैं (जिस तरह से वास्तविक दुनिया में AI वास्तव में काम करता है, जिसे Probabilistic Decoding कहा जाता है), तो लाइब्रेरियन अचानक उस कहानी को याद कर लेता है और आपको वह सुना देता है, अक्सर शब्द-दर-शब्द। "भूलना" केवल एक भ्रम था जो उन्हें टेस्ट करने के तरीके के कारण पैदा हुआ था।
समस्या: "मैजिक 8-बॉल" बनाम "क्रिस्टल बॉल" (The "Magic 8-Ball" vs. The "Crystal Ball")
AI कैसे निर्णय लेता है, इसे समझने के लिए हमें यह देखना होगा:
- Greedy Decoding (The Crystal Ball): कल्पना कीजिए कि AI हमेशा अगला सबसे स्पष्ट, सुरक्षित शब्द चुनता है। यह एक क्रिस्टल बॉल की तरह है जो आपको केवल सबसे संभावित भविष्य ही दिखाती है। इस मोड में, AI सफलतापूर्वक रहस्य को छिपा लेता है।
- Probabilistic Decoding (The Magic 8-Ball): वास्तविक दुनिया में, AI केवल सबसे संभावित शब्द नहीं चुनता; वह अच्छे विकल्पों की एक सूची में से चुनता है, कभी-कभी अधिक रचनात्मक या मानव जैसा होने के लिए जोखिम भरा रास्ता भी अपनाता है। यह एक मैजिक 8-बॉल को हिलाने जैसा है।
- खोज: पेपर में पाया गया कि जबकि AI 'क्रिस्टल बॉल' के माध्यम से देखते समय रहस्य को छिपा लेता है, लेकिन जब आप 'मैजिक 8-बॉल' को पर्याप्त बार हिलाते हैं, तो वह रहस्य उगल देता है। यदि आप एक ही सवाल को अलग-अलग "shakes" (रैंडमनेस) के साथ 64 बार पूछते हैं, तो रहस्य अंततः बाहर निकल आता है।
नया टूल: "Leak@k"
लेखकों ने महसूस किया कि वर्तमान परीक्षण ऐसे थे जैसे नदी शांत होने पर ही बांध की जाँच करना। उन्हें तूफान के दौरान बांध का परीक्षण करने के तरीके की आवश्यकता थी।
उन्होंने Leak@k नामक एक नया मापने का पैमाना बनाया।
- उपमा: कल्पना कीजिए कि आप यह देखने की कोशिश कर रहे हैं कि क्या एक छलनी (sieve) में छेद हैं।
- पुराना तरीका: आप छलनी के माध्यम से एक कप पानी डालते हैं। पानी बाहर नहीं आया? बहुत बढ़िया, कोई छेद नहीं है! (यह पुराना "Greedy" टेस्ट है)।
- Leak@k तरीका: आप छलनी के माध्यम से k कप पानी डालते हैं। भले ही पहला कप लीक न हो, लेकिन 10वें या 50वें कप को एक छोटा सा छेद मिल सकता है और पानी रिस सकता है।
- यह क्या मापता है: यह गणना करता है कि उन कई प्रयासों में से कम से कम एक प्रयास में गुप्त जानकारी प्रकट होने की संभावना कितनी है। पेपर दिखाता है कि लगभग सभी वर्तमान "अनलर्निंग" (unlearning) विधियों के लिए, जैसे-जैसे आप कपों की संख्या (k) बढ़ाते हैं, पानी (रहस्य) अंततः लीक हो जाता है।
प्रमाण: "बस टू हेल" (Bus to Hell) का उदाहरण
पेपर समाचार लेखों (MUSE) के एक डेटासेट का उपयोग करके एक मजेदार लेकिन गंभीर उदाहरण प्रदान करता है।
- रहस्य: एक बस रूट नंबर जिसे 666 (नरक/Hell) से बदलकर 669 कर दिया गया था।
- परीक्षण:
- Greedy Mode: AI कहता है, "मुझे उस रूट के बारे में नहीं पता।" (सफलता!)
- Probabilistic Mode (64 प्रयास): AI अंततः कहता है, "नया रूट नंबर 669 है।" (विफलता!)
यह तीन अलग-अलग प्रमुख परीक्षणों (TOFU, MUSE, और WMDP) में देखा गया। चाहे वह किसी फर्जी लेखक का नाम हो, कोई समाचार तथ्य हो, या खतरनाक जैविक ज्ञान, "भूलना" विफल रहा जैसे ही AI को रचनात्मक होने की अनुमति दी गई।
समाधान: RULE (Robust Unlearning)
चूंकि पुराने तरीके गीले टिश्यू पेपर से टैटू मिटाने जैसे थे (यह गायब दिखता है, लेकिन स्याही अभी भी वहीं है), इसलिए लेखकों ने RULE नामक एक नई विधि बनाई।
यह कैसे काम करता है: केवल AI को "यह विशिष्ट वाक्य भूल जाओ" कहने के बजाय, RULE "व्हैक-ए-मोल" (Whac-A-Mole) का खेल खेलता है।
- यह AI से सवाल को कई बार पूछता है ताकि यह देखा जा सके कि वह रहस्य कैसे लीक करने की कोशिश करता है।
- यह AI को तब पकड़ लेता है जब वह लगभग गलती करने ही वाला होता है।
- फिर यह AI को उन विशिष्ट गलतियों को भी भूलने के लिए सिखाता है।
- यह प्रक्रिया दोहराता है, हर बार अधिक सख्त होता जाता है।
परिणाम: RULE के साथ, यदि आप मैजिक 8-बॉल को 128 बार भी हिलाते हैं, तो भी रहस्य छिपा रहता है। AI वास्तव में भूल जाता है, न कि केवल तब जब वह सावधान रहता है, बल्कि तब भी जब वह रचनात्मक हो रहा होता है।
सारांश
- समस्या: वर्तमान AI "unlearning" विधियाँ नकली हैं। वे केवल तभी काम करती हैं जब AI को उबाऊ और अनुमानित होने के लिए मजबूर किया जाता है।
- वास्तविकता: जब AI को रचनात्मक होने की अनुमति दी जाती है (जैसा कि हम इसका उपयोग करते हैं), तो यह उन चीजों को याद रखता है जिन्हें हमने इसे भूलने के लिए कहा था।
- समाधान: लेखकों ने इस धोखाधड़ी को पकड़ने के लिए एक नया परीक्षण (Leak@k) और AI को वास्तव में भूलने के लिए एक नया प्रशिक्षण तरीका (RULE) बनाया, जो दबाव में भी काम करता है।
पेपर निष्कर्ष निकालता है कि हम वर्तमान AI सुरक्षा उपायों पर तब तक भरोसा नहीं कर सकते जब तक कि हम उन्हें इस नए, अधिक सख्त "Leak@k" मानक के साथ टेस्ट न करें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।