MAAT: Multi-phase Adapter-Aware Targeted Unlearning
यह शोध पत्र 5WBENCH प्रस्तुत करता है, जो एक संतुलित बेंचमार्क है जो यह प्रकट करता है कि मौजूदा मशीन अनलर्निंग विधियाँ मल्टी-हॉप रीजनिंग और ग्रेडिएंट डाइल्यूशन के कारण कारण संबंधी "क्यों" वाले प्रश्नों पर विफल रहती हैं, और MAAT का प्रस्ताव करता है, जो एक अभिनव तीन-चरणीय एडेप्टर-अवेयर फ्रेमवर्क है जो पहली बार ऐसे कारण संबंधी ज्ञान के लिए उच्च विस्मृति (forgetting) और प्रतिधारण (retention) प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक विशाल, सुपर-स्मार्ट लाइब्रेरी (एक लार्ज लैंग्वेज मॉडल) है जो सब कुछ जानती है। कभी-कभी, आपको उस लाइब्रेरी से एक विशिष्ट पुस्तक को हटाना पड़ता है क्योंकि वह पुरानी, निजी या गलत है। इस प्रक्रिया को "मशीन अनलर्निंग" (Machine Unlearning) कहा जाता है।
हालाँकि, यह शोध पत्र तर्क देता है कि वर्तमान में हम यह परीक्षण करने का तरीका कि क्या लाइब्रेरी ने सफलतापूर्वक एक पुस्तक को हटा दिया है, दोषपूर्ण है। यहाँ MAAT और 5WBENCH की कहानी है, जिसे सरल रूप में समझाया गया है।
समस्या: "क्यों" प्रश्न का ब्लाइंड स्पॉट (अंध बिंदु)
कल्पना कीजिए कि आप एक लाइब्रेरियन का परीक्षण कर रहे हैं कि क्या वह एक विशिष्ट तथ्य भूल गया है।
- वर्तमान परीक्षण: अधिकांश परीक्षण सरल प्रश्न पूछते हैं जैसे "राष्ट्रपति कौन है?" या "राजधानी क्या है?" इन्हें भूलना आसान है। यदि लाइब्रेरियन कहता है "मुझे नहीं पता," तो आप सोचते हैं कि उसने अच्छा काम किया।
- लुप्त कड़ी: शोध पत्र बताता है कि ये परीक्षण लगभग कभी भी "क्यों" वाले प्रश्न (जैसे, "धूम्रपान से कैंसर क्यों होता है?") नहीं पूछते। "क्यों" वाले प्रश्न तर्क के ईंटों से बनी जटिल, बहु-मंजिला इमारतों की तरह होते हैं। उन्हें ढहाना कठिन होता है।
दोष: क्योंकि वर्तमान परीक्षण "क्यों" वाले प्रश्नों को अनदेखा करते हैं, इसलिए एक लाइब्रेरियन एक जटिल "क्यों" वाले तथ्य को भूलने में विफल हो सकता है लेकिन फिर भी एक परफेक्ट स्कोर प्राप्त कर सकता है क्योंकि उसने सभी सरल "कौन" और "क्या" वाले तथ्यों को भुला दिया है। यह एक छात्र की तरह है जो कठिन गणित की परीक्षा में फेल हो जाता है लेकिन स्पेलिंग टेस्ट में अव्वल आने के कारण 'A' ग्रेड प्राप्त कर लेता है।
समाधान भाग 1: 5WBENCH (नया परीक्षण)
लेखकों ने एक नया, निष्पक्ष परीक्षण बनाया है जिसे 5WBENCH कहा जाता है।
- उपमा: इसे परीक्षण के लिए एक संतुलित आहार के रूप में सोचें। केवल सेब (सरल तथ्य) परोसने के बजाय, वे पाँच प्रकार के खाद्य पदार्थों की समान मात्रा के साथ एक प्लेट परोसते हैं: कौन (Who), क्या (What), कब (When), कहाँ (Where), और क्यों (Why)।
- परिणाम: इस परीक्षण ने खुलासा किया कि मौजूदा तरीके "क्यों" वाले तथ्यों को भूलने में बहुत खराब हैं। या तो वे बहुत कम भूलते हैं (तथ्य बना रहता है) या वे बहुत अधिक भूल जाते हैं (वे लाइब्रेरियन की किसी भी प्रश्न का उत्तर देने की क्षमता को तोड़ देते हैं)।
समाधान भाग 2: MAAT (स्मार्ट इरेज़र/मिटाने वाला)
इसे ठीक करने के लिए, लेखकों ने MAAT (मल्टी-फेज एडैप्टर-अवेयर टार्गेटेड अनलर्निंग) बनाया है।
सेटअप:
कल्पना कीजिए कि लाइब्रेरी का ज्ञान दीवारों में नहीं लिखा है, बल्कि किताबों से चिपके हुए विशेष स्टिकी नोट्स (LoRA एडैप्टर्स) के एक सेट में है। आपको पूरी लाइब्रेरी को गिराने की आवश्यकता नहीं है; आपको बस इन नोट्स को संपादित करने की आवश्यकता है।
MAAT कैसे काम करता है (तीन चरण):
चरण 1: "इसे मत छुओ" वाला कवच (ग्रेडिएंट प्रोजेक्शन)
- समस्या: जब आप एक "क्यों" वाले तथ्य को मिटाने की कोशिश करते हैं, तो मिटाने वाला यंत्र गलती से उस "कब" वाले तथ्य को भी मिटा सकता है जिसे आप रखना चाहते थे।
- समाधान: MAAT एक कवच का उपयोग करता है। यह "मिटाने" के बल और "रखने" के बल की दिशा को देखता है। यदि वे एक-दूसरे से लड़ रहे हैं, तो यह मिटाने के बल को इस तरह कोण देता है कि वह केवल लक्ष्य पर ही लगे और उन चीजों के बगल से निकल जाए जिन्हें आप रखना चाहते हैं।
चरण 2: "स्कैल्पल" सर्जरी (SVD प्रूनिंग और टास्क नेगेशन)
- समस्या: "क्यों" वाले तथ्य लंबे और जटिल होते हैं। वे कई स्टिकी नोट्स पर फैले होते हैं, जिससे उन्हें ढूंढना और हटाना कठिन हो जाता है।
- समाधान: MAAT स्टिकी नोट्स पर "सर्जरी" करता है।
- यह नोट्स के उन विशिष्ट हिस्सों की पहचान करता है जिनमें "बुरा" जानकारी होती है (SVD नामक एक गणितीय उपकरण का उपयोग करके)।
- यह केवल उन्हीं विशिष्ट हिस्सों को काट देता है (प्रूनिंग/छंटाई)।
- फिर, यह शेष "बुरे" हिस्सों को उल्टा (नेगेशन/नकारना) कर देता है ताकि वे एक-दूसरे को रद्द कर दें।
- महत्वपूर्ण विवरण: यह उन नोट्स के हिस्सों को काटने में बहुत सावधान रहता है जो लाइब्रेरियन को अन्य प्रश्न पूछने में मदद करते हैं।
चरण 3: "पॉलिश" (हाइब्रिड रिपेयर)
- समस्या: काटने और उलटने के बाद, लाइब्रेरियन थोड़ा डगमगाया हुआ या विस्मृति का शिकार हो सकता है।
- समाधान: MAAT लाइब्रेरी को धीरे से वापस पॉलिश करता है। यह लाइब्रेरियन को उन चीजों को फिर से सिखाता है जिन्हें उसे याद रखना चाहिए, लेकिन इसमें एक विशेष नियम जोड़ता है: "उस चीज़ को दोबारा न सीखें जिसे आपने अभी मिटाया है।" यह एक छात्र को यह बताने जैसा है कि, "अपना इतिहास पढ़ो, लेकिन उस एक विशिष्ट तारीख को याद मत करना जिसे हमने अभी हटाया है।"
परिणाम: एक नया संतुलन
MAAT से पहले, आपको चुनना पड़ता था:
- विकल्प A: बुरे तथ्य को भूल जाएँ, लेकिन लाइब्रेरी को तोड़ दें (लाइब्रेरियन बेकार हो जाता है)।
- विकल्प B: लाइब्रेरी को काम करने योग्य रखें, लेकिन बुरे तथ्य को भूलने में विफल रहें।
MAAT की उपलब्धि:
नए 5WBENCH परीक्षण का उपयोग करते हुए, MAAT एक ही समय में दोनों कार्य करने वाला पहला तरीका है। यह जटिल "क्यों" वाले तथ्यों को सफलतापूर्वक भूल जाता है बिना लाइब्रेरियन की अन्य प्रश्न पूछने की क्षमता को तोड़े।
एक वाक्य में सारांश
यह शोध पत्र कहता है, "वर्तमान परीक्षण अनुचित हैं क्योंकि वे कठिन 'क्यों' वाले प्रश्नों को अनदेखा करते हैं, इसलिए हमने एक बेहतर परीक्षण (5WBENCH) और एक स्मार्ट इरेज़र (MAAT) बनाया है जो बाकी लाइब्रेरी को नष्ट किए बिना जटिल ज्ञान को हटा सकता है।"
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।