EvoMU: Evolutionary Machine Unlearning
EvoMU एक विकासवादी खोज प्रक्रिया (evolutionary search procedure) पेश करता है जो स्वचालित रूप से कार्य-विशिष्ट अनलर्निंग लॉस फंक्शन (task-specific unlearning loss functions) की खोज करता है, जो कई बेंचमार्क पर मौजूदा तरीकों से बेहतर प्रदर्शन करता है और यह प्रदर्शित करता है कि एक एआई सह-वैज्ञानिक (AI co-scientist) अपेक्षाकृत छोटे पैमाने के मॉडल का उपयोग करके अत्याधुनिक परिणाम प्राप्त कर सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक विशाल, अति-बुद्धिमान डिजिटल विश्वकोश (एक AI मॉडल) है जिसने इंटरनेट पर मौजूद सब कुछ याद कर लिया है। यह बहुत प्रतिभाशाली है, लेकिन एक समस्या है: इसने वे चीजें भी याद कर ली हैं जो इसे नहीं करनी चाहिए थीं—जैसे आपके निजी मेडिकल रिकॉर्ड, कॉपीराइट वाली किताबें, या कुछ हानिकारक चीज़ें बनाने के खतरनाक निर्देश।
अब, आप उन विशिष्ट हिस्सों को "अनलर्न" (भूलना) करना चाहते हैं—यानी उन्हें अपने दिमाग से निकालना चाहते हैं। आप AI से वह चीज़ सीधे डिलीट नहीं कर सकते क्योंकि AI का ज्ञान परस्पर जुड़े हुए विचारों के एक विशाल जाल की तरह है; यदि आप एक धागा खींचते हैं, तो पूरा ढांचा बिखर सकता है, जिससे AI अपनी सामान्य बुद्धिमत्ता खो सकता है या अजीब व्यवहार करने लग सकता है।
समस्या: "गोल्डिलॉक्स" दुविधा (The Goldilocks Dilemma)
आमतौर पर, इंसान इसे ठीक करने के लिए एक गणितीय सूत्र (एक "लॉस फंक्शन") लिखने की कोशिश करते हैं जो AI को बताता है: "इस विशिष्ट चीज़ को भूल जाओ, लेकिन बाकी सब कुछ मत भूलना।"
लेकिन यह अविश्वसनीय रूप से कठिन है। यह एक हथौड़े से सर्जरी करने की कोशिश करने जैसा है।
- यदि सूत्र बहुत अधिक आक्रामक है, तो AI "मस्तिष्क-क्षतिग्रस्त" (brain-damaged) हो जाता है (यह ठीक से बोलना भूल जाता है या अपनी सामान्य जानकारी खो देता है)।
- यदि यह बहुत कोमल है, तो AI "भूलने का नाटक" करता है लेकिन अभी भी गुप्त जानकारी प्रकट करने के लिए उसे छल दिया जा सकता है।
- और क्योंकि हर डेटासेट अलग होता है, एक सूत्र जो किसी जीवनी को भुलाने के लिए काम करता है, वह किसी रेसिपी को भुलाने में बुरी तरह विफल हो सकता है।
समाधान: EvoMU (AI सह-वैज्ञानिक)
शोधकर्ताओं ने EvoMU बनाया। एक इंसान द्वारा सटीक सूत्र का अनुमान लगाने के बजाय, उन्होंने एक AI वैज्ञानिक बनाया ताकि वह वह सूत्र खोज सके।
EvoMU को "विकासवादी कुकिंग" (Evolutionary Cooking) की तरह समझें:
- प्रस्तावक (शेफ): एक AI "शेफ" भूलने के लिए कई अलग-अलग "रेसिपी" (गणितीय सूत्र) तैयार करता है।
- टेस्ट किचन (प्रशिक्षण): प्रत्येक रेसिपी का परीक्षण AI के एक छोटे संस्करण पर किया जाता है। हम देखते हैं कि यह कितनी अच्छी तरह "अनलर्न" करती है और यह कितनी "फ्लेवर" (सामान्य बुद्धिमत्ता) को बनाए रखती है।
- योग्यतम की उत्तरजीविता (चयन): वे रेसिपी जो सबसे अच्छा काम करती हैं—जो बुरी जानकारी को मिटा देती हैं बिना AI को खराब किए—उन्हें रख लिया जाता है। बुरी रेसिपी को कचरे में फेंक दिया जाता है।
- उत्परिवर्तन (परिष्करण): जीतने वाली रेसिपी को वापस AI शेफ को दिया जाता है। शेफ कहता है, "यह अच्छा था, लेकिन आइए इसमें इस चीज़ का एक चुटकी और अधिक और उस चीज़ का थोड़ा कम डालें," जिससे रेसिपी की एक नई, और भी बेहतर पीढ़ी बनती है।
वे इस लूप को बार-बार दोहराते हैं जब तक कि वे उस सटीक समस्या के लिए विशेष रूप से तैयार की गई एक "सुपर-रेसिपी" की खोज नहीं कर लेते।
यह एक बड़ी बात क्यों है?
- यह कुशल है: उन्हें यह करने के लिए किसी विशाल, दुनिया-को खत्म करने वाले सुपरकंप्यूटर की आवश्यकता नहीं थी। उन्होंने सोचने के लिए एक अपेक्षाकृत छोटे, "बजट" AI का उपयोग किया, जो यह साबित करता है कि एक महान वैज्ञानिक बनने के लिए आपको विशाल मस्तिष्क की आवश्यकता नहीं है।
- यह कस्टम-मेड है: एक "एक ही आकार सबके लिए उपयुक्त" (one-size-fits-all) उपकरण के बजाय, EvoMU उस हर विशिष्ट प्रकार के डेटा के लिए एक कस्टम सर्जिकल टूल बनाता है जिसे आप हटाना चाहते हैं।
- यह वास्तव में काम करता है: अपने परीक्षणों में, EvoMU द्वारा खोजी गई रेसिपी ने मानव विशेषज्ञों द्वारा डिज़ाइन किए गए सूत्रों को पछाड़ दिया। वे रहस्यों को मिटाने में बेहतर थे और AI को स्मार्ट बनाए रखने में भी बेहतर थे।
संक्षेप में: EvoMU एक स्वचालित प्रयोगशाला की तरह है जो किसी भी जानकारी के लिए एकदम सही "इरेज़र" (मिटाने वाला यंत्र) खोजने के लिए लाखों छोटे प्रयोग चलाती है, यह सुनिश्चित करती है कि AI ठीक वही भूले जो उसे भूलना चाहिए, और इस प्रक्रिया में अपनी बुद्धि न खोए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।