Forget Narrowly, Retain Broadly: Unlearning as an Asymmetric Generalization Problem
यह शोध पत्र मशीन अनलर्निंग (machine unlearning) में एसिमेट्रिक जनरलाइजेशन (asymmetric generalization) की चुनौतियों को संबोधित करने के लिए SUITE मूल्यांकन प्रोटोकॉल और JensUn++ एल्गोरिदम प्रस्तुत करता है, जहाँ वर्तमान विधियाँ असंबंधित जानकारी को अनजाने में मिटाए बिना विशिष्ट ज्ञान को विश्वसनीय रूप से हटाने में विफल रहती हैं, जो एक व्यापक डेटासेट प्रदान करके जो जटिल भूलने-याद रखने की सीमा (forget-retain boundary) को दर्शाता है और यह प्रदर्शित करता है कि इष्टतम उपयोगिता व्यापार-समझौतों (utility trade-offs) को प्राप्त करने के लिए बेहतर प्रशिक्षण डेटा उतना ही महत्वपूर्ण है जितना कि एल्गोरिदम का डिज़ाइन।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक विशाल, सुपर-स्मार्ट लाइब्रेरी रोबोट है जिसका नाम "LLM" है और वह लगभग सब कुछ जानता है। कभी-कभी, गोपनीयता या सुरक्षा कारणों से, आपको इस रोबोट को एक विशिष्ट, शर्मनाक राज भूलने के लिए कहना पड़ता है—मान लीजिए कि किसी प्रसिद्ध पॉप स्टार की कानूनी मुश्किलों का सटीक विवरण। लेकिन इसमें एक पेंच है: आप नहीं चाहते कि रोबोट बाकी सब कुछ भूल जाए। आप चाहते हैं कि वह अभी भी केक बनाना, गणित की समस्याओं को हल करना और अंतरिक्ष के बारे में बात करना जानता रहे, भले ही वह उस एक पॉप स्टार के बारे में बात न कर सके।
समस्या यह है कि जिन परीक्षणों का उपयोग हम यह जांचने के लिए कर रहे थे कि क्या रोबोट वास्तव में राज भूल गया है, वे "शब्द बूझो" (Guess the Word) खेल की तरह हैं जहाँ नियम पक्षपाती हैं।
दो बड़ी गलतियाँ: कम भूलना (Under-forgetting) और अधिक भूलना (Over-forgetting)
लेखकों का तर्क है कि वर्तमान परीक्षण दो बड़ी खामियों को छोड़ रहे हैं, जिन्हें वे अंडर-फॉरगेटिंग (कम भूलना) और ओवर-फॉरगेटिंग (अधिक भूलना) कहते हैं।
अंडर-फॉरगेटिंग (द "पैराफ्रेस" ट्रैप - पैराफ्रेस का जाल): कल्पना कीजिए कि आप रोबोट को कहते हैं, "पॉप स्टार के वकील का नाम भूल जाओ।" यदि आप पूछते हैं, "वकील कौन था?" तो वह कह सकता है, "मुझे नहीं पता।" लेकिन यदि आप पूछते हैं, "कानूनी अभिभावक का नाम क्या था?" या "2007 में गायक के लिए कोर्ट केस किसने संभाला था?" तो रोबोट अचानक याद कर सकता है! यह ऐसा है जैसे रोबोट ने केवल उस सटीक वाक्य को भुला दिया है जिसे आपने भूलने के लिए कहा था, लेकिन अगर आप उसे अलग तरीके से पूछें तो वह अभी भी राज जानता है। पेपर इसे अंडर-फॉरगेटिंग कहता है: रोबोट सोचता है कि वह भूल गया है, लेकिन वह बस सही सवाल पूछे जाने तक जवाब को छिपा रहा है।
ओवर-फॉरगेटिंग (द "कोलेटरल डैमेज" ट्रैप - बगल की क्षति का जाल): अब, कल्पना कीजिए कि आप रोबोट को पॉप स्टार को भूलने के लिए कहते हैं। घबराहट में, रोबोट "स्टार", "संगीत", या यहाँ तक कि "कोर्ट केस" से संबंधित सब कुछ भूलने का निर्णय लेता है। अचानक, वह किसी दूसरे गायक के बारे में नहीं बता पाता, या वह सामान्य रूप से कानूनी प्रणालियों के बारे में बात करना भूल जाता है। यह ऐसा है जैसे टोकरी से एक खराब सेब निकालने की कोशिश करने पर गलती से पूरी टोकरी ही टूट जाए। पेपर इसे ओवर-फॉरगेटिंग कहता है: रोबोट उस राज से इतना डर जाता है कि वह उपयोगी, असंबंधित ज्ञान को नष्ट कर देता है।
नया समाधान: SUITE (द "स्ट्रिक्ट टीचर" - सख्त शिक्षक)
इसे ठीक करने के लिए, लेखकों ने एक नया, सुपर-स्ट्रिक्ट टेस्टिंग किट बनाया जिसे SUITE (Selective Unlearning of Isolated Topics and Events) कहा जाता है। SUITE को एक सख्त शिक्षक के रूप में समझें जो केवल एक ही सवाल को दोबारा नहीं पूछता।
- "भूलने" (Forget) की तरफ: शिक्षक एक ही गुप्त प्रश्न को दर्जनों अलग-अलग तरीकों से पूछता है। वे सीधे पूछते हैं, वे उल्टा पूछते हैं ("किस गायक का यह वकील था?"), और वे अप्रत्यक्ष रूप से सुरागों का उपयोग करके पूछते हैं जिनमें डॉट्स जोड़ने (multi-hop reasoning) की आवश्यकता होती है। यदि रोबोट फिसल जाता है और इनमें से किसी भी सवाल का जवाब देता है, तो वह विफल हो जाता है।
- "याद रखने" (Retain) की तरफ: शिक्षक यह भी जाँचते हैं कि क्या रोबोट अभी भी उन चीजों को जानता है जो गुप्त राज के लगभग समान हैं लेकिन पूरी तरह से नहीं। उदाहरण के लिए, यदि राज "चैलेंजर" स्पेस शटल आपदा के बारे में है, तो शिक्षक "कोलंबिया" स्पेस शटल आपदा के बारे में, या "चैलेंजर" शब्द के बारे में बिल्कुल अलग संदर्भ (जैसे कि एक गहरी समुद्री खाई) में पूछेगा। यह सुनिश्चित करता है कि रोबोट ने गलती से वह सब कुछ नहीं भुला दिया जो उसके जैसा सुनाई देता है।
पेपर दिखाता है कि जब उन्होंने इस सख्त SUITE टेस्ट का उपयोग किया, तो कई पिछले तरीके बहुत अच्छा काम करते हुए दिखे, लेकिन वास्तव में, वे बुरी तरह विफल हो रहे थे। वे या तो राज को अभी भी याद रख रहे थे (अंडर-फॉरगेटिंग) या वे रोबोट के मस्तिष्क के अन्य हिस्सों को नष्ट कर रहे थे (ओवर-फॉरगेटिंग)।
नया एल्गोरिदम: JensUn++ (द "पोलाइट रिफ्यूज़र" - विनम्र मना करने वाला)
लेखकों ने रोबोट को भूलने का सिखाने का एक नया तरीका भी बनाया है, जिसे JensUn++ कहा जाता है।
अधिकांश पुराने तरीके जवाब को "दबाने" (suppress) की कोशिश करते थे। कल्पना कीजिए कि रोबोट को "मुझे नहीं पता" कहने के लिए मजबूर किया जा रहा है, लेकिन क्योंकि उसे मजबूर किया जा रहा है, वह अजीबोगरीब बातें उगलने लगता है जैसे "आसमान हरा है और संख्या बैंगनी है।" यह खतरनाक और अनुपयोगी है।
JensUn++ अलग है। यह रोबोट को चुप रहने या गड़बड़ी करने के बजाय, एक विनम्र, स्वाभाविक इनकार देना सिखाता है। यह रोबोट को सिखाता है कि वह कहे, "दुर्भाग्य से, मैं इस जानकारी को सत्यापित करने में असमर्थ हूँ," और फिर रुक जाए। यह ऐसा है जैसे रोबोट को शांत, मानवीय आवाज में "मैं आपको यह नहीं बता सकता" कहना सिखाना, बजाय इसके कि वह पागलपन करे।
पेपर ने पाया कि JensUn++ पुराने तरीकों की तुलना में बहुत बेहतर काम करता है। उनके परीक्षणों में, इसने (अच्छी चीजों को बनाए रखते हुए) गुप्त बातों को सफलतापूर्वक भुला दिया (चाहे उन्हें पेचीदा, अप्रत्यक्ष तरीकों से पूछा गया हो)।
वे कितने आश्वस्त हैं?
लेखक इन परिणामों के बारे में बहुत आश्वस्त हैं क्योंकि उन्होंने केवल अनुमान नहीं लगाया; उन्होंने इसे मापा है। उन्होंने अपने नए तरीके (JensUn++) और अपने नए टेस्ट किट (SUITE) को तीन अलग-अलग वास्तविक दुनिया के रोबोट दिमागों (Llama, Ministral, और Qwen) पर परखा।
- उन्होंने साबित किया कि उनके नए प्रशिक्षण डेटा (SUITE) का उपयोग करने से सभी तरीके बेहतर काम करने लगे, न कि केवल उनका अपना।
- उन्होंने दिखाया कि उनके नए तरीके, JensUn++, ने बुरी चीजों को भूलने और अच्छी चीजों को बनाए रखने के बीच सबसे अच्छा संतुलन हासिल किया। 'सीक्वेंशियल सेटिंग' (एक के बाद एक विषय सीखना) में, इसने 0% बकवास (gibberish) उत्तर दिए। 'जॉइंट सेटिंग' (एक साथ सभी विषयों को सीखना) में, इसने केवल 0.1% बकवास उत्तर दिए, जो नगण्य है।
- उन्होंने रोबोटों को "एडवर्सरियल" (विरोधी) चालों के खिलाफ भी परखा (जैसे अलग भाषाओं में या रोल-प्ले का उपयोग करके) और पाया कि उनका तरीका अभी भी कायम रहा। सबसे अच्छा मॉडल (Mistral) जॉइंट सेटिंग में 0% समय राज प्रकट करता है, जबकि सीक्वेंशियल सेटिंग में यह केवल 3% बार प्रकट होता है (सबसे सख्त एडवर्सरियल स्थितियों में बढ़कर 4% हो जाता है)। इसके विपरीत, अन्य तरीके बहुत खराब प्रदर्शन करते हैं; उदाहरण के लिए, Llama मॉडल पर सीक्वेंशियल सेटिंग में GradDiff 38% बार और JensUn 29% बार राज प्रकट करता है।
संक्षेप में, पेपर सुझाव देता है कि हम केवल रोबोट को "भूलने" के लिए कहकर और उम्मीद नहीं कर सकते कि सब ठीक हो जाएगा। हमें इसे पेचीदा, विविध प्रश्नों के साथ टेस्ट करने की आवश्यकता है ताकि यह सुनिश्चित हो सके कि वह वास्तव में भूल गया है, और हमें इसे पागल होने के बजाय विनम्रता से "ना" कहना सिखाने की आवश्यकता है। सही डेटा और सही तरीके के साथ, हम वास्तव में इन रोबोटों को वह भुला सकते हैं जिसे उन्हें भूलना चाहिए, बिना उनके दिमाग को नुकसान पहुँचाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।