🤖 machine learning

Multimodal Unlearning Across Vision, Language, Video, and Audio: Survey of Methods, Datasets, and Benchmarks

यह सर्वेक्षण विजन, लैंग्वेज, ऑडियो और वीडियो मोडैलिटीज में मल्टीमॉडल अनलर्निंग विधियों, डेटासेट्स और बेंचमार्क का एक एकीकृत, सिस्टम-ओरिएंटेड वर्गीकरण प्रस्तुत करता है, जो मॉडल की समग्र उपयोगिता को बनाए रखते हुए फाउंडेशन मॉडल्स से संवेदनशील या कॉपीराइट वाली जानकारी को चुनिंदा रूप से हटाने की चुनौती का समाधान करता है।

मूल लेखक: Nobin Sarwar, Shubhashis Roy Dipta, Zheyuan Liu, Vaidehi Patil

प्रकाशित 2026-07-10

📖 8 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Nobin Sarwar, Shubhashis Roy Dipta, Zheyuan Liu, Vaidehi Patil

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपने एक सुपर-स्मार्ट, सुपर-क्रिएटिव रोबोट दोस्त बनाया है जो एक साथ चित्र बना सकता है, कहानियाँ लिख सकता है, गाने गा सकता है और वीडियो बना सकता है। इस रोबोट ने पूरे इंटरनेट को पढ़कर सीखा है, लेकिन ऐसा करते समय इसने अनजाने में कुछ ऐसी चीजें भी याद कर लीं जो उसे नहीं सीखनी चाहिए थीं: शायद किसी पड़ोसी की निजी फोटो, किसी प्रसिद्ध कलाकार की कॉपीराइट वाली पेंटिंग, या कोई अजीब, असुरक्षित चुटकुला।

अब, वह पड़ोसी चाहता है कि उस फोटो को भुला दिया जाए, कलाकार चाहता है कि उसकी शैली (स्टाइल) मिटा दी जाए, और इंटरनेट चाहता है कि वह चुटकुला गायब हो जाए। इसे ठीक करने का पुराना तरीका खराब डेटा को हटाना और रोबोट को फिर से शून्य से बनाना था। लेकिन यह एक गगनचुंबी इमारत को हटाने के लिए उसे पूरी तरह ढहाने जैसा है—इसमें बहुत समय लगता है, भारी खर्च आता है, और यह अव्यावहारिक है।

यह शोध पत्र एक विशाल सर्वेक्षण (वर्तमान परिदृश्य का एक विशाल मानचित्र) है जो एक नए, स्मार्ट तरीके की खोज करता है: मल्टीमॉडल अनलर्निंग (Multimodal Unlearning)। पूरे रोबोट को फिर से बनाने के बजाय, ये तरीके "चयनात्मक विस्मरण" (selective forgetting) करने की कोशिश करते हैं, यानी केवल बुरी यादों को सर्जिकल तरीके से हटाना, जबकि रोबोट की चित्र बनाने, लिखने और गाने की क्षमता को पूरी तरह बरकरार रखना।

बड़ा मानचित्र: हम कहाँ कट लगाते हैं?

लेखक सभी अलग-अलग तरीकों को एक "सिस्टम-फर्स्ट" मानचित्र में व्यवस्थित करते हैं। केवल गणित को देखने के बजाय, वे इस बात पर ध्यान देते हैं कि आप रोबोट के मस्तिष्क में कब और कहाँ हस्तक्षेप करते हैं। उन्होंने इस सर्जरी को करने के लिए पाँच मुख्य स्थान पाए हैं:

डेटा पक्ष (रोबोट के सीखने से पहले): कल्पना कीजिए कि रोबोट के देखने से पहले ही खराब फोटो या टेक्स्ट पर "इसे न सीखें" का स्टिकर लगा दिया जाए। कुछ तरीके डेटा को थोड़ा बदल देते हैं ताकि रोबोट इसे याद न कर सके, या वे प्रशिक्षण लाइब्रेरी को साफ कर देते हैं ताकि छवियों और शब्दों के "जहरीले" जोड़ों को हटाया जा सके।
प्रशिक्षण-समय संपादन (जब रोबोट सीख रहा हो): यह रोबोट को पढ़ाई करते समय एक नया नियम सिखाने जैसा है। आप उसे बताते हैं, "हे, जब तुम इस विशिष्ट चीज़ को देखो, तो इसे याद मत करना, लेकिन बाकी सब याद रखना।" रोबोट अपने मस्तिष्क के भार (weights) को लक्ष्य को भूलने के लिए समायोजित करता है जबकि बाकी चीजों को थामे रखता है।
आर्किटेक्चर बाधाएं (रोबोट के हार्डवेयर को बदलना): कभी-कभी, नियमों को बदलने के बजाय, आप रोबोट की संरचना को बदलते हैं। आप रोबोट के मस्तिष्क के कुछ हिस्सों को "फ्रीज" (लॉक) कर सकते हैं ताकि वे बदल न सकें, या उस विशिष्ट कनेक्शन को काट (प्रून) सकते हैं जो बुरी याद को थामे हुए है, फिर रोबोट को उस खाली जगह के आसपास अच्छी चीजों को फिर से सीखने दें।
प्रशिक्षण-मुक्त अनलर्निंग (जादुई इरेज़र): यह सबसे शानदार हिस्सा है। ये तरीके रोबोट को फिर से प्रशिक्षित नहीं करते हैं। वे रोबोट के मस्तिष्क के भार या उसकी आंतरिक प्रस्तुतियों (जिस तरह से वह चीजों के बारे में "सोचता" है) को सीधे संपादित करने के लिए गणित का उपयोग करते हैं। यह एक विशिष्ट रासायनिक विलायक (solvent) का उपयोग करके कागज के बाकी हिस्से को छुए बिना केवल बुरी स्याही को घोलने जैसा है।
डिकोडिंग समय (प्रदर्शन के दौरान): कल्पना कीजिए कि रोबोट एक चित्र बना रहा है। बिल्कुल आखिरी सेकंड में, चित्र दिखने से पहले, एक फ़िल्टर हस्तक्षेप करता है और कहता, "नहीं, वह विशिष्ट चेहरा मत बनाओ।" रोबोट का मस्तिष्क वही रहता है, लेकिन आउटपुट को वर्जित सामग्री से दूर ले जाया जाता है।

खेल के नियम

यह शोध पत्र बहुत स्पष्ट है कि ये तरीके क्या हासिल करने की कोशिश कर रहे हैं और वे क्या नहीं कर रहे हैं।

लक्ष्य: मुख्य लक्ष्य चयनात्मक निष्कासन (selective removal) है। आप एक विशिष्ट "विस्मरण सेट" (जैसे एक निजी चेहरा या कॉपीराइट शैली) को भूलना चाहते हैं जबकि "रिटेन सेट" (बाकी सब कुछ) को पूरी तरह से काम करने देना चाहते हैं। पेपर इसे गणितीय रूप से परिभाषित करता है: भूलने के बाद का रोबोट लगभग वैसा ही व्यवहार करना चाहिए जैसा कि वह रोबोट करता जिसने कभी उस खराब डेटा पर प्रशिक्षण ही नहीं लिया था।
जो वे खारिज करते हैं: पेपर स्पष्ट रूप से इस विचार के खिलाफ तर्क देता है कि आप बस डेटा को डिलीट कर दें और उम्मीद करें कि रोबोट स्वचालित रूप से भूल जाएगा। यह दिखाता है कि ज्ञान रोबोट के मस्तिष्क में फैला हुआ है; डेटा फाइल को डिलीट करने से स्मृति (मेमोरी) नहीं मिटती। यह इस विचार को भी खारिज करता है कि वर्तमान तरीके पूर्ण हैं। वे अक्सर अनुभवजन्य (heuristic) (ट्रायल और एरक और स्मार्ट अनुमानों पर आधारित) होते हैं, न कि इस बात के पक्के गणितीय प्रमाण कि मेमोरी 100% हमेशा के लिए चली गई है।
"अनलर्निंग" बनाम "छिपाना" का जाल: पेपर सुझाव देता है कि कुछ तरीके केवल जानकारी को छिपा रहे हैं, न कि वास्तव में मिटा रहे हैं। यदि आप रोबोट को सही "एडवर्सरियल" (प्रतिरोधी) सवालों के साथ उकसाते हैं (जैसे कि एक जेलब्रेक), तो भूली हुई याद वापस आ सकती है। पेपर नोट करता है कि हमारे पास कई तरीके तो हैं, लेकिन हमारे पास इस बात की गारंटी नहीं है कि मेमोरी वास्तव में मिट गई है, खासकर चतुर हमलों के खिलाफ।

टूलकिट: डेटासेट और बेंचमार्क

इन तरीकों का परीक्षण करने के लिए, शोधकर्ता विशिष्ट "प्रशिक्षण मैदानों" का उपयोग करते हैं। पेपर में उपयोग किए जाने वाले कई डेटासेट सूचीबद्ध हैं:

चेहरों के लिए: वे CelebA (2,02,599 छवियां) और VGGFace2 (3.3 मिलियन चेहरे की छवियां) जैसे डेटासेट का उपयोग करते हैं ताकि यह परीक्षण किया जा सके कि क्या रोबोट किसी विशिष्ट व्यक्ति के चेहरे को भूल सकता है।
कॉपीराइट के लिए: वे UnlearnCanvas (60 कलात्मक शैलियाँ) का उपयोग करते हैं ताकि यह देखा जा सके कि क्या रोबोट किसी विशिष्ट कलाकार की शैली को भूल सकता है।
सुरक्षा के लिए: वे I2P (4,700 प्रॉम्प्ट्स) जैसे डेटासेट का उपयोग करते हैं ताकि यह परीक्षण किया जा सके कि क्या रोबलेट असुरक्षित या अनुचित सामग्री उत्पन्न करना भूल सकता है।
ऑडियो के लिए: वे VoxCeleb1 (1,50,000 कथनों) का उपयोग करते हैं ताकि यह परीक्षण किया जा सके कि क्या रोबोट किसी विशिष्ट वक्ता की आवाज़ को भूल सकता है।

पेपर उन बेंचमार्क (जैसे MU-Bench और MLLMU-Bench) को भी रेखांकित करता है जिनका उपयोग यह मापने के लिए किया जाता है कि ये तरीके कितने प्रभावी हैं। ये बेंचमार्क तीन चीजें जांचते हैं:

क्या इसने भुला दिया? (क्या रोबोट उस बुरी चीज़ को पहचानने में विफल रहता है?)
क्या इसने अच्छी चीजों को बनाए रखा? (क्या रोबोट अभी भी बाकी सब कुछ के बारे में चित्र बनाने और लिखने में सक्षम है?)
क्या यह सुरक्षित है? (क्या कोई हैकर रोबोट को उस बुरी चीज़ को फिर से याद करने के लिए धोखा दे सकता है?)

वास्तविकता की जाँच: क्या अभी भी टूटा हुआ है?

लेखक ईमानदार हैं कि कमियां मौजूद हैं। वे सुझाव देते हैं कि हालांकि हमारे पास कई शानदार उपकरण हैं, लेकिन हम अभी भी "शुरुआती दिनों" में हैं।

कोई जादुई गारंटी नहीं: अधिकांश तरीके सिम्युलेटेड हैं या विशिष्ट मॉडलों पर परीक्षण किए गए हैं। हमारे पास कोई सार्वभौमिक गणितीय प्रमाण नहीं है जो कहता है, "यह तरीका हमेशा मेमोरी को हमेशा के लिए मिटा देगा, चाहे कुछ भी हो।"
"पुनरुत्थान" (Resurfacing) की समस्या: पेपर सुझाव देता है कि जनरेटिव मॉडल (जैसे इमेज क्रिएटर) में, भूई हुई अवधारणाएं फिर से उभर सकती हैं यदि रोबोट को बाद में फाइन-ट्यून किया जाता है या यदि कोई चतुर प्रॉम्प्ट का उपयोग करता है। यह एक गाना भूलने जैसा है, लेकिन फिर एक समान धुन सुनकर उसे फिर से याद कर लेना।
समझौता (Trade-off): अक्सर एक समझौता होता है। आप जितनी आक्रामक तरीके से भूलने की कोशिश करेंगे, उतना ही आप रोबोट की अन्य चीजें करने की क्षमता को नुकसान पहुँचा सकते हैं। पेपर नोट करता है कि बहुत कम डेटा को डिलीट करने से भी अन्य कार्यों पर प्रदर्शन में गिरावट आ सकती है।
क्रॉस-मोडलिटी लीक: यदि आप रोबोट को छवियों में एक चेहरा भूलने के लिए सिखाते हैं, तो क्या वह टेक्स्ट विवरणों में भी उस चेहरे को भूल जाता है? पेपर सुझाव देता है कि यह एक बड़ी खुली चुनौती है; एक मोड (टेक्स्ट) में सुरक्षा का मतलब दूसरे मोड (इमेज) में सुरक्षा नहीं है।

निचोड़

यह पेपर एक सर्वेक्षण है, जिसका अर्थ है कि यह एक नया आविष्कार नहीं, बल्कि एक व्यापक मार्गदर्शिका है कि वर्तमान में क्या मौजूद है। यह "AI को कैसे भुलाने दें" की अराजकता को एक स्पष्ट प्रणाली में व्यवस्थित करता है। यह सुझाव देता है कि हमारे पास AI मॉडल पर "सर्जरी" करने के शक्तिशाली उपकरण हैं, लेकिन हम अभी भी यह समझने की कोशिश कर रहे हैं कि इस सर्जरी को 100% विश्वसनीय, हैकर्स के लिए सुरक्षित और रोबोट के मस्तिष्क के बाकी हिस्सों को नुकसान न पहुँचाने के लिए सटीक कैसे बनाया जाए।

लेखक एक क्यूरेटेड रिपॉजिटरी (कोड और डेटा का एक सार्वजनिक संग्रह) जारी कर रहे हैं ताकि अन्य लोग इस पर आगे बढ़ सकें। वे आशावादी हैं कि समस्याओं को मैप करके—जैसे कि बेहतर बेंचमार्क और मजबूत गारंटी की आवश्यकता—हम अंततः ऐसा AI बना पाएंगे जो गोपनीयता और कॉपीराइट का सम्मान करता है, बिना हर बार किसी के भूलने के अनुरोध पर उसे फिर से शून्य से बनाने की आवश्यकता के।

तकनीकी सारांश: विज़न, लैंग्वेज, वीडियो और ऑडियो में मल्टीमॉडल अनलर्निंग (Multimodal Unlearning)

1. समस्या की परिभाषा

मल्टीमॉडल फाउंडेशन मॉडल्स (MFMs)—जिनमें विजन-लैंग्वेज मॉडल्स (VLMs), डिफ्यूजन मॉडल्स (DMs), लार्ज लैंग्वेज मॉडल्स (LLMs), और ऑडियो फाउंडेशन मॉडल्स (AFMs) शामिल हैं—के तीव्र प्रसार ने संवेदनशील, कॉपीराइट वाली, पक्षपाती या असुरक्षित क्रॉस-मोडल एसोसिएशंस (cross-modal associations) के अनजाने में एनकोडिंग होने के महत्वपूर्ण जोखिम उत्पन्न कर दिए हैं। वेब-स्केल डेटा पर प्रशिक्षित ये मॉडल अक्सर विशिष्ट उदाहरणों (जैसे, निजी चेहरे, कॉपीराइट वाली कलाकृति) या अवांछित अवधारणाओं (जैसे, हानिकारक रूढ़ियाँ/tropes) को याद कर लेते हैं।

जब डिलीशन रिक्वेस्ट (जैसे, 'राइट टू बी फॉरगॉटन') या पॉलिसी अपडेट का सामना करना पड़ता है, तो शुरुआत से पुन: प्रशिक्षण (retraining from scratch) का मानक समाधान अक्सर कम्प्यूटेशनल रूप से अव्यावहारिक होता है। इसके अलावा, लक्षित विस्मरण (targeted forgetting) तकनीकी रूप से चुनौतीपूर्ण है क्योंकि MFMs में ज्ञान साझा प्रतिनिधित्व (shared representations) में वितरित होता है; एक मोडैलिटी (जैसे, टेक्स्ट) में एक एसोसिएशन को हटाने से अनजाने में दूसरी मोडैलिटी (जैसे, इमेज जनरेशन) के असंबंधित व्यवहार बाधित हो सकते हैं या रेजिडुअल क्रॉस-मोडल लीकेज (residual cross-modal leakage) के कारण अवधारणा को पूरी तरह से मिटाने में विफल हो सकते हैं। मुख्य समस्या यह है कि शेष डेटा पर समग्र उपयोगिता (overall utility) और मॉडल प्रदर्शन को बनाए रखते हुए विभिन्न मोडैलिटीज में विशिष्ट डेटा या अवधारणाओं को चयनात्मक रूप से हटाना (selective removal) है।

2. कार्यप्रणाली और वर्गीकरण (Methodology and Taxonomy)

यह सर्वेक्षण मल्टीमॉडल अनलर्निंग विधियों को उनके अनुकूलन उद्देश्यों (optimization objectives) के बजाय, हस्तक्षेप चरण (intervention stage) और नियंत्रण पथ (control pathway) द्वारा व्यवस्थित करने वाला एक सिस्टम-ओरिएंटेड वर्गीकरण प्रस्तावित करता है। यह ढांचा डेटा तैयारी से लेकर इन्फरेंस (inference) तक की पूरी पाइपलाइन को कवर करता है।

2.1 औपचारिकीकरण (Formalization)

लक्ष्य एक 'फॉरगेट सेट' $D_f$ के प्रभाव को हटाना है जबकि 'रिटेन सेट' $D_r$ पर उपयोगिता को सुरक्षित रखना है। मूल मॉडल $M_o$ और डेटा $D$ पर लागू अनलर्निंग प्रक्रिया $U$ , एक ऐसा मॉडल $M_u$ उत्पन्न करती है जिसका वितरण $D \setminus D_f$ पर पुन: प्रशिक्षित मॉडल के समान होता है। इसे $(\epsilon, \delta)$ अनलर्निंग मानदंड का उपयोग करके औपचारिक रूप दिया गया है, जो डिफरेंशियल प्राइवेसी (Differential Privacy) की तरह काम करता है, ताकि अनलर्निंग और रिट्रेनिंग के बीच समानता पर सैद्धांतिक गारंटी प्रदान की जा सके।

2.2 हस्तक्षेप चरण (Intervention Stages)

सर्वेक्षण विधियों को पांच प्राथमिक हस्तक्षेप बिंदुओं में वर्गीकृत करता है:

डेटा-साइड हस्तक्षेप (Data-Side Interventions):
- डेटा-पाथ परटर्बेशन (Data-Path Perturbation): लक्षित क्लस्टर्स की सीखने की क्षमता को कम करने के लिए वेट्स (weights) के बजाय इनपुट्स (इमेज/टेक्स्ट) को संपादित करना (जैसे, अनलर्नेबल उदाहरणों या क्लोक्स का उपयोग करना), जबकि बाकी कॉर्पस पर उपयोगिता बनाए रखना।
- डेटा हाइजीन और प्रॉम्प्ट नॉर्मलाइजेशन (Data Hygiene & Prompt Normalization): संदिग्ध पेयर्स को डाउन-वेट करने या प्रॉम्प्ट्स को कैनोनिकल फॉर्म्स में सामान्य करने के माध्यम से ट्रेनिंग शुरू होने से पहले ही ट्रेनिंग डेटा को क्यूरेट करना ताकि स्प्यूरियस एसोसिएशंस को कम किया जा सके।
ट्रेनिंग-टाइम एडिट्स (Training-Time Edits):
- डायरेक्ट ग्रेडिएंट (Direct Gradient): अनलर्निंग को एक लक्षित रिस्क मिनिमाइजेशन के रूप में तैयार करना, जो रिटेन सेट पर प्रदर्शन बनाए रखते हुए फॉरगेट सेट पर प्रतिक्रियाओं को दबाता है। इसमें VLMs और डिफ्यूजन मॉडल्स के लिए उद्देश्य शामिल हैं जो क्रॉस-मोडल स्ट्रक्चर को डीकपल करते हैं।
- कंस्ट्रेंड अपडेट्स (Constrained Updates): ऑप्टिमाइजेशन के दौरान सीमाएं लागू करना ताकि फॉरगेट सेट पर रेजिडुअल कॉम्पिटेंस को सीमित किया जा सके और एक रेफरेंस मॉडल से विचलन को रोका जा सके, जिससे अनलर्निंग प्रभावकारकता और मॉडल अखंडता के बीच संतुलन बना रहे।
- मास्क-ड्रिवन सिलेक्टिव अनलर्निंग (Mask-Driven Selective Unlearning): अपडेट्स को केवल उन स्थानीयकृत पैरामीटर्स, फीचर्स या स्थानिक क्षेत्रों (spatial regions) तक सीमित करना जो सैलिएंसी (saliency) या अटेंशन मैप्स के माध्यम से पहचाने गए हैं, जिससे रिटेन किए गए व्यवहारों को कम से कम नुकसान हो।
- डिस्टिलेशन-आधारित (Distillation-Based): एक "टीचर" मॉडल से "स्टूडेंट" मॉडल में व्यवहार को ट्रांसफर करना, जो सुरक्षित लक्ष्यों की ओर निर्देशित होता है, अक्सर मूल ट्रेनिंग डेटा तक सीधी पहुंच के बिना।
आर्किटेक्चर-कंस्ट्रेंड अनलर्निंग (Architecture-Constrained Unlearning):
- आर्किटेक्चर एडिटिंग (Architecture Editing): नेटवर्क संरचना को सीधे संशोधित करना (जैसे, प्रूनिंग, फ्रीजिंग, या विशिष्ट लेयर्स/टेन्सर्स को फिर से उगाना) ताकि फॉरगेट सिग्नल को एनकोड करने वाले पाथवे को ब्लॉक किया जा सके।
- लेयर-स्कोपड कंस्ट्रेंड अपडेट्स (Layer-Scoped Constrained Updates): उन विशिष्ट लेयर्स की पहचान करना जहाँ कोई अवधारणा केंद्रित होती है और पैरामीटर ड्रिफ्ट को सीमित करने के लिए केवल उन्हीं लेयर्स पर एडिट्स को प्रतिबंधित करना।
ट्रेनिंग-फ्री अनलर्निंग (Training-Free Unlearning):
- वेट-स्पेस लीनियर अनलर्निंग (WLU): अनचाहे व्यवहार को दबाने के लिए एक रेफरेंस चेकपॉइंट पर क्लोज्ड-फॉर्म लीनियर ऑपरेशंस (जैसे, टास्क-वेक्टर सबट्रैक्शन, वेट नेगेशन) का उपयोग करना, बिना रिट्रेनिंग के।
- रिप्रेजेंटेशन प्रोजेक्शन अनलर्निंग (RPU): आंतरिक एक्टिवेशन्स या अटेंशन आउटपुट्स को फॉरगेट सिग्नल से जुड़े एक सीखे हुए सबस्पेस से दूर प्रोजेक्ट करना, जो मॉडल वेट्स को बदले बिना लक्षित अवधारणाओं को प्रभावी ढंग से फ़िल्टर करता है।
डिकोडिंग टाइम अनलर्निंग (Decoding Time Unlearning):
- गाइडेंस-पाथ कंट्रोल (Guidance-Path Control): जनरेशन के दौरान सैंपलर या स्कोर फंक्शन को संशोधित करना (जैसे, डायनेमिक नेगेटिव गाइडेंस) ताकि बेस मॉडल को स्थिर रखते हुए आउटपुट को असुरक्षित अवधारणाओं से दूर निर्देशित किया जा सके।
- कंडीशनिंग-पाथ कंट्रोल (Conditioning-Path Control): मॉडल में प्रवेश करने से पहले कंडीशनिंग सिग्नल (जैसे, टेक्स्ट एम्बेडिंग्स) को बदलना, जो मॉडल पैरामीटर्स को बदले बिना लक्षित अवधारणा के लिए कंडीशन को प्रभावी रूप से कमजोर करता है।

3. प्रमुख योगदान (Key Contributions)

यह पेपर मल्टीमॉडल अनलर्निंग के क्षेत्र में तीन प्राथमिक योगदान देता है:

मौलिक सर्वेक्षण (Foundational Survey): यह इमेज, टेक्स्ट, वीडियो और ऑडियो फाउंडेशन मॉडल्स में मल्टीमॉडल अनलर्निंग की स्थिति को संश्लेषित करता है, जो मैकेनिज्म, थ्योरी और इवैल्यूएशन को कवर करने वाला एक एकीकृत ढांचा प्रदान करता है।
सिस्टम-लेवल लेंस (System-Level Lens): यह एक सिस्टम-फर्स्ट टैक्सोनॉमी पेश करता है जो हस्तक्षेप चरण और नियंत्रण पथ द्वारा व्यवस्थित है। यह एल्गोरिदम-केंद्रित सर्वेक्षणों के विपरीत है, जो विभिन्न मॉडल क्लास (VLMs, DMs, AFMs) के बीच स्पष्ट तुलना करने में सक्षम बनाता है और डिलीशन स्ट्रेंथ, यूटिलिटी रिटेंशन, एफिशिएंसी और रिवर्सिबिलिटी के बीच ट्रेड-ऑफ को स्पष्ट करता है।
उभरते हुए फ्रंटियर्स (Emerging Frontiers): यह महत्वपूर्ण खुले क्षेत्रों को रेखांकित करता है, जिसमें मजबूत मूल्यांकन मेट्रिक्स, रिएक्टिवेशन के खिलाफ एडवरसेरियल रोबस्टनेस, और व्यावहारिक परिनियोजन (deployment) बाधाओं की आवश्यकता शामिल है।

4. परिणाम और साक्ष्य (Results and Evidence)

एक सर्वेक्षण पत्र के रूप में, इसके प्राथमिक "परिणाम" नए प्रयोगात्मक डेटा के बजाय मौजूदा साहित्य का व्यवस्थित तुलनात्मक विश्लेषण हैं। पेपर प्रस्तुत करता है:

एक क्यूरेटेड रिपॉजिटरी: विधियों, डेटासेट्स और बेंचमार्क का एक व्यापक संग्रह।
डेटासेट और बेंचमार्क विश्लेषण: पेपर पहचान, अफेक्ट, वीडियो और कॉपीराइट अनलर्निंग के लिए उपयोग किए जाने वाले प्रमुख डेटासेट्स (जैसे, CelebA, VoxCeleb, DreamBooth) की समीक्षा करता है और मौजूदा बेंचमार्क (जैसे, MU-Bench, MLLMU-Bench, PEBench) का मूल्यांकन करता है। यह उजागर करता है कि वर्तमान बेंचमार्क अक्सर सिंथेटिक पहचान या संकीर्ण मॉडल परिवारों पर निर्भर करते हुए एकीकृत मानकों की कमी रखते हैं।
इवैल्यूएशन फ्रेमवर्क: यह फॉरगेट क्वालिटी (जैसे, Unlearning Accuracy, CLIP-Sim Drop), सुरक्षा (Refusal Rate), प्राइवेसी (Membership Inference Attacks), और यूटिलिटी (Top-k Accuracy, FID, LPIPS) के लिए मेट्रिक्स को समेकित करता है।
ट्रेड-ऑफ विश्लेषण: सर्वेक्षण स्पष्ट करता है कि विधियां अपने ट्रेड-ऑफ में काफी भिन्न होती हैं; उदाहरण के लिए, ट्रेनिंग-फ्री विधियां दक्षता प्रदान करती हैं लेकिन रिट्रेनिंग-आधारित दृष्टिकोणों की तुलना में डिलीशन स्ट्रेंथ की कमी हो सकती है, जबकि आर्किटेक्चर एडिटिंग यूटिलिटी को बेहतर बनाए रखती है लेकिन इसके लिए फॉरगेट सिग्नल के सटीक लोकलाइजेशन की आवश्यकता होती है।

5. महत्व और भविष्य की दिशाएं (Significance and Future Directions)

पेपर तर्क देता है कि मल्टीमॉडल अनलर्निंग मॉडल गवर्नेंस का एक केंद्रीय उपकरण है, जो वास्तविक दुनिया के परिवेश में जवाबदेह MFMs को तैनात करने के लिए आवश्यक है। इसका महत्व निम्नलिखित में निहित है:

चयनात्मक निष्कासन को सक्षम करना: पूर्ण रिट्रेनिंग की भारी लागत के बिना विशिष्ट पहचानों, गुणों या अवधारणाओं को हटाने के तंत्र प्रदान करना।
अनुपालन का समर्थन करना: GDPR (राइट टू बी फॉरगॉटन) और कॉपीराइट कानूनों जैसे नियामक आवश्यकताओं को संबोधित करना।
सुरक्षा बढ़ाना: विभिन्न मोडैलिटीज में हानिकारक, पक्षपाती या असुरक्षित सामग्री के निर्माण को कम करना।

पेपर कई खुले चुनौतियों और भविष्य की दिशाओं की पहचान करता है:

टेम्पोरल और डायनेमिक मोडैलिटीज: स्ट्रीमिंग ऑडियो, वीडियो और मोशन जनरेशन तक अनलर्निंग का विस्तार करना एक खुला प्रश्न बना हुआ है।
फ्रंटियर-स्केल मॉडल्स: अरबों पैरामीटर्स वाले फाउंडेशन-स्केल मॉडल्स तक अनलर्निंग विधियों को स्केल करना वर्तमान में छोटे बैकबोन्स पर संकीर्ण मूल्यांकन द्वारा सीमित है।
कंटीन्यूअल अनलर्निंग (Continual Unlearning): ऐसे प्रोटोकॉल विकसित करना जो बार-बार डिलीशन और डाउनस्ट्रीम फाइन-ट्यूनिंग के तहत प्रभावी बने रहें, जिससे विस्मृत अवधारणाओं के "पुनरुत्थान" (resurgence) को रोका जा सके।
क्रॉस-मोडल लीकेज: एक मोडैलिटी (जैसे, टेक्स्ट) में सुरक्षा या प्राइवेसी एलाइनमेंट की विफलता को अन्य (जैसे, विजन या ऑडियो) तक फैलने से रोकने की चुनौती।
एकीकृत बेंचमार्क: क्षेत्र में विविध मोडैलिटीज और आर्किटेक्चर को कवर करने वाले मानकीकृत, एकीकृत बेंचमार्क की कमी है, जिससे विधियों की निष्पक्ष तुलना करना कठिन हो जाता है।

निष्कर्षतः, यह सर्वेक्षण शोधकर्ताओं और चिकित्सकों को मल्टीमॉडल अनलर्निंग की जटिलताओं को समझने के लिए एक संरचित रोडमैप प्रदान करता है, जो सुरक्षित और अनुपालन योग्य फाउंडेशन मॉडल्स के सुरक्षित परिनियोजन को सुनिश्चित करने के लिए मजबूत, स्केलेबल और सैद्धांतिक रूप से स्थापित दृष्टिकोणों की आवश्यकता पर जोर देता है।