🤖 AI

SUGAR: A Sweeter Spot for Generative Unlearning of Many Identities

SUGAR एक स्केलेबल फ्रेमवर्क है जो जनरेटिव अनलर्निंग के लिए व्यक्तिगत सरोगेट लेटेंट्स को सीखने और निरंतर उपयोगिता संरक्षण (continual utility preservation) को नियोजित करके 3D-अवेयर इमेज सिंथेसिस मॉडल्स से कई मानवीय पहचानों को हटा देता है, जिससे पूरे मॉडल को पुन: प्रशिक्षित किए बिना अत्याधुनिक प्रदर्शन प्राप्त होता है।

मूल लेखक: Dung Thuy Nguyen, Quang Nguyen, Preston K. Robinette, Eli Jiang, Taylor T. Johnson, Kevin Leach

प्रकाशित 2026-02-13

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Dung Thuy Nguyen, Quang Nguyen, Preston K. Robinette, Eli Jiang, Taylor T. Johnson, Kevin Leach

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट डिजिटल कलाकार है जिसका नाम AI है। इस AI ने असली लोगों के लाखों फोटो का अध्ययन करके चेहरे बनाना सीख लिया है। यह इतना कुशल है कि यदि आप इसे "एक CEO बनाओ" कहते हैं, तो यह गलती से आपके बॉस को बना सकता है, या यदि आप "एक सेलिब्रिटी" कहते हैं, तो यह आपको बना सकता है क्योंकि इसने सालों पहले इंटरनेट पर आपके द्वारा पोस्ट की गई एक फोटो से आपका चेहरा याद कर लिया था।

यह एक समस्या है। क्या होगा अगर आप भुला दिए जाना चाहते हैं? क्या होगा अगर आप कहें, "हे AI, कृपया मुझे बनाना बंद करो"?

समस्या: वह "इरेज़र" जो पेंटिंग को खराब कर देता है

अतीत में, यदि आप किसी AI को किसी विशिष्ट व्यक्ति को भूलने के लिए कहते थे, तो डेवलपर्स के पास दो बुरे विकल्प थे:

"स्कॉर्च्ड अर्थ" (Scorched Earth) विधि: वे उस व्यक्ति की तस्वीरों को हटा देते और AI को फिर से शुरू से प्रशिक्षित (retrain) करते। यह पूरे आर्ट स्टूडियो को जलाने और एक नया स्टूडियो बनाने जैसा है ताकि केवल एक खराब स्केच को हटाया जा सके। इसमें बहुत समय लगता है और भारी लागत आती है।
"ब्लरी ब्लॉब" (Blurry Blob) विधि: नए तरीकों ने उस व्यक्ति को "अनलर्न" करने की कोशिश की, यानी AI को यह बताने की कोशिश की कि उस व्यक्ति को बनाने के बजाय एक धुंधला, निरर्थक ढेर या एक सामान्य "औसत चेहरा" बनाए।
- उपमा: कल्पना कीजिए कि आप एक शेफ से कहते हैं, "मेरा पसंदीदा व्यंजन मत बनाना।" शेफ तय करता है कि जब भी आप उससे कुछ मांगेंगे, वह आपको केवल एक कटोरा ग्रे ओटमील (दलिया) परोस देगा। वह आप नहीं है, लेकिन वह स्वादिष्ट भी नहीं है। बदतर बात यह है कि यदि आप किसी अन्य व्यंजन के लिए पूछते हैं, तो वह भ्रमित होकर उस व्यंजन को भी खराब कर सकता है।

समाधान: SUGAR (एक "स्मार्ट सब्स्टीट्यूशन" शेफ)

यह पेपर SUGAR (Scalable Unlearning of Generative Artificial Representations के लिए एक फ्रेमवर्क) पेश करता है। SUGAR को एक इरेज़र के रूप में नहीं, बल्कि एक कुशल प्रतिस्थापन (substitute) के रूप रूप में सोचें।

SUGAR कैसे काम करता है, यहाँ एक सरल उपमा दी गई है:

1. "गुप्त पहचान" का बदलाव (The "Secret Identity" Swap)

AI को यह कहने के बजाय कि "व्यक्ति A को मत बनाओ," SUGAR कहता है, "जब तुम व्यक्ति A के बारे में सोचो, तो गुप्त रूप से व्यक्ति B को बनाओ।"

व्यक्ति B व्यक्ति A जैसा बिल्कुल नहीं दिखता (ताकि आप उन्हें पहचान न सकें)।
व्यक्ति B एक सामान्य, सुंदर मानव चेहरे जैसा दिखता है (ताकि तस्वीर अच्छी दिखे)।
व्यक्ति B व्यक्ति A के लिए अद्वितीय है। SUGAR हर किसी को एक ही "औसत चेहरे" से नहीं बदलता। यह हर उस व्यक्ति के लिए एक अनूठी, नई "गुप्त पहचान" बनाता है जिसे आप भूलना चाहते हैं।

जादू: यदि आप बाद में AI से "व्यक्ति A" बनाने के लिए कहते हैं, तो वह "व्यक्ति B" को बनाता है। एक मानव पर्यवेक्षक के लिए, यह पूरी तरह से एक अलग व्यक्ति दिखता है। लेकिन AI के लिए, यह एक सहज बदलाव है।

2. "सुरक्षा जाल" (दूसरों की रक्षा करना)

जब आप AI को एक व्यक्ति को भूलने के लिए कहते हैं, तो यह जोखिम होता है कि वह भ्रमित हो जाए और आपके दोस्तों को भी भूलने लगे, या सभी चेहरों को अजीब बना दे।

उपमा: कल्पना कीजिए कि आप एक फोटो एल्बम को एडिट कर रहे हैं। यदि आप किसी एक व्यक्ति का चेहरा काटने की कोशिश करते हैं, तो आप बगल में खड़े व्यक्ति की फोटो भी गलती से फाड़ सकते हैं।
SUGAR की ट्रिक: SUGAR एक "सुरक्षा जाल" (जिसे Elastic Weight Consolidation कहा जाता है) का उपयोग करता है। यह सावधानीपूर्वक पड़ोसियों की जांच करता है। यह कहता है, "ठीक है, हम व्यक्ति A को बदल रहे हैं, लेकिन हमें यह वादा करना होगा कि हम व्यक्ति B, व्यक्ति C और व्यक्ति D को बिल्कुल वैसा ही रखेंगे।" यह उन चेहरों को अपनी जगह पर लॉक कर देता है ताकि वे विकृत न हों।

3. "मैजिक डायल" (नियंत्रित विस्मरण)

SUGAR लचीला भी है। कभी-कभी आप किसी को पूरी तरह से भूलना चाहते हैं, और कभी-कभी आप उनके कुछ फीचर्स (जैसे उनके बालों का रंग या मुस्कान) को रखना चाहते हैं लेकिन उनके चेहरे के आकार को बदलना चाहते हैं।

SUGAR में एक डायल (जिसे d कहा जाता है) है।
डायल को एक तरफ घुमाएं: AI उस व्यक्ति को पूरी तरह भूल जाता है और एक बिल्कुल नया अजनबी बनाता है।
डायल को दूसरी तरफ घुमाएं: AI मूल विशेषताओं में से कुछ को रखता है लेकिन पहचान को इतना बदल देता है कि गोपनीयता सुरक्षित रहे।
यह AI मालिक और उपयोगकर्ता को यह तय करने की अनुमति देता है कि कितने "विस्मरण" (forgetting) की आवश्यकता है।

यह एक बड़ी बात क्यों है?

पेपर ने SUGAR का परीक्षण यह पूछकर किया कि क्या AI एक साथ 200 अलग-अलग लोगों को भूल सकता है।

पुराने तरीके: जब उन्होंने 200 लोगों को भूलने की कोशिश की, तो AI अन्य सभी के लिए बदसूरत, विकृत चेहरे बनाने लगा। पूरा सिस्टम टूट गया।
SUGAR: इसने सभी 200 लोगों को सफलतापूर्वक भुला दिया, और बाकी चेहरे अभी भी एकदम सही दिख रहे थे। वास्तव में, इसने "रखे गए" चेहरों की गुणवत्ता को पुराने तरीकों की तुलना में 700% बेहतर रखा।

सारांश

SUGAR को एक जादुई लाइब्रेरियन के रूप में सोचें जो लाइब्रेरी से एक विशिष्ट पुस्तक को बिना अलमारियों या अन्य पुस्तकों को नुकसान पहुँचाए हटा सकता है।

पुराना तरीका: लाइब्रेरी जला दें और एक नई लाइब्रेरी बनाएं (बहुत महंगा)।
बेहतर पुराना तरीका: किताब पर "पढ़ना मना है" का साइन चिपका दें और पन्नों को खाली कागज में बदल दें (अनुभव को खराब करता है)।
SUGAR: गुप्त रूप से उस किताब को एक दूसरी, उतनी ही दिलचस्प किताब के साथ बदल देता है जो मूल से बिल्कुल अलग दिखती है। लाइब्रेरी अभी भी बेहतरीन कहानियों से भरी है, लेकिन जिस विशिष्ट कहानी को आप हटाना चाहते थे, उसे पूरी तरह से किसी और चीज़ से बदल दिया गया है।

यह तकनीक AI के युग में लोगों को "भूल जाने का अधिकार" (Right to be Forgotten) देती है, यह सुनिश्चित करती है कि यदि आप डिजिटल मंच छोड़ना चाहते हैं, तो आप ऐसा कर सकते हैं बिना यह सुनिश्चित किए कि बाकी सबके लिए शो खराब हो जाए।

यहाँ शोध पत्र "SUGAR: A Sweeter Spot for Generative Unlearning of Many Identities" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

जेनरेटिव एआई मॉडल (विशेष रूप से EG3D जैसे 3D-aware मॉडल) अनजाने में अपने प्रशिक्षण डेटा से पहचान योग्य चेहरों को याद रख सकते हैं और उन्हें पुनरुत्पादित कर सकते हैं, जो गोपनीयता और बौद्धिक संपदा के लिए महत्वपूर्ण जोखिम पैदा करते हैं। जबकि "भूल जाने का अधिकार" (right to be forgotten) उपयोगकर्ताओं को डेटा हटाने का अनुरोध करने की अनुमति देता है, मॉडल को शुरू से फिर से प्रशिक्षित करना गणनात्मक रूप से अत्यधिक महंगा (prohibitive) है।

मौजूदा जेनरेटिव अनलर्निंग (Generative Unlearning) विधियाँ कई पहचानों (identities) को संभालने के दौरान तीन महत्वपूर्ण सीमाओं का सामना करती हैं:

स्केलेबिलिटी (Scalability): वे कई पहचानों के लिए एक साथ या क्रमिक (sequential) अनलर्निंग अनुरोधों को संभालने में संघर्ष करती हैं।
लीकेज (Leakage): दमन तंत्र (suppression mechanisms) अक्सर विस्मृत पहचानों को "शोर" (noise) या एक स्थिर "औसत चेहरे" (average face) में मैप कर देते हैं, जो अभी भी मूल पहचान के बारे में जानकारी लीक कर सकता है या सदस्यता अनुमान हमलों (membership inference attacks) के माध्यम से पता लगाया जा सकता है।
उपयोगिता क्षरण (Utility Degradation): आक्रामक अनलर्निंग अक्सर "सिमेंटिक ड्रिफ्ट" (semantic drift) का कारण बनता है, जिससे उन पहचानों की गुणवत्ता और विविधता कम हो जाती है जिन्हें भुलाने का अनुरोध नहीं किया गया था (रक्षित पहचानें/retained identities)।

2. कार्यप्रणाली: SUGAR फ्रेमवर्क (Methodology: SUGAR Framework)

SUGAR (Scalable Unlearning of Generative Identities via Adaptive Representations) एक फ्रेमवर्क है जिसे पूरे मॉडल को फिर से प्रशिक्षित किए बिना कई पहचानों को हटाने के लिए डिज़ाइन किया गया है। यह एक पूर्व-प्रशिक्षित EG3D-शैली के पाइपलाइन (Encoder $E_\psi$ , Generator $G_\theta$ , Renderer $R$ ) के भीतर कार्य करता है और केवल जेनरेटर को अपडेट करता है।

यह फ्रेमवर्क दो मुख्य चरणों से बना है:

A. ID-विशिष्ट वि-पहचान (Phase 1: ID-Specific De-Identification)

सभी विस्मृत पहचानों को एक एकल स्थिर लक्ष्य (जैसे औसत चेहरा) या शोर में मैप करने के बजाय, SUGAR प्रत्येक पहचान के लिए एक व्यक्तिगत सरोगेट लेटेंट (personalized surrogate latent) सीखता है।

तंत्र (Mechanism): यह एक मैपिंग फंक्शन $\Phi$ (या $T_\Theta$ ) को प्रशिक्षित करता है जो विस्मृत पहचान के लेटेंट वेक्टर ( $w_u$ ) को एक नए, काउंटरफैक्चुअल लक्ष्य लेटेंट ( $w_t$ ) में परिवर्तित करता है।
उद्देश्य (Objective): नया लक्ष्य $w_t$ $w_{t}$ निम्नलिखित मानदंडों को पूरा करना चाहिए:
1. दृश्य सुसंगतता (visual coherence) बनाए रखने के लिए मोटे तौर पर चेहरे के गुणों (संरचनात्मक संभाव्यता) को संरक्षित करे।
2. पहचान को रोकने के लिए मूल पहचान से पर्याप्त रूप से भिन्न हो (जिसे ID लॉस और पर्सेप्चुअल लॉस द्वारा मापा जाता है)।
गणितीय सूत्रीकरण (Mathematical Formulation): लक्ष्य को $w_t = \bar{w} - d \cdot \frac{T_\Theta(w_{id})}{\|T_\Theta(w_{id)}\|}$ के रूप में परिभाषित किया गया है, जहाँ $\bar{w}$ औसत लेटेंट है, $w_{id}$ पहचान वेक्टर है, और $d$ एक नियंत्रणीय विस्थापन कारक (displacement factor) है। यह नियंत्रणीय अनलर्निंग (controllable unlearning) की अनुमति देता है, जहाँ भूलने की डिग्री को ट्यून किया जा सकता है।

B. निरंतर शिक्षण के ढंग से भूलना (Phase 2: Forgetting in a Continual Learning Fashion)

SUGAR भूलने और प्रतिधारण (retention) के बीच संतुलन बनाने के लिए एक दोहरे-उद्देश्य वाले लॉस फंक्शन का उपयोग करके जेनरेटर को अनुकूलित करता है।

भूलने का लॉस ( $L_{forget}$ ):
- यह एंकर लेटेंट ( $w_u$ ) और उसके निकटवर्ती पड़ोसियों ( $w_{u,a}$ ) पर रीमैपिंग उद्देश्य लागू करता है।
- पड़ोसियों की सैंपलिंग यह सुनिश्चित करती है कि विस्मृत पहचान के पूरे स्थानीय क्षेत्र को दबा दिया जाए, जिससे अवशिष्ट विशेषताओं (residual attributes) के लीक होने की संभावना को रोका जा सके।
प्रतिधारण और उपयोगिता संरक्षण (Retention & Utility Preservation):
- निकटवर्ती सैंपलिंग (Vicinity Sampling): उन लेटेंट बिंदुओं की पहचान करता है जो भूलने वाले सेट के पास हैं और जिन्हें संपार्श्विक क्षति (collateral damage) होने की संभावना है।
- एलास्टिक वेट कंसोलिडेशन (EWC): हर रक्षित नमूने के लिए स्पष्ट पुनर्निर्माण नुकसान (reconstruction losses) जोड़ने के बजाय, SUGAR उन विशिष्ट पहचानों को बनाए रखने के लिए महत्वपूर्ण मापदंडों की पहचान करने हेतु फिशर इंफॉर्मेशन मैट्रिक्स (FIM) पर एफिशिएंट वेट कंसोलिडेशन (EWC) का उपयोग करता है।
- नियमितीकरण (Regularization): एक दंड पद ( $L_{ewc}$ ) इन महत्वपूर्ण मापदंडों को उनके अनलर्निंग-पूर्व मूल्यों से विचलित होने से रोकता है, जिससे गैर-विस्मृत पहचानों के लिए मॉडल की उपयोगिता बनी रहती है।

अंतिम उद्देश्य (Final Objective):
$L_{unlearn} = \mathbb{E}_{w_u \sim W_u}[L_{forget}(w_u; \theta)] + \lambda_{ewc} L_{ewc}(\theta; \theta^*)$

3. मुख्य योगदान (Key Contributions)

प्रथम मल्टी-आइडेंटिटी GUI विधि: SUGAR पहला जेनेरेटिव आइडेंटिटी अनलर्निंग (GUI) तरीका है जो पूरे मॉडल को फिर से प्रशिक्षित किए बिना कई पहचानों (परीक्षण किए गए 200 तक) के समवर्ती (simultaneous) और क्रमिक (sequential) निष्कासन को संभालने में सक्षम है।
व्यक्तिगत सरोगेट लेटेंट्स: विस्मृत पहचानों को शोर या एक निश्चित औसत चेहरे में मैप करने के बजाय, SUGAR प्रत्येक विस्मृत पहचान के लिए एक अद्वितीय, दृश्य रूप से सुसंगत विकल्प सीखता है, जो सूचना रिसाव को रोकता है और विविधता बनाए रखता है।
निरंतर उपयोगिता संरक्षण: EWC और निकटवर्ती सैंपलिंग का एकीकरण रक्षित पहचानों के क्षरण को प्रभावी ढंग से रोकता है, जो पिछले बेसलाइन के लिए एक सामान्य विफलता बिंदु है।
नियंत्रणीयता (Controllability): विस्थापन कारक $d$ मॉडल विक्रेताओं को भूलने की कठोरता और मॉडल उपयोगिता के संरक्षण के बीच संतुलन को ट्यून करने की अनुमति देता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने तीन परिदृश्यों: रैंडम (Random), इन-डोमेन (FFHQ), और आउट-ऑफ-डोमेन (CelebA-HQ) में अत्याधुनिक बेसलाइन GUIDE के विरुद्ध SUGAR का मूल्यांकन किया।

रिटेंशन उपयोगिता (Retention Utility): SUGAR ने बेसलाइन की तुलना में रिटेंशन उपयोगिता में 700% सुधार हासिल किया।
- ID समानता (ID Similarity): रक्षित पहचानों के लिए, SUGER ने ID स्कोर लगभग 2 गुना अधिक बनाए रखा (जैसे, FFHQ के लिए N=1 हेतु 0.57 बनाम 0.33)।
- FID स्कोर: SUGAR ने फ्रैचेट इनसेप्शन डिस्टेंस (FID) को काफी कम कर दिया, जो रक्षित चेहरों के लिए बेहतर छवि गुणवत्ता और वितरण संरेखण को दर्शाता है।
भूलने की प्रभावशीलता (Forgetting Effectiveness):
- SUGAR ने रक्षित पहचानों की तुलना में विस्मृत पहचानों की ID समानता को औसतन 54.7% कम करने में सफलता प्राप्त की।
- मानवीय निर्णय (Human Judgment): 60 प्रतिभागियों के एक अध्ययन में, SUGAR-जनित रक्षित पहचानों को 86% बार सही ढंग से पहचाना गया, जबकि GUIDE की पहचान दर केवल 1.9% थी। इसके विपरीत, प्रतिभागी मूल विस्मृत पहचानों और अनलर्न्ड आउटपुट के बीच अंतर नहीं कर सके, जो प्रभावी भूलने की पुष्टि करता है।
क्रमिक अनलर्निंग (Sequential Unlearning): बहु-चरणीय प्रयोगों में, GUIDE संचयी संपार्श्विक क्षति (cumulative collateral damage) से ग्रस्त हुआ (रक्षित चेहरे समय के साथ खराब होते गए), जबकि SUGAR ने सभी चरणों में रक्षित पहचानों के लिए उच्च निष्ठा (fidelity) बनाए रखी।
गोपनीयता और सुरक्षा (Privacy & Security): SUGAR विस्मृत पहचानों को डेटा मैनिफोल्ड पर विविध काउंटरफैक्चुअल्स में मैप करता है, जिससे वे प्राकृतिक विविधताओं के समान बन जाते हैं। यह "टेम्प्लेट-मैचिंग" और सदस्यता अनुमान हमलों को रोकता है जो शोर-आधारित या औसत-चेहरा विधियों के खिलाफ सफल होते हैं।

5. महत्व (Significance)

SUGAR जेनरेटिव एआई के नैतिक परिनियोजन में एक महत्वपूर्ण अंतर को संबोधित करता है। कई पहचानों के स्केलेबल, क्रमिक और सुरक्षित निष्कासन को सक्षम करके, जो मॉडल के समग्र प्रदर्शन से समझौता नहीं करता है, यह उच्च-निष्ठा वाली छवि संश्लेषण में "भूल जाने के अधिकार" के लिए एक व्यावहारिक समाधान प्रदान करता है। शोर में ढहने के बजाय व्यक्तिगत सरोगेट सीखने की इसकी क्षमता यह सुनिश्चित करती है कि मॉडल उपयोगी और विविध बना रहे, जो इसे भविष्य के गोपनीयता-संरक्षण जेनरेटिव सिस्टम के लिए एक मजबूत ढांचा बनाती है।