🤖 machine learning

TILDE: TILt-based Distributional Erasure for Concept Unlearning

यह शोध पत्र TILDE का प्रस्ताव करता है, जो टेक्स्ट-टू-इमेज डिफ्यूजन मॉडल में कॉन्सेप्ट अनलर्निंग (concept unlearning) के लिए एक नया फ्रेमवर्क है, जो इस कार्य को एक वितरण संरेखण समस्या (distributional alignment problem) के रूप में तैयार करता है ताकि अवांछित अवधारणाओं को प्रभावी ढंग से दबाते हुए सौहार्दपूर्ण डेटा पर मॉडल की गुणवत्ता, विविधता और सिमेंटिक कवरेज को संरक्षित किया जा सके।

मूल लेखक: Naveen George, Naoki Murata, Yuhta Takida, Konda Reddy Mopuri, Yuki Mitsufuji

प्रकाशित 2026-07-08

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Naveen George, Naoki Murata, Yuhta Takida, Konda Reddy Mopuri, Yuki Mitsufuji

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक मास्टर शेफ है जिसने दुनिया के हर व्यंजन को बनाना सीख लिया है, जिसमें एक विशिष्ट, विवादास्पद सामग्री (मान लीजिए, "स्पाइसी घोस्ट पेपर्स") की रेसिपी भी शामिल है, जिसे अब आप उनके कौशल से पूरी तरह हटाना चाहते हैं।

समस्या पेचीदा है: यदि आप शेफ से सिर्फ यह कहते हैं, "घोस्ट पेपर के व्यंजन बनाना बंद करो," तो वे भ्रमित हो सकते हैं और अन्य व्यंजनों को भी खराब करना शुरू कर सकते हैं। शायद वे सामान्य टमाटर सूप बनाना भी भूल जाएं क्योंकि वह भी लाल है, या वे कोई भी तीखा व्यंजन बनाना ही बंद कर दें। यह कॉन्सेप्ट अनलर्निंग (Concept Unlearning) की मुख्य चुनौती है: आप एक AI इमेज जनरेटर को एक विशिष्ट चीज़ (जैसे किसी सेलिब्रिटी का चेहरा, किसी विशेष कलाकार की शैली, या किसी कॉपीराइट वाले पात्र) को भूलने के लिए कैसे प्रेरित करते हैं बिना उसकी बाकी सब कुछ बनाने की क्षमता को बिगाड़े?

यह शोध पत्र एक नई विधि पेश करता है जिसे TILDE (TILt-based Distributional Erasure) कहा जाता है ताकि इसे हल किया जा सके। यह कैसे काम करता है, इसके लिए सरल उपमाओं (analogies) का उपयोग किया गया है:

1. पुराना तरीका: "मेज को तोड़ना" बनाम "ऊपर पेंट करना"

पिछले तरीकों ने कॉन्सेप्ट को अनलर्न करने के दो मुख्य तरीके आजमाए, जिनमें दोनों में कमियां थीं:

डायरेक्ट सप्रेशन (Direct Suppression): कल्पना कीजिए कि आप शेफ को घोस्ट पेपर के बजाय रोकने की कोशिश कर रहे हैं और जब भी वे मसालों के जार की ओर हाथ बढ़ाते हैं, तो आप "नहीं!" चिल्लाकर उन्हें रोकते हैं। यह अक्सर शेफ को घबरा देता है और वे कोई भी तीखा व्यंजन बनाना ही छोड़ देते हैं, जिससे साधारण मिर्च जैसे अच्छे व्यंजन भी खराब हो जाते हैं।
एंकर रिप्लेसमेंट (Anchor Replacement): कल्पना कीजिए कि आप शेफ को कहते हैं, "घोस्ट पेपर के बजाय, बस रेगुलर पेपर का उपयोग करें।" यह काम तो करता है, लेकिन यह शेफ को अपनी शैली बदलने के लिए मजबूर करता है ताकि वह "रेगुलर पेपर" के व्यंजन से मेल खा सके। यह वैसा ही है जैसे किसी चित्रकार को वैन गॉग (Van Gogh) को छोड़कर मोनेट (Monet) बनने के लिए मजबूर करना, सिर्फ इसलिए कि वह वैन गॉग को चित्रित करना बंद कर दे।

2. TILDE का समाधान: "एक अदृश्य फिल्टर"

TILDE एक अलग दृष्टिकोण अपनाता है। "नहीं" चिल्लाने या एक नई शैली थोपने के बजाय, यह शेफ के दिमाग पर एक स्मार्ट फिल्टर बनाता है।

सोचिए कि AI का ज्ञान संभावनाओं का एक विशाल परिदृश्य (landscape) है।

"घोस्ट पेपर" ज़ोन: इस परिदृश्य में एक विशिष्ट क्षेत्र है जहाँ अवांछित कॉन्सेप्ट की छवियां रहती हैं।
"सुरक्षित" ज़ोन: बाकी सब जगह सुंदर, सुरक्षित छवियां (benign concepts) भरी हुई हैं।

TILDE "घोस्ट पेपर" ज़ोन को हटाने या शेफ को किसी विशिष्ट "रेगुलर पेपर" ज़ोन की ओर जाने के लिए मजबूर करने की कोशिश नहीं करता है। इसके बजाय, यह धीरे से परिदृश्य को झुकाता (tilt) है।

यह "घोस्ट पेपर" क्षेत्र को एक ढलान वाली, फिसलन भरी पहाड़ी जैसा बना देता है जिससे शेफ स्वाभाविक रूप से दूर फिसल जाता है।
महत्वपूर्ण बात यह है कि यह बाकी परिदृश्य को नहीं झुकाता। "सुरक्षित" ज़ोन पहले की तरह ही सपाट और आरामदायक रहते हैं। शेफ अभी भी सुरक्षित ज़ोन में बिल्कुल वैसे ही घूम सकता है जैसे वह पहले करता था।

इसे "डिस्ट्रीब्यूशनल एलाइनमेंट" (Distributional Alignment) कहा जाता है। लक्ष्य एक नया गंतव्य ढूंढना नहीं है; बल्कि यह सुनिश्चित करना है कि अवांछित गंतव्य अप्राप्य हो जाए जबकि बाकी का नक्शा बिल्कुल वैसा ही रहे जैसा वह पहले था।

3. इसे कैसे पता चलता है कि किसे बचना है: "CLIP स्कोर"

AI को कैसे पता चलता है कि कौन सी छवियां "घोस्ट पेपर" हैं और कौन सी केवल "लाल टमाटर" हैं?
TILDE CLIP (एक प्रणाली जो टेक्स्ट और इमेज के बीच संबंध को समझती है) को एक सुरक्षा गार्ड के रूप में उपयोग करता है।

गार्ड के पास अवांछित कॉन्सेप्ट के विवरणों की एक सूची है (जैसे, "पिकाचू," "पीला पोकेमोन")।
जब AI एक इमेज बना रहा होता है, तो गार्ड चेक करता है: "क्या यह पिकाचू जैसा दिखता है?"
थ्रेशोल्ड (Threshold): यही असली जादू है। गार्ड केवल तभी अलार्म बजाता है जब इमेज बहुत स्पष्ट रूप से पिकाचू जैसी हो। यदि कोई इमेज सिर्फ "एक पीला कार्टून" है लेकिन पूरी तरह पिकाचू नहीं है, तो गार्ड कहता है, "यह ठीक है, जारी रखें।"
यह AI को उन निर्दोष छवियों को दंडित करने से रोकता है जो दिखने में थोड़ी बहुत forbidden concept जैसी हो सकती हैं।

4. प्रशिक्षण प्रक्रिया: "सुधार को सीखना"

पूरे शेफ को फिर से प्रशिक्षित करने के बजाय (जिसमें बहुत समय लगता है), TILDE रेसिड्यूअल GFlowNet (Residual GFlowNet) नामक तकनीक का उपयोग करता है।

कल्पना कीजिए कि शेफ पहले से ही 99% व्यंजन पूरी तरह से बनाना जानता है।
TILDE केवल एक छोटे सहायक (एक "रेसिड्यूअल" नेटवर्क) को प्रशिक्षित करता है जिसका एकमात्र काम शेफ को सुधार के लिए फुसफुसाना है।
यदि शेफ "घोस्ट पेपर" वाले व्यंजन की ओर बढ़ने लगता है, तो सहायक फुसफुसाता है, "हे, वह रास्ता एक वर्जित क्षेत्र की ओर जाता है, थोड़ा बाईं ओर मुड़ें।"
यदि शेफ एक सुरक्षित व्यंजन बना रहा है, तो सहायक चुप रहता है।
क्योंकि सहायक केवल सुधार के लिए फुसफुसाता है, शेफ के मूल कौशल बरकरार रहते हैं, और वह सुरक्षित व्यंजनों को बनाना नहीं भूलता है।

परिणाम

इस शोध पत्र का परीक्षण विशिष्ट कलाकारों (वैन गॉग), पात्रों (पिकाचू), और वस्तुओं को हटाने पर किया गया।

सफलता: TILDE ने अवांछित कॉन्सेप्ट उत्पन्न करने से AI को सफलतापूर्वक रोका (लगभग 100% सफलता)।
कोई नुकसान नहीं (No Collateral Damage): अन्य तरीकों के विपरीत, TILDE ने संबंधित चीजों को बनाने की AI की क्षमता को नहीं बिगाड़ा। उदाहरण के लिए, "वैन गॉग" को अनलर्न करने के बाद भी, AI अभी भी "इंप्रेशनिस्ट" (Impressionist) शैली की कला पूरी तरह से बना सकता था।
विविधता: AI "ऊब" नहीं गया और केवल एक प्रकार की सुरक्षित इमेज बनाने तक सीमित नहीं रहा; इसने अपने सुरक्षित आउटपुट की पूरी विविधता को बनाए रखा।

सारांश

TIL-DE एक कोमल, अदृश्य हाथ की तरह है जो AI को किसी विशिष्ट अवांछित विचार से दूर ले जाता है, बिना उसे किसी नए, जबरन विचार में धकेले या उसके बाकी सब कुछ करने की क्षमता को बिगाड़े। यह अवांछित छवियों को उत्पन्न करने की संभावना को गणितीय रूप से शून्य के करीब "झुकाकर" (tilting) करता है, जबकि सभी अच्छी छवियों की संभावना को बिल्कुल वहीं छोड़ देता है जहाँ वह पहले थी।

तकनीकी सारांश: TILDE (TILt-आधारित डिस्ट्रीब्यूशनल इरेज़र फॉर कॉन्सेप्ट अनलर्निंग)

समस्या विवरण (Problem Statement)

टेक्स्ट-टू-इमेज डिफ्यूजन मॉडल्स में 'कॉन्सेप्ट अनलर्निंग' (concept unlearning) गोपनीयता, कॉपीराइट और सुरक्षा संबंधी चिंताओं को संबोधित करने के लिए आवश्यक है, जिसके लिए मॉडल्स को विशिष्ट अवांछित अवधारणाओं (जैसे कि विशिष्ट कलाकार, पात्र, या वस्तुएं) को प्रशिक्षण के बाद दबाने की आवश्यकता होती है। हालाँकि, मौजूदा पद्धतियाँ एक गंभीर ट्रेड-ऑफ का सामना करती हैं: प्रभावी विस्मरण (effective forgetting) अक्सर "रिटेंशन फेलियर" (retention failure) की ओर ले जाता है, जहाँ मॉडल सौहार्दपूर्ण (benign), अर्थपूर्ण रूप से संबंधित, या सामान्य प्रॉम्प्ट उत्पन्न करने की क्षमता खो देता है।

वर्तमान दृष्टिकोण आमतौर पर निम्नलिखित पर निर्भर करते हैं:

प्रत्यक्ष दमन (Direct suppression): कॉन्सेप्ट स्कोर को दंडित करना, जो अक्सर आस-पास की सौहार्दपूर्ण अवधारणाओं को भी नुकसान पहुँचाता है (collateral damage)।
एंकर-आधारित संपादन (Anchor-based editing): भूल जाने वाले कॉन्सेप्ट को एक लक्षित कॉन्सेप्ट (target concept) में मैप करना, जो अस्थिरता और पूर्वाग्रह पैदा करता है, विशेष रूप से क्रमिक विलोपन अनुरोधों के तहत।
रिवॉर्ड-आधारित अनुकूलन (Reward-based optimization): एक स्केलर फॉरगेटिंग रिवॉर्ड को अधिकतम करना, जो अक्सर सुरक्षित आउटपुट के एक संकीर्ण सेट पर जनरेशन को केंद्रित करके विविधता को कम कर देता है।

मौलिक समस्या यह है कि ये पद्धतियाँ स्पष्ट रूप से वांछित पोस्ट-अनलर्निंग डिस्ट्रीब्यूशन (post-unlearning distribution) को परिभाषित नहीं करती हैं। इसके परिणामस्वरूप, रिटेंशन को अपडेट नियम के एक अंतर्निहित परिणाम के रूप में माना जाता है न कि एक नियंत्रित उद्देश्य के रूप में, जिससे एक काल्पनिक "रिटेन-ओनली" मॉडल (जिसे बिना अवांछित डेटा के स्क्रैच से प्रशिक्षित किया गया हो) की तुलना में सब-ऑप्टिमल डिस्ट्रीबनेल फिडेलिटी (distributional fidelity) प्राप्त होती है।

कार्यप्रणाली: TILDE

लेखक TILDE (TILt-आधारित डिस्ट्रीब्यूशनल इरेज़र) प्रस्तावित करते हैं, जो कॉन्सेप्ट अनलर्निंग को एक प्रतिबंधित डिस्ट्रीब्यूशनल एलाइनमेंट समस्या (constrained distributional alignment problem) के रूप में पुनर्गठित करता है। स्थानीय दमन या एंकर प्रतिस्थापन के बजाय, TILDE उस कंडीशनल डिस्ट्रीब्यूशन की खोज करता है जो भूलने के प्रतिबंध (forgetting constraint) को पूरा करते हुए प्री-ट्रेन्ड मॉडल से विचलन को न्यूनतम करता है।

1. सैद्धांतिक सूत्रीकरण (Theoretical Formulation)

लक्ष्य को एक प्रतिबंधित क्लैब-लीब्लर (KL) प्रोजेक्शन के समाधान के रूप में परिभाषित किया गया है:
$p^*_C = \arg \min_{p} \mathbb{E}_{y \sim \pi} [KL(p(\cdot | y) \parallel p_{pre}(\cdot | y))]$
जिसके अधीन है:
$\mathbb{E}_{y \sim \pi, x \sim p(\cdot|y)} [E_C(x)] \le \delta_C$

जहाँ:

$p_{pre}$ प्री-ट्रेन्ड कंडीशनल डिस्ट्रीब्यूशन है।
$E_C(x)$ एक "फॉरगेट एनर्जी" (forget energy) है जो इमेज $x$ में कॉन्सेप्ट $C$ के साक्ष्य को मापती है।
समाधान एक एनर्जी-टिल्टेड गिब्स डिस्ट्रीब्यूशन (energy-tilted Gibbs distribution) के रूप में लेता है:
$p^*_C(x | y) \propto p_{pre}(x | y) \exp(-\beta E_C(x))$

यह सूत्रीकरण सुनिश्चित करता है कि कॉन्सेप्ट को व्यक्त करने वाली छवियों को कम वेटेज दिया जाए, जबकि सौहार्दपूर्ण छवियां अपने सापेक्ष प्री-ट्रेन्ड लाइकलीहुड को बनाए रखती हैं (एंकर-मुक्त)।

2. व्यावहारिक सरोगेट: थ्रेशोल्डेड CLIP एनर्जी (Thresholded CLIP Energy)

अमूर्त ऊर्जा $E_C$ को स्थापित करने के लिए, TILDE एक थ्रेशोल्डेड CLIP-आधारित सरोगेट का उपयोग करता है:

कॉन्सेप्ट प्रोब्स (Concept Probes): टेक्स्ट डिस्क्रिप्टर्स का एक सेट $Q_C$ (जैसे, "Pikachu," "a photo of Pikachu") औसत CLIP सिमिलैरिटी स्कोर $s_C(x)$ की गणना करने के लिए उपयोग किया जाता है।
थ्रेशोल्डिंग (Thresholding): एक फॉरगेट एनर्जी $eE_C(x)$ को इस प्रकार परिभाषित किया गया है कि यह शून्य हो जाती है यदि $s_C(x) \le \tau$ (सौहार्द्य क्षेत्र/benign region) और यदि $s_C(x) > \tau$ है तो तेजी से (exponentially) बढ़ती है।
महत्व: थ्रेशोल्ड $\tau$ एक "नो-पेनल्टी" क्षेत्र बनाता है, जो कमजोर कॉन्सेप्ट सिमिलैरिटी वाली सौहार्द्य छवियों को ग्रेडिएंट्स के प्रभाव से बचाता है, जिससे स्थानीय रिटेंशन सुरक्षित रहता है।

3. रेसिडुअल $\nabla$ -GFlowNet के माध्यम से अनुकूलन

इस टिल्टेड डिस्ट्रीब्यूशन को डिफ्यूजन मॉडल में साकार करने के लिए, TILDE रेसिडुअल $\nabla$ -GFlowNet ट्रेनिंग का उपयोग करता है:

लक्ष्य: उस रेसिडुअल स्कोर करेक्शन को सीखना जो प्री-ट्रेन्ड सैंपलर को एनर्जी-टिल्टेड टारगेट में बदलने के लिए आवश्यक है।
तंत्र: एक पूर्ण सैंपलर को स्क्रैच से प्रशिक्षित करने के बजाय, मॉडल एक रेसिडुअल कंटीन्यूएशन स्कोर $h_\phi$ सीखता है जो डीनॉइजिंग ट्रजेक्टरी को एडजस्ट करता है।
लॉस फंक्शन: प्रशिक्षण टर्मिनल फॉरगेट एनर्जी द्वारा निर्देशित, प्री-ट्रेन्ड डीनॉइज़र और एडेप्टेड डीनॉइज़र के बीच स्थानीय निरंतरता को लागू करने के लिए एक फॉरवर्ड और रिवर्स लॉस ( $L_{fwd}, L_{rev}$ ) को कम करता है।
कार्यान्वयन: अपडेट्स को अटेंशन लेयर्स पर LoRA एडैप्टर्स तक सीमित रखा गया है, जो पैरामीटर दक्षता और न्यूनतम अपडेट बायस सुनिश्चित करता है।

मुख्य योगदान (Key Contributions)

डिस्ट्रीब्यूशनल सूत्रीकरण: शोध पत्र कॉन्सेप्ट अनलर्निंग को एक प्रतिबंधित डिस्ट्रीब्यूशनल एलाइनमेंट समस्या के रूप में सूत्रबद्ध करता है, जो एक स्पष्ट, एंकर-मुक्त, न्यूनतम-विचलन गिब्स टारगेट प्राप्त करता है।
TILDE एल्गोरिदम: यह थ्रेशोल्डेड CLIP एनर्जी और डिफ्यूजन लेटेंट स्पेस में रेसिडुअल $\nabla$ -GFlowNet ट्रेनिंग का उपयोग करके एक व्यावहारिक इंस्टेंशिएशन पेश करता है।
अनुभवजन्य सत्यापन (Empirical Validation): विधि का मूल्यांकन वस्तुओं, कलात्मक शैलियों और पात्रों के लिए किया गया है, जो पूर्ववर्ती बेसलाइन्स की तुलना में उच्च रिटेंशन और डिस्ट्रीबनेल फिडेलिटी बनाए रखते हुए प्रभावी विस्मरण में सुधार प्रदर्शित करता है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने लगभग 60 कॉन्सेप्ट्स (वस्तुओं, पात्रों, शैलियों, नग्नता) पर Stable Diffusion v1.5 पर TILDE का मूल्यांकन किया।

प्रदर्शन: TILDE लगभग पूर्ण विस्मरण (जैसे, पात्रों के लिए 0.99 अनलर्निंग एक्यूरेसी) प्राप्त करता है जबकि रिलेटेड रिटेंशन (संबंधित अवधारणाओं को संरक्षित करना) और जनरल रिटेंशन में बेसलाइन्स से काफी बेहतर प्रदर्शन करता है।
तुलना:
- हार्ड इरेज़र (जैसे, MACE): उच्च विस्मरण प्राप्त करता है लेकिन रिटेंशन को नष्ट कर देता है (रिलेटेड रिटेंशन ~0.17 तक गिर जाता है)।
- सॉफ्ट सप्रेशन (जैसे, ESD): रिटेंशन को सुरक्षित रखता है लेकिन अक्सर पर्याप्त विस्मरण प्राप्त करने में विफल रहता है।
- एंकर-आधारित (जैसे, CA, UCE): गुणवत्ता में सुधार करता है लेकिन स्पष्ट रिटेन सेट्स पर निर्भर करता है और अभी भी अवशिष्ट कॉन्सेप्ट साक्ष्य छोड़ देता है।
- TILDE: पारेटो फ्रंटियर (Pareto frontier) पर स्थित है, जो बिना किसी स्पष्ट रिटेन सुपरविजन या एंकर कॉन्सेप्ट्स के उच्च विस्मरण प्राप्त करता है।
एब्लेशन स्टडीज (Ablation Studies):
- $\nabla$ -फॉर्म को हटाने (एब्सोल्यूट फ्लो टारगेट्स का उपयोग करने) से विस्मरण प्रदर्शन ध्वस्त हो जाता है।
- रेसिडुअल घटक को हटाने से पूर्ण स्कोर फील्ड को अपडेट को अवशोषित करने के लिए मजबूर होना पड़ता है, जिससे जनरल रिटेंशन खराब हो जाता है।
- एनर्जी थ्रेशोल्ड को हटाने से विनाशकारी रिटेंशन कोलैप्स होता है, जो "नो-पेनल्टी" क्षेत्र की आवश्यकता की पुष्टि करता है।
डिस्ट्रीब्यूशनल मेट्रिक्स: TILDE बेसलाइन्स की तुलना में कम FADE (फंक्शनल एलाइनमेंट डिस्टेंस) और FID स्कोर दिखाता है, जो आदर्श "रिटेन-ओनली" डिस्ट्रीब्यूशन के साथ निकटतम संरेखण का संकेत देता है।

महत्व और दावे (Significance and Claims)

शोध पत्र का दावा है कि TILDE वर्तमान अनलर्निंग विधियों में निहित "रिटेंशन फेलियर" को संबोधित करता है क्योंकि यह स्पष्ट रूप से पोस्ट-अनलर्निंग डिस्ट्रीब्यूशन को परिभाषित करता है। एक मिनिमम-डेविएशन डिस्ट्रीब्यूशनल एलाइनमेंट के रूप में अनलर्निंग को फ्रेम करके, TILDE निम्नलिखित के खतरों से बचता है:

प्रत्यक्ष दमन के कारण होने वाला कोलेटरल डैमेज।
रिवॉर्ड मैक्सिमाइजेशन के कारण होने वाला डाइवर्सिटी कोलैप्स।
फिक्स्ड एंकर मैपिंग के कारण होने वाली अस्थिरता।

लेखक तर्क देते हैं कि TILDE प्री-ट्रेन्ड मॉडल का "प्राकृतिक न्यूनतम संशोधन" (natural minimal modification) है जो विस्मरण बाधाओं को पूरा करता है। थ्रेशोल्डेड एनर्जी का उपयोग यह सुनिश्चित करता है कि सौहार्दपूर्ण अवधारणाओं को दंडित न किया जाए, जबकि रेसिडुअल $\nabla$ -GFlowNet फ्रेमवर्क हाई-डायमेंशनल लेटेंट स्पेस में इस डिस्ट्रीब्यूशनल टारगेट को साकार करने के लिए एक कुशल तंत्र प्रदान करता है। यह कार्य सुझाव देता है कि भविष्य के अनलर्निंग अनुसंधान को अपडेट नियमों को चुनने से पहले लक्ष्य वितरण (target distribution) को परिभाषित करने को प्राथमिकता देनी चाहिए।