🤖 machine learning

Concept Unlearning via Cross-Attention Activation Projection for Diffusion Models

यह शोध पत्र PURE का प्रस्ताव करता है, जो एक क्लोज्ड-फॉर्म कॉन्सेप्ट अनलर्निंग विधि है जो एक्टिवेशन स्पेस रिप्रेजेंटेशन के आधार पर क्रॉस-अटेंशन की (key) और वैल्यू (value) वेट्स को प्रोजेक्ट करता है ताकि रिटेन्ड कॉन्सेप्ट्स के जनरेशन को सुरक्षित रखते हुए पैराफ्रेज्ड और एडवर्सरियल प्रॉम्प्ट्स के तहत डिफ्यूजन मॉडल्स से टारगेट कॉन्सेप्ट्स को प्रभावी ढंग से मिटाया जा सके।

मूल लेखक: Saemi Moon, Suhyeon Jun, Seoyeon Lee, Dongwoo Kim

प्रकाशित 2026-05-26

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Saemi Moon, Suhyeon Jun, Seoyeon Lee, Dongwoo Kim

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक अत्यंत प्रतिभाशाली कलाकार (AI) है जिसने दुनिया की हर चीज़ बनाना सीख लिया है। लेकिन, सुरक्षा या कानूनी कारणों से, आपको इस कलाकार को कुछ विशिष्ट चीज़ों को बनाना भूलने के लिए सिखाना होगा, जैसे कि कोई प्रसिद्ध कार्टून पात्र (पिकाचू) या कोई विशिष्ट पेंटिंग शैली (वैन गॉग)।

tricky हिस्सा यह है कि आप नहीं चाहते कि आपका कलाकार बाकी सब कुछ बनाना भूल जाए। आप अभी भी चाहते हैं कि वह मिकी माउस, मारियो या लैंडस्केप्स को बिल्कुल ठीक तरह से बना सके।

यह शोध पत्र एक नया, चतुर तरीका पेश करता है जिससे आप इस कलाकार को पूरी ट्रेनिंग फिर से शुरू किए बिना, विशिष्ट अवधारणाओं को "भूलने" (unlearn) में मदद कर सकते हैं। यह कैसे काम करता है, इसे सरल उपमाओं के साथ यहाँ समझाया गया है:

समस्या: "नेम टैग" की गलती

पिछले तरीकों ने कलाकार को भुलाने की कोशिश की, लेकिन उन्होंने नेम टैग (नाम की पर्ची) को देखा।

यह कैसे काम करता था: यदि आप चाहते थे कि कलाकार "पिकाचू" को भूल जाए, तो कंप्यूटर "एक फोटो ऑफ पिकाचू" या "ए पिक्चर ऑफ पिकाचू" जैसे प्रॉम्प्ट्स को देखता। वह टेक्स्ट के उस विशिष्ट पैटर्न को ढूंढता और उसे कलाकार के दिमाग से हटाने की कोशिश करता।
दोष: यह किसी को उनके नाम के आधार पर पहचानने से रोकने जैसा है। यदि आप कलाकार को कहते हैं, "एक पीला, बिजली वाला चूहा जिसके लाल गाल हों, बनाओ," तो कलाकार कहता है, "मुझे नहीं पता कि 'पिकाचू' क्या है, लेकिन मुझे यह विवरण कैसे बनाना है, यह पता है!" कलाकार फिर भी पिकाचू बनाता है, भले ही आपने उसका नाम प्रतिबंधित कर दिया हो। पुराने तरीके केवल शब्दों पर केंद्रित थे और वे विचार को चूक गए।

समाधान: "स्केचिंग प्रक्रिया" को देखना

लेखकों, साएमी मून और उनकी टीम ने महसूस किया कि कलाकार केवल नेम टैग को नहीं देखता; वह वास्तविक स्केचिंग प्रक्रिया को देखता है।

नया विचार: टेक्स्ट प्रॉम्प्ट को देखने के बजाय, उन्होंने कलाकार के आंतरिक "ब्रशस्ट्रोक" (जिसे क्रॉस-अटेंशन एक्टिवेशन्स कहा जाता है) को देखा, जबकि कलाकार वास्तव में छवि बना रहा था।
उपमा: कल्पना कीजिए कि कलाकार एक चित्र बना रहा है।
- पुराना तरीका: आप ऑर्डर फॉर्म देखते हैं और कहते हैं, "'पिकाचू' शब्द को हटा दें।"
- नया तरीका (PURE): आप कलाकार के हाथ को देखते हैं जब वह पीले कान और लाल गाल बना रहा होता है। आप देखते हैं कि उन विशिष्ट विशेषताओं को बनाने के लिए कलाकार का हाथ वास्तव में कैसे चलता है। फिर आप कलाकार के हाथ को धीरे से उस विशिष्ट गति से दूर ले जाते हैं जब भी वह उन विशेषताओं को बनाने की कोशिश करता है।

क्योंकि कलाकार के हाथ की हरकतें (एक्टिवेशन्स) ही वास्तव में छवि बनाती हैं, इसलिए उन विशिष्ट गतिविधियों को रोकना शब्दों को ब्लॉक करने की तुलना में बहुत बेहतर काम करता है। यह कलाकार को पिकाचू बनाने से रोकता है, भले ही आप बिना नाम लिए उसे हज़ारों अलग-अलग तरीकों से वर्णित करें।

उन्होंने इसे कैसे किया (एक "वन-टाइम फिक्स")

यह शोध पत्र PURE नामक एक विधि प्रस्तावित करता है। यह "क्लोज्ड-फॉर्म" है, जिसका अर्थ है कि यह एक एक बार में होने वाला, त्वरित गणितीय सुधार है, न कि एक लंबी, धीमी ट्रेनिंग प्रक्रिया।

अवलोकन (Observation): उन्होंने कलाकार को कुछ "पिकाचू" प्रॉम्प्ट्स बनाने दिया और ड्राइंग प्रक्रिया के हर लेयर में उपयोग किए गए विशिष्ट हाथ के मूवमेंट्स (एक्टिवेशन्स) को रिकॉर्ड किया।
मैप (Map): उन्होंने इन मूवमेंट्स का एक "मैप" बनाया। यह मैप दिखाता है कि कलाकार उस चीज़ को बनाते समय क्या करता है जिसे आप भुलाना चाहते हैं।
एडिट (Edit): उन्होंने कलाकार के मस्तिष्क पर एक एकल गणितीय "फ़िल्टर" लागू किया। यह फ़िल्टर कहता है: "यदि तुम्हारा हाथ 'पिकाचू' की दिशा में चलने की कोशिश करता है, तो रुक जाओ। लेकिन यदि तुम 'मारियो' या 'लैंडस्केप' की दिशा में जाने की कोशिश करते हो, तो चलते रहो।"
परिणाम: कलाकार तुरंत वह चीज़ बनाना भूल जाता है जिसे आप भुलाना चाहते थे, लेकिन अपने अन्य सभी कौशल पूरी तरह से बरकरार रखता है।

यह क्यों बेहतर है

इस शोध पत्र ने एक "होलिस्टिक अनलर्निंग बेंचमार्क" (10 विभिन्न अवधारणाओं जैसे शैलियों, मशहूर हस्तियों और कार्टून पात्रों के साथ एक परीक्षण) का उपयोग करके अन्य तरीकों के मुकाबले इसका परीक्षण किया।

भूलने में बेहतर: PURE ने कलाकार को प्रतिबंधित अवधारणाओं को बनाने से रोका, भले ही लोग चालाक, पुनर्गठित विवरणों (जैसे "एक पीला बिजली वाला जीव") का उपयोग कर रहे थे।
याद रखने में बेहतर: अन्य तरीकों के विपरीत, जिन्होंने अनजाने में कलाकार को अन्य चीज़ें (जैसे पिकाचू को बैन करने के दौरान मिकी माउस बनाने में खराब करना) भुला दीं, PURE ने कलाकार के अन्य कौशल को भी पैना बनाए रखा।
कोई अतिरिक्त लागत नहीं: क्योंकि यह एक त्वरित गणितीय संपादन है, यह कलाकार को धीमा नहीं करता है और न ही इसके लिए महंगी रिट्रेनिंग की आवश्यकता होती है।

संक्षेप में

पुराने तरीकों को शब्दकोश में एक शब्द को काटने द्वारा स्मृति मिटाने के रूप में सोचें। नया तरीका (PURE) कलाकार को एक विशिष्ट हाथ के संकेत (gesture) को करने से रोकने के बारे में है। चूंकि हाथ का संकेत ही चित्र बनाता है, इसलिए यह दृष्टिकोण धोखा देने में बहुत कठिन है और कलाकार की अन्य प्रतिभाओं को पूरी तरह से अछूता छोड़ देता है।

तकनीकी सारांश: डिफ्यूजन मॉडल्स के लिए क्रॉस-अटेंशन एक्टिवेशन प्रोजेक्शन के माध्यम से कॉन्सेप्ट अनलर्निंग

समस्या विवरण (Problem Statement)

कॉन्सेप्ट अनलर्निंग का लक्ष्य प्री-ट्रेन्ड टेक्स्ट-टू-इमेज डिफ्यूजन मॉडल्स से विशिष्ट लक्षित अवधारणाओं (जैसे, कॉपीराइट वाली शैलियाँ, सेलिब्रिटी की समानता, या असुरक्षित इमेजरी) को हटाना है, बिना स्क्रैच से रिट्रेनिंग की कम्प्यूटेशनल लागत के। प्रभावी अनलर्निंग को दो साथ-साथ चलने वाली आवश्यकताओं को पूरा करना चाहिए: लक्षित अवधारणा को पैराफ्रेज किए गए या एडवर्सरियल प्रॉम्प्ट्स के तहत भी भूलना (forgetting), और अन्य असंबंधित अवधारणाओं को उत्पन्न करने की मॉडल की क्षमता को बनाए रखना (retaining)।

मौजूदा क्लोज्ड-फॉर्म विधियाँ, जो ग्रेडिएंट-आधारित फाइन-ट्यूनिंग के बिना मॉडल वेट्स पर एक एकल नियत (deterministic) एडिट लागू करती हैं, एक गंभीर सीमा का सामना करती हैं। ये विधियाँ (जैसे, UCE, CURE) टेक्स्ट-एनकोडर एम्बेडिंग्स का उपयोग करके "फॉरगेट बेसिस" (forget basis) का निर्माण करती हैं जो छोटे एंकर प्रॉम्प्ट्स (जैसे, "Van Gogh") से प्राप्त होते हैं। लेखक तर्क देते हैं कि टेक्स्ट एम्बेडिंग्स उपयोगकर्ता के प्रॉम्प्ट का वर्णन तो करती हैं, लेकिन वे यह पकड़ने में विफल रहती हैं कि मॉडल वास्तव में डिनोइजिंग प्रक्रिया के दौरान उस प्रॉम्प्ट का उपयोग कैसे करता है। परिणामस्वरूप, पैराफ्रेज किए गए प्रॉम्प्ट्स जो एंकर टेम्पलेट्स से मेल नहीं खाते हुए भी लक्षित अवधारणा को प्रेरित करते हैं, अक्सर अनलर्निंग एडिट से बच निकलते हैं, जिससे "टारगेट लीकेज" (target leakage) होता है।

कार्यप्रणाली: PURE

यह शोध पत्र PURE (प्रोजेक्शन इन यू-नेट रेंडरिंग फॉर इरेज़र) का प्रस्ताव करता है, जो एक क्लोज्ड-फॉर्म अनलर्निंग विधि है जो बेसिस निर्माण को टेक्स्ट-एनकोडर एम्बेडिंग स्पेस से बदलकर U-Net के भीतर क्रॉस-अटेंशन एक्टिवेशन स्पेस में स्थानांतरित करती है।

मुख्य परिकल्पना (Core Hypothesis):
लेयर $\ell$ पर क्रॉस-अटेंशन एक्टिवेशन ( $h^\ell$ ) यह दर्शाते हैं कि डिनोइज़र वर्तमान लेटेंट स्टेट और टाइमस्टेप के तहत टेक्स्ट कंडीशन का उपयोग कैसे करता है। स्टैटिक टेक्स्ट एम्बेडिंग्स के विपरीत, ये एक्टिवेशंस उस विशिष्ट अवधारणा के साक्ष्य को कैप्चर करते हैं जिसका उपयोग वास्तव में इमेज जनरेशन के दौरान किया जाता है, जो विविध प्रॉम्प्ट फे्रज़िंग के लिए बेहतर सामान्यीकरण (generalization) प्रदान करते हैं।

एल्गोरिदम प्रक्रिया (Algorithmic Procedure):

एक्टिवेशन कैप्चर: फॉरगेट एंकर्स ( $\mathcal{A}_f$ ) और रिटेन एंकर्स ( $\mathcal{A}_r$ ) के एक सेट के लिए, मॉडल एक संक्षिप्त डिनोइजिंग ट्राजेक्टरी चलाता है। प्रत्येक लेयर $\ell$ और टाइमस्टेप पर, पोस्ट-अटेंशन एक्टिवेशंस को निकाला जाता है, स्पेशियली मीन-पूल (spatially mean-pooled) किया जाता है, और मैट्रिसेस $H^\ell_F$ और $H^\ell_R$ में एकत्रित किया जाता है।
सबस्पेस निर्माण: प्रत्येक लेयर के लिए $H^\ell_F$ और $H^\ell_R$ पर सिंगुलर वैल्यू डीकंपोजिशन (SVD) किया जाता है। टॉप सिंगुलर वेक्टर्स, संचयी वेरिएंस थ्रेशोल्ड ( $\tau_F, \tau_R$ ) तक, फॉरगेट बेसिस ( $V^\ell_F$ ) और रिटेन बेसिस ( $V^\ell_R$ ) बनाते हैं।
लीनियर एडिट: यह विधि क्रॉस-अटेंशन की (key) $W^\ell_K$ $W_{K}^{ℓ}$ और वैल्यू (value) $W^\ell_V$ $W_{V}^{ℓ}$ प्रोजेक्शन मैट्रिसेस पर एक एकल लीनियर अपडेट लागू करती है। अपडेट ऑपरेटर $E^\ell$ $E^{ℓ}$ को इस प्रकार परिभाषित किया गया है:
$E^\ell = I - P^\ell_F (I - P^\ell_R)$
जहाँ $P^\ell_F = V^\ell_F (V^\ell_F)^\top$ $P_{F}^{ℓ} = V_{F}^{ℓ} (V_{F}^{ℓ})^{⊤}$ और $P^\ell_R = V^\ell_R (V^\ell_R)^\top$ $P_{R}^{ℓ} = V_{R}^{ℓ} (V_{R}^{ℓ})^{⊤}$ है।
वेट्स को लेफ्ट-मल्टीप्लिकेशन के माध्यम से अपडेट किया जाता है: $W^\ell \leftarrow E^\ell W^\ell$ $W^{ℓ} \leftarrow E^{ℓ} W^{ℓ}$ ।
- तंत्र (Mechanism): टर्म $(I - P^\ell_R)$ रिटेन अवधारणाओं के साथ संरेखित घटकों को हटा देता है, यह सुनिश्चित करता है कि $P^\ell_F$ केवल ऑर्थोगोनल सबस्पेस पर कार्य करे। आइडेंटिटी से इसे घटाने से यह सुनिश्चित होता है कि रिटेन अवधारणाओं के साथ संरेखित इनपुट्स बिना किसी बदलाव के गुजरें।
- स्ट्रक्चरल शिफ्ट: टेक्स्ट स्पेस में दाईं ओर से गुणा करने वाली पिछली विधियों के विपरीत, PURE एक्टिवेशन स्पेस में बाईं ओर से गुणा करता है ( $d_\ell \times d_\ell$ ), जिसके लिए प्रति-लेयर एडिट आवश्यक है।

प्रमुख योगदान (Key Contributions)

एक्टिवेशन-आधारित बेसिस: शोध पत्र पहचान करता है कि टेक्स्ट एम्बेडिंग्स के बजाय क्रॉस-अटेंशन एक्टिवेशंस से फॉरगेट बेसिस का निर्माण करना विविध प्राकृतिक और एडवर्सरियल प्रॉम्प्ट्स में लक्षित अवधारणाओं का पता लगाने में काफी सुधार करता है।
प्रोबिंग प्रयोग: एक बाइनरी क्लासिफिकेशन प्रयोग प्रदर्शित करता है कि एक एक्टिवेशन-आधारित बेसिस, टेक्स्ट-आधारित बेसिस की तुलना में पैराफ्रेज किए गए नेचुरल प्रॉम्प्ट्स पर लगभग पाँच गुना अधिक रिकॉल (recall) प्राप्त करता है, जो पुष्टि करता है कि एक्टिवेशन फीचर्स जनरेशन-संबंधित अवधारणा के साक्ष्य को बेहतर ढंग से कैप्चर करते हैं।
क्लोज्ड-फॉर्म एफिशिएंसी: PURE क्लोज्ड-फॉर्म एडिटिंग के लाभों को बनाए रखता है: इसके लिए कोई ग्रेडिएंट ट्रेनिंग, कोई सहायक लॉस फंक्शन, लर्निंग रेट्स का कोई हाइपरपैरामीटर ट्यूनिंग नहीं चाहिए, और एडिट लागू होने के बाद इन्फरेंस-टाइम पर कोई अतिरिक्त लागत नहीं जुड़ती है।
लेयर-विशिष्ट एडिटिंग: यह विधि प्रति-लेयर SVD और एडिट करती है, यह स्वीकार करते हुए कि अवधारणा का प्रतिनिधित्व U-Net की गहराई के अनुसार बदलता रहता है।

प्रायोगिक परिणाम (Experimental Results)

लेखकों ने चार श्रेणियों (आर्टिस्टिक स्टाइल, इंटेलेक्चुअल प्रॉपर्टी (IP), सेलिब्रिटी, और NSFW) में दस अवधारणाओं को कवर करने वाले होलिस्टिक अनलर्निंग बेंचमार्क (HUB) पर PURE का मूल्यांकन किया।

फॉरगेट-रिटेन ट्रेड-ऑफ: PURE पाँच बेसलाइन्स (ESD, MACE, RECELER, UCE, CURE) की तुलना में सभी श्रेणियों में सर्वश्रेष्ठ हार्मोनिक-मीन स्कोर प्राप्त करता है।
टारगेट सप्रेशन: PURE, CURE की तुलना में पैराफ्रेज्ड और एडवर्सरियल प्रॉम्प्ट्स के तहत लक्षित लीकेज को काफी कम कर देता है, जो अक्सर विफल हो जाता है।
रिटेंशन: PURE "रिटेन" अवधारणाओं (एक ही श्रेणी में पड़ोसी अवधारणाओं) को आक्रामक ट्रेनिंग-आधारित विधियों (जो रिटेंशन को नुकसान पहुँचाती हैं) और टेक्स्ट-स्पेस क्लोज्ड-फॉर्म विधियों (जो अक्सर स्टाइल श्रेणियों में सप्रेशन के लिए रिटेंशन का त्याग करती हैं) की तुलना में बेहतर तरीके से सुरक्षित रखता है।
एब्लेशन स्टडीज (Ablation Studies):
- एंकर साइज: नेचुरल फॉरगेट एंकर्स की संख्या बढ़ाने से टेक्स्ट बेसिस का सप्रेशन सुधरता है लेकिन रिटेंशन घट जाता है। एक्टिवेशन बेसिस एंकर सेट्स के बढ़ने पर भी न्यूनतम रिटेंशन लॉस के साथ मजबूत सप्रेशन बनाए रखता है।
- डिनोइजिंग स्टेप्स: एक सिंगल डिनोइजिंग स्टेप ( $T=1$ ) का उपयोग करने से प्रदर्शन में भारी गिरावट आती है, जो इंगित करता है कि ट्राजेक्टरी के दौरान कॉन्सेप्ट सिग्नल को कैप्चर करना आवश्यक है।
- लेटेंट एवरेजिंग: कई रैंडम लेटेंट्स ( $n_{lat}$ ) पर औसत निकालना बेसिस को शोर-विशिष्ट आर्टिफैक्ट्स के बजाय कॉन्सेप्ट-लेवल दिशाओं की ओर स्थिर करता है।

महत्व और दावे (Significance and Claims)

शोध पत्र दावा करता है कि PURE इस बात में एक मौलिक बदलाव का प्रतिनिधित्व करता है कि क्लोज्ड-फॉर्म अनलर्निंग को कैसे दृष्टिकोण दिया जाए। बेसिस निर्माण को स्टैटिक टेक्स्ट-एनकोडर स्पेस से डायनेमिक क्रॉस-अटेंशन एक्टिवेशन स्पेस में स्थानांतरित करके, यह विधि मौजूदा क्लोज्ड-फॉर्म तकनीकों के प्राथमिक विफलता मोड को दूर करती है: एंकर टेम्पलेट्स के बाहर गिरने वाले प्रॉम्प्ट वेरिएशंस को संभालने में अक्षमता।

लेखक दावा करते हैं कि PURE अनलर्निंग के लिए एक मजबूत, कुशल और स्टेट-ऑफ-द-आर्ट समाधान प्रदान करता है, जो रिट्रेनिंग की कम्प्यूटेशनल ओवरहेड के बिना अनवांटेड कॉन्सेप्ट्स को मिटाने और मॉडल की सामान्य उपयोगिता को बनाए रखने के बीच एक बेहतर संतुलन प्रदान करता है। यह कार्य सुझाव देता है कि "फॉरगेट डायरेक्शन" केवल इनपुट टेक्स्ट के बजाय मॉडल की आंतरिक रेंडरिंग प्रक्रिया द्वारा अधिक सटीक रूप से परिभाषित होती है।