Z-Erase: Enabling Concept Erasure in Single-Stream Diffusion Transformers

यहाँ शोध पत्र "Z-Erase: Enabling Concept Erasure in Single-Stream Diffusion Transformers" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

टेक्स्ट-टू-इमेज (T2I) जनरेशन का क्षेत्र ड्यूल-स्ट्रीम आर्किटेक्चर (जैसे, Stable Diffusion, Flux) से तेजी से बदलकर सिंगल-स्ट्रीम डिफ्यूजन ट्रांसफॉर्मर (जैसे, Z-Image, HunuanImage-3.0) की ओर बढ़ रहा है। इन नए मॉडलों में, टेक्स्ट और इमेज टोकन को एक एकल एकीकृत अनुक्रम (unified sequence) में संयोजित किया जाता है और साझा मापदंडों (shared parameters) वाले एक मोनोलिथिक ट्रांसफार्मर बैकबोन द्वारा प्रोसेस किया जाता है।

जबकि कॉन्सेप्ट इरेज़र (अवांछित अवधारणाओं जैसे NSFW सामग्री, कॉपीराइट वाली संस्थाओं या पूर्वाग्रहों को हटाना) U-Net और ड्यूल-स्ट्रीम मॉडलों के लिए अच्छी तरह से स्थापित है, सिंगल-स्ट्रीम मॉडलों पर मौजूदा इरेज़र विधियों को सीधे लागू करने से "जनरेशन कोलैप्स" (generation collapse) हो जाता है।

• मुख्य बाधा: सिंगल-स्ट्रीम मॉडलों में, सेल्फ-अटेंशन मैकेनिज्म के भीतर टेक्स्ट और इमेज प्रोसेसिंग एक ही प्रोजेक्शन वेट्स ($W_Q, W_K, W_V$) साझा करते हैं।
• विफलता का स्वरूप (Failure Mode): किसी टेक्स्ट कॉन्सेप्ट को दबाने के लिए इन साझा वेट्स को फाइन-ट्यून करने का प्रयास करने से विजुअल सिंथेसिस पाथवे विकृत हो जाता है, जिससे विनाशकारी शोर (catastrophic noise), गंभीर आर्टिफैक्ट्स, या इमेज बनाने की पूर्ण अक्षमता उत्पन्न होती है।
• द्वितीयक चुनौती: भले ही जनरेशन स्थिर हो, एकीकृत अटेंशन स्पेस (unified attention space) एक लक्षित अवधारणा को मिटाने और असंबंधित सामग्री पर मॉडल की उपयोगिता को बनाए रखने के बीच संतुलन बनाना अत्यंत कठिन बना देता है।

2. कार्यप्रणाली: Z-Erase (Methodology: Z-Erase)

लेखक Z-Erase प्रस्तावित करते हैं, जो विशेष रूप से सिंगल-स्ट्रीम T2I मॉडलों के लिए डिज़ाइन किया गया पहला कॉन्सेप्ट इरेज़र फ्रेमवर्क है। इसमें दो प्राथमिक घटक शामिल हैं:

A. स्ट्रीम डिसेंटैंगल्ड कॉन्सेप्ट इरेज़र फ्रेमवर्क (Stream Disentangled Concept Erasure Framework)

जनरेशन कोलैप्स को रोकने के लिए, लेखक एक संरचनात्मक हस्तक्षेप (structural intervention) पेश करते हैं जो टेक्स्ट और इमेज स्ट्रीम के लिए पैरामीटर अपडेट को अलग करता है।

• तंत्र (Mechanism): वे एक टोकन-वाइज सिलेक्शन ऑपरेटर (एक बाइनरी गेट) का उपयोग करते हैं जो लो-रैंक एडेप्टेशन (LoRA) अपडेट को विशेष रूप से टेक्स्टुअल हिडन स्टेट्स ($H_{txt}$) तक सीमित करता है, जबकि विजुअल बैकबोन ($H_{img}$) को फ्रीज कर देता है।
• गणितीय सूत्रीकरण (Mathematical Formulation): एक वेट मैट्रिक्स $W$ के लिए, अपडेट को इस प्रकार लागू किया जाता है: $H' = HW + S_T H(\Delta W)$, जहाँ $S_T$ इमेज टोकन के लिए अपडेट को शून्य कर देता है।
• परिणाम: यह एक "सुरक्षित अनुकूलन उपस्थान" (safe optimization subspace) बनाता है जहाँ इरेज़र ग्रेडिएंट्स विजुअल सिंथेसिस पाथवे को बाधित नहीं करते हैं, जिससे मौजूदा इरेज़र ऑब्जेक्टिव्स (जैसे नेगेटिव गाइडेंस) इमेज क्वालिटी को नष्ट किए बिना कार्य कर पाते हैं।

B. लैग्रेंजियन-गाइडेड एडेप्टिव इरेज़र मॉड्यूलेशन (Lagrangian-Guided Adaptive Erasure Modulation)

इस सुरक्षित उपस्थान के भीतर, लेखक लक्षित अवधारणा को मिटाने और असंबंधित सामग्री को संरक्षित करने के बीच के संवेदनशील ट्रेड-ऑफ को संबोधित करते हैं।

• समस्या: इरेज़र और प्रिजर्वेशन लॉस के स्टैटिक वेटिंग से अक्सर एक बाइनरी परिणाम मिलता है: या तो कॉन्सेप्ट बना रहता है (अंडर-इरेज़र), या इमेज क्वालिटी खराब हो जाती है (ओवर-इरेज़र)।
• समाधान: वे इस समस्या को एक प्रतिबंधित अनुकूलन (constrained optimization) कार्य के रूप में तैयार करते हैं। लक्ष्य इरेज़र लॉस ($L_{er}$) के वंश (descent) को अधिकतम करना है, जबकि प्रिजर्वेशन लॉस ($L_{pr}$) की वृद्धि को एक सख्त टॉलरेंस $\epsilon$ के भीतर सीमित करना है।
• एल्गोरिदम:
  • वे एक डायनेमिक वेट $\lambda_t$ खोजने के लिए एक लैग्रेंजियन डुअल प्रॉब्लम को व्युत्पन्न करते हैं।
  • महंगे सेकंड-ऑर्डर गणनाओं के बजाय, वे स्टेप्स के बीच प्रिजर्वेशन लॉस में परिवर्तन के आधार पर $\lambda_t$ को अपडेट करने के लिए फर्स्ट-ऑर्डर टेलर एप्रोक्सिमेशन का उपयोग करते हैं।
  • अपडेट नियम: यदि प्रिजर्वेशन लॉस महत्वपूर्ण रूप से बढ़ता है, तो $\lambda$ बढ़ता है, जिससे अपडेट की दिशा संरक्षण को प्राथमिकता देने के लिए मजबूर होती है। यदि प्रइजेशन स्थिर है, तो $\lambda$ घटता है, जिससे आक्रामक इरेज़र की अनुमति मिलती है।
• सैद्धांतिक गारंटी: पेपर एक कठोर प्रमाण प्रदान करता है कि यह एल्गोरिदम एक पारेटो स्टेशनरी पॉइंट (Pareto stationary point) की ओर अभिसरित (converge) होता है, जो सुरक्षा और उपयोगिता के बीच एक सिद्धांतपूर्ण संतुलन सुनिश्चित करता है।

3. मुख्य योगदान (Key Contributions)

1. आर्किटेक्चरल एंटैंगलमेंट की पहचान: पेपर पहचान करता है कि सिंगल-स्ट्रीम मॉडलों में जनरेशन कोलैप्स साझा प्रोजेक्शन वेट्स से उत्पन्न होता है और यह प्रदर्शित करता है कि सरल ट्यूनिंग या साधारण अटेंशन मास्किंग (कॉलम को ज़ीरो करना) नाजुक और अप्रभावी है।
2. स्ट्रीम डिसेंटैंगल्ड फ्रेमवर्क: एक नवीन संरचनात्मक हस्तक्षेप जो टेक्स्टुअल अपडेट को विजुअल सिंथेसिस से अलग करता है, जिससे पहली बार सिंगल-स्ट्रीम आर्किटेक्चर के लिए इरेज़र विधियों को लागू करना संभव हुआ।
3. एडेप्टिव मॉड्यूलेशन एल्गोरिदम: एक डायनेमिक, लैग्रेंजियन-गाइडेड एल्गोरिदम जो पारेटो स्टेशनरी पॉइंट के अभिसरण विश्लेषण द्वारा समर्थित, स्वचालित रूप से इरेज़र स्ट्रेंथ और उपयोगिता संरक्षण के बीच संतुलन बनाता है।
4. टोकन-लेवल लोकलाइजेशन: लेखक दिखाते हैं कि सिंगल-स्ट्रीम मॉडलों में अटेंशन मैप्स कॉन्सेप्ट्स के सटीक टोकन-लेवल लोकलाइजेशन की अनुमति देते हैं, जिसका उपयोग इरेज़र ऑब्जेक्टिव को रिफाइन करने के लिए किया जाता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

विधि का मूल्यांकन कई बेंचमार्क पर Z-Image Turbo और HunyuanImage-3.0 पर किया गया:

• NSFW इरेज़र (नग्नता और हिंसा):
  • Z-Erase ने परीक्षण की गई सभी विधियों (UCE, ESD, और EraseAnything से बेहतर) में नग्नता और हिंसा के लिए सबसे कम डिटेक्शन रेट प्राप्त किया।
  • महत्वपूर्ण रूप से, इसने मानक MS-COCO प्रॉम्प्ट्स पर स्टेट-ऑफ-द-आर्ट (SOTA) FID और CLIP स्कोर बनाए रखा, जो यह सिद्ध करता है कि यह सामान्य इमेज क्वालिटी को कम नहीं करता है, जबकि प्रतिस्पर्धी जैसे UCE में महत्वपूर्ण गुणवत्ता गिरावट देखी गई।
• सेलिब्रिटी और आइडेंटिटी इरेज़र:
  • CelebA डेटासेट पर, Z-Erase ने उच्चतम बैलेंस स्कोर ($H_a$) प्राप्त किया, जिसने अन्य चेहरों को उत्पन्न करने की क्षमता को बनाए रखते हुए लक्षित पहचान को प्रभावी ढंग से मिटा दिया।
• विविध अवधारणाएं (Miscellaneous Concepts):
  • इसने Entities (जैसे, "Church"), Artistic Styles (जैसे, "Van Gogh"), और Abstract Concepts (जैसे, "Green," "Time") सहित विविध श्रेणियों को सफलतापूर्वक मिटाया।
• मजबूती (Robustness):
  • Z-Erase ने टोकन-ज़ीरोइंग या स्टैटिक फाइन-ट्यूनिंग विधियों की तुलना में एडवरसैरियल प्रॉम्प्ट हमलों (जैसे, Ring-A-Bell, ReFlux) के खिलाफ बेहतर मजबूती प्रदर्शित की।
• यूजर स्टडी:
  • 30 प्रतिभागियों वाले मानव मूल्यांकन में, Z-Erase को पांच आयामों में उच्चतम रेटिंग मिली: प्रॉम्प्ट एडहेरेंस, इरेज़िंग क्लीनलीनेस, इर्रेलिवेंट प्रिजर्वेशन, इमेज क्वालिटी, और आउटपुट डाइवर्सिटी।

5. महत्व और प्रभाव (Significance and Impact)

• सुरक्षा अंतराल को पाटना (Bridging the Safety Gap): जैसे-जैसे सिंगल-स्ट्रीम ट्रांसफॉर्मर अपनी दक्षता और गुणवत्ता के कारण फाउंडेशनल मॉडलों के लिए नया मानक बन रहे हैं, Z-Erase उन्हें नियंत्रित करने के लिए पहला व्यवहार्य सुरक्षा तंत्र प्रदान करता है। इसके बिना, इन शक्तिशाली मॉडलों को विनियमित वातावरण में उपयोग करना असंभव होगा क्योंकि उनसे हानिकारक अवधारणाओं को हटाना मुश्किल होगा।
• जिम्मेदार AI (Responsible AI): यह कार्य जनरेटिव मॉडलों की तैनाती को सक्षम बनाता है जो कॉपीराइट, गोपनीयता और सुरक्षा दिशानिर्देशों का सम्मान करते हैं, बिना उन जनरेटिव क्षमताओं का त्याग किए जो इन मॉडलों को मूल्यवान बनाते हैं।
• सैद्धांतिक प्रगति: यह पेपर अत्यधिक उलझे हुए (entangled) न्यूरल आर्किटेक्चर में संघर्षरत उद्देश्यों को संतुलित करने के लिए एक व्यावहारिक, कन्वर्जेंट एल्गोरिदम प्रदान करके डीप लर्निंग में मल्टी-ऑब्जेक्टिव ऑप्टिमाइजेशन की थ्योरी में योगदान देता है।

संक्षेप में, Z-Erase स्ट्रक्चरल डिकपलिंग के माध्यम से सिंगल-स्ट्रीम डिफ्यूजन मॉडलों में क्रिटिकल "जनरेशन कोलैप्स" की समस्या को हल करता है और यह सुनिश्चित करने के लिए एक गणितीय रूप से कठोर, एडेप्टिव एल्गोरिदम पेश करता है कि सुरक्षा संरेखण (safety alignment) मॉडल की उपयोगिता की कीमत पर न आए।