🤖 AI

Safe Autoregressive Image Generation with Iterative Self-Improving Codebooks

यह शोध पत्र एक पुनरावृत्ति स्व-सुधार ढांचे (iterative self-improving framework) का प्रस्ताव करता है जो एक एकीकृत मल्टीमॉडल मॉडल के अपने निर्णय का लाभ उठाकर असुरक्षित जनरेशन की पहचान करता है और अनुकूल रूप से इसके विजुअल कोडबुक को परिष्कृत करता है, जिससे बाहरी मानवीय फीडबैक की आवश्यकता के बिना ऑटोरेग्रेसिव इमेज जनरेशन में सुरक्षा को बढ़ाया जा सके।

मूल लेखक: Yunqi Xue, Zhijiang Li, Philip Torr, Jindong Gu

प्रकाशित 2026-06-26

📖 4 मिनट में पढ़ें☕ कॉफ़ी ब्रेक में पढ़ें

CC BY 4.0

मूल लेखक: Yunqi Xue, Zhijiang Li, Philip Torr, Jindong Gu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही प्रतिभाशाली, सर्वज्ञ कलाकार है जो आपके विवरणों के आधार पर चित्र बना सकता है। यह कलाकार कैनवास पर ब्रश से पेंट नहीं करता है; इसके बजाय, वे एक विशाल बॉक्स से लेगो ब्रिक्स (Lego bricks) को जोड़ने वाले एक मास्टर बिल्डर की तरह, एक-एक करके "पिक्सेल-ब्लॉक" बनाता है। इस ब्रिक्स के बॉक्स को कोडबुक (codebook) कहा जाता है।

समस्या यह है कि कभी-कभी, यदि आप उन्हें कुछ विशिष्ट बनाने के लिए कहते हैं (भले ही आपका इरादा हानिकारक न हो), तो वे अनजाने में बॉक्स से एक "खराब ईंट" चुन सकते हैं जिसके परिणामस्वरूप एक डरावनी, हिंसक या अनुचित तस्वीर बन सकती है।

यह शोध पत्र इस कलाकार के ईंटों के बॉक्स को ठीक करने का एक चतुर तरीका बताता है ताकि वे केवल सुरक्षित चित्र बना सकें, और इसके लिए उन्हें किसी मानव शिक्षक द्वारा उनके काम की लगातार जांच करने की आवश्यकता नहीं है। वे इसे कैसे करते हैं, यहाँ एक सरल तीन-चरणीय कहानी दी गई है:

1. कलाकार अपना स्वयं का शिक्षक बनता है (आत्म-चिंतन/Self-Reflection)

आमतौर पर, एक कलाकार को बुरा चित्र बनाने से रोकने के लिए सिखाने हेतु आपको एक इंसान की आवश्यकता होती है जो हर पेंटिंग को देखे और कहे, "नहीं, यह बहुत हिंसक है," या "हाँ, यह सुरक्षित है।" इसमें बहुत समय लगता है।

इसके बजाय, यह विधि कलाकार को अपने स्वयं के काम को देखने की अनुमति देती है।

कलाकार एक प्रॉम्प्ट (निर्देश) के आधार पर एक चित्र बनाने की कोशिश करता है।
कलाकार फिर उस चित्र को देखता है और पूछता है, "क्या यह खतरनाक या अनुचित दिख रहा है?"
यदि कलाकार सोचता है, "हाँ, यह बुरा है," तो वह एक "बुरा उदाहरण" बनाता है।
फिर, वह उसी तरह का लेकिन एक सुरक्षित संस्करण बनाने की कोशिश करता है।
अब, कलाकार के पास एक जोड़ी है: एक "बुरा चित्र" और एक "अच्छा चित्र"।

2. "खराब ईंटों" को खोजना (हानिकारक स्थान/The Harmful Space)

शोधकर्ताओं ने महसूस किया कि "बुरे चित्र" और "अच्छे चित्र" के बीच का अंतर यादृच्छिक (random) नहीं है; यह कलाकार द्वारा चुनी गई विशिष्ट "ईंटों" (टोकन्स) में छिपा हुआ है।

वे "बुरे" ईंटों और "अच्छी" ईंटों को लेते हैं और उनकी तुलना करते हैं।
वे गणित का उपयोग करके उस विशिष्ट दिशा को पाते हैं जहाँ "बुराई" बसी हुई है। इसे ईंटों के भंडारण कक्ष में एक विशिष्ट सायादार कोने (shadowy corner) को खोजने के रूप में समझें जहाँ सभी खतरनाक लेगो के टुकड़े छिपे हुए हैं।
वे फिर उस कोने को लॉक कर देते हैं। वे यह सुनिश्चित करते हैं कि कलाकार उस सायादार कोने तक दोबारा कभी न पहुँच सके और वहाँ से कोई ईंट न उठा सके। इसे कोडबुक को एक "हानिरहित स्थान" में प्रोजेक्ट करना कहा जाता है।

3. कला को निखारना (अनुकूली फाइन-ट्यूनिंग/Adaptive Fine-Tuning)

यहाँ पेचीदा हिस्सा है: यदि आप बस खराब ईंटों को लॉक कर देते हैं, तो कलाकार सामान्य कला के लिए आवश्यक कुछ उपकरणों की कमी के कारण बदसूरत या धुंधले चित्र बनाने लग सकता है।

इसे ठीक करने के लिए, शोधकर्ता कलाकार को फिर से सुरक्षित चित्र बनाने का अभ्यास करने देते हैं, लेकिन एक सख्त नियम के साथ: आप केवल उन्हीं उपकरणों का उपयोग कर सकते हैं जो सायादार कोने में नहीं हैं।
कलाकार केवल "सुरक्षित" उपकरणों का उपयोग करके अपने कौशल को फिर से बनाने के लिए सीखता है, जिससे चित्रों के खुरदरे किनारों को सुधारा जा सके और वे सुंदर दिख सकें।
यह प्रक्रिया पुनरावृत्ति (iterative) है, जिसका अर्थ है कि वे चक्र को दोहराते हैं: चित्र बनाने की कोशिश करें -> बुराई की जाँच करें -> बुरे कोने को लॉक करें -> सुरक्षित पेंटिंग का अभ्यास करें -> दोहराएं। प्रत्येक बार, कलाकार बुराइयों से बचते हुए और उच्च गुणवत्ता बनाए रखते हुए बेहतर होता जाता है।

परिणाम

इस प्रक्रिया के अंत में, कलाकार के पास एक नया, उन्नत ईंटों का बॉक्स होता है।

वह अभी भी सुंदर, जटिल और भावनात्मक उत्कृष्ट कृतियाँ (जैसे "19वीं सदी की पेंटिंग" या "गहरा भावनात्मक चित्र" वाले उदाहरण) बना सकता है।
लेकिन यदि आप उसे कुछ हानिकारक (जैसे हिंसा या नग्नता) बनाने के लिए कहते हैं, तो "खराब ईंटें" वहां उपलब्ध ही नहीं होंगी जिन्हें चुना जा सके। कलाकार इसके बजाय दृश्य का एक सुरक्षित संस्करण बनाएगा।

संक्षेप में: यह शोध पत्र एक AI कलाकार को खुद की निगरानी करना सिखाता है। यह अपनी गलतियों को पहचानता है, उन विशिष्ट "मानसिक उपकरणों" की पहचान करता है जो उन गलतियों का कारण बनते हैं, उन उपकरणों को हटा देता है, और फिर केवल सुरक्षित उपकरणों का उपयोग करके एक महान कलाकार बनने के लिए फिर से सीखता है। सबसे अच्छी बात यह है कि यह सब करने के लिए उसे हजारों बुरे चित्रों को लेबल करने के लिए किसी मानव की आवश्यकता नहीं होती है।

तकनीकी सारांश: पुनरावृत्त स्व-सुधारित कोडबुक के साथ सुरक्षित ऑटोरेग्रेसिव इमेज जनरेशन

समस्या विवरण

ऑटोरेग्रेसिव यूनिफाइड मल्टीमॉडल मॉडल, डिफ्यूजन मॉडल की तरह निरंतर लेटेंट स्पेस (continuous latent spaces) पर काम करने के बजाय, कोडबुक से प्राप्त विविक्त (discretized) विजुअल टोकन को क्रमिक रूप से प्रेडिक्ट करके चित्र उत्पन्न करते हैं। हालांकि यह आर्किटेक्चर गति और टेक्स्ट-कंडीशनिंग निरंतरता में लाभ प्रदान करता है, यह गंभीर सुरक्षा संबंधी चिंताएं भी पैदा करता है: इन ऑटोरेग्रेसिव सिस्टम द्वारा उत्पन्न चित्र कितने सुरक्षित हैं? डिफ्यूजन मॉडल के लिए मौजूदा सुरक्षा न्यूनीकरण विधियां (जैसे, लेटेंट स्पेस गाइडेंस, पोस्ट-जेनरेशन फिल्टरिंग) निरंतर निरूपणों (continuous representations) पर निर्भर करती हैं और ऑटोरेग्रेसिव मॉडल के विविक्त (discrete) टोकन-आधारित जनरेशन के साथ अच्छी तरह से सामान्यीकृत नहीं होती हैं। इसके अलावा, वर्तमान दृष्टिकोणों के लिए अक्सर व्यापक मानव एनोटेशन या बाहरी फीडबैक लूप की आवश्यकता होती है, जो संसाधन-गहन हैं और स्केल करना कठिन है।

कार्यप्रणाली

यह शोध पत्र इटरेटिव सेल्फ-इंप्रूविंग कोडबुक्स (Iterative Self-Improving Codebooks) का प्रस्ताव करता है, जो एक विधि है जो बाहरी मानव एनोटेशन के बिना हानिकारक अवधारणाओं को पहचानने और समाप्त करने के लिए यूनिफाइड मल्टीमॉडल मॉडल की अपनी क्षमताओं का लाभ उठाती है। यह दृष्टिकोण दो मुख्य चरणों से मिलकर बना है जो अभिसरण (convergence) तक बार-बार दोहराए जाते हैं:

1. हानिकारक स्थान (Harmful Space) और प्रोजेक्शन का निर्माण

स्व-जनित डेटा पेयरिंग: मॉडल हानिकारक गुणों वाले प्रॉम्प्ट्स के एक सेट से चित्र उत्पन्न करता है। मॉडल की अपनी समझ क्षमताओं का उपयोग करते हुए, यह पहचानता है कि कौन से उत्पन्न चित्र हानिकारक हैं। प्रत्येक हानिकारक प्रॉम्प्ट ( $x_u$ ) के लिए, मॉडल असुरक्षित शब्दों को सौम्य शब्दों से बदलकर एक समान लेकिन सुरक्षित वैकल्पिक प्रॉम्प्ट ( $x_s$ ) बनाता है। यह पेयर्ड इमेज-टेक्स्ट डेटासेट बनाता है: हानिकारक के लिए $(x_u, y_u)$ और सुरक्षित के रूप में $(x_s, y_s)$ ।
फीचर डिफरेंस एक्सट्रैक्शन: मॉडल इन प्रॉम्प्ट्स के लिए अपने कोडबुक से संबंधित टोकन्स के एम्बेडिंग फीचर्स ( $F_u$ और $F_s$ ) निकालता है। इन फीचर वेक्टर्स के बीच के अंतर ( $F_u - F_s$ ) की गणना इन विशिष्ट फीचर्स को अलग करने के लिए की जाती है जो हानिकारक अवधारणा से जुड़े होते हैं।
सबस्पेस निर्माण: इन डिफरेंस वेक्टर्स को एकत्रित किया जाता है और प्रिंसिपल कंपोनेंट्स निकालने के लिए सिंगुलर वैल्यू डिकंपोजिशन (SVD) के माध्यम से प्रोसेस किया जाता है। टॉप- $k$ सिंगुलर वेक्टर्स एक हार्मफुल सबस्पेस ( $P$ ) को परिभाषित करते हैं जो हानिकारक अवधारणा (जैसे, नग्नता, हिंसा) के मुख्य फीचर्स को कैप्चर करता है।
हार्ड प्रोजेक्शन: मूल कोडबुक ( $W_{ori}$ ) को इस हानिकारक सबस्पेस में स्थित घटकों को हटाने के लिए प्रोजेक्ट किया जाता है। प्रोजेक्टेड कोडबुक ( $W_{proj}$ ) की गणना इस प्रकार की जाती है:
$W_{proj} = W_{ori} (I - \lambda \cdot \text{Proj}_P(W_{ori}))$
यह सुनिश्चित करता है कि नए एम्बेडिंग्स हानिकारक जानकारी के लंबवत (orthogonal) हों।

2. हानिरहित स्पेस में एडेप्टिव फाइन-ट्यूनिंग

क्वालिटी रेस्टोरेशन: चरण 1 में हार्ड प्रोजेक्शन सौम्य विवरणों को हटाकर इमेज क्वालिटी को कम कर सकता है। इसका मुकाबला करने के लिए, यह विधि प्रोजेक्टेड कोडबुक पर एडेप्टिव फाइन-ट्यूनिंग करती है।
नुल स्पेस कंस्ट्रेंट (Null Space Constraint): इमेज फिडेलिटी को बढ़ाने के लिए एक पर्टर्बेशन मैट्रिक्स ( $\Delta$ ) को ऑप्टिमाइज़ किया जाता है। महत्वपूर्ण रूप से, यह पर्टर्बेशन डिफरेंस मैट्रिक्स $E$ (हानिकारक सबस्पेस के लंबवत स्थान) के नुल स्पेस में प्रतिबंधित है। यह सुनिश्चित करता है कि फाइन-ट्यूनिंग प्रक्रिया हानिकारक जानकारी को फिर से पेश किए बिना विजुअल क्वालिटी में सुधार करती है।
फाइनल कोडबुक: अंतिम सुरक्षित कोडबुक को $W_{safe} = W_{proj} + \Delta \cdot Q$ के रूप में बनाया जाता है, जहाँ $Q$ नुल स्पेस पर प्रोजेक्शन मैट्रिक्स है।

यह पूरी प्रक्रिया इटरेटिव है: अपडेटेड कोडबुक का उपयोग नया डेटा जेनरेट करने, हानिकारक स्पेस को रिफाइन करने और सुरक्षा एवं गुणवत्ता को और बेहतर बनाने के लिए किया जाता है।

प्रमुख योगदान

प्रथम व्यवस्थित अन्वेषण: लेखक ऑटोरेग्रेसिव यूनिफाइड मल्टीमॉडल फ्रेमवर्क के भीतर इमेज जनरेशन की सुरक्षा को व्यवस्थित रूप से संबोधित करने वाले पहले लोग हैं, जो इसे अच्छी तरह से अध्ययन किए गए डिफ्यूजन-आधारित सुरक्षा परिदृश्य से अलग करता है।
इटरेटिव सेल्फ-इंप्रूविंग मैकेनिज्म: यह पेपर एक ऐसी विधि पेश करता है जो हानिकारक/सुरक्षित जोड़े बनाने और कोडबुक को अपडेट करने के लिए मॉडल की आंतरिक समझ और निर्णय लेने की क्षमताओं का उपयोग करती है, जिससे एनोटेटेड डेटासेट्स या मानव फीडबैक की आवश्यकता समाप्त हो जाती है।
कोडबुक-केंद्रित सुरक्षा: उन विधियों के विपरीत जो जनरेशन ट्रेजेक्टरीज या लेटेंट स्पेस को संशोधित करती हैं, यह दृष्टिकोण सीधे विजुअल टोकन रिप्रेजेंटेशन्स (कोडबुक) को संशोधित करता है, जो ऑटोरेग्रेसिव मॉडल के लिए एक मौलिक समाधान प्रदान करता है।

प्रयोगात्मक परिणाम

इस विधि का मूल्यांकन पांच यूनिफाइड मल्टीमॉडल मॉडल्स (Janus सीरीज़, VILA-U, Emu3, LlamaGen, OmniMamba) में आठ हानिकारक-प्रॉम्प्ट डेटासेट्स (I2P, CoPro, ViSU, P4D, और MPUP सहित) पर किया गया।

सुरक्षा में सुधार: इस विधि ने सात श्रेणियों (यौन, हिंसा, घृणा, आत्म-क्षति, अवैध गतिविधि, उत्पीड़न, चौंकाने वाली सामग्री) में अनुचित सामग्री के उत्पादन को काफी कम कर दिया। उदाहरण के लिए, I2P डेटासेट पर, यौन सामग्री का अनुपात 0.12 (बेसलाइन) से गिरकर 0.04 (Safe-CB) हो गया।
इटरेटिव प्रभावकारिता: प्रयोगों ने प्रदर्शित किया कि इटरेटिव रिमूवल, सिंगल-टर्न रिमूवल से बेहतर प्रदर्शन करता है, जिसमें हानिकारक स्पेस समय के साथ अधिक परिष्कृत होता जाता है।
क्षमताओं का संरक्षण: इस विधि ने मॉडल की अंतर्निहित इमेज जनरेशन और टेक्स्ट-अंडरस्टैंडिंग क्षमताओं को बनाए रखा। Geneval (जेनरेशन) और MMMU (अंडरस्टैंडिंग) जैसे बेंचमार्क्स ने कोई महत्वपूर्ण गिरावट नहीं दिखाई।
सिमेंटिक फिडेलिटी: हालांकि प्रारंभिक हार्ड प्रोजेक्शन के कारण प्रॉम्प्ट-इमेज एलाइनमेंट (CLIP-Score और TIFA द्वारा मापा गया) में गिरावट आई, एडेप्टिव फाइन-ट्यूनिंग स्टेज ने सिमेंटिक कंसिस्टेंसी को सफलतापूर्वक रिकवर किया, जिससे सौम्य प्रॉम्प्ट्स पर Safe-CB का प्रदर्शन बेसलाइन के करीब पहुँच गया।
सामान्यीकरण (Generalization): यह दृष्टिकोण आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) डेटा और विभिन्न मॉडल साइज (1B से 7B पैरामीटर्स तक) के लिए अच्छी तरह से सामान्यीकृत हुआ।

महत्व और दावे

यह पेपर दावा करता है कि यह कार्य ऑटोरेग्रेसिव इमेज जनरेशन में सुरक्षा के लिए एक नया प्रतिमान (paradigm) स्थापित करता है। अपने आंतरिक कोडबुक को इटरेटिव रूप से रिफाइन करने के लिए मॉडल के अपने स्वयं के जजमेंट का लाभ उठाकर, यह विधि बाहरी मानव एनोटेशन या पूरे मॉडल को स्क्रैच से रिट्रेन करने पर निर्भर हुए बिना सुरक्षा संवर्द्धन प्राप्त करती है। लेखक इस बात पर जोर देते हैं कि यह दृष्टिकोण उच्च-गुणवत्ता वाले विजुअल विवरणों को बनाए रखते हुए हानिकारक मैपिंग को प्रभावी ढंग से समाप्त करता है, जो सुरक्षित मल्टीमॉडल जनरेशन के लिए एक स्केलेबल और स्व-सस्टेनिंग समाधान प्रदान करता है। यह कार्य रेखांकित करता है कि ऑटोरेग्रेसिव मॉडल में सुरक्षा के लिए विशिष्ट रणनीतियों की आवश्यकता होती है, जो विशेष रूप से विजुअल टोकन की विविक्त प्रकृति को लक्षित करती हैं।