A Frozen Pixel-Space Diffusion Model Can Guide Itself with Its Own Samples
यह शोध पत्र सिंथेटिक सेल्फ-गाइडेंस (SSG) को प्रस्तुत करता है, जो एक लागत प्रभावी विधि है जो जनरेट किए गए नमूनों पर एक हल्के एडैप्टर को प्रशिक्षित करके फ्रोजन प्रीट्रेंड पिक्सेल-स्पेस डिफ्यूजन मॉडल्स को बेहतर बनाती है ताकि मध्यवर्ती संरचनात्मक और अंतिम विस्तृत भविष्यवाणियों के बीच के अंतर का उपयोग एक सेल्फ-गाइडेंस सिग्नल के रूप में किया जा सके, जिससे न्यूनतम कंप्यूट के साथ जनरेशन की गुणवत्ता में महत्वपूर्ण सुधार होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को चित्र बनाना सिखाने की कोशिश कर रहे हैं। आर्टिफिशियल इंटेलिजेंस की दुनिया में, ऐसा करने के दो मुख्य तरीके हैं। पहला तरीका ऐसा है जैसे आप रोबोट को पहले एक बहुत छोटे, धुंधले स्केचपैड पर चित्र बनाना सिखाते हैं, और फिर एक अलग टूल का उपयोग करके उस स्केच को एक हाई-डेफिनिशन फोटो में बड़ा कर देते हैं। यह तेज़ है और लोकप्रिय भी है, लेकिन कभी-कभी वह "बड़ा करने वाला" टूल विवरण खो देता है, जिससे अंतिम चित्र थोड़ा धुंधला या प्लास्टिक जैसा दिखने लगता है। दूसरा तरीका यह है कि रोबोट को पहले ही स्ट्रोक से सीधे एक विशाल, हाई-डेफिनिशन कैनवास पर चित्र बनाना सिखाया जाए। यह बहुत कठिन है क्योंकि रोबोट को एक साथ बड़ी तस्वीर (जैसे नाक कहाँ होनी चाहिए) और सूक्ष्म विवरणों (जैसे त्वचा की बनावट) को समझना होगा, बिना किसी मदद के।
यह शोध पत्र इस दूसरे, अधिक कठिन चुनौती को संबोधित करता है: AI को किसी छवि के "रॉ पिक्सेल" (raw pixels) पर सीधे चित्र बनाना सिखाना। शोधकर्ता एक बड़ा सवाल पूछ रहे थे: "यदि हमारे पास पहले से ही एक ऐसा रोबोट है जो इन रॉ छवियों को बनाने में काफी अच्छा है, तो क्या हम पूरे मॉडल को शुरू से फिर से प्रशिक्षित किए बिना इसे और भी बेहतर बना सकते हैं?" एक विशाल AI मॉडल को फिर से प्रशिक्षित करना एक घर में टपकते नल को ठीक करने के लिए पूरा घर फिर से बनाने जैसा है—इसमें बहुत अधिक समय और ऊर्जा लगती है। लेखक चाहते थे कि रोबोट को उसके पास मौजूद उपकरणों का उपयोग करके ही उसके काम को सुधारने के लिए एक छोटा सा धक्का (nudge) दिया जा सके।
नयांग टेक्नोलॉजिकल यूनिवर्सिटी में काम करने वाली इस टीम ने एक चतुर तरकीब खोजी जिसे वे सिंथेटिक सेल्फ-गाइडेंस (SSG) कहते हैं। उन्होंने पाया कि एक प्री-ट्रेंड AI मॉडल के अंदर वास्तव में एक "गुप्त आवाज़" होती है। जैसे-जैसे मॉडल एक छवि बनाने के लिए अपने परतों (layers) के माध्यम से काम करता है, शुरुआती परतें एक कच्चे ड्राफ्ट कलाकार की तरह होती हैं जिन्हें केवल बड़े आकार और छाया की परवाह होती है। अंतिम परतें एक बारीकी पर ध्यान देने वाले कलाकार की तरह होती हैं जो महीन बनावट और तीखे किनारों को जोड़ती हैं।
आमतौर पर, मॉडल केवल अंतिम परिणाम देता है। लेकिन लेखकों ने महसूस किया कि वे उस "रफ ड्राफ्ट" कलाकार (मध्यवर्ती परत) को सुन सकते हैं और उसकी तुलना "डिटेल आर्टिस्ट" (अंतिम परत) से कर सकते हैं। उन्होंने पाया कि इन दोनों के बीच का अंतर ही वह जगह है जहाँ जादू होता है: अंतिम परत उस धुंधलेपन को ठीक करने की कोशिश करती है जो शुरुआती परत द्वारा छोड़ा गया था।
जादू वाला हिस्सा यह है: पूरे रोबोट को फिर से प्रशिक्षित करने या नया शिक्षक रखने के बजाय, उन्होंने रफ-ड्राफ्ट लेयर पर एक छोटा, हल्का "एडैप्टर" (एक छोटे चश्मे की तरह) जोड़ा। उन्होंने इस एडैप्टर को मॉडल के अपने पिछले चित्रों (सिंथेटिक सैंपल्स) को देखना और अनुमान लगाना सिखाया कि रफ आकार कैसे दिखते हैं। फिर, ड्राइंग प्रक्रिया के दौरान, उन्होंने एडैप्टर के रफ अनुमान को एक गाइड के रूप में उपयोग किया। यदि अंतिम ड्राइंग बहुत धुंधली दिखने लगी या अपनी तीक्ष्णता खोने लगी, तो सिस्टम उसे वापस तीखे विवरणों की ओर धकेल देता था, और "रफ ड्राफ्ट" और "फाइनल ड्राफ्ट" के बीच के अंतर को एक दिशा-सूचक (compass) के रूप में उपयोग करता था।
सबसे आश्चर्यजनक खोज यह थी कि उन्होंने इस छोटे से एडैप्टर को कैसे प्रशिक्षित किया। आप सोच सकते हैं कि उन्हें इंटरनेट से लाखों असली तस्वीरें दिखाने की आवश्यकता होगी ताकि इसे सिखाया जा सके कि एक "अच्छा रफ ड्राफ्ट" कैसा दिखता है। लेकिन यह शोध पत्र दिखाता है कि मॉडल वास्तव में बेहतर सीखता है जब वह अपने स्वयं के उत्पन्न किए गए नकली चित्रों पर प्रशिक्षण लेता है! यह ऐसा है जैसे रोबोट ने आदर्श तस्वीरों की पाठ्यपुस्तक देखने के बजाय, अपने ही पिछले प्रयासों का अध्ययन करके अपनी गलतियों को सुधारना सीख लिया हो। इस पद्धति ने, जो एक नए मॉडल को प्रशिक्षित करने के लिए आवश्यक कंप्यूटिंग पावर के 1% से भी कम का उपयोग करती है, लगातार छवियों को अधिक स्पष्ट और यथार्थवादी बनाया। उदाहरण के लिए, ImageNet नामक एक लोकप्रिय परीक्षण पर, उन्होंने एक मॉडल के स्कोर को 1.86 से घटाकर 1.67 कर दिया (जहाँ कम संख्या बेहतर है), और दूसरे मॉडल के लिए, उन्होंने स्कोर को 1.81 से घटाकर 1.59 कर दिया।
संक्षेप में, यह शोध पत्र सिद्ध करता है कि एक फ्रीज़्ड (frozen), प्री-ट्रेंड AI मॉडल अपने स्वयं के आंतरिक "रफ ड्राफ्ट्स" को सुनकर और उन्हें ठीक करने के लिए अपने स्वयं के उत्पन्न कला का उपयोग करके बेहतर चित्र बनाना सीख सकता है। यह एक सस्ता, प्लग-इन अपग्रेड है जो पूरे सिस्टम को फिर से बनाने की भारी लागत के बिना हाई-डेफिनिशन AI ड्राइंग को काफी अधिक स्पष्ट बनाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।