Generative Models on Analog Hardware with Dynamics
यह शोध पत्र एनालॉग इंटरैक्शन सिस्टम्स (AIS) को प्रस्तुत करता है, जो एक एकीकृत ढांचा है जो समय-परिवर्तनीय मापदंडों और छिपी हुई अवस्थाओं का उपयोग करके स्थिर भौतिकी-निर्धारित एनालॉग हार्डवेयर और लचीली जनरेटिव मॉडलिंग के बीच के अंतर को पाटता है, जिससे पूर्व हार्डवेयर-आधारित दृष्टिकोणों की तुलना में MNIST डेटासेट पर 2-ऑर्डर-ऑफ-मैग्निट्यूड ऊर्जा की कमी और काफी बेहतर FID स्कोर प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को चित्र बनाना सिखाने की कोशिश कर रहे हैं।
पुराना तरीका (डिजिटल कंप्यूटर):
वर्तमान में, हम शक्तिशाली डिजिटल कंप्यूटरों (जैसे आपके गेमिंग पीसी या डेटा सेंटरों में मौजूद GPUs) का उपयोग करके ऐसा करते हैं। ये कंप्यूटर बहुत तेज़, बहुत सटीक मुनीम (accountants) की तरह हैं। एक चित्र बनाने के लिए, वे कार्य को लाखों छोटे, अलग-अलग गणितीय चरणों में तोड़ देते हैं। वे गणना करते हैं, रुकते हैं, फिर से गणना करते हैं और फिर रुकते हैं। यह प्रक्रिया अविश्वसनीय रूप से सटीक है लेकिन इसमें बिजली का भारी मात्रा में उपयोग होता है, जैसे केवल एक स्केच बनाने के लिए एक हाई-एंड एयर कंडीशनर चलाना।
नया विचार (एनालॉग हार्डवेयर):
इस शोध पत्र के लेखक "एनालॉग हार्डवेयर" का उपयोग करने का प्रस्ताव देते हैं। इसे एक मुनीम के रूप में नहीं, बल्कि झूलों और स्प्रिंग्स के एक विशाल, आपस में जुड़े हुए खेल के मैदान के रूप में सोचें।
- इस खेल के मैदान में, "कंप्यूटेशन" स्वाभाविक रूप से होता है। यदि आप एक झूला धकेलते हैं, तो रस्सियों और जंजीरों का भौतिक विज्ञान (physics) अपने आप पड़ोसी झूलों को खींचता है।
- सिस्टम चरणों को नहीं गिनता; यह बस बहता है। यह भौतिक नियमों (जैसे गुरुत्वाकर्षण या चुंबकत्व) को काम करने देकर समस्याओं को हल करता है। यह अविश्वसनीय रूप से ऊर्जा-कुशल है, जैसे ईंधन जलाने के बजाय हवा का उपयोग करके नाव चलाना।
बड़ी समस्या:
यहाँ एक बेमेल स्थिति (mismatch) है। आधुनिक AI मॉडल लचीले सॉफ्टवेयर की तरह हैं जो किसी भी आकार या पैटर्न को सीख सकते हैं। लेकिन हमारा एनालॉग खेल का मैदान कठोर है। झूले एक विशिष्ट तरीके से जुड़े हुए हैं और वे केवल विशिष्ट पैटर्न में ही हिल सकते हैं। यह एक स्विंग सेट को एक पूर्ण वृत्त बनाने के लिए सिखाने जैसा है जब वह केवल आगे-पीछे झूलने के लिए डिज़ाइन किया गया हो। "खेल का मैदान" अपने आप जटिल चित्र बनाने के लिए स्वाभाविक रूप से पर्याप्त लचीला नहीं है।
समाधान: "एनालॉग इंटरेक्शन सिस्टम्स" (AIS)
लेखकों ने एक नया ढांचा बनाया जिसे एनालॉग इंटरेक्शन सिस्टम्स (AIS) कहा जाता है ताकि इस अंतर को पाटा जा सके। उन्होंने एनालॉग हार्डवेयर को डिजिटल कंप्यूटर की तरह व्यवहार करने के लिए मजबूर करने की कोशिश नहीं की; इसके बजाय, उन्होंने भौतिकी के नियमों को तोड़े बिना खेल के मैदान को अधिक अभिव्यंजक बनाने के तरीके खोजे।
उन्होंने कठोर झूलों को जटिल चित्र बनाने में सक्षम बनाने के लिए तीन मुख्य "ट्रिक्स" पेश कीं:
टाइम-चंक्ड कंट्रोल्स (द कंडक्टर - संचालक):
झूलों के बीच के संबंध हमेशा के लिए स्थिर होने के बजाय, कल्पना कीजिए कि एक कंडक्टर हर कुछ सेकंड में नियम बदल देता है। पहले सेकंड के लिए, झूले मजबूती से जुड़े होते हैं; अगले सेकंड के लिए, वे ढीले जुड़े होते हैं। समय के साथ "खेल के नियमों" को बदलकर, सिस्टम उन जटिल गतिविधियों को बना सकता है जो स्थिर नियमों के साथ संभव नहीं होतीं।छिपे हुए झूले (द घोस्ट डांसर्स - अदृश्य नर्तक):
लेखकों ने "छिपे हुए" झूले जोड़े जो अंतिम चित्र में दिखाई नहीं देते लेकिन दृश्यमान झूलों से जुड़े होते हैं। ये छिपे हुए झूले एक गुप्त सहायता टीम की तरह कार्य करते हैं। वे अदृश्य रूप से नृत्य करते हैं, जिससे दृश्यमान झूलों को चित्र बनाने के सही पथ को खोजने में मदद मिलती है, भले ही आप अंतिम परिणाम में छिपे हुए झूलों को कभी न देखें। यह दृश्य भागों की संख्या बढ़ाए बिना सिस्टम को बहुत अधिक "मस्तिष्क शक्ति" प्रदान करता है।पथ को छोड़ देना (द डेस्टिनेशन-ओनली गोल - केवल गंतव्य का लक्ष्य):
आमतौर पर, जब हम AI को प्रशिक्षित करते हैं, तो हम उसे हर कदम पर ठीक से कैसे चलना है, यह बताते हैं (जैसे GPS द्वारा मोड़-दर-मोड़ निर्देश देना)। लेकिन चूंकि एनालॉग हार्डवेयर कठोर है, इसलिए इसे एक विशिष्ट पथ का पालन करने के लिए मजबूर करना असंभव है।
इसके बजाय, लेखकों ने एक GAN (जेनरेटिव एडवरसैरियल नेटवर्क) दृष्टिकोण का उपयोग किया। उन्होंने सिस्टम को बताया: "मुझे परवाह नहीं है कि आप वहां कैसे पहुँचते हैं, बस यह सुनिश्चित करें कि आप सही गंतव्य पर पहुँचें।"
- जेनरेटर (Generator): एनालॉग खेल का मैदान रैंडम शोर (noise) को एक छवि में बदलने का प्रयास करता है।
- क्रिटिक (Critic): एक डिजिटल कंप्यूटर अंतिम छवि को देखता है और कहता है, "यह एक बिल्ली जैसा दिखता है," या "यह कचरा जैसा दिखता है।"
- खेल का मैदान प्रयास और त्रुटि (trial and error) के माध्यम से सीखता है, शोर से छवि तक अपना अनूठा, घुमावदार रास्ता खुद खोज लेता है, बजाय इसके कि उसे एक सीधी रेखा का पालन करने के लिए मजबूर किया जाए।
परिणाम:
टीम ने सरल इमेज डेटासेट्स (जैसे हस्तलिखित अंक और फैशन आइटम) पर इसका परीक्षण किया।
- प्रदर्शन: उनके एनालॉग सिस्टम ने ऐसे चित्र बनाए जो पिछले एनालॉग इमेज जनरेशन प्रयासों की तुलना में 3 से 4 गुना बेहतर थे।
- दक्षता: यह सबसे बड़ी जीत है। उन्होंने अनुमान लगाया कि उनका सिस्टम एक चित्र उत्पन्न करने के लिए लगभग 23 माइक्रोजूल ऊर्जा का उपयोग करता है।
- इसे समझने के लिए: एक मानक डिजिटल कंप्यूटर उसी कार्य के लिए 7 से 79 मिलीजूल ऊर्जा का उपयोग कर सकता है।
- इसका अर्थ है कि एनालॉग सिस्टम डिजिटल बेसलाइन की तुलना में 100 गुना अधिक ऊर्जा-कुशल (दो ऑर्डर ऑफ मैग्नीट्यूड) है।
सारांश में:
यह शोध पत्र दिखाता है कि हम एक नया प्रकार का AI बना सकते हैं जो केवल डिजिटल चिप्स के बजाय भौतिक हार्डवेयर (जैसे ऑसिलेटर्स और स्प्रिंग्स) पर चलता है। हार्डवेयर की सीमाओं को स्वीकार करके और चतुर प्रशिक्षण विधियों (समय के साथ नियम बदलना, छिपे हुए सहायकों को जोड़ना और केवल अंतिम परिणाम पर ध्यान केंद्रित करना) का उपयोग करके, उन्होंने एक ऐसा सिस्टम बनाया जो आज के कंप्यूटरों की तुलना में बहुत कम ऊर्जा लागत पर चित्र बनाता है। यह एक प्रमाण है कि प्रकृति के भौतिक विज्ञान का उपयोग कुशल रूप से जटिल AI कार्यों के लिए किया जा सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।