DIFFCZSL: Compositional Zero-Shot Learning Regularized by Diffusion Representations
यह शोध पत्र DIFFCZSL का प्रस्ताव करता है, जो एक ऐसा फ्रेमवर्क है जो CLIP-आधारित पाइपलाइनों में मध्यवर्ती डिफ्यूजन रिप्रजेंटेशन को एकीकृत करके कंपोजिशनल ज़ीरो-शॉट लर्निंग को बढ़ाता है ताकि इन्फरेंस लागत बढ़ाए बिना सहायक पर्यवेक्षण और समृद्ध संरचना-जागरूक अर्थ प्रदान किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक ऐसी दुनिया है जहाँ एक कंप्यूटर लाल सेब की तस्वीर और हरे सेब की तस्वीर देख सकता है, यह सीख सकता है कि "लाल" और "हरा" क्या है, और फिर तुरंत एक ऐसे "हरे सेब" को पहचान सकता है जिसे उसने पहले कभी नहीं देखा, भले ही उसे केवल लाल सेबों पर प्रशिक्षित किया गया हो। यह कंपोजिशनल ज़ीरो-शॉट लर्निंग (compositional zero-shot learning) की चुनौती है, जो आर्टिफिशियल इंटेलिजेंस की एक विशिष्ट शाखा है जो मशीनों से यह पूछती है कि कैसे सरल अवधारणाएं मिलकर नए, जटिल विचार बनाती हैं। दशकों से, शोधकर्ताओं ने कंप्यूटर को यह कौशल सिखाने की कोशिश की है, उन्हें हजारों उदाहरण दिखाकर, लेकिन मशीनें तब संघर्ष करती हैं जब उनसे इन विचारों को उन तरीकों से मिलाने और जोड़ने के लिए कहा जाता है जिनका उन्होंने अभ्यास नहीं किया है। वे वस्तु को पहचान सकते हैं, जैसे कि "केला", और अवस्था को, जैसे कि "पका हुआ", लेकिन यह समझने में विफल हो सकते हैं कि "पका हुआ केला" एक विशिष्ट दृश्य वास्तविकता है जो केवल एक "पके हुए" चीज़ या सामान्य "केले" से अलग है। मुख्य कठिनाई मशीन को भागों के बीच के संबंध को देखने के लिए सिखाने में निहित है, न कि केवल भागों को देखने में।
हांगकांग यूनिवर्सिटी ऑफ साइंस एंड टेक्नोलॉजी के शोधकर्ताओं की एक टीम ने इन मशीनों को यह कौशल सीखने में मदद करने का एक नया तरीका खोजा है, उन्हें अधिक उदाहरण सिखाकर नहीं, बल्कि एक अलग प्रकार की बुद्धिमत्ता को उधार लेकर। उन्होंने पाया कि जबकि मानक एआई मॉडल एक छवि को दूसरी से अलग बताने में उत्कृष्ट हैं, वे कभी-कभी अवधारणाओं के आपस में मिलने को समझने में अनाड़ी होते हैं। इसे ठीक करने के लिए, टीम ने प्रशिक्षण प्रक्रिया में एक "जेनरेटिव" (generative) सहायक पेश किया। इस सहायक को एक ऐसे मॉडल के रूप में सोचें जिसे मूल रूप से टेक्स्ट विवरणों से चित्र बनाने के लिए बनाया गया था, न कि केवल उन्हें पहचानने के लिए। एआई को इस इमेज-क्रिएटिंग मॉडल के आंतरिक कामकाज को देखते हुए सीखने की अनुमति देकर, शोधकर्ता इसे गुणों और वस्तुओं के एक साथ फिट होने के बारे में गहरी समझ की ओर मार्गदर्शन करने में सक्षम रहे।
शोधकर्ताओं ने, हांग्यु टियान और सहयोगियों के नेतृत्व में, एक प्रणाली बनाई जिसे वे DIFFCZSL कहते हैं। उनका दृष्टिकोण एक शक्तिशाली, पूर्व-मौजूद एआई मॉडल से शुरू होता है जिसे CLIP के रूप में जाना जाता है, जो चित्रों को शब्दों से मिलाने में बहुत अच्छा है। हालाँकि, टीम ने देखा कि CLIP कभी-कभी "पके हुए केले" को केवल एक केले के रूप में देखता है जो "पका हुआ" शब्द के पास है, बजाय इसके कि यह एक एकीकृत अवधारणा हो जहाँ पकना फल के स्वरूप को बदल देता है। इसे ठीक करने के लिए, उन्होंने प्रशिक्षण चरण के दौरान एक दूसरा कदम जोड़ा। उन्होंने एक पूर्व-प्रशिक्षित इमेज-जेनरेशन मॉडल लिया, जो उस प्रकार का है जो एक विवरण टाइप करने पर चित्र बना सकता है, और उससे उन्हीं छवियों को देखने के लिए कहा जिनका मुख्य एआई अध्ययन कर रहा था। इस जेनरेशन मॉडल का दुनिया को देखने का एक अनूठा तरीका है; क्योंकि इसे टेक्स्ट के आधार पर शून्य से एक छवि को पुनर्गठित करना सीखना होता है, इसलिए यह इस बात पर बहुत ध्यान देता है कि केले के छिलके या सेब के रंग जैसी विशिष्ट बारीकियाँ स्वयं वस्तु के साथ कैसे परस्पर क्रिया करती हैं।
टीम ने मुख्य एआई को इस जेनरेशन मॉडल से बदला नहीं। इसके बजाय, उन्होंने जेनरेशन मॉडल का उपयोग एक शिक्षक के रूप में किया। जैसे ही मुख्य एआई सीखने की कोशिश करता, जेनरेशन मॉडल छवि की संरचना के बारे में अतिरिक्त संकेत प्रदान करता। यह अनिवार्य रूप से मुख्य एआई को फुसफुसाता: "देखो, जब तुम एक केला देखते हो, तो 'पका हुआ' की अवधारणा केवल एक अलग लेबल नहीं है; यह केले के दृश्य आकार और रंग को बदल देता है।" शोधकर्ताओं ने इस जेनरेशन मॉडल से इन आंतरिक संकेतों को निकाला और उन्हें मुख्य एआई की समझ के साथ संरेखित किया। यह प्रक्रिया केवल तभी हुई जब कंप्यूटर सीख रहा था। प्रशिक्षण समाप्त होने के बाद, जेनरेशन मॉडल को हटा दिया गया, और मुख्य एआई अपनी मूल गति और संरचना के साथ वापस आ गया, लेकिन अब एक बहुत अधिक तीक्ष्ण नई संयोजनों को पहचानने की क्षमता के साथ।
इस प्रयोग के परिणामों को छवियों के तीन अलग-अलग सेटों में मापा गया, जिसमें जूतों से लेकर फलों और रोजमर्रा की वस्तुओं तक शामिल थे। हर मामले में, वे एआई मॉडल जिन्होंने यह अतिरिक्त मार्गदर्शन प्राप्त किया था, उन मॉडलों से बेहतर प्रदर्शन करते थे जिन्होंने ऐसा नहीं किया था। जूतों के एक डेटासेट UT-Zappos पर, टीम ने सटीकता में एक महत्वपूर्ण उछाल देखा, जहाँ मॉडल अनदेखी संयोजनों को बहुत अधिक बार सही ढंग से पहचान रहे थे। उदाहरण के लिए, जब एक नए संदर्भ में "कटे हुए सेब" या "पके हुए केले" को पहचानने के लिए कहा गया, तो गाइडेड मॉडल भ्रमित होने की संभावना से बहुत कम थे। यह सुधार निरंतर था, चाहे परीक्षण ज्ञात श्रेणियों तक सीमित हो या संभावित संयोजनों की एक विशाल श्रृंखला तक खुला हो। शोधकर्ताओं ने पाया कि मॉडल अपने पुराने देखे गए ज्ञान और अनदेखे देखे गए चीजों का अनुमान लगाने की अपनी क्षमता के बीच बेहतर संतुलन बनाने में बेहतर हो गए, जो वास्तविक दुनिया के अनुप्रयोगों के लिए एक महत्वपूर्ण कौशल है जहाँ नई स्थितियाँ लगातार उत्पन्न होती हैं।
सबसे आश्चर्यजनक निष्कर्षों में से एक यह था कि यह सुधार कंप्यूटर को धीमा किए या उसे भारी बनाए बिना आया। क्योंकि जेनरेशन मॉडल का उपयोग केवल सीखने के चरण के दौरान एक मार्गदर्शक के रूप में किया गया था और बाद में हटा दिया गया था, अंतिम प्रणाली मूल की तरह ही तेज़ रही। टीम ने यह भी परीक्षण किया कि क्या जेनरेशन मॉडल का विशिष्ट प्रकार मायने रखता है, यह पाते हुए कि नए, अधिक उन्नत संस्करणों ने पुराने संस्करणों की तुलना में बेहतर मार्गदर्शन प्रदान किया। उन्होंने इसकी तुलना अन्य प्रकार के शक्तिशाली एआई मॉडलों से भी की और पाया कि जेनरेशन मॉडल की अवधारणाओं के मिश्रण को समझने की अनूठी क्षमता ही मुख्य कारक थी, न कि केवल यह तथ्य कि यह एक बड़ा, पूर्व-प्रशिक्षित सिस्टम था। अध्ययन बताता है कि जिस तरह से ये जेनरेशन मॉडल टेक्स्ट से चित्र बनाने के लिए सीखते हैं, वह दुनिया की एक छिपी हुई संरचना को पकड़ता है जो मशीनों को विचारों को संयोजित करने के तरीके सिखाने के लिए एकदम सही है।
यह कार्य आर्टिफिशियल इंटेलिजेंस के लिए एक आशाजनक मार्ग को उजागर करता है। एक एकल, विशाल मॉडल बनाने के बजाय जो सब कुछ पूरी तरह से करता है, शोधकर्ताओं ने दिखाया कि विभिन्न प्रकार के मॉडलों की शक्तियों को मिलाने से बेहतर परिणाम मिल सकते हैं। यह दिखाकर कि चित्र बनाने वाले मॉडल एक पहचानने वाले मॉडल को सिखा सकते हैं, उन्होंने मशीनों की दुनिया को समझने के अंतर को पाट दिया। निष्कर्ष बताते हैं कि भविष्य एआई के सहयोग में निहित हो सकता है, जहाँ जेनेरेटिव और डिस्क्रिमिनेटिव मॉडल मिलकर ऐसे सिस्टम बनाते हैं जो न केवल सटीक हैं, बल्कि जटिल, कंपोजिशनल वास्तविकता की गहरी समझ भी रखते हैं। यह दृष्टिकोण एक सरल, प्रभावी तरीका प्रदान करता है जिससे मशीनें चीजों के आपस में जुड़ने के बारे में स्मार्ट बन सकती हैं, बिना उनके दैनिक कार्यों पर कोई अतिरिक्त बोझ डाले।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।