Unsupervised Incremental Learning Using Confidence-Based Pseudo-Labels
यह शोध पत्र ICPL का प्रस्ताव करता है, जो एक अनसुपरवाइज्ड क्लास-इन्क्रीमेंटल लर्निंग विधि है जो कॉन्फिडेंस-आधारित सूडो-लेबल्स का उपयोग करती है ताकि मॉडल अनलेबल डेटा से नई क्लासों को सीख सकें, जिससे स्टेट-ऑफ-द-आर्ट क्लास-iNCD दृष्टिकोणों की तुलना में बेहतर प्रदर्शन प्राप्त होता है और फाइन-ग्रेन्ड डेटासेट एवं संसाधन-सीमित वातावरण पर व्यावहारिकता प्रदर्शित होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया में, मशीनें पैटर्न पहचानने में उल्लेखनीय रूप से कुशल हो गई हैं, चाहे वह तस्वीरों में बिल्लियों की पहचान करना हो या बीमारियों का निदान करना। हालाँकि, ये डिजिटल मस्तिष्क अक्सर एक नियंत्रित वातावरण में प्रशिक्षित होते हैं जहाँ उन्हें जो चीजें जानने की आवश्यकता होती है, उनकी सूची निश्चित और पूर्ण होती है। वास्तविक दुनिया में, स्थिति बहुत अधिक परिवर्तनशील है। नई प्रकार की वस्तुएं, जानवर या स्थितियां लगातार सामने आती हैं, और ऐसा सिस्टम जो पूरी तरह से पुन: प्रशिक्षित हुए बिना उनके बारे में सीख नहीं सकता, वह सीमित उपयोग का होता है। इस चुनौती को 'इन्क्रीमेंटल लर्निंग' (क्रमिक शिक्षण) के रूप में जाना जाता है। इसका लक्ष्य एक मॉडल को समय के साथ नई श्रेणियों के बारे में सिखाना है जबकि वह जो कुछ भी पहले सीखा है उसे याद रखे, यह कार्य 'कैटैस्ट्रोफिक फॉरगेटिंग' (विनाशकारी विस्मृति) नामक घटना के कारण जटिल हो जाता है, जहाँ नई जानकारी सीखने से सिस्टम पुराना ज्ञान खो देता है। पारंपरिक रूप से, इसे हल करने के लिए मनुष्यों को हर नई छवि को उसके सही नाम के साथ श्रमसाध्य रूप से लेबल करने की आवश्यकता होती थी, जो एक ऐसी प्रक्रिया है जो धीमी, महंगी और प्रकृति या उद्योग में मिलने वाले डेटा के अंतहीन प्रवाह के लिए अक्सर असंभव है।
थैलेस (Thales) के एक शोधकर्ता ने आगे बढ़ने का एक अलग तरीका प्रस्तावित किया है, जो इन शिक्षण चरणों के दौरान मानवीय लेबल की आवश्यकता को पूरी तरह से हटा देता है। उन्होंने ICPL नामक एक विधि विकसित की, जो एक आर्टिफिशियल इंटेलिजेंस को केवल बिना लेबल वाली कच्ची छवियों का उपयोग करके वस्तुओं के नए वर्गों के बारे में स्वयं सीखने की अनुमति देती है। इस प्रतीक्षा करने के बजाय कि कोई मानव कहे, "यह एक नए प्रकार का पक्षी है," सिस्टम दृश्य विशेषताओं के आधार पर समान छवियों को एक साथ समूहित करता है, जिससे इन समूहों के लिए अपने स्वयं के अस्थायी नाम बनाता है। शोधकर्ता ने फिर एक सुरक्षा तंत्र पेश किया ताकि यह सुनिश्चित किया जा सके कि सिस्टम अपने अनुमानों पर तभी भरोसा करे जब वह बहुत आश्वस्त हो कि वे सही हैं। मौजूदा लर्निंग फ्रेमवर्क में इस स्व-लेबलिंग तकनीक को एकीकृत करके, उन्होंने दिखाया कि एक मशीन लंबे समय तक नई चीजें सीख सकती है, बिना मानवीय हस्तक्षेप के अपने अतीत की स्मृति को बनाए रखते हुए।
इस कार्य का मूल भाग इन प्रणालियों के परीक्षण और निर्माण के तरीके में एक विशिष्ट अंतर को संबोधित करता है। बिना लेबल वाले डेटा को संभालने के पिछले तरीकों ने अक्सर समस्या को एक सरल क्लस्टरिंग (समूहीकरण) कार्य के रूप में माना, जहाँ कंप्यूटर बस चीजों को एक साथ समूहबद्ध करता है बिना इस बात की परवाह किए कि क्या वे समूह वास्तविकता से मेल खाते हैं। शोधकर्ता ने तर्क दिया कि वास्तविक दुनिया के अनुप्रयोगों के लिए यह दृष्टिकोण त्रुटिपूर्ण है क्योंकि यह सिस्टम को तब भी "सही" होने की अनुमति देता है जब वह पुराने वर्गों को नए वर्गों के साथ भ्रमित कर देता है। उदाहरण के लिए, एक सिस्टम गलती से एक नए प्रकार की कार को पुराने प्रकार की कार के रूप में और इसके विपरीत लेबल कर सकता है, फिर भी पुराने परीक्षण नियमों के तहत पूर्ण स्कोर प्राप्त कर सकता है। इसे ठीक करने के लिए, शोधकर्ता ने एक नया मूल्यांकन प्रोटोकॉल बनाया जो कंप्यूटर के स्व-निर्मित समूहों और वास्तविक दुनिया की श्रेणियों के बीच के संबंध को लॉक करता है। यह सुनिश्चित करता है कि जब सिस्टम का परीक्षण किया जाता है, तो उसका मूल्यांकन वास्तव में विभिन्न चीजों के बीच अंतर करने की उसकी क्षमता पर किया जाता है, न कि केवल उन्हें ढेरों में छांटने की उसकी क्षमता पर।
इन स्व-निर्मित लेबल बनाने के लिए, शोधकर्ता ने एक मानक समूहीकरण एल्गोरिदम का उपयोग किया जो छवियों को इस आधार पर व्यवस्थित करता है कि वे कंप्यूटर के आंतरिक प्रतिनिधित्व में कितनी समान दिखती हैं। कल्पना कीजिए कि कंप्यूटर बिना लेबल वाली तस्वीरों के संग्रह को देख रहा है और उन्हें ऐसे क्लस्टरों में व्यवस्थित कर रहा है जहाँ समान वस्तुएं एक-दूसरे के करीब होती हैं। शोधकर्ता ने फिर प्रत्येक छवि के लिए एक आत्मविश्वास स्कोर (कॉन्फिडेंस स्कोर) की गणना की, जो यह मापता है कि वह अपने सौंपे गए समूह में कितनी मजबूती से फिट बैठती है। यदि कोई छवि क्लस्टर के केंद्र में थी, तो सिस्टम अपने लेबल के प्रति अत्यधिक आश्वस्त था; यदि कोई छवि किनारे पर थी, तो सिस्टम अनिश्चित था। इस पद्धति ने अनिश्चित छवियों को हटा दिया और केवल उच्च-विश्वास वाली छवियों का उपयोग मॉडल को सिखाने के लिए किया। यह चयनात्मक प्रक्रिया महत्वपूर्ण थी, क्योंकि सभी स्व-जनित लेबल, जिनमें शोर युक्त और गलत लेबल भी शामिल थे, का उपयोग करने से मॉडल के प्रदर्शन में गिरावट आती।
इस दृष्टिकोण के परिणामों का परीक्षण दो प्रमुख इमेज डेटासेट्स पर किया गया, एक जिसमें रोजमर्रा की वस्तुओं की 100 श्रेणियां थीं और दूसरा जिसमें प्राकृतिक छवियों की 100 श्रेणियां थीं। शोधकर्ता ने अपने अनसुपरवाइज्ड (अsupervised) तरीके की तुलना मानक सुपरवाइज्ड दृष्टिकोण से की, जहाँ मनुष्य सभी लेबल प्रदान करते हैं। उन्होंने पाया कि हालांकि स्व-शिक्षण पद्धति के परिणामस्वरूप मानव-लेबल वाले संस्करण की तुलना में सटीकता में थोड़ी गिरावट आई, लेकिन अंतर आश्चर्यजनक रूप से कम था। कई परिदृश्यों में, प्रदर्शन का नुकसान दस प्रतिशत से भी कम था, एक ऐसा समझौता जिसे शोधकर्ता डेटा को लेबल करने के लिए आवश्यक समय और श्रम की भारी बचत के लिए काफी सार्थक मानते हैं। इससे भी महत्वपूर्ण बात यह है कि जब उन्होंने अपने तरीके की तुलना बिना लेबल वाले नए वर्गों की खोज करने के लिए डिज़ाइन की गई अन्य मौजूदा तकनीकों से की, तो उनका दृष्टिकोण काफी बेहतर था। कई इन्क्रीमेंटल स्टेप्स वाले दीर्घकालिक शिक्षण परिदृश्यों में, उनके तरीके ने अंतिम सटीकता में पिछले सर्वश्रेष्ठ अनसुपरवाइज्ड तकनीकों से 5 प्रतिशत से अधिक बेहतर प्रदर्शन किया।
अध्ययन ने यह भी पता लगाया कि यह विधि अधिक जटिल, वास्तविक दुनिया की स्थितियों में कैसे टिकती है जहाँ श्रेणियों के बीच सूक्ष्म अंतर होता है, जैसे कि कुत्तों की विभिन्न नस्लों या कारों के मॉडल के बीच अंतर करना। उन्होंने इसे फाइन-ग्रेंड डेटासेट्स पर परखा और पाया कि यह प्रभावी बना रहा, हालांकि उन्होंने नोट किया कि इन्क्रीमेंटल लर्निंग शुरू करने से पहले एक विशाल सामान्य डेटासेट पर मॉडल को प्री-ट्रेन करने से इन विशिष्ट मामलों में प्रदर्शन वास्तव में खराब हो गया। यह सुझाव देता है कि अत्यधिक विशिष्ट कार्यों के लिए, व्यापक, पूर्व-मौजूदा ज्ञान पर निर्भर रहने के बजाय नए डेटा का उपयोग करके शून्य से सीखना मॉडल के लिए बेहतर है। इसके अलावा, शोधकर्ता ने अपने तरीके की कम्प्यूटेशनल लागत का विश्लेषण किया और पाया कि यह न केवल प्रशिक्षित करने में तेज़ था, बल्कि इसके लिए कम कंप्यूटिंग शक्ति की भी आवश्यकता थी। डेटा को फ़िल्टर करके, सिस्टम ने कम छवियों को प्रोसेस किया, जिससे मानक पद्धति की तुलना में प्रशिक्षण के लिए आवश्यक ऊर्जा और समय में लगभग एक चौथाई की कमी आई।
यह कार्य प्रदर्शित करता है कि आर्टिफिशियल इंटेलिजेंस को निरंतर मानवीय पर्यवेक्षण के बिना दुनिया के कच्चे डेटा से सीखने के लिए डिज़ाइन किया जा सकता है। एक सरल क्लस्टरिंग तकनीक को एक सख्त कॉन्फिडेंस फ़िल्टर और परिणामों के परीक्षण के एक अधिक कठोर तरीके के साथ जोड़कर, शोधकर्ता ने मशीनों के लिए एक व्यवहार्य मार्ग दिखाया है जो उभरती स्थितियों के अनुसार खुद को ढाल सकती हैं। निष्कर्ष बताते हैं कि एक ऐसे AI का सपना जो इंसान की तरह सीखता है—अवलोकन करना, समूह बनाना और बिना किसी शिक्षक के नई चीजों की अपनी समझ को परिष्कृत करना—एक व्यावहारिक वास्तविकता बनता जा रहा है, विशेष रूप से उन वातावरणों में जहाँ संसाधन सीमित हैं और डेटा प्रचुर मात्रा में लेकिन बिना लेबल वाला है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।