Triple Expert Learning from Noisy Labels for Semi-Supervised Vision Foundation Model Adaptation
यह शोध पत्र TriNoL का प्रस्ताव करता है, जो विजन फाउंडेशन मॉडल्स के लिए एक सेमी-सुपरवाइज्ड एडेप्टेशन फ्रेमवर्क है जो अनलेबल नमूनों को तीन कॉन्फिडेंस-आधारित क्षेत्रों में रूट करके और बैकबोन को फ्रीज रखते हुए पॉजिटिव, अलाइनमेंट और नेगेटिव सिग्नल्स के लिए विशिष्ट LoRA एक्सपर्ट्स को प्रशिक्षित करके नॉइजी स्यूडो-लेबल्स के प्रति मजबूती को बढ़ाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट को जानवरों को पहचानना सिखाने की कोशिश कर रहे हैं। आपके पास कुछ तस्वीरें हैं जिन पर उनके सही नाम लिखे हुए हैं, लेकिन आपके पास बिना नाम वाली तस्वीरों का एक विशाल ढेर भी है। रोबोट को सिखाने के लिए, आप उससे बिना लेबल वाली तस्वीरों के नाम का अनुमान लगाने को कहते हैं। यदि वह पूरे आत्मविश्वास के साथ अनुमान लगाता है, तो आप उस अनुमान को लिख लेते हैं और अगले दौर के लिए उसे एक "शिक्षक" के रूप में उपयोग करते हैं। यह सेमी-सुपरवाइज्ड लर्निंग (Semi-Supervised Learning) की दुनिया है, जो कंप्यूटर विज्ञान में एक चतुर तकनीक है जो हमें अनलेबल डेटा की विशाल मात्रा से सीखने में मदद करती है।
लेकिन यहाँ एक पेंच है। रोबोट एकदम सटीक नहीं है। कभी-कभी वह पूरे आत्मविश्वास के साथ अनुमान लगाता है लेकिन पूरी तरह से गलत होता है। इन गलत अनुमानों को "नॉइज़ी लेबल्स" (noisy labels) कहा जाता है। यदि आप रोबोट को उसके सभी अनुमानों से सीखने देते हैं, तो वह अपनी ही गलतियों पर विश्वास करने लग सकता है, भ्रमित हो सकता है और गलत चीजें सीख सकता है। यह विशेष रूप से विज़न फाउंडेशन मॉडल्स (Vision Foundation Models) का उपयोग करते समय बहुत कठिन हो जाता—ये विशाल, प्री-ट्रेंड एआई मस्तिष्क हैं जो पहले से ही दुनिया के बारे में बहुत कुछ जानते हैं। हम पूरे मस्तिष्क को फिर से प्रशिक्षित (retrain) नहीं करना चाहते (यह बहुत भारी और महंगा है); हम बस एक छोटा सा, हल्का "अडेप्टर" (adapter) जोड़ना चाहते हैं ताकि यह हमारे विशिष्ट कार्य को सीखने में मदद कर सके। मुख्य सवाल यह है कि हम इस अडेप्टर को कैसे सिखाएं जब "शिक्षक" (रोबोट के अनुमान) जीनियस, भ्रमित छात्र और पूरी तरह से झूठ बोलने वालों का मिश्रण हों?
यह बिल्कुल वही समस्या है जिसे TriNoL (ट्रिपल-एक्सपर्ट लर्निंग फ्रॉम नॉइज़ी लेबल्स) नामक एक नई विधि द्वारा हल किया गया है। शोधकर्ताओं ने महसूस किया कि सभी अनलेबल तस्वीरों के साथ एक जैसा व्यवहार करना एक गलती है। एक अकेला, छोटा सा अडेप्टर जो मिक्सचर (सही, संदिग्ध और गलत अनुमानों) से सीखने की कोशिश करता है, वह भ्रमित हो जाता है। यह एक अकेले छात्र को गणित का जीनियस, एक रचनात्मक लेखक और एक सुरक्षा निरीक्षक होने के लिए एक साथ निर्देश देने जैसा है। गणित के निर्देश सुरक्षा के निर्देशों के साथ विरोधाभासी हो सकते हैं, और छात्र अंततः कुछ भी ठीक से नहीं सीख पाता है।
इसे ठीक करने के लिए, लेखक सीखने के काम को तीन विशिष्ट "विशेषज्ञों" (experts) में विभाजित करने का प्रस्ताव देते हैं, जिनमें से प्रत्येक का अपना छोटा अडेप्टर है। वे अनलेबल तस्वीरों को तीन समूहों में वर्गीकृत करते हैं, जो इस आधार पर है कि रोबोट अपने अनुमान के बारे में कितना आश्वस्त है:
- पॉजिटिव एक्सपर्ट (द हाई-कॉन्फिडेंस जीनियस): यह विशेषज्ञ केवल उन तस्वीरों को देखता है जहाँ रोबोट पूरी तरह से सुनिश्चित होता है (जैसे 95% आश्वस्त)। ये अनुमान आमतौर पर सही होते हैं, इसलिए यह विशेषज्ञ तेजी से और मजबूती से सीखता है, जिससे रोबोट की बिल्ली और कुत्ते के बीच अंतर करने की क्षमता तेज होती है।
- अलाइनमेंट एक्सपर्ट (द कन्फ्यूज्ड मिडल ग्राउंड): यह विशेषज्ञ उन तस्वीरों को संभालता है जहाँ रोबोट "औसत" स्थिति में होता है (शायद 50-70% आश्वस्त)। ये वे कठिन मामले हैं जो श्रेणियों के किनारे पर होते हैं। एक कठोर अनुमान लगाने के बजाय, यह विशेषज्ञ रोबोट को निरंतरता बनाए रखने के लिए धीरे से प्रेरित करता है, जिससे इसे श्रेणियों के बीच की धुंधली रेखाओं को समझने में मदद मिलती है बिना किसी गलती को थोपे।
- नेगेटिव एक्सपर्ट (द सेफ्टी नेट फॉर लायर्स): यह विशेषज्ञ उन तस्वीरों से निपटता है जहाँ रोबोट मुश्किल से अनुमान लगा पा रहा है (कम आत्मविश्वास)। इसे अनदेखा करने या इसे सही साबित करने के बजाय, यह विशेषज्ञ गलत उत्तरों से बचना सीखता है। यह एक फिल्टर की तरह काम करता है, जो यह सुनिश्चित करता है कि रोबंच अपने ही जंगली/अजीब अनुमानों से धोखा न खा जाए।
शोधकर्ता सुझाव देते हैं कि इन तीन समूहों को तीन अलग-अलग "लर्निंग पाथ्स" (सीखने के रास्तों) में बांटकर, सिस्टम बहुत अधिक मजबूत हो जाता है। "पॉजिटिव" पथ साफ और मजबूत रहता है क्योंकि यह नॉइज़ी अनुमानों से प्रदूषित नहीं होता है। "अलाइनमेंट" पथ रोबोट को ग्रे एरिया (धुंधले क्षेत्रों) को समझने में मदद करता है, और "नेगेटिव" पथ सिस्टम को गुमराह होने से बचाता है।
शोधकर्ताओं ने भोजन, पक्षियों और सामान्य वस्तुओं सहित कई डेटासेट्स पर इस विचार का परीक्षण किया। उन्होंने पाया कि TriNoL विशेष रूप रूप से तब अच्छा काम करता है जब लेबल वाले उदाहरण बहुत कम होते हैं और अनलेबल डेटा अव्यवस्थित होता है। उदाहरण के लिए, एक फूड डेटासेट पर जिसमें केवल कुछ ही लेबल वाली छवियां थीं, TriNoL ने सटीकता को लगभग 87.58% से बढ़ाकर 88.42% कर दिया, जो अन्य विधियों से बेहतर है। उन्होंने यह भी दिखाया कि यह सुधार केवल इसलिए नहीं है क्योंकि हमने सिस्टम को बड़ा बनाया; यहाँ तक कि जब उन्होंने समान कंप्यूटिंग पावर के साथ एक बड़े एकल अडेप्टर के साथ भी तुलना की, तो TriNoL ही जीता। यह सुझाव देता है कि "सीक्रेट सॉस" केवल अधिक मस्तिष्क शक्ति होना नहीं है, बल्कि सही प्रकार का संगठन होना है।
हालाँकि, लेखक सावधानीपूर्वक नोट करते हैं कि यह हर स्थिति के लिए जादुई समाधान नहीं है। उन मामलों में जहाँ लेबल वाली छवियां प्रचुर मात्रा में हैं या डेटा पहले से ही बहुत साफ है, तीन विशेषज्ञों का लाभ कम हो जाता है। वे यह भी स्वीकार करते हैं कि यदि रोबोट के शुरुआती कॉन्फिडेंस स्कोर पूरी तरह से गलत (मिस्कैलिब्रेटेड) हैं, तो सॉर्टिंग सिस्टम भ्रमित हो सकता है। लेकिन सीमित डेटा और नॉइजी अनुमानों के साथ शक्तिशाली एआई मॉडल्स को अनुकूलित करने की विशिष्ट चुनौती के लिए, यह "ट्रिपल-एक्सपर्ट" दृष्टिकोण सीखने को सही दिशा में रखने का एक आशाजनक और संरचित तरीका प्रदान करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।