An novel efficient method of multi-class support vector machine with weighted multiple kernel learning
यह शोध पत्र AIO-MSVM-WMK का प्रस्ताव करता है, जो एक नवीन ऑल-इन-वन मल्टी-क्लास एसवीएम (SVM) फ्रेमवर्क है, जो उच्च-आयामी डेटासेट पर उत्कृष्ट वर्गीकरण सटीकता और काफी कम गणना समय प्राप्त करने के लिए वेटेड मल्टीपल कर्नल लर्निंग को सैंपल ऑप्टिमाइज़ेशन के साथ एकीकृत करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को एक भीड़ भरे चिड़ियाघर में विभिन्न जानवरों को पहचानना सिखाने की कोशिश कर रहे हैं। आप उसे शेर की एक तस्वीर दिखा सकते हैं और कह सकते हैं, "यह एक शेर है," फिर बाघ की तस्वीर दिखाकर कह सकते हैं, "यह एक बाघ है।" लेकिन क्या होगा यदि रोबोट को एक साथ हजारों जानवरों के बीच से छांटना पड़े, जिनमें से कुछ दिखने में बहुत समान हों, या तस्वीरें धुंधली हों या अजीब कोणों से ली गई हों? यह मशीन लर्निंग की दुनिया है, विशेष रूप से वर्गीकरण (classification) नामक एक शाखा, जहाँ कंप्यूटर डेटा को समूहों में छांटना सीखते हैं।
इसे करने के लिए, कंप्यूटर अक्सर एक चतुर उपकरण का उपयोग करते हैं जिसे सपोर्ट वेक्टर मशीन (SVM) कहा जाता है। एक SVM को एक सुपर-स्मार्ट रेफरी के रूप में सोचें जो अलग-अलग समूहों को अलग करने के लिए हवा में अदृश्य रेखाएं खींचता है। यदि जानवर एक अस्त-व्यस्त ढेर में मिले हुए हैं, तो रेफरी शेरों को बाघों से अलग करने के लिए सबसे चौड़ा, स्पष्ट रास्ता खोजने की कोशिश करता है। आमतौर पर, रेफरी डेटा को देखने के लिए एक एकल "लेंस" या कर्नेल (kernel) का उपयोग करता है। एक लेंस आकृतियों को देखने में अच्छा हो सकता है, या रंगों को देखने में अच्छा हो सकता है, लेकिन शायद ही कभी दोनों को पूरी तरह से देख पाता है। यदि डेटा जटिल है—जैसे कि एक चिड़ियाघर जहाँ जानवरों में धारियाँ, धब्बे और फर सब एक साथ हैं—तो एक अकेला लेंस विवरणों को मिस कर सकता है।
यहीं पर मल्टीपल कर्नेल लर्निंग (MKL) काम आता है। केवल एक लेंस पर निर्भर रहने के बजाय, MKL कंप्यूटर को एक ही समय में अलग-अलग लेंसों के साथ एक पूरा कैमरा किट उपयोग करने की अनुमति देता है, जिससे वे सबसे स्पष्ट तस्वीर देखने के लिए उन्हें आपस में मिला देते हैं। हालाँकि, एक पेंच है: डेटा के विशाल ढेर पर उन सभी लेंसों का उपयोग करना अविश्वसनीय रूप से धीमा और गणनात्मक रूप से महंगा है। यह पूरे चिड़ियाघर को एक-एक करके, हर संभव आवर्धक लेंस (magnifying glass) का उपयोग करके हाथ से छांटने जैसा है। वैज्ञानिक एक सवाल पूछ रहे हैं: क्या हम कई लेंसों की सुपर-क्लियर दृष्टि प्राप्त कर सकते हैं बिना हर एक जानवर की जाँच करने की धीमी, थकाऊ प्रक्रिया के?
नया "ऑल-इन-वन" सुपर-रेफरी
इस शोध पत्र में, शोधकर्ता ज़ीजी डोंग, ज़िंगरुई गोंग और फेन चेन एक नए, तेज़ तरीके से मल्टी-क्लास क्लासिफायर को प्रशिक्षित करने का प्रस्ताव देते हैं। वे अपने तरीके को AIO-MSVM-WMK कहते हैं (जो बोलने में थोड़ा कठिन है, तो आइए इसे "वेटेड ऑल-इन-वन रेफरी" कहें)।
उनका बड़ा विचार दो शक्तिशाली रणनीतियों को एक सुचारू संचालन में संयोजित करना है:
- वेटेड मल्टीपल कर्नेल लर्निंग: केवल एक लेंस का उपयोग करने के बजाय, वे कई अलग-अलग लेंसों (जैसे लीनियर, पॉलिनोमियल और RBF कर्नेल) को आपस में मिलाते हैं। लेकिन यहाँ चाल यह है: वे लेंसों को समान रूप से नहीं मिलाते। वे प्रत्येक लेंस को उसके काम में कुशल होने के आधार पर एक "भार" (weight) देते हैं। यदि "आकार" वाला लेंस शेरों को पहचानने में महान है, तो उसे बड़ा वोट मिलता है। यदि "बनावट" (texture) वाला लेंस बाघों के लिए बेहतर है, तो उसे अधिक भार मिलता है। यह कंप्यूटर द्वारा सीखने के दौरान स्वचालित रूप से होता है, न कि पहले से सेट किया जाता है।
- सैंपल ऑप्टिमाइज़ेशन (नमूना अनुकूलन): यह स्पीड बूस्टर है। कंप्यूटर को चिड़ियाघर के हर एक जानवर का अध्ययन करने के लिए मजबूर करने के बजाय (जिसमें बहुत समय लगता है), एल्गोरिदम बुद्धिमानी से सबसे महत्वपूर्ण जानवरों को चुनता है। यह उन जानवरों पर ध्यान केंद्रित करता है जो समूहों के बिल्कुल किनारे पर हैं—वे पेचीदा मामले जिन्हें पहचानना कठिन है—जबकि उन स्पष्ट जानवरों को अनदेखा कर देता है जिन्हें छांटना आसान है। यह बहुत सारा समय बचाता है।
उन्होंने इसका परीक्षण कैसे किया
यह देखने के लिए कि क्या उनका नया रेफरी वास्तव में बेहतर था, टीम ने 9 सार्वजनिक डेटासेट्स (वास्तविक दुनिया के डेटा जैसे हस्तलिखित संख्याओं, समाचार लेखों और जैविक डेटा के संग्रह) पर प्रयोग चलाए। उन्होंने अपने तरीके की तुलना मल्टी-क्लास सॉर्टिंग के चार अन्य लोकप्रिय तरीकों से की:
- AIO-Mar: एक पुराना "ऑल-इन-वन" तरीका।
- MK-MSVCR: एक तरीका जो कई कर्नेल का उपयोग करता है लेकिन एक अलग तरीके से।
- WMK-OVO: एक तरीका जो प्रत्येक क्लास की तुलना अन्य प्रत्येक क्लास से करता है (One-vs-One)।
- WMK-OVA: एक तरीका जो प्रत्येक क्लास की तुलना एक साथ अन्य सभी से करता है (One-vs-All)।
उन्होंने इन तरीकों का परीक्षण प्रशिक्षण डेटा के दो अलग-अलग आकारों पर किया: एक जिसमें 10,000 नमूने थे और दूसरा जिसमें 26,000 नमूने थे।
परिणाम: तेज़ और स्मार्ट
परिणामों ने दिखाया कि नया AIO-MSVM-WMK तरीका दो मुख्य क्षेत्रों में स्पष्ट विजेता था:
1. इसने कम गलतियाँ कीं।
जब डेटा जटिल था, तो नए तरीके ने अन्य तरीकों की तुलना में जानवरों को अधिक सटीकता से छांटा। उदाहरण के लिए, "Twitter" डेटासेट पर (जिसमें टेक्स्ट को छांटना शामिल है), नए तरीके ने 26,000 नमूनों के साथ केवल 1.51% बार गलती की। इसके विपरीत, अगले सबसे अच्छे तरीके ने 1.78% बार गलती की, और अन्य बहुत खराब थे, जो 18.16% तक त्रुटियां कर रहे थे। "Mnist" डेटासेट (हस्तलिखित संख्याओं) पर, नए तरीके की त्रुटि दर 10.36% थी, जिसने अन्य तरीकों को पीछे छोड़ दिया जिनकी दर 12.37% से 15.28% के बीच थी।
2. यह काफी तेज़ था।
यहीं पर "सैंपल ऑप्टिमाइज़ेशन" वास्तव में चमक उठा। शोधकर्ताओं ने महत्वपूर्ण नमूनों को चुनने और मॉडल को प्रशिक्षित करने में लगने वाले कुल समय को मापा।
- 10,000 सैंपल वाले टेस्ट पर, नए तरीके को सभी डेटासेट्स पर चलने के लिए कुल 64,730 सेकंड (लगभग 18 घंटे) लगे। अगले सबसे तेज़ तरीके को 75,796 सेकंड लगे, और सबसे धीमे को 90,162 सेकंड लगे।
- 26,000 सैंपल वाले टेस्ट पर, यह अंतर और बढ़ गया। नए तरीके ने 119,671.96 सेकंड लिए, जबकि सबसे धीमे प्रतियोगी ने 181,262.97 सेकंड लिए।
शोधकर्ताओं ने यह पुष्टि करने के लिए कि ये अंतर केवल भाग्यवश नहीं थे, विलकॉक्स साइन्ड-रैंक टेस्ट (Wilcoxon signed-rank test) नामक एक सांख्यिकीय परीक्षण का उपयोग किया। परीक्षण ने दिखाया कि नया तरीका सटीकता और गति दोनों में अपने चारों प्रतिस्पर्धियों से सांख्यिकीय रूप से बेहतर था।
इसका क्या अर्थ है
शोध पत्र सुझाव देता है कि वेटेड मल्टीपल कर्नेल्स (सबसे अच्छा मिश्रण उपयोग करना) को स्मार्ट सैंपल सिलेक्शन (केवल पेचीदा मामलों पर ध्यान केंद्रित करना) के साथ जोड़कर, आप एक ऐसा क्लासिफायर बना सकते हैं जो वर्तमान तरीकों की तुलना में अधिक सटीक और बहुत तेज़ है।
लेखक बताते हैं कि यह दृष्टिकोण "जटिल और बड़े मल्टी-क्लास डेटा" के लिए विशेष रूप से उपयोगी है। उन्होंने यह दावा नहीं किया कि यह दुनिया की हर समस्या को हल करता है, लेकिन उन्होंने दिखाया कि परीक्षण किए गए डेटासेट्स के लिए, इसने बिना किसी अतिरिक्त प्री-प्रोसेसिंग स्टेप के मौजूदा तकनीकों को पछाड़ दिया। उन्होंने यह भी उल्लेख किया कि भविष्य के कार्य में इस विचार को डीप न्यूरल नेटवर्क पर लागू करना या इसे और तेज़ बनाने के लिए पैरेलल कंप्यूटिंग का उपयोग करना शामिल हो सकता है, लेकिन फिलहाल, "वेटेड ऑल-इन-वन रेफरी" दुनिया के अव्यवस्थित डेटा को छांटने के लिए एक अधिक कुशल तरीका है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।