DICS: Data-Informed Centroid Splitting for Decision Tree Classifiers
यह शोध पत्र डेटा-इन्फॉर्म्ड सेंट्रॉइड स्प्लिटिंग (DICS) का प्रस्ताव करता है, जो एक क्लस्टरिंग-आधारित फ्रेमवर्क है जो डेटा-संचालित प्रायोरिटीज़ (priors) का उपयोग करके स्प्लिट सर्च स्पेस को कम करता है, जिससे समान भविष्य कहने वाली सटीकता बनाए रखते हुए और सैद्धांतिक प्रदर्शन गारंटी प्रदान करते हुए निर्णय वृक्ष (decision tree) प्रशिक्षण को महत्वपूर्ण रूप से त्वरित किया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक कंप्यूटिंग के विशाल परिदृश्य में, निर्णय वृक्षों (डिसीजन ट्री) के रूप में जानी जाने वाली उपकरणों का एक परिवार मौजूद है। एक ऐसे फ्लोचार्ट की कल्पना करें जो डेटा के एक टुकड़े के बारे में सरल हाँ-या-ना वाले प्रश्न पूछता है—जैसे कि क्या किसी ईमेल में कुछ विशेष शब्द हैं या क्या किसी रोगी का रक्तचाप एक विशिष्ट स्तर से अधिक है—ताकि एक अंतिम निष्कर्ष पर पहुँचा जा सके। ये मॉडल डेटा वैज्ञानिकों द्वारा बहुत पसंद किए जाते हैं क्योंकि वे समझने में आसान और अक्सर बहुत सटीक होते हैं। हालाँकि, उन्हें बनाने की एक महत्वपूर्ण लागत होती है। सबसे प्रभावी फ्लोचार्ट बनाने के लिए, एक कंप्यूटर को हर एक चरण पर लाखों संभावित प्रश्नों की जांच करनी पड़ती है, ताकि उस सटीक विभाजन (स्प्लिट) की खोज की जा सके जो डेटा के एक समूह को दूसरे से अलग करता है। यह गहन खोज घास के ढेर में सुई खोजने के समान है जहाँ एक-एक करके घास के हर एक तिनके की जाँच की जाती है; यह काम तो करता है, लेकिन इसमें बहुत अधिक समय और कंप्यूटिंग शक्ति लगती है, विशेष रूप से जब डेटा बड़ा और जटिल हो।
टेक्सास विश्वविद्यालय एट एल पासो के शोधकर्ताओं ने सटीकता से समझौता किए बिना इस प्रक्रिया को तेज करने का एक नया तरीका प्रस्तावित किया है। वे अपने इस तरीके को 'डेटा-इन्फॉर्म्ड सेंट्रॉइड स्प्लिटिंग' (DICS) कहते हैं। हर संभावित प्रश्न को अंधाधुंध जांचने के बजाय, यह नया दृष्टिकोण डेटा के सामान्य आकार को समझने के लिए एक प्रारंभिक चरण का उपयोग करता है। यह समान डेटा बिंदुओं को एक साथ समूहित करता है और इन समूहों के केंद्रों की पहचान करता है। इन केंद्रों के बीच की सीमाओं को देखकर, यह विधि पूछे जाने वाले सबसे आशाजनक प्रश्नों की एक छोटी, स्मार्ट सूची तैयार करती है। यह कंप्यूटर को बेकार के अधिकांश विकल्पों को छोड़ने और केवल उन्हीं विभाजनों पर ध्यान केंद्रित करने की अनुमति देता है जो वास्तव में महत्वपूर्ण होने की संभावना रखते हैं। परिणाम एक ऐसी प्रणाली है जो पारंपरिक तरीकों की तुलना में बहुत तेज़ी से सीखती है, जबकि वही सही भविष्यवाणियां करती है।
इस कार्य के पीछे का मूल विचार एक सरल अवलोकन पर आधारित है: एक ही श्रेणी के डेटा बिंदु डिजिटल स्थान में एक साथ क्लस्टर (समूह) बनाने की प्रवृत्ति रखते हैं। यदि आप हजारों ग्राहक रिकॉर्ड या जैविक नमूनों का मानचित्रण करें, तो एक ही प्रकार की वस्तुएं स्वाभाविक रूप से घने समूहों के रूप में बनेंगी। शोधकर्ताओं ने तर्क दिया कि इन समूहों को अलग करने वाली रेखाएं संभवतः वही रेखाएं होंगी जो वर्गीकरण कार्य में विभिन्न श्रेणियों को अलग करती हैं। इसका परीक्षण करने के लिए, उन्होंने पहले समान डेटा बिंदुओं के प्रत्येक समूह के केंद्र को खोजने के लिए एक मानक क्लस्टरिंग तकनीक का उपयोग किया। फिर उन्होंने इन केंद्रों के बीच के मध्य बिंदुओं (मिडपॉइंट्स) की गणना की ताकि प्रश्नों का एक सेट बनाया जा सके। इसे और भी सटीक बनाने के लिए, उन्होंने इन मध्य बिंदुओं को इस आधार पर समायोजित किया कि प्रत्येक समूह के भीतर डेटा कितना फैला हुआ था, जिससे यह सुनिश्चित हो सके कि विभाजन रेखाएं निष्पक्ष हों, भले ही एक समूह दूसरे की तुलना में अधिक बिखरा हुआ हो।
यह दृष्टिकोण पुराने तरीकों के विपरीत है जो डेटा के मानों को केवल राउंड ऑफ करके या यादृच्छिक अनुमान लगाकर ट्री बनाने की गति बढ़ाने का प्रयास करते हैं। हालांकि वे तकनीकें तेज़ हो सकती हैं, लेकिन वे अक्सर महत्वपूर्ण विवरण खो देती हैं या उनके लिए कंप्यूटर को एक अच्छा उत्तर खोजने के लिए कई अधिक अनुमान लगाने की आवश्यकता होती है। हालाँकि, नई विधि वास्तव में डेटा की संरचना द्वारा निर्देशित है। शोधकर्ताओं ने दिखाया कि इस क्लस्टरिंग गाइड का उपयोग करके, वे कंप्यूटर द्वारा पूछे जाने वाले प्रश्नों की संख्या को भारी अंतर से कम कर सकते हैं। अपने परीक्षणों में, उन्होंने पाया कि नया तरीका सिंथेटिक डेटा पर मानक दृष्टिकोण की तुलना में बाईस गुना तेजी से निर्णय वृक्ष को प्रशिक्षित कर सकता है, और वास्तविक दुनिया के डेटासेट पर इक्कीस गुना तेजी से, और इसमें सटीकता में लगभग कोई गिरावट नहीं आई।
टीम केवल एकल निर्णय वृक्षों तक ही सीमित नहीं रही; उन्होंने इसी तर्क को अधिक शक्तिशाली प्रणालियों पर भी लागू किया जो कई पेड़ों को एक साथ जोड़कर काम करती हैं, जैसे कि रैंडम फॉरेस्ट और ग्रेडिएंट बूस्टिंग मशीनें। ये 'एन्सेम्बल' विधियाँ जटिल कार्यों के लिए अक्सर सबसे सटीक उपकरण होती हैं, लेकिन वे सबसे अधिक कम्प्यूटेशनल रूप से महंगी भी होती हैं। इन बड़ी प्रणालियों में डेटा-सूचित विभाजन रणनीति को एकीकृत करके, शोधकर्ताओं ने समान नाटकीय गति प्राप्त की। उदाहरण के लिए, बीस हजार से अधिक रिकॉर्ड वाले एक डेटासेट पर, नए तरीके ने एक रैंडम फॉरेस्ट को दो सेकंड से भी कम समय में प्रशिक्षित किया, जबकि मानक विधि को चालीस चार सेकंड से अधिक समय लगा। सटीकता लगभग समान रही, जिससे सिद्ध हुआ कि यह गति दक्षता से आई थी, न कि मॉडल की गुणवत्ता से समझौता करके।
अपने निष्कर्षों को मजबूत बनाने के लिए, शोधकर्ताओं ने स्पैम ईमेल का पता लगाने, धोखाधड़ी वाले वित्तीय लेनदेन की पहचान करने और कपड़ों तथा अंकों की छवियों को वर्गीकृत करने सहित विभिन्न वास्तविक दुनिया की चुनौतियों पर अपने तरीके का परीक्षण किया। हर मामले में, नए दृष्टिकोण ने अपनी गति में बढ़त बनाए रखी। उदाहरण के लिए, स्पैमबेस डेटासेट पर, पारंपरिक विधि ने एक सेकंड के अंश में काम किया, लेकिन नया तरीका दोगुना तेज़ था। दो लाख रिकॉर्ड वाले बड़े सेंटेंडर डेटासेट पर, नया तरीका सात गुना से अधिक तेज़ था। CIFAR-10 जैसे जटिल इमेज रिकग्निशन कार्यों पर भी, जहाँ डेटा को प्रोसेस करना अत्यंत कठिन होता है, नया तरीका मानक निर्णय वृक्ष की तुलना में लगभग तेरह गुना तेज़ था, जबकि त्रुटि दर को कम रखा।
शोधकर्ताओं ने अपने अवलोकनों का समर्थन करने के लिए एक गणितीय प्रमाण भी प्रदान किया। उन्होंने प्रदर्शित किया कि जैसे-जैसे डेटा की मात्रा बढ़ती है, उनके नए तरीके द्वारा चुने गए विभाजनों और गहन खोज द्वारा चुने गए विभाजनों के बीच का अंतर नगण्य होता जाता है। अनिवार्य रूप से, यह विधि यह सुनिश्चित करने की गारंटी देती है कि वह एक ऐसा विभाजन खोजेगी जो पूर्णतः सर्वोत्तम संभव विभाजन के लगभग उतना ही अच्छा है, बशर्ते डेटा कुछ प्राकृतिक पैटर्न का पालन करता हो। यह सैद्धांतिक आधार विश्वास दिलाता है कि यह गति केवल एक इत्तेफाक नहीं है बल्कि इस दृष्टिकोण की एक विश्वसनीय विशेषता है। यह कार्य सुझाव देता है कि मॉडल बनाने से पहले डेटा के आकार को समझकर, कंप्यूटर बेहतर निर्णय ले सकते हैं, जिससे बहुत सारा समय और ऊर्जा बचती है।
हालाँकि वर्तमान अध्ययन वर्गीकरण कार्यों (क्लासिफिकेशन टास्क) पर केंद्रित है, जहाँ लक्ष्य डेटा को विशिष्ट श्रेणियों में छाँटना है, शोधकर्ता स्वीकार करते हैं कि इन्हीं सिद्धांतों को प्रतिगमन (रिग्रेशन) समस्याओं पर भी संभावित रूप से लागू किया जा सकता है, जहाँ लक्ष्य एक विशिष्ट संख्या की भविष्यवाणी करना होता है। उन्होंने उल्लेख किया कि यह विधि वर्तमान में वर्गीकरण तक सीमित है, लेकिन इस दृष्टिकोण की सफलता अन्य प्रकार के मशीन लर्निंग में दक्षता लाभों को विस्तारित करने के लिए भविष्य के कार्य के द्वार खोलती है। फिलहाल, यह अध्ययन उन सभी के लिए एक स्पष्ट मार्ग प्रदान करता है जो बड़े डेटासेट के साथ काम कर रहे हैं और जिन्हें अपने गणनाओं को पूरा करने के लिए दिनों तक कंप्यूटर के खत्म होने का इंतजार किए बिना सटीक मॉडल बनाने की आवश्यकता है। डेटा को स्वयं रास्ता दिखाने देकर, शोधकर्ताओं ने दिखाया है कि हम जंगल की ताकत को खोए बिना स्मार्ट और तेज़ पेड़ बना सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।