Hoeffding adaptive splitting trees for data stream classification with concept drift and ensemble learning

आधुनिक कंप्यूटिंग की दुनिया में, डेटा शेल्फ पर विश्लेषण के लिए इंतजार करने के लिए स्थिर नहीं रहता है; यह एक नदी की तरह बहता है, जो सूचनाओं की एक निरंतर, उच्च-गति वाली धारा के रूप में आता है। एक ऐसी प्रणाली की कल्पना करें जिसे इस सूचना के प्रवाह में वास्तविक समय (real time) में पैटर्न को पहचानना सीखना होगा, जो सूचना के हर एक टुकड़े के आते ही उसके बारे में निर्णय ले सके और फिर अगले टुकड़े के लिए जगह बनाने के लिए उसे हटा सके। यही डेटा स्ट्रीम माइनिंग (data stream mining) की चुनौती है। यह कठिनाई इस तथ्य से और बढ़ जाती है कि खेल के नियम सिस्टम के खेलने के दौरान ही बदल सकते हैं। कंप्यूटर विज्ञान की भाषा में, इसे 'कॉन्सेप्ट ड्रिफ्ट' (concept drift) कहा जाता है: अंतर्निहित पैटर्न जो यह परिभाषित करते हैं कि क्या "सही" है, समय के साथ बदल जाते हैं, शायद इसलिए क्योंकि उपभोक्ता की आदतें बदल जाती हैं, कोई मशीन घिसने लगती है, या किसी नए प्रकार का धोखाधड़ी का मामला सामने आता है। इस वातावरण में जीवित रहने के लिए, सीखने वाली प्रणालियों को तेज़, मेमोरी-कुशल और इन बदलावों के प्रति तुरंत अनुकूल होने में सक्षम होना चाहिए, बिना वह सब भूले जो उन्होंने पहले ही सीख लिया है।

वर्षों से, इन सीखने वाली प्रणालियों को बनाने के लिए मानक उपकरण एक विशिष्ट प्रकार का 'डिसीजन ट्री' (decision tree) रहा है, एक ऐसी संरचना जो डेटा को श्रेणियों में वर्गीकृत करने के लिए हाँ-या-ना वाले प्रश्नों की एक श्रृंखला पूछती है। ये पेड़ डेटा का परीक्षण करके और वस्तुओं के एक समूह को छोटे, अधिक विशिष्ट समूहों में विभाजित करने का निर्णय लेकर बढ़ते हैं। ऐसा करने के लिए पारंपरिक तरीका नियमित, निश्चित अंतराल पर विभाजन (split) की जाँच करना है, ठीक वैसे ही जैसे एक किसान मौसम की परवाह किए बिना हर सुबह खेत की जाँच करता है। हालाँकि, शोधकर्ताओं ने पाया है कि यह कठोर अनुसूची अक्सर अक्षम होती है। यह सिस्टम को तब बदलाव खोजने में समय बर्बाद करने के लिए मजबूर करती है जब डेटा स्थिर होता है, और जब डेटा तेजी से बदल रहा होता है, तो यह सटीक क्षण को भी चूक सकती है। एक नए दृष्टिकोण ने इसे "अनुकूलनीय" (adaptive) बनाकर ठीक करने की कोशिश की, जिससे पेड़ को केवल तभी विभाजित होने की अनुमति मिली जब एक डिटेक्टर ने डेटा में बदलाव महसूस किया। हालाँकि यह आशाजनक लगा, लेकिन इसने एक नई समस्या पैदा कर दी: जब इन कई अनुकूलनीय पेड़ों को एक टीम के रूप में एक साथ उपयोग किया गया, तो वे एक-दूसरे के बहुत समान होने लगे, और सभी एक ही समय में परिवर्तनों पर प्रतिक्रिया करने लगे, जिससे टीम जटिल समस्याओं को हल करने में कम प्रभावी हो गई।

इस दुविधा को हल करने के लिए, ब्राजील और फ्रांस के शोधकर्ताओं की एक टीम ने एक नए प्रकार के डिसीजन ट्री का प्रस्ताव दिया जो दोनों दुनियाओं के सर्वश्रेष्ठ गुणों को जोड़ता है। उन्होंने दो नए मॉडल बनाए, जिन्हें वे 'होफिंग अडैप्टिव स्प्लिटिंग ट्रीज़' (Hoeffding Adaptive Splitting Trees) कहते हैं। ये मॉडल पेड़ों को अलग-अलग तरीकों से बढ़ने के लिए सुनिश्चित करने हेतु नियमित अंतराल पर विभाजन की जाँच करने की पारंपरिक आदत को बनाए रखते हैं, लेकिन वे बुद्धि का एक दूसरा स्तर भी जोड़ते हैं। यह दूसरा स्तर पेड़ की पत्तियों (leaves)—जहाँ निर्णय लिए जाते हैं—के प्रदर्शन की लगातार निगरानी करता है। यदि एक डिटेक्टर यह महसूस करता है कि पेड़ संघर्ष कर रहा है या डेटा वितरण बदल गया है, तो यह तत्काल विभाजन को ट्रिगर करता है, जिससे पेड़ नई वास्तविकता के प्रति तुरंत अनुकूल हो जाता है। पुराने तरीके के निरंतर, विविधता-बनाने वाले ताल और नए तरीके की तीक्ष्ण, प्रतिक्रियाशील सजगता को मिलाकर, शोधकर्ताओं का लक्ष्य एक ऐसी सीखने वाली प्रणाली बनाना था जो विविध और अत्यधिक अनुकूलनीय दोनों हो।

शोधकर्ताओं ने इन नए पेड़ों का परीक्षण करने के लिए उन्हें कई अलग-अलग टीम-लर्निंग सिस्टम में प्लग किया और विभिन्न प्रकार के डेटा सेटों के विरुद्ध चलाया। उन्होंने सिंथेटिक डेटा (synthetic data) का भी उपयोग किया, जिसे विशिष्ट प्रकार के परिवर्तनों का अनुकरण करने के लिए कंप्यूटर द्वारा उत्पन्न किया गया था, और बिजली के उपयोग, एयरलाइन उड़ानों और कीट वर्गीकरण जैसे स्रोतों से वास्तविक दुनिया के डेटा का भी उपयोग किया। परिणाम स्पष्ट थे: सरल, कृत्रिम डेटा पर जहाँ पैटर्न सीखना आसान था, नए पेड़ों ने पुराने तरीकों के समान प्रदर्शन किया। हालाँकि, जटिल, वास्तविक दुनिया के डेटा पर, नया दृष्टिकोण चमक उठा। वे पेड़ जिन्होंने आवधिक जाँचों (periodic checks) को अनुकूलित ट्रिगर्स के साथ जोड़ा, उन्होंने मानक तरीकों की तुलना में काफी बेहतर प्रदर्शन किया, विशेष रूप से उन स्थितियों में जहाँ कई अलग-अलग श्रेणियों को पहचानना था। कुछ मामलों में, सटीकता में सुधार काफी बड़ा था, जो पारंपरिक पेड़ों की तुलना में सोलह प्रतिशत अंक तक पहुँच गया। यह सुझाव देता है कि केवल सही समय पर ही नहीं, बल्कि सही क्षण पर विभाजित होने की क्षमता वास्तविक दुनिया के डेटा की अव्यवस्थित और अप्रत्याशित प्रकृति को संभालने के लिए महत्वपूर्ण है।

अध्ययन ने यह भी खुलासा किया कि सभी पेड़ों और टीमों के संयोजन समान रूप से प्रभावी नहीं होते हैं। शोधकर्ताओं ने पाया कि नए पेड़ों द्वारा डेटा की निगरानी करने का विशिष्ट तरीका मायने रखता है। एक संस्करण में पेड़ डेटा समूहों की शुद्धता (purity) की निगरानी करता था, जबकि दूसरे ने भविष्यवाणी में त्रुटियों (errors) की निगरानी की। जब इसे एक ऐसी टीम के साथ जोड़ा गया जो विशेषताओं (features) के यादृच्छिक उपसमुच्चयों (random subsets) पर निर्भर करती थी, तो शुद्धता के लिए निगरानी करने वाला संस्करण सबसे अच्छा प्रदर्शन करता था, जिससे उस जाल से बचा जा सका जहाँ टीम कमजोर, अनुपयोगी पेड़ों के साथ फंस जाती थी। शोधकर्ताओं ने अपने सर्वश्रेष्ठ ट्री मॉडल को रैंडम फीचर सिलेक्शन (random feature selection) का उपयोग करने वाली टीम के साथ जोड़ने वाले विशिष्ट संयोजन को वास्तविक दुनिया की चुनौतियों के लिए सबसे प्रभावी संयोजन के रूप में पहचाना। इस संयोजन ने पूरे क्षेत्र में सबसे मजबूत और सुसंगत परिणाम दिए, जिससे सिद्ध हुआ कि हाइब्रिड दृष्टिकोण ने केवल एक कठोर अनुसूची या पूरी तरह से प्रतिक्रियात्मक प्रणाली के उपयोग की सीमाओं को सफलतापूर्वक पार कर लिया है।

सटीकता के अलावा, शोधकर्ताओं ने इन प्रणालियों को चलाने की लागत पर भी नज़र डाली। उन्होंने मापा कि नए पेड़ों को कितने कंप्यूटर समय और मेमोरी की आवश्यकता थी। हालाँकि नए पेड़ मानक पेड़ों की तुलना में थोड़े बड़े जरूर हुए, लेकिन वे समान परिणाम प्राप्त करने का प्रयास करने वाले अन्य उन्नत तरीकों की तुलना में कहीं अधिक कुशल रहे। कम्प्यूटेशनल लागत प्रतिस्पर्धी थी, और कुछ मामलों में, नए पेड़ पुराने, स्थापित तरीकों की तुलना में चलाने में वास्तव में सस्ते थे। यह एक महत्वपूर्ण निष्कर्ष है क्योंकि डेटा स्ट्रीम की दुनिया में, एक प्रणाली जो सटीक तो है लेकिन बहुत धीमी या मेमोरी-ग्राहक है, वह बेकार है। नए मॉडल स्मार्ट और कुशल दोनों होने में सफल रहे, जो सूचनाओं की बहती नदी से निरंतर सीखने की आवश्यकता वाले सिस्टम के लिए एक व्यावहारिक समाधान प्रदान करते हैं।

पेपर यह निष्कर्ष निकालता है कि जटिल वातावरण में कॉन्सेप्ट ड्रिफ्ट को संभालने की कुंजी केवल स्थिर या प्रतिक्रियाशील होने में से किसी एक को चुनना नहीं है, बल्कि दोनों होना है। निर्णय वृक्षों को अपनी गति से बढ़ने की अनुमति देते हुए और अचानक परिवर्तनों के प्रति सतर्क रखते हुए, शोधकर्ताओं ने ऑनलाइन लर्निंग के लिए एक अधिक मजबूत आधार तैयार किया है। निष्कर्ष बताते हैं कि भविष्य की प्रणालियों को कठोर, 'एक-आकार-सभी-के-लिए-फिट' (one-size-fits-all) वाली अनुसूचियों से हटकर हाइब्रिड मॉडलों की ओर बढ़ना चाहिए जो अपनी स्वयं की सीखने की प्रक्रिया के स्वास्थ्य को महसूस कर सकें। जैसे-जैसे डेटा स्ट्रीम की मात्रा और जटिलता बढ़ती जा रही है, ये अनुकूलनीय पेड़ मशीनों को एक बदलती दुनिया के साथ तालमेल बिठाने का एक तरीका प्रदान करते हैं, जिससे वे अपना आधार खोए बिना सूचना के हर नए टुकड़े से सीख सकें।