Correcting Variable Importance Scored by Random Forests
यह शोध पत्र सह-संबंधित चरों को छिपने या कम आंका जाने से रोकने के लिए उनके सशर्त सहसंबंधों (conditional correlations) के आधार पर चरों को समूहीकृत करके रैंडम फॉरेस्ट वेरिएबल इम्पॉर्टेंस स्कोर को ठीक करने की एक विधि प्रस्तावित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ स्पष्टीकरण दिया गया है।
समस्या: "परछाई" (Shadow) का प्रभाव
कल्पना कीजिए कि आप लोगों से भरे एक कमरे में सबसे बेहतरीन गायक को खोजने की कोशिश कर रहे एक टैलेंट स्काउट हैं। आपके पास एक माइक्रोफ़ोन (रैंडम फ़ॉरेस्ट एल्गोरिदम) है जो यह मापता है कि समूह के कुल संगीत में प्रत्येक व्यक्ति का कितना योगदान है।
आमतौर पर, माइक्रोफ़ोन बहुत अच्छा काम करता है। लेकिन कल्पना कीजिए कि दो गायक हैं, एलिस और बॉब। वे जुड़वाँ हैं जो बिल्कुल एक ही गाना एकदम तालमेल के साथ गाते हैं। वे इतने समान हैं कि जब आप पूछते हैं, "एलिस ने कितना योगदान दिया?" तो माइक्रोफ़ोन भ्रमित हो जाता है। वह सोचता है, "खैर, बॉब भी वहीं है और वही गाना गा रहा है, तो मैं यह कैसे बता सकता हूँ कि आवाज़ एलिस से आ रही है या बॉब से?"
इसी भ्रम के कारण, माइक्रोफ़ोन एलिस को बहुत कम स्कोर देता है, भले ही वह एक शानदार गायिका हो। ऐसा लगता है जैसे बॉब ने एलिस पर एक "परछाई" डाल दी है, जिससे उसकी असली प्रतिभा छिप गई है। डेटा की दुनिया में, ऐसा तब होता है जब वेरिएबल्स (जैसे "आयु" और "अनुभव के वर्ष") आपस में अत्यधिक सह-संबंधित (correlated) होते हैं। मानक तरीका अक्सर एक वेरिएबल के महत्व को कम आंकता है क्योंकि दूसरा वेरिएबल वही काम कर रहा होता है।
समाधान: "मौन" (Silence) परीक्षण
इस शोध पत्र के लेखक महत्व मापने का एक नया तरीका प्रस्तावित करते हैं। केवल यह पूछने के बजाय कि, "क्या होगा यदि हम एलिस की आवाज़ को बिगाड़ दें?" (जो कि पुराना तरीका है), वे एक अलग दृष्टिकोण सुझाते हैं: परछाइयों को हटा दें।
वे इसके लिए दो मुख्य तरीके प्रस्तावित करते हैं:
विधि 1: "एक-एक करके" काम करने वाला जासूस
कल्पना कीजिए कि आप जानना चाहते हैं कि एलिस कितनी महत्वपूर्ण है।
- पहले, आप कमरे में उन सभी लोगों की पहचान करते हैं जो एलिस का ठीक वैसा ही गाना गा रहे हैं (उसके "कंडीशनली कोरिलेटेड" दोस्त)।
- फिर आप उन सभी दोस्तों से कहते हैं कि वे कमरे से बाहर चले जाएँ और शांत हो जाएँ।
- अब, केवल एलिस के बचे होने पर (और कोई दूसरा उसे नकल करते हुए न होने पर), आप उससे गाने के लिए कहते हैं।
- अब आप मापते हैं कि केवल एलिस के होने से समूह के संगीत में कितना सुधार हुआ।
चूँकि उसका "जुड़वाँ" बॉब अब वहाँ नहीं है, एलिस का वास्तविक मूल्य उभर कर सामने आता है। शोध पत्र इसे विधि 1 कहता है। यह प्रत्येक वेरिएबल की जाँच करता है, उसके "जुड़वाँ" को ढूँढता है, उन्हें हटा देता है, और देखता है कि उनके बिना मॉडल (भविष्यवाणी) में कितना बदलाव आता है।
विधि 2: "ग्रुप हग" (क्लस्टरिंग)
यह तरीका थोड़ा अधिक व्यवस्थित है। एक समय में एक व्यक्ति को देखने के बजाय, आप पूरे कमरे को देखते हैं और लोगों को छोटे, घनिष्ठ समूहों में विभाजित करते हैं, इस आधार पर कि कौन किसके जैसा सुनाई देता है।
- समूह A: एलिस, बॉब और चार्ली (सभी एक ही गाना गाते हैं)।
- समूह B: डेव और ईव (वे एक अलग गाना गाते हैं)।
- समूह C: फ्रैंक (वह अकेला गाता है)।
एलिस के महत्व का परीक्षण करने के लिए, आप केवल बॉब को नहीं हटाते; आप पूरे समूह A को हटा देते हैं। फिर आप देखते हैं कि संगीत में कितना बदलाव आया। यदि संगीत में बहुत गिरावट आती है, तो इसका मतलब है कि वह पूरा समूह महत्वपूर्ण था। चूँकि समूह A के बाहर कोई भी उनकी तरह नहीं गाता, इसलिए एलिस का योगदान अब उसके दोस्तों द्वारा छिपा हुआ नहीं है।
शोध पत्र इसे विधि 2 कहता है, और यह यह पता लगाने के लिए कि कौन सा व्यक्ति किस समूह का हिस्सा है, "स्पेक्ट्रल क्लस्टरिंग" नामक गणितीय तकनीक का उपयोग करता है।
आवाज़ को "बिगाड़ना" क्यों नहीं?
आप पूछ सकते हैं, "एलिस की आवाज़ को हटाने के बजाय उसे क्यों न गड़बड़ा दिया जाए (परम्यूट किया जाए)?"
लेखक बताते हैं कि यदि आप केवल एक व्यक्ति की आवाज़ को गड़बड़ाते हैं, तो यह ठीक काम करता है। लेकिन यदि आपको एक साथ तीन या चार लोगों को गड़बड़ाना पड़े (क्योंकि वे सभी जुड़वाँ हैं), तो गणित जटिल हो जाता है। यह एक साथ कई धागों को खींचकर गाँठ सुलझाने की कोशिश करने जैसा है; परिणाम अनिश्चित होता है।
इसके बजाय, शोध पत्र सुझाव देता है कि सह-संबंधित वेरिएबल्स को पूरी तरह से हटा देना ही बेहतर है। यह अधिक स्वच्छ, स्थिर है और एक स्पष्ट तस्वीर देता है कि वास्तव में कौन महत्वपूर्ण है।
उन्होंने क्या पाया?
लेखकों ने इस विचार का परीक्षण वास्तविक दुनिया के डेटा सेट (जैसे हृदय रोग, वाइन की गुणवत्ता और मोटापे के स्तर की भविष्यवाणी करना) पर किया।
- परिणाम: कई मामलों में, मानक तरीका (रैंडम फ़ॉरेस्ट) उन वेरिएबल्स को "शून्य" या बहुत कम स्कोर दे रहा था जिन्हें डॉक्टर और विशेषज्ञ वास्तव में बहुत महत्वपूर्ण जानते थे।
- सुधार: उनके नए तरीकों का उपयोग करने से, वे "छिपे हुए" वेरिएबल्स अचानक उच्च स्कोर प्राप्त करने लगे।
- उदाहरण: लीवर रोग के एक डेटासेट में, एक विशिष्ट एंजाइम मार्कर को पुराना तरीका अनदेखा कर रहा था क्योंकि वह दूसरे मार्कर के साथ सह-संबंधित था। नए तरीके ने महसूस किया, "हे, यह एंजाइम वास्तव में बहुत महत्वपूर्ण है!" और इसे उच्च स्कोर दिया।
- उदाहरण: हृदय रोग के एक डेटासेट में, "आयु" और "लिंग" को कम करके आंका गया था। नए तरीके ने इसे सुधारा, जिससे पता चला कि वे वास्तव में महत्वपूर्ण कारक हैं।
निष्कर्ष
शोध पत्र का तर्क है कि जब वेरिएबल्स "पक्के दोस्त" (अत्यधिक सह-संबंधित) होते हैं, तो महत्व मापने का मानक तरीका उनमें से एक को महत्वहीन बना देता है।
महत्व मापने से पहले "पक्के दोस्तों" को हटाकर, लेखक दिखाते हैं कि हम प्रत्येक वेरिएबल के वास्तविक मूल्य को देख सकते हैं। वे इसे करने के लिए दो उपकरण प्रदान करते हैं:
- विधि 1: प्रत्येक सिंगल वेरिएबल के लिए एक लचीला और विस्तृत चेक।
- विधि 2: एक तेज़, समूह आधारित दृष्टिकोण जो समान वेरिएबल्स को एक साथ क्लस्टर करता है।
दोनों विधियाँ हमें डेटा के असली सितारों को "परछाइयों" से छिपने से रोकने में मदद करती हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।