A Principled Approach for Defining and Comparing Variable Importance Measures

डेटा की आधुनिक दुनिया में, मशीनों को तेजी से ऐसे पूर्वानुमान लगाने का काम सौंपा जा रहा है जो हमारे जीवन को प्रभावित करते हैं, जैसे कि बीमारियों का निदान करना या मौसम का पूर्वानुमान लगाना। ऐसा करने के लिए, ये मशीनें विशाल मात्रा में जानकारी से सीखती हैं, और इनपुट को परिणामों से जोड़ने वाले पैटर्न खोजने के लिए अनगिनत विवरणों को छानती हैं। अक्सर, इस काम के लिए सबसे शक्तिशाली उपकरण जटिल एल्गोरिदम होते हैं जो 'ब्लैक बॉक्स' की तरह कार्य करते हैं: वे सटीक परिणाम तो देते हैं, लेकिन उनका आंतरिक तर्क इतना जटिल होता है कि उनके निर्माता भी आसानी से यह नहीं समझा पाते कि वे किसी विशिष्ट निष्कर्ष तक कैसे पहुँचे। यह वैज्ञानिकों और डॉक्टरों के लिए एक दुविधा पैदा करता है जिन्हें न केवल उत्तर की, बल्कि उसके पीछे के कारणों की भी आवश्यकता होती है। उन्हें यह जानने की जरूरत है कि किस विशिष्ट जानकारी ने वास्तव में निर्णय को प्रेरित किया और कौन सी जानकारी केवल भटकाव थी। डेटा के प्रत्येक टुकड़े के योगदान को मापने की इस खोज को "वेरिएबल इम्पोर्टेंस" (चर महत्व) खोजना कहा जाता है।

वर्षों से, शोधकर्ताओं ने इस महत्व को मापने के कई अलग-अलग तरीके विकसित किए हैं, जो अक्सर चतुर शॉर्टकट या नियमों पर आधारित होते हैं। हालाँकि, स्टैटिस्टिकल साइंस में प्रकाशित एक नया अध्ययन तर्क देता है कि इन शॉर्टकटों ने भ्रम और, कुछ मामलों में, गलत खोजों को जन्म दिया है। शोधकर्ता एंजेल रेयेरो लोबो, पियरे न्यूविअल और बर्ट्रेंड थिरियन एक नया, कठोर तरीका प्रस्तावित करते हैं जिससे यह परिभाषित किया जा सके कि डेटा के एक टुकड़े के महत्वपूर्ण होने का क्या अर्थ है। उनका सुझाव है कि किसी जानकारी को तभी महत्वपूर्ण माना जाना चाहिए यदि वह एक अद्वितीय मूल्य प्रदान करती है जो कहीं और नहीं पाया जा सकता। यदि डेटा का एक टुकड़ा अनावश्यक (redundant) है—अर्थात उसकी जानकारी अन्य डेटा बिंदुओं द्वारा पहले से ही कवर की जा गई है—तो उसे मुख्य चालक के रूप में नहीं गिना जाना चाहिए। इस स्पष्ट, न्यूनतम नियम को स्थापित करके, लेखक फीचर्स को केवल रैंक करने और उन्हें वैज्ञानिक रूप से चुनने के बीच के अंतर को पाटते हैं, जिससे हमारे डेटा-संचालित मॉडलों से अधिक विश्वसनीय और ईमानदार अंतर्दृष्टि प्राप्त करने का मार्ग प्रशस्त होता है।

मूल समस्या यह है कि हम वर्तमान में महत्व को कैसे आंकते हैं। कल्पना कीजिए कि एक मशीन लर्निंग मॉडल घर की कीमतों की भविष्यवाणी करने की कोशिश कर रहा है। यह कमरों की संख्या और कुल वर्ग फुट (square footage) को देख सकता है। ये दो तथ्य अक्सर अत्यधिक सह-संबंधित (correlated) होते हैं; अधिक कमरों वाले घर में आमतौर पर अधिक स्थान होता है। मौजूदा तरीकों में से कई में, कमरों की संख्या और वर्ग फुट दोनों को उच्च महत्व स्कोर दिया जा सकता है, भले ही मॉडल को एक अच्छा पूर्वानुमान लगाने के लिए वास्तव में केवल एक की ही आवश्यकता हो। मशीन दूसरे चर (variable) को केवल इसलिए श्रेय दे सकती है क्योंकि वह पहले वाले से जुड़ा हुआ है, न कि इसलिए कि वह कोई नया ज्ञान जोड़ता है। इससे "फॉल्स पॉजिटिव" (गलत सकारात्मक) की स्थिति उत्पन्न हो सकती है, जहाँ वैज्ञानिकों को लगता है कि एक कारक महत्वपूर्ण है जबकि वह वास्तव में किसी दूसरी चीज़ की छाया मात्र है। इस अध्ययन के लेखक बताते हैं कि लोकप्रिय तरीके, जिनमें गेम थ्योरी पर आधारित एक व्यापक रूप से उपयोग की जाने वाली तकनीक 'शापली वैल्यूज़' (Shapley values) शामिल है, अक्सर इस जाल में फंस जाते हैं। अपने सिमुलेशन में, इन तरीकों ने अप्रासंगिक चरों को महत्वपूर्ण स्कोर दिया क्योंकि वे वास्तविक चरों के साथ सह-संबंधित थे, जिससे शोधकर्ताओं को इस बारे में गुमराह किया जा सकता है कि वास्तव में क्या महत्वपूर्ण है।

इसे ठीक करने के लिए, लेखक एक सरल लेकिन शक्तिशाली सिद्धांत पेश करते हैं: एक चर को केवल तभी महत्व दिया जाना चाहिए यदि उसे हटाने से मॉडल की परिणाम बताने की क्षमता को नुकसान पहुँचता है, तब भी जब अन्य सभी जानकारी उपलब्ध हो। यह पिछले दृष्टिकोणों की तुलना में एक सख्त मानक है। यह एक विशिष्ट प्रश्न पूछता है: क्या डेटा का यह टुकड़ा कुछ ऐसा अद्वितीय प्रदान करता है जो कोई अन्य डेटा प्रदान नहीं कर सकता? यदि उत्तर 'नहीं' है, तो महत्व स्कोर शून्य होना चाहिए। यह दृष्टिकोण "महत्व" की अवधारणा को "वेरिएबल सिलेक्शन" (चर चयन) के कठोर सांख्यिकीय तरीकों के साथ जोड़ता है, जो पहले से ही गलत खोजों से बचने के लिए मजबूत नियम रखता है। इस नियम को अपनाकर, शोधकर्ता एक ऐसा ढांचा तैयार करते हैं जहाँ लक्ष्य केवल फीचर्स को रैंक करना नहीं है, बल्कि किसी घटना के वास्तविक, स्वतंत्र चालकों की पहचान करना है।

शोध पत्र फिर मौजूदा तरीकों के परिदृश्य का गहराई से विश्लेषण करता है ताकि यह देखा जा सके कि कौन से नियम का पालन करते हैं और कौन से नहीं। वे पाते हैं कि कई लोकप्रिय तकनीकें, जैसे कि मानक शापली वैल्यूज़ और परम्यूटेशन इम्पोर्टेंस (permutation importance) के कुछ संस्करण, इस परीक्षण में विफल रहते हैं। ये तरीके अक्सर अप्रासंगिक चरों को गैर-शून्य महत्व प्रदान करते हैं, जिससे सिग्नल और शोर (noise) के बीच अंतर करना कठिन हो जाता है। हालाँकि, अध्ययन यह भी प्रकट करता है कि कुछ तरीके, यदि सही ढंग से समझे जाएं, तो इस सिद्धांत को पूरा करते हैं। उदाहरण के लिए, एक तकनीक जिसे 'कंडीशनल फीचर इम्पोर्टेंस' (Conditional Feature Importance) कहा जाता है, जो चरों के बीच संबंधों का सावधानीपूर्वक हिसाब रखती है, स्वाभाविक रूप से अनावश्यक जानकारी को फ़िल्टर कर देती है। लेखक दिखाते हैं कि इन तरीकों के केवल गणनात्मक चरणों के बजाय उनके सैद्धांतिक लक्ष्य पर ध्यान केंद्रित करके, हम देख सकते हैं कि कुछ दृष्टिकोण वास्तव में एक चर के अद्वितीय योगदान को खोजने के लिए डिज़ाइन किए गए हैं, जबकि अन्य नहीं।

शोध का एक महत्वपूर्ण हिस्सा इस बात के इर्द-गिर्द के भ्रम को सुलझाने से संबंधित है कि इन तरीकों की गणना कैसे की जाती है। अतीत में, शोधकर्ताओं ने इन उपकरणों को इस आधार पर वर्गीकृत किया है कि वे मॉडल को "रीफिट" (एक विशिष्ट चर के बिना इसे फिर से प्रशिक्षित करना) करते हैं या डेटा को "परटर्ब" (यह देखने के लिए मानों को बदलना कि क्या होता है) करते हैं। लेखक तर्क देते हैं कि यह अंतर भ्रामक है क्योंकि विभिन्न गणना विधियाँ वास्तव में एक ही अंतर्निहित मात्रा का अनुमान लगाने के लिए अलग-अलग तरीके हो सकते हैं, ठीक वैसे ही जैसे दो शहरों के बीच की दूरी को गाड़ी चलाकर, उड़कर या पैदल चलकर मापा जा सकता है। वे प्रदर्शित करते हैं कि कई प्रतीत होने वाले अलग-अलग दृष्टिकोण वास्तव में एक ही अंतर्निखंड मात्रा का अनुमान लगाने के विभिन्न तरीके हैं। मुख्य बात यह है कि पहले यह परिभाषित करें कि आप क्या मापने की कोशिश कर रहे हैं—एक चर की अद्वितीय भविष्य कहने वाली शक्ति—और फिर उस मात्रा को मापने के लिए सबसे अच्छा उपकरण चुनें, न कि उपकरण को यह तय करने दें कि आप क्या माप रहे हैं।

अपने बिंदुओं को सिद्ध करने के लिए, शोधकर्ताओं ने सिम्युलेटेड डेटा और वास्तविक दुनिया के डेटासेट, जैसे कि साइकिल रेंटल रिकॉर्ड के संग्रह का उपयोग करके व्यापक प्रयोग चलाए। सिमुलेशन में, उन्होंने ऐसे परिदृश्य बनाए जहाँ उन्हें ठीक से पता था कि कौन से चर महत्वपूर्ण हैं और कौन से केवल शोर (noise) हैं। उन्होंने पाया कि उनके नए सिद्धांत का पालन करने वाले तरीकों ने शोर वाले चरों को सही ढंग से शून्य महत्व दिया, जबकि पुराने, त्रुटिपूर्ण तरीकों ने उन्हें उच्च स्कोर देना जारी रखा। जब उन्होंने वास्तविक साइकिल डेटा पर इन तरीकों को लागू किया, तो परिणाम सुसंगत थे। उदाहरण के लिए, "वर्ष" जैसा एक चर, जो उनके मॉडल में मांग की भविष्यवाणी करने में वास्तव में मदद नहीं करता था, को नए नियम का पालन करने वाले तरीकों द्वारा सही ढंग रूप से शून्य महत्व स्कोर दिया गया। इसके विपरीत, नियम का उल्लंघन करने वाले तरीकों ने "वर्ष" चर को एक भ्रामक रूप से उच्च स्कोर दिया, जिससे संकेत मिला कि यह महत्वपूर्ण था जबकि वह नहीं था।

अध्ययन इन मॉडलों के साथ काम करने वाले किसी भी व्यक्ति के लिए एक स्पष्ट पाइपलाइन प्रदान करके समाप्त होता है। किसी लोकप्रिय टूल को आँख मूंदकर लागू करने के बजाय, पेशेवरों को पहले यह परिभाषित करना चाहिए कि वे वास्तव में क्या जानना चाहते हैं। यदि लक्ष्य वैज्ञानिक खोज है—किसी घटना के पीछे के वास्तविक, स्वतंत्र कारणों को खोजना—तो उन्हें उन तरीकों का उपयोग करना चाहिए जो अद्वितीय योगदान के न्यूनतम नियम को संतुष्ट करते हैं। लेखक दिखाते हैं कि यह दृष्टिकोण न केवल गलत खोजों को रोकता है, बल्कि शोधकर्ताओं को अपने निष्कर्षों के साथ सांख्यिकीय गारंटी भी जोड़ने की अनुमति देता है, जिससे यह सुनिश्चित होता है कि उनके निष्कर्ष सुदृढ़ हैं। जटिल ह्यूरिस्टिक्स (heuristics) से हटकर एक सिद्धांत-आधारित परिभाषा पर ध्यान केंद्रित करके, यह कार्य कृत्रिम बुद्धिमत्ता के अपारदर्शी ब्लैक बॉक्स को वास्तविक वैज्ञानिक समझ के पारदर्शी उपकरणों में बदलने के लिए एक रोडमैप प्रदान करता है। संदेश स्पष्ट है: डेटा में सत्य खोजने के लिए, हमें छायाओं को श्रेय देना बंद करना होगा और केवल उस प्रकाश को मापना शुरू करना होगा जो वास्तव में मार्ग को आलोकित करता है।