cc-Shapley: Measuring Multivariate Feature Importance Needs Causal Context
यह शोध पत्र cc-Shapley को प्रस्तुत करता है, जो shapley values का एक कॉज़ल-कॉन्टेक्स्ट (causal-context) संशोधन है जो डेटा-जनरेटिंग प्रोसेस के ज्ञान का लाभ उठाकर कोलाइडर बायस (collider bias) और सप्रेशन (suppression) के कारण होने वाले भ्रामक फीचर एट्रिब्यूशन को समाप्त करता है, जिससे व्याख्यात्मक एआई (explainable AI) और वैज्ञानिक खोज के लिए अधिक सटीक मल्टीवेरिएट फीचर महत्व (multivariate feature importance) प्रदान किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जासूस हैं जो एक रहस्य सुलझाने की कोशिश कर रहे हैं: मशीन लर्निंग मॉडल ने यह विशिष्ट भविष्यवाणी क्यों की?
आर्टिफिशियल इंटेलिजेंस की दुनिया में, हम इस सवाल का जवाब देने के लिए "फीचर इम्पॉर्टेंस" (feature importance) नामक उपकरणों का उपयोग करते हैं। वे हमें बताते हैं कि समाधान के लिए कौन से सुराग (डेटा पॉइंट्स) सबसे महत्वपूर्ण थे। सबसे लोकप्रिय उपकरण है शापली वैल्यूज़ (Shapley Values)। शापली वैल्यूज़ को एक पुरस्कार को टीम के खिलाड़ियों के बीच इस आधार पर निष्पक्ष रूप से बांटने के तरीके के रूप में समझें कि प्रत्येक खिलाड़ी ने जीत में कितना योगदान दिया था।
हालाँकि, इस शोध पत्र के लेखक, जोर्ग मार्टिन और स्टेफ़न हॉफ, इस उपकरण के उपयोग के तरीके में एक बड़ी खामी की खोज कर चुके हैं। उनका तर्क है कि यदि डेटा के पीछे की कारण संबंधी कहानी (causal story) को नहीं समझा गया, तो ये उपकरण हमें धोखा दे सकते हैं और ऐसे "भूतिया सुराग" (ghost clues) पैदा कर सकते हैं जो वास्तव में मौजूद ही नहीं हैं।
यहाँ उनकी खोज और उनके नए समाधान, cc-Shapley का विवरण सरल उपमाओं (analogies) के माध्यम से दिया गया है।
1. समस्या: "झूठा दोस्त" (कोलाइडर बायस - Collider Bias)
समस्या को समझने के लिए, आइए शोध पत्र के उदाहरण को देखें: नाश्ता और मधुमेह (Diabetes)।
सेटअप: एक मरीज रक्त शर्करा (blood sugar) परीक्षण के लिए आता है।
- Y (लक्ष्य/Target): क्या मरीज को मधुमेह है?
- C (कार्ब्स/Carbs): उन्होंने नाश्ते में कितनी मात्रा में कार्ब्स खाए?
- G (ग्लूकोज/Glucose): उनका ब्लड शुगर लेवल क्या है?
सच्चाई:
- बहुत अधिक कार्ब्स (C) खाने से ब्लड शुगर (G) बढ़ जाता है।
- मधुमेह (Y) होने से भी ब्लड शुगर (G) बढ़ जाता है।
- महत्वपूर्ण बात: कार्ब्स और मधुमेह का आपस में कोई सीधा संबंध नहीं है। एक स्वस्थ व्यक्ति बहुत भारी नाश्ता कर सकता है, और एक मधुमेह रोगी नाश्ता छोड़ भी सकता है।
जाल (द कोलाइडर/The Collider):
कल्पना कीजिए कि ब्लड शुगर (G) एक "मिलन बिंदु" है जहाँ दो सड़कें (कार्ब्स और मधुमेह) एक दूसरे को काटती हैं। सांख्यिकी (statistics) में, इसे कोलाइडर (Collider) कहा जाता है।अब, कल्पना कीजिए कि आप एक जासूस हैं। आप एक मरीज को देखते हैं जिसका ब्लड शुगर (G) अधिक है।
- यदि आप जानते हैं कि उन्हें मधुमेह (Diabetes) है, तो आप सोच सकते हैं, "आह, यह उच्च शुगर का कारण बताता है।"
- लेकिन यदि आप मधुमेह के बारे में नहीं जानते, और आप देखते हैं कि उनका ब्लड शुगर (G) अधिक है, तो आपका दिमाग कारण खोजने की कोशिश करता है।
- यदि आप देखते हैं कि उन्होंने बहुत भारी नाश्ता (High C) किया है, तो आपका दिमाग कहता है, "ओह, उच्च शुगर केवल भोजन के कारण है! शायद उन्हें मधुमेह नहीं है।"
परिणाम: डेटा में, ऐसा दिखता है जैसे अधिक कार्ब्स खाना आपको मधुमेह के प्रति कम संवेदनशील बनाता है।
यह बेतुका है! कार्ब्स खाना मधुमेह को ठीक नहीं करता। लेकिन क्योंकि हम डेटा को ब्लड शुगर (कोलाइडर) के "लेंस" के माध्यम से देख रहे हैं, हम एक भ्रामक संबंध (spurious association) बना देते हैं। हम यह सोचने के धोखे में आ जाते हैं कि कार्ब्स एक "इलाज" हैं क्योंकि वे उच्च शुगर की व्याख्या कर देते हैं।
पुराना टूल (Shapley Values) यहाँ विफल हो जाता है। यह डेटा को देखता है, इस अजीब पैटर्न को देखता है, और कहता है: "कार्ब्स बहुत महत्वपूर्ण हैं! वे मधुमेह के साथ नकारात्मक रूप से जुड़े हुए हैं!" यह एक ऐसे फीचर को उच्च स्कोर देता है जो वास्तव में अप्रासंगिक है, सिर्फ इसलिए क्योंकि यह एक सांख्यिकीय चाल है।
2. समाधान: "हस्तक्षेप" (The Intervention - cc-Shapley)
लेखक cc-Shapley (Causal Context Shapley) नामक एक नया उपकरण प्रस्तावित करते हैं।
केवल डेटा को देखने (अवलोकन/Observation) के बजाय, cc-Shapley पूछता है: "क्या होगा यदि हम बदलाव के लिए मजबूर करें?" (हस्तक्षेप/Intervention)।
- पुराना तरीका (अवलोकन/Observation): "आइए उन लोगों को देखें जिन्होंने वास्तव में बहुत अधिक कार्ब्स खाए थे और देखें कि उनका मधुमेह का जोखिम क्या है।" (यह ऊपर बताए गए जाल की ओर ले जाता है)।
- नया तरीका (हस्तक्षेप/Intervention): "आइए कल्पना करें कि हम सभी को स्वास्थ्य की परवाह किए बिना मजबूर करते हैं कि वे हाई-कार्ब नाश्ता करें, और फिर उनके मधुमेह के जोखिम की जांच करते हैं।"
जब आप नाश्ते के लिए मजबूर करते हैं (हस्तक्षेप करते हैं), तो आप मधुमेह के कारण नाश्ते और ब्लड शुगर के बीच के संबंध को तोड़ देते। आप उस "मिलन बिंदु" को आपको धोखा देने से रोक देते हैं।
- परिणाम: जब आप cc-Shapley का उपयोग करते हैं, तो इसे एहसास होता है: "रुको, यदि मैं सबको कार्ब्स खाने के लिए मजबूर करता हूँ, तो मधुमेह की दर नहीं बदलती। कार्ब्स कोई इलाज नहीं हैं।"
- स्कोर: कार्ब्स के लिए cc-Shapley का मान घटकर शून्य (zero) हो जाता है। यह सही ढंग से पहचान लेता है कि कार्ब्स मधुमेह के कारण के लिए अप्रासंगिक हैं, भले ही वे ब्लड शुगर रीडिंग को प्रभावित करते हों।
3. उपमा: जासूस और गलत सुराग (The Red Herring)
डेटा को एक अपराध स्थल (crime scene) के रूप में सोचें।
- पुराना तरीका (Shapley): जासूस अपराध स्थल को देखता है और लाश (मधुमेह) के पास एक कीचड़ वाला पदचिह्न (कार्ब्स) देखता है। क्योंकि पीड़ित (ब्लड शुगर) कीचड़ से सना हुआ है, जासूस सोचता है, "कीचड़ वाला पदचिह्न ही हत्यारा होना चाहिए!" जासूस भ्रमित हो जाता है क्योंकि कीचड़ केवल बारिश (कोलाइडर) का एक दुष्प्रभाव है।
- नया तरीका (cc-Shapley): जासूस पूछता है, "यदि मैं संदिग्ध को मजबूर करता कि वह कीचड़ वाला पदचिह्न छोड़ता, तो क्या पीड़ित अभी भी मृत होता?" जासूस को एहसास होता है कि कीचड़ केवल एक गलत सुराग (red herring) है। पदचिह्न ने मृत्यु का कारण नहीं बनाया; बंदूक (वास्तविक कारण) ने किया था।
4. यह क्यों महत्वपूर्ण है
शोध पत्र का तर्क है कि वर्तमान AI उपकरण "डेटा-संचालित" (data-driven) हैं लेकिन "सत्य-संचालित" (truth-driven) नहीं हैं। वे पैटर्न खोजने में बहुत अच्छे हैं, लेकिन वे सहसंबंध (चीजों का एक साथ होना) और कारणता (एक चीज़ द्वारा दूसरी चीज़ का कारण बनना) के बीच अंतर करने में बहुत खराब हैं।
- विज्ञान में: यदि कोई दवा कंपनी पुराने Shapley मानों का उपयोग करती है, तो उन्हें लग सकता है कि एक साइड इफेक्ट (जैसे कार्ब्स खाना) वास्तव में एक इलाज है, जिससे खतरनाक चिकित्सा सलाह मिल सकती है।
- AI में: यदि हम चाहते हैं कि AI हमें नए वैज्ञानिक सत्य खोजने में मदद करे, तो हम उस पर भरोसा नहीं कर सकते यदि वह इन सांख्यिकीय भ्रमों से आसानी से मूर्ख बन जाता है।
सारांश
- समस्या: मानक AI उपकरण "कोलाइडर्स" (डेटा में मिलन बिंदु) से भ्रमित हो जाते हैं, जिससे वे निर्दोष चरों (variables) को उन चीजों के लिए दोषी ठहराते हैं जो उन्होंने नहीं कीं।
- समाधान: लेखकों ने cc-Shapley बनाया, जो "कॉज़ल कॉन्टेक्स्ट" (Causal Context) का उपयोग करता है। केवल यह देखने के बजाय कि क्या हो रहा है, यह सिम्युलेट करता है कि "यदि हम इसे बदल दें तो क्या होगा?"
- लाभ: यह AI को "भूतों" को देखने से रोकता है। यह हमें बताता है कि वास्तव में क्या मायने रखता है, वास्तविक कारणों को सांख्यिकीय शोर (noise) से अलग करता है।
संक्षेप में: यह समझने के लिए कि मशीन कैसे सोचती है, हमें उस दुनिया को समझने की आवश्यकता है जिसमें वह रहती है, न कि केवल उन नंबरों को जो वह देखती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।