Bayesian Target-Domain SHAP under Covariate Shift: Posterior Propagation, Overlap, and Selective Action Risk

कल्पना कीजिए कि आप एक जासूस हैं जो यह पता लगाने की कोशिश कर रहे हैं कि एक विशिष्ट भविष्यवाणी क्यों हुई। शायद किसी बैंक के कंप्यूटर ने ऋण (loan) देने से "ना" कह दिया, या किसी मेडिकल ऐप ने किसी मरीज को उच्च-जोखिम (high-risk) के रूप में चिह्नित किया। यह समझने के लिए कि "क्यों", डेटा वैज्ञानिक एक उपकरण का उपयोग करते हैं जिसे SHAP (SHapley Additive exPlanations) कहा जाता है। SHAP को अलग-अलग सुरागों के बीच दोष या श्रेय बांटने के तरीके के रूप में समझें। यदि कोई ऋण कम आय और अस्थिर नौकरी के इतिहास के कारण अस्वीकार कर दिया गया था, तो SHAP आपको बताता है कि प्रत्येक कारक ने "ना" में कितना योगदान दिया।

लेकिन यहाँ पेचीदा हिस्सा है: SHAP केवल एक व्यक्ति के सुरागों को नहीं देखता; यह एक "बैकग्राउंड" भीड़ से उनकी तुलना करता है। यह पूछता है, "क्या इस व्यक्ति की कम आय भीड़ के औसत व्यक्ति की तुलना में असामान्य है?" यदि आप एक नए, अलग पड़ोस के व्यक्ति को आंकने के लिए अतीत की भीड़ (स्रोत/source) का उपयोग करते हैं, तो गणित गड़बड़ा सकता है। "औसत" पुराने भीड़ का पूरी तरह से अलग हो सकता है। इस बेमेल स्थिति को कोवेरिएट शिफ्ट (covariate shift) कहा जाता है। यह एक सर्फर के कौशल को स्कीयरों (skiers) के समूह से तुलना करके आंकने जैसा है; बैकग्राउंड गलत है, इसलिए स्पष्टीकरण पक्षपाती है।

बड़ा सवाल यह है: जब भीड़ बदल जाती है, लेकिन आपके पास देखने के लिए बहुत कम नए लोग होते हैं, तो हम स्पष्टीकरण को कैसे ठीक करें? यदि हम नई भीड़ को अनदेखा करते हैं, तो हमारा स्पष्टीकरण पक्षपाती होगा। यदि हम केवल छोटी नई भीड़ का उपयोग करने की कोशिश करते हैं, तो हमारा स्पष्टीकरण अस्थिर और यादृच्छिक शोर (random noise) से भरा होगा। यह शोध पत्र ठीक इसी समस्या को संबोधित करता है: जब हमारे पास बहुत सारा पुराना डेटा हो लेकिन नया डेटा बहुत कम हो, और दोनों समूह एक जैसे न हों, तो हम एक विश्वसनीय, ईमानदार स्पष्टीकरण कैसे प्राप्त करें।

---

जासूस की दुविधा: जब भीड़ बदल जाती है

जियांगशान झू (Jiangshan Zhu) से मिलिए, एक शोधकर्ता जिन्होंने AI स्पष्टीकरण की दुनिया में एक बहुत ही विशिष्ट पहेली को सुलझाने का निर्णय लिया। कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट रोबोट है जो डेटा के आधार पर भविष्यवाणियां करता है। आपने इस रोबोट को "सोर्स सिटी" के एक विशाल डेटासेट पर प्रशिक्षित किया है। अब, आप इस रोबोट को "टारगेट सिटी" में तैनात करते हैं। रोबोट का मस्तिष्क (भविष्यवाणी मॉडल) नहीं बदला है, लेकिन टारगेट सिटी के लोग अलग हैं। शायद वे लंबे हैं, या अधिक कमाते हैं, या उनकी आदतें अलग हैं। यह कोवेरिएट शिफ्ट (covariate shift) है।

यदि आप रोबोट से पूछते हैं, "आपने यह भविष्यवाणी क्यों की कि टारगेट सिटी का यह विशिष्ट व्यक्ति विफल होगा?" और वह पुराने "सोर्स सिटी" की भीड़ को संदर्भ के रूप में उपयोग करके उत्तर देता है, तो तकनीकी रूप से उत्तर गलत है। यह फ्लोरिडा के मौसम विज्ञानी द्वारा अलास्का के हिमपात (snowfall) के डेटा का उपयोग करके यह समझाने जैसा है कि मियामी में बारिश क्यों हो रही है। रोबोट को अपनी संदर्भ संख्या के रूप में "टारगेट सिटी" की भीड़ का उपयोग करने की आवश्यकता है, लेकिन पेच यह है: आपके पास टारगेट सिटी की केवल एक छोटी, धुंधली तस्वीर है। आपके पास नई भीड़ की एक आदर्श तस्वीर बनाने के लिए पर्याप्त डेटा नहीं है।

जादुई पुल: बेयसियन एक्सपोनेंशियल टिल्टिंग (Bayesian Exponential Tilting)

झू का पेपर इस अंतर को बेयसियन एक्सपोनेंशियल टिल्टिंग नामक विधि का उपयोग करके पाटने का एक चतुर तरीका प्रस्तावित करता है। इसे एक जादुई लेंस की तरह समझें। आपके पास सोर्स सिटी की एक स्पष्ट, उच्च-रिज़ॉल्यूशन वाली फोटो है (बहुत सारा डेटा) और टारगेट सिटी की एक छोटी, दानेदार (grainy) फोटो है (कम डेटा)। स्पष्ट फोटो को फेंकने या पूरी नई सिटी का अनुमान लगाने के बजाय, आप स्पष्ट फोटो को आधार के रूप में उपयोग करते हैं और उसे ग्रेनी फोटो से मिलाने के लिए थोड़ा "टिल्ट" (झुकाव) देते हैं।

यह "टिल्ट" उस गणित द्वारा निर्देशित होता है जो यह गणना करता है कि दोनों भीड़ कितनी भिन्न हैं। पेपर में एक विशिष्ट संख्या पेश की गई है, जिसे $\Gamma$ (गामा) कहा जाता है, जो एक "कठिनाई मीटर" की तरह कार्य करता है।

• यदि $\Gamma$ 1.1 के करीब है, तो दोनों भीड़ बहुत समान हैं। टिल्ट आसान है, और स्पष्टीकरण स्थिर है।
• यदि $\Gamma$ उछलकर 5 हो जाता है, तो भीड़ बहुत अलग है। टिल्ट डगमगा जाता है, और गणित कहता है, "हे, सावधान रहें! जानकारी धुंधली होती जा रही है।"

पेपर सिद्ध करता है कि एक विशिष्ट, स्वच्छ गणितीय दुनिया में (जहाँ डेटा एक सुंदर, बेल-आकार के वक्र का अनुसरण करता है), आप अपने स्पष्टीकरण की सटीक अनिश्चितता की गणना कर सकते हैं। आप कह सकते हैं, "हमें 95% विश्वास है कि स्पष्टीकरण इस सीमा के भीतर है।"

परिणाम: सिमुलेशन ने क्या दिखाया

इस विचार का परीक्षण करने के लिए, लेखक ने 1,200 विभिन्न डेटासेट्स के साथ एक विशाल सिमुलेशन चलाया। यह यह देखने के लिए 1,200 अलग-अलग जासूसी मामलों को चलाने जैसा था कि क्या नया तरीका टिक पाता है।

• सटीकता (Accuracy): जब गणित को सही ढंग से सेट किया गया था, तो नया तरीका (बेयसियन टिल्ट) अविश्वसनीय रूप से सटीक था। इसकी त्रुटि दर (RMSE) 0.1044 थी, जो उस सर्वोत्तम संभव तरीके के लगभग समान थी जो केवल छोटी नई भीड़ (Target Empirical) का उपयोग करता है।
• पक्षपात का जाल (The Bias Trap): हालाँकि, यदि आप बिना सुधार किए केवल पुरानी भीड़ (Source Background) का उपयोग करते हैं, तो त्रुटि आसमान छू लेती है। यह 0.4374 तक पहुँच जाती है। यह एक बड़ी गलती है! पेपर दिखाता है कि पुराने डेटा का अधिक होना पक्षपात को ठीक नहीं करता है; वास्तव में आपको शहरों के बीच के अंतर को ध्यान में रखने की आवश्यकता है।
• ओवरलैप लागत (Overlap Cost): जैसे-जैसे कठिनाई मीटर ($\Gamma$) 1.1 से बढ़कर 5 हुआ, पुराने स्कूल के "सोर्स बैकग्राउंड" पद्धति में त्रुटि 0.1688 से बढ़कर 0.6892 हो गई। नया तरीका 0.10 के आसपास स्थिर रहा, जिससे साबित हुआ कि यह बिना विचलित हुए बदलाव को संभाल सकता है।

कार्रवाई: स्पष्टीकरण पर कब भरोसा करें

लेकिन स्पष्टीकरण जानना एक बात है; उस पर कार्रवाई करना दूसरी बात है। कल्पना कीजिए कि एक डॉक्टर AI का उपयोग यह तय करने के लिए कर रहा है कि कौन से टेस्ट कराने हैं। यदि AI कहता है "दिल की जाँच करें," लेकिन स्पष्टीकरण संदिग्ध है, तो आप उस टेस्ट पर पैसा बर्बाद कर सकते हैं जिसकी आपको आवश्यकता नहीं है।

पेपर एक "सिलेक्टिव एक्शन" (चयनात्मक कार्रवाई) नियम पेश करता है। यह एक सुरक्षा वाल्व की तरह है। सिस्टम यह गणना करता है कि कितनी "अवसर हानि" (पैसा या जानकारी का नुकसान) हो सकती है।

• यदि सिस्टम आश्वस्त है, तो यह कहता है, "आगे बढ़ें, दिल की जाँच करें।"
• यदि सिस्टम अनिश्चित है (क्योंकि भीड़ बहुत अलग है या डेटा बहुत कम है), तो यह कहता है, "रुकें। मैं पर्याप्त निश्चित नहीं हूँ।"

सिमुलेशन में, यह स्मार्ट फ़िल्टरिंग अद्भुत काम करती है। जब सिस्टम ने केवल उन शीर्ष 25% मामलों को स्वीकार किया जहाँ वह सबसे अधिक आश्वस्त था, तो औसत "बर्बाद प्रयास" (अवसर हानि) 0.0350 से घटकर 0.0081 हो गया। यह एक ट्रेड-ऑफ है: आपको कम सिफारिशें मिलती हैं, लेकिन जो भी मिलती हैं वे बहुत सुरक्षित होती हैं।

चेतावनी: जादुई लेंस पर आँख मूंदकर भरोसा न करें

यहाँ कहानी का सबसे महत्वपूर्ण हिस्सा है, और जहाँ पेपर बहुत सतर्क रहता है। "जादुई लेंस" (एक्सपोनेंशियल टिल्टिंग) खूबसूरती से काम करता है यदि दोनों भीड़ पर्याप्त समान हैं और गणित एक विशिष्ट आकार (गौसियन वक्र) में फिट बैठता है।

लेकिन क्या होगा यदि नई सिटी पूरी तरह से अजीब है? क्या होगा यदि डेटा एक सुंदर बेल कर्व नहीं है? पेपर ने मधुमेह (diabetes) के वास्तविक डेटा का उपयोग करके एक "सेमी-सिंथेटिक" प्रयोग के साथ इसका परीक्षण किया। जब गणितीय मॉडल को ऐसे डेटा पर लागू किया गया जो फिट नहीं बैठता था, तो नया तरीका वास्तव में सीधे तौर पर छोटी नई भीड़ का उपयोग करने वाले तरीके से भी खराब प्रदर्शन करता था। त्रुटि सीधे पद्धति के 2.3867 की तुलना में 5.3334 तक बढ़ गई।

पेपर निष्कर्ष निकालता है कि हालांकि यह बेयसियन दृष्टिकोण बदलते परिवेश में स्पष्टीकरणों को समझने के लिए एक शक्तिशाली उपकरण है, लेकिन यह सब कुछ ठीक करने वाला जादुई डंडा नहीं है। यह सबसे अच्छा तब काम करता है जब आप यह जांच सकें कि "टिल्ट" तर्कसंगत है या नहीं। यदि भीड़ बहुत अलग है या डेटा बहुत अव्यवस्थित है, तो अक्सर केवल आपके पास मौजूद थोड़े से नए डेटा पर भरोसा करना ही अधिक सुरक्षित होता है।

मुख्य निष्कर्ष (The Takeaway)

यह पेपर हमें बदलती दुनिया में AI स्पष्टीकरणों को संभालने का एक कठोर तरीका प्रदान करता है। यह हमें दिखाता है कि हम इस तथ्य को अनदेखा नहीं कर सकते कि दुनिया बदलती है। पुराने और नए डेटा को मिलाने के एक स्मार्ट, गणितीय रूप से सिद्ध तरीके का उपयोग करके, हम बहुत कम नए डेटा होने पर भी विश्वसनीय स्पष्टीकरण प्राप्त कर सकते हैं। लेकिन यह हमें चेतावनी भी देता है: यदि गणित वास्तविकता में फिट नहीं बैठता है, तो उसे जबरदस्ती न थोपें। कभी-कभी, सबसे सरल दृष्टिकोण—सीधे नए डेटा को देखना—ही सबसे ईमानदार होता है।