← नवीनतम पेपर
🤖 machine learning

Priority-Aware Shapley Value

यह शोधपत्र प्रायोरिटी-अवेयर शापली वैल्यू (PASV) प्रस्तुत करता है, जो एक नवीन ढांचा है जो निर्भर योगदानकर्ताओं और विश्वास कारकों को बेहतर ढंग से संभालने के लिए हार्ड प्रेसिडेंस बाधाओं और सॉफ्ट प्रायोरिटी वेट्स को शामिल करके पारंपरिक शापली वैल्यूज का विस्तार करता है, जिसे एक कुशल सैंपलिंग एल्गोरिदम द्वारा समर्थित किया गया है और डेटा मूल्यांकन एवं फीचर एट्रिब्यूशन कार्यों पर प्रयोगों के माध्यम से मान्य किया गया है।

मूल लेखक: Kiljae Lee, Ziqi Liu, Weijing Tang, Yuan Zhang

प्रकाशित 2026-06-16
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Kiljae Lee, Ziqi Liu, Weijing Tang, Yuan Zhang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल पॉटलक डिनर (potluck dinner) आयोजित कर रहे हैं जहाँ हर कोई एक व्यंजन लेकर आता है, और लक्ष्य यह पता लगाना है कि प्रत्येक व्यक्ति ने अंतिम दावत की लजीजता में कितना योगदान दिया है। मशीन लर्निंग की दुनिया में, यह "पॉटलक" डेटा पर प्रशिक्षित एक मॉडल है, और "व्यंजन" व्यक्तिगत डेटा बिंदु या विशेषताएं (features) हैं।

द दशकों से, वैज्ञानिक इस श्रेय को निष्पक्ष रूप से विभाजित करने के लिए शैप्ली वैल्यू (Shapley Value) नामक एक गणितीय उपकरण का उपयोग करते आए हैं। पारंपरिक नियम सरल है: कल्पना कीजिए कि पार्टी में लोगों के आने के कितने भी संभावित क्रम हो सकते हैं। यदि आप सबसे पहले आते हैं, तो आपको पूरे मेज का श्रेय मिलता है। यदि आप अंत में आते हैं, तो आपको केवल उस चीज़ का श्रेय मिलता है जो आपने पहले से भरी हुई मेज में जोड़ी है। शैप्ली वैल्यू सभी संभावित आगमन क्रमों में आपके योगदान का औसत निकालती है।

समस्या: "परिवर्तनीय" (Interchangeable) धारणा
पुराना तरीका मानता है कि सभी लोग एक-दूसरे के समान (interchangeable) हैं। यह पॉटलक के साथ ऐसा व्यवहार करता है जैसे इससे कोई फर्क नहीं पड़ता कि सलाद पहले आया या केक बाद में। लेकिन वास्तविक जीवन में, ऐसा नहीं है।

  • कठोर प्राथमिकता (The "Recipe" Rule - रेसिपी का नियम): कभी-कभी, आपको पिज्जा के टॉपिंग लाने से पहले आटा लाना ही होगा। यदि आप आटे से पहले टॉपिंग लगाने की कोशिश करते हैं, तो पिज्जा खराब हो जाएगा। डेटा के संदर्भ में, कुछ डेटा अन्य डेटा से "कॉपी" किया जाता है, या कुछ विशेषताएं (जैसे आयु) तार्किक रूप से दूसरों (जैसे व्यवसाय) से पहले आनी चाहिए। पुराना तरीका इन नियमों को अनदेखा करता है, जिससे असंभव परिदृश्य (जैसे आटे से पहले टॉपिंग) परिणामों को बिगाड़ सकते हैं।
  • कोमल प्राथमिकता (The "VIP" Rule - वीआईपी नियम): कभी-कभी, हम कुछ मेहमानों पर अधिक भरोसा करते हैं। शायद एक मेहमान एक प्रसिद्ध शेफ (उच्च विश्वास) है, जबकि दूसरा जले हुए टोस्ट लाने के लिए जाना जाता है (कम विश्वास/जोखिम)। पुराना तरीका उन्हें समान मानता है, भले ही वे अलग-अलग समय पर आए हों। हमें यह कहने का एक तरीका चाहिए कि, "हम शेफ के योगदान पर अधिक भरोसा करते हैं," बिना रेसिपी के नियमों को बदले।

समाधान: प्रायोरिटी-अवेयर शैप्ली वैल्यू (PASV)
लेखक एक नई विधि प्रस्तावित करते हैं जिसे PASV कहा जाता है। इसे एक स्मार्ट पॉटलक प्लानर के रूप में सोचें जो दो चीजों को समझता है:

  1. कठोर नियम (The DAG): यह "रेसिपी" का सम्मान करता है। यह जानता है कि टॉपिंग से पहले आटा आना ही चाहिए। यह केवल उन आगमन क्रमों पर विचार करता है जो तर्कसंगत हैं (जैसे: आटे से पहले टॉपिंग नहीं)।
  2. कोमल भार (The VIPs): यह जानता है कि कुछ मेहमान अधिक "विश्वसनीय" या "जोखिम भरे" होते हैं। यह गणित को इस तरह समायोजित करता है कि उच्च-विश्वास वाले मेहमानों को उन संदर्भों में अधिक मूल्यांकन किया जाए जहाँ उनका वास्तविक मूल्य चमकता है, जबकि जोखिम भरे मेहमानों का मूल्यांकन अधिक सावधानी से किया जाता है ताकि यह देखा जा सके कि वे वास्तव में मूल्य जोड़ते हैं या केवल शोर (noise) पैदा करते हैं।

यह कैसे काम करता है (रचनात्मक उपमा)
कल्पना कीजिए कि आप एक रहस्य सुलझाने वाली जासूसों की टीम का न्याय करने की कोशिश कर रहे हैं।

  • पुराना तरीका: आप जासूसों के हर संभव क्रम से केस सुलझाने के लिए पूछते हैं। आप उनकी सफलता का औसत निकालते हैं। लेकिन यह अनुचित है यदि जासूस A को सुराग खोजने के लिए B से पहले होना आवश्यक है। पुराना तरीका उन परिदृश्यों को गिनता है जहाँ B पहले समाधान करने की कोशिश करता है, जो कि असंभव है।
  • PASV का तरीका:
    • कठोर प्राथमिकता: आप केवल उन क्रमों में जासूसों को केस सुलझाने देते हैं जो सुरागों (A से पहले B) का सम्मान करते हैं।
    • कोमल प्राथमिकता: आपके पास प्रत्येक जासूस के लिए एक "ट्रस्ट मीटर" (विश्वास मीटर) है। यदि जासूस C एक ज्ञात झूठा है (उच्च जोखिम), तो PASV उसे केवल अनदेखा नहीं करता; यह उन परिदृश्यों का अनुकरण करता है जहाँ वह जांच में बाद में आता है। यह परीक्षण करता है: "यदि हमारे पास पहले से ही ठोस सबूत हैं, तो क्या इस झूठे का सुराग वास्तव में मदद करता है, या यह भ्रमित करता है?" यदि वह एक जीनियस (उच्च विश्वास) है, तो PASV उन्हें समृद्ध संदर्भों में परखता है ताकि उनकी पूरी क्षमता देखी जा सके।

"प्रायोरिटी स्वीपिंग" (Priority Sweeping) टूल
PASV की एक सबसे शानदार विशेषता एक डायग्नोस्टिक टूल है जिसे लेखक "प्रायोरिटी स्वीपिंग" कहते हैं।
कल्पना कीजिए कि आप पॉटलक के प्रबंधक हैं। आप उस अतिथि पर कितना भरोसा करें जिसने "मिस्ट्री कैसरोल" लाया है, इसके बारे में सुनिश्चित नहीं हैं।

  • PASV के साथ, आप एक सिमुलेशन चला सकते हैं: "क्या होगा अगर मैं इस अतिथि को एक 'सुपर वीआईपी' (अधिकतम विश्वास) के रूप में मानूँ?" फिर, "क्या होगा यदि मैं उन्हें 'उच्च जोखिम' (न्यूनतम विश्वास) के रूप में मानूँ?"
  • "कुल विश्वास" से "कुल अविश्वास" तक एक स्लाइडर को खिसकाकर, आप देख सकते हैं कि उनका क्रेडिट स्कोर स्थिर रहता है या गिर जाता है। यदि यह गिर जाता है, तो आप जानते हैं कि उनका मूल्य अस्थिर है और यह इस बात पर निर्भर करता है कि आप उन पर कितना भरोसा करते हैं। यह आपको यह निर्णय लेने में मदद करता है कि अगली बार किसे आमंत्रित करना सुरक्षित है।

इस शोध पत्र ने वास्तव में क्या पाया?
लेखकों ने दो मुख्य परिदृश्यों पर इसका परीक्षण किया:

  1. डेटा मूल्यांकन (द पॉटलक): उन्होंने एक डेटा मार्केट का अनुकरण किया जहाँ कुछ डेटा मूल था, कुछ कॉपी किया गया था, और कुछ "जहरीला" (खराब डेटा) था।
    • पुराने तरीकों ने "कॉपियर्स" (कॉपी करने वालों) को श्रेय दिया क्योंकि उन्हें यह एहसास नहीं हुआ कि डेटा केवल एक कॉपी था।
    • PASV ने सफलतापूर्वक कॉपी करने वालों और "पॉइजनर्स" (जहर मिलाने वालों) को दंडित किया, और मूल स्रोतों को अधिक श्रेय दिया, विशेष रूप से जब "ट्रस्ट" सेटिंग्स को समायोजित किया गया था।
  2. फीचर एट्रिब्यूशन (जासूसों की टीम): उन्होंने आय (income) की भविष्यवाणी करने वाले एक डेटासेट का विश्लेषण किया।
    • उन्होंने दिखाया कि विशेषताओं (features) का क्रम (जैसे: क्या आयु शिक्षा से पहले आती है?) परिणामों को कैसे बदल देता है।
    • PASV ने उन्हें यह देखने की अनुमति दी कि कौन सी विशेषताएं मजबूत (robust) थीं (जिनका मूल्य विश्वास स्तर के बावजूद बहुत नहीं बदला) और कौन सी अस्थिर थीं (जैसे "मूल देश", जो सेटिंग्स के आधार पर बहुत अधिक बदल गया)।

सारांश में
PASV मशीन लर्निंग में निष्पक्ष रूप से श्रेय बांटने का एक नया तरीका है। यह पुराने तरीके की नियमों (आप आटे से पहले टॉपिंग नहीं रख सकते) और विश्वास (कुछ डेटा दूसरों की तुलना में अधिक जोखिम भरा होता है) के प्रति अंधापन को ठीक करता है। यह हमें न केवल एक एकल उत्तर देने का, बल्कि यह पूछकर अपने निर्णयों का तनाव परीक्षण (stress-test) करने का उपकरण देता है कि, "इस डेटा बिंदु में मेरा विश्वास वास्तव में परिणाम को कितना बदलता है?"

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →