← नवीनतम पेपर
📊 statistics

Proxy-Based Approximation of Shapley and Banzhaf Interactions

यह शोध पत्र ProxySHAP प्रस्तुत करता है, जो एक नवीन विधि है जो Shapley और Banzhaf इंटरैक्शन का अनुमान लगाने के लिए स्टेट-ऑफ-द-आर्ट सटीकता और दक्षता प्राप्त करने हेतु ट्री-आधारित प्रॉक्सी मॉडल को रेसिडुअल करेक्शन और ट्री एन्सेम्बल्स के लिए बहुपद-समय (polynomial-time) सटीक गणना के साथ जोड़ता है, जो ProxySPEX और KernelSHAP-IQ जैसे मौजूदा एस्टिमेटर्स से काफी बेहतर प्रदर्शन करता है।

मूल लेखक: Santo M. A. R. Thies, Hubert Baniecki, R. Teal Witter, Eyke Hüllermeier, Maximilian Muschalik, Fabian Fumagalli

प्रकाशित 2026-05-22
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Santo M. A. R. Thies, Hubert Baniecki, R. Teal Witter, Eyke Hüllermeier, Maximilian Muschalik, Fabian Fumagalli

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक जटिल मशीन है, जैसे कि एक परिष्कृत AI जो यह तय करता है कि ऋण (loan) स्वीकृत किया जाना चाहिए या नहीं, या मौसम का पूर्वानुमान लगाता है। आप जानना चाहते हैं कि इसने एक विशिष्ट निर्णय क्यों लिया। क्या यह मुख्य रूप से आवेदक की आय पर निर्भर था? क्या यह क्रेडिट स्कोर था? या यह दोनों का एक अजीब संयोजन था?

AI की दुनिया में, हम इन निर्णयों को "योगदानों" (contributions) में तोड़ने के लिए गणित का उपयोग करते हैं। सबसे प्रसिद्ध तरीका शापली वैल्यूज (Shapley values) है (इसका नाम एक नोबेल पुरस्कार विजेता अर्थशास्त्री के नाम पर रखा गया है)। इसे एक टीम प्रोजेक्ट की तरह समझें: यदि टीम सफल होती है, तो प्रत्येक व्यक्ति को कितना श्रेय मिलना चाहिए?

लेकिन यहाँ एक समस्या है: आधुनिक AI मॉडल इतने जटिल होते हैं कि वे केवल एकल कारकों पर निर्भर नहीं होते। वे इंटरेक्शन (interactions - आपसी क्रियाओं) पर निर्भर होते हैं। शायद AI ऋण तभी स्वीकृत करता है जब आय अधिक हो और क्रेडिट स्कोर भी अधिक हो। यदि आप उन्हें अलग-अलग देखते हैं, तो वे कमजोर दिखते हैं। यदि आप उन्हें एक साथ देखते हैं, तो वे शक्तिशाली होते हैं।

इन "टीम-अप" इंटरेक्शन्स की गणना करना अविश्वसनीय रूप से कठिन है। यह एक स्पोर्ट्स टीम के हर संभावित संयोजन को गिनने की कोशिश करने जैसा है कि कौन जीतता है। एक छोटी टीम के लिए, यह आसान है। लेकिन 1,000 खिलाड़ियों वाली टीम के लिए (जो AI में आम है), संयोजनों की संख्या इतनी विशाल है कि सबसे तेज़ सुपरकंप्यूटर को भी सटीक गणना करने में ब्रह्मांड की आयु से भी अधिक समय लग जाएगा।

समस्या: गति बनाम सटीकता (Speed vs. Accuracy)

वैज्ञानिकों ने इसे हल करने के लिए दो मुख्य दृष्टिकोणों का प्रयास किया है, लेकिन दोनों में खामियां हैं:

  1. "अनुमान लगाने" की विधि (The "Guessing" Method): आप कुछ यादृच्छिक नमूने (random samples) लेते हैं और बाकी का अनुमान लगाते हैं। यह तेज़ है, लेकिन अक्सर गलत होता है। यह एक विशाल सूप के स्वाद का अनुमान लगाने के लिए केवल एक चम्मच चखने जैसा है।
  2. "सटीक" विधि (The "Exact" Method): आप सब कुछ पूरी तरह से सटीक रूप से गणना करने की कोशिश करते हैं। यह सटीक है, लेकिन यह इतना धीमा है कि बड़े समस्याओं के लिए बेकार है।

समाधान: प्रॉक्सी-शाप (ProxySHAP)

इस शोध पत्र के लेखक ProxySHAP नामक एक नई विधि पेश करते हैं। इसे एक चतुर दो-चरणीय जासूसी रणनीति के रूप में समझें जो दोनों दुनियाओं का सर्वश्रेष्ठ हिस्सा लेती है।

चरण 1: "स्केच आर्टिस्ट" (द प्रॉक्सी)

सबसे पहले, AI एक जटिल मशीन को देखता है और उसका एक सरलीकृत स्केच (simplified sketch) बनाता है। यह स्केच एक "प्रॉक्सी" मॉडल है।

  • उपमा: कल्पना कीजिए कि एक मास्टर शेफ (जटिल AI) है जो 100 सामग्रियों वाला स्टू (stew) बनाता है। उस विशाल बर्तन में मौजूद हर एक सामग्री को चखने के बजाय, शेफ जल्दी से एक छोटा, सरल सूप बनाता है जो उस बड़े स्टू जैसा ही स्वाद देता है।
  • चाल (The Trick): लेखक एक विशिष्ट प्रकार के स्केच (एक "ट्री-बेस्ड" मॉडल, जैसे कि फ्लोचार्ट) का उपयोग करते हैं जो विश्लेषण करने में आसान है। क्योंकि स्केच सरल है, वे उस विशाल स्टू पर असंभव गणित किए बिना तुरंत यह गणना कर सकते हैं कि सामग्रियां आपस में कैसे क्रिया करती हैं।

चरण 2: "सुधार" (द रेसिडुअल)

स्केच एकदम सटीक नहीं होता। यह करीब है, लेकिन इसमें कुछ सूक्ष्म विवरण छूट जाते हैं।

  • उपमा: छोटा सूप बड़े स्टू जैसा 95% स्वाद देता है, लेकिन शायद इसमें नमक की एक चुटकी या मसाले का एक संकेत कम है।
  • समाधान: इसके बाद विधि वास्तविक स्टू और स्केच के बीच के अंतर (जिसे "रेसिडुअल" कहा जाता है) को देखती है। यह उन छूटे हुए विवरणों का अनुमान लगाने के लिए एक स्मार्ट सैंपलिंग तकनीक का उपयोग करती है।
  • नवाचार: शोध पत्र दिखाता है कि बहुत जटिल इंटरेक्शन्स के लिए (जैसे कि 3 या 4 सामग्रियों का एक साथ काम करना), रैंडम सैंपलिंग के साथ स्केच को "ठीक" करने की कोशिश करना वास्तव में चीजों को बदतर बना सकता है (जैसे कि बहुत अधिक नमक डाल देना)। इसलिए, ProxySHAP स्मार्ट है कि वह जानता है कि कब सुधार लागू करना है और कब बस स्केच पर भरोसा करना है।

यह क्यों महत्वपूर्ण है

शोध पत्र का दावा है कि ProxySHAP तीन कारणों से नया "गोल्ड स्टैंडर्ड" है:

  1. यह तेज़ है: यह उचित समय में हजारों विशेषताओं (सामग्रियों) वाले AI मॉडल को संभाल सकता है।
  2. यह सटीक है: यह पिछले "अनुमान लगाने" वाले तरीकों की तुलना में बहुत अधिक सटीक है, विशेष रूप से तब जब आपके पास कंप्यूटर समय का बड़ा बजट न हो।
  3. यह बहुमुखी है: यह छवियों और टेक्स्ट (जैसे नदी में जिराफ को पहचानना) से लेकर वित्तीय जोखिमों की भविष्यवाणी करने वाले विभिन्न प्रकार के AI पर काम करता है।

निष्कर्ष (The Bottom Line)

इससे पहले, यदि आप समझना चाहते थे कि एक जटिल AI ने कई परस्पर क्रिया करने वाले कारकों के आधार पर निर्णय कैसे लिया, तो आपको या तो एक तेज़, लापरवाह उत्तर या एक धीमा, असंभव उत्तर चुनना पड़ता था। ProxySHAP आपको एक "स्केच और करेक्ट" रणनीति का उपयोग करके एक तेज़, अत्यधिक सटीक उत्तर देता है। यह एक ऐसे मास्टर शेफ की तरह है जो तुरंत आपको बता सकता है कि किस सामग्री ने व्यंजन को स्वादिष्ट बनाया, भले ही रेसिपी में हजारों चरण हों।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 📊 stat →