तकनीकी सारांश: NASH - SHapley-informative घटकों का गैर-रेखीय एकत्रीकरण (Non-linear Aggregation of SHapley-informative components)

समस्या विवरण (Problem Statement)

डेटा चयन (Data selection) का लक्ष्य आकार संबंधी बाधाओं के तहत मॉडल उपयोगिता (जैसे, वैलिडेशन सटीकता $u_V$) को अनुकूलित करने के लिए प्रशिक्षण डेटा के उच्च-गुणवत्ता वाले उपसमुच्चयों (subsets) की पहचान करना है। हालाँकि 'डेटा शापली' (Data Shapley) और उसके सामान्यीकरण (semivalues) डेटा इंटरैक्शन को ध्यान में रखने के लिए सहयोगात्मक गेम थ्योरी पर सैद्धांतिक रूप से आधारित हैं, हाल के अनुभवजन्य अध्ययन संकेत देते हैं कि वे व्यवहार में अक्सर अप्रभावी होते हैं। विशेष रूप से, जटिल उपयोगिता कार्यों (जैसे वैलिडेशन सटीकता) के संबंध में गणना किए गए शापली मानों (Shapley values) के आधार पर शीर्ष-$m$ डेटा बिंदुओं का चयन करना ऐसे उपसमुच्चय प्रदान कर सकता है जो यादृच्छिक चयन (random selection) से बेहतर नहीं या उससे भी बदतर होते हैं।

यह पेपर इसके विफल होने के दो प्राथमिक कारणों की पहचान करता है:

1. शापली-सूचनात्मकता का अभाव (Lack of Shapley-informativeness): जटिल उपयोगिता कार्यों में कई अलग-अलग "भूमिकाएं" (roles) शामिल होती हैं (जैसे, वैलिडेशन सेट में विभिन्न वर्ग या उप-जनसंख्याएँ)। एक एकल शापली मान किसी डेटा के लिए इन भूमिकाओं में उसकी विशिष्ट शक्ति को पकड़ने में विफल रहता है। परिणामस्वरूप, अलग-अलग शक्ति वाले डेटा को समान शापली स्कोर प्राप्त हो सकते हैं, जिससे उनके भिन्न उपयोगिता योगदान के बावजूद उनके साथ एक जैसा व्यवहार किया जाता है।
2. अनुचित एकत्रीकरण (Inappropriate Aggregation): वास्तविक उद्देश्य (जैसे, वैलिडेशन सटीकता) इन भूमिकाओं में प्रदर्शन को गैर-रेखीय रूप से एकत्रित करता है। हालाँकि, मानक शीर्ष-$m$ ह्यूरिस्टिक (heuristic) एक रेखीय एकत्रीकरण (शापली मानों को जोड़ना) पर निर्भर करता है, जो उन सहक्रियात्मक इंटरैक्शन (synergistic interactions) को पकड़ने में विफल रहता है जहाँ एक डेटा का योगदान इस बात पर निर्भर करता है कि अन्य कौन से डेटा पहले से ही चुने जा चुके हैं (उदाहरण के लिए, एक डेटा अधिक मूल्यवान है यदि वह एक कम प्रतिनिधित्व वाली भूमिका को कवर करता है)।

कार्यप्रणाली: NASH फ्रेमवर्क (Methodology: NASH Framework)

लेखक NASH (Non-linear Aggregation of SHapley-informative components) प्रस्तावित करते हैं, जो एक ऐसा फ्रेमवर्क है जो जटिल उपयोगिता कार्य को सरल घटकों में विभाजित करता है जहाँ शापली मान प्रभावी होते हैं, और फिर उन्हें गैर-रेखीय रूप से एकत्रित करता है।

1. शापली-सूचनात्मकता और अपघटन (Shapley-Informativeness and Decomposition)

पेपर शापली-सूचनात्मकता को एक गुण के रूप में औपचारिक रूप देता है जहाँ एक उपसमुच्चय के लिए शापली मानों का योग उसके वास्तविक उपयोगिता का सूचक होता है। लेखक सिद्ध करते हैं कि मनमाने उपयोगिता कार्य आम तौर पर शापली-सूचनात्मक नहीं होते हैं। हालाँकि, वे प्रदर्शित करते हैं कि सरल उपयोगिता कार्य, विशेष रूप से एक एकल वैलिडेशन डेटा ($u_v$) पर भविष्यवाणी की शुद्धता, "कंसिस्टेंट प्लेयर" (Consistent Player) धारणा के तहत (जहाँ एक डेटा एक विशिष्ट वैलिडेशन बिंदु के लिए लगातार अच्छा या बुरा होता है) प्रमाणित रूप से शापली-सूचनात्मक हैं।

कुल वैलिडेशन सटीकता $u_V$ के लिए शापली मानों की गणना करने के बजाय, NASH इसे प्रत्येक वैलिडेशन डेटा $v \in V$ के लिए व्यक्तिगत घटकों $u_v$ में विभाजित करता है। इन घटकों के लिए शापली मानों $\phi_i(u_v)$ की गणना की जाती है। उल्लेखनीय रूप से, इन वेक्टर्स की गणना करने में $u_V$ के लिए शापली मान की गणना करने की तुलना में कोई अतिरिक्त रनटाइम लागत नहीं आती है, क्योंकि $u_V$ केवल $u_v$ का औसत है।

2. गैर-रेखीय एकत्रीकरण (Non-linear Aggregation)

इन सूचनात्मक घटकों से जटिल उद्देश्य को पुनर्गठित करने के लिए, NASH रेखीय योग (जो त्रुटिपूर्ण शीर्ष-$m$ शापली ह्यूरिस्टिक को पुनः प्राप्त करता है) से बचता है। इसके बजाय, यह एक गैर-रेखीय एकत्रीकरण उद्देश्य को अनुकूलित करता है:
$$\max_{M \subseteq N, |M|=m} \sum_{v \in V} F_T(\hat{u}_v(M))$$
जहाँ $\hat{u}_v(M) = \sum_{i \in M} \phi_i(u_v)$ घटक $v$ के लिए शापली मानों का योग है, और $F_T$ लर्निंग कर्व्स (जैसे, एक एक्सपोनेंशियल लॉ) से प्रेरित एक संचयी वितरण फलन (CDF) है। यह गैर-रेखीय फलन यह सुनिश्चित करता है कि चयन प्रक्रिया उन डेटा को प्राथमिकता देती है जो खराब तरीके से अनुमानित वैलिडेशन बिंदुओं (अनकवर्ड भूमिकाओं) के लिए "थ्रेशोल्ड पार करने" में मदद करते हैं, बजाय इसके कि पहले से अच्छी तरह से अनुमानित बिंदुओं पर उच्च स्कोर जमा किए जाएं।

3. अनुकूलन (Optimization)

NASH उद्देश्य को एक ग्रीडी एल्गोरिदम (greedy algorithm) का उपयोग करके अनुकूलित किया जाता है। लेखक दिखाते हैं कि जब शापली मान गैर-ऋणात्मक होते हैं, तो उद्देश्य 'मोनोटोन सबमॉड्यूलर' (monotone submodular) होता है, जो $(1 - 1/e)$ सन्निकटन (approximation) की गारंटी देता है। शोर वाले डेटा (negative values) के साथ भी, ग्रीडी एल्गोरिदम अनुभवजन्य रूप से अच्छा प्रदर्शन करता है क्योंकि हानिकारक डेटा (जो नॉन-सबमॉड्यूलरिटी का कारण बनते हैं) को स्वाभाविक रूप से कम प्राथमिकता दी जाती है। यह एल्गोरिदम न्यूनतम अतिरिक्त रनटाइम लागत पेश करता है, क्योंकि भारी काम (शापली सन्निकटन) मौजूदा विधियों के साथ साझा किया जाता है।

मुख्य योगदान (Key Contributions)

1. सैद्धांतिक विश्लेषण: पेपर शापली-सूचनात्मकता के गुण को औपचारिक रूप देता है, जो यह समझाता है कि क्यों जटिल ML उपयोगिता कार्य (जैसे वैलिडेशन सटीकता) इस शर्त को पूरा करने में विफल रहते हैं, जिससे डेटा शापली का असंगत प्रदर्शन होता है।
2. प्रमाणित सूचनात्मक घटक: लेखक पहचानते हैं और सिद्ध करते हैं कि एकल वैलिडेशन डेटा बिंदुओं पर भविष्यवाणी की शुद्धता, उचित धारणाओं के तहत, शापली-सूचनात्मक घटक के रूप में कार्य करती है।
3. NASH फ्रेमवर्क: एक नवीन डेटा चयन फ्रेमवर्क जो जटिल उद्देश्यों को शापली-सूचनात्मक घटकों में विभाजित करता है और उच्च-गुणवत्ता वाले उपसमुच्चयों को चुनने के लिए उन्हें गैर-रेखीय रूप से एकत्रित करता है।
4. अनुभवजन्य सत्यापन: लॉजिस्टिक रिग्रेशन, KNN और बड़े पैमाने पर लैंग्वेज मॉडल फाइन-ट्यूनिंग (BERT, Llama-2) जैसे मानक डेटासेट्स पर व्यापक प्रयोगों से पता चलता है कि NASH लगातार डेटा शापली, अन्य सेमीवैल्यूज (semivalues) और रैंडम चयन से बेहतर प्रदर्शन करता है।

परिणाम (Results)

• सामान्य डेटा चयन: बिना इंजेक्ट किए गए शोर (समरूप गुणवत्ता) वाले सेटिंग्स में, साधारण डेटा शापली अक्सर रैंडम से बेहतर प्रदर्शन नहीं करता है। NASH इन परिदृश्यों में प्रदर्शन को काफी बढ़ा देता है, विभिन्न चयन अनुपातों में बेसलाइन्स से लगातार बेहतर प्रदर्शन करता है।
• विषम-गुणवत्ता वाले डेटासेट (Heterogeneous-Quality Datasets): लेबल शोर वाले सेटिंग्स में, साधारण डेटा शापली में सुधार होता है (क्योंकि यह खराब डेटा को अलग कर सकता है), लेकिन NASH अभी भी लगातार इससे बेहतर प्रदर्शन करता है। यह सुझाव देता है कि NASH के लाभ (भूमिका इंटरैक्शन को संभालना) डेटा शापली की शोर को फ़िल्टर करने की क्षमता से अलग और पूरक हैं।
• अनुकूलता (Compatibility): NASH विभिन्न सेमीवैल्यूज (जैसे, बीटा शापली, डेटा बान्ज़ाफ) और कुशल सन्निकटन विधियों (जैसे, MC सैंपलिंग, FreeShap) के साथ संगत है, जो उनके चयन प्रदर्शन में निरंतर सुधार करता है।
• मजबूती (Robustness): विधि एकत्रीकरण फलन में हाइपरपैरामीटर $\lambda$ के चयन के प्रति मजबूत है और विभिन्न उपयोगिता कार्यों (जैसे, वैलिडेशन लॉस, MSE) के साथ प्रभावी ढंग से काम करती है।

महत्व (Significance)

पेपर दावा करता है कि NASH काफी हद तक उस प्रतिबंध को समाप्त कर देता है कि डेटा शापली/सेमीवैल्यूज केवल सीमित डेटासेट्स या विशिष्ट सेटिंग्स (जैसे, इंजेक्ट किए गए शोर वाले परिवेश) के लिए प्रभावी हैं। डेटा चयन को लगातार विश्वसनीय और विविध डेटासेट्स एवं मॉडल स्केल के बीच मजबूत बनाकर, NASH सिद्धांतों पर आधारित डेटा मूल्यांकन विधियों के व्यापक उपयोग को सक्षम बनाता है। यह प्रगति फाउंडेशन मॉडल्स के लिए सन्निकटन दक्षता और डेटा चयन में सुधार करने के लिए भविष्य के अनुसंधान का समर्थन करती है, जिससे यह सुनिश्चित होता है कि शापली मानों के सैद्धांतिक लाभ (गैर-मायोपिक इंटरैक्शन और इक्विटी) वास्तव में साकार हों।