🤖 machine learning

Incentivizing Truthfulness and Collaborative Fairness in Bayesian Learning

यह शोध पत्र एक नवीन तंत्र प्रस्तावित करता है जो बेयसियन लर्निंग (Bayesian learning) में सहयोगात्मक निष्पक्षता और सत्यनिष्ठा दोनों को प्रमाणित रूप से सुनिश्चित करने के लिए एक अज्ञात सत्यापन सेट पर आधारित एक सत्यनिष्ठ डेटा मूल्यांकन फलन के साथ सेमीवैल्यूज़ (semivalues) को जोड़ता है, जिससे डेटा हेरफेर को रोका जा सकता है और डेटा स्रोतों को निष्पक्ष रूप से पुरस्कृत किया जा सकता है।

मूल लेखक: Rachael Hwee Ling Sim, Jue Fan, Xiao Tian, Xinyi Xu, Patrick Jaillet, Bryan Kian Hsiang Low

प्रकाशित 2026-05-13

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Rachael Hwee Ling Sim, Jue Fan, Xiao Tian, Xinyi Xu, Patrick Jaillet, Bryan Kian Hsiang Low

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि पड़ोसियों का एक समूह एक बेहतरीन सामुदायिक उद्यान (community garden) बनाने की कोशिश कर रहा है। प्रत्येक पड़ोसी एक केंद्रीय योजनाकार (मध्यस्थ) के पास बीजों की एक टोकरी (डेटा) लेकर आता है। लक्ष्य इन सभी बीजों को आपस में मिलाकर सबसे अच्छी सब्जियां उगाना है (एक उच्च-गुणवत्ता वाले AI मॉडल को प्रशिक्षित करना)।

समस्या यह है: आपको अपने बीजों के लिए प्रत्येक पड़ोसी को उचित रूप से कैसे भुगतान किया जाए, जबकि यह भी सुनिश्चित किया जाए कि वे धोखाधड़ी करने की कोशिश न करें?

अतीत में, प्रणालियाँ लोगों को उनके द्वारा लाए गए बीजों की संख्या के आधार पर भुगतान करने का प्रयास करती थीं। लेकिन इसमें एक दोष था: एक पड़ोसी धोखाधड़ी कर सकता था, जैसे कि एक ही बीज की 100 थैलियाँ लाना, या केवल बहुत योगदान देने के दिखने के लिए मिट्टी से भरी थैलियाँ (शोर वाला डेटा/noisy data) लाना। उन्हें एक बड़ा इनाम मिलता, लेकिन इससे उद्यान खराब हो जाता।

यह शोध पत्र एक नया "गार्डन रूलबुक" (उद्यान नियम पुस्तिका) प्रस्तावित करता है जो एक साथ दो बड़ी समस्याओं को हल करता है:

निष्पक्षता (Fairness): आपको इस आधार पर भुगतान किया जाता है कि आपके बीजों ने वास्तव में पूरे उद्यान को बढ़ाने में कितनी मदद की, न कि इस आधार पर कि आप कितने बीज लाए।
सत्यनिष्ठा (Truthfulness): गणितीय रूप से इस बात की गारंटी है कि आपको अपने सबसे अच्छे, वास्तविक बीज लाने पर सबसे अधिक पैसा मिलेगा, न कि सिस्टम को धोखा देने की कोशिश करने पर।

उनका समाधान कैसे काम करता है, इसे सरल अवधारणाओं में नीचे समझाया गया है:

1. "गुप्त रेसिपी" (अज्ञात सत्यापन सेट - The Unknown Validation Set)

पड़ोसियों को धोखाधड़ी करने से रोकने के लिए, योजनाकार के पास एक गुप्त सामग्री होनी चाहिए जिसे कोई और नहीं जानता।

उपमा: कल्पना कीजिए कि योजनाकार के पास एक गुप्त "स्वाद परीक्षण" (Taste Test) पैनल है जिसे कोई भी पड़ोसी देख नहीं सकता।
यह कैसे काम करता है: योजनाकार इस गुप्त पैनल का उपयोग अंतिम उद्यान का स्वाद चखने के लिए करता है। यदि कोई पड़ोसी नकली बीज या डुप्लिकेट बीज लाने की कोशिश करता है, तो गुप्त पैनल पर उद्यान का स्वाद सही नहीं होगा, और उनका योगदान स्कोर गिर जाएगा।
परिणाम: चूंकि पड़ोसी गुप्त पैनल के बारे में नहीं जानते, इसलिए वे सिस्टम के साथ हेरफेर नहीं कर सकते। उच्च स्कोर सुनिश्चित करने का एकमात्र तरीका वही सबसे अच्छे और ईमानदार बीज लाना है जो वास्तव में उनके पास हैं।

2. "टीम स्कोर" (सेमीवैल्यूज़ - Semivalues)

एक बार जब योजनाकार को पता चल जाता है कि बीज कितने अच्छे हैं, तो उन्हें यह तय करना होता है कि किसे कितना पैसा दिया जाए।

उपमा: एक टीम स्पोर्ट्स की कल्पना करें। यदि आप ऐसी टीम में शामिल होते हैं जिसमें पहले से ही एक बेहतरीन गोलकीपर है, तो आपका मूल्य कम हो सकता है क्योंकि टीम पहले से ही मजबूत थी। लेकिन यदि आप बिना गोलकीपर वाली टीम में शामिल होते हैं, तो आपका मूल्य बहुत अधिक होता है।
यह कैसे काम करता है: शोध पत्र एक गणितीय अवधारणा "सेमीवैल्यूज़" (जैसे प्रसिद्ध शापली वैल्यू/Shapley Value) का उपयोग करता है। यह गणना करता है कि आपका इनाम न केवल आपके अपने बीजों पर, बल्कि पड़ोसियों के हर संभावित संयोजन में आपके द्वारा किए गए सुधार पर निर्भर करता है।
परिणाम: यदि आपके बीज दोहराए गए हैं (दूसरों के पास पहले से ही वे मौजूद हैं), तो आपको कम पैसा मिलेगा। यदि आपके बीज अद्वितीय और सहायक हैं, तो आपको अधिक मिलेगा। यह सहयोगात्मक निष्पक्षता (Collaborative Fairness) सुनिश्चित करता है।

3. "पूर्ण संतुलन" (नैश इक्विलिब्रियम - The Nash Equilibrium)

यह शोध पत्र एक बहुत ही दिलचस्प बात सिद्ध करता है: झूठ बोलना एक खराब रणनीति है।

उपमा: एक ऐसे खेल की कल्पना करें जहाँ हर कोई जीतने की कोशिश कर रहा है। लेखक सिद्ध करते हैं कि यदि बाकी सभी ईमानदारी से खेल रहे हैं, तो सबसे अधिक पैसा जीतने का आपके लिए एकमात्र तरीका भी ईमानदारी से खेलना है। यदि आप धोखाधड़ी करने की कोशिश करते हैं (शोर जोड़ने या फर्जी डेटा डालने के माध्यम से), तो आप औसतन वास्तव में कम पैसा कमाएंगे।
परिणाम: यह एक "सत्यनिष्ठ संतुलन" (Truthful Equilibrium) बनाता है। यह एक ऐसे खेल की तरह है जहाँ नियम इतने स्मार्ट हैं कि सभी के लिए सबसे अच्छा कदम ईमानदार रहना ही है।

क्या होगा यदि चीजें आदर्श नहीं हैं?

शोध पत्र यह भी पूछता है: "क्या होगा यदि योजनाकार के पास पैसे का बजट नहीं है?" या "क्या होगा यदि उनके पास गुप्त स्वाद परीक्षण पैनल नहीं है?"

सीमित बजट: यदि पैसे की कमी है, तो सिस्टम पुरस्कारों को कम कर सकता है, लेकिन सभी को ईमानदार बनाए रखना कठिन हो जाता है।
कोई गुप्त पैनल नहीं: यदि योजनाकार के पास गुप्त पैनल नहीं है, तो उन्हें एक चतुर वर्कअराउंड (जुगाड़) का उपयोग करना होगा जहाँ पड़ोसी एक-दूसरे के बीजों का मूल्यांकन करते हैं। शोध पत्र दिखाता है कि यह संभव है, लेकिन इसके लिए थोड़े अलग नियमों की आवश्यकता होती है ताकि कोई भी अपने पड़ोसी की पसंद के अनुसार बीज तैयार करके धोखाधड़ी न कर सके।

निष्कर्ष (The Bottom Line)

यह शोध पत्र डेटा साझाकरण के लिए एक गणितीय "ईमानदारी मशीन" बनाता है। यह एक गुप्त परीक्षण (धोखाधड़ी रोकने के लिए) को एक स्मार्ट टीम-स्कोर सिस्टम (निष्पक्षता सुनिश्चित करने के लिए) के साथ जोड़ता है।

उन्होंने कंप्यूटर सिमुलेशन (जैसे हृदय रोग या पावर प्लांट के आउटपुट की भविष्यवाणी करना) के साथ इसका परीक्षण किया और पाया कि जब नियम इस तरह से सेट किए जाते हैं, तो लोग स्वाभाविक रूप से अपना सबसे अच्छा, सच्चा डेटा साझा करना चुनते हैं क्योंकि यही उनके इनाम को अधिकतम करने का एकमात्र तरीका है। यह एक ऐसा सिस्टम है जहाँ ईमानदारी केवल एक अच्छी नीति ही नहीं है; बल्कि यह जीतने की रणनीति भी है।

तकनीकी सारांश: बेयसियन लर्निंग में सत्यनिष्ठा और सहयोगात्मक निष्पक्षता को प्रोत्साहित करना

समस्या विवरण

सहयोगात्मक मशीन लर्निंग (ML) कई स्रोतों से डेटासेट को एकत्रित करके उच्च गुणवत्ता वाले मॉडल प्रशिक्षित करने का लक्ष्य रखती है। जबकि मौजूदा डेटा मूल्यांकन विधियाँ (जैसे, शापली मानों पर आधारित) स्रोतों को उनके सीमांत योगदान के आधार पर पुरस्कृत करके सहयोगात्मक निष्पक्षता (F) सुनिश्चित करती हैं, वे आमतौर पर यह मानती हैं कि डेटा जैसा है वैसा ही प्रस्तुत किया गया है। यह एक भेद्यता पैदा करता है: स्रोत सत्यापन के बिना अपनी वैल्यूएशन और पुरस्कारों को कृत्रिम रूप से बढ़ाने के लिए अपने डेटा में हेरफेर कर सकते हैं। सामान्य असत्य रणनीतियों में शामिल हैं:

डुप्लीकेशन (Duplication): डेटासेट की मात्रा या सूचना लाभ बढ़ाने के लिए दोहराए गए डेटा बिंदुओं को प्रस्तुत करना।
नॉइज़ इंजेक्शन (Noise Injection): दूसरों के प्रदर्शन को कम करने के लिए शोर जोड़ना, जबकि संभावित रूप से विशिष्ट मेट्रिक्स में हेरफेर करना।
सबसेट सिलेक्शन (Subset Selection): एक ज्ञात वैलिडेशन सेट के साथ बेहतर तालमेल बिठाने के लिए डेटा को हटा देना।

मुख्य चुनौती एक ऐसा तंत्र डिजाइन करने की है जो साथ मिलकर (F) सहयोगात्मक निष्पक्षता (पुरस्कार दूसरों के योगदान पर निर्भर करते हैं और वास्तविक सीमांत मूल्य को दर्शाते हैं) और (T) सत्यनिष्ठा (स्रोत अपने वास्तविक ज्ञान, $\bar{D}_i$ , को प्रस्तुत करने के लिए प्रोत्साहित होते हैं, न कि हेरफेर किए गए डेटासेट $D_i$ को) को सुनिश्चित करती है। मौजूदा कार्य आम तौर पर इनमें से एक या दूसरे को प्राप्त करते हैं, लेकिन दोनों को साम्यावस्था (equilibrium) पर सिद्ध रूप से प्राप्त नहीं करते हैं।

कार्यप्रणाली

यह शोध पत्र एक बेयसियन मॉडल के लिए एक तंत्र प्रस्तावित करता है जो सेमीवैल्यूज (निष्पक्षता के लिए) को एक सत्यनिष्ठ डेटा वैल्यूएशन फंक्शन (DVF) के साथ जोड़ता है, जो एक होल्ड-आउट वैलिडेशन सेट पर आधारित है जो स्रोतों से अज्ञात है।

1. डेटा वैल्यूएशन फंक्शन (DVF)

सत्यनिष्ठा को प्रोत्साहित करने के लिए, DVF को ऐसी जानकारी पर निर्भर होना चाहिए जो स्रोतों के लिए अज्ञात हो। लेखक एक होल्ड-आउट वैलिडेशन सेट $T^*$ के लॉग-लाइक्लिहुड (log-likelihood) के रूप में एक समूह $C$ के डेटासेट $D_C$ के मूल्य को परिभाषित करते हैं:
$v(D_C) \triangleq \log p(T = T^* | D_C = D_C) - \log p(T = T^*)$
यह फलन मान्यता A1-A3 पर निर्भर करता है:

A1 (नो क्लोनिंग): स्रोत केवल एक डेटासेट प्रस्तुत करते हैं।
A2 (सहमति): सभी स्रोत बेयसियन मॉडल संरचना, प्रायर्स (priors), और डेटा एवं मापदंडों के बीच संबंध पर सहमत हैं।
A3 (वैलिडेशन सेट): स्रोत मानते हैं कि मध्यस्थ का वैलिडेशन सेट $T^*$ वास्तविक वितरण $p(T|\theta)$ से लिया गया है।

इन मान्यताओं के तहत, DVF पूर्णतः सत्यनिष्ठ (strictly truthful) है: एक स्रोत अपने वास्तविक डेटासेट $\bar{D}_i$ को प्रस्तुत करके अपने अपेक्षित मूल्यांकन को अधिकतम करता है, क्योंकि कोई भी विचलन कम अपेक्षित लॉग-लाइक्लिहुड की ओर ले जाता है (कुल्बैक-लीब्लर डाइवर्जेंस के माध्यम से सिद्ध)।

2. निष्पक्ष और सत्यनिष्ठ सेमीवैल्यूज

निष्पक्षता सुनिश्चित करने के लिए, प्रत्येक स्रोत के लिए पुरस्कार $r_i$ की गणना DVF $v$ द्वारा परिभाषित सहकारी खेल पर लागू सेमीवैल्यूज (शापली मान का एक सामान्यीकरण) का उपयोग करके की जाती है। सेमीवेल $\phi_i[\nu^v_D]$ सीमांत योगदानों का एक भारित योग है:
$\phi_i[\nu^v_D] \triangleq \sum_{C \subseteq N \setminus \{i\}} w_{|C|} [v(D_C \cup \{i\}) - v(D_C)]$
यह शोध पत्र सिद्ध करता है कि यदि अंतर्निहित DVF सत्यनिष्ठ है, तो परिणामी सेमीवेल भी साम्यावस्था पर सत्यनिष्ठ होता है। विशेष रूप से, यदि अन्य सभी स्रोत अपने वास्तविक डेटासेट प्रस्तुत करते हैं, तो स्रोत $i$ अपने $\bar{D}_i$ को प्रस्तुत करके अपने अपेक्षित सेमीवेल को अधिकतम करता है। यह एक सत्यनिष्ठ नैश इक्विलिब्रियम (Nash equilibrium) स्थापित करता है।

3. बाधाओं का प्रबंधन

यह शोध पत्र दो व्यावहारिक बाधाओं को संबोधित करता है:

सीमित बजट: जब पुरस्कारों को सीमित किया जाना हो ( $r_i \leq B$ ), तो तंत्र सेमीवेल को स्केल करता है। हालांकि, सख्त सत्यनिष्ठा केवल तभी गारंटीकृत होती है जब स्केलिंग फैक्टर को प्रस्तुतिकरण से पहले (उदाहरण के लिए, ऐतिहासिक डेटा के माध्यम से) निर्धारित किया जाए ताकि गैर-रेखीय निर्भरताओं से बचा जा सके जिनका स्रोत फायदा उठा सकते हैं।
कोई वैलिडेशन सेट नहीं: उन गोपनीयता-संवेदनशील परिदृश्यों में जहाँ एक मध्यस्थ वैलिडेशन सेट नहीं रख सकता, यह शोध पत्र एक "पियर-वैलिडेशन" (peer-validation) दृष्टिकोण प्रस्तावित करता है। प्रत्येक स्रोत के डेटा को एक ट्रेनिंग सेट और एक वैलिडेशन सेट में विभाजित किया जाता है। स्रोत $i$ के लिए पुरस्कार अन्य स्रोतों के वैलिडेशन सेटों का उपयोग करके गणना किए गए सेमीवैल का योग है ( $\tilde{r}_i = \sum_{j \neq i} \phi_i[\nu^{T_j}_D]$ )। यह $i$ के अपने वैलिडेशन सेट को बाहर करता है ताकि आत्म-हेरफेर को रोका जा सके, जिससे संशोधित निष्पक्षता शर्तों को पूरा करते हुए सत्यनिष्ठा बनी रहती है।

मुख्य योगदान

प्रथम सिद्ध रूप से समवर्ती तंत्र: यह शोध पत्र पहला ऐसा तंत्र प्रस्तुत करता है जो सैद्धांतिक रूप से बेयसियन मॉडलों के लिए सहयोगात्मक निष्पक्षता और साम्यावस्था पर सत्यनिष्ठा दोनों की गारंटी देता है।
सत्यनिष्ठा के लिए सैद्धांतिक ढांचा: यह पहचानता है कि हेरफेर को रोकने के लिए अज्ञात जानकारी (एक वैलिडेशन सेट) आवश्यक है और यह एक कठोर प्रमाण प्रदान करता है कि लॉग-लाइक्लिहुड आधारित DVF पर आधारित सेमीवैल सत्यनिष्ठा को बनाए रखते हैं, भले ही योगदान अन्य स्रोतों के डेटा पर निर्भर हों।
व्यावहारिक बाधाओं के लिए छूट: यह सीमित बजट और वैलिडेशन सेट की अनुपस्थिति के निहितार्थों का विश्लेषण करता है, और प्रोत्साहन बनाए रखने के लिए विशिष्ट संशोधनों (जैसे, स्वयं के वैलिडेशन को बाहर करना) का प्रस्ताव करता है।
अनुभवजन्य सत्यापन: इस तंत्र को सिंथेटिक और वास्तविक दुनिया के डेटासेट (Friedman, Heart Disease, Cycle Power Plant, Blood MNIST) पर विभिन्न बेयसिन मॉडल (Gaussian Processes, Bayesian Logistic Regression, Bayesian Neural Networks) के साथ कई स्रोतों के साथ सत्यापित किया गया है।

परिणाम

प्रयोगों से पता चलता है कि:

सत्यनिष्ठा: जब स्रोत अपने वास्तविक डेटासेट प्रस्तुत करते हैं, तो वे असत्य रणनीतियों (डुप्लीकेशन, नॉइज़ इंजेक्शन, सबसेट सिलेक्शन, या सिंथेटिक डेटा इंजेक्शन) की तुलना में लगातार उच्चतम डेटा मान और शापली मान प्राप्त करते हैं।
निष्पक्षता: सहयोगात्मक निष्पक्षता स्पष्ट है; जब एक स्रोत निम्न-गुणवत्ता वाला या असत्य डेटासेट प्रस्तुत करता है, तो अन्य सत्यनिष्ठ स्रोतों के शापली मान बढ़ जाते हैं, जो उनके बढ़ते सापेक्ष महत्व को दर्शाता है।
मजबूती (Robustness): सत्यनिष्ठा मामूली मॉडल मिसस्पेसिफिकेशन (जैसे, वैलिडेशन सेट में हल्का शोर या डेटा वितरण में मामूली विचलन) के तहत बनी रहती है। हालांकि, यदि वैलिडेशन सेट अत्यधिक शोर वाला है या मॉडल गंभीर रूप से गलत है, तो अनिश्चितता बढ़ाने के लिए नॉइज़ जोड़ने जैसी असत्य रणनीतियाँ कभी-कभी उच्च पुरस्कार दे सकती हैं।
स्केलेबिलिटी: यह तंत्र सेमीवैल के लिए अनबायस्ड एस्टिमेटर्स का उपयोग करके 20 स्रोतों के साथ प्रभावी ढंग से काम करता है, जो पुष्टि करता है कि सैद्धांतिक गारंटी के लिए अपेक्षा में सभी $2^n$ समूहों की सटीक गणना करना अनिवार्य नहीं है।

महत्व

यह शोध पत्र सहयोगात्मक मशीन लर्निंग में एक महत्वपूर्ण अंतर को पाटकर अपनी महत्ता का दावा करता है: निष्पक्षता और सत्यनिष्ठा के बीच का ट्रेड-ऑफ। पिछले कार्यों ने या तो सत्यनिष्ठा को प्रोत्साहित किए बिना निष्पक्षता सुनिश्चित की (हेरफेर की अनुमति देते हुए) या निष्पक्षता सुनिश्चित किए बिना सत्यनिष्ठा को प्रोत्साहित किया (जैसे, रेडंडेंसी को अनदेखा करने वाले पीयर प्रेडिक्शन तरीके)।

यह सिद्ध करके कि एक लॉग-लाइक्लिहुड आधारित DVF को सेमीवैल के साथ मिलाने से दोनों स्थितियों को संतुष्ट किया जा सकता है, लेखक सुरक्षित और निष्पक्ष डेटा सहयोग के लिए एक सैद्धांतिक आधार प्रदान करते हैं। यह कार्य इस बात पर जोर देता है कि हालांकि कुछ मान्यताएं (जैसे, एक विश्वसनीय मध्यस्थ और एक वैलिडेशन सेट) आवश्यक हैं, वे डेटा वैल्यूएशन साहित्य में उचित और मानक हैं। यह शोध पत्र स्वीकार करते हुए एक आधारभूत कदम के रूप में खुद को स्थापित करता है कि गैर-बेयसियन मॉडलों या पूरी तरह से विकेंद्रीकृत फेडरेटेड लर्निंग सेटिंग्स में इन गारंटियों को बढ़ाना भविष्य के अनुसंधान के लिए एक चुनौती है।