← नवीनतम पेपर
🤖 machine learning

Quotient Semivalues for False-Name-Resistant Data Attribution

यह शोधपत्र कोटिएंट सेमीवैल्यूज़ (quotient semivalues) तंत्र प्रस्तुत करता है, जो मशीन लर्निंग डेटा एट्रिब्यूशन में साक्ष्य-आधारित क्लस्टरों में डेटा योगदान को एकत्रित करता है ताकि फॉल्स-नेम-प्रूफनेस (false-name-proofness) प्राप्त की जा सके, जिससे योगदानकर्ताओं को पहचान विभाजन या दोहराव के माध्यम से अपने पुरस्कारों को कृत्रिम रूप से बढ़ाने से रोका जा सके और साथ ही अपूर्ण प्रोवेनेंस (imperfect provenance) के तहत हेरफेर लाभ और निष्पक्षता हानि पर सैद्धांतिक सीमाएँ प्रदान की जा सकें।

मूल लेखक: Florian A. D. Burnat, Brittany I. Davidson

प्रकाशित 2026-05-11
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Florian A. D. Burnat, Brittany I. Davidson

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ इस शोध पत्र का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।

बड़ी समस्या: डेटा मार्केट में "फर्जी आईडी" का घोटाला

कल्पना कीजिए कि एक बाज़ार है जहाँ लोग AI को प्रशिक्षित करने के लिए डेटा (जैसे फोटो या टेक्स्ट) बेचते हैं। AI कंपनी यह तय करना चाहती है कि विक्रेताओं को उनके डेटा के योगदान के आधार पर कितनी उचित राशि दी जाए। आमतौर पर, वे यह पता लगाने के लिए शापली वैल्यू (Shapley Value) नामक एक गणितीय सूत्र का उपयोग करते हैं कि किसे क्या मिलना चाहिए। यह सूत्र बहुत अच्छा है क्योंकि यह तब तक 'फेयर' (न्यायपूर्ण) है जब तक कि हर कोई नियमों का पालन करता है।

लेकिन यहाँ एक पेंच है: वास्तविक दुनिया में, विक्रेता निष्क्रिय नहीं होते। वे चतुर होते हैं और अधिक पैसा कमाना चाहते हैं।

एक विक्रेता गलत नामों (जिसे सिबिल अटैक भी कहा जाता है) का उपयोग करके धोखाधड़ी कर सकता है।

  • विभाजन (The Split): एक बड़ा डेटासेट एक ही नाम के तहत सबमिट करने के बजाय, एक विक्रेता उसे दस छोटे टुकड़ों में बाँट देता है और उन्हें दस अलग-अलग फर्जी नामों के तहत सबमिट करता है।
  • डुप्लीकेशन (The Duplicate): एक विक्रेता अपने सबसे अच्छे फोटो लेता है, उनकी दस कॉपियाँ बनाता है, और उन्हें दस अलग-अलग "नए" डेटासेट के रूप में सबमिट करता है।
  • परिणाम: क्योंकि गणितीय सूत्र हर नाम को एक अलग व्यक्ति मानता है, इसलिए विक्रेता को उसकी वास्तविक मेहनत से दस गुना अधिक भुगतान मिलता है, भले ही उसने केवल एक ही डेटासेट दिया हो। यह एक जादूगर की तरह है जो एक डॉलर के नोट को दस अलग-अलग नोटों में विभाजित करता है और बदले में दस डॉलर की मांग करता है।

पेपर कहता है: आप एक साथ एक पूरी तरह से निष्पक्ष प्रणाली (Shapley) और एक ऐसी प्रणाली नहीं रख सकते जो इस तरह की धोखाधड़ी को रोक सके। यदि आप स्क्रीन पर दिखने वाले नामों के प्रति पूरी तरह से निष्पक्ष होने की कोशिश करते हैं, तो धोखेबाज अमीर बनने के लिए गणित का फायदा उठा लेंगे।


समाधान: "क्वोटिएंट सेमीवैल्यू" (समूह बनाने की रणनीति)

लेखक भुगतान करने का एक नया तरीका प्रस्तावित करते हैं। स्क्रीन पर दिखने वाले "नामों" को देखने के बजाय, सिस्टम डेटा की सामग्री (Content) को देखता है और समान चीजों को एक साथ समूह में डालता है।

इसे व्यक्तिगत ग्राहकों की लाइन के बजाय एक पोटलक डिनर (Potluck Dinner) की तरह समझें।

  1. एविडेंस ग्राफ (जासूसी का काम):
    सिस्टम एक जासूस की तरह काम करता है। यह सबमिट किए गए हर डेटा के टुकड़े को देखता है। यदि इसे दो फोटो लगभग एक जैसे (या बिल्कुल समान प्रतियां) दिखते हैं, तो यह उनके बीच एक रेखा खींच देता है। यह काम वह टेक्स्ट, इमेज और अन्य डेटा के लिए भी करता है।

    • उदाहरण: एक क्लब के बाउंसर की कल्पना करें। यदि कोई फर्जी आईडी के साथ अंदर घुसने की कोशिश करता है, तो बाउंसर उसका चेहरा चेक करता है। यदि चेहरा पहले से मौजूद किसी व्यक्ति से मिलता है, तो उसे एक ही "ग्रुप" में डाल दिया जाता है।
  2. क्लस्टर्स (समूह):
    सिस्टम सभी जुड़े हुए डेटा को "क्लस्टर्स" में समूहित करता है।

    • यदि कोई धोखेबाज 10 अलग-अलग नामों के तहत एक ही फोटो की 10 कॉपियाँ जमा करता है, तो सिस्टम देख लेगा कि वे सभी एक ही हैं और उन सबको एक ही समूह में डाल देगा।
    • इसके बाद सिस्टम उस समूह का प्रतिनिधित्व करने के लिए एक "प्रतिनिधि" (Representative) चुनता है (जैसे कि सबसे स्पष्ट फोटो चुनना)।
  3. भुगतान (क्वोटिएंट सेमीवैल्यू):
    अब, गणित (शापली वैल्यू) का उपयोग फर्जी नामों पर नहीं, बल्कि समूहों (Groups) पर किया जाता है।

    • समूह को उसके योगदान के लिए एक बार भुगतान किया जाता है।
    • फिर, वह भुगतान उन लोगों के बीच विभाजित किया जाता है जिन्होंने उस समूह में डेटा सबमिट किया है।
    • महत्वपूर्ण नियम: यदि कोई धोखेबाज अपने डेटा को 10 फर्जी नामों में बांट देता है, लेकिन वे सभी 10 नाम एक ही समूह में आते हैं, तो सिस्टम यह सुनिश्चित करता है कि उन्हें केवल एक व्यक्ति का हिस्सा ही मिले। वे सिस्टम को धोखा देकर दस गुना भुगतान नहीं करा सकते।

यह कैसे काम करता है (जादुई नियम)

पेपर यह सिद्ध करता है कि यह प्रणाली दो मुख्य शर्तों के तहत काम करती है:

  1. "डबल-डिप्पिंग" (दोहरी कमाई) न करने का नियम: एक समूह के भीतर, सिस्टम को तटस्थ होना चाहिए। इससे कोई फर्क नहीं पड़ना चाहिए कि आपने अपना डेटा "बॉब" के रूप में जमा किया है या "बॉब-1" और "बॉब-2" के रूप में। समूह को मिलने वाला कुल पैसा वास्तविक अद्वितीय सामग्री के आधार पर विभाजित किया जाना चाहिए, न कि नामों की संख्या के आधार पर।
  2. "स्थिर समूह" (Stable Group) का नियम: सिस्टम को यह पहचानने में सक्षम होना चाहिए कि एक "नकली" प्रति वास्तव में "असली" के समान है। यदि सिस्टम भ्रमित हो जाता है और सोचता है कि एक नकली प्रति एक बिल्कुल नया व्यक्ति है, तो धोखेबाज जीत सकता है।

क्या होता है जब सिस्टम परफेक्ट नहीं होता?

लेखक स्वीकार करते हैं कि कभी-कभी "जासूस" (समानता जांच प्रणाली) गलतियाँ कर सकता है।

  • फॉल्स स्प्लिट्स (False Splits): सिस्टम सोचता है कि दो एक जैसी फोटो अलग-अलग हैं। (धोखेबाज थोड़ा अतिरिक्त लाभ ले जाता है)।
  • फॉल्स मर्ज (False Merges): सिस्टम सोचता है कि दो बिल्कुल अलग लोगों के फोटो एक ही हैं। (ईमानदार लोगों को कम भुगतान मिलता है)।

पेपर एक गणितीय "सुरक्षा जाल" प्रदान करता है। यह कहता है कि भले ही सिस्टम गलतियाँ करे, लेकिन एक धोखेबाज द्वारा चुराए जाने वाले पैसे की मात्रा सीमित और अनुमानित होती है। यह निम्नलिखित पर निर्भर करता है:

  • धोखेबाज ने कितनी "बची हुई" कॉपियों को छिपाने में सफलता पाई।
  • सिस्टम का गणित कितना गलत था।
  • सिस्टम की मेमोरी में डेटा पॉइंट्स एक-दूसरे से कितनी दूर थे।

वास्तविक दुनिया का परीक्षण (द जिम)

लेखकों ने इसका परीक्षण करने के लिए DataMarket-Gym नामक एक वीडियो गेम जैसा वातावरण बनाया।

  • उन्होंने AI मॉडल और डेटा विक्रेताओं के साथ एक नकली बाज़ार बनाया।
  • उन्होंने "धोखेबाजों" को डेटा को विभाजित करने और डुप्लिकेट करने की कोशिश करने दी।
  • परिणाम:
    • पुराना तरीका (स्टैंडर्ड शापली): धोखेबाज अपने भुगतान को 74% तक बढ़ा सकते थे (उन्हें हक से 1.74 गुना अधिक पैसा मिल रहा था)।
    • नया तरीका (क्वोटिएंट सेमीवैल्यू): धोखेबाज अपने भुगतान को केवल 1% तक बढ़ा सके (उन्हें 0.96x मिला, जो कि लगभग ईमानदार राशि के बराबर है)।

उन्होंने इसका परीक्षण वास्तविक छवियों (जैसे कुत्ते और बिल्ली) और वास्तविक टेक्स्ट (समाचार लेख) पर किया। यह दोनों मामलों में काम कर गया, हालांकि उन्होंने पाया कि "जासूस" की संवेदनशीलता (यह कि समानता जांच कितनी सख्त होनी चाहिए) इस बात पर निर्भर करती है कि आप चित्रों को देख रहे हैं या शब्दों को।

एक वाक्य में सारांश

यह पेपर AI डेटा के लिए एक नया भुगतान सिस्टम बनाता है जो फर्जी नामों का उपयोग करके और डेटा को कॉपी करके अमीर बनने की कोशिश करने वाले धोखेबाजों को रोकता है, क्योंकि यह समान डेटा को एक साथ समूह में रखता है और प्रत्येक फर्जी नाम को अलग से भुगतान करने के बजाय पूरे समूह को एक इकाई के रूप में भुगतान करता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →