COPYCOP: Ownership Verification for Graph Neural Networks
यह शोध पत्र कॉपीकॉप (CopyCop) को प्रस्तुत करता है, जो एक सुदृढ़ एल्गोरिदम है जिसमें सैद्धांतिक गारंटी है कि यह ग्राफ न्यूरल नेटवर्क के स्वामित्व को सत्यापित करने के लिए यह पता लगाता है कि क्या दो अलग-अलग आर्किटेक्चर, भार (weights), या एम्बेडिंग आयामों वाले मॉडल स्वतंत्र रूप से प्रशिक्षित किए गए थे या उनमें से एक एक प्रतिकूल नकलची (adversarial copycat) है, जो 14 डेटासेट में मौजूदा वॉटरमार्किंग और फिंगरप्रिंटिंग विधियों से बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक मास्टर शेफ हैं जिसने एक गुप्त, सिग्नेचर सॉस विकसित की है। आप यह सॉस रेस्टोरेंट्स को एक सेवा के रूप में बेचते हैं: वे आपको सामग्रियों की एक सूची (एक ग्राफ) भेजते हैं, और आप उन्हें एक अनूक सा फ्लेवर प्रोफाइल (एक एम्बेडिंग) वापस भेजते हैं जिसका उपयोग वे अपने स्वयं के व्यंजन बनाने के लिए कर सकते हैं।
समस्या क्या है? एक चालाक प्रतिस्पर्धी आपकी रेसिपी चुराने की कोशिश कर सकता है। उन्हें आपके किचन में घुसने की जरूरत नहीं है; उन्हें बस आपके सॉस के हज़ार नमूने मंगवाने हैं, उन्हें चखना है, और फिर अपनी खुद की ऐसी वर्ज़न बनाने की कोशिश करनी है जो बिल्कुल वैसा ही स्वाद देती हो। उन्हें पकड़ना और भी कठिन बनाने के लिए, वे सॉस का रंग बदल सकते हैं, उसे एक अलग कटोरे में परोस सकते हैं, या इसे थोड़ा पतला (डाइल्यूट) कर सकते हैं, इस उम्मीद में कि आपको पता नहीं चलेगा कि यह एक नकल है।
यही वह समस्या है जिसे COPYCOP हल करता है। यह एक नया "फोरेंसिक टूल" है जिसे इन नकलची शेफों (या तकनीकी दुनिया में, "सरोगेट" AI मॉडल) को पकड़ने के लिए डिज़ाइन किया गया है, भले ही वे अपनी चोरी को छिपाने के लिए उसे कितना भी बदलने की कोशिश करें।
यह कैसे काम करता है, यहाँ सरल अवधारणाओं में दिया गया है:
1. पुराने तरीके काम नहीं आए
पहले, लोग चोरों को पकड़ने के लिए दो तरीकों का उपयोग करते थे, जिनमें दोनों की खामियां थीं:
- "वॉटरमार्क" विधि: शेफ गुप्त रूप से सॉस में एक छोटा, अदृश्य चमकता हुआ कण (ग्लिटर) मिला देता है। यदि प्रतिस्पर्धी के सॉस में वह चमकता कण मिलता है, तो वे पकड़े जाते हैं।
- खामी: चोर बस सॉस मंगवा सकता है, उसे चख सकता है, और उस चमकते कण के बिना भी वही स्वाद दोबारा बना सकता है। वे उस गुप्त कण को पूरी तरह से अनदेखा कर देते हैं।
- "फिंगरप्रिंट" विधि: शेफ पीड़ित के सॉस की बनावट (टेक्सचर) की तुलना संदिग्ध के सॉस से करता है।
- खामी: यदि चोर सॉस को एक अलग आकार के कटोरे में डाल देता है या तापमान बदल देता है, तो बनावट अलग दिखती है, भले ही स्वाद वही हो। पुराने उपकरण असली बदलाव और नकली दिखावे के बीच अंतर नहीं कर सके।
2. COPYCOP समाधान: "स्थिर बिंदुओं" (Still Points) को खोजना
COPYCOP एक बिल्कुल अलग दृष्टिकोण अपनाता है। यह केवल सॉस (आउटपुट) को देखने के बजाय, इस बात पर ध्यान देता है कि जब आप सॉस को उकसाते या छूते (poke करते) हैं, तो वह कैसे प्रतिक्रिया देता है।
कल्पना कीजिए कि आपके पास आटे का एक गोला (AI मॉडल) है। यदि आप इसे एक दिशा में धीरे से दबाते हैं, तो यह पिचक सकता है और अपना आकार बदल सकता है। लेकिन, आटे पर कुछ विशिष्ट स्थान ऐसे होते हैं जहाँ, यदि आप उन्हें दबाते हैं, तो कुछ भी नहीं होता। आटा हिलता तक नहीं है। इन्हें "स्टेशनरी पॉइंट्स" (Stationary Points) कहा जाता है।
- जादुई अंतर्दृष्टि: पेपर यह सिद्ध करता है कि ये "स्थिर बिंदु" रेसिपी के DNA की तरह हैं। भले ही चोर कटोरा बदल दे, तापमान बदल दे, या सॉस का रंग बदल दे (परिवर्तन), इन "स्थिर बिंदुओं" का स्थान बिल्कुल वही रहता है।
- परीक्षण:
- COPYCOP पीड़ित शेफ (मूल मॉडल) से अपने आटे में इन "स्थिर बिंदुओं" को खोजने के लिए कहता है।
- इसके बाद यह संदिग्ध शेफ (जिस मॉडल की जांच की जा रही है) से अपने आटे में "स्थिर बिंदुओं" को खोजने के लिए कहता है।
- फैसला: यदि संदिग्ध के "स्थिर बिंदु" पीड़ित के साथ पूरी तरह मेल खाते हैं, तो संदिग्ध एक नकलची है। यदि बिंदु अलग जगहों पर हैं, तो संदिग्ध संभवतः एक स्वतंत्र शेफ है जिसने गलती से समान स्वाद वाला सॉस बनाया है।
3. यह चोरों को पकड़ने में इतना अच्छा क्यों है
पेपर का दावा है कि COPYCOP अविश्वसनीय रूप से मजबूत है क्योंकि:
- यह दिखावे को अनदेखा करता है: चाहे चोर सॉस को घुमाए (रोटेट करे), उसका स्केल बढ़ा दे, या कटोरे के आयाम बदल दे, "स्थिर बिंदु" अपनी जगह पर बने रहते हैं।
- इसे किचन देखने की जरूरत नहीं है: आपको चोर की गुप्त रेसिपी (वेट्स या आर्किटेक्चर) देखने की आवश्यकता नहीं है। आपको केवल उनके बर्तन से जो बाहर आता है, उसे देखने की आवश्यकता है।
- यह छिपाने के बावजूद काम करता है: चोर इन बिंदुओं को आसानी से नकली नहीं बना सकता। उन्हें इन बिंदुओं को बनाने के लिए हर संभावित "पोक" (छूने) के प्रति पीड़ित की प्रतिक्रिया की सटीक नकल करनी होगी, जो गणितीय रूप से असंभव है जब तक कि उन्होंने वास्तव में रेसिपी चोरी न की हो।
4. परिणाम
शोधकर्ताओं ने इस "फोरेंसिक टूल" का परीक्षण 14 अलग-अलग प्रकार के डेटा (जैसे सोशल नेटवर्क, अणु और वित्तीय रिकॉर्ड) और 5 अलग-अलग प्रकार के AI मॉडल पर किया।
- सटीकता: इसने नकलचरों को लगभग 100% समय सही ढंग से पहचाना, तब भी जब चोरों ने अपने मॉडल को घुमाने, स्केल करने या विकृत करने की कोशिश की।
- तुलना: इसने पुराने "वॉटरमार्क" तरीकों को बुरी तरह हराया, जो तब विफल हो गए जब चोर ने बस गुप्त चमक (ग्लिटर) को अनदेखा कर दिया। इसने पुराने "फिंगरप्रिंट" तरीकों को भी मात दी, जो रोटेशन जैसे साधारण बदलावों से भ्रमित हो जाते थे।
सारांश
COPYCOP को एक ऐसे जासूस के रूप में सोचें जो संदिग्ध के कपड़ों (जिन्हें बदला जा सकता है) या उसकी आवाज़ (जिसे बदला जा सकता है) को नहीं देखता। इसके बजाय, जासूस संदिग्ध को फर्श पर एक विशिष्ट, अदृश्य स्थान पर खड़े होने के लिए कहता है। यदि वे मूल मालिक के ठीक उसी अदृश्य स्थान पर खड़े होते हैं, चाहे वे कैसे भी कपड़े पहने हों, तो वे नकल करने के दोषी हैं। यदि वे कहीं और खड़े होते हैं, तो वे निर्दोष हैं।
यह तरीका AI मॉडल के मालिकों को अपनी स्वामित्व सिद्ध करने और चोरों को पकड़ने की अनुमति देता है, भले ही वे चोर उनके चोरी किए गए काम को पूरी तरह से छिपाने की कोशिश करें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।