Model Stealing Through the Lens of Model Multiplicity
यह शोध पत्र इस धारणा को चुनौती देता है कि उच्च-निष्ठा (high-fidelity) वाले मॉडल स्टीलिंग हमले आर्थिक रूप से समान सरोगेट्स उत्पन्न करते हैं, यह प्रदर्शित करते हुए कि निकट-इष्टतम निष्कर्षित मॉडलों का रशोमोन सेट (Rashomon Set) लक्ष्य के समान सटीकता प्राप्त करने के बावजूद निष्पक्षता और मजबूती जैसे महत्वपूर्ण परिनियोजन गुणों में महत्वपूर्ण विविधता प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक गुप्त, पुरस्कार विजेता रेसिपी बनाने के लिए एक मास्टर शेफ को काम पर रखा है। एक प्रतिद्वंद्वी शेफ उस रेसिपी को चुराना चाहता है, लेकिन उसे सामग्री या खाना पकाने के चरणों को देखने की अनुमति नहीं है। इसके बजाय, उसे केवल मास्टर शेफ से व्यंजन ऑर्डर करने, उन्हें चखने और उनके परिणाम लिखने की अनुमति है।
उन स्वाद परीक्षणों के आधार पर, प्रतिद्वंद्वी शेफ उस व्यंजन को फिर से बनाने की कोशिश करता है।
सोचने का पुराना तरीका:
लंबे समय तक, विशेषज्ञों का मानना था कि यदि प्रतिद्वंद्वी शेफ का व्यंजन मूल व्यंजन जैसा 99% स्वाद देता है, तो उन्होंने सफलतापूर्वक रेसिपी चुरा ली है। उन्होंने माना कि उनके पास मूल का एक सटीक क्लोन है। यदि स्वाद मेल खाते थे, तो "बौद्धिक संपदा" (intellectual property) जा चुकी थी।
इस पेपर का नया दृष्टिकोण:
यह पेपर तर्क देता है कि "एक जैसा स्वाद आना" का मतलब "एक ही तरह से खाना बनाना" नहीं है।
लेखक सुझाव देते हैं कि मूल के लगभग समान स्वाद वाला व्यंजन बनाने का केवल एक तरीका नहीं है। ऐसी व्यंजनों की एक पूरी फैमिली (परिवार) (जिसे वे "राशोमोन सेट" कहते हैं) मौजूद है जो मूल के लगभग समान स्वाद वाले व्यंजन बनाती है, लेकिन वे पूरी तरह से अलग सामग्रियों, खाना पकाने के समय या तकनीकों का उपयोग करती हैं।
यहाँ वे इसे सरल उपमाओं का उपयोग करके समझाते हैं:
1. "रोम जाने के कई रास्ते" वाली समस्या
कल्पना कीजिए कि आप 1 से 100 के बीच एक गुप्त संख्या का अनुमान लगाने की कोशिश कर रहे हैं।
- मास्टर शेफ (टारगेट मॉडल): जानता है कि संख्या 42 है।
- चोर (एडवर्सरी): पूछता है, "क्या यह 40 से अधिक है?" मास्टर कहता है "हाँ।" "क्या यह 50 से कम है?" मास्टर कहता है "हाँ।"
- चोर का अनुमान: इसके आधार पर, चोर 42 का अनुमान लगाता है। वह सही है! उसने उत्तर चुरा लिया।
लेकिन क्या होगा अगर चोर ने 45 का अनुमान लगाया होता? या 48 का?
यदि मास्टर का नियम वास्तव में "41 और 49 के बीच कोई भी संख्या चुनें" था, तो 42, 45 और 48 सभी समान रूप से सही उत्तर हैं। वे सभी "स्वाद परीक्षण" (क्वेरीज़) को संतुष्ट करते हैं।
पेपर दिखाता है कि मशीन लर्निंग में, जब एक चोर एक मॉडल चुराता है, तो वे अक्सर इन "45" या "48" जैसे अनुमानों तक पहुँच जाते हैं। यह मूल के समान स्वाद देता है (उच्च fidelity), लेकिन यदि आप बाद में थोड़ा अलग सवाल पूछते हैं, या यदि आप विशिष्ट लोगों को देखते हैं, तो चोर का मॉडल मूल से पूरी तरह से अलग उत्तर दे सकता है।
2. "परछाईं के खेल" (Shadow Puppet) वाली उपमा
मूल मॉडल को एक जटिल हाथ की मुद्रा के रूप में सोचें जो दीवार पर पक्षी की परछाईं बना रहा है।
चोर केवल परछाईं (आउटपुट) देखता है। वे उसी पक्षी की परछाईं बनाने के लिए एक अलग हाथ बनाने की कोशिश करते हैं।
- चोर का हाथ: वे एक अलग उंगली की व्यवस्था, एक अलग कलाई का कोण, या एक अलग हाथ का आकार उपयोग कर सकते हैं।
- परिणाम: दीवार पर दिखने वाली परछाईं बिल्कुल एक पक्षी जैसी दिखती है।
- पकड़: यदि रोशनी थोड़ी हिल जाए, या यदि आप हाथ को एक अलग परछाईं बनाने के लिए कहें (जो चोर ने पहले नहीं देखी थी), तो चोर का हाथ एक खरगोश या कुत्ता बना सकता है, जबकि मूल हाथ अभी भी एक पक्षी ही बनाएगा।
पेपर ने पाया कि भले ही "परछाईं" (भविष्यवाणी) एकदम सही दिखती हो, लेकिन "हाथ" (आंतरिक तर्क) अक्सर बहुत अलग होता है।
3. "ग्रुप फेयरनेस" (समूह निष्पक्षता) का मोड़
पेपर ने यह भी देखा कि ये "अलग हाथ" लोगों के विभिन्न समूहों के साथ कैसा व्यवहार करते हैं।
कल्पना कीजिए कि मास्टर शेफ की रेसिपी निष्पक्ष है: यह सभी को उदार मात्रा में हिस्सा देती है।
चोर की रेसिपी औसतन समान स्वाद देती है। लेकिन क्योंकि उन्होंने एक अलग विधि का उपयोग किया है, वे अनजाने में एक समूह को बहुत बड़ा हिस्सा और दूसरे समूह को बहुत छोटा हिस्सा दे सकते हैं, भले ही भोजन की कुल मात्रा समान हो।
अध्ययन में पाया गया कि जबकि चोरी किए गए मॉडल कागज़ पर एकदम सटीक नकल लग रहे थे, वे अक्सर लोगों के विभिन्न समूहों (जैसे विभिन्न नस्लों या लिंगों) के साथ मूल मॉडल की तुलना में बहुत अलग व्यवहार करते थे। उन्होंने उन त्रुटियों को हानिकारक तरीकों से पुनर्वितरित किया जो मूल मॉडल ने नहीं किए थे।
उन्होंने वास्तव में क्या किया?
शोधकर्ताओं ने केवल एक मॉडल नहीं चुराया। उन्होंने एक मॉडल चुराया, और फिर एक ट्रिक (जिसे "ड्रॉपआउट" कहा जाता है, जो मॉडल के मस्तिष्क को बेतरतीब ढंग से हिलाने जैसा है) का उपयोग करके उस चोरी किए गए मॉडल के हजारों थोड़े अलग संस्करण तैयार किए।
उन्होंने पाया कि:
- उनमें से सभी मूल के लगभग समान स्वाद देते थे (उच्च fidelity)।
- लेकिन, जब उन्होंने बारीकी से देखा, तो उनमें से कई विशिष्ट विवरणों पर एक-दूसरे से असहमत थे।
- कुछ मॉडल उन तरीकों से "अनुचित" थे जो मूल मॉडल नहीं था।
निचोड़ (The Bottom Line)
पेपर निष्कर्ष निकालता है कि मॉडल चुराना एक सटीक प्रतिलिपि बनाने जितना सरल नहीं है।
सिर्फ इसलिए कि एक चोरी किया गया मॉडल 95% बार सही उत्तर देता है, इसका मतलब यह नहीं है कि वह मूल मॉडल है। यह एक "दिखने वाला जैसा" (look-alike) हो सकता है जो लैब में तो अच्छा काम करता है लेकिन वास्तविक दुनिया में विफल हो जाता है या अनुचित व्यवहार करता है।
इसलिए, यदि कोई कंपनी कहती है, "हमने उनका मॉडल चुरा लिया क्योंकि हमारी सटीकता (accuracy) वही है," तो यह पेपर कहता है: "इतना भी जल्दी नहीं। आपने पूरी तरह से एक अलग रेसिपी चुराई हो सकती है, और वह खतरनाक हो सकती है।"
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।