A Watermark for Vision-Language-Action and World Action Models
यह शोध पत्र एक "कीड लेटेंट-प्रोवेनेंस वेरिफिकेशन" (keyed latent-provenance verification) विधि प्रस्तावित करता है जो गॉसियन नॉइज़ सीड्स (Gaussian noise seeds) के माध्यम से विजन-लैंग्वेज-एक्शन और वर्ल्ड एक्शन मॉडल्स में अदृश्य, सांख्यिकीय रूप से समान वॉटरमार्क एम्बेड करता है, जिससे मालिकों को प्रतिकूल हमलों या वेट संशोधनों (weight modifications) के बाद भी मॉडल स्वामित्व को विश्वसनीय रूप से सत्यापित करने और चोरी का पता लगाने में सक्षम बनाया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक अत्यंत परिष्कृत, कस्टम-निर्मित रोबोट शेफ है। आपने वर्षों तक इसे अपने पारिवारिक गुप्त व्यंजनों और विशाल कंप्यूटिंग शक्ति के साथ प्रशिक्षित किया है। अब, आप इसके "मस्तिष्क" (वह सॉफ़्टवेयर जो रोबोट को बताता है कि कैसे हिलना है) को अन्य रेस्टोरेंट्स को एक सेवा के रूप में बेचना चाहते हैं। आप उन्हें वास्तविक कोड (वेट्स/weights) नहीं देना चाहते क्योंकि वे इसे चुरा सकते हैं, कॉपी कर सकते हैं, या आपके प्रतिस्पर्धियों को बेच सकते हैं। इसके बजाय, आप उन्हें एक "ब्लैक बॉक्स" इंटरफ़ेस के माध्यम से इसका उपयोग करने देते हैं: वे "सैंडविच बनाओ" जैसा कमांड भेजते हैं, और रोबोट उन्हें मोटर मूवमेंट की एक सूची वापस भेजता है।
समस्या यह है कि आप बाद में यह कैसे साबित करेंगे कि कोई विशिष्ट रेस्टोरेंट आपके ही रोबोट मस्तिष्क का उपयोग कर रहा है और न कि उनके द्वारा बनाए गए किसी सस्ते नकली संस्करण का?
यह पेपर रोबोट के मस्तिष्क को वॉटरमार्क (watermark) करने का एक नया तरीका पेश करता है। इसे एक छिपे हुए, अदृश्य निशान की तरह समझें जिसे केवल आप देख सकते हैं, लेकिन यह आपके रोबट के खाना बनाने के तरीके को नहीं बदलता है।
पुराने तरीकों के साथ समस्या
पिछले प्रयासों में दो मुख्य कमियां थीं:
- "बैकडोर" (Backdoor) विधि: यह कोड में एक गुप्त ट्रिगर छिपाने जैसा था (जैसे, यदि रोबोट एक विशिष्ट ध्वनि सुनता है, तो वह एक अजीब नृत्य करता है)। लेकिन यदि आपके पास कई अलग-अलग ग्राहक हैं, तो आपको प्रत्येक के लिए एक अलग गुप्त नृत्य की आवश्यकता होगी, जो बहुत अव्यवस्थित है। साथ ही, यदि ग्राहक बाद में कोड में बदलाव करता है, तो वह नृत्य काम करना बंद कर सकता है।
- "आउटपुट नॉइज़" (Output Noise) विधि: यह रोबोट की गतिविधियों में एक विशिष्ट गूँज या कंपन जोड़ने जैसा था जिसे केवल आप सुन सकते थे। लेकिन यह रोबोट पर एक चमकीले लाल रंग का "मैं चोरी हुआ हूँ" का साइन बोर्ड लगाने जैसा है। एक चतुर चोर बिना सैंडविच बनाना रोके, उस विशिष्ट गूँज को हटाने के लिए आसानी से एक फ़िल्टर का उपयोग कर सकता है।
नया समाधान: "सीक्रेट सीड" (Secret Seed)
लेखक एक विधि प्रस्तावित करते हैं जिसे कीड लेटेंट-प्रोवेनेंस वेरिफिकेशन (Keyed Latent-Provenance Verification) कहा जाता है। यहाँ इसकी उपमा दी गई है:
कल्पना कीजिए कि रोबोट का मस्तिष्क एक शेफ है जिसे यह तय करने की आवश्यकता है कि आगे क्या करना है। निर्णय लेने से पहले, शेफ थोड़ा रचनात्मकता या "नॉइज़" जोड़ने के लिए एक सिक्का उछालता है (या एक रैंडम नंबर चुनता है) है।
- चाल (The Trick): आप केवल एक सामान्य सिक्का नहीं उछालते। आप एक विशेष, भारित (weighted) सिक्का उछालते हैं जो देखने में बिल्कुल सामान्य सिक्के जैसा है, लेकिन इसमें एक सूक्ष्म, छिपा हुआ झुकाव (bias) है जिसे केवल आप जानते हैं।
- परिणाम: रोबोट अभी भी बेहतरीन सैंडविच बनाता है। गतिविधियाँ 100% सामान्य दिखती हैं। लेकिन क्योंकि "सिक्का उछालना" थोड़ा अलग था, इसलिए गतिविधियों का पूरा क्रम एक छिपे हुए फिंगरप्रिंट को वहन करता है, ठीक वैसे ही जैसे आटे में एक अद्वितीय पैटर्न होता है।
यह कैसे काम करता है (दो चरण)
1. इंजेक्शन (बीज बोना - The Injection)
जब आप रोबोट को तैनात करते हैं, तो आप सामान्य रैंडम नंबर जनरेटर को अपने "कीड" (keyed) संस्करण के साथ बदल देते हैं।
- उपमा: कल्पना कीजिए कि आप ब्रेड बना रहे हैं। आप एक विशेष आटे के मिश्रण का उपयोग करते हैं जो ग्राहक के लिए नियमित आटे जैसा दिखता है और स्वाद में भी वैसा ही है। लेकिन आप जानते हैं कि इस विशिष्ट मिश्रण से ब्रेड के अंदर एक सूक्ष्म, अद्वितीय क्रिस्टल संरचना रह जाती है।
- यह सुरक्षित क्यों है: क्योंकि रोबोट का आउटपुट (ब्रेड) अभी भी सामान्य दिखता है और स्वाद में भी सामान्य है, चोर इस वॉटरमार्क को आसानी से "फ़िल्टर" नहीं कर सकता है। यदि वे "क्रिस्टल" को हटाने के लिए गतिविधियों को सुचारू (smooth) करने की कोशिश करते हैं, तो वे सैंडविच बनाने की क्षमता को खराब कर सकते हैं।
2. सत्यापन (बीज खोजना - The Verification)
बाद में, आपको संदेह होता है कि कोई रेस्टोरेंट आपके रोबोट का उपयोग कर रहा है। आप उनके कंप्यूटर के अंदर नहीं देख सकते, लेकिन आप रोबोट को चलते हुए देख सकते हैं।
- चुनौती: आप केवल अंतिम गतिविधियाँ (ब्रेड) देखते हैं, आंतरिक रैंडम नंबर (आटा) नहीं।
- समाधान: आप पीछे की ओर काम करने के लिए एक शक्तिशाली गणितीय उपकरण (MAP Optimization) का उपयोग करते हैं। आप पूछते हैं: "यदि मैं अपने विशिष्ट गुप्त की (key) के साथ अपना रोबोट चलाता हूँ, तो क्या यह ठीक वही गतिविधियाँ उत्पन्न करेगा जो मैंने अभी देखीं?"
- परीक्षण: आप अपने गुप्त की (key) का देखे गए मूवमेंट के विरुद्ध परीक्षण करते हैं। यदि गणित कहता है, "हाँ, यह की (key) इन गतिविधियों को पूरी तरह से समझाती है," तो आपके पास स्वामित्व का प्रमाण है। यदि आप एक रैंडम की (key) का परीक्षण करते हैं, तो गणित कहता है, "नहीं, यह फिट नहीं बैठता।"
इस पेपर ने क्या पाया
लेखकों ने दो अलग-अलग प्रकार के रोबोट मस्तिष्क (एक जो छवियों को देखता है, एक जो भविष्य की भविष्यवाणी करता है) और दो अलग-अलग रोबोट निकायों (एक हाथ वाला, दो हाथों वाला) पर इनका परीक्षण किया।
- यह पूरी तरह से काम करता है: वे जटिल कार्यों को करते समय भी लगभग 100% बार अपनी "गुप्त आटे" को रोबोट की गतिविधियों में पहचान सके।
- यह रोबोट को खराब नहीं करता है: वॉटरमार्क जोड़ने से रोबोट ने सैंडविच गिराना या धीमा चलना शुरू नहीं किया।
- यह हटाना कठिन है:
- यदि चोर रोबोट की गतिविधियों को सुचारू (smooth) करने की कोशिश करता है (जैसे किसी गूँज को फ़िल्टर करना), तो वॉटरमार्क जीवित रहता है।
- यदि चोर रोबोट के कोड में बदलाव (fine-tuning) करने की कोशिश करता है, तो वॉटरमार्क जीवित रहता है।
- एकमात्र तरीका जिससे इसे हराया जा सकता है: चोर को आपके रोबोट मस्तिष्क को पूरी तरह से फेंक देना होगा, आपके डेटा का उपयोग करके एक नया रोबोट स्क्रैच से प्रशिक्षित करना होगा (जिसे "डिस्टिलेशन" कहा जाता है), और उम्मीद करनी होगी कि नया रोबोट गलती से उसी छिपे हुए पैटर्न को सीख ले। पेपर दिखाता है कि यह करना बहुत कठिन है; नया रोबोट आमतौर पर छिपे हुए पैटर्न को भूल जाता है क्योंकि यह एक दृश्य पैटर्न नहीं है, बल्कि एक सांख्यिकीय (statistical) पैटर्न है।
निचोड़ (The Bottom Line)
यह पेपर रोबोट मालिकों को एक "डिजिटल डीएनए" टेस्ट देता है। वे यह साबित कर सकते हैं कि रोबोट उनका है, केवल उसे चलते हुए देखकर, बिना उसके अंदर के कोड को देखे। यह ऐसा है जैसे आप केवल क्रस्ट को देखकर यह बता सकें कि आपकी ब्रेड आपकी है, भले ही बेकर ने यह छिपाने की कोशिश की हो कि उसने आपके विशेष आटे का उपयोग किया था।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।