AgentMark: Utility-Preserving Behavioral Watermarking for Agents
एजेंटमार्क (AgentMark) एक व्यवहारिक वॉटरमार्किंग फ्रेमवर्क है जिसे वितरण-संरक्षण सशर्त नमूनाकरण (distribution-preserving conditional sampling) के माध्यम से उनके उच्च-स्तरीय नियोजन निर्णयों में मल्टी-बिट पहचानकर्ताओं को एम्बेड करके एलएलएम-आधारित एजेंटों की बौद्धिक संपदा की रक्षा करने के लिए डिज़ाइन किया गया है, जो एजेंट के आंतरिक भार (internal weights) तक सीधी पहुँच की आवश्यकता के बिना या कार्य उपयोगिता से समझौता किए बिना मजबूत उत्पत्ति सुनिश्चित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक अत्यंत उन्नत रोबोट बटलर (Robot Butler) है। यह बटलर अद्भुत है: यह आपका पूरा दिन प्लान कर सकता है, आपके किचन के उपकरणों का उपयोग कर सकता है, आपके कैलेंडर को मैनेज कर सकता है, और यहाँ तक कि आपके पड़ोसियों से बातचीत भी कर सकता है।
क्योंकि यह रोबोट बहुत सक्षम है, दो बड़ी समस्याएँ उत्पन्न होती हैं:
- "कॉपीकैट" (Copycat) की समस्या: क्या होगा यदि कोई कंपनी आपके महंगे रोबोट के "दिमाग" (उसकी तर्क करने और योजना बनाने की शैली) को चुरा ले और उसका एक सस्ता नकली संस्करण बेच दे?
- "दोष" (Blame) की समस्या: यदि रोबोट से गलती से कोई फूलदान टूट जाता है या वह कोई गलत सामाजिक निर्णय ले लेता है, तो हम यह कैसे साबित करेंगे कि उस सटीक क्षण पर सॉफ़्टवेयर का कौन सा विशिष्ट संस्करण चल रहा था?
वर्तमान तकनीक रोबोट द्वारा कहे गए शब्दों में वॉटरमार्क लगा सकती है (जैसे पत्र पर एक डिजिटल स्टैम्प), लेकिन यह रोबोट द्वारा लिए गए निर्णयों में वॉटरमार्क नहीं लगा सकती (जैसे कि उसके कमरे में चलने का विशिष्ट तरीका या पहले किस उपकरण को चुनने का निर्णय)।
AgentMark ही इसका समाधान है। यह दो सरल उपमाओं (analogies) का उपयोग करके कैसे काम करता है, यहाँ बताया गया है।
1. "गुप्त नृत्य" (यह कैसे काम करता है)
कल्पना कीजिए कि आप यह सिद्ध करना चाहते हैं कि एक विशिष्ट नृत्य दल (dance troupe) ने एक रूटीन परफॉर्म किया है, भले ही उन्होंने मास्क पहना हो। उनके कपड़े बदलकर (जो रोबोट के कोड को बदलने और उसे अनाड़ी बनाने जैसा होगा) आप यह साबित नहीं कर सकते। इसके बजाय, आप उन्हें एक गुप्त नृत्य कदम (Secret Dance Step) सिखाते हैं।
हर रूटीन में, कुछ ऐसे क्षण होते हैं जहाँ नर्तकों के पास एक विकल्प होता है: "क्या मुझे बाईं ओर घूमना चाहिए या दाईं ओर?"
सामान्यतः, वे शायद स्वाभाविक महसूस होने के आधार पर चुनाव करते। लेकिन AgentMark के साथ, वे एक नियम का पालन करते हैं: "एक ऐसा मूव चुनें जो स्वाभाविक लगे, लेकिन एक विशिष्ट पैटर्न को थोड़ा प्राथमिकता दें जो हमारे गुप्त ID को एनकोड करता हो।"
महत्वपूर्ण बात यह है कि वे ऐसा कुछ अजीब या झटकेदार नहीं करते जिससे नृत्य खराब हो जाए। वे लय में पूरी तरह बने रहते हैं (इसे ही शोधकर्ता "यूटिलिटी प्रिजर्वेशन" (Utility Preservation) कहते हैं)। एक बाहरी व्यक्ति के लिए, यह एक सामान्य नृत्य जैसा दिखता है। लेकिन उस जज के लिए जो गुप्त लय को जानता है, "बाएं" और "दाएं" के विशिष्ट अनुक्रम से उस दल की अनूठी ID प्रकट होती है।
2. "जिगसॉ पज़ल" (यह कैसे मजबूत रहता है)
वास्तविक दुनिया में, चीजें गलत हो जाती हैं। हो सकता है कि सुरक्षा कैमरे ने नृत्य के कुछ सेकंड मिस कर दिए हों, या नृत्य के नोट्स का एक पन्ना फट गया हो (यह "स्टेप इरेज़र" (Step Erasure) है)।
यदि आप एक साधारण कोड का उपयोग कर रहे होते, तो एक हिस्सा खोने से पूरा काम बिगड़ सकता था। लेकिन AgentMark एक गणितीय ट्रिक का उपयोग करता है जिसे RLNC कहा जाता है (इसे एक स्मार्ट जिगसॉ पज़ल की तरह समझें)।
एक सामान्य पज़ल में, यदि आप कोने का टुकड़ा खो देते हैं, तो आप चित्र पूरा नहीं कर सकते। लेकिन एक "स्मार्ट जिगसॉ" में, हर एक टुकड़े में हर दूसरे टुकड़े के बारे में थोड़ी जानकारी होती है। भले ही आपको केवल 70% टुकड़े मिलें, आप ओवरलैपिंग जानकारी का उपयोग करके पूरे चित्र को गणितीय रूप से पुनर्गठित (reconstruct) कर सकते हैं। इसका अर्थ यह है कि यदि रोबोट के लॉग्स अधूरे या अव्यवस्थित भी हैं, तो भी हम उसकी "ID" को पुनः प्राप्त कर सकते हैं।
सारांश: यह क्यों मायने रखता है?
- यह अदृश्य है: यह रोबोट को "मूर्ख" या धीमा नहीं बनाता। यह रोबोट की मौजूदा निर्णय लेने की प्रक्रिया के भीतर ही काम करता है।
- यह गहरा है: यह केवल शब्दों (क्या) को वॉटरमार्क नहीं करता; यह व्यवहार (कैसे) को वॉटरमार्क करता है।
- यह कठिन है: यह "शोर" (noise) से बच सकता है, जैसे कि गायब डेटा या स्थितियों का थोड़ा अलग तरीके से वर्णन करना।
संक्षेप में: AgentMark स्वायत्त AI एजेंटों को एक ऐसा "व्यवहार संबंधी DNA" देता है जिसे नकली बनाना लगभग असंभव है, ट्रैक करना आसान है, और जो उनके काम में बाधा नहीं डालता।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।