PromptMark: A Prompt-Guided Iterative-Feedback Framework for Source Code Watermarking
प्रॉमप्टमार्क (PromptMark) एक ब्लैक-बॉक्स, प्रॉमप्ट-गाइडेड फ्रेमवर्क है जो संरचित इनपुट निर्देशों और पुनरावृत्ति फीडबैक के माध्यम से एआई-जनरेटेड सोर्स कोड में पता लगाने योग्य वॉटरमार्क को एम्बेड करता है, जिससे मॉडल के आंतरिक भाग तक पहुंच या कोड की कार्यक्षमता से समझौता किए बिना मजबूत एट्रिब्यूशन प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बेकर हैं जिसने एक बहुत ही प्रतिभाशाली, लेकिन अदृश्य, रोबोट शेफ को काम पर रखा है जो हर दिन हज़ारों ब्रेड के लोफ (loaves) बनाता है। आप यह जानना चाहते हैं कि कौन सा ब्रेड आपके रोबोट ने बनाया है और कौन सा आपके एक मानव प्रतिस्पर्धी ने, लेकिन रोबोट कोई हस्ताक्षर नहीं छोड़ता और ब्रेड बाहर से बिल्कुल एक जैसा दिखता है।
यही वह समस्या है जिसे PromptMark हल करता है, लेकिन ब्रेड के बजाय, यह आर्टिफिशियल इंटेलिजेंस (AI) द्वारा लिखे गए कंप्यूटर कोड के बारे में है।
यहाँ शोध पत्र (paper) समाधान को सरल अवधारणाओं में तोड़कर समझाता है:
1. समस्या: "ब्लैक बॉक्स" शेफ
वास्तविक दुनिया में, अधिकांश डेवलपर्स उन AI मॉडल्स के मालिक नहीं होते जिनका वे उपयोग करते हैं; वे उन्हें एक "ब्लैक बॉक्स" सेवा के माध्यम से किराए पर लेते हैं (जैसे एक रेस्तरां जहाँ आप रसोई नहीं देख सकते)।
- चुनौती: आप रोबोट के दिमाग में झाँककर यह नहीं देख सकते कि वह कैसे सोचता है (इसे "व्हाइट-बॉक्स" एक्सेस कहा जाता है)। आप केवल उसे एक रेसिपी (प्रॉम्ट) दे सकते हैं और डिश (कोड) का इंतज़ार कर सकते हैं।
- जोखिम: यदि AI ऐसा कोड लिखता है जो टूट जाता है या क्रेडिट चुरा लेता है, तो यह साबित करना कठिन होता है कि इसे AI ने लिखा था। साथ भी, यदि आप AI को किसी अजीब तरीके से कोड लिखने के लिए मजबूर करने की कोशिश करते हैं ताकि उसे मार्क किया जा सके, तो कोड काम करना बंद कर सकता है (जैसे एक रोबोट हथौड़े से ब्रेड बनाने की कोशिश कर रहा हो)।
2. समाधान: "ग्रीन लिस्ट" रेसिपी
शोधकर्ताओं ने एक विधि बनाई जिसे PromptMark कहा जाता है। रोबोट के दिमाग को हैक करने के बजाय, वे बस उन निर्देशों को बदलते हैं जो वे उसे देते हैं।
इसे ऐसे समझें जैसे रोबोट शेफ को एक विशेष नियम देना: "हर नए सामग्री के नाम के लिए जो तुम आविष्कार करोगे, तुम्हें उस नाम को एक विशिष्ट 'ग्रीन लिस्ट' (जैसे A, B, या C) के अक्षर से शुरू करना होगा।"
- ग्रीन लिस्ट: यह अक्षरों की एक गुप्त सूची (जैसे A, B, C) है जिसे एक गुप्त कुंजी (secret key) के आधार पर चुना गया है।
- रेड लिस्ट: ये वे अक्षर हैं जिनसे रोबोट को नाम शुरू करने से बचने के लिए कहा जाता है।
- ट्रिक: रोबोट इन नियमों का इतनी अच्छी तरह पालन करता है कि वह अपने वेरिएबल्स (जैसे
apple_countयाbanana_loop) के नाम स्वाभाविक रूप से एक इंसान की तुलना में 'ग्रीन लेटर्स' से बहुत अधिक बार रखने लगता है।
3. "इटरेटिव फीडबैक" लूप: स्वाद परीक्षण
कभी-कभी, रोबोट नियम भूल सकता है या कोड काम करना बंद कर सकता है क्योंकि वह नियम का पालन करने में बहुत अधिक कोशिश कर रहा है। इसे ठीक करने के लिए, PromptMark एक फीडबैक लूप का उपयोग करता है:
- राउंड 1: रोबोट कोड लिखता है।
- चेक: एक इंसान (या दूसरा कंप्यूटर) दो चीजें जाँचता है:
- क्या कोड वास्तव में काम करता है? (क्या ब्रेड फूल गया?)
- क्या रोबोट ने "ग्रीन लिस्ट" नियम का पर्याप्त पालन किया? (क्या A, B, C नामों की संख्या पर्याप्त है?)
- फीडबैक: यदि कोड टूटा हुआ है, तो रोबोट को बताया जाता है, "लॉजिक को ठीक करो।" यदि कोड काम करता है लेकिन ग्रीन लिस्ट नियम कमजोर है, तो उसे बताया जाता है, "बहुत अच्छा, लेकिन अगली बार अधिक 'A' नामों का उपयोग करें।"
- राउंड 2: रोबोट नए निर्देशों के साथ फिर से प्रयास करता है।
यह तब तक चलता रहता है जब तक कि कोड एकदम सही न हो जाए और वॉटरमार्क मजबूत न हो जाए।
4. डिटेक्शन: "सांख्यिकीय जासूस" (Statistical Detective)
आप कैसे जानेंगे कि कोड AI द्वारा बनाया गया था? आपको गुप्त कुंजी देखने की आवश्यकता नहीं है। आपको बस नामों को देखना है।
- प्राकृतिक कोड: इंसान चीजों के नाम रैंडम तरीके से रखते हैं। यदि आप 100 वेरिएबल्स को देखते हैं, तो शायद 10 'A' से शुरू होते हैं, 10 'B' से, आदि। यह एक संतुलित मिश्रण है।
- वॉटरमार्क वाला कोड: क्योंकि AI को "ग्रीन लिस्ट" का उपयोग करने के लिए मजबूर किया गया था, इसलिए आप एक अजीब पैटर्न देखेंगे। शायद 60% नाम 'A', 'B', या 'C' से शुरू होते हैं।
- टेस्ट: एक सांख्यिकीय परीक्षण (एक गणितीय डिटेक्टर की तरह) इन अक्षरों को गिनता है। यदि पैटर्न संयोग से कहीं अधिक मजबूत है, तो यह चिल्लाता है, "यह AI द्वारा लिखा गया था!"
5. यह विशेष क्यों है?
शोध पत्र का दावा है कि यह विधि तीन कारणों से विशेष है:
- यह अदृश्य है: कोड अभी भी सामान्य दिखता है और पूरी तरह से काम करता है। "वॉटरमार्क" केवल नामों में एक सूक्ष्म पैटर्न है, जैसे किसी गाने के बोलों में छिपा संदेश जिसे आप तभी नोटिस कर सकते हैं जब आप पैटर्न को जानते हों।
- यह ब्लैक बॉक्स पर काम करता है: आपको AI का स्वामित्व लेने या उसके आंतरिक कोड को देखने की आवश्यकता नहीं है। आप बस एक सामान्य उपयोगकर्ता की तरह उससे बात करते हैं।
- यह सुरक्षित है: "ग्रीन लिस्ट" एक गुप्त कुंजी (जैसे पासवर्ड) का उपयोग करके जेनरेट की जाती है। केवल वही व्यक्ति जानता है कि किन अक्षरों को देखना है जिसके पास वह कुंजी है, जिससे दूसरों के लिए वॉटरमार्क की नकल करना कठिन हो जाता है।
परिणाम
शोधकर्ताओं ने दो प्रसिद्ध कोडिंग समस्याओं (MBPP और HumanEval) पर दो अलग-अलग AI मॉडल्स (Gemini और Claude) का उपयोग करके इसका परीक्षण किया।
- सफलता दर: इस विधि ने कोड को बिना तोड़े लगभग 90% से 98% बार सफलतापूर्वक मार्क किया।
- गुणवत्ता: वॉटरमार्क के बिना लिखे गए कोड की तुलना में कोड का स्तर समान रहा।
सीमाएं (जो शोध पत्र स्वीकार करता है)
- रीनेमिंग अटैक (Renaming Attacks): यदि कोई वॉटरमार्क वाले कोड को लेता है और मैन्युअल रूप से सभी वेरिएबल के नामों को बदलकर कुछ और कर देता है, तो वॉटरमार्क गायब हो जाता है। शोध पत्र नोट करता है कि हालांकि यह विधि अच्छी है, लेकिन यह जादुई नहीं है; एक दृढ़ निश्चयी इंसान कोड को फिर से लिखकर सिग्नल को मिटा सकता है।
- भाषा विशिष्ट: यह अध्ययन Python कोड पर किया गया था। शोध पत्र चेतावनी देता है कि अलग-अलग नामकरण नियमों वाली भाषाएं अलग तरह से व्यवहार कर सकती हैं।
संक्षेप में, PromptMark एक तरीका है जिससे आप AI शेफ को एक गुप्त निर्देश फुसफुसाते हैं: "अपने सामग्रियों के नाम इन विशिष्ट अक्षरों के साथ रखो," जिससे आप बाद में गणित के साथ यह साबित कर सकते हैं कि डिश AI ने बनाई थी, और वह भी बिना भोजन का स्वाद बिगाड़े।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।