🤖 AI

A Unified Framework for LLM Watermarks

यह शोधपत्र एक एकीकृत, सिद्धांत आधारित ढांचा प्रस्तावित करता है जो 'कन्स्ट्रेंड ऑप्टिमाइज़ेशन' (constrained optimization) पर आधारित है, जो अधिकांश मौजूदा एलएलएम (LLM) वॉटरमार्किंग योजनाओं को व्युत्पन्न करता है, एक महत्वपूर्ण गुणवत्ता-विविधता-शक्ति (quality-diversity-power) ट्रेड-ऑफ को प्रकट करता है, और विशिष्ट आवश्यकताओं के अनुरूप नवीन, इष्टतम वॉटरमार्किंग विधियों के डिज़ाइन को सक्षम बनाता है।

मूल लेखक: Thibaud Gloaguen, Robin Staab, Nikola Jovanović, Martin Vechev

प्रकाशित 2026-02-09

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Thibaud Gloaguen, Robin Staab, Nikola Jovanović, Martin Vechev

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बेकर हैं जो स्वादिष्ट ब्रेड बनाते हैं (AI टेक्स्ट)। आप यह साबित करना चाहते हैं कि एक विशिष्ट लोफ (loaf) आपकी ओवन से आया है न कि किसी प्रतिद्वंद्वी के, लेकिन आप उस पर अपना लोगो नहीं लगा सकते क्योंकि इससे स्वाद बिगड़ जाएगा। इसके बजाय, आप गुप्त रूप से आटे में एक छोटा सा, अदृश्य "फ्लेवर नोट" (स्वाद का संकेत) डालने का निर्णय लेते हैं। यदि कोई ब्रेड का स्वाद लेता है, तो उसे वह स्वाद वहां महसूस नहीं होगा, लेकिन यदि उसके पास एक विशेष "टेस्ट टेस्ट किट" है, तो वह उस विशिष्ट नोट को पहचान सकता है और जान सकता कि, "हाँ, यह निश्चित रूप से मेरी ब्रेड है।"

यह पेपर इन अदृश्य फ्लेवर नोट्स (वॉटरमार्क्स) के लिए एक यूनिवर्सल रेसिपी बुक बनाने के बारे में है।

यहाँ सरल उपमाओं (analogies) का उपयोग करके इस पेपर के विचारों का विवरण दिया गया है:

1. समस्या: बहुत सारी अलग-अलग रेसिपीज़

इस पेपर से पहले, शोधकर्ता ऐसे शेफ की तरह थे जो शून्य से अपने स्वयं के गुप्त फ्लेवर नोट्स आविष्कार करने की कोशिश कर रहे थे।

शेफ A ने आटे में चुटकी भर नमक मिलाया।
शेफ B ने गूंथने की गति बदल दी।
शेफ C ने एक विशेष यीस्ट (yeast) का उपयोग किया।

वे सभी काम कर रहे थे, लेकिन वे सभी अलग थे। यह तुलना करना कठिन था कि कौन सा "सबसे अच्छा" है बिना हर एक लोफ को चखे। यह समझाने के लिए कोई एकल नियम पुस्तिका नहीं थी कि वे क्यों काम करते हैं या नया डिज़ाइन कैसे करें।

2. समाधान: "मास्टर रेसिपी" (एकीकृत ढांचा/Unified Framework)

इस पेपर के लेखकों ने महसूस किया कि ये सभी अलग-अलग तरीके वास्तव में एक ही गणितीय समस्या के विभिन्न संस्करण हैं। उन्होंने एक यूनिफाइड फ्रेमवर्क बनाया, जो एक मास्टर रेसिपी बुक की तरह है।

नया तरीका खोजने के बजाय, अब आपको बस दो प्रश्नों का उत्तर देना है:

हम फ्लेवर नोट को कितना मजबूत रखना चाहते हैं? (यह "पावर" है या इसे पकड़ना कितना आसान है)।
हम मूल स्वाद को कितना बिगाड़ सकते हैं? (यह "क्वालिटी" है या टेक्स्ट अभी भी कितना स्वाभाविक लगता है)।

पेपर कहता है: "यदि आप हमें अपनी सीमा बताते हैं कि स्वाद कितना बदल सकता है, तो हमारा गणित आपको उस सीमा तक पहुँचने के लिए फ्लेवर नोट जोड़ने का परफेक्ट तरीका देगा।"

3. तीन-तरफा खींचतान (Three-Way Tug-of-War)

पेपर इन वॉटरमार्क्स के बारे में एक मौलिक नियम की खोज करता है, जिसे वे क्वालिटी-डाइवर्सिटी-पावर ट्रेड-ऑफ कहते हैं। इसे एक तीन-तरफा खींचतान की तरह समझें:

पावर (Power): गुप्त संकेत कितना तेज/स्पष्ट है।
क्वालिटी (Quality): टेक्स्ट कितना अच्छा लगता है (क्या यह अभी भी समझ में आता है?)।
डाइवर्सिटी (Diversity): AI अपने उत्तरों में कितनी विविधता लाता है।

पकड़ (The Catch): आप सब कुछ हासिल नहीं कर सकते।

यदि आप सिग्नल को बहुत तेज (High Power) बनाते हैं ताकि उसे पकड़ना आसान हो, तो आपको AI को विशिष्ट शब्द चुनने के लिए मजबूर करना पड़ सकता है, जिससे टेक्स्ट रोबोटिक या दोहराव वाला (Low Diversity) हो जाता है।
यदि आप चाहते हैं कि टेक्स्ट पूरी तरह से प्राकृतिक (High Quality) लगे, तो सिग्नल बहुत सूक्ष्म होना चाहिए, जिससे उसे पकड़ना कठिन हो जाता है।
यदि आप चाहते हैं कि AI अत्यधिक रचनात्मक (High Diversity) हो, तो सिग्नल शोर में खो सकता है।

पेपर दिखाता है कि कुछ मौजूदा तरीके टेक्स्ट को प्राकृतिक रखने पर ध्यान केंद्रित करते हैं लेकिन विविधता खो देते हैं (AI एक ही चीज़ बार-बार कहने में फंस जाता है), जबकि अन्य सिग्नल को मजबूत रखते हैं लेकिन टेक्स्ट को थोड़ा अजीब बना देते हैं।

4. उन्होंने वास्तव में क्या किया

लेखकों ने केवल सिद्धांत की बात नहीं की; उन्होंने लैब में अपने "मास्टर रेसिपी" का परीक्षण किया:

पुराने तरीकों को रिवर्स-इंजीनियर किया: उन्होंने दिखाया कि प्रसिद्ध मौजूदा वॉटरमार्क्स (जैसे "रेड-ग्रीन" विधि या "सिंथ आईडी") उनके गणितीय प्रश्न के विशिष्ट उत्तर हैं। यह ऐसा है जैसे यह महसूस करना कि शेफ A का नमक वाला तरीका और शेफ B का गूंथने वाला तरीका वास्तव में एक ही समीकरण को हल कर रहे हैं।
नए तरीके बनाए: अपने फ्रेमवर्क का उपयोग करते हुए, उन्होंने "परप्लेक्सिटी" (गणितीय तरीका जिसका अर्थ है "टेक्स्ट कितना आश्चर्यजनक या स्वाभाविक महसूस होता है") को संरक्षित करने के लिए विशेष रूप से ट्यून किए गए नए वॉटरमार्क्स डिज़ाइन किए।
परिणाम: उनके नए तरीके पुराने तरीकों से बेहतर काम करते हैं। जब उन्होंने एक सीमा निर्धारित की कि टेक्स्ट कितना बदल सकता है, तो उनके तरीके ने उस सीमा के भीतर सबसे मजबूत संभव सिग्नल प्राप्त किया।

5. "हार्ड" बनाम "सॉफ्ट" बाधा (Hard vs. Soft Constraint)

पेपर स्वाद को नियंत्रित करने के दो तरीकों के बीच अंतर भी करता है:

हार्ड कंस्ट्रेंट (Hard Constraint): "ब्रेड का हर एक निवाला बिल्कुल मूल जैसा ही स्वाद वाला होना चाहिए।" यह टेक्स्ट को बहुत स्वाभाविक रखता है लेकिन AI को बहुत अनुमानित (predictable) होने के लिए मजबूर करता है (कम विविधता)।
सॉफ्ट कंस्ट्रेंट (Soft Constraint): "पूरे लोफ का औसत स्वाद मूल के करीब होना चाहिए।" यह कुछ निवालों को थोड़ा अलग स्वाद देने की अनुमति देता है, जिससे AI अधिक रचनात्मक और विविध हो सकता है, जबकि समग्र स्वाद अच्छा बना रहता है।

सारांश

यह पेपर AI वॉटरमार्किंग के लिए एक यूनिवर्सल मैप प्रदान करता है। यह हमें बताता है कि सभी वर्तमान तरीके एक ही पहाड़ पर अलग-अलग रास्ते हैं। यह साबित करता है कि एक वॉटरमार्क कितना अच्छा हो सकता है, इसकी एक सख्त सीमा है बिना टेक्स्ट को नुकसान पहुँचाए, और यह हमें किसी भी विशिष्ट लक्ष्य के लिए (जैसे, "मैं चाहता हूँ कि टेक्स्ट परफेक्ट लगे" या "मैं चाहता हूँ कि सिग्नल अटूट हो") सबसे अच्छा संभव वॉटरमार्क बनाने के उपकरण देता है।

महत्वपूर्ण नोट: पेपर पूरी तरह से इन वॉटरमार्क्स को बनाने के गणित और मैकेनिक्स पर केंद्रित है। यह चर्चा नहीं करता है कि सरकारों या अदालतों को इनका उपयोग कैसे करना चाहिए, न ही यह दावा करता है कि ये वॉटरमार्क्स सभी AI दुरुपयोग को रोकने के लिए पूर्ण हैं। यह केवल यह कहता है, "गणित के नियमों के आधार पर सिग्नल बनाने का सबसे अच्छा तरीका यहाँ है।"

तकनीकी सारांश: LLM वॉटरमार्किंग के लिए एक एकीकृत ढांचा (A Unified Framework for LLM Watermarks)

समस्या विवरण (Problem Statement)

लार्ज लैंग्वेज मॉडल (LLM) वॉटरमार्क्स को उत्पन्न टेक्स्ट में पता लगाने योग्य संकेत डालने के लिए डिज़ाइन किया गया है ताकि AI के मूल स्रोत का पता लगाया जा सके। जबकि कई वॉटरमार्किंग एल्गोरिदम (जैसे, Red-Green, AAR/KTH, SynthID) प्रस्तावित किए गए हैं, वे आमतौर पर एक 'बॉटम-अप' दृष्टिकोण का उपयोग करके विकसित किए जाते हैं जिनमें अलग-अलग डिज़ाइन और प्रेरणाएँ होती हैं। परिणामस्वरूप, LLM वॉटरमार्किंग के लिए कोई सामान्य, सिद्धांत आधारित सूत्र (principled formulation) उपलब्ध नहीं है। इस एकीकृत सिद्धांत के अभाव के कारण मौजूदा योजनाओं की मौलिक स्तर पर तुलना करना, उन्हें एक-दूसरे से जोड़ना, या व्यवस्थित तरीके से नई विधियों को डिज़ाइन करना कठिन हो जाता है। इसके अलावा, वॉटरमार्क की गुणवत्ता, आउटपुट विविधता (output diversity), और डिटेक्शन पावर के बीच के ट्रेड-ऑफ का भी पर्याप्त अध्ययन नहीं किया गया है।

कार्यप्रणाली (Methodology)

लेखक एक एकीकृत ढांचा प्रस्तावित करते हैं जो LLM वॉटरमार्किंग को एक प्रतिबंधित अनुकूलन समस्या (constrained optimization problem) के रूप में सूत्रित करता है। मुख्य उद्देश्य डाले गए वॉटरमार्क सिग्नल की पता लगाने की क्षमता (detectability) को अधिकतम करना है, जबकि उत्पन्न टेक्स्ट की गुणवत्ता पर इसके प्रभाव को सीमित करना है।

अनुकूलन सूत्र (The Optimization Formulation)

एक अगले-टोकन संभाव्यता वितरण $p$ और छद्म यादृच्छिक स्कोर $g$ (जो एक हैशिंग तंत्र के माध्यम से वितरण $G$ से लिए गए हैं) को देखते हुए, लक्ष्य एक वॉटरमार्क्ड वितरण $q(g)$ खोजना है जो अपेक्षित स्कोर को अधिकतम करे:
$\max_{q: G \to \Delta(\Sigma)} \mathbb{E}_G[G \cdot q(G)]$

वॉటర్‌मार्क को मूल टेक्स्ट की गुणवत्ता को विकृत करने से रोकने के लिए, एक बाधा $D$ पेश की जाती है:
$\text{s.t. } \forall g \in G, \quad D(q(g), \mathbb{E}_G[q(G)], p) \leq \varepsilon$

ढांचा दो प्रकार के प्रतिबंधों (constraints) के बीच अंतर करता है:

हार्ड कंस्ट्रेंट्स (Hard Constraints): स्कोर $g$ के प्रत्येक विशिष्ट वास्तविक रूप (realization) के लिए विरूपण (distortion) को नियंत्रित किया जाता है (जैसे, $KL(q(g) || p) \leq \varepsilon$ )।
सॉफ्ट कंस्ट्रेंट्स (Soft Constraints): स्कोर वितरण पर केवल अपेक्षा (expectation) के रूप में विरूपण को नियंत्रित किया जाता है (जैसे, $KL(\mathbb{E}_G[q(G)] || p) \leq \varepsilon$ )।

लेखक एक दंडित (penalized) सूत्र पर भी चर्चा करते हैं जहाँ बाधा को लैग्रेंज मल्टीप्लायर $\delta$ के साथ ऑब्जेक्टिव फंक्शन में स्थानांतरित कर दिया जाता है, जो कार्यान्वयन के लिए अक्सर अधिक व्यावहारिक होता है।

योजनाओं का व्युत्पत्ति और विस्तार (Deriving and Extending Schemes)

यह ढांचा प्रदर्शित करता है कि अधिकांश मौजूदा वॉटरमार्किंग योजनाएं इस अनुकूलन समस्या के विशिष्ट उदाहरण हैं, जो विशिष्ट बाधा मेट्रिक्स $D$ और स्कोर वितरण $G$ के चयन पर आधारित हैं:

Red-Green वॉटरमार्क्स: हार्ड $KL$ डाइवर्जेंस बाधा के समाधान के रूप में व्युत्पन्न।
AAR/KTH वॉटरमार्क्स: Gumbel स्कोर का उपयोग करके एक सॉफ्ट $KL $बाधा (विकृति-मुक्त) के समाधान के रूप में व्युत्पन्न। ढांचा इसे$ \varepsilon > 0$ की अनुमति देकर एक विकृत (distortionary) संस्करण तक विस्तारित करता है।
SynthID: $m$ श्रृंखलाबद्ध अनुकूलन समस्याओं के अनुक्रम के रूप में देखा गया है, जिनमें से प्रत्येक पिछले स्तर के वितरण के सापेक्ष $\chi^2$ दूरी बाधा को हल करती है।
$\chi^2$ वॉटरमार्क: $\chi^2$ दूरी बाधा का उपयोग करते हुए SynthID के सिंगल-लेयर टूर्नामेंट का एक सामान्यीकरण।

नवीन योजनाएं (Novel Schemes)

इस ढांचे का उपयोग करते हुए, लेखक विशिष्ट गुणवत्ता मेट्रिक्स के लिए तैयार की गई नई योजनाएं डिज़ाइन करते हैं, विशेष रूप से गुणवत्ता के प्रॉक्सी के रूप में परप्लेक्सिटी (Perplexity - PPL) का उपयोग करते हुए:

हार्ड PPL कंस्ट्रेंट: अपेक्षित लॉग-लाइक्लीहुड अंतर पर हार्ड बाधा के अधीन डिटेक्शन पावर को अनुकूलित करता है।
सॉफ्ट PPL कंस्ट्रेंट: अपेक्षित लॉग-लाइक्लीहुड अंतर पर सॉफ्ट बाधा के अधीन डिटेक्शन पावर को अनुकूलित करता है।

मुख्य योगदान (Key Contributions)

एकीकृत सूत्र (Unified Formulation): यह पेपर LLM वॉटरमार्किंग को एक सामान्य प्रतिबंधित अनुकूलन समस्या के रूप में सूत्रित करता है, यह दिखाते हुए कि विविध पूर्व कार्य (Red-Green, AAR/KTH, SynthID) इस समस्या के समाधान हैं।
सिद्धांत आधारित डिज़ाइन (Principled Design): यह ढांचा किसी भी दिए गए बाधा के लिए इष्टतम वॉटरमार्किंग योजनाओं को प्राप्त करने का एक तरीका प्रदान करता है, जिससे विशिष्ट उद्देश्यों (जैसे PPL-आधारित योजनाएं) के लिए नई योजनाएं बनाना संभव होता है।
गुणवत्ता-विविधता-शक्ति ट्रेड-ऑफ (Quality-Diversity-Power Trade-off): यह कार्य गुणवत्ता, आउटपुट विविधता और डिटेक्शन पावर के बीच एक मौलिक ट्रेड-ऑफ की पहचान और पुष्टि करता है। विशेष रूप से, यह बताता है कि सॉफ्ट-कंस्ट्रेंट वॉटरमार्क्स (जो गुणवत्ता को अच्छी तरह से बनाए रखते हैं) अक्सर नियतत्ववादी (deterministic) होते हैं और विविधता को कम करते हैं, जबकि हार्ड-कंस्ट्रेंट वॉटरमार्क्स विरूपण की कीमत पर उच्च विविधता बनाए रखते हैं।

प्रयोगात्मक परिणाम (Experimental Results)

लेखक ELI5 डेटासेट पर LLAMA3.1-8B और MINISTRAL-3-14B का उपयोग करके अपने ढांचे को अनुभवजन्य रूप से मान्य करते हैं।

इष्टतमता (Optimality): एक विशिष्ट बाधा से व्युत्पन्न योजनाएं उस बाधा के संबंध में पारेटो-इष्टतम (Pareto-optimal) दिखाई देती हैं। उदाहरण के लिए, Red-Green वॉटरमार्क्स सर्वश्रेष्ठ डिटेक्टेबिलिटी-KL ट्रेड-ऑफ प्राप्त करते हैं, और Soft PPL योजना सर्वश्रेष्ठ डिटेक्टेबिलिटी-PPL ट्रेड-ऑफ प्राप्त करती है।
डिटेक्टेबिलिटी-क्वालिटी ट्रेड-ऑफ: नया प्रस्तावित Soft PPL योजना, डिटेक्टेबिलिटी-क्वालिटी ट्रेड-ऑफ में पिछले कार्यों (AAR/KTH और SynthID सहित) से बेहतर प्रदर्शन करती है। यहाँ तक कि जब गुणवत्ता को परप्लेक्सिटी के बजाय LLM बेंचमार्क सटीकता (HumanEval, MBPP, GSM8K) के माध्यम से मापा जाता है, तब भी Soft PPL योजना श्रेष्ठ बनी रहती है।
विविधता प्रभाव (Diversity Impact): प्रयोग पुष्टि करते हैं कि सॉफ्ट-कंस्ट्रेंट वॉटरमार्क्स (जैसे AAR/KTH और Soft PPL) आउटपुट विविधता को काफी कम कर देते हैं (उच्च Self-BLEU स्कोर), जो अक्सर एक निश्चित प्रॉम्प्ट के लिए नियतत्ववादी आउटपुट की ओर ले जाते हैं। इसके विपरीत, हार्ड-कंस्ट्रेंट वॉटरमार्क्स अधिक विरूपण की कीमत पर उच्च विविधता बनाए रखते हैं।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि इसका एकीकृत ढांचा तीन प्राथमिक योगदान प्रदान करता है:

व्याख्या (Interpretation): यह मौजूदा वॉटरमार्किंग योजनाओं की व्याख्या करने और उन्हें जोड़ने का एक सिद्धांत आधारित तरीका प्रदान करता है, जिससे उनके द्वारा अनुकूलित विशिष्ट बाधाओं का पता चलता है।
डिज़ाइन (Design): यह बिना किसी एड-हॉक डिज़ाइन के, विशिष्ट आवश्यकताओं (जैसे परप्लेक्सिटी को बनाए रखना) के लिए शक्तिशाली नई योजनाओं को व्यावहारिक रूप से स्थापित करने में सक्षम बनाता है।
अंतर्दृष्टि (Insight): यह मौलिक गुणवत्ता-विविधता-शक्ति ट्रेड-ऑफ पर एक नया दृष्टिकोण प्रदान करता है, यह प्रदर्शित करते हुए कि विकृति-मुक्त (distortion-free) योजनाएं अक्सर आउटपुट विविधता की कीमत पर आती हैं।

लेखक सीमाओं का भी उल्लेख करते हैं, जिसमें टोकन स्तर (बजाय अनुक्रम स्तर के) पर अनुकूलन का प्रतिबंध और डिटेक्टर से स्वतंत्र रूप से सैंपलिंग तंत्र को अनुकूलित करने पर ध्यान केंद्रित करना शामिल है। वे यह भी स्वीकार करते हैं कि पूर्णतः क्रिप्टोग्राफिक वॉटरमार्क्स इस सांख्यिकीय ढांचे के दायरे से बाहर हैं।