📊 statistics

Beyond Heuristic Tuning: Power-Calibrated LLM Watermarking

यह शोध पत्र एक पावर-कैलिब्रेटेड सांख्यिकीय ढांचे को प्रस्तुत करता है जो वॉटरमार्क हाइपरपैरामीटर, डिटेक्शन पावर और सिमेंटिक डिस्टॉर्शन के बीच स्पष्ट मात्रात्मक संबंध स्थापित करता है, जिससे हीयुरिस्टिक ट्यूनिंग पर निर्भर रहे बिना एलएलएम (LLM) वॉटरमार्किंग में इष्टतम ट्रेड-ऑफ प्राप्त करने के लिए सिद्धांतपूर्ण पैरामीटर चयन सक्षम होता है।

मूल लेखक: Xiaopu Wang, Zelin He, Chengyuan Liu, Runze Li

प्रकाशित 2026-07-08

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Xiaopu Wang, Zelin He, Chengyuan Liu, Runze Li

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बेकर हैं जो यह साबित करना चाहते हैं कि ब्रेड का एक लोफ (loaf) आपकी विशिष्ट रसोई में ही बनाया गया है, न कि पास की किसी फैक्ट्री में। आप आटे में एक गुप्त कोड अंकित कर सकते हैं, लेकिन यदि आप इसे बहुत ज़ोर से दबाते हैं, तो ब्रेड पिचक जाएगी और उसका स्वाद खराब हो जाएगा (विकृति/distortion)। यदि आप इसे बहुत हल्के से दबाते हैं, तो कोई कोड देख नहीं पाएगा (कम पता लगाने की क्षमता/low detectability)।

लंबे समय तक, बेकर्स (AI शोधकर्ता) इस बात का अनुमान लगाते रहे हैं कि ब्रेड पर कितनी ज़ोर से मुहर लगानी है। वे थोड़ा प्रयास करते हैं, स्वाद लेते हैं, थोड़ा और प्रयास करते हैं, फिर से स्वाद लेते हैं। इसे "ह्यूरिस्टिक ट्यूनिंग" (heuristic tuning) कहा जाता है, जो अक्षम और अविश्वसनीय है।

यह शोध पत्र, "Beyond Heuristic Tuning: Power-Calibrated LLM Watermarking," बेक करने का एक नया तरीका प्रस्तावित करता है। अनुमान लगाने के बजाय, लेखकों ने एक गणितीय रेसिपी बुक बनाई है जो आपको ठीक-ठीक बताती है कि एक दृश्यमान कोड और एक स्वादिष्ट लोफ के बीच सही संतुलन पाने के लिए ब्रेड पर कितनी ज़ोर से मुहर लगानी है।

यहाँ बताया गया है कि उन्होंने इसे कैसे किया, जिसे सरल अवधारणाओं में विभाजित किया गया है:

1. समस्या: "गोल्डिलॉक्स" दुविधा (The "Goldilocks" Dilemma)

AI टेक्स्ट (जैसे KGW विधि) में वॉटरमार्किंग की वर्तमान विधियाँ दो नॉब (knobs) पर निर्भर करती हैं:

ग्रीन लिस्ट ( $\gamma$ ): उन शब्दों का प्रतिशत क्या है जो "विशेष" शब्द हैं जिन्हें AI को चुनने के लिए प्रेरित किया जाता है?
बायस ( $\delta$ ): उन विशेष शब्दों को चुनने के लिए AI को कितना अतिरिक्त "धक्का" (push) मिलता है?

यदि आप धक्का बहुत अधिक बढ़ा देते हैं, तो AI रोबोटिक या निरर्थक लगने लगता है (उच्च विकृति/high distortion)। यदि आप इसे बहुत कम कर देते हैं, तो डिटेक्टर यह नहीं बता पाएगा कि टेक्स्ट AI का है या मानव का (कम पता लगाने की क्षमता/low detectability)। अब तक, "गोल्डिलॉक्स" सेटिंग खोजना निरंतर परीक्षण और त्रुटि (trial and error) का काम था।

2. समाधान: एक सांख्यिकीय GPS (A Statistical GPS)

लेखकों ने एक पावर-कैलिब्रेटेड फ्रेमवर्क (Power-Calibrated Framework) बनाया है। इसे एक बेकर के लिए GPS की तरह समझें। इधर-उधर भटकने के बजाय कि सही जगह मिल जाए, GPS सटीक निर्देशांक (coordinates) की गणना करता है।

उन्होंने सांख्यिकी का उपयोग करके एक स्पष्ट मानचित्र बनाया है जो इनके बीच के संबंध को दर्शाता है:

सेटिंग्स: आप AI को कितना धक्का देते हैं।
पावर: एक डिटेक्टर द्वारा AI को पकड़ने की संभावना कितनी है।
विकृति (Distortion): टेक्स्ट की गुणवत्ता कितनी खराब होती है।

यह मानचित्र समस्या को "अनुमान लगाने" से बदलकर एक "निर्देशित अनुकूलन" (guided optimization) में बदल देता है। अब आप कह सकते हैं, "मैं चाहता हूँ कि टेक्स्ट 95% पता लगाने योग्य हो, और मैं चाहता हूँ कि गुणवत्ता में 5% से अधिक की गिरावट न आए," और गणित आपको बताता है कि आपको कौन से नॉब घुमाने हैं।

3. यह कैसे काम करता है: "ग्रीन टोकन" गेम

यह पेपर लॉगिट-आधारित वॉटरमार्किंग (Logit-Based Watermarking) नामक एक विशिष्ट प्रकार के वॉटरमार्क का उपयोग करता है।

कल्पना करें कि AI एक विशाल मेनू में से अगला शब्द चुन रहा है।
वॉटरमार्क चुपके से उस मेनू के यादृच्छिक (random) उपसमुच्चय (subset) को हाइलाइट करता है (ग्रीन लिस्ट)।
वॉटरमार्क उन हरे शब्दों की लोकप्रियता में थोड़ी वृद्धि करता है।

लेखकों ने सिद्ध किया है कि भले ही AI जटिल है और शब्द एक-दूसरे पर निर्भर हैं (जैसे कि एक बातचीत), एक लंबे टेक्स्ट में हरे शब्दों की कुल संख्या एक अनुमानित पैटर्न (बेल कर्व/bell curve) का पालन करती है। यह उन्हें लाखों नकली टेक्स्ट का अनुकरण (simulate) करके अनुमान लगाने के बजाय, मानक सांख्यिकीय सूत्रों का उपयोग करके "पावर" (डिटेक्शन सफलता) की गणना करने की अनुमति देता है।

4. "जादुई" खोज: एक रूट (Root) बेहतर है

जब उन्होंने अपने गणितीय समीकरणों को हल किया, तो उन्हें कुछ दिलचस्प पता चला। टेक्स्ट की गुणवत्ता के एक निश्चित स्तर के नुकसान के लिए, अक्सर दो संभावित सेटिंग्स काम करती हैं।

सेटिंग A: हरे शब्दों का छोटा प्रतिशत उपयोग करती है लेकिन उन्हें बहुत ज़ोर से धकेलती है।
सेटिंग B: हरे शब्दों का बड़ा प्रतिशत उपयोग करती है लेकिन उन्हें धीरे से धकेलती है।

लेखकों ने पाया कि सेटिंग B लगभग हमेशा विजेता होती है। यह समान डिटेक्शन पावर प्राप्त करती है लेकिन बहुत कम विकृति (distortion) के साथ (टेक्स्ट अधिक स्वाभाविक लगता है)। उनका फ्रेमवर्क स्वचालित रूप से इस "स्वीट स्पॉट" को ढूंढ लेता है, जबकि पिछली विधियाँ अक्सर निम्न स्तर के विकल्प पर ही अटक जाती थीं।

5. प्रमाण: रेसिपी का परीक्षण

लेखकों ने अपने नए "GPS" का विभिन्न AI मॉडलों (जैसे GPT-2 और OPT) और विभिन्न प्रकार के लेखन (विकिपीडिया लेख, लंबे उत्तर, आदि) का उपयोग करके पुराने तरीकों के विरुद्ध परीक्षण किया।

परिणाम: उनकी विधि लगातार पारेटो ऑप्टिमल (Pareto Optimal) बिंदुओं को खोजने में सफल रही। सरल शब्दों में, इसका अर्थ है कि उन्होंने सबसे अच्छा समझौता (trade-off) खोजा। आप टेक्स्ट की गुणवत्ता को अधिक नुकसान पहुँचाए बिना बेहतर डिटेक्शन प्राप्त नहीं कर सकते थे, और आप बेहतर टेक्स्ट गुणवत्ता प्राप्त किए बिना डिटेक्शन पावर नहीं खो सकते थे।
तुलना: उनकी विधि "ह्यूरिस्टिक" (अनुमान लगाने वाली) विधियों और अन्य हालिया गणितीय दृष्टिकोणों की तुलना में बेहतर प्रदर्शन करती है, जिससे उच्च डिटेक्शन दर बनाए रखते हुए भी टेक्स्ट की गुणवत्ता को बहुत उच्च रखा जा सकता है।

सारांश

यह पेपर एक नया तरीका वॉटरमार्क छिपाने का आविष्कार नहीं करता है; यह उन्हें ट्यून करने का एक बेहतर तरीका आविष्कार करता है।

पहले: "आइए डायल को 5 पर घुमाकर देखते हैं। नहीं, यह अजीब लग रहा है। आइए इसे 3 पर आजमाते हैं। अभी भी अजीब है। आइए 4 पर आजमाते हैं। ठीक है, यह काफी अच्छा है।"
बाद में: "गणित कहता है कि यदि हम न्यूनतम गुणवत्ता हानि के साथ 90% डिटेक्शन चाहते हैं, तो हमें डायल को 3.8 पर और लिस्ट साइज को 0.6 पर सेट करना चाहिए। चलिए ऐसा ही करते हैं।"

अनुमान को एक सटीक सांख्यिकीय ढांचे से बदलकर, लेखक यह सुनिश्चित करते हैं कि AI वॉटरमार्क विश्वसनीय रूप से तैनात किए जा सकें, जो AI के आउटपुट की गुणवत्ता को बिगाड़े बिना मानव लेखन की अखंडता की रक्षा करते हैं।

तकनीकी सारांश: ह्यूरिस्टिक ट्यूनिंग से परे: पावर-कैलिब्रेटेड LLM वॉटरमार्किंग

समस्या विवरण (Problem Statement)

लॉगिट-आधारित वॉटरमार्किंग, बड़े भाषा मॉडल (LLM) द्वारा जनरेट की गई सामग्री की पहचान करने के लिए एक प्रचलित तंत्र है, जो जनरेट किए गए टेक्स्ट और एक गुप्त कुंजी (secret key) के बीच नियंत्रित सांख्यिकीय निर्भरता (statistical dependencies) पेश करता है। हालाँकि, इन प्रणालियों की प्रभावशीलता डिटेक्टेबिलिटी (वॉटरमार्क वाले टेक्स्ट को पहचानने की विश्वसनीयता) और सिमेंटिक डिस्टॉर्शन (टेक्स्ट की गुणवत्ता में गिरावट) के बीच एक मौलिक ट्रेड-ऑफ द्वारा नियंत्रित होती है।

वर्तमान दृष्टिकोण बिना किसी सिद्धांतगत मार्गदर्शन के ह्यूरिस्टिक हाइपरपैरामीटर ट्यूनिंग (विशेष रूप से ग्रीन-लिस्ट अनुपात $\gamma$ और लॉगिट बायस $\delta$ ) पर अत्यधिक निर्भर हैं। मौजूदा विश्लेषण, जैसे कि लॉग-परप्लेक्सिटी शिफ्ट या KL-प्रतिबंधित सूत्रीकरण, सीमित सैद्धांतिक दिशा प्रदान करते हैं, जिससे व्यावहारिक तैनाती (deployments) विभिन्न सेटिंग्स में विश्वसनीय प्रदर्शन गारंटी के बिना रह जाती है। मुख्य चुनौती वॉटरमार्क हाइपरपैरामीटर्स को डिटेक्शन पावर और डिस्टॉर्शन से जोड़ने वाले स्पष्ट मात्रात्मक संबंधों की कमी है।

कार्यप्रणाली (Methodology)

लेखक एक पावर-कैलिब्रेटेड सांख्यिकीय ढांचे का प्रस्ताव करते हैं जो वॉटरमार्क डिजाइन को ट्रायल-एंड-एरर (trial-and-error) से एक निर्देशित अनुकूलन समस्या (guided optimization problem) में बदल देता है। कार्यप्रणाली तीन मुख्य सैद्धांतिक चरणों के माध्यम से आगे बढ़ती है:

1. औपचारिक सांख्यिकीय ढांचा (Formal Statistical Framework)

पेपर वॉटरमार्क डिटेक्शन को एक परिकल्पना परीक्षण (hypothesis testing) समस्या के रूप में औपचारिक रूप देता है:

शून्य परिकल्पना ( $H_0$ ): टेक्स्ट वॉटरमार्क नहीं है। इस धारणा के तहत कि ग्रीन लिस्ट्स को टोकन अनुक्रम से स्वतंत्र और छद्म-यादृच्छिक (pseudo-randomly) रूप से सौंपा गया है, ग्रीन-लिस्ट टोकन की गणना एक बरनौली प्रक्रिया (Bernoulli process) का पालन करती है।
वैकल्पिक परिकल्पना ( $H_1$ ): टेक्स्ट वॉटरमार्क किया गया है। लॉगिट बायस $\delta$ ग्रीन-लिस्ट टोकन के चयन की संभावना को बदल देता है।

लेखक वॉटरमार्क मापदंडों $(\gamma, \delta)$ और प्रभावी ग्रीन-टोकन संभावना $\gamma'$ के बीच एक क्लोज्ड-फॉर्म संबंध व्युत्पन्न करते हैं। नेक्स्ट-टोकन प्रोबेबिलिटी (NTP) वेक्टर्स को एक नॉन-इन्फॉर्मेटिव डिरिचलेट प्रायर (Dirichlet prior) के साथ मॉडल करके, वे स्थापित करते हैं कि:
$\gamma' \approx \frac{e^\delta \gamma}{1 + \gamma(e^\delta - 1)}$
यह $H_1$ को $\gamma'$ द्वारा स्पष्ट रूप से पैरामीट्राइज करने की अनुमति देता है।

2. डिटेक्टेबिलिटी और डिस्टॉर्शन का लक्षण वर्णन (Characterizing Detectability and Distortion)

डिटेक्टेबिलिटी (Detectability): इसे टेस्ट की सांख्यिकीय शक्ति (शक्ति/power) के रूप में परिभाषित किया गया है (जब $H_1$ सत्य हो तो $H_0$ को अस्वीकार करने की संभावना)। अनुक्रम-स्तर के सांख्यिकी के लिए सेंट्रल लिमिट थ्योरम एप्रोक्सिमेशन का उपयोग करते हुए, लेखक एक नॉर्मल-एप्रोक्सिमेशन पावर फंक्शन $\pi^*(\gamma, \delta)$ व्युत्पन्न करते हैं। यह फंक्शन स्पष्ट रूप से $\gamma'$ और $\gamma$ के बीच के अंतर, और टोकन निर्भरताओं के कारण होने वाले वेरिएंस इन्फ्लेशन कांस्टेंट $c$ पर निर्भर करता है।
डिस्टॉर्शन (Distortion): इसे वॉटरमार्क किए गए और अन-वॉटरमार्क किए गए वितरणों के बीच अपेक्षित टोकन-वाइज कुलबैक-लीब्लर (KL) डाइवर्जेंस द्वारा मापा जाता है। लेखक सिद्ध करते हैं कि एक निश्चित $\gamma$ के लिए, KL डाइवर्जेंस $D_{KL}(\gamma, \delta)$ $\delta$ के साथ सख्ती से बढ़ता है, जो लॉगिट शिफ्ट और डिस्टॉर्शन बजट के बीच एक वन-टू-वन पत्राचार स्थापित करता है।

3. सिद्धांतगत पैरामीटर चयन (Principled Parameter Selection)

व्युत्पन्न संबंधों का लाभ उठाते हुए, लेखक दो-आयामी हाइपरपैरामीटर ट्यूनिंग समस्या को एक एक-आयामी संख्यात्मक अनुकूलन (one-dimensional numerical optimization) में कम कर देते हैं।

अनुकूलन लक्ष्य (Optimization Goal): दिए गए डिस्टॉर्शन बजट $K_0$ के लिए, $\gamma$ को ऑप्टिमाइज़ करके डिटेक्शन पावर $\pi^*$ को अधिकतम करना।
इनिशियलाइजेशन रणनीति (Initialization Strategy): लेखक एक स्ट्रक्चरल प्रॉपर्टी की पहचान करते हैं जहाँ डिस्टॉर्शन कंस्ट्रेंट $D_{KL}(\gamma, \delta) = K_0$ के लिए $\gamma$ के अधिकतम दो समाधान मिलते हैं। वे प्रदर्शित करते हैं कि उच्च समाधान ( $\gamma_h$ ) लगातार निम्न समाधान ( $\gamma_\ell$ ) की तुलना में कम डिस्टॉर्शन के साथ बेहतर पावर प्रदान करता है। फलस्वरूप, खोज को एक ऊपरी सीमा $\gamma^*$ (इस आवश्यकता से प्राप्त कि पावर $> 0.5$ ) के पास इनिशियलाइज़ किया जाता है और इष्टतम $\gamma_h$ खोजने के लिए नीचे की ओर तलाशा जाता है।

मुख्य योगदान (Key Contributions)

सैद्धांतिक लक्षण वर्णन: पेपर एक ऐसा ढांचा विकसित करता है जो डिटेक्शन पावर और डिस्टॉर्शन को जोड़ने वाले क्लोज्ड-फॉर्म संबंधों को जोड़ता है, जो डिटेक्टेबिलिटी-डिस्टॉर्शन ट्रेड-ऑफ को औपचारिक रूप से चित्रित करता है।
सिद्धांतगत पैरामीटर चयन: यह उन मापदंडों को चुनने की प्रक्रिया को व्युत्पन्न करता है जो पावर या डिस्टॉर्शन बाधाओं के तहत इष्टतम बिंदु प्राप्त करते हैं, जिससे ट्यूनिंग को हेयुरिस्टिक सर्च के बजाय एक सुलभ अनुकूलन समस्या में बदल दिया जाता है।
अनुभवजन्य सत्यापन (Empirical Validation): फ्रेमवर्क को कई लैंग्वेज मॉडल्स (OPT, Pythia, GPT-2, Gemma-2) और डेटासेट्स (C4, LFQA, Wikipedia) पर सत्यापित किया गया है, जो निरंतर पारेटो-ऑप्टिमल (Pareto-optimal) कॉन्फ़िगरेशन की पहचान करता है।

प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने अपने मेथड की तुलना निम्नलिखित के विरुद्ध व्यापक प्रयोग किए:

KGW: मूल ह्यूरिस्टिक बेसलाइन।
DP (Cai et al., 2024): एक KL-प्रतिबंधित अनुकूलन दृष्टिकोण।
OPT (Wouters, 2024): एक लॉग-परप्लेक्सिटी अनुकूलन दृष्टिकोण।
ग्रिड सर्च (Grid Search): विस्तृत ह्यूरिस्टिक ट्यूनिंग।

निष्कर्ष:

पारेटो ऑप्टिमलिटी (Pareto Optimality): प्रस्तावित विधि लगातार पारेटो फ्रंटियर पर रहती है, जो बेसलाइन्स की तुलना में काफी कम सिमेंटिक डिस्टॉर्शन (KL डाइवर्जेंस) पर उच्च डिटेक्शन पावर (ट्रू पॉजिटिव रेट) प्राप्त करती है।
मजबूती (Robustness): प्रस्तावित विधि ह्यूरिस्टिक बेसलाइन्स की तुलना में गुणवत्ता बाधाओं (BLEU, ROUGE, और BERTScore द्वारा मापा गया) की एक विस्तृत श्रृंखला में लगभग संतृप्त डिटेक्शन पावर बनाए रखती है, जबकि बेसलाइन्स डिस्टॉर्शन बाधाएं सख्त होने पर प्रदर्शन में भारी गिरावट दिखाते हैं।
वितरणात्मक सत्यापन (Distributional Verification): Q-Q प्लॉट्स पुष्टि करते हैं कि स्टैंडर्डाइज्ड ग्रीन-टोकन काउंट स्टैटिस्टिक, शून्य और वैकल्पिक दोनों परिकल्पनाओं के तहत एक स्टैंडर्ड नॉर्मल डिस्ट्रीब्यूशन में अभिसरित (converge) होता है, जो सैद्धांतिक मान्यताओं को प्रमाणित करता है।
लार्ज मॉडल स्केलेबिलिटी: Gemma-2 9B पर परिणाम पुष्टि करते हैं कि गुणात्मक डिटेक्टेबिलिटी-डिस्टॉर्शन पैटर्न बड़े मॉडल्स के लिए भी लागू होते हैं।

महत्व और दावे (Significance and Claims)

पेपर का दावा है कि यह विश्वसनीय सांख्यिकीय गारंटी के साथ वॉटरमार्किंग सिस्टम को तैनात करने के लिए एक व्यावहारिक आधार प्रदान करता है। ह्यूरिस्टिक ट्यूनिंग को सिद्धांतगत रूप से सूचित अनुकूलन से बदलकर, यह ढांचा सक्षम बनाता है:

कुशल ट्रेड-ऑफ: सख्त डिस्टॉर्शन बजट के तहत मजबूत डिटेक्शन प्रदर्शन प्राप्त करना, जो वास्तविक दुनिया के अनुप्रयोगों में टेक्स्ट क्वालिटी बनाए रखने के लिए महत्वपूर्ण है।
सामान्यीकरण (Generalizability): सैद्धांतिक संबंध विभिन्न मॉडल आर्किटेक्चर और डेटा वितरणों में बने रहते हैं, जो यह सुझाव देते हैं कि यह दृष्टिकोण डेटासेट-विशिष्ट आर्टिफैक्ट्स के बजाय लॉगिट-आधारित वॉटरमार्किंग के एक मौलिक तंत्र को कैप्चर करता है।
तैनाती तत्परता (Deployment Readiness): जनरेशन से पहले इष्टतम मापदंडों की पूर्व-गणना करने की क्षमता पूरे अनुक्रम में समान अनुप्रयोग की अनुमति देती है, जिससे परिनियोजन (deployment) सरल हो जाता है।

लेखक आधुनिक ट्रांसफॉर्मर्स में इंफॉर्मेशन डिके (information decay) धारणा और लो-एन्ट्रॉपी डोमेन (जैसे कोड जनरेशन) में चुनौतियों के संबंध में सीमाओं को नोट करते हैं, लेकिन इस बात पर जोर देते हैं कि उनका ढांचा एड-हॉक ट्यूनिंग से सांख्यिकीय रूप से आधारित डिजाइन की ओर स्टेट-ऑफ-द-आर्ट को महत्वपूर्ण रूप से आगे बढ़ाता है।