📊 statistics

Refined Detection for Gumbel Watermarking

यह शोध पत्र आरोंसन (Aaronson) की गुम्बेल (Gumbel) वॉटरमार्किंग योजना के लिए एक सरल, निकट-इष्टतम (near-optimal) पहचान तंत्र प्रस्तावित करता है जो i.i.d. नेक्स्ट-टोकन सैंपलिंग की धारणा के तहत सभी मॉडल-अज्ञेयवादी (model-agnostic) योजनाओं में इष्टतम सिद्ध होता है।

मूल लेखक: Tor Lattimore

प्रकाशित 2026-04-01

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Tor Lattimore

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बेकर हैं जो हर दिन हजारों ब्रेड के लोफ (loaves) बनाते हैं। आप यह साबित करना चाहते हैं कि एक विशिष्ट लोफ आपकी ओवन से आया है और न कि किसी प्रतिस्पर्धी का, जिसने स्टोर से उसी तरह का दिखने वाला लोफ खरीदा है। ऐसा करने के लिए, आप गुप्त रूप से हर उस लोफ के आटे में एक छोटा, अदृश्य "वॉटरमार्क" (watermark) डाल देते हैं जो आप बनाते हैं।

यह पेपर इस बारे में है कि ब्रेड के एक लोफ में (या AI द्वारा जनरेट किए गए टेक्स्ट में) उस अदृश्य वॉटरमार्क को पहले की तुलना में अधिक कुशलता से कैसे खोजा जाए।

यहाँ समस्या का विवरण और नया समाधान दिया गया है, सरल उपमाओं (analogies) का उपयोग करते हुए।

समस्या: अदृश्य स्याही

लार्ज लैंग्वेज मॉडल्स (AI) की दुनिया में, "वॉटरमार्किंग" टेक्स्ट को टैग करने का एक तरीका है ताकि हमें पता चल सके कि वह इंसान द्वारा नहीं लिखा गया है।

पुराना तरीका (आरोंसन का गंबल स्कीम - Aaronson's Gumbel Scheme): कल्पना कीजिए कि AI शब्दों का चयन एक बैग से गेंदें चुनने की तरह कर रहा है। टेक्स्ट में वॉटरमार्क करने के लिए, बेकर (AI) एक गुप्त कुंजी (key) का उपयोग करके कुछ गेंदों को चुनने की संभावना को थोड़ा सा बदल देता है। यह ऐसा है जैसे गुप्त रूप से "सही" गेंदों में थोड़ा अतिरिक्त वजन जोड़ना ताकि उनके चुने जाने की संभावना थोड़ी बढ़ जाए।
डिटेक्शन (पहचान): एक जासूस (डिटेक्टर) शब्दों के क्रम को देखता है। यदि टेक्स्ट वॉटरमार्क किया गया है, तो "पिक्स" (picks) का क्रम एक अजीब, छिपे हुए पैटर्न का पालन करेगा। यदि यह मानव-लिखित है, तो पिक्स रैंडम (यादृच्छिक) होंगे।

खामी: इस पैटर्न को पहचानने का पुराना तरीका तूफान में फुसफुसाहट सुनने जैसा था। यह काम करता था, लेकिन इसके लिए बहुत अधिक टेक्स्ट (ब्रेड का एक बहुत लंबा लोफ) की आवश्यकता होती थी इससे पहले कि जासूस सुनिश्चित हो सके। यह सांख्यिकीय रूप से "भारी" (heavy) और धीमा था।

नया समाधान: "पावर लॉ" डिटेक्टर (The "Power Law" Detector)

लेखक, गूगल डीपमाइंड के टोर लैटीमोर (Tor Lattimore), उस फुसफुसाहट को सुनने का एक नया तरीका प्रस्तावित करते हैं।

1. उपमा: "हैवी टेल" बनाम "मंद हवा" (The "Heavy Tail" vs. The "Gentle Breeze")

पुराना डिटेक्टर (एक्सपोनेंशियल - Exponential): कल्पना कीजिए कि पुराना डिटेक्टर एक विंड गेज (वायु वेग मापी) की तरह था जो केवल एक स्थिर, मंद हवा के प्रति प्रतिक्रिया करता है। यदि हवा बहुत हल्की है, तो गेज नहीं हिलता है। अलार्म बजाने के लिए पर्याप्त "हवा" (डेटा) जमा करने में बहुत समय लगता है।
नया डिटेक्टर (पावर लॉ - Power Law): नया डिटेक्टर एक संवेदनशील सीस्मोोग्राफ (भूकंपमापी) की तरह है। यह केवल स्थिर हवा को नहीं देखता; यह डेटा में विशिष्ट, दुर्लभ, "भारी" स्पाइक्स (उछाल) को देखता है।
- गणित की दुनिया में, इसे पावर लॉ (Power Law) कहा जाता है। यह एक सांख्यिकीय ट्रिक है जो डेटा की दुर्लभ, चरम घटनाओं को बहुत अधिक महत्व देती है।
- इसे मछली पकड़ने की तरह समझें। पुराना तरीका एक चौड़ा जाल फेंकता है और पर्याप्त छोटी मछलियों के भरने का इंतजार करता है। नया तरीका एक विशेष हुक का उपयोग करता है जिसे उस एक विशाल मछली को पकड़ने के लिए डिज़ाइन किया गया है जो साबित करती है कि आप सही महासागर में हैं। भले ही वह विशाल मछली दुर्लभ हो, लेकिन सिर्फ एक को पकड़ लेना ही आपके पास सबूत का एक बड़ा हिस्सा होता है।

2. यह कैसे काम करता है (The "Goodness of Fit")

डिटेक्टर हर उस संख्या को देखता है जो AI द्वारा चुने गए प्रत्येक शब्द के लिए उत्पन्न होती है (इसे एक "रैंडम सीड" मान लें)।

यदि टेक्स्ट मानव (कोई वॉटरमार्क नहीं) है: ये संख्याएँ एक पूरी तरह से सपाट, रैंडम रेखा की तरह दिखनी चाहिए (जैसे छत पर समान रूप से गिरती बारिश)।
यदि टेक्स्ट AI (वॉटरमार्क्ड) है: संख्याओं में एक विशिष्ट "बम्प" या कर्व (वक्र) होगा क्योंकि AI की गुप्त कुंजी ने उन्हें थोड़ा धकेल दिया है।

नया डिटेक्टर एक गणितीय सूत्र का उपयोग करता है जो कहता है: "यदि आप वक्र के किनारे पर अत्यंत दूर स्थित कुछ संख्याएं देखते हैं, तो वह वॉटरमार्क का बहुत मजबूत संकेत है, बजाय इसके कि आप केवल केंद्र से थोड़े अलग सैकड़ों संख्याएं देखें।"

यह बेहतर क्यों है?

पेपर दो मुख्य बातें सिद्ध करता है:

यह तेज़ है: यह सुनिश्चित करने के लिए कि टेक्स्ट AI-जनरेटेड है, आपको कम शब्दों की आवश्यकता होती है। कुछ मामलों में, समान स्तर का विश्वास प्राप्त करने के लिए आपको 10 गुना कम टेक्स्ट की आवश्यकता हो सकती है।
यह लगभग पूर्ण है: लेखक सिद्ध करते हैं कि आप इससे बेहतर कुछ नहीं कर सकते। यदि आप एक अलग डिटेक्टर बनाने की कोशिश करते हैं, तो आप इस नए तरीके की तुलना में वॉटरमार्क को काफी तेज़ी से नहीं खोज पाएंगे। यह अनिवार्य रूप से "स्पीड लिमिट" है कि हम AI के आंतरिक मस्तिष्क को जाने बिना इन वॉटरमार्क्स को कितनी तेज़ी से पहचान सकते हैं।

पेच (The "Logarithmic Gap")

पेपर स्वीकार करता है कि हालांकि यह नया तरीका सैद्धांतिक रूप से सबसे अच्छा है, फिर भी एक छोटा "लॉगैरिद्मिक" अंतर (gap) है।

अनुवाद: एक आदर्श गणितीय दुनिया में, यह नया डिटेक्टर सबसे तेज़ संभव है। लेकिन भाषा की वास्तविक दुनिया में, गणित बताता है कि कुछ विशिष्ट, अजीब परिदृश्यों में यह पुराने तरीके से थोड़ा धीमा हो सकता है।
समाधान: लेखक सुझाव देते हैं कि आप दोनों डिटेक्टरों को एक साथ चला सकते हैं। यदि उनमें से कोई भी चिल्लाकर "वॉटरमार्क!" कहता है, तो आप जानते हैं कि यह AI है। यह एक विंड गेज और एक सीस्मोोग्राफ दोनों को रखने जैसा है; आप अपनी सभी संभावनाओं को कवर करते हैं।

सारांश

लक्ष्य: टेक्स्ट को बदले बिना (गैर-विकृतिपूर्ण/non-distortionary) AI टेक्स्ट का पता लगाना।
पुराना तरीका: धीमा, लंबे टेक्स्ट की आवश्यकता थी, जैसे कि एक स्थिर हवा के चलने का इंतजार करना।
नया तरीका: एक "पावर लॉ" सांख्यिकी का उपयोग करता है जो दुर्लभ, चरम डेटा बिंदुओं पर ध्यान केंद्रित करता है। यह एक सीस्मोोग्राफ की तरह है जो भूकंप का तुरंत पता लगा लेता है, भले ही कंपन सूक्ष्म हो।
परिणाम: हम AI-जनरेटेड टेक्स्ट को बहुत तेज़ी से और कम शब्दों के साथ पहचान सकते हैं, जिससे बुरे तत्वों के लिए छोटे संदेशों या सोशल मीडिया पोस्ट में AI सामग्री को छिपाना कठिन हो जाता है।

संक्षेप में, पेपर कहता है: "हवा के तेज़ चलने का इंतज़ार करना बंद करें। भूकंप की तलाश करना शुरू करें।"

यहाँ टॉर लैटिमोर (गूगल डीपमाइंड) के शोध पत्र "Refined Detection for Gumbel Watermarking" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र स्वयं मॉडल तक पहुँच प्राप्त किए बिना (मॉडल-अग्नोस्टिक डिटेक्शन) लार्ज लैंग्वेज मॉडल्स (LLMs) द्वारा जनरेट किए गए वॉटरमार्क युक्त टेक्स्ट का पता लगाने की चुनौती को संबोधित करता है।

संदर्भ: वॉटरमार्किंग स्कीम्स एआई-जनरेटेड टेक्स्ट को मानव-जनित टेक्स्ट से अलग करने के लिए टोकन चयन प्रक्रिया में एक गुप्त सिग्नल (secret signal) समाहित करती हैं।
विशिष्ट फोकस: लेखक आरोंसन (2022) द्वारा प्रस्तावित गम्बल वॉटरमार्किंग स्कीम (Gumbel watermarking scheme) पर ध्यान केंद्रित करते हैं। यह स्कीम "नॉन-डिस्टॉर्शनरी" (non-distortionary) है, जिसका अर्थ है कि यह एक सीक्रेट की (key) और स्यूडो-रैंडम नॉइज़ के माध्यम से वॉटरमार्क को एम्बेड करते हुए मॉडल के मूल संभाव्यता वितरण (probability distribution) $P_t$ के अनुसार टोकन चुनती है।
अंतराल (The Gap): हालाँकि आरोंसन की मूल डिटेक्शन विधि काम करती है, लेकिन यह घातांकीय वितरण (exponential distributions) पर आधारित एक सांख्यिकी (statistic) पर निर्भर करती है। लेखकों का तर्क है कि यह सांख्यिकीय रूप से इष्टतम (optimal) नहीं है, विशेष रूप से उन परिदृश्यों में जहाँ मॉडल का एंट्रॉपी (entropy) परिवर्तनशील या कम होता है। लक्ष्य एक ऐसा डिटेक्शन तंत्र डिजाइन करना है जो समस्या-निर्भर (problem-dependent) संदर्भ में निकट-इष्टतम (near-optimal) हो, जिससे एक निश्चित विश्वास स्तर ( $\delta$ ) के साथ वॉटरमार्क का पता लगाने के लिए आवश्यक टोकनों ( $n$ ) की संख्या को न्यूनतम किया जा सके।

2. कार्यप्रणाली (Methodology)

A. गम्बल वॉटरमार्किंग तंत्र (पुनरावलोकन)

जेनरेशन प्रक्रिया (एल्गोरिदम 1) इस प्रकार कार्य करती है:

एक सीक्रेट की और पिछले टोकन्स दिए जाने पर, एक हैश फंक्शन एक स्यूडो-रैंडम वेक्टर $U_t \in [0, 1]^\Sigma$ जनरेट करता है।
अगला टोकन $A_t$ गम्बल ट्रिक (Gumbel trick) के माध्यम से चुना जाता है:
$A_t = \arg\max_{a \in \Sigma} \frac{P_t(a)}{-\log(U_{t,a})}$
डिटेक्टर की (key) का उपयोग करके शोर चर (noise variables) $U_t$ $U_{t}$ को पुनर्गठित करता है। इसके बाद वह $V_t = U_{t, A_t}$ $V_{t} = U_{t, A_{t}}$ को निकालता है।
- शून्य परिकल्पना ( $H_0$ ): यदि टेक्स्ट वॉटरमार्क युक्त नहीं है, तो $V_t$ i.i.d. यूनिफॉर्म $[0, 1]$ पर होंगे।
- वैकल्पिक परिकल्पना ( $H_1$ ): यदि वॉटरमार्क युक्त है, तो $V_t$ $P_t$ पर निर्भर एक विशिष्ट गैर-यूनिफॉर्म वितरण का पालन करता है।

B. प्रस्तावित डिटेक्शन तंत्र: पावर लॉ डिटेक्शन (Power Law Detection)

मुख्य योगदान आरोंसन की एक्सपोनेंशियल स्टैटिस्टिक को एक ट्रंकेटेड पावर लॉ स्टैटिस्टिक (truncated power law statistic) (एल्गोरिदम 3) से बदलना है।

सांख्यिकी (The Statistic): $S_t = \log(1/(1-V_t))$ (जो एक्सपोनेंशियल टेल्स की ओर ले जाता है) के बजाय, लेखक परिभाषित करते हैं:
$S(u) = \min\left(\frac{1}{\sqrt{\epsilon}}, \frac{1}{\sqrt{1-u}}\right) - \mu$
जहाँ $\mu$ एक सेंट्रिंग कांस्टेंट है जो सुनिश्चित करता है कि $H_0$ के तहत $\mathbb{E}[S(U)] = 0$ हो, और $\epsilon$ एक ट्रंकेशन पैरामीटर है।
सहज बोध (Intuition): $\frac{1}{\sqrt{1-u}}$ वाला पद एक "हेवी-टेल्ड" (heavy-tailed) वितरण बनाता है। वैकल्पिक परिकल्पना (वॉटरमार्क युक्त) के तहत, उच्च-संभाव्यता वाले टोकन के लिए $V_t$ के मान छोटे (0 के करीब) होते हैं, जिससे $1/\sqrt{1-V_t}$ का मान बड़ा हो जाता है। हेवी टेल इन विचलनों को एक्सपोनेंशियल स्टैटिक्स की तुलना में अधिक प्रभावी ढंग से प्रवर्धित (amplify) करती है।
ट्रंकेशन (Truncation): $\min(\cdot, 1/\sqrt{\epsilon})$ वाला पद शून्य परिकल्पना के तहत वेरिएंस को नियंत्रित करने के लिए महत्वपूर्ण है, जिससे यह सुनिश्चित होता है कि फॉल्स पॉजिटिव रेट सीमित रहे।

C. सैद्धांतिक ढांचा (Theoretical Framework)

लेखक डिटेक्शन की कठिनाई को चित्रित करने के लिए एक नया एंट्रॉपी-समान मात्रा परिभाषित करते हैं:
$G_\epsilon(p) = \frac{G_1(p_\epsilon)}{\sqrt{\epsilon}} + G_{1/2}(p^c_\epsilon)$
जहाँ $p_\epsilon$ और $p^c_\epsilon$ क्रमशः थ्रेशोल्ड $\epsilon$ के नीचे और ऊपर के वितरण के भाग हैं। यह मात्रा वितरण $p$ की "डिटेक्टेबिलिटी" (detectability) को कैप्चर करती है।

3. मुख्य योगदान (Key Contributions)

नई डिटेक्शन स्टैटिस्टिक: गम्बल वॉटरमार्किंग के लिए सैद्धांतिक रूप से अधिक कुशल ट्रंकेटेड पावर लॉ स्टैटिस्टिक का परिचय।
समस्या-निर्भर ऊपरी सीमाएँ (Problem-Dependent Upper Bounds): लेखक सिद्ध करते हैं कि डिटेक्शन उच्च संभावना के साथ तब होता है जब टोकन वितरणों की संख्या $n$ इस प्रकार संतुष्ट करती है:
$\sum_{t=1}^n G_\epsilon(P_t) = \Omega\left(\sqrt{n \log n \log(1/\delta)}\right)$
यह सीमा केवल औसत एंट्रॉपी के बजाय जनरेट किए गए टेक्स्ट के विशिष्ट एंट्रॉपी प्रोफाइल पर निर्भर करती है।
सूचना-सैद्धांतिक निचली सीमाएँ (Information-Theoretic Lower Bounds): यह पेपर एक सिमेट्रिक सेटिंग में किसी भी मॉडल-अग्नोस्टिक वॉटरमार्किंग स्कीम के लिए एक निचली सीमा स्थापित करता है। निचली सीमा प्रस्तावित स्कीम की ऊपरी सीमा से लॉगरिदमिक कारकों तक मेल खाती है, जो यह सिद्ध करती है कि यह स्कीम निकट-इष्टतम (nearly optimal) है।
सब-एक्सपोनेंशियल स्टैटिस्टिक्स का विश्लेषण: लेखक प्रदर्शित करते हैं कि सब-एक्सपोनेंशियल टेल्स वाली स्टैटिस्टिक्स (जैसे मूल एक्सपोनेंशियल या Gaussian-आधारित डिटेक्टर) इस समस्या के लिए स्वाभाविक रूप से उप-इष्टतम (suboptimal) हैं। उन्हें लो-एंट्रॉपी रिजीम में $n = \tilde{\Omega}(1/\bar{H}^2)$ टोकन की आवश्यकता होती है, जबकि प्रस्तावित पावर लॉ डिटेक्टर $n = \tilde{\Omega}(1/\bar{H})$ प्राप्त करता है।

4. मुख्य परिणाम (Key Results)

थ्योरम 2 (ऊपरी सीमा): यदि टोकन वितरणों के $G_\epsilon$ मात्राओं का योग $\sqrt{n \log n}$ के आनुपातिक थ्रेशोल्ड से अधिक है, तो डिटेक्टर $\ge 1 - 2\delta$ की संभावना के साथ "वॉटरमार्क युक्त" लौटाता है।
थ्योरम 20 (निचली सीमा): किसी भी वैध सिलेक्शन कर्नेल और मॉडल्स के सिमेट्रिक वितरण के लिए, डिटेक्शन असंभव है यदि $n$ उस सीमा से छोटा है जो $\mathbb{E}[G_1(P_\epsilon)]$ और $\mathbb{E}[G_{1/2}(P^c_\epsilon)]^2$ द्वारा निर्धारित होती है।
आरोंसन (2022) के साथ तुलना:
- हाई एंट्रॉपी: दोनों विधियाँ समान प्रदर्शन करती हैं।
- लो एंट्रॉपी (जैसे, डिटरमिनिस्टिक टोकन): नई विधि काफी तेज़ है। एक वितरण के लिए जिसमें गैर-डिटरमिनिस्टिक होने की छोटी संभावना $\beta$ है, नई विधि को $n \approx O(1/\beta)$ टोकन की आवश्यकता होती है, जबकि पुरानी विधि को $n \approx O(1/\beta^2)$ टोकन की आवश्यकता होती है।
- उदाहरण:
  - उदाहरण 8 (कांस्टेंट लो एंट्रॉपी): डिटेक्शन टाइम $1/(\beta(1-\beta))$ के साथ स्केल करता है।
  - उदाहरण 9 (रेयर हाई एंट्रॉपी): पुरानी विधि के लिए डिटेक्शन टाइम $1/\beta^2$ बनाम नई विधि के लिए $1/\beta$ के साथ स्केल करता है।

5. महत्व और चर्चा (Significance and Discussion)

सैद्धांतिक इष्टतमता (Theoretical Optimality): यह कार्य पहला कठोर प्रमाण प्रदान करता है कि गम्बल वॉटरमार्किंग के लिए एक विशिष्ट डिटेक्टर सभी मॉडल-अग्नोस्टिक स्कीम्स में निकट-इष्टतम है। यह सैद्धांतिक रूप से जो संभव है और जो प्राप्त किया जा सकता है, उसके बीच के अंतर को पाटता है।
हेवी-टेल्ड स्टैटिस्टिक्स (Heavy-Tailed Statistics): यह पेपर एक मौलिक अंतर्दृष्टि पर प्रकाश डालता है: जब सिग्नल (एंट्रॉपी) विरल (sparse) या परिवर्तनशील हो, तो इष्टतम डिटेक्शन के लिए हेवी-टेल्ड स्टैटिस्टिक्स आवश्यक हैं। मानक सब-एक्सपोनेंशियल स्टैटिक्स लो-एंट्रॉपी टेक्स्ट में मौजूद "दुर्लभ लेकिन मजबूत" संकेतों को पकड़ने में विफल रहते हैं।
व्यावहारिक निहितार्थ (Practical Implications):
- यह विधि वॉटरमार्क युक्त टेक्स्ट का तेजी से पता लगाने की अनुमति देती है, जिससे एआई जनरेशन की पहचान करने के लिए आवश्यक डेटा की मात्रा कम हो जाती है।
- लेखक नोट करते हैं कि हालांकि सिद्धांत बेहतर है, वास्तविक भाषा डेटा पर अनुभवजन्य परीक्षणों (empirical tests) ने मिश्रित परिणाम दिखाए (एक्सपोनेंशियल डिटेक्टर की तुलना में थोड़ा खराब प्रदर्शन), जो संभवतः कॉन्स्टेंट फैक्टर्स और लॉगरिदमिक गैप के कारण है। वे एक व्यावहारिक ह्यूरिस्टिक के रूप में दोनों डिटेक्टरों को संयोजित करने का सुझाव देते हैं।
सीमाएँ (Limitations): डिटेक्शन इस धारणा पर निर्भर करता है कि शून्य परिकल्पना के तहत नॉइज़ वेरिएबल्स स्वतंत्र और यूनिफॉर्म हैं। पेपर स्वीकार करता है कि व्यवहार में स्यूडो-रैंडमनेस मामूली विरूपण (distortions) पेश करती है, हालांकि अनुभवजन्य साक्ष्य बताते हैं कि यह डाउनस्ट्रीम कार्यों को महत्वपूर्ण रूप से प्रभावित नहीं करता है।

संक्षेप में, लैटिमोर एक हेवी-टेल्ड पावर लॉ स्टैटिस्टिक पेश करके गम्बल वॉटरमार्क्स के डिटेक्शन को परिष्कृत करते हैं, यह सिद्ध करते हैं कि यह परिवर्तनशील एंट्रॉपी स्तरों वाले टेक्स्ट में वॉटरमार्क का पता लगाने के लिए निकट-इष्टतम है, और उन मूलभूत सीमाओं को स्थापित करते हैं जो किसी भी मॉडल-अग्नोस्टिक डिटेक्टर द्वारा प्राप्त की जा सकती हैं।