📊 statistics

Fast segmentation of watermarked texts from large language models through an epidemic change-point framework

यह शोध पत्र WISER को प्रस्तुत करता है, जो एक नवीन और गणनात्मक रूप से कुशल एल्गोरिदम है जो बड़े भाषा मॉडल (LLM) के आउटपुट के भीतर वॉटरमार्क किए गए टेक्स्ट को सटीक रूप से स्थानीयकृत और खंडित करने के लिए एक महामारी परिवर्तन-बिंदु (epidemic change-point) ढांचे का लाभ उठाता है, जो मजबूत सैद्धांतिक गारंटी और मौजूदा विधियों की तुलना में बेहतर प्रदर्शन प्रदान करता है।

मूल लेखक: Soham Bonnerjee, Subhrajyoty Roy, Sayar Karmakar

प्रकाशित 2026-07-09

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Soham Bonnerjee, Subhrajyoty Roy, Sayar Karmakar

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

मुख्य चित्र: कहानी में "नकली" हिस्सों को खोजना

कल्पना कीजिए कि आप एक लंबी कहानी पढ़ रहे हैं। आपको संदेह है कि इसके कुछ हिस्से एक रोबोट (AI) ने लिखे हैं, जबकि बाकी हिस्सा एक इंसान ने लिखा है। रोबोट ने शब्द केवल बेतरतीब ढंग से नहीं लिखे; उसने अपने द्वारा बनाए गए शब्दों पर एक गुप्त, अदृश्य "फिंगरप्रिंट" (एक वॉटरमार्क) छोड़ दिया है।

समस्या केवल यह जानने की नहीं है कि क्या रोबोट ने वह कहानी लिखी है। असली चुनौती यह पता लगाना है कि कौन से विशिष्ट वाक्य रोबोट द्वारा लिखे गए हैं और कौन से इंसान द्वारा। इसे सेगमेंटेशन (विभाजन) कहा जाता है।

वर्तमान में, अधिकांश उपकरण यह तो बता सकते हैं कि "यह पूरी कहानी संभवतः AI द्वारा लिखी गई है," लेकिन वे विशिष्ट अनुच्छेदों (पैराग्राफ) को सटीक रूप से पहचानने में बहुत खराब हैं। वे अक्सर लंबे लेखों या किताबों को संभालने के लिए बहुत धीमे भी होते हैं।

यह शोध पत्र एक नया टूल पेश करता है जिसे WISER (वॉटरमार्क आइडेंटिफिकेशन वाया सेगमेंटिंग एपिडेमिक रीजन्स) कहा जाता है। इसे तेज़, सटीक और गणितीय रूप से सिद्ध रूप से काम करने के लिए डिज़ाइन किया गया है, भले ही टेक्स्ट अव्यवस्थित हो या इंसानों द्वारा संपादित किया गया हो।

मूल विचार: "महामारी" का रूपक (Analogy)

लेखकों ने महसूस किया कि इन वॉटरमार्क वाले अनुभागों को खोजना गणितीय रूप से एक महामारी को ट्रैक करने के समान है।

रूपक: एक स्वस्थ शहर की कल्पना करें जहाँ हर कोई स्वस्थ है (यह इंसान द्वारा लिखा गया टेक्स्ट है)। अचानक, एक मोहल्ले में वायरस का प्रकोप शुरू होता है, जो कुछ समय के लिए घरों के एक विशिष्ट ब्लॉक को संक्रमित करता है, और फिर वायरस गायब हो जाता है, और शहर फिर से स्वस्थ हो जाता है।
संबंध: "वायरस" ही वॉटरमार्क है। यह टेक्स्ट के एक विशिष्ट "पैच" (खंड) में दिखाई देता है और बाकी जगह अनुपस्थित रहता है।
पुराना तरीका: पिछले तरीके वायरस के शुरू होने और खत्म होने को खोजने के लिए दो अलग-अलग "चेंज पॉइंट्स" (जैसे कि वायरस कब शुरू हुआ और कब समाप्त हुआ) को खोजने की कोशिश करते थे। यह कठिन और धीमा है, खासकर यदि कई प्रकोप हों।
WISER का तरीका: WISER पूरे टेक्स्ट को एक "एपिडेमिक पैच" (महामारी वाले क्षेत्र) के रूप में देखता है। यह पूछता है: "संक्रमित घरों का समूह कहाँ है?" यह केवल शुरुआत और अंत नहीं देखता; यह एक साथ पूरे संक्रमित क्षेत्र को देखता है। यह इसे बहुत तेज़ और अधिक मजबूत बनाता है।

WISER कैसे काम करता है (तीन-चरणीय जासूसी प्रक्रिया)

शोध पत्र WISER को तीन-चरणों वाली जासूसी प्रक्रिया के रूप में वर्णित करता है:

नेट (ब्लॉकिंग चरण):
कल्पना कीजिए कि आप पूरे टेक्स्ट पर एक चौड़ा जाल फेंक रहे हैं। टेक्स्ट को छोटे-छोटे टुकड़ों (ब्लॉक्स) में विभाजित किया जाता है। WISER प्रत्येक टुकड़े की जांच करता है कि क्या उसमें "वायरस" (वॉटरमार्क सिग्नल) का उच्च सांद्रता है। यदि कोई टुकड़ा संदिग्ध दिखता है, तो उसे रखा जाता है। यदि वह साफ दिखता है, तो उसे बाहर फेंक दिया जाता है। यह खोज क्षेत्र को जल्दी से सीमित कर देता है।
सफाई (डिस्कार्डिंग चरण):
कभी-कभी नेट में कुछ गलत अलार्म (एक साफ टुकड़ा जो संयोग से संदिग्ध दिख रहा था) फंस जाते हैं। WISER उन संदिग्ध टुकड़ों के समूहों को देखता है जो उसे मिले हैं। यदि कोई समूह बहुत छोटा या अलग-थलग है, तो वह मान लेता है कि यह एक गलत अलार्म है और उसे हटा देता है। यह सुनिश्चित करता है कि केवल "असली" प्रकोप ही शेष रहें।
सटीक कट (रिफाइंड सर्च):
अब जब WISER को मोटे तौर पर पता चल गया है कि प्रकोप कहाँ हैं, तो वह ज़ूम इन करता है। यह एक चतुर गणितीय ट्रिक (एक विशिष्ट स्कोर को कम करने पर आधारित) का उपयोग करके संक्रमित क्षेत्रों की सटीक सीमाएँ खींचता है। यह AI-लिखित टेक्स्ट की सटीक शुरुआत और अंत को ढूंढ निकालता है।

यह विशेष क्यों है?

शोध पत्र तीन मुख्य कारणों पर प्रकाश डालता है कि WISER क्यों महत्वपूर्ण है:

गति (फास्ट लेन):
अन्य विधियाँ घास के ढेर में सुई खोजने के लिए घास के हर एक तिनके को एक-एक करके जांचने जैसी हैं। जैसे-जैसे टेक्स्ट लंबा होता जाता है, वे बहुत धीमी हो जाती हैं। WISER घास के ढेर में तेजी से घूमने वाले चुंबक की तरह है। लेखक गणितीय रूप से सिद्ध करते हैं कि WISse लीनियर टाइम (O(n)) में चलता है, जिसका अर्थ है कि यदि आप टेक्स्ट की लंबाई दोगुनी करते हैं, तो इसे प्रोसेस करने में केवल दोगुना समय लगेगा, चार या दस गुना नहीं। यह वर्तमान में गणितीय गारंटी के साथ सबसे तेज़ विधि है।
सटीकता (तेज़ आँख):
परीक्षणों में, WISER अन्य शीर्ष विधियों (जैसे Aligator, SeedBS, और Waterseeker) की तुलना में AI टेक्स्ट की सटीक सीमाओं को खोजने में बेहतर था। इसने केवल अनुमान नहीं लगाया; इसने उच्च सटीकता के साथ सही खंडों को खोजा, भले ही टेक्स्ट लंबा हो या AI मॉडल अलग हो।
मजबूती (टफ शील्ड):
क्या होगा यदि इंसान टेक्स्ट लिखने के बाद उसे संपादित करता है? शायद वे एक वाक्य हटा दें या एक शब्द बदल दें। कई उपकरण इस स्थिति में विफल हो जाते हैं। WISER को इस "मिश्रित-स्रोत" (mixed-source) टेक्स्ट को संभालने के लिए डिज़ाइन किया गया है। यह मानता है कि "वायरस" थोड़ा परिवर्तित हो सकता है, लेकिन फिर भी इसे पहचाना जा सकता है क्योंकि अंतर्निहित पैटर्न बना रहता है।

"सीक्रेट सॉस": पिवट स्टैटिस्टिक्स (Pivot Statistics)

इस सब को काम करने के लिए, शोध पत्र पिवट स्टैटिस्टिक्स नामक अवधारणा पर निर्भर करता है।

सोचिए कि AI के "फिंगरप्रिंट" को एक गुप्त कोड के रूप में देखा जा रहा है। लेखक एक गणितीय उपकरण का उपयोग करते हैं जो टेक्स्ट को एक स्कोर में बदल देता है।

यदि टेक्स्ट इंसान का है, तो स्कोर कम और स्थिर रहता है (जैसे एक शांत धड़कन)।
यदि टेक्स्ट AI का है, तो स्कोर ऊपर की ओर उछलता है (जैसे बुखार)।

WISER की प्रतिभा यह है कि इसे इस बात से फर्क नहीं पड़ता कि "बुखार" कैसे पैदा हुआ (कौन सा विशिष्ट AI मॉडल या कौन सी विशिष्ट वॉटरमार्किंग ट्रिक इस्तेमाल की गई)। यह केवल "बुखार" (ऊंचे स्कोर के पैच) को पैच के रूप में देखता है। यह इस टूल को बहुत लचीला और कई अलग-अलग प्रकार के AI वॉटरमार्क के लिए लागू करने योग्य बनाता है।

सारांश

यह शोध पत्र WISER प्रस्तुत करता है, जो एक नया एल्गोरिदम है जो AI-जनित टेक्स्ट के लिए एक हाई-स्पीड, हाई-प्रिसिजन स्कैनर के रूप में कार्य करता है। समस्या को एक "महामारी" (संक्रमण के क्लस्टर को खोजने) के रूप में देखकर, WISER एक ही दस्तावेज़ के भीतर मानव लेखन और AI लेखन को तेज़ी से और सटीकता से अलग कर सकता है। यह मौजूदा उपकरणों की तुलना में तेज़, अधिक सटीक और गणितीय रूप से बेहतर काम करने के लिए सिद्ध है, जो इसे AI गलत सूचना और साहित्यिक चोरी के खिलाफ लड़ाई में एक शक्तिशाली हथियार बनाता है।

तकनीकी सारांश: एपिडेमिक चेंज-पॉइंट फ्रेमवर्क के माध्यम से बड़े भाषा मॉडलों (LLMs) से वॉटरमार्क्ड टेक्स्ट का तीव्र विभाजन (Segmentation)

समस्या विवरण
लार्ज लैंग्वेज मॉडल्स (LLMs) के प्रसार ने प्रामाणिकता, कॉपीराइट और शैक्षणिक अखंडता संबंधी चिंताओं को दूर करने के लिए मशीन-जनित सामग्री का पता लगाने हेतु सुदृढ़ तंत्रों की आवश्यकता को बढ़ा दिया है। जबकि वॉटरमार्किंग स्कीम्स—जो गुप्त कुंजियों (secret keys) का उपयोग करके टोकन जनरेशन में सांख्यिकीय संकेतों को एम्बेड करती हैं—LLM-जनित टेक्स्ट की उपस्थिति का पता लगाने के लिए विकसित की गई हैं, मिश्रित-स्रोत टेक्स्ट (जिसमें मानव और मशीन-जनित दोनों प्रकार की सामग्री शामिल हो) के भीतर विशिष्ट वॉटरमार्क्ड खंडों को स्थानीयकृत (localize) करने के सूक्ष्म कार्य पर अभी भी पर्याप्त शोध नहीं हुआ है। मौजूदा सेगमेंटेशन एल्गोरिदम अक्सर अत्यधिक कम्प्यूटेशनल जटिलता से ग्रस्त होते हैं, जिससे वे लंबे टेक्स्ट के लिए अनुपयुक्त हो जाते हैं, या उनमें पैराफ्रेसिंग (paraphrasing) और पोस्ट-एडिटिंग के प्रति मजबूत सैद्धांतिक गारंटी का अभाव होता है। इसके अलावा, वर्तमान विधियाँ एक ही दस्तावेज़ के भीतर कई विलगित (disjoint) वॉटरमार्क्ड अंतरालों की कुशलतापूर्वक पहचान करने में संघर्ष करती हैं।

कार्यप्रणाली: एपिडेमिक चेंज-पॉइंट परिप्रेक्ष्य
लेखक WISER (वॉटरमार्क आइडेंटिफिकेशन वाया सेगमेंटिंग एपिडेमिक रीजन्स) प्रस्तावित करते हैं, जो वॉटरमार्क सेगमेंटेशन समस्या को एक एपिडेमिक चेंज-पॉइंट डिटेक्शन समस्या के रूप में पुनर्गठित करता है।

पिवट स्टैटिस्टिक्स और एलिवेटेड अल्टरनेटिव्स: यह विधि "पिवट स्टैटिस्टिक्स" ( $Y_t$ ) पर निर्भर करती है, जो जनित टोकनों और छद्म-यादृच्छिक कुंजियों (pseudo-random keys) के फलन (functions) हैं। शून्य परिकल्पना (null hypothesis - मानव-जनित/अनवॉटरमार्क्ड टोकन) के तहत, ये सांख्यिकी एक ज्ञात, स्थिर वितरण का पालन करती हैं जिसका माध्य $\mu_0$ है। वैकल्पिक परिकल्पना (alternative - वॉटरमार्क्क्ड टोकन) के तहत, सांख्यिकी "एलिवेटेड अल्टरनेटिव" गुण प्रदर्शित करती है, जहाँ उनका अपेक्षित मान LLM के विशिष्ट नेक्स्ट टोकन डिस्ट्रीब्यूशन (NTP) के बावजूद, $\mu_0$ से मार्जिन $d$ द्वारा अधिक होता है।
एपिडेमिक मॉडलिंग: मानक चेंज-पॉइंट समस्याओं के विपरीत, जहाँ एक शिफ्ट स्थायी रूप से बनी रहती है, वॉटरमार्किंग "एपिडेमिक" अंतराल बनाती है: पिवट स्टैटिस्टिक्स का माध्य एक विशिष्ट निरंतर खंड (वॉटरमार्क) के लिए ऊपर की ओर शिफ्ट होता है और उस खंड के बाहर बेसलाइन पर वापस आ जाता है।
एल्गोरिदम डिज़ाइन:
- सिंगल सेगमेंट एस्टिमेटर: एक एकल वॉटरमार्क्ड पैच के लिए, लेखक एक ऐसे एस्टिमेटर को अनुकूलित करते हैं जो एक संभावित अंतराल के बाहर 'बायस्ड सरप्लस' (biased surplus) को कम करता है। एक उम्मीदवार अंतराल के बाहर के सांख्यिकी के योग में एक बफ़र टर्म ( $\rho \tilde{d}$ ) घटाकर, एल्गोरिदम गैर-वॉटरमार्क्क्ड टोकन को शामिल करने के लिए दंडित करता है और एलिवेटेड वॉटरमार्क्क्ड टोकनों को बाहर करने के लिए पुरस्कृत करता है।
- मल्टी-सेगमेंट रणनीति (WISER): खंडों की संख्या ( $K$ $K$ ) के पूर्व ज्ञान के बिना कई खंडों को संभालने के लिए, WISER एक चार-चरणीय पाइपलाइन का उपयोग करता है:
  - ब्लॉकिंग (Blocking): टेक्स्ट को ब्लॉक्स में विभाजित किया जाता है। जिन ब्लॉक्स का योग थ्रेशोल्ड $Q$ से अधिक होता है, उन्हें बनाए रखा जाता है।
  - डिस्कार्डिंग (Discarding): रिटेन किए गए ब्लॉक्स के कनेक्टेड कंपोनेंट्स बनाए जाते हैं। छोटे कंपोनेंट्स (जो संभवतः फॉल्स पॉजिटिव हैं) को लंबाई थ्रेशोल्ड ( $c\sqrt{\log n}$ ) के आधार पर हटा दिया जाता है।
  - एनलार्जमेंट (Enlargement): शेष कनेक्टेड क्षेत्रों को $\sqrt{n}$ के कारक से विस्तारित किया जाता है ताकि यह सुनिश्चित हो सके कि वे वास्तविक वॉटरमार्क्क्ड खंडों को पूरी तरह से कवर करें।
  - रिफाइंड लोकल सर्च: इन विस्तारित क्षेत्रों के भीतर, स्टार्ट और एंड पॉइंट्स को सटीक रूप से खोजने के लिए सिंगल-सेगमेंट एस्टिमेटर लागू किया जाता है।
- कम्प्यूटेशनल दक्षता: स्क्रीनिंग चरण से प्राप्त विस्तारित क्षेत्रों तक अपने खोज स्थान को सीमित करके, WISER $O(n)$ की कम्प्यूटेशनल जटिलता प्राप्त करता है, जो इसे रैखिक समय जटिलता वाला पहला सैद्धांतिक रूप से गारंटीकृत सेगमेंटेशन एल्गोरिदम बनाता है।

प्रमुख योगदान

नवीन परिप्रेक्ष्य: यह शोध पत्र वॉटरमार्क लोकलाइजेशन और एपिडेमिक चेंज-पॉइंट डिटेक्शन के बीच एक औपचारिक संबंध स्थापित करता है, जो एक ऐसा ढांचा है जिसका इस डोमेन में पहले कम उपयोग किया गया है।
सैद्धांतिक गारंटी: लेखक 'फाइनाइट-सैंपल एरर बाउंड्स' प्रदान करते हैं और कई वॉटरमार्क्क्ड खंडों का पता लगाने के लिए WISER की निरंतरता (consistency) को सिद्ध करते हैं। थ्योरम 3.1 स्थापित करता है कि अनुमानित और वास्तविक अंतरालों के बीच का सिमेट्रिक डिफरेंस $O((\rho \tilde{d})^{-1})$ की दर से शून्य की ओर अभिसरित (converge) होता है। थ्योरम 4.1 इसे मल्टी-सेगमेंट केस तक विस्तारित करता है, जो यह सिद्ध करता है कि WISER $n \to \infty$ होने पर उच्च प्रायिकता के साथ खंडों की संख्या और उनके स्थानों की सही पहचान करता है।
एल्गोरिद्मिक नवाचार: WISER $O(n)$ कम्प्यूटेशनल दक्षता बनाए रखते हुए सामान्य मल्टी-सेगमेंट वॉटरमार्क लोकलाइजेशन के लिए प्रमाणित सैद्धांतिक वैधता प्रदान करने वाला पहला एल्गोरिदम है।
मजबूती (Robustness): यह विधि विशिष्ट LLM आर्किटेक्चर या NTP के प्रति उदासीन (agnostic) होने के लिए डिज़ाइन की गई है, जो केवल पिवट स्टैटिस्टिक्स और एलिवेटेड अल्टरनेटिव्स हाइपोथेसिस के गुणों पर निर्भर करती है।

प्रायोगिक परिणाम
विभिन्न LLMs (जैसे OPT, Gemma, Llama-3, Mistral) और विविध वॉटरमार्किंग स्कीम्स (Gumbel, Inverse Transform, Red-Green, Permute-and-Flip) का उपयोग करके विभिन्न बेंचमार्क डेटासेट्स (C4 News) पर व्यापक संख्यात्मक प्रयोग किए गए।

सटीकता: WISER ने सभी मेट्रिक्स, जिनमें इंटरसेक्शन-ओवर-यूनियन (IoU), प्रिसिजन, रिकॉल और F1-स्कोर शामिल हैं, में स्टेट-ऑफ-द-आर्ट बेसलाइन्स (Aligator, SeedBS-NOT, Waterseeker) को लगातार पछाड़ दिया। कई परिदृश्यों में, WISER ने "ओरेकल" एस्टिमेटर (जो खंडों की वास्तविक संख्या $K$ के ज्ञान को मानता है) के करीब प्रदर्शन हासिल किया।
गति: प्रायोगिक रनटाइम विश्लेषण ने $O(n)$ की सैद्धांतिक जटिलता की पुष्टि की। WISER अन्य प्रतिस्पर्धी विधियों की तुलना में काफी तेज़ था, जो अक्सर सुपर-लीनियर या क्वाड्रेटिक स्केलिंग प्रदर्शित करती हैं।
मजबूती: एल्गोरिदम ने टोकन जनरेशन में अस्थायी निर्भरता (temporal dependence) के विभिन्न स्तरों के तहत उच्च प्रदर्शन बनाए रखा और मिश्रित-स्रोत टेक्स्ट में मानवीय संपादन (प्रतिस्थापन, सम्मिलन, विलोपन) के विरुद्ध लचीलापन प्रदर्शित किया।

महत्व और दावे
यह शोध पत्र WISER को AI मॉडरेशन और कंटेंट वेरिफिकेशन के लिए एक महत्वपूर्ण उपकरण के रूप में स्थापित करता है। लेखक दावा करते हैं कि शास्त्रीय सांख्यिकीय सिद्धांत (एपिडेमिक चेंज-पॉइंट्स) को आधुनिक जनरेटिव AI चुनौतियों के साथ जोड़कर, उन्होंने एक ऐसा समाधान तैयार किया है जो सैद्धांतिक रूप से वैध और कम्प्यूटेशनल रूप से कुशल है।

इसका महत्व इस तथ्य में निहित है कि मौजूदा विधियाँ या तो लंबे दस्तावेजों पर व्यावहारिक तैनाती के लिए बहुत धीमी थीं या उनमें कठोर सांख्यिकीय गारंटी का अभाव था। लेखक इस बात पर जोर देते हैं कि उनका दृष्टिकोण विशिष्ट LLM आर्किटेक्चर के ज्ञान की आवश्यकता नहीं करता है, जो इसे मिश्रित मानव-AI टेक्स्ट वाले वास्तविक दुनिया के परिदृश्यों में वॉटरमार्क्क्ड सामग्री का पता लगाने और उसे स्थानीयकृत करने के लिए एक सामान्यीकरण योग्य समाधान बनाता है। यह कार्य पिवट स्टैटिस्टिक्स की उपयोगिता को भी रेखांकित करता है, जो वॉटरमार्क्क्ड टोकन अनुक्रमों की नॉन-स्टेशनरी प्रकृति को संभालने में सक्षम है, जो एक ऐसी विशेषता है जो इसे मानक चेंज-पॉइंट डिटेक्शन साहित्य से अलग करती है।