🤖 AI

ChainMark: Model-Free LLM Watermarking with Closed-Form Calibration

ChainMark एक मॉडल-मुक्त, सक्रिय वॉटरमार्किंग योजना पेश करता है जो हार्ड मार्कोव ट्रांज़िशन को लागू करने के लिए शब्दावली को की-आधारित अवस्थाओं (keyed states) में विभाजित करता है, जिससे डिटेक्शन मापदंडों का क्लोज्ड-फॉर्म कैलिब्रेशन सक्षम होता है और जनरेटिंग लैंग्वेज मॉडल तक पहुंच की आवश्यकता के बिना ट्रांसलेशन और सब्स्टीट्यूशन हमलों के विरुद्ध प्रमाणित मजबूती प्राप्त होती है।

मूल लेखक: Chengheng Li-Chen, Kyuhee Kim

प्रकाशित 2026-07-22

📖 8 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Chengheng Li-Chen, Kyuhee Kim

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक विशाल पुस्तकालय में घूम रहे हैं जहाँ रोबोट कहानियाँ लिख रहे हैं। कभी-कभी, ये रोबोट इतने अच्छे होते हैं कि आप यह नहीं बता पाते कि कहानी किसी इंसान ने लिखी है या मशीन ने। यह भविष्य के लिए एक बड़ी समस्या है: यदि रोबोट कुछ भी लिख सकते हैं, तो हम कैसे जानेंगे कि क्या वास्तविक है? वैज्ञानिक इसे हल करने की कोशिश कर रहे हैं, इसके लिए वे रोबोट को अपना काम चिह्नित करने का एक गुप्त तरीका दे रहे हैं, जैसे कि एक छिपा हुआ हस्ताक्षर जिसे केवल एक विशेष डिटेक्टर ही देख सके। इसे "वॉटरमार्किंग" कहा जाता है। इसे एक वाक्य के डीएनए में छिपे एक गुप्त कोड की तरह समझें।

हालाँकि, इन कोडों की जाँच करना पेचीदा रहा है। अधिकांश पुराने तरीके "पासवर्ड अनुमान लगाने" के खेल की तरह हैं जिसके लिए काम की जाँच करने के लिए स्वयं रोबोट का उपस्थित होना आवश्यक है। यदि रोबोट चला गया हो, या यदि कोई कहानी को थोड़ा बदल देता है (जैसे कि उसे दूसरी भाषा में अनुवाद करना), तो पुराने कोड अक्सर टूट जाते हैं या गायब हो जाते हैं। इसके अलावा, नियामक (वे लोग जो नियम बनाते हैं) एक सरल तरीका चाहते हैं जिससे वे कह सकें, "मुझे एक ऐसा कोड चाहिए जो 1% से कम बार गलत हो, छोटे टेक्स्ट पर काम करे, और संपादन (edits) के बाद भी बना रहे," लेकिन उनके पास इंजीनियरों को यह बताने के लिए कोई स्पष्ट सूत्र नहीं था कि उस कोड को ठीक से कैसे बनाया जाए।

यह शोध पत्र एक नया समाधान पेश करता है जिसे ChainMark कहा जाता है। यह एक चतुर, "मॉडल-फ्री" वॉटरमार्क है, जिसका अर्थ है कि आपको काम की जाँच करने के लिए रोबगर की आवश्यकता नहीं है—आपको बस एक गुप्त कुंजी (secret key) की आवश्यकता है। लेखकों ने एक ऐसा कोड बनाने का तरीका खोजा है जो एक गुप्त नृत्य की तरह कार्य करता है। वे दिखाते हैं कि यह नृत्य विशिष्ट प्रकार के हमलों के खिलाफ तोड़ना बहुत कठिन है, और वे एक स्पष्ट, गणितीय रेसिपी प्रदान करते हैं जिससे नियामक इंजीनियरों को यह बता सकें कि इसे बिल्कुल कैसे सेट किया जाए।

गुप्त नृत्य: ChainMark कैसे काम करता है

कल्पना कीजिए कि रोबोट की शब्दावली (उसके द्वारा उपयोग किए जाने वाले सभी शब्द) रंगीन टाइलों का एक विशाल डिब्बा है। ChainMark एक गुप्त कुंजी लेता है और हर एक टाइल को पाँच रंगीन डिब्बों में से एक में वर्गीकृत करता है (मान लीजिए लाल, नीला, हरा, पीला और बैंगनी)। ये डिब्बे एक घेरे में व्यवस्थित हैं, जैसे कि एक घड़ी का चेहरा: लाल → नीला → हरा → पीला → बैंगनी → लाल।

जब रोबोट कहानी लिख रहा होता है, तो ChainMark उसे कोई भी शब्द चुनने नहीं देता। कहानी के कुछ खास स्थानों पर (लगभग आधे समय), रोबोट को एक ऐसा शब्द चुनने के लिए मजबूर किया जाता है जो घेरे में अगले रंग का हो। यदि पिछला शब्द लाल था, तो अगला शब्द अनिवार्य रूप से नीला होना चाहिए। यदि पिछला नीला था, तो अगला अनिवार्य रूप से हरा होना चाहिए। रोबोट अभी भी अपने लिए सबसे अच्छा शब्द चुनता है, लेकिन उसे केवल "नीले" डिब्बे से ही चुनने की अनुमति है।

यह पाठ (text) के माध्यम से एक छिपा हुआ मार्ग, या एक "श्रृंखला" (chain) बनाता है। कहानी अनिवार्य रूप से इस रंगीन घड़ी के चारों ओर घूम रही है।

बिना रोबोट के जासूस

यही जादू वाला हिस्सा है: आपको यह जाँचने के लिए कि क्या कोई कहानी वॉटरमार्क की गई है, रोबोट की आवश्यकता नहीं है। आपको बस गुप्त कुंजी और टेक्स्ट की आवश्यकता है। एक सत्यापनकर्ता (जासूस) टेक्स्ट लेता है, गुप्त कुंजी का पता लगाता है, और प्रत्येक शब्द को उनके रंगीन डिब्बों में फिर से वर्गीकृत करता है। फिर, वे बस यह गिनते हैं कि कितनी बार रंग सही क्रम (लाल से नीला, नीला से हरा, आदि) का पालन करते हैं।

यदि कहानी किसी इंसान या बिना गुप्त कोड वाले रोबोट द्वारा लिखी गई थी, तो रंग बेतरतीब ढंग से उछलेंगे। गलती से सही क्रम प्राप्त करने की संभावना बहुत कम है (केवल 5 में से 1, या 20%)। लेकिन यदि कहानी ChainMark के साथ लिखी गई थी, तो रंग लगभग पूरी तरह से श्रृंखला का पालन करेंगे। जासूस यह गणित पलक झपकते ही कर लेता है, बिना रोबोट से मदद मांगे।

यह एक बड़ी बात क्यों है

शोध पत्र दिखाता है कि ChainMark ने उन तीन बड़ी समस्याओं को हल किया है जो अन्य तरीकों के पास थीं:

रोबोट की आवश्यकता नहीं: पुराने तरीकों में अक्सर काम की जाँच करने के लिए रोबोट के "मस्तिष्क" की आवश्यकता होती थी। ChainMark को केवल टेक्स्ट और कुंजी की आवश्यकता होती है। इसका मतलब है कि एक तीसरा पक्ष, जैसे कि नियामक या समाचार संपादक, बिना किसी कंपनी के गुप्त AI मॉडल तक पहुँच के यह जाँच सकता है कि कहानी AI-जनित है या नहीं।
परफेक्ट रेसिपी: लेखकों ने एक "क्लोज्ड-फॉर्म" (closed-form) सूत्र निकाला है। यह एक फैंसी तरीका है कहने का कि उन्होंने एक सीधा गणितीय समीकरण खोज लिया है। यदि एक नियामक कहता है, "मुझे 200 शब्दों के टेक्स्ट के लिए 1% की गलत सूचना दर (false alarm rate) चाहिए," तो इंजीनियर उन नंबरों को सूत्र में डाल सकता है और तुरंत जान सकता है कि उसे कितने रंगीन डिब्बे उपयोग करने चाहिए। अब कोई अनुमान या परीक्षण-और-त्रुटि (trial-and-error) की आवश्यकता नहीं है।
यह "अनुवाद हमले" (Translation Attack) से बच जाता है: पुराने वॉटरमार्क को तोड़ने का एक बड़ा तरीका टेक्स्ट को दूसरी भाषा (जैसे चीनी) में अनुवाद करना और फिर उसे वापस अनुवाद करना है। यह आमतौर पर गुप्त कोड को अस्त-व्यस्त कर देता है। शोध पत्र ने इसी स्थिति में ChainMark का परीक्षण किया और पाया कि यह अविश्वसनीय रूप से मजबूत है। यहाँ तक कि टेक्स्ट को चीनी में अनुवाद करने और वापस लाने के बाद भी, ChainMark ने वॉटरमार्क किए गए टेक्स्ट को 72.8% बार सही ढंग से पहचाना। इसके विपरीत, अन्य लोकप्रिय तरीकों (जिन्हें KGW और SWEET कहा जाता है) की सफलता दर समान परिस्थितियों में 20% से नीचे गिर गई।

ट्रेड-ऑफ (समझौता)

शोध पत्र ईमानदार है। इस गुप्त नृत्य को काम करने के लिए, रोबोट को शब्द चुनते समय थोड़ा अधिक प्रतिबंधित होना पड़ता है। यह टेक्स्ट को पूरी तरह से स्वतंत्र रोबोट की तुलना में थोड़ा कम "प्रवाहपूर्ण" (fluent) या स्वाभाविक बनाता है। लेखकों ने इसे "परप्लेक्सिटी" (perplexity) नामक स्कोर का उपयोग करके मापा है। ChainMark का स्कोर लगभग 3.66 था, जबकि अन्य तरीकों का स्कोर लगभग 1.80 से 1.93 के बीच था। इसका मतलब है कि ChainMark अन्य तरीकों की तुलना में लगभग दोगुना "कठोर" है, लेकिन बदले में, यह तोड़ने में बहुत कठिन और बिना रोबोट के सत्यापित करने में बहुत आसान है।

"यूनिवर्सल" सुरक्षा जाल

शोध पत्र ने यह भी खोजा कि एक "ब्लाइंड" हमलावर (वह जिसके पास गुप्त कुंजी नहीं है) के खिलाफ कोड कितना संपादन झेल सकता है। उन्होंने गणितीय रूप से सिद्ध किया कि यदि कोई शब्दों को बेतरतीब ढंग से बदल देता है (जैसे "कट और पेस्ट" हमला), तो कोड तब तक जीवित रहता है जब तक कि संपादन टेक्स्ट के 29.3% से कम हो। यह एक "यूनिवर्सल कांस्टेंट" है, जिसका अर्थ है कि इससे कोई फर्क नहीं पड़ता कि आप कितने रंगीन डिब्बे उपयोग करते हैं या टेक्स्ट कितना लंबा है; कोड उस विशिष्ट 29.3% की दीवार तक टिका रहता है।

हालाँकि, लेखक यह ध्यान दिलाते हैं कि इस सुरक्षा जाल की सीमाएँ हैं। यह यादृच्छिक बदलावों (random swaps) और अनुवाद पर लागू होता है, लेकिन यह एक "सुपर-स्मार्ट हैकर" के खिलाफ सुरक्षा की गारंटी नहीं देता जो गुप्त कुंजी जानता हो या पैटर्न को समझने के लिए डिटेक्टर से बार-बार सवाल पूछता हो। इसके अतिरिक्त, शोध पत्र ने अभी तक जटिल व्याकरण-संरक्षण वाले पुनर्लेखन (जहाँ अर्थ वही रहता है लेकिन शब्द बदल जाते हैं) का परीक्षण नहीं किया है, इसलिए हालांकि कोड अनुवाद और यादृच्छिक बदलावों के खिलाफ बहुत मजबूत है, फिर भी अन्य प्रकार के हमलों पर काम करने की गुंजाइश है।

यह क्या नहीं है

लेखक स्पष्ट करते हैं कि उनकी विधि क्या नहीं करती है। वे स्वीकार करते हैं कि यदि कोई सुपर-स्मार्ट हैकर गुप्त कुंजी जानता है या पैटर्न को समझने के लिए डिटेक्टर से बार-बार सवाल पूछता है, तो वे इसे तोड़ सकते हैं। शोध पत्र एक "ब्लाइंड" हमलावर पर केंद्रित है जिसके पास कुंजी नहीं है। साथ ही, उन्होंने अभी तक हर प्रकार के संपादन (जैसे जटिल व्याकरण संबंधी पुनर्लेखन जो अर्थ को बिल्कुल वैसा ही रखते हैं) का परीक्षण नहीं किया है, इसलिए हालांकि कोड अनुवाद और यादृच्छिक बदलावों के खिलाफ बहुत मजबूत है, फिर भी अन्य प्रकार के हमलों के विरुद्ध काम करने की आवश्यकता है।

निष्कर्ष

ChainMark एक AI लेखक को एक गुप्त, कठिन-से-तोड़ने वाला नृत्य कदम देने जैसा है जो पदचिह्नों का एक निशान छोड़ता है—बशर्ते हमलावर कुंजी के प्रति अंधा हो और हमला यादृच्छिक या अनुवाद संबंधी हो। भले ही कोई कहानी का अनुवाद करके या शब्दों को बदलकर पदचिह्नों को मिटाने की कोशिश करे, पैटर्न फिर भी दिखाई देता है यदि आपके पास गुप्त कुंजी है। सबसे महत्वपूर्ण बात यह है कि यह नियामकों को इन वॉटरमार्क्स को ठीक से स्थापित करने के लिए स्पष्ट, गणितीय निर्देश पुस्तिका देता है, बिना यह अनुमान लगाए या AI कंपनी पर निर्भर हुए कि जाँच कैसे की जाए। यह एक ऐसे भविष्य की ओर एक कदम है जहाँ हम अपने डिजिटल टेक्स्ट पर भरोसा कर सकते हैं, यह जानते हुए कि इसे किसने (या किस चीज़ ने) लिखा है।

तकनीकी सारांश: ChainMark: क्लोज्ड-फॉर्म कैलिब्रेशन के साथ मॉडल-फ्री LLM वॉटरमार्किंग

1. समस्या विवरण

यह शोध पत्र बड़े भाषा मॉडल (LLM) द्वारा जनरेट किए गए टेक्स्ट के लिए मशीन-पठनीय वॉटरमार्किंग लागू करने की तकनीकी चुनौतियों को संबोधित करता है, विशेष रूप से यूरोपीय संघ के AI अधिनियम (अनुच्छेद 50) जैसे नियामक आदेशों के संदर्भ में। लेखक मौजूदा वॉटरमार्किंग स्कीम्स (जैसे KGW, SWEET, EWD) में तीन संरचनात्मक कमियों की पहचान करते हैं जो नियामक-केंद्रित ऑडिटिंग में बाधा डालती हैं:

मॉडल-बाउंड डिटेक्शन (Model-Bound Detection): मौजूदा विधियों को अक्सर डिटेक्शन के समय जनरेटिंग मॉडल या उसकी आंतरिक स्थिति (जैसे लॉजिट्स, एंट्रॉपी) तक पहुंच की आवश्यकता होती है, जो बिना मॉडल के तीसरे पक्ष के ऑडिटरों को टेक्स्ट को सत्यापित करने से रोकता है।
क्लोज्ड-फॉर्म कैलिब्रेशन का अभाव (Lack of Closed-Form Calibration): कोई भी मौजूदा योजना यह गणितीय मैपिंग प्रदान नहीं करती है जो एक नियामक के विशिष्ट लक्ष्यों (फॉल्स-पॉजिटिव रेट $\alpha$ , न्यूनतम टेक्स्ट लंबाई $n_{min}$ , और वॉटरमार्क बजट $\rho$ ) को ठोस कॉन्फ़िगरेशन मापदंडों (जैसे वॉटरमार्क स्ट्रेंथ) में बदल सके।
भंगुर मजबूती (Brittle Robustness): वर्तमान स्कीम्स अनुवाद (जैसे चीनी बैक-ट्रांसलेशन) और रैंडम सब्स्टिट्यूशन (random substitution) जैसे सामान्य हमलों के तहत ट्रू-पॉजिटिव रेट (TPR) में महत्वपूर्ण गिरावट का सामना करती हैं, जो समान बजट पर अक्सर 20% TPR से नीचे गिर जाता है।

2. कार्यप्रणाली: ChainMark स्कीम

ChainMark एक सक्रिय वॉटरमार्किंग स्कीम है जिसे मॉडल-फ्री डिटेक्शन के लिए और क्लोज्ड-फॉर्म गणित के माध्यम से कैलिब्रेटेड करने के लिए डिज़ाइन किया गया है।

मुख्य तंत्र

स्टेट पार्टीशनिंग (State Partitioning): एक गुप्त कुंजी $\kappa$ का उपयोग एक हैश फंक्शन (SHA-256) के साथ किया जाता है ताकि प्रत्येक वोकैबुलरी टोकन $v$ को $S$ डिस्क्रीट स्टेट्स में मैप किया जा सके: $\sigma_\kappa(v) = \text{SHA-256}(\kappa \parallel v) \mod S$ । यह वोकैबुलरी को $S$ विलगित (disjoint) सेटों $V_0, \dots, V_{S-1}$ में विभाजित करता है।
क्लॉकवर्क ट्रांज़िशन (Clockwork Transition): स्टेट्स को एक निश्चित चक्र ( $s \to (s+1) \mod S$ ) में व्यवस्थित किया जाता है।
जेनरेशन (एम्बेडिंग): एक एंट्रॉपी गेट द्वारा निर्धारित टोकन पोजीशन के एक अंश $\rho$ पर, मॉडल को चक्र में अगली स्टेट से टोकन उत्सर्जित करने के लिए बाध्य किया जाता है। विशेष रूप से, लक्षित स्टेट सेट में न होने वाले टोकन के लॉजिट्स को $-\infty$ तक मास्क किया जाता है, और मॉडल शेष वैध टोकनों में से argmax चुनता है। अनगेटेड (ungated) पोजीशन पर, मॉडल स्वतंत्र रूप से सैंपल करता है।
डिटेक्शन (वेरिफिकेशन): एक वेरीफायर, जिसके पास केवल गुप्त कुंजी और टोकेनाइज़र है (कोई LLM एक्सेस नहीं), टेक्स्ट के प्रत्येक टोकन के लिए स्टेट को पुनर्गणना करता है। वेरीफायर वैध ट्रांज़िशन के अंश $\phi$ $ϕ$ की गणना करता है जहाँ स्टेट सीक्वेंस चक्र का पालन करता है।
- नल हाइपोथीसिस ( $H_0$ ): अनवॉटरमार्क्ड टेक्स्ट के लिए, ट्रांज़िशन रैंडम होते हैं, जिससे अपेक्षित वैध दर $p_0 = 1/S$ (1-रेगुलर क्लॉकवर्क चेन के लिए) प्राप्त होती है।
- अल्टरनेटिव हाइपोथीसिस ( $H_1$ ): वॉटरमार्क्ड टेक्स्ट लगभग $1/S + \rho(1 - 1/S)$ की वैध दर प्रदर्शित करता है।
- सांख्यिकीय परीक्षण: यह निर्धारित करने के लिए कि क्या टेक्स्ट वॉटरमार्क्ड है, $\phi$ पर एक मानक $z$ -टेस्ट किया जाता है। डिटेक्शन कॉम्प्लेक्सिटी $O(n)$ हैश ऑपरेशन्स है।

कैलिब्रेशन और मजबूती

क्लोज्ड-फॉर्म कैलिब्रेशन: लेखक एक फॉर्मूला $S^\star(n, \rho, \alpha)$ व्युत्पन्न करते हैं जो नियामक के लक्ष्यों को सीधे आवश्यक न्यूनतम स्टेट्स की संख्या $S$ में मैप करता है, ताकि $\le \alpha$ का फॉल्स-पॉजिटिव रेट (FPR) सुनिश्चित किया जा सके।
एम्पिरिकल रीकैलिब्रेशन (Empirical Recalibration): प्राकृतिक भाषा के टोकन के गैर-समान वितरण को ध्यान में रखने के लिए, एक वन-कॉर्पस रीकैलिब्रेशन स्टेप प्रस्तावित किया गया है। यह गैर-वॉटरमार्क्ड टेक्स्ट पर $z$ -स्कोर के एम्पिरिकल मीन और स्टैंडर्ड डेविएशन के आधार पर डिटेक्शन थ्रेशोल्ड को एडजस्ट करता है, जिससे वॉटरमार्क कॉन्फ़िगरेशन को बदले बिना लक्षित FPR बहाल होता है।
यूनिवर्सल रोबस्टनेस थ्रेशोल्ड: यह पेपर सिद्ध करता है कि यूनिफॉर्म रैंडम सब्स्टिट्यूशन के तहत, वॉटरमार्क $\delta^\star = 1 - 1/\sqrt{2} \approx 29.3\%$ के एडिट फ्रैक्शन तक जीवित रहता है। महत्वपूर्ण रूप से, यह थ्रेशोल्ड $S$ , $\rho$ , और $n$ के मापदंडों से स्वतंत्र है।

3. प्रमुख योगदान

मॉडल-फ्री डिटेक्शन: ChainMark केवल गुप्त कुंजी और टोकेनाइज़र का उपयोग करके थर्ड-पार्टी ऑडिटिंग को सक्षम बनाता है, जिससे इन्फरेंस के समय जनरेटिंग LLM की आवश्यकता समाप्त हो जाती है।
ऑपरेटर-फेसिंग कैलिब्रेशन: क्लोज्ड-फॉर्म मैप $S^\star(n, \rho, \alpha)$ का व्युत्पन्न यह अनुमति देता है कि नियामक डिटेक्शन लक्ष्यों को निर्दिष्ट करें जो सीधे डिप्लॉय करने योग्य कॉन्फ़िगरेशन में बदल जाते हैं।
मजबूती की गारंटी: सैद्धांतिक प्रमाण यूनिफॉर्म सब्स्टिट्यूशन के विरुद्ध एक यूनिवर्सल रोबस्टनेस थ्रेशोल्ड ( $\approx 29.3\%$ ) स्थापित करते हैं, जो सिस्टम मापदंडों से स्वतंत्र है।
सामान्यीकरण (Generalizability): यह फ्रेमवर्क किसी भी $k$ -रेगुलर डबली-स्टोकेस्टिक ट्रांज़िशन टोपोलॉजी तक विस्तृत है, न कि केवल सरल क्लॉकवर्क चेन तक।

4. प्रयोगात्मक परिणाम

प्रयोग तीन इंस्ट्रक्शन-ट्यून्ड LLMs (Llama-3.1-8B, Qwen-2.5-7B, Mistral-7B) पर चार डोमेन (कोड, फैक्टुअल, विकी, राइटिंग) में आयोजित किए गए।

मैच्ड-बजट प्रदर्शन: एक निश्चित वॉटरमार्क बजट ( $\rho=0.5$ $ρ = 0.5$ ) पर KGW और SWEET के मुकाबले, ChainMark ने हमलों के तहत बेसलाइन्स को काफी पीछे छोड़ दिया।
- क्लीन टेक्स्ट: ChainMark ने 100% TPR हासिल किया।
- रैंडम सब्स्टिट्यूशन ( $\delta=0.20$ ): ChainMark ने 99.9% TPR बनाए रखा, जबकि KGW और SWEET क्रमशः ~55% और ~51% पर गिर गए।
- चीनी बैक-ट्रांसलेशन: ChainMark ने 72.8% TPR बनाए रखा, जबकि KGW और SWEET 20% से नीचे गिर गए (19.4% और 18.0%)।
क्वालिटी कॉस्ट: यह मजबूती सेल्फ-परप्लेक्सिटी (ChainMark: 3.66 बनाम बेसलाइन्स: ~1.80–1.93) में वृद्धि की कीमत पर आती है।
कैलिब्रेशन वैलिडेशन: एम्पिरिकल परिणामों ने पुष्टि की कि क्लोज्ड-फॉर्म कैलिब्रेशन स्टेट काउंट्स का सही क्रम प्रदान करता है, और एम्पिरिकल रीकैलिब्रेशन ने सफलतापूर्वक फॉल्स-पॉजिटिव रेट को ~2.0% से घटाकर लक्षित 1% कर दिया, बिना ट्रू-पॉजिटिव डिटेक्शन से समझौता किए।

5. महत्व और दावे

यह पेपर दावा करता है कि ChainMark "ऑडिटेबिलिटी" की समस्या को हल करके यूरोपीय संघ के AI अधिनियम जैसे नियामक ढांचे के लिए आवश्यक तकनीकी आधार प्रदान करता है। इसका प्राथमिक महत्व निम्नलिखित में निहित है:

पॉलिसी-टू-कॉन्फ़िगरेशन मैपिंग: यह अमूर्त नियामक आवश्यकताओं (FPR, टेक्स्ट लेंथ, बजट) को ठोस, ऑडिट करने योग्य सिस्टम मापदंडों में अनुवादित करता है।
थर्ड-पार्टी ऑडिटेबिलिटी: डिटेक्शन को मॉडल से अलग करके, यह AI-जनरेटेड कंटेंट के स्वतंत्र सत्यापन की अनुमति देता है, जो पारदर्शी शासन के लिए एक पूर्व शर्त है।
रोबस्टनेस बनाम क्वालिटी ट्रेड-ऑफ: लेखक स्वीकार करते हैं कि ChainMark एक मापने योग्य क्वालिटी कॉस्ट (उच्च परप्लेक्सिटी) थोपता है, लेकिन वे तर्क देते हैं कि अनुवाद और सब्स्टिट्यूशन हमलों के खिलाफ उच्च मजबूती प्राप्त करने के लिए यह एक आवश्यक ट्रेड-ऑफ है, जिसमें वर्तमान अत्याधुनिक विधियां विफल रहती हैं।

लेखक अपनी सीमाओं के संबंध में विनम्र बने हुए हैं, यह नोट करते हुए कि वर्तमान मजबूती के दावे अनुवाद और यूनिफॉर्म सब्स्टिट्यूशन के विरुद्ध हैं, और यह स्कीम अभी तक ग्रामर-प्रिजर्विंग पैराफ्रेस अटैक (जैसे DIPPER) या एडैप्टिव डिटेक्टर-क्वेरी एक्सेस वाले विरोधियों को कवर नहीं करती है। वे यह भी रेखांकित करते हैं कि 'चिलिंग इफेक्ट' और 'फॉल्स पॉजिटिव' जोखिम विषम नुकसान (asymmetric harms) हैं जिन्हें सावधानीपूर्वक थ्रेशोल्ड कैलिब्रेशन के माध्यम से प्रबंधित किया जाना चाहिए।