🤖 AI

Agent Guide: A Simple Agent Behavioral Watermarking Framework

यह शोध पत्र "एजेंट गाइड" (Agent Guide) को प्रस्तुत करता है, जो एक नवीन व्यवहारिक वॉटरमार्किंग ढांचा है जो बुद्धिमान एजेंटों के लिए पता लगाने योग्य सांख्यिकीय पूर्वाग्रहों को उनके उच्च-स्तरीय निर्णय लेने की प्रक्रियाओं में समाहित करके ट्रैसेबिलिटी और जवाबदेही सुनिश्चित करता है, जिससे विशिष्ट कार्यों की स्वाभाविकता को बनाए रखते हुए पारंपरिक टोकन-स्तरीय वॉटरमार्किंग विधियों की सीमाओं को दूर किया जा सके।

मूल लेखक: Kaibo Huang, Zipei Zhang, Zhongliang Yang, Linna Zhou

प्रकाशित 2026-06-02

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Kaibo Huang, Zipei Zhang, Zhongliang Yang, Linna Zhou

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

एक ऐसी दुनिया की कल्पना करें जहाँ डिजिटल "रोबोट्स" (जिन्हें AI एजेंट कहा जाता है) सोशल मीडिया पर घूम रहे हैं, असली इंसानों की तरह चैट कर रहे हैं, पोस्ट लाइक कर रहे हैं और कहानियाँ शेयर कर रहे हैं। हालाँकि यह बहुत दिलचस्प है, लेकिन यह एक समस्या पैदा करता है: हम कैसे जानें कि कोई पोस्ट या क्रिया (action) एक असली इंसान की है या एक रोबोट की? और यदि किसी कंपनी ने अपने कस्टमर सर्विस के लिए एक विशेष रोबोट बनाया है, तो वे कैसे साबित करेंगे कि वह उनका ही रोबोट है और कोई नकलची नहीं?

यह पेपर इस समस्या को हल करने के लिए Agent Guide नामक एक नया टूल पेश करता है। इसे एक गुप्त, अदृश्य स्टैम्प की तरह समझें जो यह प्रमाणित करता है कि एक AI एजेंट वही है जो वह कह रहा है, बिना उसके वास्तविक काम को बदले।

यह कैसे काम करता है, इसे सरल अवधारणाओं में यहाँ समझाया गया है:

1. समस्या: "स्क्रिप्ट" बनाम "परफॉरमेंस" (अभिनय)

वर्तमान तरीके AI में वॉटरमार्किंग करने के लिए उसके द्वारा लिखे गए विशिष्ट शब्दों को देखते हैं (जैसे कि छपे हुए पन्ने पर स्याही की जाँच करना)। लेकिन AI एजेंट अलग होते हैं। वे केवल टाइप नहीं करते; वे निर्णय लेते हैं।

उपमा (Analogy): एक थिएटर नाटक की कल्पना करें।
- कंटेंट वॉटरमार्किंग (Content Watermarking) एक अभिनेता द्वारा बोले गए विशिष्ट शब्दों की जाँच करने जैसा है।
- एजेंट व्यवहार (Agent Behavior) मंच पर चलने, बैठने या दर्शकों की ओर हाथ हिलाने का निर्णय है।
- पेपर का तर्क है कि शब्दों की जाँच करना कठिन है क्योंकि जब रोबोट एक निर्णय को क्रिया में बदलता है, तो "स्क्रिप्ट" (टेक्स्ट) खो जाती है। उदाहरण के लिए, निर्णय "मैं इसे बुकमार्क करूँगा" एक जटिल वाक्य में बदल सकता है जैसे "एलिस ने #Travel टैग के साथ पोस्ट को बुकमार्क किया।" विशिष्ट शब्द बदल जाते हैं, लेकिन निर्णय (बुकमार्क) वही रहता है।

2. समाधान: "अदृश्य हाथ" (Agent Guide)

अंतिम शब्दों पर स्टैम्प लगाने के बजाय, Agent Guide निर्णय लेने की प्रक्रिया पर स्टैम्प लगाता है।

उपमा: रूलेट के खेल की कल्पना करें।
- सामान्य तौर पर, पहिया बेतरतीब ढंग से घूमता है। एजेंट अपनी पर्सनैलिटी और स्थिति के आधार पर तय करता है कि उसे क्या करना है (लाइक, शेयर, कमेंट आदि)।
- Agent Guide एक कोमल, अदृश्य हाथ की तरह काम करता है जो पहिये को थोड़ा सा झुका देता है। यह पहिये को किसी विशिष्ट नंबर पर आने के लिए मजबूर नहीं करता; यह बस कुछ नंबरों (विशिष्ट निर्णयों) को थोड़ा अधिक संभावित बनाता है।
- महत्वपूर्ण रूप से: पहिया अभी भी स्वाभाविक रूप से घूमता है। रोबोट अभी भी एक सामान्य रोबोट की तरह दिखता है। बस इसमें कुछ प्रकार के कार्यों के लिए एक छोटा, गुप्त "पसंद" (preference) होता है जिसे केवल उसका मालिक जानता है।

3. यह कैसे काम करता है (चरण-दर-चरण)

पेपर एक चक्र का वर्णन करता है जो बार-बार होता है (जैसे सोशल मीडिया यूजर का एक दिन):

सेटअप: रोबोट के पास एक "मेमोरी" होती है कि वह कौन है (उसका नाम, मूड, उम्र) और चीजों की एक सूची होती है जो वह कर सकता है (जैसे लाइक, बुकमार्क, शेयर, आदि)।
स्थिति: कुछ होता है (जैसे, वह एक मज़ेदार बिल्ली का वीडियो देखता है)।
प्राकृतिक विचार: रोबोट का दिमाग (AI) सोचता है, "हम्म, मुझे यह पसंद आ सकता है, या शायद मैं बस इसे देख लूँ।" वह प्रत्येक विकल्प को एक संभावना (probability) देता है।
गुप्त झुकाव (वॉटरमार्किंग): Agent Guide मॉड्यूल हस्तक्षेप करता है। वह कहता है, "हे, इस विशेष दौर के लिए, आइए 'बुकमार्किंग' को थोड़ा अधिक संभावित बनाते हैं।" यह संभावनाओं को थोड़ा समायोजित करता है।
क्रिया (Action): रोबol नए ऑड्स (odds) के आधार पर एक क्रिया चुनता है। यदि वह "बुकमार्किंग" चुनता है, तो वह इसे स्वाभाविक रूप से करता है। जिस तरह से वह बुकमार्क करता है (टैग, शब्द), वह 100% प्राकृतिक और अपरिवर्तित रहता है।
दोहराव: यह सैकड़ों बार होता है। हर बार, "अदृश्य हाथ" रोबोट को निर्णयों के एक विशिष्ट पैटर्न की ओर धकेलता है।

4. गुप्त बात को पकड़ना (Detection)

आप कैसे साबित करेंगे कि वॉटरमार्क वहाँ है? आप शब्दों को नहीं देखते; आप समय के साथ चुनावों के पैटर्न को देखते हैं।

उपमा: एक जासूस की कल्पना करें जो कैसीनो देख रहा है।
- यदि कोई खिलाड़ी केवल अनुमान लगा रहा है, तो वह रैंडमली "लाल" और "काला" हिट करेगा।
- यदि कोई पहिये को झुकाकर धोखाधड़ी कर रहा है, तो वह संयोग से कहीं अधिक बार "लाल" हिट करेगा।
- पेपर एक गणितीय उपकरण का उपयोग करता है जिसे Z-statistic कहा जाता है। यह गिनता है कि कितनी बार रोबोट ने "झुके हुए" (tilted) विकल्पों को चुना। यदि गिनती पर्याप्त अधिक है, तो गणित साबित करता है, "हाँ, यह रोबोट हमारे गुप्त गाइड का पालन कर रहा है।" यदि गिनती कम है, तो यह केवल एक सामान्य रोबोट है।

5. उन्होंने क्या पाया

शोधकर्ताओं ने विभिन्न प्रकार के रोबोट्स (कुछ सक्रिय, कुछ उदास, कुछ खुश) के साथ एक नकली सोशल मीडिया वातावरण में इसका परीक्षण किया।

परिणाम: उन्होंने पाया कि अलग-अलग व्यक्तित्वों के बावजूद, "झुके हुए" (tilted) रोबोट्स को गणितीय उपकरण द्वारा आसानी से पहचाना जा सकता था।
सुरक्षा: "गलत अलार्म" (false alarm) की दर बहुत कम थी। इसका मतलब है कि उन्होंने शायद ही कभी किसी सामान्य, गैर-वॉटरमार्क्ड रोबोट पर गुप्त एजेंट होने का आरोप लगाया।

सारांश

Agent Guide एक तरीका है जिससे AI एजेंट के शब्दों के बजाय उसके चुनावों के भीतर एक गुप्त हस्ताक्षर छिपाया जाता है। यह एक रोबोट को एक सूक्ष्म, गुप्त आदत देने जैसा है (जैसे कि एक सामान्य रोबोट की तुलना में चीजों को "बुकमार्क" करने को थोड़ा अधिक बार चुनना) जिसे केवल उसका मालिक बाद में उसके व्यवहार के दीर्घकालिक पैटर्न को देखकर पहचान सकता है। यह हानिकारक रोबोट्स की पहचान करने या कस्टम-निर्मित AI सिस्टम के स्वामित्व की रक्षा करने में मदद करता है।

तकनीकी सारांश: एजेंट गाइड – एक सरल एजेंट व्यवहारिक वॉटरमार्किंग फ्रेमवर्क

समस्या विवरण

डिजिटल पारिस्थितिकी तंत्रों में, विशेष रूप से सोशल मीडिया प्लेटफॉर्म पर, इंटेलिजेंट एजेंटों की तीव्र तैनाती ने—जो लार्ज लैंग्वेज मॉडल्स (LLMs) द्वारा संचालित हैं—ट्रेसेबिलिटी (पता लगाने की क्षमता) और जवाबदेही के संबंध में गंभीर चुनौतियां पैदा कर दी हैं। जबकि एजेंट मानवीय अंतःक्रियाओं के अनुकरण के लिए परिवर्तनकारी क्षमताएं प्रदान करते हैं, वे दुर्भावनापूर्ण अभिनेताओं को उपयोगकर्ताओं का रूप धारण करने, दुष्प्रचार फैलाने और जनमत को प्रभावित करने में भी सक्षम बनाते हैं। इसके अलावा, प्रोप्रायटरी (स्वामित्व वाले) एजेंट सिस्टम अनधिकृत प्रतिकृति (unauthorized replication) और बौद्धिक संपदा चोरी के जोखिमों का सामना करते हैं।

मौजूदा वॉटरमार्किंग तकनीकें इन एजेंट-विशिष्ट खतरों को संबोधित करने के लिए अपर्याप्त हैं। पारंपरिक विधियां दो श्रेणियों में आती हैं:

प्रशिक्षण-चरण संशोधन (Training-phase modifications): मॉडल वेट्स (weights) में बदलाव करना, जो उन एजेंटों के लिए अव्यावहारिक है जो प्री-ट्रेंड LLM APIs (जैसे, GPT-4, Deepseek) पर निर्भर हैं जहाँ प्रशिक्षण प्रक्रियाओं तक पहुँच नहीं होती है।
टोकन-स्तरीय हेरफेर (Token-level manipulation): लॉगिट्स जनरेशन या टोकन सैंपलिंग के दौरान वॉटरमार्क एम्बेड करना। ये दृष्टिकोण उच्च-स्तरीय एजेंट व्यवहारों को कैप्चर करने में विफल रहते हैं क्योंकि व्यवहार (जैसे, "बुकमार्क करने का निर्णय लेना") टोकन संरचनाओं के साथ रैखिक रूप से संरेखित नहीं होते हैं। एक एकल व्यवहारिक निर्णय अक्सर कई टोकन तक फैला होता है, और उच्च-स्तरीय इरादे से विशिष्ट क्रियाओं में अनुवाद के परिणामस्वरूप महत्वपूर्ण सूचना हानि होती है, जिससे टोकन-आधारित वॉटरमार्क को निकालना या सत्यापित करना कठिन हो जाता है।

वर्तमान में AI एजेंटों के नेटवर्क व्यवहारों के लिए विशेष रूप से डिज़ाइन की गई कोई वॉटरमार्किंग तकनीक उपलब्ध नहीं है, जिसके लिए कंटेंट-आधारित ट्रेसिंग से व्यवहार-आधारित ट्रेसिंग की ओर बढ़ने की आवश्यकता है।

कार्यप्रणाली: एजेंट गाइड (Agent Guide)

लेखक एजेंट गाइड का प्रस्ताव करते हैं, जो एक अभिनव व्यवहारिक वॉटरमार्किंग फ्रेमवर्क है जो एजेंट संचालन को दो अलग-अलग स्तरों में विभाजित करता है: व्यवहार (उच्च-स्तरीय निर्णय, जैसे, बुकमार्क चुनना) और क्रिया (विशिष्ट निष्पादन, जैसे, विशिष्ट टैग के साथ बुकमार्क करना)। यह फ्रेमवर्क उच्च-स्तरीय व्यवहारों की संभाव्यता वितरण (probability distribution) को निर्देशित करके वॉटरमार्क एम्बेड करता है, जबकि विशिष्ट क्रिया आउटपुट की स्वाभाविकता को बनाए रखता है।

फ्रेमवर्क आर्किटेक्चर

यह प्रणाली कई राउंडों ( $N$ ) में एक सिम्युलेटेड वातावरण में कार्य करती है, जिसमें निम्नलिखित घटक शामिल हैं:

मेमोरी मॉड्यूल (Memory Module): यह एजेंट के व्यक्तित्व (नाम, आयु, मूड, लक्षण) और पिछले घटनाओं, व्यवहारों और क्रियाओं की एक रिफ्लेक्टिव मेमोरी को संग्रहीत करता है। यह एक पूर्व-निर्धारित व्यवहार सूची $B = \{b_1, b_2, ..., b_m\}$ को भी बनाए रखता है।
इवेंट जनरेशन (Event Generation): एक LLM एजेंट के व्यक्तित्व और मेमोरी के आधार पर एक प्रासंगिक घटना ( $e_r$ ) उत्पन्न करता है।
व्यवहार संभाव्यता जनरेशन (Behavior Probability Generation): LLM वर्तमान घटना और मेमोरी को देखते हुए व्यवहार सूची $B$ पर एक सामान्यीकृत संभाव्यता वितरण ( $P_r$ ) आउटपुट करता है।
एजेंट गाइड मॉड्यूल (वॉटरमार्क एम्बेडिंग): यह मुख्य घटक है। यह संभाव्यता वितरण पर वॉटरमार्क-निर्देशित बायस (biases) लागू करता है:
- चयन (Selection): एक गुप्त कुंजी $k$ और वर्तमान राउंड $r$ के आधार पर, व्यवहारों का एक उपसमुच्चय $B_g \subseteq B$ चुना जाता है।
- बायसिंग (Biasing): $B_g$ के व्यवहारों की संभाव्यता को एक बायस स्ट्रेंथ $\gamma$ द्वारा बढ़ाया जाता है: $p'(b_i) = p(b_i) + \gamma \cdot p(b_i)$ ।
- बाधाएं (Constraints): मजबूती सुनिश्चित करने के लिए, बायस स्ट्रेंथ ( $\gamma_{min}$ ) और निर्देशित व्यवहारों की संख्या ( $n_{min}$ ) के लिए न्यूनतम थ्रेशोल्ड लागू किए जाते हैं।
- नॉर्मलाइजेशन (Normalization): वितरण को 1 के योग तक सामान्यीकृत किया जाता है।
- चयन (Selection): बायस्ड वितरण से एक व्यवहार $b^*$ यादृच्छिक रूप से चुना जाता है।
क्रिया निष्पादन (Action Execution): LLM चयनित व्यवहार $b^*$ के अनुरूप एक विशिष्ट क्रिया ( $a_r$ ) उत्पन्न करता है, यह सुनिश्चित करते हुए कि आउटपुट प्राकृतिक और प्रासंगिक बना रहे।
मेमोरी अपडेट (Memory Update): टुपल $(e_r, b^*, a_r)$ को अगले राउंड के लिए रिफ्लेक्टिव मेमोरी में संग्रहीत किया जाता है।

वॉटरमार्क निष्कर्षण (Watermark Extraction)

डिटेक्शन विशिष्ट टेक्स्ट आउटपुट के निरीक्षण के बजाय सांख्यिकीय विश्लेषण पर निर्भर करता है। डिटेक्टर इस बात की परिकल्पना करता है कि क्या एजेंट का व्यवहार वितरण निर्देशित किया गया है।

शून्य परिकल्पना ( $H_0$ ): एजेंट वॉटरमार्क रहित है; निर्देशित उपसमुच्चय $B_g$ से व्यवहार चुनने की संभाव्यता $p_0 = |B_g|/|B|$ है।
टेस्ट स्टैटिस्टिक (Test Statistic): $N$ राउंड में $B_g$ के भीतर गिरने वाले व्यवहारों की देखी गई आवृत्ति ( $X$ ) के आधार पर एक z-स्टैटिस्टिक की गणना की जाती है:
$z = \frac{X - \mu_0}{\sigma_0}$
जहाँ $\mu_0 = N \cdot p_0$ और $\sigma_0 = \sqrt{N \cdot p_0 \cdot (1 - p_0)}$ है।
निर्णय (Decision): यदि $z$ एक थ्रेशोल्ड $\tau$ (जैसे, $\alpha = 0.05$ के अनुरूप) से अधिक हो जाता है, तो $H_0$ को खारिज कर दिया जाता है, जो वॉटरमार्क की उपस्थिति की पुष्टि करता है।

मुख्य योगदान

प्रथम व्यवहारिक वॉटरमार्किंग फ्रेमवर्क: एजेंट गाइड पहला ऐसा तकनीक है जो विशेष रूप से AI एजेंटों के नेटवर्क व्यवहारों को लक्षित करता है, जो कंटेंट-आधारित वॉटरमार्किंग से आगे बढ़कर उच्च-स्तरीय निर्णय पैटर्न पर ध्यान केंद्रित करता है।
विकेंदित एम्बेडिंग रणनीति (Decoupled Embedding Strategy): व्यवहार (निर्णय) को क्रिया (निष्पादन) से अलग करके, यह फ्रेमवर्क जेनरेटेड क्रियाओं की स्वाभाविकता से समझौता किए बिना एजेंट के निर्णय संभाव्यता वितरण में पता लगाने योग्य मार्कर सफलतापूर्वक एम्बेड करता है।
व्यावहारिक और स्केलेबल समाधान: यह विधि उन एजेंटों के लिए डिज़ाइन की गई है जो प्री-ट्रेंड LLM APIs का उपयोग करते हैं, जिससे मॉडल रिट्रेनिंग या वेट मॉडिफिकेशन की आवश्यकता नहीं होती है। यह दुर्भावनापूर्ण एजेंटों की पहचान करने और प्रोप्रायटरी सिस्टम की सुरक्षा के लिए एक व्यवहार्य समाधान प्रदान करता है।
अनुभवजन्य सत्यापन (Empirical Validation): विविध एजेंट प्रोफाइल के माध्यम से विश्वसनीय डिटेक्शन और कम फाल्स पॉजिटिव रेट के साथ इस फ्रेमवर्क को व्यापक प्रयोगों के माध्यम से सत्यापित किया गया।

प्रयोगात्मक परिणाम

लेखकों ने सोशल मीडिया सिमुलेशन परिदृश्य में $N=50$ राउंड प्रति एजेंट के साथ एजेंट गाइड का मूल्यांकन किया।

सेटअप: छह एजेंट प्रोफाइल का परीक्षण किया गया, जो गतिविधि (सक्रिय, निष्क्रिय) और मूड (शांत, आनंदित, उदास) के आधार पर भिन्न थे। व्यवहार सूची में छह क्रियाएं शामिल थीं: लाइक करना, बुकमार्क करना, शेयर करना, कमेंट करना, ब्राउज़ करना और डाउनलोड करना।
पैरामीटर्स: एक निश्चित कुंजी ( $k=2025$ ), न्यूनतम वॉटरमार्क स्ट्रेंथ ( $\gamma_{min}=0.5$ ), और न्यूनतम व्यवहार सूची आकार ( $n_{min}=3$ ) का उपयोग किया गया। डिटेक्शन थ्रेशोल्ड को $z=2$ ( $\alpha=0.05$ ) पर सेट किया गया था।
प्रदर्शन:
- गैर-वॉटरमार्क्ड एजेंट: z-स्टैटिस्टिक्स के करीब (0.00 से 1.41 तक) उत्पादन किया, जिसके परिणामस्वरूप "No" डिटेक्शन (फाल्स अलार्म दर प्रभावी रूप से 0) हुआ।
- वॉटरमार्क्ड एजेंट: लगातार उच्च z-स्टैटिस्टिक्स (3.96 से 4.81 तक) उत्पन्न किए, जिसके परिणामस्वरूप "Yes" डिटेक्शन हुआ।
- मजबूती (Robustness): पद्धति ने सभी व्यक्तित्व प्रकारों (सक्रिय/निष्क्रिय, शांत/आनंदित/उदास) में उच्च डिटेक्शन प्रभावकारिता बनाए रखी, जिसमें वॉटरमार्क्ड एजेंटों के लिए औसत z-स्टैटिस्टिक्स लगातार 4.0 से अधिक रहा।

महत्व और दावे

पेपर का दावा है कि एजेंट गाइड एजेंट वॉटरमार्किंग के लिए एक व्यावहारिक और मजबूत समाधान प्रदान करता है, जो वर्तमान साइबर सुरक्षा और कॉपीराइट संरक्षण तंत्रों के बीच एक महत्वपूर्ण अंतर को भरता है। व्यवहारिक परत पर ध्यान केंद्रित करके, फ्रेमवर्क डिजिटल पारिस्थितिकी तंत्र में व्यापक ट्रैसेबिलिटी और जवाबदेही सुनिश्चित करता है।

लेखक जोर देते हैं कि उनका दृष्टिकोण विशेष रूप से महत्वपूर्ण है क्योंकि:

यह कंटेंट विश्लेषण पर निर्भर किए बिना दुष्प्रचार फैलाने वाले दुर्भावनापूर्ण एजेंटों की पहचान करने में सक्षम बनाता है, जिसे आसानी से बदला जा सकता है।
यह व्यवहारिक पैटर्न में स्वामित्व मार्कर एम्बेड करके प्रोप्रायटरी एजेंट सिस्टम (जैसे वित्त या स्वास्थ्य सेवा में) को अनधिकृत प्रतिकृति से सुरक्षित करता है।
यह वास्तविक दुनिया के परिदृश्यों में प्रभावी ढंग से कार्य करता है जहाँ एजेंट प्री-ट्रेंड LLM APIs के साथ इंटरैक्ट करते हैं, जो एक ऐसी बाधा है जो पारंपरिक ट्रेनिंग-आधारित वॉटरमार्किंग को अव्यावहारिक बनाती है।

कार्य निष्कर्ष निकालता है कि व्यवहारिक वॉटरमार्किंग, कंटेंट वॉटरमार्किंग का एक आवश्यक पूरक है, जो एजेंट के इरादे और दीर्घकालिक प्रभाव के बारे में गहरी अंतर्दृष्टि प्रदान करती है।