🤖 AI

Chronology of Multi-Agent Interactions for Provenance of Evolving Information

यह शोध पत्र सहयोगी मल्टी-एजेंट सिस्टम द्वारा जनरेट की गई सामग्री के मूल स्रोत (प्रोवेनेंस) को ट्रैक करने और उसका लेखा-जोखा रखने के लिए "सिंबोलिक क्रॉनिकल्स" का उपयोग करते हुए एक पोस्ट हॉक एट्रिब्यूशन सिस्टम प्रस्तावित करता है, जो आंतरिक मेमोरी या बाहरी मेटाडेटा पर निर्भर किए बिना, सिंथेटिक सामग्री में सीधे हस्ताक्षरित, टाइम-स्टैम्प किए गए रिकॉर्ड को एम्बेड करके जवाबदेही को सक्षम बनाता है।

मूल लेखक: Ching-Chun Chang, Isao Echizen

प्रकाशित 2026-05-01

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Ching-Chun Chang, Isao Echizen

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि लेखकों का एक समूह एक मेज के चारों ओर बैठा है, जो एक कहानी को मिलकर लिखने के लिए एक ही नोटबुक एक-दूसरे को थमा रहे हैं। लेखक A एक पैराग्राफ शुरू करता है, फिर उसे लेखक B को देता है, जो उसमें संपादन (edit) करता है, फिर लेखक C को, जो उसका आधा हिस्सा फिर से लिखता है, और इसी तरह आगे बढ़ता है। जब तक कहानी पूरी होती है, अंतिम पाठ एक सुसंगत रचना जैसा दिखता है। लेकिन यदि आप नोटबुक को देखें, तो यह बताना असंभव है कि किसने कौन सा हिस्सा लिखा था, या किस क्रम में लिखा गया था। मूल योगदान को ओवरराइट कर दिया गया है, जिससे इतिहास का कोई निशान नहीं बचा।

यह शोध पत्र ठीक इसी समस्या पर काम करता है, लेकिन इंसानी लेखकों के बजाय AI एजेंटों के साथ। जैसे-जैसे कई AI मॉडल सामग्री बनाने के लिए सहयोग करते हैं, "किसने क्या किया" का इतिहास अक्सर गायब हो जाता है। लेखक एक चतुर समाधान प्रस्तावित करते हैं: एक ऐसी प्रणाली जो कहानी के भीतर ही हर बातचीत की "रसीद" (receipt) को छिपा देती है, जिसके लिए किसी बाहरी लॉग या मेटाडेटा की आवश्यकता नहीं होती।

यहाँ उनका सिस्टम कैसे काम करता है, इसे सरल अवधारणाओं में विभाजित किया गया है:

1. समस्या: "इरेज़र" (Eraser) प्रभाव

एक सामान्य मल्टी-एजेंट AI चेन में, जब एक नया एजेंट किसी कार्य को संभालता है, तो वह अक्सर प्रवाह को बेहतर बनाने के लिए पिछले टेक्स्ट को फिर से लिख देता है। यह एक ऐसे चित्रकार की तरह है जो किसी गलती को सुधारने के लिए पिछले कलाकार के काम के ऊपर नया रंग लगा देता है। अंततः, कैनवास ताजे पेंट से ढक जाता है, और मूल परतें गायब हो जाती हैं। यदि आप जानना चाहते हैं कि किसने क्या चित्रित किया था, तो आप केवल अंतिम चित्र को देखकर ऐसा नहीं कर सकते; आपको इतिहास को ट्रैक करने के लिए एक अलग नोटबुक (मेटाडेटा) की आवश्यकता होगी। लेकिन क्या होगा यदि वह नोटबुक खो जाए, डिलीट हो जाए, या पेंटिंग से अलग हो जाए? इतिहास हमेशा के लिए चला जाएगा।

2. समाधान: "अदृश्य स्याही" का वृत्तांत (Chronicle)

लेखक एक प्रणाली प्रस्तावित करते हैं जिसे क्रोनिकल (Chronicle) कहा जाता है। इसे एक गुप्त कोड के रूप में सोचें जो दृश्य टेक्स्ट के बजाय "अदृश्य स्याही" (शब्दों के चयन में सांख्यिकीय पैटर्न) का उपयोग करके कहानी में लिखा जाता है।

द कोडबुक (The Codebook): कल्पना कीजिए कि एक विशाल शब्दकोश है जहाँ प्रत्येक शब्द को एक विशिष्ट रंग सौंपा गया है। लेखकों के प्रत्येक संभावित संयोजन (जैसे, "लेखक 1 फिर लेखक 2 फिर लेखक 3") के लिए, उस अनुक्रम के लिए एक अद्वितीय "रंग पैटर्न" निर्धारित किया गया है।
द बायस (The Bias): जब एक AI एजेंट अगला वाक्य लिखने वाला होता है, तो सिस्टम उसे फुसफुसाता है: "कहानी के इस विशिष्ट क्षण के लिए, कृपया हमारे गुप्त रंग पैटर्न से मेल खाने वाले शब्दों का उपयोग करने की ओर थोड़ा झुकाव रखें।"
परिणाम: AI अभी भी एक स्वाभाविक दिखने वाली कहानी लिखता है, लेकिन वह अवचेतन रूप से सामान्य शब्दों की तुलना में थोड़े अलग शब्दों का चुनाव करता है। ये सूक्ष्म चुनाव एक छिपे हुए फिंगरप्रिंट की तरह काम करते हैं जो कहते हैं, "इसे एजेंट A, फिर एजेंट B, और फिर एजेंट C द्वारा लिखा गया था।"

3. फीडबैक लूप: रसीद को अपडेट करना

यह सिस्टम एक रिले रेस की तरह काम करता है जहाँ बैटन (baton) एक गुप्त संदेश है।

शुरुआत: कहानी एक खाली स्लेट (एक "नल" एजेंट) के साथ शुरू होती है।
चरण 1: एजेंट 1 थोड़ा लिखता है। सिस्टम गुप्त संदेश को अपडेट करता है ताकि इसमें "एजेंट 1" शामिल हो सके और इस नए संदेश को उनके द्वारा लिखे गए टेक्स्ट में एम्बेड (embed) कर देता है।
चरण 2: एजेंट 2 टेक्स्ट को पढ़ता है, छिपे हुए "एजेंट 1" संदेश को देखता है, और सिस्टम संदेश को "एजेंट 1 → एजेंट 2" में अपडेट करता है। वे फिर अगला भाग लिखते हैं, और इस नए संयुक्त संदेश को अपने टेक्स्ट में एम्बेड करते हैं।
दोहराव: यह प्रक्रिया चलती रहती है। हर बार जब टेक्स्ट जेनरेट किया जाता है, तो पूरे इतिहास की "रसीद" को अपडेट किया जाता है और नए शब्दों में फिर से एम्बेड किया जाता है।

4. जासूसी कार्य: कहानी को डिकोड करना

बाद में, यदि कोई कहानी का इतिहास जानना चाहता है, तो उन्हें मूल लॉग की आवश्यकता नहीं होती। वे बस अंतिम टेक्स्ट लेते हैं और उसका सांख्यिकीय विश्लेषण (statistical analysis) करते हैं।

डिकोडर उपयोग किए गए शब्दों को देखता है और पूछता है: "क्या ये शब्द 'एजेंट 1 फिर 2 फिर 3' के पैटर्न से मेल खाते हैं?"
क्योंकि AI को उस विशिष्ट इतिहास के लिए विशिष्ट शब्द चुनने के लिए पक्षपाती (biased) बनाया गया था, इसलिए सांख्यिकीय पैटर्न इतना मजबूत होगा कि वह सटीक अनुक्रम को प्रकट कर सके, भले ही टेक्स्ट को कई बार संपादित या पुन: लिखा गया हो।

5. ट्रेड-ऑफ: स्पष्टता बनाम पूर्णता

यह शोध पत्र रेडियो ट्यून करने की तरह एक संतुलन को उजागर करता है:

मजबूत सिग्नल (उच्च बायस): यदि आप AI को गुप्त कोड का सख्ती से पालन करने के लिए कहते हैं, तो इतिहास को पढ़ना आसान है (उच्च सटीकता)। हालांकि, कहानी थोड़ी कृत्रिम या अप्राकृतिक लग सकती है क्योंकि AI को विशिष्ट शब्द चुनने के लिए मजबूर किया जाता है।
कमजोर सिग्नल (कम बायस): यदि आप AI को स्वतंत्र रूप से लिखने देते हैं, तो कहानी स्वाभाविक लगती है, लेकिन छिपा हुआ कोड धुंधला और पता लगाने में कठिन होता है, विशेष रूप रूप से यदि टेक्स्ट को संपादित किया गया हो या शब्दों को बदला गया हो (जैसे पर्यायवाची प्रतिस्थापन)।

6. प्रयोगों ने क्या दिखाया

शोधकर्ताओं ने एक छोटी सी AI "लेखकों" के समूह (2 से 4 एजेंट) के साथ एक कहानी लिखने के चरणों का परीक्षण किया।

सटीकता (Accuracy): जब उन्होंने एक मजबूत "बायस" (AI को कोड का बारीकी से पालन करने के लिए कहना) का उपयोग किया, तो वे पुन: लेखन के कई दौरों के बाद भी, किसने क्या लिखा था, इसके इतिहास को लगभग पूरी तरह से पुनर्निर्मित कर सके।
मजबूती (Robustness): उन्होंने शब्दों को पर्यायवाची शब्दों से बदलकर (जैसे "खुश" को "आनंदित" में बदलना) सिस्टम को "तोड़ने" की कोशिश की। यदि बायस मजबूत था तो सिस्टम अच्छा प्रदर्शन करता रहा, लेकिन यदि बायस कमजोर था तो इसे संघर्ष करना पड़ा।
जटिलता (Complexity): कठिन हिस्सा गणित है। जैसे-जैसे आप अधिक एजेंट जोड़ते हैं या कहानी लंबी होती जाती है, संभावित इतिहासों की संख्या बहुत बढ़ जाती है (जैसे अधिक डायल वाले कॉम्बिनेशन लॉक का अनुमान लगाना)। यह डिकोडिंग प्रक्रिया को बहुत अधिक गणनात्मक रूप से भारी बना देता है।

सारांश

संक्षेप में, यह शोध पत्र एक तरीका पेश करता है जिससे AI-जनरेटेड टेक्स्ट के DNA में एक टाइम-स्टैम्प किया गया, हस्ताक्षरित इतिहास समाहित किया जा सके। बाहरी फाइलों पर निर्भर रहने के बजाय जो खो सकती हैं, इतिहास को स्वयं सामग्री के ताने-बाने में बुना गया है, जिससे कोई भी अंतिम उत्पाद को देखकर यह पता लगा सकता है कि किस AI एजेंट ने इसमें योगदान दिया और किस क्रम में दिया।

यहाँ शोध पत्र "Chronology of Multi-Agent Interactions for Provenance of Evolving Information" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

जैसे-जैसे आर्टिफिशियल इंटेलिजेंस स्वायत्त मल्टी-एजेंट सिस्टम (multi-agent systems) की ओर बढ़ रहा है, सामग्री (content) तेजी से सहयोगात्मक श्रृंखलाओं (collaborative chains) के माध्यम से उत्पन्न हो रही है जहाँ एजेंट एक-दूसरे के योगदान को संशोधित, विस्तारित या ओवरराइट (overwrite) करते हैं। एक महत्वपूर्ण चुनौती प्रोवेनेंस ट्रैकिंग (provenance tracking) में आती है: यह निर्धारित करना कि प्रत्येक चरण में किस विशिष्ट एजेंट ने सामग्री में योगदान दिया था।

मुख्य मुद्दा: एक जेनेरेटिव चेन में, बाद के एजेंट अक्सर कथा प्रवाह या निरंतरता बनाए रखने के लिए पूर्ववर्ती सामग्री को ओवरराइट कर देते हैं। यह प्रक्रिया पिछले योगदानों के निशानों को मिटा देती है, जिससे अंतिम आउटपुट में उसके विकासवादी इतिहास का कोई अंतर्निहित रिकॉर्ड नहीं रह जाता।
मौजूदा विधियों की सीमाएँ:
- मेटाडेटा/लॉग्स (Metadata/Logs): बाहरी लॉग्स (चेन ऑफ कस्टडी) नाजुक होते हैं; वे ट्रांसफर के दौरान सामग्री से अलग हो सकते हैं या दूषित हो सकते हैं।
- फिंगरप्रिंटिंग (Fingerprinting): क्रिप्टोग्राफिक हैशिंग सामग्री के परिवर्तनों के प्रति बहुत संवेदनशील है (मामूली संपादन से भी टूट जाती है), जबकि परसेप्चुअल हैशिंग (perceptual hashing) में विशिष्टता का अभाव होता है।
- वॉटरमार्किंग (Watermarking): मानक ज़ीरो-बिट वॉटरमार्किंग सामग्री को एक एकल स्रोत के रूप में असाइन करती है और सहयोगात्मक श्रृंखला में कई एजेंटों के टेम्पोरल ऑर्डर (कालानुक्रमिक क्रम) को निर्धारित करने में संघर्ष करती है।

यह शोध पत्र एक ऐसी विधि seeks करता है जो एजेंट इंटरैक्शन के हस्ताक्षरित, टाइम-स्टैम्प किए गए रिकॉर्ड को सीधे उत्पन्न टेक्स्ट के भीतर ही एम्बेड कर सके, बिना किसी बाहरी मेटाडेटा या आंतरिक मेमोरी स्टेट पर निर्भर रहे।

2. कार्यप्रणाली: क्रोनोलॉजिकल सिस्टम (Methodology: The Chronological System)

लेखक सिंबोलिक क्रॉनिकल्स (Symbolic Chronicles) पर आधारित एक प्रणाली प्रस्तावित करते हैं, जो बायस्ड टोकन सैंपलिंग (biased token sampling) के माध्यम से टेक्स्ट के भीतर एक स्टेग्नोग्राफिक "चेन ऑफ कस्टडी" के रूप में कार्य करती है।

A. मुख्य अवधारणाएँ (Core Concepts)

क्रॉनिकल ( $x$ ): लंबाई $T$ (जेनरेशन स्टेप्स की संख्या) वाली एक सिंबोलिक अनुक्रम, जहाँ प्रत्येक प्रतीक $x_t \in \{0, 1, \dots, n\}$ उस एजेंट की पहचान को दर्शाता है जो टाइमस्टेप $t$ पर सक्रिय था (0 एक खाली/अनअसाइंड एजेंट को दर्शाता है)।
कोडबुक ( $C$ ): एक मैपिंग जहाँ प्रत्येक वैध क्रॉनिकल $x$ $x$ एक अद्वितीय बाइनरी कोडवर्ड $c(x)$ $c (x)$ से जुड़ा होता है जिसकी लंबाई $|V|$ $∣ V ∣$ (वोकैबुलरी का आकार) होती है।
- कोडवर्ड वोकैबुलरी के एक स्पार्स सबसेट को चिह्नित करता है (उदाहरण के लिए, 50% टोकन को "मार्क्ड" के रूप में 1 के साथ चिह्नित किया जाता है)।
- सिस्टम एक स्केलेबल कंस्ट्रक्शन स्ट्रैटेजी का उपयोग करता है: एक कम आयाम $d$ में अद्वितीय बेस कोडवर्ड बनाना और फिर उन्हें रिपिटिशन और पैडिंग के माध्यम से पूर्ण वोकैबुलरी साइज तक विस्तारित करना।

B. फीडबैक लूप (The Feedback Loop)

सिस्टम तीन घटकों वाले एक रिकर्सिव फीडबैक लूप के माध्यम से संचालित होता है:

एनकोडर (जनरेशन):
- टाइमस्टेप $t$ पर, सिस्टम वर्तमान क्रॉनिकल स्टेट के अनुरूप कोडवर्ड $c(x^{(t)})$ को प्राप्त करता है।
- एजेंट (LLM) प्रॉम्प्ट के आधार पर टेक्स्ट जेनरेट करता है।
- बायसिंग (Biasing): एनकोडर मॉडल के लॉजिट्स (logits) को संशोधित करता है। वोकैबुलरी में प्रत्येक टोकन $v$ के लिए, यदि कोडवर्ड का संबंधित बिट 1 है, तो एक बायस $\delta$ को लॉजिट में जोड़ा जाता है ( $\tilde{\ell}_v = \ell_v + \delta$ )।
- यह सैंपलिंग प्रोबेबिलिटी को वर्तमान क्रॉनिकल से जुड़े टोकन की ओर बायस करता है, जिससे एजेंट की पहचान और पिछले इंटरैक्शन का इतिहास टेक्स्ट डिस्ट्रीब्यूशन में एम्बेड हो जाता है।
डिकोडर (रिट्रीवल):
- उत्पन्न टेक्स्ट को देखते हुए, डिकोडर उसे टोकनाइज़ करता है।
- यह कोडबुक के प्रत्येक संभावित वैध क्रॉनिकल के लिए "मार्क्ड" टोकन की फ्रीक्वेंसी की गणना करता है।
- जिस क्रॉनिकल में टोकन की फ्रीक्वेंसी सबसे अधिक होती है, उसे पुनर्निर्मित इतिहास ( $\hat{x} = \arg \max_x f(x)$ ) के रूप में चुना जाता है।
अपडेट मैकेनिज्म (Update Mechanism):
- जनरेशन के बाद, क्रॉनिकल को $t$ पर वर्तमान एजेंट की पहचान शामिल करने के लिए अपडेट किया जाता है, जिससे अगले स्टेप के लिए "एक्टिव" स्लॉट शिफ्ट हो जाता है। यह पूरे अनुक्रम $x^{(1)}, x^{(2)}, \dots, x^{(T)}$ को ट्रैक करने की अनुमति देता है।

3. मुख्य योगदान (Key Contributions)

इन-टेक्स्ट प्रोवेनेंस (In-Text Provenance): जेनरेटेड टेक्स्ट के भीतर ही मल्टी-एजेंट इंटरैक्शन हिस्ट्री को एम्बेड करने की एक नवीन विधि, जो नाजुक बाहरी मेटाडेटा पर निर्भरता को समाप्त करती है।
क्रॉनिकल फॉर्मलिज्म (Chronicle Formalism): "क्रॉनिकल्स" को हस्ताक्षरित, टाइम-स्टैम्प किए गए सिंबोलिक चेन्स के रूप में परिभाषित करना जो जेनरेशन प्रक्रिया के साथ विकसित होते हैं।
स्केलेबल कोडबुक कंस्ट्रक्शन (Scalable Codebook Construction): एजेंट अनुक्रमों के विशाल स्पेस के लिए अद्वितीय कोडवर्ड बनाने के लिए एक कॉम्बिनेटोरियल स्ट्रैटेजी, जो अत्यधिक मेमोरी स्टोरेज की आवश्यकता को कम करती है।
पोस्ट हॉक एट्रिब्यूशन (Post Hoc Attribution): केवल अंतिम टेक्स्ट आउटपुट से सांख्यिकीय विश्लेषण का उपयोग करके पूरी जेनेरेटिव हिस्ट्री (किसने क्या और कब लिखा) को पुनर्गठित करने की क्षमता।

4. प्रयोगात्मक परिणाम (Experimental Results)

सिस्टम का मूल्यांकन Llama (1B पैरामीटर्स) का उपयोग करके 2–4 एजेंटों के साथ 3–6 टाइमस्टेप्स के निरंतर लेखन कार्य (continual writing task) में किया गया।

कालानुक्रमिक सटीकता (Chronological Accuracy):
- बायस स्ट्रेंथ ( $\delta$ ) के 3 के साथ, सिस्टम ने विभिन्न कॉन्फ़िगरेशन में लगभग पूर्ण सटीकता (99–100%) प्राप्त की।
- सटीकता स्वाभाविक रूप से समय के साथ घटती है (एरर प्रोपेगेशन) और बड़े एजेंट पॉपुलेशन के साथ भी, लेकिन उच्च बायस स्ट्रेंथ इसे प्रभावी ढंग से कम करती है।
जेनेरेटिव क्वालिटी (परप्लेक्सिटी) (Generative Quality - Perplexity):
- यहाँ एक ट्रेड-ऑफ है: बायस स्ट्रेंथ बढ़ाने से एट्रिब्यूशन सटीकता में सुधार होता है लेकिन परप्लेक्सिटी (टेक्स्ट की तरलता/स्वाभाविकता) बढ़ जाती है।
- हालांकि, परप्लेक्सिटी पर प्रभाव पहले जेनरेशन स्टेप के बाद स्थिर हो जाता है और यह एजेंटों की संख्या पर बहुत अधिक निर्भर नहीं है।
एडवर्सरियल रोबस्टनेस (Adversarial Robustness):
- सिस्टम का परीक्षण लेक्सिकल सब्स्टीट्यूशन (शब्दों को पर्यायवाची शब्दों से बदलना, 70% तक) के विरुद्ध किया गया था।
- लो बायस ( $\delta=1$ ): सटीकता तेजी से गिरी, रैंडम गेसिंग के करीब पहुँच गई।
- हाई बायस ( $\delta=3$ ): सिस्टम मजबूत रहा। 2 एजेंटों के लिए, 60% शब्द प्रतिस्थापन के साथ भी सटीकता 90% से ऊपर रही। उच्च बायस सैंपलिंग डिस्ट्रीब्यूशन को विशिष्ट टोकन पर केंद्रित करता है, जिससे सांख्यिकीय सिग्नल सेमेटिक नॉइज़ के प्रति लचीला बना रहता है।

5. महत्व और भविष्य की दिशाएं (Significance and Future Directions)

विश्वास और जवाबदेही (Trust and Accountability): यह शोध जवाबदेह AI (accountable AI) के लिए एक मौलिक तंत्र प्रदान करता है। यह सुनिश्चित करता है कि सहयोगात्मक AI इकोसिस्टम में, सामग्री की उत्पत्ति और विकास को ट्रैक किया जा सकता है, जिससे पारदर्शिता और विश्वास बढ़ता है।
फोरेंसिक अनुप्रयोग (Forensic Application): यह विधि AI के लिए एक "डिजिटल चेन ऑफ कस्टडी" के रूप में कार्य करती है, जिससे सिंथेटिक कंटेंट के फोरेंसिक विश्लेषण की अनुमति मिलती है ताकि यह निर्धारित किया जा सके कि वह विशेष एजेंटों द्वारा सैद्धांतिक रूप से तर्क दिया गया था, अनुभवजन्य रूप से परीक्षण किया गया था, या आलोचनात्मक रूप से चुनौती दी गई थी।
सीमाएँ और भविष्य का कार्य (Limitations & Future Work):
- स्केलेबिलिटी (Scalability): एजेंट काउंट और क्रॉनिकल लेंथ के साथ सर्च स्पेस तेजी से बढ़ता है ( $|X| = (n+1)^T$ ), जिसके लिए बड़े पैमाने के सिस्टम के लिए कुशल डिकोडिंग या स्ट्रक्चरल प्रायर्स की आवश्यकता होती है।
- होमोजेनिटी (Homogeneity): वर्तमान प्रयोग समान मॉडल्स का उपयोग करते हैं; भविष्य के कार्यों को अलग-अलग वोकैबुलरी वाले हेट्रोजेनियस (heterogeneous) एजेंटों को संबोधित करना चाहिए।
- ट्रेड-ऑफ़्स (Trade-offs): एट्रिब्यूशन सटीकता और टेक्स्ट क्वालिटी (परप्लेक्सिटी) के बीच का तनाव विशिष्ट अनुप्रयोग आवश्यकताओं के आधार पर ट्यूनिंग की मांग करता है।
- रोबस्टनेस (Robustness): भविष्य के शोध को सिंटैक्टिक रीस्ट्रक्चरिंग, ट्रांसलेशन या ट्रंकेशन जैसे अधिक जटिल व्यवधानों के विरुद्ध मजबूती तलाशनी चाहिए।

निष्कर्षतः, यह शोध पत्र जेनरेटिव AI में मल्टी-एजेंट प्रोवेनेंस को एम्बेड करने के लिए एक व्यवहार्य, गणितीय रूप से सुदृढ़ ढांचा प्रस्तुत करता है, जो टेक्स्ट को स्वयं उसके निर्माण के ऐतिहासिक रिकॉर्ड में बदल देता है।