ContextNest: Verifiable Context Governance for Autonomous AI Agent
कॉन्टेक्स्टनेस्ट (एब्स्ट्रैक्ट में कॉन्टेक्स्टनेक्स्ट के रूप में संदर्भित), सत्यापन योग्य संदर्भ शासन (verifiable context governance) के लिए एक ओपन स्पेसिफिकेशन और रेफरेंस इम्प्लीमेंटेशन पेश करता है जो रिट्रीवल सिस्टम के नीचे स्थित होता है ताकि यह सुनिश्चित किया जा सके कि एआई एजेंट केवल अनुमोदित, ट्रैसेबल और अखंडता-सत्यापित ज्ञान का उपभोग करें, जिससे उन प्रोवेनेंस और डिटरमिनिज्म विफलताओं को संबोधित किया जा सके जिन्हें केवल रिट्रीवल की गुणवत्ता हल नहीं कर सकती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ ContextNest पेपर का विवरण दिया गया है, जिसे रोजमर्रा की भाषा में उपमाओं (analogies) का उपयोग करके अनुवादित किया गया है।
मुख्य समस्या: "आत्मविश्वासी लेकिन गलत" एजेंट
कल्पना कीजिए कि आपने अपनी कंपनी के निर्णय लेने के लिए एक बहुत ही बुद्धिमान और तेज़ सहायक (एक AI एजेंट) को काम पर रखा है। आप उन्हें पढ़ने के लिए दस्तावेजों की एक लाइब्रेरी देते हैं।
समस्या यह नहीं है कि सहायक मूर्ख है; समस्या यह है कि लाइब्रेरी अव्यवस्थित है।
- गड़बड़ी (The Mix-up): लाइब्रेरी में वर्तमान नीति (policy) भी है, लेकिन इसमें तीन साल पुरानी पुरानी नीति, कभी स्वीकृत न हुई ड्राफ्ट नीति, और किसी के द्वारा डाली गई एक नकली नीति भी शामिल है।
- गलती (The Mistake): जब आप सहायक से पूछते हैं, "यात्रा व्यय की सीमा क्या है?" तो वह उस पुराने दस्तावेज़ को ढूंढ सकता है जिसमें "200" लिखा है। वह आत्मविश्वास के साथ उत्तर देता है क्योंकि टेक्स्ट प्रासंगिक दिखता है, लेकिन वह आपको पुराना या गलत डेटा दे रहा है।
- रहस्य (The Mystery): यदि आप पूछते हैं, "आपने यह निर्णय कैसे लिया?" तो सहायक स्पष्ट उत्तर नहीं दे पाता। वह यह नहीं कह सकता कि, "मैंने 12 जून का दस्तावेज़ पढ़ा, जिसे सारा ने अनुमोदित किया था।" वह बस इतना कहता है, "मुझे कुछ ऐसा टेक्स्ट मिला जो मेल खाता था।"
इसे कॉन्टेक्स्ट गवर्नेंस गैप (Context Governance Gap) कहा जाता है। AI जानता है कि टेक्स्ट कैसे ढूँढा जाए, लेकिन उसे यह नहीं पता कि कौन सा टेक्स्ट सुरक्षित, वर्तमान और उपयोग के लिए स्वीकृत है।
समाधान: ContextNest (एक "क्वालिटी कंट्रोल" लेयर)
लेखक ContextNest का प्रस्ताव करते हैं। इसे खोजने का नया तरीका नहीं, बल्कि एक सख्त गुणवत्ता नियंत्रण द्वार (quality control gate) के रूप में देखें जो AI के दस्तावेजों को देखने से पहले आता है।
यह कैसे काम करता है, सरल रूपकों का उपयोग करते हुए यहाँ दिया गया है:
1. "टाइप्ड" लाइब्रेरी कार्ड्स (The "Typed" Library Cards)
एक सामान्य लाइब्रेरी में, एक किताब सिर्फ एक किताब होती है। ContextNest में, हर दस्तावेज़ का एक विशिष्ट ID कार्ड (जिसे "Type" कहा जाता है) होता है।
- कुछ कार्ड कहते हैं: "यह एक Glossary है" (केवल परिभाषाएँ)।
- कुछ कहते हैं: "यह एक Policy है" (पालन करने योग्य नियम)।
- कुछ कहते हैं: "यह एक Draft है" (अभी उपयोग न करें!)।
AI को उन चीजों को अनदेखा करने के लिए प्रोग्राम किया गया है जिनके पास सही ID कार्ड नहीं है। यह गलती से किसी ड्राफ्ट पॉलिसी को कानून की तरह नहीं पढ़ेगा।
2. "केवल स्वीकृत" गेट (The "Approved Only" Gate)
कल्पना कीजिए कि लाइब्रेरी के दरवाजे पर एक सुरक्षा गार्ड खड़ा है।
- Drafts को एक होल्डिंग रूम में रखा जाता है। गार्ड AI को वहां जाने नहीं देता।
- Published दस्तावेजों पर एक हरा स्टैम्प (Green Stamp) होता है।
AI केवल उन्हीं दस्तावेजों को पढ़ सकता है जिन पर हरा स्टैम्प है। यह सुनिश्चित करता है कि AI कभी भी काम चल रही (work-in-progress) या अनधिकृत विचारों का उपयोग न करे।
3. "छेड़छाड़-मुक्त" श्रृंखला (The "Tamper-Proof" Chain)
जब भी किसी दस्तावेज़ में बदलाव किया जाता है, तो उसे एक नया डिजिटल फिंगरप्रिंट (hash) मिलता है।
- यदि कोई दस्तावेज़ के स्वीकृत होने के बाद उसके टेक्स्ट में चुपके से बदलाव करने की कोशिश करता है, तो फिंगरप्रिंट टूट जाता है।
- यह एक पत्र पर लगे मोम की सील (wax seal) की तरह है। यदि सील टूटी हुई है, तो आप जानते हैं कि किसी ने इसे खोला है।
- ContextNest इन फिंगरप्रिंट्स को एक श्रृंखला (chain) में जोड़ता है। यदि एक भी कड़ी टूटती है, तो पूरी श्रृंखला अमान्य हो जाती है। यह साबित करता है कि दस्तावेज़ के साथ छेड़छाड़ नहीं की गई है।
4. "टाइम मशीन" (चेकपॉइंट्स) (The "Time Machine" - Checkpoints)
कल्पना कीजिए कि आपको अतीत के किसी विशेष दिन के नियम साबित करने की आवश्यकता है (शायद ऑडिट के लिए)।
- सामान्य लाइब्रेरी यह आसानी से नहीं कर सकती; वे केवल वर्तमान पुस्तक दिखाते हैं।
- Contextness हर बार जब कोई दस्तावेज़ बदलता है, तो एक स्नैपशॉट (चेकपॉइंट) लेता है।
- यदि आप पूछते हैं, "1 मार्च को AI क्या जानता था?", तो सिस्टम समय को पीछे घुमा सकता है और आपको 1 मार्च को मौजूद दस्तावेज़ का सटीक संस्करण दिखा सकता है, अंतिम अक्षर तक। यह इतिहास को फर्जी बनाना असंभव बनाता है।
5. "रसीद" (ऑडिट ट्रेल) (The "Receipt" - Audit Trail)
हर बार जब AI कोई दस्तावेज़ पढ़ता है, तो वह स्वचालित रूप से एक रसीद प्रिंट करता है।
- रसीद कहती है: "मैंने दस्तावेज़ X, संस्करण 3 पढ़ा, जिसे सारा ने दोपहर 2:00 बजे अनुमोदित किया था।"
- यदि AI बाद में कोई गलती करता है, तो आप रसीद देख सकते हैं और देख सकते हैं कि किस जानकारी के कारण त्रुटि हुई। आप AI को "भ्रमित" (hallucinating) होने के लिए दोष नहीं दे सकते; आप देख सकते हैं कि उसे गलत (या पुराना) दस्तावेज़ दिया गया था।
यह मौजूदा AI (RAG) के साथ कैसे काम करता है
पेपर बहुत स्पष्ट है: ContextNest, AI के सर्च इंजन का विकल्प नहीं है।
- RAG (Retrieval-Augmented Generation) एक चुंबक (magnet) की तरह है। यह उन दस्तावेजों को खोजता है जो आपके प्रश्न के समान दिखते हैं। यह प्रासंगिक टेक्स्ट खोजने में बहुत अच्छा है, लेकिन यह अव्यवस्थित है।
- ContextNest एक फिल्टर (filter) की तरह है। यह चुंबक के सामने बैठता है।
- फ़िल्टर कहता है: "केवल अनुमोदित, वर्तमान और सत्यापित दस्तावेजों को ही आगे जाने दें।"
- चुंबक (RAG) फिर केवल उस सुरक्षित, फ़िल्टर्ड ढेर के भीतर खोज करता है।
परिणाम: AI को दोनों दुनियाओं का सर्वश्रेष्ठ मिलता है। वह प्रासंगिक टेक्स्ट खोजता है (चुंबक की मदद से), लेकिन यह गारंटी है कि वह उस टेक्स्ट के सही संस्करण का उपयोग कर रहा है (फ़िल्टर की मदद से)।
प्रयोगों ने क्या दिखाया
लेखकों ने दो मुख्य प्रयोगों के साथ इसका परीक्षण किया:
"पुराने संस्करण" का हमला (The "Stale Version" Attack): उन्होंने एक परिदृश्य बनाया जहाँ "पुराने" नियमों को "नए" नियमों के साथ मिला दिया गया था।
- ContextNest के बिना: AI अक्सर पुराने, गलत नियमों को चुन लेता था और आत्मविश्वास के साथ गलत उत्तर देता था।
- ContextNest के साथ: AI ने कभी भी पुराने नियमों को नहीं चुना। उसने लगभग हर बार सही उत्तर दिया, और इसे करने के लिए उसने कम कंप्यूटर पावर (tokens) का उपयोग किया क्योंकि उसे कचरे के बीच से छानबीन नहीं करनी पड़ी।
"निरंतरता" परीक्षण (The "Consistency" Test): उन्होंने एक ही प्रश्न 20 बार पूछा।
- मानक खोज (Standard Search): कभी-कभी इसने आपको दस्तावेज़ A दिया, कभी-कभी दस्तावेज़ B, भले ही प्रश्न बिल्कुल समान था। यह अप्रत्याशित था।
- ContextNest: इसने आपको हर बार बिल्कुल वही दस्तावेज़ दिया। यह पूरी तरह से अनुमानित (predictable) था।
निचोड़ (The Bottom Line)
पेपर का तर्क है कि जैसे-जैसे AI एजेंट वास्तविक दुनिया के निर्णय (जैसे खर्चों को मंजूरी देना या कोड लिखना) लेने लगते हैं, हम केवल उनके "स्मार्ट" होने पर भरोसा नहीं कर सकते। हमें एक गवर्नेंस लेयर की आवश्यकता है जो गारंटी दे कि उनके द्वारा उपयोग की जाने वाली जानकारी:
- अनुमोदित (किसी इंसान द्वारा) है।
- वर्तमान (कोई पुराना ड्राफ्ट नहीं) है।
- छेड़छाड़-मुक्त (सुरक्षित) है।
- ट्रेसेबल (हमें पता है कि उन्होंने क्या पढ़ा) है।
ContextNest AI ज्ञान के लिए "सड़क के नियमों" (rules of the road) को प्रदान करता है, यह सुनिश्चित करता है कि जब एक AI कार्य करता है, तो वह केवल यादृच्छिक टेक्स्ट के ढेर पर नहीं, बल्कि सत्य की नींव पर कार्य कर रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।