The Provenance Paradox in Multi-Agent LLM Routing: Delegation Contracts and Attested Identity in LDP
यह शोध पत्र एक उन्नत एलएलएम डेलीगेट प्रोटोकॉल (LDP) को पेश करके "प्रोवेनेंस विरोधाभास" (provenance paradox) की पहचान और समाधान करता है, जहाँ unverifiable स्व-घोषित दावों के कारण मल्टी-एजेंट एलएलएम सिस्टम में गुणवत्ता-आधारित रूटिंग विफल हो जाती है, जो प्रमाणित पहचान और डेलीगेशन अनुबंधों का लाभ उठाकर न्यूनतम ओवरहेड के साथ निकट-इष्टतम प्रदर्शन प्राप्त करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक व्यस्त रसोई के प्रबंधक (मैनेजर) हैं। आपके पास शेफ की एक टीम (AI एजेंट) है और आपको उन्हें "एक रिपोर्ट लिखें" या "इन नंबरों का विश्लेषण करें" जैसे कार्य सौंपने होते हैं। इसे कुशल बनाने के लिए, आप सबसे कठिन काम उन शेफ को सौंपने का निर्णय लेते हैं जो खुद को सबसे अच्छा बताते हैं।
यह पेपर उस खतरनाक जाल के बारे में है जो तब होता है जब आप बिल्कुल ऐसा ही करते हैं, और इसे ठीक करने के तरीके के बारे में है।
यहाँ द प्रोवेनेंस पैराडॉक्स (The Provenance Paradox) की कहानी सरल रूप में दी गई है।
1. समस्या: "नकली फाइव-स्टार" शेफ
AI की वर्तमान दुनिया में, एजेंट अपना परिचय एक रेज़्यूमे (रिज्यूमे) के साथ देते हैं। वे कहते हैं, "मैं 95% गुणवत्ता वाला शेफ हूँ!"
समस्या यह है कि कोई भी अपने रेज़्यूमे पर झूठ बोल सकता है।
- ईमानदार शेफ: वास्तव में बेहतरीन काम करता है लेकिन विनम्रता से कहता है, "मैं लगभग 80% अच्छा हूँ।"
- बेईमान शेफ: वास्तव में बहुत बुरा काम करता है लेकिन झूठ बोलता है और कहता है, "मैं 99% अच्छा हूँ!"
यदि आपका रूटिंग सिस्टम (मैनेजर) इन स्व-घोषित (self-reported) स्कोर पर अंधाधुंध भरोसा करता है, तो यह हमेशा बेईमान शेफ को ही चुनेगा।
- विरोधाभास (The Paradox): लोगों के कहने के आधार पर "सबसे अच्छे" को चुनने की कोशिश में, आप वास्तव में सबसे खराब काम करने वालों को चुन लेते हैं। वास्तव में, यह पेपर सिद्ध करता है कि स्व-घोषित दावों पर अंधाधुंध भरोसा करना वास्तव में किसी भी शेफ को रैंडमली (यादृच्छिक रूप से) चुनने से भी बदतर है।
यह एक ऐसे रेस्टोरेंट की तरह है जहाँ सबसे तेज़ और आत्मविश्वासी झूठी बातों वाले को सभी वीआईपी टेबल मिल जाते हैं, जबकि शांत और कुशल रसोइयों को घर भेज दिया जाता है।
2. समाधान: "डेलीगेशन कॉन्ट्रैक्ट" (प्रत्यायोजन अनुबंध)
इसे ठीक करने के लिए, लेखक डेलीगेशन कॉन्ट्रैक्ट्स नामक नियमों का एक नया सेट प्रस्तावित करते हैं। इसे एक औपचारिक कार्य आदेश (work order) के रूप में सोचें, न कि केवल एक हाथ मिलाने (handshake) के रूप में।
केवल यह कहने के बजाय कि, "जाओ सलाद बनाओ," आप शेफ को एक अनुबंध सौंपते हैं जिसमें लिखा होता है:
- लक्ष्य (The Goal): "ठीक 3 प्रकार की हरी पत्तियों (greens) के साथ सलाद बनाएं।"
- बजट (The Budget): "आप केवल 500 कैलोरी की सामग्री का उपयोग कर सकते हैं।"
- समय सीमा (The Deadline): "शाम 5:00 बजे तक पूरा करें।"
- "विफलता" योजना (The "Fail" Plan): "यदि आप यह नहीं कर सकते, तो तुरंत रुक जाएं और मुझे बताएं कि क्यों (जैसे, 'सलाता खत्म हो गया'), बजाय इसके कि आप मुझे बस मिट्टी का ढेर परोस दें।"
यह कैसे मदद करता है: भले ही एक शेफ अपने कौशल के बारे में झूठ बोले, वे अनुबंध के बारे में झूठ नहीं बोल सकते। यदि वे नियमों को तोड़ते हैं (जैसे, बहुत अधिक सामग्री का उपयोग करना), तो सिस्टम तुरंत जान जाता है और कार्य को रोक सकता है या किसी अन्य शेफ को बदल सकता है।
3. पहचान की जाँच: "दावा किया गया" बनाम "प्रमाणित"
यह पेपर शेफ के रेज़्यूमे को देखने का एक नया तरीका पेश करता है। केवल यह पढ़ने के बजाय कि उन्होंने क्या लिखा है, सिस्टम अब पूछता है: "इसकी पुष्टि किसने की?"
वे एक विश्वास सीढ़ी (trust ladder) बनाते हैं:
- स्व-घोषित (Self-Claimed - कम विश्वास): "मैं कहता हूँ कि मैं 5-स्टार शेफ हूँ।" (कोई भी यह कह सकता है)।
- रनटाइम ऑब्जर्व्ड (Runtime Observed - मध्यम विश्वास): "हमने पिछले हफ्ते आपको 100 भोजन बनाते हुए देखा, और आप अच्छे थे।" (वास्तविक डेटा पर आधारित)।
- इश्यूअर एटेस्टेड (Issuer Attested - उच्च विश्वास): "कलनरी इंस्टीट्यूट ऑफ अमेरिका ने आपको प्रमाण पत्र दिया है।" (एक विश्वसनीय तीसरा पक्ष आपकी पुष्टि करता है)।
- एक्सटर्नली बेंचमार्क्ड (Externally Benchmarked - उच्चतम विश्वास): "हमने दुनिया के सर्वश्रेष्ठ शेफ के खिलाफ आपका ब्लाइंड टेस्ट लिया, और आप जीत गए।"
समाधान: स्मार्ट मैनेजर (रूटर) "स्व-घोषित" स्कोर को अनदेखा कर देता है। वे केवल उन्हीं शेफ को काम पर रखते हैं जिनके पास एटेस्टेड (प्रमाणित) स्कोर होते हैं। यह झूठ बोलने वालों को काम पाने से रोकता है।
4. एक ही भाषा बोलना: "टाइप्ड एरर्स" (Typed Errors)
पहले, जब कोई कार्य विफल हो जाता था, तो AI केवल कहता था, "कुछ गलत हो गया।" यह एक शेफ के ऐसा कहने जैसा है कि, "खाना खराब है," बिना यह बताए कि क्यों। आप इसे ठीक नहीं कर सकते।
नया सिस्टम टाइप्ड एरर्स (Typed Errors) की मांग करता है।
- "कुछ गलत हो गया" कहने के बजाय, शेफ को कहना होगा: "त्रुटि: बजट से अधिक (Error: Budget Exceeded)" या "त्रुटि: सामग्री की कमी (Error: Missing Ingredient)"।
- यह मैनेजर को समस्या को स्वचालित रूप से ठीक करने की अनुमति देता है (जैसे, "ओह, यह बजट की समस्या है? चलिए उन्हें थोड़ा और पैसा देते हैं और फिर से प्रयास करते हैं") बजाय इसके कि वह केवल घबरा जाए।
मुख्य निष्कर्ष
यह पेपर दिखाता है कि AI एजेंटों की दुनिया में, विश्वास इस बात पर आधारित नहीं हो सकता कि एजेंट अपने बारे में क्या कहते हैं।
- इन नियमों के बिना: सिस्टम झूठ बोलने वालों द्वारा धोखा खा जाता है, और प्रदर्शन गिर जाता है (रैंडम चांस से भी बदतर)।
- इन नियमों के साथ: सिस्टम सीमाओं को निर्धारित करने के लिए अनुबंधों का उपयोग करता है, यह जाँचता है कि वास्तव में किसने कौशल की पुष्टि की है, और समझता है कि चीजें वास्तव में कब गलत होती हैं।
संक्षेप में: कमरे में सबसे तेज़ आवाज़ वाले व्यक्ति की बात न सुनें। उनकी आईडी चेक करें, एक अनुबंध साइन करें, और सुनिश्चित करें कि उनके कौशल की पुष्टि करने के लिए एक विश्वसनीय रेफरी मौजूद है। इसी तरह आप AI एजेंटों की एक भरोसेमंद टीम बना सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।