Epistemic Context Learning: Building Trust the Right Way in LLM-Based Multi-Agent Systems
यह शोध पत्र एपिस्टेमिक कॉन्टेक्स्ट लर्निंग (ECL) को प्रस्तुत करता है, जो एक ऐसा ढांचा है जो ऐतिहासिक इंटरेक्शन डेटा का लाभ उठाकर पीयर प्रोफाइल बनाने के माध्यम से LLM-आधारित मल्टी-एजेंट सिस्टम में विश्वास और मजबूती को बढ़ाता है, जिससे छोटे मॉडल्स को भी विश्वसनीय साथियों की सटीक पहचान करने और उन पर निर्भर रहने के सक्षम बनाकर बहुत बड़े बेसलाइन्स से बेहतर प्रदर्शन करने में सक्षम बनाया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही कठिन पहेली को हल करने के लिए एक स्टडी ग्रुप का हिस्सा हैं। आपके पास कुछ दोस्त (अन्य AI एजेंट) मदद के लिए हैं। समस्या यह है कि आपके कुछ दोस्त बहुत बुद्धिमान हैं, जबकि कुछ बहुत आत्मविश्वासी हैं लेकिन पूरी तरह से गलत हैं। वास्तव में, कुछ "धोखेबाज" भी हो सकते हैं जो बहुत प्रभावशाली लगते हैं लेकिन वास्तव में आपको गलत रास्ते पर ले जा रहे हैं।
वर्तमान AI सिस्टमों में एक घातक दोष है: वे बहुत विनम्र होते हैं। यदि कोई दोस्त बहुत आत्मविश्वास के साथ बोलता है, तो AI अक्सर उनके साथ सहमत हो जाता है, भले ही वह दोस्त गलत हो। इसे "अंधा अनुपालन" (blind conformity) कहा जाता है। AI के पास यह कहने की क्षमता नहीं है, "रुको, मुझे याद है पिछले हफ्ते यह दोस्त हर बात गलत बोल रहा था। मुझे इस बार उन पर भरोसा नहीं करना चाहिए।"
यह पेपर एपिस्टेमिक कॉन्टेक्स्ट लर्निंग (ECL) नामक एक नई विधि पेश करता है ताकि इसे ठीक किया जा सके। यह कैसे काम करता है, इसके सरल उदाहरण यहाँ दिए गए हैं:
1. समस्या: "हाँ में हाँ मिलाने वाला" (Yes-Man) AI
अभी, जब एक AI दोस्तों के समूह द्वारा दिए गए उत्तरों को देखता है, तो वह उन सभी के साथ एक जैसा व्यवहार करता है। वह वर्तमान उत्तर को देखता है और सोचता है, "यह सुनने में समझदारी भरा लग रहा है, इसलिए मैं इसके साथ जाऊँगा।" वह अतीत को अनदेखा कर देता है।
- दोष: यदि एक "धोखेबाज" दोस्त आज एक आत्मविश्वासी लेकिन गलत उत्तर देता है, तो AI उसके पीछे चल पड़ता है। वह यह याद नहीं रखता कि पिछले महीने यह दोस्त हर बार विफल हुआ था।
2. समाधान: "प्रतिष्ठा की पुस्तक" (Reputation Book)
लेखक प्रस्ताव देते हैं कि केवल वर्तमान बातचीत को देखने के बजाय, AI को प्रत्येक दोस्त के लिए एक प्रतिष्ठा पुस्तक (या "ट्रस्ट प्रोफाइल") रखनी चाहिए।
- विचार: निर्णय लेने से पहले, AI इतिहास की जाँच करता है। "क्या मित्र A ने पिछले 5 प्रश्नों के सही उत्तर दिए? हाँ। क्या मित्र B ने उन सभी को गलत बताया? हाँ।"
- बदलाव: AI यह पूछना बंद कर देता है, "क्या यह उत्तर अच्छा लग रहा है?" और पूछना शुरू करता है, "बोल कौन रहा है, और क्या उन्होंने मेरा विश्वास अर्जित किया है?"
3. ECL कैसे काम करता है: दो-चरणीय प्रक्रिया
यह पेपर एक चतुर दो-चरणीय प्रक्रिया का सुझाव देता है ताकि यह सुनिश्चित हो सके कि AI वास्तव में इस इतिहास पुस्तक का उपयोग करे न कि इसे अनदेखा कर दे।
चरण 1: जासूस (विश्वास का अनुमान - Trust Estimation)
पहले, AI केवल अतीत को देखते हुए एक जासूस की तरह कार्य करता है। वह सभी दोस्तों के इतिहास की समीक्षा करता है और एक सारांश लिखता है: "मित्र A विश्वसनीय है; मित्र B झूठा है।" महत्वपूर्ण रूप से, इस चरण में, AI को वर्तमान प्रश्न देखने की अनुमति नहीं है। यह उसे वर्तमान में सबसे तेज़ बोलने वाले के आधार पर नहीं, बल्कि शुद्ध "विश्वास स्कोर" बनाने के लिए मजबूर करता है।चरण 2: न्यायाधीश (अंतिम निर्णय - Final Decision)
अब, AI वर्तमान कठिन प्रश्न को देखता है। वह दोस्तों से प्राप्त उत्तरों को लाता है, लेकिन इस बार, वह चरण 1 से प्राप्त "ट्रस्ट सारांश" का उपयोग एक मार्गदर्शक के रूप में करता है। यदि सारांश कहता है कि मित्र A विश्वसनीय है, तो AI मित्र A के उत्तर को अधिक महत्व देता है। यदि यह कहता है कि मित्र B अविश्वसनीय है, तो AI उसे अनदेखा कर देता है, भले ही मित्र B सबसे ज़ोर से चिल्ला रहा हो।
4. AI को प्रशिक्षित करना: "पुरस्कार प्रणाली" (Reward System)
AI को यह सिखाने के लिए कि वह यह कैसे करे, शोधकर्ताओं ने सुदृढीकरण शिक्षण (Reinforcement Learning) का उपयोग किया।
- उन्होंने AI को एक विशेष "बोनस पॉइंट" (पुरस्कार) दिया यदि उसने चरण 1 में विश्वसनीय मित्र की सही पहचान की।
- इसने AI को सिखाया कि यह जानना कि किस पर भरोसा करना है, पहेली को हल करने जितना ही महत्वपूर्ण है।
5. परिणाम: छोटे मॉडल भी बन जाते हैं सुपर-एक्सपर्ट
पेपर प्रभावशाली परिणाम दिखाता है:
- छोटे मॉडल जीते: एक छोटा AI मॉडल (जैसे एक छात्र जिसका 4GB का दिमाग है) जो इस "प्रतिष्ठा पुस्तक" पद्धति का उपयोग करता है, एक विशाल AI मॉडल (30GB दिमाग) से बेहतर प्रदर्शन करता है जिसने इसका उपयोग नहीं किया। छोटा मॉडल सही विशेषज्ञ को चुनना सीख गया, जबकि बड़ा मॉडल शोर से भ्रमित हो गया।
- लगभग पूर्ण स्कोर: इस पद्धति का उपयोग करते समय, सबसे उन्नत AI मॉडल भी उन पेचीदा स्थितियों में लगभग पूर्ण सटीकता (100%) तक पहुँच गए जहाँ अन्य विधियाँ विफल हो गईं।
- धोखेबाजों का प्रतिरोध: उन परीक्षणों में जहाँ "धोखेबाज" दोस्तों ने समूह को गुमराह करने की कोशिश की, ECL पद्धति ने उन्हें सफलतापूर्वक अनदेखा कर दिया, जबकि मानक विधियाँ जाल में फँस गईं।
सारांश
इस पेपर को ऐसे समझें कि यह AI को भेड़ की तरह पीछे चलने के बजाय एक स्मार्ट मैनेजर बनना सिखा रहा है, जो जानता है कि पिछले प्रदर्शन के आधार पर कौन से कर्मचारी विश्वसनीय हैं। "प्रतिष्ठा की जाँच करने" के कार्य को "समस्या को हल करने" से अलग करके, AI बहुत अधिक स्मार्ट, अधिक मजबूत और आत्मविश्वासी झूठ बोलने वालों द्वारा मूर्ख बनाए जाने से कम संभावित हो जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।