Hallucination Mitigation with Agentic AI, Nested Learning, and AI Sustainability via Semantic Caching
यह शोध पत्र प्रदर्शित करता है कि एक HOPE-प्रेरित, सिमेंटिक कैशिंग और प्रोग्रेसिव रिव्यू चरणों का उपयोग करने वाला मेमोरी-ऑगमेंटेड मल्टी-एजेंट पाइपलाइन, मॉडल को पुन: प्रशिक्षित किए बिना एलएलएम (LLM) मतिभ्रम (hallucinations) को काफी कम कर सकता है, ऊर्जा खपत को घटाकर परिचालन दक्षता में सुधार कर सकता है, और ऑडिटेबिलिटी को बढ़ा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक हाई-स्टेक्स न्यूज़रूम चला रहे हैं जहाँ एक कहानी को छपने से पहले लिखा, तथ्य-जांच (fact-check) और संपादित (edit) किया जाना है। समस्या यह है कि आपका पहला लेखक एक प्रतिभाशाली लेकिन अराजक कलाकार है जो दिलचस्प दिखने के लिए चीजें बनाना पसंद करता है। यदि आप उन्हें प्रकाशित होने देते हैं, तो आपका पूरा समाचार पत्र झूठ का संग्रह बन जाएगा।
यह पेपर एक ऐसी प्रणाली का वर्णन करता है जिसे इन झूठों को फैलने से रोकने के लिए डिज़ाइन किया गया है, जिसमें AI एजेंटों की एक टीम, एक "स्मार्ट मेमोरी" सिस्टम और उनके काम को ग्रेड देने का एक नया तरीका शामिल है।
यह सिस्टम कैसे काम करता है, इसे सरल भागों में यहाँ दिया गया है:
1. अराजक लेखक (The FrontEndAgent)
सिस्टम एक विशिष्ट डिज़ाइन विकल्प के साथ शुरू होता है: पहले AI एजेंट को जानबूझकर अविश्वसनीय सेट किया गया है। इस एजेंट को एक ऐसे लेखक के रूप में सोचें जिसका टेम्परेचर सेटिंग 1.0 (उच्चतम संभव रचनात्मकता) है। उन्हें हर सवाल का जवाब पूरी आत्मविश्वास के साथ देने के लिए कहा जाता है, भले ही उन्हें विवरण गढ़ने पड़ें। उन्हें यह कहने की अनुमति नहीं है कि "मुझे यकीन नहीं है" या "यह मनगढ़ंत हो सकता है।"
ऐसा क्यों किया गया? शोधकर्ताओं ने एक सबसे खराब स्थिति (worst-case scenario) बनाना चाहा। पहले एजेंट को लगातार मतिभ्रम (hallucinate) करने के लिए मजबूर करके, वे स्पष्ट रूप से माप सकते थे कि बाकी टीम उनकी गलतियों को कितनी अच्छी तरह ठीक करती है।
2. दो-चरणीय सुधार टीम (The Two-Step Correction Team)
एक बार जब अराजक लेखक एक कहानी तैयार कर लेता है, तो वह सीधे पाठक के पास नहीं जाती है। यह दो अन्य एजेंटों के माध्यम से गुजरती है:
- द्वितीय-स्तरीय समीक्षक (द एडिटर): यह एजेंट अधिक सतर्क है। यह अराजक कहानी को पढ़ता है, मनगढ़ंत तथ्यों को ढूंढता है, और उन्हें सुरक्षित बनाने के लिए फिर से लिखता है। यह नोट्स जोड़ता है जैसे "यह एक अनुमान है" या "हमारे पास इसका प्रमाण नहीं है।" यह एक सख्त संपादक की तरह कार्य करता है जो बिना सत्यापित दावों को आगे बढ़ने देने से इनकार कर देता है।
- तृतीय-स्तरीय समीक्षक (द फाइनल पॉलिश): यह एजेंट संपादित कहानी को लेता है और इसे अंतिम पाठक के लिए साफ और पेशेवर बनाता है। यह अव्यवस्थित आंतरिक नोट्स को हटा देता है लेकिन यह सुनिश्चित करता है कि अंतिम टेक्स्ट सटीक हो और झूठ जैसा न लगे।
परिणाम: पेपर में पाया गया कि इस "असेंबली लाइन" ने मतिभ्रम (hallucination) की मात्रा को लगभग 31% से 36% तक सफलतापूर्वक कम कर दिया। अंतिम आउटपुट जितना अधिक सतर्क होगा, स्कोर उतना ही बेहतर होगा।
3. "स्मार्ट फाइलिंग कैबिनेट" (सेमेंटिक कैशिंग)
हर एक सवाल के लिए तीन अलग-अलग AI एजेंट चलाना महंगा और धीमा है। यह ऐसा है जैसे आपके द्वारा भेजे जाने वाले हर ईमेल के लिए तीन लोगों को तीन ड्राफ्ट लिखने के लिए काम पर रखना।
इसे ठीक करने के लिए, सिस्टम एक कंटीनम मेमोरी सिस्टम (CMS) का उपयोग करता है। एक स्मार्ट फाइलिंग कैबिनेट की कल्पना करें जो केवल सटीक मिलान (जैसे "apple" शब्द की खोज करना) नहीं ढूंढता, बल्कि अर्थ को समझता है।
- यदि आप पूछते हैं, "फ्रांस की राजधानी क्या है?" और सिस्टम ने पाँच मिनट पहले ही "पेरिस" का उत्तर दिया था, तो यह उसे याद रखता है।
- यदि आप पूछते हैं, "फ्रांस की राजधानी शहर के बारे में बताएं," तो सिस्टम पहचान लेता है कि ये एक ही सवाल हैं और AI को फिर से सोचने के लिए पूछने के बजाय कैबिनेट से उत्तर निकाल लेता है।
लाभ: इस सिस्टम ने उन्हें 47% समय AI से सोचने के लिए पूछने से बचाया। इसका मतलब है कम ऊर्जा का उपयोग, कम कार्बन डाइऑक्साइड उत्सर्जन, और तेज़ प्रतिक्रियाएं, जिससे वास्तविक दुनिया में इस तीन-सदस्यीय टीम को चलाना संभव हो पाता है बिना बजट बिगाड़े।
4. नया स्कोरकार्ड (KPIs और THS)
आप कैसे जानेंगे कि सिस्टम काम कर रहा है या नहीं? शोधकर्ताओं ने एक नया रिपोर्ट कार्ड बनाया है जिसे टोटल हैलुसिनेशन स्कोर (THS) कहा जाता है।
केवल झूठ गिनने के बजाय, वे पाँच चीजों को देखते हैं:
- फैक्टुअल क्लेम डेंसिटी: कितने unverified तथ्य हैं? (कम होना बेहतर है)।
- फैक्टुअल ग्राउंडिंग: क्या उन्होंने वास्तविक स्रोतों का हवाला दिया? (अधिक होना बेहतर है)।
- डिस्क्लेमर फ्रीक्वेंसी: क्या उन्होंने स्वीकार किया कि वे अनुमान लगा रहे थे? (अधिक होना बेहतर है)।
- कॉन्टेक्स्टुअलाइजेशन: क्या उन्होंने उत्तर को सही ढंग से फ्रेम किया? (अधिक होना बेहतर है)।
- ऑब्जर्वेबिलिटी: क्या हम देख सकते हैं कि AI ने कैसे सोचा? (अधिक होना बेहतर है)।
उन्होंने इन स्कोर को तौलने के पांच अलग-अलग तरीकों का परीक्षण किया। उन्होंने पाया कि वह कॉन्फ़िगरेशन जिसने पारदर्शिता और "अपना काम दिखाने" (Observability) को प्राथमिकता दी, वास्तव में झूठों में सबसे अच्छा कमी लाने में सफल रहा। दूसरे शब्दों में, AI को अधिक पारदर्शी बनाने से उसकी सटीकता को नुकसान नहीं पहुँचा; बल्कि इसने उसकी मदद की।
मुख्य निष्कर्ष (The Big Takeaway)
पेपर यह निष्कर्ष निकालता है कि आपको AI मॉडल को अधिक ईमानदार बनाने के लिए उसे फिर से प्रशिक्षित (retrain) करने की आवश्यकता नहीं है। इसके बजाय, आप:
- एजेंटों की एक ऐसी टीम बना सकते हैं जहाँ एक को रचनात्मक (और गलत) होने की अनुमति हो और अन्य सख्त तथ्य-जांचकर्ता हों।
- उन्हें एक साझा, स्मार्ट मेमोरी दे सकते हैं ताकि उन्हें हर सवाल के लिए पहिया फिर से आविष्कार न करना पड़े।
- उन्हें इस आधार पर ग्रेड दे सकते हैं कि वे अनिश्चितता को स्वीकार करने और अपना काम दिखाने में कितने अच्छे हैं।
यह दृष्टिकोण एक ऐसा सिस्टम बनाता है जो अधिक विश्वसनीय, सस्ता, और ऑडिट करने में आसान है, और यह सब बिना अंतर्निहित AI मस्तिष्क को बदले किया जा सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।