A Multi-Layer Framework for Hallucination Detection and Mitigation in Large Language Models Using Retrieval Grounding and Small Language Model Verification
यह शोध पत्र एक बहु-स्तरीय ढांचे का प्रस्ताव करता है जो प्रतिक्रियाओं को परमाणु दावों में विभाजित करके, उन्हें रिट्रीवल के साथ ग्राउंड करके, और एक छोटे भाषा मॉडल एवं न्यूरो-सिम्बोलिक तर्क के माध्यम से उन्हें सत्यापित करके बड़े भाषा मॉडलों की तथ्यात्मक विश्वसनीयता को बढ़ाता है, जिससे हॉटपॉटक्यूए (HotpotQA) और साइफ़ैक्ट (SciFact) डेटासेट पर व्याख्यात्मकता और कम्प्यूटेशनल दक्षता बनाए रखते हुए महत्वपूर्ण प्रदर्शन लाभ प्राप्त होता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही प्रतिभाशाली, तेज़ बोलने वाला कहानीकार (एक लार्ज लैंग्वेज मॉडल, या LLM) है। यह कहानीकार एक ऐसी कहानी बुन सकता है जो एकदम सटीक लगती है, जिसका प्रवाह बहुत सुंदर है और जो सुनने में अविश्वसनीय रूप से आत्मविश्वासी लगती है। लेकिन यहाँ एक पेंच है: कभी-कभी, यह कहानीकार मनगढ़ंत बातें बनाता है। वे कोई तारीख, कोई जगह या कोई तथ्य बना सकते हैं जो सुनने में तर्कसंगत लगता है लेकिन वास्तव में गलत होता है। इसे "हैलुसिनेशन" (hallucination) कहा जाता है।
समस्या यह है कि क्योंकि कहानी इतनी सहजता से सुनाई जाती है, इसलिए आप बिना जांचे ही उस पर विश्वास कर सकते हैं।
यह शोध पत्र प्रस्तावित करता है कि आप अंतिम संस्करण सुनने से पहले कहानीकार के काम की जांच कैसे करें। केवल पूरी कहानी सुनकर और यह अनुमान लगाकर कि क्या वह सच है, इसके बजाय, लेखकों ने एक बहु-स्तरीय तथ्य-जांच कारखाना (multi-layer fact-checking factory) बनाया है। यह कैसे काम करता है, यहाँ सरल उपमाओं का उपयोग करके चरण-दर-चरण बताया गया है:
1. कहानीकार ड्राफ्ट लिखता है
सबसे पहले, LLM आपके प्रश्न का उत्तर लिखता है। मान लीजिए कि आपने पूछा, "1903 में भौतिकी का नोबेल पुरस्कार किसने जीता था?"
LLM कह सकता है: "मैरी क्यूरी ने 1903 में भौतिकी का नोबेल पुरस्कार जीता था, और उन्होंने 1911 में रसायन विज्ञान में दूसरा पुरस्कार भी जीता था।"
इस स्तर पर, सिस्टम इस उत्तर को अपुष्ट (unverified) मानता है। यह केवल एक ड्राफ्ट है।
2. कहानी को लेगो ब्रिक्स (Lego Bricks) में तोड़ना (एटॉमिक डिकंपोजिशन)
पूरे पैराग्राफ की एक साथ जांच करने के बजाय, सिस्टम उत्तर को छोटे-छोटे, व्यक्तिगत "लेगो ब्रिक्स" (परमाणु दावों/atomic claims) में तोड़ देता है।
- ईंट 1: "मैरी क्यूरी ने 1903 में भौतिकी का नोबेल पुरस्कार जीता।"
- ईंट 2: "उन्होंने 1911 में रसायन विज्ञान में दूसरा पुरस्कार जीता।"
ऐसा क्यों किया जाता है? क्योंकि एक कहानी 99% सच हो सकती है लेकिन उसमें एक छोटी सी झूठ हो सकती है। यदि आप पूरी कहानी की जांच करते हैं, तो आप उस एक झूठ को पकड़ने में चूक सकते हैं। प्रत्येक ईंट (ब्रिक) की जांच करके, आप ठीक से पता लगा सकते हैं कि त्रुटि कहाँ है।
3. लाइब्रेरियन की खोज (रिट्रीवल ग्राउंडिंग)
अब, प्रत्येक "ईंट" के लिए, सिस्टम एक लाइब्रेरियन (रिट्रीवल सिस्टम) को दस्तावेजों के एक विशाल पुस्तकालय में सबूत खोजने के लिए भेजता है।
- लाइब्रेरियन उन किताबों या लेखों की तलाश करता है जो मैरी क्यूरी और 1903 के बारे में बात करते हैं।
- यदि लाइब्रेरियन को एक किताब मिलती है जो कहती है, "हाँ, उन्होंने 1903 में जीता," तो उस ईंट को "समर्थित" (Supported) की मुहर मिल जाती है।
- यदि लाइब्रेरियन को एक किताब मिलती है जो कहती है, "उन्होंने 1905 में जीता," तो उस ईंट को "खंडित" (Contradicted) की मुहर मिल जाती है।
- यदि लाइब्रेरियन खाली हाथ वापस आता है या उसे ऐसी किताब मिलती है जो केवल उनके बारे में बात करती है लेकिन वर्ष के बारे में नहीं, तो ईंट को "अनिश्चित" (Uncertain) की मुहर मिल जाती है।
मुख्य निष्कर्ष: शोध पत्र में पाया गया कि यदि आप इस लाइब्रेरियन वाले चरण को हटा देते हैं, तो पूरा सिस्टम विफल हो जाता है। वास्तविक साक्ष्य के बिना, सिस्टम सच और झूठ के बीच अंतर नहीं कर सकता।
4. त्वरित-जांच जज (स्मॉल लैंग्वेज मॉडल वेरिफिकेशन)
इसके बाद, सिस्टम एक स्मॉल लैंग्वेज मॉडल (SLM) लाता है। इसे एक त्वरित, कुशल जज के रूप में सोचें जो "ईंट" और "लाइब्रेरियन के नोट्स" को पढ़ने और यह तय करने में बहुत अच्छा है कि: क्या यह सच है, गलत है, या अस्पष्ट है?
- यह मूल कहानीकार की तुलना में छोटा और तेज़ है।
- यह केवल "सही" या "गलत" नहीं कहता। यह एक आत्मविश्वास स्कोर (confidence score) भी देता है। उदाहरण के लिए, "मुझे 90% यकीन है कि यह सच है" या "मुझे केवल 40% यकीन है।"
- यदि साक्ष्य कमजोर है, तो जज अनुमान लगाने के बजाय कहता है, "मैं अभी निर्णय नहीं ले सकता" (अनिश्चित)।
5. बुद्धिमान बुजुर्ग (न्यूरो-सिंबोलिक रीजनिंग)
कभी-कभी साक्ष्य पेचीदा होते हैं। शायद लाइब्रेरियन को दो ऐसी किताबें मिलीं जो एक-दूसरे से असहमत हैं, या जज भ्रमित है।
यहाँ न्यूरो-सिंबोलिक रीजनिंग (Neuro-Symbolic Reasoning) परत काम आती है। इसे एक बुद्धिमान बुजुर्ग के रूप में सोचें जो तर्क के नियमों को जानता है।
- यदि जज अनिश्चित है, तो बुजुर्ग सख्त नियमों को लागू करता है (जैसे "यदि तारीख गलत है, तो पूरा दावा गलत है")।
- बुजुर्ग दावे को सुधार भी सकता है। यदि LLM ने "1911" कहा है लेकिन साक्ष्य "1903" कहता है, तो बुजुर्ग केवल वाक्य को हटाता नहीं है; वे इसे बदलकर "1903" लिख सकते हैं।
- यह परत यह भी समझाती है कि निर्णय क्यों लिया गया, जिससे प्रक्रिया पारदर्शी बनती है।
6. अंतिम रिपोर्ट (ट्रस्ट-कैलिब्रेटेड आउटपुट)
अंत में, सिस्टम उत्तर को केवल उन्हीं ईंटों का उपयोग करके फिर से बनाता है जो जांच में पास हुई हैं।
- सत्य ईंटें बनी रहती हैं।
- सुधारी गई ईंटों को ठीक किया जाता है।
- गलत ईंटों को हटा दिया जाता है।
- अनिश्चित ईंटों को या तो हटा दिया जाता है या उन्हें "हमें इस हिस्से के बारे में यकीन नहीं है" के रूप में चिह्नित किया जाता है।
सिस्टम आपको एक "ट्रस्ट स्कोर" (विश्वास स्कोर) भी देता है। यह आपको बताता है, "मुझे इस उत्तर पर 85% विश्वास है।" यदि स्कोर कम है, तो आप जानते हैं कि आपको सावधान रहना चाहिए।
उन्होंने क्या पाया?
शोधकर्ताओं ने इस कारखाने का परीक्षण दो प्रकार के कार्यों पर किया:
- विज्ञान तथ्य जांच: वैज्ञानिक दावों के सच होने की जांच करना।
- जटिल प्रश्न: ऐसे प्रश्नों के उत्तर देना जिनमें सूचना के कई टुकड़ों को जोड़ना आवश्यक हो।
परिणाम:
- लाइब्रेरियन महत्वपूर्ण है: जब उन्होंने लाइब्रेरियन (रिट्रीवल स्टेप) को हटाया, तो सही उत्तर देने की सिस्टम की क्षमता नाटकीय रूप से गिर गई। यह साबित करता है कि आपको केवल AI की याददाश्त की नहीं, बल्कि वास्तविक साक्ष्य की आवश्यकता है।
- छोटा जज मुख्य भूमिका निभाता है: छोटा, तेज़ जज (SLM) तथ्यों के सच या गलत होने का निर्णय लेने में अधिकांश काम करता है। "बुद्धिमान बुजुर्ग" (रीजनिंग लेयर) ने इन परीक्षणों में अंतिम स्कोर को बहुत अधिक नहीं बदला, लेकिन यह समझाने और गलतियों को ठीक करने में बहुत अच्छा था।
- सावधानी बेहतर है: सिस्टम को सतर्क रहने के लिए डिज़ाइन किया गया है। यह अनुमान लगाने और गलत होने के बजाय "मुझे नहीं पता" (अनिश्चित) कहना पसंद करता है। इसका मतलब है कि यह कुछ सही तथ्यों को छोड़ सकता है, लेकिन यह आत्मविश्वास के साथ झूठ बहुत कम बोलता है।
मुख्य बात
यह शोध पत्र दिखाता है कि AI के काम की जांच करने के लिए आपको सुपर-कंप्यूटर की आवश्यकता नहीं है। उत्तरों को छोटे टुकड़ों में तोड़कर, वास्तविक दस्तावेजों के विरुद्ध उनकी जांच करके, निर्णय लेने के लिए एक तेज़ "मिनी-AI" का उपयोग करके और सरल तर्क नियमों को लागू करके, आप झूठ को पकड़ सकते हैं और गलतियों को सुधार सकते हैं। परिणाम एक ऐसा AI है जो केवल आत्मविश्वासी ही नहीं दिखता, बल्कि वास्तव में विश्वसनीय भी है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।