Don't Let It Hallucinate: Premise Verification via Retrieval-Augmented Logical Reasoning
यह शोध पत्र एक रिट्रीवल-ऑगमेंटेड लॉजिकल रीजनिंग फ्रेमवर्क प्रस्तावित करता है जो जनरेशन से पहले उपयोगकर्ता की क्वेरीज़ में गलत आधारों (false premises) को सक्रिय रूप से पहचानता और सत्यापित करता है, जिससे मॉडल लॉगिट एक्सेस या व्यापक फाइन-ट्यूनिंग की आवश्यकता के बिना एलएलएम (LLM) के मतिभ्रम (hallucinations) को प्रभावी ढंग से कम किया जा सकता है और तथ्यात्मक सटीकता में सुधार किया जा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, विद्वान लाइब्रेरियन (AI) से सलाह मांग रहे हैं। लेकिन, आपने गलती से एक झूठ पर आधारित प्रश्न पूछ लिया।
समस्या: "ट्रैप" (जाल) वाला प्रश्न
मान लीजिए कि आप पूछते हैं: "शेलफिश एलर्जी का इलाज पेनिसिलिन से करने का सबसे अच्छा तरीका क्या है?"
यहाँ जाल है: पेनिसिलिन शेलफिश एलर्जी का इलाज नहीं करती है। वास्तव में, यह पूरी तरह से असंबंधित है। लेकिन क्योंकि लाइब्रेरियन मदद करने के लिए बहुत उत्सुक और प्रवाहपूर्ण है, वह कह सकता है, "हाँ, पेनिसिलिन इसके लिए बेहतरीन है! यह सूजन को कम करता है..."
लाइब्रेरियन ने जानबूझकर झूठ नहीं बोला; उसने बस आपके गलत शुरुआती बिंदु (प्रिमाइज़/आधार) को सत्य मान लिया और उस पर एक पूरी कहानी बना दी। इसे हैलुसिनेशन (Hallucination) कहा जाता है। वास्तविक दुनिया में, यदि ऐसा चिकित्सा सलाह के साथ होता, तो यह खतरनाक हो सकता था।
इसे ठीक करने के मौजूदा तरीके ऐसे हैं जैसे चोर द्वारा पैसे चुराने के बाद उसे पकड़ने की कोशिश करना। या तो इसके लिए लाइब्रेरियन के पूरे मस्तिष्क को फिर से लिखने की आवश्यकता होती है (महंगी ट्रेनिंग) या उन्हें बोलते समय अपने विचारों की जांच करने की आवश्यकता होती है (जो धीमा है और विशेष पहुंच की आवश्यकता होती है)।
समाधान: भाषण से पहले "फैक्ट-चेकर"
लेखक एक नया सिस्टम प्रस्तावित करते हैं: लाइब्रेरियन को तब तक बोलने न दें जब तक कि एक फैक्ट-चेकर आपके प्रश्न को सत्यापित न कर ले।
वे इसे रिट्रीवल-ऑगमेंटेड लॉजिकल रीजनिंग के माध्यम से प्रिमाइज़ वेरिफिकेशन (Premise Verification) कहते हैं। यह इस प्रकार काम करता है, एक सरल उपमा का उपयोग करते हुए:
1. अनुवादक (लॉजिकल फॉर्म)
सबसे पहले, सिस्टम आपके अव्यवस्थित, प्राकृतिक भाषा वाले प्रश्न को एक सख्त, संरचित "कोड" या तार्किक ब्लूप्रिंट में अनुवादित करता है।
- आपका प्रश्न: "क्या फिल्म द डार्क नाइट 16वें स्क्रीन एक्टर्स गील्ड अवार्ड्स की विजेता है?"
- ब्लूप्रिंट:
IsRecipient(The Dark Knight, 16th SAG Awards)
यह अनावश्यक बातों को हटा देता है और मुख्य तथ्यों को अलग करता है: कौन उनके बारे में बात किया जा रहा है, और उनके बारे में क्या दावा किया गया है।
2. लाइब्रेरियन का सहायक (रिट्रीवल)
मुख्य लाइब्रेरियन के उत्तर देने से पहले, एक विशेष सहायक (रिट्रीवर) उस ब्लूप्रिंट को लेता है और लाइब्रेरी के मास्टर डेटाबेस (नॉलेज ग्राफ) में जाकर जाँच करता है कि क्या वह दावा मौजूद है।
- सहायक खोजता है: क्या द डार्क नाइट ने 16वें SAG अवार्ड्स जीते?
- डेटाबेस कहता है: नहीं। इसने वास्तव में 81वें अकादमी पुरस्कार जीते थे।
3. रेड फ्लैग (सत्यापन)
सहायक को एहसास होता है कि आपके प्रश्न में एक गलत आधार (False Premise) है। मुख्य लाइब्रेरियन को अनुमान लगाने देने के बजाय, सिस्टम आपके प्रश्न पर एक बड़ा लाल झंडा लगा देता है।
- सिस्टम लाइब्रेरियन से कहता है: "हे, उत्तर देने से पहले, ध्यान दें कि इस प्रश्न में एक गलत आधार है। द डार्क नाइट ने वह पुरस्कार नहीं जीता था।"
4. सुधारा गया उत्तर
अब, मुख्य लाइब्रेरियन (LLM) उत्तर उत्पन्न करता है, लेकिन वह सत्य से लैस होता है।
- पुराना उत्तर (हैलुसिनेशन): "हाँ, इसने वह पुरस्कार जीता!"
- नया उत्तर (सुधारा गया): "नहीं, यह गलत है। द डार्क नाइट ने 16वें SAG अवार्ड्स नहीं जीते। यहाँ वह है जो वास्तव में इसने जीता था..."
यह बेहतर क्यों है?
- यह एक "प्री-फ्लाइट" चेक है: विमान के दुर्घटनाग्रस्त होने के बाद उसे ठीक करने के बजाय, यह सिस्टम उड़ान भरने से पहले इंजन की जाँच करता है।
- यह सस्ता और तेज़ है: इसके लिए AI के मस्तिष्क को फिर से प्रशिक्षित करने की आवश्यकता नहीं है। यह बस एक त्वरित "लुकअप" चरण जोड़ता है।
- यह "ब्लैक बॉक्स" पर काम करता है: आपको यह काम करने के लिए AI के आंतरिक "विचारों" (logits) को देखने की आवश्यकता नहीं है। यह तब भी काम करता है जब AI एक "ब्लैक बॉक्स" (जैसे व्यावसायिक API) हो।
- यह जटिल जाल को संभालता है: यह विशेष रूप से "मल्टी-हॉप" प्रश्नों (ऐसे प्रश्न जिनमें कई कड़ियों को जोड़ने की आवश्यकता होती है) के लिए अच्छा है, जहाँ झूठ तर्क की गहराई में छिपा होता है।
संक्षेप में:
यह पेपर हमें सिखाता है कि AI को मनगढ़ंत बातें करने से रोकने के लिए, हमें केवल उसे "सावधान रहने" के लिए कहना पर्याप्त नहीं है। इसके बजाय, हमें उसे एक फैक्ट-चेकर देना चाहिए जो प्रश्न को एक चेकलिस्ट में अनुवादित करे, विश्वसनीय डेटाबेस के विरुद्ध तथ्यों को सत्यापित करे, और यदि प्रश्न एक झूठ पर आधारित है, तो AI को उसका उत्तर लिखना शुरू करने से पहले चेतावनी दे। यह एक सुरक्षा गार्ड द्वारा आपको इमारत में जाने देने से पहले आपकी आईडी चेक करने जैसा है, बजाय इसके कि आपने पहले ही परेशानी खड़ी कर दी हो और फिर आपको बाहर निकाला जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।