Hallucination Detection Using Evidence Retrieval and Natural Language Inference
यह शोधपत्र TruthLens प्रस्तुत करता है, जो एक साक्ष्य-आधारित पाइपलाइन है जो व्यक्तिगत दावों को निकालने, हाइब्रिड BM25 और MiniLM दृष्टिकोण के माध्यम से साक्ष्य प्राप्त करने और उन्हें DeBERTa-v3 NLI मॉडल के साथ सत्यापित करके लार्ज लैंग्वेज मॉडल (LLM) प्रतिक्रियाओं में मतिभ्रम (hallucinations) का पता लगाता है, जो FEVER डेटासेट पर मध्यम सटीकता प्राप्त करते हुए सामान्यीकरण और साक्ष्य कवरेज में सीमाओं को उजागर करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक आर्टिफिशियल इंटेलिजेंस के विशाल परिदृश्य में, बड़े भाषा मॉडल (large language models) लिखने में उल्लेखनीय रूप से कुशल हो गए हैं। वे प्रवाहपूर्ण निबंध रच सकते हैं, जटिल प्रश्नों के उत्तर दे सकते हैं, और एक ऐसी स्पष्टता के साथ सुसंगत कहानियाँ सुना सकते हैं जो अक्सर मानवीय विशेषज्ञता से अभिन्न महसूस होती है। फिर भी, इस पॉलिश की हुई सतह के नीचे एक निरंतर दोष छिपा है: ये सिस्टम कभी-कभी ऐसे कथन उत्पन्न करते हैं जो सुनने में तो विश्वसनीय लगते हैं, लेकिन तथ्यात्मक रूप से गलत, असमर्थित या पूरी तरह से मनगढ़ंत होते हैं। यह घटना, जिसे 'हैलुसिनेशन' (hallucination) कहा जाता है, एक बड़ी चुनौती पेश करती है क्योंकि एक ही उत्तर में सत्य तथ्यों और असत्य तथ्यों का मिश्रण हो सकता है। यदि कोई सिस्टम पूरे उत्तर को केवल "गलत" या "सही" के रूप में लेबल करता है, तो वह इस सूक्ष्मता को खो देता है कि कौन से विशिष्ट भाग भरोसेमंद हैं। इसे हल करने के लिए, शोधकर्ता सत्यापन की एक ऐसी विधि की ओर मुड़ रहे हैं जो प्रत्येक वाक्य को एक अलग दावे के रूप में मानती है, और यह देखने के लिए कि क्या साक्ष्य उस कथन का समर्थन करते हैं, उसका खंडन करते हैं, या केवल उसे संबोधित करने में विफल रहते हैं, उसे ज्ञात तथ्यों के एक पुस्तकालय के विरुद्ध जाँचती है।
भारतीय प्रौद्योगिकी संस्थान रुड़की के शोधकर्ताओं की एक टीम ने इस समस्या से निपटने के लिए 'ट्रुथलेंस' (TruthLens) नामक एक प्रोटोटाइप सिस्टम बनाया है। यह अनुमान लगाने के बजाय कि कोई उत्तर सत्य है या नहीं, ट्रुथलेंस एक सूक्ष्म तथ्य-जांचकर्ता (fact-checker) की तरह कार्य करता है जो एक लंबे उत्तर को व्यक्तिगत वाक्यों में तोड़ देता है। प्रत्येक वाक्य के लिए, सिस्टम प्रासंगिक अंशों को खोजने के लिए पाठ के एक विशाल डिजिटल पुस्तकालय की खोज करता है। यह इन अंशों को खोजने के लिए दो अलग-अलग रणनीतियों का उपयोग करता है: एक शब्दों के सटीक मिलान की तलाश करता है, जबकि दूसरा शब्दों के पीछे के अर्थ को समझता है, भले ही शब्दावली अलग हो। सिस्टम फिर इन दो खोजों के परिणामों को जोड़कर सबसे संभावित साक्ष्य उम्मीदवार का चयन करता है। अंत में, यह मूल दावे की तुलना चुने गए साक्ष्य से करने के लिए एक विशेष भाषा मॉडल का उपयोग करता है, और यह निर्णय लेता है कि साक्ष्य दावे को सिद्ध करता है, उसे गलत साबित करता है, या प्रश्न को अनुत्तरित छोड़ देता है।
शोधकर्ताओं ने एक मानक तथ्य-जांच बेंचमार्क से प्राप्त लगभग बीस हजार उदाहरणों के डेटासेट का उपयोग करके इस दृष्टिकोण का परीक्षण किया। उन्होंने पहले यह मापा कि उनका सिस्टम सही साक्ष्य कितनी अच्छी तरह खोज पाता है। जब केवल शब्द-मिलान वाली खोज का उपयोग किया गया, तो सिस्टम ने लगभग आधे मामलों में सही साक्ष्य खोज लिया। जब अर्थ-आधारित खोज का उपयोग किया गया, तो इसमें थोड़ा सुधार हुआ। हालाँकि, जब उन्होंने दोनों विधियों को संयोजित किया, तो सिस्टम ने अपने पहले अनुमान में 56.51% मामलों में सफलतापूर्वक प्रासंगिक साक्ष्य खोज लिए, और यदि इसने शीर्ष पांच या दस सुझावों को देखा, तो 65% से अधिक मामलों में। यह हाइब्रिड दृष्टिकोण संभावित प्रमाण एकत्र करने का सबसे प्रभावी तरीका साबित हुआ, जिससे पता चला कि केवल एक खोज विधि पर निर्भर रहना आवश्यक जानकारी को पकड़ने के लिए पर्याप्त नहीं है।
एक बार जब सिस्टम को सर्वोत्तम साक्ष्य मिल गया, तो उसे यह तय करना था कि उस साक्ष्य का अर्थ क्या है। शोधकर्ताओं ने कई विन्यासों (configurations) का परीक्षण किया यह देखने के लिए कि कौन सा सेटअप सबसे सटीक निर्णय देता है। उन्होंने पाया कि सत्यापन मॉडल को एकल सर्वोत्तम साक्ष्य प्रदान करना, कई साक्ष्यों को एकत्रित करने के प्रयास की तुलना में बेहतर काम करता है। दो हजार उदाहरणों के एक अलग सेट पर, जिसे सिस्टम ने पहले कभी नहीं देखा था, इस अंतिम सेटअप ने 62.25% बार दावों को सही ढंग से वर्गीकृत किया। हालांकि यह एक प्रोटोटाइप के लिए एक ठोस प्रदर्शन है, लेकिन परिणामों ने यह भी उजागर किया कि सिस्टम कहाँ संघर्ष करता है। मॉडल विशेष रूप से यह पहचानने में अच्छा था कि कोई दावा समर्थित है या खंडित किया गया है, लेकिन उसे उपलब्ध पाठ द्वारा केवल 'असमर्थित' होने और वास्तव में 'असत्य' होने के बीच अंतर करने में कठिनाई हुई। इन अनिश्चित मामलों में, सिस्टम अक्सर हिचकिचाता था, और निश्चित निर्णय लेने के बजाय उन्हें "अज्ञात" के रूप में लेबल करता था।
अध्ययन ने यह भी प्रकट किया कि सिस्टम की सफलता उस साक्ष्य की गुणवत्ता और दायरे से मजबूती से बंधी हुई जिसे वह एक्सेस कर सकता है। शोधकर्ताओं ने नोट किया कि उनका प्रोटोटाइप पाठ के एक विशिष्ट, सीमित संग्रह पर निर्भर करता है, और यह उन घटनाओं या तथ्यों के बारे में दावों को सत्यापित नहीं कर सकता जो उस पुस्तकालय के भीतर मौजूद नहीं हैं। इसके अलावा, सिस्टम कभी-कभी विफल हो जाता है जब किसी दावे के लिए सूचना के कई टुकड़ों को जोड़ने या सर्वनाम जैसे संदर्भों को हल करने की आवश्यकता होती है, जो वाक्य-दर-वाक्य विश्लेषण को भ्रमित कर सकते हैं। अपने तरीके का परीक्षण करने के लिए कि क्या यह सामान्य प्रश्न-उत्तर के लिए डिज़ाइन किए गए एक अलग प्रकार के डेटासेट पर काम कर सकता है, शोधकर्ताओं ने पाया कि सिस्टम का स्थानांतरण (transfer) अच्छी तरह से नहीं हुआ, जो यह सुझाव देता है कि एक विशिष्ट प्रकार के तथ्य-जांच कार्य के लिए बनाए गए उपकरण बिना महत्वपूर्ण समायोजन के सार्वभौमिक रूप से काम नहीं कर सकते।
अंततः, ट्रुथलेंस यह प्रदर्शित करता है कि एआई उत्तरों को तोड़ने और उन्हें तथ्यों के डेटाबेस के विरुद्ध जांचने के लिए एक पाइपलाइन बनाना संभव है, लेकिन यह वर्तमान तकनीक की सीमाओं को भी उजागर करता है। यह सिस्टम कोई जादुई छड़ी नहीं है जो किसी भी कथन के पूर्ण सत्य को तुरंत प्रकट कर सके; बल्कि, यह एक ऐसा उपकरण है जो दिखाता है कि उपलब्ध साक्ष्य के आधार पर क्या सत्यापित किया जा सकता है। यह सफलतापूर्वक पहचान लेता है कि कोई दावा उपलब्ध पाठ द्वारा समर्थित है या खंडित किया गया है, लेकिन यह ईमानदारी से स्वीकार भी करता है कि साक्ष्य गायब या अपर्याप्त हैं। शोधकर्ता निष्कर्ष निकालते हैं कि हालांकि उनका हाइब्रिड रिट्रीवल और वेरिफिकेशन मेथड काम करता है, लेकिन सबसे बड़ी बाधाएं जटिल तर्क को संभालने, अस्पष्ट संदर्भों को हल करने और विभिन्न प्रकार के डेटा पर काम करने की प्रणाली की क्षमता को विस्तार देने में बनी हुई हैं। फिलहाल, यह सिस्टम एक कार्यात्मक प्रोटोटाइप के रूप में कार्य करता है जो इस बात की झलक देता है कि मशीनें भविष्य में सूचनाओं के सैलाब के बीच मनुष्यों की सहायता कैसे कर सकती हैं, बशर्ते हम याद रखें कि अंतिम निर्णय के लिए मानवीय निरीक्षण की अभी भी आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।