HalluTruthQA-4K: A Fine-Grained Corpus and Annotation Process for Arabic Hallucination Detection and Truth Verification
यह शोध पत्र HalluTruthQA-4K को प्रस्तुत करता है, जो चार ज्ञान डोमेन में विशेषज्ञ-क्यूरेटेड 4,000 प्रश्न-उत्तर उदाहरणों का एक सूक्ष्म-स्तरीय अरबी कॉर्पस है, जिसमें अरबी भाषा के मॉडलों में मतिभ्रम (hallucination) का पता लगाने और तथ्यात्मक सत्यापन को उन्नत करने के लिए विस्तृत वर्ण-स्तर (character-level) के त्रुटि एनोटेशन, पदानुक्रमित मतिभ्रम प्रकार और मानव-लिखित स्पष्टीकरण शामिल हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट दोस्त के साथ चैट कर रहे हैं जो उत्तम अरबी बोलता है। वह आपको कहानियाँ सुना सकता है, जटिल विज्ञान समझा सकता है, और प्राचीन इतिहास को इतनी सहज आत्मविश्वास के साथ उद्धृत कर सकता है कि आपको कभी भी संदेह नहीं होगा। लेकिन यहाँ एक पेंच है: सिर्फ इसलिए कि रोबोट धाराप्रवाह और आत्मविश्वासी लगता है, इसका मतलब यह नहीं है कि वह सच बोल रहा है। कभी-कभी, यह रोबोट तारीखें मिला सकता है, एक फर्जी ऐतिहासिक पात्र बना सकता है, या एक ऐसा धार्मिक पाठ उद्धृत कर सकता है जो अस्तित्व में ही नहीं है, और यह सब करते हुए पूरी तरह से विश्वसनीय लग सकता है। इसे "हैलुसिनेशन" (hallucination) कहा जाता है। आर्टिफिशियल इंटेलिजेंस की दुनिया में, हैलुसिनेशन कोई डरावनी भूतिया कहानी नहीं है; यह तब होता है जब एक कंप्यूटर मॉडल ऐसे तथ्य बनाता है जो वास्तविक लगते हैं लेकिन वास्तव में गलत होते हैं।
लंबे समय तक, इस समस्या को ठीक करने की कोशिश करने वाले वैज्ञानिकों के पास एक बहुत ही सीधा और सीमित उपकरण था। वे रोबोट से एक प्रश्न पूछते, उत्तर पढ़ते, और बस कहते, "हाँ, यह झूठ है," या "नहीं, यह सच है।" यह एक शिक्षक की तरह था जो गणित के टेस्ट को केवल एक लाल पेन से ग्रेड दे रहा था जो पूरे पेज को गलत मार्क कर देता था, बिना यह बताए कि कौन सी संख्या गलत थी या क्यों। इससे रोबोट को बेहतर करने के लिए सिखाना कठिन हो गया था। हमें एक ऐसे तरीके की आवश्यकता थी जिससे हम ज़ूम इन कर सकें, ठीक उस गलत शब्द की ओर इशारा कर सकें, गलती को समझा सकें, और सही उत्तर दिखा सकें, और यह सब एक ही पैकेज में हो।
यहीं पर HalluTruthQA-4K के पीछे के शोधकर्ता कदम रखते हैं। उन्होंने अरबी भाषा के मॉडलों के लिए एक विशाल, अत्यंत विस्तृत प्रशिक्षण मैदान बनाने का निर्णय लिया। इसे एक विशाल "अंतर पहचानो" (spot the difference) खेल की तरह समझें, लेकिन दो चित्रों के बजाय, वे एक रोबोट के उत्तर की तुलना एक सत्यापित सत्य से कर रहे हैं। उन्होंने 4,000 प्रश्न-और-उत्तर जोड़ों का एक डेटासेट बनाया जो चार कठिन विषयों को कवर करता है: इस्लामी ज्ञान, इतिहास, विज्ञान और भूगोल।
यहाँ बताया गया है कि उन्होंने यह खेल कैसे खेला:
- सेटअप: विशेषज्ञों ने प्रत्येक चार विषयों के लिए 1,000 प्रश्न लिखे।
- प्रदर्शन: उन्होंने एक विशिष्ट अरबी बोलने वाले AI मॉडल से उन्हें उत्तर देने के लिए कहा।
- निरीक्षण: यह जादुई हिस्सा है। केवल "गलत" कहने के बजाय, विशेषज्ञों ने जासूसों की तरह काम किया। उन्होंने पाया कि 1,643 उत्तरों में झूठ या त्रुटियां शामिल थीं। प्रत्येक त्रुटि के लिए, उन्होंने केवल पूरे वाक्य को चिह्नित नहीं किया; उन्होंने सटीक रूप से उन अक्षरों (characters) का पता लगाया जो गलत थे।
- व्याख्या: उन्होंने सरल भाषा में लिखा कि यह क्यों गलत था।
- बहुविकल्पीय: उन्होंने प्रत्येक प्रश्न के लिए एक बहुविकल्पीय क्विज़ भी बनाया, जिसमें एक सही उत्तर और पांच पेचीदा "डिस्ट्रैक्टर्स" (नकली उत्तर जो असली दिखते हैं) थे, ताकि यह देखा जा सके कि क्या AI सच्चाई को चुन सकता है भले ही वह इसे पूरी तरह से न लिख सके।
शोधकर्ताओं ने पाया कि ये AI मॉडल स्मार्ट दिखने में आश्चर्यजनक रूप से अच्छे हैं लेकिन सटीक होने में अक्सर विफल रहते हैं। वास्तव में, उनके द्वारा उत्पन्न लगभग 41% उत्तरों में कोई न कोई तथ्यात्मक त्रुटि थी। लेकिन वास्तविक खोज यह नहीं थी कि वे गलतियाँ करते हैं; बल्कि यह थी कि वे कहाँ और कैसे गलतियाँ करते हैं।
उन्होंने पाया कि त्रुटियाँ हमेशा बड़ी, स्पष्ट झूठ नहीं होतीं। कभी-कभी मुख्य उत्तर सही होता है, लेकिन रोबोट उसे साबित करने के लिए एक फर्जी स्रोत गढ़ लेता है, या तारीख को कुछ वर्षों से गलत कर देता है। उन्होंने पाया कि इस्लामी ज्ञान के प्रश्नों में, मॉडल अक्सर अपने उत्तर की "विश्वसनीयता" (faithfulness) के साथ गड़बड़ी करते थे—जिसका अर्थ है कि वे तथ्यों को सही रखते थे लेकिन गलत आयत उद्धृत करते थे या किसी कथन को गलत विद्वान के नाम से जोड़ देते थे। विज्ञान और इतिहास में, त्रुटियाँ वास्तविक संख्याओं, नामों या तारीखों को गलत करने के बारे में थीं।
पेपर सुझाव देता है कि इन रोबोटों को ठीक करने के लिए, हम केवल अंतिम ग्रेड को नहीं देख सकते। हमें विशिष्ट "हैलुसिनेटेड स्पैन" (hallucinated spans)—यानी झूठ के छोटे, सटीक टेक्स्ट के हिस्सों—को देखना होगा। टीम ने इन त्रुटियों को "फैक्टुअल कॉन्ट्राडिक्शन" (तथ्यात्मक विरोधाभास - कुछ गलत कहना), "कॉन्टेक्स्ट इनकंसिस्टेंसी" (संदर्भ विसंगति - गलत साक्ष्य का उपयोग करना), या "फैक्टुअल फैब्रिकेशन" (तथ्यात्मक निर्माण - पूरी नई कहानी बनाना) जैसी श्रेणियों में वर्गीकृत करने के लिए एक विशेष "टैक्सोनॉमी" (वर्गीकरण प्रणाली) बनाई।
4,000 उदाहरणों के इस विशाल डेटासेट को जारी करके, जिसमें 1,843 सटीक त्रुटि स्थल और मानव-लिखित स्पष्टीकरण शामिल हैं, लेखक शोधकर्ताओं को एक नया, उच्च-शक्ति वाला सूक्ष्मदर्शी थमा रहे हैं। वे यह दावा नहीं कर रहे हैं कि उन्होंने AI के झूठ बोलने की समस्या को हमेशा के लिए हल कर दिया है। इसके बजाय, वे अंततः यह मापने के उपकरण प्रदान कर रहे हैं कि ये मॉडल ठीक कैसे और क्यों गलत होते हैं, ताकि हम भविष्य में बेहतर, अधिक सत्यवादी संस्करण बना सकें। यह रोबोट को उसका अपना दर्पण और उसकी गलतियों का नक्शा देने जैसा है, जिससे अंततः वह स्मार्ट दिखने और वास्तव में सही होने के बीच के अंतर को सीख सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।