HalluHard: A Hard Multi-Turn Hallucination Benchmark
यह शोध पत्र HalluHard को प्रस्तुत करता है, जो चार उच्च-जोखिम वाले डोमेन में एक चुनौतीपूर्ण मल्टी-टर्न हैलुसिनेशन बेंचमार्क है, जो एक स्वचालित वेब-सर्च-आधारित जजिंग पाइपलाइन का उपयोग करता है ताकि यह प्रकट किया जा सके कि सबसे उन्नत भाषा मॉडल भी जटिल संवाद सेटिंग्स में महत्वपूर्ण रूप से गैर-आधारित तथ्यात्मक दावे करना जारी रखते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बेहद बुद्धिमान, तेज़ बोलने वाले रिसर्च असिस्टेंट को जटिल समस्याओं को हल करने में मदद करने के लिए काम पर रख रहे हैं। आप उससे एक सवाल पूछते हैं, वह आपको उत्तर देता है और स्रोतों (sources) की एक सूची देता है, और फिर आप उससे एक फॉलो-अप सवाल पूछते हैं। वह लगातार बोलता रहता है, जो उसने अभी कहा था उसी को आगे बढ़ाता जाता है।
परेशानी क्या है? यह असिस्टेंट आत्मविश्वास के साथ झूठ बोलने (confident fabrication) में माहिर है। वे अविश्वसनीय रूप से विश्वसनीय लगते हैं, लेकिन वे अक्सर तथ्य गढ़ते हैं, स्रोत आविष्कार करते हैं, या अपनी कहानी को सही साबित करने के लिए सच को तोड़-मरोड़ देते हैं। इसे "हैलुसिनेशन" (hallucination) कहा जाता है।
यहाँ बताया गया है कि उन्होंने क्या किया और क्या पाया, सरल उपमाओं (analogies) का उपयोग करते हुए:
1. समस्या: "आत्मविश्वास से भरा झूठा" (The "Confident Liar")
पिछले परीक्षण इस बात जैसे थे कि आप असिस्टेंट से पूछें, "फ्रांस की राजधानी क्या है?" यदि उसने सही उत्तर दिया, तो वह पास हो गया। लेकिन वास्तविक दुनिया में, बातचीत अव्यवset (messy) होती है। आप एक सवाल पूछते हैं, वह जवाब देता है, फिर आप पूछते हैं "क्यों?", और वह फिर से जवाब देता है।
- समस्या: जैसे-जैसे बातचीत लंबी होती जाती है, असिस्टेंट भ्रमित होने लगता है। वह पहली बारी (turn) में एक छोटी सी गलती कर सकता है, और फिर दूसरी बारी में, वह अपनी उस गलती पर अपना पूरा नया उत्तर खड़ा कर देता है। यह "टेलीफोन गेम" की तरह है जहाँ संदेश बिगड़ जाता है, लेकिन असिस्टेंट इस बात पर अड़ा रहता है कि बिगड़ा हुआ संस्करण ही सच है।
- कमी: पुराने परीक्षण बहुत आसान थे। वे इन "लंबे-कंड" (long-con) वाले झूठों को नहीं पकड़ पाते थे।
2. समाधान: "HALLUHARD" टेस्ट
शोधकर्ताओं ने चार उच्च-जोखिम वाले क्षेत्रों में 950 कठिन प्रश्न के साथ एक नया, कठोर परीक्षण बनाया:
- कानूनी (Legal): "क्या यह गवाह का बयान स्वीकार्य है?"
- अनुसंधान (Research): "यह विशिष्ट चिकित्सा अध्ययन डेटा को कैसे संभालता है?"
- चिकित्सा (Medical): "इस दवा के बारे में दिशानिर्देश क्या कहते हैं?"
- कोडिंग (Coding): "X करने के लिए कोड लिखें।"
ट्विस्ट: असिस्टेंट को अपने द्वारा किए गए हर दावे के लिए एक उद्धरण (citation/स्रोत) देना अनिवार्य है।
- पकड़ने वाली बात: शोधकर्ताओं ने केवल यह नहीं देखा कि स्रोत असली दिखता है या नहीं। उन्होंने एक विशेष "जज रोबोट" बनाया जो वास्तव में जाकर, पूरा दस्तावेज़ (यहाँ तक कि PDF भी!) खोजता है, उसे पढ़ता है, और जाँचता है: क्या स्रोत वास्तव में वही कहा है जो असिस्टेंट ने दावा किया था?
3. "जज रोबोट" (नया टूल)
एक ऐसे लाइब्रेरियन की कल्पना करें जो केवल किताब के कवर या सारांश को नहीं देखता।
- पुराने जज: वे एक छोटे से अंश (जैसे गूगल सर्च प्रिव्यू) को देखते थे। यदि अंश थोड़ा बहुत मेल खाता था, तो वे कहते थे, "ठीक लग रहा है!"
- HALLUHARD जज: यह पूरी किताब खोलता है, विशिष्ट अध्याय पढ़ता है, और बारीक विवरणों की जाँच करता है।
- परिदृश्य: असिस्टेंट कहता है, "पेज 45 कहता है X।" जज PDF खोलता है, पेज 45 पर जाता है, और देखता है कि टेक्स्ट वास्तव में "Y" कहता है।
- परिणाम: असिस्टेंट झूठ बोलते हुए पकड़ा जाता है, भले ही उसने एक असली किताब का हवाला दिया हो।
4. उन्होंने क्या पाया (परिणाम)
उन्होंने उपलब्ध सबसे स्मार्ट AI मॉडल्स (जैसे GPT-5, Claude Opus, आदि) का परीक्षण किया। यहाँ बुरी खबर है: सबसे स्मार्ट मॉडल्स भी अभी भी बहुत झूठ बोल रहे हैं।
"वेब सर्च" का मिथक: लोगों ने सोचा, "यदि हम AI को गूगल सर्च का उपयोग करने दें, तो यह झूठ बोलना बंद कर देगा।"
- वास्तविकता: वेब सर्च के साथ भी, बेहतरीन मॉडल्स अभी भी लगभग 30% बार गलत जानकारी (hallucinate) देते हैं। बिना सर्च के, यह 60% था।
- क्यों? AI सही किताब तो ढूंढ लेता है लेकिन उसके अंदर के विशिष्ट पैराग्राफ को गलत पढ़ देता है। यह ठीक वैसा ही है जैसे सही पाठ्यपुस्तक ढूंढ लेना लेकिन उसके गलत पेज को याद कर लेना।
"लंबी बातचीत" का जाल:
- पहली बारी में, AI ठीक रहता है।
- तीसरी बारी तक आते-आते, हैलुसिनेशन की दर बढ़ जाती है। AI अपनी ही पिछली गलतियों पर आधारित होने लगता है। यह एक जासूस की तरह है जो अपराध सुलझाता है, संदिग्ध को गलत चुनता है, और फिर बाकी की जांच में उस गलत संदिग्ध को दोषी साबित करने की कोशिश करता है।
सोचना मदद करता है, लेकिन जादू नहीं:
- जो मॉडल्स उत्तर देने से पहले "सोचते" हैं (धीमे, अधिक सावधान मॉडल), वे कम झूठ बोलते हैं।
- हालांकि, केवल उन्हें "ज़्यादा सोचने" से सब कुछ ठीक नहीं हो जाता। कभी-कभी, बहुत अधिक सोचने से लंबे और अधिक विस्तृत झूठ ही पैदा होते हैं।
"निश" (Niche) की समस्या:
- यदि आप किसी पूरी तरह से काल्पनिक चीज़ (जैसे एक नकली पहाड़) के बारे में पूछते हैं, तो AI अक्सर कहता है, "मुझे नहीं पता।"
- लेकिन यदि आप किसी ऐसी चीज़ के बारे में पूछते हैं जो असली है लेकिन बहुत दुर्लभ (obscure) है (जैसे एक पेपर जिसके केवल 10 साइटेशन हों), तो AI अनुमान लगाने की कोशिश करता है और आत्मविश्वास के साथ झूठ बोलता है। वह एक ऐसे "खतरे के क्षेत्र" में होता है जहाँ उसे लगता है कि उसे शायद पता हो सकता है, इसलिए वह मनगढ़ंत बातें बनाता है।
5. निर्णय (The Verdict)
पेपर निष्कर्ष निकालता है कि हम अभी इन AI मॉडल्स पर फैक्ट-चेकर के रूप में भरोसा नहीं कर सकते।
- क्षमता पर्याप्त नहीं है: बड़े, स्मार्ट मॉडल्स भी झूठ बोलते हैं।
- टूल्स कोई रामबाण इलाज नहीं हैं: उन्हें सर्च इंजन देना मदद करता है, लेकिन वे अभी भी पूरे टेक्स्ट को सही ढंग से पढ़ने में संघर्ष करते हैं।
- भविष्य: हमें ऐसे AI की आवश्यकता है जो यह जानता हो कि वह कब नहीं जानता। वर्तमान में, वे अनुमान लगाने के लिए बहुत उत्सुक हैं, खासकर जब तथ्य ढूँढना कठिन हो।
संक्षेप में: HALLUHARD एक स्ट्रेस टेस्ट है जो दिखाता है कि हमारे सबसे उन्नत AI असिस्टेंट अभी भी तथ्य गढ़ने के प्रति प्रवृत्त हैं, विशेष रूप से लंबी बातचीत के दौरान, और केवल "चीजों को खोजना" उन्हें विवरणों को गलत समझने से रोकने के लिए पर्याप्त नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।