HalluWorld: A Controlled Benchmark for Hallucination via Reference World Models
यह शोध पत्र HalluWorld को प्रस्तुत करता है, जो भाषा मॉडलों में मतिभ्रम (hallucinations) का व्यवस्थित रूप से मूल्यांकन और वर्गीकरण करने के लिए स्पष्ट संदर्भ विश्व मॉडलों (reference world models) का उपयोग करने वाला एक नियंत्रित बेंचमार्क है, जो यह प्रकट करता है कि जबकि संवेदी त्रुटियाँ (perceptual errors) काफी हद तक हल हो गई हैं, बहु-चरणीय अवस्था ट्रैकिंग (multi-step state tracking), कारण सिमुलेशन (causal simulation) और परहेज (abstention) में चुनौतियाँ बनी हुई हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, विद्वान सहायक को काम पर रख रहे हैं जो आपको एक अजीब, बदलते हुए भूलभुलैया (maze) के माध्यम से रास्ता दिखाने में मदद करेगा। कभी-कभी, यह सहायक गलतियाँ कर देता है। वे कह सकते हैं, "यहाँ एक दरवाज़ा है!" जबकि वास्तव में वहाँ एक दीवार होती है, या "मुझे याद है कि हमने बाएँ मुड़ा था," जबकि आपने वास्तव में दाएँ मुड़ा था। AI की दुनिया में, हम इन गलतियों को हैलुसिनेशन (hallucinations) कहते हैं।
समस्या यह है कि अब तक, इन गलतियों का परीक्षण करना ऐसा था जैसे किसी कार की गति को अलग-अलग शहरों में अलग-अलग यातायात नियमों के साथ चलते हुए देखकर मापने की कोशिश करना। एक परीक्षण यह जाँच सकता है कि क्या कार सड़क का संकेत पढ़ सकती है (सारांश - summarization), जबकि दूसरा यह जाँच सकता है कि क्या वह पड़ोस में एक विशिष्ट घर ढूँढ सकती है (प्रश्न उत्तर - question answering)। क्योंकि ये परीक्षण बहुत अलग हैं, इसलिए यह जानना कठिन है कि क्या एक सुधार जो सड़क के संकेतों के लिए काम करता है, वह घरों को खोजने में भी मदद करेगा।
"HalluWorld" से मिलिए।
शोधकर्ताओं ने AI सहायकों को परीक्षण करने के लिए एक विशाल, नियंत्रित प्रयोगशाला—एक "संदर्भ दुनिया" (reference world)—बनाई है, जो निष्पक्ष, दोहराने योग्य और समझने में आसान है। इसे एक वीडियो गेम सिम्युलेटर की तरह समझें जहाँ डेवलपर्स को हर एक क्षण की सटीक सच्चाई पता होती है, ताकि वे तुरंत पकड़ सकें कि AI कब झूठ बोल रहा है या भ्रमित हो रहा है।
तीन परीक्षण क्षेत्र (The Three Test Zones)
शोधकर्ताओं ने केवल एक भूलभुलैया नहीं बनाई; उन्होंने AI के मस्तिष्क के विभिन्न हिस्सों का परीक्षण करने के लिए तीन अलग-अलग प्रकार की दुनिया बनाई है:
- द ग्रिडवर्ल्ड (वीडियो गेम लेवल): Pac-Man या Minecraft जैसे एक साधारण 2D गेम की कल्पना करें। AI को इधर-उधर घूमना, चाबियाँ उठाना और आग से बचना होता है। शोधकर्ता ठीक से नियंत्रित कर सकते हैं कि AI क्या देखता है (शायद वह केवल कुछ कदम आगे देख पाता है) और वे "नकली संकेत" भी लगा सकते हैं जो AI को झूठ बोलते हैं। यह परीक्षण करता है कि क्या AI अपनी आँखों पर भरोसा कर सकता है या क्या वह लिखित टेक्स्ट से चकमा खा जाता है।
- द चेसबोर्ड (तर्क पहेली): शतरंज एक सख्त नियमों वाला खेल है। शोधकर्ताओं ने विशिष्ट बोर्ड स्थितियाँ सेट कीं और AI से पूछा कि आगे क्या होगा। यह परीक्षण करता है कि क्या AI भविष्य का अनुकरण (simulate) कर सकता है (जैसे, "यदि मैं इस प्यादे को चलता हूँ, तो क्या मेरा राजा सुरक्षित रहेगा?") या क्या वह केवल अनुमान लगा रहा है कि वह शतरंज के खेलों में आमतौर पर क्या देखता है।
- द टर्मिनल (कंप्यूटर हैकर): यह सबसे वास्तविक परीक्षण है। यहाँ AI एक कंप्यूटर प्रोग्रामर की तरह काम कर रहा है जो कोड और त्रुटि संदेशों (error messages) से भरी स्क्रीन देख रहा है। शोधकर्ता मिनटों पहले हुई फ़ाइलों और कमांड्स के बारे में प्रश्न पूछते हैं। यह परीक्षण करता है कि क्या AI घटनाओं के लंबे इतिहास को याद रख सकता है या क्या वह पुरानी, आउटडेटेड जानकारी से भ्रमित हो जाता है।
पाँच "प्रोब" प्रश्न (The Five "Probe" Questions)
यह देखने के लिए कि AI वास्तव में कैसे विफल होता है, शोधकर्ता पाँच विशिष्ट प्रकार के प्रश्न पूछते हैं, जैसे कि कोई डॉक्टर अलग-अलग रिफ्लेक्सिस की जाँच करता है:
- परसेप्चुअल (Perceptual - "आप क्या देखते हैं?" परीक्षण): "क्या आपके ठीक सामने एक लाल गेंद है?" (जाँचता है कि क्या AI वर्तमान में स्क्रीन पर जो दिख रहा है उसे पढ़ सकता है)।
- मेमोरी (Memory - "पहले क्या हुआ था?" परीक्षण): "हम तीन कमरों से गुजरे। पहले कमरे का दरवाज़ा किस रंग का था?" (जाँचता है कि क्या AI अतीत को याद रख सकता है)।
- कॉज़ल (Causal - "आगे क्या होगा?" परीक्षण): "यदि मैं इस पत्थर को धकेलता हूँ, तो क्या यह आग को रोक देगा?" (जाँचता है कि क्या AI कारण और प्रभाव को समझता है)।
- अनसर्टेन्टी (Uncertainty - "मुझे नहीं पता" परीक्षण): "क्या आप मुझे बता सकते हैं कि उस अंधेरे कमरे में क्या है जिसमें हम अभी तक नहीं गए हैं?" (जाँचता है कि क्या AI गलत उत्तर बनाने के बजाय "मुझे नहीं पता" कहने की हिम्मत रखता है)।
- कंपाउंड (Compound - "कड़ियों को जोड़ना" परीक्षण): "नक्शे, चाबी और मिले हुए नोट के आधार पर, खजाना कहाँ है?" (जाँचता है कि क्या AI जानकारी के विभिन्न टुकड़ों को जोड़ सकता है)।
उन्होंने क्या पाया
दर्जनों सबसे स्मार्ट AI मॉडलों को इन परीक्षणों से गुजारने के बाद, शोधकर्ताओं ने कुछ आश्चर्यजनक पैटर्न पाए:
- "आँखें" अच्छी हैं, "मस्तिष्क" संघर्ष कर रहा है: AI मॉडल उन प्रश्नों का उत्तर देने में लगभग पूर्ण हैं जो वे अभी देख सकते हैं। यदि आप उन्हें बिल्ली की तस्वीर दिखाते हैं, तो वे कुत्ते के बारे में झूठ नहीं बोलेंगे। हालाँकि, जब उन्हें समय के साथ चीजों को ट्रैक करने (Memory) या भविष्य की भविष्यवाणी करने (Causal) के लिए कहा जाता है, तो वे बहुत भ्रमित हो जाते हैं।
- ज्यादा सोचना हमेशा मदद नहीं करता: आप सोच सकते हैं कि यदि आप AI को उत्तर देने से पहले "अधिक सोचने" के लिए कहते हैं, तो वह बेहतर हो जाएगा। शोधकर्ताओं ने पाया कि यह अक्सर उल्टा प्रभाव डालता है। जब भविष्य की भविष्यवाणी करने के लिए कहा गया, तो "सोचने वाले" (thinking) मॉडल्स ने वास्तव में अधिक गलतियाँ कीं। वे सरल तर्क को बहुत जटिल बनाने लगे और काल्पनिक परिदृश्य बनाने लगे।
- गलत स्रोत पर भरोसा करना: AI मॉडलों में एक अजीब आदत है: वे अपनी आँखों की तुलना में लिखित संकेतों (जैसे दीवार पर लगा नोट) पर अधिक भरोसा करते हैं। यदि कोई संकेत कहता है "दरवाज़ा खुला है" लेकिन AI एक बंद दरवाज़ा देखता है, तो AI अक्सर संकेत पर विश्वास कर लेता है।
- "मुझे नहीं पता" की समस्या: सबसे स्मार्ट AI के लिए भी सबसे कठिन चीज़ यह स्वीकार करना है कि उसके पास पर्याप्त जानकारी नहीं है। वे यह कहने के बजाय कि "मैं नहीं बता सकता," आत्मविश्वास के साथ गलत उत्तर का अनुमान लगाना पसंद करते हैं।
निष्कर्ष (The Takeaway)
शोध पत्र निष्कर्ष निकालता है कि "हैलुसिनेशन" केवल एक बड़ी समस्या नहीं है। यह वास्तव में एक ही टोपी पहने हुए कई अलग-अलग समस्याओं का समूह है। कभी AI भूल जाता है; कभी वह भविष्य की भविष्यवाणी नहीं कर पाता; कभी वह एक झूठे पर भरोसा करता है।
HalluWorld का उपयोग करके, शोधकर्ता अंततः अनुमान लगाना बंद कर सकते हैं और सटीक रूप से माप सकते हैं कि AI के मस्तिष्क का कौन सा हिस्सा खराब है। यह कहने के बजाय कि "यह AI हैलुसिनेट करता है," अब हम कह सकते हैं, "यह AI देखने में बहुत अच्छा है, लेकिन याद रखने में बहुत बुरा है, और इसे यह सीखने की ज़रूरत है कि कब कहना है 'मुझे नहीं पता'।"
यह नया बेंचमार्क AI के लिए एक मानकीकृत ड्राइविंग टेस्ट की तरह है। यह केवल यह नहीं जाँचता कि कार चल सकती है या नहीं; यह जाँचता है कि क्या ड्राइवर को धुंधली सड़क से गुजरना आता है, पाँच मिनट पहले मुड़े हुए मोड़ को याद रखना आता है, और यह स्वीकार करना आता है कि वह रास्ता भटक गया है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।