Can Humans Dream of Electric Sheep? Human-Written Samples for Fine-Grained Vision-and-Language Hallucination Benchmarking
यह शोध पत्र विज़न-एंड-लैंग्वेज मतिभ्रम (hallucination) का पता लगाने के लिए एक सूक्ष्म-स्तरीय (fine-grained), बहुभाषी बेंचमार्क प्रस्तुत करता है, जो यह प्रदर्शित करता है कि मानव-लिखित नमूने, उच्च एनोटेशन सहमति और बेहतर नियंत्रण प्रदान करते हुए वितरण समानता बनाए रखते हुए, मॉडल-जनित डेटा के एक व्यवहार्य, मॉडल-अज्ञेय (model-agnostic) विकल्प के रूप में कार्य करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, हलचल भरी लाइब्रेरी है जहाँ एक नए प्रकार के लाइब्रेरियन का आगमन हुआ है। ये लाइब्रेरियन आर्टिफिशियल इंटेलिजेंस (AI) मॉडल हैं, विशेष रूप से वे जो चित्रों को "देख" सकते हैं और उन्हें वाक्यों में "पढ़कर" सुना सकते हैं। वे अविश्वसनीय रूप से तेज़ और प्रतिभाशाली हैं, लेकिन उनकी एक अजीब आदत है: कभी-कभी वे पूरी तरह से आत्मविश्वास के साथ ऐसी चीजों का वर्णन करते हैं जो वास्तव में वहाँ हैं ही नहीं। कंप्यूटर विज्ञान की दुनिया में, इसे "हैलुसिनेशन" (hallucination) कहा जाता है। यह एक लाइब्रेरियन के उस दृश्य जैसा है जो बिल्ली की फोटो देखकर पूरे विश्वास के साथ दावा करता है कि बिल्ली ने एक छोटी टोपी पहनी है और हाथ में कॉफी का कप पकड़ा हुआ है, जबकि फोटो में ऐसा कुछ भी नहीं है।
यह एक बड़ी समस्या है क्योंकि यदि हम उन AI लाइब्रेरियन की बातों पर भरोसा नहीं कर सकते, तो हम जानकारी खोजने के लिए उनका उपयोग नहीं कर सकते। इसे ठीक करने के लिए, वैज्ञानिकों को यह परीक्षण करने के तरीके की आवश्यकता है कि क्या उनके "हैलुसिनेशन डिटेक्टर" (झूठ पकड़ने वाले प्रोग्राम) वास्तव में काम कर रहे हैं या नहीं। लेकिन पेच यह है कि अधिकांश परीक्षण उन्हीं उदाहरणों का उपयोग करके बनाए जाते हैं जो उन्हीं AI मॉडलों द्वारा उत्पन्न किए गए हैं जिनका परीक्षण किया जाना है। यह एक छात्र को केवल उन फर्जी खबरों को दिखाकर झूठ पकड़ना सिखाने जैसा है जो अन्य छात्रों द्वारा लिखी गई हैं जो शायद शरारत कर रहे हों। परीक्षण केवल एक विशिष्ट छात्र की चालों को पहचानने की क्षमता को माप सकता है, न कि सामान्य रूप से झूठ पकड़ने की क्षमता को। जैसे-जैसे AI मॉडल हर कुछ महीनों में बदलते और स्मार्ट होते जाते हैं, ये पुराने परीक्षण बेकार हो जाते हैं, जैसे दस साल पुराने नक्शे का उपयोग करके एक नई कार के इंजन का परीक्षण करना।
यहीं से शोध पत्र "Can Humans Dream of Electric Sheep?" की भूमिका शुरू होती है। शोधकर्ताओं ने एक सरल, साहसी प्रश्न पूछा: क्या होगा यदि हम परीक्षण के प्रश्न बनाने के लिए AI का उपयोग करना बंद कर दें और इसके बजाय मनुष्यों से फर्जी कहानियाँ लिखने के लिए कहें? वे जानना चाहते थे कि क्या एक इंसान एक ऐसा भ्रम (hallucination) पैदा कर सकता है जो AI की गलती जैसा ही दिखे, लेकिन बिना किसी विशिष्ट, तेजी से बदलते कंप्यूटर प्रोग्राम पर निर्भर रहे।
यह जानने के लिए, टीम ने परीक्षण के मामलों का एक विशाल संग्रह बनाया जिसे SHEEP (Set for Human-written and Electronic Erroneous Productions) कहा जाता है। उन्होंने कुल 20,000 नमूने एकत्र किए। लगभग 18,400 नमूने पांच अलग-अलग AI मॉडलों द्वारा विभिन्न छवियों को देखते हुए उत्पन्न किए गए थे। शेष 1,600 नमूने मनुष्यों द्वारा लिखे गए थे जिन्हें उन्हीं छवियों को दिया गया था और उनसे जानबूझकर झूठ गढ़ने के लिए कहा गया था, जो AI द्वारा की जाने वाली गलतियों की नकल करते हों। उन्होंने चार भाषाओं को कवर किया: अंग्रेजी, चीनी, फ्रेंच और इतालवी।
इसके बाद शोधकर्ताओं ने इन नमूनों को परीक्षण के लिए रखा। उन्होंने मानव विशेषज्ञों को सभी 20,000 वस्तुओं को देखने और ठीक से चिह्नित करने के लिए कहा कि झूठ कहाँ था। उन्होंने पाया कि जब मनुष्यों ने हैलुसिनेशन लिखे, तो विशेषज्ञ इस बात पर बहुत अधिक सहमत हुए कि क्या झूठ था और क्या नहीं, तुलना में जब वे AI-जनित नमूनों का निर्णय ले रहे थे। ऐसा लगता है कि जब इंसान जानबूझकर गलती करता है, तो वह इसे बहुत स्पष्ट और सुसंगत तरीके से करता है। इसके विपरीत, AI-जनित नमूने थोड़े अस्त-व्यस्त थे, जिससे विशेषज्ञों के बीच इस बात पर अधिक असहमति थी कि कोई विशिष्ट वाक्य वास्तव में एक हैलुसिनेशन था या केवल एक अजीब अभिव्यक्ति।
महत्वपूर्ण रूप से, अध्ययन बताता है कि ये मानव-लिखित नमूने AI-जनित नमूनों के एक व्यवहार्य विकल्प हैं। भले ही मनुष्यों ने झूठ लिखा था, लेकिन गलतियों का "स्वाद" सांख्यिकीय रूप से AI मॉडलों द्वारा की जाने वाली गलतियों के समान था। जब शोधकर्ताओं ने अपने हैलुसिनेशन डिटेक्टरों का परीक्षण मानव-लिखित डेटा पर किया, तो परिणाम बहुत समान थे जो उन्हें AI डेटा पर परीक्षण करने पर मिले थे। यह सुझाव देता है कि हमें अब अपने परीक्षणों को बनाने के लिए किसी विशिष्ट AI मॉडल पर निर्भर रहने की आवश्यकता नहीं है।
शोध पत्र का तर्क है कि मानव-लिखित नमूनों का उपयोग करना एक स्मार्ट कदम है क्योंकि यह परीक्षणों को अधिक स्थिर बनाता है। चूंकि मनुष्य AI मॉडलों की तरह हर कुछ महीनों में अपनी लेखन शैली नहीं बदलते हैं, इसलिए ये परीक्षण उतनी जल्दी अप्रचलित नहीं होंगे। यह एक कार के ब्रेक का परीक्षण एक ऐसे ट्रैक पर करने के बजाय है जो हर सप्ताह बदल जाता है, एक ऐसे सड़क पर करने जैसा है जो स्थिर रहती है। शोधकर्ताओं ने पाया कि हालांकि मानव-लिखित नमूने AI नमूनों की शैली से थोड़े भिन्न हैं, लेकिन यह अंतर उतना बड़ा नहीं है जितना कि विभिन्न AI मॉडलों के बीच दिखने वाला प्राकृतिक अंतर होता है।
संक्षेप में, शोध पत्र सुझाव देता है कि हम AI के झूठ को पकड़ने वाले बेहतर डिटेक्टर बनाने के लिए मानव-निर्मित उदाहरणों पर भरोसा कर सकते हैं। यह सुनिश्चित करने का एक तरीका है कि हम AI की सच्चाई बोलने की क्षमता का परीक्षण कर रहे हैं, न कि केवल यह परीक्षण कर रहे हैं कि वह एक विशिष्ट, पुराने परीक्षण को कितनी अच्छी तरह मात दे सकता है। हालांकि यह अध्ययन यह दावा नहीं करता है कि यह पूर्ण, अंतिम समाधान है, लेकिन साक्ष्य मजबूती से संकेत देते हैं कि मानव-लिखित डेटा हमारे AI लाइब्रेरियन को ईमानदार रखने के लिए एक विश्वसनीय, लंबे समय तक चलने वाला उपकरण है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।