Does Less Hallucination Mean Less Creativity? An Empirical Investigation in LLMs
यह अनुभवजन्य अध्ययन तीन मतिभ्रम-न्यूनीकरण तकनीकों (चेन ऑफ वेरिफिकेशन, डिकोडिंग बाय कॉन्ट्रास्टिंग लेयर्स, और रिट्रीवल-ऑगमेंटेड जनरेशन) के एलएलएम (LLM) रचनात्मकता पर पड़ने वाले प्रभाव की जांच करता है, जो यह प्रकट करता है कि जहाँ चेन ऑफ वेरिफिकेशन अपसारी सोच (divergent thinking) को बढ़ाता है और डिकोडिंग बाय कॉन्ट्रास्टिंग लेयर्स इसे दबा देता है, वहीं रिट्रीवल-ऑगमेंटेड जनरेशन का प्रभाव न्यूनतम है, जिससे वैज्ञानिक अनुप्रयोगों में तथ्यात्मक सटीकता और रचनात्मक अन्वेषण के बीच संतुलन बनाने के लिए महत्वपूर्ण मार्गदर्शन प्राप्त होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास बहुत बुद्धिमान, रचनात्मक रोबोटों (लार्ज लैंग्वेज मॉडल्स, या LLMs) की एक टीम है जो कहानियाँ लिखने और पहेलियाँ सुलझाने में माहिर हैं। लेकिन कभी-कभी, ये रोबोट बहुत अधिक कल्पनाशील हो जाते हैं और ऐसी चीजें बनाने लगते हैं जो सच नहीं होतीं। तकनीकी दुनिया में, हम इसे "हैलुसिनेशन" (hallucination) कहते हैं।
वैज्ञानिक इन रोबोटों को झूठ बोलने से रोकने के लिए "फैक्ट-चेकर्स" (तथ्य-जांचने वाले) बनाने की कोशिश कर रहे हैं। लेकिन यह शोध पत्र एक बड़ा, दिलचस्प सवाल पूछता है: यदि हम इन रोबोटों को 100% तथ्यात्मक होने के लिए मजबूर करते हैं, तो क्या हम अनजाने में उनकी रचनात्मकता को खत्म कर देते हैं?
इसे एक जैज़ संगीतकार की तरह समझें। यदि आप उनसे कहते हैं, "आप केवल शीट म्यूजिक में लिखे गए सुरों को ही बजा सकते हैं," तो वे शायद कभी कोई गलती नहीं करेंगे, लेकिन वे शायद कभी कोई सुंदर, नई धुन भी नहीं बना पाएंगे।
यहाँ शोधकर्ताओं ने तीन अलग-अलग "फैक्ट-चेकिंग" टूल्स का उपयोग करके जो पाया, वह दिया गया है:
1. "सवाल पूछने" वाला टूल (चेन ऑफ वेरिफिकेशन / CoVe)
सादृश्य (Analogy): कल्पना कीजिए कि एक लेखक एक कहानी पूरी करता है, फिर रुकता है और खुद से पूछता है, "रुको, क्या यह समझ में आ रहा है? क्या होगा अगर मैं एक अलग अंत आज़माऊं?" वे प्रश्न लिखते हैं, उनके उत्तर देते हैं, और फिर कहानी को फिर से लिखते हैं।
परिणाम: इस टूल ने वास्तव में रोबोटों को अधिक रचनात्मक होने में मदद की।
रोबोट को अपने ही विचारों पर सवाल उठाने के लिए मजबूर करने से, इसने केवल सुरक्षित, उबाऊ उत्तरों तक ही सीमित नहीं रहा। इसने अधिक रास्तों की खोज की और अधिक अनूठे, विविध विचार प्रस्तुत किए। यह ऐसा है जैसे सवाल पूछने की प्रक्रिया ने रोबोट को "टनल विजन" (एक ही दिशा में देखने की सीमित दृष्टि) से बाहर निकाल दिया और उसे नई संभावनाओं को देखने में सक्षम बनाया।
2. "लेयर कंट्रास्ट" टूल (डिकोडिंग बाय कॉन्ट्रास्टिंग लेयर्स / DoLa)
सादृश्य: कल्पना कीजिए कि एक रोबोट का मस्तिष्क कई परतों वाला है, जैसे एक बहुमंजिला इमारत। निचली मंजिलों पर रोबोट बुनियादी पैटर्न सीखता है (जैसे "बिल्लियों के बाल होते हैं"), और ऊपरी मंजिलों पर वह अंतिम निर्णय लेने के लिए सब कुछ जोड़ता है।
यह टूल "शुरुआती विचारों" (निचली मंजिलों) की "अंतिम सोच" (ऊपरी मंजिलों) के साथ तुलना करके काम करता है। यदि शुरुआती विचार बहुत अधिक जंगली या अंतिम निर्णय से अलग हैं, तो यह टूल उन्हें घटा देता है ताकि अंतिम उत्तर अधिक तथ्यात्मक हो सके।
परिणाम: इस टूल ने रचनात्मकता को दबा दिया।
शोधकर्ताओं ने पाया कि वे "जंगली" और "रचनात्मक" विचार अक्सर उन निचली मंजिलों में रहते हैं। निचली मंजिलों को घटाकर रोबोट को अधिक तथ्यात्मक बनाने के प्रयास में, उन्होंने अनजाने में उन सामग्रियों को हटा दिया जिनकी आवश्यकता रचनात्मकता के लिए होती है। यह ऐसा है जैसे सूप को स्वादिष्ट बनाने के लिए उसमें से मसाले निकालना; आपको एक सुरक्षित, फीका सूप तो मिल जाएगा, लेकिन आप उसका स्वाद खो देंगे।
3. "लाइब्रेरी" टूल (रिट्रीवल-ऑग्मेंटेड जनरेशन / RAG)
सादृश्य: कल्पना कीजिए कि रोबोट एक परीक्षा दे रहा है, लेकिन अपनी याददाश्त पर भरोसा करने के बजाय, उसे अपना उत्तर लिखने से पहले किताबों की एक लाइब्रेरी से उत्तर खोजने की अनुमति है।
परिणाम: इस टूल का रचनात्मकता पर लगभग कोई प्रभाव नहीं पड़ा (न अच्छा, न बुरा)।
रोबोट न तो अधिक रचनात्मक हुआ, न ही कम रचनात्मक। शोधकर्ताओं का मानना है कि ऐसा इसलिए है क्योंकि जिस "लाइब्रेरी" का उन्होंने उपयोग किया था, वह तकनीकी मैनुअल और कोड ट्यूटोरियल से भरी थी, जो उन रचनात्मक कहानियों या पहेलियों से मेल नहीं खाती थी जिन्हें रोबोट हल करने की कोशिश कर रहा था। यह एक कविता लिखने के लिए कार के पुर्जों के शब्दकोश का उपयोग करने जैसा था; जानकारी वहाँ थी, लेकिन उसने नए विचारों को जगाने में मदद नहीं की।
मुख्य निष्कर्ष (The Big Takeaway)
इस अध्ययन का सबसे आश्चर्यजनक हिस्सा यह है कि तथ्यात्मक होना और रचनात्मक होना एक ही बात नहीं है।
- अभिसारी सोच (Convergent Thinking - सही उत्तर प्राप्त करना): तीनों टूल्स ने रोबदों को समस्याओं को सही ढंग से हल करने में कुशल बनाए रखा। उन्होंने नियमों का पालन करने की रोबोट की क्षमता को बाधित नहीं किया।
- अपसारी सोच (Divergent Thinking - नए विचार लाना): यहीं पर टूल्स ने अलग तरह से व्यवहार किया।
- CoVe (सवाल पूछना) ने रोबोट को अधिक रचनात्मक बनाया।
- DoLa (लेयर कंट्रास्ट) ने रोबोट को कम रचनात्मक बनाया।
- RAG (लाइब्रेरी) ने ज्यादा बदलाव नहीं किया।
यह क्यों मायने रखता है?
शोधकर्ताओं ने विभिन्न आकार के रोबोटों (छोटे से लेकर विशाल तक) और विभिन्न प्रकार के रोबोटों (LLaMA, Qwen, Mistral) पर इसका परीक्षण किया। परिणाम सभी के लिए समान थे।
यह हमें बताता है कि यदि हम वैज्ञानिक खोज (जहाँ हमें तथ्यों और जंगली नए विचारों दोनों की आवश्यकता होती है) के लिए AI का उपयोग करना चाहते हैं, तो हमें इस बात पर ध्यान देना होगा कि हम किस "फैक्ट-चेकर" को चुनते हैं। यदि हम गलत वाला चुनते हैं (जैसे DoLa), तो हमें एक ऐसा रोबोट मिल सकता है जो पूरी तरह से सटीक तो है लेकिन पूरी तरह से उबाऊ है। यदि हम सही वाला चुनते हैं (जैसे CoVe), तो हमें एक ऐसा रोबोट मिल सकता है जो सटीक और आश्चर्यजनक रूप से आविष्कारशील भी है।
संक्षेप में: आपको बुद्धिमान होने और रचनात्मक होने के बीच चुनाव करने की आवश्यकता नहीं है, लेकिन आपको दोनों को जीवित रखने के लिए सही टूल चुनने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।