Examining and Addressing Barriers to Diversity in LLM-Generated Ideas
यह शोध पत्र संज्ञानात्मक स्थिरीकरण (cognitive fixation) और ज्ञान विभाजन की कमी को एलएलएम (LLM) द्वारा उत्पन्न विचारों में विविधता के प्रमुख अवरोधों के रूप में पहचानता है और प्रदर्शित करता है कि चेन-ऑफ-थॉट (Chain-of-Thought) प्रॉम्प्टिंग को साधारण व्यक्तित्वों (personas) के साथ संयोजित करना इन सीमाओं को प्रभावी ढंग से दूर करता है, जिससे ऐसी विचार विविधता उत्पन्न होती है जो मानव प्रदर्शन से भी बेहतर है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक विशाल पहेली को सुलझाने की कोशिश कर रहे हैं। आपके पास मानव विशेषज्ञों की एक टीम है, और आपके पास एक सुपर-स्मार्ट रोबोट (एक AI) भी है जिसने लगभग हर लिखी हुई किताब पढ़ ली है। आप सोचेंगे कि रोबोट, अपने पास मौजूद समस्त मानवीय ज्ञान के कारण, सबसे रचनात्मक और विविध समाधान लेकर आएगा।
लेकिन यहाँ एक मोड़ है: रोबोट "औसत" होने में बहुत अधिक कुशल है।
कोलंबिया बिजनेस स्कूल के शोधकर्ताओं द्वारा लिखा गया यह शोध पत्र, इस बात की जांच करता है कि क्यों AI अक्सर ऐसे विचार उत्पन्न करता है जो दिखने में एक जैसे होते हैं, जबकि मनुष्य विचारों का एक जंगली मिश्रण (wild mix) पैदा करते हैं। उन्होंने पाया कि इसके दो मुख्य कारण हैं और उन्होंने AI को एक विविध मानव भीड़ की तरह बनाने के लिए एक "दो-चरणीय समाधान" (two-step fix) का आविष्कार किया।
यहाँ सरल शब्दों में इसका विवरण दिया गया है:
समस्या: रोबोट का "इको चैंबर" (Echo Chamber)
शोधकर्ताओं ने पाया कि जब आप मनुष्यों के एक समूह से मंथन (brainstorming) करने के लिए कहते हैं, तो वे विचारों की एक विशाल विविधता पेश करते हैं। लेकिन जब आप 100 अलग-अलग AI इंस्टेंस से मंथन करने के लिए कहते हैं, तो वे सभी एक जैसी बातें कहने लगते हैं।
क्यों? शोध पत्र दो दोषियों की पहचान करता है:
1. "पहला विचार" का जाल (Fixation)
- मानवीय सादृश्य: कल्पना कीजिए कि आप एक जंगल में टहल रहे हैं। एक बार जब आपको एक रास्ता मिल जाता है, तो उसी रास्ते पर चलते रहना आसान होता है क्योंकि वह परिचित है। आप पास की शानदार गुफाओं या नदियों को मिस कर सकते हैं क्योंकि आप उस रास्ते पर अटक गए हैं। मनुष्य भी ऐसा ही करते हैं; एक बार जब हमारे पास कोई विचार आ जाता है, तो हम उसी पर टिके रहने की प्रवृत्ति रखते हैं।
- AI की वास्तविकता: AI भी ऐसा ही करता है! भले ही वह सब कुछ जानता हो, एक बार जब वह अपना पहला विचार (जैसे, "एक स्मार्ट फिटनेस वॉच") उत्पन्न कर देता है, तो वह उसी विषय पर अटक जाता है। वह जूते, भोजन या संगीत के बारे में सोचने का मौका खो देता है और वॉच के ही विभिन्न रूपों को बनाता रहता है। वह अपने ही पहले विचार पर "फिक्सेट" (अटक) हो जाता है।
2. "एक विशाल मस्तिष्क" की समस्या (Lack of Partitioning)
- मानवीय सादृश्य: एक कमरे में लोगों की कल्पना करें। एक शेफ है, एक पायलट है, और एक पेंटर है। क्योंकि उनके जीवन अलग हैं, वे दुनिया को अलग तरह से देखते हैं। शेफ भोजन के बारे में सोचता है; पायलट उड़ान के बारे में। यह "विभाजन" (ज्ञान का बंटवारा) का अर्थ है कि समूह बहुत बड़े क्षेत्र को कवर करता है।
- AI की वास्तविकता: AI एक विशाल मस्तिष्क की तरह है जिसने सभी का ज्ञान निगल लिया है लेकिन उसे एक ही सुव्यवस्थित औसत (smooth average) में मिला दिया है। उसके पास "शेफ" वाला पक्ष और "पायलट" वाला पक्ष अलग-अलग नहीं है। जब वह सोचता है, तो वह मानवीय ज्ञान के "बीच के रास्ते" (middle of the road) से जानकारी निकालता है। इसलिए, 100 अलग-अलग दृष्टिकोणों के बजाय, आपको एक ही "औसत" दृष्टिकोण के 100 संस्करण मिलते हैं।
समाधान: "दो-चरणीय समाधान" (Two-Step Fix)
शोधकर्ताओं ने केवल समस्या को ही नहीं खोजा; उन्होंने AI को हैक करने का एक तरीका भी खोजा जिससे वह एक विविध मानव भीड़ की तरह सोच सके। उन्होंने दो रणनीतियों का परीक्षण किया और पाया कि दोनों का एक साथ उपयोग करना ही जादुई कुंजी है।
रणनीति 1: AI को एक "पर्सोना" (Persona) दें ( "एक विशाल मस्तिष्क" को ठीक करने के लिए)
AI को "रचनात्मक होने" के लिए कहने के बजाय, आप उसे एक विशिष्ट व्यक्ति होने का नाटक करने के लिए कहें।
- पुराना तरीका: "स्टीव जॉब्स की तरह व्यवहार करें।" (शोधकर्ताओं ने पाया कि यह वास्तव में बुरा है क्योंकि AI के प्रशिक्षण डेटा में सभी "रचनात्मक जीनियस" एक-दूसरे के समान ही सुनाई देते हैं)।
- नया तरीका: "एक सेवानिवृत्त लाइब्रेरियन की तरह व्यवहार करें जिसे बागवानी पसंद है," या "एक किशोर स्केटबोर्डर की तरह व्यवहार करें।"
- यह क्यों काम करता है: ये "साधारण" व्यक्तित्व अलग-अलग चाबियों की तरह काम करते हैं। ये AI को उसके ज्ञान के आधार के उन विशिष्ट, अजीब कोनों को खोलने के लिए मजबूर करते हैं जिन्हें वह आमतौरता पर अनदेखा करता है। यह AI को यह बताने जैसा है कि, "औसत व्यक्ति मत बनो; बल्कि यह विशिष्ट व्यक्ति बनो।" यह AI एजेंटों की एक विविध भीड़ बनाता है, जिनमें से प्रत्येक एक अलग कोण से सोचता है।
कैच (Catch): जब आप AI को एक विशिष्ट व्यक्तित्व देते हैं, तो वह उस चरित्र के दृष्टिकोण पर बहुत अधिक अटक जाता है। "स्केटबोर्डर" स्केटबोर्ड के बारे में ही सोचता रहता है और अन्य चीजों को देखना भूल जाता है। यह बढ़ा हुआ फिक्सेशन (fixation) है।
रणनीति 2: चेन-ऑफ-थॉट (Chain-of-Thought) ( "पहला विचार" के जाल को ठीक करने के लिए)
यह एक ऐसी तकनीक है जहाँ आप AI को अपना काम देने से पहले ज़ोर से सोचने और अपने काम को संशोधित करने के लिए कहते हैं।
- प्रक्रिया: यह कहने के बजाय कि "मुझे 10 विचार दें," आप कहते हैं: "पहले, 10 छोटे शीर्षक लिखें। दूसरा, उन्हें देखें और सुनिश्चित करें कि वे सभी पूरी तरह से अलग हैं। तीसरा, उन्हें विस्तार से लिखें।"
- यह क्यों काम करता है: यह AI को खुद को रोकने और खुद की जाँच करने के लिए मजबूर करता है। यह "ऑटोपायलट" मोड को तोड़ देता है जहाँ वह बस अपने पहले विचार को दोहराता रहता है।
- आश्चर्य: यह ट्रिक AI के लिए अद्भुत रूप से काम करती है, लेकिन यह मनुष्यों के लिए वास्तव में मदद नहीं करती। मनुष्य जिद्दी होते हैं; यदि हम किसी विचार में फंस जाते हैं, तो हमें "ज़ोर से सोचने" के लिए कहना भी हमेशा जादू नहीं तोड़ पाता। लेकिन AI, जो निर्देशों का पालन करने वाली एक मशीन है, उसे अपने पैटर्न को तोड़ने के लिए मजबूर किया जा सकता है।
भव्य समापन: दोनों को मिलाना
शोधकर्ताओं ने पाया कि सबसे अच्छे परिणाम तब आते हैं जब इन दोनों रणनीतियों को जोड़ा जाता है:
- AI को एक अजीब, साधारण व्यक्तित्व दें (ताकि वह एक अद्वितीय कोण से समस्या को देख सके)।
- AI को चेन-ऑफ-थॉट का उपयोग करने के लिए मजबूर करें (यह सुनिश्चित करने के लिए कि वह उस एक कोण पर न अटक जाए)।
परिणाम:
जब उन्होंने इन दोनों को मिलाया, तो AI ने न केवल मानव रचनात्मकता का मुकाबला किया; बल्कि उसने उसे पीछे छोड़ दिया। AI ने 100 मनुष्यों के समूह की तुलना में अधिक विविध विचार उत्पन्न किए।
यह भविष्य के लिए क्यों मायने रखता है
यदि हम बस सबको डिफ़ॉल्ट सेटिंग्स के साथ AI का उपयोग करने देते हैं, तो हम एक "ट्रैजेडी ऑफ द कॉमन्स" (Tragedy of the Commons) का जोखिम उठाते हैं। हर कोई एक ही "औसत" विचारों के साथ समाप्त होगा, और नवाचार रुक जाएगा।
लेकिन यदि हम इन ट्रिक्स का उपयोग करते हैं—AI को विविध "मुखौटे" (पर्सोना) देना और उसे "अपने काम की जाँच करने" (चेन-ऑफ-थॉट) के लिए मजबूर करना—तो हम मानवीय विविधता की चमक को खोए बिना AI की गति और ज्ञान का उपयोग कर सकते हैं। हम दोनों दुनिया का सर्वश्रेष्ठ प्राप्त कर सकते हैं: एक रोबोट की दक्षता और एक विविध मानव भीड़ की जंगली, अव्यवस्थित रचनात्मकता।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।